Connect with us

Digital

Presidente de Microsoft pide tener un “botón rojo” para la inteligencia artificial

mm

Publicado

on

Presidente de Microsoft pide tener un “botón rojo” para la inteligencia artificial

Lo que comenzó con Skynet en Terminator, es hoy motivo de un serio debate para líderes empresariales y tecnológicos

La inteligencia artificia o IA como se le conoce por sus iniciales, ha pasado de ser un tema de ciencia ficción a una tangible realidad. Lo que en algún momento pudo haber sido una historia totalmente irreal, hoy se ha convertido en parte de nuestro día a día, como aquellas historias de Julio Verne en la que muchos lectores del siglo XIX se imaginaban viajando a la luna, sin pensar que en algún momento de la historia esa mágica idea podía volverse realidad.

Lo que comenzó con Skynet, en una de las películas más populares de estos tiempos, Terminator, es hoy motivo de un serio debate para líderes empresariales y tecnológicos, quienes discuten el verdadero destino de la IA. Tal vez el rechazo del detective Del Spooner, de Yo Robot, a esta tecnología no era tan exagerado después de todo.

LEE TAMBIÉN: Indecopi multará a empresas que hagan publicidad encubierta con influencers

Durante la Cumbre GeekWire 2019 que, concluyó el pasado martes en la ciudad de Seattle, Estados Unidos, y en la que se reunieron más de 800 personas entre empresarios y líderes de la tecnología, se discutió acerca de las tendencias futuras en la nueva economía, lo que concluyó en este importante tema, el futuro de la IA.

El mismísimo presidente de Microsoft, Brad Smith, recordó un suceso ocurrido acerca de este tema sobre lo que comentó, «¿Cuál es el mayor problema relacionado con el software que afecta hoy en día sobre la economía del Estrecho de Puget (la región en la que se encuentra Seattle)? Un software para cabinas de aviones, un software que los pilotos no podían apagar».

El ejecutivo tomaba el suceso como ejemplo luego de que la compañía Boeing, equipara secretamente los aviones 737 Max con un software que bajaba el morro del avión cuando detectaba una inclinación muy elevada. Sin embargo, el programa pareció no responder de la manera adecuada, bajando el morro más de la cuenta e impidiéndole a la tripulación desactivar tal acción.

El incidente que concluyó con 346 víctimas fatales, obligó a la empresa a realizar un pago por 8.000 millones de dólares para indemnizaciones. Por lo tanto, frente a este evento el presidente de Microsoft sostuvo que, era importante generar buena tecnología y tener el poder de desactivarla, bajo esta premisa agregó que es importante el rol de las empresas tecnológicas y los Estados.

«Somos la primera generación que decidirá el modo en que las máquinas habrán de tomar estas decisiones y qué tipo de principios éticos las guiarán su toma de decisiones. No es por presionar, pero sería mejor que lo hagamos bien», enfatizó el ejecutivo.

Para ello, se ha planteado la existencia de un mecanismo que permita apagar todos los sistemas de IA frente a una emergencia, idea que la Unión Europea ya había presentado durante el 2017. El documento «Pautas de ética para la IA confiable», aprobado este año, explica que en caso de una situación que lo amerite debe ser cesar inmediatamente las operaciones de la IA en ejecución, así como delegar el control de las nuevas en manos de operadores humanos.

La realidad es que se pueden crear medidas como estas, sin embargo, especialistas e investigadores aseguran que la solución de los botones de apagado, destinados a «evitar que la máquina siga una secuencia dañina de acciones para el ser humano o para el medio ambiente», no garantizarán que esto suceda. Y es que la IA podría encontrar la manera de protegerse de dicho apagado forzoso, escenario que ya ha ocurrido, en el que un bot que aprendió a detener un juego Tetris para evitar perder.

LEE TAMBIÉN: Esto es lo que Uber sabe de ti y que hace que pagues más por sus viajes

LEE TAMBIÉN: P&G convoca a estudiantes universitarios a participar en el CEO Challenge


Advertisement

Chamba para Creativos

Advertisement

Las más leídas