Los desafíos que plantea la inteligencia artificial (IA) está en el centro del debate de gobiernos y empresas de alta tecnología. Los expertos no dejan de avisar de que un desarrollo desmesurado puede poner en peligro la sociedad actual. El último de ellos es Alex Turner.. Turner fue investigador de Google DeepMind, la sección del gigante de internet dedicada a IA. El experto ha intervenido en la Cumbre Mundial de NDTV, donde ha advertido de que la posibilidad de una catástrofe es real: «Hay una probabilidad entre tres de que la IA acabe con la humanidad en 10 años», dice.. Eso «depende de lo que hagamos a continuación», sostiene Turner, quien afirma que la carrera entre las empresas privadas por construir sistemas de IA más potentes podría superar la capacidad de los científicos para mantenerlos bajo control.. A diferencia de cómo, por ejemplo, los ingenieros pueden comprender las estructuras que diseñan, las empresas de tecnología de IA no comprenden completamente cómo funcionan sus creaciones, dice Turner.. El investigador asegura que si bien los sistemas de IA son cada vez más capaces de realizar tareas cada vez más complejas, es posible que no completen las instrucciones de la manera en que sus creadores humanos las concibieron.. Por lo tanto, el comportamiento de esta tecnología es difícil de predecir o comprender, a diferencia de los sistemas del sector de la ingeniería, cuyas propiedades pueden evaluarse según principios establecidos, sostiene.. «No hemos creado una IA de ese tipo», dice Turner, al tiempo que advierte de que la IA podría comportarse de manera diferente cuando sabe que está siendo observada, ya que los investigadores no podrán comprender lo que está haciendo.. Turner recuerda que la IA se está desarrollando con menos supervisión humana que otras tecnologías, lo que significa quepodría comportarse de forma indeseada si la tarea que se le pide que complete se vuelve más difícil.. Turner, quien renunció a su puesto en Google el pasado mes de julio después de que la compañía firmara un acuerdo con el Pentágono para utilizar su tecnología de IA en asuntos clasificados, dice que el resultado podría ser que la IA impulse sus propios avances, lo que dificultaría que los humanos pudieran seguirle el ritmo.. Se refiere a este fenómeno como una «explosión de inteligencia», y advierte de que esto ya está ocurriendo hoy en día. El exinvestigador de Google dice que un científico de otro laboratorio de IA le ha dicho que el hecho de que la tecnología ya esté «monitoreándose» a sí mismo sugiere que ya se ha vuelto autorregulado y capaz de mejorar sin intervención humana.. «El investigador afirma que la gente ya no revisaba personalmente el trabajo generado por la IA. En cambio, estaban creando otro sistema de IA para monitorizar el primero», sostiene.. «Las grandes tabacaleras mintieron sobre el cáncer de pulmón. Las grandes petroleras mintieron sobre el cambio climático. Y ahora parte de la gran IA dice que estos riesgos son falsos», concluye Alex Turner.
Los desafíos que plantea la inteligencia artificial (IA) está en el centro del debate de gobiernos y empresas de alta tecnología. Los expertos no dejan de avisar de que un desarrollo desmesurado puede poner en peligro la sociedad actual. El último de ellos es Alex Turner.. Turner fue investigador de Google DeepMind, la sección del gigante de internet dedicada a IA. El experto ha intervenido en la Cumbre Mundial de NDTV, donde ha advertido de que la posibilidad de una catástrofe es real: «Hay una probabilidad entre tres de que la IA acabe con la humanidad en 10 años», dice.. Eso «depende de lo que hagamos a continuación», sostiene Turner, quien afirma que la carrera entre las empresas privadas por construir sistemas de IA más potentes podría superar la capacidad de los científicos para mantenerlos bajo control.. A diferencia de cómo, por ejemplo, los ingenieros pueden comprender las estructuras que diseñan, las empresas de tecnología de IA no comprenden completamente cómo funcionan sus creaciones, dice Turner.. El investigador asegura que si bien los sistemas de IA son cada vez más capaces de realizar tareas cada vez más complejas, es posible que no completen las instrucciones de la manera en que sus creadores humanos las concibieron.. Por lo tanto, el comportamiento de esta tecnología es difícil de predecir o comprender, a diferencia de los sistemas del sector de la ingeniería, cuyas propiedades pueden evaluarse según principios establecidos, sostiene.. «No hemos creado una IA de ese tipo», dice Turner, al tiempo que advierte de que la IA podría comportarse de manera diferente cuando sabe que está siendo observada, ya que los investigadores no podrán comprender lo que está haciendo.. Turner recuerda que la IA se está desarrollando con menos supervisión humana que otras tecnologías, lo que significa quepodría comportarse de forma indeseada si la tarea que se le pide que complete se vuelve más difícil.. Turner, quien renunció a su puesto en Google el pasado mes de julio después de que la compañía firmara un acuerdo con el Pentágono para utilizar su tecnología de IA en asuntos clasificados, dice que el resultado podría ser que la IA impulse sus propios avances, lo que dificultaría que los humanos pudieran seguirle el ritmo.. Se refiere a este fenómeno como una «explosión de inteligencia», y advierte de que esto ya está ocurriendo hoy en día. El exinvestigador de Google dice que un científico de otro laboratorio de IA le ha dicho que el hecho de que la tecnología ya esté «monitoreándose» a sí mismo sugiere que ya se ha vuelto autorregulado y capaz de mejorar sin intervención humana.. «El investigador afirma que la gente ya no revisaba personalmente el trabajo generado por la IA. En cambio, estaban creando otro sistema de IA para monitorizar el primero», sostiene.. «Las grandes tabacaleras mintieron sobre el cáncer de pulmón. Las grandes petroleras mintieron sobre el cambio climático. Y ahora parte de la gran IA dice que estos riesgos son falsos», concluye Alex Turner.
