La inteligencia artificial (IA) lo está cambiando todo. Los ejemplos se acumulan por doquier. El gran problema, que no el único, es que el uso de la IA está sirviendo muchas veces para sustituir a la realidad (es uno de sus mayores peligros). Lo sabemos por las fotos y videos que se hacen pasar por reales. No solo son los bulos más o menos informativos, sino también casos tan específicos como el de la ornitología. La IA está provocando que las investigaciones sobre aves peligren por las imágenes falsas que se publican.. Los modelos de inteligencia artificial generativa están ayudando a los científicos a subsanar las deficiencias en la investigación de la biodiversidad. «Sin embargo, también se han identificado riesgos que incluyen la falsificación de datos y la desinformación pública», se lee en un artículo que firmaron varios ornitólogos en Nature el pasado 13 de julio.. Cuentan estos investigadores que las plataformas de ciencia ciudadana de registro biológico reciben millones de imágenes, sonidos y vídeos. Son los casos de iNaturalist y Macaulay Library. El suyo es un aporte fundamental porque personas «no científicas» publican información que un verdadero científico probablemente nunca podría obtener a gran escala.. Todos esos datos sustentan cada vez más el conocimiento sobre dónde se encuentran las especies en el espacio y el tiempo y cómo se comportan. Pero los científicos llaman la atención sobre el envío de contenido multimedia manipulado por IA que representa la vida silvestre a iniciativas de ciencia ciudadana.. Observación de aves en la Reserva de la Biosfera Tajo/Tejo. Archivo. Los riesgos de la foto perfecta y retocada. La utilidad de la información que aportan los aficionados a la naturaleza «puede verse comprometida si las bases de datos se contaminan de manera apreciable con contenido multimedia producido por modelos de aprendizaje automático generativos de texto a imagen, y potencialmente conducen a inferencias ecológicas espurias», denuncian en el artículo Alexander C. Lees, Tony Iwane, Glenn F. Seeholzer, Carrie Seltzer y Michael S. Webster.. Los cinco aseguran que ya se han descubierto cientos de imágenes falsas en bases de datos populares para el registro de especies. Este grupo de ornitólogos dice desconocer la verdadera magnitud del problema, ya que muchas de esas fotos podrían pasar desapercibidas. Es decir, las bases de datos podrían estar ya contaminadas por imágenes falsas o retocadas que parecen reales, lo que socava el potencial de estos sitios como fuentes de registros de biodiversidad para la ciencia ciudadana.. «Hay una necesidad imperiosa de educar a los colaboradores sobre los problemas que la manipulación de imágenes puede causar al registro científico», escriben los autores. Nuevas o manipuladas, apuntan, las imágenes resultarían inútiles como datos de entrenamiento para los algoritmos de clasificación de IA, que ayudan a los científicos ciudadanos a identificar con mayor precisión los organismos objetivo, y podrían acabar degradando su rendimiento.. Uno de los firmantes del artículo, Alexander Lees, ecólogo de la Universidad Metropolitana de Manchester, cuenta a The Guardian que últimamente su experiencia al ver Facebook «es que un gran volumen de fotos de vida silvestre son simplemente imágenes generadas por IA». El mayor problema no es tanto la foto «inventada» como el uso de la IA para editar y mejorar una imagen (la obsesión por la foto bonita y perfecta).. Naturaleza desnaturalizada. Por ejemplo, si se le pide a la IA que elimine una rama o una hoja porque pueda estar ocultando parte del sujeto. Poco a poco se van introduciendo cambios significativos y la realidad queda literalmente desnaturalizada. «Existe el riesgo de que la imagen, al ser editada con IA, pueda causar problemas en el futuro», explica Lees.. Así ha podido pasar, explica el diario británico, que la garza de arrecife occidental fuera avistada el pasado junio en una ciudad costera del norte de Gales. El descubrimiento fue ampliamente celebrado en foros de observación de aves porque normalmente esa garza sólo se encuentra en África y el sur de Europa.. O el caso que menciona Lees: un avistamiento falso de un mirlo de alas rojas en el centro de Brasil, una especie que normalmente se encuentra en Norteamérica y que nunca se había visto en esa zona. En realidad, se trataba de un oropéndola epaulet, una especie común del Nuevo Mundo. Sin embargo, el fotógrafo le pidió a la IA que mejorase la imagen, lo que provocó que se añadieran partes del mirlo de alas rojas, dando lugar al avistamiento falso.. Tony Iwane, coautor del artículo, es director de soporte comunitario de una de estas plataformas (iNaturalist), y cree que la mayoría de estos casos probablemente no sean malintencionados. Pero hace un llamamiento a los usuarios a mantenerse alerta: «Cuanto más sepamos sobre la ubicación de las especies, mejor informados estaremos como conservacionistas. Pero la información debe ser precisa».
La inteligencia artificial (IA) lo está cambiando todo. Los ejemplos se acumulan por doquier. El gran problema, que no el único, es que el uso de la IA está sirviendo muchas veces para sustituir a la realidad (es uno de sus mayores peligros). Lo sabemos por las fotos y videos que se hacen pasar por reales. No solo son los bulos más o menos informativos, sino también casos tan específicos como el de la ornitología. La IA está provocando que las investigaciones sobre aves peligren por las imágenes falsas que se publican.
Los modelos de inteligencia artificial generativa están ayudando a los científicos a subsanar las deficiencias en la investigación de la biodiversidad. «Sin embargo, también se han identificado riesgos que incluyen la falsificación de datos y la desinformación pública», se lee en un artículo que firmaron varios ornitólogos en Nature el pasado 13 de julio.
Cuentan estos investigadores que las plataformas de ciencia ciudadana de registro biológico reciben millones de imágenes, sonidos y vídeos. Son los casos de iNaturalist y Macaulay Library. El suyo es un aporte fundamental porque personas «no científicas» publican información que un verdadero científico probablemente nunca podría obtener a gran escala.
Todos esos datos sustentan cada vez más el conocimiento sobre dónde se encuentran las especies en el espacio y el tiempo y cómo se comportan. Pero los científicos llaman la atención sobre el envío de contenido multimedia manipulado por IA que representa la vida silvestre a iniciativas de ciencia ciudadana.
Los riesgos de la foto perfecta y retocada
La utilidad de la información que aportan los aficionados a la naturaleza «puede verse comprometida si las bases de datos se contaminan de manera apreciable con contenido multimedia producido por modelos de aprendizaje automático generativos de texto a imagen, y potencialmente conducen a inferencias ecológicas espurias», denuncian en el artículo Alexander C. Lees, Tony Iwane, Glenn F. Seeholzer, Carrie Seltzer y Michael S. Webster.
Los cinco aseguran que ya se han descubierto cientos de imágenes falsas en bases de datos populares para el registro de especies. Este grupo de ornitólogos dice desconocer la verdadera magnitud del problema, ya que muchas de esas fotos podrían pasar desapercibidas. Es decir, las bases de datos podrían estar ya contaminadas por imágenes falsas o retocadas que parecen reales, lo que socava el potencial de estos sitios como fuentes de registros de biodiversidad para la ciencia ciudadana.
«Hay una necesidad imperiosa de educar a los colaboradores sobre los problemas que la manipulación de imágenes puede causar al registro científico», escriben los autores. Nuevas o manipuladas, apuntan, las imágenes resultarían inútiles como datos de entrenamiento para los algoritmos de clasificación de IA, que ayudan a los científicos ciudadanos a identificar con mayor precisión los organismos objetivo, y podrían acabar degradando su rendimiento.
Uno de los firmantes del artículo, Alexander Lees, ecólogo de la Universidad Metropolitana de Manchester, cuenta a The Guardian que últimamente su experiencia al ver Facebook «es que un gran volumen de fotos de vida silvestre son simplemente imágenes generadas por IA». El mayor problema no es tanto la foto «inventada» como el uso de la IA para editar y mejorar una imagen (la obsesión por la foto bonita y perfecta).
Naturaleza desnaturalizada
Por ejemplo, si se le pide a la IA que elimine una rama o una hoja porque pueda estar ocultando parte del sujeto. Poco a poco se van introduciendo cambios significativos y la realidad queda literalmente desnaturalizada. «Existe el riesgo de que la imagen, al ser editada con IA, pueda causar problemas en el futuro», explica Lees.
Así ha podido pasar, explica el diario británico, que la garza de arrecife occidental fuera avistada el pasado junio en una ciudad costera del norte de Gales. El descubrimiento fue ampliamente celebrado en foros de observación de aves porque normalmente esa garza sólo se encuentra en África y el sur de Europa.
O el caso que menciona Lees: un avistamiento falso de un mirlo de alas rojas en el centro de Brasil, una especie que normalmente se encuentra en Norteamérica y que nunca se había visto en esa zona. En realidad, se trataba de un oropéndola epaulet, una especie común del Nuevo Mundo. Sin embargo, el fotógrafo le pidió a la IA que mejorase la imagen, lo que provocó que se añadieran partes del mirlo de alas rojas, dando lugar al avistamiento falso.
Tony Iwane, coautor del artículo, es director de soporte comunitario de una de estas plataformas (iNaturalist), y cree que la mayoría de estos casos probablemente no sean malintencionados. Pero hace un llamamiento a los usuarios a mantenerse alerta: «Cuanto más sepamos sobre la ubicación de las especies, mejor informados estaremos como conservacionistas. Pero la información debe ser precisa».
