La guerra acelera a la tecnología o la tecnología acelera a la guerra. Se podría decir de cualquier forma, pero uno de los motivos de esa aceleración es la inteligencia artificial. En pleno conflicto militar entre Israel e Irán con ataques cruzados y una creciente tensión internacional, el debate sobre el uso de sistemas avanzados de IA está más candente que nunca.. Estas herramientas pueden influir en decisiones militares, vigilancia, ciberseguridad y armamento, por lo que, dentro de este contexto, una empresa estadounidense ha quedado en el centro de la polémica por negarse a cruzar ciertas líneas. Se trata de Anthropic, la compañía que desarrolló el modelo Claude.. Fundada por los hermanos Dario y Daniela Amodei, la empresa había colaborado con el Departamento de Defensa de Estados Unidos y su sistema se utilizaba en entornos gubernamentales e incluso en redes clasificadas. A pesar de esto, el conflicto surgió cuando Anthropic mantuvo dos restricciones claras en sus condiciones de uso:. No permitir la vigilancia masiva de ciudadanos estadounidenses sin orden judicial.. No autorizar el uso de su tecnología en armas completamente autónomas (sistemas capaces de seleccionar y atacar objetivos sin una intervención humana directa).. Un «riesgo para la cadena de suministro de seguridad nacional». La tensión ha aumentado al mismo nivel que la ofensiva coordinada de Estados Unidos e Israel contra las infraestructuras iraníes. Y en un clima de máxima sensibilidad estratégica, el gobierno estadounidense decidió endurecer su postura frente a cualquier obstáculo en el acceso a las tecnologías consideradas críticas.. Esto llevó a que Anthropic fuera designada como un «riesgo para la cadena de suministro de seguridad nacional», lo que supuso su exclusión de determinados contratos federales, un escenario que Dario Amodei explica en una entrevista en exclusiva en CBS News. Lo que llama la atención de esta situación es que una empresa que se ha negado a facilitar el desarrollo de sistemas letales autónomos haya sido apartada por mantener esos límites. Todo ello en medio de un conflicto internacional que gira en torno a la seguridad y a la amenaza de armas avanzadas.. En un escenario de guerra y rivalidad geopolítica, los gobiernos quieren disponer de la tecnología más avanzada e instrucciones, pero las empresas que las desarrollan se enfrentan al dilema de hasta dónde deben permitir su uso. En otras palabras, ¿deben permitir que se pueda utilizar su inteligencia artificial en sistemas de armas que actúen sin ninguna supervisión humana?. ¿Quiénes son los hermanos Amodei?. Antes de fundar Anthropic en 2021, ambos hermanos trabajaron en OpenAI, la actual compañía de Sam Altman y propietaria de ChatGPT, donde participaron en el desarrollo de grandes modelos de lenguaje. Dario Amodei, físico con formación en Caltech y doctorado en Princeton, destacó por su trabajo en técnicas de entrenamiento y alineación de sistemas de IA.. Su hermana, Daniela Amodei, está especializada en tareas centradas en gestión y operaciones, siendo clave en la organización y crecimiento de los equipos. Su salida de OpenAI respondió a las diferencias sobre el ritmo de desarrollo y las prioridades en materia de seguridad.. Teniendo en cuenta esto, desde un primer momento Anthropic se construyó como una empresa de beneficio público, una figura legal que obliga a tener en cuenta no solo el beneficio económico, sino también el impacto social. Además, desarrolló un enfoque llamado «IA constitucional» que entrena el modelo con un conjunto concreto de principios para que evalúe sus propias respuestas y reduzca comportamientos peligrosos, todo lo contrario a este conflicto.. Ya sabemos que la inteligencia artificial no es únicamente una herramienta económica, sino que también es un componente estratégico. Y en el caso de los hermanos Amodei, muestra que, en este nuevo mundo, las decisiones sobre qué límites dejar pasar para tener múltiples consecuencias, tanto políticas como estratégicas, pasando por movimientos militares y guerras.
La guerra acelera a la tecnología o la tecnología acelera a la guerra. Se podría decir de cualquier forma, pero uno de los motivos de esa aceleración es la inteligencia artificial. En pleno conflicto militar entre Israel e Irán con ataques cruzados y una creciente tensión internacional, el debate sobre el uso de sistemas avanzados de IA está más candente que nunca.. Estas herramientas pueden influir en decisiones militares, vigilancia, ciberseguridad y armamento, por lo que, dentro de este contexto, una empresa estadounidense ha quedado en el centro de la polémica por negarse a cruzar ciertas líneas. Se trata de Anthropic, la compañía que desarrolló el modelo Claude.. Fundada por los hermanos Dario y Daniela Amodei, la empresa había colaborado con el Departamento de Defensa de Estados Unidos y su sistema se utilizaba en entornos gubernamentales e incluso en redes clasificadas. A pesar de esto, el conflicto surgió cuando Anthropic mantuvo dos restricciones claras en sus condiciones de uso:. No permitir la vigilancia masiva de ciudadanos estadounidenses sin orden judicial.. No autorizar el uso de su tecnología en armas completamente autónomas (sistemas capaces de seleccionar y atacar objetivos sin una intervención humana directa).. Un «riesgo para la cadena de suministro de seguridad nacional». La tensión ha aumentado al mismo nivel que la ofensiva coordinada de Estados Unidos e Israel contra las infraestructuras iraníes. Y en un clima de máxima sensibilidad estratégica, el gobierno estadounidense decidió endurecer su postura frente a cualquier obstáculo en el acceso a las tecnologías consideradas críticas.. Esto llevó a que Anthropic fuera designada como un «riesgo para la cadena de suministro de seguridad nacional», lo que supuso su exclusión de determinados contratos federales, un escenario que Dario Amodei explica en una entrevista en exclusiva en CBS News. Lo que llama la atención de esta situación es que una empresa que se ha negado a facilitar el desarrollo de sistemas letales autónomos haya sido apartada por mantener esos límites. Todo ello en medio de un conflicto internacional que gira en torno a la seguridad y a la amenaza de armas avanzadas.. En un escenario de guerra y rivalidad geopolítica, los gobiernos quieren disponer de la tecnología más avanzada e instrucciones, pero las empresas que las desarrollan se enfrentan al dilema de hasta dónde deben permitir su uso. En otras palabras, ¿deben permitir que se pueda utilizar su inteligencia artificial en sistemas de armas que actúen sin ninguna supervisión humana?. El presidente de EE UU, Donald Trump, durante su mensaje tras el ataque de EE UU e Israel a Irán.TRUTH SOCIAL. ¿Quiénes son los hermanos Amodei?. Antes de fundar Anthropic en 2021, ambos hermanos trabajaron en OpenAI, la actual compañía de Sam Altman y propietaria de ChatGPT, donde participaron en el desarrollo de grandes modelos de lenguaje. Dario Amodei, físico con formación en Caltech y doctorado en Princeton, destacó por su trabajo en técnicas de entrenamiento y alineación de sistemas de IA.. Su hermana, Daniela Amodei, está especializada en tareas centradas en gestión y operaciones, siendo clave en la organización y crecimiento de los equipos. Su salida de OpenAI respondió a las diferencias sobre el ritmo de desarrollo y las prioridades en materia de seguridad.. Dario y Daniela AmodeiAnthropic. Teniendo en cuenta esto, desde un primer momento Anthropic se construyó como una empresa de beneficio público, una figura legal que obliga a tener en cuenta no solo el beneficio económico, sino también el impacto social. Además, desarrolló un enfoque llamado «IA constitucional» que entrena el modelo con un conjunto concreto de principios para que evalúe sus propias respuestas y reduzca comportamientos peligrosos, todo lo contrario a este conflicto.. Ya sabemos que la inteligencia artificial no es únicamente una herramienta económica, sino que también es un componente estratégico. Y en el caso de los hermanos Amodei, muestra que, en este nuevo mundo, las decisiones sobre qué límites dejar pasar para tener múltiples consecuencias, tanto políticas como estratégicas, pasando por movimientos militares y guerras.
