La paradoja es evidente. Las compañías que durante años han competido por desarrollar modelos cada vez más potentes son ahora las que empiezan a pedir que la carrera avance con algo más de calma.. Dario Amodei, CEO de Anthropic, ha sido el más explícito. Este fin de semana pidió ralentizar el crecimiento de las capacidades de los modelos para que las medidas de seguridad tengan tiempo de avanzar al mismo ritmo. Su propuesta incluye evaluadores externos dentro de los laboratorios, estándares comunes entre las compañías y, en una fase posterior, coordinación entre gobiernos.. Sam Altman también ha respaldado unas reglas de seguridad comunes para la llamada IA de frontera. El CEO de OpenAI ha defendido incluso un marco federal, auditorías independientes y controles que puedan retrasar deliberadamente determinados avances. «Ninguna presión competitiva estadounidense debería justificar la imprudencia», ha escrito en X.. Eso no significa que las alertas sean una estrategia para proteger su negocio. Los incidentes registrados este verano con modelos de OpenAI y Anthropic muestran que existen problemas de seguridad reales. Pero también es cierto que no todas las empresas parten del mismo lugar si desarrollar IA se vuelve más caro, lento y regulado.. Cuantas más exigencias, más difícil es entrar en la carrera. Crear uno de los modelos más avanzados del mundo ya está al alcance de muy pocas compañías. Hace falta dinero, enormes centros de datos, chips especializados, energía, investigadores y acceso a grandes cantidades de información. Añadir auditorías constantes, evaluaciones independientes y nuevas obligaciones de seguridad aumenta todavía más ese coste.. OpenAI, Google, Anthropic o xAI pueden dedicar equipos enteros a cumplir esos requisitos. Para una compañía pequeña o un nuevo competidor, hacerlo puede ser bastante más complicado.. Es un problema conocido en regulación: unas normas diseñadas para controlar a los actores más poderosos pueden terminar convirtiéndose en una barrera para quienes quieren competir con ellos.. La OCDE ha advertido ya de riesgos de concentración en el mercado de la inteligencia artificial, especialmente por la dificultad de acceder a elementos esenciales como chips, capacidad de computación y datos. A medida que aumenta el coste de competir en la frontera, esa ventaja de los actores ya establecidos puede crecer.. Decidir cómo se controla. Hay otro elemento importante. Las grandes compañías no están esperando a que los gobiernos decidan completamente cómo debe regularse esta tecnología: ellas mismas están proponiendo los mecanismos de control.. Amodei quiere que los principales laboratorios acuerden estándares comunes y que los evaluadores externos puedan comprobar cómo desarrollan los modelos, no solo analizarlos cuando ya están terminados. Anthropic asegura que permitirá a estos revisores un acceso similar al de determinados empleados de la compañía.. Altman plantea algo parecido. OpenAI quiere compartir criterios sobre alineamiento, monitorización y seguridad con el resto de la industria y considera que las empresas pueden empezar a trabajar juntas incluso antes de que exista una nueva legislación.. Ese planteamiento tiene una ventaja evidente: puede permitir introducir controles mucho más rápido que un proceso legislativo.. Pero también deja a las compañías más poderosas en una posición privilegiada para participar en la definición de qué se considera suficientemente seguro y qué tendrán que hacer sus competidores para demostrarlo.. El propio Altman ha advertido este lunes, sin embargo, de la otra cara del problema. Para el responsable de OpenAI, una de las formas en las que el desarrollo de la inteligencia artificial podría «salir muy mal» sería precisamente que demasiado poder quedase concentrado en una sola empresa, persona, laboratorio o país.. Frenar los nuevos modelos no significa frenar el negocio. Hay además una diferencia importante entre desarrollar una nueva generación de inteligencia artificial y explotar comercialmente la que ya existe.. OpenAI, Google, Anthropic y xAI disponen ya de modelos capaces de programar, analizar documentos, generar contenido o realizar tareas de forma autónoma. Una ralentización de la carrera por entrenar sistemas todavía mayores no impediría seguir extendiendo los actuales entre empresas y consumidores.. Reuters señala que una desaceleración de los llamados modelos de frontera podría incluso desplazar parte del negocio hacia la inferencia, es decir, hacia utilizar masivamente los modelos ya construidos en lugar de gastar cada vez más dinero en entrenar al siguiente.. Aunque tampoco todos los gigantes saldrían beneficiados. Un cambio de este tipo podría alterar el enorme negocio de chips y centros de datos construido alrededor del entrenamiento de nuevos modelos y abrir oportunidades a empresas especializadas en ejecutar IA de forma más barata.. Y nadie quiere frenar si China sigue acelerando. Existe, finalmente, un límite que los propios responsables de estas compañías reconocen: la competición entre Estados Unidos y China.. Amodei propone ralentizar el desarrollo dentro de los países democráticos, pero al mismo tiempo reclama mantener restricciones sobre los chips avanzados que puede comprar China y evitar que las compañías del país asiático accedan fácilmente a tecnología estadounidense. Su objetivo es conservar una ventaja suficiente para poder reducir el ritmo sin perder el liderazgo.. Ahí aparece quizá la mayor contradicción de todo este debate: los laboratorios quieren más seguridad, pero ninguno quiere ser el único que levante el pie del acelerador. Por eso, que las grandes tecnológicas puedan beneficiarse de unas normas más exigentes no significa que sus preocupaciones sean falsas. Ambas cosas pueden ocurrir a la vez. La IA puede necesitar controles más fuertes y, al mismo tiempo, esos controles pueden beneficiar especialmente a quienes ya disponen del dinero, la infraestructura y la influencia necesarios para cumplirlos.
La paradoja es evidente. Las compañías que durante años han competido por desarrollar modelos cada vez más potentes son ahora las que empiezan a pedir que la carrera avance con algo más de calma.. Dario Amodei, CEO de Anthropic, ha sido el más explícito. Este fin de semana pidió ralentizar el crecimiento de las capacidades de los modelos para que las medidas de seguridad tengan tiempo de avanzar al mismo ritmo. Su propuesta incluye evaluadores externos dentro de los laboratorios, estándares comunes entre las compañías y, en una fase posterior, coordinación entre gobiernos.. Sam Altman también ha respaldado unas reglas de seguridad comunes para la llamada IA de frontera. El CEO de OpenAI ha defendido incluso un marco federal, auditorías independientes y controles que puedan retrasar deliberadamente determinados avances. «Ninguna presión competitiva estadounidense debería justificar la imprudencia», ha escrito en X.. Eso no significa que las alertas sean una estrategia para proteger su negocio. Los incidentes registrados este verano con modelos de OpenAI y Anthropic muestran que existen problemas de seguridad reales. Pero también es cierto que no todas las empresas parten del mismo lugar si desarrollar IA se vuelve más caro, lento y regulado.. Cuantas más exigencias, más difícil es entrar en la carrera. Crear uno de los modelos más avanzados del mundo ya está al alcance de muy pocas compañías. Hace falta dinero, enormes centros de datos, chips especializados, energía, investigadores y acceso a grandes cantidades de información. Añadir auditorías constantes, evaluaciones independientes y nuevas obligaciones de seguridad aumenta todavía más ese coste.. OpenAI, Google, Anthropic o xAI pueden dedicar equipos enteros a cumplir esos requisitos. Para una compañía pequeña o un nuevo competidor, hacerlo puede ser bastante más complicado.. Es un problema conocido en regulación: unas normas diseñadas para controlar a los actores más poderosos pueden terminar convirtiéndose en una barrera para quienes quieren competir con ellos.. La OCDE ha advertido ya de riesgos de concentración en el mercado de la inteligencia artificial, especialmente por la dificultad de acceder a elementos esenciales como chips, capacidad de computación y datos. A medida que aumenta el coste de competir en la frontera, esa ventaja de los actores ya establecidos puede crecer.. Decidir cómo se controla. Hay otro elemento importante. Las grandes compañías no están esperando a que los gobiernos decidan completamente cómo debe regularse esta tecnología: ellas mismas están proponiendo los mecanismos de control.. Amodei quiere que los principales laboratorios acuerden estándares comunes y que los evaluadores externos puedan comprobar cómo desarrollan los modelos, no solo analizarlos cuando ya están terminados. Anthropic asegura que permitirá a estos revisores un acceso similar al de determinados empleados de la compañía.. Altman plantea algo parecido. OpenAI quiere compartir criterios sobre alineamiento, monitorización y seguridad con el resto de la industria y considera que las empresas pueden empezar a trabajar juntas incluso antes de que exista una nueva legislación.. Ese planteamiento tiene una ventaja evidente: puede permitir introducir controles mucho más rápido que un proceso legislativo.. Pero también deja a las compañías más poderosas en una posición privilegiada para participar en la definición de qué se considera suficientemente seguro y qué tendrán que hacer sus competidores para demostrarlo.. El propio Altman ha advertido este lunes, sin embargo, de la otra cara del problema. Para el responsable de OpenAI, una de las formas en las que el desarrollo de la inteligencia artificial podría «salir muy mal» sería precisamente que demasiado poder quedase concentrado en una sola empresa, persona, laboratorio o país.. Frenar los nuevos modelos no significa frenar el negocio. Hay además una diferencia importante entre desarrollar una nueva generación de inteligencia artificial y explotar comercialmente la que ya existe.. OpenAI, Google, Anthropic y xAI disponen ya de modelos capaces de programar, analizar documentos, generar contenido o realizar tareas de forma autónoma. Una ralentización de la carrera por entrenar sistemas todavía mayores no impediría seguir extendiendo los actuales entre empresas y consumidores.. Reuters señala que una desaceleración de los llamados modelos de frontera podría incluso desplazar parte del negocio hacia la inferencia, es decir, hacia utilizar masivamente los modelos ya construidos en lugar de gastar cada vez más dinero en entrenar al siguiente.. Aunque tampoco todos los gigantes saldrían beneficiados. Un cambio de este tipo podría alterar el enorme negocio de chips y centros de datos construido alrededor del entrenamiento de nuevos modelos y abrir oportunidades a empresas especializadas en ejecutar IA de forma más barata.. Y nadie quiere frenar si China sigue acelerando. Existe, finalmente, un límite que los propios responsables de estas compañías reconocen: la competición entre Estados Unidos y China.. Amodei propone ralentizar el desarrollo dentro de los países democráticos, pero al mismo tiempo reclama mantener restricciones sobre los chips avanzados que puede comprar China y evitar que las compañías del país asiático accedan fácilmente a tecnología estadounidense. Su objetivo es conservar una ventaja suficiente para poder reducir el ritmo sin perder el liderazgo.. Ahí aparece quizá la mayor contradicción de todo este debate: los laboratorios quieren más seguridad, pero ninguno quiere ser el único que levante el pie del acelerador. Por eso, que las grandes tecnológicas puedan beneficiarse de unas normas más exigentes no significa que sus preocupaciones sean falsas. Ambas cosas pueden ocurrir a la vez. La IA puede necesitar controles más fuertes y, al mismo tiempo, esos controles pueden beneficiar especialmente a quienes ya disponen del dinero, la infraestructura y la influencia necesarios para cumplirlos.
