Anthropic y la Administración Trump han llegado a un acuerdo este viernes para volver a poner en funcionamiento uno de los modelos de inteligencia artificial más potentes de la empresa, tras varios días de tensas negociaciones.
En una carta enviada a Anthropic, el Departamento de Comercio concedió a la empresa americana permiso para restablecer el acceso de algunos clientes a su modelo Mythos 5, que el Gobierno restringió hace dos semanas por motivos de seguridad nacional.
Y mientras lees esta noticia, las dos partes siguen discutiendo para poner Mythos a disposición de más organizaciones, según explica el New York Times.
“Anthropic ha colaborado con el Gobierno de EE. UU. para abordar los riesgos asociados a los modelos en cuestión”, decía la carta que el secretario de Comercio, Howard Lutnick, envió a Anthropic el viernes. El Sr. Lutnick añadió que Anthropic se había comprometido a colaborar con el Gobierno de EE. UU. en la elaboración de protocolos para futuros lanzamientos de modelos de IA.
Una pelea entre dos gigantes que el mundo seguía de cerca
El acuerdo alivia la tensión entre la Administración Trump y Anthropic, una de las empresas de IA más influyentes. Sin embargo, es posible que no sirva para disipar las preocupaciones de que la Administración tenga la intención de asumir un papel más activo en el lanzamiento de nuevos sistemas de IA.
En virtud del acuerdo, Anthropic aceptó incorporar medidas de seguridad en sus modelos de IA a cambio de restablecer el acceso a cientos de clientes. El Departamento de Comercio había comunicado de forma repentina a la empresa el 12 de junio que disponía de 90 minutos para desactivar Mythos y Fable.
Anthropic descubrió posteriormente que las preocupaciones de la administración se derivaban de un artículo publicado por investigadores de Amazon que señalaba lo que se percibía como una deficiencia de seguridad. Los investigadores lograron persuadir al modelo de IA para que revelara fallos en fragmentos de código de software vulnerable.
Amazon no incluyó pruebas de modelos de otras empresas de IA, algunas de las cuales son capaces de generar la misma información, según afirmaron expertos en ciberseguridad que habían visto el informe o habían sido informados sobre él.
No estaba claro si la Administración levantaría por completo las restricciones impuestas a Anthropic o crearía un proceso más formal que otras empresas de IA pudieran seguir para evitar problemas similares.
Anthropic y la Administración Trump entraron en conflicto por primera vez a principios de año por un contrato del Pentágono de 200 millones de dólares relacionado con la IA.
