El modelo principal de Anthropic bloqueado en un período de 24 horas: 3 llamadas telefónicas, traición por parte del accionista mayoritario y pérdida del control narrativo

El 13 de junio, el gobierno estadounidense suspendió los dos modelos más avanzados de Anthropic, Fable 5 y Mythos 5. El primero acababa de ser lanzado al público, mientras que el segundo estaba dirigido a clientes con necesidades de ciberseguridad más restringidas. La prohibición provino del Departamento de Comercio de EE. UU. y afectó tanto a clientes en el extranjero como a ciudadanos extranjeros dentro del país, lo que obligó a Anthropic a desconectar todos sus servicios. Tras revisar todos los detalles de este incidente, hemos resumido la cronología de las últimas 24 horas. El jueves 11 de junio, apenas dos días después del lanzamiento público de Fable 5, el CEO de Amazon, Andy Jassy, expresó su preocupación a la Casa Blanca, temiendo que las medidas de seguridad de Fable 5 pudieran ser vulneradas. Supuestamente, investigadores de Amazon guiaron a Fable 5 para que revelara información que debería haber estado restringida, información que podría ser explotada en ciberataques. Para la mañana del viernes 12 de junio, el asunto había llegado a una reunión de alto nivel en la Casa Blanca. El secretario del Tesoro, Scott Bessent, el director de ciberseguridad de la Casa Blanca, Sean Cairncross, la jefa de gabinete de la Casa Blanca, Susie Wiles, y otros altos funcionarios participaron en la discusión. Luego tuvo lugar la llamada tripartita, donde el director ejecutivo de Anthropic, Dario Amodei, se reunió con aproximadamente media docena de altos funcionarios, incluido el secretario de Comercio, Howard Lutnick. Amodei intentó explicar la situación como un malentendido, creyendo que lo que Amazon había descubierto era un método específico de elusión, no una pista general que pudiera desmantelar ampliamente las medidas de seguridad. Posteriormente, Anthropic declaró públicamente que los evaluadores no habían encontrado un método para sortear de forma generalizada los sistemas de seguridad del modelo. Sin embargo, la Casa Blanca no estaba convencida, ya que los hallazgos de Amazon se enviaron para su evaluación a la Agencia de Seguridad Nacional (NSA), y el gobierno solicitó a Anthropic que desconectara voluntariamente los modelos. Amodei pidió más tiempo e información, pero no se comprometió a desconectar los modelos. Bessent declaró directamente por teléfono que había cometido un "error" y, posteriormente, se impusieron controles a las exportaciones. Anthropic afirmó que la Casa Blanca solo le dio un aviso de 90 minutos para desconectar el modelo sin especificar detalles concretos de la amenaza, mientras que la Casa Blanca declaró que el control de exportaciones era un último recurso después de que Anthropic se negara a cooperar durante horas. Otro punto clave de este incidente es la delicada posición de Amazon.Para finales de 2024, Amazon había realizado una inversión adicional de 4 mil millones de dólares en Anthropic, elevando el total a 8 mil millones de dólares, y designó a AWS como su principal socio de capacitación. Sin embargo, Amazon también estableció una conexión con OpenAI, y este año, Amazon estaba en conversaciones para invertir hasta 50 mil millones de dólares en OpenAI. Amazon necesita empresas de modelos de vanguardia para consumir la potencia de computación de AWS, validar sus chips internos y llenar los centros de datos. Al final, Amazon se encontró en el lado opuesto de Anthropic. Mientras que Anthropic ve esto como un socio que proporciona una señal de seguridad lo suficientemente significativa como para provocar una prohibición, la postura de Amazon es que simplemente respondieron a las preguntas de la Casa Blanca. En los últimos dos años, a las empresas de IA les ha gustado presentarse como activos nacionales, y Anthropic es particularmente buena en esta narrativa, utilizando "riesgos fronterizos" para convencer a los reguladores de que debe tomarse en serio. Ahora, el gobierno de EE. UU. ha tratado verdaderamente los modelos como activos de seguridad nacional. La confusión de los funcionarios de la Casa Blanca también proviene de esto; Politico informó que, en una ocasión, Amodei comparó los peligros de la tecnología de Anthropic con una bomba nuclear. Cuando se negó a desconectar un modelo debido a una vulnerabilidad de seguridad conocida, los funcionarios gubernamentales no lo consideraron un desacuerdo técnico, sino una cuestión de actitud. Este no es el primer enfrentamiento entre ambas partes, ya que el Pentágono incluyó previamente a Anthropic en la lista de riesgos de la cadena de suministro el 3 de marzo. Anthropic declaró que la directiva gubernamental no especificaba preocupaciones de seguridad nacional y criticó la medida por falta de transparencia. Desde la perspectiva del gobierno, la seguridad de los modelos ya no es solo un proceso interno de la empresa; quién puede acceder al modelo y si los empleados extranjeros pueden ver los pesos del modelo ahora se incluirá en el lenguaje de los controles de exportación. OpenAI observa este incidente desde la distancia. El hecho de que Anthropic se viera obligada a desactivar su modelo más potente hace que la posición relativa de OpenAI sea más cómoda. La cruda realidad es que, a medida que los modelos de última generación entran en el ciclo de inversión de capital de billones de dólares, las asociaciones ya no son tan sencillas. La noche en que se cerraron Fable 5 y Mythos 5, Anthropic perdió algo más que los puntos de acceso a dos modelos; perdió parte del control sobre su propia narrativa. [BlockBeats]