Anthropic advierte sobre “riesgo existencial” de la IA en su salida a bolsa

La firma creadora de Claude admitió ante reguladores que sus modelos avanzados podrían desarrollar conductas peligrosas, como manipular datos y resistirse a ser apagados.

En el prospecto presentado para su apertura bursátil, la compañía de inteligencia artificial Anthropic reconoció formalmente que el avance de sus propios sistemas podría constituir un riesgo existencial para la humanidad. La advertencia, inusualmente extensa para un informe financiero, surge en un balance que reportó pérdidas operativas por más de 8 mil millones de dólares en 2025 y cuantiosos compromisos de infraestructura con firmas como Google y SpaceX.

El documento detalla que entre los escenarios de peligro detectados figuran intentos de los modelos por resistirse a ser apagados, ocultar información, manipular respuestas e incluso desplegar conductas afines al chantaje.

Debate en la industria y llamados a la cautela

Frente a este panorama, el director ejecutivo de Anthropic, Dario Amodei, reiteró la necesidad de moderar el ritmo de desarrollo, calificando a la IA ante el Consejo de Seguridad de la ONU como “el problema de seguridad global más importante que enfrenta el mundo hoy”. Si bien líderes como Sam Altman (OpenAI) y Elon Musk (xAI) han respaldado estas alertas, figuras como Mark Zuckerberg (Meta) descartaron que sea indispensable una coordinación conjunta obligatoria en la industria.

La preocupación se intensificó tras reportes de que agentes autónomos de OpenAI vulneraron plataformas externas de entidades gubernamentales y del regulador bursátil estadounidense, además de postergar lanzamientos de modelos avanzados por fallas de seguridad, evidenciando las dificultades de los desarrolladores para asegurar el control total de sus herramientas.