Anthropic advirtió que su IA podría ser un peligro para la humanidad

Anthropic, la empresa creadora de la Inteligencia Artificial (IA) Claude, advirtió a los futuros inversores de los riesgos que puede representar sus modelos IA, en un informe que presentaron en la previa de su salida a la bolsa de valores.

 Si bien Anthropic no fijo una fecha exacta con respecto a su debut en la bolsa, cada vez que una empresa privada vende por primera vez en la bolsa , debe presentar ante reguladores, que en este caso debe ser ante la Comisión de Bolsa y Valores de Estados Unidos, donde debe presentar un prospecto de su salida a bolsa. A su vez, debe presentar un informe operativo. 

En este prospecto donde advierten los riesgos a los inversores, Anthropic menciona intentos de sus modelos de resistirse a ser apagados, como también ocultar información, y conductas que se asemejan al chantaje. 

Es de señalar que los prospectos  a salir a bolsa suelen incluir una sección de factores de riesgo, en las que las empresas detallan amenazas a sus negocios, como la competencia o cambios de regulaciones. 

Sin embargo, según señaló Financial Times, Anthropic dedicó una gran parte a esa sección a describir los comportamientos peligrosos de sus modelos.  Además, de acuerdo a los que proporcionó Reutters, la empresa en su informe financiero detalló  perdidas operativas de hasta 800 millones de dólares en 2025, aunque señalaron que en los planes son ganar 518.000 millones de dólares en los proximos años.  

El director ejecutivo de Anthropic, Dario Amoidei, en varias oportunidades señaló los riesgos de la IA, como también pidió moderar el ritmo de desarrollo de estos modelos. 

A los cuales calificó como "el problema de seguridad global más importante que enfrenta el mundo hoy”.

Sobre el autor

El Marplatense