Temor por el avance de la IA: piden ponerle un freno

La velocidad con la que avanza la inteligencia artificial volvió a quedar en el centro del debate luego de que referentes de las principales compañías tecnológicas advirtieran sobre los riesgos de desarrollar sistemas cada vez más potentes sin contar con mecanismos de control que evolucionen al mismo ritmo.

Dario Amodei, CEO de Anthropic, planteó la necesidad de desacelerar deliberadamente el desarrollo de los modelos más avanzados. La intención, según explicó, es disponer de mayor tiempo para implementar medidas destinadas a reducir los posibles peligros asociados con estas tecnologías.

La postura encontró coincidencias dentro de una industria caracterizada por una intensa competencia. Sam Altman, CEO de OpenAI, manifestó su disposición a moderar el ritmo de desarrollo y coordinar medidas con otros laboratorios, mientras que Elon Musk, fundador de xAI, también respaldó el planteo.

Entre las propuestas impulsadas por Amodei aparecen la incorporación de evaluadores independientes en las principales empresas, la creación de estándares comunes de seguridad y una mayor coordinación internacional para afrontar los desafíos que podrían generar los sistemas más poderosos.

La discusión tomó mayor relevancia después de que Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, abandonara esta última compañía y expresara públicamente su preocupación por la carrera entre los grandes laboratorios. Su advertencia apunta a que las capacidades de los modelos podrían estar creciendo más rápido que las herramientas disponibles para supervisarlos.

Las compañías, al mismo tiempo, investigan los riesgos que puede presentar la utilización de estos sistemas en áreas sensibles, especialmente en materia de ciberseguridad y posibles usos maliciosos.

El planteo de desacelerar no implica detener el desarrollo de la inteligencia artificial. La propuesta consiste en reducir la velocidad de la competencia mientras se fortalecen las evaluaciones, los sistemas de seguridad y los mecanismos de supervisión.

La coincidencia entre referentes que compiten directamente por liderar el sector refleja una preocupación creciente dentro de la propia industria. El desafío ya no pasa solamente por desarrollar modelos más capaces, sino por determinar hasta dónde avanzar y qué controles deberían existir antes de alcanzar nuevas capacidades.

Sobre el autor

El Marplatense