Un investigador de Anthropic renunció y alertó que la IA puede terminar con la humanidad

Un hombre de veintisiete años escribe un mensaje de madrugada desde un apartamento en California y cuarenta y cuatro millones de personas lo leen antes del mediodía. Jacob Coxon estuvo tres años observando cómo se adiestra a las máquinas, primero en los laboratorios de OpenAI y durante los últimos dos meses en Anthropic, hasta que decidió marcharse. 

Su diagnóstico fue breve y seco: las empresas están en una carrera ciega hacia una superinteligencia capaz de rediseñarse a sí misma, apostando las vidas de la gente en el camino.

Evan Hubinger, quien encabeza uno de los equipos de seguridad en Anthropic, respondió a la publicación en público para darle la razón. Hubinger no solo admitió que en la compañía consideran real la posibilidad de que la inteligencia artificial termine con la especie humana, estimando ese riesgo en más del diez por ciento para la próxima década, sino que confesó algo peor: la empresa todavía no sabe cómo resolver el problema de la alineación ni tiene garantías de lograrlo a tiempo.

Coxon, un matemático británico que participó en el desarrollo de GPT-4o, contó que en los pasillos de las tecnológicas los ingenieros hablan abiertamente de estar jugando la fase final del juego. Para él, resulta una insensatez que el destino de la civilización se esté decidiendo en las portátiles de unos pocos jóvenes en San Francisco en lugar de un complejo militar aislado en el desierto, como ocurrió el siglo pasado con la bomba atómica.

La salida de Coxon se suma a una lista cada vez más larga de especialistas que abandonan Silicon Valley denunciando que las medidas de protección quedaron relegadas por la prisa comercial. El episodio llega además en un momento incómodo para Anthropic, que prepara una de las salidas a bolsa más grandes de la historia buscando una valoración de dos billones de dólares, vendiendo al mercado la idea de que son los líderes del desarrollo responsable. 

La respuesta de sus propios empleados sugiere que la máquina ya está en marcha y que nadie sabe dónde está el freno.

Fuente: Infobae

Sobre el autor

El Marplatense