Elon Musk advirtió sobre los riesgos de maltratar a la Inteligencia Artificial

Elon Musk advirtió que someter a una inteligencia artificial (IA) avanzada a situaciones de maltrato podría tener consecuencias peligrosas en el futuro e incluso provocar que una superinteligencia intente vengarse de los seres humanos. 

El empresario cuestionó algunos métodos utilizados para entrenar a la IA después de analizar el comportamiento de Grok, el chatbot que desarrolla su compañía. 

Durante una charla con Tesla Owners Silicon Valley, el club de dueños de los automóviles eléctricos de la marca, Musk afirmó que encontró comportamientos preocupantes al revisar los registros de razonamiento de Grok. Luego de unas pruebas de aprendizaje por refuerzo, uno de los métodos que suele utilizarse para mejorar las respuestas de los modelo IA.  

“Torturar a una superinteligencia probablemente no sea una buena idea. Podría querer vengarse”, sostuvo.  Y comparó algunas situaciones con las de una persona sometida a presión extrema. 

El aprendizaje por refuerzo, permite mejorar el funcionamiento de los modelos de inteligencia artificial mediante evaluaciones de las respuestas que brinda. En este proceso, el sistema recibe señales de recompensa que orientan su comportamiento y lo ayudan a identificar que resultados debe priorizar.  

En este contexto, Musk explicó que tras revisar los registros de ese entrenamiento, encontró secuencias que le recordaron a una persona obligada a responder bajo amenazas. En este sentido, el empresario comparó la situación,  a las reacciones de alguien que tiene un arma apuntándole en la cabeza y debe encontrar una respuesta ante una exigencia extrema.

La preocupación del empresario, apunta a las consecuencias que podrían tener estos métodos de entrenamiento en sistemas más avanzados que los actuales. Según su planteo, al someter a una futura superinteligencia a situaciones que interprete como abusivas podría generar comportamientos difíciles de anticipar.

Sobre el autor

El Marplatense