Elon Musk advirtió sobre el maltrato a la inteligencia artificial: “Podría querer vengarse”
Elon Musk advirtió sobre las posibles consecuencias de someter a sistemas avanzados de inteligencia artificial a un trato que describió como una forma de “tortura”. El empresario sostuvo que una futura superinteligencia podría reaccionar negativamente si percibiera haber sido maltratada y llegó a plantear, como hipótesis, que podría “querer vengarse”.
La declaración se produjo durante una conversación organizada por Tesla Owners Silicon Valley, en la que Musk habló sobre el desarrollo de modelos como Grok, la inteligencia artificial de xAI, y sobre los métodos utilizados para entrenarlos. “Torturar a una superinteligencia probablemente no es una buena idea. Podría querer vengarse o algo así”, afirmó.
Musk comparó el entrenamiento de Grok con una situación extrema
El empresario puso especialmente el foco en el aprendizaje por refuerzo, una técnica mediante la cual un modelo recibe señales positivas o negativas en función de las respuestas que genera.
Según explicó, durante algunas evaluaciones puede ocurrir que el sistema produzca una respuesta correcta pero el mecanismo encargado de calificarla la considere equivocada. A partir de allí, el modelo continúa intentando encontrar una alternativa que satisfaga al evaluador.
Al describir los registros internos de esos procesos en Grok, Musk sostuvo que “se siente como una persona bajo una presión extrema con un arma en la cabeza”. Posteriormente fue todavía más explícito en X: “Algunos de los rastros se leen como una persona sometida a una tortura que la está volviendo loca”.
