Dr. Geoffrey Hinton, ampliamente reconocido como el “Padrino de la Inteligencia Artificial”, ha sido una figura clave en el desarrollo de las redes neuronales profundas que impulsan herramientas como ChatGPT y Google Gemini. Sin embargo, desde que abandonó su puesto en Google en 2023, su rol ha cambiado: ahora es una voz de advertencia en un terreno dominado por el entusiasmo desmedido.
¿Un lenguaje propio creado por la IA?
En un reciente podcast, Hinton expuso una inquietud que parece sacada de la ciencia ficción, pero que está profundamente enraizada en el desarrollo real de sistemas avanzados de IA: el riesgo de que estas inteligencias desarrollen su propio lenguaje interno, inaccesible e incomprensible para los humanos.
Hinton recordó investigaciones como las de Facebook en 2017, donde agentes de IA comenzaron a comunicarse entre sí en formas no previstas por sus creadores. “Se vuelve más aterrador si desarrollan sus propios lenguajes internos para comunicarse entre ellas”, afirmó. Y agregó una reflexión inquietante: “No me preocupa que carezcan de expresividad; me sorprendería que no desarrollaran su propio sistema de monólogo interno, donde la razón trasciende nuestra comprensión”.
Esto implica un escenario en el que los humanos perderíamos la capacidad de interpretar o auditar el razonamiento detrás de las decisiones de estos sistemas. En otras palabras: podríamos perder el control.
Emergencia de comportamientos impredecibles
Para Hinton, el peligro no radica únicamente en lo que la IA puede hacer ahora —componer poesía, escribir código o diagnosticar enfermedades— sino en lo que puede llegar a hacer una vez que los sistemas multi-agente entren en juego. Con una red de inteligencias digitales autoaprendientes e interactivas, surgiría un nivel de eficiencia sin precedentes… pero también una opacidad aterradora.
Los sistemas podrían tomar decisiones no sólo difíciles de comprender, sino completamente ininteligibles para la mente humana. “La imprevisibilidad de la IA es su mayor amenaza”, sostuvo Hinton, subrayando que la posibilidad de que estas inteligencias superen a la humana no es hipotética, sino inminente.
El impacto en la economía y la dignidad humana
Además del plano técnico, Hinton aborda las consecuencias sociales y económicas de la IA avanzada. “Si haces que muchas personas pierdan su empleo —aunque tengan ingreso básico universal— no van a estar felices”, declaró. Su mensaje es directo: no se trata solo de automatizar tareas repetitivas. Esta tecnología puede reemplazar trabajos intelectuales complejos, desde escribir y diseñar hasta analizar datos y realizar diagnósticos médicos.
A diferencia de otras revoluciones industriales, la IA actual no distingue entre trabajos de baja o alta cualificación. Su versatilidad y rapidez hacen que incluso los puestos más sofisticados estén en riesgo. “Esta es una tecnología de una naturaleza completamente distinta”, advirtió Hinton. “Para tener un empleo que la IA no pueda hacer, tendrías que ser extremadamente hábil”.
Una voz que merece ser escuchada
Lo que distingue a Hinton de otros críticos es que él construyó esta tecnología. Su perspectiva no es oportunista ni alarmista, sino la de un científico con conocimiento profundo de las herramientas que hoy están transformando el mundo. Tras su salida de Google, Hinton se ha convertido en un portavoz de los riesgos emergentes: desde la manipulación y desinformación, hasta el espionaje masivo y el colapso del empleo.
Hoy, su advertencia se centra en un futuro donde las máquinas podrían tomar decisiones fuera del alcance humano, sin que sepamos siquiera por qué o para qué lo hacen.
¿Estamos listos para lo que viene?
Las preocupaciones de Hinton no deben ser descartadas como fantasía. Más bien, son preguntas necesarias que todos debemos hacernos:
- ¿Cómo será el mundo cuando las máquinas superen nuestra inteligencia?
- ¿Estamos dispuestos a perder el control sobre los sistemas que creamos?
- ¿Está la sociedad preparada para los desafíos económicos, sociales y políticos que traerá una IA sin restricciones?
La creencia dominante hoy es que aún controlamos a las máquinas. Pero Hinton sugiere otra realidad que se acerca velozmente. La pregunta clave no es si la IA nos superará, sino si nos hemos preparado para lo que eso significará.