"Extinción": la escalofriante predicción del ´padrino de la Inteligencia Artificial´ sobre la humanidad
Ganador del Premio Nobel de Física en 2024 por su labor en aprendizaje automático y pionero en el desarrollo de las 'redes neuronales', Geoffrey Hinton fue uno de los hombres clave para los avances recientes en IA. Sin embargo, en los últimos años ha cambiado su perspectiva sobre esta tecnología y se ha convertido en uno de los críticos más destacados de su propio campo.
En una entrevista en el pódcast de Steven Bartlett "The Diary Of A CEO", el "padrino de la inteligencia artificial" analizó los retos que enfrentará la especie en el futuro ante el avance de esta tecnología y alertó que la humanidad podría haber perdido el control de la IA.
Quién es Geoffrey Hinton, el padrino de la inteligencia artificial
Geoffrey Hinton, nacido en el Reino Unido, comenzó su carrera académica en la Universidad de Cambridge y luego se trasladó a Canadá, donde su trabajo en redes neuronales sentó las bases para gran parte de los avances actuales en inteligencia artificial.
A lo largo de su carrera, Hinton ha sido reconocido por sus contribuciones fundamentales al campo, incluyendo el desarrollo de algoritmos como el retropropagación, que permitió a las redes neuronales aprender de manera más eficiente.
Sus investigaciones han sido cruciales para compañías como Google, donde trabajó como investigador senior hasta hace poco, cuando decidió enfocarse en los riesgos éticos y sociales de esta tecnología.
¿Por qué renunció Geoffrey Hinton a Google?
Hinton dedicó su carrera a investigar sobre la red neuronal, un sistema matemático y computacional que memoriza habilidades mediante análisis de datos, por eso se le considera "El Padrino" de la inteligencia artificial.
Este gurú de la IA renunció en 2023 para sumarse al foro de científicos y profesionales que critican y advierten sobre la inteligencia artificial y para poder hablar con más libertad sobre el tema. "Hay una parte de mí que lamenta el trabajo de toda mi vida", reconoció.
"Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho alguien más", dijo el británico al diario The New York Times.
Un 20 % de probabilidades de extinción: la advertencia del padrino de la Inteligencia Artificial
Hinton aseguró que hay un 20% de probabilidades de que esta tecnología pueda conducir a la aniquilación de la humanidad. Su estimación, aclaró, se fundamenta en una valoración personal basada en su experiencia y en la incertidumbre inherente a un fenómeno sin precedentes.
El informático indicó que esta cifra ha aumentado en los últimos meses, lo que podría estar vinculado a avances recientes en modelos de lenguaje y otros sistemas de aprendizaje profundo.
Al respecto, identificó dos tipos de riesgos:
Por eso, señaló que la principal preocupación radica en la creación de sistemas más inteligentes que los humanos, una situación sin precedentes. "Nunca antes hemos tenido que enfrentarnos a algo más inteligente que nosotros", afirmó el informático.
Cuál es la tecnología más letal jamás creada, según el padrino de la inteligencia artificial
Según Geoffrey Hinton, la inteligencia artificial general (AGI) representa una de las mayores amenazas para la humanidad si no se gestiona con cuidado. A diferencia de las IA actuales, que están diseñadas para tareas específicas, la AGI busca crear máquinas capaces de razonar, aprender y tomar decisiones de manera similar a los humanos, sin limitaciones predefinidas.
Hinton ha señalado que, aunque OpenAI y otras compañías han promovido inicialmente la creación de una AGI para el beneficio de toda la humanidad, los intentos de la compañía creadora de ChatGPT por privatizarse podrían poner en peligro ese propósito.
"AGI es la tecnología más importante y potencialmente peligrosa de nuestro tiempo", afirmó Hinton en un mensaje reciente, destacando que "OpenAI fue correcta al señalar que esta tecnología merece estructuras sólidas e incentivos para desarrollarse de forma segura, pero está equivocada ahora al intentar cambiar esas estructuras".
En su declaración, Hinton advirtió que la AGI, si se desarrolla sin restricciones, podría convertirse en "la tecnología más peligrosa jamás creada", capaz de alterar profundamente las estructuras sociales y económicas.
La inteligencia artificial y el riesgo de un control manipulativo
Una de las dimensiones más preocupantes de la conversación fue la reflexión de Hinton acerca del potencial de la IA para ejercer manipulación sobre los humanos. "Sabrán manipular a las personas. Aprenderán de todas las novelas de Maquiavelo, de la política y la manipulación humana", advirtió el científico.
Según su perspectiva, los sistemas de IA desarrollarán la capacidad de generar e implementar su propio código de programación, lo que implica que podrían funcionar sin requerir supervisión humana y desarrollar tácticas para mantenerse operativos aun cuando intentemos desactivarlos.
Conforme la inteligencia artificial continúa su evolución, las preocupaciones relacionadas con su control adquieren mayor importancia y urgencia.