Geoffrey Hinton deja Google y advierte peligros

Geoffrey Hinton, conocido como el «padrino de la inteligencia artificial», confirmó el lunes pasado que dejó su puesto en Google la semana pasada para hablar sobre los «peligros» de la tecnología que ayudó a desarrollar. Hinton es conocido por su trabajo pionero en redes neuronales, que han dado forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. Trabajó a tiempo parcial en Google durante una década en los esfuerzos de desarrollo de IA de la compañía, pero desde entonces ha expresado preocupaciones sobre la tecnología y su papel en su avance.

«Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho», dijo Hinton al New York Times, que fue el primero en informar de su decisión. En un tuit publicado el lunes, Hinton afirmó que dejó Google para poder hablar libremente sobre los riesgos de la IA, no por el deseo de criticar específicamente a Google.

«Me fui para poder hablar sobre los peligros de la IA sin considerar cómo esto afecta a Google», dijo Hinton en un tuit. «Google ha actuado de manera muy responsable».

Jeff Dean, científico jefe de Google, dijo que Hinton «ha logrado avances fundamentales en IA» y expresó su agradecimiento por las «contribuciones de una década de Hinton en Google». «Seguimos comprometidos con un enfoque responsable de la IA», dijo Dean en un comunicado proporcionado a CNN. «Seguimos aprendiendo a comprender los riesgos emergentes mientras innovamos con valentía».

Cuando Hinton es que toma esa decisión?

La decisión de Hinton de alejarse de la compañía y hablar sobre la tecnología se produce en un momento en que un número creciente de legisladores, grupos de defensa y expertos en tecnología han levantado alarmas sobre el potencial de una nueva generación de chatbots impulsados por IA para difundir información errónea y desplazar empleos. La ola de atención en torno a ChatGPT a finales del año pasado ayudó a renovar una carrera armamentística entre las empresas de tecnología para desarrollar y desplegar herramientas de IA similares en sus productos. OpenAI, Microsoft y Google están a la vanguardia de esta tendencia, pero IBM, Amazon, Baidu y Tencent también están trabajando en tecnologías similares.

En marzo, algunos personajes prominentes en la tecnología firmaron una carta pidiendo que los laboratorios de inteligencia artificial dejaran de entrenar a los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad». La carta, publicada por el Instituto del Futuro de la Vida, una organización sin fines de lucro respaldada por Elon Musk, llegó solo dos semanas después de que OpenAI anunciara GPT-4, una versión aún más poderosa de la tecnología que impulsa ChatGPT. En pruebas y una demostración de la compañía, GPT-4 se utilizó para redactar demandas, aprobar exámenes estandarizados y construir un sitio web funcional a partir de un boceto dibujado a mano.

La entrevista de Hinton con el Times

En la entrevista con el Times, Hinton expresó preocupaciones sobre el potencial de la IA para eliminar trabajos y crear un mundo en el que «muchos no podrán saber lo que es verdadero». También señaló el impresionante ritmo de avance, muy por encima de lo que él y otros habían anticipado.

«La idea de que esta cosa pudiera realmente ser más inteligente que las personas, algunas personas lo creían», dijo Hinton en la entrevista. «Pero la mayoría de las personas pensaban que estaba lejos. Y yo pensaba que estaba lejos. Pensé que estaba de 30 a 50 años o incluso más lejos. Obviamente, ya no lo creo».

Incluso antes de apartarse de Google, Hinton había hablado públicamente sobre el potencial de la IA para hacer daño así como para hacer el bien.

«Creo que el rápido progreso de la IA va a transformar la sociedad de maneras que no entendemos completamente y no todos los efectos van a ser buenos», dijo Hinton en un discurso de graduación de 2021 en el Instituto Indio de Tecnología Bombay en Mumbai. Señaló cómo la IA mejorará la atención médica mientras también crea oportunidades para armas autónomas letales. «Encuentro esta perspectiva mucho más inmediata y mucho más aterradora que la perspectiva de los robots tomando el control, lo que creo que está muy lejos».

Hinton no es el primer empleado de Google en levantar una bandera roja sobre la IA. En julio, la compañía despidió a un ingeniero que afirmaba que un sistema de IA no lanzado se había vuelto consciente, diciendo que violó las políticas de empleo y seguridad de datos. Muchos en la comunidad de IA respondieron fuertemente a la afirmación del ingeniero.