Sam Altman advierte a los legisladores estadounidenses sobre la regulación «crítica» para la inteligencia artificial

Altman destaca los riesgos potenciales y aboga por la intervención gubernamental durante su comparecencia en el Senado

17 de mayo de 2023

Sam Altman, el director ejecutivo de OpenAI, la empresa matriz de ChatGPT, ha declarado a los legisladores de Estados Unidos que la regulación gubernamental de la inteligencia artificial es «crítica» debido a los posibles riesgos que plantea para la humanidad.

Altman aprovechó su comparecencia el martes ante el subcomité de justicia del Senado de Estados Unidos para instar al Congreso a imponer nuevas reglas a las grandes empresas de tecnología, a pesar de las profundas divisiones políticas que durante años han obstaculizado la legislación destinada a regular Internet.

La necesidad de regulación gubernamental para mitigar los peligros de los modelos de IA cada vez más poderosos

«Si esta tecnología sale mal, puede salir muy mal», dijo Altman, quien se ha convertido en el rostro global de la inteligencia artificial, durante la audiencia.

«OpenAI se fundó con la creencia de que la inteligencia artificial tiene el potencial de mejorar casi todos los aspectos de nuestras vidas, pero también de que crea riesgos graves», afirmó. Dado que existen preocupaciones sobre la desinformación, la seguridad laboral y otros peligros, «creemos que la intervención regulatoria por parte de los gobiernos será fundamental para mitigar los riesgos de los modelos cada vez más potentes».

Propuesta de Altman: la creación de una agencia de licencias para supervisar la IA

Altman propuso la creación de una agencia nacional o global que otorgue licencias a los sistemas de inteligencia artificial más poderosos y tenga la autoridad para «revocar esas licencias y garantizar el cumplimiento de los estándares de seguridad».

Altman’s San Francisco-based startup rocketed to public attention after it released ChatGPT, a free chatbot tool that answers questions with convincingly human-like responses, late last year.

Preocupaciones sobre el uso indebido de la tecnología de IA y sus efectos en la desinformación y el empleo

Pero las preocupaciones iniciales sobre cómo los estudiantes podrían utilizar ChatGPT para hacer trampas en sus tareas se han ampliado a preocupaciones más generales sobre la capacidad de la última generación de herramientas de «IA generativa» para engañar a las personas, difundir falsedades, violar protecciones de derechos de autor y perturbar algunos puestos de trabajo.

El llamado a la acción global: Altman aboga por una coordinación internacional en la regulación de la inteligencia artificial

Mientras reconoció el enorme potencial de las herramientas de IA, Altman sugirió que el gobierno de Estados Unidos podría considerar una combinación de requisitos de licencias y pruebas antes del lanzamiento de modelos más poderosos.

El papel de Europa en la legislación de la IA y el liderazgo de Estados Unidos

Altman también recomendó la etiquetación y una mayor coordinación global para establecer normas sobre la tecnología.

«Creo que Estados Unidos debería liderar aquí y tomar medidas primero, pero para que sea efectivo, necesitamos algo a nivel global», agregó.

OpenAI, respaldada por inversiones de Microsoft, evoluciona hacia una empresa líder en IA

El senador Josh Hawley, republicano, señaló que la tecnología tiene grandes implicaciones en las elecciones, los empleos y la seguridad nacional, y que la audiencia marcó «un primer paso crucial para comprender lo que el Congreso debería hacer».

Blumenthal señaló que Europa ya ha avanzado considerablemente con la Ley de Inteligencia Artificial, que se someterá a votación el próximo mes en el Parlamento Europeo.

La gira mundial de Altman para discutir la IA con legisladores y el público en general

OpenAI, cofundada por Altman en 2015 con el respaldo del multimillonario tecnológico Elon Musk, ha evolucionado de un laboratorio de investigación sin fines de lucro con un enfoque en la seguridad a una empresa. Entre sus productos de IA populares se encuentra el generador de imágenes DALL-E. Microsoft ha invertido miles de millones de dólares en la startup y ha integrado la tecnología en sus propios productos, incluido su motor de búsqueda Bing.

Altman también planea realizar una gira mundial este mes, visitando capitales nacionales y grandes ciudades en los seis continentes, para hablar sobre la IA con legisladores y el público en general.

Los desafíos futuros: la IA aún en sus primeras etapas y la importancia de la regulación ética

En el Capitolio, los políticos también escucharon advertencias de que la tecnología aún está en sus primeras etapas.

«Aún quedan más genios por salir de las botellas», dijo Gary Marcus, profesor emérito de la Universidad de Nueva York y otro de los panelistas.

«No tenemos máquinas que realmente puedan mejorar por sí mismas. No tenemos máquinas con conciencia propia, y tal vez nunca queramos llegar a eso», añadió.

Con estas declaraciones, Sam Altman, CEO de OpenAI, ha dejado claro ante los legisladores de Estados Unidos la importancia crítica de regular la inteligencia artificial debido a los riesgos que presenta. Su propuesta de una agencia de licencias y normas de seguridad demuestra la necesidad de intervención gubernamental en este campo en constante desarrollo. La preocupación por los efectos negativos de la IA generativa y la necesidad de un enfoque global en la regulación son temas clave que se discutieron durante la audiencia en el Senado. Europa, por su parte, ya ha avanzado en la legislación relacionada con la inteligencia artificial, y Altman insta a Estados Unidos a liderar en este ámbito. El recorrido mundial planeado por Altman muestra su compromiso de informar y debatir sobre la IA con los responsables políticos y el público en general en todo el mundo. A medida que la tecnología continúa evolucionando, queda claro que la regulación y la supervisión son fundamentales para mitigar los riesgos y garantizar un desarrollo ético y seguro de la inteligencia artificial.