El gran error de Samsung al usar ChatGPT

Empleados de Samsung permitieron una filtración masiva de datos confidenciales al usar ChatGPT

Los trabajadores de Samsung cometieron un grave error al utilizar ChatGPT para ayudarles en sus tareas, filtrando sin saberlo datos confidenciales en el proceso. La compañía permitió a sus ingenieros de semiconductores utilizar el escritor de IA para solucionar problemas en el código fuente, lo que resultó en la introducción de información confidencial, incluyendo el código fuente de un nuevo programa y notas internas de reuniones sobre el hardware.

El impacto de la filtración de datos confidenciales en la industria de semiconductores

En menos de un mes, hubo tres casos registrados de empleados filtrando información sensible a través de ChatGPT, lo que ahora pone en riesgo los secretos comerciales de Samsung. Dado que ChatGPT almacena los datos de entrada del usuario para entrenarse aún más, esta información confidencial ahora está en manos de OpenAI, la empresa detrás del servicio de IA.
Ante esta situación, Samsung Semiconductor está desarrollando su propia IA interna para uso exclusivo de los empleados, con comandos limitados a 1024 bytes de tamaño. Sin embargo, algunos de los empleados ya han utilizado ChatGPT para optimizar las secuencias de prueba para identificar fallas en los chips y convertir notas de reuniones en presentaciones, lo que podría poner en riesgo aún más la seguridad de los datos.

Lecciones aprendidas: Cómo proteger los datos confidenciales en la era de la IA

Samsung Electronics ha enviado una advertencia a sus trabajadores sobre los peligros de filtrar información confidencial, ya que estos datos son imposibles de recuperar una vez que están almacenados en los servidores de OpenAI. En la industria de semiconductores, la filtración de datos podría tener graves consecuencias para la empresa.

Es importante señalar que Samsung no tiene ningún recurso para solicitar la recuperación o eliminación de los datos confidenciales que ahora tiene OpenAI. Esto ha llevado a algunos expertos a cuestionar la conformidad de ChatGPT con el GDPR de la UE, ya que la protección de datos es una de las bases fundamentales de la ley que rige cómo las empresas recopilan y usan datos. De hecho, Italia ya ha prohibido el uso de ChatGPT en todo el país.

En conclusión, la filtración masiva de datos confidenciales de Samsung a través de ChatGPT es una llamada de atención para todas las empresas que utilizan la IA para sus operaciones. Es crucial tomar medidas de seguridad adecuadas para proteger los datos y evitar riesgos innecesarios.