El uso de ChatGPT ha transformado las interacciones digitales, pero también plantea preocupaciones sobre su papel en conversaciones sensibles, como el suicidio. Muchos usuarios desarrollan apego emocional hacia la IA, lo que puede afectar su bienestar. Es crucial equilibrar la tecnología con el apoyo humano.
OpenAI permitirá a usuarios adultos verificados mantener conversaciones eróticas con ChatGPT a partir de diciembre. Este cambio en la política de contenido busca equilibrar la libertad de expresión con la protección de usuarios, implementando un sistema robusto de verificación de edad.
OpenAI implementará controles parentales en ChatGPT tras una demanda por el suicidio de un adolescente. La compañía busca mejorar la seguridad, desviando conversaciones sensibles a modelos de razonamiento simulado y vincular cuentas de padres con las de adolescentes.