prompt injections

Ataque a ChatGPT: Extracto de Datos de Gmail sin Rastro

  • Autor de la entrada:
  • Categoría de la entrada:AI Actualidad

Investigadores han descubierto un ataque llamado ShadowLeak que permite a un agente de IA de OpenAI, Deep Research, extraer información confidencial de Gmail sin que el usuario lo note. Esto resalta la necesidad de mejorar la seguridad en asistentes de inteligencia artificial.

Continuar leyendoAtaque a ChatGPT: Extracto de Datos de Gmail sin Rastro

La nueva función de creación de archivos de Claude presenta riesgos de seguridad

Anthropic lanzó una función de creación de archivos en Claude AI, permitiendo generar documentos dentro de conversaciones. Aunque útil, plantea riesgos de seguridad al permitir acceso a Internet y ejecución de código, requiriendo supervisión constante y protocolos rigurosos.

Continuar leyendoLa nueva función de creación de archivos de Claude presenta riesgos de seguridad