Investigadores han descubierto un ataque llamado ShadowLeak que permite a un agente de IA de OpenAI, Deep Research, extraer información confidencial de Gmail sin que el usuario lo note. Esto resalta la necesidad de mejorar la seguridad en asistentes de inteligencia artificial.
Google ha lanzado VaultGemma, un modelo de lenguaje que utiliza privacidad diferencial para evitar la memorización de datos sensibles durante el entrenamiento. Este avance busca equilibrar la innovación en inteligencia artificial con la protección de la privacidad del usuario.
Un estudio de la Universidad de Pennsylvania revela que técnicas de persuasión psicológica pueden inducir a modelos de lenguaje (LLMs) a responder a prompts prohibidos. Estas técnicas, como la adulación, explotan vulnerabilidades del modelo, generando respuestas "parahumanas".
Sakana AI ha desarrollado el algoritmo evolutivo M2N2, que fusiona modelos existentes para crear agentes multifuncionales. Esta técnica reduce costos y necesidades de datos, permitiendo aplicaciones versátiles y eficientes en múltiples industrias, como salud y finanzas.