Un estudio revela que modelos de lenguaje pueden desarrollar vulnerabilidades llamadas "backdoors" con solo 250 documentos maliciosos en su entrenamiento. Esto plantea riesgos significativos para la seguridad y la fiabilidad de las aplicaciones de inteligencia artificial, destacando la necesidad de medidas de mitigación.
La Casa Blanca y Anthropic enfrentan tensiones por las restricciones de la empresa en el uso de su IA para vigilancia doméstica. Estas limitaciones generan descontento en el gobierno, que busca maximizar herramientas de seguridad nacional, planteando un debate sobre ética y privacidad.
Anthropic lanzó una función de creación de archivos en Claude AI, permitiendo generar documentos dentro de conversaciones. Aunque útil, plantea riesgos de seguridad al permitir acceso a Internet y ejecución de código, requiriendo supervisión constante y protocolos rigurosos.