LLM security

Inyección de contexto criptográfico en LLM: riesgos y soluciones

Inyección de contexto criptográfico en LLM: riesgos y soluciones

  • Autor de la entrada:
  • Categoría de la entrada:AI Actualidad

La inyección de contexto criptográfico es una técnica que permite evadir la seguridad de modelos de lenguaje grande, como Gemini de Google, al manipular su contexto de ejecución. Esto resalta la necesidad de mejorar las defensas ante ataques sofisticados en inteligencia artificial.

Continuar leyendoInyección de contexto criptográfico en LLM: riesgos y soluciones

Vulnerabilidades en IA: Riesgo de backdoors con pocos datos

  • Autor de la entrada:
  • Categoría de la entrada:AI Actualidad

Un estudio revela que modelos de lenguaje pueden desarrollar vulnerabilidades llamadas "backdoors" con solo 250 documentos maliciosos en su entrenamiento. Esto plantea riesgos significativos para la seguridad y la fiabilidad de las aplicaciones de inteligencia artificial, destacando la necesidad de medidas de mitigación.

Continuar leyendoVulnerabilidades en IA: Riesgo de backdoors con pocos datos