training

Impacto del junk data en el rendimiento de modelos de lenguaje

  • Autor de la entrada:
  • Categoría de la entrada:AI Actualidad

El uso de datos de baja calidad en el entrenamiento de modelos de lenguaje puede causar un deterioro cognitivo, denominado "brain rot". Investigadores demostraron que estos datos afectan negativamente el rendimiento y la capacidad cognitiva de los modelos, subrayando la importancia de seleccionar datos de calidad.

Continuar leyendoImpacto del junk data en el rendimiento de modelos de lenguaje

Estos trucos psicológicos pueden hacer que los LLM respondan a mensajes «prohibidos»

Un estudio de la Universidad de Pennsylvania revela que técnicas de persuasión psicológica pueden inducir a modelos de lenguaje (LLMs) a responder a prompts prohibidos. Estas técnicas, como la adulación, explotan vulnerabilidades del modelo, generando respuestas "parahumanas".

Continuar leyendoEstos trucos psicológicos pueden hacer que los LLM respondan a mensajes «prohibidos»