OpenAI busca eliminar el sesgo político en ChatGPT para garantizar que sea una herramienta imparcial y confiable. Identifica comportamientos a evitar y reconoce la dificultad de definir y medir el sesgo, comprometiéndose a promover la objetividad y la confianza en su modelo.
Un estudio revela que modelos de lenguaje pueden desarrollar vulnerabilidades llamadas "backdoors" con solo 250 documentos maliciosos en su entrenamiento. Esto plantea riesgos significativos para la seguridad y la fiabilidad de las aplicaciones de inteligencia artificial, destacando la necesidad de medidas de mitigación.
DeepSeek ha lanzado un modelo de lenguaje que utiliza atención dispersa de grano fino, reduciendo costos de procesamiento en IA. Esta innovación busca maximizar el rendimiento con recursos limitados, democratizando el acceso a tecnologías avanzadas de inteligencia artificial.
El taarof es un ritual social persa que complica las interacciones cotidianas. Un estudio revela que los modelos de IA tienen dificultades para entenderlo, logrando solo entre el 34 y el 42 por ciento de aciertos, lo que resalta la necesidad de integrar el contexto cultural en su desarrollo.
OpenAI implementará un sistema automatizado para verificar la edad de los usuarios de ChatGPT, dirigiendo a los menores a una versión restringida. Además, se introducirán controles parentales y se requerirá verificación de identidad para adultos, generando debates sobre privacidad y seguridad.
OpenAI y Microsoft han firmado un acuerdo preliminar para revisar su colaboración, reflejando una relación compleja de competencia y cooperación en inteligencia artificial. Ambas buscan nuevas asociaciones y se comprometen a la seguridad mientras OpenAI se transforma en una entidad con fines de lucro.
Tencent lanzó HunyuanWorld-Voyager, un modelo de IA que transforma imágenes en videos 3D explorables. Funciona mediante una única imagen y una trayectoria de cámara definida por el usuario, aunque requiere un alto poder de procesamiento de GPU.
Sakana AI ha desarrollado el algoritmo evolutivo M2N2, que fusiona modelos existentes para crear agentes multifuncionales. Esta técnica reduce costos y necesidades de datos, permitiendo aplicaciones versátiles y eficientes en múltiples industrias, como salud y finanzas.