Diagrama de fase para el ejemplo de una incrustación de token tridimensional dado un vocabulario de 4 palabras. Crédito: ARXIV (2025). Doi: 10.48550/arxiv.2504.04600
Los modelos de IA como ChatGPT han sorprendido al mundo con su capacidad para escribir poesía, resolver ecuaciones e incluso aprobar exámenes médicos. Pero también pueden producir contenido dañino o promover la desinformación.
En un nuevo estudio, los investigadores de la Universidad George Washington han utilizado la física para diseccionar y explicar el mecanismo de atención en el núcleo de los sistemas de IA. La investigación se publica en el servidor ARXIV Preprint.
Los investigadores Neil Johnson y Frank Yingjie Huo analizaron por qué AI se repite, por qué a veces constituye las cosas y de dónde proviene el contenido dañino o sesgado, incluso cuando el aporte parece inocente.
Los investigadores encontraron que el mecanismo de atención en el corazón de estos sistemas se comporta como dos tops giratorios que trabajan juntas para entregar una respuesta. Las respuestas de AI están formadas no solo por la entrada, sino por cómo la entrada interactúa con todo lo que la IA ha aprendido.
Este análisis podría conducir a soluciones que harían que la IA sea más segura, más confiable y resistente a la manipulación.
Más información: Frank Yingjie Huo et al, capturando la atención de AI: física de repetición, alucinación, sesgo y más allá, arxiv (2025). Doi: 10.48550/arxiv.2504.04600
Información en la revista: ARXIV proporcionado por la Universidad de George Washington
Cita: El estudio rompe el código detrás de por qué la IA se comporta como lo hace (2025, 15 de abril) recuperó el 15 de abril de 2025 de https://techxplore.com/news/2025-04-code-ai.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
