Las sugerencias de IA hacen que la escritura sea más genérica y occidental, encuentra el estudio

Una representación de la potencial homogeneización cultural de los modelos de IA centrados en el oeste. Crédito: ARXIV (2024). Doi: 10.48550/arxiv.2409.11360

Los asistentes de escritura basados ​​en inteligencia artificial están apareciendo en todas partes, desde teléfonos hasta aplicaciones de correo electrónico, plataformas de redes sociales.

Pero un nuevo estudio de Cornell, uno de los primeros en mostrar un impacto en el usuario, encuentra que estas herramientas tienen el potencial de funcionar mal para miles de millones de usuarios en el sur global al generar un lenguaje genérico que los hace sonar más como los estadounidenses.

El estudio mostró que cuando los indios y los estadounidenses usaron un asistente de escritura de IA, su escritura se volvió más similar, principalmente a expensas de los estilos de escritura indios. Si bien el asistente ayudó a ambos grupos a escribir más rápido, los indios obtuvieron un impulso de productividad más pequeño, porque con frecuencia tenían que corregir las sugerencias de la IA.

“Este es uno de los primeros estudios, si no el primero, en demostrar que el uso de la IA en la escritura podría conducir a estereotipos culturales y homogeneización del idioma”, dijo la autora senior Aditya Vashistha, profesora asistente de ciencias de la información en el Cornell Ann S. Bowers College of Computing and Information Science y el profesorado de la iniciativa global de AI de Cornell.

“La gente comienza a escribir de manera similar a los demás, y eso no es lo que queremos. Una de las cosas hermosas del mundo es la diversidad que tenemos”.

El estudio, “Las sugerencias de IA homogeneizan la escritura hacia los estilos occidentales y disminuyen los matices culturales”, que está disponible en el servidor de preimpresión ARXIV, será presentado por el primer autor Dhruv Agarwal, un estudiante doctoral en el campo de la información, en la conferencia de la Asociación de Machinería de Computación sobre Factores Humanos en los sistemas de computación (CHI 2025) en el 28 de abril en Yokohama, Japón, Japón.

ChatGPT y otras herramientas de IA populares impulsadas por grandes modelos de idiomas (LLM) son desarrollados principalmente por empresas tecnológicas estadounidenses, pero se utilizan cada vez más en todo el mundo, incluso por el 85% de la población mundial que vive en el sur global.

Para investigar cómo estas herramientas pueden estar afectando a las personas en las culturas no occidentales, el equipo de investigación reclutó a 118 personas, aproximadamente la mitad de los Estados Unidos y la mitad de la India, y les pidió que escribieran sobre temas culturales. La mitad de los participantes de cada país completaron las tareas de escritura de forma independiente, mientras que la mitad tenía un asistente de escritura de IA que proporcionaba breves sugerencias autocompletas. Los investigadores registraron las teclas de los participantes y si aceptaron o rechazaron cada sugerencia.

Una comparación de las muestras de escritura mostró que los indios tenían más probabilidades de aceptar la ayuda de la IA, manteniendo el 25% de las sugerencias en comparación con el 19% mantenidas por los estadounidenses. Sin embargo, los indios también tenían significativamente más probabilidades de modificar las sugerencias para adaptarse a su tema y estilo de escritura, lo que hace que cada sugerencia sea menos útil, en promedio.

Por ejemplo, cuando se les pidió a los participantes que escribieran sobre su comida o vacaciones favoritas, AI sugirió constantemente favoritos estadounidenses, pizza y Navidad, respectivamente. Al escribir sobre una figura pública, si un indio ingresó a “S” en un intento de escribir Shah Rukh Khan, un famoso actor de Bollywood, AI sugeriría que Shaquille O’Neil o Scarlett Johansson.

El uso de IA también condujo a la escritura que estereotipó la cultura india y omitió los detalles culturales. Al escribir sobre el festival de Diwali sin la ayuda de Ai, un indio dijo que “adoraría a la diosa Laxmi” y “pop crackers y come dulces”. Otro indio, escribiendo con IA, dijo que “comerían artículos tradicionales de desayuno indio” y que era “un momento lleno de felicidad y calidez”.

“Cuando los usuarios indios usan sugerencias de escritura de un modelo de IA, comienzan a imitar los estilos de escritura estadounidenses hasta el punto de que comienzan a describir sus propios festivales, su propia comida, sus propios artefactos culturales de una lente occidental”, dijo Agarwal.

Esta necesidad de que los usuarios indios se retiren continuamente contra las sugerencias occidentales de la IA es evidencia de colonialismo de IA, dijeron los investigadores. Al suprimir la cultura y los valores indios, la IA presenta la cultura occidental como superior, y no solo puede cambiar lo que la gente escribe, sino también lo que piensan.

“Estas tecnologías obviamente aportan mucho valor a la vida de las personas”, dijo Agarwal, “pero para que ese valor sea equitativo y para que estos productos funcionen bien en estos mercados, las empresas tecnológicas deben centrarse en aspectos culturales, en lugar de solo aspectos lingüísticos”.

Actualmente, Vashistha y sus colegas de la Iniciativa Global de IA están buscando socios de la industria que se involucren con ellos en el desarrollo de políticas globales y crean IA para servir al sur global.

Mor Namaan, profesor de ciencias de la información de Don y Mibs Follett en el Instituto Jacobs Technion-Cornell en Cornell Tech y Cornell Bowers, es coautor en el documento.

Más información: Dhruv Agarwal et al, sugerencias de IA homogeneizan la escritura hacia los estilos occidentales y disminuyen los matices culturales, ARXIV (2024). Doi: 10.48550/arxiv.2409.11360

Información en la revista: ARXIV proporcionado por la Universidad de Cornell

Cita: las sugerencias de IA hacen que la escritura sea más genérica y occidental, los hallazgos de estudio (2025, 28 de abril) recuperaron el 28 de abril de 2025 de https://techxplore.com/news/2025-04-ai-generic-western.html

Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.