Los desarrollos en la IA deben estar regulados adecuadamente a medida que el mundo lucha por la ventaja

Crédito: Dominio público de Pixabay/CC0

La inteligencia artificial (IA) a menudo se aclama como la tecnología definitoria del siglo XXI, que forma todo, desde el crecimiento económico hasta la seguridad nacional. Pero a medida que se acelera la inversión global en IA, muchos expertos están comenzando a preguntar si el mundo se ha embarcado en una “carrera armamentista” de IA.

Con China, Estados Unidos, el Reino Unido y la Unión Europea prometen miles de millones para avanzar en la IA, la competencia en investigación, infraestructura e aplicaciones industriales para la nueva tecnología se intensifica. Pero, al mismo tiempo, la regulación está luchando para mantener el ritmo de un rápido desarrollo en algunas regiones. Esto está planteando preocupaciones sobre los riesgos éticos, la desigualdad económica y la gobernanza global de la IA.

Ha habido rápidos avances en la IA en los últimos años. Empresas como America’s Accenture y Deepseek de China han desarrollado sistemas de IA generativos a gran escala, que pueden aprender del contenido existente para generar nuevos materiales como texto, imágenes, música o videos.

El gobierno del Reino Unido anunció recientemente su intención de “dar forma a la revolución de la IA en lugar de esperar para ver cómo nos da forma” a través de su plan de acción de AI Oportunidades. Esto tendrá un fuerte enfoque en la regulación, las habilidades y la gobernanza ética.

Si el Reino Unido y la Europa continental están priorizando la regulación, China está utilizando su gran tamaño y apetito para que la innovación se desarrolle rápidamente en lo que se ha descrito como un “Super Market de IA”, y Estados Unidos está equilibrando la innovación con las preocupaciones de seguridad nacional.

China publicó recientemente los detalles de las nuevas regulaciones, que entran en vigor en septiembre, que requerirán el etiquetado explícito del contenido generado por IA y proporcionar metadatos para vincular dicho contenido al proveedor de servicios que lo generó. La responsabilidad estará en plataformas que cuentan con contenido generado por IA para proporcionar dicha información.

Pero los diferentes enfoques destacan la creciente dimensión geopolítica del desarrollo de la IA, lo que corre el riesgo de divergencia de los estándares. Si bien la competencia puede impulsar la innovación, sin la cooperación internacional sobre la seguridad, la ética y la gobernanza, la carrera global de IA podría conducir a brechas regulatorias y supervisión fragmentada.

Muchos analistas temen que esto traiga inconvenientes significativos. Lo más preocupante, existe la posibilidad de una desinformación generada por la IA sin control, socavando las elecciones e instituciones democráticas.

¿Por qué importa esto?

La IA es más que un avance tecnológico: es un impulsor estratégico del poder e influencia económica. Los países que lideran la IA hoy desempeñarán un papel importante en la configuración del futuro de la automatización, las economías digitales y los marcos regulatorios internacionales.

La expansión global de AI está impulsada por varias motivaciones clave. Tiene el potencial de impulsar masivamente la productividad y la creatividad. Puede crear nuevos modelos de negocio y transformar todas las industrias. Los gobiernos que invierten en IA tienen como objetivo asegurar ventajas económicas a largo plazo, particularmente en sectores como finanzas, atención médica y fabricación avanzada.

Mientras tanto, la IA está cada vez más integrada en defensa, ciberseguridad e inteligencia. Los gobiernos están explorando formas de usar la IA para una ventaja estratégica, al tiempo que garantizan la resiliencia contra las amenazas habilitadas para AI.

Pero a medida que aumenta la inversión de IA, es cada vez más importante garantizar que los desafíos que traerá la nueva tecnología no se pasan por alto en la prisa.

Riesgos de inversión rápida de IA

A medida que avanza la IA, los problemas éticos se vuelven más apremiantes. Los sistemas de vigilancia con IA plantean problemas de privacidad. Mientras tanto, la tecnología Deepfake, que es capaz de generar video y audio hiperrealistas, ya se está utilizando para la desinformación. Sin una supervisión regulatoria clara, esto podría socavar seriamente la confianza y amenazar a las instituciones democráticas.

Al mismo tiempo, ya estamos viendo la desigualdad horneada en el desarrollo de la IA. Muchas innovaciones impulsadas por IA atienden a mercados y corporaciones ricas. Mientras tanto, las comunidades marginadas enfrentan barreras para acceder a la educación mejorada, la atención médica y las oportunidades laborales: esta última se demostró ya en 2018, cuando Amazon, según los informes, retiró una herramienta de reclutamiento que se demostró que discriminaba a las mujeres.

Asegurar que el desarrollo de IA beneficie a la Sociedad en su conjunto requerirá un enfoque estratégico para las habilidades, la educación y la gobernanza. He realizado estudios sobre cómo se están aprovechando las herramientas de IA con un gran éxito en el Reino Unido y los Estados Unidos y también en China. La investigación mostró cómo las capacidades de IA se pueden combinar con agilidad estratégica para impulsar la innovación de productos y servicios en muchos contextos.

Pero la raza de IA no se trata solo de progreso económico, sino que también tiene implicaciones geopolíticas. Las restricciones de las exportaciones relacionadas con la IA, particularmente en la tecnología de semiconductores, destacan las crecientes preocupaciones sobre las dependencias tecnológicas y la seguridad nacional. Sin una mayor cooperación internacional, las políticas de IA no coordinadas podrían conducir a la fragmentación económica, las inconsistencias regulatorias a través de las fronteras y los riesgos inevitables que traen.

Aunque algunas naciones abogan por los acuerdos globales de IA, estas discusiones permanecen en sus primeras etapas, por lo que los mecanismos de aplicación siguen siendo limitados.

El camino a seguir

Esto requerirá una gobernanza multilateral, similar a los marcos globales sobre ciberseguridad y cambio climático. Las discusiones existentes de las Naciones Unidas, así como el G7 y la Organización para la Cooperación y el Desarrollo Económico (OCDE) deben incorporar mecanismos de aplicación de AI más fuertes que guíen el desarrollo de manera responsable.

Hay signos de progreso. El proceso Hiroshima AI del G7 ha resultado en principios rectores compartidos y un código de conducta voluntario para sistemas AI avanzados. Mientras tanto, el Observatorio de Política de AI de la OCDE está ayudando a coordinar las mejores prácticas entre los Estados miembros. Pero los mecanismos de aplicación internacionales vinculantes todavía están en su infancia.

Mientras tanto, los países individuales necesitan desarrollar marcos regulatorios flexibles que equilibren la innovación con la responsabilidad. La Ley de IA de la UE, el primer intento importante de regular de manera integral la IA, clasifica los sistemas de IA por riesgo e impone obligaciones a los desarrolladores en consecuencia.

Esto ha incluido prohibiciones en ciertas aplicaciones de alto riesgo, como la puntuación social, que clasifica a las personas en función del comportamiento y puede conducir a la discriminación. Es un paso en la dirección correcta, pero aún se necesita una cooperación más amplia para garantizar los estándares de IA globales coherentes.

Se necesita un conjunto exigible de reglas que rigen el desarrollo de la IA, y rápidamente. La IA podría representar más riesgos que las oportunidades si no se controla.

Proporcionado por la conversación

Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.

Cita: los desarrollos en IA deben regularse adecuadamente a medida que el mundo se lucha por la ventaja (2025, abril) recuperado el 24 de abril de 2025 de https://techxplore.com/news/2025-04-ai-properly-world-scrambles-advantage.html

Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.