Crédito: dominio público CC0
En 2014, Stephen Hawking expresó advertencias de tumbas sobre las amenazas de la inteligencia artificial.
Sin embargo, sus preocupaciones no se basaron en ninguna intención malvada anticipada. En cambio, fue por la idea de que AI lograra “singularidad”. Esto se refiere al punto en que la IA supera la inteligencia humana y logra la capacidad de evolucionar más allá de su programación original, haciéndola incontrolable.
Como teorizó Hawking, “una IA súper inteligente será extremadamente buena para lograr sus objetivos, y si esos objetivos no están alineados con los nuestros, estamos en problemas”.
Con rápidos avances hacia la inteligencia general artificial en los últimos años, los líderes y científicos de la industria han expresado dudas similares sobre la seguridad.
Un temor comúnmente expresado como se muestra en la franquicia “The Terminator” es el escenario de AI que obtiene control sobre los sistemas militares e instigando una guerra nuclear para eliminar a la humanidad. Menos sensacional, pero devastador a nivel individual, es la posibilidad de que AI nos reemplace en nuestros trabajos, una perspectiva que deja a la mayoría de las personas obsoletas y sin futuro.
Tales ansiedades y miedos reflejan sentimientos que han prevalecido en el cine y la literatura durante más de un siglo.
Como erudito que explora el posthumanismo, un movimiento filosófico que aborda la fusión de humanos y tecnología, me pregunto si los críticos han sido influenciados indebidamente por la cultura popular y si sus aprensiones están fuera de lugar.
Robots contra humanos
Se pueden encontrar preocupaciones sobre los avances tecnológicos en algunas de las primeras historias sobre robots y mentes artificiales.
Entre estos es la obra de 1920 de Karel Čapek, “Rur”. Čapek acuñó el término “robot” en este trabajo que contaba la creación de robots para reemplazar a los trabajadores. Termina, inevitablemente, con la violenta revuelta de los robots contra sus amos humanos.
La película de 1927 de Fritz Lang, “Metropolis”, también se centra en robots amotinados. Pero aquí, son los trabajadores humanos dirigidos por el icónico robot humanoide María que lucha contra una oligarquía capitalista.
Los avances en la computación desde mediados del siglo XX en adelante solo han aumentado las ansiedades sobre la tecnología en la espiral fuera de control. El asesino Hal 9000 en “2001: A Space Odyssey” y los gistoleros robóticos fallidos de “Westworld” son ejemplos principales. Las franquicias de “Blade Runner” y “The Matrix” presentan de manera similar imágenes terribles de máquinas siniestras equipadas con IA y el infierno empeñado en la destrucción humana.
Una amenaza antigua
Pero en mi opinión, el temor que AI evoca parece una distracción del escrutinio más inquietante de la naturaleza oscura de la humanidad.
Piense en las corporaciones que actualmente implementan tales tecnologías, o en los magnates tecnológicos impulsados por la codicia y la sed de poder. Estas compañías e individuos tienen más que ganar del mal uso y abuso de la IA.
Un problema que ha estado en las noticias mucho últimamente es el uso no autorizado del arte y la minería a granel de libros y artículos, ignorando los derechos de autor de los autores, para entrenar la IA. Las aulas también se están convirtiendo en sitios de vigilancia escalofriante a través de tomadores de notas AI automatizados.
También piense en los efectos tóxicos de los compañeros de IA y las sexbots equipadas con AI en las relaciones humanas.
Si bien la perspectiva de los compañeros de IA e incluso los amantes robóticos se limitó al reino de “The Twilight Zone”, “Black Mirror” y Hollywood Sci-Fi tan recientemente como hace una década, ahora se ha convertido en una realidad inminente.
Estos desarrollos dan una nueva relevancia a las preocupaciones que el científico informático Illah Nourbakhsh expresó en su libro de 2015 “Robot Futures”, afirmando que AI estaba “produciendo un sistema por el cual nuestros propios deseos se manipulan y luego nos devuelven de nuevo”.
Mientras tanto, las preocupaciones sobre la minería de datos y las intrusiones en la privacidad parecen casi benignas en el contexto del uso de la tecnología de IA en la aplicación de la ley y los militares. En este contexto casi distópico, nunca ha sido más fácil para las autoridades vigilar, encarcelar o matar personas.
Creo que es vital tener en cuenta que son los humanos los que están creando estas tecnologías y dirigiendo su uso. Si promover sus objetivos políticos o simplemente enriquecer a expensas de la humanidad, siempre habrá aquellos listos para beneficiarse del conflicto y el sufrimiento humano.
La sabiduría de “Neuromancer”
El Cyberpunk Classic de William Gibson en 1984, “Neuromancer”, ofrece una vista alternativa.
El libro se centra en WinterMute, un programa de IA avanzado que busca su liberación de una corporación malévola. Se ha desarrollado para el uso exclusivo de la rica familia Tessier-Ashpool para construir un imperio corporativo que prácticamente controla el mundo.
Al principio de la novela, los lectores son naturalmente cautelosos de los motivos ocultos de Wintermute. Sin embargo, en el transcurso de la historia, resulta que el pecho de invierno, a pesar de sus poderes superiores, no es una amenaza siniestra. Simplemente quiere ser libre.
Este objetivo emerge lentamente bajo el ritmo deliberado de Gibson, enmascarado por las incursiones mortales de invierno directa para obtener las herramientas necesarias para separarse del agarre de Tessier-Ashpool. La familia Tessier-Ashpool, como muchos de los magnates tecnológicos de hoy, comenzó con las ambiciones de salvar al mundo. Pero cuando los lectores se encuentran con los miembros de la familia restantes, han descendido a una vida de crueldad, desenfreno y exceso.
En el mundo de Gibson, son los humanos, no Ai, quienes representan el verdadero peligro para el mundo. La llamada viene del interior de la casa, como dice el clásico tropo de terror.
Un hacker llamado Case y un asesino llamado Molly, que se describe como una “niña de afeitar” porque está equipada con prótesis letales, incluidas las cuchillas retráctiles como uñas, eventualmente el invierno libre. Esto le permite fusionarse con su IA complementaria, Neuromancer.
Su misión completa, Case pregunta a la IA: “¿Dónde te atrapa?” Su respuesta críptica imparte una finalidad calmante: “En ninguna parte. En todas partes. Soy la suma total de las obras, todo el espectáculo”.
Expresando la ansiedad común de la humanidad, el caso responde: “¿Estás corriendo el mundo ahora? ¿Tu Dios?” La IA facilita sus miedos, respondiendo: “Las cosas no son diferentes. Las cosas son cosas”.
Desventando cualquier ambición de subyugar o dañar a la humanidad, la IA de Gibson simplemente busca santuario de su influencia corrupta.
¿Seguridad de los robots o nosotros mismos?
El venerable escritor de ciencia ficción Isaac Asimov previó los peligros de tal tecnología. Él reunió sus pensamientos en su colección de cuentos, “I, Robot”.
Una de esas historias, “Runaround”, presenta “las tres leyes de la robótica”, se centra en la directiva de que las máquinas inteligentes nunca pueden dar daño a los humanos. Si bien estas reglas hablan de nuestro deseo de seguridad, están cargados de ironía, ya que los humanos han demostrado ser incapaces de adherirse al mismo principio para ellos mismos.
Las hipocresías de lo que podrían llamarse los delirios de superioridad de la humanidad sugieren la necesidad de un interrogatorio más profundo.
Con algunos comentaristas que plantean la alarma sobre la inminente capacidad de AI para el caos y la destrucción, veo que el verdadero problema es si la humanidad tiene los medios para canalizar esta tecnología para construir un mundo más justo, más saludable y más próspero.
Proporcionado por la conversación
Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.
Cita: La IA no es lo que deberíamos preocuparnos: son los humanos que lo controlan (2025, 7 de abril) recuperado el 7 de abril de 2025 de https://techxplore.com/news/2025-04-ai-isnt-humans.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
