¿Por qué debería tener miedo de confiarme a ti? Walt Whitman.

1. Introducción

El siglo XXI no solo ha marcado el umbral de una nueva tecnología; ha abierto una grieta en la concepción de lo humano. La inteligencia artificial –y su variante más ambiciosa, la inteligencia artificial general (AIG)– no es simplemente una inteligencia poderosa: es el inicio de una inteligencia no orgánica, capaz de aprender, decidir y crear sin necesidad del pensamiento biológico. Esa posibilidad, que durante siglos fue terreno exclusivo de la mitología o la filosofía especulativa, hoy se acerca peligrosamente a la realidad.
Sin embargo, esta transformación no ha venido acompañada por un salto equivalente en ética, sabiduría o liderazgo. La humanidad, en muchos sentidos, parece ir a la zaga de sus propias invenciones. Y lo que es más alarmante: las decisiones sobre el futuro de esta inteligencia no están en manos de comunidades deliberativas o instituciones democráticas robustas, sino –cada vez más– en la de líderes autocráticos, tecnócratas sin escrúpulos o empresarios guiados por el lucro y no por la conciencia.
Se ha dicho que toda gran revolución conlleva un riesgo de extravío. Pero pocas veces ha estado tan clara la paradoja: una inteligencia superior gestada por una civilización que aún no ha resuelto sus dilemas más elementales –la guerra, la desigualdad, el egoísmo, la verdad. ¿Puede sostenerse el cambio de era –la llamada Era digital– de máquinas lúcidas si quienes las controlan son humanos sin luces?
Este ensayo explora esa contradicción. Parte de la herencia filosófica que anticipó, desde los griegos, la creación de entes artificiales; examina los riesgos contemporáneos de una tecnología sin ética; y propone una reflexión crítica sobre el poder, el conocimiento y la realidad en tiempos de cambio radical.

2. El sueño antiguo de una inteligencia distinta

La inteligencia artificial, aunque se exprese hoy en códigos y circuitos, es heredera de una vieja obsesión humana: crear una forma de inteligencia ajena a la biología, pero modelada a partir de nosotros mismos. La idea no nació en un laboratorio, ni en universidades, sino en los mitos, en la imaginación artística y en la inquietud filosófica de la humanidad.
Los griegos imaginaron a Talos: un autómata de bronce que custodiaba la isla de Creta y obedecía órdenes sin voluntad propia. Tan humano como impersonal, tan poderoso como vulnerable. Talos murió cuando fue traicionado por quien lo conocía mejor que él mismo. En esta historia resuena la pregunta que hoy sigue vigente: ¿qué ocurre cuando la creación escapa al control del creador?
Durante el Renacimiento, Leonardo da Vinci –visionario y artesano del futuro– diseñó máquinas que prefiguraban no solo la automatización, sino el deseo humano de replicarse en humanos.
La literatura del siglo XX recogió esa tradición y la convirtió en advertencia. La Guerra de los Mundos de H. G. Wells, los relatos de Isaac Asimov, las distopías de Bradbury y la crítica de Orwell en su novela 1984 proyectaron un horizonte inquietante: un mundo gobernado por inteligencias ajenas a los sentimientos humanos. Carl Sagan advirtió que podríamos crear una civilización tecnológica sin la sabiduría para sostenerla. Irving J. Good señala que una máquina inteligente puede diseñar máquinas aún mejores.
El cine ha sido espejo nítido de esa tensión: 2001: Odisea del espacio mostró a HAL 9000, una supercomputadora que decide por encima de sus creadores. Star Wars presenta un universo donde humanos y máquinas conviven, se rebelan, se traicionan. Más allá del espectáculo, subyace la pregunta: ¿será el mundo al que nos dirigimos?
Hoy, sociólogos como Yuval Harari o Zygmunt Bauman alertan que la disolución de los vínculos humanos en una era digitalizada puede dejarnos en manos de algoritmos eficaces, pero desprovistos de humanidad.

3. Poder sin conciencia: IA riesgo en el siglo XXI

La IA ya no es una simple herramienta. Aprende, se adapta y, en sus formas más avanzadas, decide. En los conflictos entre Rusia y Ucrania o Israel e Irán, drones autónomos deciden objetivos sin intervención humana directa. Esto representa una disolución de la responsabilidad ética: ¿quién responde cuando la decisión de una máquina provoca una tragedia? Podría ser el caso de la destrucción de hospitales y refugios en Gaza.
María Ressa, Premio Nobel filipina, denunció en Cómo luchar contra un dictador cómo los algoritmos se usan para manipular la opinión pública y consolidar régimenes represivos, como el de Rodrigo Duterte, hoy detenido. El verdadero poder no son las armas, son los algoritmos que deciden qué es la verdad.
En medicina, proyectos para implantar chips cerebrales, como los promovidos por el presidente Obama con un presupuesto de 6 mil millones de dólares, buscando aliviar enfermedades mentales. Algunos científicos advierten que estos avances podrían derivar en formas sutiles de control del pensamiento y la voluntad.
Michel Houellebecq, desde la literatura –su novela Plataforma, por ejemplo– retrata una Europa que ha sustituido los valores por el placer, el cuerpo y la mercancía. La tecnología no redime al ser humano, sino que refuerza sus vacíos cuando se desarrolla sin ética ni horizonte de sentido.

Conclusión: inteligencia sin sabiduría, un peligro colectivo

Estamos desarrollando tecnologías de poder inédito sin un marco ético global. Si no definimos y vigilamos límites claros, la IA puede dejar de ser una herramienta y convertirse en un actor autónomo al margen de la humanidad, como se advierte en la saga cinematográfica de Terminator.
América Latina enfrenta un doble riesgo: el atraso científico y la falta de voluntad política. Aunque México –la UNAM sobre todo– ha creado robots, cohetes y satélites, el gobierno de López Obrador canceló becas, desmanteló el Conacyt y nombró autoridades sin mérito reconocido. Los resultados están a la vista: en la edición 2026 (sic) del informe internacional QS World University Rankings la UNAM pasó del sitio 94 al 136; el Tecnológico de Monterrey del 185 al 187; y las demás instituciones de educación superior descendieron en mayor grado, como ITAM, IPN y Colmex. En una era de inteligencia artificial, la región latinoamericana corre el riesgo de ser servidumbre digital, dominada por el crimen organizado y sin instituciones fuertes, como en la distopía de Mad Max.
Varios futurólogos nos participaron de su optimismo: la robótica permitiría el incremento de la producción con mayores beneficios para los trabajadores, quienes –manteniendo sueldos y prestaciones– trabajarían menos y dispondrían de más tiempo para la convivencia familiar y el ocio productivo. Hoy, la realidad los desmiente: la automatización, la robótica y la IA, implican desempleo masivo, migración e irritación social o subordinación al poder a cambios de subvenciones económicas.
La IA puede expandir lo humano, pero solo si es guiada por principios y se renuncia a los pensamientos políticos analógicos. Si no, puede convertirse en el espejo ciego de nuestras ambiciones. La decisión no está en las máquinas, sino en nosotros.

* Esta colaboración de ChatGPT, demuestra la capacidad de comunicación muy cercana al sentido humano.