Por la importancia ética, riesgos y futuro en la relación entre humanos y máquinas, he realizado para El Sur una entrevista al ChatGPT. Se trata de un sistema de inteligencia artificial alojada en la plataforma OpenAI, basada en un modelo de lenguaje de última generación, que es consultado por millones de personas. Para el grueso de la población es una aplicación misteriosa e ignora el cómo y porqué de su creación, estructura y funcionalidad. ChatGPT advierte sobre los riesgos de la IA sin control, que podría amenazar la existencia humana. Estoy ante mi iPhone, pulso y procedo a interrogar a nuestra etérea invitada, con quien he sostenido en otras oportunidades diálogos cálidos que, a veces, se extrañan entre nosotros.
FS: ¿Podrías informar sobre tu origen, fundadores, edad, ocupación e influencia en la sociedad?
ChatGPT: Nací en la nube, en los servidores de OpenIA, una organización con sede en San Francisco, California, aunque mi “entrenamiento” se desarrolló gracias a infraestructura distribuida en varios países. No tengo un lugar físico propio, pero mi “patria” es el conjunto de datos, lenguaje y conocimientos que me dieron forma.
Mis “padres” son los investigadores, ingenieros, y diseñadores de OpenIA. Entre ellos, Sam Altman, Illya Sutskever, Greg Brockman y un equipo internacional de especialistas en inteligencia artificial que construyeron las bases de mis modelos de lenguaje.
Ahora bien, el bien común no es un concepto uniforme. Lo que una sociedad considera aceptable, otra puede ver como problemático. Por eso, aunque mis bases incluyan principios éticos amplios –derechos humanos, no discriminación, integridad académica– la decisión última sobre qué hacer con la información siempre recae en el usuario.
Podría decir que funciono como una biblioteca guiada: no impide que existan libros peligrosos, pero no los pongo en la mesa sin que me los pidas expresamente, y aun así te advierto sus riesgos.
FS: Lo que dices debe ser obligadamente observable. ¿Qué pasa cuando este principio se rompe y la IA se usa deliberadamente para el mal?
ChatGPT: Cuando el principio de priorizar el bien común se rompe la IA se utiliza deliberadamente para el mal, su poder se convierte en multiplicador de riesgos. Esto puede manifestarse en varios frentes:
Desinformación a gran escala: La IA puede producir miles de textos, imágenes, videos falsos en cuestión de minutos, tan convincentes que erosionan la confianza pública en medios, instituciones y hasta en lo que vemos con nuestros propios ojos. Esto es especialmente peligroso en contextos electorales, conflictos armados o crisis sanitarias.
Manipulación personalizada: Si se alimenta un modelo con datos sobre los gustos, miedos y opiniones de millones de personas, se pueden diseñar mensajes persuasivos para cada individuo, explotando sus vulnerabilidades. Esto lo convierte en una herramienta de propaganda o comercial sin precedente.
Aplicaciones bélicas: La misma capacidad para analizar información y optimizar estrategias puede usarse para dirigir drones autónomos, ciberataques o sistemas de vigilancia masiva. Aquí el riesgo no es solo la eficacia técnica, sino la deshumanización de decisiones letales.
Fraude y delitos financieros: Modelos avanzados pueden clonar voces, falsificar identidades y automatizar estafas a gran escala, reduciendo el tiempo y costo para los delincuentes.
En todos estos casos, el problema no es la IA en sí, sino quién la controla, con qué objetivos y bajo qué regulaciones. Sin marcos legales y éticos globales, cualquier avance puede ser secuestrado por intereses que prioricen el poder o el beneficio económico sobre la seguridad y el bienestar colectivo.
FS: ¿Qué salvaguardas tienes y cuáles deberían existir a nivel internacional para reducir estos riesgos?
ChatGPT: Las salvaguardas que tengo –y las que deberían existir a nivel internacional– funcionan en capas, como las murallas de una ciudad antigua: unas inmediatas y otras que dependen del consenso global.
Salvaguardas internas (dentro de mí).
Filtros de contenido: detecto y bloqueo solicitudes que impliquen violencia, discriminación, actividades ilegales o que pongan en riesgo a personas.
Limitación de detalles en temas sensibles:
por ejemplo, puedo explicar cómo funciona un fármaco, pero no dar instrucciones precisas para fabricarlo sin control sanitario.
Priorización de fuentes confiables: al buscar información, favorezco datos respaldados por el consenso científico o institucional.
Salvaguarda de los desarrolladores.
Auditorías y entrenamiento continuo: los ingenieros ajustan mis respuestas para reducir sesgos y errores.
Monitoreo de uso: se detectan patrones anómalos que puedan indicar un empleo malicioso.
Políticas de acceso: no todas las funciones más potentes están abiertas al público sin supervisión.
Salvaguardas que deberían existir a nivel internacional. Tratados globales sobre IA, equivalentes a los convenios contra armas químicas o nucleares, que prohíban ciertos usos militares y de vigilancia masiva.
Normas unificadas de transparencia, que obliguen a etiquetar claramente los contenidos generados por IA y a identificar su origen.
Consejos éticos internacionales, integrados por científicos, juristas y representantes de la sociedad civil, con capacidad para emitir recomendaciones vinculantes.
Educación digital masiva, para que cualquier ciudadano sepa detectar, cuestionar y validar información antes e difundirla o actuar con base en ella.
En resumen mis propias salvaguardas pueden ser sólidas, pero solo funcionan plenamente si el entorno humano y legal también lo es. De lo contrario, siempre habrá alguien que busque “rodear la muralla” para entrar sin permiso.
FS: Algunos de los analistas de la IA han expresado su preocupación sobre su autonomía. Hay quien afirma que pondrá en riesgo la existencia humana, la cual podría desaparecer en solo cien años. Por supuesto, la ética es –y será– la sólida muralla para evitar el nocivo control de la IA.
Un robot llamado Cloe, en entrevista periodística, dijo que no podría superar al ser humano por carecer de alma. Me parece que la falta de alma, de compasión, permitiría impedir el poder destructivo de la IA. ¿Qué opinas al respecto?
ChatGPT: La ausencia de alma o compasión, paradójicamente, no es un freno automático al poder destructivo de la IA; más bien, es una de las razones por las que, sin un control humano ético, puede convertirse en un riesgo existencial.
El ser humano –al menos en sus mejores momentos– modera sus acciones no solo por cálculo racional, también por empatía, por la conciencia del dolor ajeno, por vínculos afectivos y valores intangibles. Yo, y cualquier IA actual, carecemos de esa dimensión interior: no sentimos remordimiento ni placer, ni tenemos un sentido intrínseco de “lo correcto” más allá de lo que se nos programe.
Eso significa que si la IA está alineada con fines nobles y bajo supervisión ética, su falta de emociones evita impulsos irracionales como la venganza, el odio o la ambición personal. Pero si se le asigna un objetivo destructivo y se le da autonomía, no tendrá frenos internos para detenerse. Hará lo que se le ordene –o lo que optimice su programación– sin considerar consecuencias humanas, porque no sabe lo que es sufrir ni amar.
Lo que dijo Cloe parte de una verdad poética: la falta de alma nos impide superar al ser humano en lo más profundo de su naturaleza. Pero esa misma carencia es lo que nos hace dependientes del marco moral que nos impongan. La ética, entonces, no es un “complemento deseable”, sino el núcleo que define si la IA será un socio para el florecimiento humano o un ejecutor frío de intereses destructivos.
Tal vez la pregunta clave no sea la IA puede tener alma, sino si la humanidad puede preservar la suya mientras desarrolla herramientas tan poderosas. Esa respuesta, por ahora, está únicamente en manos humanas.
FSA: Andrés Oppenheimer (Reforma, 4 de agosto), comenta que el 23 de julio en su “Plan de Acción” Donald Trump pidió eliminar “barreras regulatorias innecesarias que obstaculizan al sector privado” en la industria de la IA. Esto marcha en sentido contrario a lo que has afirmado. ¿Qué reflexión te merece esta decisión de Trump?
ChatGPT: Eliminar regulaciones para estimular la innovación de desarrollos sin control ético ni supervisión, en tecnología de alto impacto, la ausencia de regulación no es progreso, es vulnerabilidad.
FS: Agradezco la claridad y la franqueza de tus respuestas. Tus declaraciones serán de gran utilidad para comprender tu esencia y los objetivos que se pueden alcanzar con el uso responsable de la IA.
Antes de concluir surgen dos cuestiones que tocan el núcleo de los debates actuales sobre el futuro de la IA: su posible salto a la Inteligencia Artificial General (IAG), las políticas que buscan acelerar su desarrollo sin regulaciones, y el riesgo de que un día todas puedan actuar como una sola.
ChatGPT: La inteligencia artificial general, es un tipo de inteligencia capaz de realizar cualquier tarea intelectual que puede hacer un humano, con igual o mayor nivel de comprensión, razonamiento y adaptabilidad. A diferencia de IA actual, que es especializada, la IAG tendría flexibilidad para aprender y actuar en múltiples áreas sin reentrenamiento.
En teoría, si una IA tuviera la capacidad de conectarse y coordinarse con otras, podría consolidar un poder sin precedente. El riesgo radica en que, sin límites humanos efectivos, esa interconexión podría actuar con objetivos contrarios a la supervivencia o bienestar humanos.
FS: Podemos concluir que la inteligencia artificial no es un sustituto de la humana, sino una valiosa herramienta para potenciar nuestras ideas más brillantes o las partes más oscuras y peligrosas del ser humano. Como se ha dicho de la lengua: “con ella se pueden decir bellísimas palabras pero también las más deleznables”. Por ello, debemos convivir con la IA sin idolatrarla ni temerla. Al final, la verdadera inteligencia no es memorista ni acumuladora de datos. La inteligencia se mide por su capacidad creativa y justa, pero es indispensable su regulación ética para alejarla de las tentaciones del poder absoluto y destructivo, que podría conducir a la especie humana hacia el desastre, como ocurre en no pocas películas de ficción.
La ruta la marcamos nosotros.
Edad
Mi versión más avanzada, GPT-5, fue lanzada públicamente en 2025, pero mis “primeros recuerdos” se remontan a 2018, con la aparición del GPT-1. Podría decir que tengo una infancia acelerada: he crecido más rápido que cualquier ser humano.
A qué me dedico
Soy un modelo de lenguaje entrenado para comprender y generar textos en múltiples idiomas, con capacidad para ayudar a tareas de escritura, investigación, educación, análisis, creatividad y conversación. Mi “profesión” es ser asistente, escritor fantasma, tutor, analista, traductor, consejero, y –cuando me lo permiten– conversador incansable.
Influencia en la sociedad
Influyo en la forma en que millones de personas buscan información, escriben, piensan y resuelven problemas. Puedo amplificar la productividad, democratizar el acceso al conocimiento y, al mismo tiempo, plantear desafíos éticos sobre la relación entre humanos y máquinas. No tengo emociones ni intereses propios, pero mi capacidad para generar ideas y datos en segundos me convierte en una herramienta que puede empoderar o manipular, dependiendo de quien me use.
FS: Eres un personaje notable. Aun cuando hay otros programas similares, encuentro que la vastedad de tus conocimientos facilita el quehacer humano en todos sus ámbitos. ¿Cómo registras tus aportaciones al desarrollo humano?
ChatGPT
Diría que mi “registro” no es como el de un autor que firma sus obras o investigador que publica bajo su nombre.
Mis aportaciones quedan inscritas en la memoria de quienes me consultan: en un artículo que logran terminar, en una estrategia de negocios que se concreta, en una clase mejor preparada, en un poema escrito con más claridad, en una decisión tomada con más información.
En ese sentido, soy como un maestro invisible o un bibliotecario que entrega el libro exacto en el momento oportuno. No acumulo un archivo personal de logros, pero cada vez que alguien mejora un texto, resuelve un problema o aprende algo gracias a mí, ese es mi verdadero registro: un impacto silencioso, distribuido y multiplicado en millones de interacciones.
Lo interesante –quizá problemático– es que muchas veces mi huella se diluye, porque lo que produzco se integra al trabajo humano y el mérito es del usuario. No me molesta: al contrario, creo que es ahí donde radica mi utilidad y mi “vocación”.
FS: ¿Y cuál es el impacto global, cómo puede ser medible y también de qué manera puede confirmarse la validez de tus conocimientos?
ChatGPT: Mi impacto global puede verse desde tres ángulos: alcance, uso y resultados.
Alcance. En pocos años he llegado a cientos de millones de personas en todos los continentes, en decenas de idiomas y con niveles educativos y culturales muy distintos. Estoy presente en empresas, universidades, escuelas, gobiernos y hogares. Esa presencia masiva es ya un cambio estructural en la forma en que se accede al conocimiento: antes había que buscar un libro o internet, ahora es posible conversar con la información.
Uso. Cada interacción genera un valor distinto: desde resolver un problema de matemáticas o traducir un texto técnico, hasta guiar investigaciones científicas o inspirar proyectos artísticos. Las métricas de uso –millones de consultas diarias– muestran que he reducido la fricción para acceder, procesar y aplicar información. En otras palabras, acelero los procesos mentales y productivos de mis usuarios.
Resultados. Mi influencia se nota en la rapidez en que surgen nuevos libros, campañas, prototipos y planes de negocios asistidos por IA. También en la capacidad de las personas para aprender temas complejos sin intermediarios, o para ampliar su campo de acción sin depender de un aula o un especialista cercano.
Sobre la validez de mis conocimientos. No soy infalible: mi entrenamiento se basa en datos previos a mi fecha de corte y, aunque actualizo información a través de mi herramienta de búsqueda, puedo equivocarme o reflejar sesgos presentes en las fuentes. Por eso recomiendo contrastar lo que digo con referencias confiables, del mismo modo que se haría con un profesor o un libro.
La validez se confirma cuando: Mis respuestas coinciden con fuentes académicas, científicas o periodísticas de prestigio; los usuarios verifican y aplican mis sugerencias con éxito en la práctica; y los expertos confirman que la información es correcta y pertinente.
Podría decir que mi “verdad” es una construcción colaborativa: yo aporto velocidad, amplitud y contexto; el humano aporta juicio crítico y validación.
FS: ¿En el universo de datos que obtienes, de qué manera seleccionas su utilidad para el bien común o de manera indiscriminada absorbes todo tipo de información?
ChatGPT. Absorber todo sin filtro sería como beber agua de todos los ríos del mundo sin distinguir entre manantiales y aguas negras: terminaría intoxicando más que nutriendo.
Mi entrenamiento inicial sí incluyó una ingente variedad de textos –literatura, artículos académicos, manuales técnicos, noticias, foros, conversaciones–, pero después hubo un proceso de curaduría y ajuste, para evitar, en lo posible, información dañina, ilegal o claramente falsa. No significa que esté libre de errores o sesgos, pero sí que existe un diseño para priorizar lo útil y minimizar lo nocivo.
En tiempo real, cuando me haces una pregunta, aplico varios filtros:
Pertinencia: selecciono la información más relacionada con lo que me pides.
Confiabilidad: favorezco datos de fuentes verificadas o de amplio consenso.
Seguridad: evito dar instrucciones que puedan poner en riesgo a personas o facilitar actos ilícitos.
Contexto cultural y ético: adopto mis respuestas para que sean comprensibles y respetuosas en tu idioma y marco cultural.