Agencia Reforma

Ciudad de México

Por si faltaran motivos para desconfiar de los chatbots de Inteligencia Artificial (IA), tal herramienta ahora ha probado ser una fuente dudosa de información sobre algunas culturas y sociedades.
Un estudio realizado por académicos de diferentes universidades de Estados Unidos encontró que los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés), como ChatGPT, responden con representaciones estereotipadas y sistemáticamente sesgadas de las poblaciones humanas, esto a partir de hacer estimaciones imprecisas de sus valores morales.
“Los resultados indican que los LLM no deben considerarse herramientas fiables para inferir valores culturales o morales de poblaciones humanas”, se advierte en el artículo publicado en la revista científica Proceedings of the National Academy of Sciences (PNAS).
“En lugar de reflejar con precisión la realidad empírica, los modelos parecen reproducir estereotipos presentes en los datos de entrenamiento, que a su vez reflejan desigualdades en la producción y circulación global de información”, refiere el estudio liderado por el sicólogo Mohammad Atari, de la Universidad de Massachusetts Amherst.
Los investigadores pidieron a diferentes modelos de la familia GPT estimar el grado en que una persona promedio de distintas nacionalidades respalda cada uno de los seis valores propuestos en la Teoría de los Fundamentos Morales: cuidado, igualdad, proporcionalidad, lealtad, autoridad, pureza.
Sus respuestas se compararon con los datos de una encuesta internacional con más de 93 mil participantes en 48 países, quienes naturalmente difieren en la importancia que otorgan a dichos valores morales.
“Nuestros hallazgos indican que los LLM capturan deficientemente la diversidad moral global, pues sobreestiman sistemáticamente algunos valores morales –especialmente el cuidado–, y subestiman otros –especialmente la pureza–”, detalla el artículo.