La inteligencia artificial (IA) ha sido debatida principalmente desde su perspectiva tecnológica, pero su mayor riesgo se relaciona con la manipulación de nuestros procesos cognitivos y conductuales, advirtió el investigador Enrique Cáceres Nieto, del Instituto de Investigaciones Jurídicas de la Universidad Nacional Autónoma de México (UNAM).
Durante su participación en la Cátedra Extraordinaria de Bioética “Problemas bioéticos contemporáneos”, alertó que la IA está siendo utilizada como instrumento para redefinir el orden social y mental a nivel global.
Según el académico, esta transformación se da en un contexto político dominado por la ultraderecha, con figuras como Donald Trump y Elon Musk posicionándose como líderes que buscan imponer un dominio absoluto del flujo informativo y de la percepción social. Esto representa una amenaza directa a la identidad cognitiva y a la capacidad crítica de las personas.
#BoletínUNAM Encuadramos el problema de la inteligencia artificial en la tecnología, pero el verdadero conflicto está en nuestros procesos cognitivos y conductuales: #ExpertoUNAM > https://t.co/yPS50gD3xk pic.twitter.com/RE9HcUaWFg
— UNAM (@UNAM_MX) March 23, 2025
China, modelo de control social a través de la IA
Un caso paradigmático es el de China, donde desde 2014 se implementa un sistema de control social que utiliza reconocimiento facial, recolección de datos biométricos y apps de monitoreo para calificar el comportamiento ciudadano.
Sanciones como la restricción para viajar en avión se aplican sin audiencia previa, y quienes bajan su “bono social” pueden ser exhibidos públicamente en tablones o en trenes.
Aunque algunos ciudadanos lo aceptan como mecanismo para “promover la armonía social”, el sistema también ha sido usado para silenciar a periodistas y grupos disidentes, según explicó Cáceres Nieto, quien también es presidente de la Sociedad Paradigmas Emergentes en Derecho y Filosofía del Derecho.
Este modelo, dijo, está siendo replicado o explorado en regímenes autoritarios como los de Rusia, Arabia Saudita y Venezuela, donde el “Carnet de la Patria” ya opera como una herramienta de identificación y monitoreo poblacional.
Urgente legislar antes de que sea tarde
Cáceres advirtió que gran parte del desarrollo en IA se encuentra en la extrasistematicidad, es decir, fuera del marco legal. Mientras las discusiones sobre su regulación se concentran en la ética, políticas públicas o anteproyectos, las grandes empresas tecnológicas ya están moldeando un nuevo orden mundial con escasa supervisión estatal.
Aunque países como Canadá, Japón, China y Estados Unidos han empezado a legislar en torno a la IA, aún falta un marco robusto que garantice el respeto a los derechos humanos, la privacidad y la libertad cognitiva. La competencia global por el liderazgo tecnológico, concluyó el académico, va más allá de lo económico: “impacta directamente en cómo pensamos, sentimos y actuamos como sociedad”.