Ante el incremento de mensajes de odio y narrativas de aversión en redes sociales, la investigadora del Instituto Politécnico Nacional (IPN), Gina Gallegos García, propuso la creación del primer Observatorio Digital contra el Ciberodio en México.
Este organismo tendría la función de analizar, monitorear y contrarrestar el fenómeno que afecta a diversos sectores de la sociedad.
La especialista, quien dirige el Laboratorio de Ciberseguridad del IPN, señaló que países europeos ya cuentan con observatorios similares. Estos permiten estudiar el origen del ciberodio, implementar mecanismos de atención y regular el uso del lenguaje digital en plataformas sociales.
Uso de IA
Gallegos García, doctora en Comunicaciones y Electrónica por la ESIME Unidad Culhuacán, destacó que uno de los principales retos del Observatorio sería el desarrollo de herramientas basadas en inteligencia artificial, capaces de aplicar filtros para detectar y eliminar mensajes nocivos.
De acuerdo con un informe del Parlamento Europeo en España, el 50% de los jóvenes entre 15 y 29 años ha sido víctima de discursos de odio en línea durante el último año. Este tipo de violencia digital no solo daña virtualmente, también deja secuelas psicológicas como ansiedad, estrés o depresión.
La experta subrayó que esta iniciativa coincide con el impulso del Gobierno de México, encabezado por la presidenta Claudia Sheinbaum, y la Secretaría de Educación Pública (SEP), liderada por Mario Delgado, quienes promueven valores de respeto y espacios digitales seguros.
En referencia al Observatorio Español del Racismo y la Xenofobia, se expuso que las plataformas digitales solo eliminan el 28.43% de los contenidos reportados por incitar al odio o discriminar por motivos religiosos, raciales o ideológicos.
La también integrante del Sistema Nacional de Investigadores (SECIHTI) agregó que la polarización social, política y económica ha intensificado los discursos de odio, y advirtió que los emisores de estos mensajes, conocidos como haters o trolls, se aprovechan de la falta de regulación en los entornos digitales.