Malasia e Indonesia se han convertido en las primeras naciones en bloquear la herramienta de inteligencia artificial de Elon Musk, Grok, el chatbot desarrollado por la compañía xAI. La decisión fue tomada luego de que las autoridades de dichos países considerarán que no se está haciendo el uso correcto de esta herramienta, pues se han generado imágenes sexualmente explícitas y no consensuadas.
Lo anterior ha generado una creciente preocupación global por las herramientas de IA generativas, en particular porque pueden generar imágenes, textos y sonidos hiper realistas, sin que se puede prevenir el abuso en el uso de las mismas.
Recientemente, el chatbot de Grok, que pertenece a la plataforma X, ha registrado una tendencia al alza en su uso para la generación de imágenes manipuladas, sobre todo de mujeres en bikini o en poses sexualmente explícitas.
Aunque una de las medidas de Grok, fue limitar la generación y edición de imágenes exclusivamente para sus usuarios de pago, esto tras las reacciones que se han presentado por los vídeos sexualizados de personas que han sido manipulados de forma digital (deepfakes), aunque los expertos aseguran que no es suficiente y no se ha abordado el problema a fondo.
Las naciones asiáticas consideraron que los controles actuales de la plataforma no han impedido la creación y difusión de este contenido explícito falso, que ha involucrado a mujeres y hasta menores. Por ello es que el sábado, Indonesia decidió bloquear de manera temporal el acceso a Grok, Malasia lo haría tan solo un día después.
“El gobierno considera que los deepfakes sexuales no consensuados son una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, se lee en un comunicado de la ministra de Comunicación y Asuntos Digitales de Indonesia, Meutya Hafid.