Grok, la inteligencia artificial de X, propiedad de Elon Musk, fue señalada por ejercer violencia digital, que derivó en acoso cibernético hacía las víctimas.
Y es que mediante su chatbot se alteraron imágenes principalmente de mujeres para falsamente exponerlas con poca ropa o incluso desnudas que fueron difundidas de manera viral.
“Se consideran como violencia digital porque al final toman en cuenta la imagen de la persona, por ejemplo, quizá no es mi cuerpo verdadero, pero sí es mi rostro y mi rostro es una característica que me da identidad”, comentó la abogada Valeria Martínez Mondragón.
Ante los señalamientos, la plataforma informó que tomará acciones para evitar la alteración de imágenes. Y realizará un bloqueo geográfico para esta función, tanto en X como en su herramienta de inteligencia artificial; sin embargo, sólo aplicará en países donde este tipo de contenido sea ilegal.
A nivel internacional, México, la Unión Europea y Estados Unidos han avanzado en el reconocimiento de las imágenes alteradas con inteligencia artificial como parte de la violencia digital.
En el caso de nuestro país, este tipo de conductas son sancionadas con penas de entre 3 a 6 años de prisión.
“Lo que tenemos que exigir a cada uno de los países, es que a través de los gobiernos se puede exigir a las plataformas que se regulen. Que se firme un tratado internacional que obligue a las plataformas, pero que también garantiza una protección en contra de la violencia digital”, abogada Valeria Martínez Mondragón.
Ante el anunció de X la secretaria de las Mujeres, Citlalli Hernández, puntualizó que el entorno digital no debe ser un refugio para el acoso sexual.