Durante acciones de monitoreo y patrullaje en internet que realiza de manera permanente la Unidad de la Policía Cibernética, de la Secretaría de Seguridad Ciudadana (SSC) de Ciudad de México, identificó creciente incidencia de violencia digital en la que se hace uso de la inteligencia artificial (IA) como una herramienta con fines de perjudicar la reputación y la seguridad de las personas.
La IA emplea una tecnología con algoritmos de aprendizaje automático que se pueden utilizar para realizar diversas actividades como generar imágenes de alta calidad de una persona cuya apariencia se quiere imitar o suplantar, replicar con precisión los rasgos, voz de la persona objetivo, además se pueden aplicar técnicas de edición y procesamiento para mejorar la calidad y hacer que sea aún más convincente.
También se pueden utilizar modelos de síntesis de voz basados en IA para crear un audio que imite a la persona objetivo, y una vez que se ha creado la nota falsa, pueda ser publicada en línea o difundir en plataformas de redes sociales, sitios web o aplicaciones de mensajería, con lo que se pueden perpetuar sesgos y discriminación si no se diseña y utiliza de manera ética, también la IA puede ser empleada en ciberataques y actividades delictivas.
Incidentes cibernéticos más comunes
Cabe mencionar que en lo que va de este año, el registro de incidentes cibernéticos sin IA, son principalmente por extorsión, acoso y amenazas, seguido de suplantación de identidad y sexting.
Estos reportes se encuentran relacionados con el modo de operar de los ciberdelincuentes que utilizan herramientas de IA, con la que además se pueden realizar otros ciberdelitos como los siguientes:
- Ciberacoso: El uso de bots de IA para enviar mensajes ofensivos, amenazas o difamación de manera repetitiva a una víctima.
- Creación de noticias ofensivas: La generación de vídeos o imágenes falsas y manipuladas con IA para difamar o acosar a individuos.
- Ataques de ingeniería social avanzados: Utilizar la IA para recopilar información personal sobre una víctima y personalizar mensajes de acoso o extorsión.
- Suplantación de identidad mejorada: La IA se utiliza para crear perfiles falsos convincentes en redes sociales o plataformas de citas para acosar o engañar a otras personas.
- Robo de identidad digital: La IA puede ser utilizada para recopilar información personal y realizar fraudes o actividades delictivas en nombre de una víctima.
- Manipulación de reputación en línea: La IA puede ser empleada para publicar críticas falsas o comentarios perjudiciales con el objetivo de dañar la reputación de una persona o empresa.