Los Estados miembros de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura
(Unesco) alcanzaron un acuerdo para crear y adoptar una norma mundial que establece valores y principios comunes para garantizar un desarrollo ético de la Inteligencia Artificial (IA).
Se trata de un acuerdo necesario ya que la
IA estará cada vez más presente en la vida cotidiana de las personas en acciones como la reserva de un vuelo, la conducción autónoma de coches, la personalización de nuestras noticias matutinas e incluso la toma de decisiones de los gobiernos y el sector privado, señaló la UNESCO.
“Las tecnologías de la IA están dando resultados notables en ámbitos muy especializados, como la detección del cáncer y la construcción de entornos inclusivos para personas con discapacidad. También puede ayudar a combatir problemas globales como el cambio climático y el hambre en el mundo y a reducir la pobreza optimizando la ayuda económica”.
“Pero la
tecnología también está trayendo consigo nuevos retos sin precedentes como el aumento de los
prejuicios de género y étnicos, amenazas significativas contra la privacidad, la dignidad y la capacidad de acción, peligros de la vigilancia masiva y al
aumento del uso de tecnologías de la IA poco fiables en la aplicación de la ley, por nombrar algunos. Hasta ahora, no
había normas universales que dieran respuesta a estos problemas”, señaló Audrey Azoulay directora General de la UNESCO.
Las reglas pactadas
Protección de datos
La Recomendación pide que se actúe más allá de lo que hacen las empresas tecnológicas y los gobiernos para garantizar a las personas mayor protección, asegurando la transparencia, la capacidad de actuar y el control de sus datos personales.
Afirma que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos. También incluye acciones para
mejorar la protección de los datos y el conocimiento y derecho del individuo a controlar sus propios datos. También aumenta la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir.
Prohibición de los marcadores sociales y la vigilancia masiva
Se prohíbe explícitamente el uso de sistemas de IA para la calificación social y la vigilancia masiva. Este tipo de tecnologías son muy invasivas, vulneran los derechos humanos y las libertades fundamentales y se utilizan de forma generalizada. La recomendación subraya que, a la hora de desarrollar marcos normativos, los Estados Miembros deben tener en cuenta que la
responsabilidad última y la rendición de cuentas deben recaer siempre en los seres humanos y que no se debe otorgar personalidad jurídica a las tecnologías de IA por sí mismas.
Ayudar a supervisar y evaluar
La norma también sienta las bases de las herramientas que ayudarán a su aplicación. La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el
impacto de esos sistemas en las personas, la sociedad y el medio ambiente. La metodología de evaluación del grado de preparación ayuda a los Estados Miembros a evaluar su grado de preparación en términos de infraestructura jurídica y técnica.
Esta herramienta ayudará a mejorar la capacidad institucional de los países y a recomendar las medidas adecuadas que deben adoptarse para garantizar la aplicación de la ética en la práctica. Además, la Recomendación anima a los Estados Miembros a considerar la posibilidad de añadir el papel de un funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo.
Aplicarla para reducir el cambio climático
La recomendación subraya que los actores de la IA deben
favorecer métodos de IA eficaces en cuanto a datos, energía y recursos que ayuden a garantizar que la Inteligencia Artifical se convierta en una herramienta más destacada en la
lucha contra el cambio climático y en el tratamiento de los problemas medioambientales. Se pide a los gobiernos que evalúen el impacto medioambiental directo e indirecto a lo largo del ciclo de vida del sistema de IA. Esto incluye su
huella de carbono, el consumo de energía y el impacto ambiental de la extracción de materias primas para apoyar la fabricación de tecnologías de IA.
También pretende reducir el impacto medioambiental de los sistemas de IA y las infraestructuras de datos. Incentiva a los gobiernos a invertir en tecnología verde, y si hay un impacto negativo desproporcionado de los sistemas de IA en el medio ambiente, la Recomendación instruye que no se utilicen.
