El uso de la Inteligencia Artificial está llegando prácticamente a todos los planos de nuestra vida. Y esta tecnología tiene muchas cosas buenas, pero también conlleva ciertos riesgos, ya sea por el compromiso a la seguridad y la privacidad de los datos, la amenaza de destrucción de empleo, los posibles errores que podamos cometer al emplearla, etc.
Además, en los medios de comunicaciones estamos viendo numerosos ejemplos: deepfakes pornográficos, herramientas de Inteligencia Artificial generativas empleadas para realizar campañas de phishing, algoritmos sesgados que discriminan por cuestiones de raza o sexo…
Ante tal panorama, los gobiernos e instituciones están empezando a reaccionar. En esta dirección, la Unión Europea aprobó el pasado mes de diciembre la primera Ley de Inteligencia Artificial del mundo, con el objetivo de garantizar que los sistemas utilizados en la Unión Europea e introducidos en el mercado europeo sean seguros y respeten los derechos de los ciudadanos.
También tenemos otras iniciativas, como el Centre for Data Ethics and Innovationes en Reino Unido, la Iniciativa de Inteligencia Artificial y los principios éticos emitidos por Centro Conjunto de Inteligencia Artificial (JAIT, por sus siglas en inglés) del Departamento de Defensa de Estados Unidos, la Recomendación sobre la ética de la Inteligencia Artificial de UNESCO, la Declaración de Toronto, la Declaración de Barcelona sobre la IA, el Observatorio del impacto social y ético de la inteligencia artificial (OdiseIA) y su ‘GuIA de buenas prácticas en el uso de la Inteligencia Artificial ética’, etc.
Declaración de uso ético de la Inteligencia Artificial
La Universidad Internacional de La Rioja (UNIR) acaba de presentar su propia declaración para un uso ético y responsable de esta tecnología, que se concreta en 10 principios. Este documento se centra en la actividad propia de la universidad y el ámbito académico, pero es plenamente trasladable a cualquier empresa o institución. Éstas son sus directrices.
1. Contribución social
UNIR indica que es preciso garantizar el alineamiento entre los intereses propios de proyectos científicos y esfuerzos técnicos relacionados con la Inteligencia Artificial y aquellos de la sociedad o de los sectores donde se aplique, ya sean industriales, educativos, de servicios o cualquier otro.
2. Equidad
La universidad remarca que deberá enfatizarse el uso de estos sistemas sin ningún tipo de discriminación de usuario o público objetivo.
“El uso de productos, tecnologías y servicios de Inteligencia Artificial no estigmatizará, incriminará o discriminará por razón de sexo, etnia, credo, religión, edad, discapacidad, afinidad política, orientación sexual, nacionalidad, ciudadanía, estado civil, estatus socioeconómico o cualquier otra condición personal, física o social. Se evitarán, por tanto, los sesgos por sectores, dentro de los márgenes posibles, en la configuración y desarrollo de productos y servicios de Inteligencia Artificial”, indica.
Asimismo, señala que “se vigilará que la Inteligencia Artificial no perpetúe ni amplifique desigualdades existentes, sino que sea una herramienta para fomentar la equidad y la inclusión en la sociedad”.
3. Capacitación
La declaración promueve la capacitación en la utilización de esta tecnología, para que todos los que la utilicen “sigan prácticas responsables en el uso, distribución, divulgación y producción de las tecnologías y servicios basados en Inteligencia Artificial«.
4. Supervisión
UNIR incide en la necesidad de mantener “el uso, configuración e implementación de la Inteligencia Artificial de forma completamente controlada por personal competente, dejando en su juicio la última decisión sobre cualquier aspecto relacionado, sin ser delegado el mismo en sistemas Inteligencia Artificial que tomen decisiones completamente automatizadas”.
5. Ética
“Se garantizará la ética de los desarrollos propios en Inteligencia Artificial”, apunta la declaración. “Se investigará, implementará y hará uso de sistemas de Inteligencia Artificial propios de acuerdo con las Directrices Éticas de Confianza (EU, 2019a), en consonancia con el Código de Conducta Europeo para la Integridad en la Investigación (ALLEA, 2023)”, especifica.
6. Confidencialidad
La universidad pone el acento en la seguridad y privacidad de datos en el uso y desarrollo de estos sistemas, respetando “la confidencialidad del individuo o corporación” y protegiendo “la privacidad de los datos personales, así como de cualquier dato almacenado, recuperado de manera automática o recogido en forma de campo expreso”, cumpliendo con la legislación vigente y las políticas de privacidad propias de la organización.
7. Transparencia
La transparencia de uso y producción de la Inteligencia Artificial es otra de las claves. UNIR señala que, en su caso, “este aspecto tiene dos vertientes”. Como institución que hace uso de sistemas IA, se compromete a «dar cuenta de la aplicación de éstos, contexto y alcance». Y como institución comprometida con la investigación y con la eventual producción de inteligencias artificiales, admite la obligación de transparencia !sobre determinados aspectos sensibles, tales como el modelo neuronal subyacente o los bancos de datos empleados como entrenamiento”.
8. Sostenibilidad
UNIR apunta que se debe garantizar la sostenibilidad y desarrollo equilibrado y responsable de sistemas basados en Inteligencia Artificial, “adoptando una postura innovadora y colaborativa sobre impacto ambiental y consumo energético”, además de procurar dejar la menor huella ecológica posible y aplicar el principio DNSH (No Causar Daño Significativo, por sus siglas en inglés).
9. Conocimiento
“Se fomentará la colaboración y el intercambio de conocimientos”, afirma la declaración. “En una esfera de conocimiento tan interdisciplinar como es la Inteligencia Artificial, se fomentará la colaboración entre investigadores y pensadores de diferentes campos: científicos de datos, ingenieros, filósofos, legisladores, de cualquier ámbito, categoría profesional y escala académica”.
10. Trazabilidad
UNIR incide en la necesidad de garantizar la identificación y trazabilidad de los contenidos producidos por esta tecnología. “Todo sistema de Inteligencia Artificial generativa desarrollado o utilizado por Proeduca indicará claramente su origen artificial y su trazabilidad asociada de manera inequívoca, ya sean imágenes, vídeos o textos”.
