Centro Europeo para la Transparencia Algorítmica - Auditoría algorítmica BID

 

Centro Europeo para la Transparencia Algorítmica

"El Centro Europeo para la Transparencia Algorítmica (ECAT) se puso en marcha en abril de 2023 con el fin de proporcionar conocimientos científicos y técnicos para apoyar la aplicación de la Ley de Servicios Digitales (DSA) y seguir investigando el impacto de los sistemas algorítmicos desplegados por las plataformas en línea y los motores de búsqueda.

¿Qué es la Ley de Servicios Digitales (DSA)?

La Ley de Servicios Digitales (DSA, por sus siglas en inglés) es un nuevo conjunto de normas que regulan las responsabilidades de los intermediarios en línea, incluidas plataformas como las redes sociales y los mercados en línea. El objetivo de la Ley de Servicios Digitales es crear un espacio digital más seguro en el que se protejan los derechos fundamentales de todos los usuarios. Establece obligaciones claras de diligencia debida para las plataformas en función de sus funciones, tamaño e impacto en el mundo en línea. La Ley de Servicios Digitales también establece mecanismos para la eliminación de contenidos ilícitos y la protección efectiva de los derechos fundamentales de los usuarios en línea, incluida la libertad de expresión.

 

¿Qué hacemos?

El impacto social cada vez mayor de las plataformas en línea, como las redes sociales, los mercados en línea y los motores de búsqueda, ha creado una necesidad urgente de supervisión pública de los procesos en el núcleo de sus negocios. Los procesos automatizados implementados para moderar el contenido y seleccionar la información para los usuarios merecen un escrutinio particular, ya que afectan todo, desde nuestras interacciones sociales hasta nuestro consumo de noticias y entretenimiento y nuestro hábito de compra.

En ECAT, nuestra misión es contribuir a dicha supervisión de dos maneras principales. En primer lugar, proporcionamos asistencia técnica y orientación práctica para la aplicación de la Ley de Servicios Digitales. En segundo lugar, investigamos el impacto a largo plazo de los sistemas algorítmicos para informar la formulación de políticas y contribuir a la discusión pública.

A lo largo de nuestro trabajo, adoptamos un enfoque interdisciplinario integrando perspectivas técnicas, éticas, económicas, legales y ambientales. También colaboramos con una comunidad internacional de investigadores y profesionales del mundo académico, la sociedad civil, las administraciones públicas nacionales y la industria.

Actividades

Evaluaciones e investigaciones de la plataforma Inspecciones algorítmicas del sistema para respaldar la aplicación de la DSA

 
Pruebas técnicas sobre sistemas algorítmicos para mejorar la comprensión de su funcionamiento.

 
Asesoramiento sobre procedimientos para asegurar el acceso a los datos a los reguladores e investigadores

Investigación científica y prospectiva Estudio del impacto social a corto, medio y largo plazo de los sistemas algorítmicos.

 
Identificación y medición de los riesgos sistémicos asociados a los VLOPs y VLOSEs y medidas de mitigación de riesgos.

 
Desarrollo de metodologías prácticas hacia enfoques algorítmicos justos, transparentes y responsables, con un enfoque en los sistemas de recomendación y la recuperación de información.

Creación de redes y comunidad Intercambio de conocimientos y facilitación de debates sobre transparencia algorítmica con las partes interesadas internacionales.

 
Actuar como un centro de conocimiento para la investigación realizada a través del acceso a los datos proporcionados por la DSA.

Contexto

Los sistemas algorítmicos se utilizan para identificar, categorizar, clasificar, sugerir y presentar información a los usuarios. Esos sistemas ayudan, influyen y, a menudo, reemplazan cada vez más a los seres humanos en los procesos de toma de decisiones.

La Ley de Servicios Digitales exige que las plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño que operan en la Unión Europea identifiquen, analicen y evalúen determinados riesgos sistémicos derivados del diseño y el funcionamiento de su servicio y de los sistemas conexos, incluidos los sistemas algorítmicos. Además, deben comprometerse a abordar los riesgos identificados, directa o indirectamente relacionados con el funcionamiento del sistema algorítmico en uso.

Además de la función de supervisión de la Comisión, dichas evaluaciones de riesgos y las medidas de mitigación que las acompañen estarán sujetas a una auditoría externa independiente y a la supervisión por parte de los investigadores y la sociedad civil.

Gobernanza

ECAT forma parte del Centro Común de Investigación de la Comisión Europea, trabajando en estrecha colaboración con la Dirección General de Redes de Comunicaciones, Contenidos y Tecnología (DG Connect)."

 

 

 

Auditoría algorítmica para sistemas de toma o soporte de decisiones 

 

"Una auditoría algorítmica es un estudio que busca evaluar un ADS y su proceso de desarrollo, incluyendo el diseño y los datos utilizados para entrenar el sistema. Asimismo se evalúan los impactos en materia de precisión, justicia algorítmica,sesgos, discriminación, privacidad y seguridad, entre otros."

 

 

 

"Un sistema automatizado de toma o soporte de decisiones (ADS por las siglas en inglés de Automated Decision Support) es un sistema computacional que puede, para un determinado conjunto de objetivos definidos por seres humanos, hacer predicciones y recomendaciones o tomar decisiones que inciden en entornos reales o virtuales. Estos sistemas están diseñados para operar con diversos grados de autonomía. Durante los últimos años, los ADS han crecido exponencialmente en número y ámbitos de aplicación. En la actualidad, cada vez interactuamos con una mayor cantidad de ADS, a menudo sin que nos percatemos de ello. Sin embargo, la falta de conciencia acerca de su uso no reduce los riesgos sociales, en caso de que estos sistemas estén mal diseñados o se hayan creado sin tomar las precauciones necesarias. ..."