Ampliando la participación ciudadana en la gobernanza de la inteligencia artificial
Somos una coalición de organizaciones que trabajan para defender los derechos humanos en el contexto de las tecnologías digitales. Nuestro objetivo es ampliar los espacios de participación de la sociedad en la regulación y en la gobernanza de la inteligencia artificial y los algoritmos, con el fin de conseguir que estas tecnologías promuevan la justicia social.
Carta de IA Ciudadana: La AESIA debe escoger un perfil adecuado para su dirección
2/05/2024. — Desde que se anunció la creación de la Agencia Estatal de Supervisión de Inteligencia Artificial (AESIA), hace dos años, venimos reclamando la participación de la sociedad civil y la necesidad de que este organismo sea independiente para poder garantizar la equidad, la transparencia, la auditabilidad y la explicabilidad de los procesos algorítmicos, así como la exigencia de responsabilidades en caso de impactos negativos. Ante el proceso abierto para nombrar su dirección, advertimos que este cargo debe velar por una aproximación a la IA desde el escrupuloso respeto a los derechos humanos y una firme decisión de contribuir a la justicia social.
Para ello, es necesario que la persona elegida:
- Tenga experiencia en la valoración del impacto social y sobre los derechos fundamentales de tecnologías de inteligencia artificial y/o decisiones automatizadas desde un punto de vista multidisciplinar y considerando la pluralidad de voces que existen en la sociedad;
- Cuente con experiencia —desde un punto de vista multidisciplinar y social— en la regulación y supervisión de tecnologías avanzadas como la IA;
- Tenga capacidad para construir puentes entre sectores y generar una red de contactos con los líderes y actores fundamentales del ecosistema de IA, con especial énfasis en la sociedad civil;
- Y que no haya tenido un cargo directivo y/o trabajado en ninguna de las grandes empresas tecnológicas ni en las grandes consultoras durante los últimos tres años.
Además, recordamos nuestras peticiones respecto a la IA:
- Que el Gobierno cuente con el conocimiento y la experiencia de las organizaciones de la sociedad civil que ya vienen trabajando en estos temas, mediante la participación en el proceso de diseño de la AESIA. Queremos participar en la elaboración del contrato de gestión que determinará su funcionamiento, con el fin de garantizar mecanismos adecuados de participación.
- Que la Agencia ejerza una supervisión prudencial que garantice la equidad de los procesos algorítmicos, la responsabilidad ante sus impactos negativos y/o discriminatorios y su transparencia.
- Que sea un organismo independiente en su estructura, composición y cometido. Además, que promueva la transparencia, auditabilidad y explicabilidad de los algoritmos y sistemas de información, a través de herramientas e informaciones de fácil consulta y comprensión.
Quiénes formamos parte de esta coalición:
Organizaciones observadoras:
Declaración de IA Ciudadana sobre la regulación europea de la inteligencia artificial
5/10/2023. — En el contexto de la presidencia española del Consejo de la UE y su papel clave para negociar la ley europea de IA, instamos a los reguladores fomentar los derechos humanos y reafirmamos nuestro compromiso de trabajar junto con las autoridades y otros actores relevantes para lograr que la regulación garantice su protección. Para ello, consideramos prioritario que:
- La sociedad civil participe en la definición de las políticas de inteligencia artificial. La ciudadanía disponga de información accesible y transparente acerca de las funciones, agendas y mecanismos de participación en los organismos responsables de regular y controlar la aplicación de la inteligencia artificial (por ejemplo, la AESIA).
- La determinación del nivel de riesgo de un sistema de IA no quede en manos de las grandes empresas que la desarrollan. Instamos a los y las legisladoras a eliminar la discrecionalidad en la clasificación de sistemas de alto riesgo. No puede ser el lobo quien decida si quiere cuidar de las gallinas.
- Se impongan los requerimientos necesarios para que la inteligencia artificial no ponga en peligro derechos fundamentales a nivel global. La regulación europea será pionera en el mundo y, por ello, Europa tiene la oportunidad de producir una norma que asegure la más alta protección de los derechos fundamentales de la población y de los valores democráticos.
- Se prohíban los sistemas que no son admisibles en un Estado Social y Democrático de Derecho. Nos preocupan especialmente la identificación biométrica remota en el espacio público, los sistemas para realizar perfiles o evaluaciones de riesgo con el fin de predecir delitos, los sistemas de evaluación y perfilado en el contexto de la migración, el reconocimiento de emociones y el uso de IA que pueda manipular a personas en contextos de vulnerabilidad.
- Dejemos de afrontar problemas sociales con respuestas meramente tecnológicas. Tratar de resolver problemas sociales complejos con herramientas tecnológicas, sin incluir en su diseño y evaluación a expertas multidisciplinares, así como a los grupos sociales a los que afectan, agrava la desigualdad y la injusticia social.
¿Quieres información acerca de nuestras acciones?
Déjanos tu email y te avisaremos.