Desde que se anunció la creación de la Agencia Estatal de Supervisión de Inteligencia Artificial (AESIA), hace dos años, venimos reclamando la participación de la sociedad civil y la necesidad de que este organismo sea independiente para poder garantizar la equidad, la transparencia, la auditabilidad y la explicabilidad de los procesos algorítmicos, así como la exigencia de responsabilidades en caso de impactos negativos. Ante el proceso abierto para nombrar su dirección, advertimos que este cargo debe velar por una aproximación a la IA desde el escrupuloso respeto a los derechos humanos y una firme decisión de contribuir a la justicia social.
Para ello, es necesario que la persona elegida:
- Tenga experiencia en la valoración del impacto social y sobre los derechos fundamentales de tecnologías de inteligencia artificial y/o decisiones automatizadas desde un punto de vista multidisciplinar y considerando la pluralidad de voces que existen en la sociedad;
- Cuente con experiencia —desde un punto de vista multidisciplinar y social— en la regulación y supervisión de tecnologías avanzadas como la IA;
- Tenga capacidad para construir puentes entre sectores y generar una red de contactos con los líderes y actores fundamentales del ecosistema de IA, con especial énfasis en la sociedad civil;
- Y que no haya tenido un cargo directivo y/o trabajado en ninguna de las grandes empresas tecnológicas ni en las grandes consultoras durante los últimos tres años.
Además, recordamos nuestras peticiones respecto a la IA:
- Que el Gobierno cuente con el conocimiento y la experiencia de las organizaciones de la sociedad civil que ya vienen trabajando en estos temas, mediante la participación en el proceso de diseño de la AESIA. Queremos participar en la elaboración del contrato de gestión que determinará su funcionamiento, con el fin de garantizar mecanismos adecuados de participación.
- Que la Agencia ejerza una supervisión prudencial que garantice la equidad de los procesos algorítmicos, la responsabilidad ante sus impactos negativos y/o discriminatorios y su transparencia.
- Que sea un organismo independiente en su estructura, composición y cometido. Además, que promueva la transparencia, auditabilidad y explicabilidad de los algoritmos y sistemas de información, a través de herramientas e informaciones de fácil consulta y comprensión.