Por una inteligencia artificial ética y respetuosa con los derechos fundamentales de las personas con discapacidad

Nos sumamos al manifiesto de Cermi Castilla y León con motivo del Día Nacional en España de la Convención Internacional sobre los Derechos de las Personas con Discapacidad.

Manifiesto del Movimiento CERMI

El 3 de mayo fue declarado por el Gobierno, mediante decisión del Consejo de ministros y a sugerencia del CERMI, Día Nacional en España de la Convención Internacional sobre los Derechos de las Personas con Discapacidad de 13 de diciembre de 2006, conmemorando así la fecha en que este tratado internacional de derechos humanos entró en vigor en todos los Estados parte, incluida España. El propósito de este Día Nacional es generar conocimiento y provocar toma de conciencia, en todas las instancias, operadores, agentes y grupos de interés, de la discapacidad como una parte, digna y valiosa, de la diversidad humana, que solo puede entenderse y abordarse como una cuestión de derechos humanos.
El mundo está atravesando un crecimiento acelerado y sin precedentes en el uso de la inteligencia artificial por parte de los individuos, empresas, instituciones y Estados. La influencia de esta tecnología está cada vez más presente en la automatización de la toma de decisiones a través del aprendizaje automático y en las tecnologías de inteligencia artificial generativas a través del aprendizaje profundo. Estas innovaciones pueden suponer grandes beneficios a las personas, pero también se están identificando y denunciando públicamente impactos discriminatorios que se traducen en vulneraciones de derechos. La generación de estereotipos en todos los ámbitos a través de los usos de la inteligencia artificial también constituye una seria amenaza para una sociedad inclusiva y diversa.
La falta de transparencia es un verdadero obstáculo para los derechos fundamentales. La naturaleza opaca de los modelos y sistemas de inteligencia artificial se ve acentuada por las leyes de propiedad intelectual, los acuerdos comerciales internacionales que encubren eficazmente cualquier diseño discriminatorio que hayan integrado y la ausencia de una gobernanza democráticamente compartida.
Los organismos especializados de las Naciones Unidas ya llevan algunos años alertando acerca del equilibrio entre los riesgos y las oportunidades que presenta la inteligencia artificial y hay una creciente conciencia sobre los enormes desafíos que estas tecnologías pueden representar para los derechos humanos y la ética, pero ha llegado el momento de impulsar un debate más profundo sobre los problemas concretos que afectan a las personas con discapacidad en el ejercicio de sus derechos humanos.
A través de este manifiesto, el Movimiento CERMI busca exponer algunos de los peligros que estas tecnologías pueden suponer para las personas con discapacidad y resaltar la idea de que los derechos de este sector social deben ocupar un lugar central en los debates sobre estas innovaciones. Hasta que estos riesgos no sean evaluados de forma adecuada y desde el enfoque de derechos humanos, no será posible aprovechar plenamente las ventajas prácticas de la inteligencia artificial.
Los sistemas de inteligencia artificial y tecnologías generativas han de respetar, proteger y promover los derechos humanos de las personas con discapacidad atendiendo a los mandatos incluidos en los tratados internacionales de derechos humanos, especialmente en la Convención Internacional sobre los Derechos de las Personas con Discapacidad, la Convención sobre la Eliminación de Todas las Formas de Discriminación contra la Mujer, la Convención Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho, el Reglamento de Inteligencia Artificial de la Unión Europea y la Carta de Derechos Digitales.
No puede haber sistemas de inteligencia artificial que sirvan para la vulneración de los derechos de las personas con discapacidad, en general, y de las mujeres y niñas con discapacidad, en particular. Del mismo modo, debe prestarse especial atención a la infancia y adolescencia con discapacidad, en tanto grupos de especial riesgo frente a la violencia y otras formas de vulneración de derechos. Los derechos relevantes y las obligaciones comprenden, entre otros, la accesibilidad, la privacidad, la autonomía, la vida independiente, el empleo, la educación, la salud y, en especial, la garantía general de igualdad y no discriminación.
Estos sistemas deben ser herramientas útiles para luchar contra todo tipo de discriminación y garantizar la diversidad y la inclusión de todas las personas con discapacidad, con especial atención a las personas sujetas a mayor riesgo de exclusión por la intersección de las características personales de sexo, edad y discapacidad con otros factores de exclusión social como son la raza o la etnia, la religión o creencias, la orientación e identidad de género, la ruralidad o el nivel socioeconómico.
La brecha digital en sus diferentes dimensiones es la principal barrera a la inclusión de las personas con discapacidad en estos sistemas. Los datos a gran escala son un elemento esencial para el funcionamiento de las herramientas de inteligencia artificial. La falta de datos desagregados sobre las personas con discapacidad implica una menor representación o la invisibilidad de las personas con discapacidad en los datos de entrenamiento, validación y prueba y en los resultados de los sistemas de Inteligencia Artificial. Por ello es fundamental garantizar que estos sistemas no aumenten los sesgos discriminatorios o contribuyan a crear nuevos sesgos algorítmicos, conscientes o inconscientes, que pueden condicionar la toma de decisiones en distintos ámbitos de políticas públicas, con el consiguiente impacto en los derechos fundamentales de las personas con discapacidad.
Todas las etapas y componentes de estos sistemas deben ser transparentes y fáciles de comprender y permitir en todo momento preguntas sobre su funcionamiento. Esto significa que las personas con discapacidad deben poder acceder a la información sobre cómo se implanta cada una de las fases de un sistema, sobre los factores que influyen en la predicción u otras decisiones creadas a partir de los mismos y sobre los conjuntos de datos que se emplean.
Las personas con discapacidad deben recibir información, en formatos universalmente accesibles, sobre cada uno de los componentes de estos sistemas, y saber en todo momento que interactúan con estos.
De igual modo, es crucial garantizar la supervisión humana de los sistemas y fomentar la participación activa de las personas con discapacidad, junto con las entidades que las representan. Asimismo, es fundamental revertir la invisibilidad de las mujeres con discapacidad en los conjuntos de datos utilizados para la base, el entrenamiento y la validación de los sistemas de inteligencia artificial.
No deben obviarse los grandes impactos ambientales, enormes consumos de energía, de la inteligencia artificial, y la necesidad de minimizarlos, abogando por un uso de esta tecnología que sea responsable en lo social y medioambiental; nada será inteligente ni sostenible si se excluye lo social y la perspectiva de la discapacidad.
Para ello, el Estado debe asumir un rol central en la regulación y fiscalización de estos sistemas, asegurando que la legislación establezca obligaciones claras para el desarrollo, aplicación y control de la inteligencia artificial, con un enfoque basado en los derechos humanos y la no discriminación.