El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha presentado alegaciones encaminadas a mejorar el texto y fortalecer el enfoque del ‘Anteproyecto de Ley para el buen uso y la gobernanza de la Inteligencia Artificial’, promovido por el Ministerio para la Transformación Digital y de la Función Pública, que en estos momentos está en fase de trámite de audiencia pública. Se centra en lo relativo a los derechos de las personas con discapacidad, para «asegurar que el avance de la inteligencia artificial se realice de manera ética, inclusiva y en beneficio de todas las personas».
«Las alegaciones presentadas por el CERMI son a nuestro juicio cruciales para asegurar que el Anteproyecto de Ley tome en consideración de manera explícita y efectiva la necesidad de una protección reforzada de las personas con discapacidad en su relación con la tecnología y el derecho digital», señala.
El comité considera que, si las consideraciones sobre la discapacidad no se integran desde el principio en el proceso legislativo, existe el riesgo de crear sistemas de IA que perpetúen o incluso agraven las desigualdades existentes que enfrentan las personas con discapacidad, lo que podría tener consecuencias negativas significativas.
Las alegaciones se centran en cuatro ámbitos:
1.- Garantizar la no discriminación de las personas con discapacidad
La Convención Internacional sobre los Derechos de las Personas con Discapacidad debe ser considerada como el marco de referencia respecto al impacto de la IA en relación con los derechos de las personas con discapacidad.
Atendiendo al mandato de la Convención, los sistemas de Inteligencia Artificial deben respetar, proteger y promover los derechos humanos de las personas con discapacidad, por encima de la protección de la innovación científica y técnica.
La lucha contra todo tipo de discriminación, garantizando la diversidad y la inclusión de todas las personas con discapacidad, debe ser el eje conductor ante la discriminación digital, que se presenta como un riesgo claro para las personas con discapacidad.
El Anteproyecto debe considerar la vulneración real de derechos fundamentales, sea cual sea la tecnología empleada por el sistema.
Las cargas administrativas y procedimentales, con independencia del tamaño de la empresa operadora, no pueden ser un obstáculo para la protección de los derechos fundamentales de las personas con discapacidad.
La regulación de los sistemas de IA prohibidos debe incluir expresamente una protección reforzada de los derechos fundamentales de las personas con discapacidad en las siguientes prácticas prohibidas:
- Sistemas que utilicen técnicas subliminales o manipuladoras, con claro riesgo para las personas con discapacidad.
- Sistemas que clasifiquen a las personas según su comportamiento social o características personales
- Sistemas que evalúen el riesgo de que una persona cometa un delito.
- Sistemas que infieran emociones en el trabajo o en entornos educativos.
- Sistemas que clasifiquen a las personas utilizando datos biométricos.
En estos cinco supuestos el Anteproyecto debe incluir disposiciones específicas en lo que respecta a garantizar la no discriminación y la igualdad en la aplicación de estas tecnologías a las personas con discapacidad, contando para ello con la participación de las propias personas y de sus organizaciones representativas.
El Anteproyecto debe incluir expresamente una protección reforzada de los derechos fundamentales de las personas con discapacidad en las disposiciones relativas a los sistemas de identificación biométrica remota en tiempo real en espacios públicos, a fin de garantizar la no discriminación y la igualdad de este grupo social.
2.- Fomentar el uso de la inteligencia artificial como elemento de inclusión de las personas con discapacidad
El CERMI considera que la Inteligencia Artificial tiene un potencial significativo para el empoderamiento y la inclusión de las personas con discapacidad. En este sentido, el Anteproyecto debe considerar también la acción positiva, dirigida a fomentar el desarrollo y el uso de la IA como una herramienta para mejorar la calidad de vida y promover la inclusión y la autonomía de las personas con discapacidad.
3.- Garantía de la accesibilidad universal
La accesibilidad es el presupuesto necesario para el ejercicio pleno de derechos humanos, y por tanto condición imprescindible de la inclusión de las personas con discapacidad. Así lo manda la Convención y, desarrollando este mandato, el nuevo Artículo 49 de la Constitución Española.
Por ello, es fundamental que el texto del Anteproyecto reproduzca en su articulado la obligación de garantizar que las personas con discapacidad tengan acceso, en igualdad de condiciones con las demás, a las tecnologías de IA.
Asimismo, es imprescindible garantizar la accesibilidad a la información ofrecida por los sistemas que interactúan con personas o generan contenidos. Esta información debe ofrecerse en formatos universalmente accesibles.
Por otra parte, todos los canales de comunicación (tanto en el ámbito de la gobernanza como en el procedimiento de infracciones y sanciones) previstos en el Anteproyecto deben ofrecerse en formatos universalmente accesibles.
4.- Garantizar la participación de las personas con discapacidad y de sus organizaciones representativas
El CERMI considera imprescindible que la norma impulse la consideración de las personas con discapacidad como agentes activos en el desarrollo y evaluación de los sistemas de IA, promoviendo su participación y empoderamiento en el desarrollo, diseño y evaluación de esta tecnología.
En atención a lo señalado, los mecanismos de gobernanza y supervisión previstos en el Anteproyecto deben contemplar explícitamente la participación de las personas con discapacidad y de sus organizaciones representativas.
Paralelamente, es necesario establecer mecanismos específicos de evaluación del impacto de los sistemas de IA en los derechos de las personas con discapacidad, contando con la participación activa de las propias personas y de sus organizaciones representativas.
El establecimiento de mecanismos sólidos de participación de la sociedad civil servirá, asimismo, para dar respuesta a los desafíos que requiere regular una tecnología en constante evolución manteniendo el enfoque inclusivo y de defensa de los derechos fundamentales.
Documento completo, con las alegaciones detalladas, en este link.
