La Administración de Servicios Generales de EE. UU., que adquiere e investiga tecnología para cosas como sitios web gubernamentales y servicios en línea, está impulsando la accesibilidad en dos frentes en su Plan de Acción de Equidad recientemente publicado. Los sitios web deben ser accesibles más allá del mínimo indispensable, dijo, y el sesgo en los sistemas de reconocimiento facial significa que los federales lo evitarán siempre que sea posible.
El Plan de acción es el resultado de un poco de introspección en GSA, que “realizó evaluaciones de equidad e identificó un conjunto de acciones para tres áreas de enfoque de alto impacto”, una de las cuales es “diseño y entrega de tecnología federal”.
“Aquellos que más necesitan los servicios del gobierno a menudo tendrán más dificultades para acceder a ellos”, se lee en la introducción del memorándum. “Estamos dedicados a acciones que priorizan la experiencia equitativa del usuario como un principio de diseño central, mitigan el sesgo algorítmico, mejoran la accesibilidad digital y modernizan la prestación de servicios gubernamentales al pueblo estadounidense”.
Con ese fin, la GSA identificó dos problemas principales con el enfoque reciente para brindar esos servicios.
Uno es un compromiso insuficiente con la accesibilidad, o tal vez sea mejor expresarlo como un compromiso firme con el mero cumplimiento y la no satisfacción de las necesidades de la comunidad.
“A menudo, las aplicaciones y los sitios web gubernamentales tienen una accesibilidad lingüística mínima, una navegación confusa y prácticas de diseño deficientes que generan desconfianza y frustración en los usuarios”, dice la evaluación de GSA. En particular, señaló que los hábitos de los usuarios con discapacidad visual que confían en los lectores de pantalla difieren de las suposiciones hechas al diseñar los sitios gubernamentales. Es posible que las tareas básicas, como los inicios de sesión y las verificaciones de cuentas, no respeten estas opciones comunes o requieran herramientas (como el uso del cursor) que a menudo no están disponibles para los usuarios.
Para mejorar esto, GSA dice que ampliará las pruebas de usabilidad con comunidades que han estado subrepresentadas en el proceso de diseño. (Como los defensores de la accesibilidad me han dicho una y otra vez, estas comunidades deben involucrarse desde el principio o el resultado será exactamente lo que la agencia describió anteriormente).
También funcionará para hacer que los sitios funcionen mejor en computadoras, teléfonos y dispositivos antiguos con ancho de banda limitado.
El segundo problema es que los servicios de reconocimiento facial tienen prejuicios raciales. Es probable que esto no sorprenda a los lectores de este sitio web, pero los procesos de adquisición e implementación del gobierno son lentos y extraños, por lo que no es del todo sorprendente que los federales recién ahora se pongan al día con lo que la comunidad tecnológica ha estado advirtiendo durante años. .
“A través de nuestras propias pruebas, GSA se enteró de que las principales implementaciones comerciales de coincidencia facial tenían ‘tasas de rechazo falso’ desproporcionadamente altas para los afroamericanos”, dice el memorándum, y señala al menos que esto es consistente con el cuerpo más amplio de investigación en este dominio.
Su enfoque aquí:
Abordar la discriminación en las tecnologías emergentes y la soberanía de los datos. Para proporcionar una experiencia de verificación de identidad remota equitativa para una población diversa, el equipo de Login.gov de GSA realizará estudios de investigación sobre equidad y sesgo en los servicios de coincidencia facial. Además, GSA aplicará una lente de equidad a las guías de usuario que publica, lo que influye en las mejores prácticas de la industria y del gobierno.
Frustrantemente vago, pero una respuesta amplia puede indicar un cambio sistémico, así como una palabrería. Es casi seguro que la investigación adicional sobre el sesgo en los servicios de reconocimiento facial se retrasará en la investigación académica y de la industria por años, pero la GSA probablemente quiera poder citarse a sí misma como una parte desinteresada.
El “lente de la equidad” puede ser útil o no, pero uno espera que, como en tantas empresas e industrias, haya algunas personas que han estado señalando problemas en este sentido durante años y no logran que nadie los escuche. Quizás esta sea una oportunidad para que esas voces reciban la atención que merecen.
La GSA también enumera muchas más formas en que puede mejorar la accesibilidad y la equidad en el documento completo, que puede descargar aquí o ver a continuación.