En diciembre, el Censo de EE.UU. propuso cambios a cómo clasifica la discapacidad. Si se hubieran implementado, los cambios habrían reducido drásticamente el número de estadounidenses que se cuentan como discapacitados, cuando los expertos dicen que las personas discapacitadas son ya subcontado.
El Censo abrió su propuesta al comentario público; cualquiera puede enviar un comentario sobre la reglamentación de una agencia federal por su cuenta. Pero en este caso específico, las personas más afectadas por la propuesta tuvieron más obstáculos para dar su opinión.
“Para mí era realmente importante tratar de encontrar la mejor manera de permitir que esas personas pudieran escribir y enviar un comentario”, dijo Matthew Cortland, miembro principal de Data for Progress. Con eso en mente, crearon un asistente de bot GPT-4 para las personas que querían enviar sus propios comentarios. Cortland ha realizado campañas de comentarios sobre regulaciones relacionadas con la discapacidad en el pasado, pero esta fue la primera con la ayuda de AI.
“Gracias, esto me permitió producir el tipo de comentario que siempre quise hacer”, les dijo una persona. “Hay demasiado niebla del cerebro para mí hacer esto ahora mismo”.
Dependiendo de quién esté contando, 12,6 por ciento o incluso 25 por ciento de la población tiene discapacidad. La discapacidad en sí se define de innumerables maneras, pero en términos generales abarca deficiencias físicas, intelectuales y cognitivas junto con enfermedades crónicas; una persona con discapacidad física puede usar una silla de ruedas, mientras que una enfermedad grave que limita la energía, como el covid prolongado, puede dificultar que las personas realicen las tareas de la vida diaria.
La IA, ya sea en forma de procesamiento del lenguaje natural, visión por computadora o IA generativa como GPT-4, puede tener efectos positivos en la comunidad de personas con discapacidad, pero, en general, El futuro de la IA y la discapacidad. se ve bastante sombrío.
“La forma en que a menudo se trata y utiliza la IA es esencialmente frenología con matemáticas”, dice Joshua Earle, profesor asistente de la Universidad de Virginia que conecta la historia de la eugenesia con la tecnología. Las personas que no están familiarizadas con la discapacidad tienen opiniones negativas moldeadas por medios de comunicación, cultura pop, marcos regulatoriosy las personas que los rodean, que ven la discapacidad como un déficit más que como un problema. identidad cultural. Un sistema que devalúa las vidas de los discapacitados mediante la costumbre y el diseño es uno que seguir repitiendo esos errores en productos técnicos.
“La forma en que a menudo se trata y utiliza la IA es esencialmente frenología con matemáticas”
Esta actitud queda claramente ilustrada en los debates sobre Racionamiento de la atención en el apogeo de la pandemia de covid-19. También se muestra en forma de años de vida ajustados por calidad (AVAC), un sistema asistido por IA.rentabilidad”herramienta utilizada en entornos de atención médica para determinar la “calidad de vida” a través de métricas externas, no el valor intrínseco de la vida de una persona. Por ejemplo, la imposibilidad de salir de casa podría contarse como un punto en contra de alguien, al igual que una enfermedad degenerativa que limite la actividad física o empleabilidad. Una puntuación baja puede dar lugar al rechazo de una determinada intervención médica en los análisis de coste-beneficio; ¿Por qué involucrarse en tratamientos costosos para alguien que se considera probable que viva una vida más corta y afectada por una discapacidad?
La promesa de la IA es que la automatización facilitará el trabajo, pero ¿qué es exactamente lo que se está facilitando? En 2023, un Investigación pro pública reveló que el gigante de seguros Cigna estaba utilizando un algoritmo interno que marcaba automáticamente las reclamaciones de cobertura, lo que permitía a los médicos aprobar denegaciones masivas, que se dirigían desproporcionadamente a personas discapacitadas con necesidades médicas complejas. El sistema de atención sanitaria no es el único ámbito en el que las herramientas algorítmicas y la IA pueden funcionar contra las personas con discapacidad. Es un creciente uniformidad en el empleodonde las herramientas para seleccionar a los solicitantes de empleo pueden introducir sesgosal igual que puede el acertijos y juegos de lógica utilizados por algunos reclutadoreso el seguimiento de ojos y expresiones que acompaña algunas entrevistas. En términos más generales, dice Ashley Shew, profesora asociada de Virginia Tech que se especializa en discapacidad y tecnología, “contribuye a una vigilancia adicional de las personas discapacitadas” a través de tecnologías que las distinguen.
Tecnologías como estas a menudo se basan en dos suposiciones: que muchas personas están fingir o exagerar sus discapacidadeshaciendo prevención del fraude crítico, y que una vida con discapacidad es no es una vida que valga la pena vivir. Por lo tanto, las decisiones sobre la asignación de recursos y la inclusión social (ya sean servicios de atención domiciliaria, acceso al lugar de trabajo, o la capacidad de llegar a las personas en las redes sociales: no es necesario considerar a las personas con discapacidad como iguales a las personas sin discapacidad. Esa actitud se refleja en las herramientas de inteligencia artificial que construye la sociedad.
No tiene por qué ser así.
El uso creativo de GPT-4 por parte de Cortland para ayudar a las personas discapacitadas a participar en el proceso político es ilustrativo de cómo, en las manos adecuadas, la IA puede convertirse en una valiosa herramienta de accesibilidad. Hay innumerables ejemplos de esto si buscas en los lugares correctos; por ejemplo, a principios de 2023, Midjourney lanzó una función que generar texto alternativo para imágenesaumentando la accesibilidad para personas ciegas y con baja visión.
Amy Gaeta, académica y poeta especializada en interacciones entre humanos y tecnología, también ve potencial para la IA que “puede realizar tareas realmente tediosas durante mucho tiempo”. [disabled people] que ya están sobrecargados de trabajo, extremadamente cansados” y automatizarlos, completando formularios, por ejemplo, u ofreciendo conversaciones de práctica para entrevistas de trabajo y entornos sociales. Las mismas tecnologías podrían usarse para actividades como luchar contra las compañías de seguros por denegaciones injustas.
“Las personas que lo utilizarán probablemente serán las que estén mejor preparadas para comprender cuándo está haciendo algo mal”, comenta Earle en el contexto de las tecnologías desarrolladas en torno a o para personas con discapacidad, pero no con ellas. Para un futuro verdaderamente brillante en IA, la comunidad tecnológica necesita acoger a las personas con discapacidad desde el principio como innovadores, programadores, diseñadores, creadores y, sí, usuarios por derecho propio que pueden dar forma material a las tecnologías que median en el mundo que los rodea.