Para brindarles a las académicas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atención, TechCrunch está lanzando una serie de entrevistas centradas en mujeres notables que han contribuido a la revolución de la IA. Publicaremos varios artículos a lo largo del año a medida que continúe el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea más perfiles aquí.
Amba Kak es la directora ejecutiva del AI Now Institute, donde ayuda a crear recomendaciones de políticas para abordar las preocupaciones sobre la IA. También fue asesora senior de IA en la Comisión Federal de Comercio y anteriormente trabajó como asesora de políticas globales en Mozilla y asesora legal del regulador de telecomunicaciones de la India en materia de neutralidad de red.
Brevemente, ¿cómo empezaste en la IA? ¿Qué te atrajo del campo?
No es una pregunta sencilla porque “IA” es un término que está de moda para describir prácticas y sistemas que han estado evolucionando durante mucho tiempo; Llevo más de una década trabajando en política tecnológica y en múltiples partes del mundo y fui testigo de cuando todo giraba en torno a “grandes datos” y luego todo giraba en torno a “IA”. Pero las cuestiones centrales que nos preocupaban (cómo las tecnologías y economías basadas en datos impactan en la sociedad) siguen siendo las mismas.
Estas preguntas me atrajeron desde el principio en la facultad de derecho en la India, donde, en medio de un mar de décadas, a veces de precedentes centenarios, encontré motivador trabajar en un área donde las preguntas “pre-políticas”, las cuestiones normativas de qué Cuál es el mundo que queremos? ¿Qué papel debe jugar la tecnología en ello? Permanezcan abiertos y discutibles. A nivel mundial, en ese momento, el gran debate era si Internet podría regularse a nivel nacional (lo que ahora parece muy obvio, ¡sí!), y en India hubo acalorados debates sobre si una base de datos de identificación biométrica de toda la población estaba creando un peligroso vector de control social. Frente a las narrativas de inevitabilidad en torno a la IA y la tecnología, creo que la regulación y la promoción pueden ser una herramienta poderosa para dar forma a las trayectorias de la tecnología para servir a los intereses públicos en lugar de los resultados de las empresas o simplemente los intereses de quienes tienen el poder en la sociedad. . Por supuesto, a lo largo de los años, también he aprendido que la regulación a menudo es totalmente cooptada por estos intereses y que a menudo puede funcionar para mantener el status quo en lugar de desafiarlo. ¡Así que ese es el trabajo!
¿De qué trabajo estás más orgulloso (en el campo de la IA)?
Nuestro informe Panorama de la IA de 2023 se publicó en abril en medio de un crescendo de rumores sobre la IA impulsados por el chatGPT: fue en parte un diagnóstico de lo que debería mantenernos despiertos por la noche sobre la economía de la IA, en parte un manifiesto orientado a la acción dirigido a la comunidad de la sociedad civil en general. . Llegó al momento, un momento en el que faltaban tanto el diagnóstico como qué hacer al respecto, y en su lugar había narrativas sobre la omnisciencia y la inevitabilidad de la IA. Subrayamos que el auge de la IA estaba afianzando aún más la concentración de poder dentro de un sector muy reducido de la industria tecnológica, y creo que logramos superar el revuelo para reorientar la atención hacia los impactos de la IA en la sociedad y la economía… y no asumir ninguno de los esto era inevitable.
Más adelante en el año, pudimos llevar este argumento a una sala llena de líderes gubernamentales y altos ejecutivos de IA en la Cumbre de Seguridad de IA del Reino Unido, donde yo fui una de las tres únicas voces de la sociedad civil que representaban el interés público. Ha sido una lección sobre cómo darnos cuenta del poder de una contranarrativa convincente que reenfoca la atención cuando es fácil dejarse llevar por narrativas seleccionadas y a menudo egoístas de la industria tecnológica.
También estoy muy orgulloso de gran parte del trabajo que realicé durante mi mandato como Asesor Principal de la Comisión Federal de Comercio sobre IA, trabajando en cuestiones tecnológicas emergentes y algunas de las acciones clave de cumplimiento en ese ámbito. Fue un equipo increíble del que formar parte, y también aprendí la lección crucial de que incluso una persona en la habitación adecuada en el momento adecuado realmente puede marcar la diferencia al influir en la formulación de políticas.
¿Cómo se enfrentan los desafíos de la industria tecnológica dominada por los hombres y, por extensión, de la industria de la IA dominada por los hombres?
La industria tecnológica, y la IA en particular, sigue siendo abrumadoramente blanca y masculina y está concentrada geográficamente en burbujas urbanas muy ricas. Pero me gusta alejarme del problema de los hombres blancos de la IA no sólo porque ahora es bien conocido sino también porque a veces puede crear la ilusión de soluciones rápidas o teatro de diversidad que por sí solos no resolverán las desigualdades estructurales y los desequilibrios de poder inherentes a cómo opera actualmente la industria tecnológica. No resuelve el “solucionismo” profundamente arraigado que es responsable de muchos usos dañinos o explotadores de la tecnología.
El verdadero problema al que debemos enfrentarnos es la creación de un pequeño grupo de empresas y, dentro de ellas, un puñado de individuos que han acumulado un acceso sin precedentes al capital, las redes y el poder, cosechando los frutos del modelo de negocio de vigilancia que impulsó la Última década de Internet. Y se prevé que esta concentración de poder empeore muchísimo con la IA. Estos individuos actúan con impunidad, incluso cuando las plataformas e infraestructuras que controlan tienen enormes impactos sociales y económicos.
¿Cómo navegamos por esto? Exponiendo las dinámicas de poder que la industria tecnológica se esfuerza por ocultar. Hablamos de los incentivos, las infraestructuras, los mercados laborales y el entorno que impulsan estas olas de tecnología y dan forma a la dirección que tomarán. Esto es lo que hemos estado haciendo en AI Now durante casi una década, y cuando lo hacemos bien, nos resulta difícil para los formuladores de políticas y el público mirar hacia otro lado, creando contranarrativas e imaginaciones alternativas sobre el papel apropiado de la tecnología. dentro de la sociedad.
¿Qué consejo le darías a las mujeres que buscan ingresar al campo de la IA?
Para las mujeres, pero también para otras identidades o perspectivas minoritarias que buscan hacer críticas desde fuera de la industria de la IA, el mejor consejo que les puedo dar es que se mantengan firmes. Este es un campo que rutinaria y sistemáticamente intentará desacreditar la crítica, especialmente cuando proviene de entornos no tradicionalmente STEM, y es fácil de hacer dado que la IA es una industria tan opaca que puede hacerte sentir como si siempre estuvieras tratando de impulsar atrás desde el exterior. Incluso cuando usted ha estado en el campo durante décadas como lo he hecho yo, voces poderosas en la industria intentarán socavarlo a usted y a su crítica válida simplemente porque está desafiando el status quo.
Usted y yo tenemos tanto derecho a opinar sobre el futuro de la IA como Sam Altman, ya que las tecnologías nos afectarán a todos y potencialmente afectarán de manera desproporcionada a las personas de identidades minoritarias de manera dañina. En este momento, estamos en una lucha por quién puede reclamar experiencia y autoridad en cuestiones de tecnología dentro de la sociedad… así que realmente necesitamos reclamar ese espacio y mantenernos firmes.