Microsoft y OpenAI han anunciado un fondo de 2 millones de dólares para combatir los crecientes riesgos de que la IA y los deepfakes se utilicen para “engañar a los votantes y socavar la democracia”.
Este año veremos un récord de 2 mil millones de personas acuden a las urnas en elecciones que abarcan unos 50 países, por lo que existen preocupaciones sobre la influencia que la IA tendrá entre los votantes, particularmente aquellos en “comunidades vulnerables” que pueden ser más susceptibles a tomar lo que ven al pie de la letra.
El auge de la IA generativa, incluidos los chatbots muy populares como ChatGPT, ha dado lugar a un nuevo e importante panorama de amenazas que involucra “deepfakes” generados por IA y diseñados para perpetuar la desinformación. No ayuda que estas nuevas herramientas estén ampliamente disponibles y permitan a cualquiera crear videos, fotografías o audio falsos de entidades políticas de alto perfil.
Tan recientemente como el lunes, la Comisión Electoral de la India instó a los partidos políticos a evitar el uso de deepfakes y desinformación similar en sus campañas en línea en torno a las elecciones.
Es en este contexto que todas las principales empresas tecnológicas, incluidas Microsoft y OpenAI, han firmado compromisos voluntarios para contrarrestar tales riesgos, así como también han hecho planes para construir un marco común para abordar los deepfakes creados explícitamente para engañar a los votantes.
En otros lugares, las principales empresas de inteligencia artificial han comenzado a abordar estos riesgos introduciendo restricciones en su software. Por ejemplo, Google ha dicho que no permitirá que su chatbot Gemini AI responda preguntas sobre elecciones, mientras que Meta, la matriz de Facebook, también está limitando las respuestas relacionadas con las elecciones a través de su chatbot AI.
El nuevo “fondo de resiliencia social” de Microsoft y OpenAI se esfuerza por “promover la educación y la alfabetización en IA entre los votantes y las comunidades vulnerables”, según a una publicación de blog las empresas publicaron hoy. Esto implicaría otorgar subvenciones a un puñado de organizaciones, incluidos los Servicios de Tecnología para Adultos Mayores (AVENA), la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), Instituto Internacional para la Democracia y la Asistencia Electoral (IDEA Internacional), y Asociación sobre IA (pai).
Según Microsoft, estas subvenciones tienen como objetivo crear una mejor comprensión de la IA y sus capacidades en toda la sociedad. Por ejemplo, OATS aparentemente utilizará su subvención para programas de capacitación dirigidos a personas de 50 años o más en los EE. UU., que cubran los “aspectos fundamentales de la IA”.
“El lanzamiento del Fondo de Resiliencia Social es solo un paso que representa el compromiso de Microsoft y OpenAI para abordar los desafíos y necesidades en el espacio educativo y de alfabetización en IA”, dijo en la publicación del blog Teresa Hutson, vicepresidenta corporativa de tecnología y responsabilidad corporativa de Microsoft. . “Microsoft y OpenAI seguirán dedicados a este trabajo y continuaremos colaborando con organizaciones e iniciativas que comparten nuestros objetivos y valores”.