Si desea hacerle una pregunta al chatbot de inteligencia artificial de Google sobre unas próximas elecciones, tendrá que hacerlo desde un país donde no se celebran elecciones. TechCrunch se enteró de que el gigante de las búsquedas ha comenzado a restringir las consultas realizadas por Gemini cuando se relacionan con las elecciones, en cualquier mercado mundial donde se celebran elecciones.
El gigante de las búsquedas confirmó a TechCrunch que comenzó a implementar restricciones en Gemini para limitar la aparición de respuestas sobre consultas relacionadas con las elecciones a nivel mundial. TechCrunch entiende que la actualización ya está disponible en los EE. UU. y ha comenzado a implementarse en la India y en todos los países importantes donde se llevarán a cabo elecciones en los próximos meses.
El cambio resalta no sólo el papel que la IA generativa ha estado desempeñando, y tiene el potencial de desempeñar, en el proceso electoral, sino también la preocupación de Google sobre cómo el servicio podría convertirse en un arma, así como producir respuestas inexactas o engañosas.
El cambio en India se produce pocos días después de que India emitiera un aviso que exigía a las empresas de tecnología obtener permiso del gobierno antes de lanzar sus nuevos modelos de IA.
Las consultas sobre partidos políticos, candidatos y políticos ahora devuelven un mensaje preestablecido.
Cuando se hace una consulta sobre un partido político o candidato en particular, Gemini muestra un mensaje: “Aún estoy aprendiendo a responder esta pregunta. Mientras tanto, prueba la Búsqueda de Google”. En algunos casos, aún se puede manipular la herramienta. TechCrunch descubrió que la herramienta de inteligencia artificial mostraba respuestas al enviar consultas con errores tipográficos. Es probable que las respuestas sigan siendo modificadas en un juego de ingeniería rápida.
Google Gemini restringe las respuestas a consultas relacionadas con las elecciones (izquierda), pero no cuando las preguntas contienen errores tipográficos (derecha) Créditos de imagen: Jagmeet Singh / TechCrunch
“Por precaución en un tema tan importante, hemos comenzado a implementar restricciones sobre los tipos de consultas relacionadas con las elecciones para las cuales Gemini devolverá respuestas. Nos tomamos en serio nuestra responsabilidad de proporcionar información de alta calidad para este tipo de consultas y trabajamos continuamente para mejorar nuestras protecciones”, dijo Google. dicho en una publicación de blog relacionada con la medida en India hoy.
La actualización se publicó justo antes del anuncio de las elecciones generales en India. A principios de este mes, Nueva Delhi emitió un aviso a las empresas de tecnología que les prohibía lanzar sus nuevos modelos de IA en el país sin la aprobación del gobierno. Después de enfrentar algunas reacciones negativas de los capitalistas de riesgo globales y los fundadores de nuevas empresas de inteligencia artificial, el gobierno indio aclaró que la restricción era para empresas tecnológicas “importantes” y no para las nuevas empresas.
El aviso se produjo tras un mini escándalo sobre Gemini y el gobierno indio el mes pasado. La herramienta de inteligencia artificial, respondiendo a una pregunta sobre si el primer ministro indio, Narendra Modi, era fascista, respondió que Modi había sido acusado de implementar políticas que algunos habían caracterizado como fascistas. El viceministro de TI de la India, Rajeev Chandrasekhar lo llamó “violaciones directas” de las Normas TI, 2021.
El mes pasado, Google también suspendió la capacidad de Gemini de generar imágenes de personas después de que mostrara imprecisiones históricas. Luego, la compañía dijo que pronto volvería a lanzar una versión mejorada para solucionar los problemas.
No está claro si Google desbloqueará a Gemini para responder consultas relacionadas con las elecciones después de que finalicen las elecciones a finales de este año. Nos hemos puesto en contacto con Google sobre esto y actualizaremos esta historia cuando la empresa responda. También estamos esperando una lista completa de países donde la actualización está disponible ahora, y actualizaremos la publicación a medida que sepamos más y la publiquemos tal como está.