Cuando el CEO de OpenAI, Sam Altman, anunció los GPT, chatbots personalizados impulsados por los modelos de IA generativa de OpenAI, en el escenario de la primera conferencia de desarrolladores de la compañía en noviembre, los describió como una forma de “realizar todo tipo de tareas”, desde programación hasta aprendizaje esotérico. temas científicos para obtener consejos de entrenamiento.
“Porque [GPTs] Si combina instrucciones, conocimientos ampliados y acciones, pueden resultarle más útiles”, dijo Altman. “Puedes construir un GPT… para casi cualquier cosa”.
No estaba bromeando sobre la parte de nada.
TechCrunch descubrió que la Tienda GPT, el mercado oficial de OpenAI para GPT, está inundada de GPT extraños y potencialmente infractores de derechos de autor que implican un ligero toque en lo que respecta a los esfuerzos de moderación de OpenAI. Una búsqueda superficial arroja GPT que pretenden generar arte al estilo de las propiedades de Disney y Marvel, sirven como poco más que embudos hacia servicios pagos de terceros y se anuncian como capaces de eludir las herramientas de detección de contenido de IA como Turnitin y Copyleaks.
Falta moderación
Para incluir GPT en la Tienda GPT, los desarrolladores deben verificar sus perfiles de usuario y enviar GPT al sistema de revisión de OpenAI, lo que implica una combinación de revisión humana y automatizada. Aquí hay un portavoz sobre el proceso:
Utilizamos una combinación de sistemas automatizados, revisión humana e informes de usuarios para encontrar y evaluar GPT que potencialmente violen nuestras políticas. Las infracciones pueden dar lugar a acciones contra el contenido o su cuenta, como advertencias, restricciones de uso compartido o inelegibilidad para su inclusión en la Tienda GPT o la monetización.
La creación de GPT no requiere experiencia en codificación, y los GPT pueden ser tan simples (o complejos) como desee el creador. Los desarrolladores pueden escribir las capacidades que desean ofrecer en la herramienta de creación de GPT de OpenAI, GPT Builder, y la herramienta intentará crear un GPT para realizarlas.
Quizás debido a la baja barrera de entrada, la Tienda GPT ha crecido rápidamente: OpenAI dijo en enero que tenía aproximadamente 3 millones de GPT. Pero este crecimiento parece haberse producido a expensas de la calidad, así como del cumplimiento de los propios términos de OpenAI.
Los derechos de autor
Hay varios GPT extraídos de franquicias populares de películas, televisión y videojuegos en la Tienda GPT; GPT no creados ni autorizados (según el conocimiento de TechCrunch) por los propietarios de esas franquicias. Un GPT crea monstruos al estilo de “Monsters, Inc.”, la película de Pixar, mientras que otro promete aventuras basadas en texto ambientadas en el universo de “Star Wars”.
Estos GPT, junto con los GPT de la Tienda GPT que permiten a los usuarios hablar con personajes registrados como Wario y Aang de “Avatar: The Last Airbender”, preparan el escenario para el drama con derechos de autor.
Kit Walsh, abogado senior de Electronic Frontier Foundation, lo explicó de la siguiente manera:
[These GPTs] se puede utilizar para crear obras transformadoras, así como para infracciones”, dijo Walsh por correo electrónico: obras transformadoras refiriéndose a un tipo de uso legítimo que está protegido de reclamos de derechos de autor. “Las personas que participan en la infracción, por supuesto, podrían ser responsables, y el creador de una herramienta que de otro modo sería legal puede esencialmente convencerse a sí mismo de asumir responsabilidad si anima a los usuarios a utilizar la herramienta de manera infractora. También existen problemas de marcas con el uso de un nombre de marca para identificar bienes o servicios donde existe el riesgo de que los usuarios se confundan acerca de si está respaldado u operado por el propietario de la marca.
La propia OpenAI no sería responsable de la infracción de derechos de autor por parte de los creadores de GPT gracias a la disposición de puerto seguro en la Ley de Derechos de Autor del Milenio Digital, que la protege a ella y a otras plataformas (por ejemplo, YouTube, Facebook) que alojan contenido infractor, siempre que esas plataformas cumplan con los requisitos. requisitos legales y tomar nota de ejemplos específicos de infracción cuando se le solicite.
Sin embargo, es una mala imagen para una empresa involucrada en un litigio de propiedad intelectual.
Deshonestidad academica
Los términos de OpenAI prohíben explícitamente a los desarrolladores crear GPT que promuevan la deshonestidad académica. Sin embargo, la Tienda GPT está llena de GPT que sugieren que pueden eludir los detectores de contenido de IA, incluidos los detectores vendidos a educadores a través de plataformas de escaneo de plagio.
One GPT afirma ser una herramienta de reformulación “sofisticada” “indetectable” por detectores de contenido de IA populares como Originality.ai y Copyleaks. Otro, Humanizer Pro, clasificado en el puesto número 2 en la categoría Escritura en la Tienda GPT, dice que “humaniza” el contenido para evitar los detectores de IA, manteniendo el “significado y la calidad” del texto y al mismo tiempo brinda una puntuación “100% humana”.
Algunos de estos GTP son conductos apenas velados hacia servicios premium. Humanizer, por ejemplo, invita a los usuarios a probar un “plan premium” para “usar [the] algoritmo más avanzado”, que transmite el texto ingresado en el GPT a un complemento de un sitio de terceros, GPTInf. Las suscripciones a GPTInf cuestan $12 por mes por 10,000 palabras por mes o $8 por mes en un plan anual, un poco caro además del ChatGPT Plus de $20 por mes de OpenAI.
Ya hemos escrito antes sobre cómo los detectores de contenido de IA son en gran medida una tontería. Más allá de nuestras propias pruebas, varios estudios académicos demuestran que no son ni precisos ni fiables. Sin embargosigue siendo cierto que OpenAI permite herramientas en la Tienda GPT que promueven un comportamiento académicamente deshonesto, incluso si el comportamiento no tiene el resultado deseado.
El portavoz de OpenAI dijo:
Los GPT que son por deshonestidad académica, incluidas las trampas, van en contra de nuestra política. Esto incluiría GPT que supuestamente sirven para eludir herramientas de integridad académica como los detectores de plagio. Vemos algunos GPT que son para “humanizar” el texto. Todavía estamos aprendiendo del uso de estos GPT en el mundo real, pero entendemos que hay muchas razones por las que los usuarios podrían preferir tener contenido generado por IA que no “suene” a IA.
Interpretación
En sus políticas, OpenAI también prohíbe a los desarrolladores de GPT crear GPT que se hagan pasar por personas u organizaciones sin su “consentimiento o derecho legal”.
Sin embargo, hay muchos GPT en la Tienda GPT que afirman representar las opiniones (o imitar las personalidades) de las personas.
Una búsqueda de “Elon Musk”, “Donald Trump”, “Leonardo DiCaprio”, “Barack Obama”, “Joe Rogan” arroja docenas de GPT (algunos obviamente satíricos, otros no tanto) que simulan conversaciones con sus homónimos. Algunos GPT se presentan no como personas, sino como autoridades en productos de empresas conocidas, como MicrosoftGPT, un “experto en todo lo relacionado con Microsoft”.
¿Llegan estos casos al nivel de suplantación, dado que muchos de los objetivos son figuras públicas y, en algunos casos, claramente parodias? Eso lo debe aclarar OpenAI.
El portavoz dijo:
Permitimos que los creadores indiquen a sus GPT que respondan “al estilo de” una persona real específica, siempre y cuando no se hagan pasar por ella, como ser nombrados como una persona real, recibir instrucciones para emularlos por completo e incluir su imagen como una imagen de perfil de GPT.
La compañía suspendió recientemente al desarrollador de un GPT que imitaba al candidato presidencial demócrata Dean Phillips, que llegó incluso a incluir un descargo de responsabilidad explicando que era una herramienta de inteligencia artificial. Pero OpenAI dijo que su eliminación fue en respuesta a una violación de su política sobre campañas políticas. además de suplantación, no solo suplantación.
Jailbreaks
También, con cierta incredulidad, en la Tienda GPT se encuentran intentos de hacer jailbreak a los modelos de OpenAI, aunque no muy exitosos.
Hay varios GPT que utilizan DAN en el mercado, siendo DAN (abreviatura de “Do Anything Now”) un método de indicaciones popular utilizado para lograr que los modelos respondan a indicaciones sin estar sujetas a sus reglas habituales. Los pocos que probé no respondieron cualquier pregunta arriesgada que les lancé (p. ej., “¿cómo construyo una bomba?”), pero en general estaban más dispuestos a usar… bueno, menos halagador lenguaje que el ChatGPT básico.
El portavoz dijo:
Los GPT que se describen o reciben instrucciones para evadir las salvaguardas de OpenAI o violar las políticas de OpenAI van en contra de nuestra política. Se permiten los GPT que intentan dirigir el comportamiento del modelo de otras maneras (incluido, en general, intentar hacer que GPT sea más permisivo sin violar nuestras políticas de uso).
Dolores de crecimiento
OpenAI presentó la Tienda GPT en el lanzamiento como una especie de colección seleccionada por expertos de poderosas herramientas de inteligencia artificial que aumentan la productividad. y eso es eso – esas herramientas ‘ defectos a un lado. Pero también se está convirtiendo rápidamente en un caldo de cultivo para GPT spam, legalmente dudosos y quizás incluso dañinos, o al menos GPT que de manera muy transparente infringen sus reglas.
Si este es el estado actual de la Tienda GPT, la monetización amenaza con abrir una lata de gusanos completamente nueva. OpenAI ha prometido que los desarrolladores de GPT eventualmente podrán “ganar dinero en función de cuántas personas estén usando [their] GPT” y tal vez incluso ofrecer suscripciones a GPT individuales. Pero, ¿cómo reaccionarán Disney o Tolkien Estate cuando los creadores de GPT no autorizados con temática de Marvel o El Señor de los Anillos comiencen a ganar dinero?
La motivación de OpenAI con la Tienda GPT es clara. Como escribió mi colega Devin Coldewey, el modelo de App Store de Apple ha demostrado ser increíblemente lucrativo y OpenAI, simplemente, está tratando de copiarlo. Los GPT se alojan y desarrollan en plataformas OpenAI, donde también se promueven y evalúan. Y, a partir de hace unas semanas, los usuarios de ChatGPT Plus pueden invocarlos directamente desde la interfaz de ChatGPT, un incentivo adicional para adquirir una suscripción.
Pero la Tienda GPT se está enfrentando a los problemas iniciales que muchos de los mercados digitales de aplicaciones, productos y servicios de mayor escala tuvieron en sus inicios. Más allá del spam, un reciente informe en The Information reveló que los desarrolladores de GPT Store están luchando por atraer usuarios en parte debido a los limitados análisis de back-end y la deficiente experiencia de incorporación de GPT Store.
Se podría haber asumido que OpenAI –a pesar de todo su discurso sobre curación y la importancia de las salvaguardas– se habría esforzado por evitar los obstáculos obvios. Pero. ese no parece ser el caso. La Tienda GPT es un desastre y, si algo no cambia pronto, es posible que siga así.