La autoridad italiana de competencia y consumo, la AGCM, ha multado a TikTok con 10 millones de euros (casi 11 millones de dólares) tras una investigación sobre problemas de seguridad algorítmica.
La autoridad abrió una investigación el año pasado sobre el llamado desafío de la “cicatrice francesa” en el que se informó que los usuarios de la plataforma habían compartido videos de marcas en sus caras hechas al pellizcarse la piel.
en un presione soltar El jueves, la AGCM dijo que tres empresas regionales del grupo ByteDance, TikTok Technology Limited, con sede en Irlanda, TikTok Information Technologies UK Limited y TikTok Italy Srl, habían sido sancionadas por lo que resumió como una “práctica comercial desleal”.
“La empresa no ha implementado mecanismos adecuados para monitorear el contenido publicado en la plataforma, particularmente aquellos que puedan amenazar la seguridad de menores y personas vulnerables. Además, estos contenidos se vuelven a proponer sistemáticamente a los usuarios como resultado de su elaboración de perfiles algorítmicos, lo que estimula un uso cada vez mayor de la red social”, escribió la AGCM.
La autoridad dijo que su investigación confirmó la responsabilidad de TikTok en la difusión de contenidos “que puedan amenazar la seguridad psicofísica de los usuarios, especialmente si son menores y vulnerables”, como vídeos relacionados con el desafío de la “cicatriz francesa”. También encontró que la plataforma no tomó medidas adecuadas para evitar la difusión de dicho contenido y dijo que no cumplió plenamente con sus propias pautas de plataforma.
La AGCM también criticó cómo TikTok aplica las directrices, que, según afirma, se aplican “sin tener en cuenta adecuadamente la vulnerabilidad específica de los adolescentes”. Señaló, por ejemplo, que los cerebros de los adolescentes aún se están desarrollando y que los jóvenes pueden estar especialmente en riesgo, ya que pueden ser propensos a la presión de sus pares para emular el comportamiento grupal y tratar de encajar socialmente.
Los comentarios de la autoridad destacan particularmente el papel del sistema de recomendación de TikTok en la difusión de contenido “potencialmente peligroso”, señalando el incentivo de la plataforma para impulsar la participación y aumentar las interacciones de los usuarios y el tiempo dedicado al servicio para aumentar los ingresos publicitarios. El sistema alimenta los feeds ‘Para ti’ y ‘Seguidos’ de TikTok y, de forma predeterminada, se basa en un perfil algorítmico de los usuarios, rastreando su actividad digital para determinar qué contenido mostrarles.
“Esto provoca un condicionamiento indebido de los usuarios, que se sienten estimulados a utilizar cada vez más la plataforma”, sugirió la AGCM en otro comentario que se destaca por ser crítico con la participación impulsada por el contenido basado en perfiles.
Nos hemos comunicado con la autoridad con preguntas. Pero su evaluación negativa de los riesgos de la elaboración de perfiles algorítmicos parece interesante a la luz de los renovados llamamientos de algunos legisladores en Europa para que los canales de contenido basados en perfiles estén desactivados de forma predeterminada.
Grupos de la sociedad civil, como el ICCLtambién argumentan que esto cerraría el grifo de la indignación que las plataformas de redes sociales financiadas con publicidad monetizan a través de sistemas de recomendación centrados en la participación que tienen el efecto secundario de amplificar la división y socavar la cohesión social con fines de lucro.
TikTok cuestiona la decisión de la AGCM de imponer una sanción.
En una declaración, la plataforma buscó restar importancia a su evaluación de los riesgos algorítmicos que representan para los menores y las personas vulnerables enmarcando la intervención como relacionada con un único desafío controvertido pero de pequeña escala. Esto es lo que nos dijo TikTok:
No estamos de acuerdo con esta decisión. El contenido llamado ‘La cicatriz francesa’ promediaba solo 100 búsquedas diarias en Italia antes del anuncio de la AGCM el año pasado, y hace mucho tiempo restringimos la visibilidad de este contenido a menores de 18 años, y también lo hicimos no elegible para el feed For You.
Si bien la aplicación italiana se limita a un Estado miembro de la UE, la Comisión Europea es responsable de supervisar el cumplimiento por parte de TikTok de las disposiciones de transparencia y responsabilidad algorítmica de la Ley de Servicios Digitales (DSA) paneuropea, donde las sanciones por incumplimiento pueden ascender hasta 6. % de la facturación anual global. TikTok fue designada como una plataforma muy grande bajo la DSA en abril del año pasado, y se espera que se cumpla a fines del verano.
Un cambio notable como resultado de la DSA es que TikTok ofrece a los usuarios feeds sin perfiles. Sin embargo, estas fuentes alternativas están desactivadas de forma predeterminada, lo que significa que los usuarios siguen sujetos al seguimiento y la elaboración de perfiles basados en IA a menos que ellos mismos tomen medidas para desactivarlas.
El mes pasado, la UE abrió una investigación formal sobre TikTok, citando el diseño adictivo y el contenido dañino y la protección de menores entre sus áreas de interés. Ese procedimiento sigue en curso.
TikTok ha dicho que espera tener la oportunidad de brindar a la Comisión una explicación detallada de su enfoque para proteger a los menores.
Sin embargo, la empresa ha tenido varios enfrentamientos anteriores con autoridades regionales preocupadas por la seguridad infantil en los últimos años, incluida una intervención de protección infantil por parte de la autoridad italiana de protección de datos; una multa de 345 millones de euros el pasado otoño por fallos en la protección de datos también relacionados con menores; y quejas de larga data de grupos de protección al consumidor que están preocupados por la seguridad y la elaboración de perfiles menores.
TikTok también enfrenta la posibilidad de aumentar la regulación por parte de las agencias a nivel de los Estados miembros que aplican la Directiva de Servicios de Medios Audiovisuales del bloque. Como el de Irlanda Coimisiún na Meán que ha sido considerando aplicar reglas a plataformas para compartir vídeos que requerirían que los algoritmos de recomendación basados en perfiles estén desactivados de forma predeterminada.
El panorama tampoco es mejor para la plataforma en los EE. UU., ya que los legisladores acaban de proponer un proyecto de ley para prohibir TikTok a menos que corte los lazos con la matriz china ByteDance, citando la seguridad nacional y el potencial de que el seguimiento y la elaboración de perfiles de los usuarios por parte de la plataforma proporcionen una ruta para que un gobierno extranjero manipule a los estadounidenses.