Dos recientes investigaciones publicadas esta semana han arrojado una luz más oscura sobre la gestión de las cuentas de menores en las redes sociales por parte de sus padres, afirmando que las herramientas de monetización y los modelos de suscripción que ofrecen las plataformas Meta son un caldo de cultivo para la explotación sexual infantil en línea.
Según un informe exclusivo del Wall Street Journal, el personal de seguridad de Meta alertó a la empresa de que los propietarios de cuentas de adultos estaban utilizando las herramientas de suscripción de pago de Facebook e Instagram para lucrarse con contenidos de explotación en los que aparecían sus propios hijos. Los informes internos documentaron cientos de lo que denominaron «cuentas gestionadas por menores» que vendían contenidos exclusivos a través de suscripciones a Instagram. En los contenidos aparecían con frecuencia niños pequeños en bañador y leotardos, y prometían vídeos de niños haciendo estiramientos o bailando, informó el Wall Street Journal. Los padres-propietarios a menudo fomentaban comentarios sexualizados e interacciones con los seguidores.
El equipo de seguridad recomendó prohibir las cuentas dedicadas al modelaje infantil o introducir un nuevo requisito para que las cuentas centradas en niños estuvieran registradas y supervisadas. En su lugar, la empresa optó por un sistema basado en el aprendizaje automático diseñado para detectar y prohibir a los presuntos depredadores antes de que pudieran suscribirse, según el informe del Wall Street Journal. Los empleados afirmaron que la tecnología no era fiable y que las prohibiciones podían eludirse fácilmente.
Mientras tanto, The New York Times publicó un informe sobre el lucrativo negocio de las cuentas de Instagram gestionadas por madres, que confirmaba los hallazgos de cuentas que vendían fotos exclusivas y sesiones de chat con sus hijos. Según el Times, las publicaciones más provocativas eran las que recibían más likes, y se descubrió que los suscriptores masculinos se dedicaban a elogiar, intimidar e incluso chantajear a las familias para obtener imágenes más explícitas. Algunos de los seguidores activos habían sido condenados por delitos sexuales en el pasado. Las cuentas de los influencers infantiles declararon que ganaban cientos de miles de dólares con las suscripciones mensuales y las interacciones con los seguidores.
La investigación de The New York Times también descubrió un elevado número de hombres adultos que interactuaban con creadores menores de edad. Entre los influencers más populares, los hombres representaban entre el 75% y el 90% de los seguidores, y se encontraron millones de interacciones masculinas entre las cuentas de menores analizadas.
Según Andy Stone, portavoz de Meta, en declaraciones a The New York Times: «Prohibimos que las cuentas que muestran un comportamiento potencialmente sospechoso utilicen nuestras herramientas de monetización, y planeamos limitar el acceso a los contenidos de suscripción de dichas cuentas.» Stone declaró al Wall Street Journal que el sistema automatizado se implantó como parte de su labor de seguridad en curso.
Las políticas de moderación de la plataforma han sido ineficaces para frenar la proliferación de cuentas que explotan a menores y sus cuestionables prácticas comerciales, con cuentas prohibidas que reaparecen en la plataforma, búsquedas explícitas y nombres de usuario que eluden los sistemas de detección, y la difusión de contenidos de Meta en foros externos de depredadores de menores, según el informe del Wall Street Journal.
El año pasado, Meta introdujo una nueva función de verificación y suscripción, y amplió las opciones de monetización para los creadores, incluidas bonificaciones por reels y fotos populares, y nuevas opciones de regalo. Meta ha ajustado periódicamente sus vías de monetización de contenidos, incluida la interrupción temporal de Reels Play, una herramienta para creadores que permitía a los usuarios obtener beneficios de los vídeos de Reels una vez alcanzado un determinado número de visualizaciones.
Meta se ha enfrentado a críticas en el pasado por su indecisión a la hora de frenar los contenidos perjudiciales en sus diversas plataformas. En medio de las investigaciones federales en curso sobre los efectos adversos de las redes sociales en los jóvenes, la empresa ha sido objeto de múltiples demandas alegando su complicidad en causar daño a los niños. Una demanda presentada en diciembre afirmaba que la empresa fomentaba un «mercado para los depredadores». En junio del año pasado, la plataforma puso en marcha un grupo de trabajo dedicado a mejorar la seguridad infantil. Una investigación interna realizada por Meta en 2020 reveló que 500.000 cuentas de Instagram pertenecientes a menores participaban a diario en interacciones «inapropiadas».
Sin embargo, Meta no es la única que se enfrenta a acusaciones de abordar inadecuadamente la cuestión de los materiales de explotación sexual infantil. Una investigación de Forbes de noviembre de 2022 desveló casos de cuentas privadas de TikTok que difundían este tipo de material y se dirigían a usuarios menores de edad, a pesar de la supuesta postura de «tolerancia cero» de la plataforma.
Las directrices de Instagram para la monetización de contenidos hacen hincapié en el cumplimiento de sus Condiciones de uso y Directrices de la comunidad, que establecen normas relativas a contenidos sexuales, violentos, obscenos o que inciten al odio. Sin embargo, subrayan que el contenido adecuado para la plataforma en su conjunto no tiene por qué cumplir los criterios de monetización. Aunque la política no menciona explícitamente restricciones para las cuentas de menores, Meta ha introducido un conjunto distinto de normas que prohíben toda forma de explotación infantil.
Las investigaciones se iniciaron en respuesta a la creciente preocupación en Internet por la proliferación de material de abuso sexual infantil a través de cuentas que presentan a niños como modelos o influencers.
Mientras padres, activistas y legisladores abogan por una combinación de medidas legales y sociales, la ausencia de normas claras, la incertidumbre en torno a la legalidad de los contenidos publicados y diversas lagunas en la moderación parecen haber facilitado el crecimiento generalizado de este tipo de cuentas en distintas plataformas.