En el momento en que su mundo se desmoronó hace tres años, Stephanie Mistre encontró a su hija de 15 años, Marie, sin vida en la habitación donde se suicidó.
“Pasé de la luz a la oscuridad en una fracción de segundo”, dijo Mistre, describiendo el día de septiembre de 2021 que marcó el inicio de su lucha contra TikTok, una aplicación de videos de propiedad china a la que culpa de haber empujado a su hija hacia la desesperación.
Al investigar el teléfono de su hija después de su muerte, Mistre descubrió videos que promovían métodos de suicidio, tutoriales y comentarios que alentaban a los usuarios a ir más allá de “simples intentos de suicidio”. Afirmó que el algoritmo de TikTok había promocionado repetidamente ese contenido a su hija. “Fue un lavado de cerebro”, dijo Mistre, quien vive en Cassis, cerca de Marsella, en el sur de Francia. “Normalizaron la depresión y la autolesión, convirtiéndola en un retorcido sentido de pertenencia”.
Ahora Mistre y otras seis familias han demandado a TikTok Francia, acusando a la plataforma de no moderar contenido dañino y exponer a los niños a material que amenaza la vida. De las siete familias, dos perdieron un hijo.
Cuando se le preguntó sobre la demanda, TikTok dijo que sus directrices prohíben cualquier promoción del suicidio y que tiene 40 mil profesionales de confianza y seguridad en todo el mundo —cientos de los cuales son moderadores francófonos— para eliminar publicaciones peligrosas. La compañía también dijo que recomienda servicios de salud mental a los usuarios que buscan videos relacionados con el suicidio.
Antes de suicidarse, Marie Le Tiec hizo varios videos para explicar su decisión, en los que mencionó varias dificultades en su vida y citó una canción del grupo de emo rap de Luisiana Suicideboys, que es popular en TikTok.
Su madre también afirma que su hija sufrió acoso y hostigamiento reiterado en la escuela y en línea. Además de la demanda contra la plataforma de videos, la madre de 51 años y su esposo han presentado una denuncia contra cinco compañeros de clase de Marie y su anterior escuela secundaria.
Sobre todo, Mistre culpa a TikTok, diciendo que poner la aplicación “en manos de una adolescente empática y sensible que no sabe distinguir lo real de lo que no lo es, es como una bomba a punto de estallar”.
Los científicos no han establecido un vínculo claro entre las redes sociales y los problemas de salud mental o el daño psicológico, dijo Grégoire Borst, profesor de psicología y neurociencia cognitiva en la Universidad Paris-Cité.
“Es muy difícil demostrar una causa y efecto claros en este campo”, dijo Borst, citando un destacado estudio revisado por pares que encontró que apenas el 0.4 por ciento de las diferencias en el bienestar de los adolescentes podría atribuirse al uso de redes sociales.
Además, Borst señaló que ningún estudio actual sugiere que TikTok sea más dañino que aplicaciones rivales como Snapchat, X, Facebook o Instagram. Si bien la mayoría de los adolescentes usan redes sociales sin daños significativos, los verdaderos riesgos, dijo Borst, radican en aquellos que ya enfrentan desafíos como el acoso o la inestabilidad familiar.
“Cuando los adolescentes ya se sienten mal consigo mismos y pasan tiempo expuestos a imágenes distorsionadas o comparaciones sociales dañinas”, puede empeorar su estado mental, dijo Borst.
La abogada Laure Boutron-Marmion, que representa a las siete familias que demandan a TikTok, dijo que su caso se basa en “pruebas extensas”. La compañía “ya no puede esconderse detrás de la afirmación de que no es su responsabilidad porque ellos no crean el contenido”, dijo Boutron-Marmion.
La demanda alega que el algoritmo de TikTok está diseñado para atrapar a usuarios vulnerables en ciclos de desesperación por lucro y pide indemnizaciones para las familias.
“Su estrategia es insidiosa”, dijo Mistre. “Atraen a los niños hacia contenido depresivo para mantenerlos en la plataforma, convirtiéndolos en productos lucrativos de interacción”.
Boutron-Marmion señaló que la versión china de TikTok, Douyin, presenta controles de contenido mucho más estrictos para los usuarios jóvenes. Incluye un “modo juvenil” obligatorio para usuarios menores de 14 años que restringe el tiempo de pantalla a 40 minutos al día y ofrece sólo contenido aprobado.
“Demuestra que pueden moderar el contenido cuando deciden hacerlo”, dijo Boutron-Marmion. “La ausencia de estas salvaguardas aquí es reveladora”.
Un informe titulado “Niños y pantallas” encargado en abril por el presidente francés, Emmanuel Macron, y al que contribuyó Borst concluyó que ciertas características algorítmicas deberían considerarse adictivas y prohibirse en cualquier aplicación en Francia. El informe también llamó a restringir el acceso a redes sociales para menores de 15 años en Francia. Ninguna medida ha sido adoptada.
TikTok, que enfrentó una amenaza de cierre en Estados Unidos hasta que el presidente Donald Trump dejó en suspenso una norma al respecto, también ha sido objeto de escrutinio a nivel mundial.
Estados Unidos ha visto procesos legales similares iniciados por padres. Una demanda en el condado de Los Ángeles acusa a Meta y sus plataformas Instagram y Facebook, así como a Snapchat y TikTok, de diseñar productos defectuosos que causan lesiones graves. La demanda enumera a tres adolescentes que murieron por suicidio. En otra queja, dos naciones tribales acusan a las principales compañías de redes sociales, incluido el propietario de YouTube, Alphabet, de contribuir a altas tasas de suicidio entre jóvenes indígenas.
El director general de Meta, Mark Zuckerberg, se disculpó con los padres que habían perdido hijos cuando declaró el año pasado ante el Senado de Estados Unidos.
Australia promulgó en diciembre una ley pionera que prohíbe las cuentas de redes sociales para menores de 16 años.