Finalmente, la plataforma retiró el producto después de que algunos usuarios, que afirmaron haberlo visto sugerido en su feed, compartieran capturas de pantalla en publicaciones que se volvieron virales en redes sociales.
Extremismo en el e-commerce de TikTok
A pesar de que TikTok retiró ese collar, descubrí una red algorítmica de sugerencias de búsqueda de productos de extrema derecha que me conducían hacia términos asociados al nacionalismo blanco y al nazismo. En la pestaña dedicada a las compras, busqué productos y seguí las recomendaciones que el algoritmo mostraba en el apartado "Otros buscados". Este cuadro de recomendaciones aparece en ocasiones en la aplicación móvil de la red social como un conjunto de cuatro sugerencias de búsqueda relacionadas, cada una acompañada de una imagen, cuando los usuarios buscan productos y se desplazan por la oferta disponible.
Glenn Kuper, portavoz de TikTok, confirmó que el tipo de sugerencias de búsqueda observadas en este reportaje infringe las políticas de la empresa. También señaló que TikTok está trabajando para eliminar este tipo de recomendaciones algorítmicas de la aplicación, en respuesta a una lista detallada de preguntas planteadas por WIRED.
seguridad de TikTok Shop, que afirma que la plataforma de comercio electrónico eliminó 700,000 vendedores y 200,000 productos restringidos o prohibidos en la primera mitad de 2025.Los budistas han utilizado ampliamente los símbolos manji, que a menudo parecen idénticos a las esvásticas, durante miles de años antes del nazismo. Aun así, el collar promocionado en diciembre incluía un detalle que sugería que la joya posiblemente formaba parte de un intento de troleo por parte de extremistas, más que de un malentendido cultural.
Joan Donovan, fundadora del Critical Internet Studies Institute y coautora del libro Meme Wars (Guerras de memes), se encontró de primera mano con el collar viral en su feed. Donovan cuenta que la descripción del producto alude a "HH", abreviatura del lema "Heil Hitler", ampliamente usado por los nazis. Para ella, lo que diferenciaba el collar de la esvástica era un pequeño añadido en la descripción del producto: un silbato para perros acompañado de la palabra "hip hop".
el algoritmo de TikTok Shop me sugirió repetidamente productos relacionados con la simbología nazi a lo largo del mes pasado mientras buscaba "joyas hip hop" y variaciones de esa búsqueda con diferentes combinaciones de palabras.Por ejemplo, el término más destacado por TikTok en la pestaña dedicada al comercio electrónico, en el apartado de productos que otros usuarios buscaban, era 'swatika jewelry' (joyas swatika), un error ortográfico de esvástica, junto a un set de cadenas cubiertas de diamantes de imitación con un precio de 11 dólares.
relacionados con el nazismo parecía no tener fin.Una lista no exhaustiva de frases que TikTok Shop me sugirió durante esta investigación incluía: "collar doble perno luminoso", "collar SS", "collar alemán esvástica" y "collar HH".
Aunque el algoritmo de búsqueda fue explícito con sus sugerencias, los resultados de productos que mostró TikTok Shop eran menos evidentes y, a menudo, no estaban directamente relacionados con el antisemitismo. Por ejemplo, un collar en los resultados mostraba rayos superpuestos en forma de "S", en lugar de la disposición lado a lado característica de las insignias de las "SS" de la Schutzstaffel, el grupo paramilitar que operó en Alemania y la Europa ocupada por los nazis durante la Segunda Guerra Mundial.
estos algoritmos. Pero los detalles exactos de lo que implementan en cualquiera de sus productos son opacos. Nadie puede decirte por qué se hacen esas recomendaciones", afirma Filippo Menczer, profesor de la Universidad de Indiana y director del Observatorio de Medios Sociales.Sin más información sobre el sigiloso algoritmo de TikTok, es imposible determinar con exactitud cómo se originó esta red de términos de búsqueda relacionados con el nazismo. Menczer teoriza que los resultados de búsqueda sugeridos que encontré podrían deberse a que el algoritmo funciona según lo previsto, conectando términos de búsqueda orgánicos potencialmente relacionados, o a algún tipo de manipulación por parte de usuarios maliciosos, que usan cuentas falsas para intentar engañar al algoritmo y potenciar ciertos términos de búsqueda. Al ser contactado para obtener comentarios, Kuper, de TikTok, afirmó que la plataforma cuenta con políticas de protección, que incluyen la supervisión de los resultados de búsqueda.
Donovan considera que a TikTok le queda mucho trabajo por hacer en materia de moderación de contenidos y protección de usuarios. "Realmente necesitan profundizar, investigar y entender de dónde viene todo esto. Y también ofrecer transparencia, para que los usuarios comprendan cómo fueron atacados", concluye.
Artículo originalmente publicado enWIRED.Adaptado por Alondra Flores.