De sociale media-app X van Elon Musk heeft advertenties in de zoekresultaten geplaatst voor ten minste twintig hashtags die worden gebruikt om racistisch en antisemitisch extremisme te promoten, waaronder #whitepower, volgens een recensie van het platform.
NBC Information heeft de advertenties gevonden door te zoeken op verschillende hashtags die worden gebruikt om racisme en antisemitisme te promoten, en door te bladeren door X-accounts die vaak raciale of religieuze haat posten. De hashtags variëren van voor de hand liggende slogans zoals #whitepride en #unitethewhite tot meer marginale en gecodeerde woorden zoals #groyper (een beweging van on-line blanke nationalisten) en #kalergi (een ontkrachte theorie die een samenzwering beweert om blanke mensen uit Europa te elimineren).
Hoewel de hashtags een klein proportion uitmaken van wat er dagelijks op X wordt gepost, vormen ze een aanvulling op eerdere voorbeelden die laten zien hoe het platform moeite heeft gehad om de controle over zijn advertentienetwerk te behouden en hoe dit kruist met haatzaaiende uitlatingen – een probleem dat het platform al jaren plaagt. jaren. Dankzij de plaatsingen kan X inkomsten genereren met extremistische inhoud, meer dan 18 maanden nadat Musk had gezegd dat hij dat zou doen haatberichten demonetiseren op het platform waarvan hij eigenaar is.
Het is niet duidelijk in hoeverre mensen bij X zich ervan bewust waren dat het bedrijf geld verdiende met de extremistische hashtags voordat NBC Information hierover berichtte. Twitter, zoals het platform toen heette, begon rond 2010 advertenties te plaatsen in de zoekresultaten. Vorig jaar plaatsten sommige gebruikers op X dat ze advertenties zagen te midden van de zoekresultaten voor #heilhitler. Sommige van die gebruikers tweette over de kwestie aan het X-management, wat betekent dat het bedrijf op zijn minst maandenlang had kunnen weten dat het geld verdiende met bepaalde problematische hashtag-zoekopdrachten.
Nadat NBC Information commentaar van X op de bevindingen had gevraagd, leek X actie te hebben ondernomen tegen ten minste vijf van de twintig hashtags waarop voorheen advertenties stonden, waardoor gebruikers niet meer naar de hashtags konden zoeken. De overige 15 inclusief #whitepower bleven doorzoekbaar.
In een verklaring aan NBC Information betwistte X de bevindingen niet, maar zei dat het bedrijf “al actie had ondernomen op foundation van een aantal van deze voorwaarden en onze aanpak indien nodig zal blijven uitbreiden.” De verklaring herhaalde ook het in januari aangekondigde voornemen van het bedrijf om een ‘heart of Excellence’ met 100 medewerkers voor contentmoderatie te openen.
In de verklaring, verzonden through e-mail, stond dat de bevindingen van NBC Information niet de volledige omvang van de handhavingspraktijken van het bedrijf weerspiegelden, inclusief ongeveer gewelddadige inhoud.
“X heeft duidelijke regels opgesteld met betrekking tot gewelddadige en haatzaaiende uitlatingen, en robuuste beschermingsmaatregelen voor adverteerders”, aldus X in de verklaring. “Een van onze handhavingsinstrumenten is het beperken van het bereik van berichten, wat niet terugkomt in dit onderzoek.”
Vertegenwoordigers van X hebben geen vragen per e-mail beantwoord over hoe het besluit welke hashtags volledig moeten worden gedemonetiseerd of geblokkeerd.
X verbiedt de bevordering of verheerlijking van geweld en heeft het beleid eerder toegepast op racistische en antisemitische inhoud. In april bleek uit een NBC Information-rapport dat destijds minstens 150 betaalde X-abonnees pro-nazi-inhoud deelden, waaronder toespraken van Adolf Hitler. Als betalende abonnee van X kunnen gebruikers zich mogelijk inschrijven voor het programma voor het delen van inkomsten van X, waardoor makers een korting krijgen op de advertentiedollars die uit hun inhoud worden gegenereerd.
Anika Collier Navaroli, die bij Twitter werkte als senior skilled op het gebied van inhoudsbeleid voordat ze in 2021 vertrok, zei dat X specifieke hashtags zoals #whitepower zou kunnen blokkeren of demonetiseren als het dat zou willen, zonder de principes van de vrijheid van meningsuiting in gevaar te brengen.
“Er is geen vrijheid om developments te volgen, of bovenaan de zoekresultaten te staan, of om aanbevolen te worden aan nieuwe mensen. Dit zijn geen vrijheden”, zegt Navaroli, nu senior fellow bij het Tow Middle for Digital Journalism aan de Columbia College.
Musk heeft een groot deel van de contentmoderatie op X teruggedraaid sinds hij de app, toen bekend als Twitter, in oktober 2022 kocht.
Volgens onderzoeksbureau Sensor Tower heeft X tientallen grote adverteerders onder Musk’s eigendom verloren, waarbij 74 van de 100 grootste Amerikaanse adverteerders van die maand vanaf mei geen geld meer op het platform uitgeven. In ieder geval een aantal van die voormalige adverteerders, zoals Disney, stopte met X na berichten over antisemitisme en andere vormen van haat op het platform, onder meer in posts van Musk zelf. Musk, de CEO van Tesla en SpaceX, zorgde in november voor een storm toen hij het idea van de ‘grote vervanger’ omarmde, dat zegt dat er een samenzwering bestaat om de blanke bevolking te vervangen door niet-blanke mensen.
In april stopte Hyundai met de uitgaven aan X nadat een gesponsorde publish van de autofabrikant naast antisemitische en pro-nazi-posts verscheen. Het bedrijf zei dinsdag dat het dergelijke uitgaven niet heeft hervat.
Omdat hashtags worden gebruikt om het bereik van inhoud te vergroten, kunnen ze rijp zijn voor misbruik, en zijn ze jarenlang een belangrijk strijdtoneel geweest voor inhoudsmoderatie, omdat technologiebedrijven zoals Meta en TikTok besloten welke hashtags ze moesten demonetiseren of beperken.
Sociale media-apps hebben verschillende manieren om hashtags te beperken, waaronder het blokkeren van zoekopdrachten en het verwijderen van functies voor automatisch aanvullen. Vorig jaar blokkeerde X zoekopdrachten naar hashtags die verband hielden met materiaal met seksueel misbruik van kinderen nadat NBC Information meldde dat bepaalde termen als verzamelpunt dienden voor mensen die het illegale materiaal wilden verhandelen of verkopen. Destijds zei een vertegenwoordiger van X dat het bedrijf geautomatiseerde detectiemodellen gebruikte om een lijst samen te stellen van duizenden hashtags die het beleid van het bedrijf zouden kunnen schenden.
Uit zoekopdrachten van het platform bleek dat X vóór woensdag minstens drie antisemitische hashtags had geblokkeerd. Een zoekopdracht naar die hashtags levert een foutmelding op: “Er is iets misgegaan, maar maak je geen zorgen: het is niet jouw schuld.” In totaal beoordeelde NBC Information 50 hashtags. Nadat NBC Information contact had opgenomen met X over de hashtags, bleken 12 van de 50 hashtags geblokkeerd.
Van de twintig extremistische hashtags op X die inkomsten genereren, waren er zes die verband hielden met expliciete blanke suprematie, acht die antisemitisme promootten en zes die verband hielden met complottheorieën tegen immigranten. Gearset en Shopify, twee bedrijven die bedrijfssoftware maken, en MS, een bedrijf dat muziekafspeellijsten maakt, behoorden tot de X-adverteerders wier advertenties tussen de zoekresultaten voor racistische en antisemitische hashtags werden weergegeven; de drie bedrijven reageerden niet op verzoeken om commentaar.
Bedrijven kiezen niet noodzakelijkerwijs het kind inhoud waar hun advertenties naast staan. Ze kunnen blokkeerlijsten gebruiken om bepaalde inhoud te vermijden, maar in het advertentiesysteem van X moeten ze zoekwoorden één voor één vermelden om deze te vermijden.
Technologiebedrijven publiceren hun blokkeerlijsten niet en variëren in hoe vaak ze hashtags beperken om de versterking van haatzaaiende uitlatingen, seksuele inhoud of ander aanstootgevend materiaal te verminderen. In 2013 stelde een blogger een lijst samen van ruim 200 hashtags die Instagram ondoorzoekbaar had gemaakt. De meesten van hen verwezen naar seks of naaktheid, wat Instagram beperkt, terwijl X dat doorgaans niet doet.
X verschilt van rivaliserende sociale-mediasites doordat het bepaalde doorzoekbare hashtags met raciale vooroordelen toestaat. Instagram en TikTok laten gebruikers geen resultaat zien als ze zoeken naar #whitepower of #whitepride – twee hashtags die X heeft toegestaan en er advertenties naast heeft geplaatst.
Van de 50 beoordeelde hashtags leverden zoekopdrachten op X voor 45 daarvan recente racistische of antisemitische berichten op. Op Instagram retourneerden 15 van de 50 hashtags racistische of antisemitische berichten, terwijl de andere 35 werden geblokkeerd of antiracistische of niet-gerelateerde inhoud produceerden. Op TikTok stuurden 10 van de 50 hashtags racistische of antisemitische berichten terug, terwijl de relaxation werd geblokkeerd of andere inhoud produceerde.
Instagram, eigendom van Meta, maakt bekend dat bepaalde hashtags mogelijk niet doorzoekbaar zijn als de bijbehorende inhoud ‘consequent’ niet voldoet aan de communityrichtlijnen van de app. Het bedrijf zegt dat het hashtags periodiek met mate beoordeelt en zijn beslissingen kan herzien op foundation van de inhoud die met behulp van de hashtags wordt gepost.
Instagram zei in een verklaring dat het, afgezien van het volledig verwijderen van een problematische hashtag uit de zoekresultaten, minder beperkende maatregelen kan nemen, zoals het verwijderen van individuele berichten. Meta heeft beleid dat van toepassing is op specifieke haatdragende ideologieën zoals het nazisme.
Van de vijftien hashtags die volgens de NBC Information-recensie racistische of antisemitische inhoud op Instagram produceerden, maakte Instagram er woensdag zes niet-doorzoekbaar.
TikTok beschreef een soortgelijk beleid en proces en zei dat het hashtags verwijdert of beperkt die de regels van de app schenden.
TikTok zei dat het zijn aanpak afstemt op de omstandigheden, met ‘uitzonderingen van algemeen belang’ om problematische inhoud om educatieve of satirische redenen achterwege te laten.
“We erkennen dat bepaalde inhoud die anders onze regels zou schenden, in het algemeen belang kan zijn om te bekijken”, staat er op een web site.
Van de tien hashtags die volgens de NBC Information-recensie racistische of antisemitische inhoud op TikTok produceerden, maakte TikTok er woensdag zeven niet-doorzoekbaar.
Volgens onderzoek van Darren Linvill, mededirecteur van de Media Forensics Hub van Clemson College, zijn sommige extremistische hashtags op X de afgelopen maanden enorm in populariteit gestegen. Linvill, die onderzoek heeft gedaan naar trollenfabrieken en desinformatietactieken, analyseerde op verzoek van NBC Information verschillende hashtags.
Eind maart steeg een hashtag voor het ontkennen van de Holocaust, die de ontkrachte complottheorie weergalmde dat het ‘nooit heeft plaatsgevonden’, op één dag tot meer dan 2.200 vermeldingen, nadat er voorheen vrijwel geen activiteit was, volgens de bevindingen van Linvill. Linvill zei dat de piek het resultaat leek te zijn van een georganiseerde poging van een groep accounts om de hashtag trending te krijgen, zonder duidelijk verband met offline evenementen. Hij zei dat verschillende accounts later werden opgeschort.
De hashtag was tot en met woensdag doorzoekbaar op X, waarna deze geblokkeerd bleek te zijn. De topposts op die hashtag bevatten afbeeldingen die antisemitische stereotypen uitbeeldden en memes die de ontkenning van de Holocaust uitbeeldden.
Het lijkt erop dat AI een deel van de inhoud die aan bepaalde hashtags is gekoppeld, aanstuurt. In één reeks berichten hebben neonazi-gebruikers door AI gegenereerde tekenfilmegels met het dier gepost als vervanger van Hitler. Linvill zei dat het gebruik van de bijbehorende hashtag dit jaar tot start mei piekte, waarbij accounts herhaaldelijk afbeeldingen plaatsten van egels in paramilitaire en nazi-outfits die vuurwapens vasthielden en de nazi-groet brachten. NBC Information zag geen advertenties in de zoekresultaten voor die hashtag.
Megan Squire, adjunct-directeur voor data-analyse bij het Southern Poverty Regulation Middle, een anti-haatgroep opgericht in 1971, zei dat X zijn eigen beleid niet naleeft als het gewelddadige extremisten toestaat de versterkingsfuncties van het platform te gebruiken.
“Het laat zien dat het niet prime of thoughts is en dat het bij niemand op de to-do-lijst voor deze week staat”, zei ze. “Het is een keuze.”
Ze zei dat de benadering van X van gewelddadig extremisme in tegenspraak is met zijn praktijkgerichte pogingen om als scheidsrechter van de populaire cultuur op te treden, presidentskandidaten aan te trekken en een discussiecentrum te zijn voor grote evenementen.
“Ze kunnen het niet allebei hebben”, zei ze. “Als je de macht wilt hebben om mee te denken over culturele kwesties, dan strekt dat zich uit tot de verantwoordelijkheid om die macht ten goede te gebruiken.”
