I de seneste uger har der været en kontrovers omkring TikTok. på grund af den massive spredning af racistiske videoer genereret af kunstig intelligensDisse kreationer har opnået bred udbredelse og har skabt bekymringer om risiciene ved nye AI-værktøjer, hvilket har sat spørgsmålstegn ved platformenes og udviklernes egen evne til at begrænse hadefulde ytringer der bevæger sig gennem netværket med fuld hastighed.
Kontroversen centrerer sig om Googles nye kunstige intelligens. Veo 3, for nylig introduceret, og som tiltrækker sig opmærksomhed for sin evne til at generere hyperrealistiske klip på op til otte sekunder simpelthen fra en tekst. Ifølge flere rapporter fra organisationer som Media Matters er disse videoer blevet uploadet til TikTok fra snesevis af konti og har opnået millioner af visninger.
Videoer fyldt med racistiske stereotyper og dehumanisering
Klagen fra Media Matters fokuserer på Indhold, der fremstiller sorte mennesker som aber, kriminelle eller afhængige af bestemte fødevarer, samt billeder af immigranter, jøder og folk af asiatisk afstamning, der bliver hånet og sammenlignet skadeligt. I et af de mest virale klip skyder to hvide politibetjente i en patruljevogn for eksempel en sort person efter at have peget på ham, i en scene, der har over 14 millioner visninger.
Andre videoer, genereret med Veo 3, viser asiatiske mænd, der bliver jagtet af toiletartikler eller omgivet af billeder af katte og hunde, hvilket hentyder til gamle stereotyper, mens medlemmer af det jødiske samfund jagter guldmønter eller udsættes for eksplicitte referencer til nazisme og koncentrationslejre. Disse klip, som i mange tilfælde bærer det synlige vandmærke fra Googles AI, er blevet delt under hashtags som #Veo3 eller #AI, hvilket yderligere fremmer deres virale spredning.
Ud over det eksplicitte indhold indeholder kommentarer til opslagene en et stort antal budskaber, der forstærker eller fejrer de præsenterede stereotyper, som multiplicerer omfanget af diskriminerende diskurs og bidrager til at normalisere det.
AI beskytter mod fejl og modereringsudfordringer
Fremkomsten af disse videoer har vist, hvor enkelt det er omgå de automatiske filtre fra kunstig intelligensSelvom Google promoverede Veo 3 som et værktøj med avancerede sikkerhedsforanstaltninger (herunder vandmærker og automatisk blokering af bestemte anmodninger), er det lykkedes brugerne at finde huller i systemet at generere stødende indhold.
Eksperter påpeger, at AI ikke altid er i stand til at indfange subtiliteten af nogle racistiske symboler og referencer, som tillader billeder, der tilsyneladende er uskyldige, at passere gennem tekniske filtre, men som indeholder et diskriminerende budskab, der let genkendes af dem, der søger at forbruge sådant materiale. fejl i kontekstuel forståelse få mange problematiske kreationer til at slippe gennem nettet, før de bliver gennemgået af menneskelige moderatorer.
Ifølge TikTok-talspersoner kombinerer det sociale netværk detektionsalgoritmer med manuel moderering at bekæmpe had og misinformation, og hævder at have fjernet snesevis af implicerede konti og videoer, i mange tilfælde før skandalen nåede medierne. Imidlertid udbredelseshastighed gør skaden allerede sket, når der gribes ind.
TikTok og Google under pres for at styrke deres politikker
Begge virksomheder har gentaget, at De forbyder udtrykkeligt spredning af hadefuld tale eller diskriminerende indhold på sine platforme. TikTok understreger i sine retningslinjer, at videoer, der dehumaniser enhver gruppe, mens Google hævder, at deres AI-tjenester inkluderer automatisk blokering, når der opdages skadelige udtryk eller hensigter.
I praksis dog, Massemoderering er utilstrækkeligVirksomhederne erkender selv, at mængden af videoer Det stigende antal nye datauploads gør effektiv realtidskontrol vanskelig. Desuden står udviklere i tilfælde af AI over for vanskelighederne med at kode alle de sprog- og symbolikvarianter, der kan bruges til at omgå restriktioner.
Efter oprøret har civile organisationer, eksperter og akademikere krævet styrkelse af sikkerhedsforanstaltninger i genereringen af digitalt indhold. Forslagene omfatter forbedring af kontekstuelle filtre baseret på kunstig intelligens, etablering af synlige og ikke-fjernelige vandmærker og oprettelse af offentlige værktøjer til at identificere videoers oprindelse.
Viralitet og algoritmen: Had forstærkes
Virkningen af disse videoer er ikke begrænset til TikTok. Lignende tilfælde er blevet observeret på både Instagram og X (tidligere Twitter), dog med mindre effekt. Nøglen ligger i anbefalingsalgoritme, som giver synlighed og belønner det mest virale indhold, hvad enten det er positivt eller negativt.
Dette fænomen skaber ifølge analytikere en ond cirkelJo mere ekstremt indholdet er, desto flere reaktioner fremkalder det, hvilket igen øger dets rækkevidde og indflydelse på den offentlige mening. Vanskeligheden med at skelne mellem rigtige og AI-genererede videoer gør opgaven endnu vanskeligere, især blandt yngre brugere.
Frygten er, at situationen vil forværres, hvis Google integrerer Veo 3 med produkter som YouTube Shorts, hvilket ville fremme massespredningen af denne type video og endnu engang teste effektiviteten af modereringssystemer.
Denne sag på TikTok viser et presserende behov for at gentænke politikker og teknologier forbundet med kunstig intelligens og indholdsplatforme. Innovation tilbyder nye værktøjer til kreativitet, men genererer også etiske og sociale udfordringer det kan ikke ignoreres. Uden en fast ramme er risikoen for, at AI bliver en talsmand for had, stadig mere til stede end nogensinde.