TikTok använder nu AI för användaröverträdelser – här är vad det betyder för dig

0 Shares

TikTok kommer att använda AI för att ta bort kränkande innehåll på sin plattform, men är det tillräckligt? Vi bad tre experter att väga in.

TikTok utvecklas, plattformen är nu bara fyra år gammal men den har över en miljard användare och är tillgänglig i över 150 länder. Det slog till och med ut Youtube, Instagram, WhatsApp och Facebook Messenger när det gäller nedladdningar och fick 33 miljoner på ett enda kvartal 2019, enligt Sensor Tower.

Så även om du inte är på TikTok är det troligt att minst en person du känner är. Läs vidare för att ta reda på hur plattformen vill bli säkrare för sina användare och vad experter tycker om de senaste förändringarna.

TikTok meddelade nyligen att det skulle börja använda teknik för att automatiskt ta bort vissa typer av kränkande innehåll som skulle identifieras vid uppladdning, förutom innehållet som tas bort manuellt av dess säkerhetsteam.

TikTok hävdar att automatisering kommer att reserveras för innehållskategorier där dess teknik har högsta noggrannhet och kommer att börja med kränkningar avseende minderåriges säkerhet, vuxen nakenhet, sexuell aktivitet, våldsamt och grafiskt innehåll och olagliga aktiviteter och reglerade varor.

Företaget hävdar också att det kommer att försöka fortsätta att förbättra teknikens precision för att undvika felaktiga borttagningar, men skaparna kan överklaga deras borttagning av videoklipp direkt om de tycker att det har gjorts så orättvist.

Det nya systemet räknar kränkningar som gjorts av en användare, och noterar allvarligheten och frekvensen av eventuella kränkningar. Användaren kommer att meddelas om konsekvenserna, som finns i avsnittet Kontouppdateringar i inkorgen.

En användares första överträdelse kommer att resultera i en varning om inte överträdelsen är en nolltoleranspolicy, i så fall kommer den att förbjudas. Efter den första överträdelsen kommer användaren att stänga av sitt konto i 24 till 48 timmar, beroende på svårighetsgraden, då kommer han inte att kunna ladda upp video, kommentera eller redigera sin profil.

Efter flera överträdelser kommer användaren att få ett meddelande om att deras konto är nära att blockeras, och om beteendet fortsätter kommer kontot att tas bort permanent.

“Ja. Innan detta var mänskliga moderatorer tvungna att bekräfta en överträdelse innan något togs bort. Människor är långsamma och arbetskraften är begränsad, vilket kan tillåta att ett kränkande innehåll sprids innan det tas bort eller inte tas bort alls, säger Paul Bischoff, sekretessadvokat på Comparitech, till Trusted Reviews.

“TikTok tar bort den mänskliga flaskhalsen från mer tydliga fall där dess automatiserade system är rimligt säkra på att en kränkning har inträffat.”

Ett AI -system skulle kunna fungera snabbare än ett mänskligt team, och Chris Hauk tror också att automatiserade system är mer exakta.

”Automatiserade system utsätts inte för mänskliga fel eller trötthet. Ett automatiserat system kan arbeta dygnet runt för att ta bort ett kränkande innehåll. Automatiserade system kommer inte heller att ta bort (eller inte ta bort) ett innehåll, helt enkelt på grund av en människas åsikt om vad som kan bryta mot standarder, säger Chris Hauk, Consumer Privacy Champion på Pixel Privacy. till betrodda recensioner.

”Det kommer oundvikligen att göra det. Det kommer säkert att finnas tandproblem som kommer att få något våldsamt innehåll att glida igenom och även för att falska positiva inträffar. Det kommer att ta tid för TikTok-algoritmerna att bli tillräckligt förfinade för att undvika att detta videoinnehåll fel klassificeras, säger Tom Gaffney, säkerhetskonsult för F-Secure, till Trusted Reviews.

”På längre sikt blir det intressant att se hur innehåll klassificeras i olika regioner. I det här fallet har policyn experimenterats med att använda amerikanska och kanadensiska ämnen, men sociala normer skiljer sig åt runt om i världen så det kommer att bli några misstag. Jag har viss sympati med TikTok i den här frågan eftersom de är en kommersiell enhet som ombeds att “polisera” Internetinnehåll, “fortsatte Gaffney.

Det är inte ovanligt att en social media -plattform använder AI för att ta bort kränkande eller kränkande innehåll, rapporterade The Verge om Facebooks användning av AI för att sortera innehåll för snabbare moderering 2020.

Men eftersom det automatiska systemet var relativt nytt för TikTok gick Bischoff med på att plattformen kan kämpa för att korrekt identifiera innehåll som är värt att ta bort.

”Det är oundvikligt att ett automatiserat system som detta ibland kommer att felidentifiera något som en kränkning. Enligt det nya systemet kan innehåll tas bort utan mänsklig tillsyn. TikTok kommer att försöka minimera falska positiva i rimlig grad och tillåter fortfarande överklaganden av automatiska borttagningar, förklarar Bischoff.

Man tror att systemet måste “läras” vad det ska och inte bör ta bort, även om dessa system inte alltid är perfekta. Under pandemin gjorde YouTube sig skyldig till att ha tagit bort videoinnehåll som inte stred mot företagspolicyn, eftersom åtgärder för att skydda personalen innebar att AI inte fick hjälp av mänsklig granskning, enligt Tech Crunch.

”TikTok har ett antal verktyg som hjälper föräldrar att begränsa exponeringen av barn från att se innehållet. Föräldrar kan se till att barn använder lämpliga åldersinställningar i appen eller för bästa skydd genom att använda “parningsfunktionen”, vilket ger föräldrarna mer detaljerade kontroller, “förklarade Gaffney till Trusted Reviews.

Hauk hävdar också att rapportering av innehåll som du inte vill interagera med hjälper algoritmen att bättre förstå dina preferenser och vad som bör och inte får tillåtas på webbplatsen.

“[Users should] rapportera innehåll som de anser bryter mot plattformens gemenskapsstandarder. Även om innehållet kanske inte tas bort omedelbart, hjälper rapporter det automatiska systemet att lära sig och förbättra, säger Hauk.

En användare kan rapportera videor och konton på TikTok genom att följa dessa instruktioner:

För att rapportera en video på TikTok:

  • Gå till videon du vill rapportera
  • Tryck på knappen Dela
  • Välj Rapportera och följ instruktionerna på skärmen

Så här rapporterar du ett konto på TikTok:

  • Gå till den profil du vill rapportera
  • Knacka på de tre prickarna längst upp till höger på skärmen för att se fler alternativ
  • Tryck på knappen Rapportera
  • Välj Rapportera konto från alternativen
  • Följ instruktionerna på skärmen för att beskriva vad problemet är

”Även om alla sociala nätverk borde vara oroliga för kränkande innehåll måste de vara försiktiga så att de inte begränsar yttrandefriheten. Skyddsåtgärder kan snabbt övergå till censur om innehållsborttagning inte utförs rättvist och utan fördomar ”, kommenterade Hauk.

Bischoff hävdade också att det nya avstängningssystemet borde vara effektivt, även om avstängda eller förbjudna användare skapade ett annat konto.

”Avstängningar är effektiva i vissa fall och är en nödvändig del för att förhindra att människor missbrukar plattformen. Även om någon bara kunde skapa ett nytt konto, skulle de fortfarande behöva bygga om sin följarebas, ”förklarade Bischoff.

TikTok har inte kommenterat någon funktion som skulle stänga av eller förbjuda konton som är länkade till varandra, men en användare måste bygga om följande om de väljer att skapa ett annat konto efter att ha stängts av.

”Det här är ett ganska bra proaktivt steg av TikTok, vilket sätter dem före många av de andra sociala medieföretagen. Frågan kanske borde vara “vad mer ska regeringarna göra för att alla sociala medieföretag ska kunna erbjuda liknande tjänster?”, Fortsatte Gaffney.

“TikTok har tagit en ledning här, men det är lite galet att vi ber kommersiella företag att bestämma vilket innehåll som är säkert på Internet.”

Men Gaffney hävdade också att mer kan göras för att skydda de yngre användarna av plattformen, med tanke på att TikToks huvudsakliga demografi är under 34 år, med 32,5% av användarna i åldrarna mellan 10 och 19 år, enligt ny statistik.

“Och en allmän kommentar från den här sidan, det här är ett bra drag av TikTok, för användare och för PR, men det har en lång väg att gå när det gäller integritet. De allmänna användarvillkoren är ganska ogenomskinliga och det finns ett antal bra studier som visar att datainsamlingen överstiger den för även andra sociala medieföretag, förklarade Gaffney.

”Även om denna sista punkt är diskutabel är det definitivt en app som profilerar vår ungdom. Om den ville gå ett steg längre, varför inte garantera att ingen personligt identifierbar användardata samlas in för under 18 år och låta dem uppleva Internet utan att bli kommersialiserade? ”

Om du är orolig för ditt onlinefotavtryck, kolla in våra val för bästa VPN, som hjälper dig att vara säker från externa attacker och hålla all din data krypterad så att du är osynlig när du surfar på webben.

0 Shares