La colpa è stata di un algoritmo poco (o troppo) attento, secondo il social network, ma il problema ora dovrebbe essere stato risolto
Per TikTok inserire riferimenti al movimento di difesa dei diritti dei neri Black Lives Matter nel proprio profilo è “inappropriato”. Sembrerà assurdo, ma è quello che hanno riportato la scorsa settimana alcuni creator della popolare app di video brevi. Tuttavia, una spiegazione c’è.
Il comico Ziggi Tyler è stato il primo ad accorgersi del problema mentre tentava di aggiornare la sua bio nel Creator Marketplace di TikTok, il luogo dell’app per collegare i creatori con gli sponsor. Tyler ha pubblicato diverse clip sul suo account mostrando che ogni volta che cercava di modificare la sua biografia per includere frasi come “Black Lives Matter”, “Pro-Black” o “Black success”, TikTok diceva che la sua biografia conteneva un contenuto “inappropriato” e che non poteva essere aggiornato.
Tyler ha sostituito la parola “nero” con “bianco” in ciascuna delle frasi, mostrando come TikTok non segnalasse il suo profilo anche se includeva espressioni del tipo “sostengo la supremazia bianca” o termini come “pro-bianco”.
La piattaforma ha negato che ci fosse un problema generalizzato e ha dato la colpa ad alcune migliorie da fare nel Marketplace. La segnalazione di queste frasi, ha prodotto però una sospensione temporanea che ha impedito a qualsiasi creatore di modificare la propria bio.
L’azienda si è poi scusata per l’accaduto e ha fornito una spiegazione più esaustiva. “Le nostre protezioni del TikTok Creator Marketplace, che contrassegnano le frasi tipicamente associate all’incitamento all’odio, sono state erroneamente impostate per contrassegnare le frasi senza rispettare l’ordine delle parole”, ha detto a Gizmodo un portavoce di TikTok. Il social network ha aggiunto che il suo team ha corretto questo errore e chiarito che Black Lives Matter non viola le sue politiche.
L’algoritmo di TikTok, secondo la stessa azienda, avrebbe individuato la parola “die” (“morte”, “morire”) nel termine “audience” (“pubblico”), che compariva nel profilo di Tyler. La vicinanza della parola “black” e delle lettere che formano “die” avrebbero suggerito all’intelligenza artificiale che si trattasse di un contenuto di incitamento all’odio verso le persone di colore. TikTok ha anche sottolineato che il suo algoritmo avrebbe attirato l’attenzione su qualsiasi combinazione delle parole “die” e “black”. Se fossero stati incluse entrambe nella biografia di Creator Marketplace di qualcuno, sarebbero state segnalate come inappropriate.
Anche se la spiegazione della piattaforma questa volta può apparire convincente, non è il primo caso in cui i creator neri si scontrano con l’app. Durante le proteste di Black Lives Matter che si sono intensificate lo scorso anno, diversi creatori hanno affermato che TikTok stava oscurando i contenuti sulla morte di George Floyd, che la società ha successivamente attribuito a un “problema tecnico”.
Leggi anche