Facebook ha riconosciuto che i suoi sistemi per identificare e rimuovere espressioni di odio non hanno funzionato in modo efficace, dovendo affrontare la pressione dei gruppi femministi che hanno chiesto al sito di social networking di vietare le pagine che glorificano la violenza contro le donne. Gli attivisti, che hanno inviato più di 5.000 e-mail agli inserzionisti di Facebook e hanno suscitato più di 60.000 messaggi su Twitter, hanno anche spinto Nissan e più di una dozzina di aziende più piccole a ritirare la pubblicità dal sito.
In un post sul blog, Facebook ha detto che i suoi "sistemi per identificare e rimuovere discorsi di odio non sono riusciti a lavorare nel modo più efficace come avrebbe voluto, in particolare intorno a questioni di genere odio". La società ha detto di voler rivedere come trattare tali contenuti, aggiornare la formazione dei propri dipendenti, aumentare la responsabilità - tra cui richiedere agli utenti l'uso delle loro identità reali durante la creazione di contenuti - e stabilire linee di comunicazione più diretta con gruppi di donne e di altri soggetti.
Gruppi di donne si sono lamentati in passato del contenuto misogino di Facebook, ma la pressione sulla società si è intensificata la scorsa settimana, quando un collettivo guidato da Women Action e Media, Laura Bates del Progetto sessismo quotidiano e Soraya Chemaly, scrittrice e attivista, ha pubblicato una lettera aperta chiedendo ai dirigenti di Facebook di "vietare discorsi di odio sul sito". La lettera ha evidenziato pagine di Facebook con nomi che incitano alla violenza sulle donne, e altre pagine che includono immagini grafiche di donne abusate.
Facebook ha cercato di prendere le distanze dalla responsabilità dei suoi utenti, non moderando il contenuto che viene ritenuto "offensivo", ma la sua inversione di rotta sulla politica segna un cambiamento nel suo approccio. I sistemi automatici di controllo non selezionano le immagini se non vi sono evidenti nudità ed è complicato rimuovere le pagine sulla base del linguaggio usato. Ma adesso Facebook ha avviato la campagna contro l'Hate speech. Marne Levine, vice presidente del Global Public Policy del social network, ha dichiarato in un post su Facebook Safety:
"(...) La missione di Facebook è sempre stata quella di rendere il mondo più aperto e connesso. Noi cerchiamo di fornire una piattaforma in cui le persone possono condividere contenuti, messaggi e idee liberamente, pur nel rispetto dei diritti degli altri. Quando le persone possono impegnarsi in conversazioni significative e scambi con i loro amici, la famiglia e le comunità on-line, possono accadere cose incredibilmente positive. Per facilitare questo obiettivo, lavoriamo duramente per rendere la nostra piattaforma un luogo sicuro e rispettoso per la condivisione e la connessione".
"Questo ci impone di prendere decisioni difficili e di bilanciare le preoccupazioni circa la libertà di espressione e il rispetto della comunità. Vietiamo contenuti ritenuti direttamente dannosi, ma permettiamo contenuti offensivi o controversi. Definiamo contenuti nocivi come qualcosa che sta organizzando la violenza del mondo reale, furto o distruzione di proprietà, o che infligge direttamente stress emotivo su uno specifico soggetto privato (ad esempio il bullismo)". Un elenco di categorie proibite di contenuti su Facebook si possono trovare nelle norme comunitarie del social network.
"Inoltre, - continua Levine - la nostra Dichiarazione dei diritti e delle responsabilità vieta 'incitamento all'odio'. Anche se non esiste una definizione universalmente accettata di odio, come piattaforma definiamo il termine per indicare attacchi diretti e seri su ogni categoria protetta di persone sulla base della loro razza, origine etnica, origine nazionale, religione, sesso, genere, orientamento sessuale, disabilità o malattia. Lavoriamo duramente per rimuovere velocemente discorsi di odio, tuttavia ci sono casi di contenuti offensivi, tra umorismo di cattivo gusto, che non sono espressioni di odio in base alla nostra definizione".
"In questi casi, lavoriamo per applicare criteri equi, riflessivi, e scalabili. Questo approccio ci permette di continuare a difendere i principi di libertà di espressione propri su cui è fondata Facebook. Abbiamo anche trovato che la pubblicazione di contenuti insensibili o crudeli si traduce spesso nella denuncia di molte persone che lo sostengono su Facebook. Detto questo, ci rendiamo conto che la nostra difesa della libertà di espressione non deve mai essere interpretata come licenza di bullo, molestie, abusi o minacce di violenza".
"Ci siamo impegnati a lavorare per garantire che ciò non accada all'interno della comunità di Facebook. Riteniamo che la procedura descritta di seguito vi aiuterà a raggiungere questo obiettivo. Abbiamo costruito i principali sistemi tecnici e umani di settore per incoraggiare le persone che utilizzano Facebook per segnalare violazioni dei nostri termini e strumenti sofisticati sviluppati per aiutare i nostri team a valutare le segnalazioni che riceviamo e fanno o intensificano le difficili decisioni sul fatto che contenuti segnalati sono controversi, nocivi o costituiscono incitamento all'odio".
"Come risultato, crediamo di essere in grado di rimuovere la maggior parte dei contenuti che violano i nostri standard, come noi scaliamo quei sistemi per coprire i nostri più di 1 miliardo di utenti, e come noi cerchiamo di proteggere gli utenti da coloro che cercano di aggirare le nostre linee guida per reinserire contenuti che sono stati buttatai giù di volta in volta. In questi ultimi giorni, è diventato chiaro che i nostri sistemi per identificare e rimuovere discorsi di odio non sono riusciti a lavorare nel modo più efficace come vorremmo, in particolare intorno a questioni di genere odio . In alcuni casi, il contenuto non viene rimosso rapidamente come vogliamo".
"In altri casi, il contenuto che deve essere rimosso non è stato o è stato valutato utilizzando criteri obsoleti. Abbiamo lavorato negli ultimi mesi per migliorare i nostri sistemi per rispondere alle segnalazioni di violazioni, ma le linee guida utilizzate da questi sistemi non sono riusciti a catturare tutto il contenuto che viola i nostri standard. Abbiamo bisogno di fare meglio e lo faremo. Intendiamo completare la nostra recensione e aggiornare le linee guida che il nostro team di operazioni utente utilizza per valutare segnalazioni di violazione delle regole della comunità intorno a discorsi di odio".
"Per garantire che queste linee guida riflettono le migliori pratiche, avremo da sollecitare feedback da esperti legali e altri, tra cui i rappresentanti della coalizione delle donne e di altri gruppi che storicamente hanno affrontato la discriminazione. Provvederemo ad aggiornare la formazione delle squadre che riesaminano e valutano le segnalazioni di parole odiose o contenuti dannosi su Facebook. Per garantire che la nostra formazione sia robusta, lavoreremo con esperti legali e gli altri, compresi i membri della coalizione delle donne per identificare le risorse o evidenziare le aree di particolare interesse per l'inclusione nella formazione".
"Noi aumentare la responsabilità dei creatori di contenuti che non si qualificano come espressioni di odio perseguibili ma che sono crudeli o insensibili, insistendo sugli autori che stanno dietro i contenuti che creano. Pochi mesi fa abbiamo iniziato a testare un nuovo requisito che il creatore di ogni contenuto contenente umorismo crudele e insensibile includono la sua autentica identità per il contenuto di restare su Facebook. Come risultato, se un individuo decide di condividere pubblicamente contenuti crudele e insensibile, gli utenti possono tenere conto dell'autore e direttamente oggetto al contenuto (...)".
"Si tratta di sfide complesse e sollevano questioni complesse. La nostra recente esperienza ci ricorda che non siamo in grado di rispondere da soli. Facebook è più forte quando si impegna con la comunità di Facebook sul modo migliore per portare avanti la nostra missione. Come siamo cresciuti per diventare un servizio globale con più di un miliardo di persone, stiamo costantemente a rivalutare i nostri processi e le politiche. Continueremo ad espandere il nostra raggiungimento dei gruppi responsabili ed esperti che possono aiutare e sostenere i nostri sforzi per dare alla gente il potere di condividere e rendere il mondo più aperto e connesso".
Nessun commento:
Posta un commento