Al momento i nuovi algoritmi pensati per bloccare i post di revenge porn sono in fase di test in Australia ma a breve Facebook rilascerà queste funzioni in tutto il mondo. Gli sviluppatori del famoso social media hanno confessato di essersi ispirati ad altri filtri anti-molestie per realizzare questa nuova caratteristica. In particolar modo l’algoritmo è stato progettato partendo dal sistema di controllo genitori già presente su Facebook e su altri servizi Internet come Google, Twitter o Instagram. La funzione pensata contro il revenge porn si basa su un database di file protetti con la crittografia.
Algoritmo per fermare il revenge porn
Grazie all’apprendimento automatico l’algoritmo di Facebook crea una serie di filtri alle foto che possono essere postate. Se un’immagine che un’utente prova a caricare viene identificata come una foto sensibile per un’altra persona nell’ambito del revenge porn il caricamento non verrà completato. E per l’utente sarà impossibile pubblicare questa foto e condividerla con la propria rete sul social. La nuova funzione anti-molestie non agisce solo sui nuovi post sulla bacheca di Facebook. L’algoritmo funziona anche su Messenger. In questo modo sarà impossibile diffondere foto e video sensibili. L’aspetto particolare è che per costruire il proprio database per l’apprendimento automatico Facebook ha usato le stesse foto che i malintenzionati hanno provato a caricare sul social media nel corso degli anni. Oltre alle foto “bloccate” di recente il database è composto anche dalle immagini segnalate dagli stessi utenti e identificate come tentativo di revenge porn. Facebook ha sottolineato che questo database non viene salvato da nessuna parte e che quelle foto servono esclusivamente per l’apprendimento automatico dell’algoritmo e non verranno mai riutilizzate. Inoltre in Australia Facebook ha iniziato anche una collaborazione per la Polizia Postale. In seguito a una foto bloccata la vittima viene avvisata dal social media in modo tale che possa sporre denuncia contro l’utente che ha cercato di pubblicare foto e video sensibili a propria insaputa.
