Instagram avvisa gli utenti quando i suoi algoritmi rilevano un linguaggio offensivo

Instagram ha annunciato l’intenzione di iniziare a mettere in guardia gli utenti quando i suoi algoritmi rilevano un linguaggio potenzialmente violento nel testo delle didascalie per i post inviati al social network.
Instagram di proprietà di Facebook ha dichiarato che utilizzerà l’intelligenza artificiale per individuare eventuali esempi di linguaggio potenzialmente dannoso e offrire agli utenti l’opportunità di riconsiderare i propri sentimenti prima di condividere il post con il pubblico.
Il nuovo sistema è una versione più proattiva di una funzionalità simile rilasciata all’inizio di quest’anno, avvisava gli utenti quando i loro commenti sui post di altre persone contenevano un linguaggio che poteva essere considerato offensivo o bullismo.
La nuova funzione quando attivata mostra agli utenti un messaggio che dice che la didascalia è simile ad altre che sono state prima segnalate, offre loro la possibilità di modificarla, saperne di più sul perché è stata contrassegnata o andare avanti e condividerla comunque.
Instagram, insieme all’omonima piattaforma di punta della società madre Facebook e ad altre piattaforme concorrenti di social media come Twitter e YouTube, ha affrontato critiche crescenti per non aver agito abbastanza rapidamente da rimuovere l’opinione pubblica offensiva e altri contenuti potenzialmente pericolosi.
I politici e gli attivisti di tutto il mondo hanno chiesto l’introduzione di una maggiore regola per consentire una migliore sorveglianza dei social media e ritenere i siti responsabili di non proteggere i propri utenti.
Instagram ha dichiarato di essersi impegnata a sviluppare nuove tecnologie e funzionalità volte a mitigare il bullismo online, indicando una serie di funzionalità introdotte quest’anno progettate per ridurre il bullismo che si svolge sulla sua piattaforma.
Dan Raisbeck, co-fondatore dell’ente di beneficenza anti-cyberbullismo Cybersmile, ha affermato:
«Si tratta di un buon esempio di tentativi proattivi per fermare l’abuso online, piuttosto che reagire a essi dopo l’evento. Tutti dovremmo considerare l’impatto delle nostre parole, soprattutto online, dove i commenti possono essere facilmente male interpretati. Strumenti come il commento di Instagram e l’avvertimento sui sottotitoli sono un modo utile per incoraggiare quel comportamento prima che qualcosa sia pubblicato, piuttosto che fare affidamento su azioni reattive per rimuovere un commento offensivo dopo che è stato visto da altri».
Facebook proprietario di Instagram, nel frattempo sta affrontando le pressioni della Federal Trade Commission (FTC) negli Stati Uniti. FTC sta valutando la possibilità di chiedere un’ingiunzione legale preliminare contro Facebook per motivi antitrust relativi al modo in cui i suoi prodotti interagiscono. Facebook possiede anche WhatsApp, così come Instagram, già abbina e suggerisce contatti e connessioni tra le app automaticamente a un utente.
FTC ha espresso preoccupazione poiché l’acquisizione da parte di Facebook delle precedenti app rivali Instagram e WhatsApp ha ridotto la concorrenza tra i prodotti di social network, a scapito del consumatore, per questo ha avviato le sue indagini dopo che Facebook ha annunciato l’intenzione di unificare le basi tecniche delle sue app principali per consentire agli utenti di inviare messaggi crittografati da un’app che potrebbe essere ricevuta su un’altra.
La Commissione ritiene che se Facebook fosse autorizzato a integrare queste applicazioni in modo troppo stretto all’interno della propria infrastruttura, in un secondo momento sarebbe più difficile suddividerle.
La dissoluzione di Facebook è un’ambizione che si sta diffondendo sempre più nei circoli politici, sta guadagnando connotazione sociale a causa della crescente insoddisfazione nei confronti dei precedenti di Facebook in materia di privacy e di gestione responsabile dei dati degli utenti.
Facebook secondo una recente analisi controlla circa i due terzi (66%) del mercato dei social media in tutto il mondo, rispetto a circa l’11% ciascuno per Pinterest e Twitter. L’utile netto di Facebook nel 2018 è stato di 22,1 miliardi di dollari.

Pino Silvestri

About Pino Silvestri

Pino Silvestri, blogger per diletto, fondatore, autore di Virtualblognews, presente su Facebook e Twitter.
View all posts by Pino Silvestri →