Lo rivela un report di Safer, e la soluzione sta nell’uso delle nuove tecnologie.

Safer, un’azienda del gruppo Thorn, ha pubblicato recentemente un report sui trend emergenti online, dedicato in particolare alla diffusione del materiale pedopornografico e agli abusi sessuali sui minori. I dati mostrano un grande aumento di questi contenuti online, sdenuoprattutto su piattaforme e social network, ma in parte è dovuto a un incremento dei rilevamenti, grazie al perfezionamento dei software.

In questo articolo vediamo cosa si intende per materiale pedopornografico online, come si diffonde e, soprattutto, quali strumenti esistono per bloccarlo e denunciarlo. Continua a leggere!

I materiali pedopornografici

In inglese si usa la sigla CSAM, che sta per Child Sexual Abuse Material, letteralmente “materiali correlati agli abusi sessuali sui minori”. In Italia, utilizziamo il termine pedopornografia o materiale pedopornografico, per intendere tutti quei contenuti multimediali a sfondo sessuale che ritraggono minori.

Il problema, purtroppo, è vecchio come internet ed è difficile da controllare perché i canali di diffusione online sono tantissimi; se poi iniziamo a considerare anche le dark net, allora diventa una vera e propria missione impossibile.

Il dato allarmante registrato dal report del 2023 di Safer, è che il volume di pedopornografia è aumentato. Inoltre, questo dato concorda con quello di varie associazioni e ONG; ad esempio, NCMEC, il Centro nazionale per i bambini scomparsi e sfruttati, ha registrato un incremento del 329% su base annua del materiale pedopornografico online.

I principali canali di diffusione sono i social network e le piattaforme di condivisione online, che sono anche i primi clienti di Safer e partner delle ONG che si occupano di riconoscere e denunciare questi materiali.

Secondo i dati del NCMEC, la pedopornografia online è aumentata del 329% su base annua.

Tecnologie che rimuovono la pedopornografia

Il metodo principale per bloccare la diffusione dei CSAM è il cosiddetto hashing and matching: i contenuti pedopornografici noti vengono convertiti in un valore alfanumerico (hash) e inseriti in un database.

Quando un nuovo contenuto viene segnalato o pubblicato online su una piattaforma che aderisce a un programma di controllo di questo tipo, l’hash del nuovo contenuto viene comparato con quelli del database. Se viene trovata una corrispondenza, il sistema lo identifica come pedopornografia e lo blocca (e avvia una procedura di segnalazione dell’utente). Se non viene trovata una corrispondenza, il materiale è considerato pulito e viene pubblicato.

LEGGI ANCHE: Come controllare l’accesso dei minori ai siti porno

Questa tecnologia è la colonna portante di molti metodi di rilevamento e moderazione dei contenuti online, ma da sola non è sufficiente.

Servono infatti altri strumenti:

  • La collaborazione delle community. Le persone devono segnalare i contenuti e i canali sospetti, e agire come primo filtro online.
  • Applicazioni di computer vision. Le nuove tecnologie basate sull’IA consentono ai software di “vedere”, o meglio di analizzare un contenuto audiovisivo e capire cosa contiene attraverso il riconoscimento di pattern, forme, movimenti, suoni e così via. L’intelligenza artificiale è la migliore scommessa per il futuro della protezione online, perché consente di automatizzare e velocizzare le operazioni di controllo e, soprattutto, di ridurre il numero di errori.
  • Sviluppo di altre tecnologie specifiche come il fingerprinting, ovvero la creazione di “impronte digitali” per ciascun file CSAM, in modo simile al sistema di hashing che abbiamo visto sopra.
  • Uso del machine learning per riconoscere comportamenti abusivi di utenti online, a cui può essere associata la diffusione di materiali pedopornografici.

Questi sono i metodi principali per riconoscere, moderare e bloccare la pedopornografia online e hanno tutti in comune una cosa: la collaborazione. Utenti, piattaforme, ONG, sviluppatori devono collaborare tra loro per creare una sinergia vincente.

Inoltre, ciò che fa la differenza – e la farà sempre di più in futuro – è l’intelligenza artificiale. Il perfezionamento delle reti neurali e del deep learning consentirà di riconoscere sempre meglio i contenuti e filtrarli adeguatamente, e questo processo sarà sempre più rapido ed efficace.

La parola chiave è “collaborazione”: utenti, piattaforme, ONG e sviluppatori devono collaborare per creare una sinergia vincente per bloccare la pedopornografia.

Come proteggere i minori online

Al di là delle tecnologie che riconoscono e bloccano i contenuti pedopornografici, Safer ha rilevato anche un aumento della condivisione spontanea di materiali da parte degli stessi minori. Anche su questo punto, oltre all’attività di ciascuna famiglia o istituzione, possono intervenire efficacemente le tecnologie, in particolare gli strumenti di parental control.

Ne abbiamo parlato spesso nel nostro blog, e oggi torniamo a presentarli: il parental control è la categoria di software che consentono ai genitori di monitorare, regolare e bloccare le attività digitali dei figli, soprattutto per quanto riguarda l’utilizzo di browser, app e servizi online.

Secondo i vari sondaggi che abbiamo realizzato nel corso degli anni, e in particolare l’ultimo che abbiamo pubblicato quest’anno, l’Italia è al primo posto in Europa nel controllo dei figli online. Si tratta di un primato positivo, che ha un impatto altrettanto buono sulla lotta contro la pedopornografia.

Per concludere, ti invitiamo a provare le soluzioni del controllo genitori di Panda e scoprire in che modo possono aiutarti a proteggere i tuoi figli online.

CONTINUA A LEGGERE: Cyberviolenza, cos’è e come riconoscerla

Buona navigazione e buona protezione dei tuoi figli online!