I predatori sessuali sfruttano i social media per contattare i minori e distribuire materiale pedopornografico. Meta ha annunciato nuove misure per contrastare questa attività illegale sulle sue piattaforme. Il nuovo tool permette di individuare e rimuovere inserzioni pubblicitarie che rimandano a contenuti pedopornografici. Oltre a questa tecnologia, l’azienda di Menlo Park ha illustrato le iniziative già in atto da diversi anni.
Meta e la lotta ai predatori sessuali
In un post pubblicato sul blog ufficiale, Meta sottolinea che i predatori sessuali sfruttano i social network per contattare i minori e distribuire CSAM (Child Sexual Abuse Material). L’azienda avvia indagini quando viene rilevato o segnalato un contenuto di abuso sessuale o sfruttamento di minori. I contenuti vengono rimossi e gli account responsabili vengono chiusi. Tutte le segnalazioni vengono inoltre inviate al National Center for Missing & Exploited Children (NCMEC).
Tra gennaio e giugno 2026, Meta ha rilevato e bloccato circa 33,2 milioni di CSAM su Facebook e Instagram. Oltre il 97% dei contenuti è stato rilevato e rimosso proattivamente, quindi prima che gli utenti li visualizzassero. L’azienda sfrutta modelli IA per identificare gli annunci che portano a siti con CSAM. Vengono inoltre bloccati gli account e rimosse tutte le inserzioni. PhotoDNA e altre tecnologie permettono di individuare e rimuovere le copie simili dei contenuti vietati.
Indagini manuali e tool IA
Meta può contare su un team di esperti, tra cui ex investigatori dell’FBI, che effettuano indagini manuali per identificare e segnalare le reti di account dei predatori. Gli agenti IA scansionano continuamente i sistemi alla ricerca di falle nelle protezioni. L’azienda afferma che ha la capacità di scoprire i nuovi account creati dai predatori dopo la chiusura di quelli precedenti.
Il nuovo tool IA è stato sviluppato per rilevare e bloccare le inserzioni che puntano a siti con CSAM. Meta ha addestrato i modelli di machine learning con oltre 100.000 URL di spam e phishing per ottenere un alto livello di precisione e un basso numero di falsi positivi. Il sistema è attualmente testato su Facebook e Instagram. Se il test avrà successo verrà adottato anche su altre piattaforme.
Fonte: Punto Informatico