I nostri bambini sono al sicuro mentre videogiocano online? Una domanda che sicuramente un genitore si è posto già da tempo e la risposta non è mai facile da dare. Perché se è vero che non bisogna mai demonizzare uno strumento, qualunque esso sia, c’è da precisare che in una chat online si può scrivere di tutto, senza conoscere l’identità che si cela dietro l’interlocutore.
Nei videogiochi online è frequente incontrare minorenni e partecipare con loro ad una partita, ma c’è sempre il rischio che qualcuno sia interessato ad altro e che trovi il modo di adescarne qualcuno aggirando i vari filtri su parole e contenuti offensivi. E’ per questo che Microsoft, dal 10 Gennaio 2020, ha dato via a Project Artemis un tool in grado di analizzare e di comprendere se la discussione possa essere compromettente. Ma il progetto non si limita a questa sorta di intelligenza artificiale, ma ad una vera e propria rete di controllo: una volta che una chat viene identificata come sospetta ci sarà un revisore umano che analizzerà la conversazione.
Project Artemis nasce da un team di ingegneri del Dartmouth College e con le collaborazioni di The Meet Group, Roblox, Kik e Thorn. Questo tool, diffuso a titolo gratuiti, potrà essere esteso a qualsiasi piattaforma di terze parti e probabilmente verrà implementato sin da subito su Skype, che ricordiamo essere di proprietà Microsoft.
Ma come funziona Project Artemis? come fa un algoritmo ad “insospettirsi” e lanciare così una segnalazione al revisore umano? In pratica ci si basa su un set di parole, espressioni, formule che sono frequenti tra i molestatori e si assegna un punteggio. Microsoft ha tenuto segrete le tecnologie che hanno portato al progetto, ma i primi test sulle chat di gioco Xbox hanno dato un’ottima risposta
Le dichiarazioni di Courtney Gregoire, Chief Digital Safety Officer di Microsoft fanno capire però quanta strada ci sia ancora da fare: questo è un passo significativo, anche se non è una panacea. Lo sfruttamento sessuale e l’abuso dei bambini sul web e la ricerca degli adescatori online sono problemi gravi. Ma non siamo spaventati dalla complessità di queste questioni
La pedofilia, come tanti altri crimini, possono essere perseguiti nonostante la complessità nello scovarli, tenendo conto anche della mole di testo da analizzare: un algoritmo era proprio quello di cui avevamo bisogno.