Dal Deepfake alla voce clonata, le nuove frontiere del cyberbullismo. Bonatti: “L’IA sia uno strumento di supporto, non di sostituzione. Ai ragazzi insegniamo responsabilità e consapevolezza”

L’Intelligenza Artificiale può aiutare la scuola a costruire percorsi di prevenzione contro bullismo, cyberbullismo e violenza di genere, ma non può sostituire docenti ed educatori. Nella rubrica I PROTAGONISTI di Orizzonte Scuola, il criminologo Cristian Bonatti affronta segnali di disagio, deepfake, manipolazione della voce, privacy e utilizzo dell’IA in classe, indicando nella consapevolezza digitale e nel dialogo con gli studenti i principali strumenti di prevenzione.

Bullismo, i segnali che gli adulti devono imparare a leggere

Silenzio improvviso, cambiamenti dell’umore, peggioramento scolastico e comportamenti che si modificano senza una spiegazione apparente possono rappresentare segnali da non sottovalutare. Per Cristian Bonatti, tuttavia, riconoscerli significa soprattutto costruire un rapporto che permetta ai ragazzi di parlare senza temere il giudizio. “Questi segnali sono sempre molto forti, molto evidenti. Il problema è che i ragazzi di oggi tendono tante volte a nasconderli, perché hanno paura, paura di essere giudicati. Uno dei fattori importanti che rende forti questi fenomeni è il fatto di demandare la responsabilità sulla persona che è effettivamente oggetto di questo fenomeno. Si tenta di far credere alle vittime che, se vengono bullizzate, la colpa sia loro e non di chi effettivamente sta facendo questo. Anche i bulli, però, vanno studiati, perché tante volte sono a loro volta vittime di un sistema che li porta a comportarsi così, magari di esempi che hanno nell’ambito genitoriale o familiare. Ecco perché è importante capire i segnali e dialogare con questi ragazzi. I segnali ci sono, ma tante volte sono nascosti: può esserci un silenzio improvviso, un cambiamento dell’umore, un abbassamento della media scolastica oppure il rifiuto improvviso di determinate situazioni, come può accadere negli spogliatoi dopo l’attività sportiva. Sono tutti elementi ai quali dobbiamo prestare attenzione” – ha spiegato Bonatti.

Dal bullismo al cyberbullismo: quando la platea diventa potenzialmente illimitata

La dimensione digitale ha cambiato profondamente la portata delle condotte aggressive. Un episodio che un tempo poteva rimanere circoscritto a un determinato ambiente può essere registrato, condiviso e rilanciato online. “Con l’avvento della digitalizzazione e dell’Intelligenza Artificiale il mondo della comunicazione è cambiato completamente, perché sono cambiati i tempi. Prima un evento di bullismo avveniva all’interno di una scuola, lì era e lì rimaneva. Adesso, invece, con i cellulari immediatamente esce fuori da quelle quattro pareti. I quattro spettatori che potevano esserci all’interno di una scuola diventano migliaia quando si va online. E poi soprattutto c’è il fatto che la rete non dimentica: io posto un’immagine, mando qualcosa in rete e quella rimarrà. Quel piccolo prefisso ‘cyber’ davanti alla parola bullismo, in realtà, lo rende qualcosa di ancora più devastante. Per questo dobbiamo fare una prevenzione importante nelle scuole, lavorando con i ragazzi sulla consapevolezza di quello che pubblicano, di quello che condividono e di ciò che possono fare attraverso la rete e gli strumenti di Intelligenza Artificiale” – ha affermato Bonatti.

IA in classe: prevenire senza sorvegliare gli studenti

L’utilizzo dell’IA nella prevenzione non dovrebbe trasformarsi in un sistema di controllo degli alunni. Bonatti propone invece di utilizzare gli strumenti generativi per costruire materiali didattici, situazioni simulate e occasioni di confronto, evitando di inserire informazioni personali degli studenti. “I docenti possono aiutare i ragazzi con l’utilizzo dell’Intelligenza Artificiale innanzitutto insegnando loro la responsabilità nell’utilizzo di questi strumenti e soprattutto come evitare di incappare nei problemi che possono presentarsi. Uno dei principali è indubbiamente quello legato alla privacy. All’interno della classe questi strumenti possono essere utilizzati per creare casi di studio, domande, questionari e materiale che possa servire ad affrontare la tematica, senza inserire dati e informazioni personali. Possiamo creare esercizi nei quali configuriamo un sistema di Intelligenza Artificiale come se rappresentasse una determinata situazione e osservare le reazioni agli stimoli generati. L’IA non deve essere utilizzata per analizzare casi reali inserendo dati personali: deve essere uno strumento di supporto e non di sostituzione. Il docente deve restare la persona che lo utilizza e lo fa utilizzare agli studenti in maniera consapevole, per riflettere e comprendere la problematica e costruire prevenzione” – ha dichiarato Bonatti.

Deepfake e voce clonata, le nuove possibilità della manipolazione

L’evoluzione dell’IA generativa ha introdotto rischi che vanno oltre il tradizionale cyberbullismo. Immagini manipolate, falsi video e riproduzioni artificiali della voce possono attribuire a una persona comportamenti o dichiarazioni mai avvenuti. “La possibilità di creare dei fake, prendere l’immagine di una persona, alterarla e riproporla in maniera diversa diventa effettivamente spaventosa, soprattutto per ragazzi che sono in un periodo di crescita e possono trovarsi emotivamente devastati dall’essere incolpati di qualcosa che non hanno fatto. Indubbiamente poi potrà emergere la verità, ma intanto quella macchia rimane. Quello che a me spaventa tantissimo è anche il discorso della voce: bastano pochi secondi della nostra voce per riprodurre frasi che noi non abbiamo mai detto o non avremmo mai detto. Proviamo a pensare all’impatto emotivo che può avere una telefonata nella quale sembra essere nostro figlio che, singhiozzando, chiede denaro perché è successo qualcosa. Con l’Intelligenza Artificiale questo tipo di manipolazione è possibile e il peso emotivo diventa molto più forte” – ha osservato Bonatti.

Immagini sessualmente esplicite e violenza di genere

Particolarmente delicata è la possibilità di manipolare fotografie e video per costruire falsi contenuti sessuali. Per gli adolescenti, la diffusione di materiale artificiale ma apparentemente autentico può produrre conseguenze relazionali e psicologiche rilevanti. “Dobbiamo pensare anche alla creazione di immagini sessualmente esplicite e a quanto questi strumenti possano rendere ancora più forte un fenomeno collegato alla diffusione non consensuale di contenuti intimi o al sexting. Anche la creazione di meme attraverso l’Intelligenza Artificiale può collegarsi ai deepfake: pensiamo a come un ragazzo possa essere deriso attraverso immagini create artificialmente. Noi dobbiamo lavorare molto su questo come educatori, docenti e insegnanti, insegnando un utilizzo consapevole di questi strumenti. È come quando si insegna a guidare: non si insegna ad andare a duecento all’ora contro un muro, si insegna a guidare correttamente. Con l’IA dobbiamo fare la stessa cosa. Solo con l’educazione possiamo cercare di arginare, anche se purtroppo non azzerare, il rischio che questi strumenti vengano utilizzati per creare falsi, manipolazioni della voce o manipolazioni dei video” – ha spiegato Bonatti.

Il docente deve restare il supervisore

L’IA può produrre materiali e suggerire attività, ma secondo Bonatti la responsabilità delle decisioni deve rimanere in capo al docente. È questo il confine tra utilizzo didattico e delega alla tecnologia. “Un docente deve utilizzare l’Intelligenza Artificiale come strumento di supporto e non di sostituzione. Può farsi creare una base di studio o del materiale, ma deve essere sempre il supervisore dello strumento. Ricordiamoci che l’Intelligenza Artificiale è al nostro servizio, non siamo noi al servizio dell’Intelligenza Artificiale. Dobbiamo mantenere la nostra consapevolezza e la nostra personalità e non permettere che un sistema si sostituisca alla nostra capacità di valutare. Questo è fondamentale anche dal punto di vista della privacy e della profilazione” – ha sottolineato Bonatti.

Privacy dei minori: anonimizzare e minimizzare i dati

Se l’IA viene utilizzata in un’attività scolastica, la protezione delle informazioni personali assume un’importanza ancora maggiore quando sono coinvolti minorenni. La prima indicazione operativa di Bonatti è evitare che un caso didattico diventi occasione per trasferire dati reali a piattaforme esterne.

“Consiglio di lavorare con account il più possibile anonimizzati e soprattutto di prestare attenzione alle informazioni che diamo all’Intelligenza Artificiale. Se vogliamo creare il caso di studio di uno studente, non utilizziamo il suo nome: costruiamo un caso fittizio, utilizziamo delle X o delle Y, anonimizzando il dato e soprattutto minimizzando le informazioni. Creiamo prompt che contengano le informazioni necessarie, ma al minimo possibile. Questo è particolarmente importante perché i docenti lavorano anche con ragazzi minorenni e quindi esiste una maggiore esigenza di tutela del dato e della riservatezza. E ricordiamoci che dobbiamo tutelare non soltanto i dati degli studenti, ma anche i nostri” – ha dichiarato Bonatti.

Non serve insegnare soltanto come si usa un chatbot

La competenza richiesta alla scuola, secondo il criminologo, non coincide con la semplice conoscenza tecnica delle piattaforme. Gli studenti possono apprendere rapidamente come formulare una richiesta a un sistema generativo; più difficile è comprendere cosa accade ai dati, riconoscere una manipolazione e verificare l’attendibilità di una risposta. “Lavoriamo con i ragazzi con l’Intelligenza Artificiale, perché non dobbiamo farlo? Insegniamo loro che esistono questi strumenti. Il nostro compito, però, non è semplicemente insegnare come funziona un chatbot o un determinato programma, perché fondamentalmente loro spesso sanno già utilizzarli e sono strumenti abbastanza semplici. Inoltre sugli strumenti video online possono trovare moltissimi contenuti che spiegano tecnicamente come usarli. Noi dobbiamo insegnare quello che gli altri non insegnano: responsabilità e consapevolezza. È questo ciò a cui siamo chiamati noi adulti ed educatori. Dobbiamo spiegare perché non bisogna fornire dati personali, che cosa può accadere caricando un’immagine, che cos’è un deepfake e quali rischi comporta la manipolazione della voce. Questa è la parte educativa che spetta alla scuola” – ha affermato Bonatti.

Errori dell’IA, bias e informazioni inventate

Utilizzare l’Intelligenza Artificiale in modo consapevole significa anche insegnare agli studenti a non considerare automaticamente corretta una risposta soltanto perché prodotta da un sistema tecnologico. “Dobbiamo ricordarci che l’Intelligenza Artificiale può produrre quelle che vengono chiamate allucinazioni. Può generare documenti, norme o fatti storici che non sono mai esistiti. Per questo dobbiamo insegnare ai ragazzi a leggere i testi prodotti dall’IA, individuare i bias, riconoscere gli stereotipi e chiedersi da dove arrivino determinate informazioni. Dobbiamo insegnare loro a verificare dove il sistema è andato a prendere quei dati. Questa è l’educazione che possiamo fare in classe ed è così che possiamo insegnare ai nostri ragazzi a utilizzare bene l’Intelligenza Artificiale” – ha concluso Bonatti. La prevenzione, dunque, non passa dall’affidamento delle decisioni a un algoritmo. Nel percorso indicato da Bonatti, l’IA diventa piuttosto un’occasione per lavorare sulla responsabilità digitale, mentre riconoscimento del disagio, ascolto e intervento rimangono compiti della comunità educante.