Minori e intelligenza artificiale: opportunità straordinarie e rischi nascosti

/ Diritto delle nuove tecnologie / Di
Tempo di lettura stimato:5 Minuti, 47 Secondi

L’interazione tra minori e intelligenza artificiale si fa sempre più intensa, trasformando profondamente la loro quotidianità. Dalle piattaforme educative ai giocattoli intelligenti, fino agli assistenti vocali e ai social network, l’intelligenza artificiale permea ormai ogni aspetto della crescita e dell’apprendimento dei più giovani. Se da un lato questo fenomeno rappresenta un’opportunità senza precedenti, dall’altro solleva interrogativi di carattere etico, giuridico e pedagogico.

Insegnare ai bambini e agli adolescenti come funziona l’intelligenza artificiale è un passo cruciale per renderli consapevoli e responsabili. Senza una formazione adeguata, rischiano di subire passivamente la tecnologia, senza sviluppare un pensiero critico nei confronti dei contenuti generati dagli algoritmi.

Sebbene infatti da un lato vi siano notevoli benefici, in quanto i sistemi basati sull’intelligenza artificiale adattano il livello di difficoltà in base alle esigenze dell’alunno, migliorando l’efficacia didattica, o riescono a favorire l’inclusione scolastica con traduzioni automatiche e simultanee di alto livello, e poi più in generale già il solo interagire con sistemi di intelligenza artificiale aiuta i giovani a comprendere logiche algoritmiche e concetti di programmazione, dall’altro lato bisogna comunque tenere ben presente che il progresso tecnologico non è privo di ombre. La protezione dei dati personali dei minori resta una questione critica, così come la necessità di prevenire il rischio di manipolazione psicologica e dipendenza digitale.

Gli algoritmi di raccomandazione possono indirizzare i minori verso contenuti inadatti, influenzando la loro percezione della realtà e il loro sviluppo cognitivo. Piattaforme di video-sharing e social network utilizzano l’AI per suggerire contenuti basati sulle interazioni dell’utente, ma spesso mancano adeguati filtri di protezione.

Ad esempio, su piattaforme come YouTube, un bambino potrebbe iniziare guardando video educativi su un determinato argomento, ma, a causa dell’algoritmo di raccomandazione, potrebbe essere progressivamente indirizzato verso contenuti più sensazionalistici, fuorvianti o addirittura dannosi. Questo fenomeno, noto come “rabbit hole effect“, può esporre i minori a disinformazione o a contenuti che promuovono comportamenti pericolosi.

Bisogna poi tenere in debita considerazione il fatto che i sistemi di intelligenza artificiale sono in grado di raccogliere e analizzare enormi quantità di dati sugli utenti, anche sui più piccoli. La creazione di profili digitali basati su abitudini di navigazione espone i minori a pubblicità mirate e rischi di tracciamento. E sebbene il Regolamento Generale sulla Protezione dei Dati (GDPR) imponga vincoli stringenti, vi è da considerare che l’attuazione pratica resta una grande sfida.

Quello che preoccupa di più è che giochi e applicazioni basate sull’intelligenza artificiale sono progettati per mantenere l’attenzione dell’utente il più a lungo possibile, aumentando il rischio di dipendenza tecnologica. Questo può compromettere le interazioni sociali e il benessere psicologico.

Un esempio concreto di come l’intelligenza artificiale favorisca la dipendenza tecnologica nei minori è rappresentato da piattaforme come TikTok e giochi basati come Fortnite o Roblox.

L’algoritmo di TikTok utilizza machine learning avanzato per analizzare le preferenze di ogni utente e proporre un flusso infinito di video altamente personalizzati. Questo meccanismo crea un effetto di dopamina immediata, inducendo i minori a scorrere ininterrottamente, spesso senza accorgersi del tempo che passa. Ormai molti studi dimostrano che un’esposizione prolungata a contenuti brevi può ridurre la capacità di attenzione e compromettere l’interazione sociale nel mondo reale.

Nel caso di Fortnite, invece, l’intelligenza artificiale regola le dinamiche di gioco per aumentare il coinvolgimento. Il sistema utilizza strategie psicologiche come le “ricompense variabili” (loot boxes, nuove skin, eventi a tempo limitato) per tenere i giocatori incollati allo schermo. Il rischio è che i minori sviluppino una dipendenza comportamentale, del tutto simile a quella osservata nel gioco d’azzardo, portandoli a trascurare attività sociali, studio e persino il sonno.

Ecco allora che forse l’adozione di misure regolatorie e tecniche diventa a dir poco essenziale per garantire che l’intelligenza artificiale sia etica e sicura per i minori. A nostro sommesso avviso i genitori e gli educatori devono poter comprendere come funzionano i sistemi di intelligenza artificiale con cui interagiscono i bambini, al fine di prevenire rischi e garantire un uso sicuro della tecnologia. Questo implica che le aziende sviluppatrici di tali sistemi debbano rendere accessibili spiegazioni chiare e intuitive sul funzionamento degli algoritmi, fornendo strumenti che permettano di monitorare e controllare l’esposizione dei minori. Inoltre, è essenziale implementare strumenti di audit indipendenti che valutino l’impatto degli algoritmi e segnalino eventuali anomalie nel trattamento dei dati e nella selezione dei contenuti proposti.

Per limitare poi l’accesso a contenuti inadatti, è necessario sviluppare strumenti di parental control efficaci e flessibili, che permettano ai genitori di personalizzare l’esperienza digitale dei propri figli. Questi strumenti dovrebbero includere:

  • filtri basati su intelligenzaa artificiale avanzata, in grado di riconoscere in tempo reale contenuti potenzialmente pericolosi o inadeguati;
  • sistemi di tracciamento del tempo di utilizzo, per prevenire un eccesso di esposizione ai dispositivi digitali;
  • modalità di supervisione educativa, che consentano ai genitori di ricevere report dettagliati sulle interazioni dei minori con l’intelligenza artificiale.

Insomma, l’intelligenza artificiale può essere un potente strumento educativo e di crescita, ma solo se progettata e utilizzata con consapevolezza. Educare i minori al funzionamento dell’intelligenza artificiale, rafforzare le normative sulla protezione dei dati e promuovere un utilizzo equilibrato della tecnologia sono passi fondamentali per trasformare i rischi in opportunità.

Solo attraverso un approccio multidisciplinare, che coinvolga giuristi, educatori, sviluppatori e istituzioni, sarà possibile costruire un futuro digitale più sicuro e inclusivo per le nuove generazioni.

PEr approfondire:

- W.S. MCCULLOCH, W.H. PITTS, “A Logical Calculus of the Ideas Immanent in Nervous Activity”, «Bulletin of Mathematical Biophysics», 5, 1943, pp. 115-133; 

- OFSTED METHODOLOGY NOTE, The risk assessment process for good and outstanding maintained schools and academies, disponibile al link https://tinyurl.com/yaqmt8yx ; 

- BBC NEWS, Artificial intelligence school inspections face resistance, 21 dicembre 2017, disponibile al link www.bbc.co.uk/news/technology-42425959; 

- M. REYNOLDS, UK’s Nudge Unit tests machine learning to rate schools and GPs’, 2017, disponibile al link https://tinyurl.com/ybjjka98; 

- J. BUOLAMWINI, T. GEBRU, “Gender shades: Intersectional accuracy disparities in commercial gender classification”, «Proceedings of Machine Learning Research», 81, pp. 1–15; 

- A. HUANG, R. WU, Deep learning for music, disponibile al link https://arxiv.org/pdf/1606.04930.pdf ; 

- A. ELGAMMAL, “AI is blurring the definition of artist: Advanced algorithms are using machine learning to create art autonomously”, «American Scientist», 107 (1), 2019, pp. 18–21; 

- T. HORNIGOLD, The first novel written by AI is here – and it’s as weird as you’d expect it to be, 2018, disponibile al link https://tinyurl.com/y88xpvl3; 

-   I. TAKAHASHI, M. OKI, B. BOURREAU, I. KITAHARA, K. SUZUKI, “FUTUREGYM: A gymnasium with interactive floor projection for children with special needs”, «International Journal of Child–Computer Interaction», 2018, 15, pp. 37–47;

- M. TURHAN, Y.C. EROL, S. EKICI, “Predicting students school engagement using artificial neural networks”, «International Journal of Advances in Science, Engineering and Technology», 4 (2), 2017, pp. 159–62;

- S. LEATON GRAY, “Artificial intelligence in schools: Towards a democratic future”, «London Review of Education», 18 (2), 2020, pp. 163–177.

The following two tabs change content below.
Il mio profilo FacebookIl mio profilo LinkedIn

Nicola Nappi

⚖️ Diritto commerciale, assicurativo, bancario, delle esecuzioni, di famiglia. Diritti reali, di proprietà, delle locazioni e del condominio. IT Law. a Studio Legale Nappi
*Giurista, Master Universitario di II° livello in Informatica Giuridica, nuove tecnologie e diritto dell'informatica, Master Universitario di I° livello in Diritto delle Nuove Tecnologie ed Informatica Giuridica, Corso di Specializzazione Universitario in Regulatory Compliance, Corso di Specializzazione Universitario in European Business Law, Corso di Perfezionamento Universitario in Criminalità Informatica e Investigazioni digitali - Le procedure di investigazione e di rimozione dei contenuti digitali, Corso di Perfezionamento Universitario in Criminalità Informatica e Investigazioni digitali - Intelligenza Artificiale, attacchi, crimini informatici, investigazioni e aspetti etico-sociali, Master Data Protection Officer, Consulente esperto qualificato nell’ambito del trattamento dei dati.
error: Misure tecnologiche di protezione attive ex art. 11 WIPO Copyright Treaty, §1201 del DMCA, art. 6, dir. 29/2001/CE, art. 102-quater, l. 22 aprile 1941, n. 633, art. 171-ter, l. 22 aprile 1941, n. 633.