L’intelligenza artificiale nella Pubblica Amministrazione: le linee guida AGID in consultazione pubblica

L’Agenzia per l’Italia Digitale (AGID) ha recentemente posto in consultazione pubblica la bozza delle Linee Guida per l’adozione, l’acquisto e lo sviluppo di sistemi di Intelligenza Artificiale (IA) nella Pubblica Amministrazione (PA). Queste linee guida, elaborate nell’ambito del Piano Triennale per l’Informatica nella PA 2024-2026, mirano a fornire un quadro normativo e operativo chiaro per l’introduzione dell’intelligenza artificiale nel settore pubblico.

E’ bene precisare sin d’ora che, sebbene la Commissione abbia approvato il progetto di orientamenti, il documento non è stato ancora formalmente adottato. Ciò significa che eventuali modifiche potrebbero essere introdotte in seguito alla fase di consultazione.

Un quadro regolatorio per l’adozione dell’intelligenza artificiale

Le Linee Guida si propongono di definire principi e criteri operativi per garantire un’adozione dell’intelligenza artificiale nella pubblica amministrazione che sia etica, trasparente e conforme alle normative europee, in particolare all’AI Act (Regolamento UE 1689/2024). Il documento identifica ambiti di applicazione, standard tecnici, governance, gestione dei dati e sicurezza cibernetica, fornendo alle amministrazioni strumenti per implementare sistemi di intelligenza artificiale con piena consapevolezza delle implicazioni normative.

L’approccio delineato è coerente con i principi della Carta dei Diritti Fondamentali dell’Unione Europea, con l’AI Act e con la Direttiva NIS2, ponendo un forte accento sulla gestione del rischio e sulla protezione dei dati personali.

Classificazione del rischio e conformità all’AI Act

Uno degli elementi cardine delle Linee Guida è la classificazione dei sistemi di intelligenza artificiale in base al livello di rischio, secondo la categorizzazione introdotta dall’AI Act:

• sistemi di intelligenza artificiale vietati: pratiche ritenute inaccettabili, come la manipolazione subliminale o il social scoring;
• Sistemi di intelligenza artificiale ad alto rischio: utilizzati in ambiti critici come la sanità, la giustizia o la sicurezza pubblica, soggetti a stringenti requisiti di trasparenza e supervisione;
• Sistemi di intelligenza artificiale a rischio limitato: applicazioni che necessitano di misure di trasparenza per informare gli utenti sull’uso dell’intelligenza artificiale;
• Sistemi di intelligenza artificiale a rischio minimo: strumenti di automazione e supporto con un impatto trascurabile sui diritti fondamentali.

Le PP.AA. saranno tenute a valutare l’impatto dell’intelligenza artificiale prima della sua implementazione, adottando misure di mitigazione del rischio e garantendo il rispetto dei requisiti normativi europei.

Governance e principi etici

Le Linee Guida introducono un modello di governance etica dell’intelligenza artificiale, basato sui seguenti principi:

1. trasparenza – le PA devono garantire che i cittadini siano informati sull’utilizzo dell’intelligenza artificiale nei servizi pubblici;
2. affidabilità – i sistemi di intelligenza artificiale devono essere progettati per ridurre al minimo il rischio di errori e distorsioni;
3. supervisione umana – le decisioni critiche non possono essere completamente delegate alle macchine.
4. non discriminazione e inclusione – i modelli di intelligenza artificiale devono essere privi di bias e garantire equità nell’accesso ai servizi pubblici;
5. sicurezza cibernetica – devono essere adottate misure per prevenire attacchi informatici e garantire l’integrità dei dati.

Implementazione e monitoraggio

L’adozione dell’intelligenza artificiale nella Pubblica Amministrazione prevede un processo articolato in più fasi:

• Valutazione del contesto e dei fabbisogni della P.A.
• Definizione degli obiettivi e delle aree di applicazione.
• Scelta della tecnologia e dei fornitori.
• Monitoraggio e valutazione dell’efficacia delle soluzioni adottate.

Le PP.AA. dovranno inoltre documentare l’intero ciclo di vita delle soluzioni di intelligenza artificiale, con particolare attenzione alla conservazione dei dati, agli audit periodici e alla tracciabilità delle decisioni.

---

Prospettive e Considerazioni Finali

Le Linee Guida rappresentano un passo fondamentale verso una digitalizzazione etica e sicura della PA, ma la loro attuazione richiederà un forte impegno in termini di formazione, risorse e governance.

È cruciale tenere presente, e lo ricordiamo ancora una volta, che nonostante il progetto di orientamenti sia stato approvato dalla Commissione, il documento non è ancora stato adottato formalmente. Questo significa che potrebbero essere introdotte modifiche prima della pubblicazione definitiva.

La consultazione pubblica rappresenta un’opportunità preziosa per affinare il documento e garantirne l’efficacia e la coerenza con il contesto normativo in evoluzione. Il coinvolgimento degli stakeholder, incluse le amministrazioni locali e gli esperti di settore, sarà essenziale per garantire una transizione digitale equa, sicura e trasparente.