AI Act: la Commissione sulla cybersecurity nell’intelligenza artificiale

Il requisito di cybersecurity è contemplato nell’articolo 15 della proposta di legge sull’intelligenza artificiale (AI) della Commissione europea. Questo articolo stabilisce che i sistemi AI ad alto rischio devono essere progettati e sviluppati per raggiungere, in base alla loro finalità prevista, un adeguato livello di accuratezza, robustezza e sicurezza informatica, operando in modo coerente con tali aspetti durante l’intero ciclo di vita.

Il requisito di cybersecurity stabilito dall’AI Act si applica all’intero sistema di intelligenza artificiale e non si estende direttamente ai suoi singoli componenti interni.

Per garantire la conformità, è essenziale condurre una valutazione del rischio di sicurezza, considerando la progettazione del sistema per identificare i potenziali rischi e attuare le misure di mitigazione necessarie.

Questa procedura richiede un approccio integrato e continuo, che impieghi pratiche e procedure consolidate nel campo della cybersecurity, integrate con controlli specifici per l’intelligenza artificiale.

Nonostante i limiti attuali nella protezione dei modelli di intelligenza artificiale, i sistemi AI possono comunque ottenere la conformità ai requisiti di cybersecurity dell’AI Act, a condizione che i rischi di cybersecurity siano efficacemente mitigati attraverso misure implementate non esclusivamente a livello di modello di intelligenza artificiale.

Tuttavia, è importante notare che questa soluzione potrebbe non essere sempre praticabile e, in effetti, per alcuni sistemi di intelligenza artificiale ad alto rischio che utilizzano tecnologie emergenti, potrebbe risultare impossibile conformarsi ai requisiti di cybersecurity stabiliti dall’AI Act.