L’Agenzia dell’Unione europea per la cybersecurity (ENISA), in occasione della conferenza sulla supervisione di un’intelligenza artificiale sicura e affidabile, ha pubblicato 4 report sulle sfide di più vasta portata nell’IA.
La conferenza AI Cybersecurity mirava a fornire una piattaforma per la comunità più ampia per condividere le proprie esperienze e discutere le sfide e le opportunità in merito ai recenti sviluppi nei sistemi di intelligenza artificiale che stanno attirando l’attenzione del mondo sugli aspetti più importanti della sicurezza informatica ad essi associati. La conferenza ha promosso la cooperazione all’interno della comunità della cybersecurity dell’IA al fine di riflettere sulla proposta di regolamento dell’UE sull’IA. La proposta potrebbe consentire all’UE di diventare un pioniere nella regolamentazione dell’IA.
Le domande chiave sui tavoli
I 4 panel della conferenza che si è svolta il 7 giugno hanno affrontato le sfide tecniche della sicurezza informatica dei chatbot di intelligenza artificiale, le esigenze di ricerca e innovazione e le considerazioni sulla sicurezza per la certificazione della sicurezza informatica dei sistemi di intelligenza artificiale. Sostenere i responsabili politici, comprese le autorità nazionali, con orientamenti sulle best practice e sui casi degli utenti, mentre allo stesso tempo promuove norme a livello di UE, offre all’UE l’opportunità di guidare a livello globale la creazione di un’IA sicura e affidabile.
Gli interventi di relatori di alto livello si sono concentrati sull’IA generativa, sulla prospettiva legale e politica del prossimo AI Act e sulle misure già adottate dall’Agenzia tedesca per la sicurezza informatica, BSI.
Informazioni sui nuovi report AI:
- Stabilire buone pratiche di sicurezza informatica per l’IA:
Il report rappresenta un quadro scalabile per guidare le autorità nazionali per la sicurezza informatica (NCA) e la comunità dell’IA al fine di proteggere i sistemi, le operazioni e i processi dell’IA. Il quadro si compone di tre livelli (fondamenti della cybersecurity, cybersecurity specifica per l’IA e cybersecurity settoriale per l’IA) e mira a fornire un approccio graduale per seguire le buone pratiche di sicurezza informatica al fine di garantire l’affidabilità dei sistemi di IA.
- Cybersecurity e privacy nell’IA: due casi d’uso: previsione della domanda sulle reti elettriche e diagnostica per immagini mediche
Entrambi i report delineano le minacce alla sicurezza informatica e alla privacy, nonché le vulnerabilità che possono essere sfruttate in ciascun caso d’uso. L’analisi si è concentrata sulle minacce e le vulnerabilità legate al machine learning, tenendo conto di considerazioni più ampie sull’intelligenza artificiale. Tuttavia, il fulcro del lavoro è sulle questioni relative alla privacy, in quanto queste sono ormai diventate una delle sfide più importanti che la società odierna deve affrontare. Poiché la sicurezza e la privacy sono intimamente correlate ed entrambe ugualmente importanti, è necessario trovare un equilibrio per soddisfare i requisiti correlati. Il report rivela tuttavia che gli sforzi per ottimizzare la sicurezza e la privacy possono spesso andare a scapito delle prestazioni del sistema.
- IA e ricerca sulla sicurezza informatica:
La relazione identifica 5 esigenze di ricerca chiave per ulteriori ricerche sull’IA per la sicurezza informatica e sulla protezione dell’IA per i futuri sviluppi politici e iniziative di finanziamento dell’UE. Tali esigenze includono lo sviluppo di penetration testing tool per identificare le vulnerabilità della sicurezza o lo sviluppo di framework standardizzati per valutare la privacy e la riservatezza, tra gli altri.
Destinatari
- Enti pubblici o privati, inclusa la comunità della cybersecurity e della privacy: per supportare l’analisi dei rischi, l’identificazione delle minacce alla sicurezza informatica e alla privacy e la selezione dei controlli di sicurezza e privacy più adeguati;
- Comunità tecnica di intelligenza artificiale, esperti di cybersecurity e privacy dell’IA ed esperti di intelligenza artificiale interessati allo sviluppo di soluzioni sicure e all’aggiunta di sicurezza e privacy fin dalla progettazione alle loro soluzioni.
Juhan Lepassaar, direttore esecutivo dell’Agenzia dell’UE per la sicurezza informatica, ha dichiarato: “Se vogliamo proteggere i sistemi di intelligenza artificiale e garantire anche la privacy, dobbiamo esaminare attentamente come funzionano questi sistemi. L’ENISA sta esaminando la complessità tecnica dell’IA per mitigare al meglio i rischi di sicurezza informatica. Dobbiamo anche trovare il giusto equilibrio tra sicurezza e prestazioni del sistema. La conferenza odierna consentirà di fare un brainstorming su tali sfide per prevedere tutte le misure possibili come l’approccio di sicurezza in base alla progettazione. Con l’IA generativa in rapido sviluppo, siamo pronti ad aggiornarci per supportare al meglio i responsabili politici mentre entriamo in questa nuova fase della rivoluzione dell’IA”.
Ulteriori informazioni ENISA report
Multilayer framework for good cybersecurity practices for AI – ENISA report 2023
Cybersecurity and privacy in AI – Forecasting demand on electricity grids – ENISA report 2023
Cybersecurity and privacy in AI – Medical imaging diagnosis – ENISA report 2023
Artificial Intelligence and Cybersecurity Research – ENISA report 2023
https://www.enisa.europa.eu/news/is-secure-and-trusted-ai-possible-the-eu-leads-the-way
