L\u2019Ufficio federale della cibersicurezza (UFCS), creato il 1\u00b0\u00a0gennaio\u00a02024, ha in particolare il compito di ricevere le segnalazioni di ciberincidenti e di aiutare i gestori di infrastrutture critiche a gestire tali incidenti. Fino al 31\u00a0dicembre\u00a02023 questa funzione era esercitata dal Centro nazionale per la cibersicurezza (NCSC).
\u00a0
L\u2019ultimo rapporto semestrale dell'UFCS, pubblicato il 6\u00a0maggio\u00a02024, indica che il numero di segnalazioni di tentativi di truffa che coinvolgono l\u2019intelligenza artificiale (IA) \u00e8 in aumento. Le segnalazioni riguardano in particolare attacchi di sextortion che utilizzano immagini generate dall\u2019IA nonch\u00e9 telefonate e frodi di investimento a nome di personalit\u00e0 famose.\u00a0
\u00a0
Le applicazioni di IA possono rappresentare un pericolo per la popolazione se vengono utilizzate per scopi fraudolenti. Ma possono anche costituire un rischio per la sicurezza di per s\u00e9, senza alcun intervento umano, in caso di malfunzionamento (fuga di dati, compromissione del funzionamento di un\u2019infrastruttura critica ecc.). L'AI Incidents Monitor (AIM) dell\u2019OCSE mostra peraltro che il numero di incidenti causati da malfunzionamenti dei sistemi di IA senza intervento umano \u00e8 aumentato significativamente negli ultimi anni.
\u00a0
1. Quanti incidenti causati da malfunzionamenti dei sistemi di IA, senza intervento umano, sono stati segnalati all\u2019UFCS (rispettivamente all\u2019NCSC) negli ultimi tre anni? Gli incidenti di questo genere sono in aumento in Svizzera?
\u00a0
2. Quali iniziative ha intrapreso l\u2019UFCS in risposta a queste segnalazioni? Quali misure sono state adottate?
\u00a0
3. L\u2019UFCS svolge attivit\u00e0 di informazione e prevenzione, in particolare presso i gestori delle infrastrutture critiche contemplate dalla legge federale sulla sicurezza delle informazioni, sui rischi che i sistemi di IA possono comportare anche senza l\u2019intervento umano?
In merito alle domande 1 e 2: l\u2019Ufficio federale della cibersicurezza (UFCS, in precedenza Centro nazionale per la cibersicurezza) negli ultimi anni non ha ricevuto alcuna segnalazione di incidenti nell\u2019ambito della sicurezza riconducibili a malfunzionamenti dell\u2019intelligenza artificiale (IA). Di conseguenza non si registra nemmeno alcun aumento di tali incidenti.
Le cifre pubblicate nel monitor OCSE si basano su segnalazioni riportate dai media internazionali. La maggior parte delle segnalazioni registrate si riferisce a minacce generiche e non a incidenti concreti.
In merito alla domanda 3: l\u2019UFCS ha intrapreso diverse iniziative di sensibilizzazione alle ciberminacce. Tra queste rientrano anche le minacce derivanti dall\u2019utilizzo delle nuove tecnologie. Le misure di protezione tecniche e organizzative devono essere efficaci contro tutti i tipi di attacchi. Pertanto la questione se una ciberminaccia provenga da hacker o derivi da malfunzionamenti dei sistemi non \u00e8 determinante ai fini del rafforzamento della prevenzione. Finora l\u2019UFCS non ha ancora condotto alcuna specifica campagna di sensibilizzazione al malfunzionamento di determinate applicazioni di IA. Nel rapporto in adempimento del Po. 23.3861 Andrey Gerhard \u00abOpportunit\u00e0 e rischi dei sistemi di IA nell'ambito della cibersicurezza\u00bb il Consiglio federale illustrer\u00e0 quali sono le opportunit\u00e0 e i rischi per la cibersicurezza derivanti dall\u2019utilizzo dell\u2019IA.