L\u2019Office f\u00e9d\u00e9ral de la cybers\u00e9curit\u00e9 (OFCS), cr\u00e9\u00e9 au 1er janvier 2024, a notamment pour t\u00e2che de r\u00e9ceptionner les signalements de cyber-incidents et d\u2019aider les exploitants d\u2019infrastructures critiques \u00e0 g\u00e9rer de tels incidents. Jusqu\u2019au 31 d\u00e9cembre 2023, c\u2019est le Centre national pour la cybers\u00e9curit\u00e9 (NCSC) qui exer\u00e7ait cette t\u00e2che.
Le dernier rapport semestriel de l\u2019OFCS, publi\u00e9 le 6 mai 2024, r\u00e9v\u00e8le que le nombre de signalements de tentatives d\u2019escroquerie impliquant l\u2019intelligence artificielle (IA) est en hausse. Les annonces portent notamment sur des attaques de sextorsion avec des images g\u00e9n\u00e9r\u00e9es par l\u2019IA ainsi que sur des appels t\u00e9l\u00e9phoniques et des fraudes \u00e0 l\u2019investissement au nom de personnalit\u00e9s connues.
Les applications d\u2019IA peuvent repr\u00e9senter un danger pour la population si elles sont utilis\u00e9es \u00e0 des fins malhonn\u00eates. Mais elles peuvent aussi constituer un risque de s\u00e9curit\u00e9 en tant que telles, sans aucune intervention humaine, lorsqu\u2019elles dysfonctionnent (fuite de donn\u00e9es, mise en p\u00e9ril du fonctionnement d\u2019une infrastructure critique, etc.). L'OECD AI Incidents Monitor (AIM) montre d\u2019ailleurs que le nombre d'incidents provoqu\u00e9s par des dysfonctionnements de syst\u00e8mes d\u2019IA sans intervention humaine a sensiblement augment\u00e9 au cours des derni\u00e8res ann\u00e9es.
1. Combien d'incidents provoqu\u00e9s par des dysfonctionnements de syst\u00e8mes d'IA, sans intervention humaine, ont \u00e9t\u00e9 annonc\u00e9s \u00e0 l\u2019OFCS (respectivement au NCSC) au cours des trois derni\u00e8res ann\u00e9es ? Les incidents de ce genre, sont-ils en augmentation en Suisse ?
2. Quelles sont les suites donn\u00e9es par l\u2019OFCS \u00e0 de telles annonces ? Quelles sont les mesures prises ?
3. Est-ce que l\u2019OFCS d\u00e9ploie une activit\u00e9 d\u2019information et de pr\u00e9vention, notamment aupr\u00e8s des exploitants des infrastructures critiques vis\u00e9es par la loi f\u00e9d\u00e9rale sur la s\u00e9curit\u00e9 de l\u2019information, concernant les risques que peuvent constituer les syst\u00e8mes d\u2019IA m\u00eame sans intervention humaine ?
","ReasonText":null,"DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"1) et 2) L\u2019Office f\u00e9d\u00e9ral de la cybers\u00e9curit\u00e9 (OFCS, anciennement NCSC) n\u2019a re\u00e7u aucune annonce d\u2019incident de s\u00e9curit\u00e9 ces derni\u00e8res ann\u00e9es concernant un dysfonctionnement provoqu\u00e9 par une intelligence artificielle (IA). Par extension, aucune augmentation de ces incidents n\u2019a donc \u00e9t\u00e9 constat\u00e9e.
Les chiffres publi\u00e9s par l\u2019OECD Monitor se basent sur des annonces faites par les m\u00e9dias internationaux, dont la plupart rel\u00e8vent de menaces g\u00e9n\u00e9rales et non pas de cas concrets.
3) L \u2019OFCS fait de la sensibilisation aux cybermenaces, parmi lesquelles comptent \u00e9galement les menaces engendr\u00e9es par l\u2019utilisation de nouvelles technologies. Les mesures de protection techniques et organisationnelles doivent \u00eatre efficaces face \u00e0 toute sorte d\u2019attaques. La question de savoir si la menace provient de pirates ou de syst\u00e8mes dysfonctionnels n\u2019a par cons\u00e9quent pas d\u2019importance dans le cadre du renforcement de la pr\u00e9vention. L\u2019OFCS n\u2019a pour l\u2019instant men\u00e9 aucune campagne sp\u00e9cifique aux applications IA. Dans son rapport en r\u00e9ponse au Po. 23.3861 Andrey Gerhard \u00ab Opportunit\u00e9s et risques des syst\u00e8mes d'intelligence artificielle dans la cybers\u00e9curit\u00e9 \u00bb , le Conseil f\u00e9d\u00e9ral exposera les avantages et les risques qu\u2019offre l\u2019utilisation de l\u2019IA pour la cybers\u00e9curit\u00e9.