Das am 1. Januar 2024 geschaffene Bundesamt f\u00fcr Cybersicherheit (BACS) hat unter anderem die Aufgabe, Meldungen \u00fcber Cybervorf\u00e4lle entgegenzunehmen und die Betreiberinnen kritischer Infrastrukturen bei der Bew\u00e4ltigung solcher Vorf\u00e4lle zu unterst\u00fctzen. Bis zum 31. Dezember 2023 nahm das Nationale Zentrum f\u00fcr Cybersicherheit (NCSC) diese Aufgabe war.
Der letzte Halbjahresbericht des BACS, der am 6. Mai 2024 ver\u00f6ffentlicht wurde, zeigt, dass die Zahl der Meldungen \u00fcber Betrugsversuche, bei denen k\u00fcnstliche Intelligenz (KI) zum Einsatz kam, steigt. Bei den Meldungen geht es insbesondere um Vorf\u00e4lle von Sextortion mit KI-generierten Bildern sowie um Telefonanrufe und um Anlagebetrug im Namen von bekannten Personen.
KI-Anwendungen k\u00f6nnen eine Gefahr f\u00fcr die Bev\u00f6lkerung darstellen, wenn sie f\u00fcr betr\u00fcgerische Zwecke eingesetzt werden. Sie k\u00f6nnen aber auch als solche ohne menschliches Zutun ein Sicherheitsrisiko darstellen, wenn sie nicht richtig funktionieren (Datenlecks, Gef\u00e4hrdung der Funktionsf\u00e4higkeit einer kritischen Infrastruktur usw.). Der OECD AI Incidents Monitor (AIM) zeigt zudem, dass die Zahl der Vorf\u00e4lle, die durch Fehlfunktionen von KI-Systemen ohne menschliches Zutun verursacht wurden, in den letzten Jahren deutlich zugenommen hat.
1. Wie viele Vorf\u00e4lle, die durch Fehlfunktionen von KI-Systemen ohne menschliches Zutun verursacht wurden, wurden dem BACS (bzw. dem NCSC) in den letzten drei Jahren gemeldet? Nehmen Vorf\u00e4lle dieser Art in der Schweiz zu?
2. Was hat das BACS nach solchen Meldungen unternommen? Welche Massnahmen wurden getroffen?
3. Leistet das BACS insbesondere gegen\u00fcber den Betreiberinnen kritischer Infrastrukturen, die unter das Informationssicherheitsgesetz fallen, Aufkl\u00e4rungs- und Pr\u00e4ventionsarbeit zu den Risiken, die KI-Systeme selbst ohne menschliches Zutun darstellen k\u00f6nnen?
","ReasonText":null,"DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"Zu 1 und 2) Dem Bundesamt f\u00fcr Cybersicherheit (BACS, ehemals das Nationale Zentrum f\u00fcr Cybersicherheit) wurden \u00fcber die letzten Jahre keine Sicherheitsvorf\u00e4lle gemeldet, die auf eine Funktionsst\u00f6rung von k\u00fcnstlicher Intelligenz (KI) zur\u00fcckzuf\u00fchren sind. Entsprechend wird auch keine Zunahme solcher Vorf\u00e4lle verzeichnet.
Die im OECD-Monitor ver\u00f6ffentlichten Zahlen basieren auf Meldungen in internationalen Medien. Die meisten der erfassten Meldungen beschreiben allgemeine Bedrohungen und keine konkreten Vorf\u00e4lle.
Zu 3) Das BACS sensibilisiert zu Cyberbedrohungen. Dazu geh\u00f6ren auch Bedrohungen, die durch die Anwendung neuer Technologien entstehen. Technische und organisatorische Schutzmassnahmen m\u00fcssen gegen alle Arten von Angriffen wirksam sein. Deshalb ist die Frage, ob eine Cyberbedrohung durch Cyberangreifer oder durch dysfunktionale Systeme entsteht, f\u00fcr die St\u00e4rkung der Pr\u00e4vention nicht entscheidend. Das BACS hat bisher keine Sensibilisierungskampagnen speziell zu dysfunktionalen KI-Anwendungen durchgef\u00fchrt. Der Bundesrat wird im Bericht zum Po. 23.3861 Andrey \u00abChancen und Risiken von KI-Systemen in der Cybersicherheit\u00bb darlegen, welche Chancen und Risiken sich aus der Anwendung von KI f\u00fcr die Cybersicherheit ergeben.