Der Bundesrat wird beauftragt, in einem Bericht die Notwendigkeit von Vorschriften f\u00fcr Anwendungen von k\u00fcnstlicher Intelligenz (KI) genauer zu untersuchen. Gemeint sind Anwendungen, die auf Algorithmen des maschinellen Lernens (ML) basieren, die in risikoreichen automatisierten Technologiebereichen eingesetzt werden und den privaten Bereich betreffen. Dabei muss er auch die Notwendigkeit der Information der Bev\u00f6lkerung \u00fcber die Anwendungen von KI beurteilen. Der Bericht soll in Erg\u00e4nzung zu dem Bericht der IDAG-KI von 2019 den Regulierungsbedarf bewerten.
","ReasonText":"Die neuen KI-Technologien, die auf Algorithmen und Modellen des ML basieren, er\u00f6ffnen in vielen Bereichen tolle Chancen, so zum Beispiel in der Medizin, bei der rationellen Nutzung von Ressourcen und in vielen mehr. Die Technologien sind bereits weit verbreitet. Durch Edge-Computing werden sie immer allgegenw\u00e4rtiger und breiten sich fl\u00e4chendeckend aus.
ML-Modelle zur Analyse von personenbezogenen Daten, um personalisierte Werbung auszuspielen und auf das Kaufverhalten einzuwirken, und Modelle zur Spracherkennung oder zur \u00dcbersetzung, um nur die bekanntesten zu nennen, sind heute im t\u00e4glichen Einsatz.
Anwendungen von KI, bei denen diese eine direkte physische Interaktion mit der Umgebung hat, also zum Beispiel autonomes Fahren, sind kritischer und erfordern ein hohes Mass an Sicherheit und technischer Robustheit.
Die Funktionsmechanismen und Entscheidungen von ML-Modellen basieren auf verschiedenen Schichten von neuronalen Netzen. Diese sind nicht transparent, im Gegensatz zu klassischen regelbasierten Algorithmen, die f\u00fcr kritische Anwendungen (Avionik, Medizin usw.) nach vorgegebenen Sicherheitsbestimmungen zertifiziert werden m\u00fcssen.
KI arbeitet nicht mit imperativer Programmierung, sondern lernt selbstst\u00e4ndig, was dazu f\u00fchrt, dass die Methode nicht immer transparent ist.
Es m\u00fcssen Regeln und Prozesse festgelegt werden, damit auch die KI als zuverl\u00e4ssig und geeignet zertifiziert werden kann, um in f\u00fcr die Unversehrtheit von Personen und f\u00fcr den Schutz der Umwelt kritischen Bereichen eingesetzt zu werden. Dabei kann man sich an den Bestimmungen orientieren, die zum Beispiel im Bereich von Installationen oder elektrischen Ger\u00e4ten angewendet werden.
Weiter m\u00fcssen auch die auf biometrischer Erkennung basierenden Anwendungsm\u00f6glichkeiten von KI reglementiert werden. Dies k\u00f6nnen Anwendungen f\u00fcr das Profiling, die Personenidentifikation oder die \u00dcberwachung von Personen sein, also alles, was mit der Privatsph\u00e4re und den Grundrechten einer Person zu tun hat.
Ausserdem muss das Recht auf Information der Bev\u00f6lkerung analysiert werden, wenn diese mit einer Anwendung von KI und ML konfrontiert ist (ein Register f\u00fcr KI-Algorithmen).
Es wird eine Vertiefung der Arbeiten der IDAG KI aus dem Jahr 2019 und die Festlegung von Grenzen und gesetzlichen Grundlagen f\u00fcr die Anwendungen von KI verlangt.
","DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"Dem Bundesrat ist es ein Anliegen, angemessen auf die Herausforderungen der k\u00fcnstlichen Intelligenz (KI) zu reagieren. Er hat daher bereits 2018 KI als ein zentrales Thema der Strategie \"Digitale Schweiz\" definiert und eine interdepartementale Arbeitsgruppe (IDAG) KI ins Leben gerufen. Der Bericht der IDAG KI vom Dezember 2019 nimmt eine breite Auslegeordnung und sorgf\u00e4ltige Analyse der relevanten Rahmenbedingungen im Hinblick auf eine verantwortungsvolle Nutzung von KI vor. Weiter beleuchtet er die spezifischen Herausforderungen in verschiedenen Anwendungsfeldern \u00fcber alle Politikbereiche der Bundesverwaltung hinweg. Dabei wird aufgezeigt, dass der allgemeine Rechtsrahmen in der Schweiz zum gegenw\u00e4rtigen Zeitpunkt grunds\u00e4tzlich geeignet und ausreichend ist, um mit den Herausforderungen der KI umzugehen. Auch der Revisionsentwurf zum Datenschutzgesetz, der in der Herbstsession 2020 verabschiedet worden ist, f\u00fchrt in diesem Bereich in mehreren Punkten zu Verbesserungen, insbesondere in Bezug auf automatisierte Einzelentscheidungen.
In verschiedenen Bereichen besteht jedoch in unterschiedlichem Ausmasse Handlungsbedarf. Dieser ist erkannt und wird bereits angegangen. So hat die IDAG KI im November 2020 Leitlinien f\u00fcr den Umgang mit KI in der Bundesverwaltung vorgestellt. Diese dienen als allgemeiner Orientierungsrahmen und gew\u00e4hrleisten eine koh\u00e4rente Politik in Bezug auf KI. Im Anhang 2 der Leitlinien \"Anwendbarkeit der geltenden Rechtsordnung\" wird zudem spezifisch aufzeigt, dass die bestehende Rechtsordnung auch f\u00fcr KI gilt. Eine regelm\u00e4ssige Beurteilung hinsichtlich der Anwendung und Weiterentwicklung der Leitlinien wird vom BAKOM zusammen mit den betroffenen Bundesstellen sichergestellt.
Zur Bearbeitung des im Bericht der IDAG KI identifizierten zus\u00e4tzlichen Handlungsbedarfs hat der Bundesrat zudem weitere verwaltungsinterne Pr\u00fcfauftr\u00e4ge erteilt, namentlich im Bereich V\u00f6lkerrecht sowie zur Nutzung von KI bei der \u00f6ffentlichen Meinungs- und Willensbildung. Die beiden Berichte werden im Verlauf des Jahres 2021 vorliegen. Schliesslich hat der Bundesrat im Dezember 2020 entschieden, dass bis Mitte 2021 die Ausgestaltung eines Kompetenznetzwerkes zu KI in der Bundesverwaltung gepr\u00fcft werden soll. Mit einem solchen Kompetenznetzwerk soll unter anderem auf ein breites Expertenwissen zur\u00fcckgegriffen werden k\u00f6nnen.
Neben den genannten Aktivit\u00e4ten der IDAG KI sind zudem bereits Programme im Gange, bei denen in Zusammenarbeit zwischen Bundesstellen und Unternehmen neue Risiken ausgehend von KI behandelt werden k\u00f6nnen. Als Beispiele sind die Nationale Strategie zum Schutz kritischer Infrastrukturen 2018-2022 (SKI-Strategie) sowie die Nationale Strategie zum Schutz der Schweiz vor Cyber-Risiken 2018-2022 (NCS-Strategie) zu erw\u00e4hnen. Beide Strategien sehen vor, dass in kritischen Sektoren wie z.B. der Energieversorgung, des Gesundheitswesens oder dem Verkehr auf regelm\u00e4ssiger Basis Risiko- und Verwundbarkeitsanalysen durchgef\u00fchrt werden. Im Rahmen dieser k\u00f6nnen neue, KI-basierte Risiken systematisch erfasst und Massnahmen zu deren Reduktion empfohlen werden. Der Stand der Umsetzung beider Strategien wird in regelm\u00e4ssigen Abst\u00e4nden dem Bundesrat rapportiert.
Insofern verf\u00fcgt der Bundesrat \u00fcber verschiedene Kan\u00e4le, die ihm ein Verfolgen von KI-Entwicklungen sowie den damit zusammenh\u00e4ngenden Risiken f\u00fcr Gesellschaft und Wirtschaft erm\u00f6glichen. Bei Bedarf kann er, abgest\u00fctzt auf entsprechende Analysen, Massnahmen zur Erh\u00f6hung der Sicherheit und Zuverl\u00e4ssigkeit KI-basierter Systeme treffen.
Der Bundesrat wird die Entwicklungen in den verschiedenen Bereichen, in denen KI angewendet wird, weiterhin aufmerksam verfolgen und bei Bedarf agieren. Zudem arbeitet die Schweiz aktiv in internationalen Gremien an Regulierungsfragen zu KI mit, wie z.B. den Arbeiten des Europarates an einem rechtlichen Rahmen f\u00fcr KI. Vor dem Hintergrund des ausf\u00fchrlichen Berichts der IDAG KI vom Dezember 2019 und den oben erw\u00e4hnten Folgearbeiten sowie weiteren Programmen, die aktuell im Gange sind, sieht er derzeit jedoch keinen Bedarf f\u00fcr eine zus\u00e4tzliche Studie.
Der Bundesrat beantragt die Ablehnung des Postulates.","FederalCouncilProposal":20,"FederalCouncilProposalText":"Der Bundesrat beantragt die Ablehnung des Postulates.","FederalCouncilProposalDate":"\/Date(1613520000000)\/","SubmittedBy":"Storni Bruno","BusinessStatus":229,"BusinessStatusText":"Erledigt","BusinessStatusDate":"\/Date(1671148800000)\/","ResponsibleDepartment":9,"ResponsibleDepartmentName":"Departement f\u00fcr Umwelt, Verkehr, Energie und Kommunikation","ResponsibleDepartmentAbbreviation":"UVEK","IsLeadingDepartment":true,"Tags":"32|34|52|1236","Category":null,"Modified":"\/Date(1763104080967)\/","SubmissionDate":"\/Date(1606867200000)\/","SubmissionCouncil":1,"SubmissionCouncilName":"Nationalrat","SubmissionCouncilAbbreviation":"NR","SubmissionSession":5107,"SubmissionLegislativePeriod":51,"FirstCouncil1":1,"FirstCouncil1Name":"Nationalrat","FirstCouncil1Abbreviation":"NR","FirstCouncil2":null,"FirstCouncil2Name":null,"FirstCouncil2Abbreviation":null,"TagNames":"Bildung|Medien und Kommunikation|Umwelt|Menschenrechte"}}