Der Einsatz von Algorithmen in Entscheidungsprozessen (\"K\u00fcnstliche Intelligenz\" (KI)) nimmt rasant zu. Die Intransparenz, die diese Algorithmen umgibt, steht in einem krassen Widerspruch zum Einfluss, den sie auf unsere Gesellschaft, Demokratie und Normen und Werte haben und zunehmend gewinnen. Der Umgang mit Algorithmen wird damit zur politischen Frage: Und um die Auswirkungen beurteilen zu k\u00f6nnen, braucht es mehr Transparenz, Sachkenntnis und den Zugang zu Daten. Und um negative Auswirkungen der KI zu vermeiden mehr demokratische Kontrolle.
1. Der Bericht zur Motion Rechsteiner 13.3841 (Zukunft der Datenbearbeitung und Datensicherheit) h\u00e4lt unter Massnahme 50 fest:
\"Der Bund sorgt f\u00fcr ausreichende Transparenz, Nachvollziehbarkeit, Verst\u00e4ndlichkeit und Accountability (Rechenschaftspflicht) bei digitalen Prozessen und Algorithmen, um eine vertrauensbasierte digitale Wirtschaft und Gesellschaft zu gew\u00e4hrleisten.\" Wie wurde diese Massnahme umgesetzt, bzw. wie gedenkt der Bundesrat, diesem Anspruch gerecht zu werden?
2. Die Definitionen von Kriterien f\u00fcr Pr\u00fcfungen von Algorithmen nach Kriterien wie Sicherheit und Zuverl\u00e4ssigkeit, Diskriminierungsfreiheit, Rechtm\u00e4ssigkeit u.a. sind sehr anspruchsvoll. Die Transparenz von Entwicklungs- und Lernprozessen und die Sicherheit stehen dabei im Zentrum. Gibt es in der Schweiz Bestrebungen, Kriterien zu entwickeln bzw. zu standardisieren? Beteiligt sich die Schweiz an internationalen Projekten zur Entwicklung von Normen? Beispielsweise an der Entwicklung der Normungsroadmap f\u00fcr KI des Deutschen Instituts f\u00fcr Normung e.V. (DIN)?
3. Im Februar hat der Bund die Leitlinien \"K\u00fcnstliche Intelligenz\" f\u00fcr die Bundesverwaltung verabschiedet und damit eine wichtige Vorbildfunktion \u00fcbernommen. Welche Instrumente bestehen, um die Umsetzung dieser Leitlinien zu kontrollieren? Wie wird sichergestellt, dass ethische Erw\u00e4gungen in die KI-Anwendungen/-Entwicklungen des Bundes mit einfliessen? Erw\u00e4gt der Bund, diese Leitlinien in einer Form auf die Privatwirtschaft zu \u00fcbertragen?
4. Was h\u00e4lt der Bundesrat von einer unabh\u00e4ngigen Pr\u00fcfinstanz zur Kontrolle von Anwendungen von KI nach ihrer Funktionalit\u00e4t, Sicherheit, Ethik und den rechtlichen Grundlagen? Falls der Bundesrat die Einf\u00fchrung einer solchen Pr\u00fcfinstanz begr\u00fcsst: Soll eine solche von der \u00f6ffentlichen Hand betrieben werden oder von einer privaten Organisation?
","ReasonText":null,"DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"1. Die Entwicklung und Anwendung von k\u00fcnstlicher Intelligenz ist in den letzten Jahren weiter vorangeschritten. Angesichts dieser Entwicklungen hat der Bundesrat 2018 k\u00fcnstliche Intelligenz (KI) als ein zentrales Thema der Strategie \"Digitale Schweiz\" definiert und eine interdepartementale Arbeitsgruppe unter Federf\u00fchrung des WBF (SBFI) ins Leben gerufen. Der Bundesrat hat die Ergebnisse des Berichts der Arbeitsgruppe \"Herausforderungen der k\u00fcnstlichen Intelligenz\" am 13. Dezember 2019 zur Kenntnis genommen und mehrere Folgeauftr\u00e4ge erteilt: Dazu geh\u00f6ren die Erarbeitung der am 25. November 2020 verabschiedeten Leitlinien \"K\u00fcnstliche Intelligenz\" f\u00fcr die Bundesverwaltung sowie eine Machbarkeitspr\u00fcfung f\u00fcr ein Kompetenznetzwerk KI (KNW KI). Gest\u00fctzt auf erste Ergebnisse der Machbarkeitspr\u00fcfung hat der Bundesrat am 4. Dezember 2020 das EDI (BFS) und die BK (DTI, Bereich Digitale Transformation und IKT-Lenkung) beauftragt, eine detaillierte Analyse f\u00fcr ein Kompetenznetzwerk durchzuf\u00fchren und ihm danach bis Ende Juni 2021 ein Umsetzungskonzept zu unterbreiten. Im Vordergrund der Analyse stehen die Funktionen (strukturierte Datenbank, aktiver Wissensaustausch und Vermittlung dezentraler Experten), die das Kompetenznetzwerk k\u00fcnftig erf\u00fcllen soll.
2. Die aktuellen Entwicklungen und die damit einhergehenden Herausforderungen der KI bed\u00fcrfen globaler L\u00f6sungsans\u00e4tze. Die Schweiz engagiert sich daher seit Jahren aktiv in internationalen Gremien zur Entwicklung von Normen zu KI, so z.B. in der OECD, dem Europarat und der UNESCO. Als Mitglied des Adhoc Komitees zu KI (CAHAI) des Europarats ist die Schweiz an den Arbeiten zur Pr\u00fcfung der Machbarkeit eines Rechtsrahmens f\u00fcr die Entwicklung, Gestaltung und Anwendung von KI mitbeteiligt. Dieser soll auf den Menschenrechten, der Rechtsstaatlichkeit und der Demokratie basieren und somit neben den rechtlichen auch ethischen Anforderungen ber\u00fccksichtigen. Die CAHAI hat dabei eine Vielzahl von Akteuren aus der Privatwirtschaft und Zivilgesellschaft konsultiert. Ferner wird der Europarat hierzu im Fr\u00fchling 2021 offene Konsultationen abhalten. Des Weiteren ist vorgesehen, alle Interessierten zu Diskussionen auf der vom Bundesamt f\u00fcr Kommunikation (BAKOM) geleiteten nationalen Multistakeholder-Plattform (\"Plateforme tripartite\") einzuladen.
Der bundesverwaltungsinterne Wissensaustausch \u00fcber die Entwicklungs- und Lernprozesse soll im Rahmen des k\u00fcnftigen Kompetenznetzwerks KI gesichert werden. Zudem erfolgt \u00fcber die oben genannte \"Plateforme Tripartite\" ein regelm\u00e4ssiger Dialog und Informationsaustausch in der Schweiz \u00fcber die politischen, gesellschaftlichen, wirtschaftlichen Aspekte von Kl sowie \u00fcber die diesbez\u00fcglichen Positionen der Schweiz in internationalen Organisationen. Weiter hat der Bundesrat mit der per 1. Januar 2021 umgesetzten Schaffung des Kompetenzzentrums f\u00fcr Datenwissenschaft im BFS (DSCC) entschieden, bessere Rahmenbedingungen f\u00fcr die Einhaltung ethischer Grundwerte zu schaffen. Das DSCC hat den Auftrag, Beratungsdienstleistungen zum ethischen Umgang mit Daten und Algorithmen, zu konkreten Fragestellungen in Bereichen wie Informationssicherheit, Nichtdiskriminierung, Erkl\u00e4rbarkeit, Transparenz etc. anzubieten und f\u00fcr die Bundesverwaltung entsprechende Grundlagen zu erarbeiten. Diese sollen dann unter anderem auch \u00fcber das Kompetenznetzwerk KI bundesweit gef\u00f6rdert und zug\u00e4nglich gemacht werden. Des Weiteren ist darauf hinzuweisen, dass die vom Parlament am 25. September 2020 verabschiedete Totalrevision des Datenschutzgesetzes (nDSG; BBl 2020 7639) verschiedene Massnahmen vorsieht, die sich spezifisch auf den Einsatz von KI auswirken k\u00f6nnen, soweit dabei Personendaten bearbeitet werden. Beispielsweise m\u00fcssen Bundesorgane und private Datenbearbeitende den betroffenen Personen insk\u00fcnftig Auskunft \u00fcber das Vorliegen allf\u00e4lliger automatisierter Einzelentscheidungen sowie die Logik, auf die sich diese Entscheidungen st\u00fctzen, erteilen (Art. 25 Abs. 2 Bst. f nDSG).
3. Die vom Bundesrat verabschiedeten Leitlinien \"K\u00fcnstliche Intelligenz\" (www.admin.ch Startseite Dokumentation Medienmitteilungen Themen: Technologie Datum: 25.11.2020 Leitlinien \"K\u00fcnstliche Intelligenz\" f\u00fcr die Bundesverwaltung verabschiedet) sollen als Orientierungsrahmen f\u00fcr die Bundesverwaltung dienen. Die Verantwortung f\u00fcr die Einhaltung dieser Leitlinien beim Einsatz von KI in der Bundesverwaltung liegt bei den Departementen und den einzelnen Verwaltungseinheiten, jeweils im Rahmen ihrer rechtlich definierten Aufgaben bzw. ihres Grundauftrags. Eine regelm\u00e4ssige Beurteilung hinsichtlich der Anwendung und Weiterentwicklung der Leitlinien wird vom BAKOM sichergestellt. Es bestehen zahlreiche, unterschiedliche ethische und rechtsbasierte Ans\u00e4tze zur KI, weshalb gegenw\u00e4rtig internationale Bem\u00fchungen laufen, diese Ans\u00e4tze durch global verbindliche Standards zu harmonisieren (vgl. Punkt 2). Zahlreiche Unternehmen haben bereits f\u00fcr sich Leitlinien f\u00fcr den Umgang mit KI definiert. Eine \u00dcbertragung der Leitlinien der Bundesverwaltung in irgendeiner Form auf die Privatwirtschaft ist nicht geplant.
4. Die Schweiz geh\u00f6rt mit zu den f\u00fchrenden L\u00e4ndern bei der Entwicklung von KI. Sie tr\u00e4gt daher auch eine Mitverantwortung. Unter der Schirmherrschaft von Bundesrat Ueli Maurer hat der branchen\u00fcbergreifende Verband digitalswitzerland die Stiftung Swiss Digital Initiative initiiert. Sie f\u00f6rdert mit dem neuen Label Digital Trust weltweit erstmals ethisches und verantwortungsvolles Verhalten. Weitere Projekte zur Sicherstellung von ethischen Standards sollen folgen. Ferner bietet die Festlegung technischer und ethischer Standards die Gelegenheit, in einer breiten \u00d6ffentlichkeit zu diskutieren, wie KI verwendet werden soll. Standards k\u00f6nnten dabei die Transparenz erh\u00f6hen und Wettbewerbsverzerrungen vermeiden. Dabei ist ein globaler Ansatz von entscheidender Bedeutung, der die grenz\u00fcberschreitenden Rechts- und Verwaltungsregelungen ber\u00fccksichtigt. Im Vordergrund steht dabei die Art und Weise, wie Anwendungen eingesetzt werden, und nicht die Anwendung selber. Daher ist der Bundesrat der Ansicht, dass die Schaffung einer unabh\u00e4ngigen Pr\u00fcfinstanz zur Kontrolle von Anwendungen von KI zurzeit nicht zielf\u00fchrend ist. Eine solche Instanz k\u00f6nnte der Vielzahl an funktionalen, sicherheitstechnischen, ethischen und rechtlichen Fragestellungen nur ungen\u00fcgend gerecht werden. Zudem w\u00e4re die Regulierung mit enormen Kosten verbunden. Des Weiteren w\u00fcrde die Schweiz bei einem Alleingang in einer Zeit, in der die Welt global vernetzt ist, hinter den globalen Wettbewerbern zur\u00fcckfallen. Der Bundesrat sieht zurzeit daher keinen Mehrwert, eine solche Pr\u00fcfinstanz zu schaffen.
Antwort des Bundesrates.","FederalCouncilProposal":8,"FederalCouncilProposalText":null,"FederalCouncilProposalDate":"\/Date(1620777600000)\/","SubmittedBy":"Schlatter Marionna","BusinessStatus":229,"BusinessStatusText":"Erledigt","BusinessStatusDate":"\/Date(1623974400000)\/","ResponsibleDepartment":4,"ResponsibleDepartmentName":"Departement des Innern","ResponsibleDepartmentAbbreviation":"EDI","IsLeadingDepartment":true,"Tags":"34|1236","Category":null,"Modified":"\/Date(1690505040037)\/","SubmissionDate":"\/Date(1615939200000)\/","SubmissionCouncil":1,"SubmissionCouncilName":"Nationalrat","SubmissionCouncilAbbreviation":"NR","SubmissionSession":5108,"SubmissionLegislativePeriod":51,"FirstCouncil1":1,"FirstCouncil1Name":"Nationalrat","FirstCouncil1Abbreviation":"NR","FirstCouncil2":null,"FirstCouncil2Name":null,"FirstCouncil2Abbreviation":null,"TagNames":"Medien und Kommunikation|Menschenrechte"}}