Algorithmisches Systeme und automatisierte Entscheidungen werden immer h\u00e4ufiger und werden beispielsweise bei Stellenbewerbungen, medizinischer Diagnostik, pr\u00e4ventiver Polizeiarbeit oder Risikokalkulationen eingesetzt. Der Einsatz dieser Systeme kann zu Diskriminierungen f\u00fchren oder Diskriminierungen verst\u00e4rken, das haben verschiedene Beispiele in der Vergangenheit bereits gezeigt. Dies unter anderem deshalb, weil algorithmische Systeme nicht neutral sind, sondern durch ihr Modell, die zugrundeliegenden Daten, durch die Art und Weise der Anwendung oder durch R\u00fcckkoppelungsschlaufen bestehende strukturelle Muster best\u00e4tigen oder gar verst\u00e4rken k\u00f6nnen. Die Diskriminierung durch Algorithmen kann eine grosse Anzahl von Menschen betreffen, die oft nicht wissen, dass sie davon betroffen sind. Gleichzeitig hat der rechtliche Diskriminierungsschutz in der Schweiz auch unabh\u00e4ngig von der Frage der algorithmischen Diskriminierung gewisse L\u00fccken, wie der Bundesrat im Bericht in Erf\u00fcllung des Postulats Naef (12.3543) ausgef\u00fchrt hat, insbesondere wenn es sich um private und nicht staatliche Akteure handelt. In diesem Zusammenhang bitte ich den Bundesrat um die Beantwortung folgender Fragen:
1. Teilt der Bundesrat die Sorge, dass der Einsatz von algorithmischen Systemen zu Diskriminierungen f\u00fchren kann?
2. Mit welchen Massnahmen ist vorgesehen, diese Diskriminierungen anzugehen?
3. Plant der Bundesrat eine evidenzbasierte Folgeabsch\u00e4tzung f\u00fcr den Einsatz von algorithmischen Systemen in der Verwaltung, die unter anderem auch zum Ziel haben soll, Auswirkungen auf die Grundrechte abzusch\u00e4tzen?
4. Wie kann gew\u00e4hrleistet werden, dass Betroffene ihre Rechte wahrnehmen k\u00f6nnen, wenn sie von algorithmischer Diskriminierung betroffen sind \u2013 und auch dann, wenn es sich um eine systematische, strukturelle Diskriminierung handelt?
5. Welche Handhabe gibt es gesetzlich gegen Diskriminierungen f\u00fcr Private?
6. Ist geplant, den gesetzlichen Schutz gegen Diskriminierung zu verst\u00e4rken?
7. Wie stellt sich der Bundesrat zur Idee, einen allgemeinen Rechtsrahmen f\u00fcr einen verst\u00e4rkten Diskriminierungsschutz zu schaffen, unter anderem (aber nicht ausschliesslich) zum Schutz vor algorithmischer Diskriminierung?
","ReasonText":null,"DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"
1. Der Bundesrat ist sich bewusst, dass bestehende Diskriminierungen in der Gesellschaft durch den Einsatz von algorithmischen Systemen systematisch reproduziert und sogar verst\u00e4rkt werden k\u00f6nnen. Es ist auch nicht auszuschliessen, dass neue Risiken entstehen. Diese Risiken werden im Bericht \"Herausforderungen der k\u00fcnstlichen Intelligenz\" von 2019 dokumentiert (www.admin.ch > Dokumentation > Medienmitteilungen > K\u00fcnstliche Intelligenz: Schweiz befindet sich in guter Ausgangslage). Auch der Bundesrat hat sich in seiner Antwort auf die Frage Balthasar Gl\u00e4ttli 23.7270 \"Systeme mit generativer k\u00fcnstlicher Intelligenz reproduzieren Diskriminierungen: Braucht es ein Antidiskriminierungsgesetz zur Umsetzung von BV Art. 8, Abs. 2?\" bereits zu diesem Thema ge\u00e4ussert. Das Risiko der Diskriminierung ist eine der gr\u00f6ssten Herausforderungen im Bereich der k\u00fcnstlichen Intelligenz (KI). Gleichzeitig k\u00f6nnte KI, wenn sie gut konzipiert, trainiert und regelm\u00e4ssig \u00fcberpr\u00fcft wird, auch zur Erkennung oder Verhinderung von Diskriminierung eingesetzt werden.
2./6. Der Bericht \"Herausforderungen der k\u00fcnstlichen Intelligenz\" zeigt, dass die Gefahr der Diskriminierung durch algorithmische Systeme bis zu einem gewissen Grad durch das bestehende Recht abgedeckt wird. So w\u00fcrde das Bundesgesetz \u00fcber die Gleichstellung von Frau und Mann (SR 151.1), das Diskriminierungen aufgrund des Geschlechts bei der Anstellung und in privatrechtlichen und \u00f6ffentlich-rechtlichen Arbeitsverh\u00e4ltnissen verbietet, bei einem Rekrutierungsprozess angewendet, der auf einem algorithmischen System beruht. Der Bundesrat hat im Jahr 2020 KI-Leitlinien f\u00fcr den Bund verabschiedet (www.admin.ch > Dokumentation > Medienmitteilungen > Leitlinien \"K\u00fcnstliche Intelligenz\" f\u00fcr die Bundesverwaltung verabschiedet). Diese betonen die Notwendigkeit, Personen oder Personengruppen vor Diskriminierung und Stigmatisierung zu sch\u00fctzen. Dazu m\u00fcssen angemessene technische und organisatorische Schutzmassnahmen und Kontrollen vorgesehen, ausgewogene und qualitativ hochwertige Daten verwendet oder entsprechende flankierende Schutzmassnahmen getroffen werden. Wie in seiner Stellungnahme zum Postulat 23.3201 Dobler \"Rechtslage der k\u00fcnstlichen Intelligenz. Unsicherheiten kl\u00e4ren, Innovation f\u00f6rdern!\" festgehalten, wird der Bundesrat bis Ende 2024 aufzeigen, ob im Bereich von KI Handlungsbedarf besteht. In diesem Zusammenhang wird er pr\u00fcfen, inwieweit die bestehenden gesetzlichen Bestimmungen einen ausreichenden Schutz vor Diskriminierung bieten und dabei den besonderen Risiken algorithmischer Systeme Rechnung tragen. Er beobachtet dabei auch die Arbeiten des Ausschusses f\u00fcr k\u00fcnstliche Intelligenz des Europarats sowie die Arbeiten der Europ\u00e4ischen Union zum \"AI Act\".
3. Das Bundesgesetz \u00fcber den Datenschutz (DSG; SR 235.1) sieht in Art. 22 die Pflicht zur Durchf\u00fchrung einer Datenschutz-Folgenabsch\u00e4tzung vor, wenn eine Bearbeitung ein hohes Risiko f\u00fcr die Pers\u00f6nlichkeit oder die Grundrechte der betroffenen Person mit sich bringen kann. Die Bearbeitung personenbezogener Daten mithilfe von Algorithmen kann je nach Fall eine solche Folgenabsch\u00e4tzung erforderlich machen. Der Bundesrat wird im Rahmen der oben erw\u00e4hnten Auslegeordnung, die er bis Ende 2024 pr\u00e4sentieren wird, kl\u00e4ren, ob eine Pflicht zur Folgenabsch\u00e4tzung f\u00fcr algorithmische Systeme, die sich auf alle Grundrechte bezieht, erforderlich ist. Dabei wird er sich insbesondere auf die bereits erw\u00e4hnten Arbeiten des Europarats beziehen.
4./5. Die rechtlichen Mittel, die Diskriminierungsopfern zur Verf\u00fcgung stehen, variieren je nach Art der Diskriminierung und je nachdem, ob die Diskriminierung von den Beh\u00f6rden oder von Privaten ausgeht. Eine detaillierte Analyse zu diesem Thema wurde vom Schweizerischen Kompetenzzentrum f\u00fcr Menschenrechte (SKMR) im Jahr 2015 durchgef\u00fchrt (Studie \"Zugang zur Justiz in Diskriminierungsf\u00e4llen\", www.skmr.ch > Publikationen & Projekte > Studien & Gutachten > Zugang zur Justiz in Diskriminierungsf\u00e4llen, letzte Aktualisierung 2022). Der Schutz, den die gesetzlichen Bestimmungen zur Diskriminierung bieten, unterscheidet nicht danach, ob die Diskriminierung durch den Einsatz algorithmischer Systeme verursacht wird oder nicht. Das DSG sieht jedoch das Recht der betroffenen Person vor, ihren Standpunkt darzulegen, wenn sie Gegenstand einer automatisierten Einzelentscheidung im Sinne von Art. 21 Abs. 1 DSG ist, sowie das Recht zu verlangen, dass diese Entscheidung von einer nat\u00fcrlichen Person \u00fcberpr\u00fcft wird (Art. 21 Abs. 2 DSG).
7. In seinem Bericht von 2016 in Beantwortung des Postulats Naef 12.3543 \"Bericht zum Recht auf Schutz vor Diskriminierung\" \u00e4usserte der Bundesrat Vorbehalte gegen\u00fcber dem Vorschlag, den Schutz vor Diskriminierung durch eine Erg\u00e4nzung der Art. 27 ff. des Zivilgesetzbuches (SR 210) zu verst\u00e4rken. Er betonte, dass eine solche Massnahme einem allgemeinen Diskriminierungsgesetz gleichk\u00e4me, das vom Parlament stets abgelehnt worden sei. Den weiteren Arbeiten im Zusammenhang mit KI zu Massnahmen zur St\u00e4rkung des gesetzlichen Rahmens in diesem Bereich will der Bundesrat heute nicht vorgreifen.