Der Einsatz von K\u00fcnstlicher Intelligenz (KI) kann bestehende gesellschaftliche Ungleichheiten verst\u00e4rken. Internationale Beispiele zeigen, dass KI-gest\u00fctzte Entscheidungen sozial und wirtschaftlich benachteiligte Gruppen hart treffen k\u00f6nnen. Auch in der Schweiz beeinflussen Algorithmen zunehmend wichtige Lebensbereiche: Sie bewerten Bewerbungen, analysieren Kreditw\u00fcrdigkeit und empfehlen Inhalte auf Social Media. Studien belegen, dass Menschen durch algorithmische Diskriminierung benachteiligt werden k\u00f6nnen. KI-Systeme k\u00f6nnen zum Beispiel im Recruiting-Prozess M\u00e4nner bevorzugen, und Frauen k\u00f6nnen schlechtere Kreditkonditionen erhalten, obwohl ihre finanzielle Situation vergleichbar ist. Generative KI verst\u00e4rkt zudem geschlechtsspezifische Stereotype.
KI-Systeme werden oft eingesetzt ohne, dass Betroffene davon wissen und operieren oft in intransparenten \u201eBlack Boxes\u201c, wodurch Betroffene Benachteiligungen schwer nachvollziehen k\u00f6nnen. R\u00fcckkopplungseffekte k\u00f6nnen zudem bestehende Vorurteile verst\u00e4rken. In seinem Grundsatzentscheid erkennt der Bundesrat den Regulierungsbedarf an und beabsichtigt, die KI-Konvention des Europarats zu ratifizieren. Diese fokussiert jedoch auf staatliche Akteure und l\u00e4sst Risiken im privaten Sektor unbeachtet. Ohne klare gesetzliche Anpassungen besteht ein Schutzvakuum, da in der Schweiz kein allgemeines Antidiskriminierungsgesetz f\u00fcr private Akteure existiert. Die Herausforderungen algorithmischer Diskriminierung wie Skalierungseffekte oder Verzerrungen in Trainingsdaten erfordern gezielte Massnahmen.
1. Wie will der Bundesrat diese Schw\u00e4chen angehen?
2. Die KI-Konvention des Europarates bezieht sich prim\u00e4r auf staatliche Akteure. Wie will der BR die Bev\u00f6lkerung vor Diskriminierung sch\u00fctzen, wenn KI-Systeme zunehmend auch von privaten Akteuren eingesetzt werden?
3. Konkrete F\u00e4lle zeigen, dass unter anderem Frauen beim Einsatz von KI-Systemen diskriminierende Folgen erleiden k\u00f6nnen, etwa im Recruiting, bei der Pr\u00fcfung von Kreditw\u00fcrdigkeit, durch generative KI oder Social Media. Wie kann der BR seine Schutzpflicht vor Diskriminierung in solchen F\u00e4llen im privaten Sektor erf\u00fcllen?
4. Wie gedenkt der BR sicherzustellen, dass KI-gest\u00fctzte Recruiting-Systeme Chancengleichheit gew\u00e4hrleisten und nicht systematisch Bewerbungen von Frauen oder anderen diskriminierten Gruppen benachteiligen?
","ReasonText":null,"DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"Der Bundesrat beantwortet die gestellten Fragen in ihrer Gesamtheit. Er ist sich bewusst, dass der zunehmende Einsatz von Systemen k\u00fcnstlicher Intelligenz mit gewissen Risiken verbunden ist, die namentlich das Recht auf Gleichbehandlung und Nichtdiskriminierung betreffen, auch im privaten Sektor (siehe insbesondere die Stellungnahme auf die Interpellation Marti Min Li 23.4133 Algorithmische Diskriminierung. Ist der gesetzliche Diskriminierungsschutz ausreichend?).
Die Konzeption der KI muss das Risiko einer Verst\u00e4rkung und Systematisierung von Diskriminierungen insbesondere gegen\u00fcber Frauen und Minderheiten ber\u00fccksichtigen. Denn Algorithmen werden anhand von Daten trainiert, welche die Vorurteile der Gesellschaft widerspiegeln und dazu neigen, diese zu reproduzieren. Die Entstehung von Verzerrungen und deren Auswirkungen sind \u00e4usserst komplex, weshalb dem gesamten KI-Lebenszyklus besondere Aufmerksamkeit zu widmen ist. Andererseits k\u00f6nnte KI beispielsweise auch die Erkennung von Selektionsverzerrungen im Recruiting-Prozess erleichtern.
Das \u00dcbereinkommen des Europarates \u00fcber k\u00fcnstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit gilt f\u00fcr den \u00f6ffentlichen und den privaten Sektor. Im privaten Sektor verf\u00fcgen die Staaten jedoch \u00fcber mehr Handlungsspielraum in Bezug auf den Umfang und die Intensit\u00e4t der Massnahmen, die zur Erreichung der Ziele des \u00dcbereinkommens zu ergreifen sind. Der Bundesrat hat diesen Spielraum genutzt und sich in seinem Beschluss vom 12. Februar 2025 (siehe die Medienmitteilung dazu: https://www.bj.admin.ch/bj/de/home/aktuell/mm.msg-id-104110.html) f\u00fcr eine Gesetzgebung ausgesprochen, die haupts\u00e4chlich auf den \u00f6ffentlichen Sektor ausgerichtet ist, aber auch den privaten Sektor einschliessen kann, wenn es um die Grundrechte des Einzelnen geht. Das Rechtsetzungsprojekt, welches das EJPD im Auftrag des Bundesrates bis 2026 ausarbeiten wird, soll daher namentlich die Bereiche Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht umfassen.
Der Bundesrat wird im Rahmen seiner Arbeiten ein besonderes Augenmerk auf die Herausforderungen in Bezug auf Diskriminierung legen. Wie er dies tun wird, l\u00e4sst sich zum aktuellen Zeitpunkt jedoch noch nicht genau sagen.
","FederalCouncilProposal":null,"FederalCouncilProposalText":null,"FederalCouncilProposalDate":"\/Date(1747180800000)\/","SubmittedBy":"Arslan Sibel","BusinessStatus":203,"BusinessStatusText":"Stellungnahme zum Vorstoss liegt vor","BusinessStatusDate":"\/Date(1747240318577)\/","ResponsibleDepartment":5,"ResponsibleDepartmentName":"Justiz- und Polizeidepartement","ResponsibleDepartmentAbbreviation":"EJPD","IsLeadingDepartment":true,"Tags":"15|28|34|44|1236","Category":null,"Modified":"\/Date(1763090327510)\/","SubmissionDate":"\/Date(1741219200000)\/","SubmissionCouncil":1,"SubmissionCouncilName":"Nationalrat","SubmissionCouncilAbbreviation":"NR","SubmissionSession":5207,"SubmissionLegislativePeriod":52,"FirstCouncil1":1,"FirstCouncil1Name":"Nationalrat","FirstCouncil1Abbreviation":"NR","FirstCouncil2":null,"FirstCouncil2Name":null,"FirstCouncil2Abbreviation":null,"TagNames":"Wirtschaft|Soziale Fragen|Medien und Kommunikation|Besch\u00e4ftigung und Arbeit|Menschenrechte"}}