Der Bundesrat wird beauftragt, einen Gesetzesentwurf vorzulegen, mit welchem die Anbieter von Anwendungen generativer k\u00fcnstlicher Intelligenz verpflichtet werden, vor der Markteinf\u00fchrung der Anwendungen Risiko- und Schadensabsch\u00e4tzungen hinsichtlich der Erstellung von sexualisierten Deepfake-Inhalten vorzunehmen sowie Schutzmassnahmen zu ergreifen, wenn ihre Anwendungen sexualisierte Deepfake-Inhalte erstellen k\u00f6nnen. Es soll eine Pr\u00fcfinstanz geben, die Risikoabsch\u00e4tzungen und ergriffene Massnahmen pr\u00fcft und gegebenenfalls die Anbieter sanktionieren kann.
","ReasonText":"Die in der Plattform \u00abX\u00bb integrierte KI \u00abGrok\u00bb machte es vor: Bilder von Frauen und Kindern wurden von der KI so ver\u00e4ndert, dass sie die Frauen und Kinder in \u00e4usserst knapper Kleidung und in aufreizenden Posen zeigten. Die Bilder wurden \u00fcber die Plattform ver\u00f6ffentlicht. Diese eklatante Verletzung der Pers\u00f6nlichkeitsrechte der betroffenen Personen darf nicht einfach hingenommen werden. Insbesondere bei Kindern stellen sexualisierte Deepfakes eine schwere Form sexualisierter Gewalt dar, mit potenziell gravierenden und langfristigen Folgen f\u00fcr die betroffenen Minderj\u00e4hrigen.
Wer die technischen Mittel f\u00fcr solche Pers\u00f6nlichkeitsverletzungen herstellt und zur Benutzung zur Verf\u00fcgung stellt, muss verpflichtet sein, die Risiken dieser Mittel genau zu pr\u00fcfen und Schutzmechanismen einzubauen. Es reicht nicht aus, Pers\u00f6nlichkeitsverletzungen erst nachtr\u00e4glich strafrechtlich zu verfolgen: Mit generativen KI-Tools k\u00f6nnen sexualisierte Deepfakes in grosser Zahl, mit hoher Geschwindigkeit und weltweiter Reichweite erstellt und verbreitet werden, deutlich schneller, als sie entfernt oder strafrechtlich verfolgt werden k\u00f6nnen.
Anbieter digitaler Dienste, welche die Nutzung generativer KI enthalten, m\u00fcssen verpflichtet werden, ihre Angebote hinsichtlich der Herstellung verbotener oder pers\u00f6nlichkeitsverletzender Inhalte zu pr\u00fcfen. Risikoabsch\u00e4tzungen sind einer Schweizer Pr\u00fcfinstanz vorzulegen. Es sind von den Anbietern Massnahmen zu ergreifen, um die erkannten Risiken und zu erwartenden Sch\u00e4den zu minimieren. Die Schweizer Pr\u00fcfinstanz soll die M\u00f6glichkeit haben, die Anbieter im Fall von nicht adressierten Risiken zu sanktionieren.
","DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"Der Bundesrat beantragt die Annahme der Motion.
","FederalCouncilProposal":44,"FederalCouncilProposalText":"Annahme","FederalCouncilProposalDate":"\/Date(1779235200000)\/","SubmittedBy":"Mahaim Rapha\u00ebl","BusinessStatus":204,"BusinessStatusText":"Zugewiesen an die behandelnde Kommission","BusinessStatusDate":"\/Date(1782209365000)\/","ResponsibleDepartment":5,"ResponsibleDepartmentName":"Justiz- und Polizeidepartement","ResponsibleDepartmentAbbreviation":"EJPD","IsLeadingDepartment":true,"Tags":"28|34|36","Category":null,"Modified":"\/Date(1782468580300)\/","SubmissionDate":"\/Date(1773964800000)\/","SubmissionCouncil":1,"SubmissionCouncilName":"Nationalrat","SubmissionCouncilAbbreviation":"NR","SubmissionSession":5212,"SubmissionLegislativePeriod":52,"FirstCouncil1":1,"FirstCouncil1Name":"Nationalrat","FirstCouncil1Abbreviation":"NR","FirstCouncil2":null,"FirstCouncil2Name":null,"FirstCouncil2Abbreviation":null,"TagNames":"Soziale Fragen|Medien und Kommunikation|Wissenschaft und Forschung"}}