La motion Regazzi porte sur la lutte contre l'usage abusif d'images sur Internet. Elle charge le Conseil f\u00e9d\u00e9ral d'\u00e9laborer une strat\u00e9gie nationale visant \u00e0 mieux coordonner la lutte contre la diffusion non consentie d'images, en particulier les images intimes utilis\u00e9es pour exercer des pressions ou du chantage. Elle souligne \u00e9galement la n\u00e9cessit\u00e9 de tenir compte des nouvelles formes d'abus li\u00e9es aux technologies num\u00e9riques et \u00e0 l'intelligence artificielle, ainsi que de renforcer la protection des enfants et des jeunes dans ce cadre.
\nVous l'avez accept\u00e9e, ici, au Conseil des \u00c9tats, par 36 voix contre 9 et aucune abstention en mars 2025. Le Conseil national l'a modifi\u00e9e assez largement, en pr\u00e9cisant la port\u00e9e de la motion \u00e0 l'\u00e9chelle nationale, en \u00e9num\u00e9rant les outils qui devront \u00eatre mis \u00e0 disposition dans le cadre de la strat\u00e9gie et en demandant \u00e9galement une coordination internationale, en particulier avec l'approche actuellement en discussion au sein de l'Union europ\u00e9enne.
\nLors des discussions, plusieurs pr\u00e9occupations ont \u00e9t\u00e9 exprim\u00e9es au sein de la commission concernant en particulier l'\u00e9volution rapide des technologies. Des outils permettant de manipuler ou de g\u00e9n\u00e9rer des images de personnes, parfois m\u00eame d'enfants, peuvent aujourd'hui \u00eatre diffus\u00e9s et utilis\u00e9s tr\u00e8s rapidement sur les r\u00e9seaux sociaux. L'intelligence artificielle vient s'ajouter \u00e0 ce probl\u00e8me, en am\u00e9liorant constamment la qualit\u00e9 des images, en donnant de plus en plus la possibilit\u00e9 de cr\u00e9er des vid\u00e9os et, surtout, en cr\u00e9ant de plus en plus de possibilit\u00e9s de d\u00e9tourner des images.
\nDans le d\u00e9bat, une autre question importante a \u00e9t\u00e9 soulev\u00e9e[NB]: celle de la responsabilit\u00e9 des plateformes et des interm\u00e9diaires techniques. Les auteurs individuels peuvent \u00eatre poursuivis[NB]; le Tribunal f\u00e9d\u00e9ral a ainsi condamn\u00e9, il y a quelques ann\u00e9es sauf erreur, une personne qui utilisait une application qui rajeunit les personnes pour g\u00e9n\u00e9rer des images \u00e0 caract\u00e8re p\u00e9dopornographique. Il est aujourd'hui plus difficile d'agir contre les services qui mettent \u00e0 disposition ces outils ou qui h\u00e9bergent ces contenus. Plusieurs interventions ont ainsi invoqu\u00e9 la possibilit\u00e9 d'introduire \u00e0 l'avenir une obligation de signalement pour les plateformes, afin qu'elles annoncent certains contenus ill\u00e9gaux aux autorit\u00e9s.
\nLa commission a encore regrett\u00e9 que ces aspects, qu'ils soient l\u00e9gaux ou techniques, n'aient pas \u00e9t\u00e9 mieux int\u00e9gr\u00e9s par le Conseil f\u00e9d\u00e9ral dans son projet de r\u00e9gulation des plateformes. La commission vous propose donc, sans opposition, d'accepter la motion dans sa version modifi\u00e9e.
\nGanz kurz: Dass der Bundesrat die Motion urspr\u00fcnglich abgelehnt hatte, liegt daran, dass er einerseits den Eindruck hat, er habe schon gen\u00fcgend Auftr\u00e4ge, um in diese Richtung zu arbeiten - z.[NB]B. mit der Motion Bulliard -, und dass er andererseits fand, die Motion sei zu unpr\u00e4zise formuliert, der Auftrag sei zu wenig klar.
\nMit der \u00c4nderung, die der Nationalrat vorgenommen hat, ist der Auftrag pr\u00e4ziser. Ich werde mich deshalb nicht gegen die Annahme dieser Motion wehren.
\nVorweg m\u00f6chte ich mich bei den Kommissionsmitgliedern beider R\u00e4te f\u00fcr die Unterst\u00fctzung des Anliegens und f\u00fcr die angebrachte Pr\u00e4zisierung bestens bedanken. Es ist wichtig, dass der Wortlaut der Motion insofern pr\u00e4zisiert wurde, als die Strategie gegen den Missbrauch unserer Bilder aufeinander abgestimmte ethische, technische, rechtliche, sensibilisierende und intervenierende Initiativen umfassen sowie konkrete Schutzmassnahmen von \u00f6ffentlichen und privaten Akteuren anstossen soll. Da die Flut an gef\u00e4lschten Bildern und Videos nicht auf die Schweiz begrenzt ist, soll sich die Strategie an den umfassenden Schutzans\u00e4tzen f\u00fcr Kinder und Jugendliche der Europ\u00e4ischen Union orientieren. Dabei geht es ausdr\u00fccklich nicht um eine \u00dcbernahme von EU-Recht, sondern um eine Orientierung an bew\u00e4hrten und umfassenden Schutzans\u00e4tzen.
\nAu d\u00e9but de l'ann\u00e9e, l'IA Grok, int\u00e9gr\u00e9e \u00e0 la plateforme X, a illustr\u00e9 la rapidit\u00e9 avec laquelle des images peuvent \u00eatre manipul\u00e9es en ligne. Elle a modifi\u00e9 des photos de femmes et d'enfants pour les repr\u00e9senter v\u00eatus de mani\u00e8re extr\u00eamement l\u00e9g\u00e8re - c'est un euph\u00e9misme - et dans des poses \u00e9quivoques. Ces images ont ensuite \u00e9t\u00e9 diffus\u00e9es massivement sur la plateforme, sans le consentement des personnes repr\u00e9sent\u00e9es. Avant l'IA Grok, le groupe Facebook n\u00e9 en Italie \"Mia moglie\", par exemple, et d'autres sites similaires \u00e9taient d\u00e9j\u00e0 au centre du d\u00e9bat public. Pendant des ann\u00e9es, des milliers d'internautes ont partag\u00e9 sans consentement des images et des vid\u00e9os intimes de femmes. Les cibles \u00e9taient les \u00e9pouses et les ex-partenaires, mais aussi les soeurs, les m\u00e8res, les coll\u00e8gues, les personnalit\u00e9s publiques ou de parfaites inconnues. Il y avait plusieurs sections r\u00e9serv\u00e9es au Tessin[NB]; c'est donc un ph\u00e9nom\u00e8ne qui a touch\u00e9 aussi la Suisse.
\nDamit einhergehend ist weltweit ein rasanter Anstieg sogenannter Sextortion-F\u00e4lle zu beobachten, bei denen Kinder und Jugendliche mit echten oder mittels Deepfake-Technologie erstellten intimen Aufnahmen erpresst oder bedroht werden. Der Einsatz von KI bei der sexuellen Ausbeutung von Minderj\u00e4hrigen spielt dabei eine wesentliche Rolle. Gem\u00e4ss der Meldestelle Cyber Tipline des National Center for Missing and Exploited Children der USA ist die Zahl entsprechender Meldungen im Jahr 2024 im Vergleich zum Vorjahr um 1325 Prozent gestiegen, anders gesagt von 4700 Meldungen auf 67[NB]000 Meldungen. Das sind unglaubliche Zahlen. In der Schweiz berichtet die Meldestelle gegen P\u00e4dokriminalit\u00e4t im Internet, clickandstop.ch, von einem alarmierenden Anstieg der Anfragen Jugendlicher, die Opfer von Pers\u00f6nlichkeitsverletzungen durch Deepfakes geworden sind.
\nDie beobachtete Zunahme von Sextortion-F\u00e4llen zeigt, dass die bisherigen Massnahmen nicht gen\u00fcgen. Die Strafverfolgungsbeh\u00f6rden stossen heute schon an ihre Ressourcengrenze und sind erst gefragt, wenn der Schaden schon angerichtet ist. Die Pr\u00e4vention ist schwach aufgestellt. Wesentlich teurer als ein koordiniertes Vorgehen w\u00e4re es, nichts zu tun und von der Welle der Deepfakes \u00fcberrollt zu werden. Wir d\u00fcrfen den Schutz unserer Bilder im Netz nicht dem Zufall \u00fcberlassen. Die zunehmende Verbreitung von[NB]Deepfake-Pornografie und KI-gest\u00fctzten Pers\u00f6nlichkeitsverletzungen betrifft nicht nur die direkt betroffenen Personen, sondern stellt ein Problem f\u00fcr die gesamte Gesellschaft dar. Wir alle laufen Gefahr, dass unsere Online-Bilder durch KI sexualisiert und manipuliert werden. Kinder und Jugendliche sind jedoch in dieser Hinsicht besonders gef\u00e4hrdet und ben\u00f6tigen einen besonderen Schutz ihrer psychischen, physischen und sexuellen Integrit\u00e4t. Wenn Kinder und Jugendliche Opfer von[NB]Deepfake-Missbrauch werden, erstatten sie selten Anzeige und leiden oft ihr ganzes Leben lang unter den Folgen sexueller Erpressung.
\nIch bitte Sie, der Motion in der modifizierten Fassung zuzustimmen und damit den Weg f\u00fcr eine vorausschauende und koh\u00e4rente Strategie gegen Deepfakes und Sextortion zum Schutz vor allem von Frauen und Kindern zu \u00f6ffnen. [PAGE 255]
\nAntrag der Kommission [GZ]
\nZustimmung zur \u00c4nderung
\n[VS]
\nProposition de la commission [GZ]
\nApprouver la modification
\n[VS]
\nPr\u00e4sident (Engler Stefan, Pr\u00e4sident): Es liegt Ihnen ein schriftlicher Bericht der Kommission vor. Die Kommission beantragt ohne Gegenstimme, die Motion in der vom Nationalrat abge\u00e4nderten Fassung anzunehmen.
\nPr\u00e4sident (Engler Stefan, Pr\u00e4sident): Der Bundesrat schliesst sich dem Antrag der Kommission an.[GZ]
\n[VS][GZ]
\nAngenommen - Adopt\u00e9
\n