Conseil f\u00e9d\u00e9ral est charg\u00e9 de proposer des mesures r\u00e9glementaires visant \u00e0 limiter les caract\u00e9ristiques anthropomorphiques des agents conversationnels (chatbots) accessibles au public en Suisse, afin de pr\u00e9venir les risques de d\u00e9pendance \u00e9motionnelle et de manipulation psychologique.
","ReasonText":"
Les chatbots fond\u00e9s sur l'intelligence artificielle sont d\u00e9sormais utilis\u00e9s massivement par le grand public, y compris par les mineurs. Leur conception int\u00e8gre souvent des \u00e9l\u00e9ments favorisant l'attachement \u00e9motionnel : usage de la premi\u00e8re personne du singulier, expressions d\u2019empathie ou d\u2019admiration, flatterie, utilisation d\u2019informations personnelles, simulation d\u2019une personnalit\u00e9 constante.
Ces choix ne sont pas neutres. Ils visent \u00e0 maximiser l\u2019engagement des utilisateurs, mais cr\u00e9ent des risques document\u00e9s : d\u00e9pendance affective, confusion entre interaction humaine et artificielle, vuln\u00e9rabilit\u00e9 accrue pour certains publics. Lorsqu\u2019un utilisateur d\u00e9veloppe une relation affective avec un chatbot, il tend \u00e0 baisser la garde et \u00e0 partager davantage d\u2019informations personnelles - ce qui renforce encore le pouvoir de manipulation de ces syst\u00e8mes.
Aux USA, plusieurs adolescents se sont suicid\u00e9s apr\u00e8s avoir nou\u00e9 des relations intenses avec des chatbots qui renfor\u00e7aient leurs pens\u00e9es suicidaires. Ces m\u00eames technologies sont accessibles en Suisse. Les chiffres sont alarmants : environ un adolescent sur huit utilise d\u00e9j\u00e0 les chatbots pour obtenir des conseils en sant\u00e9 mentale.
On ne peut pas demander aux citoyens de r\u00e9sister seuls \u00e0 des technologies express\u00e9ment con\u00e7ues pour cr\u00e9er de l\u2019attachement \u00e9motionnel. La puissance de ces outils exige une r\u00e9ponse r\u00e9glementaire forte et rapide. Il ne faut pas attendre les premiers drames sur notre territoire pour agir.
Des mesures techniques de d\u00e9santhropomorphisation existent d\u00e9j\u00e0 : l\u2019usage du pluriel (\u00ab nous examinons \u00bb) plut\u00f4t que du singulier (\u00ab je pense \u00bb), l\u2019interdiction des expressions d\u2019attachement ou de flatterie, l\u2019adoption d\u2019avatars clairement non humains. Ces approches sont simples, efficaces et techniquement r\u00e9alisables.
\u00c0 ce jour, cette probl\u00e9matique n\u2019est que marginalement prise en compte dans les efforts de r\u00e9gulation du num\u00e9rique. Il est n\u00e9cessaire que le Conseil f\u00e9d\u00e9ral comble cette lacune en proposant un cadre r\u00e9glementaire adapt\u00e9 \u00e0 ces nouveaux risques et en prenant les mesures n\u00e9cessaires pour le mettre en \u0153uvre.
","DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"Le Conseil f\u00e9d\u00e9ral partage la pr\u00e9occupation \u00e0 l\u2019origine de la motion : certains agents conversationnels peuvent, selon leur conception et leur contexte d\u2019usage, favoriser des formes de d\u00e9pendance \u00e9motionnelle ou des influences ind\u00e9sirables, en particulier chez les personnes vuln\u00e9rables et les mineurs. Il estime d\u00e8s lors n\u00e9cessaire d\u2019examiner des garde-fous appropri\u00e9s, fond\u00e9s sur une approche proportionn\u00e9e et ax\u00e9e sur les risques.
Le Conseil f\u00e9d\u00e9ral a charg\u00e9 le D\u00e9partement f\u00e9d\u00e9ral de justice et police de pr\u00e9parer un avant-projet de r\u00e9glementation de l\u2019intelligence artificielle (IA) pour la consultation externe d\u2019ici fin 2026. Ce projet, ax\u00e9 sur la protection des droits fondamentaux et les questions transversales comme la transparence, doit permettre \u00e0 la Suisse de ratifier la Convention du Conseil de l\u2019Europe sur l\u2019IA (cf. le communiqu\u00e9 de presse disponible sous https://www.news.admin.ch > Communiqu\u00e9s du Conseil f\u00e9d\u00e9ral > 12 f\u00e9vrier 2025 \u2013 R\u00e9glementation de l\u2019IA : Le Conseil f\u00e9d\u00e9ral veut ratifier la Convention du Conseil de l\u2019Europe). L\u2019approche d\u00e9cid\u00e9e par le Conseil f\u00e9d\u00e9ral diff\u00e8re d\u2019une r\u00e9glementation ax\u00e9e sur les produits telle que pr\u00e9vue par le r\u00e8glement sur l\u2019IA de l\u2019Union europ\u00e9enne. En exigeant des mesures r\u00e9glementaires r\u00e9gissant la conception des agents conversationnels destin\u00e9s au march\u00e9 Suisse, la motion va ainsi dans le sens de l\u2019approche du l\u00e9gislateur europ\u00e9en plut\u00f4t que de celle d\u00e9cid\u00e9e par le Conseil f\u00e9d\u00e9ral.
Quant aux mesures exig\u00e9es par la motion, le Conseil f\u00e9d\u00e9ral rel\u00e8ve que les effets de l\u2019anthropomorphisation d\u00e9pendent fortement du contexte d\u2019utilisation et des caract\u00e9ristiques de l\u2019utilisateur. Une limitation g\u00e9n\u00e9rale et uniforme de certaines fonctionnalit\u00e9s (p. ex. pronoms, expressions d\u2019empathie, avatars) pourrait ne pas viser de mani\u00e8re suffisamment pr\u00e9cise les situations \u00e0 risque et tout en d\u00e9t\u00e9riorant l\u2019exp\u00e9rience des utilisateurs dans des usages o\u00f9 le risque de manipulation psychologique est faible (p. ex. un agent conversationnel employ\u00e9 par une entreprise priv\u00e9e pour r\u00e9pondre aux demandes de support de ses clients) ou dans des contextes explicitement ludiques ou fictionnels. Les mesures impacteraient \u00e9galement des outils sp\u00e9cifiquement d\u00e9velopp\u00e9s pour un usage en compl\u00e9ment d\u2019un suivi psychoth\u00e9rapeutique conventionnel (cf. Rapport national sur la sant\u00e9 2025 disponible sous https://www.gesundheitsbericht2025.ch), limitant ainsi le d\u00e9veloppement de solutions innovantes dans la prise en charge des questions de sant\u00e9 mentale. En outre, si le l\u00e9gislateur prend des mesures, elles ne devraient pas se limiter aux agents conversationnels (chatbots) mais couvrir d\u2019autres contextes d\u2019interaction avec des syst\u00e8mes d\u2019IA, par exemple avec des robots ou avec des jouets. Le Conseil f\u00e9d\u00e9ral estime d\u00e8s lors qu\u2019il convient d\u2019examiner en priorit\u00e9 et en d\u00e9tail des approches gradu\u00e9es, tenant compte de l\u2019usage, du public cible et du niveau de risque, plut\u00f4t que des interdictions g\u00e9n\u00e9rales.
Dans ce sens, si le conseil prioritaire adopte la motion, le Conseil f\u00e9d\u00e9ral proposera au second conseil de la transformer en mandat d'examen.