L\u2019utilisation de l\u2019intelligence artificielle (IA) peut accentuer les in\u00e9galit\u00e9s sociales. Dans le monde entier, des exemples montrent que les d\u00e9cisions reposant sur l\u2019IA peuvent frapper durement les groupes socialement et \u00e9conomiquement d\u00e9favoris\u00e9s. En Suisse aussi, les algorithmes exercent de plus en plus une influence dans des domaines importants de la vie : ils \u00e9valuent les candidatures \u00e0 un poste, examinent la capacit\u00e9 d\u2019une personne \u00e0 rembourser un cr\u00e9dit et recommandent des contenus sur les r\u00e9seaux sociaux. Des \u00e9tudes d\u00e9montrent que des personnes peuvent \u00eatre d\u00e9savantag\u00e9es par la discrimination algorithmique. Les syst\u00e8mes d\u2019IA peuvent par exemple privil\u00e9gier les hommes \u00e0 l\u2019embauche et durcir les conditions d\u2019octroi de cr\u00e9dits des femmes par rapport aux hommes dont la situation financi\u00e8re est comparable. L\u2019IA g\u00e9n\u00e9rative renforce en outre les st\u00e9r\u00e9otypes de genre.
Les personnes concern\u00e9es ont du mal \u00e0 identifier si elles ont subi un d\u00e9savantage, car les syst\u00e8mes d\u2019IA sont souvent utilis\u00e9s sans qu\u2019elles le sachent et ont pour la plupart un fonctionnement opaque \u00e0 l\u2019image d\u2019une bo\u00eete noire. Des effets de r\u00e9troaction peuvent par ailleurs renforcer des pr\u00e9jug\u00e9s existants. Le Conseil f\u00e9d\u00e9ral reconna\u00eet dans une d\u00e9cision de principe qu\u2019il est n\u00e9cessaire de fixer des r\u00e8gles dans le domaine et d\u00e9clare par ailleurs qu\u2019il compte ratifier la convention du Conseil de l\u2019Europe sur l\u2019IA. Cet instrument porte toutefois sur les acteurs \u00e9tatiques et ne traite pas des risques pour le secteur priv\u00e9. Il n\u2019existe pas en Suisse une loi g\u00e9n\u00e9rale prot\u00e9geant les acteurs priv\u00e9s de la discrimination. Si le cadre l\u00e9gal n\u2019est pas adapt\u00e9 de fa\u00e7on claire, un vide juridique persistera. Les d\u00e9fis pos\u00e9s par la discrimination algorithmique, tels que les effets d\u2019\u00e9chelle ou les biais dans les donn\u00e9es d\u2019entra\u00eenements, requi\u00e8rent des mesures cibl\u00e9es.
1. Que souhaite faire le Conseil f\u00e9d\u00e9ral pour rem\u00e9dier \u00e0 ces lacunes ?
2. La convention du Conseil de l\u2019Europe sur l\u2019IA se rapporte avant tout aux acteurs \u00e9tatiques. Comment le Conseil f\u00e9d\u00e9ral entend-il prot\u00e9ger la population de la discrimination, alors que les syst\u00e8mes d\u2019IA sont \u00e9galement de plus en plus utilis\u00e9s par les acteurs priv\u00e9s ?
3. Des cas concrets montrent que l\u2019utilisation de syst\u00e8mes d\u2019IA peut par exemple entra\u00eener des discriminations \u00e0 l\u2019\u00e9gard des femmes \u00e0 l\u2019embauche, au moment de d\u00e9terminer leur solvabilit\u00e9 pour un cr\u00e9dit, dans le domaine de l\u2019IA g\u00e9n\u00e9rative ou sur les r\u00e9seaux sociaux. Comment le Conseil f\u00e9d\u00e9ral peut-il remplir son obligation de protection contre de telles discriminations dans le secteur priv\u00e9 ?
4. Comment le Conseil f\u00e9d\u00e9ral compte-t-il s\u2019assurer que les syst\u00e8mes de recrutement reposant sur l\u2019IA garantissent l\u2019\u00e9galit\u00e9 des chances et qu\u2019ils ne p\u00e9nalisent pas syst\u00e9matiquement les candidatures des femmes ou des autres groupes discrimin\u00e9s ?
","ReasonText":null,"DocumentationText":null,"MotionText":null,"FederalCouncilResponseText":"Le Conseil f\u00e9d\u00e9ral r\u00e9pond de mani\u00e8re globale aux questions pos\u00e9es. Il est conscient du fait que l\u2019utilisation croissante des syst\u00e8mes d\u2019intelligence artificielle comporte certains risques pour les individus, notamment s\u2019agissant des droits \u00e0 l\u2019\u00e9galit\u00e9 de traitement et \u00e0 la non-discrimination, \u00e9galement dans le secteur priv\u00e9 (voir notamment sa r\u00e9ponse \u00e0 l\u2019interpellation Marti Min Li 23.4133 La protection l\u00e9gale contre la discrimination est-elle suffisante quand il est question de discrimination algorithmique?).
La conception de l\u2019IA doit tenir compte des risques de renforcer et syst\u00e9matiser les discriminations, en particulier \u00e0 l\u2019\u00e9gard des femmes et des personnes appartenant \u00e0 des minorit\u00e9s. En effet, les algorithmes sont entra\u00een\u00e9s sur la base de donn\u00e9es qui refl\u00e8tent les biais de la soci\u00e9t\u00e9 et ils tendent \u00e0 les reproduire. La complexit\u00e9 de l\u2019\u00e9mergence et de l\u2019impact des biais est la raison pour laquelle une attention particuli\u00e8re doit \u00eatre accord\u00e9e \u00e0 l\u2019ensemble du cycle de vie de l\u2019IA. D\u2019un autre c\u00f4t\u00e9, l\u2019IA pourrait aussi aider \u00e0 d\u00e9tecter les biais de s\u00e9lection lors du recrutement par exemple.
La Convention du Conseil de l\u2019Europe sur l\u2019IA et les droits de l\u2019homme, la d\u00e9mocratie et l\u2019\u00c9tat de droit s\u2019applique au secteur public et au secteur priv\u00e9. Toutefois, dans le secteur priv\u00e9, les Etats disposent d\u2019une plus grande marge de man\u0153uvre dans l\u2019\u00e9tendue et l\u2019intensit\u00e9 des mesures \u00e0 prendre pour atteindre les objectifs de la convention. Le Conseil f\u00e9d\u00e9ral a fait usage de cette libert\u00e9 dans sa d\u00e9cision du 12 f\u00e9vrier 2025 (voir le communiqu\u00e9 de presse : https://www.bj.admin.ch/bj/fr/home/aktuell/mm.msg-id-104110.html), en se positionnant en faveur d\u2019une l\u00e9gislation adress\u00e9e principalement au secteur public, mais susceptible d\u2019inclure le secteur priv\u00e9 lorsque les droits fondamentaux des individus sont en jeu. Le DFJP, dans le projet l\u00e9gislatif qu\u2019il \u00e9laborera d\u2019ici fin 2026, devra ainsi, au vu du mandat re\u00e7u, aborder notamment les d\u00e9fis li\u00e9s \u00e0 la transparence, \u00e0 la protection des donn\u00e9es, \u00e0 la non-discrimination et \u00e0 la surveillance.
Le Conseil f\u00e9d\u00e9ral portera une attention particuli\u00e8re aux enjeux li\u00e9s \u00e0 la discrimination dans le cadre de ses travaux. Il est toutefois trop t\u00f4t pour dire de quelle mani\u00e8re il le fera.
","FederalCouncilProposal":null,"FederalCouncilProposalText":null,"FederalCouncilProposalDate":"\/Date(1747180800000)\/","SubmittedBy":"Arslan Sibel","BusinessStatus":203,"BusinessStatusText":"L\u2019avis relatif \u00e0 l\u2019intervention est disponible","BusinessStatusDate":"\/Date(1747240318577)\/","ResponsibleDepartment":5,"ResponsibleDepartmentName":"D\u00e9partement de justice et police","ResponsibleDepartmentAbbreviation":"DFJP","IsLeadingDepartment":true,"Tags":"15|28|34|44|1236","Category":null,"Modified":"\/Date(1763090327510)\/","SubmissionDate":"\/Date(1741219200000)\/","SubmissionCouncil":1,"SubmissionCouncilName":"Conseil national","SubmissionCouncilAbbreviation":"CN","SubmissionSession":5207,"SubmissionLegislativePeriod":52,"FirstCouncil1":1,"FirstCouncil1Name":"Conseil national","FirstCouncil1Abbreviation":"CN","FirstCouncil2":null,"FirstCouncil2Name":null,"FirstCouncil2Abbreviation":null,"TagNames":"\u00c9conomie|Questions sociales|M\u00e9dias et communication|Emploi et travail|Droits de l'homme"}}