L’IA face au défi de la régulation, avec Debora Cohen (experte en conformité)

Vous venez de lancer un agent conversationnel pour vos clients. Vos équipes RH utilisent des algorithmes pour présélectionner des candidatures. Vous pensez avoir pris le virage technologique avec brio, les yeux rivés sur la productivité. Un détail vous échappe peut-être : la nouvelle réglementation européenne est déjà là. Qu’aurez-vous dû faire pour vous y préparer ? Comment rattraper votre retard ? Debora Cohen répond à vos questions.

De l’innovation débridée à la conformité : le virage du marché

L’intelligence artificielle, c’est aujourd’hui des milliers d’outils déployés dans tous les secteurs. Mais ce que le grand public ne voit pas toujours, c’est que derrière ces interfaces fluides se prépare un immense bouleversement juridique. Le règlement européen sur l’IA, ou AI Act, est entré en vigueur en août 2024. Il ne s’agit plus de savoir si l’on doit innover, mais comment le faire dans un cadre légal strict. L’objectif affiché de l’Europe est clair : protéger les citoyens et garantir les droits fondamentaux. Car l’alternative consistant à laisser des algorithmes opaques prendre des décisions critiques a fait son temps.

AI Act et pyramide des risques : comment classifier vos systèmes d’IA ?

Le choix du législateur n’est pas binaire. Il repose sur une classification implacable des systèmes d’IA. Debora Cohen le rappelle avec clarté : tout commence par un travail de détective en interne. Il faut cartographier l’existant et positionner chaque outil sur une pyramide des risques. Au sommet, les pratiques inacceptables sont tout simplement interdites. Viennent ensuite les systèmes à haut risque, touchant à la santé ou à la sécurité, puis ceux à risque limité qui imposent de fortes obligations de transparence. Enfin, le risque minimal échappe à la contrainte. Dans ce contexte, ignorer ce qui tourne sur ses propres serveurs n’est plus une option tenable. C’est le point de départ incontournable de toute mise en conformité.

Obligation de formation à l’IA : garantir le contrôle humain

La différence avec les simples recommandations éthiques du passé réside dans l’article 14 du texte. Le règlement impose un contrôle humain effectif. Cette obligation délibérée vise un objectif précis : s’assurer que les collaborateurs comprennent les limites de la machine. En effet, déléguer aveuglément une décision à un algorithme peut s’avérer désastreux. Debora Cohen explique ce choix en soulignant l’importance de déjouer les biais d’automatisation. Les utilisateurs doivent savoir interpréter les résultats et conserver un véritable droit de rejet. Dans un monde où la technologie promet de tout résoudre, l’Europe mise sur des humains capables de dire non à la machine.

Fournisseur ou déployeur : le piège des responsabilités

Vous avez acheté une solution sur étagère et vous pensez être à l’abri. Le règlement a pourtant prévu le coup. Une entreprise qui intègre un modèle conçu par un tiers devient un déployeur, avec ses propres obligations. Mais la subtilité va plus loin. Si vous commercialisez ce système sous votre propre marque ou si vous en modifiez la finalité, vous endossez soudainement la casquette de fournisseur. Derrière cette mécanique juridique, c’est toute la chaîne des contrats commerciaux qui doit être revue. Debora Cohen insiste sur l’urgence d’imposer des clauses de conformité à ses prestataires dès aujourd’hui, avant de se retrouver coincé.

Documenter ses choix face au flou réglementaire

Le texte est voté, mais les modalités d’application naviguent encore dans un certain brouillard. Seules quelques lignes directrices ont été publiées sur toutes celles promises par la Commission européenne. Face à ces incertitudes, la stratégie n’est pas d’attendre passivement. L’entreprise doit documenter minutieusement ses arbitrages. Si un outil est classé à risque limité plutôt qu’à haut risque, il faut pouvoir prouver son raisonnement. Les équipes juridiques travaillent ainsi à bâtir une infrastructure de bonne foi, prête à être présentée en cas de contrôle. C’est un travail de longue haleine qui suppose d’intégrer la rigueur légale au cœur même du déploiement technologique.

Le spectre des sanctions et le pari de la confiance

Les amendes prévues ont de quoi faire frémir les directions générales. Une pratique interdite peut coûter jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial. Un chiffre qui rappelle la force de frappe du RGPD. Mais au-delà du risque financier, Debora Cohen met en lumière un enjeu bien plus stratégique : la confiance. Aujourd’hui, de nombreux consommateurs se méfient encore des boîtes noires algorithmiques. En jouant le jeu de la transparence et de la sécurité, les entreprises ne font pas que cocher des cases légales, elles rassurent le marché.

L’Europe a choisi de réguler avant les autres, imposant de fait son standard aux sociétés du monde entier qui souhaitent opérer sur son sol. Loin d’être un boulet pour l’innovation, cette mise en conformité se transforme en un véritable argument de vente. Car dans cette nouvelle ère numérique, la promesse d’une IA performante ne tiendra que si elle est jugée digne de confiance par ceux qui l’utilisent au quotidien.

Vous avez des questions sur cet épisode ?

Vous voulez nous soumettre une idée d’épisode ou d’invité ?
Écrivez-nous à changement@converteo.com

Changement d’Époque en cours est un podcast réalisé par Converteo.
L’émission est présentée par Laurent Nicolas-Guennoc.