Après plusieurs années de négociations, ce règlement constitue un tournant majeur pour les entreprises qui développent, commercialisent ou utilisent des solutions d’intelligence artificielle sur le marché européen.
Une réglementation fondée sur le niveau de risque
L’AI Act repose sur une approche fondée sur le niveau de risque : plus un système d’IA est susceptible d’avoir un impact important sur les citoyens, plus les obligations qui s’y appliquent sont strictes. Le règlement distingue quatre catégories : les risques inacceptables, interdits par principe ; les systèmes à haut risque, soumis à des exigences renforcées ; les systèmes à risque limité, principalement concernés par des obligations de transparence ; et les systèmes à risque minimal, qui restent largement libres d’utilisation.
L’AI Act est déployé progressivement afin de laisser aux entreprises le temps de s’adapter. Si certaines dispositions sont déjà applicables, notamment l’interdiction de certains usages, d’autres obligations entreront en vigueur de manière échelonnée pour les modèles d’IA à usage général et les systèmes à haut risque.
La transparence en principe central
La transparence est l’un des piliers de l’AI Act. Les utilisateurs devront être informés lorsqu’ils interagissent avec une IA, tandis que les contenus générés artificiellement, notamment les deepfakes, devront être identifiés dans de nombreux cas. Les fournisseurs de modèles d’IA à usage général seront également soumis à des obligations de documentation, de respect du droit d’auteur et de transparence sur le fonctionnement de leurs modèles.
Si ces nouvelles obligations constituent une avancée importante, elles ne suffiront toutefois pas, à elles seules, à lutter contre les usages malveillants de l’intelligence artificielle. Pour Tiberiu Cobzaru, Product Manager chez Bitdefender, la transparence doit s’accompagner d’outils permettant de vérifier l’authenticité des contenus numériques.
« Nous saluons les nouvelles exigences de transparence de l’AI Act européen concernant les contenus générés par l’intelligence artificielle. L’obligation pour les créateurs d’identifier clairement les contenus produits par l’IA constitue une première étape essentielle pour renforcer la confiance dans l’information numérique et favoriser une plus grande transparence des usages légitimes de l’intelligence artificielle.
Dans le même temps, ces nouvelles règles mettent en évidence une limite importante : elles s’appliquent principalement à ceux qui sont déjà disposés à les respecter. Les contenus générés par l’IA qui causent les préjudices les plus graves – notamment les deepfakes utilisés dans des escroqueries, des fraudes ou des usurpations d’identité – sont créés par des cybercriminels qui n’ont évidemment aucune intention de signaler qu’ils utilisent l’IA. Par conséquent, nombre des images, vidéos et enregistrements audio générés par l’IA les plus dangereux continueront de circuler sans aucune indication sur leur origine.
C’est pourquoi les exigences en matière de transparence doivent être complétées par des outils de vérification indépendants permettant aux utilisateurs d’évaluer eux-mêmes l’authenticité d’un contenu numérique, qu’il soit ou non étiqueté par son créateur. Des solutions existantes contribuent à combler cette lacune en permettant aux utilisateurs de vérifier de manière indépendante les contenus suspects générés par l’IA. Par ailleurs, l’adoption de normes reconnues à l’échelle internationale permettrait de garantir une application cohérente des labels liés à l’IA sur l’ensemble des plateformes et des juridictions.
Pour les consommateurs, le principal danger ne vient pas des contenus générés par l’IA qui sont correctement identifiés, mais des contenus malveillants qui échappent volontairement à toute obligation de transparence. Les cybercriminels ne signaleront jamais spontanément que leurs deepfakes ou leurs escroqueries ont été créés à l’aide de l’IA. Qu’il s’agisse d’une voix clonée évoquant une urgence familiale, d’une fausse vidéo d’investissement mettant en scène une célébrité ou encore d’une arnaque sentimentale, les utilisateurs doivent toujours vérifier les contenus suspects avant d’agir. La transparence constitue une première étape essentielle, mais seule une vérification indépendante permettra de combler les failles exploitées par les acteurs malveillants qui choisissent tout simplement d’ignorer les règles. »
Cette analyse met en lumière l’un des principaux défis de l’AI Act : instaurer davantage de transparence auprès des acteurs de bonne foi tout en développant des outils capables de détecter les contenus malveillants produits par ceux qui choisissent délibérément d’échapper à la réglementation.
Clairement, l’ambition de l’AI Act introduit par la Communauté Européenne est de favoriser le développement d’une intelligence artificielle performante, éthique et respectueuse des droits des citoyens européens, tout en offrant aux entreprises un cadre clair pour innover de manière responsable. Plus qu’une simple réglementation, il les invite à démontrer non seulement la performance de leurs modèles, mais aussi leur fiabilité, leur transparence et leur conformité, des critères qui devraient progressivement devenir des facteurs clés de confiance.
