Des obligations de transparence ciblées
Les fournisseurs de systèmes d’IA générative doivent désormais permettre d’identifier certains contenus générés ou manipulés par leurs outils grâce à un marquage lisible par machine.Pour les entreprises qui utilisent ces systèmes, l’obligation d’information concerne notamment les deepfakes, ainsi que certains textes générés par IA et destinés à informer le public sur des sujets d’intérêt public lorsqu’ils n’ont pas fait l’objet d’une revue humaine ou d’un contrôle éditorial.
L’Union européenne propose également 3 icônes permettant de signaler qu’un contenu a été généré ou modifié par IA. Leur utilisation reste facultative.
L’AI Act interdit par ailleurs certains usages considérés comme présentant un risque inacceptable, parmi lesquels la notation sociale, certaines formes de manipulation ou encore certains usages de reconnaissance des émotions sur le lieu de travail.
Ce que cela change pour les TPE-PME
Pour une TPE-PME utilisant des outils d’IA pour rédiger des contenus, créer des visuels, produire des vidéos ou mettre en place des chatbots, l’enjeu est avant tout d’identifier les usages soumis à une obligation de transparence.Il est donc utile de recenser les outils d’IA utilisés en interne ou via des prestataires et de vérifier, pour chacun, les règles applicables.