Cet article a été aimablement contribué par Paul Melcher, expert en technologie visuelle et fondateur du magazine en ligne Captur.

Alors que l'Union européenne progresse vers l'adoption d'une position unifiée sur une législation complète en matière d'IA, il est impératif que les fournisseurs de création et de gestion de contenu restent bien informés des changements à venir. Ce moment offre une occasion unique de montrer l'exemple en mettant en œuvre dès aujourd'hui des pratiques qui pourraient devenir obligatoires à l'avenir. Ce faisant, les fournisseurs peuvent aider les utilisateurs à établir des directives appropriées pour la gestion du contenu généré par l'IA sur différents supports.

Le proposé Loi sur l'intelligence artificielle classe les systèmes d'IA en catégories en fonction de leur impact sociétal potentiel, allant du risque minimal au risque élevé. Les systèmes à haut risque feront l'objet d'une surveillance réglementaire accrue, mais toutes les applications d'IA seront surveillées dans une certaine mesure. Une exigence clé est l'identification claire du contenu généré par l'IA, qu'il s'agisse de texte, d'images, de vidéos ou d'audio.

Cette initiative reflète une ordre exécutif du président Biden aux États-Unis, avec l'appui de la proposition Loi sur l'étiquetage de l'IA, qui souligne la nécessité de mettre en place des mécanismes d'étiquetage et de provenance efficaces pour permettre aux Américains de discerner le contenu généré par l'IA. Bien que les détails restent à définir, le ministère du Commerce est chargé, qui devrait être rendu public début avril 2024, de suggérer des normes pour détecter les contenus générés par l'IA et authentifier les documents officiels.

Parallèlement aux avancées législatives rapides en matière d'étiquetage des contenus, la protection du droit d'auteur évolue rapidement, affectant à la fois le processus de formation à l'IA et ses résultats. Bien que les fournisseurs de DAM ne soient pas directement concernés, la protection des droits d'auteur sur les données de formation influence de manière significative le choix des modèles pour la mise en œuvre des outils. Actuel poursuites judiciaires et de plus en plus de preuves suggèrent que les pays européens et Législation britannique rendra bientôt illégale l'utilisation non autorisée de données extraites à des fins de formation. Ainsi, une société de DAM utilisant Stability AI, Midjourney ou OpenAI pour ses solutions pourrait exposer ses utilisateurs à de graves risques juridiques car leurs données de formation ont été obtenues sans autorisation appropriée et sans compensation pour les détenteurs de droits d'auteur.

De plus, alors que l'étiquetage du contenu généré par l'IA est en passe de devenir une norme mondiale, il est primordial de garantir l'authenticité du contenu. L'émergence d'outils d'édition assistés par l'IA nécessite une méthode standardisée pour retracer l'historique d'un fichier, une pratique qui deviendra probablement obligatoire. L'initiative menée par Coalition pour la provenance et l'authenticité des contenus (C2PA), en plus du soutien apporté par les normes de métadonnées existantes telles que le Conseil international de la presse et des télécommunications (IPTC), prend position Informations d'identification du contenu devenir l'équivalent numérique de la norme « étiquetage alimentaire » pour les fichiers numériques. La compatibilité avec de telles normes est en passe de devenir une exigence pour toutes les solutions DAM, comme en témoignent Fotoware et Aprimo, qui proposent déjà cette fonctionnalité, ainsi que Méta (Facebook et Instagram) et IA ouverte (Dall•E 3).

Dans le cadre de son repositionnement en tant que plateforme de gouvernance de contenu fiable des entreprises, source ultime de contenu authentifié, la DAM doit également veiller à ce que l'authenticité que ses utilisateurs ont tant travaillé pour créer soit préservée au-delà de ses frontières. Les métadonnées étant en elles-mêmes trop fragiles, le renforcement via un filigrane invisible, une correspondance d'images et un hachage de similarité positionne DAM non seulement en tant que référentiel de contenu fiable, mais aussi en tant que bibliothèque de référence pour les utilisateurs extérieurs qui douteront de plus en plus de la légitimité de ce qu'il voit.

Les systèmes DAM doivent évoluer pour devenir des outils essentiels de conformité et de gestion éthique face à l'évolution de la législation sur l'IA. En se concentrant sur l'intégration fluide de l'étiquetage des contenus, du respect des droits d'auteur et de la vérification de l'authenticité, les plateformes DAM atténueront non seulement les risques juridiques, mais renforceront également leur rôle dans la promotion d'une utilisation responsable de l'IA. Cette approche proactive permettra de faire en sorte que les systèmes DAM ne soient pas simplement des référentiels, mais qu'ils participent activement à la construction d'un futur où le contenu numérique sera à la fois fiable et transparent. À mesure que le paysage de la réglementation de l'IA évoluera, le succès des solutions DAM sera mesuré par leur capacité à s'adapter, à innover et à promouvoir des pratiques éthiques dans l'écosystème du contenu numérique.

À propos de Paul Melcher

Paul a plus de 20 ans d'expérience dans le secteur des technologies visuelles et est le fondateur et directeur de Melcher System LLC. Il possède également une vaste expertise en matière d'IA générative, de reconnaissance d'images et de licences de contenu. Vous pouvez découvrir les dernières actualités, technologies et tendances du secteur visuel via son magazine en ligne Captur.

Vous pouvez communiquer avec Paul via son profil LinkedIn.

‍

‍