C2PA se concentre principalement sur l’authentification de contenu via un protocole qu’il appelle Informations d’identification du contenu, même si le groupe affirme que sa technologie peut être couplée au filigrane. Il s’agit « d’un protocole open source qui s’appuie sur la cryptographie pour coder des détails sur l’origine d’un élément de contenu », comme le précise J’ai répondu en juillet. « Cela signifie qu’une image, par exemple, est marquée d’informations par l’appareil d’où elle provient (comme l’appareil photo d’un téléphone), par des outils d’édition (tels que Photoshop) et, finalement, par la plateforme de médias sociaux sur laquelle elle est téléchargée. Au fil du temps, ces informations créent une sorte d’historique, qui est entièrement enregistré.
Le résultat est des informations vérifiables, collectées dans ce que les partisans du C2PA comparent à une « étiquette nutritionnelle », sur l’origine d’un élément de contenu, qu’il ait été généré par une machine ou non. L’initiative et ses affiliés communauté open source ont connu une croissance rapide ces derniers mois alors que les entreprises se précipitent pour vérifier leur contenu.
Quelle est l’intervention de la Maison Blanche ?
La partie clé de l’EO note que le ministère du Commerce « établira des normes et des meilleures pratiques pour détecter le contenu généré par l’IA et authentifier le contenu officiel » et note que « les agences fédérales utiliseront ces outils pour permettre aux Américains de savoir facilement que les communications qu’ils reçoivent de leur gouvernement sont authentiques et constituent un exemple pour le secteur privé et les gouvernements du monde entier.
Fondamentalement, comme Melissa et moi l’avons rapporté dans notre article, le décret n’est pas à la hauteur des attentes. exigeant les acteurs de l’industrie ou les agences gouvernementales à utiliser cette technologie.
Mais même si les experts avec qui Melissa et moi avons parlé étaient généralement encouragés par les dispositions concernant les normes, le filigrane et l’étiquetage du contenu, le filigrane en particulier ne résoudra probablement pas tous nos problèmes. Les chercheurs ont découvert que la technique est vulnérable à la falsification, ce qui peut déclencher des faux positifs et des faux négatifs.
Soheil Feizi, de l’Université du Maryland, a mené deux études sur les technologies de tatouage et les a trouvées « peu fiables ». Il affirme que le risque de faux positifs et négatifs est si important que les filigranes ne fournissent « pratiquement aucune information ».
« Imaginez s’il y a un tweet ou un texte avec un filigrane officiel caché de la Maison Blanche, mais que ce tweet a en réalité été écrit par des adversaires », prévient Feizi. « Cela peut causer plus de problèmes que résoudre n’importe lequel des problèmes actuels. »
De plus, ses recherches ont révélé que les technologies de filigrane invisibles et inviolables sont théoriquement « impossibles », bien qu’il n’ait pas étudié l’efficacité des techniques d’authentification de contenu.
