Le Galaxy S24 peut effacer son propre filigrane indiquant une photo fabriquée par l’IA

L’IA des Samsung Galaxy S24 fait du zèle : elle peut supprimer son propre filigrane signalant qu’une photo a été générée par intelligence artificielle. Le constructeur coréen n’a pas encore réagi, mais précise déjà qu’il ne peut pas être tenu responsable en cas de mauvaise utilisation de son système.

La sortie des Galaxy S24 a presque été éclipsée par… leur propre intelligence artificielle. Samsung a en effet mis (fortement) l’accent sur Galaxy AI, promettant de résumer des articles ou de retranscrire des réunions par exemple. Même si sur ce dernier point, l’IA a encore beaucoup de progrès à faire, elle a le mérite de proposer quelque chose de nouveau sur les smartphones haut de gamme du constructeur coréen. Bien sûr, Galaxy AI peut être utilisé pour générer des fonds d’écran ou plus généralement des images.

Pour éviter toute confusion, Samsung a mis au point un filigrane qui s’appose automatiquement en bas à gauche des images générées par son IA. Il prend la forme de petites étoiles représentant un scintillement. L’intention est louable, sauf que la réalisation est apparemment très maladroite. D’après différents tests, il suffit d’utiliser l’outil Effaceur d’objets de l’appareil photo du S24 pour supprimer le filigrane en un clin d’œil. La fonctionnalité est la même que la Gomme magique de Google : elle efface les éléments indésirables d’une photo en remplaçant les pixels pour qu’ils se fondent avec ce qu’il y a derrière.

Le Galaxy S24 peut effacer le filigrane censé indiquer qu’une photo a été conçue par l’IA

Dès sa présentation pourtant, Samsung s’est dédouané : “un filigrane visible est superposé sur l’image lors de l’enregistrement afin d’indiquer que l’image est générée par l’IA. L’exactitude et la fiabilité du résultat généré ne sont pas garanties”. L’entreprise ne se tient donc pas responsable en cas de diffusion de deepfakes créées avec son intelligence artificielle. Mais pourvoir effacer aussi simplement le filigrane aidant à se prémunir de cela ressemble plus à un bug qu’à une volonté réelle.

Lire aussi – Prise en main des Galaxy S24 : notre premier avis sur les trois nouveaux smartphones de Samsung

La question de l’identification des deepfakes n’est pas nouvelle. Google propose déjà un système invisible à l’œil nu résistant même, en théorie, à la modification des métadonnées. Adobe de son côté a proposé un symbole universel que Microsoft a adopté, entre autres. Au moment de la publication de cet article, Samsung ne s’est pas exprimé sur le sujet.

You can easily remove Samsung’s AI watermark by simply object-erasing it 🤣 pic.twitter.com/YSVTI3avKt

— Raven (@Razar_the_Raven) January 18, 2024