Le générateur d’images de ChatGPT excelle dans la création de fausses factures

Attention aux fausses factures ! ChatGPT, avec son nouveau générateur d'images intégré au modèle GPT-4o, s'avère particulièrement doué pour créer des reçus d'apparence réaliste. Une prouesse technologique qui pourrait bien ouvrir la porte à de nouvelles formes de fraude.

ChatGPT, l'intelligence artificielle d'OpenAI, ne cesse de repousser les limites de la création d'images. Avec l'arrivée de son modèle GPT-4o, le chatbot est désormais capable de générer des visuels complexes, y compris des reçus de restaurant ou de magasin d'une étonnante finesse.

Cette nouvelle fonctionnalité, bien qu'impressionnante, soulève des questions sur son éventuelle utilisation frauduleuse. En effet, il devient désormais possible de créer des documents officiels d'apparence crédible en quelques secondes.

Une prouesse technique, mais un risque potentiel

Les premiers exemples de faux reçus générés par ChatGPT sont déjà apparus sur les réseaux sociaux. Parmi eux, un reçu pour un restaurant de viandes de San Francisco, partagé par l'investisseur Deedy Das. Bien que l'image semble convaincante à première vue, un examen plus attentif révèle des incohérences typiques des IA actuelles, comme des erreurs de calcul ou de ponctuation.

Cependant, ces imperfections pourraient facilement être corrigées avec un peu de retouche photo ou des prompts plus précis. Pour des fraudeurs, cela représente une opportunité inquiétante : obtenir des remboursements pour des dépenses fictives en produisant des « preuves » crédibles.

OpenAI tente de rassurer en précisant que toutes les images générées par ChatGPT incluent des métadonnées indiquant leur origine artificielle. L'entreprise affirme également prendre des mesures contre les utilisations contraires à ses politiques, qui interdisent explicitement la fraude.

Pourtant, il semble difficile d'empêcher complètement ces dérives. Comme le souligne TechCrunch, la technologie est déjà suffisamment avancée pour que les fausses factures passent inaperçues lors d'un contrôle rapide. Avec un peu de temps et de travail, un fraudeur pourrait facilement créer des documents suffisamment convaincants pour tromper les employés chargés de valider les remboursements.

Cette innovation pose donc un défi majeur en matière de vérification des documents. À l'ère de l'IA générative, les images ne sont plus des preuves fiables. Il devient alors urgent de développer de nouveaux outils pour détecter les falsifications et protéger les entreprises contre ce type de fraude sophistiquée, au risque de voir grimper le nombre de fausses notes de frais.