SOMMAIRE

DECRYPTAGE : Le premier deepfake signé numériquement veut relancer le débat sur l’authenticité du contenu

BANC D’ESSAI : Midjourney /describe, quand l’image devient texte … et redevient une image, mais fausse.

ANALYSE : BloombergGPT à la recherche de la fiabilité

L’ACTUALITÉ DE LA SEMAINE : Meta, AWS, Bitcoin…

DECRYPTAGE

Le vrai faux plutôt que le faux vrai

"Allégorie de la transparence" (Bing Image Creator)

Chacun sait que ChatGPT ne sait rien. GPT-4, comme tous les grands modèles de langage naturel (LLM) ne fait que proposer un texte ou une image dont il infère, statistiquement, qu’il correspond à ce qu’on lui demande. Avec ces créatures d’un monde “post-truth”, seule importe la vraisemblance du discours tenu, non sa réalité.

Cela n’est pas sans poser quelques difficultés, maintenant que les LLM ne sont plus confinés au monde de la recherche. En Australie, le maire de Hepburn Shire (Victoria) Brian Hood menace de poursuivre OpenAI en diffamation pour des allégations mensongères selon lesquelles il aurait purgé une peine de prison pour corruption. Aux États-Unis, un professeur de droit constitutionnel à l’université George Washington à Wahsington a vu son nom apparaître dans les listes d’enseignants pédophiles dressées par ChatGPT. Le modèle a prétendu que Jonathan Turley avait fait des commentaires sexuellement suggestifs et tenté de caresser un étudiant lors d'un voyage scolaire en Alaska, citant comme source un article du Washington Post. Léger inconvénient : l’article n'existe pas et Jonathan Turley affirme qu'il n'a jamais été accusé de harcèlement et que le voyage n’a jamais eu lieu.

Au fur et à mesure que l'usage de l’IA générative se déploie, il est très probable que ces cas vont se multiplier, augmentant la méfiance des gens envers toutes les informations qu’ils reçoivent. Si même ChatGPT vous ment, comment croire ceux qui insistent que la terre serait ronde et que la CIA n’aurait pas commandité les attentats du 11 septembre 2001 ?

Le studio néerlandais Revel.ai vient de rendre public un deepfake quasiment parfait de la consultante Nina Schick, qui se veut l’égérie de l’IA générative. Seule la signature cryptographique établie par Truepic, une start-up financée par Microsoft, permet d’établir qu’il s’agit d’un “vrai-faux”, et non d’une fausse représentation de la réalité.

Nina Schick en appelle à une “transparence radicale” où chaque contenu numérique serait pourvu d’une signature indélébile. Elle souligne que le but n'est pas d’imposer une vérité aux gens , mais de leur donner le contexte et le choix pour établir la confiance. Elle compare le besoin de connaître l'origine de l'information à celui de connaître la provenance de la nourriture que l'on consomme.

Truepic appartient à la Coalition for Content Provenance and Authenticity (C2PA), menée par Adobe avec des géants du poids de Microsoft, Intel et Sony, sans oublier la BBC. Son ambition, en réunissant les deux organismes actifs dans le secteur, était de proposer un alternative aux NFT pour la certification du contenu. Après avoir présenté ses spécifications en janvier 2022, toutefois, la C2PA est restée bien silencieuse. Peut-être le tintamarre de l’IA générative la réveillera-t-elle.

J.R et M. de R.

Pour en savoir plus :

• Pranshu Verma, Will Oremus, ChatGPT invented a sexual harassment scandal and named a real law prof as the accused, Washington Post

• Le vrai-faux deepfake de Nina Schick

• Coalition for Content Provenance and Authenticity

BANC D’ESSAI

Démêler le vrai du faux sur Midjourney : un palmarès

Le 4 avril, Midjourney annonce le lancement de /describe, la nouvelle commande de son outil, avec l’ambition de « transformer (notre) processus linguistique-visuel en termes de puissance créative et de découverte ». La fonction /describe propose l’inverse de ce que Midjourney réalise normalement. Fini la phrase se transformant en image, c’est désormais l’image qui devient mots. Qui est « décrite ».

En réalité, c’est surtout l’enchaînement des deux qui donne tout son intérêt à la commande. En effet, celle-ci ne se contente pas de décrire l’image proposée par l’utilisateur. Elle génère un « prompt » (une invite en français) qui, rentré dans Midjourney, aurait donné une image similaire. Tout comme la fonction « /imagine » de Midjourney propose quatre choix d’image, la fonction « /describe » propose quatre prompts différents. A chacun de choisir celui qui convient !

Les opportunités sont alors multiples : à partir d’une image, réelle ou non, il devient possible d’en obtenir des variantes, en changeant un ou plusieurs paramètres. Les néophytes découvrent également à quoi ressemble un « vrai » prompt permettant d’obtenir un résultat satisfaisant dans Midjourney.

Alors que les images photo-réalistes créées via Midjourney inondent les réseaux sociaux et font craindre une recrudescence des fake news, et alors que de nombreux photo-journalistes s’interrogent sur l’avenir de leur métier, Qant voulu soumettre à /describe quelques-unes des photos de journalistes qui ont fait l’histoire. Voici le palmarès des faux-vrais de Midjourney.

1 : Une jeune fille au Pakistan

Source : Midjourney

Pour commencer, voici le résultat le plus impressionnant de cette série d’images. Pour l’obtenir, nous avons soumis à la fonction /describe le célèbre cliché de Steve McCurry pris lors d’un voyage en Afghanistan en 1984. Midjourney en a alors déduit le prompt suivant : “a girl in red with blue eyes, in the style of light brown and emerald, national geographic photo, associated press photo, cultural motifs, dark pink and green, iconic, ferrania p30 —ar85:128”. Le même prompt génère l’image ci-dessus. Pour rappel, voici la photo originale de Steve McCurry.

2 : Les enfants dans la guerre du Vietnam

Source : Midjourney

Après le Pakistan, le Vietnam. Midjourney a cette fois décrit la photographie prise par le vietnamien Nick Ut en pleine guerre. Le prompt obtenu est le suivant : “hoagy and boys running on a street during the vietnam war, in the style of otherworldly grotesquery, chinapunnk, subversive appropriation, mist, photo, hatching, lit kid, - - ar 86:67”. La jeune fille du cliché original a disparue, mais l’atmosphère reste similaire.

3 : La grimace d’Einstein

Source : Midjourney

...