Extension du domaine de la lutte – et de l’IA

« Le progrès est devant nous, à condition de dépasser sa propagande » Paul Virilio

Chaque jour, les journalistes de Qant illustrent les tendances de fond qui animent la tech. Ils s’appuient sur Kessel Média et utilisent l’IA générative depuis mars 2022.

« Une information plus un démenti, cela fait deux informations pour le prix d'une. Et c'est toujours la fausse qui reste dans les mémoires. » Yvan Audouard, Les Pensées.

Il y a des précédents. Aux États-Unis, le chanteur Tom Waits et l’actrice Bette Midler, notamment, ont déjà gagné des procès contre des annonceurs indélicats qui avaient utilisé des voix proches des leurs dans des spots publicitaires. Or, OpenAI a tout fait pour que le lancement de GPT-4o il y a deux semaines évoque le film Her, y compris créer une voix de synthèse évoquant la protagoniste, Scarlett Johansson. Confrontée au refus de l’actrice de prêter sa voix, OpenAI en a créé une semblable.

Scarlett Johansson et Sam Altman attendent le verdict dans le procès qui les oppose (Qant avec Midjourney)

L’attaque en justice et sur les médias de Scarlett Johansson a donc toutes les chances de se résoudre en sa faveur. Mais pas seulement la sienne. Le torrent médiatique que cela a entraîné ne fait que répéter le même message auprès du public. Chat-GPT sait désormais créer une relation émotionnelle avec ses utilisateurs, tout Scarlett Johansson avec Joaquin Phoenix dans le film. Bien mieux que Google, bien mieux que Hollywood. Le reste n’est qu’une broutille, l’affaire de quelques millions de dollars.

Move fast and break things

De même, le New York Times a documenté assez solidement que ChatGPT restitue gratuitement des articles réservés aux abonnés sur son site. Il n’empêche : le temps que tranche la justice, OpenAI aura fini de passer des accords avec la presse mondiale. Parmi bien d’autres, Le Monde, le Financial Times, le Wall Street Journal, El Paìs et l’agence Associated Press ont déjà cédé à ses arguments, sonnants et trébuchants. Isolé, le NYT prendra l’argent qu’il gagnera en justice ou qu’il aura négocié avec OpenAI. Puis il cédera l’utilisation de ses articles, volens nolens.

On est ici pleinement dans la culture de la Silicon Valley : quand on lui dit non, un véritable entrepreneur trouve une solution pour faire quand même ce qu’on lui refuse, quitte à casser des choses en allant trop vite, selon la devise initiale de Facebook : « Move fast and break things ». Historiquement, il s’est d’abord agi de casser la culture et les médias. Microsoft a sonné le glas des encyclopédistes dès la fin des années 1990, en permettant aux gens d’avoir Encarta et un ordinateur pour le prix d’Universalis ou de Britannica. Puis sont venues, comme on sait, la musique, la presse, la télévision… sans oublier les libraires et les taxis.

Démocratisation sans liberté

Aujourd’hui, les modèles de production vidéo comme Sora et Veo portent en germe, pour la l’audiovisuel, la même facilité de production que les smartphones ont donnée à la photo ou que les LLM sont en train d’apporter à l’écriture. Cette « démocratisation » peut avoir deux effets auxquels il convient de prendre garde. 

Le problème des droits d’auteur, tout d’abord. Il semble déjà avoir reculé le lancement de Sora, même si les menaces – à peine voilées – contre OpenAI venaient de Google, non des studios. Très courtisés pour les droits sur leurs catalogues, ceux-ci trouveront sans doute un accord qui permettra d’ouvrir le marché et lancer les modèles. Mais surtout, l’affaire Scarlett Johansson porte sur un attribut de la personnalité, la voix, et non une œuvre de l’esprit. La possibilité donnée à chacun de créer des vidéos photoréalistes ouvrira tout un nouveau champ à l’usurpation d’identité et à la manipulation de l’information. Le problème dépasse largement la question du droit d’auteur et des droits voisins.

Qand le stylo se refuse d'écrire (Qant avec Midjourney)

La production des modèles d’IA générative est déjà fortement contrainte, notamment pour empêcher les violations du droit d’auteur ou la génération de contenu illicite. Il reste possible de les débrider, du moins les modèles open source, mais cela peut attirer l’attention des autorités. Cette semaine, une première arrestation a eu lieu aux États-Unis pour la production et la diffusion par IA d’images pédophiles.

Ces excellentes raisons que sont la lutte contre la pédophilie et la manipulation de l’information justifient déjà que les réseaux sociaux pratiquent une forme de censure privée. Meta, Twitter, LinkedIn et TikTok décident, à peu près unilatéralement et sans recours, du contenu qu’ils acceptent ou non sur leurs plateformes.

L’IA permet d’aller plus loin : le stylo peut se refuser à écrire, le crayon à dessiner, la caméra à filmer. Il ne s’agit plus de brûler des livres ou d’en empêcher la publication. Il s’agit de tenir la plume, de bâillonner Sade et Céline pour empêcher Hitler de nuire.

Il faudra que le droit s’en mêle.

Jean Rognetta

Merci d’être abonné à Qant ! Vos analyses et commentaires sont toujours plus que les bienvenus.