Fausse arrestation, vraies interrogations

Scène

Le visage grave éclairé par une lumière parfaite malgré l’obscurité, dans une pose dramatique qui rappelle Jésus sur la croix, Donald Trump est escorté par des policiers. L’image est frappante… mais elle est fausse. « Les montages truqués, ce n’est pas si nouveau », observe Martin Gibert, chercheur en éthique de l’intelligence artificielle à l’Université de Montréal. À l’ère préinformatique, il fallait découper des images et les assembler pour obtenir un résultat… généralement assez grossier. Les logiciels de retouche d’images comme Photoshop ont permis de peaufiner ces œuvres. Et désormais, il suffit de taper une description de l’image qu’on souhaite obtenir pour qu’un générateur, s’inspirant de trillions d’images puisées dans l’internet, crée un montage assez réaliste. Ces nouveaux outils d’intelligence artificielle – comme Midjourney, Stable Diffusion, DALL-E… – fascinent actuellement autant les créateurs qu’ils inquiètent les éthiciens.

Mains

Si perfectionnés soient-ils, ces générateurs artificiellement intelligents ne sont pas encore totalement au point. En étudiant de plus près leurs œuvres, on détecte leur point faible : les mains. Elles sont souvent déformées et comptent un nombre anormal de doigts, comme on peut le suspecter en regardant la photo de plus près (notamment les mains du policier en arrière-plan). « Ça semble difficile pour ces outils de créer des mains correctes », dit Martin Gibert. Mais ce n’est qu’une question de temps avant que ces logiciels corrigent ces défauts. « Dans un sens, c’est bien que cette image existe et qu’elle soit mal faite parce qu’elle nous permet de voir comment fonctionne l’algorithme d’images. »

Tête

L’œil avisé de Martin Benoît, enseignant en photographie au cégep du Vieux Montréal, se porte sur un autre élément de l’image. « La liaison de la tête avec le cou de Trump est douteuse, ce qui m’a fait croire initialement à un très mauvais photomontage où quelqu’un aurait pris une vraie photo d’une arrestation et aurait simplement remplacé la tête, créé une cravate et ajusté couleurs et luminosité », dit-il. La coiffure impeccable de l’ancien président est également suspecte. « Les images créées par l’intelligence artificielle ont toutes plus ou moins les mêmes difficultés à bien générer les cheveux qui sont une structure complexe à reproduire avec réalisme », ajoute-t-il.

Policier

Il y a les outils qui créent les images, et d’autres outils qui les dissèquent. En utilisant FotoForensics, qui permet de détecter les manipulations sur une image, Martin Benoît a pu remarquer des taux de compression différents sur certains éléments de l’image, notamment sur la cravate, signe que différents fichiers ont été utilisés. « Ces logiciels de détection ne sont pas infaillibles », note-t-il, mais ils permettent de mettre la puce à l’oreille. D’ailleurs, autre élément suspicieux : la faible résolution de l’image diffusée, qui fait notamment en sorte que les insignes des policiers sont illisibles. « C’est très commode de fournir une image de mauvaise qualité, car ça masque les défauts des “erreurs” de l’IA », dit Martin Benoît.

Source de l’image

Tous les observateurs s’entendent pour dire qu’à mesure que les outils se perfectionneront, il deviendra de plus en plus difficile de distinguer le vrai du faux. « Ça rappelle l’importance du travail des journalistes », dit Martin Gibert, de l’UdeM. La source de l’image est capitale. S’agit-il d’une photo diffusée par un média crédible ? Ou une autre autorité reconnue ? Ce photomontage, par exemple, a été diffusé sur le compte Twitter @TheInfiniteDude, un membre d’un groupe qui explore le potentiel de l’intelligence artificielle. Pour Martin Gibert, il faut se demander à qui profite la circulation d’une image truquée. « Parce que ça sert notamment les plateformes qui tirent des revenus de publicité avec des clics… »