Les progrès de l'intelligence artificielle permettent aujourd'hui de créer en quelques minutes des images ou des vidéos plus vrais que nature. Ces contenus, appelés deepfakes, étaient encore réservés à des spécialistes il y a quelques années. Désormais, de nombreux outils gratuits ou peu coûteux permettent à n'importe qui de modifier une photo ou de faire dire à une personne des paroles qu'elle n'a jamais prononcées.
Si ces technologies ouvrent des perspectives créatives intéressantes, elles soulèvent également de nouvelles questions en matière de protection des jeunes. Comment fonctionnent les deepfakes ? Quels sont les risques réels ? Et surtout, comment développer les bons réflexes ?
Qu'est-ce qu'un deepfake ?
Le terme deepfake provient de la contraction de deep learning (apprentissage profond) et de fake (faux). Il désigne un contenu créé ou fortement modifié grâce à l'intelligence artificielle afin de donner l'illusion qu'une personne a réellement tenu des propos ou réalisé des actions qui n'ont jamais existé.
Les premiers deepfakes étaient relativement faciles à repérer. Aujourd'hui, la qualité des images et des vidéos progresse à une vitesse impressionnante. Certaines créations sont devenues très difficiles à distinguer d'un contenu authentique, même pour des personnes habituées aux outils numériques.
Une technologie qui devient accessible à tous
L'une des principales évolutions de ces dernières années est la démocratisation des outils d'intelligence artificielle. Là où il fallait auparavant des compétences techniques importantes, quelques clics suffisent désormais pour générer une image réaliste ou créer une courte vidéo.
Cette facilité d'utilisation explique pourquoi les deepfakes concernent désormais bien plus que les personnalités publiques. Chacun peut potentiellement être concerné, à partir d'une simple photo publiée sur Internet ou transmise via une messagerie.
Quels risques pour les jeunes ?
Pour les enfants et les adolescent·es, les principaux risques ne concernent pas uniquement la désinformation. Les deepfakes peuvent également être utilisés pour humilier, intimider ou manipuler.
Des images intimes peuvent être fabriquées sans qu'aucune photo de ce type n'ait jamais existé. Des vidéos peuvent être créées pour ridiculiser un camarade ou diffuser de fausses rumeurs. Dans certains cas, ces contenus servent aussi à des tentatives d'extorsion ou à alimenter des situations de cyberharcèlement.
Les autorités européennes et plusieurs organisations de protection de l'enfance s'inquiètent d'ailleurs de cette évolution, qui facilite la création de contenus portant atteinte à la réputation ou à la vie privée de mineurs.
Au-delà des images : une nouvelle manière de manipuler
Les deepfakes ne concernent pas uniquement les photographies. Il est aujourd'hui possible d'imiter la voix d'une personne avec un réalisme étonnant, voire de produire des vidéos dans lesquelles elle semble tenir un discours entièrement inventé.
Cette évolution renforce un défi déjà bien connu : apprendre à exercer son esprit critique face aux contenus qui circulent en ligne.
Voir une vidéo ne suffit plus toujours à prouver qu'un événement s'est réellement produit. Cette nouvelle réalité rappelle l'importance de vérifier les sources, de croiser les informations et de prendre du recul avant de partager un contenu.
Peut-on encore protéger son image ?
Il n'existe malheureusement aucune solution permettant d'empêcher totalement la création de deepfakes. En revanche, certaines habitudes permettent de réduire les risques.
Limiter la diffusion de photos très personnelles, utiliser des paramètres de confidentialité adaptés sur les réseaux sociaux et réfléchir avant de publier des images de soi ou de ses enfants restent des mesures pertinentes. Elles réduisent le nombre de contenus facilement réutilisables.
Il est également important de rappeler aux jeunes qu'une image manipulée ne définit jamais leur identité. Si une situation de ce type survient, il est essentiel d'en parler rapidement à un adulte de confiance et de signaler les contenus aux plateformes concernées.
Développer une culture numérique
Face aux progrès rapides de l'intelligence artificielle, la prévention ne consiste pas à faire peur ni à interdire les technologies. Elle consiste avant tout à développer une véritable culture numérique.
Comprendre comment fonctionnent les outils d'IA, apprendre à reconnaître leurs limites, questionner les images que l'on voit et réfléchir avant de partager un contenu sont des compétences qui deviennent essentielles.
Les deepfakes illustrent parfaitement cette évolution. La meilleure protection ne réside pas uniquement dans les outils techniques, mais aussi dans notre capacité à exercer notre esprit critique.
REPER accompagne les familles et les professionnel·les
À REPER, nous sommes convaincus que l'intelligence artificielle représente à la fois des opportunités et de nouveaux défis. C'est pourquoi nous développons des ressources permettant d'accompagner les jeunes, les familles et les professionnel·les dans la compréhension de ces évolutions.
Sur DigiHarmo, plusieurs contenus abordent déjà l'intelligence artificielle, les fake news, la protection des données personnelles, le droit à l'image ou encore les comportements en ligne. Ces thématiques sont également intégrées à plusieurs de nos formations et outils pédagogiques, afin d'aider chacun à développer des compétences numériques adaptées aux réalités d'aujourd'hui.
Les deepfakes rappellent que nous entrons dans une nouvelle étape du numérique. Les images et les vidéos que nous voyons ne reflètent plus nécessairement la réalité. Sans tomber dans la méfiance permanente, cette évolution nous invite à développer de nouveaux réflexes (vérifier les informations, protéger davantage notre vie privée, apprendre aux jeunes à exercer leur esprit critique, etc.).
Dans un monde où l'intelligence artificielle progresse rapidement, ces compétences seront probablement aussi importantes que savoir utiliser un smartphone ou naviguer sur Internet.
