Sommaire
Les images IA sont des technologies fascinantes qui peuvent être utilisées à diverses fins. Mais le succès de cette technologie s’accompagne également de dangers potentiels et de défis qu’il convient de relever.
Protection de la vie privée
L’un des principaux problèmes des images IA est qu’elles peuvent être utilisées pour créer de fausses images de personnes sans leur consentement.
Cela peut avoir de graves conséquences sur leur vie privée, en particulier si les images sont utilisées pour diffuser de la désinformation ou commettre des fraudes. Il est donc important d’établir des règles et des lignes directrices claires sur la manière dont les images générées par l’IA peuvent être utilisées.
L’utilisation de l’IA pour créer des « deepfakes », c’est-à-dire des vidéos ou des images manipulées à l’aide de la technologie de l’IA, présente également des risques.
Les deepfakes peuvent être utilisés pour créer du matériel pornographique ou pour faire croire à des personnes que quelque chose qui ne s’est pas produit s’est réellement produit.
Une autre critique à l’égard de StyleGAN et d’outils similaires (Human Image Synthesis) est qu’ils peuvent être utilisés pour créer des images qui ne représentent pas nécessairement des personnes réelles ou la réalité.
Cela peut conduire les gens à développer une perception déformée de la réalité ou des personnes, et ces outils peuvent également être utilisés pour créer de fausses images utilisées à des fins de désinformation ou d’abus.
Un autre aspect inquiétant est l’utilisation de ces outils pour créer du matériel pornographique mettant en scène de fausses personnes, ce qui peut conduire à l’exploitation sexuelle de personnes sans leur consentement.
Dangers potentiels des images IA : Problèmes de droits d’auteur
Les images générés par l’IA peuvent également poser des problèmes de droits d’auteur. Si un algorithme d’IA crée une image qui ressemble à l’œuvre d’une autre personne, qui détient les droits d’auteur sur cette nouvelle image ? Il s’agit d’une question complexe qui pourrait nécessiter de nouvelles règles et lignes directrices pour éviter les litiges.
L’IA recueille des données pour créer des images et il est courant d’utiliser des images existantes comme base.
La technique utilisée pour collecter des données et créer des images est appelée « IA générative », ce qui signifie que le système d’IA apprend lui-même à créer de nouvelles images sur la base des données auxquelles il a accès.
L’IA collecte des images déjà existantes
Il existe différentes manières de collecter des données, mais en général, un grand nombre d’images existantes sont utilisées pour entraîner le système d’IA, des images qui peuvent être protégées par des droits d’auteur.
Ces images peuvent être collectées à partir de diverses sources telles que les médias sociaux, les banques d’images, l’internet ou d’autres bases de données. Plus l’ensemble de données utilisé est important et diversifié, mieux le système d’IA peut apprendre et plus les images générées sont réalistes et variées.
Faux positifs
Ces images peuvent également être utilisées pour créer des faussetés et de la désinformation. Cela peut avoir une incidence sur tous les domaines, des élections politiques aux marchés financiers. Il est donc important de disposer d’outils permettant d’identifier et de combattre les fausses images générées par l’IA.
Un autre problème posé par les images générées par l’IA est qu’elles peuvent créer des personnes qui n’ont jamais existé.
Cette possibilité peut être utilisée à des fins diverses, des campagnes publicitaires au cinéma, mais elle peut également soulever des questions éthiques. Qui détient les droits d’une personne générée par l’IA ? Que se passe-t-il si cette personne est utilisée pour diffuser de la désinformation ou pour commettre des infractions pénales ?
Dangers des images IA : Criminalité
Enfin, les images générés par l’IA peuvent être utilisées pour commettre des infractions pénales telles que la fraude, l’extorsion et l’usurpation d’identité.
Il est important que des outils soient mis en place pour lutter contre ces crimes et que les gouvernements et les autorités assument la responsabilité de protéger le public contre ces menaces.
Nouvelles lois sur les droits d’auteur
De nouvelles lois ont été discutées et proposées dans l’UE concernant les droits d’auteur et les images générées par l’IA.
L’une de ces lois est la proposition de loi sur les services numériques (DSA) de l’UE, présentée en décembre 2020, qui vise à moderniser la réglementation des services en ligne, y compris les médias sociaux, et comprend des dispositions relatives à la gestion du matériel protégé par le droit d’auteur.
La DSA comprend également des règles sur l’utilisation de l’IA en relation avec le matériel protégé par le droit d’auteur, y compris les images générées par l’IA.
Une autre proposition est celle de l’UE pour une nouvelle loi sur le droit d’auteur afin de s’adapter à l’ère numérique. Selon cette proposition, la protection du droit d’auteur s’appliquerait aux œuvres générées IA si elles présentent un degré d’originalité suffisamment élevé et si elles ont été créées avec une intervention humaine.
Cela signifie que la protection du droit d’auteur s’appliquerait également aux images produites par l’intelligence artificielle qui remplissent ces conditions.
