Ces sites sont capables de vous dénuder entièrement sans votre consentement
Les progrès technologiques autour de l’intelligence artificielle ont parfois aussi de quoi inquiéter. Ainsi, des sites web vous proposent de déshabiller n’importe quelle personne en quelques clics.
En ce moment, les pays commencent très doucement à légiférer contre la pornographie mettant en scène de vraies personnes, contre leur consentement, au moyen de deepfakes et de l’intelligence artificielle. Pourtant, malgré tout cela, une nouvelle vague de sites web fait son apparition, ce qui n’a rien de rassurant. On appelle cette vague la « Nudify », et comme son nom l’indique, le but est bel et bien de « dénuder » une personne (presque toujours une femme) au moyen d’un deepfake, le tout sans le moindre consentement, bien évidemment.
Et tout cela n’a rien de bien rassurant quand on sait que ces « services » sont particulièrement populaires : selon la société d’analyse des tendances sur les réseaux sociaux Graphika, ce ne sont pas moins de 24 millions de personnes (visiteurs uniques) qui ont visité des services de NCII Synthétique (imagerie intime non-consensuelle synthétique). En 2023, les services « Nudify » auraient ainsi augmenté de pas moins de 2400% leur usage. Il faut toutefois relativiser ce chiffre de croissance. En effet, ceux-ci étaient pour ainsi dire quasiment inexistants jusqu’à ces dernières années.
Une bonne partie de ce trafic provient des réseaux sociaux. X et Reddit, bien entendu, mais aussi (et peut-être surtout) Telegram. Sur la plateforme, on trouve en effet des centaines de services de deepfakes, que ceux-ci soient de nature pornographique ou non. Une « offre » assez variée, avec parfois même un accompagnement assez complet dans le processus de création de deepfakes.
Tous ces services de « Nudify » ne sont toutefois pas gratuits. Avec de tels chiffres, il est assez facile de comprendre qu’un marché assez lucratif s’est installé. Les prix des deepfakes restent cependant assez bon-marché : 2 dollars par vidéo selon CNET France. Et on trouverait carrément des systèmes d’abonnement ! Le magazine américain TIME, parle ainsi d’un tarif de 9,99 dollars par mois.
Inutile d’expliquer que tout cela pose bien des soucis au niveau éthique. En plus de l’évidente question de la protection de mineurs, il y a d’abord et avant tout le problème du consentement. Mais comme la technologie des deepfakes est relativement récente, il n’est pas étonnant que les états, un peu lents à légiférer sur les nouvelles technologies, aient tardé à condamner ces pratiques.
Le Digital Services Act de l’Union européenne, voté en 2022, mais qui n’est entré en application qu’assez récemment, pose pourtant les bases d’une législation quant à la question de création de deepfake. Mais si l’Europe et ses états-membres sont en train d’adopter une attitude assez bien tranchée sur la question, d’autres pays, dont plus particulièrement le géant américain, n’ont aucune législation en la matière. Une différence de législation qui peut rendre particulièrement difficile la lutte contre l’apparition de ce genre de services sur Internet, ceux-ci pouvant en effet être créés depuis des pays à la législation relativement peu stricte. Et même quand une législation existe, la procédure pour les victimes est généralement complexe, et il n’est pas garanti que la personne lésée obtienne des résultats.
Et que dire des outils de génération d’images qui, même sans avoir été conçus dans ce but, peuvent être utilisés avec le même objectif en tête ? Si des services tels que DALL-E ou Midjourney disposent de « garde-fous » afin d’éviter la création d’images problématiques, d’autres IA, surtout celles qui sont disponibles en Open Source, n’ont pas ces mêmes limitations… Difficile donc de lutter contre un problème qui promet de s’empirer à l’avenir…
Source: geeko
Comments are Closed