"Imagineu un món on qualsevol dona pugui acabar en una pel·lícula pornogràfica sense el seu consentiment. Doncs ja hi som, en aquest món."

Així comença aquest sorprenent documental, que obre un gran interrogant sobre el mal ús de la intel·ligència artificial.

La senadora Lauren Book va ser víctima d'aquesta nova forma d'abús sexual (BBC)(Porno deepfake: ets tu la següent? BBC)

La tecnologia deepfake, que genera imatges sintètiques presumptament reals d'una persona, és coneguda sobretot pels hipertrucatges de polítics i famosos. Però en realitat, més del 90% dels deepfakes són clips pornogràfics no consentits. Els que s'hi dediquen creen seqüències sexuals per encàrrec. Pot ser d'una dona famosa o d'una coneguda, una veïna o una ex, i les motivacions també poden ser molt diverses: per fer xantatge a les víctimes, com va passar en el cas de la senadora Lauren Book, per venjança, o per satisfer fantasies sexuals.

El consentiment ni s'anomena.

"Realment no crec que calgui tenir el consentiment; és una fantasia, no és real."

Ho argumenta d'aquesta manera el propietari i desenvolupador de MrDeepFakes, la pàgina més gran que allotja porno hipertrucat, i que ha acceptat per primera vegada ser entrevistat, tot i que sense revelar la seva identitat real.

El documental entrevista Gorkem, creador de vídeos porno deepfake, sota una falsa aparença (BBC)(Porno deepfake:ets tu la següent? BBC)

Per descomptat que no opinen el mateix les protagonistes d'aquests vídeos. El documental ofereix el testimoni de dones que n'han estat víctimes i se centra en l'impacte emocional d'aquesta nova forma d'abús sexual digital. També entrevista un creador d'aquests vídeos, Gorkem,que va començar per pur divertiment i ara ho fa per encàrrec,. Dilema moral, cap ni un.

Vaig començar fent hipertrucatges de companyes de feina. Les veia per l'oficina però no hi havia parlat. Una estava casada i l'altra tenia una relació, però m'atreien. Anar a la feina després d'haver fet un deepfake amb elles era una sensació estranya. Des d'un punt de vista moral, no crec que hi hagi res que em pugui aturar. Si puc guanyar diners amb una comanda, ho faré, no cal dir-ho.

Actualment, hi ha més de 20.000 vídeos d'aquest tipus només a MrDeepFakes. La tecnologia millora constantment i cada cop costa més de distingir un vídeo autèntic d'un de fals. A més, diverses aplicacions possibiliten fer-ho de manera molt senzilla i ràpida, a l'abast de tothom.

Fitxa tècnica:

Un documental de Jess Davis

Producció: BBC Current Affairs

Porno deepfake: ets tu la següent?

La tecnologia deepfake permet crear vídeos pornogràfics a partir de fotos i vídeos inofensius de persones reals. El documental explora les conseqüències d'aquest mercat emergent, a l'abast de tothom, convertit en un gran negoci