,,Erau fotografii cu mine și unul dintre cei mai buni prieteni ai mei, luate de pe Instagram. Pe ele fuseseră editate corpuri goale”, spune eleva pentru AFP.
,,Îmi amintesc că eram foarte, foarte speriată pentru că aceste poze nud false erau trimise celor din anturajul meu. Iar eu nu am făcut niciodată așa ceva.”
La fel ca mai multe prietene de la liceul ei de la periferia orașului Dallas, Texas, tânăra a fost victima unor montaje hiperrealiste (deepfakes) cu caracter sexual, realizate fără consimțământul lor de către un elev și apoi partajate pe rețeaua Snapchat.
Odată cu răspândirea inteligenței artificiale (IA), a devenit mai ușor să creezi aceste montaje foto sau video și să le faci hiperrealiste, deschizând astfel calea pentru ca ele să fie folosite în scopul hărțuirii sau umilirii.
,,Fetele pur și simplu plângeau și plângeau și plângeau, le era rușine”, își amintește Anna Berry McAdams, mama lui Ellis.
,,Ea îmi spunea: <Mami, asta seamănă cu mine>, iar eu îi răspundeam: <Nu, dragă, eram cu tine când a fost făcută fotografia și știu ce zic>”, povestește femeia de 50 de ani, care s-a declarat ,,îngrozită” de realismul fotografiilor.
Câțiva dolari
La sfârșitul lunii octombrie, alte ,,deepfakes” cu caracter sexual au fost descoperite la un liceu din New Jersey, în nord-estul Statelor Unite. O anchetă a fost lansată pentru a identifica toate victimele și autorii.
,,Începem să vedem din ce în ce mai multe cazuri care apar (…), dar atunci când este vorba de abuzuri sexuale, de răzbunare prin pornografie (dezvăluirea de imagini intime) sau de deepfakes pornografice, multe persoane nu reclamă și suferă în tăcere pentru că le este teamă să facă publică problema”, explică Renée Cummings, criminolog și cercetător în domeniul inteligenței artificiale.
Deși este imposibil să se evalueze amploarea fenomenului, ,,oricine are un smartphone și câțiva dolari poate crea acum un <deepfake>”, explică acest profesor de la Universitatea din Virginia.
Și asta datorită progreselor recente și democratizării inteligenței artificiale generative, care este capabilă să producă texte, linii de cod, imagini și sunete prin simpla interogare în limbajul cotidian.
De fapt, editarea hiperrealistă, care înainte privea imaginea celebrităților ,,cu foarte multe fotografii și videoclipuri cu ele pe internet”, acum îi privește pe toți, explică Hany Farid, profesor la Universitatea California din Berkeley.
,,Dacă ai un profil LinkedIn cu o fotografie a capului tău, cineva poate crea o imagine sexuală a ta”, continuă acest specialist în detectarea imaginilor manipulate digital, precizând că aceste montaje ,,vizează în principal femeile și fetele tinere”.
”Traume foarte reale”
În fața acestei amenințări în creștere, sistemele școlare și judiciare par să fie depășite.
În Statele Unite, nu există nicio lege federală care să pedepsească fabricarea și transmiterea de imagini sexuale false, ci doar câteva state au o legislație specifică.
La sfârșitul lunii octombrie, Joe Biden a îndemnat legiuitorii să introducă măsuri de protecție, în special pentru a împiedica ,,IA generativă să producă conținuturi pedocriminale sau imagini intime fără consimțământ ale unor persoane reale”.
În timp ce responsabilitatea creatorilor acestor imagini – acum dificil de identificat – este esențială, este vorba și de responsabilitatea companiilor care se află în spatele site-urilor sau a programelor informatice utilizate, precum și a rețelelor sociale care transmit conținutul, insistă dl Farid.