Murettekitavas arengus on süvavõlts (deep fake) porno muutunud üha levinumaks ning New Jersey keskkool jõudis hiljuti esilehtedele

Õiguskaitseorganid uurivad praegu tehisintellektiga loodud piltide levitamist Westfieldi keskkoolis, kus meesõpilased levitasid tehisintelekti poolt loodud pilte, millel olid nende naissoost klassikaaslaste näod. Õiguslikud tagajärjed asjaosalistele on endiselt ebaselged, peamiselt föderaal- ja osariigi seaduste puudumise tõttu, mis käsitlevad süvavõltspornograafia küsimust. New Jersey osariigi senaator kutsus aga maakonna prokuröre üles olukorrale tähelepanu pöörama.

Süvavõltsitud pornograafia levik on kasvav probleem, kuna enam kui 90% veebipõhistest süvavõltsingutest on pornograafilised, vastavalt pildituvastusfirmale Sensity AI. Septembri seisuga teatati, et 2023. aastal üles laetud deep fake pornovideote arv ületas kogu eelmise aasta koguarvu juba 54%, allikas: ajakiri Wired.

Hiljutised juhtumid on veelgi rõhutanud probleemi murettekitavat olemust. Ühel juhul kasutati Deepfake tehnoloogiat Instagrami pilti kus naine praktiliselt lahti riietati, teisel juhul aga leiti, et Wisconsini mees kasutas alasti sügavvõltsinguid alaealiste ähvardamiseks. Lisaks langes Hispaanias enam kui 30 tüdrukut ohvriks, kes lõid neist sügavvõltsimistehnikaid kasutades võltsitud alastipilte.

Süvavõltspornograafia levimus on osaliselt tingitud juurdepääsetavusest nägude vahetamise ja lahtiriietumise tööriistadele, mis kasutavad avalikult kättesaadavat tarkvara. Kuigi tuntud pildigeneraatorid, nagu OpenAI Dall-E ja Adobe Firefly, on rakendanud kaitsemeetmeid, et takistada selgesõnalise sisu loomist, jätkuvad arvukad võrgutööriistad, millel sellised piirangud puuduvad, mistõttu on nende kasutamise piiramine märkimisväärne väljakutse.