Progresele AI ar putea duce la mai multe videoclipuri cu abuz sexual asupra copiilor, avertizează o organizație

Majoritatea cazurilor observate de Internet Watch Foundation implică manipularea materialului existent de abuz sexual asupra copiilor (CSAM) sau pornografie pentru adulți, cu chipul unui copil afișat pe filmare, scrie The Guardian.

Câteva exemple implică videoclipuri realizate în întregime prin inteligență artificială, care durează aproximativ 20 de secunde, a spus IWF.

Organizația, care monitorizează CSAM în întreaga lume, a spus că este îngrijorată că ar putea apărea mai multe videoclipuri CSAM realizate de AI, pe măsură ce instrumentele din spatele lor devin mai răspândite și mai ușor de utilizat.

Dan Sexton, director de tehnologie la IWF, a declarat că dacă utilizarea instrumentelor video AI ar urma aceeași tendință ca și imaginile statice realizate de AI, care au crescut în volum pe măsură ce tehnologia s-a îmbunătățit și a devenit mai disponibilă, ar putea apărea mai multe videoclipuri CSAM.

„Aș spune că dacă urmează aceleași tendințe, atunci vom vedea mai multe videoclipuri”, a spus el, adăugând că videoclipurile viitoare ar putea fi, de asemenea, de „calitate și realism mai înalte”.

Analiștii IWF au spus că majoritatea videoclipurilor văzute de organizație pe un forum web întunecat folosit de pedofili au fost deepfake parțial, în care modelele AI disponibile gratuit online sunt folosite pentru a impune chipul unui copil.

IWF a adăugat că imaginile CSAM realizate de AI au devenit mai foto-realiste în acest an, comparativ cu 2023, când a început să vadă un astfel de conținut.