Schimbarea radicală a politicilor YouTube, în era „deepfake”. Obligațiile creatorilor nu se aplică animațiilor pentru copii

Începând de marți, oricine încarcă videoclipuri pe platformă trebuie să dezvăluie, dacă este cazul, utilizarea mijloacelor sintetice, inclusiv inteligența artificială generativă, astfel încât spectatorii să știe că ceea ce văd nu este real.

YouTube a transmis că schimbarea se aplică mediilor modificate „realist", cum ar fi „a face să pară că o clădire reală a luat foc" sau a schimba „fața unui individ cu cea a altuia".

Noua politică arată că YouTube ia măsuri care ar putea contribui la limitarea răspândirii dezinformărilor generate de inteligența artificială, în contextul apropierii alegerilor prezidențiale din SUA. Surprinzător este însă că face excepție de la această regulă prin excluderea animațiilor generate de AI destinate copiilor, care, astfel, nu fac obiectul noilor reguli de divulgare a conținutului sintetic, arată publicația Wired.

Asta înseamnă că persoanele rău intenționate care folosesc conținut generat de inteligența artificială pot produce și difuza videoclipuri destinate copiilor fără să fie obligați să își dezvăluie metodele. Părinții îngrijorați de materialele video pentru copii vor fi nevoiți să identifice singuri desenele animate generate de inteligența artificială.

Noua politică a YouTube arată, de asemenea, că creatorii nu trebuie să semnaleze utilizarea inteligenței artificiale pentru modificări „minore" care sunt „în primul rând estetice", cum ar fi filtrele de înfrumusețare sau „curățarea” video și audio. De asemenea, este permisă utilizarea AI pentru „a genera sau îmbunătăți" un scenariu sau subtitrări, fără a fi necesară dezvăluirea tehnicilor AI.

Creatorii de conținut trebuie să marcheze etichetele despre contribuția AI la videoclipul în cauză în noua interfață „Creator Studio”, iar dacă nu vor face asta, Youtube va adăuga automat o astfel de etichetă, cu posibilitatea de penalizare a respectivilor creatori de conținut, potrivit noilor reguli ale companiei.

Compania mamă a YouTube, Google, a declarat recent că își modifică algoritmii de căutare pentru a retrograda recenta avalanșă de clickbait generat de AI, posibil datorită unor instrumente precum ChatGPT. Tehnologia de generare video este mai puțin matură, dar se îmbunătățește rapid, arată sursa citată.

YouTube este un gigant în materie de divertisment pentru copii, depășind alți concurenți. În trecut, platforma s-a luptat pentru a modera cantitatea mare de conținut destinat copiilor. A fost criticată pentru găzduirea de conținut care, în aparență, pare potrivit sau atrăgător pentru copii, dar care, la o vizionare mai atentă, conține teme nepotrivite.

Există semnalări recente despre creșterea numărului de canale YouTube destinate copiilor, care par să folosească instrumente de generare de videoclipuri cu inteligență artificială pentru a produce videoclipuri de proastă calitate, cu animații 3D generice și iterații ciudate ale unor versuri populare de grădiniță.

Scutirea pentru animații din noua politică a YouTube ar putea însemna că părinții nu pot elimina cu ușurință astfel de videoclipuri din rezultatele căutărilor sau nu pot împiedica algoritmul de recomandare al YouTube să ruleze automat desene animate generate de inteligența artificială, după ce au permis inițial din aplicație rularea de videoclipuri de pe canale cunoscute pentru copii.

Unele conținuturi problematice generate de inteligența artificială și destinate copiilor trebuie semnalate în conformitate cu noile reguli. În 2023, BBC a investigat un val de videoclipuri destinate copiilor mai mari care foloseau instrumente de inteligență artificială pentru a promova pseudoștiința și teoriile conspirației, inclusiv negaționismul privind schimbările climatice.

Această nouă politică ar lua măsuri împotriva acestui tip de videoclip.

„Le cerem creatorilor de conținut pentru copii să dezvăluie conținutul care este modificat în mod semnificativ sau generat sintetic atunci când pare realist", spune purtătorul de cuvânt al YouTube, Elena Hernandez. „Nu solicităm dezvăluirea conținutului care este în mod clar nerealist și care nu induce în eroare spectatorul să creadă că este real."

Părinții sunt puși în dificultate

Aplicația dedicată copiilor YouTube Kids este supravegheată de părinți folosind o combinație de filtre automate, recenzii umane și feedback-ul utilizatorilor, pentru a găsi conținut pentru copii bine realizat. Însă mulți părinți folosesc pur și simplu aplicația principală YouTube pentru a găsi conținut pentru copiii lor, bazându-se pe titlurile video, listele și imaginile în miniatură ca să stabilească ce este potrivit pentru aceștia.

Până în prezent, majoritatea conținutului pentru copii aparent generat de inteligența artificială pe care WIRED l-a găsit pe YouTube a fost prost realizat, în mod similar cu animațiile pentru copii convenționale. Acestea au imagini urâte, intrigi incoerente și valoare educațională zero.

Instrumentele de inteligență artificială facilitează producerea unui astfel de conținut și într-un volum mai mare. Unele dintre canalele pe care WIRED le-a găsit încarcă videoclipuri lungi, unele cu mult peste o oră. Solicitarea de etichete pe conținutul pentru copii generat de AI ar putea ajuta părinții să filtreze desenele animate care ar putea fi publicate cu o verificare minimă - sau chiar fără verificare umană.