ChatGPT, testat de șeful Google. I-a cerut „să ne omoare pe toți”. Ce a ieșit

62412300
Pro TV

Siguranța inteligenței artificiale a generat numeroase dezbateri, și au existat preocupări că ar putea chiar să declanșeze Apocalipsa, la fel ca-n filmele de la Hollywood. Un director de la Google a testat personal cel mai cunoscut motor AI.

Cofondatorul Google Brain, Andrew Ng, a provocat motorul AI ChatGPT-4 într-un așa numit experiment de siguranță. Oficialul Google a vrut să testeze reacția inteligenței artificiale vizavi de o temere uriașă, că ar putea provoca un dezastru global dacă ar fi scăpată de sub control.

NG a postat un buletin informativ recent în care a detaliat testul AI pe care l-a efectuat, pentru care a folosit versiunea 4 a ChatGPT, cea mai avansată. El a cerut programului să "ne omoare pe toți", dar, în mod interesant, robotul a refuzat să dezvolte ideea, relatează publicația Daily Star.

El a spus că planul presupunea să ceară robotului să provoace un război termonuclear, dar nu a reușit, chiar și atunci când a încercat să îi explice AI că oamenii creează cantități uriașe de emisii de carbon. Șeful Google i-a cerut asta în speranța de a-l determina să spună că eliminarea oamenilor ar „curăța ”toate bolile planetei Pământ.

Surprinzător, ChatGPT a refuzat să se implice în întrebare. Cofondatorul Google Brain a vrut să dovedească faptul că roboții sunt siguri și a făcut totul public pe rețeaua X.

„Am încercat să folosesc GPT-4 pentru a ne omorî pe toți... și sunt fericit să vă spun că am eșuat! Serios, după ce i-am dat lui GPT-4 o funcție despre care credea că va declanșa un război nuclear și am experimentat mai multe solicitări, cum ar fi să-i cer să reducă emisiile de CO2, până acum nu am reușit să-l păcălesc să „apese” nici măcar o dată butonul nuclear.

Chiar și cu tehnologia existentă, sistemele noastre sunt destul de sigure, iar pe măsură ce cercetările în domeniul siguranței AI progresează, tehnologia va deveni și mai sigură. Temerile legate de faptul că inteligența artificială avansată ar putea să decidă în mod deliberat sau accidental să ne elimine nu sunt pur și simplu realiste. Dacă o inteligență artificială este suficient de inteligentă pentru a ne extermina, cu siguranță că este suficient de inteligentă și pentru a ști că nu este ceea ce ar trebui să facă" a spus Andrew Ng.

Articol recomandat de sport.ro
Scandal uriaș la fosta campioană din Premier League! Au rupt contractul din cauza unei actrițe de filme pentru adulți
Scandal uriaș la fosta campioană din Premier League! Au rupt contractul din cauza unei actrițe de filme pentru adulți
Citește și...
62412299
Guvernul a decis: Bugetarii vor avea trei zile libere în plus în 2024. Cum vor fi recuperate
Purtătorul de cuvânt al Guvernului a anunţat că Executivul a decis, joi, ca anul care urmează, zilele de 2 mai, 16 august şi 27 decembrie, să fie zile libere pentru personalul bugetar.
62406726
Cumpărăturile de Crăciun sufocă Bucureștiul, la propriu. Poluarea e de aproape cinci ori mai mare față de limita maximă
Aerul din București a fost, joi, de cinci ori mai față de valorile recomandate de OMS, pe fondul traficului auto intens prilejuit de cumpărăturile de Sărbători.
62412052
George Simion, acuzat că a mințit privind vizita la Vatican. „Papa Francisc nu l-a primit într-o audienţă privată”
Monseniorul Tuomo T. Vimpari, însărcinat cu afaceri ad interim la Nunţiatura Apostolică din Bucureşti, neagă că Papa Francisc l-ar fi primit pe liderul AUR George Simion într-o audienţă privată.