Fermierul, în vârstă de 67 de ani, din Chuzhou, provincia Anhui, folosea de aproximativ un an un software bazat pe inteligență artificială. Potrivit presei locale, îi cerea recomandări pentru diverse activități agricole, de la organizarea lucrărilor și stabilirea perioadelor de intervenție până la fertilizare, scrie The Independent.
Rezultatele obținute inițial l-au convins că poate avea încredere în recomandările aplicației. Astfel, a ajuns să urmeze instrucțiunile oferite de AI fără să verifice informațiile și din alte surse.
Problemele au apărut atunci când fermierul a cerut un tratament pentru combaterea buruienilor și dăunătorilor din culturile de susan. Inteligența artificială i-a recomandat o combinație care, în loc să elimine doar plantele nedorite, a distrus și culturile.
Experții în agricultură au indicat drept posibilă cauză folosirea erbicidului flufenacet, o substanță care poate afecta culturile de susan dacă nu este aplicată în condiții strict controlate.
„Puieții nu mai erau buni a doua zi după ce i-am stropit”, a povestit fermierul pentru publicația taiwaneză CTWANT. „Au murit atât buruienile, cât și plantele, iar puieții au murit chiar mai repede.”
Avertismentul aplicației nu a fost suficient
Aplicația de AI utilizată de fermier, al cărei nume nu a fost făcut public, afișa în partea de sus a ferestrei de conversație un avertisment explicit: „Conținutul generat de AI poate fi incorect. Vă rugăm să verificați informațiile.”
Avertismente similare sunt afișate și de unele dintre cele mai cunoscute servicii de inteligență artificială. Problema este că utilizatorii pot ajunge să trateze răspunsurile generate de chatboturi ca pe niște recomandări verificate, chiar și atunci când acestea privesc domenii în care o eroare poate avea consecințe serioase.
Cazul fermierului chinez readuce astfel în atenție una dintre principalele limite ale AI: un răspuns formulat cu siguranță și aparentă precizie nu înseamnă neapărat că informația este corectă.
Un alt caz: un chatbot, folosit pentru recomandări medicale
Nu este însă primul caz în care încrederea excesivă într-un chatbot a avut consecințe grave.
Anul trecut, un utilizator al ChatGPT a ajuns să dezvolte o afecțiune rară după ce a folosit chatbotul pentru recomandări legate de sănătate și alimentație.
Bărbatul, în vârstă de 60 de ani, încerca să elimine sarea de masă din alimentație și a înlocuit-o cu bromură de sodiu, urmând recomandarea primită de la asistentul AI.
După aproximativ trei luni în care a consumat substanța, bărbatul a dezvoltat bromism, o intoxicație provocată de bromuri. A fost internat în spital, unde a primit tratament pentru psihoză, unul dintre simptomele asociate acestei intoxicații.
Un articol publicat în Annals of Internal Medicine, care a analizat cazul, a avertizat că inteligența artificială „poate contribui la apariția unor efecte adverse asupra sănătății care ar putea fi prevenite”.
Autorii au atras atenția și asupra faptului că aplicațiile AI pot „genera inexactități științifice, nu au capacitatea de a discuta critic rezultatele și, în cele din urmă, pot alimenta răspândirea dezinformării”.
