Trebuie să vorbim de noua generație de calculatoare care se naște după această goană de a avea modele de inteligență artificială și avem procesoare noi de la toți marii producători.
Tudor Bădică: Am adus o „jucărie” pentru că așa pare, lansată în 1992, este o placă de bază gigabyte GA486IM gândită pentru procesoare din seria 486, procesoarele care puteau fi montate pe ea aveau o putere de calcul estimată de 4 megaflops, adică 4 milioan de flops. Am adus-o pentru că lângă ea avem un sistem gigabyte AI Top Atom bazat pe platforma DGX Spark de la Nvidia care oferă o putere de calcul de un petaflops, adică un milion de miliarde de calcule.
De ce ai avea nevoie de așa ceva?
Tudor Bădică: Motivul este destul de simplu, în ultimii ani tehnologia a evoluat suficient de mult încât să putem dezvolta cu adevărat inteligența artificială, dar mulți oameni nu experimentează cu ea dincolo de chatbot-ul de pe telefon sau de generat pisicuțe. Pe de altă, IA poate avea și extrem de multe beneficii pentru umanitate, cum ar fi, în domeniul sănătății, pe acest AI Top Atom, am rulat un program de recunoaștere și de interpretare a radiografiilor.
E mai ieftin să rulezi în Cloud, sau să îți iei o unitate de genul acesta care costă ceva.
Tudor Bădică: Unitatea de aici costă aproximativ 7.000 de euro, laptopul Lenovo Yoga cel cu 32 GB costă 15.000 de lei, costul inițial este foarte mare, nu discutăm despre home user neapărat, dar costul în termenul în tokenuri pe care trebuie să le plătim pe an poate fi mult mai mare. Meta a publicat că ei folosesc milioane de dolari pe lună în tokenuri. Trebuie să ți costul sub control, al doilea motiv foarte important este siguranța datelor, pentru că oricât de sigure ar fi toate serviciile cloud se poate întâmpla ceva, mai ales când lucrăm cu date confidențiale. Nu putem lucra în Cloud.
Mai avem o unitate aici, de la AMD.
Gabriela Bădică: Astăzi vorbim despre un laptop bazat pe o platformă AMD Strix Halo, practic avem un procesor și o placă grafică integrată în același cip, foarte important, avem cei 128 de GB de memorie RAM unificată, pe el am instalat Lemonade care este un server Open Source dezvoltat de AMD pe care putem rula modele AI local. Practic, ce putem face cu el este să recunoaștem scene sau obiecte, să generăm imagini și altele.
Interviul complet, în videoclipul atașat.