Plăcile video schimbă viitorul AI. Puterea uriașă din centrele de date ajunge pe dispozitivele personale

Iar asta schimbă jocul: procesarea nu mai rămâne doar în centrele de date, ci începe să se mute chiar pe laptopurile și telefoanele noastre.

Într-o singură hală de servere se ascunde putere cât zeci de milioane de laptopuri la un loc. Aceste centre de date sunt echivalentul aurului digital de astăzi – aici trăiește inteligența artificială.

ChatGPT, Gemini, Claude, sistemele care generează imagini și video – toate rulează pe plăci video uriașe, motoarele care dau viață AI-ului.

Iar aceste motoare sunt prezentate acum pe scene mari, la fel ca telefoanele noi. Vara aceasta, AMD și-a lansat cel mai nou procesor grafic seria Instinct MI350, iar pe scenă, alături de CEO-ul companiei, Lisa Su, au urcat Sam Altman de la OpenAI și reprezentanți ai Meta, x.AI, Oracle și Microsoft. O declarație de forță, spusă fără cuvinte – prin simpla prezență a celor mai mari jucători din industrie.

Citește și

Ar putea un telefon performant să înlocuiască camera profesională? Test cu șase modele la I Like IT

Lisa Su – Sam Altman: „Cu siguranță, pentru noi și pentru mulți alții, a fost o explozie a utilizării în ultimul an. Cred că modelele au devenit suficient de bune încât oamenii au putut crea produse, texte, imagini, voci și tot felul de capacități de raționament cu adevărat excelente. Ați văzut o adoptare extrem de rapidă în cadrul întreprinderilor.”

Aceste modele de inteligență artificială au devenit utile, dar și din ce în ce mai complexe.

„Este nevoie de sisteme uriașe, proiecte inginerești foarte complexe, cercetări foarte complexe. Și pentru a menține această curbă de scalare, trebuie să colaborăm în domeniile cercetării, ingineriei, hardware-ului, pentru a decide cum vom livra aceste sisteme și produse. Iar acest lucru a devenit destul de complex”, a mai spus Lisa Su.

GPU-urile cresc performanța pe dolar

Eficiența acestor plăci video se măsoară în „tokeni pe dolar” – la fel cum la o mașină calculăm consumul la sută de kilometri. Cu cât procesezi mai mulți tokeni cu un dolar, cu atât AI-ul devine mai ieftin de folosit.

„Deci, dacă o descompunem în jetoane, este vorba practic de câte jetoane poți produce și cât de repede le poți produce. Aceasta este, în esență, performanța pe care o poate oferi GPU-ul. Aspectul prețului este numitorul comun. Și am anunțat astăzi că, cu cele mai recente GPU-uri ale noastre, suntem capabili să oferim o performanță cu 40% mai mare pe dolar”, a continuat Lisa Su.

Dar ce sunt tokenii? Un cuvânt ca „computer” înseamnă trei tokeni. Un răspuns de 500 de cuvinte înseamnă aproximativ 700 de tokeni. O singură imagine generată poate ajunge la sute de mii. Noile modele, cum e ChatGPT, costă puțin peste un dolar pentru un milion de tokeni. La scara la care rulează aceste companii, fiecare cent contează.

Dar apare o întrebare: putem muta o parte din această putere și pe dispozitivele noastre personale?

„Acest lucru ajută la satisfacerea cererii de energie și a datelor energetice de care centrele de date au nevoie acum pentru a muta unele aplicații la nivel local? Mutăm modelele mai mari pe amprenta locală a clienților, dar asta înseamnă și că centrul de date este utilizat pentru modele și mai mari. Nu am ajuns încă în punctul în care cele mari să ruleze la nivel local, dar inteligența crește exponențial pe laptopuri”, a mai spus ea.

Modelele locale de inteligență artificială au deja avantaje clare: costuri mai mici, datele tale rămân pe dispozitiv și ai putere de calcul instant, fără internet.

„Deci, aceste instrumente din DaVinci Resolve nu vă limitează creativitatea, ci doar o eficientizează. Cu o mască magică, nu mai trebuie să plasați manual puncte de rotoscop și apoi să vă deplasați cadru cu cadru. Instrumentul face asta pentru dvs., oferindu-vă mai mult timp pentru a realiza o editare cu adevărat creativă... ceea ce înainte dura 20 de minute se realizează acum în câteva secunde”, a conchis Lisa Su.

Specialiștii privesc optimiști către această idee: un AI personal, care să funcționeze direct pe computerul sau telefonul tău, în timp ce centrele de date să se ocupe doar de taskurile cu adevărat complexe – agenții inteligenți și modelele gigantice. De la hale industriale răcite cu apă, la laptopul de pe birou – inteligența artificială coboară tot mai aproape de noi.

Articol recomandat de sport.ro

Ce face marea campioană Monica Roșu, la 20 de ani după ce s-a retras din gimnastică. "E o altă carieră"