Rritja e inteligjencës artificiale nuk po matet vetëm me modele më të afta apo aplikacione më të zgjuara. Pas çdo përgjigjeje të një asistenti, gjenerimi figure, analize dokumenti ose veprimi të një agjenti autonom qëndron një sasi e madhe llogaritjesh. Sa më të ndërlikuara bëhen këto sisteme, aq më shumë kërkojnë procesorë të specializuar, memorie të shpejtë dhe rrjete që mund t’i lidhin mijëra njësi pune në të njëjtën kohë.
Kjo është arsyeja pse industria e AI po e kthen prodhimin e gjysmëpërçuesve në një nga pikat më të rëndësishme të ekonomisë teknologjike. Nuk bëhet fjalë vetëm për GPU. Qendrat moderne të të dhënave përdorin një kombinim të përshpejtuesve, CPU-ve, memories HBM, çipave të rrjetit dhe kontrolluesve të specializuar. Kërkesa po rritet sepse çdo brez i ri konsumon më shumë kapacitet në disa nivele njëkohësisht.
Trajnimi i modeleve kërkon fuqi të madhe llogaritëse
Një model i madh duhet të përpunojë sasi kolosale të dhënash gjatë trajnimit. Miliona, miliarda ose edhe më shumë parametra përshtaten vazhdimisht ndërsa sistemi mëson modele statistikore nga teksti, imazhet, videoja, audioja dhe burime të tjera.
Këto llogaritje kryhen shumë më me efikasitet nga përshpejtues të projektuar për operacione matematikore paralele. Për këtë arsye, një model i avancuar nuk trajnohet në një procesor të vetëm, por në klasterë ku qindra, mijëra ose edhe më shumë përshpejtues punojnë së bashku.
Rritja e madhësisë së modelit nuk është faktori i vetëm. Trajnimi përfshin gjithnjë e më shumë faza, si para-trajnimi, përshtatja pas trajnimit dhe optimizime të tjera që kërkojnë përsëritje të shumta. Çdo cikël shtesë rrit nevojën për kapacitet.
Inferenca po bëhet po aq e rëndësishme sa trajnimi
Pasi një model përfundon trajnimin, ai duhet të ekzekutohet sa herë që përdoruesi bën një kërkesë. Ky proces quhet inferencë. Në fillimet e AI gjenerative, vëmendja ishte përqendruar kryesisht te kostoja e trajnimit. Sot, përdorimi masiv po e bën inferencën një burim të vazhdueshëm kërkese për çipa.
Një shërbim që përdoret nga miliona njerëz duhet të gjenerojë përgjigje paralelisht, shpesh brenda pak sekondash. Nëse modeli përpunon video, zë, imazhe ose kontekste shumë të gjata, ngarkesa rritet më tej.
Kjo do të thotë se infrastruktura nuk nevojitet vetëm për disa javë ose muaj gjatë ndërtimit të modelit. Përshpejtuesit duhet të qëndrojnë aktivë çdo ditë për ta shërbyer atë në shkallë të gjerë.
Arsyetimi dhe agjentët AI shtojnë shumë hapa të rinj
Modelet moderne nuk japin domosdoshmërisht një përgjigje pas një llogaritjeje të vetme. Sistemet e arsyetimit mund të kryejnë një varg hapash të ndërmjetëm përpara rezultatit, ndërsa agjentët AI mund të kërkojnë informacion, të përdorin mjete, të analizojnë rezultatet dhe ta përsërisin procesin.
Një kërkesë e vetme mund ta aktivizojë modelin disa herë. Në një sistem me shumë agjentë, disa modele mund të punojnë paralelisht për detyra të ndryshme dhe më pas të kombinojnë përfundimet.
Pikërisht kjo po ndryshon mënyrën si matet infrastruktura. Nuk mjafton vetëm shpejtësia e një GPU-je. Rëndësi ka sa përdorues mund të shërbehen njëkohësisht, sa tokenë mund të gjenerohen për sekondë dhe sa energji kërkohet për çdo përgjigje.
Memoria HBM është bërë pjesë kritike e sistemit
Procesori nuk mund të punojë me shpejtësi të plotë nëse të dhënat nuk arrijnë tek ai mjaftueshëm shpejt. Modelet e mëdha mbajnë parametra dhe informacion të përkohshëm në memorie, ndaj kapaciteti dhe gjerësia e brezit janë po aq të rëndësishme sa fuqia matematikore.
Për këtë arsye, përshpejtuesit e rinj përdorin HBM, memorie me brez shumë të lartë që vendoset pranë çipit llogaritës. Gjenerata HBM4 e vitit 2026 arrin kapacitete dhe shpejtësi ndjeshëm më të larta se brezat e mëparshëm. Disa përshpejtues të rinj ofrojnë qindra gigabajt memorie dhe mbi 20 terabajt për sekondë gjerësi teorike brezi për një GPU.
Konteksti i gjatë dhe përpunimi i shumë kërkesave paralelisht konsumojnë gjithashtu hapësirë për të ashtuquajturën KV cache. Kjo e bën memorien një nga kufizimet kryesore të sistemeve të reja, jo thjesht një komponent ndihmës.
Një qendër AI nuk ndërtohet vetëm me GPU
Kur mijëra përshpejtues punojnë së bashku, shpejtësia e komunikimit mes tyre bëhet vendimtare. Nëse një çip përfundon pjesën e tij të punës por duhet të presë të dhëna nga një tjetër, një pjesë e kapacitetit humbet.
Për këtë arsye, platformat e reja ndërtohen në nivel rafti ose edhe qendre të plotë të të dhënave. Ato përfshijnë çipa rrjeti, switch-e, procesorë qendrorë, kontrollues për ruajtjen dhe lidhje me gjerësi shumë të lartë brezi.
Sistemet e gjeneratës Rubin, për shembull, e trajtojnë raftin si një njësi të integruar llogaritëse, ndërsa platforma të tjera moderne ndjekin të njëjtin drejtim. Kjo tregon se gara nuk zhvillohet më vetëm për GPU-në më të shpejtë, por për mënyrën më efikase të bashkimit të dhjetëra ose qindra çipave.
Paketimi i avancuar është po aq i rëndësishëm sa prodhimi
Një nga ndryshimet më të mëdha në industrinë e gjysmëpërçuesve është fakti se shumë sisteme AI nuk ndërtohen më si një copë e vetme silikoni. Procesori llogaritës, memoria dhe komponentë të tjerë vendosen shumë pranë njëri-tjetrit për të shkurtuar rrugën që duhet të përshkojnë të dhënat.
Teknologjitë e paketimit të avancuar, si CoWoS, lejojnë integrimin e disa pjesëve të silikonit dhe memories HBM në një paketë të vetme. Kërkesa për AI ka rritur nevojën jo vetëm për wafer-at më të avancuar, por edhe për kapacitetin e fabrikave që realizojnë këtë fazë të montimit.
Kjo shpjegon pse një kufizim në paketim ose në furnizimin me HBM mund ta ngadalësojë prodhimin e përshpejtuesve edhe kur vetë çipi llogaritës është gati.
Efikasiteti më i madh nuk e ul domosdoshmërisht kërkesën
Çdo brez i ri po bëhet më efikas. Platformat e fundit mund të gjenerojnë më shumë tokenë për të njëjtën sasi energjie dhe të trajnojnë modele me më pak përshpejtues sesa teknologjitë e mëparshme.
Në pamje të parë, kjo mund të sugjerojë se industria do të ketë nevojë për më pak pajisje. Në praktikë, ulja e kostos për një detyrë shpesh sjell më shumë përdorime. Kur inferenca bëhet më e lirë, kompanitë mund ta integrojnë AI në më shumë produkte, t’u shërbejnë më shumë përdoruesve dhe të ekzekutojnë modele më të mëdha.
Pra, eficienca nuk po e ndal zgjerimin e infrastrukturës. Përkundrazi, ajo po e bën ekonomikisht të mundur që këto sisteme të përdoren në shkallë edhe më të madhe.
Kërkesa po del nga qendrat e të dhënave
Një tjetër burim rritjeje është shpërndarja e funksioneve AI në pajisjet e përdoruesve. Telefonat, kompjuterët personalë, automjetet dhe pajisjet industriale po marrin njësi të dedikuara për përpunimin lokal të modeleve.
Këto janë zakonisht më të vogla dhe konsumojnë më pak energji se përshpejtuesit e qendrave të të dhënave, por prodhohen në volume shumë më të mëdha. Kështu, bumi i inteligjencës artificiale po ndikon njëkohësisht te çipat më të fuqishëm të serverëve dhe te procesorët që përfundojnë në pajisje të zakonshme.
Gara për më shumë kapacitet, memorie dhe efikasitet pritet të vazhdojë për sa kohë modelet bëhen më të afta dhe përdorimi zgjerohet. Pyetja nuk është më vetëm sa i shpejtë është një çip, por sa mirë funksionon i gjithë sistemi rreth tij. Inteligjenca artificiale po e shtyn industrinë drejt një epoke ku procesori, memoria, rrjeti, paketimi dhe energjia duhet të përmirësohen së bashku për të mbajtur ritmin e kërkesës.