AI-túlélőcsomag: már 10,5 TB-os mesterséges intelligencia tartalékot is gyűjtenek

Mi indította el a pánikot?

November 12-én lemondott Jensen Huang, az NVIDIA társalapítója és 33 éven át vezérigazgatója. Az NVIDIA gyártja azokat a chipeket, amelyeken ma szinte minden AI fut, így ez óriási hír a technológiai világban. Az NVIDIA nem közölt indokot. A Reuters és az Al Jazeera szerint a távozását napokig tartó, a magánéleti kapcsolatait érintő vizsgálódás előzte meg. Az ideiglenes vezérigazgató Colette Kress, a cég pénzügyi igazgatója lett.

A hírre reagálva David Heinemeier Hansson (DHH), a Ruby on Rails programozási keretrendszer megalkotója, egy elég baljós hangvételű posztot tett közzé X-en. Szabad fordításban: érdemes biztonsági mentést csinálni néhány nyílt modellről, és beszerezni hozzá egy alap gépet, ami futtatni tudja őket. Hogy pontosan mi történt az NVIDIA-nál, senki sem tudja, de a világ elvesztette a szabad AI egyik legnagyobb támogatóját.

A támogató részben igaza van. Huang a nyílt súlyú AI egyik leghangosabb szószólója volt: júliusban az első X-posztjában a nyílt modelleket támogató iparági levelet tett közzé, és az NVIDIA saját nyílt modellcsaládot is kiad (Nemotron). A TechCrunch rögtön fel is tette a kérdést, megmarad-e ez a támogatás a távozása után.

A jelenséget Vincent (@vincent_ainotes) foglalta össze X-en, az ő posztja nyomán mutatjuk be, mi zajlik, és mit jelent ez a nem technikai felhasználóknak, különösen a marketingeseknek.

AI-túlélőcsomagok a Redditen

A Redditen komoly beszélgetés indult arról, mit érdemes most lementeni, ha egyszer leállna a nyílt AI-modellek kiadása. A hozzászólások gyorsan egyfajta „világvége-kellékbemutatóvá” alakultak. Vincent összefoglalója kettőt emel ki közülük.

Kahvana: a 2 TB-os, jól átgondolt csomag. Ez a felhasználó egy 2 terabájtos SSD-re gyűjtött össze több modellcsaládot (Qwen, Gemma, DeepSeek, Nemotron), mindegyikből több „tömörítési fokozatban”. De nem állt meg a csevegőmodelleknél: van nála beszédfelismerő, szövegfelolvasó, képgeneráló, keresést segítő modell, sőt egy teljes offline Wikipédia is. A legfontosabbakat egy otthoni hálózati tárolóra (NAS) is átmásolta, a futtatáshoz szükséges programokkal együtt. Vagyis nemcsak a „konzervet” tette el, hanem a konzervnyitót is.

TheBigHODL: a 10,5 TB-os stratégiai tartalék. Ő gyakorlatilag a teljes ismert nyílt modellkínálatot lementette: kínai (Kimi, DeepSeek, Qwen, GLM, MiniMax), amerikai (Llama, OpenAI gpt-oss, Gemma) és európai (Mistral) modelleket. Emellett beszéd- és képmodelleket, tanítóadatbázisokat, teszteket, a teljes Wikipédiát és egy sor fejlesztői eszközt is. Ez már nem néhány fájl letöltése, hanem egy teljes, önálló AI-műhely archiválása.

Viszonyításképp: 10,5 TB nagyjából 2000-2500 órányi Full HD film, vagy több millió fotó helye.

Mi az a „nyílt súlyú” modell, és miért mentik?

A ChatGPT, a Claude vagy a Gemini felhőszolgáltatás: a modell a cég szerverein fut, mi csak bérelt hozzáférést kapunk. Ha a szolgáltató áraz, szabályt vagy feltételt változtat, esetleg leállítja a szolgáltatást, nekünk alkalmazkodnunk kell.

A nyílt súlyú (open-weight) modellt viszont le lehet tölteni, mint egy programot. A „súlyok” lényegében a modell „agya”: az a hatalmas számtömeg, amit a tanítás során megtanult. Aki ezt a fájlt birtokolja, megfelelő géppel a saját irodájában, internet nélkül is futtathatja.

Egy hasonlattal: a felhős AI olyan, mint a Netflix, a nyílt modell pedig olyan, mint egy DVD a polcon. A Netflix kényelmesebb és mindig a legújabb, de bármikor eltűnhet róla egy film. A DVD régebbi, de a tiéd.

A Reddit-felhasználók félelme ennyi: ha a kínai modellekre szigorúbb export- vagy hozzáférési korlátozások jönnek, az amerikai laborok pedig fokozatosan abbahagyják a nyílt kiadást, akkor ami ma a Hugging Face-ről (a modellek „YouTube-járól”) szabadon letölthető, holnap már nem biztos, hogy az lesz.

Fontos: ez egyelőre a közösség aggodalma a jövővel kapcsolatban. Washingtonban idén mérlegelték a kínai AI-modellek korlátozását, de semmilyen ilyen tiltást nem vezettek be.

Mit jelent ez egy marketingesnek?

Nem kell holnaptól merevlemezeket vásárolni. A történet tanulsága viszont nagyon is üzleti: ma rengeteg marketingcsapat napi munkája (szövegírás, képkészítés, elemzés, ügyfélszolgálati válaszok) egyetlen külső AI-szolgáltatóra épül.

Néhány kérdés, amit érdemes feltenni a saját csapatunkban:

• Mi történik, ha holnap drágul vagy elérhetetlenné válik a megszokott AI-eszközünk? Van B-tervünk, vagy megáll a tartalomgyártás? A drágulás nem elméleti kérdés: az AI-árazási válságról és a marketingbüdzsékről is írtunk.
• Hol vannak a promptjaink, sablonjaink, márkahang-leírásaink? Ha csak egy chatfelület előzményeiben, akkor nem a miénk. Érdemes saját dokumentumban tárolni őket.
• Milyen adatot adunk ki a kezünkből? Ügyféladatok, kampányeredmények, belső stratégia: egy helyben futó modellnél ezek el sem hagyják a céget, ami GDPR szempontból is előny.
• Kell-e mindenre a legerősebb modell? Egy termékleírás-sablon kitöltéséhez vagy szövegek kategorizálásához egy kisebb, helyben futtatható modell is bőven elég lehet.

A változás, ami valóban érdekes

A helyi AI-t futtató közösségben eddig az volt a versengés tárgya, kinek van több és erősebb videókártyája, és milyen gyorsan „beszél” a gépe. Most egyesek már azon versenyeznek, kinek nagyobb a merevlemeze, teljesebb a modellgyűjteménye, és ki tudja még használni az AI-t internet nélkül is.

A régi túlélők konzervet, gázolajat és aggregátort halmoztak fel. A mostaniak modelleket, számítási kapacitást és offline tudásbázist.

Mosolyogni lehet rajta, de nem teljesen alaptalan. Bármilyen erős is a felhős AI, a használati jogod végső soron a szolgáltatótól függ. Egy helyi modell lehet, hogy néhány verzióval le van maradva, de ha megvan a modell, a program és a gép hozzá, akkor legalább a saját kezedben van.