Vývoj umelej inteligencie nie je iba súbojom o najlepšie modely, celá hra je oveľa komplexnejšia. Firmy potrebujú aj obrovské množstvo výpočtového výkonu a prístup k drahým GPU, na ktoré sa pri veľkom návale úloh často čaká celé hodiny. Apple sa rozhodol problém vyriešiť nezvyčajným spôsobom. Namiesto okamžitého nákupu ďalších extrémne drahých AI serverov využil počítače Mac, ktoré už má a práve na nich nikto intenzívne nepracuje. Ide o šikovný spôsob, ktorý dokáže firme ušetriť obrovské prostreidky.
Vo výsledku vznikol úplne nový výskumný systém, ktorý firma nazvala „Minions“. Pre tých čo nevedia, v preklade by sme mohli hovoriť o „poskokoch“ a nie je to náhoda. Títo poskokovia totiž pracujú v pozadi úplne potichu a plnia zadanú práce bez toho, aby to kohokoľvek obmedzovalo. V realite ide o dynamický virtuálny GPU cloud vytvorený z počítačov s čipmi Apple Silicon.
Apple Minions využíva výkon, ktorý by inak zostal nečinný
Podľa výskumnej stránky Apple systém zhromažďuje nevyužité grafické jadrá Macov a prideľuje im úlohy strojového učenia. Počítače tak spoločne vytvárajú výpočtový fond, ktorý môže poslúžiť vtedy, keď sú bežné centralizované GPU servery preťažené alebo príliš drahé.
Úloha sa najprv rozdelí na menšie časti. Jednotlivé Macy si ich následne preberajú, lokálne spracujú pomocou svojho GPU a výsledok odošlú späť. Ak sa počítač uspí, odpojí zo siete alebo ho začne používať jeho majiteľ, systém nedokončenú časť automaticky vráti do frontu a pridelí ju inému zariadeniu.
Súčasná podoba podporuje napríklad tvorbu embeddings pomocou open-source modelov z Hugging Face a generovanie textu veľkými jazykovými modelmi cez Ollama. Nejde však o trénovanie úplne nových modelov ani o spojenie pamäte viacerých Macov do jedného obrovského stroja. Každý počítač spracúva vlastnú časť úlohy samostatne.
Z čakania dlhšieho než 10 hodín zostali minúty
Najzaujímavejšie sú skúsenosti tímov, ktoré systém skúšali v praxi. Autori v odbornej práci zverejnenej na arXiv uvádzajú, že čakanie na dostupný centralizovaný GPU výkon mohlo pôvodne presiahnuť desať hodín. Po zapojení Minions sa úlohy dokázali začať vykonávať v priebehu niekoľkých minút, čo extrémne pomohlo.
Apple tým využíva hardvér, za ktorý už zaplatil, a nemusí pre každú špičku obstarávať ďalšie drahé akcelerátory. Výhodou čipov Apple Silicon je pritom jednotná architektúra a spoločná pamäť, vďaka ktorej sú aj bežné Macy schopné lokálne spúšťať pomerne náročné AI modely.
Váš Mac sa zatiaľ do cudzieho cloudu nepripojí
Minions je v tejto chvíli výskumný a interný systém, nie nová funkcia macOS. Apple neoznámil, že by plánoval využívať súkromné Macy zákazníkov alebo ich bez povolenia zapájať do AI výpočtov. Autori však pripúšťajú, že bezpečne prepojené nečinné zariadenia by raz mohli vytvoriť spoločný výpočtový fond aj vo väčšom meradle. Keď sa nad tým človek zamylsí, firmy by mu mohli týmto spôsobom platiť za to, že používajú jeho počítač, keď ho nepoužíva on sám.
Otázne však je, koľko by platili. Nejde totiž len o hradvér, ktorý sa vplyvom náročných výpočtov rýchlejšie opotrebuje, ale aj o energie, ktoré môžu byť v týchto situáciách oveľa vyššie. Samozrejmosťou ešte zostáva aj maximálne zabezpečenie počítačov. Ak by mali pracovať v takomto režime, firma, ktorá má k ním prístup, by nesmela nahlaidať do súkromných súborov ani dát.
Práve to sa aktuálne javí ako jeden z najväčších problémov. Firemné tímy nemusia chcieť posielať citlivé vstupy na počítače patriace inému oddeleniu a pri verejnej sieti by boli nároky na izoláciu ešte prísnejšie. Výskum navyše neponúka podrobné spomínané porovnanie spotreby energie, výkonu či nákladov pri veľkom počte zariadení.
Za nás je Minions ukážkou toho, že Apple Silicon môže mať oveľa širšie využitie než iba zrýchľovanie aplikácií používateľa. Myšlienka zapojiť nečinné firemné Macy namiesto nakupovania ďalších GPU dáva ekonomický zmysel, no pri súkromných počítačoch by musel mať používateľ úplnú kontrolu a atraktívnu odmenu. Zapojili by ste svoj Mac do podobnej siete výmenou za odmenu? Napíšte nám na Facebook alebo Instagram.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
