Apple rozbieha nový projekt so spoločnosťou NVIDIA, ktorý má urýchliť vývoj umelej inteligencie. Táto spolupráca má byť základným kameňom pre zlepšenie výkonnosti veľkých jazykových modelov (LLM) prostredníctvom implementácie novej techniky generovania textu.
Táto inovácia sľubuje výrazné zvýšenie rýchlosti, čo je kľúčové pre aplikácie založené na umelej inteligencii. Oznámenie nového kooperačného projektu zverejnila spoločnosť Apple len pred niekoľkými dňami na svojich oficiálnych stránkach.
Apple a NVIDIA chcú priniesť efektívnejšiu AI
Nový prístup, nazvaný Recurrent Drafter (ReDrafter), ktorý Apple zverejnil a sprístupnil na začiatku tohto roka, využíva kombináciu techník vyhľadávania a dynamického stromu pozornosti na urýchlenie procesu generovania textu.
Nový druh vyhľadávania umožňuje súčasné preskúmanie viacerých textových sekvencií a vyhľadávanie tých najlepších možností. Druhý aspekt nazvaný stromová pozornosť minimalizuje prekrývanie medzi týmito sekvenciami a zvyšuje tak efektivitu procesu.
Táto technológia bola integrovaná do funkcionality TensorRT-LLM spoločnosti NVIDIA, ktorá je špeciálne navrhnutá na optimalizáciu LLM bežiacich na grafických procesoroch NVIDIA.
Apple uvádza, že vďaka tejto integrácii dosiahla technológia počas testov s modelmi obsahujúcimi desiatky miliárd parametrov až 2,7-násobné zvýšenie rýchlosti generovania obsahu za sekundu.
Novú technológiu bude časom využívať aj Apple Intelligence
Okrem zvýšenia rýchlosti sa táto technológia taktiež zameriava na zníženie latencie. Grafické procesory tak budú oveľa efektívnejšie a energeticky úspornejšie.
Podľa blogu Apple Machine Learning Research tento nový prístup ponúka vývojárom možnosť využiť rýchlejšie generovanie obsahu pre svoje aplikácie.
Postupom času by sa nová technológia mala dostať aj na platformu Apple Intelligence, ktorá je však ešte stále v plienkach. Nástroje jablkovej AI naviac ešte stále nie sú spustené v EÚ, kvôli regulačným nariadeniam.
Ich príchod na starý kontinent je naplánovaný na apríl 2025. Čakanie sa tak pomaly ale isto kráti a my sme zvedaví, čo všetko táto revolučná platforma prinesie v najbližších mesiacoch.
Hľadáte nové Apple zariadenie? Skontrolujte náš SvetApple bazár, v ktorom nájdete viac ako 900 inzerátov na rôzne Apple produkty. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.