Spoločnosť Apple sa chystá dobehnúť zameškané na poli umelej inteligencie. V novej vedeckej štúdii jej výskumníci predstavili inovatívny difúzny model, ktorý dokáže generovať text až 128-krát rýchlejšie než doteraz známe riešenia. Nový systém, nazvaný Few-Step Discrete Flow-Matching (skrátene FS-DFM), vznikol v spolupráci s vedcami z Ohio State University.
Gigant z Cupertina vďaka tomuto posunu ukazuje, že to s AI výskumom myslí naozaj vážne. Doteraz sme sa dočkali len niekoľkých funkcií Apple Intelligence, ktoré poriadne zoastávajú za konkurenciou. Nové jazykové modely by mohli konečne prelomiť lady.
Ako funguje nová technológia FS-DFM od Apple?
Väčšina dnešných jazykových modelov vrátane ChatGPT, využíva takzvaný autoregresívny prístup. To znamená, že text generujú postupne, slovo po slove, pričom každé ďalšie slovo závisí od predchádzajúcich. Tento prístup je síce presný, no zároveň pomalý, pretože vyžaduje sekvenčné spracovanie.
Apple sa rozhodol ísť inou cestou a stavil na difúzne modely. Tie fungujú paralelne a generujú viac častí textu naraz a následne ich počas niekoľkých kôl „vylepšujú“ do finálnej podoby. Ešte pokročilejším variantom sú takzvané flow-matching modely, ktoré dokážu preskočiť väčšinu týchto krokov a vytvoriť výsledok v jednom ťahu.
Systém FS-DFM kombinuje presnosť difúznych modelov s efektivitou flow-matching prístupu. Model dokáže vygenerovať dlhý text už po ôsmich rýchlych iteráciách, pričom kvalitou sa vyrovná difúznym modelom, ktoré na rovnaký výsledok potrebujú viac než tisíc krokov.
Model funguje na troch hlavných stupňoch:
- Tréning modelu na rôzne úrovne jemnosti úprav
- Vytvorenie „učiteľa“, ktorý pomáha modelu vykonávať presné zmeny
- Optimalizácia iterácií, aby model dokázal rýchlejšie dosiahnuť finálny výsledok
V porovnaní s väčšími modelmi ako Dream alebo LLaDA, ktoré používajú miliardy parametrov, dokázal FS-DFM s oveľa menším počtom parametrov prirodzenú tvorbu textov a konzistenciu pri písaní.
Apple plánuje zdieľať výsledky
Autori štúdie uviedli, že chcú uverejniť kód aj modelové kontrolné body, aby mohli ostatní výskumníci nadviazať na ich prácu. Ak sa tieto výsledky potvrdia v praxi, Apple FS-DFM by mohol predstavovať zásadný posun v oblasti generatívnej umelej inteligencie.
Je teda možné, že prvý skutočne konkurencieschopný model z dielne Apple už klope na dvere. Ak sa kalifornskej spoločnosti podarí ho presadiť, môžeme sa tešiť na úplne novú generáciu hlasovej asistentky Siri a podpory umelej inteligencie naprieč celým ekosystémom.
Hľadáte nové Apple zariadenie? Skontrolujte náš SvetApple bazár, v ktorom nájdete viac ako 1 200 inzerátov na rôzne Apple produkty. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.