Podľa najnovšej štúdie spoločnosti Apple, ktorú zverejnila na portáli arXiv, boli odhalené významné nedostatky modernej umelej inteligencie (AI). Vo veľkých jazykových modeloch od spoločností OpenAI a Meta sa našli výrazné nedostatky v logickom uvažovaní, ktoré môžu predstavovať rôzne riziká.
Gigant z Cupertina sa v tejto štúdii zameral na to, ako tieto modely zvládajú matematické úlohy a rôzne premenné. Zistenia naznačujú, že dokonca aj malé zmeny vo formulácii otázok môžu mať veľký dopad na výkonnosť modelov a ich spoľahlivosť v situáciách, ktoré vyžadujú logickú konzistenciu.
Známe jazykové modely AI majú stále veľké nedostatky
V rámci štúdie bola demonštrovaná problematická krehkosť týchto modelov pri riešení úloh, kde zahrnutie nepodstatných informácií do otázok viedlo k nesprávnym odpovediam. Napríklad, jednoduchý matematický problém týkajúci sa počtu nazbieraného ovocia bol narušený zavedením irelevantných detailov o jeho veľkosti.
Modely ako OpenAI a Meta Llama potom nesprávne vypočítali konečný súčet, hoci tieto informácie by za normálnych informácií nijakým spôsobom nemali ovplyvniť výsledok.
V dôležitých úlohách a výpočtoch tak môžu byť tieto nedostatky nebezpečné. Platí to hlavne v prípade, ak by sa umelá inteligencia začala viac presadzovať na poli medicíny a techniky. Stále sa na ňu ľudia nemôžu spoliehať na sto percent, aj keď jej schopnosti sú povedzme si na rovinu ohromné.
Umelá inteligencia neuvažuje logickým spôsobom
Podľa výsledkov štúdie sú jazykové modely založené skôr na sofistikovanom porovnávaní vzorov ako na skutočnom logickom uvažovaní. Táto metóda je však veľmi krehká. Dokonca malé zmeny, ako sú iné názvy, môžu zmeniť výsledky o približne 10 %. Tento objav má dôležité dôsledky pre budúce aplikácie umelej inteligencie, ktoré si vyžadujú konzistentné a presné uvažovanie v reálnom svete.
Všetky testované modely, od menších open-source verzií ako Llama až po veľké systémy ako GPT-4 od OpenAI, ukázali zníženie výkonnosti pri zdanlivo irelevantných zmenách.
Apple v dôsledku toho naznačuje, že na dosiahnutie lepších schopností rozhodovania a riešenia problémov bude potrebné kombinovať súčasné neurónové siete s tradičnými symbolickými metódami uvažovania.
Napriek tomu, že umelá inteligencia zaznamenala obrovský pokrok, táto technológia je ešte stále takpovediac v plienkach. Uvidíme, ako sa vyvinie v blízkej budúcnosti. Očakávame však obrovský pokrok v rekordne krátkom čase!
Hľadáte nové Apple zariadenie? Skontrolujte náš SvetApple bazár, v ktorom nájdete viac ako 1 000 inzerátov na rôzne Apple produkty. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.