Umelá inteligencia nám dnes pomáha upravovať texty, programovať aj vyhľadávať informácie. Preto môže predstava systému, ktorý by ohrozil celé ľudstvo, znieť ako námet zo sci-fi filmu. Tentoraz však takúto obavu nevyslovil filmár ani internetový konšpirátor, ale človek, ktorý pracoval priamo na vývoji najpokročilejších modelov.
Jacob Coxon oznámil odchod zo spoločnosti Anthropic, ktorá stojí za modelmi Claude. Predtým pôsobil aj v OpenAI a počas troch rokov sa venoval výskumu predtrénovania veľkých jazykových modelov. Tvrdí, že už nechce svojou prácou prispievať k pretekom vo vývoji čoraz schopnejšej umelej inteligencie. Je presvedčený o tom, že táto technológia je extrémne nebezpečná.
Výskumník sa vzdal práce aj podielu vo firme
Ako uvádza agentúra AP, Coxon obviňuje Anthropic aj OpenAI z toho, že uprednostňujú súperenie a vývoj najvýkonnejšieho modelu pred dostatočnou bezpečnosťou. Podľa neho firmy smerujú k samovylepšujúcej sa superinteligencii a hazardujú pritom so životmi ľudí.
Nešlo pritom iba o teatrálne ukončenie pracovného pomeru. Axios po rozhovore s Coxonom informoval, že odišiel približne dva mesiace predtým, než by získal nárok na firemný podiel. Rozhodnutím sa teda dobrovoľne vzdal potenciálne veľmi hodnotnej odmeny.
Coxon tvrdí, že ľudia pracujúci na špičkových AI modeloch vážne pripúšťajú scenár, v ktorom by technológia mohla do konca desaťročia zabiť všetkých ľudí. Jeho slová verejne podporil Evan Hubinger, ktorý v Anthropicu vedie výskum zosúladenia AI s ľudskými záujmami. Hubinger osobne odhaduje riziko vyhubenia ľudstva umelou inteligenciou v nasledujúcom desaťročí na viac ako desať percent.
Nejde o predpoveď, že koniec sveta určite príde
Takéto číslo nemožno chápať ako vedecky vypočítanú pravdepodobnosť ani hotovú predpoveď. Ide o subjektívny odhad odborníka pracujúceho v mimoriadne neistom odbore. Súčasné chatboty samy od seba neplánujú vyhubenie ľudstva a nemajú neobmedzený prístup k elektrárňam, zbraniam či laboratóriám.
Obava sa týka možných budúcich systémov, ktoré by dokázali samostatne plánovať, vytvárať ďalšie generácie modelov a vykonávať úlohy v digitálnom aj fyzickom svete. Rizikom by nemuselo byť iba vedomé „povstanie strojov“. Škodu môže spôsobiť nesprávne zadaný cieľ, strata ľudskej kontroly alebo zneužitie AI na kybernetické útoky, kritickú infraštruktúru či biologické hrozby.
Skeptici zároveň namietajú, že dnešné systémy robia elementárne chyby a k skutočnej superinteligencii sa vôbec nemusíme dostať. Aj experti sa preto výrazne rozchádzajú v tom, aká pravdepodobná je katastrofa a či by tvrdé obmedzenia vývoja nepriniesli viac problémov než úžitku.
Preteky medzi firmami komplikujú bezpečnostnú brzdu
Coxon navrhuje, aby najväčšie laboratóriá dokázali v krajnom prípade dočasne zastaviť zvyšovanie schopností modelov. Práve tu však vzniká zásadný problém. Ak jedna firma spomalí, jej konkurent môže pokračovať a získať technologický aj obchodný náskok. Rovnaké pravidlá by navyše museli rešpektovať spoločnosti a štáty po celom svete.
Na možné následky nekontrolovaného rozvoja upozorňujú odborníci už roky. Anthropic sa pritom sám prezentuje ako firma kladúca veľký dôraz na bezpečnosť, čo robí odchod jeho vlastného výskumníka ešte pozoruhodnejším. Na druhej strane ide stále o názor jednotlivca, nie o dôkaz, že konkrétny model Claude dnes predstavuje existenčné nebezpečenstvo.
Za nás netreba prepadať panike, no varovanie ľudí zvnútra odvetvia nemožno odbiť mávnutím ruky. Ak odborníci pripúšťajú aj malú pravdepodobnosť katastrofického následku, firmy a štáty musia mať jasné pravidlá, nezávislé testovanie a mechanizmus núdzového zastavenia. Príklady dnešných, omnoho bezprostrednejších rizík sme zhrnuli aj v článku Toto je 6 dôvodov, prečo môže byť ChatGPT nebezpečný.
Mali by vlády vývoj najvýkonnejších modelov spomaliť, alebo by tým iba odovzdali náskok menej zodpovedným hráčom? Napíšte nám svoj názor do komentára na Facebooku alebo Instagrame.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. 📱
