Umelá inteligencia dnes pomáha pri programovaní, výskume, vzdelávaní aj bežnej kancelárskej práci. Táto technolófia dokáže veci, ktoré sme si pred pár rokmi ani nevedeli predstaviť. Rovnaké nástroje však dokážu podvodníci neužívať na presvedčivejší phishing, automatizované útoky alebo tvorbu škodlivého obsahu, čo naopak predstavuje obrovské riziko. Netreba si preto položiť len otázku, čo dokáže AI ale aj otázku, aké rizika sú spojené s jej používaní a ktoré riziká je spoločnosť ochotná tolerovať výmenou za jej výhody. No a presne tu prichádza kontroverzné vyjadrenie šéfa OpenAI, teda firmy, ktorá stojí za ChatGPT.
Generálny riaditeľ Sam Altman v rozhovore pre technologický newsletter Politico Decoded šokovel, keď povedal, že svet by mal akceptovať, že sa v súvislosti s AI stanú aj „nejaké zlé veci“. Jeho vyjadrenie okamžite vyvolalo kritiku, pretože firma stojaca za ChatGPT patrí medzi najvplyvnejších tvorcov tejto technológie a aj v jej záujme by malo byť vyvinutie takej technológie, ktorá je na jednej strane extrémne užitočná, no na strane druhej ah bezpečná. Nie len pre jednotlivca, ale rovno pre celé ľudstvo.
Sam Altman nechce, aby AI kontrolovala jediná firma
Podľa správy agentúry Reuters sa Altman v rozhovore vymedzil voči prísnejšiemu prístupu konkurenčného Anthropicu, ktorého šéf Dario Amodei už vyjadril svoje obavy z budúcnosti, ktorá nás čaká spolu s umelou inteligenciou. Altman odmieta predstavu, že extrémne výkonnú technológiu bude držať jediná laboratórna firma, ktorá sama rozhodne, kto k nej dostane prístup a komu pridelí jej výhody.
OpenAI presadzuje miernejšiu reguláciu a širšiu dostupnosť AI pre verejnosť, čo je samozrejme dobrý krok, nakoľko s touto technológiou sa bude musieť naučiť skôr či neskôr pracovať každý. Je to niečo, ako ovládanie počítača alebo používanie internetu. Altman si myslí, že takýto prístup neumožní zaručiť nulový počet podvodov, útokov či prípadov zneužitia. Verí však, že ľudia vytvoria rádovo viac dobrých použití Ai než tých zlých. Podvodom a nebezpečným nápadom sa ale určite nevyhneme.
Pri katastrofických rizikách hovorí šéf OpenAI inak
Altmanov najnovší postoj je mimoriadne zaujímavý najmä v kontexte s jeho nedávnym vystúpením pred Bezpečnostnou radou OSN. V oficiálne zverejnenom prejave varoval, že AI môže napredovať rýchlejšie než inštitúcie, koncentrovať moc alebo sa vymknúť ľudskej kontrole.
Zároveň povedal, že odvetvie nesmie akceptovať príliš veľké technologické riziko iba preto, že jeho možné prínosy sú obrovské. Pravdepodobnosť katastrofy, ktorú by mohla spôsobiť AI v budúcnosti na úrovni desiatich, jedného či dokonca desatiny percenta označil za neprijateľnú. OpenAI podľa neho nemá trénovať systémy, pri ktorých nedokáže presvedčivo preukázať zachovanie ľudskej kontroly.
Rozdiel teda spočíva v druhu rizika. Altman je pripravený tolerovať určitú mieru podvodov a zneužitia podobne, ako ich spoločnosť toleruje pri internete či platobných systémoch už roky, ale stratu kontroly nad najvýkonnejšími modelmi riskovať určite nechce. Tak či onak má aj tento muž v rukách obrovskú moc a preto si musí dávať pozor na niektoré svoje vyjadrenia, ktoré môžu vyznieť poriadne kontroverzne.
O riziku nemôžu rozhodovať iba technologické firmy
Za nás je problémom najmä to, kto určí prijateľnú mieru škôd a kto za ne zaplatí. Výhody AI si rozdelia používatelia, firmy aj investori, no obeťou podvodu alebo straty zamestnania môže byť úplne iný človek. Samotné technologické laboratóriá preto nemôžu byť jedinými rozhodcami.
Regulácia nemusí znamenať zákaz ChatGPT ani zastavenie vývoja. Mala by však priniesť jasnú zodpovednosť, povinné hlásenie incidentov a pravidlá pre systémy schopné konať autonómne. Súhlasíte s Altmanom, že určitá miera škôd je cenou za pokrok, alebo je tento postoj príliš nebezpečný? Napíšte nám na Facebook alebo Instagram.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
