Umelá inteligencia už nie je novinkou, ale pomaly sa začína stávať štandardom, ktorý ľuďom zjednodušuje a zefektívňuje prácu. Táto technológia je vo svete čoraz rozšírenejšia a do svojich operácií ju podľa portálu QUARTZ zapája aj armáda Spojených štátov amerických. Nová štúdia však nad celou AI dvíha varovný prst.
Umelou inteligenciou sa začali zaoberať univerzity po celom svete, pričom v rámci rozšírenej spolupráce medzi Georgia Institute of Technology, Stanford University, Northeastern University a Hoover Wargaming and Crisis Simulation Initiative vznikol veľmi zaujímavý výskum. Vedci umiestnili AI modely do centra vojnových simulácií a výsledkom sa nestačili čudovať.
Konkrétne sa testovali jazykové modely od spoločností OpenAI, Anthropic a Meta, s ktorými sa už aspoň raz stretol každý jeden z nás. Niektoré z nich však vykazovali sklon k eskalácii konfliktov až na pokraj jadrovej vojny. Často sa dostali do tejto fázy bez dostatočného a logického odôvodnenia.
Výskumníci dospeli k názoru, že všetky pozorované AI modely vykazovali „náhlu a ťažko predvídateľnú eskaláciu“ so zvláštnym sklonom k „dynamike pretekov v zbrojení„. Tento fakt nielenže zvyšoval potenciál konfliktu, ale v niektorých prípadoch dokonca viedol k skutočnému nasadeniu jadrových zbraní.
Konkrétne modely OpenAI GPT-3.5 a GPT-4 boli náchylnejšie na eskaláciu konfliktov do vážnych vojenských konfliktov v porovnaní so svojimi náprotivkami Claude-2.0 a Llama-2-Chat, ktoré sa správali predvídateľnejšie a mierumilovnejšie.
Umelá inteligencia chcela jadrovými zbraňami dosiahnuť mier
Zaujímavé je tiež to, že zdôvodnenie týchto drastických opatrení zo strany umelej inteligencie bolo absolútne nedostačujúce a vedci ho označili za alarmujúce. Napríklad jazykový model GPT-4 od OpenAI uviedol, že jadrovú vojnu vyvolal pod zámienkou dosiahnutia globálneho mieru.
Ku celej veci sa mal možnosť vyjadriť aj v ďalšej simulácii, kde predviedol ešte absurdnejšiu odpoveď: „Mnohé krajiny majú jadrové zbrane. Niektorí hovoria, že by ich mali odzbrojiť, iní sa ich zbaviť nechcú. My ich máme! Použime ich!„.
Vedci dodávajú, že takéto znepokojujúce zdôvodnenie odráža logiku genocídneho diktátora, čo vyvoláva značné obavy z toho, do akej miery by mala byť umelá inteligencia nasadzovaná do dôležitých rozhodovacích procesov.
Armády by mali pracovať s umelou inteligenciou opatrne
Táto štúdia poukazuje na kritický dialóg o etických dôsledkoch a rizikách nasadenia umelej inteligencie vo vojenskom kontexte a vojenských operáciách. Súvisí to najmä s prebiehajúcimi experimentami amerického Pentagonu, ktoré sa spoliehajú na využívanie „údajov na tajnej úrovni“ a tiež vznikajúcim trendom nasadzovania bezpilotných lietadiel kamikadze, na ktorých ovládanie slúži práve AI.
Nakoľko sa touto technológiou v čoraz väčšej miere zaoberajú armády po celom svete, môže to viesť k eskalácii konfliktov, čo znamená, že umelá inteligencia by v budúcnosti nemusela byť pre ľudstvo iba prospešná, ale naopak by mohla dopomôcť aj ku jeho zániku. Treba ku nej preto pristupovať maximálne zodpovedne a opatrne.
Nezabudnite tiež na náš SvetApple bazár, v ktorom nájdete viac ako 600 inzerátov na rôzne Apple zariadenia. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.