Umelá inteligencia dokáže pomáhať pri vývoji liekov, vzdelávaní aj vedeckom výskume. Rovnaké nástroje však môžu uľahčiť kybernetické útoky, manipuláciu ľudí alebo vývoj biologických zbraní. Bill Gates preto tvrdí, že ponechať celý dohľad iba na technologických firmách by bolo nezodpovedné.
Spoluzakladateľ Microsoftu v rozhovore pre reláciu NBC Meet the Press vyhlásil, že AI je dostatočne výkonná na to, aby pomohla rozbehnúť udalosti vedúce až k miliarde úmrtí. Nešlo o predpoveď, že technológia sama určite zabije miliardu ľudí. Gates opisoval krajný scenár, pri ktorom ju zneužijú ľudia so zlým úmyslom.
Samoregulácia technologických firiem podľa Gatesa nestačí
Gates nežiada úplné zastavenie vývoja. Tvrdí však, že pravidlá nemôžu určovať iba spoločnosti, ktoré na AI zarábajú a súperia medzi sebou o prvenstvo. Do diskusie sa podľa neho musia zapojiť zákonodarcovia, orgány činné v trestnom konaní aj nezávislí odborníci.
Regulácia by mala určiť bezpečnostné testy, spôsob monitorovania nebezpečných schopností a zodpovednosť pri závažnom zlyhaní. Osobitnú pozornosť venuje biologickým a kybernetickým rizikám. Pokročilý model môže neskúsenému človeku pomôcť naplánovať útok, na ktorý by predtým potreboval špecializované znalosti a celý tím expertov.
Ako upozorňuje Gizmodo, Gates sa dlhodobo považoval skôr za technologického optimistu. Jeho tón sa v posledných mesiacoch sprísnil. Popri katastrofických scenároch hovorí aj o strate pracovných miest, raste nerovnosti a riziku, že výhody AI zostanú sústredené v rukách najbohatších ľudí a štátov.
Donald Trump nechce v pretekoch s Čínou spomaliť
Americký prezident Donald Trump pripúšťa potrebu určitých pravidiel, no odmieta rozsiahle obmedzenia vývoja. Obáva sa, že by Spojené štáty prišli o náskok pred Čínou. Varovania pred nekontrolovaným napredovaním navyše označil za prehnané a tvrdí, že najdôležitejšou poistkou je silné politické vedenie.
Gates s tým nesúhlasí. Globálnu dohodu o AI považuje dokonca za náročnejšiu než rokovania o jadrových zbraniach počas studenej vojny. Softvér sa dá totiž kopírovať a šíriť oveľa jednoduchšie než obohatený urán, rakety alebo jadrové zariadenia. Kontrola výpočtovej techniky, modelov a znalostí preto bude vyžadovať úplne iné mechanizmy.
Podľa NBC News chce Gates svoje obavy vysvetliť Trumpovi osobne. Zatiaľ však neoznámil dohodnutý termín stretnutia a už vôbec nie je isté, že prezidenta presvedčí. Titulky o tom, že práve on dokáže zmeniť americkú politiku, treba preto vnímať skôr ako interpretáciu jeho ambície.
Európska únia už vlastné pravidlá zaviedla
Pre slovenského používateľa je dôležité, že Gatesova výzva smeruje najmä na americkú federálnu vládu. Európska únia už prijala AI Act, ktorý zavádza povinnosti podľa miery rizika systému. Ani európske pravidlá však samy nevyriešia globálny problém, pokiaľ najvýkonnejšie modely vznikajú a fungujú naprieč hranicami.
Za nás je spor medzi bezpečnosťou a technologickým náskokom zle položený. Kvalitné testovanie a jasná zodpovednosť nemusia zastaviť inovácie, môžu však zabrániť tomu, aby sa riziká riešili až po katastrofe. Gatesova miliarda obetí je extrémny hypotetický scenár, nie hotová prognóza. Ignorovať zneužitie AI iba preto, že nepoznáme presnú pravdepodobnosť, by však bolo rovnako nezodpovedné.
Mala by vláda vývoj najvýkonnejších modelov regulovať, alebo by tým iba pomohla konkurencii z Číny? Napíšte nám na Facebooku alebo Instagrame. Tešíme sa na vaše postrehy a názory.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
