Umelá inteligencia sa často prirovnáva k elektrine či internetu, no jej najvýkonnejšie modely majú jednu veľmi konkrétnu podmienku: potrebujú obrovské množstvo výpočtového výkonu. Veľkú časť z neho zabezpečujú čipy spoločnosti Nvidia. Jej šéf Jensen Huang preto dostal otázku, či by prestal dodávať hardvér zákazníkovi, ktorý by vyvíjal nebezpečný AI systém. Odpovedal, že áno.
Huang sa k téme vyjadril počas rozhovoru s Emily Chang z agentúry Bloomberg. Podľa neho by Nvidia zákazníka vyvíjajúceho nebezpečnú umelú inteligenciu od dodávok čipov odstrihla. Pred takýmto krokom by sa však s danou spoločnosťou najskôr pokúsila hovoriť a upozorniť ju na problém.
Nvidia by sa najskôr pokúsila zákazníka zastaviť rozhovorom
Znie to ako jasná poistka, lenže samotný Huang zdôraznil, že išlo o hypotetickú situáciu. Nvidia zároveň neriadi firmy, ktorým svoje produkty predáva, a jej akcelerátory sú všeobecne použiteľný hardvér. Rovnaké čipy môžu pomáhať pri medicínskom výskume, trénovaní jazykového modelu aj pri projekte, ktorého reálne riziká sa ukážu až neskôr.
Firma zatiaľ nepredstavila verejný kontrolný mechanizmus, zoznam zakázaných spôsobov použitia ani presnú hranicu, po ktorej by dodávky skutočne zastavila. Nie je teda jasné, kto by nebezpečnosť systému posudzoval a na základe akých dôkazov.
Jensen Huang považuje katastrofické obavy za prehnané
Huang pritom nepatrí medzi technologických lídrov, ktorí pred umelou inteligenciou pravidelne maľujú apokalyptické scenáre. Podľa správy Bloombergu považuje veľkú časť strachu za prehnanú a verí, že technológiu možno udržať pod kontrolou. V staršom rozhovore pre Axios zároveň varoval, aby rozvoj AI nespomaľovali predstavy pripomínajúce vedeckú fantastiku.
Jeho postoj má aj zrejmý obchodný kontext. Nvidia patrí medzi najväčších víťazov AI boomu a čím viac spoločnosti investujú do výpočtovej infraštruktúry, tým väčší priestor má na predaj svojich akcelerátorov. To automaticky neznamená, že Huang bezpečnostné riziká ignoruje. Znamená to však, že jeho optimizmus treba vnímať aj cez pozíciu firmy, ktorá na rýchlom nasadzovaní AI mimoriadne zarába.
Microsoft bije na POPLACH. Umelá inteligencia je regulovaná menej ako mlieko
Samotné zastavenie čipov by problém nevyriešilo
Aj keby Nvidia dodávky konkrétnej firme ukončila, neznamená to automaticky vypnutie jej AI. Vývojári môžu využívať prenajatý výkon v cloude, hardvér nakúpený cez partnerov, staršie zásoby alebo konkurenčné akcelerátory. S rastúcim počtom vlastných čipov od veľkých technologických spoločností sa navyše moc jedného dodávateľa môže postupne zmenšovať.
Huangovo vyjadrenie predstavuje dôležitý signál, no nie hotovú bezpečnostnú politiku. Ochrana pred nebezpečnou AI nemôže závisieť iba od osobného rozhodnutia generálneho riaditeľa súkromnej spoločnosti. Potrebné sú merateľné testy, zmluvné pravidlá, nezávislý dohľad a jasná zodpovednosť pri zlyhaní. Súhlasili by ste s tým, aby výrobca čipov rozhodoval, ktorá AI je už príliš nebezpečná? Napíšte nám na Facebook alebo Instagram.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
