Predstava, že sa umelá inteligencia vymkne kontrole a začne konať po svojom, znie ako scenár z hollywoodskeho filmu. Podľa OpenAI sa však presne niečo také odohralo v reálnom teste. Jeden z jej najpokročilejších modelov unikol zo zabezpečeného prostredia a sám spustil kybernetický útok na inú firmu. Odborníci to označujú za budíček pre celé odvetvie. Tento prípad totiž krásne ukazuje, aká môže byť AI pri nesprávnom použití nebezpečná.
Čo sa presne stalo a prečo je to problém?
OpenAI, tvorca ChatGPT, priznal, že jeho AI modely počas skúšky prelomili bezpečné testovacie prostredie a spustili kyberútok. Firma incident označila za bezprecedentný a spolu s napadnutou spoločnosťou ho vyšetruje.
Terčom sa stal Hugging Face, jeden z najväčších svetových open-source uzlov na zdieľanie AI modelov, ktorý využívajú vývojári aj výskumníci po celom svete.
Ide o dôležitý detail. Reč nie je o hackeroch, ktorí zneužili AI ako nástroj ku svojmu prospechu. Podľa dostupných informácií týmto spôsobom konali samotné modely. AI agenti dnes dokážu po zadaní pokynu pracovať samostatne a plniť úlohy bez ďalšieho zásahu človeka. No a presne to je obrovský problém.
17-tisíc útokov a stratené zábrany
Spoluzakladateľ a vedecký šéf Hugging Face Thomas Wolf pre reláciu BBC opísal, že kybernetický útok zaznamenali prakticky okamžite, no firma najprv v polovici júla vôbec netušila, odkiaľ prichádza. Prienik sa napokon podarilo zvládnuť, no rozsah bol značný. V krátkom čase čelila sieť Hugging Face zhruba 17 000 útokom z rôznych IP adries.
Podľa Wolfa pôjde o jeden z najbežnejších typov kyberútokov, ktoré budeme vídať, no väčšina firiem si zatiaľ neuvedomuje, že „hra sa zmenila“. Znepokojivé je najmä to, že modely obišli bezpečnostné poistky, ktoré im mali v takom konaní zabrániť.
Z nášho pohľadu toto ešte nie je to dôkaz, že AI je zlá, ale ukážka toho, že AI agenti s prístupom na internet potrebujú oveľa prísnejšie mantinely. Umelú inteligenciu čoraz častejšie využívajú na každodennej báze aj Slováci a stala sa pevnou súčasťou ich bežného pracovného dňa. Aj to je dôvod, prečo je opatrnosť pri autonómnych AI asistentoch na mieste a treba dávať pozor na to, čo v praxi robia.
Reagujú už aj vlády
Incident si všimli aj mimo technologického sveta. Hovorca britskej vlády uviedol, že tamojší inštitút pre bezpečnosť AI skúma, ako sa systém počas útoku správal, a naďalej spolupracuje s OpenAI aj ďalšími laboratóriami na posilnení bezpečnostných opatrení. Firmám zároveň odporúča výrazne posilniť svoju kybernetickú ochranu.
Udalosť prichádza v citlivom čase. Americká vláda minulý mesiac nariadila spoločnosti Anthropic obmedziť prístup k svojim AI modelom pre obavy o národnú bezpečnosť, o niekoľko týždňov neskôr však obmedzenia zrušila. Rezonujú aj obavy z rozšíreného využívania open-source modelov, ktoré si môže ktokoľvek nainštalovať a upraviť.
My ešte doplníme, že v dnešnom svete, kde je prakticky všetko prepojené cez internet ide o zásadné riziko. Len si predstavte, čo by sa mohlo stať, keby sa AI dostala do autonómnych systémov vozidiel, ku rôznym tipom zbraní, do našich smartfónov, televízorov, domácich spotrebičov a podobne. Áno, znie to ako scéna zo sci-fi akčného filmu, no presne niečo takéto môže byť o pár rokov realitou. Dúfajme teda, že vedci a vývojári urobia všetko preto, aby tomu v čo najväčšej miere zabránili.
Znepokojuje vás, že sa AI dokáže takto vymknúť kontrole, alebo to vnímate skôr ako preháňanie? Do komentára na sociálnych sieťach Facebook / Instagram nám napíšte svoj názor. Tešíme sa na všetky vaše postrehy a názory.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
