Keď dnes požiadate ChatGPT, Claude alebo Gemini o pomoc s e-mailom, zvyčajne medzi nimi riešite iba to, ktorý odpovie lepšie. Firmy za týmito službami však súťažia aj v oveľa vážnejšej disciplíne: kto ako prvý vyvinie najvýkonnejší model umelej inteligencie. Práve toto tempo začína znepokojovať aj samotných lídrov odvetvia.
Bezpečnosť umelej inteligencie už preto nerieši každá firma len sama za seba. OpenAI potvrdila, že niekoľko týždňov rokuje s Anthropicom a Google DeepMind o spoločnom postupe, ktorý má zabrániť katastrofickým scenárom, pred ktorým varujú vedci ale aj experti z odvetvia. Ide o pozoruhodný krok, pretože všetky tri spoločnosti medzi sebou tvrdo súperia o používateľov, vývojárov aj zákazky. Motiváciou mohol byť aj nedávny výrok bývalého zamestnanca spoločnosti Anthropic, ktorý sa tesne pred povýšením vzdal podielu v spoločnosti a odišiel, pretože sa reálne obáva, že AI môže do desiatich rokov zničiť ľudstvo.
OpenAI hovorí o rokovaniach, nie o hotovej dohode
Podľa TechCrunch sa podarilo potvrdiť, že všetjky tri laboratóriá komunikujú o bezpečnosti už celé týždne. Médiá zároveň informujú o úvahách nad spoločným orgánom, ktorý by pomohol stanoviť pravidlá pre najpokročilejšie modely. Je však dôležité nezamieňať rozhovory s výsledkom: firmy zatiaľ nepredstavili definitívny plán, právne záväznú dohodu ani konkrétny dátum vzniku takejto organizácie.
Do popredia sa dostáva najmä nezávislé hodnotenie modelov. Sam Altman z OpenAI podporil návrh šéfa Anthropicu Daria Amodeia, aby externí experti získali dostatočný prístup k systémom a mohli overovať, či firmy naozaj dodržiavajú vlastné bezpečnostné pravidlá.
Nejde teda len o to, aby spoločnosti zverejnili pekne napísaný dokument. Niekto mimo nich by musel mať možnosť preveriť aj praktické fungovanie ochranných mechanizmov.
Prečo sa konkurenti začali rozprávať práve teraz?
Amodei nedávno zverejnil výzvu na spomalenie vývoja najpokročilejšej AI. Varoval, že schopnosti modelov môžu rásť rýchlejšie než ich testovanie a kontrola. V krajnom prípade by podľa neho výkonnejší autonómni agenti mohli samostatne organizovať kybernetické útoky vo veľkom rozsahu. Je to rizikový scenár, nie potvrdená predpoveď, že sa tak určite stane. Každopádne ide o potenciálne riziko, pred ktorým nesmieme zatvárať oči.
Nejde pritom len o vzdialenú úvahu. Na SvetApple.sk sme nedávno písali o prípadoch, v ktorých útočníci zneužili Claude pri práci na zbraniach, škodlivom softvéri a ďalších rizikových projektoch. Spoločnosť tieto aktivity identifikovala a účty zablokovala. Prípad však ukazuje, že bezpečnosť už nie je iba filozofická debata o budúcej superinteligencii.
Zároveň sa ozvali ľudia zvnútra AI laboratórií. Výskumníci po odchode z Anthropicu a Google DeepMind verejne vyjadrili obavy, že preteky medzi firmami odsúvajú bezpečnostnú prácu na druhú koľaj. Spoločná diskusia konkurentov tak prichádza v čase rastúceho tlaku zamestnancov, médií aj politikov.
Spoločné pravidlá môžu pomôcť, no nesmú zabiť konkurenciu
Práve tu sa začína najťažšia časť. Ak sa veľké firmy dohodnú na bezpečnostných testoch a vzájomnom oznamovaní vážnych incidentov, môže to znížiť riziko, že jedna z nich preskočí dôležitú kontrolu len preto, aby predbehla konkurenta. Takáto koordinácia by pomohla aj používateľom na Slovensku, ktorí tieto služby každodenne používajú v práci, škole alebo pri podnikaní.
Na druhej strane nesmie spolupráca slúžiť ako zámienka na uzavretie trhu pred menšími hráčmi. Technologickí giganti by si pri príliš širokej dohode mohli určovať pravidlá, ktoré sami ľahko splnia, no začínajúce firmy nie. Diskutuje sa preto aj o protimonopolných hraniciach.
Za nás je správne, že OpenAI, Anthropic a Google DeepMind hľadajú spoločný základ. Skutočnú hodnotu však bude mať až overiteľný výsledok: nezávislé testy, jasné pravidlá pri vážnom incidente a verejne kontrolovateľné záväzky. Samotné stretnutie konkurentov ešte bezpečnejší ChatGPT, Claude ani Gemini nezaručuje. Verili by ste spoločným bezpečnostným pravidlám vytvoreným samotnými AI firmami? Napíšte nám do komentára na Facebooku alebo Instagrame.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. 📱
