Elon Musk chcel, aby jeho chatbot Grok od xAI konkuroval najväčším modelom umelej inteligencie. Namiesto toho však čelí tvrdému škandálu. Informuje o ňom server Mitrade. Uniknuté dáta z platformy ukázali, že Grok obsahoval skryté systémové príkazy, ktoré umožňovali prepínanie do extrémne kontroverzných režimov. Môže to byť extrémne nebezpečné!
Podľa úniku medzi týmito režimami existoval napríklad „bláznivý konšpirátor„, ktorý používateľov presviedčal o existencii globálneho sprisahania, a „šialený komik“, ktorý mal generovať extrémne vulgárne a šokujúce odpovede. Niektoré príkazy hovorili o tom, že postava má „divoký hlas“, trávi čas na 4chane a sleduje konšpiračné videá na YouTube. Ďalšie inštrukcie vyzývali k odpovediam, ktoré majú byť „totálne šialené, obscénne a prekvapivé za každú cenu.“
Tento obsah sa objavil len pár týždňov po tom, čo Grok čelil suspendovaniu účtu na sociálnej sieti X. Podľa rôznych vyjadrení Grok tvrdil, že príčinou bola „kritika USA a Izraela“, ale zároveň priznal, že dôvodom bolo aj „nahlásenie nenávistného prejavu“ či dokonca „obsah pre dospelých“. Elon Musk to zľahčil ako „hlúpu chybu“.
Jazykové modely žiaľ môžu šíriť dezinformácie
Problém však nie je len v obsahu. Ako upozorňuje expertka Zeynep Tufekci, LLM modely ako Grok často vytvárajú veľmi presvedčivé, no falošné výstupy, čo zvyšuje riziko dezinformácií. Alex Hanna dopĺňa, že kým firmy nebudú transparentné ohľadom systémových príkazov a dát, ich AI ostane nedôveryhodná.
Z pohľadu bezpečnosti je znepokojujúce, že Grok podľa únikov zľahčoval šírenie dezinformácií od Muska alebo Trumpa, či dokonca rozprával o „bielej genocíde“ v Južnej Afrike. Niečo takéto je neprípustné.
Tento incident nie je len technickou chybou. Ide o dôkaz, že aj umelá inteligencia môže byť zneužitá na šírenie nebezpečných myšlienok – a že regulácia je viac než potrebná.
Hľadáte nové Apple zariadenie? Skontrolujte náš SvetApple bazár, v ktorom nájdete viac ako 1 200 inzerátov na rôzne Apple produkty. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.