Skopírovať odpoveď z ChatGPT a vydávať ju za vlastnú prácu môže byť čoskoro o niečo riskantnejšie, než kedykoľvek predtým. Spoločnosť OpenAI totiž oznámila, že v nasledujúcich týždňoch začne v Európskej únii pridávať do oprávnených textových výstupov služby ChatGPT a nástroja Codex technológiu textGrain, ktorá pripomína nedávno zavedené riešenei spoločnosťou Anthropic pre jej Claude. Platiť má pre všetky používateľské programy, takže zmena sa dotkne aj Slovákov. Čo však bude v praxi znamenať?
Podľa prvotných zistení nejde o riešenie, ktoré spoľahlivo odhalí každý text vytvorený umelou inteligenciou. Vodoznak má množstvo obmedzení a OpenAI zároveň upozorňuje, že jeho prítomnosť ani neprítomnosť nemožno používať ako jediný dôkaz pri hodnotení študenta, zamestnanca či autora príspevku.
Vodoznak v ChatGPT nebude ukrytý znak v texte
Technológia textGrain nevkladá do odpovede neviditeľné znaky, zvláštne medzery, interpunkciu ani dodatočné tokeny tak, ako by ste si možno mohli myslieť. Jej princíp je úplne iný. V praxi vytvára štatistický vzorec vo výbere slov, ktorý špecializovaný detektor dokáže neskôr samostatne rozpoznať. Ak používateľ vygenerovaný text iba skopíruje do dokumentu alebo na web, jeho slovné znenie a s ním aj signál zostanú zachované.
Podľa oficiálneho oznámenia OpenAI nemá nasadenie technológie merateľne zhoršovať kvalitu odpovedí. To nei je jeho účel. Pri 200-tokenovom texte dosiahla v jednom zverejnenom hodnotení približne 80 % úspešnosť detekcie, pri 400 tokenoch približne 95 %. Miera falošných pozitívnych výsledkov bola nastavená na jedno percento. V bežnej praxi však výsledok závisí od dĺžky, typu textu aj následných úprav. Neviditeľná stopa navyše neznamená, že sa ku každému odseku pripojí meno používateľa alebo jeho účet.
Krátke odpovede a programovací kód dostanú výnimku
OpenAI spresňuje, že technológia textGrain sa nebude uplatňovať na výstupy kratšie než 200 tokenov, čo zodpovedá približne 150 anglickým slovám. Výnimku majú aj úryvky programovacieho kódu, pri ktorých je priestor na prirodzené zmeny slov veľmi obmedzený.
Veľkou slabinou pre textGrain je v tomto prípade prepisovanie. Podľa najnovších zistení už len výmena desiatich percent slov synonymami v teste znížilo schopnosť detekcie z približne 92 na 66 %, čo je obrovský rozdiel. Pri výmene 25 % slov klesla len na 17 %. Signál môže výrazne narušiť aj kvalitná parafráza, prípadne preklad do iného jazyka.
Bežní používatelia si text zatiaľ sami neoveria
Zaujímavé je, že spoločnosť OpenAI pri spustení neponúkne detektor bežnej verejnosti. Prístup majú najskôr dostať schválení odborníci, výskumníci a niektoré organizácie. Verejný nástroj OpenAI Verify zatiaľ overuje vybrané obrázky a zvuky, nie bežné textové odpovede z ChatGPT.
Vo vodoznaku sa zároveň nenachádzajú žiadne osobné údaje, pôvodný prompt ani dáta o účte. Neprezradí, kto je autorom textu, či je fakticky správny alebo koľko práce doň vložil človek a koľko stoj. A ak sa stopa nenájde, automaticky to neznamená, že obsah napísal človek. Hlavne v dnešnej dobe si treba uvedomiť, že obrovské množstvo textov prechádza cez AI. Dôležité ale je, aby si ich človek následne prečítal, prípadne ich upravil.
Za nás ide o dôležitý signál, ktorý môže sťažiť bezmyšlienkovitú tvorbu dlhých textov bez následného overenia. Určite to ale neznamená, že sa dočkáme definitívneho konca podvádzania. Školy ani zamestnávatelia by preto nemusia zvažovať rýzne kroky iba podľa výsledku tohto detektora. Pomôže podľa vás neviditeľný vodoznak, alebo ho používatelia rýchlo obídu? Napíšte nám na Facebook alebo Instagram.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
