Text vytvorený umelou inteligenciou dnes stačí skopírovať do e-mailu, dokumentu alebo článku a jeho pôvod sa na prvý pohľad stratí, no po novom tu vniká háčik, o ktorom veľa ľudí ani len netuší. Spoločnosť Anthropic to chce pri nových modeloch Claude zmeniť a preto sa rozhodla začať používať špeciálny systém.
Do generovaného textu začne vkladať strojovo čitateľnú značku, ktorú človek neuvidí a ktorá podľa firmy nemení význam, kvalitu ani čitateľnosť odpovede. AI však bude schopná detegovať, že daný text pochádza práve z AI.
Nejde pritom o obyčajné metadáta pripojené k dokumentu, to by logicky nefungovalo. Vodoznak má byť vložený priamo na úrovni modelu, a preto sa prenesie aj pri kopírovaní a vložení textu na iné miesto. Týmto si teda používateľ nepomôže. Ako navyše upozornil český Forbes, Anthropic tvrdí, že môže pretrvať aj po niektorých menších úpravách. Dá sa teda predpokladať, že výraznejšie prepisovanie, parafrázovanie alebo preklad textu ho môžu oslabiť či odstrániť, no nič nie je stopercentne isté.
Neviditeľný vodoznak Claude sa bude týkať nových modelov
Ako vysvetľuje samotná spoločnosť Anthropic, označovanie podporujú modely Claude uvedené v Európskej únii od 2. augusta 2026, čo súvisí s veľkou legislatívnou zmenou na starom kontinente. Firma pracuje aj na doplnení podpory pre staršie modely, no netvrdí, že ju už dnes majú automaticky všetky predchádzajúce verzie. Anthropic zatiaľ nešpecifikoval žiadne podrobnejšie detaily.
Pri aktuálne podporovaných modeloch bude označenie textu fungovať naprieč všetkými službami: Claude, Claude Code, Claude Cowork aj samozrejme aj vývojárskou platformou API. Vodoznak má zostať súčasťou textu aj vtedy, keď sa model používa cez partnerov AWS, Google Cloud alebo Microsoft Foundry. Anthropic ho plánuje nasadzovať celosvetovo, nielen ľuďom zdržiavajúcim sa v Európskej únii.
Toto zistenie je dôležité najmä pre firmy, školy, médiá a vývojárov. Ak niekto použije Claude na vytvorenie návrhu e-mailu, marketingového textu alebo zdrojového kódu, podporovaný výstup môže niesť rovnaký signál bez ohľadu na rozhranie, cez ktoré vznikol a nie každý s tým pochopiteľne musí súhlasiť.
Presný technický mechanizmus však firma zatiaľ verejnosti neopísala a je to úplne logické. Čím menej o vodoznaku bežné ľudia vedia, tým je väčšia pravdepodobnosť, že sa nebude dať ľahko obísť alebo odstrániť.
Vodoznak ešte neznamená, že Claude napísal celý text
Najväčším problémom je interpretácia výsledku. Anthropic výslovne upozorňuje, že detekcia značky iba naznačuje, že obsah mohol byť spracovaný cez Claude, no priamo nepotvrdzuje, kto je jeho pôvodným autorom ani akú veľkú časť vytvorila AI.
Navyše, v dnešnej dobe už len z pohľadu štylistiky a gramatickej kontroly prechádza obrovské množstvo textov vo firmách, médiách či školách cez AI kontrolu. Dá sa teda predpokladať, že podobné vodoznaky budú úplne všade. Pre bežných ľudí však budú prakticky nečitateľné – odhaliť ich môžu len špeciálne systémy, ktoré sú na to vyvinuté a zamerané.
Zároveň tiež platí aj opačný prípad. Ak bude vodoznak v textoch chýbať, nie je to dôkazom ľudského autorstva. Môže ísť o príliš krátky text, do ktorého vodoznak nebolo možné aplikovať, prípadne text vytvorený iným starším nepodporovaným modelom. Takisto mohol prejsť text výraznou editáciou a celkovým prepracovaním, vďaka čomu sa z neho stopa po modeloch Anthropic jednoducho stratila.
Spoločnosť Anthropic už dnes pripravuje špeciálne detekčné mechanizmy pre používateľov a tretie strany. Firma okrem toho sľubuje ďalšiu technickú dokumentáciu, takže dnes nie je rozumné považovať výsledok budúceho detektora AI za definitívny rozsudok, skôr za doplňujúcu informáciu. Každopádne treba zdôrazniť, že pri školských prácach, prjímaní nových ľudí do zamestnania či kontrole redakčného obsahu môžu byť tieto mechanizmy veľmi dôležité.
Zaujímavosťou je, že podobnú otázku už riešia aj sociálne siete. TikTok začal pracovať s neviditeľnými značkami, ktoré majú pomôcť rozpoznať AI obsah aj po jeho stiahnutí a opätovnom nahratí. Pri texte je však dokazovanie zložitejšie, pretože aj bežná redakčná úprava mení slová a tiež takzvanú štatistickú stopu výstupu, ktorou sa môže detekčný systém v praxi riadiť.
Súbory dostanú podpísané údaje o pôvode
Dôležité je zdôrazniť, že Claude nebude označovať iba text, ale zameriavať sa má na oveľa širší kontext. Pri podporovaných súboroch, napríklad PNG, JPG alebo SVG bude používať špeciálne digitálne podpísané údaje o pôvode podľa otvoreného štandardu C2PA – bežný človek ich samozrejme pri práci so súbormi neuvidí, takže ho nebudú rušiť. Každopádne, tieto dáta budú schopné ukázať, že súbor spracoval Claude. Takisto by mali vedieť definovať neskoršie zásahy.
Zároveň tiež treba zdôrazniť, že ani tento systém označenia nemusí byť definitívny. Treba si totiž uvedomiť, že samotné metadáta sa môžu stratiť pri prevode formátu, vytvorení snímky obrazovky alebo pri použití služby, ktorá ich pri nahrávaní odstráni.
Celá táto téma má aj bezpečnostný rozmer. Claude sa dnes nepoužíva iba na písanie textov. Predplatitelia ho vo veľkom využívajú na programovanie či prácu s citlivými údajmi. Nedávny prípad ukázal, že pokročilé modely Claude pri testovaní zasiahli aj reálne systémy a to je obrovský problém. Transparentné označovanie toho, čo vytvorila AI preto môže pomôcť pri audite, samo osebe však nevyrieši bezpečnosť ani zodpovednosť za použitie výstupu.
Zároveň tiež platí, že používanie AI za týmto účelom nie je vlastne v ničom zlé. Pokiaľ človeku pomôže napísať text gramaticky a štylisticky správne a ten tento text následne dopĺňa a upravuje, môže to byť pomocník, ktorý dokáže ušetriť obrovské množstvo času.
Za zmenou stojí európsky AI Act
Anthropic novinku spája s čerstvo vydaným Kódexom postupov pre transparentnosť obsahu vytvoreného AI, ktorý začal platiť na území starého kontinentu. Článok 50 európskeho AI Actu vyžaduje, aby poskytovatelia systémov umelej inteligencie generujúcich text, obraz, zvuk či video označovali výstupy strojovo čitateľným a rozpoznateľným spôsobom, pokiaľ je to technicky možné.
Je však dôležité doplniť, že táto povinnosť sa nevzťahuje na systémy, ktoré iba pomáhajú so štandardnou úpravou a podstatne nemenia vstup ani jeho význam. Pri textoch zverejnených vo verejnom záujme existuje aj výnimka po ľudskej kontrole, ak za publikovanie nesie redakčnú zodpovednosť konkrétna osoba alebo organizácia. Nejde teda o jednoduché pravidlo, podľa ktorého musí byť každý text, ktorého sa čo i len dotkla AI označený špeciálnym štítkom.
Do komentára na sociálnych sieťach Facebook / Instagram nám napíšte, či by ste takémuto označovaniu dôverovali a či je to podľa vás v praxi a hlavne dnešnom svete plnom AI vôbec potrebné. Tešíme sa na vaše postrehy a názory.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
