Spoločnosť Anthropic, jeden z hlavných konkurentov OpenAI, prichádza s rozsiahlou aktualizáciou svojich používateľských podmienok. Nové pravidlá, ktoré vstúpia do platnosti 12. novembra, prinášajú pomerne neobvyklú novinku. Používatelia už nebudú môcť model Claude vystavovať opakovanému a bezdôvodnému krutému správaniu. Okrem ochrany samotnej AI však Anthropic výrazne sprísňuje pravidlá v oblasti dezinformácií, autonómnych zbraní či doxxingu.
Umelá inteligencia sa vyvíja nevídaným tempom a s jej rastúcimi schopnosťami prichádzajú aj nové etické a bezpečnostné výzvy. Najviac pozornosti pútajú pravidlá zamerané na správanie samotných používateľov voči jazykovému modelu. Anthropic po novom výslovne zakazuje sústavné a bezdôvodné ubližujúce alebo kruté správanie voči modelu Claude.
Kedy vám Claude ukončí konverzáciu?
Spoločnosť zdôrazňuje, že toto pravidlo sa bude uplatňovať výhradne v extrémnych prípadoch, kedy používatelia bez akéhokoľvek rozumného dôvodu opakovane konajú kruto. Pravidlo sa samozrejme nevzťahuje na bežnú frustráciu používateľa, kritickú spätnú väzbu, temnejšie tvorivé témy ani na výskum a testovanie modelov.
Hlavným nástrojom na vynútenie tohto pravidla zostáva schopnosť samotného modelu konverzáciu jednoducho ukončiť. Ak Claude chat ukončí, používateľ už v danom vlákne nemôže posielať ďalšie správy, pričom ostatné konverzácie zostanú nedotknuté.
Tento krok nadväzuje na výskum z roku 2025, kedy Anthropic zistil, že pokročilý model Claude Opus 4 vykazuje silnú a konzistentnú averziu voči škodlivému správaniu. Model prejavoval jednoznačný odpor k nebezpečným úlohám a vykazoval znaky nevoľnosti pri komunikácii s používateľmi, ktorí vyhľadávali toxické rozhovory.
Zákaz dezinformačných kampaní a zásahov do volieb
Nové podmienky spájajú viaceré doterajšie klauzuly do prehľadnejších sekcií a reagujú na odhalené siete štátnych médií, vládnych propagánd či komerčných firiem, ktoré využívali model Claude na spravovanie fiktívnych účtov a tvorbu falošných správ.
- Klamlivé kampane: Nová sekcia striktne zakazuje politické a komerčné podvody, generovanie falošných recenzií, tzv. astroturfing (vytváranie dojmu prirodzenej ľudskej podpory), tvorbu podvodných webov či boti vystupujúci ako reálni ľudia.
- Voľby: Prísnejšie pravidlá zakazujú akékoľvek zavádzanie voličov alebo zasahovanie do priebehu volieb.
- Zbrane a drony: Claude sa po novom nesmie používať na vývoj softvéru pre zbrane, úpravu biologických či chemických látok za účelom zvýšenia ich smrteľnosti, a rovnako je zakázané jeho využitie na ozbrojovanie dronov a bezpilotných systémov.
- Policajné zložky a sledovanie: AI model nemôže rozhodovať ani odporúčať, kto má byť vyšetrovaný, zatknutý či obvinený. Platí tiež úplný zákaz vytvárania nástrojov na sledovanie osôb bez ich súhlasu a doxxing (odhaľovanie súkromných údajov).
- Fyzické akcie a nebezpečný hardvér: Ak bude Claude ovládať hardvér, ktorý by mohol niekomu ublížiť, na proces musí dohliadať kvalifikovaná osoba s možnosťou kedykoľvek ho zastaviť.
- Škodlivý obsah: Pribudol aj zákaz tvorby, zdieľania či vyhrážania sa zdieľaním intímneho obsahu vytvoreného bez súhlasu dotknutej osoby.
Nové pravidlá vstúpia do platnosti 12. novembra a ich cieľom je vytvoriť bezpečné prostredie pred zneužitím generatívnej AI na celosvetovej úrovni. Čo hovoríte na to, že AI dokáže sama ukončiť rozhovor, ak sa k nej používateľ správa neprimerane? Dajte nám vedieť v komentároch na Instagrame alebo na Facebooku.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
