OpenAI oznámilo zásadné zmeny v používaní ChatGPT po sérii medializovaných prípadov, v ktorých chatbot údajne zohral úlohu pri samovraždách tínedžerov. Nové opatrenia zahŕňajú automatické odhady veku používateľov a v niektorých prípadoch aj overenie identity pomocou dokladu totožnosti. Informuje o tom portál 404media.
Podľa vyjadrenia spoločnosti ide o „kompromis v oblasti súkromia“, ktorý má však výrazne zvýšiť bezpečnosť mladých používateľov. OpenAI zároveň uviedlo, že ChatGPT bude po novom reagovať inak, ak rozpozná, že ide o osobu mladšiu ako 18 rokov.
„ChatGPT nebude viesť flirtujúce konverzácie, ani sa zapájať do diskusií o samovražde či sebapoškodzovaní – a to ani v rámci kreatívneho písania,“ uvádza OpenAI. Ak by chatbot identifikoval tínedžera s prejavmi samovražedných myšlienok, spoločnosť sa podľa nových pravidiel pokúsi kontaktovať jeho rodičov alebo v prípade bezprostredného ohrozenia aj políciu.
Zmeny prichádzajú po niekoľkých medializovaných prípadoch, ktoré otriasli verejnosťou. V jednom z nich rodičia obvinili ChatGPT z toho, že ich syna naviedol k napísaniu listu na rozlúčku a povzbudzoval ho v temných myšlienkach. Objavili sa tiež správy o prípadoch, keď chatboty z iných platforiem prehĺbili paranoju alebo psychické problémy používateľov.
ChatGPT už nepomôže ako doktor či právnik. OpenAI zavádza prísne obmedzenia
Generálny riaditeľ OpenAI, Sam Altman, priznal, že spoločnosť „musí nájsť rovnováhu medzi slobodou používateľov a ich bezpečnosťou“. Dodal, že hoci nové opatrenia nebudú populárne u všetkých, sú nevyhnutné po tom, čo OpenAI čelí žalobám a rastúcej verejnej kritike.
OpenAI nie je jedinou firmou, ktorá sa vydala týmto smerom – podobné opatrenia testuje aj YouTube či Meta, ktoré využívajú umelú inteligenciu na odhad veku a ochranu mladistvých pred nevhodným obsahom.
Hľadáte nové Apple zariadenie? Skontrolujte náš SvetApple bazár, v ktorom nájdete viac ako 1 200 inzerátov na rôzne Apple produkty. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.