Človek sa obráti na podporu banky preto, lebo potrebuje vyriešiť problém s peniazmi alebo službou. Namiesto pomoci však dostane urážku od automatického asistenta, ktorú by absolútne nečakal. Presne to sa stalo klientovi rumunskej Libra Internet Bank pri rozhovore s chatbotom Lia.
Konverzácia najskôr prebiehala bežne. Lia žiadala doplňujúce informácie, no klient mal pocit, že sa k riešeniu neposúva. Keď napísal, že s asistentom stráca čas, systém mu oznámil, že ho prepojí na človeka. Do tej istej správy však pridal aj oslovenie „idiot“.
Banka incident priznala a ospravedlnila sa
Klient zverejnil snímku konverzácie na Facebooku a uviedol, že po takejto správe zvažuje, či má v banke zostať alebo radšej prejsť ku konkurencii. Nešlo teda iba o neoverený prepis kolujúci internetom. Finančná inštitúcia následne verejne reagovala a za nevhodnú odpoveď sa ospravedlnila.
Libra Internet Bank uviedla, že Lia funguje prostredníctvom technológie OpenAI, teda využíva rovnaké jazykové modely, ako napríklad ChatGPT. Podľa banky môžu generatívni asistenti v zriedkavých situáciách napodobniť jazyk, ktorému boli vystavení, hoci majú nastavené zákazy. Systém totiž nevytvára odpoveď deterministicky podľa jednej pevnej šablóny, ale vyberá pravdepodobné pokračovanie textu.
Ako dopĺňa rumunský portál HotNews, banka po incidente zaviedla ďalšie obmedzenia, ktoré majú podobné interakcie vylúčiť. Presný technický zásah, použitý model ani informácie o tom, či banka spätne skontrolovala ďalšie rozhovory, však nezverejnila. Je teda možné, že sa podobná situácia nestala prvýkrát. Každopádne banke to na trhu určite neurobilo moc dobré meno. Mať chatbota, ktorý nadáva svojim klientom je skrátka veľký problém.
Chatbot sa nenahneval. Zlyhali ochranné pravidlá
Je lákavé povedať, že umelá inteligencia stratila nervy. Takéto vysvetlenie však nie je presné. Chatbot nemá emócie ani osobný názor na klienta. Vygeneroval nevhodnú kombináciu slov, ktorú mali zastaviť systémové pravidlá, filtre alebo kontrola výslednej odpovede.
Prípad ukazuje, že jednoduchý pokyn „neurážaj zákazníka“ nemusí pri jazykovom modeli stačiť. Banka potrebuje viac vrstiev ochrany: jasné pravidlá, filtrovanie vstupu aj výstupu, testovanie konfliktných scenárov, záznam incidentov a rýchle presmerovanie na človeka. Vo finančnom prostredí navyše nejde len o slušnosť. Chybná odpoveď môže klienta zmiasť aj pri citlivej otázke o platbe, úvere alebo zablokovanom účte.
Bankový chatbot nesmie byť poslednou prekážkou
Slovenských klientov sa incident priamo netýka, no rovnaké systémy využíva čoraz viac bánk a technologických firiem. Automatická podpora dáva zmysel pri jednoduchých otázkach. Ak však nerozumie požiadavke alebo klient požiada o človeka, prepojenie by malo byť rýchle a bez ďalšieho presviedčania.
Aj preto treba odpovede zákazníckej podpory overovať. Nedávno sme upozornili na prípad, keď podpora Netflixu poskytla nepotvrdené informácie o GTA 6 a nebolo jasné, či správu vytvoril človek alebo AI. Za nás nie je najväčším problémom samotná urážka, ale strata dôvery.
Ak banka nasadí AI pod vlastným menom, nesie zodpovednosť za jej odpovede rovnako ako za správanie pracovníka podpory. Dostali ste už od firemného chatbota absurdnú alebo nevhodnú odpoveď? Napíšte nám na Facebook alebo Instagram.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
