Toto dôležité spoločné úsilie má za cieľ formovať zodpovedné a etické používanie umelej inteligencie v Kanade, ktoré by sa bez sprostredkovateľských opatrení mohlo stať nebezpečným.
V článku rozoberáme päť kľúčových aspektov týchto novo oznámených pravidiel, ktoré majú v nasledujúcom desaťročí ovplyvniť spôsob vývoja, implementácie a monitorovania UI v Kanade.
Dobrovoľný charakter
Kódex pravidiel je pre spoločnosti využívajúce umelú inteligenciu dobrovoľný, čo znamená, že nie je právne záväzný. Namiesto toho nabáda organizácie, aby sa riadili konkrétnymi usmerneniami, ktoré ich majú posunúť k etickému používaniu.
Absencia tejto právnej hrozby poskytuje spoločnostiam flexibilitu pri spôsobe presadzovania kódexu, čo mnohí vo svete podnikania budú považovať za pozitívum. Ponecháva však priestor pre kritiku v prípade, že niektoré subjekty využijú túto technológiu na neetické účely.
Dúfame však, že sa vytvorí kultúra zodpovedného používania umelej inteligencie, pričom spoločnosti budú chcieť ukázať, že sú transparentné a eticky zodpovedné.
Testy nezaujatosti
Testovanie nezaujatosti nie je nový koncept a existuje v rôznych odvetviach. Zoberme si ktorékoľvek online kasíno – určite sa nedávno podrobilo testovaniu nezávislými agentúrami. V reklame môžu firmy využívať testovanie nezaujatosti, aby sa uistili, že neudržiavajú stereotypy a neznevýhodňujú menšiny.
V oblasti umelej inteligencie však testovanie nadobúda potenciálne väčší význam. Nezaujatá UI má zásadný význam pri prevencii šírenia škodlivých stereotypov a ich potenciálnom negatívnom vplyve na menšinové skupiny. Testy nezaujatosti skúmajú algoritmy AI, aby sa uistili, že nie sú zaujaté. V prípade, že nájdu nejaké nezrovnalosti, nahlásia ich operátorovi, ktorý chybu odstráni.
Nový kanadský kódex zahŕňa testovanie nezaujatosti do svojho rámca, keďže sa zameriava na spravodlivosť a rovnosť v aplikáciách AI, čo väčšina používateľov ocení.
Okamžitá platnosť
Kódex vstúpil do platnosti ihneď po jeho zverejnení, čo bude na organizácie vyvíjať tlak, aby opatrenia urýchlene prijali.
Rôzne vlády po celom svete boli kritizované za pomalú reakciu na AI, najmä v USA, takže kanadská vláda chce ukázať, že to s rýchlou reformou myslí vážne.
To, ako rýchlo budú spoločnosti schopné aktualizovať svoj prístup k AI, je iná otázka a potenciálne môže spôsobiť komplikácie
Zmiernenie rizika
Každý, kto pristúpi na kódex, sa musí zaviazať, že prijme opatrenia na zníženie bezpečnostných rizík, čo znamená, že zabezpečí, aby sa systémy umelej inteligencie vyvíjali a prevádzkovali s ohľadom na bezpečnosť.
Cieľom je odstrániť potenciálne bezpečnostné hrozby už v zárodku zameraním sa na vývojárov zodpovedných za vytváranie nových funkcií AI. Bez tohto mechanizmu je pravdepodobnosť, že bude technológia použitá na nekalé účely, oveľa vyššia.
Nahlasovanie incidentov a opatrenia
Keď z akéhokoľvek dôvodu dôjde k núdzovej situácii, dostupnosť záchranných služieb je veľmi dôležitá.
To isté platí aj v prípade krízy umelej inteligencie. Nahlasovanie incidentov je neoddeliteľnou súčasťou kódexu a pomôže mu povinná inštalácia mechanizmov monitorovania UI. Tie musia okamžite nahlásiť akýkoľvek incident a sami podniknúť kroky na nápravu situácie ešte skôr, ako zasiahne pomoc zvonku.
Dôvera verejnosti v UI do veľkej miery závisí od toho, či sú organizácie schopné riešiť problémy spôsobené touto technológiou, a cieľom kódexu je poskytnúť veľkým firmám nástroje, ktoré im to umožnia.
Krok vpred
Nový kódex pravdepodobne vyvolá kritiku zo strany skeptikov v súvislosti s tým, že dostatočne nezmierňuje riziká umelej inteligencie, ale mnohí ľudia ho aj napriek tomu budú považovať za veľký krok vpred v oblasti regulácie UI.
Kanadská vláda nielenže vydala novú legislatívu rýchlo, ale tiež zabezpečila, aby organizáciám boli poskytnuté nástroje pre boj proti bezpečnostným hrozbám spôsobeným touto technológiou a na ich nahlasovanie. V súčasnosti sa zdá, že ide o jeden z najsilnejších regulačných krokov v tejto oblasti, aké boli do dnešného dňa podniknuté.
Je pravdepodobné, že podobné opatrenia po vzore Kanady skôr či neskôr prijmú aj iné veľké štáty.