Microsoft publikuje pokyny pre vývojárov vytvárajúcich digitálnych asistentov

Spoločnosť Microsoft vydala súbor pokynov, ktoré majú pomôcť vývojárom vybudovať „zodpovedných“ digitálnych asistentov. Prijímanie konverzačných rozhraní rastie v dôsledku rýchlych zlepšení základných technológií. Zohľadňovanie etických otázok však napreduje pomalším tempom.

Microsoft uviedol, že cieľom týchto pokynov je pripomenúť vývojárom, že ich produkty môžu byť použité spôsobom, ktorý nie je vždy možné predvídať. Hoci etický dizajn bol vždy dôležitý pre technologický priemysel, je obzvlášť dôležitý v prípade konverzačných rozhraní.

Microsoft použil príklad robota na objednávanie pizze. Služba by mala byť navrhnutá tak, aby uľahčila objednávanie pizze s minimálnou náchylnosťou na rozptyľovanie používateľov. Ak sa používateľ pokúša diskutovať o „citlivých témach“, ako je rasa, pohlavie, náboženstvo alebo politika, služba by sa mala zdržať toho, aby sa zapojila takmer rovnakým spôsobom, ako by to urobil ľudský server na pizzu. V opačnom prípade by akékoľvek zaujatosti v algoritmoch robota mohli viesť k tomu, že sa od zákazníka naučí nežiaduce správanie.

Ostatné pokyny pokračujú v podobných témach. Celkovo Microsoft zdôrazňuje, že roboty môžu byť pre spoločnosť dobré, ak si vývojári uvedomia potenciálne problémy. Organizácie musia byť vopred informované o tom, ako používajú roboty. Akékoľvek služby založené na AI musia zostať nezaujaté a musia rešpektovať kultúrne štandardy.

„Vo všeobecnosti usmernenia zdôrazňujú vývoj konverzačnej AI, ktorá je zodpovedná a dôveryhodná od samého začiatku procesu návrhu,“ povedala Lili Cheng , viceprezidentka spoločnosti Microsoft pre konverzačnú AI. "Nabádajú spoločnosti a organizácie, aby sa zastavili a premýšľali o tom, ako sa bude ich robot používať, a podnikli kroky potrebné na zabránenie zneužitiu. V konečnom dôsledku sú všetky usmernenia o dôvere, pretože ak ľudia nedôverujú technológii, nebudú to používať."

Úplný zoznam pokynov nájdete na webovej lokalite spoločnosti Microsoft Research . Hoci nejde o prísne pravidlá, obsahujú základné etické štandardy, ktoré je potrebné zvážiť pri vývoji robotov. Spoločnosť Microsoft tento týždeň zverejnila pokyny spolu s novou sadou technológií AI vrátane súpravy nástrojov rýchleho spustenia pre vývojárov vytvárajúcich digitálnych asistentov.