Microsoft публикува насоки за разработчици, изграждащи дигитални асистенти

Microsoft пусна набор от насоки, за да помогне на разработчиците да изградят „отговорни“ дигитални асистенти. Приемането на разговорни интерфейси нараства на фона на бързите подобрения в основните технологии. Въпреки това, разглеждането на етичните проблеми се движи с по-бавни темпове.

Microsoft каза, че насоките имат за цел да напомнят на разработчиците, че техните продукти могат да се използват по начини, които те не винаги могат да предвидят. Въпреки че етичният дизайн винаги е бил от значение за технологичната индустрия, той е особено важен в случай на разговорни интерфейси.

Microsoft използва примера на бот за поръчка на пица. Услугата трябва да бъде проектирана така, че да улесни поръчката на пица, с минимална чувствителност към разсейването на потребителите. Ако потребителят се опита да обсъди „деликатни теми“, като раса, пол, религия или политика, услугата трябва да се въздържа от ангажиране по същия начин, както би го направил човешки сървър за пица. В противен случай всякакви отклонения в алгоритмите на бота могат да доведат до научаване на нежелано поведение от клиента.

Останалите насоки продължават по подобни теми. Като цяло Microsoft подчертава, че ботовете могат да бъдат полезни за обществото, ако разработчиците имат предвид потенциалните проблеми. Организациите трябва да бъдат откровени относно използването на ботове. Всички услуги, задвижвани от AI, трябва да останат без пристрастия и да зачитат културните стандарти.

„Като цяло насоките наблягат на развитието на разговорен AI, който е отговорен и заслужаващ доверие от самото начало на процеса на проектиране“, каза Лили Ченг , корпоративен вицепрезидент на Microsoft за разговорен AI. „Те насърчават компаниите и организациите да спрат и да помислят как ще се използва техният бот и да предприемат необходимите стъпки за предотвратяване на злоупотреби. В крайна сметка насоките са свързани с доверието, защото ако хората не вярват на технологията, те няма да го използват."

Можете да намерите пълния списък с насоки на уебсайта на Microsoft Research . Въпреки че не са строги правила, те капсулират основните етични стандарти, които трябва да се вземат предвид при разработването на ботове. Microsoft публикува насоките тази седмица заедно с нов набор от AI технологии, включително набор от инструменти за бърз старт за разработчици, създаващи дигитални асистенти.