Microsoft vydává pokyny pro vývojáře vytvářející digitální asistenty

Společnost Microsoft vydala soubor pokynů, které mají vývojářům pomoci vytvořit „zodpovědné“ digitální asistenty. Přijímání konverzačních rozhraní roste s rychlým zlepšováním základních technologií. Zvažování etických problémů však postupuje pomaleji.

Microsoft uvedl, že tyto pokyny mají vývojářům připomenout, že jejich produkty mohou být používány způsoby, které nemohou vždy předvídat. Ačkoli etický design byl vždy relevantní pro technologický průmysl, je zvláště důležitý v případě konverzačních rozhraní.

Microsoft použil příklad robota pro objednávání pizzy. Služba by měla být navržena tak, aby usnadnila objednávání pizzy s minimální náchylností k rozptylování uživatelů. Pokud se uživatel pokouší diskutovat o „citlivých tématech“, jako je rasa, pohlaví, náboženství nebo politika, služba by se měla zdržet zapojení v podstatě stejným způsobem, jako by to dělal lidský server na pizzu. V opačném případě by jakékoli předsudky v algoritmech robota mohly vést k tomu, že se od zákazníka naučí nežádoucí chování.

Zbytek pokynů pokračuje na podobná témata. Celkově Microsoft zdůrazňuje, že roboti mohou být pro společnost prospěšní, pokud vývojáři budou mít na paměti potenciální problémy. Organizace musí být o používání robotů předem informovány. Jakékoli služby založené na umělé inteligenci musí zůstat bez předsudků a respektovat kulturní standardy.

„Obecně směrnice zdůrazňují vývoj konverzační umělé inteligence, která je odpovědná a důvěryhodná od samého začátku procesu návrhu,“ řekla Lili Cheng , viceprezidentka společnosti Microsoft pro konverzační umělou inteligenci. "Povzbuzují společnosti a organizace, aby se zastavily a přemýšlely o tom, jak bude jejich robot používán, a podnikly kroky nezbytné k tomu, aby zabránily zneužití. Na konci dne jsou všechny pokyny o důvěře, protože pokud lidé nevěří technologii, nebudou to používat."

Úplný seznam pokynů naleznete na webu společnosti Microsoft Research . Ačkoli to nejsou tvrdá pravidla, obsahují základní etické standardy, které je třeba vzít v úvahu při vývoji botů. Microsoft tento týden zveřejnil pokyny spolu s novou sadou technologií AI, včetně sady nástrojů pro rychlý start pro vývojáře vytvářející digitální asistenty.