Microsoft публікує рекомендації для розробників, які створюють цифрові помічники

Microsoft випустила набір рекомендацій, які допоможуть розробникам створити «відповідальних» цифрових помічників. Прийняття розмовних інтерфейсів зростає на тлі швидкого вдосконалення основних технологій. Однак розгляд етичних проблем рухається повільнішими темпами.

Microsoft заявила, що ці рекомендації мають на меті нагадати розробникам, що їхні продукти можуть використовуватися способами, які вони не завжди можуть передбачити. Хоча етичний дизайн завжди був актуальним для індустрії технологій, він особливо важливий у разі розмовних інтерфейсів.

Microsoft використала приклад бота для замовлення піци. Послуга має бути розроблена таким чином, щоб полегшити замовлення піци з мінімальною схильністю до відволікань користувачів. Якщо користувач намагається обговорювати «делікатні теми», такі як раса, стать, релігія чи політика, служба повинна утримуватися від залучення майже так само, як це робив би сервер піци. Інакше будь-які упередження в алгоритмах бота можуть призвести до того, що він дізнається небажану поведінку від клієнта.

Решта керівних принципів продовжуються на подібні теми. Загалом, Microsoft підкреслює, що боти можуть бути корисними для суспільства, якщо розробники будуть пам’ятати про потенційні проблеми. Організації повинні говорити про використання ботів. Будь-які послуги на базі штучного інтелекту мають залишатися вільними від упереджень і поважати культурні стандарти.

«Загалом, рекомендації наголошують на розвитку розмовного ШІ, який є відповідальним і заслуговує на довіру з самого початку процесу проектування», — сказала Лілі Ченг , корпоративний віце-президент Microsoft із розмовного ШІ. «Вони заохочують компанії та організації зупинитися та подумати про те, як буде використовуватися їхній бот, і вжити заходів, необхідних для запобігання зловживанням. Зрештою, рекомендації пов’язані з довірою, тому що якщо люди не довіряють технології, вони не збираються цим користуватися».

Повний список рекомендацій можна знайти на веб-сайті Microsoft Research . Хоча вони не є жорсткими правилами, вони містять основні етичні стандарти, які слід враховувати при розробці ботів. Цього тижня Microsoft опублікувала рекомендації разом із новим набором технологій штучного інтелекту, включаючи набір інструментів швидкого початку для розробників, які створюють цифрових помічників.