Microsoft julkaisee ohjeet kehittäjille, jotka rakentavat digitaalisia avustajia

Microsoft on julkaissut joukon ohjeita, joiden avulla kehittäjät voivat rakentaa "vastuullisia" digitaalisia avustajia. Keskusteluliitäntöjen käyttöönotto lisääntyy taustalla olevien teknologioiden nopeiden parannusten keskellä. Eettisten seikkojen huomioiminen etenee kuitenkin hitaammin.

Microsoft sanoi, että ohjeiden tarkoituksena on muistuttaa kehittäjiä siitä, että heidän tuotteitaan voidaan käyttää tavoilla, joita he eivät aina voi ennakoida. Vaikka eettisellä suunnittelulla on aina ollut merkitystä teknologiateollisuudessa, se on erityisen tärkeää keskustelurajapintojen tapauksessa.

Microsoft käytti esimerkkiä pizzan tilausbotista. Palvelu tulee suunnitella helpottamaan pizzan tilaamista siten, että käyttäjä ei aiheuta häiriötekijöitä. Jos käyttäjä yrittää keskustella "arkaluonteisista aiheista", kuten rodusta, sukupuolesta, uskonnosta tai politiikasta, palvelun tulisi pidättäytyä osallistumasta samalla tavalla kuin ihmisten pizzapalvelija. Muutoin botin algoritmien vinoutumat voivat johtaa siihen, että se oppii ei-toivottua käyttäytymistä asiakkaalta.

Loput ohjeet jatkavat samoilla teemoilla. Kaiken kaikkiaan Microsoft korostaa, että botit voivat olla hyviä yhteiskunnalle, jos kehittäjät ovat tietoisia mahdollisista ongelmista. Organisaatioiden on oltava ennakkoluulottomia käyttäessään botteja. Kaikkien tekoälypohjaisten palvelujen on pysyttävä puolueettomina ja kulttuurisia standardeja kunnioittavina.

"Yleensä ohjeissa korostetaan keskustelullisen tekoälyn kehittämistä, joka on vastuullista ja luotettavaa suunnitteluprosessin alusta lähtien", sanoi Lili Cheng , Microsoftin Conversational AI -johtaja. "Ne rohkaisevat yrityksiä ja organisaatioita pysähtymään miettimään, miten heidän bottiaan käytetään ja ryhtymään tarvittaviin toimiin väärinkäytön estämiseksi. Ohjeissa on loppujen lopuksi kyse luottamuksesta, sillä jos ihmiset eivät luota teknologiaan, he eivät aio käyttää sitä."

Löydät täydellisen luettelon ohjeista Microsoft Researchin verkkosivustolta . Vaikka ne eivät ole tiukkoja sääntöjä, ne sisältävät eettiset perusstandardit, jotka on otettava huomioon botteja kehitettäessä. Microsoft julkaisi ohjeet tällä viikolla sekä uusia tekoälytekniikoita, mukaan lukien pika-aloitustyökalusarja digitaalisia avustajia luoville kehittäjille.