Microsoft udgiver retningslinjer for udviklere, der bygger digitale assistenter

Microsoft har udgivet et sæt retningslinjer for at hjælpe udviklere med at bygge "ansvarlige" digitale assistenter. Indførelsen af ​​samtalegrænseflader vokser i takt med hurtige forbedringer i de underliggende teknologier. Overvejelsen af ​​de etiske bekymringer går dog i et langsommere tempo.

Microsoft sagde, at retningslinjerne er beregnet til at minde udviklere om, at deres produkter kan bruges på måder, de ikke altid kan forudse. Selvom etisk design altid har været relevant for teknologiindustrien, er det særligt vigtigt i tilfælde af samtalegrænseflader.

Microsoft brugte eksemplet med en pizzabestillingsbot. Tjenesten skal være designet til at lette bestilling af pizza med minimal modtagelighed for brugerens distraktioner. Hvis brugeren forsøger at diskutere "følsomme emner," såsom race, køn, religion eller politik, bør tjenesten afstå fra at engagere sig på nogenlunde samme måde, som en menneskelig pizzaserver ville. Ellers kan enhver skævhed i botens algoritmer resultere i, at den lærer uønsket adfærd fra kunden.

Resten af ​​retningslinjerne fortsætter langs lignende temaer. Generelt understreger Microsoft, at bots kan være godt for samfundet, hvis udviklere forbliver opmærksomme på de potentielle problemer. Organisationer skal være på forhånd om deres brug af bots. Alle AI-drevne tjenester skal forblive fri for skævheder og respektere kulturelle standarder.

"Generelt understreger retningslinjerne udviklingen af ​​konversations-AI, der er ansvarlig og troværdig lige fra begyndelsen af ​​designprocessen," sagde Lili Cheng , Microsofts Corporate Vice President for Conversational AI. "De opfordrer virksomheder og organisationer til at stoppe op og tænke over, hvordan deres bot vil blive brugt og tage de nødvendige skridt for at forhindre misbrug. I sidste ende handler retningslinjerne om tillid, for hvis folk ikke har tillid til teknologien, de vil ikke bruge det."

Du kan finde den fulde liste over retningslinjer på Microsoft Researchs websted . Selvom det ikke er hårde regler, indkapsler de de grundlæggende etiske standarder, der skal tages i betragtning, når man udvikler bots. Microsoft offentliggjorde retningslinjerne i denne uge sammen med et nyt sæt AI-teknologier, herunder et quick-start værktøjssæt til udviklere, der laver digitale assistenter.