Microsoft publicerar riktlinjer för utvecklare som bygger digitala assistenter

Microsoft har släppt en uppsättning riktlinjer för att hjälpa utvecklare att bygga "ansvariga" digitala assistenter. Användningen av konversationsgränssnitt växer i takt med snabba förbättringar av de underliggande teknologierna. Hänsynen till de etiska farhågorna går dock i en långsammare takt.

Microsoft sa att riktlinjerna är avsedda att påminna utvecklare om att deras produkter kan användas på sätt som de inte alltid kan förutse. Även om etisk design alltid har varit relevant för teknikindustrin, är det särskilt viktigt när det gäller konversationsgränssnitt.

Microsoft använde exemplet med en pizzabeställningsbot. Tjänsten bör utformas för att underlätta beställning av pizza, med minimal mottaglighet för distraktioner från användare. Om användaren försöker diskutera "känsliga ämnen", såsom ras, kön, religion eller politik, bör tjänsten avstå från att engagera sig på ungefär samma sätt som en mänsklig pizzaserver skulle göra. Annars kan eventuella fördomar i botens algoritmer resultera i att den lär sig oönskade beteenden från kunden.

Resten av riktlinjerna fortsätter med liknande teman. Sammantaget betonar Microsoft att bots kan vara bra för samhället om utvecklare förblir medvetna om de potentiella problemen. Organisationer måste vara uppmärksamma på sin användning av botar. Alla AI-drivna tjänster måste förbli fria från fördomar och respektera kulturella standarder.

"I allmänhet betonar riktlinjerna utvecklingen av konversations-AI som är ansvarsfull och pålitlig från allra första början av designprocessen", säger Lili Cheng , Microsofts koncernchef för Conversational AI. "De uppmuntrar företag och organisationer att stanna upp och tänka på hur deras bot kommer att användas och vidta de åtgärder som krävs för att förhindra missbruk. I slutändan handlar riktlinjerna om förtroende, för om människor inte litar på tekniken, de kommer inte att använda det."

Du kan hitta hela listan med riktlinjer på Microsoft Researchs webbplats . Även om de inte är hårda regler, kapslar de in de grundläggande etiska standarderna att tänka på när man utvecklar bots. Microsoft publicerade riktlinjerna den här veckan tillsammans med en ny uppsättning AI-tekniker, inklusive en snabbstartsverktygslåda för utvecklare som skapar digitala assistenter.