Microsoft publiserer retningslinjer for utviklere som bygger digitale assistenter

Microsoft har gitt ut et sett med retningslinjer for å hjelpe utviklere med å bygge «ansvarlige» digitale assistenter. Bruken av samtalegrensesnitt vokser blant raske forbedringer i de underliggende teknologiene. Imidlertid går vurderingen av de etiske bekymringene i et langsommere tempo.

Microsoft sa at retningslinjene er ment å minne utviklere på at produktene deres kan brukes på måter de ikke alltid kan forutse. Selv om etisk design alltid har vært relevant for teknologiindustrien, er det spesielt viktig når det gjelder samtalegrensesnitt.

Microsoft brukte eksemplet med en pizzabestillingsrobot. Tjenesten bør utformes for å lette bestilling av pizza, med minimal mottakelighet for brukerdistraksjoner. Hvis brukeren prøver å diskutere «sensitive emner», som rase, kjønn, religion eller politikk, bør tjenesten avstå fra å engasjere seg på omtrent samme måte som en menneskelig pizzaserver ville gjort. Ellers kan eventuelle skjevheter i botens algoritmer føre til at den lærer uønsket atferd fra kunden.

Resten av retningslinjene fortsetter langs lignende temaer. Totalt sett understreker Microsoft at roboter kan være bra for samfunnet, hvis utviklere forblir oppmerksomme på de potensielle problemene. Organisasjoner må være på forhånd om bruken av roboter. Alle AI-drevne tjenester må forbli frie for skjevheter og respektere kulturelle standarder.

"Generelt legger retningslinjene vekt på utviklingen av konversasjons-AI som er ansvarlig og pålitelig helt fra begynnelsen av designprosessen," sa Lili Cheng , Microsofts konserndirektør for Conversational AI. "De oppfordrer selskaper og organisasjoner til å stoppe opp og tenke på hvordan boten deres vil bli brukt og ta de nødvendige skritt for å forhindre misbruk. Til syvende og sist handler retningslinjene om tillit, for hvis folk ikke stoler på teknologien, de kommer ikke til å bruke det."

Du finner hele listen over retningslinjer på Microsoft Researchs nettsted . Selv om de ikke er harde regler, innkapsler de de grunnleggende etiske standardene du bør vurdere når du utvikler roboter. Microsoft publiserte retningslinjene denne uken sammen med et nytt sett med AI-teknologier, inkludert et hurtigstartverktøy for utviklere som lager digitale assistenter.