Microsoft gefur út leiðbeiningar fyrir forritara sem byggja stafræna aðstoðarmenn

Microsoft hefur gefið út sett af leiðbeiningum til að hjálpa forriturum að byggja upp „ábyrga“ stafræna aðstoðarmenn. Samtalsviðmót eykst innan um örar umbætur á undirliggjandi tækni. Hins vegar er hægt að taka tillit til siðferðissjónarmiða hægar.

Microsoft sagði að leiðbeiningunum væri ætlað að minna þróunaraðila á að vörur þeirra gætu verið notaðar á þann hátt sem þeir geta ekki alltaf séð fyrir. Þrátt fyrir að siðferðileg hönnun hafi alltaf verið viðeigandi fyrir tækniiðnaðinn er hún sérstaklega mikilvæg þegar um er að ræða samskiptaviðmót.

Microsoft notaði dæmi um pizzupöntunarbotn. Þjónustan ætti að vera hönnuð til að auðvelda pöntun á pizzu, með lágmarks næmi fyrir truflunum notenda. Ef notandinn reynir að ræða „viðkvæm efni,“ eins og kynþátt, kyn, trú eða pólitík, ætti þjónustan að forðast að taka þátt á svipaðan hátt og pizzuþjónn manna. Annars gæti hvers kyns hlutdrægni í reikniritum vélmennisins leitt til þess að hann læri óæskilega hegðun frá viðskiptavininum.

Restin af leiðbeiningunum halda áfram eftir svipuðum þemum. Á heildina litið leggur Microsoft áherslu á að vélmenni geti verið gott fyrir samfélagið ef þróunaraðilar halda áfram að huga að hugsanlegum vandamálum. Stofnanir verða að vera fyrirfram um notkun þeirra á vélmennum. Allar gervigreindarþjónustur verða að vera lausar við hlutdrægni og virða menningarlega staðla.

"Almennt séð leggja leiðbeiningarnar áherslu á þróun samtals-gervigreindar sem er ábyrg og áreiðanleg frá upphafi hönnunarferlisins," sagði Lili Cheng , varaforseti Conversational AI hjá Microsoft. "Þeir hvetja fyrirtæki og stofnanir til að staldra við og hugsa um hvernig botni þeirra verður notaður og gera nauðsynlegar ráðstafanir til að koma í veg fyrir misnotkun. Þegar öllu er á botninn hvolft snúast leiðbeiningarnar um traust, því ef fólk treystir ekki tækninni, þeir ætla ekki að nota það."

Þú getur fundið allan lista yfir leiðbeiningar á vefsíðu Microsoft Research . Þrátt fyrir að þetta séu ekki erfiðar reglur, þá fela þær í sér helstu siðferðilegu staðla sem þarf að hafa í huga þegar vélmenni eru þróaðir. Microsoft birti leiðbeiningarnar í vikunni ásamt nýrri gervigreindartækni, þar á meðal skyndikynni fyrir forritara sem búa til stafræna aðstoðarmenn.