Microsoft publica directrius per als desenvolupadors que creen assistents digitals

Microsoft ha publicat un conjunt de directrius per ajudar els desenvolupadors a crear assistents digitals "responsables". L'adopció d'interfícies de conversa està creixent enmig de les ràpides millores de les tecnologies subjacents. Tanmateix, la consideració de les preocupacions ètiques s'està movent a un ritme més lent.

Microsoft va dir que les directrius tenen l'objectiu de recordar als desenvolupadors que els seus productes es poden utilitzar de maneres que no sempre poden preveure. Tot i que el disseny ètic sempre ha estat rellevant per a la indústria tecnològica, és especialment important en el cas de les interfícies de conversa.

Microsoft va utilitzar l'exemple d'un bot de comanda de pizza. El servei ha d'estar dissenyat per facilitar la comanda de pizza, amb una susceptibilitat mínima a les distraccions dels usuaris. Si l'usuari intenta discutir "temes sensibles", com ara la raça, el gènere, la religió o la política, el servei hauria d'abstenir-se de participar de la mateixa manera que ho faria un servidor humà de pizza. En cas contrari, qualsevol biaix en els algorismes del bot podria fer que aprengui comportaments no desitjats del client.

La resta de directrius continuen amb temes similars. En general, Microsoft subratlla que els robots poden ser bons per a la societat, si els desenvolupadors es mantenen conscients dels problemes potencials. Les organitzacions han de ser sinceres amb l'ús dels robots. Qualsevol servei basat en IA ha de romandre lliure de prejudicis i respectuós amb els estàndards culturals.

"En general, les directrius posen l'accent en el desenvolupament d'IA conversacional que sigui responsable i fiable des del principi del procés de disseny", va dir Lili Cheng , vicepresidenta corporativa d'IA conversacional de Microsoft. "Encoratgen a les empreses i organitzacions a aturar-se a pensar en com s'utilitzarà el seu bot i prendre les mesures necessàries per prevenir l'abús. Al cap i a la fi, les directrius es refereixen a la confiança, perquè si la gent no confia en la tecnologia, ens no la faran servir".

Podeu trobar la llista completa de directrius al lloc web de Microsoft Research . Tot i que no són regles dures, sí que encapsulen els estàndards ètics bàsics a tenir en compte a l'hora de desenvolupar robots. Microsoft va publicar les directrius aquesta setmana juntament amb un nou conjunt de tecnologies d'IA, inclòs un conjunt d' eines d'inici ràpid per als desenvolupadors que creen assistents digitals.