原标题：微软沈向洋：技能也有成见，怎么打造负职责的人工智能
“大部分人都高估了自己在一年里能做到的工作，一起却轻视了自己能在10年里获得的成果。”在2019国际人工智能大会，AI FOR ALL“二十一世纪的核算”学术研讨会上，微软全球履行副总裁、微软人工智能及微软研讨事业部担任人沈向洋用这句话标明微软在人工智能范畴里的投入和专心。
在当天的讲演中，沈向洋介绍了在曩昔的一年时间里，全球各地的微软研讨院获得的成果。例如，微软开发出了第一个能将数据编码存储到DNA中的办法，可以将一座库房那么大的数据中心，压缩到只要几个骰子巨细；微软的Project Natick项目，在大洋深处的海底，建成了一座数据中心；微软还开发了一套可以解说机器学习的开源计划，协助人们敞开人工智能的黑箱；一起，微软还发明了一套叫做Code Jumper的东西，使用不同形状的模块，协助视力妨碍的孩子们，学会怎么编程。
当下，以人工智能为代表的一系列技能正在让许多难以想象的工作成为实际。但在推进技能进步的一起，怎么处理技能带来的社会影响，以及人类即将一起面临的前瞻应战？怎么防止人工智能技能开展带来的成见和轻视？也应该是科技公司需求重视的问题。
在当天的讲演中，沈向洋就举了一个比如。微软的研讨团队，使用称为“单词嵌入”的天然言语处理东西，处理了文本查找中的性别成见的问题。
所谓单词嵌入，是一种用来将单词转换为向量数字的算法，它可以以来自新闻数据或许网页数据的海量文本数据为依据，为每个单词赋予一个对应的向量数字。经过在向量坐标系中，比对常见词汇与“他”、“她”这两个性别代词之间的关联度，研讨人员发现了一些显着的特征，例如“sassy（刁蛮）”、“knitting（织造）”这样的词更接近女人，而“hero（英豪）”、“genius（天才）”更接近男性。算法之所以会为这些词汇赋予性别特征，原因在于练习算法用的基准数据集——通常是来自新闻和网页的数据——自身，就存在着由言语习气形成的“性别成见”，算法也天然“承继”了人类对这些词汇了解的性别差异。
其成果便是，当微软用实验算法，依据梅林达·盖茨的 linkedIn 信息估测其工作时，得到了“教师”的判别，但只要将人称代词换成“他”，盖茨夫人的工作就会变为“律师”。
为了处理这个问题，微软的研讨员提出了一个简单易行的计划：在单词嵌入中，删去区别“他”和“她”的判别维度。
除此之外，据沈向洋介绍，微软早在2016年就开端重视技能带来的品德品德问题。2016 年，微软 CEO 萨提亚·纳德拉宣布了一篇关于人工智能一起职责的专栏文章，几个月后，第一次揭露提出了微软的人工智能原则：公正、牢靠和安全、隐私和保证、容纳、通明、职责。
2017年，微软出书了《核算未来》一书，对人工智能开展过程中或许引发的品德、法令考虑和社会影响，进行了全面详实的讨论。此外，微软成立了AETHER（“工程与科研中的人工智能品德”的缩写）人工智能品德品德委员会，这个委员会由微软公司领导、工程师、科研人员、律师等组成，担任对微软内部与人工智能品德品德相关的事宜，进行讨论和评价。
