微软推出WhiteNoise这是一种用于差异隐私的AI工具包

导读 给大家分享一篇关于互联网和手机的文章。相信很多朋友对互联网和手机还是不太了解，所以边肖也在网上搜集了一些关于手机和互联网的相关知识

给大家分享一篇关于互联网和手机的文章。相信很多朋友对互联网和手机还是不太了解，所以边肖也在网上搜集了一些关于手机和互联网的相关知识与大家分享。希望大家看完之后会喜欢。

在本周在线举行的Build 2020开发者大会上，微软宣布为Azure机器学习增加了新功能，用于在基于云的环境中培训、部署和管理AI模型。WhiteNoise是一个用于差异隐私的工具包，现在可以通过Azure和GitHub上的开源代码获得，具有新的AI解释和公平工具，以及针对数据、模型和实验的新访问控制；细粒度可追溯性和谱系的新技术；新的机密机器学习产品；以及新的工作流程责任文档。

这一努力是微软努力实现一个更可解释、更安全和“公平”的人工智能系统的一部分。研究表明，例如，偏见在面部识别系统中很常见，而人工智能存在隐私问题，因为许多模型不能使用加密数据。除了今天介绍的Azure机器学习功能，微软解决这些挑战和其他挑战的尝试还包括AI偏差检测工具、减少偏差错误的内部工作、AI道德清单和一个为AI追求提供建议的委员会(Aether)。此外，微软副总裁Eric Boyd表示，Xbox、Bing、Azure以及整个微软365团队都提供了开发信息，并把自己用于今天上午发布的一些工具包。

“该组织现在正在研究如何开发易于解释和符合法规的AI应用程序，例如非歧视和隐私法规。他们需要将这些工具与这些AI模型放在一起，以便更容易解释、理解、保护和控制数据和模型。”博伊德在一次电话采访中告诉VentureBeat。“我们相信，我们的AI方法与众不同之处在于，它在深入研究、扎实的方法和对开源的承诺方面奠定了坚实的基础。”

白化工具包是与哈佛大学定量社会科学研究所和工程学院的研究人员合作开发的。通过使用差别隐私保护，同时保护姓名或出生日期等隐私信息，可以从数据中获得见解。一般来说，差分隐私需要在原始数据中注入一点噪声后才能馈入本地机器学习模型，这使得恶意行为者很难从训练好的模型中提取出原始文件。如果观察者看不到算法的输出，就不能认为算法是差分私有的，那么算法在计算中是否使用了特定个体的信息呢？

白化提供了一个可扩展的差分私有算法和机制库，用于发布隐私保护查询和统计数据，以及一个用于定义分析的API和一个用于评估、分析和计算数据集的总隐私损失的验证器。微软表示，可以让一批医院合作构建更好的癌症治疗效果预测模型，同时有助于遵守法律要求，保护医院信息隐私，确保没有个人患者数据泄露出模型。

微软人工智能和工程与研究伦理委员会(Aether)支持的另一个工具包将于6月与Azure机器学习集成。Fairlearn旨在评估AI系统的公平性，缓解算法中发现的任何不公平问题。Fairlearn从仪表盘内部定义AI系统是否对人不公平，重点关注两个危害：分发危害和服务质量危害。当AI系统扩展或预留招聘、招生、贷款等机会、资源或信息时，就会发生分发破坏。服务质量受损是指一个系统是否对一个人和另一个人一样有效，即使没有扩大或隐藏任何机会、资源或信息。

Fairlearn遵循一种称为群体公平的方法，该方法旨在找出哪些群体的个人有受伤的风险。数据科学家在工具包中指定相关的人(如性别、肤色和种族)，他们是针对特定应用的；群体公平是通过一组约束来形式化的，这要求人工智能系统行为的某些方面在群体之间具有可比性。

根据微软的说法，专业服务公司安永(Ernst & Young)使用Fairlearn来评估模型输出对生物性别的公平性。工具包显示，男性和女性的积极贷款决定之间有15.3%的差异。然后，安永的建模团队开发和训练了几个修正模型，并可视化了公平性和模型准确性之间的常见权衡。团队最终采用了最终模型，优化并保留了整体精度，但将男女差异缩小到0.43%。

新工具包列表中的最后一个是expertaml，它于去年在alpha中首次亮相，但今天已在Azure机器学习中推出。expert ml结合了机器学习的许多可解释技术，有助于阐明视觉模型行为和预测背后的原因。它可以在任何给定的用例中为模型推荐最重要的参数(或变量)，并解释为什么这些参数很重要。

博伊德说：“我们希望向客户提供Azure机器学习，帮助他们理解和解释其模型的发展。“有了所有这些工具包，我们认为我们给了开发人员巨大的力量来真正理解他们的模型——他们可以看到他们的解释和他们的公平性，并开始理解他们拥有的其他参数。不愿意以不同的方式进行预测或摇摆模型。”

本文就为大家讲解到这里了。