IBM推出全新的AI OpenScale技术平台：为“AI”去偏差

10月22日消息，近日，IBM 公司推出了全新的AI OpenScale技术平台，旨在应对人工智能 (AI) 应用的诸多障碍，例如：解释关于AI应用如何做出决策的问题、全球人工智能技术人才短缺的问题，以及应用多厂商不同AI工具造成的复杂性问题。

IBM将与不同服务结合所面临的挑战归咎于二分法。为了解决其中的一些问题，IBM天推出了AI OpenScale，一个让客户能够在几乎任何基础设施上构建AI的平台；以及Multi-cloud Manager，一个“开放”解决方案，旨在简化创建在多个云服务上运行的应用程序。

AI OpenScale

AI OpenScale提供了一套自主偏差检测和缓解工具，包括记录机器学习模型预测的记录系统，以及相应的模型版本，使用的培训数据以及相关的性能指标。它持续监控AI应用程序中的偏见决策，并通过“去偏差”技术，努力减轻这些偏差，同时提供AI算法给出的建议的解释。

通过这种方式，AI OpenScale建立在IBM早期的AI偏差检测和模型可解释性方面。9月，该公司推出了一个开源工具包—— AI Fairness 360，它包含一系列算法、代码和教程，演示了在模型中实现偏差检测的方法。在今年夏天的白皮书中，IBM研究人员为AI系统提出了“情况说明”，以回答有关系统操作、训练数据、测试设置、结果、测试方法等的问题。

没有良好训练的人工智能（AI）系统将会加强偏见，因此AI系统必须得到公平的培训。专家表示，AI公平性是每个特定机器学习模型的数据集问题。人工智能公平，已经成为了一项新认识的挑战。