据外媒报道，美国麻省理工学院、斯坦福大学和宾夕法尼亚大学的研究人员研发了一种方法，可以预测关键安全机器学习系统的故障率，以及有效确定故障发生率。安全关键机器学习系统可以为自动驾驶汽车、机器人手术、心脏起搏器、直升机以及飞机等自动化飞行技术做出决策。与人工智能技术帮助写邮件或推荐歌曲不同，安全关键系统一旦出现故障就会导致严重的伤亡事件。此类机器学习系统导致的问题还有可能导致SpaceX错失降落在着陆平台上，从而导致重大经济损失事件。
（图片来源：venturebeat.com）
研究人员表示，他们提出的神经桥采样法可以为监管机构、学术机构和行业专家提供一个参考，以解决在安全关键环境中部署复杂机器学习系统的相关风险。此外，该方法既可以满足公众对系统经过严格测试的知情权，也可以满足组织机构将AI模型视为商业机密的意愿。事实上，有些AI初创公司和大型科技公司都拒绝使用原始模型进行测试和验证，担心会因此泄露专有信息。
安全关键系统的故障率越低，就越难计算故障率，系统就会越好，但也越难进行预测。为了预测到故障率，研究人员采用了新型马尔科夫链蒙特卡洛（MCMC）方法，以识别接近故障事件发生的分布区域。
该项神经桥采样方法采用了几十年前的统计方法，以及最近推出的仿真测试框架，以评估自动驾驶系统的黑匣子。除了神经桥分布，研究人员也支持隐私意识技术的发展，比如联邦学习和差别隐私，并敦促更多具有技术知识的研究人员和人们加入监管对话，帮助制定政策。