因为机器学习的性质，自主驾驶汽车制造商将难以证明汽车的安全性。市场研究公司预测到 2030 年自主驾驶汽车市场的价值将达到 870 亿美元，Google、特斯拉和 Uber 等公司正在实验计算机辅助或完全自主驾驶的汽车。但卡耐基梅隆大学的计算机科学家 phillip Koopman 认为，验证自主驾驶汽车能安全行驶将是一大挑战。

他解释说，传统上工程师的代码是根据特定要求而编写的，写完后执行测试去检查是否满足要求。但机器学习没有这么简单明了。机器学习算法通过训练现有示例创建数学模型去解决特定任务。面临新情况时，机器学习将根据训练模型做出预测。换句话说，它具有内在的风险。它是一个黑盒子，你不知道它究竟学到了什么。