对新技术采用的最大障碍之一是对人工智能的信任。

现在，如果AI算法生成的数据和预测是值得信赖的，那么USC维特比工程研究人员开发的新工具会自动生成指标。他们的研究论文《毕竟有希望：神经网络中的观点和可信度》，由USC网络物理系统小组的Mingxi Cheng，Shahin Nazarian和Paul Bogdan撰写，并发表在《人工智能前沿》上。

神经网络是一种人工智能，可以模仿大脑并产生预测。但是，这些神经网络所产生的预测是否可以信任?采用自动驾驶汽车的主要障碍之一是，这些车辆需要在自动驾驶中担当独立决策者的角色，并迅速解读和识别道路上的物体​​-物体是否是减速带，无生命的物体(宠物或儿童)，并决定如果另一辆车驶向该车时该如何行动。汽车应该撞上驶来的车辆还是要转弯并撞上车辆认为无生命的物体或小孩?我们能否相信车辆中的计算机软件能够在几分之一秒内做出正确的决策-尤其是当冲突信息来自不同的传感方式时，例如摄像机的计算机视觉或激光雷达的数据?知道要信任的系统和最准确的传感系统将有助于确定自动驾驶仪应做出的决定。

主要作者郑明熙被这个想法驱使从事这个项目：“即使人类在某些决策场景中也可能举棋不定。在涉及信息冲突的情况下，为什么机器在不知道的时候不能告诉我们?”

作者创建的名为DeepTrust的工具可以量化不确定性的数量。” Ming Hsieh电气与计算机工程学系副教授兼通讯作者Paul Bogdan说，因此，如果有必要进行人工干预，则可以确定。

开发此工具花费了USC研究团队近两年的时间，采用了所谓的主观逻辑来评估神经网络的体系结构。在他们的测试案例之一(2016年总统大选民意调查)中，DeepTrust发现，有关克林顿获胜的预测有更大的错误余地。

这项研究的另一个意义是，它提供了有关如何测试通常在数千到数百万个数据点上训练的AI算法的可靠性的见解。检查通知AI预测的这些数据点中的每一个是否被正确标记将非常耗时。研究人员说，更关键的是这些神经网络系统的体系结构具有更高的准确性。Bogdan指出，如果计算机科学家希望同时提高准确性和信任度，那么这项工作也可以作为测试样本中有多少“噪音”的指南。

研究人员认为，这种模型是同类中的第一个。Bogdan说：“据我们所知，没有用于深度学习，人工智能和机器学习的信任量化模型或工具。这是第一种方法，并且开辟了新的研究方向。”他补充说，此工具具有使“人工智能感知和自适应”的潜力。