随着AI更深入地嵌入世界数字结构，从自动驾驶汽车到高频股票交易的所有事物 ，我们都知道它是如何做出决定的。
向孩子展示了各种形状的图片 ，并被要求找到大红色圆圈 。为了回答，她经历了一些推理的步骤：首先 ，找到所有的大事 ，接下来，找到红色的大东西 ，最后 ，挑选出一个圆圈的大红色东西 - 听起来很简单，除非您当然是一台机器 。
作为人类 ，我们利用推理来学习如何解释世界 ，这就是为什么Google的出血边缘人工智能（AI）部门非常关注这一点，即使仅是为了这样一个事实 ，即除非机器能够学会学会推理 ，我们将永远无法创建商业级的人工通用情报（AGI），这是世界上第一个众所周知的伦敦，这是一个几个月的伦敦 ，这是一个众所周知的 ，这是一个众所周知的，这是一个几个月的公司。
神经网络还使用原因来学习 ，尽管这些所谓的狭窄AI的方式只能做得很好 ，而不是像Future Agi这样的好东西，而是以不同的方式使用它的方式与先进的Agi最终的方式不同 。这就是说 ，尽管我们今天面临的最大问题之一是 ，尽管我们知道这些神经网络利用理由学习，但我们不知道它们如何做出最终决定 。就所有目的和目的而言 ，它们都是黑匣子 ，如果他们运行自动驾驶汽车，股票市场 ，或者决定了军事目标轰炸的问题 ，这是一个问题，美国军方的出血边缘研究部队也在试图解决。
现在，MIT的一组研究人员已经开发了一个神经网络 ，该网络“执行类似人类的推理步骤来回答有关图像内容的问题” 。该模型称为设计网络（TBD-NET）的透明度 ，视觉上呈现其思维过程，因为它解决了问题的每个部分 ，从而使人类分析师能够理解其决策过程 。该模型的表现要比当今最好的视觉推理神经网络更好 ，包括NVIDIA自己阅读这些AI的思想的尝试。
对于AI研究人员来说，了解神经网络如何做出决定是一个长期以来的挑战 ，他们甚至最近转向细胞生物学来帮助他们解决问题 。正如其名称的神经部分所暗示的那样 ，神经网络受到大脑启发的AI系统，旨在复制人类学习的方式 。它们由输入和输出层组成 ，在此之间将输入转换为正确的输出。一些深层的神经网络变得如此复杂 ，以至于无法遵循这种转变过程 。这就是为什么它们被称为黑匣子系统，即使是建造了它们的工程师 ，他们的内部不透明行为也是如此 。使用TBD-NET ，开发人员的目标是使这些内部运作透明，从字面上看，以便人类可以解释AI的结果。
例如 ，重要的是要知道 ，在自动驾驶汽车中使用的神经网络确切认为是行人和停车标志之间的区别，而在推理链的什么时候 ，它会看到这种差异。这些见解使研究人员能够教授神经网络纠正任何错误的假设 。但是TBD-NET开发人员说 ，当今最好的神经网络缺乏使人了解其推理过程的有效机制 。
与研究人员Arjun Majumdar，David Mascharka和Philip Tran建立了TBD-NET的Ryan Soklaski说：“在视觉推理中提高性能取得的进展是以解释性为代价。”
该团队能够使用TBD-NET缩小性能和可解释性之间的差距 。他们系统的关键之一是专门执行特定子任务的小型神经网络的集合 。当向TBD-NET询问有关图像的视觉推理问题时 ，它将问题分解为子任务 ，并分配适当的模块以实现其部分。像工人一样，每个模块都在模块弄清楚最终产生最终的正确答案之前就建立了什么模块 。总体而言 ，TBD-NET利用一种解释人类语言问题并将这些句子分解为子任务的AI技术 ，然后是多种计算机视觉AI技术来解释图像 。
Majumdar说：“将复杂的推理链分解为一系列较小的子问题，每个子问题都可以独立解决并组成 ，是推理的强大而直观的手段。 ”
每个模块的输出在组所谓的“注意面罩 ”中以视觉描绘 。注意力掩码显示了模块所识别为答案的图像中对象的热图斑点 。这些可视化使人分析师看到模块如何解释图像。
以以下问题提出的以下问题：“在此图像中 ，大金属立方体是什么颜色？”为了回答这个问题，第一个模块仅定位大物体，并突出显示那些大型对象 。下一个模块接收此输出 ，并找到上一个模块识别为大的对象也是金属 。该模块的输出将发送到下一个模块 ，该模块标识了哪些大型金属对象也是立方体。最后，该输出被发送到可以确定对象颜色的模块。TBD-NET的最终输出是“红色 ” ，这是问题的正确答案 。
研究人员使用视觉提问的数据集评估了该模型 ，该数据集由70,000个培训图像和700,000个问题，以及15,000张图像和150,000个问题的测试和验证集 。最初的模型在数据集上达到了98.7％的测试准确性 ，根据研究人员的说法 ，该模型的表现远远超过了其他基于神经模块网络的方法。
重要的是，由于其模型的主要优势 - 透明度 ，研究人员能够改善这些结果 。通过查看模块产生的注意力面具 ，他们可以看到事情出现在哪里并完善模型 。最终结果是最先进的表现为99.1％。
Mascharka说：“我们的模型在视觉推理过程的每个阶段都提供了直接，可解释的输出 。 ”
如果要与人类一起部署深度学习算法 ，以帮助解决复杂的现实世界任务 ，那么解释性尤其有价值 。为了建立对这些系统的信任，用户将需要能够检查推理过程，以便他们可以理解模型为什么以及如何做出错误的预测。
麻省理工学院情报与决策技术集团的负责人保罗·梅茨格（Paul Metzger）说 ，这项研究“是麻省理工学院（MIT）成为促进人机合作的应用机器学习研究和人工智能的世界领导者的工作的一部分 。”
这项工作的细节在“设计透明度：缩小视觉推理中性能和可解释性之间的差距 ”中描述 ，该差距最近在计算机视觉和模式识别会议上提出 。
来源:https://www.siyonli.com/zlan/202506-3644.html 来源:https://xianggongguan.cn/kexue/202506-4549.html 来源:https://xianggongguan.cn/life/202506-4679.html 来源:https://www.siyonli.com/jyfx/202506-3563.html 来源:https://xianggongguan.cn/zskp/202506-4594.html 来源:https://xianggongguan.cn/zskp/202506-4539.html 来源:https://xianggongguan.cn/zskp/202506-4604.html 来源:https://0514ps.com/zixun/202506-1739.html 来源:https://0514ps.com/zixun/202506-1885.html 来源:https://www.siyonli.com/jyfx/202506-3642.html
来源:https://www.siyonli.com/zlan/202506-3644.html 来源:https://xianggongguan.cn/kexue/202506-4549.html 来源:https://xianggongguan.cn/life/202506-4679.html 来源:https://www.siyonli.com/jyfx/202506-3563.html 来源:https://xianggongguan.cn/zskp/202506-4594.html 来源:https://xianggongguan.cn/zskp/202506-4539.html 来源:https://xianggongguan.cn/zskp/202506-4604.html 来源:https://0514ps.com/zixun/202506-1739.html 来源:https://0514ps.com/zixun/202506-1885.html 来源:https://www.siyonli.com/jyfx/202506-3642.html
本文来自作者[语雪]投稿，不代表策华号立场，如若转载，请注明出处：https://cehuayingxiao.cn/zlan/202506-39551.html
评论列表（4条）
我是策华号的签约作者“语雪”！
希望本篇文章《随着AI更深入地嵌入世界数字结构，从自动驾驶汽车到高频股票交易的所有事物，我们都知道它是如何做出决定的。》能对你有所帮助！
本站[策华号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：随着AI更深入地嵌入世界数字结构，从自动驾驶汽车到高频股票交易的所有事物，我们都知道它是如何做出决定的。 向孩子展示了各种形状的图片，并被要求找到大红色圆圈。为了回答，她...