人工智能触及意义障碍机器学习算法还没有像人类那样理解事物河口恭吾

人工智能触及意义障碍，机器学习算法还没有像人类那样理解事物

你可能听说过我们正处于人工智能革命之中。我们被告知，机器智能正在以惊人的速度发展，由“深度学习”算法驱动，这些算法使用大量数据来训练复杂的程序，称为“神经网络”。

今天的AI程序可以识别面部并转录口语句子我们的计划可以发现微妙的财务欺诈，找到相关网页以回应模棱两可的查询，将最佳驾驶路线映射到几乎任何目的地，在国际象棋和围棋中击败人类大师，以及在数百种语言之间进行翻译。更重要的是，我们已经承诺，自动驾驶汽车，自动化癌症诊断，房屋清洁机器人甚至自动化科学发现都将成为主流。

Facebook创始人马克扎克伯格最近宣称，在未来五到十年内，该公司将推动其人工智能“在所有主要的人类感官方面”比人类更好：视觉，听觉，语言，一般认知。“Shane谷歌DeepMind集团的首席科学家莱格预测，“人类级人工智能将在20世纪20年代中期通过。”

作为在AI工作了几十年的人，我目睹了即将到来的人类AI的类似预测的失败，我相信这些最新的预测也将不足。在机器中创造人性智能的挑战仍然被大大低估了。今天的AI系统严重缺乏人类智能的本质：理解我们所经历的情境，能够掌握其意义。数学家和哲学家吉安 - 卡罗罗塔有一句名言：“我想知道人工智能是否或何时会破坏意义障碍。”对我来说，这仍然是最重要的问题。

现代人工智能基础中出现的最近裂缝突显了机器缺乏人性化的理解虽然今天的计划比我们20或30年前的系统更令人印象深刻，但一系列研究表明，深度学习系统可能以非常不人道的方式不可靠。

我举几个例子。“这位光头男子需要一顶帽子”被我手机的语音识别程序转录为“熊头人需要一顶帽子。”谷歌翻译将“我把猪放入笔中”作为“Je mets le cochon dans le” stylo“。

当文档中附有简短，无关的文本片段时，“阅读”文档并回答有关它们的问题的程序很容易被愚弄成错误的答案。类似地，识别面部和物体的程序，被称为深度学习的主要胜利，当他们的输入被修改时，甚至以适度的方式通过某些类型的照明，图像过滤和其他不会影响人类识别能力的改变，也会失败。一点点。

最近的一项研究表明，在脸部图像中添加少量“噪点”会严重损害最先进的脸部识别程序的性能。另一项名为“房间里的大象”的研究表明，在客厅图像的角落插入一个不合适的物体的小图像，奇怪地导致了深度学习的视觉程序。突然错误地分类图像中的其他对象。

此外，当他们学习的游戏稍微修改时，已学会以“超人”级别播放特定视频或棋盘游戏的节目完全丢失击中“球”改变位置）。

这些仅仅是一些例子，表明当面对不同的情况时，最好的人工智能程序可能是不可靠的，即使在很小的程度上也与他们接受过培训的情况不同。这些系统所犯的错误范围从无害和幽默到可能是灾难性的：想象一下，例如，机场安全系统不会让你登机，因为你的脸与犯罪分子或自驾车相混淆因为不寻常的照明条件，没有注意到你即将过马路。

更令人担忧的是最近有人发现人工智能系统易受所谓对抗性例子的影响。在这些中，恶意黑客可以对图像，声波或文本文档进行特定更改，这些更改虽然与人类不可察觉或无关，但会导致程序发生潜在的灾难性错误。

几乎在AI的每个应用领域都证明了这种攻击的可能性，包括计算机视觉，医学图像处理，语音识别和语言处理。大量研究表明黑客原则上可以轻易地愚弄面部和物体识别系统，对图像进行特定的微小变化，在停车标志上贴上不显眼的贴纸，使自动驾驶汽车的视觉系统误认为是产量签名或修改音频信号，使其听起来像人类的背景音乐，但指示Siri或Alexa系统执行静音命令。

这些潜在的漏洞说明了当前AI的进展受到意义障碍的阻碍。任何使用人工智能系统的人都知道，在人类视觉能力，语言流畅性和游戏性能力的背后，这些程序不会 - 以任何人类的方式 - 理解他们处理的输入或他们产生的输出。缺乏这种理解使得这些程序易受意外错误和无法检测到的攻击。

超越这个障碍需要什么，让机器能够更深入地了解他们所面临的情况，而不是让他们依赖浅层特征？为了找到答案，我们需要研究人类的认知。

我们对所遇到的情况的理解基于广泛，直观的“常识性知识”，关于世界如何运作，以及其他生物，特别是其他人类的目标，动机和可能的行为。此外，我们对世界的理解依赖于我们的核心能力，以概括我们所知道的，形成抽象概念，并进行类比-简而言之，灵活地使我们的概念适应新情况。数十年来，研究人员一直在尝试使用直观的常识和强大的人类概括能力来补充AI系统的方法，但在这项非常困难的工作中几乎没有取得任何进展。

缺乏常识和人类理解的其他关键方面的AI程序越来越多地用于实际应用程序。虽然有些人担心“超级智能”人工智能，但人工智能系统最危险的方面是我们会过多地信任它们并给予它们太多的自主权而不完全了解它们的局限性。正如人工智能研究员佩德罗·多明戈斯在他的书“大师算法”中指出的那样，“人们担心计算机会变得太聪明并接管世界，但真正的问题是他们太愚蠢而他们已经接管了世界。”

人工智能商业化的竞争给研究人员带来了巨大压力，要求他们制作出能够在狭隘任务上“运作良好”的系统。但最终，开发值得信赖的人工智能的目标需要深入调查我们自己的卓越能力和对我们自己用于可靠和有力地理解世界的认知机制的新见解。释放AI的意义障碍可能需要向后退一步，远离更大的网络和数据收集，并回到该领域的根源，作为研究最具挑战性的科学问题的跨学科科学：智能的本质。

珠海男科医院

北京皮肤病医院

大同男科医院

合肥白癜风医院

济南血管瘤医院

永州男科医院

济南白癜风医院

无锡男科医院

兰州白癜风医院

福州肿瘤医院