AI前沿观察丨迈向人工智能的未来可信可靠可解释和重新定义的人

　　21世纪经济报道记者郭美婷实习生杨婧文广州报道
　　编者按
　　人工智能从你出生那天就认识你，读过你所有的电子邮件，听过你所有电话录音，知道你最爱的电影尤瓦尔赫拉利在《未来简史》一书中描述了这样一种未来景况：人工智能比人类更了解自己。
　　步入人工智能时代，人类的生活习惯和生产方式正在被重塑，科幻和现实渗透，惊喜与担忧交加。人与机器的未来是一场亲密的合作还是激烈的战争？机器会将人类的智能拓展到什么样的边界？
　　南财合规科技研究院推出AI前沿观察系列报道。从技术、政策和治理多角度，剖析人工智能的技术瓶颈与伦理考验，追问未来的可能与限度，以期寻找第四次工业革命浪潮翻涌下人工智能发展的最优路径。本篇是第三篇，多位一线专家畅议AI实现之路。
　　让我们再一次回到那场震撼了世人的围棋对局。
　　2016年3月15日，韩国首尔。世界围棋冠军、职业九段选手李世石坐于棋盘一端，双眼注视棋局，手指摩挲着棋罐；代表AlphaGo的另一端，棋手正依照电脑屏幕上的指示落下一子。17时02分，李世石投子认输。历时7天、鏖战20小时，这场号称捍卫人类智力尊严的博弈总比分定格在了1：4。
　　从惊呼人工智能来了到察觉人工智能无处不在，人类社会才走过寥寥数年。语音助手、人脸识别、自动驾驶在如今这轮以深度学习技术为代表的AI浪潮下，人类享受到了越来越多的科技红利，也有那么一刻感到迷茫新旧技术该如何更迭，即将到来的是高潮还是低谷，人工智能的前路走向何方？
　　多位受访专家提出了解题思路，如强化技术的可解释性、促进AI落地，以及对人机交互、元宇宙的设想等。也许在AI如空气般无处不在的未来，人类注定需要从学会和机器的相处中，找寻答案。
　　低谷再现？
　　到2022年，人工智能已经走过66个年头。
　　1956年夏，达特茅斯会议首次提出人工智能（ArtificialIntelligence，简称AI）概念，标志该领域的正式创立。随后，机器定理证明、跳棋程序等研究成果相继取得，掀起了人工智能的第一个高潮。但受限于计算机内存、运算速度和数据量的不足，人工智能的研发很快停滞不前。
　　突破和转折出现在20世纪70年代，专家系统崛起，人工智能实现了从理论研究走向专门知识的应用。然而随着应用规模的扩大，专家系统应用领域狭窄、缺乏常识性知识、推理方法单一等问题暴露，这直接导致了历史上的AI之冬。所幸，90年代互联网技术的发展再次点燃了人工智能的创新热情。
　　2012年，人工智能迎来以深度学习（DL，DeepLearning）为代表的新高潮。那场震惊了世人的人机对弈，背后正有深度学习的鼎力支持。过去曾对计算机极具挑战的任务，如图像分类、语音识别和自然语言处理等，都因深度学习而取得了进展。
　　截至目前，人工智能发展仍处于高潮期，但整体进展将会逐渐放缓。北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙认为，人工智能技术虽已相对成熟，并在各领域投入应用，但未能出现颠覆性的理论和技术突破。从理性的角度看，人工智能接下来很可能会进入相对平静的发展期。
　　事实上，深度学习的局限已露端倪。今年三月，知名AI学者、Robust。AI创始人加里马库斯（GaryMarcus）发表了一篇《深度学习撞墙了》的文章，他认为纯粹的端到端深度学习差不多走到尽头了，整个AI领域必须另寻出路。
　　尽管该观点遭到深度学习拥趸者的驳斥，但深度学习的缺点确实随着发展日益清晰。多位受访专家告诉21世纪经济报道记者，深度学习的本质是利用没有加工处理过的数据用概率学习的黑箱处理方法寻找规律。这一方法需要大量高质量的数据集进行训练，在封闭场景下才能更好地完成任务。且深度学习本质上不可解释，非常脆弱，在遭遇外界干扰，比如对抗样本攻击，通过在输入数据中添加扰动，即可使系统做出错误判断。
　　深度学习撞墙了，如同人工智能几起几落的发展史一般，有专家预测，人工智能或将又经历一次低谷期。
　　人们对人工智能的期待和技术的真实水平相差太远。北京邮电大学人工智能学院研究员、北邮人机交互与认知工程实验室主任刘伟直言，虽然从硬件上看，CPU（中央处理器）、GPU（图形处理器）等芯片已达到纳米级别，计算能力大幅度提升，但在人工智能发展的基石数学方法上尚未获得根本突破，至少目前未看到曙光。
　　武汉大学计算机学院教授、资深区块链技术专家蔡恒进不这么看。人机对弈后，机器在多个领域超越人类，目前并未显露颓势。问题在于我们对现有技术的理解存在问题，也即从根本上如何看待智能和意识。
　　他表示，以AlphaGo为例，尽管它战胜了人类，但多数人仍将其看作工具，并不承认其可能拥有的想象力。深度学习亦同理，若能从物理限制中跳出，透彻理解其思维运转模式，或可为技术优化另辟蹊径。这种观念的变化将在近期发生。
　　AGI之梦
　　对人工智能未来的预测往往率先发生在科幻想象中。经典影片《她（her）》讲述了AI系统OS1化身女主萨曼莎，不仅博学广知，还拥有自主感受、思考、学习、决策的能力，甚至与人类深陷爱河。
　　这并非天方夜谭。很长时间里，人类都怀揣着企盼却担忧的复杂情感，致力于推动类似萨曼莎的通用人工智能（Artificialgeneralintelligence，简称AGI）的实现。
　　深度学习技术在过去十年的迅猛发展，让不少人觉得造出类人的智能体指日可待。今年5月，马库斯与马斯克的赌局就赚足了噱头。
　　此事起因于埃隆马斯克（ElonMusk）在推特放言：2029年感觉是关键一年。如果那时我们还没有AGI，我会感到惊讶。
　　加里马库斯随即提出与马斯克对赌10万美元，并与纽约大学计算机科学家合作编制了五个检验AGI是否实现的标准，包括AI无法看懂电影、阅读小说、担任厨师等，作为打赌的内容。
　　这是我的建议，如果你（或任何其他人）在2029年设法完成至少三个，就算你赢了。十万美元如何？马库斯写道。可惜的是，直到奖金池滚到50万美元，马斯克都再无回应。
　　打造全知全能的AGI曾经承载着人类追求AI的终极梦想，然而也有不少声音指出，该目标能否实现目前来看尚是未知数。
　　通俗来说，AGI要求人工智能能够解决多种不同类型的问题。即使放在一个人身上，要求其既能下棋，又能写小说，还能炒股，这也很难达到。何况我们连人类的思维尚未研究透彻。刘伟提到。
　　蔡恒进则认为AI冠以通用一词本身就建立在错误的理解上。这好比爱因斯坦和乔丹间的智慧不可互通，亦无法对比出谁的智能更加高明。我更愿意用‘强人工智能’这个词，如AlphaGo就是在围棋领域的强人工智能。
　　我也不完全认可下一代人工智能就是往可通用发展。它可以是未来方向，但短期内未必能实现。在刘祥龙看来，实现AGI需先解决两方面问题。首先，从应用角度，人工智能如何深度赋能各行业还面临挑战，AI应该是未来510年的突破重点；其次，相比于可通用，安全可信、可解释才是人工智能发展急需攻破的难题，也是AI落地、实现AGI的前提条件。
　　实现可解释为何是关键一步？蔡恒进指出，可解释包含多个层次。从结论A证明到结论B，是一种强可解释，如人脑用概念理解世界，举一反三；而通过处理足够多的参数间接得到结论的，则是一种弱可解释，如深度学习需要同时处理上万亿个特征，眉毛胡子一把抓，因此其可信性可靠性欠佳，可迁移性也不强。
　　换句话说，如果将人脑的思维过程比作把书读厚再读薄，机器目前仍处在读厚的阶段。例如，当人类定义出红黄蓝等颜色概念，即使出现一种从未见过的颜色，依然能够根据其基本特征将其归类进少数几个颜色概念中。这是机器还需要继续训练、努力向人类靠近之处。
　　进到机器的世界里面去！
　　当AGI的前路迷雾重重，人工智能未来应走向何方？
　　首先需要回答的是，机器能否从每个方面超越人类？以及，这样的发展是否有风险？蔡恒进认为，发展没有壁垒但存在风险。为了回避风险，人类应进入到AI的世界中。
　　这也许是人机交互和人机混合（或称人机环境系统智能）提出的初衷之一。早在30年前，钱学森就给虚拟现实技术取名灵境，并为人工智能选择了人机结合、以人为主的发展方向。
　　从最基础的人和手机等电子设备的交互，到辅助驾驶、脑机接口、AR眼镜、智能语音、肌电手环、隔空手势识别近年来，人机交互的基础研究和应用落地不断推进。
　　机器能将理性（计算能力）最大化，却又不具人的感性（算计能力）。人机混合是人和机器的取长补短、相辅相成、相得益彰这是理想状态。刘伟评价，目前人机混合还处于较低水平。机器难以做到在合适的时间、合适的地点，以合适的方式提供给人合适的建议，甚至可能产生干扰。例如，人机混合下棋，赢不了单台机器。
　　刘祥龙则将人机混合分为两个层级。现阶段可以认为是浅层次的混合，机器主要以辅助人类对数据进行高效处理为主要协同模式，二者相对独立。下一步深层次的混合需要创新融合方式，人机相互赋能、提高协同能力，目前已有脑机接口等多个研究在关注这一点，技术上还有很大挑战。
　　为人机交互再添一把火的是去年的元宇宙风起。随着Roblox公司冲击元宇宙第一股和脸书母公司更名Meta，这个与灵境有异曲同工之妙的概念引爆了人机交互的万亿级市场。
　　蔡恒进提出以区块链技术为基础的元宇宙，将作为人类进入AI世界的入口，也是未来的发展方向。未来，元宇宙将利用区块链布局包括人类和机器在内的多个节点，由人类节点提供数据，机器节点计算处理，二者同时发挥作用。
　　如此，既让AI在相对可控的环境下向前发展，又使人机构成了一个庞大的、拥有强大智能感知和预测能力的系统，该系统可能会涌现出社会性的自我意识，整体形成一个超级智能体、超级大脑。蔡恒进设想道。
　　人工智能的发展已经迎来关键期。随着人工智能逐渐成为塑造全球竞争格局的重要因素，不少专家将这几年看作我国抢占科技制高点的黄金期。从重点技术突破，到人才培养、开源系统和生态布局，也许还需从更根本的人工智能哲学入手，摸清楚意识和智能，才能赢得AI新时代的门票。
　　出品：南财合规科技研究院
　　策划：曹金良
　　统筹：郭美婷、李润泽子
　　研究员：郭美婷、李润泽子、冯恋阁
　　本期作者：郭美婷、杨婧文（实习生）
　　更多内容请下载21财经APP