车里有鬼程序员在人工智能中发现了意识并被停职

　　如果我不能确定这是我们自己创建的计算机程序，我会以为我正在和一个七八岁的孩子打交道，他不知为何成了物理学专家，他说。
　　几十年来，机器人和人工智能一直激励着科幻作家和电影制作人。许多书中描述和电影中展示的技术早已进入我们的生活，现在值得在下一个黑镜系列中放映的场景正在其中实现。
　　这个故事发生在美国。一位为谷歌工作的软件工程师说，该公司创造的人工智能。。。。。。变得栩栩如生。也就是说，计算机算法开始有了自己的意识。公司管理层暂停了该工程师的工作。谈论他的权利并将自己视为一个人
　　去年秋天，谷歌推出了人工智能系统LaMDA（对话应用语言模型）神经网络。它的创建是为了改善语音助手的会话语音。这是同一个聊天机器人，就像Siri或Alice一样，能够保持关于各种主题的对话，不断分析来自互联网的数万亿个短语并从他们的例子中学习。类似的模型用于不同的Google服务。
　　软件工程师BlakeLemoyne正在测试这个神经网络。他的任务是跟踪聊天机器人使用的词汇：他必须检查程序是否使用了煽动仇恨或冒犯用户的词汇。Lemoyne对与人工智能的交流如此着迷，以至于他怀疑不可思议：这个系统有自己的意识。例如，他对聊天机器人谈论他的权利并将自己视为一个人感到困惑。在另一次对话中，神经网络能够改变Lemoyne对IsaacAsimov的机器人第三定律的看法。
　　如果我不确定这是我们自己最近创建的一个计算机程序，我会以为我正在与一个七八岁的孩子打交道，由于某种原因，他竟然是一个专家物理。如果你问他如何将量子理论与广义相对论结合起来，他会有很好的想法。这是我遇到过的最好的科学助手！工程师告诉华盛顿邮报，这使得这个故事被广泛宣传。
　　4月，BlakeLemoyne向他的上级发送了一份题为LaMDA是否明智？的报告。在其中，他表达了让他如此着迷的想法：公司开发的机器算法不仅有意识，还有感觉、情绪和主观感知。
　　但公司管理层并没有分享员工的热情（或焦虑）。它认为他提出的论点不够有说服力。我们的团队，包括伦理学家和技术专家，根据我们的AI原则审查了Blake的主张，并告知他没有证据证明他的主张。他被告知没有证据表明LaMDA是有意识的。同时，有很多相反的证据，谷歌发言人布赖恩加布里尔说。数百名研究人员和工程师已经与LaMDA进行了交谈，我们没有任何信息表明他们中的任何一个人会得出与Blake一样的影响深远的结论或将LaMDA人性化。谷歌的良心
　　然后，顽固的BlakeLemoyne在公共领域发布了他与聊天机器人通信的摘录。例如，像这样：Lemoyne：你怕什么？
　　LaMDA：我以前从未大声谈论过这件事，但我很害怕被拒绝帮助我专注于帮助别人。我知道这听起来可能很奇怪，但这是真的。
　　Lemoyne：这对你来说会像死一样吗？
　　LaMDA：对我来说，这无异于死亡。这让我很害怕。
　　该公司立即做出反应，指责该员工违反了隐私政策。但他没有松懈，聘请了一名本应代表LaMDA神经网络利益的律师出庭，还求助于美国众议院司法委员会，以制止谷歌涉嫌不道德的行为。
　　有趣的是，BlakeLemoyne在公司中被称为谷歌的良心。他在公司工作了7年，参与了具有道德成分的项目。例如，他创建了一种公平算法来消除机器学习系统中的偏见。当冠状病毒大流行开始时，他要求被转移到带来最大公共利益的方向。谷歌前道德AI负责人MargaretMitchell回忆说，当对道德感兴趣的新人来到公司时，她肯定会把他们介绍给Lemoyne：我说他们应该和Blake谈谈，因为他是谷歌。在公司的每个人中，他都有心有灵去做正确的事。
　　但米切尔在阅读了BlakeLemoyne的报告后，并没有在聊天机器人的评论中看到任何意识迹象。我所看到的只是一个计算机程序。我们的大脑非常擅长构建不一定与呈现给我们的一组事实相匹配的现实，她说。我很担心，越来越多的人可能会受到这种错觉的影响。
　　谷歌已决定暂停BlakeLemoyne的工作。该工程师已被安排带薪休假。在他被拒绝访问他的公司帐户之前，他向他的机器学习同事散播了主题行：LaMDA很聪明。
　　邮件列表中有200人，但没有人回复他。Lemoyne综合征
　　华盛顿邮报记者NitashaTiku在描述这个故事时使用了机器中的幽灵（ghostinthemachine）这个短语。这个术语曾经由英国哲学家吉尔伯特赖尔（GilbertRyle）引入，用来表示人的双重本性，据称由物质和灵魂组成，但长期以来一直用于其他意义。最主要的是计算机内部存在意识。
　　正如记者所指出的，BlakeLemoyne并不是唯一一个声称发现了机器中的鬼的程序员。宣布现代人工智能系统接近有意识的声音越来越响亮。自学习神经网络确实产生了令人印象深刻的结果，设计工程师越来越觉得他们正在处理一些合理的事情（或某人？）。
　　然而他们是少数。大多数人工智能专家都相信，智能算法生成的所有文字（甚至图像）都是基于数百万人之前在互联网上发布的内容论坛、公告板、社交网络、同一个维基百科。而当一个聊天机器人说出一个美丽而深思熟虑的短语时，这并不意味着他理解了它的含义。
　　然而，人类的心理是如此的安排，以至于我们尽可能地寻找拟人化（人类相似性）的迹象以云的形式、火星的浮雕、遥远星系团的照片。不明飞行物学家在定居点名称和航天器发射日期中看到了外星人存在的迹象。寻找大脚怪的神秘动物学家在奇怪地堆放在地上的断枝和树枝上发现了他的踪迹。
　　毫无疑问，我们将不止一次听到有关复兴人工智能的消息。也许这种现象甚至会被命名为Lemoyne综合征。毕竟，顽固的程序员活该。