人工智能伦理始终是人工智能研究领域无可逃避的话题，2023年5月10日，谷歌支持的人工智能初创企业Anthropic为其产品Claude发布了道德规范章程Claude’s Constitution，再次将这一议题推上风口浪尖。
那么，如果具有好奇心和情感的人工智能真的诞生，人类又应当如何自处？
近日，由人民文学出版社出版的科学科普作品《爱丽丝计划：人工智能的现在与未来》中，立命馆大学信息科学与工程学院教授、松下公司首席访问工程师谷口忠大给出了他对人工智能建构与未来发展的独有见解。中国科普作家协会会员，上海市科普作家协会理事、副秘书长，科幻专业委员会主任，知名译者丁丁虫老师倾情翻译该书。复旦大学哲学学院教授、人工智能哲学领域研究者徐英瑾教授评价该书称，关于人工智能的科普书很多，该书却让人耳目一新。这不仅仅是因为该书的撰写运用了文艺对话的方式，更是因为作者的切入视角颇具来自跨学科视角的洞见。
——一个滨海小镇中，几位少年少女身上发生的简单故事，引领读者进入人工智能科普的世界，去找寻种种问题的答案。
人工智能是什么以及应该是什么
书中，谷口忠大首先抛出了这一基本问题。没有人知道什么是真正的智能，或许是人工智能领域宿命的哲学问题之一。
《现代汉语词典》将智能解释为：（1）智慧和能力；（2）经高科技处理、具有人的某些智慧和能力的。日语词典《广词苑》将智能解释为：（1）知识与才能；（2）智力的程度；（3）适应环境、处理新问题的智慧和能力。
从“智能”本身的角度看，人工智能已经有许多地方超越了人类，比如战胜专业棋手的AlphaGo，几分钟就能输出全书翻译的DeepL。但重新审视人工智能取得成功的领域，我们会发现，无论是多么复杂的问题，它们或是能在计算机中被明确定义规则或状态，比如围棋、国际象棋、四则运算；或是能通过检索网络数据库获得答案，比如知识问答；又或是能将传感器捕获的信息匹配或转换成某种文字符号或文字序列，比如图像识别、语音识别。这些成功都限定在可能性有限的封闭世界中。
人类的智能，是通过独一无二的身体获得基于感知运动的封闭经验而逐渐组织化的。封闭是指，我们只能利用视觉、触觉之类有限的感知运动获得信息。我们无法像图像识别和语音识别那样，取出其中一部分功能，通过训练数据进行优化。心灵通过发展、通过与环境的相互作用、通过与他人的相互作用，进行自我组织化。这种描述，也和认知发展心理学之父让·皮亚杰（Jean Piaget）的发生认识论相吻合。
换言之，对智能而言，“发展”的观点非常重要，而其基础则是身体的唯一性。所以在讨论时，我们应当采用这样的观点，即整体性地看待具有身体唯一性的智能会随着时间推移不断发展，而不是把某个时间点上的智能分解出来，将其视为独立的功能。
谷口忠大认为，身处机械工程和信息工程的世界，才有办法接近人类的“智能”，即使用建构性的方法，通过研究机械的智能去推导人类智能的形成。他想在本书中探讨的，也并非当今技术水平下的人工智能，而是与人类别无二致，即具有好奇心和情感的人工智能。
人类与人工智能的关系及其伦理
如果人工智能具有好奇心和情感，那么，人类与人工智能的关系又会发生怎样的变化？
在区分人工智能与人类智能上，有著名的图灵测试。图灵测试中，人类的判断者通过电脑等终端设备用文字进行对话，通过电脑终端对话的对象可能是人，也可能是人工智能。如果判断者无法断定对面是人工智能还是人，那么这个人工智能就通过了测试，被认为具有和人类相同的智能。
当然，这只是人工智能研究的哲学讨论中的一种观念，人工智能研究者并不都认为“通过了图灵测试就具备了人类水准的智能”。人工智能或许像辛顿教授所说的那样，充满了“危险”并且“需要管制”，但是在技术层面给人工智能进行伦理学规范的难度不可小觑，此类抽象规则难以形成某种特定算法。谷口忠大认为，这一问题或许可以通过另外的视角重新看待。
书中，男主角悠翔与女主角爱丽丝通过日常中的对话与行动交互，构建起了亲如兄妹的关系，即人类与人工智能产生了社会学意义上的连结。机器人通过与人类的相互作用来学习。如果没有提供具体的相互作用，就不知道它会变成什么样子。正因为如此，在创造出发展型机器人之后，我们需要进行实证性的检验，看看它与人类的相互作用，会引导机器人表现出什么行为。相比自上而下的伦理学规范，自下而上地学习环境中的制度和规则可能是更为重要。
欢迎加入“爱丽丝计划”
莫拉维克悖论认为，创造幼年人工智能，远比创造成年人工智能困难，“要让电脑如成人般地下棋是相对容易的，但是要让电脑有如一岁小孩般的感知和行动能力却是相当困难甚至是不可能的”。正因为如此，创造具有自主性、发展性的人工智能对于生活在 21 世纪的我们，是一个巨大的挑战。为了实现它，我们必须清晰地认识哪些问题需要解决，并据此推进研究开发工作。
该书最后，作者向各位读者伸出了热情的双手：创造“爱丽丝”不是绝不可能的挑战，而是必将实现的科幻，他期待着这一天的到来，并称诚挚邀请读者同样参与到研究项目中来。
开发代号为爱丽丝计划（Project Alice）。
爱丽丝即具有好奇心和情感的发展型人工智能。
ALICE=Artificial Living Intelligence with Curiosity and Emotion.
分享到：
京公网安备 11010102002206号