文 | 黄锦辉

“对话系统”（Dialogue System，DS）是当前炙手可热的人工智能技术，例如它是“对话机器人”（Chatbot）之核心。随着应用场景愈趋复杂，市场对Chatbot的技术要求也愈来愈高。

“对话系统”除了能简单地与用户对答之外，亦要因应应用场景，实时理解用户的情绪状态，然后适当地与他进行富感情甚至乎具同理心的对话。此行为背后所采用的是“情感计算”（Affective Computing），是近期人工智能研究的热门课题。

情感计算 可生成“人造同理心”

“情感计算”的应用广泛，适用于客户服务、医疗保健、安老护理等以人为本的应用。例如，适逢DSE刚放榜，若有学生考试失手，导致情绪极度低落，“虚拟教师”可以与学生对话，尝试去了解情况，发挥其“人造同理心”（Syntheic Empathy），安慰学生，提防意外发生。

“情感计算”主要牵涉三大技术：（1）“情绪辨识”（Emotion Recognition）分析“多模态”（Multi-Modal）输入讯号，例如利用“语音识别”（Speech Recognition）技术分析对话中用户的语气、利用“人脸识别”（Facial Recognition）技术分析用户在对话时的脸部表情、利用“自然语言处理”（Natural Language Processing）分析文字对话中用词的选择，来推断用户的情绪状态。

（2）“情境建模”（Context Modeling）利用“论述分析”（Discourse Analysis）技术了解语言在实际情境中的使用，着重于分析对话中句子之间的关系和上下文，并配合环境信息来分析用户情绪的强弱、原因，甚至意图，以协作机器人作出感性的回应。

（3）“回复生成”（Response Generation）利用“生成式人工智能”（Generative Artificial Intelligence，GenAI）技术，并配合用户情绪，精心地设计出具同理心的回应。

近期“人形机器人”（Humanoid）应用日益普及，例如美国Boston Dynamics、中国“宇树科技”所出产的机器人便红遍全球。技术上“具身智能”（Emboddied Intelligence）体现“人形机器人”的决策大脑，当中“对话系统”必然不可或缺。正因如此，未来“情感计算”的研究会更具挑战性。相比之下，当前市面流行的Chatbot背后的大脑主要是以“离身智能”（Disembodied Intelligence）驱动，它与“人形机器人”的“具身智能”之差别，在于其不依赖实体的感官，而更依赖抽象的计算、演算法和资料处理。

现代的人工智能，例如“深度学习”（Deep Learning，DL）、“自然语言处理”、“智慧助理”（Smart Assistant）等，都是典型的“离身智能”系统。它们虽然可以进行复杂的数据分析、推理、决策等任务，但并不依赖任何物理的感官输入和身体动作。概括而言，“离身智能”通常具备强大的运算和资讯处理能力，能够在没有“身体”的情况下，透过数据输入输出与环境互动。这种智能往往具有高速运算和跨领域学习的优势，不过在与物理环境的互动中，它则不具备直接的回馈机制。然而，“具身智能”的“情感计算”必须实时分析物理还境信息，在采集数据、推理分析、回应生成等各步骤都倍加困难。

马斯克推Ｇrok4 虚拟女友上线

“情感计算”生成“人造同理心”，这难免会引发不少伦理问题，举例：（1）“人造同理心”具有情感操控性，一旦用户与机器人产生情感上的联系，这会危险不已。机器人是无温度的，它的感情是否真心，确实可疑，而这些虚假感情更可能带有欺骗性。（2）“人造同理心”会削弱人类的同理心，因为若人类过分依赖人工智能来获取情感支撑的话，人类的沟通能力必然会被大大削弱，影响其社交能力。（3）“人造同理心”是否应该在敏感场景（例如“悲伤咨商”或“自杀防治”）中使用，提供模拟护理服务呢？

最近，马斯克（Elon Musk）旗下的“xAI公司”推出的Grok4人工智能助理，内设有“AI伴侣”功能，而背后便采用了大量“情感计算”技术。首批上线角色为虚拟女友Ani和卡通小熊猫Bad Rudy，它们能与用户实时互动，支持视像通话。其中，Ani内置好感度系统，犹如“梦中情人”的化身。

未来或现“人机恋” 挑战伦理

不过“AI伴侣”却引起网民广泛讨论。“AI伴侣”能高效地向用户提供情绪价值，做法似乎能够满足新世代的情感需求，但是它的聊天尺度及附带的道德疑虑却令不少人担心。

随着科技发展，他们担心在不久的将来，“AI伴侣”便能够让“梦中情人”打破“次元壁”（Dimensional Wall），借助机械人的躯壳，降临用户的身边。届时，无论是日常起居的需要，还是精神世界的沟通陪伴，“AI伴侣”不但能一手包办，而且任劳任怨。只要持续订阅服务，“AI伴侣”便能陪伴用户由“校服”走到“寿衣”，双方终身相伴，产生深刻的“人机恋”。未来，组织传统家庭将不再是时代青年的主流诉求，到时更不排除“人机婚姻”的出现。最后，人类或许会沦为被AI代码操控的“情感囚犯”。

【知识库】何谓“次元壁”？

•“次元壁”（Dimensional Wall）是指二次元世界（虚拟世界）与三次元世界（现实世界）之间存在的一种看不见的屏障或隔阂。

•这种隔阂不仅是表现形式的不同，更本质上是两种文化群体之间的沟通障碍和认知差异。

•打破次元壁的意思是，虚拟世界的角色以某种方式，进入现实世界，与现实世界的人产生互动。

•突破虚拟与现实之间的界限，使得两者之间的障碍被消解或连接，让使用者感受到如同梦中情人般的真实陪伴和交流。

（作者系全国政协委员、香港立法会议员，文章仅代表作者个人观点）