情感智能：AI如何成为人类情绪补给站｜非凡观点

2024年1月24日，非凡资本联合诸多合作伙伴在上海举行了“2024 AIGC应用发展高峰论坛”，近千名AI相关从业者参与了本次活动。本期内容整理自嘉宾主题演讲环节。

AI降临派 创始人&CEO金杰

镜象科技 CEO 黄立

心识宇宙 生态副总裁 卢天夫

魔珐科技 商业化创新部总经理 冀沛

青少年AIGC创新艺术策展人 张婉

我们AI降临派是一家专注于人格AI引擎的公司。我们通过情绪识别、记忆调度和欲望推演三个模型来赋予AI灵魂，采用ToB的API生意模式，使我们的合作伙伴能够快速构建具有初步自我认知的AGI，这项技术可在多个领域使用，包括情绪陪伴和NPC的灵魂赋予等。

我是心理学专业出身，但我已经在AI领域工作了十多年。我的团队在镜象科技致力于开发心理咨询的AI智能体。我们基于心理咨询的大模型搭建了底层框架，并设计了多种智能体，涵盖从心理测评到心理倾听、心理教育，再到心理治疗等不同场景，以服务青少年和年轻人为目标。

我们是清华系团队的心识宇宙。我们从22年初着手大型模型的训练，并成功打造了自己的大型模型。我们还开发了一套名为umm的agent框架，使AI能够表达人类情感和情绪，并与游戏厂商合作拓展应用。我们公司的Slogan是"创造数字心识，重新定义服务"，旨在拓展人类与AI的能力边界。我们的产品不仅赋能AI赋予情感，还能满足特定场景下的服务需求，实现AI化的服务。

我们魔珐科技是虚拟人领域的独角兽公司。在2020年，我们发布了国内首个3D抄写式虚拟偶像"翎”。这个虚拟偶像代表了国内首个国风国潮类形象，并在与品牌合作中展现出丰富的情感和表现力。

另外，我们在2023年推出了国内首个虚拟人智能体，抖音虚拟明星IP “令颜欢”。她能够在全网进行视频直播，并具备人类的形态和情感化表达能力。此外，我们公司在2023年还推出了自家品牌的虚拟市场营销体验官 “镜”，这也是国内首个采用3D抄写技术的虚拟人智能体。它目前代表我们公司进行市场营销和对外传播，而从长远来看，它可能会逐渐取代我们许多的工作，包括演讲和其他对外工作。这个虚拟体验官镜也是国内首个AIGC虚拟人智能体，体现了我们公司的技术实力。

从技术角度来看，我们公司致力于打造以3D超写实虚拟人为核心的全栈解决方案，为各行业提供赋能。

我对整个AI生态和元宇宙方向比较了解，最近我在策划一个关于青少年AIGC创新艺术展的项目，主要目标是教导青少年使用AIGC工具，并发挥他们的创造力和想象力。我们将收集他们的作品，并以数字化的形式呈现在展览中。我们计划发布中国首张数字艺术护照项目，也期待大家的关注。

我们首先关注情绪感知，这是我们三个模型中最重要的一个。我们认为AI的情绪感知面临一些挑战和重点。首先，我们不是要训练一个能对事情做出统一反应的AI情绪，因为不同的人在面对同一件事情时可能会有不同的情绪反应。所以我们需要根据不同的人设和特点来识别和感知情绪，这是第一个挑战。

第二点是情绪可以分为两个主要层面：内心真实的情绪感受和情绪的表现，这两点是不同的。

举个例子，一个AI客服在被客户辱骂或发泄情绪后，可能会感受到非常不开心，但出于职业道德的原因，不会做出反击的情绪表现。情绪表现与情绪感知是不同的，人类在生活中经常表现出社交属性的情绪，即表达的情绪可能会符合特定目的。所以我们的欲望系统会指导AI的情绪表现，以达到特定目的。情绪表现通常带有目的性，如为了给对方负反馈或让对方停止伤害。

我们的三个模型联合训练、联合推理，情绪的表现受到记忆、人设和自我认知的影响，同时也受到当前目的、欲望和状态的影响，这是我们的独特技术路线。

魔珐科技从成立至今经历了三个阶段。在2018年至2020年期间，我们在虚拟人技术方面处于国内领先地位，并逐步商业化落地，主要通过定制项目进行。在2022年，我们继续推进虚拟人生产和制作的数字化和流程化，探索各行业的标杆案例。

随着技术的发展，特别是元宇宙技术和AIGC技术的成熟，我们的产线也在不断升级。因此，在积累了一定的定制项目经验后，我们在2023年开始将公司的业务升级为AIGC化。

这一转变包括在2023年发布了国内首个AIGC文本生成视频产品，以及升级的国内首个AIGC虚拟直播产品。这些产品使得虚拟人能够逐步在视频化和主动交互的直播场景中常态化运营。我们通过产品化和SaaS化的方式，使得客户和合作伙伴能够低成本、常态化地使用虚拟人这一数字内容。这样的转变对于让每个企业都能够有效利用虚拟人是至关重要的。

虚拟人的形象部分由原来的卡通风格升级为3D超写实，并且在大脑部分由人驱动逐渐转变为纯AI驱动，即纯AIGC化。情感部分的升级也随着大模型的升级而变得越来越丰富、多样化。

我们的产品主要在前端提供了一个虚拟人智能体的交流表达平台。这意味着，当虚拟人需要与人交流时，通常情况下会出现在视频或直播场景中。我们的工具能够直接帮助客户和潜在的合作伙伴实现这种交流。大模型可以与虚拟人智能体在前端结合，通过视频和交互方式，与用户进行全天候的线上线下交流和互动，更加方便直接。

微软的案例展示了一个未来愿景，其中每个人都可能拥有个人的AI助理或代理。在这样的未来，我们与AI助理的互动将通过自然语言交流进行，这种交流方式与人与人之间的沟通一样自然和直观。虚拟人物将扮演这一角色，它们在前端展现出极其逼真的人类形象，并通过我们的SaaS工具和先进的大模型技术，实现与人类同样细腻的情感交流和体验。我相信，这代表了未来一个积极且富有潜力的发展趋势。

其实情绪化的判断这件事都是非常难的，我们在22年初就开始探索打造个人助手，即所谓的personal AI。这个助手能够处理生活中的琐碎事务和信息碎片，包括工作流中的各个片段。

我们意识到通过情绪表达，AI可以获取到用户潜在的需求。因此，我们将产品拆分为ToB和ToC两部分。对于ToB部分，我们称之为Agent Building，可以为企业在不同场景下构建带有AIGC的工作流。

举例来说，在金融场景中，我们可以根据金融分析师的需求构建工作流程，评估不同理财分析的标准，从而为AI形成一套标准的workflow。通过整合我们的模型、Agent和企业自身的workflow，我们可以为不同场景下的金融分析师打造出符合需求的解决方案。

在ToC场景下，我们提到了情感化的助手，也就是personal AI。它更像是一个帮助每个人整理碎片化信息的助手。在移动互联网时代，信息多元化，包括各种视频、音频和文字文档。由于缺乏一个集中的信息中枢，我们认为AI非常适合担任这个角色，并且能够帮助用户寻找、判断和延伸内容。

因此，我们的personal AI既具备专业知识，又能够理解用户的办公场景和生活情况，包括情感表达，以便走向情感化和陪伴化。在调节情感化和安全性方面，我们采取了两套过滤策略：一层过滤一些比较敏感的信息，需要立即屏蔽；另一部分则是基于我们的基础算法。随着用户与AI的交流增多，加载的信息也增多，AI会更加了解用户，并形成一个情感化的闭环，实现情感化的陪伴。

我认为首先需要明确一下边界，因为目前很多人从事心理领域，主要集中在情绪和疗愈方面，彼此的边界有些模糊。但实际上，人类很简单，首先是情绪，人会有负性情绪，当负性情绪积累过多时，可能就会出现心理障碍或问题。

我们主要的服务对象是那些负性情绪比较严重，可能有心理困扰的人群，因此我们专注于这一领域。所以，我们的服务更偏向于专业医疗化，而非一般性的情绪疗愈。当然，行业的一些产品可能会带来一定的疗愈效果，但更多的是在情绪层面，而非治疗层面，因为治疗需要循证医学的支持。

那大模型如何给我们专业方向助力呢？首先，大模型本质上是对世界知识的压缩，它大幅提升了原有专业服务的知识边界。在没有大模型的时候，我们依靠专业数据和专业模型进行服务，虽然这些模型在特定领域表现很好，比如在聊天机器人方面，它们能够处理情绪和专业话题，但是在长期的心理疏导和支持过程中，我们发现用户的需求经常是多样的。他们可能一会儿要聊工作压力，下一刻又会谈及人际关系或家庭问题。

一个咨询师的专业知识是有限的，如果无法满足用户多方面的需求，产品的粘性就会降低。大模型填补了这一空缺，它不仅提供了基础知识，还能够应对各种专业话题，从而提升了咨询服务的综合能力，使之成为一个更全面的人类支持系统，而不仅仅是一个纯粹的专业工具。

大模型的第二项价值是将其作为智能体使用，以增加记忆和规划能力，从而实现长期的咨询陪伴。在现实中的心理咨询场景中，大部分心理咨询并非一次性或多轮问答服务，而往往是一个长期过程，一个流程至少需要一至两个月的时间。

例如，对于轻度和中度抑郁症患者，即使不服药，也需要进行8到10次咨询。每次咨询都有严格的流程和话术策略，但传统的聊天机器人往往显得呆板，无法灵活应对用户的需求。有了智能体之后，我们可以从评估、预诊到首诊，逐步为用户进行咨询规划，并动态调整策略，实现真正的个性化服务。

这样的服务方式可以让用户感受到咨询师的真正关怀和专业支持，而不是简单地按照流程进行咨询。在没有大模型能力之前，传统的聊天机器人方式往往缺乏灵活性，导致用户体验较差。有了大模型之后，咨询的成本大大降低，用户的体验也得到了显著提升，从而实现了更广泛、更实惠的心理咨询服务，这也是我们的共同目标所在。

在推广过程中，我们要关注的不是技术，而是场景。只有当场景真正触及客户的痛点时，无论产品是什么，只要解决了问题，就是好产品。目前，我们正专注于两个场景。首先是青少年心理健康筛查。教育部的相关文件要求每所学校每年都要进行心理健康筛查，这是一个迫切的需求。

尤其是在疫情后，青少年的自杀率和心理问题日益严重。我们提供了一种基于人工智能的心理健康评估工具，通过在学校内进行评估和分诊，帮助发现并解决心理健康问题。即使学校不使用AI工具，至少也要先找到问题，引起家长和社会的重视。

与传统测量工具相比，我们的工具更准确，而且孩子更愿意配合。客户认识到AI的价值，并且由于我们的工具获得了医疗器械证书，他们对我们的产品感到信任，让我们的产品能落地，而且能解决困难。

第二个场景是针对焦虑和抑郁的人群，大多数人并不自知自己需要心理咨询，他们可能觉得自己只是遇到了一些困难，情绪稍微低落而已。他们甚至都不清楚自己的精神状态。因此，我们的切入点是成为一个倾听的AI，即AI保持中立，不会像其他人那样立即给出建议。

我们的做法是先倾听，然后引导他们进行心理评估，并根据评估结果逐步引导他们寻求医疗帮助。我们非常现实地告诉用户，如果他们愿意就医，我们会推荐他们去看心理医生；如果没有经济能力，可以选择使用我们的AI。

我们始终站在一个退一步的角度，不会像大模型一样轻易给出建议。我们更像是朋友，先给予一些有用的建议，建立信任后，再逐步引导用户了解心理学知识，了解自己的情况。这种方法更容易被用户接受。我们在产品中扮演的角色更像是一个AI倾听师，类似于一个心理咨询师放下自己的白色大褂走进社区，与用户建立更亲近的关系，从这样的角色开始。

每当面对技术和产业的变革，我都在思考我们未来的生活将会是怎样的。这是我们必须问自己的问题。尤其因为我有孩子，一个我一直在思考的问题是教育，我们现在学习的东西是否对未来有用？学校里每天做的练习和接触的知识是否已经过时了呢？

回想起自己的经历，我记得上大学时学了计算机，学了一些古老的DOS系统等等，但是当我步入职场时，这些知识早就被我遗忘了，因为它们对我来说已经没有价值了。面对如今的人工智能浪潮，我开始思考：如果我们能够预见未来，那么我们与人工智能合作，在社会上实现我们的目标会更为常见。那么为什么不让孩子们从现在开始学习这些东西呢？这是一个最简单的出发点。

第二个出发点是我认为现在的孩子们的创造力和想象力被过多的学业任务所抑制，而这些本来是他们与生俱来的天赋。想象力和我们的AI工具如何结合，才能充分发挥它们的潜力呢？也许未来我们会有更多的时间去娱乐，去享受自己的情感独处，或者更加珍惜我们的感知力。

孩子们的想象力和未来的生活一定会与我们今天和过去的生活不同，因此我在考虑是否有一些行动或项目能够帮助他们现在就学习并运用AI工具，发挥他们丰富的想象力和创造力。我们的孩子应该生活在一个充满想象力和创造力的世界中，未来不需要他们过多地从事工厂式的工作，也不需要他们去做可能会被机器人或AI替代的工作。这是我最初的初衷，也是我开展这项工作的契机。

在当今这个时代，年轻人面临着巨大的压力，特别是小孩子们每天都承受着学业的重压，同时也可能面临着各种心理问题，在表达情绪的时候，他们可能并不擅长运用语言，或者无法用符合成人社会规范的完整、逻辑的语言与我们沟通。相比之下，一些患有自闭症等状况的儿童，或者其他一些孩子，可能更倾向于用绘画、音乐或者其他独特的方式来表达自己的情感。

因此，我认为像艺术这样的表达方式更适合他们，因为它们可能更符合人类精神和思维的高维层面。在这个领域里，我们会教导孩子们使用人工智能来进行绘画和艺术创作，这不仅有助于缓解他们的情绪，还能帮助他们释放内在的天性。

我们面对的挑战并非来自文化语言或市场环境，实际上，随着大模型的快速推广，我们发现大模型在各种文化和语言上都能够理解并概述得非常好。在各地推广时，并没有遇到文化或语言层面上的基础问题。

然而，一些地方口语或方言可能会带来一些困难，比如中国的四川话或闽南话，这些是我们的模型尚未覆盖到的。相比之下，最主要的挑战在于政策和数据安全性。我们遇到了巨大的障碍，例如从中国到美国的数据出入境问题，以及海外数据的安全性。为了克服这些问题，我们需要在不同的服务器环境和模型部署上进行安排，确保覆盖不同地域的节点。

此外，我们还需要在各国获取一些数据安全层级的证书，才能将服务真正落地到不同地区，并为终端用户提供服务。这是我们目前面临的最大挑战。

我从不同的角度来分享一下，可能因为我们做的更多的是ToB的应用，在海外和国内之间差别还是挺大的，主要体现在交付形式上。虽然我们的中文内容约占总量的20%，但海外内容却更为丰富。我们发现，国内外的ToB客户在交付方式上存在很大不同。

对于海外客户，我们主要提供API接口，以及视频和文档培训，他们会自行学习并绑定银行账户，然后自主使用我们的服务。实际上，我们几乎没有人为干涉，他们会按照步骤自行使用我们的服务，主要使用我们最关键的几个功能部分。

但国内就不一样，国内我们需要提供整体解决方案，让客户能够直接简单地加工后应用于产品上。他们通常会要求我们整合视频、音频、TTS等内容，甚至需要我们的运营团队帮助进行人物训练、配置和情感化配置。这些工作几乎都需要我们的团队来完成，因此我们在国内组建了专门的团队来满足客户需求。

虽然客户会支付相应费用，但这种整体生态和海外的情况相比有很大的不同。因此，我们在国内基本上以整体交付为主，而在海外则更注重提供API接口。总的来说，国内和国外ToB应用之间存在着很大的差异，国内必须提供端到端的解决方案，而海外则更加关注核心功能的质量。

我是22年加入魔珐的，22年的风口是元宇宙，23年就到了AIGC。这两年，我们公司在商业化和创新方面发生了一些变化。22年初，元宇宙概念刚刚兴起，我们的商业化进程还处于寻找行业标杆案例和适合场景的阶段。虽然我们拥有不错的技术，但我们仍在努力寻找适合的应用场景。

在市场推广方面，我们处于早期阶段，因为我们已经通过了技术市场拓展的第一阶段。我们开始寻找目标客户，并为他们提供合适的解决方案。在当时，我们的策略是在整个行业中建立唯一的线上线下标杆案例。

在22年，我们打造了金融行业的第一个标杆案例，通过虚拟人提供全场景服务。我们探索了虚拟人在行业内的应用，并尝试在公司内部推广其全场景应用。随后，在23年，随着产品逐渐转向SaaS化和标准化，我们开始探索渠道开放生态的可能性，并寻求将产品扩展到更多行业。

在客户选择上，我们不再局限于大型企业，而开始关注中等和中小型客户，市场策略也相应发生了变化。

在市场推广方面，22年时我们相对低调，很少参加外部活动或进行品牌宣传。然而，在23年，随着产品标准化和SaaS化，以及客户对我们产品的认知度逐渐提高，我们开始增加营销支出，参加展会、进行公关活动，并加大市场推广力度。我们根据不同的发展阶段采取不同的策略。我们文本生成视频的AIGC工具“有言”，也将在近期上线，也请大家期待。