非凡挚友 | 讯兔科技李罗丹：打造人手一个的AI投研助理Alpha派

• 公司及产品介绍：讯兔科技为AI驱动的金融数据与生产力服务商，致力通过AI agent大幅提升全球机构投资者的工作效率、提高资本市场的信息有效性。公司汇聚了来自顶尖资管机构和科技企业的人才，成功打造了广受好评的AI投研助手类产品——Alpha派，是首家将大模型应用于金融投研场景的金融科技企业，也是证监会金融科技创新试点单位和专精特新企业。   

Alpha派当前已成为金融机构投研人员不可或缺的AI助理，被用户评价为”陆家嘴人手一个“。产品将团队的投研基因与前沿的AI技术深度结合，标准化整合全市场多模态资源，为用户打造高价值信息库和工作流必备AI工具箱，解决“价值资源获取”和“投研效率提升”的两大难题。基于全域数据要素的整合及调优的金融领域的专业语言模型，Alpha派可实现更精准的信息检索和投资问答，并提供多个高频场景的效率利器：AI录音转记、AI自动听会、AI报告翻译、AI日程管理等。   

推出仅一年多，Alpha派就快速成长为全球AI金融信息领域流量Top3、粘性No.1的领军产品。当前，Alpha派已服务4000余家资管机构，覆盖超43000名投研用户，头部机构渗透率超过80%，稳居行业首位。

• 创始人介绍：李罗丹为讯兔科技创始人兼CEO。曾任头部资管机构数字化研究中心创始人兼研究部副总监，拥有丰富的投研业务及管理经验；先后获普渡大学工业工程学士学位及芝加哥大学公共政策硕士学位；2020年荣登“福布斯中国30岁以下精英榜”

Q. 如何定义产品的核心价值定位？与通用大模型（如ChatGPT）相比，您的AI应用在垂直场景中解决了哪些独特痛点？

Alpha派产品定位为投研垂类领域代表买方利益的AI助理，致力提高买方机构研究效率、辅助投资决策，在垂直场景中解决了以下痛点：

• 整合研究中的全域数据资产，打通数据隔离：投资者经常要在多部信息终端等软件中切换并处理数据，效率较低。Alpha派全面采集市场公开数据并清洗加工，与投资标的关联。此外还自主研发了用户工作流程代理的自动化工具，实现了在授权的前提下代理用户整合数据、线上参会、阅读长文本公告和报告；打造了国内首个实现了投资者公域、私域研究数据要素统一管理的新形态
• 训练金融投资专业语言模型，辅助完成复杂的信息处理和推理任务：在国内领先的基座大模型基础上，训练调优了投研领域专用语言模型。该模型已应用于会议纪要撰写、公司经营跟踪、业绩点评报告、外文文献翻译等高频任务，获得了业内专家和一线用户的广泛认可，也是目前行业内被应用最广、频次最高的投研领域专业模型之一
• 打造机构的研究知识库，助力全域数据要素智能应用：在整合全市场公开资讯的基础上，为金融机构提供本地化的内部信息整合方案，帮助机构构建专业知识库，沉淀投研资产。并基于专业金融模型，打造对话问答和高效检索功能，进一步降低了机构获取和处理信息的门槛，加速了我国资管机构投研体系数字化建设的进度。该方案是金融投资领域仅有的几例成功在网信办完成国家级大模型应用备案的实践之一

Q. 在数据整合与应用中，如何应对企业数据孤岛、格式差异及实时性要求等挑战？

企业数据孤岛不再像以前那样被业务部门或不同系统给隔离，而是每个人自己都在本地或云端拥有个人信息金库（几百G级别），更碎片化。数据模态和格式也是种类繁多，多模态数据占比越来越多。

我们现在正是针对这样的问题，构建智能代理体，把这些3V数据（Volume/Variety/Value）自动采集，自动清洗，形成在云端的个人知识库。然后这些个人知识库（孤岛）又与机构知识库以及我们的讯兔知识库联合起来，通过AI搜索问答，任务Agent等来赋能给用户的工作流。也就是我们允许“信息岛”存在，但建一座桥把岛与大陆连起来，不成为孤岛。现在的大模型包括多模态，ASR等，可以把不同形式与格式的数据（比如文本/图表/语音或者PDF/Excel/Word）都解析后统一变换成语言文字，进而变成统一语义空间的向量，存储在向量库里面，这为“书同文车同轨”带来很大的效率。

Q. 如何平衡生成式AI的创新能力与输出可靠性？在降低“幻觉”风险方面有哪些技术或流程保障？

平衡生成式AI的创新性与可靠性是我们一直努力也是最头痛的事情。尤其是现在的推理模型，它自己能够推理，90%情况这种推理出来的信息与数据是可靠的，但如果禁止推理，你就会减低那10%的错误，但失去90%的推理结果。我们采取了一系列的技术来降低这个幻觉风险：

    ◦ 首先，我们绝不会使用大模型直接生成的内容，都是基于RAG模式，有大量的Fact信息和基础数据作为Context，尽量让LLM在我们的专业数据内发挥生成与推理能力。
    ◦ 此外，我们设计的流程里面，有一个基于规则的BM25算法过滤流程（重要实体词对齐，保证不张冠李戴），还有一个基于专家知识的LLM自我反思机制（i.e. 检查日期是否对齐，数据是否与参考资料一致，是否信息彼此矛盾等）
    ◦ 另外，我们有一个金融的GroundTruth数据集，包括多模态的图片，会评估不同模型的幻觉率，如果幻觉率大于10%, 这项技术或模型我们就不会采纳。
    ◦ 最后我们也有一个用户反馈的机制，系统会自动弹窗让用户评分及反馈（2%采样率），根据反馈去优化我们的技术方案。

我们聚焦在金融领域，与大模型厂商是共生关系，做大模型最后一公里的落地应用。我们的垂直行业数据，尤其是私域数据，是大模型无法内化的信息。金融投资的决策基本上是基于动态的市场信息（不是静态知识），这不是大模型通过训练能解决的问题。
大模型的智能程度不断进化，我们利用它提供的API与SDK构建金融领域的AI服务，并且我们自己也提供API给金融客户，这样构建整个生态集成。我们沉淀的数据与行业Knowhow是与大模型能力正交的（垂直方向），不会在大模型通用智能前进的水平方向做微调之类的优化改进，这是我们的价值差异化所在。

Q. AI应用的定价策略如何设计？是否存在从“按调用量付费”向“价值导向定价”转型的趋势？

基本还是账号订阅服务+按量收费结合，我们可以看到的是随着效果价值越来越显著，按量收费的增长和占比都会显著提高

大模型所有能力来源于训练数据，如果有偏见的话，就是人类整体的偏见。因为大模型训练了15万亿-20万亿Token，基本等同于人类所有知识，它是概率模型，所以基本上它的观点服从人类观点的分布，并且会取最高频的Mode值。
但是大模型确实可能会被人恶意利用深度伪造。对于我们来说，第一是我们基本上都是基于可信数据（金融/财经的资讯报告本身都有审核）来做RAG模式的服务，第二我们保证大模型的每一句话都是可溯源的，我们不只是溯源到文章粒度，而是能溯源到段落，然后是句子粒度（3级溯源是我们产品的一个创新点）。所以我们的AI服务是很早就通过国家网信办的大模型算法服务备案（去年6月份）。

Q. 如何看待AI技术对就业市场的影响？您的产品是否设计了对“人机协作”模式的优化支持？

AI对低端重复性工作是替代关系，对高阶复杂偏决策类工种是辅助关系，对于后者AI会逐步成为他们的工作台和助理，通过多轮对话和任务执行中的辅导干预机制逐步萃取行业隐性知识，并且越来越贴合个性化的需求，最终实现该用户思想和认知的数字孪生。

首先是统一模型入口、其次是多模态的融合、最后也是最关键的是AI从逻辑推理发展出直觉和智慧。在这过程中的前阶段是人管AI，后期阶段是AI管人，最终每个行业每个机构都会发展出具备独特能力和商业价值的AI平台，而人会成为平台价值输入/输出的一部分。