背景介绍
2024年1月24日,非凡资本联合诸多合作伙伴在上海举行了“2024 AIGC应用发展高峰论坛”,近千名AI相关从业者参与了本次活动。本期内容整理自嘉宾主题演讲环节。
嘉宾
分时跃动 创始人兼CEO 刁盛鑫
深谱智能 创始人 张天赫
慧博科技 合伙人 曹辉
飞笛科技 创始人兼CEO 丘慧慧
非凡资本 合伙人 王朝超(主持人)
Q:请各位嘉宾先做个自我介绍。
分时跃动 创始人兼CEO 刁盛鑫
我是Kevin刁胜鑫,创业已有9年,这是我第二家创业公司。之前我一直在纽约华尔街从事金融工作,职业生涯经历了从投行投资到创办金融服务公司。现在,我是分市跃动的CEO,我们公司自2000年开始专注于为金融机构提供客户获取和营销服务。
随着数字化手段的普及,尤其是疫情影响下,银行在客户获取和保持客户粘性方面面临挑战。过去,银行只需开门就能获得生意,但现在需要更多的客户关怀和精准营销来保持竞争力。我们公司致力于为银行提供相应的营销和客户获取服务,填补他们在这方面的能力缺失。近年来,我们的服务已从数字员工和数字内容升级为基于AI的互动服务,通过数字内容和AI技术来帮助银行解决各种问题。
深谱智能 创始人 张天赫
我是深谱智能的创始人兼CEO张天赫。我们公司专注于数据库级别的底层技术,结合大型模型和图技术。从人工智能的角度来看,这涉及两种不同的技术范式,一种是符号主义,另一种是连接主义。
我们致力于为深数据时代后的数据处理提供支持。“深数据时代”标志着大数据进入了一个更深层次的阶段,需要深度挖掘数据的价值,这就需要在数据处理技术上进行技术变革。大型模型的出现是时代变革的体现,我们的“高性能图技术”也是在这个背景下应运而生的。
慧博科技 合伙人 曹辉
我是慧博科技的合伙人曹辉,负责GPT在智能投研上的应用,具体涉及产品设计和规划。我们公司从最初的研报数据库积累开始,逐步发展到2018—2019年开始的智能投研,最终应用到目前的GPT技术上。
目前,我们已经有一些公募机构和券商客户在沟通中。同时,明显感觉到的是,到了2024年,很多机构都有了数字化预算,包括产业资本集团、公募基金、券商、私募等,特别是在应用端和产品侧。尽管金融业并不处于特别繁荣的状态,但许多客户仍然选择将预算优先考虑用于GPT应用,因为他们对非结构化数据有大量的需求,希望能够实现更有效的信息获取和交互。
飞笛科技 创始人兼CEO 丘慧慧
我是飞笛科技的创始人兼CEO丘慧慧。飞笛科技是将内容数字化和AIGC技术深度运用于线上财富管理和买方服务领域的创新型金融科技公司,致力于成为中国领先的全场景财富管理数字化运营服务提供商和新一代金融数据服务商,以帮助金融机构实现传统零售和经纪业务的数字化转型,帮助用户获得更好的买方服务并实现可持续回报。飞笛从2022年聚集在金融数字化运营场景以来,已经开始与许多头部券商建立了合作关系,并带来了直接的业务效果;与此同时,我们也与一些先锋的财富管理机构在探索前沿的应用,例如代表了行业从卖方模式向买方模式转型的盈米基金,我们希望在新一轮技术变革叠加行业深度变革中,与市场及客户共同成长
Q:银行、券商、保险以及基金等金融机构目前对AI技术的接受度及应用现状如何?他们是否已经开始积极采纳并实施AI相关的战略?能否请各位分享一些观察和体会?
分时跃动 创始人兼CEO 刁盛鑫
这块我们感受特别深,我们在疫情前就开始了相关工作,当时大家对智能的讨论还比较少,更多是关于数字化的话题。在那个时候,银行主要依赖于实体网点,对于如何在数字化领域进行营销,甚至员工如何与客户进行互动,整个行业都一片茫然。所以,我们当时和BCG、麦肯锡这样的公司一起为建行提供解决方案。在我们看来,说服银行领导去拥抱数字化并不是在AI浪潮到来后才开始的,更多是在数字化时代就开始了,即把客户服务场景、互动场景从传统的线下物理网点转移到线上。我们还经历了很多银行从没有企业微信到全面采用企业微信的完整过程。
在过去,说服企业将客户经营从线下转移到线上需要付出大量的努力。这不仅包括解决内部组织结构的问题,还需要重新搭建和管理部门。然而,现在随着AI技术的发展,我们在营销和客户服务方面的工作更像是一种手段的升级。高层领导的思维方式不需要根本性改变,因为他们已经接受了在线上与客户互动的现实。对于他们来说,通过AI来降低成本、提高效率是一种自然且容易理解的方法。虽然在实践中,我们仍需要探索最佳的内部实践方式,但相比三年前,我们已经看到他们对AI的接受程度大大提高,已经明确表示要采取行动。
目前,头部的股份制银行(如招商银行、平安银行)是AI应用的最快跟进者,他们对于新事物的接受程度相对较高。接下来可能会是股份制银行,城商行可能是下一批,我们已经习惯了这种顺序。我们预计这波AI的推进顺序也会是类似的,国有银行可能会是最后的,他们一般会先观察别人的实践经验,然后选择几个省份行作为试点。
深谱智能 创始人 张天赫
中国的金融业,尤其是以银行为代表的部分,并没有人们想象中的那么赚钱。近年来,整个行业的经营压力非常大,这一结论基于金融机构的年报数据。由于金融业属于管制行业,是一个牌照生意,相比其他行业有很多特殊性。现在,大中型银行等金融机构已经开始行动起来,意识到需要利用新技术实现智能化,以降低成本、提高效率。我们所有的金融业务都是数据密集型的,因此如何驱动数据实现智能化的业务和管理是一个核心问题。
然而,金融业与其他行业相比具有特殊性。数据可能受到限制,因此大型模型基本上都必须在本地部署和训练,同时还受到监管对自由数据的限制。对于科技公司来说,我们的商业模式可能需要相应的设计。
目前,我们更关注面向金融行业内部个人用户(如员工、客户经理、风险经理和运营经理等)的AI应用,例如在各个业务环节中应用AI的SaaS。不过,金融机构整体的智能化技术投入和改造更多还是围绕本地进行。我们的图技术、大型模型等技术栈从数据存储、计算分析到前端应用等几个层面都是本地化的。
实际上,智能化标志着从技术栈的底层开始进行全面的改造和升级。传统的关系型表结构和分布式数据仓库架构需要增强,引入图数据库和向量数据库来支撑图计算和大型模型。在计算场景中,图计算的结果与大型模型的交互革命是显著的。未来,我们会在中间层和上层应用中实现数据计算和分析的结果,并通过交互接口传输结果。最终,这些AI应用会体现在各个业务场景和流程中,并使用不同的模型。因此,我们对AI的理解不能仅仅局限于大模型,这种理解是不完整的。
慧博科技 合伙人 曹辉
我们业务模式相对简单,主要提供标准化的产品。每个人都需要接触研究报告、咨询报告、公告和新闻等信息,就像在一个图书馆中查找资料一样。随着技术的进步,我们现在可以提供更多优质的搜索结果,例如前2,000个结果,而在过去只能提供前五个。用户可以从中挑选出所需的20个或15个,并形成引用或总结的结论。这种方法可能涉及使用多个代理来重新组合更复杂的问题,甚至自动生成报告。
不论是产业资本中的投资经理、咨询公司中的咨询师,还是券商中的分析师和卖方分析师,本质上都在从事相似的工作:计算经济活动中的边际变化,并根据这些变化进行高级分析,推演出对社会事件冲击的影响,或者根据历史经济模型或商业模型推测全新事物的发展方式。
最近有人提到,GPT的渗透率可能会成为一个最快的应用点。GPT-4在进行一些思维实验时效果非常好,因为它非常擅长总结和归纳。想象一下,以前您只能依靠自己脑海中的几本书和朋友提供的几本书来寻找答案,也就是人际网络中的信息。现在,您可以接触到2,000本书的信息。当然,这也带来了一个问题,即它实际上会形成一种新的集中化需求。一方面,它可能消除初级分析师的需求,另一方面又在增强中级和高级分析师的能力。同时,也在孕育一个打通一级、二级甚至更深层次的经济活动的机会。
站在我们的立场上,就金融业特别是投资研究数据而言,非结构化信息向结构化信息转换的过程带来的编辑改进特别明显。过去,您可能只能处理研报和公告中20%—30%的数据,但现在通过例如图表解析到Markdown格式,甚至对图表这种动态数据的解析,您可以触达原理上100%的数据。我们已经接触的一些客户认为我们提供的产品在这方面的溢价很高,并且目前市面上能提供这种服务的产品也并不多。
Q:想请问一下丘老师,金融机构在智能化方面是否已经开始行动了?高层领导是否已经意识到了这一点并且开始推动相关工作?
飞笛科技 创始人兼CEO 丘慧慧
股份制商业银行已经采取了相对积极的行动,特别是在头部银行中。这些银行已经在部分业务场景应用中取得了良好的效果,尤其是通过私有化部署的大模型。他们在内部知识库和模型调优方面取得了可见的成效,可以说他们是大模型应用的领头羊。接下来是国有银行、头部券商。
在调研中,我发现了一些有趣的现象和结论。大模型的应用并不是带来了新的变化,而是因为有了大模型,他们才开始做以前应该做但一直没有做的事情。这是一种战略驱动的变化。以前的领导对此并不是很坚定,也没有足够的外部工具或技术来支持他们的想法。现在,领导们更加坚定,监管部门也要求中国拥有自己的大模型。同时,他们也意识到了自己在场景和数据方面的优势,因此着手实施。这种动力是自上而下传递的,下面的人也开始行动起来了,这是比较乐观的一面。
我想强调的是,这些动作其实没有大模型的情况下,本来也可以做。因为金融行业具有相对较高的数据密度、数据量和专业知识要求。在我们公司成立之前,我们已经进行了许多专业模型的积累,建立了代码集和数据集,这是我们要销售的内容。然而,大模型的出现增强了对金融机构在业务层面和战略层面的影响。
在执行层面,股份制商业银行的行动比较迅速。但是在下一个级别,比如头部券商和一些国有大银行,我听到的观点是,观望与小实践同步,对满足监管要求以及合规要求是比较谨慎的。在这种情况下,如何合理合规地做大模型是关键。其次我们听到一种声音,“有条件就上,没有条件也要创造条件试水”,这是在二线机构中的心态。至于三线机构,他们更多是先观望别人怎么做,然后再决定跟进或者采取其他策略。
Q:一旦高层领导认识到动起来意味着可以获得更多收益,他们就会采取行动吗?目前是否存在一种趋势,即从以往主要由技术部门发起并推动新技术或产品的采纳,转变为现在业务部门主动提出需求,并向技术部门咨询解决方案的可行性?
分时跃动 创始人兼CEO 刁盛鑫
银行作为服务大型企业的机构,其组织架构和规模都十分庞大。全行业服务的人次高达近70亿,这是由于人均持卡量达到5—6张。这种庞大的规模意味着每次发生微小变革时,内部各部门都会重新争夺资源并重新划分工作。过去,科技部门往往是为了科技而科技,但随着业务越来越依赖线上和科技,科技部门的作用逐渐显现。以前可以应付的工作现在可能会因为依赖科技而变得必要,否则就无法完成任务。这种变化导致科技部门开始更多地介入业务,但到底介入到什么程度呢?
现在很多银行及其他金融机构都在寻找业务方面的人才,却不知道如何将这些想法落地。这些人在设计场景并向高层提供方案时,缺乏设计能力,因为他们过去主要处理的是线下服务场景。现在卡住银行内业务的关键点是如何向技术部门提出有效的需求。
深谱智能 创始人 张天赫
因为我们已经在数字化转型的路上,所以我们需要围绕业务研发和科技来解决需求对齐的问题。首先,我们要确保客户有需求时,解决方案能够有效地落地。一旦方案确定,我们再考虑选型,这是科技部门的职责。因此,必须确保所有部门之间的沟通畅通,以便顺利推进整个流程。此外,由于有些需求可能已经在执行中,而另一些可能尚未被发现或者不清楚如何处理。因此我们需要确保所有部门在整个流程中都清楚地进行沟通,这样整个链路才可以跑通。
慧博科技 合伙人 曹辉
渐渐地大家可能会认识到缺少的是产品经理,而不是大模型。当你需要一个GPT native的人时,意味着需要他们从一开始就拥有一种不同的思维方式。举个例子,以前我做培训分析师的时候,要先花三年时间学习和研究一个行业三年时间,才能成为中级分析师。但现在情况不同了。我们只需要培养那种既了解行业初级水平又能够将自己抽象成工作流程的产品经理。
我现在给公司的员工灌输这种理念——不能指望仍然成为传统的分析师,因为这一角色正在逐渐消失。他们需要赶快将自己抽象成工作流程的一部分,可能是自动报告中的某一环节,或者是半人工、半GPT的环节,才能在未来脱颖而出。
在当前背景下,所有的应用公司都将面临这个问题,他们需要培养一批驾驭AI的“伪专家”和“伪业务人员”,去发现问题并提出解决方案。
然而,我对此持较悲观态度。因为即使金融业已经聚集了大量聪明的IT和业务人才,他们依然没有充分准备好。经过了一年时间,大家对AI的认知仍然非常模糊。如果你指望客户自己去理解完,然后在内部博弈,这种周期对于创业公司在当前的融资环境和经营挑战下非常不利。很可能会因为熬不过成为宏观经济的牺牲品。
因此,我认为反而应该考虑减少依赖客户理解需求的模式,而是探索自主研发,自主抽象业务过程的可能性。当然,我承认这个观点可能并不适用于所有情况,因为像我这样从事分析和投资的人可以自己完成这些工作,但是在银行等领域可能不太适用。
Q:丘老师您认为是业务驱动技术还是技术驱动业务?
飞笛科技 创始人兼CEO 丘慧慧
当前普遍的看法仍然是业务推动技术发展为主。我简要总结了这一现象,并认为它将经历了三个阶段的战略执行演变。首个阶段显然是由业务驱动的,即业务部门提出需求,技术部门负责实施。但从2024年起,这种单纯的业务驱动模式会有所改变。我们最近观察到的是业务和技术,或者说是中台部门的共同驱动。首先要确定的是谁在驱动谁这件事情上,和谁拥有决策权这件事情上?有一个简单标准,就是预算由谁来花和分配?这是一个关键指标。
我注意到,有个别领先的机构在过去一年进行了组织结构调整,数据部门与业务部门的联系更加紧密了,并且在数据和IT部门配备了产品经理。正如前面的嘉宾所提到的,产品经理的角色至关重要,这是一个显著的变化。此外,技术部门配置了预算,组建了一个规模更大的数据团队,拥有预算决策能力。
因此,我观察到的是业务和技术的共同驱动这个阶段已经开始。然而,在这个过程中,当你向他们提供解决方案并指导实施时,你会发现他们实际上需要你的帮助,因为他们对业务了解不深。这些具有技术背景的人员需要你的协助,甚至需要进行不同业务部门之间的需求调研和抽象,以形成共识,确定业务化中台部门的具体形态。
这是我们首先需要与他们达成一致的事项。技术部门已经花费了老板的资金,并雇佣了几十号数据员工,承担了巨大的财务成本。在最终确定之前,必须先获得业务部门的认可,这也是供应商需要提供的重要协同能力。正如前面嘉宾提到的,当我们与客户进行沟通时,会发现战略、技术和业务同时出现一起沟通普需求,这种情况开始出现。但总的来说,目前观察到的仍处于业务和技术共同驱动的阶段,或者说主要是业务驱动阶段,因为预算仍然需要由业务部门承担。这就是目前的逻辑,但进入第三阶段时,我认为情况会有所改变。
我相信,通过整合大模型,未来可以做更多的事情,真正实现技术、AI或技术驱动。目前,行业客户实际上仍处于沉淀现有业务逻辑的阶段。这需要各方的协作。
Q:四位老师你们各自找到的场景、流程和价值是什么样的?换句话说,您认为自己最核心的东西是什么?
分时跃动 创始人兼CEO 刁盛鑫
我们的业务专注于帮助银行解决与客户接触的技术难题,这使得我们的服务更易于理解。银行的一个主要痛点是庞大的客户群体导致高昂的运营成本,加之年轻人对前往银行网点的兴趣减少。因此,我们的核心任务是通过在线渠道以低成本、高效率的方式与现有客户互动,并在银行间竞争客户。我们注意到,当互动场景从线下转移到线上后,可互动的时间窗口显著延长,从银行网点的有限时间扩展到几乎全天候的在线服务。这就要求银行不能像过去那样频繁地推销或办理业务,以免引起客户反感。
因此我们面临的问题是如何与客户互动,向他们传达什么信息,以及采取何种行动。在内容供应、互动活动,甚至人工支持方面也面临着巨大的需求压力。银行在完成数字化转型并建立在线客户联系后,往往不清楚下一步该做什么,这导致了一段尴尬的停滞期。为避免错误或打扰客户,公司甚至决定暂时不采取任何行动。我们的价值在于填补这一空白,即在不能频繁推销产品的情况下,如何有效利用时间和内容与客户建立深入联系,彰显银行特色,创造情感价值。银行业务专业性强,我们需要用通俗易懂的语言向不同客户群体传达信息,这促使我们必须深入到应用层面,也是我们目前的工作重点。
简而言之,我们的挑战在于从传统的直接广告转变为更为细腻的内容营销。由于银行过去无需广告即可吸引客户,因此它们在软广告方面的能力较弱。我们的任务是通过互动内容吸引客户,提高参与度,形成个性化互动,并通过这一过程收集数据,以支持银行内部不同客户类型的业务模型。尽管这一过程颇具挑战,但也充满乐趣。
深谱智能 创始人 张天赫
我们的服务属于算力层的技术设施,旨在解决当前算力短缺的问题。目前,由于高性能GPU的短缺,许多行业都面临着算力的挑战。我们的解决方案是通过硬件升级和软件优化来提升算力。特别是,我们开发的高性能图数据库旨在解决数据基础设施层面的算力不足,这在传统的关系型数据仓库难以有效处理数据关联计算的情况下尤为重要。随着业务数字化的深入,对于低延迟和实时处理的需求日益增长,这就要求我们的算法必须具备高算力和高并发性能,以支持复杂模型的运行。
技术架构的未来将是一场全面的变革,涉及硬件、底层软件、模型层等多个方面。我们预见到GPU和CPU将更紧密地协同工作,不同类型的数据库将相互配合,图计算和大规模模型将相互作用,从而带来真正意义上的智能化和AI革命,而不仅仅是由单一技术推动的变化。
银行业是我们服务的主要需求方,因为它们处理的数据量巨大。在智能化和风险控制方面,我们面临的挑战是如何深入挖掘这些庞大的数据集。为此,我们需要提供新的算力资源和算法,包括大规模模型的应用。大模型的出现解决了许多长期存在的问题,尤其是在处理非结构化数据方面的问题。未来,数据处理的能力将体现在同时处理结构化和非结构化数据的能力上,这本质上是一种强大的计算力。
在金融领域,需要的是可解释、可验证、可审计和可追溯的分析和决策能力,大模型在这些方面当前可能有所不足。然而,在交互、营销、运营和客户服务等方面,大模型的应用潜力巨大。
慧博科技 合伙人 曹辉
我讲一个简单的故事,假设你是一个勤劳的分析师,每天阅读三份报告,一年累积了1000份不同的报告。尽管你忘记了其中80%,但仍记得20%。按照这个比例,你一年能够背诵200份报告,但这需要花费整整一年的时间。现在,每一次的搜索问答都可以找到超过10万篇有确定引用来源的信息。这种情况将改变人类对于记忆存储的互动方式,就像以前我们可能会使用Evernote或印象笔记,但一年后你可能无法再找到自己当年记的笔记一样。这是一个典型的问题,而RAG智能问答恰好能解决信息来源的问题。
对于投资分析者来说,他们可能会批量采购这些账户,并购买相应的技术方案。但对于ToC高价值的用户,比如他们拥有1000万的投资资产,他们可能会更深入地研究和分析。很难用银行、券商和基金来定义这个情况,因为小C和大C之间的差别很大。更像是大C、小B和大B之间的混合,更偏向专业方向的人群。因此,RAG智能问答为你提供了一个图书馆,让你随时可以触及,而且技术方案也很成熟,并且能够提供引用来源。所以至少在几十万份甚至上百万份报告的情况下,你都能够获取所需信息。
飞笛科技 创始人兼CEO 丘慧慧
降本还是增效,我认为客户更倾向于增效。所以飞笛会推荐客户优先关注能够盈利并持续创造价值的场景和服务, 事实上金融机构从获得一个客户,到使客户投资产生收益,不只是一个把产品销售出去的环节,可以做的事情还很多。从获得客户到取得客户信任的过程,再到实现AUM持续增长这个漫长的过程中,有大量被忽略的有效场景,比如波动市场中的陪伴,安抚,认知教育等。如何在数字化的链条上实施这些服务,特别是长尾客户?这是飞笛为机构提供的解决方案。
这个需求变得越来越迫切,因为数字化转型意味着金融机构要首先面对一个事实:投资者或者储户已经转向在线化的消费,但金融机构的在线服务仍处于起步阶段。飞笛的服务旨在弥合企业与消费者之间的数字化连接,我们关注的用户痛点是:一方面用户信息过载,另一方面又缺乏服务,回归以用户为中心解决好这两个相互矛盾的问题,需要首先具备在海量信息中价值发现的能力、为客户降噪的能力,面对1.4亿股票账户、7亿基金账户、7亿储户,以及品类众金的投资标的和复杂的金融场景,很难想象没有数据和AI的驱动可以做好这件事情。
飞笛的服务的特点和价值是,引导机构客户回归以用户为中心,从确定性场景出发,找到运营的ROI投产比。运营的特点是灵活性、应激性强,如何在中间找到确定性?我们帮助金融机构,一是场景的定义,二是数据能力和解决方案,三是,驱动运营的引擎能力;在盈利方面,我们的经验表明,机构更倾向于看到效率提升而非仅仅是成本降低。因此,我们的产品设计应以提高效率为出发点,专注于解决客户的核心问题,尽量用更轻部署的方式提供服务,比如数据API的方式,数据即内容,数据即运营,以降低与机构耦合成本,先绕开构建复杂的中台系统,从而提高了投产比。
Q:想请四位老师用一句话总结一下2023年,再用一句话表达对2024年的展望。
分时跃动 创始人兼CEO 刁盛鑫
说得接地气一点,终于熬过了3年疫情,对24年的寄语就是希望火苗燃烧吧。不论是在国内还是海外市场,我相信2024年都将是一个充满机遇的一年。只要找到了正确的场景和切入点,这波机遇应该不逊色于移动互联网和之前的几大机遇。
深谱智能 创始人 张天赫
放长长时间看,这应该是一个时代的变化,从大数据到深度数据,从数字化到智能化,一切都在发生变化,而这也意味着一切都将有机会。我们期待着从大家目前特别关注的基础大模型,到未来的领域大模型,以及各个场景的应用。这实际上是一个技术融合的过程,我们希望能够与大模型的开发者、各种数据场景的参与者以及应用开发者形成更多的生态合作关系。
慧博科技 合伙人 曹辉
2023年可以用“红红火火”来形容,但实际情况是,目前还没有出现killer APP。尽管我们在各个领域尝试了各种应用,RAG智能问答可能是最容易落地的情况之一。然而,要注意的是,几乎没有几个场景是能够承受得起GPT等高成本产品的。
除了金融领域,我们只在一些国企的智能问答服务中看到了一些落地应用,这些应用主要替代了传统的客服人员搜索答案的方式。总体而言,我们应该保持平心静气的态度。不要过分期待今年会有多大的突破,需要认真考虑技术成本和收益之间的平衡。因此,对于24年的展望,我会选择“平心静气”这四个字,认真看待每一个可能的收入增长机会,同时也要理性地考虑技术推断的可行性和成本效益比。
飞笛科技 创始人兼CEO 丘慧慧
我是理性乐观派,我认为现在应该是一个理性乐观的时代,考虑到经济下行和技术变革的叠加效应。在这种不确定性中,我们需要抓住那些相对确定的事情,比如以用户为中心的场景设计和服务设计。在开始做应用之前,我们必须确保从用户需求出发,这是至关重要的。另外,要稳步前行,积极拥抱生态系统。
单打独斗时代已经过去了,现在是跨行业合作的时代。特别是在金融供应链这样复杂的领域,AI需要面对高信息密度、高场景密度、高专业度和低容错率的挑战。每个环节都需要有人秉持初心做好自己的事情。行业从业者和一些机构应该积极团结起来,主动与政府和监管部门合作,着眼于长远发展。行稳致远、全情投入拥抱生态系统是至关重要的。