非凡挚友｜腾讯云：云上智能，一站式打造AI原生应用

从23年开始，腾讯混元在国内率先采用MoE架构，MOE模型能够较好的平衡参数规模以及不同专家领域的知识储备需求和推理成本，所以腾讯选择在这一技术路线上持续进行技术创新和迭代。相较上一代混元Pro的同构MoE大模型结构，混元Turbo采用了全新的分层异构MoE结构，在参数总规模上依然保持万亿级，比上一代产品推理效率提升100%，推理成本降低50%，解码效率提升20%。混元Turbo在高质量文本创作、数学和逻辑推理等领域有明显的质量提升，本次发布也支持了AI搜索联网的插件，整合了腾讯优质的内容生态，包括微信公众号、视频号的内容以及全网搜索的能力，可以提供更专业以及更实时的AI问答能力。

首先在基础设施层面，腾讯云推出了AI infra品牌“腾讯云智算”，整合了腾讯云异构计算解决方案、智能高性能网络IHN解决方案、AIGC存储解决方案、AI加速套件TACO、私有化智算套件等腾讯云优势产品方案，能够为AI创新输出性能领先、多芯兼容、灵活部署的智算产品能力。

在模型平台层面，腾讯云TI 平台提供一站式大模型精调解决方案，可以覆盖模型应用从数据处理、模型开发、调试、发布的全生命周期管理，支持20+常用基底大模型，可为客户提供灵活多样的模型选择，支持模型一键启用及部署。

在模型应用层面，腾讯云提供搜索增强和向量数据库能力，可以提升大模型的回答准确率。通过搜索引擎自带的实时接口，补充近期新闻、热点事件、赛事等实时内容，另外也可以将企业的私有化数据可近期访问的热点事件和高频内容存储到向量数据库，作为“外挂硬盘”提升模型对实时事件和专业领域问题的问答能力。

另外在安全层面，AI平台生产的数据量级规模大，腾讯云天御通过接口输入、内容预处理、模型识别、策略辅助、平台调度分析、人工标注运营共6个维度为用户提供完整的内容安全解决方案，让企业一次接入即可完成整套审核流程。

1）结合专业领域知识做RAG成为企业服务AI应用落地的首要技术选择。为了有效的降低幻觉、提高对特定任务的适应性，企业级应用需要结合企业内部私有数据、行业专业知识等做RAG，并利用大模型的能力做知识求解，才能满足企业用户对于生成式内容准确性的要求。

RAG方式无需企业用户花费较多的人力和GPU算力针对大模型做微调，只需将相关专业数据存入向量数据库，即可以“外挂硬盘”的方式弥补大模型所缺乏的细分行业场景知识，是企业级AI应用落地的首选技术方案。

2）Agent将成为企业服务AI应用落地的主要方式。Agent主要是指给大模型叠加了自主记忆、推理、规划和执行能力的可执行应用，可以结合用户实际业务场景自主性的完成相关业务流程。企业级应用覆盖人力资源管理、供应链管理、财务管理等多种复杂的业务场景，Agent的独立思考、任务规划、工具调用等能力可以进一步提升相关业务流程的执行效率和自动化程度。

目前看企业级应用市场主要有两类Agent落地方式，一类是Agent平台厂商，提供可自定义workflow的Agent平台，根据不同的业务需求创建不同的Agent智能体。第二类是企业服务应用在自身产品能力上补充Agent能力，提升原有产品的交互式体验及产品使用效率。

尽管生成式AI技术在B端企业级市场都有诸多探索，但目前的采用者仍主要属于创新者和早期采用者群体，尚未进入规模化推广阶段，应用仍处于初级阶段。尽管生成式AI已经展现出巨大的潜力，但在实际应用中仍存在一些不成熟的方面。例如，在文本生成领域存在“幻觉”问题，图像生成领域还无法精确控制图片内容，视频生成领域则面临一致性问题，尤其在企业服务应用追求精确性、稳定性的场景下，这些问题无疑限制了生成式AI在企业服务各细分场景的应用发展。

近期也看到像OpenAI的o1大模型通过强化学习显著提升模型推理能力，随着模型能力的逐步提升，生成式AI有望在未来的3-5年内在企业服务领域快速跨越鸿沟，提升渗透率。

我们团队主要为国内头部的企业服务公司提供云计算服务，所以平时确实有比较多的机会跟企业服务的CEO/CTO们做深入的交流。

我最早看到AI跟企业服务结合其实是在22年底，当时随着Stable Diffusion等文生图开源模型的发展，国内提供在线设计SaaS平台的企业都在尝试推出AI绘画的能力，发展至今已经是非常成熟的商业形态，平台能够提供上千种风格的模型供用户选择，在广告营销文案生成、模特效果图生成等场景有比较好的落地。同时随着多模态模型的发展，文生视频领域也有较快的发展，在品牌的视频广告生成方面能够明显提效。

23年初期随着大语言模型技术的逐步火热，智能客服领域应用LLM是最为直接的。传统智能客服在问题理解上存在一定的局限性，它们通常依赖于预设的规则和关键词匹配，能够处理的问题类型相对有限，且对复杂或模糊的查询理解能力不足。大模型经过大量文本数据的训练，能更有效的理解语言的语法、语义和上下文，并结合存储在向量数据库的专业领域知识，问题回答准确度明显提升。

在个性化服务方面，大模型能够根据用户的年龄、性别、地域、兴趣爱好等多维度信息，构建出精准的用户画像，结合用户的历史问题和需求，为用户提供更加符合用户需求的回答和建议。

在协同办公领域，生成式AI的集成能够优化现有功能，提升用户体验和工作效率，例如通过智能化的任务管理、文档生成和数据分析。另一方面，生成式AI还能创造全新的功能体验，例如在综合类办公软件中嵌入专业化的智能体，随时解答不同领域的专业问题。以腾讯会议为例，基于混元大模型打造的AI小助手，能够帮助参会者总结会议纪要、整理待 办、提炼关键信息、个性化提醒重要内容，有效提升会议效率。

腾讯文档依托AI大模型，涵盖了文本内容秒级处理、函数公式运算应用、表格数据精准呈现、PPT快速生成美化、收集结果自动分析、思维导图一键生成等多项能力。

另外在传统的人力资源和财务管理方面，也看到AI能够明显的提升管理效率和质量。例如，AI可以自动化处理招聘、入职、离职和绩效管理等流程，大幅减少人工操作的时间和错误，进而降低运营成本。在财税领域，企业借助AI可以智能化的处理财税相关业务流程，在财税咨询、票据录入、风险预测、财税数据分析等场景上得到应用，重塑企业新型生产力。在票据录入场景，结合大模型和OCR的相关能力，自动识别票据中的关键信息，可以大幅减少人工的工作量。