--- title: "九章云极DataCanvas方磊：当前更紧迫的是布局AI算力基建｜非凡观点" id: "20240327A07HLC00" publicationAccount: "非凡产研" originalPublishedAt: "2024-03-27T17:15:00+08:00" canonical: "https://ffcap.cn/research/20240327a07hlc00" source: "https://view.inews.qq.com/a/20240327A07HLC00" sourceAccount: "https://news.qq.com/omn/author/21759984" language: "zh-CN" tags: ["模型与基础设施","OpenAI","内容创作"] --- # 九章云极DataCanvas方磊：当前更紧迫的是布局AI算力基建｜非凡观点 文章中的“非凡产研”是原始发布账号署名，不代表已核实个人执笔作者。引用访谈或圆桌观点时，应按正文标明具体发言人及当时身份；无法确认时不要推断。日期为原始发表日期，历史信息以发布时点为准。    **背景介绍** **![九章云极DataCanvas方磊：当前更紧迫的是布局AI算力基建｜非凡观点 · 原文图片 1](https://inews.gtimg.com/om_bt/O466AsVMRHR-Sw4a5ERWGfyHkYJV9vYVUVHyP1M9ZPKbQAA/1000)** 2024年1月24日，非凡资本联合诸多合作伙伴在上海举行了“2024 AIGC应用发展高峰论坛”，近千名AI相关从业者参与了本次活动。本期内容整理自嘉宾主题演讲环节。 ##    ******嘉宾****** 分享人：九章云极DataCanvas 董事长 方磊 主持人：非凡资本 合伙人 胡小婧 ![九章云极DataCanvas方磊：当前更紧迫的是布局AI算力基建｜非凡观点 · 原文图片 2](https://inews.gtimg.com/om_bt/OlWwq_xVbo82HQvbpdgaHxxgMprgc3KKJ2bBkJDvpZ7YEAA/1000) ##    ******颠峰对话****** **Q：ChatGPT掀起了一波独有的技术浪潮，对于您这种在AI领域躬耕十年的创业者来说，您的感受是什么样的？** **方磊：**我们不敢说跨越2个AI风潮和周期，只能说我们团队确实开始得早一点，待在这个行业里的时间相对长一些。当年，我和另一位联合创始人从微软回国创业，创立中国第一家做机器学习平台的公司；在今天，我们的战略定位是AI Foundation Software，即AI基础软件产品，为我们的客户提供一整套模型服务。 九章云极DataCanvas 公司发展历程可以分为两大阶段/周期。 第一个阶段（2014-2015年） 这阶段我们并不是直接把模型提供给用户，而是给开发者开发模型提供工具。在此阶段，大众所关注的更多是O2O业务模式。 第二个阶段（2016年） 2016年，Alpha Go击败李世石，带火了AI。但大部分人仍相信：在中国，AI能给人提供价值的是“端到端（end-to-end）”服务模式，工具无法直接给人类创造价值。 第三个阶段（2020年-2023年） 直到2020年以后，伴随着AI第一阶段落地与头部厂商创立，大众发现：AI的最后一公里，不是如想象般简单。也正是因为最后一公里特别困难，大家才逐渐看到工具的价值。所以2020年以后，我们成长地非常快，标杆行业的头部企业目前基本上都是我们的客户。 第四个阶段（2023年至今） 2023年作为巨大的转折点，其意义非凡，不再赘述。我相信任何一个技术人第一次去使用ChatGPT时都会感到惊讶；特别是像我们这样，所谓科班出身，读算法、发paper、申博士，然后再来AI行业创业做这个事情的人。我们基于传统的方法论不太相信大语言模型，越是对机器学习、深度学习比较熟悉的人，在最开始反而越难以相信大语言模型可以达到如此高度。我第一次使用ChatGPT时也很惊讶，这是将原来的知识进行升级的一个过程。 在大模型之前，我们客户最大的GPU集群大概是300张卡，彼时我们就认为300张卡已经太多了，难以发挥其作用；所以会有很多GPU虚拟化技术，试图把它用在更多不同的小模型上进行并行训练（Pytorch）。但目前来看，300块卡就太少了——就算训练一个非常小的7b模型，也至少需要500张以上的卡。 在我看来，一方面，这对于传统知识背景的人会造成较大冲击；另一方面，这对整个AI行业都将是一个前所未有的机遇。 大部分人当前都更希望能把AI应用到个体实际生活和工作场景中，但就我个人而言，生成式AIGC的兴起带动了巨大的对算力的消耗，意味着当今中国数字经济的新基建——算力经济也正在蓬勃发展。 人工智能的应用将不断涌现，并渗透到我们日常生活的方方面面。然而，我们也必须认识到，下一个时代的应用——AI Native Application暂时还无法迅速出现，尽管人们都很期待。在等待这些应用出现的过程中，耐心至关重要。与此同时，我个人认为今年不太可能出现任何杀手级应用。举例来说，抖音是在2013年出现的，而iPhone则于2007年进入大众视野，这个时间比我们任何人想象的都要长。因此，我认为耐心非常重要。 结合我国的特点，我们也会发现：在Killer APP出现之前，我们国家可以借此机会进行把握机遇布局基础设施建设；我们当前面临的正是一个需要扩张算力基建时代。 综上所述，我对于2023年感到非常兴奋。这一年不仅见证了大型模型的出现，推动了整个人工智能行业的发展，更是我国布局AI基建的一年。 ![九章云极DataCanvas方磊：当前更紧迫的是布局AI算力基建｜非凡观点 · 原文图片 3](https://inews.gtimg.com/om_bt/OGdArvs84SHh3Z5wQ56fqosKi9aFJ27_p2ecyfSPIDQ48AA/1000) **Q：行业人士如何看待ChatGPT诞生所起到的革命性作用？** **方磊：**：一直从事NLP或者做Transformer预训练模型的人，其震惊感会小一点；但我也仍然认为，绝大部分人第一次接触ChatGPT时都会惊叹于其Reinforce Learning与人类交互的功能。虽然两年前，以Attention Is All You Need（注意力模型）为例，都在做各种基于Transformer的视觉模型，但我认为大家对其最终效果还是持存疑态度的。 就目前而言，震惊是来源于产品级的。OpenAI拥有的技术不是独一无二的，且底层技术源于Google发布的论文，但产品跟技术之间是有较大鸿沟的，因此ChatGPT虽看起来非常简单，但在一定程度上它是人类第一个AI Native的产品。OpenAI的厉害之处正是在于其产品的“飞轮”已经开始了。我倒不觉得这能与技术完全挂钩，反之，技术上的一小步如果猜中了方向，就会是产品角度的一大步，其意义不言而喻。 但在我看来，我们仍然还有很多的技术选项；尽管很多人认为OpenAI一骑绝尘，但我有不同观点：人类历史上第一次把产品做出来的结局有三个真实案例：其一，雅虎做出了搜索产品，但是Google将“搜索”发扬光大，因此，Google是更具革命性与垄断性的产品；其二，iPhone产品非常好，占据手机行业半壁江山，但还是有安卓这个强劲对手；其三，Netscape做了人类历史上第一个非常好的浏览器产品，但这家公司最终被微软“杀”死了。综合以上三个结局，我认为OpenAI也未必是一个绝对领先者。在今天，我仍保留这个观点。 在过去一年里，我们看到了技术更多的可能性与变化，我们也不得不提出疑惑：“Transformer就是最好的吗？”“英伟达的GPU一定是最高效的吗？”未必。人类也许可以找到一个更优美、更简单、更对称的Transformer，届时，底层的很多技术都会发生变化；也许可以基于OpenAI Triton打造一些不同底层的专用芯片来更高效地进行计算——这都类属于底层技术带来的变革；包括AI Native Application的交互方式，与其可能的产品形态等等。 ChatGPT最大的可能性是让我们认识到AGI是可以触及的（reachable）；不管从底层的芯片，还是从新的Transformer架构与一系列技术，大家都在积极探索。也许在未来两三年内，还有更多的底层技术变化，更新更多的AI Native产品形态，我们很快就会迎接它们的到来。 **Q：我国目前正在集中做基础设施建设，目前算力紧缺作为一个亟待解决的问题，而后又衍生出算力经济，买卡困难也成为了常态，关于此类问题，您的看法是？** **方磊：**这个问题具有两面性。根据统计数字显示：2023年，全球对于H100的需求量大约在170万块左右，而英伟达的产量大约在150万块左右。2024年对H100的需求量——训练+推理（推理的速度增加地更快），大约是460万块左右，英伟达今年的预期产量也不会超过300万块。故此，从全球角度来看，算力肯定是相对紧缺的；同时，还有地缘政治的影响，国内由于受到制裁不能非常顺利地购买英伟达的卡。虽然国内有很多GPU厂商，但追赶需要一个过程。所以算力肯定是相对紧缺的。 现在国内在大力建设智算中心，有人疑惑建这么多智算中心会不会出现产能过剩的问题。我认为不会。根据目前规划我们推测在未来三年，中国将会有500到1000个智算中心，体量非常惊人。在当下，“算力为AIGC-Application服务”的逻辑其实是间接的，直接逻辑是我们在投入基础设施建设，这需要强大的远见和胆识。 在我看来，基础设施建设有一定的适度超前性，更多是投资的逻辑，其未必完全是被所谓的用量和应用所驱动的。而当下我们国家经历的算力建设正是投资的逻辑，也是基建的逻辑，而非我们想象的AIGC-Application的消费逻辑。在此情况下，它本身成为了数字经济的一个新基建——即算力经济。大量的智算中心获得地方政府、央企、行业头龙头投入，智算中心是我们国家的基建，同时也承载了一次可能的弯道超车机会。 在公有云时代，我们深知中国的公有云相对于美国或全球来说尚处于相对滞后的状态。但在大模型时代，我们在全国建设 500 到 1000 个智算中心，可以被视为是在构建一种去中心化的 GPU 云平台（与海外类似于 Call Wave 的厂商相比）。因此，从这个角度来看，尽管我们可能没有在 CPU 时代建成具有高商业价值的公有云，但在 GPU 时代，智算中心很有可能会迎来长足的发展。 故此，在当前算力经济下，全国智算中心的铺开建设，不仅是一个投资机会，对产业发展更是有深远影响，更甚至它可能是一次我们建成GPU Public Cloud的绝佳机会。 **Q：在toB领域，您关于AI的落地路径是如何看待的？** **方磊****：**关于落地，不同人有不同想法。目前看来，虽然大家觉得生成式AI可以做很多事情，但我观察到当下大家最能接受的主要还是“知识智能体”的这一模块，最典型的就是基于大模型RAG。本质上讲即是，以前对于非结构化知识，只有搜索这一条路径，现在有了大模型之后，就可以在RAG系统上做更好的输出。例如：上海某钢铁制造业的头部客户，工厂里新招招募的工人对于设备维护缺乏知识，此时就可以用大模型在传统工单上进行训练和微调，帮助员工高效解答其问题。通俗来说，就是教“搜索”说人话。说出更通俗易懂的话，对很多toB企业是巨大进步。 过去，我们对于企业对内部拥有的结构化数据与数据仓库具备一定的处理能力；然而，对于非结构化数据，我们的处理能力基本为零，仅限于存储在云盘中。但当下，我们首次提升了对非结构化数据处理的能力。因此，从企业架构的角度来看，我们正面临着一个新的变革：结构化数据通过数据仓库、数据湖（data lake）、以及各种数据存储方案进行分析；同时，非结构化数据也正在快速迎头赶上。 我相信随着RAG系统的不断进步，非结构化数据一定会赶上结构化数据的处理水平。将来，我们可能会面临所有数据——无论是结构化还是非结构化的——都会以向量的统一形式进行处理和分析。这对企业架构来说是一个巨大的变革，将深远影响企业级市场的各个方面，包括商业模式、产业结构、销售模式等。 这些结构性的变革将使企业内部像数据仓库那样，能够处理、分析、认知非结构化数据。对于企业而言，这是实现落地的关键因素，也是他们最先开始尝试的领域。 与OpenAI或其他顶尖模型厂商相比，大多数企业真正的护城河在于其私有数据。如果没有这个前提，企业级人工智能市场也将不复存在。当前例如三星在半导体领域需要保密制程，许多公司也不允许使用OpenAI等开源模型，而是倡导自主训练模型。这本质上是一个数据边界问题。因此，我相信**数据的边界将继续定义许多其他事物。回归到企业级人工智能市场，其最根本的定义边界就是由私有数据所界定的。** --- 原始发布版本：https://view.inews.qq.com/a/20240327A07HLC00 本站阅读页：https://ffcap.cn/research/20240327a07hlc00