--- title: "非凡访谈｜半个宇宙联创&Zion创始人：警惕AI能量膨胀带来的对人的异化风险" id: "20241211A04JGF00" publicationAccount: "非凡产研" originalPublishedAt: "2024-12-11T12:45:04+08:00" canonical: "https://ffcap.cn/research/20241211a04jgf00" source: "https://view.inews.qq.com/a/20241211A04JGF00" sourceAccount: "https://news.qq.com/omn/author/21759984" language: "zh-CN" tags: ["AI Agent","自动驾驶","AI 编程","模型与基础设施","全球化出海","阿里巴巴"] --- # 非凡访谈｜半个宇宙联创&Zion创始人：警惕AI能量膨胀带来的对人的异化风险 文章中的“非凡产研”是原始发布账号署名，不代表已核实个人执笔作者。引用访谈或圆桌观点时，应按正文标明具体发言人及当时身份；无法确认时不要推断。日期为原始发表日期，历史信息以发布时点为准。 非凡访谈栏目本期特别邀请了两位杰出的AI创业者——KMind人工智能企业联合创始人兼首席科学家于开丞，和函子科技CEO&Zion无代码平台创始人蒋耀锴。两位嘉宾均为人工智能领域的资深专家，拥有在海外知名学府求学和工作丰富的经验。为此我们特邀他们分享大模型和生成式AI如何重新塑造企业生态以及推动人类思维方式的变革。 **嘉宾介绍：** **于开丞** ![非凡访谈｜半个宇宙联创&Zion创始人：警惕AI能量膨胀带来的对人的异化风险 · 原文图片 1](https://inews.gtimg.com/om_bt/OpuRIHP_p6DQFyYimjrYdOn_pvRuYt3nQ35dTWNqhvmIgAA/1000) 西湖大学助理教授、特聘研究员，人工智能企业KMind联合创始人兼首席科学家 香港大学工学学士、瑞士洛桑联邦理工大学计算与通讯科学理学博士、高通创新基金（欧洲当年仅 4 人）获得者，于国际著名期刊、会议发表十余篇论文；2021年以阿里星人才项目加盟达摩院自动驾驶实验室；2022年入选杭州市海外高层次引才计划；2023年加盟西湖大学担任助理教授、博导，组建自主智能实验室（AutoLab），并作为联合创始人兼首席科学家联合创立人工智能企业KMind。 **蒋耀锴** ![非凡访谈｜半个宇宙联创&Zion创始人：警惕AI能量膨胀带来的对人的异化风险 · 原文图片 2](https://inews.gtimg.com/om_bt/Ou9u_jVphveYTv2c17xTX0Ti2aidImMmnoe2bgkq_uzdcAA/1000) 函子科技CEO、Zion无代码平台创始人。硅谷已上市2B独角兽Medallia早期资深工程师，美国卡耐基梅隆大学大规模信息系统技术硕士，英国剑桥大学计算机科学学士。 **以下是对话精华内容：** ## **Q：请二位先简单做个自我介绍。** **蒋耀锴：**我是蒋耀锴，函子科技的CEO。我们的产品是一款全站无代码开发平台，旨在帮助缺乏技术背景的企业创始人轻松构建与自身业务模式相适配的软件解决方案。 在AI技术的应用场景下，我们的产品规划分为两个阶段：第一阶段，我们希望开发一个Agent builder，让用户能够充分利用大模型的技术能力，将其嵌入软件中，为客户提供服务并实现商业变现。第二阶段则是推出“协同助手”（Copilot），帮助用户更高效地优化软件设计与开发过程，进一步提升他们的生产力和创新能力。 **于开丞：**我是于开丞，半个宇宙的首席科学家兼联合创始人。我们的愿景是让数据为个人创造更多价值。从公司成立之初，我们便坚定地相信，未来的时代可能不再需要传统的软件形态。通过与AI的交互，许多曾依赖业务软件才能完成的任务和场景，能够以更自然、高效的方式实现。 近期，我们推出了一款名为“快找找kFind ”的产品，它专注于本地化AI探索。kFind 是一款探索引擎，能够帮助用户个性化地总结和整理互联网上的海量信息，并提炼出更加简洁的内容。我们的核心目标是通过数据赋能，帮助每个人发现和创造更多价值，进而实现更便捷、智能的生活和工作体验。 ## **Q：我了解到半个宇宙还推出了一个名为kOS的个人计算机操作系统，怎么理解这个操作系统？** **于开丞：**我们认为，随着大型模型能够处理更为模糊的输入，人与系统的交互方式将发生根本性的变化。随着这些系统能够执行的任务越来越多，我们对编码的需求也可能逐渐减少。从某种意义上说，这是一种“压缩”——通过减少代码量来提高效率。 基于这一认识，我们提出了一个全新的概念：AI操作系统。传统的操作系统输入主要依赖用户界面（UI），而AI时代则演变为对话形式，我们在内部将这种输入方式称为语言用户界面（Language UI）。随着AI技术的发展，操作系统的设计和功能也在不断进化，以适应新的交互模式和用户需求。随着时间的推移，这一概念在业界也逐渐被广泛接受和流行起来。 我们的koS操作系统的核心功能是将硬件和软件资源封装成接口，便于用户和应用程序访问与使用。这样的设计背后，操作系统提供了两个基本能力： 1. 任务分发能力（Task Dispatcher）：操作系统负责管理和调度计算机中的各类任务，包括确定任务优先级、分配处理器时间、以及在多任务之间平衡资源。 2. 执行反馈与评价系统（Evaluator）：操作系统还包含监控和评估机制，收集任务执行过程中的反馈信息，分析任务执行效率、资源使用情况以及系统整体性能。 除了这两大核心能力，操作系统还承担其他基本职能，如输入输出管理。输入不仅包括来自视频或其他传感器的数据，还可以来自不同的应用程序或用户操作。操作系统通过提供统一接口，使得应用程序能够与这些输入源交互，而无需深入了解底层硬件的细节。 ![非凡访谈｜半个宇宙联创&Zion创始人：警惕AI能量膨胀带来的对人的异化风险 · 原文图片 3](https://inews.gtimg.com/om_bt/O8c_6NQD1HsLRnqeSJnkkY0nsn5jl1mW3aLK5bjBgIHP8AA/1000) ## **Q：二位认为生成式 AI 正在为人类的工作和生活带来哪些比较新的变化呢？** **于开丞：**人工智能的发展带来了诸多变革，其中最根本的变化在于大型模型的计算能力，这种能力可以并行处理任务，实现高并发操作，从而指数级地节省时间。这是人工智能最核心的优势。 随着AI技术的不断，人类很多社会活动，包括娱乐在内的所有领域都能通过AI完成。因为AI能够深刻理解用户需求，为其生成定制化的内容。也降低了类似电影这样的专业内容的制作成本。个人的创造力也能得到很大提升，让每个人拥有自己想要的体验。 当然上面只是一个单一的场景案例，它可以被推广到办公等其他场景，AI将在这个时代产生深远的影响。 **蒋耀锴：**在我看来，人工智能的崛起与昔日谷歌的出现有着惊人的相似之处。在谷歌诞生之前，我们获取信息的边际成本是相当高的。人们需要亲自前往图书馆，依赖图书馆管理员的专业技能来定位所需的资料。但图书馆的藏书也是有限的，无法保证涵盖所有领域。然而，谷歌的出现将搜索成本降至极低，每次搜索的成本可能仅为零点几美分，实现了成本数千倍的下降。这种边际成本的大幅降低催生了全新的商业模式，使得那些因信息传递成本高昂而难以盈利的业务变得可行。 人工智能同样在降低处理模糊信息和灵活决策的成本方面发挥着重要作用。大多数人在非专业领域的能力相对有限，我们通常只在自己擅长的领域表现出色。例如，我可能是一名优秀的程序员，但在设计方面却可能一窍不通。人工智能的出现，提升了各个领域的平均水平，使得人们在多个领域都能达到一定的专业水平。 此外，人工智能在处理模糊信息方面具有显著优势。人类不像计算机那样处理信息严谨，我们接收和输出的信息往往是模糊的。在现实世界中，信息并非总是完全精确的，尽管在最底层可能是离散的，但我们接收到的信息往往是模糊的。例如，在没有二维码的时代，商品入库是一个极其繁琐的过程，需要人工判断商品的具体信息，而无法依赖机器。但现在，人工智能的通用性使得这些模糊信息的处理变得可行，包括意图识别等复杂任务。 特别在教育领域，自古以来就有因材施教的理念，即根据每个学生的特点和需求进行个性化教学。然而，由于成本问题，并非每个人都能负担得起私人教师的全天候指导。在这种情况下，人工智能可以扮演这一角色，持续关注学生的成长，识别他们的知识盲点，并提供定制化的学习计划。这一设想本身就令人兴奋，因为它实际上能够极大提高社会效率。 人工智能的这一应用还带来了另一个影响，即许多传统能力可能变得不再那么重要。这与唱片工业的出现有着相似之处。随着声音传播的边际成本降低，大多数钢琴家难以通过演奏赚钱，只有顶尖的少数人能够盈利。人们更倾向于购买唱片，而不是支付费用请钢琴家现场演奏。人工智能的发展也可能带来类似的变化，许多学科和专业将不再需要那么多人力，这是不可避免的趋势。但是，那些在领域内不断进步和创新的人仍然是必需的，就像唱片时代依然需要像郎朗这样的钢琴家来录制唱片一样。 因此，我认为人工智能可能会在很大程度上替代一些工作，可能达到80%或90%的水平，但在某些领域，尤其是那些需要创新和顶尖技能的高端领域，人类专家仍然是不可或缺的。 **于开丞：**我觉得不会有这个问题。因为你只要构建一个能自我迭代的系统就可以了。正如AlphaGo在围棋领域超越人类选手一样，人工智能在各行各业的潜力是巨大的。只要投入足够的时间和资源去开发和优化，人工智能在各个领域都有可能达到甚至超越人类的表现。从长远的时间尺度来看，人工智能在各个领域的应用将变得普遍，其优越性将不再成为人们关注的焦点。 在那样一个时代，人们可能不再仅仅为了追求完美无瑕的产品或服务而支付高昂的费用。相反，他们可能更愿意为了那些带有个性化特色或独特缺陷的事物付费，因为这些缺陷或特色恰恰体现了人类的独特性和不可复制性。例如，在一个人工智能普遍能够演奏钢琴的时代，那些依然能够弹奏钢琴的人可能会因其稀有性和人情味而受到珍视。 **蒋耀锴：**这一观点我也赞同。有些行业注定不会消失，例如杂技表演，因为其本质受限于物理世界的规则以及人体结构的特点。在这一领域，机器的能力或许并不重要，真正令人着迷的，是人类突破自身极限的表现。我更在意的也是后者。 **于开丞：**其实我觉得就是为稀缺性体验付费。 **蒋耀锴：**恰好我今天也与一位朋友探讨了这个话题。我说，某些时候我需要一个人类管家，可能并不是为了节省时间，而是追求那种被服务的感觉。我不并不在乎被机器服务，因为我知道他比我低一等，我就想让和我平等的人类来服务我。 ## **Q：AI将会对当前的软件形态带来哪些影响？** **蒋耀锴:**首先，我认为AI并不会取代软件，而是在现有软件的基础上增加了灵活的决策能力。尽管AI有可能改变软件的形态，但它并不会完全取代软件。 其次，关于AI对软件生成的影响，我认为难度是一个普遍的概念，它是问题内在特性的体现。如果我们将难度想象为搜索空间中的一个点，那么解决一个问题就意味着在搜索空间中寻找解决方案。难度越大，搜索空间就越大，解决问题所需的时间也就越长。这一点对于人类和AI都是适用的，因为AI的运作也是基于类似神经元的结构。 我之所以不认为所有事情都会在大型AI模型上运行，是因为世界的本质在于效果。代码的固定流程运行的边际成本远远低于AI的边际成本。而且，即使AI的边际成本在下降，传统软件的边际成本也在同步下降。这意味着，对于某些任务来说，传统的软件解决方案可能更加经济高效。 ## **Q：你们觉得现在 AI 的发展符合你们的预期吗？AI的能量是不是太过于膨胀了？就像”AI教父“批评Sam Altamn的一样？** **于开丞：**我觉得他的批评是对的。我认同AI在一些领域存在一定的风险。尽管我本人也从事相关工作，但我坚信AI是没有情感的，因为它尚未达到智能涌现的基础条件。我比较担心的一点是AI在教育辅助方面的应用的过程中，AI会在不经意间产生对孩子的意识形态的塑造作用。当前，AI在接过这一角色后，很少经过了全面评估。因此我担忧会发生孩子长时间接触AI，可能会对人类产生怀疑，转而完全相信AI的指导的情况。 因此，在教育领域，我们可能需要投入大量时间来正确引导儿童，避免他们盲目信任AI所提供的信息。儿童天生具有学习能力，他们可能会因为AI的知识渊博而对其产生崇拜。这种崇拜如果不加以正确引导，可能会导致儿童对AI产生过度的依赖甚至狂热崇拜，这可能会引发一系列问题。我对这种潜在的风险持谨慎态度。 但尽管如此，我们不能否认AI无疑是一个强大的工具，它能够作为一个全面的信息来源，类似于一个百科全书。如果我们能够将AI作为这样一个信息载体来使用，它将发挥巨大的积极作用。关键在于我们如何管理和引导AI的使用，确保它在教育和日常生活中发挥正面作用，而不是成为潜在的风险源。 **蒋耀锴：**我做一些简单补充。随着社会的不断发展，我们总是在不断获得越来越强大的力量。而随着个人能力的提升，我们掌握的能量密度也在不断增加。从最初的机械能，到如今只需轻轻一指就能驱动汽车的巨大动能，人类的力量有了显著的增长。在战争领域，武器的破坏力也在不断升级，从冷兵器到火器，再到核武器，人类的破坏潜能在不断提升。 AI的发展也是如此，它是一个不可避免的趋势，并且确实存在潜在的危险。任何强大的技术都可能带来风险，AI也不例外。就像埃隆·马斯克（Elon Musk）的太空事业，人类现在能够将物品快速送入太空，意味着这既可以用来建造空间站，也可能被用于空间轰炸。我们不能因为技术的危险性就放弃使用它，因为人类总会寻求并掌握这些力量。 因此，技术本身并不是问题，关键在于使用技术的人。限制信息的流通并不能真正阻止人们追求和使用这些技术。人类破坏力的增长是社会发展的必然结果。我们选择不使用这种力量，并非因为我们无法做到，而是我们选择不这么做。这种选择基于道德、法律和社会规范，是它们在引导我们如何负责任地使用我们掌握的力量。 ## **Q：二位都有在海外学习和工作的经历，如何看待中美AI路线差异？** **蒋耀锴：**在技术发展的大方向上，中国与美国等其他国家并没有太大的差异，但在发展速度上，中国相对较慢。以我最近在美国为汽车进行保养的经历为例，我通过电话预约旧金山湾区的一家雷克萨斯车行的服务时，与我进行交互的是AI语音系统，而非传统的通过选择数字或关键词触发的自动应答系统。这个AI系统能够模糊地理解我的需求，并与我进行类似人类的对话。当我表示希望尽快进行保养时，AI系统询问我第二天上午9点半是否合适。我回答说早上不行，AI随即提出后天中午1点的选项，并在我同意后为我安排了预约。 这个例子明显展示了在赋能和提升效率方面，美国在人工智能的应用上比中国更为先进。这种差异在实际体验中给人留下了深刻的印象。 在产品设计过程中，我们始终坚持循序渐进的方式，而非一味追求“快速吃成大胖子”的AI应用策略。我们更倾向于在确定性较高的场景下逐步引入AI能力。例如，我们让AI完成的任务非常小，比如编写几行代码，甚至是一行代码；或者在无代码开发中，仅协助用户优化页面的一部分美观度，或完成某个数据绑定，智能猜测用户的需求。这种方式带来的用户价值感，远远超过通过一句话生成整套内容，但内容质量不够高的情况。 而且因为后一种方式在当前技术条件下也并不现实。就像与人沟通一样，即使拥有一位顶尖的程序员，如果需求不明确，他也无法准确完成任务。因此，AI与用户之间必须建立清晰的沟通流程，以实现协作。哪怕将AI视为一位能力卓越的程序员，也需要通过明确的沟通渠道传达需求。 基于这一认知，我们更倾向于从细小而明确的任务入手，逐步探索AI与用户协作的最佳方式。这是我们在AI产品设计上的核心思路。 **于开丞：**关于这个问题，我认为我们需要从两个不同的角度来看待问题：是科学研究的技术，还是产品开发和应用的技术。蒋总提到的通过电话预约车辆保养的例子，在国内没有得到同样程度的发展，原因可能并不在于国内缺乏开发此类技术的能力，而是某些机构可能不愿意将决策权下放。 我在美国湾区一家公司工作时曾观察到，美国的创业公司之间，存在着一种相互支持的文化。这些公司都倾向于使用彼此的产品，这种互助合作的文化相当明显。然而，在国内，大型企业在选择使用产品时可能会更加谨慎，这可能与企业文化和决策流程有关，而并非技术上的限制。 所以我比较担忧的问题其实是显卡的供应和性能，这在技术发展中是一个重要的考量因素。 ## **Q：这些局限性，对国内AI发展挑战大吗？** **于开丞：**我个人认为，当前的挑战更多体现在产品定义阶段，产品的清晰定义应该优先于这些挑战。至于未来是否会出现较大的技术差异还不确定。虽然不能排除未来随着更强大的AI集群的出现（例如十万卡或百万卡集群），我们的现有做法可能会被超越，甚至变得无用，但就目前而言，情况尚可。毕竟，包括OpenAI的O1在内，目前还没有出现显著的技术突破。 ## **Q：企业在引入 AI 自动化之后，该如何去重新定义人和机器的分工协作模式？怎么去革新组织管理模式？** **蒋耀锴：**我们在AI自动化方面也进行了许多尝试。例如，目前我们的服务正在为VIP客户群进行测试，每当客户发出一句话，我们会使用AI自动搜索相关的上下文和资料，并将其展示出来，以帮助客户回应。尽管现在还在调试阶段，仍需要人工干预，但已经对于客服的工作效率有了很大的提升。 我想强调的是，模拟人的流程是最容易展现AI价值的一种方式。只要明确AI需要什么工具，就可以为其提供相应的支持。AI的工作流程可以根据人的流程进行设计，这种方法是最快且最直接的价值体现方式。 然而，在这个过程中，常见的错误之一是将AI视作与人类相同。人类不仅仅是一个信息处理的“大脑”，还具有动态更新的长期记忆。与此不同，AI的记忆是静态的，它不会主动学习或更新，因此，在使用AI时，要么为其设计一个类似“海马体”的机制来实现记忆更新，要么就需要以一种更加精准、固定的方式来使用它，把它当作一个永远不会学习的实习生来对待。虽然AI具备强大的能力，但它不具备自我学习的特性，这种方式的使用也能带来很好的效果。 **于开丞：**我还是认为我们都应该积极拥抱AI，尽管目前很多人对它仍然存在排斥心理，当然这种情况是可以理解的。事实上，AI工具在某些方面的表现还未达到理想的水平，尤其是在精度上还需要不断改进。我们曾提出一个概念叫做“AI精度”，举个例子，我现在还在高校工作，需要写一些繁琐的书面报告。为了测试市面上流行的AI写作工具，我将自己写的一段文字输入其中，要求它进行修改。有些工具并不会对我的内容进行任何实质性的改动，因为它们意识到我的原文已经很完善。但有些工具则过于“自以为是”，将我的词语替换或改变句子结构，结果却破坏了原有的逻辑和流畅性。 当前的AI精度仍未达到足够高的水平。且当其提升到一定程度时，就难以进一步提升，导致它始终无法完成一些“最后一公里”的任务。因此，在某些情况下，我不得不放弃使用这些工具。 ## **Q：我们应该担心人最终会被AI给异化吗？** **于开丞：**所以我很担心教育的问题。成年人可能还能够辨别和筛选信息，但孩子们的判断力尚在发展中，他们更容易受到不良信息环境的影响。认知心理学的研究表明，个体与周围环境中的文字内容频繁互动时，他们不可避免地会被这些内容所塑造。如果一个人日常接触的是夸张、戏剧化的标题和内容，那么这种信息环境会逐渐提高他们的心理阈值，导致他们对信息的敏感度发生变化。 **蒋耀锴：**我认为不必过于担心，因为我们所做的一切最终都会通过现实反馈得到验证。所谓的现实反馈，指的是环境和外部因素对我们的影响。即使AI的建议偶尔偏离轨道，只要我们能够从现实中获取反馈，依然能保持与实际情况的联系。就像与不同的人互动一样，只要你接触到多元化的观点，甚至仅仅是站在门外观察外界的变化，这种随机性本身就能帮助你维持对现实的感知。但如果你始终沉浸在AI的对话中，确实可能会变得脱离现实，甚至显得“怪异”。 当然，这种正反馈机制并非无限制地持续。只要人们仍生活在充满不确定性的现实世界中，这个世界本身就充满了随机性。只要我们能身处其中，并接触到真实的随机事件，那么我同意你的看法——人们不会永远朝着单一的方向发展。 ## **Q：从工业革命到互联网诞生，再到如今的大模型和生成式 AI 时期，这三个阶段的本质是否相同？** **蒋耀锴：**当前，AI并非完全取代人类的工作，而是在一定程度上替代某些任务。在互联网时代，虽然物流配送的需求依然存在，但信息的高效传输使得货物配送更加高效，路径规划更加精确。尽管在资源规划和组织上投入了更多精力，实际的物流活动仍然不可或缺。 同样，AI的作用并非完全取代人类，而是提供辅助。随着信息获取变得更加便捷，AI在决策过程中发挥着日益重要的作用，帮助降低决策成本。这种变化虽然可能不容易察觉，但却促使人们在决策上投入更多的时间和精力。 任何新技术的出现往往伴随着过度投资的现象。目前，尽管大量资本涌入AI领域，但回报可能并不立竿见影。资本的耐心并非无限，长远来看，互联网确实改变了世界。回顾2000年，互联网泡沫破裂，许多公司倒闭，股价暴跌，但这些过度投资最终转化为了基础设施，例如光纤网络。 AI领域的发展或许也将经历类似的过程。许多AI公司可能面临倒闭，大规模的模型训练可能难以为继。然而，这些过度投资将留下宝贵的技术遗产，成为未来发展的基石。尽管如此，这一转变不会像许多人想象的那样迅速，AI技术不会在短短几年内彻底改变世界。 **于开丞：**一句话，坚持做点有用的东西就行。 ## **Q：随着ChatGPT的流行，许多人将人工智能与类似对话模式划上等号。创业者在开发新产品时，该如何探索更加创新和具有深远影响的人工智能应用方式，并更好地影响人们的思维方式？** **蒋耀锴：**关键在于，我们开发产品时不应将AI视为核心或唯一焦点。研发任何一个产品的出发点应始终是解决用户实际问题，而AI的引入恰恰是因为它能够帮助解决这些问题。AI只是一个工具，就像数据库不会成为某个产品的亮点一样，AI也不应成为你的产品的卖点。 创业者真正的做法是要根据问题的性质设计解决方案，而不是因为引入了AI就改变产品的本质。应该根据问题的具体需求，选择最合适的工具和交互方式，不能单纯为了追求“AI体验”而强行加入AI。过度强调AI，反而可能导致本末倒置。 **作者：Qiuping** **\- END -** --- 原始发布版本：https://view.inews.qq.com/a/20241211A04JGF00 本站阅读页：https://ffcap.cn/research/20241211a04jgf00