引言
云计算已经从通算走向了智算,并将进一步从智算走向Token计算。Token计算时代,整个算力产业链必将发生巨大的变化。
从芯片到设备,从智算中心到AI工厂,从模型Token到智能体。今天这篇文章,我们抛砖引玉,简单聊聊Token产业链。
1 Token产业链综述
Token产业链包括如下环节:
芯片:主要是GPU和专用AI芯片。
服务器设备:GPU服务器或其他AI专用芯片服务器。
IDC机房:主要是智算中心的电力、机房和机柜等,对外输出产品为机房机柜。
智算中心:设备+网络+机房机柜 = 智算中心,对外输出算力。算力为Token的原材料。
大模型:模型如同Token的生产线,可以把算力加工成Token。
AI工厂:Token的实际生产承载。以模型为生产线,把智算中心的算力(原材料),转换成模型Token(最终产品),对外大批量销售。
AI店铺:Token聚合销售平台,负责批发转零售,用户可以一站式采购。
智能体和AI工具:负责具体AI业务落地,消耗大量的Token。
AI用户:最终使用AI的企业或个人,提供相关场景和需求。
技术服务:每个环节均可以自研,也可以寻找第三方技术服务公司合作。技术服务方为Token产业链一个或多个环节提供技术和其他相关服务。
2 Token原生的芯片和模型
芯片和模型,是整个Token产业链的最核心环节。芯片领域最核心的企业为NVIDIA,国内有华为、沐曦、摩尔线程等。模型领域最核心的企业,美国是OpenAI、Anthropic和谷歌,国内是字节、阿里、智谱、Kimi、Minimax等。
随着Token的兴起,未来,需要针对Token的特性,开发Token原生的芯片。对国产芯片来说,Token的爆发是:整体利好,局部利空。主要是因为:
Token是推理,对Scale up的能力要求相对不高,利好国产芯片。
Token服务是一种Serverless型服务,(国产芯片劣势的)架构和生态问题由平台侧搞定,最终的开发者不用费心生态细节。Token的兴起,利好国产芯片。
Token模式,竞争更残酷。传统不同芯片厂家在不同行业、不同场景各自努力,竞争相对较少。而Token模式把大家拉到了同一个赛场,是骡子是马拉出来遛遛,竞争更残酷。
Token服务的核心竞争力是价格,竞争压力会更大。
Token服务市场会数量级大爆发。
期待,2-3年后,国产芯片在Token市场的大爆发。
3 Token原生的IDC机房、设备和智算中心
Token是一个(相对)标准化的产品,并且规模极大,因此整个相关基础设施,必然需要全栈优化:
需要Token专用的服务器设备。需要量身定做,更高的效率和更低的成本。不需要兼顾传统智算的需求。
成本更加低廉的IDC机房。例如,传统IDC需要两路市场、发电机、UPS等供电保障措施,但Token系统对基础设施可靠性要求大幅度降低,这样,供电系统甚至可以改成单路市电即可。
智算中心建设,有两个方向的选择:
一个是超大规模集中式,这样更有利于降低成本。这类智算中心通常建设在西部绿电资源丰富的城市。
另一个是,小规模的弹性的边缘智算中心,这样能充分利用东部城市的小规模的闲置电力、场地等资源。这类边缘智算中心,既可以用于服务超低延迟业务场景需求,还可以充分利用资源降低成本,
Token时代,成本极度敏感,这两类方向的智算中心,都需要进一步优化建设和调度等各项成本。
4 Token的生产和销售
在Token产业链里:站在技术的角度,芯片和模型是核心;站在业务的角度,Token的生产和销售是核心。
对于Token的生产和销售,我们均用四个方面进行分析:技术、内容、输入和输出。
对于AI工厂的Token生产来说:
技术。技术主要指的是模型部署和性能优化。Token生产,技术极端重要。Token的生产,不是简单的模型部署。Token是标准品,价格敏感,必须要性能优化方面下苦功夫。就是优化,需要“持续改进,精益求精”。优化需要从软件优化,进一步深化到软硬件协同优化,甚至芯片架构优化。
内容。内容指的是模型。对许多AI工厂来说,目前只能生产开源模型的Token;未来,进一步的,可以和模型厂家合作,部署闭源的模型;甚至,更进一步的,可以自研模型。
输入。输入是算力。这些算力,可以是自建的,也可以是租赁的。站在产业链的角度,智算中心和AI工厂是两个独立的业态,也就是把智算中心业务和AI工厂业务进行了解耦分割。对AI工厂来说,成熟稳定后,最核心的竞争力就会变成“如何从上游拿到更低价格更大规模的算力?”。
输出。它的输出产品是Token,非常非常大量的Token。AI工厂的Token,小部分可以自己零售,大部分需要通过聚合平台等销售渠道进行批发销售。
对于AI店铺(Token聚合销售平台)来说:
技术。技术主要是模型聚合平台。它的技术开发难度不大,更多的需要后期长期的运营,去链接更多的用户,以及智能体和工具。
内容。聚合平台主要的内容是模型Token,长期看,也可以包含智能体。
输入。AI店铺输入是大量的Token。从上游批发过来Token,进行零售。
输出。输出是零售的Token,也可能会包含智能体等。和AI工厂相反,对AI店铺来说,稳定下来后,其核心竞争力是销售的能力和链接的客户数量和质量。因此,AI店铺,需要在销售方面,投入更大的精力,玩出更多的花样。
最后,需要强调的,也是最重要的,就是“Token业务,规模优先”。只有规模做大,才有可能摊销技术等各项投入成本,才可能跟上游博弈从而获得更低成本的“原材料”,才有可能获得更大的市场规模和更高的利润。
5 智能体和用户业务场景
智能体是基于模型的AI应用,是面向业务场景满足用户需求,最终业务落地的承载。
最终,是“模型+智能体”共同完成用户需求的。
站在Token的视角,AI工厂是Token的生产,AI店铺是Token的销售,那么智能体和各类AI工具(AI工具也是智能体)则是Token的消耗。
既要关注模型的能力和Token的价格,更要关注,业务场景需求和智能体应用。
6 Token技术服务
市场竞争特别激烈,“好钢用在刀刃上”,每个公司都需要聚焦自己最核心的价值竞争力。而把共性的“重复造轮子”的工作,尽可能寻找外部合作与支持。企业和企业之间的分工合作,大家共同构成了复杂的产业链。
基于“二八定律”,Token有两个特点:产品较少,仅有智算云产品数量的5-10%左右;市场规模极大,要占到整个智算云市场规模的80-90%。
这样的业务特征,使得Token相关技术,可以作为共性技术,统一进行研发和均摊研发成本。于是,出现了Token技术服务的业务形态。
Token技术服务,和各个环节一起,特别是最关联的原材料(智算中心)、生产(AI工厂)、销售(AI店铺),以及消耗(智能体和AI工具),共同构成了一个开放的、协作的、健康发展的Token产业链。
(正文完)
矩向科技,是一家AI产业链技术服务企业,重点关注Token的生产和销售。在国内外有诸多合作伙伴的AI工厂和AI店铺项目落地。欢迎关注Token业务的朋友,交流讨论,共探商机。
255