• 正文
  • 相关推荐
申请入驻 产业图谱

Token原生:一文了解Token产业链

12小时前
380
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

引言

云计算已经从通算走向了智算,并将进一步从智算走向Token计算。Token计算时代,整个算力产业链必将发生巨大的变化。

芯片到设备,从智算中心到AI工厂,从模型Token到智能体。今天这篇文章,我们抛砖引玉,简单聊聊Token产业链。

1 Token产业链综述

Token产业链包括如下环节:

芯片:主要是GPU和专用AI芯片

服务器设备:GPU服务器或其他AI专用芯片服务器。

IDC机房:主要是智算中心的电力、机房和机柜等,对外输出产品为机房机柜。

智算中心:设备+网络+机房机柜 = 智算中心,对外输出算力。算力为Token的原材料。

大模型:模型如同Token的生产线,可以把算力加工成Token。

AI工厂:Token的实际生产承载。以模型为生产线,把智算中心的算力(原材料),转换成模型Token(最终产品),对外大批量销售。

AI店铺:Token聚合销售平台,负责批发转零售,用户可以一站式采购。

智能体和AI工具:负责具体AI业务落地,消耗大量的Token。

AI用户:最终使用AI的企业或个人,提供相关场景和需求。

技术服务:每个环节均可以自研,也可以寻找第三方技术服务公司合作。技术服务方为Token产业链一个或多个环节提供技术和其他相关服务。

2 Token原生的芯片和模型

芯片和模型,是整个Token产业链的最核心环节。芯片领域最核心的企业为NVIDIA,国内有华为、沐曦、摩尔线程等。模型领域最核心的企业,美国是OpenAI、Anthropic和谷歌,国内是字节、阿里、智谱、Kimi、Minimax等。

随着Token的兴起,未来,需要针对Token的特性,开发Token原生的芯片。对国产芯片来说,Token的爆发是:整体利好,局部利空。主要是因为:

Token是推理,对Scale up的能力要求相对不高,利好国产芯片。

Token服务是一种Serverless型服务,(国产芯片劣势的)架构和生态问题由平台侧搞定,最终的开发者不用费心生态细节。Token的兴起,利好国产芯片。

Token模式,竞争更残酷。传统不同芯片厂家在不同行业、不同场景各自努力,竞争相对较少。而Token模式把大家拉到了同一个赛场,是骡子是马拉出来遛遛,竞争更残酷。

Token服务的核心竞争力是价格,竞争压力会更大。

Token服务市场会数量级大爆发。

期待,2-3年后,国产芯片在Token市场的大爆发。

3 Token原生的IDC机房、设备和智算中心

Token是一个(相对)标准化的产品,并且规模极大,因此整个相关基础设施,必然需要全栈优化:

需要Token专用的服务器设备。需要量身定做,更高的效率和更低的成本。不需要兼顾传统智算的需求。

成本更加低廉的IDC机房。例如,传统IDC需要两路市场、发电机UPS等供电保障措施,但Token系统对基础设施可靠性要求大幅度降低,这样,供电系统甚至可以改成单路市电即可。

智算中心建设,有两个方向的选择:

一个是超大规模集中式,这样更有利于降低成本。这类智算中心通常建设在西部绿电资源丰富的城市。

另一个是,小规模的弹性的边缘智算中心,这样能充分利用东部城市的小规模的闲置电力、场地等资源。这类边缘智算中心,既可以用于服务超低延迟业务场景需求,还可以充分利用资源降低成本,

Token时代,成本极度敏感,这两类方向的智算中心,都需要进一步优化建设和调度等各项成本。

4 Token的生产和销售

在Token产业链里:站在技术的角度,芯片和模型是核心;站在业务的角度,Token的生产和销售是核心。

对于Token的生产和销售,我们均用四个方面进行分析:技术、内容、输入和输出。

对于AI工厂的Token生产来说:

技术。技术主要指的是模型部署和性能优化。Token生产,技术极端重要。Token的生产,不是简单的模型部署。Token是标准品,价格敏感,必须要性能优化方面下苦功夫。就是优化,需要“持续改进,精益求精”。优化需要从软件优化,进一步深化到软硬件协同优化,甚至芯片架构优化。

内容。内容指的是模型。对许多AI工厂来说,目前只能生产开源模型的Token;未来,进一步的,可以和模型厂家合作,部署闭源的模型;甚至,更进一步的,可以自研模型。

输入。输入是算力。这些算力,可以是自建的,也可以是租赁的。站在产业链的角度,智算中心和AI工厂是两个独立的业态,也就是把智算中心业务和AI工厂业务进行了解耦分割。对AI工厂来说,成熟稳定后,最核心的竞争力就会变成“如何从上游拿到更低价格更大规模的算力?”。

输出。它的输出产品是Token,非常非常大量的Token。AI工厂的Token,小部分可以自己零售,大部分需要通过聚合平台等销售渠道进行批发销售。

对于AI店铺(Token聚合销售平台)来说:

技术。技术主要是模型聚合平台。它的技术开发难度不大,更多的需要后期长期的运营,去链接更多的用户,以及智能体和工具。

内容。聚合平台主要的内容是模型Token,长期看,也可以包含智能体。

输入。AI店铺输入是大量的Token。从上游批发过来Token,进行零售。

输出。输出是零售的Token,也可能会包含智能体等。和AI工厂相反,对AI店铺来说,稳定下来后,其核心竞争力是销售的能力和链接的客户数量和质量。因此,AI店铺,需要在销售方面,投入更大的精力,玩出更多的花样。

最后,需要强调的,也是最重要的,就是“Token业务,规模优先”。只有规模做大,才有可能摊销技术等各项投入成本,才可能跟上游博弈从而获得更低成本的“原材料”,才有可能获得更大的市场规模和更高的利润。

5 智能体和用户业务场景

智能体是基于模型的AI应用,是面向业务场景满足用户需求,最终业务落地的承载。

最终,是“模型+智能体”共同完成用户需求的。

站在Token的视角,AI工厂是Token的生产,AI店铺是Token的销售,那么智能体和各类AI工具(AI工具也是智能体)则是Token的消耗。

既要关注模型的能力和Token的价格,更要关注,业务场景需求和智能体应用。

6 Token技术服务

市场竞争特别激烈,“好钢用在刀刃上”,每个公司都需要聚焦自己最核心的价值竞争力。而把共性的“重复造轮子”的工作,尽可能寻找外部合作与支持。企业和企业之间的分工合作,大家共同构成了复杂的产业链。

基于“二八定律”,Token有两个特点:产品较少,仅有智算云产品数量的5-10%左右;市场规模极大,要占到整个智算云市场规模的80-90%。

这样的业务特征,使得Token相关技术,可以作为共性技术,统一进行研发和均摊研发成本。于是,出现了Token技术服务的业务形态。

Token技术服务,和各个环节一起,特别是最关联的原材料(智算中心)、生产(AI工厂)、销售(AI店铺),以及消耗(智能体和AI工具),共同构成了一个开放的、协作的、健康发展的Token产业链。

(正文完)


矩向科技,是一家AI产业链技术服务企业,重点关注Token的生产和销售。在国内外有诸多合作伙伴的AI工厂和AI店铺项目落地。欢迎关注Token业务的朋友,交流讨论,共探商机。

相关推荐

登录即可解锁
  • 海量技术文章
  • 设计资源下载
  • 产业链客户资源
  • 写文章/发需求
立即登录

公众号:软硬件融合;CPU灵活性好但性能较差,ASIC性能极致但灵活性差,鱼和熊掌如何兼得,同时兼顾性能和灵活性,我给出的方案是“软硬件融合”。软硬件融合不是说要软硬件紧耦合,相反,是要权衡在不同层次和粒度解耦之后,再更加充分的协同。