据界面新闻10月16日报道，字节跳动旗下火山引擎披露最新大模型token调用数据，使用量从2024年5月1200亿tokens增长253倍至今年9月的超30万亿tokens。
Tokens 是大语言模型用来切割自然语言文本的基本单位，本质反映大语言模型计算量。在推理过程中，token是计算的基本单位，模型对每个token的处理都需要消耗计算资源，处理的token数量越多，计算量会呈平方级增长。
浙商证券指出，字节跳动2024年资本开支达到800亿元，接近百度、阿里、腾讯的总和（1000亿元）。2025年字节跳动资本开支有望达到1600亿元，旨在打造自主可控的大规模数据中心集群，其中约900亿元将用于AI算力的采购，700亿元用于IDC基建以及网络设备如光模块、交换机。字节跳动对未来Token消耗估计较高，预计将持续加大算力投入。
其对豆包大模型带来的算力产业链的GPU/服务器、数据中心设备需求进行了测算。假设2027年日活达到5000万，日均token使用量达到50万亿，为了满足用户需求，在2.5倍峰值token倍数的假设下，2027年算力需求达到1.4E+21 FLOPS，假设未来字节能采购320 TFLOPS的芯片，则需要565.1万个GPU，缺口巨大。
东方证券也指出，在算力端，豆包大模型的性能升级和推理需求的迅猛增长，使得算力建设持续性至关重要。在此背景下，服务器及液冷厂商、PCB厂商等有望受益。此外，数据存力和运力需求的持续攀升，为存储、光模块和光芯片等企业创造了更多的市场机会，促使整个产业链不断优化升级，以满足日益增长的AI算力需求。
公司方面，据华创证券表示，润泽科技、宝信软件、光环新网等有合作。
*免责声明：文章内容仅供参考，不构成投资建议
*风险提示：股市有风险，入市需谨慎
本资讯中的内容来自持牌证券机构，意见仅供参考，并不构成对所述证券买卖做出保证。投资者不应将本资讯作为投资决策的唯一参考因素。亦不应以本资讯取代自己的判断。
本文内容和观点不代表牛策略APP平台观点，请独立判断和决策。在任何情况下，牛策略APP不对任何人因使用本平台中的内容所引致的任何损失负任何责任。
暂无评论内容