第二百六十六章 硅明的战略意义 (第2/3页)
这些都是好事,可来得太多、太快了。
韩路一正在重新适应这个节奏,同时要从中找到一个关键点,让自己掌握主动权。
这个关键点,便是硅明。
国产化适配目前基本还处在从无到有的阶段。过程中,各家国产厂商都在探索自己的路,有的快,有的慢,却还没人能真正跑通。
江松然当时推荐硅明的L100,原因之一就是它软件底子差——源智若从头做起,反而没有包袱。
眼下源智用五百张L100组建的集群,已经能高效运行汤圆-0.9的推理,稳稳接住御风的流量。
这个进度,已经走在国产厂商最前列。
源智下一个要攻克的难点,是在国产集群里做训练。
两者虽然同属大模型生态,训练的难度却可以说是推理的十倍以上。
推理就是“使用模型”:加载训练好的权重,输入一个问题,输出一个答案。只要显卡内存够大,一张卡也能跑,只是响应慢一点;有了集群,响应会更快,也能支撑更多用户和请求——但这是量变,不是质变。
训练则是“制造模型”。一张卡的算力和内存绝对不够;想让模型梯度下降并最终收敛,至少需要几千张卡的集群——这就是能与不能的区别。
更关键的是时间和钱。
汤圆-0.9用的是鼎盛算力,两个多月,一个亿的额度就快用完;这还是在生态链成熟的英伟达集群上。
若换到国产集群,保守估计时间要三倍以上。
用非N卡做训练,是所有芯片公司都想攻克的难关,可至今只有谷歌一家成功。
源智要做下一家。
沿着L100的路走下去最快。更何况,软硬件不分家;等源智把训练体系建立起来,硅明的下一代芯片就需要和软件做更深度的配合——这一点在设计之初就得考虑。
这才是韩路心中,国产化适配的最佳路线。
找别的国产厂商合作也不是不行,但那样一来慢,二来会脱离自己的掌控,总不如收购来得方便、快捷、有把握。
严格来说,硅明不算一家好公司。
它财务状况很
(本章未完,请点击下一页继续阅读)
『加入书签,方便阅读』