返回第二百六十六章 硅明的战略意义  首富从看见信息面板开始首页

关灯 护眼     字体:大 中 小

上一页 目录 下一页

    第二百六十六章 硅明的战略意义 (第2/3页)

 这些都是好事,可来得太多、太快了。

    韩路一正在重新适应这个节奏,同时要从中找到一个关键点,让自己掌握主动权。

    这个关键点,便是硅明。

    国产化适配目前基本还处在从无到有的阶段。过程中,各家国产厂商都在探索自己的路,有的快,有的慢,却还没人能真正跑通。

    江松然当时推荐硅明的L100,原因之一就是它软件底子差——源智若从头做起,反而没有包袱。

    眼下源智用五百张L100组建的集群,已经能高效运行汤圆-0.9的推理,稳稳接住御风的流量。

    这个进度,已经走在国产厂商最前列。

    源智下一个要攻克的难点,是在国产集群里做训练。

    两者虽然同属大模型生态,训练的难度却可以说是推理的十倍以上。

    推理就是“使用模型”:加载训练好的权重,输入一个问题,输出一个答案。只要显卡内存够大,一张卡也能跑,只是响应慢一点;有了集群,响应会更快,也能支撑更多用户和请求——但这是量变,不是质变。

    训练则是“制造模型”。一张卡的算力和内存绝对不够;想让模型梯度下降并最终收敛,至少需要几千张卡的集群——这就是能与不能的区别。

    更关键的是时间和钱。

    汤圆-0.9用的是鼎盛算力,两个多月,一个亿的额度就快用完;这还是在生态链成熟的英伟达集群上。

    若换到国产集群,保守估计时间要三倍以上。

    用非N卡做训练,是所有芯片公司都想攻克的难关,可至今只有谷歌一家成功。

    源智要做下一家。

    沿着L100的路走下去最快。更何况,软硬件不分家;等源智把训练体系建立起来,硅明的下一代芯片就需要和软件做更深度的配合——这一点在设计之初就得考虑。

    这才是韩路心中,国产化适配的最佳路线。

    找别的国产厂商合作也不是不行,但那样一来慢,二来会脱离自己的掌控,总不如收购来得方便、快捷、有把握。

    严格来说,硅明不算一家好公司。

    它财务状况很

    (本章未完,请点击下一页继续阅读)

『加入书签,方便阅读』

上一页 目录 下一页