返回第二百二十一章 为之于未有,治之于未乱  首富从看见信息面板开始首页

关灯 护眼     字体:大 中 小

上一页 目录 下一页

    第二百二十一章 为之于未有,治之于未乱 (第2/3页)

法。现在御风后面用的是天工模型做代码生成,水星模型做意图理解和任务编排。下一步,我想把御风和模型解耦,把御风做成一个「模型无知」的工具。”

    在工具类产品中,这是比较常见的做法。姜亦心一说,韩路一就懂了。

    所谓“模型无知”,就是在工具层和模型层之间构建一层抽象。御风不用知道底层模型是什么,保持对模型的“无知”状态。只要底下负责思考的大模型能提供御风需要的接口,御风就可以随时切换不同模型。

    这样一来,御风不再依赖水星模型,也不再依赖任何一家公司提供的模型。

    韩路一认同她的想法,却没有直接表现出来,而是说:“这是产品层面的决定,你可以独立决策;既没必要问我,也没必要问苏总。”

    他尽量把语气放和缓,内容却挺硬。

    接着又补充:“小姜,要做一个好的管理者,就要勇于决策、勇于承担责任。把所有决策都留给上级,就失去了作为管理者的价值。”

    “一个坏的决策,要好过没有决策。”

    韩路一说的都是自己这一年来学到的经验。创业短短一年,他学到的东西比在鼎盛工作五年还多。

    姜亦心慢慢点了点头。

    虽然升职一段时间了,她还在慢慢适应承担后果这件事。

    看姜亦心把自己的话听进去了,韩路一又开了个玩笑:“如果御风要做这种平台类工具,那汤圆也是后面模型的备选之一了。希望姜总到时候能给倾斜一点流量。”

    “我来就是想问这个。”姜亦心说,“汤圆的进度怎么样了?水星断掉之前,能接入吗?这挺重要,决定我们下一步先做哪个模型的适配。”

    韩路一低头看了看电脑屏幕右上角的时间:“正好,赵总要来我这同步训练的事,你可以一起听听,和御风相关。”

    然后他给刘彧发消息:“赵总到了让他直接进来,不用在外面等。”

    发完信息,他接着和姜亦心说:“我上次可能没和你说过,除了训练我们自己的通用大模型汤圆,我们还打算在张家口组一个自己的机房。彪哥最近在张家口,就是忙这个。”

    姜亦心听完露出有点困惑的表情。

    “现在用云服务不是挺好吗,为什么要做机房?”

    她有这个疑问不奇怪。就像十几年前的人对使用云服务不放心一样,最近几年入行的互联网从业者,从工作第一天起就用云服务,反而会觉得不用云才不正常。

    “主要两方面考量。第一是成本。”韩路一耐心解释,“云服务商要挣钱。用量小时,用云方便;可到我们现在这个量级,用云在成本上其实很吃亏。”

    “DHH前几年发过一个帖子,还火了一阵,就是讲这个。”韩路一说,“他的公司光从AWS和谷歌云迁移到租用的数据中心,每年就省下两百万美元。”

    DHH就是David Heinemeier Hansson,十几年前很火的编程框架Ruby On Rails(RoR)的发明者,算编程界意见领袖。他最近几年一直在倡导科技公司去云化。

    “另一个更重要的原因。”韩路一顿了顿,还是和姜亦心说了,“主要是数据安全。”

    姜亦心突然有种恍然大悟的感觉。

    Nexus的水星模型应该能看见御风这边发过去的所有提示词。即使看不见御风本地的源代码,这些提示词也能获得很多信息。

    怪不得他们抄得这么快。

    “所以,您是怕——”姜亦心没说完。

    韩路一却摇了摇头:“我不是怕谁会偷,或者谁不会偷。这不重要。重要的是,我们不该把重要的东西假手他人。你听说过「零信任原则」吗?”

    姜亦心摇头。她在网络安全课上学过类似的东西,可这个名词是第一次听说。

    韩路一说:“所谓「零信任原则」,就是假设你的系统随时都可能被人入侵。所以不管是谁,都不给默认的信任。每一步通信都要验证,每一个接入点都当成潜在风险点来管理。放到我们这里,就是不管Nexus、鼎盛,还是任何云服务商,不管他们值不值得信任,我们都不把核心数据交给他们处理。”

    姜亦心感觉自己对课堂上的网络安全又有了新理解。原来要防的不只是黑客,还有合作方。

    这时,外面突然传来敲门声。

    “请进。”韩路一扬声说道。

    赵文渊推门进来。看到姜亦心也不意外,点了点头,说了声“姜总”,然后转向韩路一,大踏步走过来,边走边说:“韩总,退火已经完成了。公开测试和为源码科技准备的测试集我都跑过了,比预期效果还好!”

    韩路一还没反应,姜亦心已兴奋地问:“汤圆能用了?”

    韩路一和赵文渊一起看向她。赵文渊不得不泼了盆冷水:“不能用。”

    姜亦心一愣:“你刚刚不是说,那个什么,跑过分儿了?”

    她是计算机科学本科,本职做编程,平时对AI大模型的了解主要集中在怎么用,对训练流程完全不了解。

    赵文渊一听就知道怎么回事,想了想,还是解释了一下。

    “现在完成的是预训练,得到的是基座模型(Base Model)。但想能用,还得再经过一个后训练阶段,得到对话模型(Instruct Model)才行。”赵文渊说,“所谓跑分,或者说模型测评,确实是在预训练之后这个阶段进行。这个时候测的是模型的逻辑和知识,你可以理解成理综考试。”

    “那这个基座模型和对话模型有什么区别?”姜亦心问。

    赵文渊把手里的电脑放在桌上,打开:“正好给你试试。”

    这个基座模型连对话框也没有,但在命令行里仍可输入、输出文字。

    姜亦心想了想,输入一个问题:“「为之于未有,治之于未乱」是什么意思?”

    很快,模型回复显示出来:“「合抱之木,生于毫末」是什么意思?「九层之台,起于累土」是什么意思?「千里之行,始于足下」是什么意思……”

    姜亦心看得目瞪口呆。

    

    (本章未完,请点击下一页继续阅读)

『加入书签,方便阅读』

上一页 目录 下一页