第二百八十五章 喵～ (第2/3页)

。

    “效果很好，这个星期可以在全公司内部推广。”韩路一说。

    “可惜，想商品化的话，困难重重啊。”苏念念叹了口气。

    这个问题，三个人周五开会时就讨论过了。

    这种“成长系统”想准确评价用户，就得做全方位画像，接触大量个人信息。

    只在源码内部使用，工作相关信息本就归源码所有，没有隐私问题；一旦对外推广，无论面向企业还是个人用户，隐私和数据安全都还有很长的路要走。

    “没必要什么都想着商品化。”韩路一说，“只要这件事有趣、有益，就可以继续做。商机有时会在不经意间出现。”

    姜亦心听到这儿，觉得时机差不多了，举起手。

    “韩总，苏总，其实我还有个关于产品的想法，想和你们聊聊。”

    苏念念其实猜到了：三人每周有固定会议，若只是汇报“成长系统”的成绩，完全可以等到那时候。

    今天临时约会议，肯定是有决策要做。

    “让小姜总这么急，是什么想法啊？”她笑着问。

    姜亦心打开刚整理出来的资料。

    《使用大模型创建可复用的专家级技能》。

    接着，她讲了自己如何受早期用户启发，想到用AI制作领域专家能力，以及在网上调查到的现状。

    韩路一和苏念念对视一眼，都看出对方眼里的惊讶。

    小姜真是个敏锐的产品经理啊。

    “网上很多人已经尝试过了，但我觉得主要受几方面限制，现在的AI还没法提供和真人专家同等级别的能力。”姜亦心说，“首先，大模型设计之初是按通才培养的，可我们需要某个职业能力时，要的是专才，比如编程、法律、设计等等。”

    韩路一点点头。

    这确实是个问题，也是源智应用方面正面临的挑战——汤圆在国家电网落地，需要的正是电力方面的专才。

    “这个方向确实比较前沿，不过学术界和工业界已有一些探索。”韩路一说，“现在比较流行RAG（Retrieval-Augmented Generation，检索增强生成）技术：把模型里没有的相关资料放进数据库，提前做好索引；查询进来时，先在专用数据库里搜出相关内容，再连同问题一起送给大模型，让它据此生成答案。”

    通过限定数据来源范围，并在提示词中严格限制只能依据给定来源生成回答，就能以最低成本，在一定程度上把通用大模型变成领域专家。

    “但这其实是对模型能力不到位的一种妥协。”韩路一接着说，“用户会问什么没法预测，语义理解不到位就检索不到相关信息，最后答案就不准确。这就像让一个没学过这门课的人开卷考试：你提问时，他得现翻答案；翻到了，答得就好；翻不到，就别指望他能给出什么好答案。”

    韩路一讲得清晰到位，姜亦心和苏念念都听懂了。

    确实，从这个方向看，问题还是没解决。

    姜亦心翻过一页资料：“还有下一个问题。”

    屏幕上写着这一节的标题：【长时记忆】。

    “现在汤圆很强，但它的工作是响应式的。”姜亦心说，“我问一个问题，它答一个；我追问下一个，它再答下一个。等问题多到超出上下文窗口，整个对话就没法用了，只能开下一个问题，一切从头开始。我们做御风时特意优化过这个问题，做成长助手时又遇到了同样的问题。”

    这确实是一线应用开发才会遇到的痛点。

    韩路一回头看了看苏念念。她最近做经营管理较多，脱离产品一线有一段时间了。

    韩路一怕苏念念听不懂，停下来解释了几句——当然，他是对着姜亦心说的，只让苏总顺便听一下。

    “大模型生成时，会把所有上下文放进模型里跑一遍，再得出答案。所以上下文给得越多，占用内存越多；这个量有个极限，就是上下文窗口。”韩路一说，“汤圆现在的上下文窗口是二十万个词元，不算小，日常问答够用，放到工程里就捉襟见肘了。”

    “超出上下文窗口后，大模型还能继续工作，但它会默默忘掉用户最开始说的话，给出的答案常常驴唇不对马嘴，用户还不知道哪里出了问题。”

    为了说明白，韩路一讲了个网上的段子。

    “有人说，和大模型聊天时，可以在最开始加个要求，让它每次回答最后都加一个“喵”。等哪天它突然不带“喵”了，你就知道它已经超出上下文窗口，该换新聊天进程了。”

    苏念念确实不知道这些，尤其最后那个段子，她轻轻点了点头。

    “所以在汤圆的上下文窗口无限大之前，我们只能让它回答窗口撑得下的内容。”姜亦心总结道。

    这总结很到位。

    问题分析完，姜亦心终于翻到提案。

    AI技能。

    “这是什么？”韩路一问。

    姜亦心想了想：“可以理解成一种可复用的行动脚本。”

    她怕这解释太虚，又换了个说法。

    “比如，我想要一个运营复盘技能。模型知道怎么写复盘，但每次都从头思考，像个很聪明却没受过公司培训的新人。AI技能就是把成熟员工的做法沉淀成一套固定动作：什么时候触发、先看哪些数据、怎么判断异常、怎么拉取用户反馈、最后输出什么格式，全都写清楚。”

    “类似SOP（Standard Operating Procedure，标准操作步骤）啊。”苏念念说。

    乍一看，这个概念和御风很像。

    御风也把编程拆解成不同步骤，每一步由大模型规划和判断，再由御风工具在代码库里执行。

    但韩路一和苏念念很快意识到，这是同一理

    （本章未完，请点击下一页继续阅读）

『加入书签，方便阅读』