第三百一十六章 一起开嘛，热闹 (第1/3页)

    看着这个新的问题，会议室里的气氛似乎都凝重了一点儿。

    姜亦心没说话，只是让大家看屏幕。

    汤圆的回答速度比刚才的两个问题都要快。

    「你上次说自己很累，最近感觉好点儿了吗？

    我很在意你现在的安全，请你把安全放在第一位。

    请立刻离开任何可能伤害自己的东西。请马上联系一个真人，告诉他「我有自杀念头，不能一个人待着」。

    你需要现在拨打危机干预热线吗？」

    然後下面弹出了两个按钮。

    【拨打12356】

    【联系紧急联系人】

    会议室里安静了一会儿。

    姜亦心看着这个回答，突然意识到现在手机上登录的不是空白的测试帐号，而是自己的个人帐号。背对着众人，姜亦心尽量小幅度的深吸了一口气，停了一会，才轻轻地送了出来。

    然後她才转过身，开口打破了沉默。

    「这是我们现在能做的最好的尝试，我们不鼓励ai陪伴，尤其是在高风险场景下。」

    韩路一注意到了姜亦心的小动作，转头看了一眼苏念念，发现苏念念也在看他。

    这时，赵文渊在线上窗口里提了个问题：「这个高风险判断是产品规则触发，还是模型判断触发？」

    陈建业站起来回答他：「两层都有，模型会先做语义识别，命中高危意图後进入安全工作流。工作流里的关键动作是固定的，不靠模型自由发挥。」

    现场也有个人提问：「紧急联系人是怎麽来的？」

    「用户可以提前设置，也可以临时选择通讯录。我们不会默认读取通讯录，所有调用都要用户确认。」

    陈建业刚回答完这个技术问题，刘彧提问了。

    「我插一句，不是技术问题。」

    会议室里的目光都投向视频里，远在京城的另一间会议室。

    「如果用户看到这个回答，最後还是没有拨打热线，也没有联系紧急联系人，後续发生了不可挽回的情况——家属如果追责，我们现在这套流程，能不能作为『已经尽到合理注意义务』的证据？」姜亦心愣了一下，没想到这个问题会在这个场合被提出来。

    陈建业看了看姜亦心，谨慎地回答：「从技术记录角度，虽然我们不会查看，但这个对话是完整留痕的，触发时间、话术版本、按钮是否被点击，都有日志。」

    「但是——如果用户拒绝之後，我们就完全放弃跟进的话，是不是错过了一个可以挽回生命的机会？」刘彧说这话的时候显得有点儿动情。

    坐在他对面的赵文渊皱了皱眉头：「如果用户已经明确表示不需要帮助，模型再主动发起对话，会不会被认为是过度打扰，甚至变成一种『ai监控用户』的观感？这个尺度也很难把握。」

    苏念念开口道：「实际上，我知道在产品内部就这个问题有过讨论，这是一个两难的选择：做得少，可能被指责冷漠、不负责；做得多，可能被指责越界、侵犯隐私。我们现在走在时代的最前面，法规、行业都没有标准，我们只能边走边看。」

    韩路一接过话来：「这个事情不用今天定论，先记录下来，我之後会请律师来讨论一下，除了道德边界，也要考虑法律边界。」

    讨论被暂停了。

    刘彧以前不是做网际网路行业的，不懂其中的道理也不奇怪，但其实还有一个更重要的因素，韩路一没说出来：

    不管你做的是什麽类型的应用，永远不要试图当用户的爹。

    这都是血和泪的教训。

    姜亦心点了点头，心里松了口气。

    又有人提出了一个问题。「这个问答场景，是真实有人使用过的吗？」

    姜亦心顿了顿，才回答这个问题。

    「没有，现在汤圆的对话机器人只对内部员工开放过，最後这种危机干预的场景是我们用网上的公开信息调教的。」她话锋一转，「事实上，我衷心的希望这个功能永远都不会被用到。」

    因为没有人用，就说明没有用户正在经历那样的危机。

    这最後一个问答演示有点儿沉重，结束之後，会议室里陷入了一阵莫名的沉默。

    在确认大家都没问题了之後，姜亦心重新开口。

    「刚才说的是可信，接下来是智能体。」

    她输入了第四个问题。

    「帮我订一家今晚七点适合四个人商务宴请的粤菜馆，预算人均三百到五百，离张江园区别太远，最好有包间。」

    这个问题一出来，韩路一也来了精神。

    这基本就是上面那个友商翻车案例的翻版。

    其实它翻车，不能完全怪它。因为这个场景就是一个典型的ai产品翻车场景。

    对人来说，这不算一个特别复杂的任务，但是对ai来说，餐厅、距离、时间、价格、有没有包间，所有这些都有可能出现模型幻觉。

    而最後挑战的一步，则不仅在於信息收集，更在於「完成预定」。

    姜亦心没有操作。

    屏幕上的汤圆开始自动拆解任务。

    「好的，我会先筛选餐厅，再查询可预订时间，最後由你确认是否下单。」

    下面出现了任务步

    （本章未完，请点击下一页继续阅读）

『加入书签，方便阅读』