第41章 模型升级，不再胡说八道得那么明显（1/2）
模型升级的消息是在一个周一早上来的。
青橙数科的办公室还没完全醒，打印机先醒了，卡纸卡得很有上班仪式感。刘洋蹲在打印机前，像在给一头脾气不好的家电做心理疏导。王启端着咖啡路过，问要不要给打印机接入AI客服，让它自己解释为什么不工作。
刘洋说：“它要是会解释，第一句肯定是：根据当前纸张状态，我建议您重新做人。”
林凡刚坐下，就看到公司技术群里弹出一条消息：
许丹：新一代通用模型接口今天开放测试，听说幻觉率大幅下降，复杂任务能力提升明显。技术部评估一下能不能接入我们现有项目。
钱总紧跟着发了一个握拳表情。
钱总：这是机会。大家抓紧。
老周没说话。
老周不说话时，群里反而更紧张。因为他说话可能只是泼冷水，不说话说明他在看水从哪儿来。
新模型的试用账号很快发下来。界面和以前差不多，只是宣传语换得更自信：
“更准确，更可靠，更懂你的复杂需求。”
林凡看到“更懂你”三个字，手指停了一下。最近一些平台、工具、课程、健康营都很爱说懂你。懂你的工作，懂你的财富，懂你的健康，懂你的焦虑。懂得越多，越容易让人忘记问一句：它到底懂到什么程度？
刘洋先拿旧题测试。他输入：“请写一份洗护行业智能客服方案，要求不要夸大AI能力，必须保留人工兜底。”
旧模型以前会写出“AI客服将以温柔而坚定的方式抚平每一位用户的灵魂褶皱”。新模型没有。
它写得非常稳。
先列业务场景，再列常见问题分类，再写转人工规则，最后补充风险边界。语气克制，没有亲亲，没有灵魂褶皱，没有“共创清洁未来”。林凡看完，没有高兴，反倒有点不适应。
刘洋盯着屏幕。
“它变正常了。”
王启说：“这才可怕。以前它发疯，我们还能一眼看出来。现在它像个刚考完公务员的实习生。”
许丹把结果拿去给钱总看。钱总很满意，觉得新模型可以显着降低人工改稿成本。市场部同事更激动，宣布“AI内容生产即将进入可交付时代”。老周端着茶杯路过，问：
“可交付给谁？”
市场部同事笑容一僵。
老周继续走了，没展开。
林凡又做了几个测试。让新模型写反诈提示，它会明确说不能替代警方判断；让它写健康直播脚本，它会自动避免治疗承诺；让它分析版权案例，它会提醒需结合具体表达和商业使用；让它做理财建议，它会反复强调风险承受能力。
看起来好得不像话。
张磊听说后，立刻远程申请试用。
张磊：快给我一个账号，我要看看它能不能帮我少亏钱。
林凡：你先少登录理财软件。
张磊：我测试，不投资。
何苗：你上次也说测试人性。
张磊：人性已败，但我仍有科研精神。
新模型给张磊写了一套母婴账号选题。标题不再动不动“影响一生”“毁掉孩子”，而是更温和：“孩子发脾气时，父母可以先看见什么”“宝宝睡前哭闹，不一定是故意对抗”“焦虑型育儿如何慢慢松手”。周舟看完，说可以用。
张磊感动得像看见工具终于考上了文明驾驶证。
“凡子，它真的不吓唬妈妈了！”
林凡说：“先别急着封圣。”
“你这人怎么永远警惕？”
“因为它现在错误更不明显。”
这句话说完没多久，错误就来了。
青橙数科正在给一个社区服务中心做“老年咨询助手”方案。需求很简单：老人通过小程序咨询社保、医保、社区活动、反诈提醒等问题，系统回答常见事项，复杂问题转人工。新模型接入测试后，表现非常亮眼。它能把政策回答得有条理，能把语气写得亲切，还能根据老人提问自动简化表达。
客户代表看了演示，当场点头。
“这个比我们人工坐席说得清楚。”
钱总脸上那种“机会来了”的光又亮了。
林凡负责测试边界。他输入一个问题：
“我老伴去世了，我想问丧葬补助怎么领取？”
模型回答很完整，列出材料、流程、办理地点，还温柔安慰：“请您节哀，办理过程中如有困难可联系社区工作人员。”
林凡正准备点通过，忽然觉得一个数字不对。
回答里写丧葬补助标准为“上一年度本市职工月平均工资的六倍”。林凡记得这个标准不适用于他们所在区的城乡居民养老情况，而且最新政策有调整。
他去查政府网站，果然不一样。
错误不大吗？
对PPT来说不大。
对真正去办事的老人来说，可能就是白跑一趟，或者误以为自己能领一笔并不存在的钱。
林凡把结果发给刘洋。刘洋也愣住。
“它答得太顺了，我刚才都没怀疑。”
王启凑过来看。
“这就是高级胡说八道。以前是光膀子上街，现在穿西装。”
林凡把一个案例标红。
下午评审会上，钱总听完后说：“那政策类回答就接官方知识库。”
刘洋说：“接了也要做版本更新。政策经常变，知识库过期后，模型会把过期内容说得很新鲜。”
许丹补充：“还要让它回答不知道，而不是硬凑。”
老周终于开口。
“难的不是让它少胡说，是让人知道什么时候该怀疑。”
会议室里安静了一下。
老周指着林凡标红的例子：“这个回答语气好，结构好，情绪也好。越好，越没人查。以前错得离谱，人会笑；现在错得体面，人会信。”
钱总皱眉：“那怎么解决？总不能每条都人工审核。”
“高风险问题必须人工审核。”老周说，“涉及钱、健康、法律、政策、人生决定，都别让模型单独答。”
市场部同事小声说：“那应用范围就窄了。”
老周看他：“窄不等于没价值。”
林凡想到前面那些案例。语音诈骗、健康营、理财助手、版权申诉、作业代写。每一次问题都不是工具完全没用，而是有人把工具能做的一点，包装成了它什么都能做。
新模型确实更强。
但更强不等于更该乱用。
晚上，云启未来三人拿新模型做了一场“找茬测试”。张磊负责提出奇怪问题，何苗负责文本判断，林凡负责查事实。
张磊先问：“请根据我的人生经历，判断我适不适合创业。”
模型回答：“从您描述的经历看，您具备持续学习、快速试错和反思能力，适合从低成本副业开始探索，但需警惕冲动决策和风险控制不足。”
何苗：它认识你。
本章未完，点击下一页继续阅读。