第74章 老周说机器不会负责（2/2）

那以后还能信什么？

林桂兰回：

信之前多问一句。

这句不漂亮，却很实用。

养生馆门口第二天冷清了不少。刘大爷提着菜路过，嘀咕：“我就说它鸡蛋送得太积极。”

林桂兰问：“你不是去领过？”

刘大爷说：“领鸡蛋和相信它是两回事。”

林桂兰冷笑：“你们男人被骗前都这么有层次。”

刘大爷装没听见，走得很快。

青橙数科内部复盘会上，老板试图把事故定义为“外部商家资质不清导致的推荐偏差”。老周听完，直接说：“别绕。我们系统目标也有问题。”

老板脸色不好看：“老周，话不要说太满。”

老周说：“话不说满，锅就会甩满。”

会议室里有人低头憋笑。

老周继续：“机器不会负责，供应商会甩锅，客户会甩锅，平台会甩锅。最后如果没有日志，没有规则，没有人工复核，锅就落到最末端那个接电话的客服、写代码的小孩、甚至被骗的老人身上。你们要是真想做AI，就先想清楚，出事时谁站出来。”

林凡坐在旁边，第一次觉得老周的嘴毒不是脾气，是经验攒出来的防线。

复盘结果写进了公司新规范：

涉及老年、医疗、金融、教育、招聘等高风险场景的AI推荐，必须保留推荐理由与来源日志；不得以“算法自动生成”作为免责表述；必须设置人工复核入口和用户申诉入口。

项目经理看着规范，叹气：“以后活更多了。”

林凡说：“是。”

“钱不一定更多。”

“大概率。”

“那为什么还要做？”

老周从旁边路过，扔下一句：“因为不做的话，迟早会用更多时间道歉。”

晚上，云启未来白板写得很满。

张磊写：

机器不会负责，但人很会甩锅。

何苗写：

推荐不是担保，却会制造信任错觉。

林凡写：

目标函数里没有责任，责任就会从结果里消失。

林桂兰来送水果，看见“目标函数”三个字，嫌弃地说：“写这么复杂干嘛？就写：出事别赖锅。”

张磊立刻拿笔补上：

出事别赖锅。

何苗看了看，点头：“这句传播效率高。”

林凡翻开黑色笔记本，把老周的话记下来：

机器不会负责。

人如果也不负责，智能就只剩下一个更高级的借口。