第80章 林凡被迫做伦理审核（1/2）

林凡第一次听到“伦理审核”四个字，是在老板嘴里。

老板说这话时，语气像在宣布公司新增了一个高级部门：“我们要建立AI伦理审核机制，体现企业责任，提升客户信任。”

林凡坐在会议室后排，心里立刻翻译：客户开始问责了，公司需要一个听起来不会出事的词。

项目经理把文件发下来。审核小组暂定三人：老周、林凡、法务小陈。职责包括对高风险AI项目做上线前评估，审查数据来源、用户授权、输出边界、人工复核机制和应急预案。

张磊听说后，第一反应：“你升官了？”

林凡说：“没有。”

“加薪了？”

“也没有。”

“那为什么叫伦理审核？”

“因为叫背锅预备役不好听。”

老周倒不这么看。他把审核表拍在林凡桌上：“别嫌名字虚。名字虚，事情可以做实。”

第一份送审项目，是一个“智能心理陪伴助手”。客户是一家内容平台，想给用户提供24小时聊天陪伴，主打缓解孤独、情绪支持和轻咨询。PPT做得非常柔软，浅蓝色背景，圆角气泡，配图是年轻人抱着膝盖看窗外。

林凡看着PPT，想起凌晨那个问“如果我消失了”的用户，后背有点紧。

客户产品经理介绍：“我们不做医疗，只做陪伴。AI会倾听用户，给出积极回应，必要时建议寻求专业帮助。”

林凡问：“怎么判断必要时？”

产品经理切到下一页：“我们有关键词识别，比如自伤、自杀、消失、活不下去等。”

老周问：“用户如果不说关键词，只说‘我累了，不想醒’，识别吗？”

产品经理顿了一下：“这个可以优化。”

法务小陈问：“有真人干预流程吗？”

产品经理说：“我们计划先用AI自动安抚，降低人工成本。人工客服只处理投诉。”

林凡抬头：“情绪危机不是投诉。”

会议室安静。

客户解释：“我们的定位不是危机干预，如果做太重，项目成本会非常高。”

老周说：“那就别宣传24小时陪伴。你不能把门开得像避难所，里面只放一个复读机。”

这句话有点硬。项目经理在旁边又开始眼神报警。

林凡翻审核表，逐项勾问题：高风险语句识别不足；缺少人工升级通道；未明确数据保存周期；用户聊天内容可能涉及高度隐私；宣传语存在过度承诺；模型输出可能形成情感依赖。

客户产品经理脸色越来越难看：“照你们这个标准，项目很难上线。”

林凡说：“不是难上线，是不能这样上线。”

“用户有需求，我们只是提供工具。”

“用户有需求，不代表工具可以装成人。”

老周看了林凡一眼，没说话。

审核结论写得很明确：暂缓上线。必须增加危机识别扩展样本、真人介入流程、隐私最小化、数据删除入口、陪伴时长提醒、非真人身份提示，并禁止使用“永远陪着你”“比任何人都懂你”等宣传语。

客户很不高兴。

老板也不太高兴。他把林凡叫到办公室：“你们第一单伦理审核，就给客户打回去了？”

林凡说：“它不适合上线。”

老板说：“你要理解商业节奏。审核不是否决一切。”

“我没有否决一切，我否决的是没有人工危机通道的心理陪伴。”

老板靠在椅背上，沉默了一会儿：“你知道这项目利润不错吧？”

“知道。”

“那你也知道公司现在需要利润。”

林凡点头。

老板看着他：“你就不怕自己太理想？”

林凡想了想：“怕。但我更怕它上线后，有人在凌晨对它说最后一句话，而我们只能在日志里看见。”

本章未完，点击下一页继续阅读。