第159章 技术氛围(1/2)
鹏城的清晨,科技园区的空气里都仿佛飘着代码的味道。
林晨背着苏婉送他的新背包,穿过T厂那栋标志性的玻璃幕墙大楼入口闸机。昨天发薪日的轻松与喜悦还残留在嘴角,但当他踏入电梯,看到身旁几个年轻同事正用流利的英语讨论着昨晚arXiv上新挂出的论文时,那种熟悉的、略带紧绷的专注感又回到了身上。
“MoE架构的稀疏化激活效率,在千亿参数规模下,成本曲线是否还能保持线性?”
“未必,通信开销和专家负载不均衡问题在超大规模下会被放大,看谷歌那篇最新的路由算法改进……”
电梯平稳上行,林晨默默听着,几个专业术语他能听懂,但对方讨论的深度和反应速度,让他心里微微一动。这两个看起来也就二十七八岁的男生,穿着简单的T恤牛仔裤,眼神里却有种对技术前沿近乎本能的敏锐。
他的工位在AI平台部的一个开放区域。入职一个月,基本的权限、代码库、内部工具都已熟悉,负责的第一个模块——一个推荐系统特征工程的性能优化任务——也正在稳步推进。带他的导师,也是他所在的算法小组组长,是一位三十出头、话不多但句句切中要害的资深专家,姓王。
上午十点,小组周会。
王组长站在白板前,简要同步了部门近期重点后,开始过每个人的任务进展。轮到林晨时,他清晰汇报了自己对现有特征预处理流水线的分析,指出了两处可能存在冗余计算和I/O瓶颈的地方,并给出了初步的优化方案,涉及对几个常用算子进行GPUkernel融合的可能。
王组长听完,点了点头:“思路对,但kernel融合要考虑通用性和后续维护成本。T厂内部有现成的优化库和性能分析工具链,你先把profile数据打详细,特别是orybound和putebound的占比。另外,”他转向组里一个戴眼镜、有些书卷气的男生,“徐峰,你之前做过类似场景的算子优化,把内部最佳实践文档链接发给林晨,再抽空跟他过一下关键点。”
“好的,王哥。”叫徐峰的男生应道,随即在内部聊天软件上给林晨发来了几个链接和文档。
林晨道谢,瞥了一眼徐峰的桌面显示器,屏幕上开着一个复杂的函数调用关系图,旁边是密密麻麻的笔记。他记得入职介绍时,徐峰好像是清华本硕。
会议继续。下一个汇报的是个短发、看起来很干练的女生,她在做一个多模态模型的小规模实验,需要协调数据标注资源和计算集群配额。她语速很快,逻辑清晰,提出的资源申请理由充分,对可能遇到的数据偏差问题也准备了预案。王组长问了几个细节问题,她都对答如流。
“可以,需求我帮你提上去。标注质量这块,你直接跟标注平台组的李工对齐,他是CMU回来的,对这块标准抠得细,你注意沟通方式。”王组长说。
“明白,我下午就约他时间。”女生利落地记下。
散会后,林晨去茶水间冲咖啡,恰好碰到刚才会上那个短发女生也在。
“嗨,新来的林工?”女生主动打招呼,笑容爽朗,“我叫赵蕊,刚才会上见过。做多模态的。”
“林晨。我刚来,在做特征工程优化。”林晨接过话头,顺便问道,“听王组说,你要对接标注平台的李工,CMU回来的大牛?”
“是啊,”赵蕊一边给她的便携咖啡杯加冰块,一边说,“咱们部门,还有隔壁几个关联组,海归挺多的。李工是CMU机器人方向的PhD,隔壁组还有个斯坦福CS的,做强化学习贼猛。国内的基本就是清北华五,还有中科院那几个强所。”她语气平常,就像在说今天天气不错,“压力山大吧?我刚来的时候也这样,感觉自己像个混进来的。”
林晨笑了笑,坦诚道:“确实,感觉大家背景都金光闪闪,脑子转得也快。”
本章未完,点击下一页继续阅读。