“韩总,您叫我?”
收到韩路一的消息后,张彪来到他的办公室。
“彪哥,坐。”韩路一站起来,指了指旁边的沙发。
张彪坐得板板正正,韩路一走到他斜对面的沙发坐下,开口问道:“彪哥,新职位还适应吗?”
张彪坐在那儿愣了愣,一时不知该怎么开口。
他转岗一段时间了,和以前一样,韩路一还是去哪儿都带着他。
区别是以前他不进会议室。韩路一开会时,他就在外面保持警戒,确认环境安全,观察来往人员。
现在他带着笔记本在旁边跟着听,记记笔记。
可大部分时候,他都是一头雾水。那些名词,什么融资条款、模型训练、算力调度、数据中心、电力指标,明明都是中文,怎么连在一起就听不懂了呢?
他尽量都记下来,可会后翻看笔记,却复盘不出会议讨论了什么议题、谁是什么观点、最后做了什么决定。
张彪心里难受。他在部队一直是先进,还拿过三等功。每次执行任务,任务是什么、目标是什么、行动计划是什么,他都能很快进入状态。
可现在,他像是突然被丢进一个完全陌生的战场,成了一个什么都不会的新兵蛋子。
显然,他不是个合格的助理。
想了想,张彪开口:“韩总……我觉得我可能当不了您的助理,我还是回去做安保吧。”
话说出口,张彪反倒松了口气。他不怕苦、不怕累,更不怕流血受伤;可他占着一个自己胜任不了的重要位置,辜负了韩路一的期望。
韩路一听完,知道张彪误会了。
他没急着反驳,往张彪那边靠近一点,说:“彪哥,你先别急。”
张彪抬头看向韩路一。
“咱们公司虽然做人工智能,但日常工作也不是什么黑科技,跟你在部队时其实一样。归根结底,就是把信息传给对的人,让对的人在正确的时间做出正确的决定。”
张彪愣了一下。
韩路一接着说:“你上手时间还短,不会的东西一时太多,感觉懵,很正常。”
张彪稍稍宽了心。
可苦恼并没消失。
不会的太多,怎么办?
硬学?
他都学了两个星期,每天跟会、记笔记,晚上复盘看书,仍觉得毫无进展——这样下去真的有用吗?
韩路一伸手把文件夹放到张彪面前。
“彪哥,交给你个任务,边干边学吧,有问题随时问我。”
张彪接过文件夹:“好的,韩总,保证完成任务!”
不管任务是什么,无条件听指挥,是张彪的信条。
看他那严肃劲儿,就差立正敬礼了。
韩路一笑了声,解释起详情:“最近的会你都跟了。下一步工作中心是自建机房,时间关系,等自己建肯定来不及。我的想法是,采购一批国产显卡,在张家口租几个机柜先跑起来,等以后机房建好再迁移。”
韩路一示意张彪打开文件夹。里面有几份打印资料,上面带着简短的手写标注。
他从中抽出一份,摆到张彪面前,说:“上次在京城见的,国网投资的黄宇总监这几天会来海城,到时候你来对接,这些资源可以找他问问,先给数据中心那边准备一份商务函发过去。”
听到“商务函”三个字,张彪浑身一僵。
他喉结动了动,只说出两个字:
“好的。”
韩路一看着张彪,语气郑重:“彪哥,大胆去做,别怕搞砸,我给你兜底。汤圆的0.2内测版我和赵总最近调过,你可以试着用用,看能不能帮上忙,链接我发你手机。”
张彪慢慢点头。
韩路一起身准备出去,张彪也赶紧站起来。
“我去趟十三楼,彪哥你先准备吧。”韩路一转头对张彪说,“别怕,人没有生来就会的,迈出第一步,以后就好了。有问题问我,或者问别的同事也行。”
张彪跟着韩路一出办公室,回到自己的工位。
是的,他现在也有工位了,就在韩路一办公室门口,公司还配了台电脑。
张彪坐在工位,先把韩路一给的资料从头到尾读了一遍。
资料信息很全:源智科技计划使用的时间线、大概所需的机柜资源规模,以及请对方协助评估机柜、电力、网络、交付周期和后续对接安排等。
张彪新建文档,先在标题写上《商务函》,然后盯着空白页面看了一会儿。
他先写下第一句。
“尊敬的XX:你好!源智科技有限公司申请使用机柜32台,开始时间三月初,望批准。”
写完,他自己读了一遍,觉得不太对。
张彪以前写过情况说明、训练日志,也写过装备申请表。
可这商务函……该怎么写?
他抓了抓头,点开韩路一发来的链接,一个简洁的聊天页面弹了出来。
页面中间写着“汤圆v0.2内测版”。
底下的对话框里有一行灰色的小字:“今天聊点什么?”
……
十三楼模型组,赵文渊没有独立办公室,和其他同事一样坐在开放办公区。
小牛把外卖的生椰拿铁给赵文渊拿过来时,他还盯着屏幕上的日志。
他工位旁如今固定加了一把转椅。他和源码科技模型组的其他员工都习惯了——韩路一最近每天都会花几个小时坐在这儿,跟他们一起写国产显卡的软件适配。
“文渊,怎么样了?”
韩路一的声音传来。
赵文渊闻声抬头,看见韩路一正走过来。
“韩总,你可来了,快坐。”赵文渊明显激动起来,“这两个算子我卡了半天,你快看看吧。”
这是两人最近形成的工作模式。
赵文渊带着手下用编程智能体做国产显卡适配。
每人分到一个算子,先设计一个通过基准——一般能达到N卡的百分之八十就算达标——再用智能体一轮一轮地试。成功率虽不高,效率却比手写高得多;试得多了,也有一些迁移效果不错。
碰上特别重要、特别难的,再汇报给赵文渊。
这种情况赵文渊一般也做不了什么,就等着韩路一来。
韩路一坐下后,认认真真从上到下看一遍,然后开始写,噼里啪啦输入一串提示词,关键参数和逻辑都写在里面,再回车,等五分钟。
难点就攻克了。
从最初的震惊、迷茫、怀疑世界,到如今,赵文渊已经适应了这种模式。
可能这个世界就是有天才吧。
有难题,找韩总。
我直接把韩总当随身老爷爷用不就完了?管他怎么做到的呢。
像现在,卡了全组两天的两个算子迁移,韩路一坐下十分钟就解决了。
第一个是RoPE。
这东西说白了,是让模型知道一段文本里每个词所在的位置。短文本里问题不明显,可上下文一旦拉长到十六K,显卡那边的三角函数近似误差就厉害起来。之前测试时,前八K还算正常,往后生成结果就会出现莫名其妙的错位。
赵文渊他们试了两天,一直在精度和性能之间来回拉扯:精度压下去,速度掉得厉害;速度提上来,误差又爆。
韩路一坐下后只看了一遍日志,就让智能体把sin/cos查表的粒度重新切了一档,又把缓存策略改成按block复用。
五分钟后,十六K长上下文测试通过,性能损耗从百分之四十七降到百分之十八。
第二个是LayerNorm。
这个算子看着简单,可训练里调用频率极高,慢一点,整条训练链路都会被拖住。韩路一改了两个访存顺序,又让智能体补上向量化读写,性能直接从N卡基准的百分之五十二拉到百分之八十一。
赵文渊当时看着那两个绿色PASS,心情已经很平静。
平静得有点麻木。
问题解决完,韩路一拦住赵文渊想接着工作的势头。
“停一下,我有别的事要和你商量。”
赵文渊看向韩路一。
“Nexus那边开始动作了。我预测他们四月起就不会再给我们提供API接口,所以在那之前,我们得把汤圆1.0做出来,确保汤圆能接住Kaiwu海外版迁移过来的流量。”
赵文渊听完,在电脑上切了下屏幕,看了看训练进度,对韩路一说:“韩总,时间上有点赶,但应该来得及。只是我比较担心双语适配问题。”
赵文渊调整坐姿,面向韩路一,谨慎分析起来。
“预训练问题不大,用的是互联网上的原始数据,本身英文居多。关键是后训练——模型的理解能力主要来自后训练的提升。你现在提供的那批标注质量极高,但都是中文,对英文能力的提升恐怕……”
赵文渊话没说完,意思却到位了。
随即,他用期待的眼神看向韩路一:“韩总,不知道英文标注,你能不能——”
这就是赵文渊的新策略。
有需求,找韩总。
别管他怎么解决,反正他能给你解决。
直接问就完了。
韩路一看着赵文渊期待的眼神,沉默片刻,才缓缓点头:“……你确保训练进度,标注的事,我来想办法。”
说完,他起身走了。
赵文渊赶紧投入工作。
刚才卡住的难题,韩路一虽然解决了,却是简单粗暴地给出正确答案。至于中间为什么这么做、和其他替代方案比有什么提升,这些都还是空白。
赵文渊现在要做的,是拿着问题和正确答案,补全中间的答题过程。这些对将来的研究和开发来说,都是至关重要的资料。
他知道,韩路一不做这些繁琐工作,不是因为不会,而是工作繁忙,没时间。
把这些资料整理好,就是他赵文渊体现价值的地方。
况且,给天才解的题写文档,也不是谁都有机会做的啊。
想到这儿,赵文渊突然抬头,看向韩路一离开的方向。
奇怪,他刚才的脚步,看起来是不是有点儿沉重?
本文每页显示
5000字 共
502页 当前第
189页
目录 上一页 ← 189/502 →
下一页 加入书签