TXT图书下载网
最新小说 | 小编推荐 | 返回简介页 | 返回首页
(双击鼠标开启屏幕滚动,鼠标滚轮控制速度)
首富从看见信息面板开始_第一百九十八章 期待与你的合作
小说作者:路大头   内容大小:4420.71 KB   下载:首富从看见信息面板开始Txt下载   上传时间:2026-03-07 04:35:07   加入书签
    赵文渊回头看了看江松然的表情,心里暗爽。

    天天看别人装逼,今天也让我装一回。

    他表面云淡风轻,说了一句:“是源码科技自己开发的,现在还在内测,估计很快要推向市场了。”

    江松然半天没说话,良久才又开口:“你们……咱们自己做的?”

    赵文渊看江松然的心理承受能力还可以,就继续往下说:“是的。最早的灵感来自源码的一款产品——开物。它本来面向没有技术背景的用户,后面是自研的代码大模型;用户完全不用懂代码,也不用介入运行,用中文就能迭代。”

    赵文渊观察了一下江松然的反应,觉得他应该已经知道开物了。

    “源码的姜总把这个思路应用到开发流程里,做了这个智能体工具。”赵文渊说完,忽然问,“你刚才在下面见过姜总了吗?”

    江松然摇了摇头。他刚才和沈丛云直接上来了,没机会接触源码科技那边的员工。

    不过他心里清楚:能主导这种级别的项目,姜总一定是源码科技的核心人物。他暗暗期待一睹其风采。

    “有机会介绍你认识,你会喜欢她的。”赵文渊说完,顺势把话题拉回工作。

    “总之,我们的流程就是这样:把算子适配和迭代分到每个组员手里;谁进度卡住了,再一起讨论解决方案。”

    江松然点了点头,怪不得刚才看到的工作模式是那样。有这样的工具,确实不奇怪。

    这么看下来,这工具大大节省了写实现代码和实际测试的时间;但它不是什么黑科技,更不是什么黑魔法。

    能解决的问题照样能解决,只是更快;不能解决的问题,靠这工具依然没辙。

    对真正懂原理的人,它省下的时间最多,帮助也最大。

    反过来,对那些本就一知半解的人,有了这工具用处也不大——解决不了的问题还是解决不了。

    能完成十个算子的适配,这支技术团队的实力还是相当强的。

    他相信,凭自己的技术能力和经验,再配合这套工具和这样的团队,把国产显卡的全链路适配做出来,并非没有可能。

    江松然暗自点头,随后指着屏幕上的结果开口:“这个算子暂时不用做到百分之八十。”

    赵文渊一愣,问道:“为什么?”

    “因为现在缺的不是这个算子的单点性能。”江松然指了指屏幕,“它能跑,功能正确,性能有67%。如果目标是发论文,当然该把它调到80%以上;但如果目标是三月初跑通第一批国产卡集群,现在最不该做的就是继续死磕这个点。”

    赵文渊神色认真起来:“那应该做什么?”

    “跑端到端。”

    江松然点开屏幕上的几个文件夹:“把已经达标的算子拉出来,先组一条最小链路。模型可以小,分片可以小,数据可以用假的;但链路必须完整,端到端调试必须跑通。”

    他边说边在白板上写:模型加载、前向、反向、梯度同步、优化器更新、检查点备份、恢复。

    七个步骤一气呵成,中间没有停顿。这几年他做的事全在这条链上,相关知识以及实践中可能遇到的问题,早已烂熟于心。刚才写流程图,最花时间的反而是把这些词的英文一一对应成中文。

    流程图写完,江松然开口:“三月初虽然只跑推理,但训练才是大头,端到端必须现在就摸清;不然到时候再补,就来不及了。咱们现在用的“算子打靶法”是对的,可既然时间紧、任务重,这个阶段最重要的是有大局观,从宏观上把优先级调好。”

    他边说边用马克笔在白板上点了点:“否则,每个人都在优化自己手里的算子;等最后拼起来,真正的瓶颈才会冒出来——到那时就晚了。”

    赵文渊盯着白板,陷入沉思。

    江松然是对的。

    迄今为止,他带团队做的都是“点”上的工作,一个算子一个算子地推进。

    这当然必要——没有那些必须的点,就不可能连成线。

    可系统训练不只需要点;要想连线时不出错,现在就得开始连了。

    赵文渊算是见识到江松然的厉害了:入职第一天上午,项目进度都没看全,他就把当前路线最大的隐患指了出来。

    赵文渊转过椅子,面对江松然:“江博士,你觉得我们现在应该怎么办?”

    江松然理了理思路,回答:“如果第一阶段的目标只是跑推理,就没必要追求N卡80%的效率,反正也用不满;优先把必要的算子做完、跑通。我刚看了一下,除了十个已经标绿的,还有二十三个过了60%的线。”

    说到这儿,江松然低头看了眼屏幕,自己纠正:“二十四个,加起来三十四个。”

    他坐回椅子,往屏幕前挪了挪,开始在表格里圈算子。

    “反向、优化器更新、梯度同步这几类先往后排:三月初的推理用不到,等四月调训练时再回来做。”

    赵文渊点头。这几类在表里占了不少,确实都是训练才用得到,先放一放完全合理。

    “再看推理路径。”江松然把光标移到表格前半段,“矩阵乘、LayerNorm、softmax、激活这几类已经标绿。注意力相关的算子在哪?”

    赵文渊往下翻了翻,指着一项:“标准Attention,61%。Flash-Attention那一版还没排上。”

    “Flash不用,先用标准的,能跑就行。”江松然问,“KV-cache的读写呢?”

    “这里,64%。”

    “够了。”江松然往后靠了靠,“再加一个采样、一个RMSNorm。这两个简单,融不融合都行,先有了再说。我数一下啊。”

    他在表里点了点,停在最后:“差两个。”

    赵文渊愣了一下。

    他原本打算把所有算子都做到80%,卡住的地方直接呼叫随身老爷爷韩路一;按现在的速度,可能要做到二月底,到时候再做端到端。

    可现在被江松然这么一拆——

    只差两个了。

    “你这……”赵文渊一时不知怎么接话,“这两个我让组里今天就开。”

    “不急。”江松然摆摆手,“先用现成脚手架把已经达标的三十四个串起来,跑一遍空载,把链路打通;这两个等做好再补进去。到时候哪儿不对,一目了然。”

    赵文渊点头,起身去喊人。

    一边走,他一边又有点懊恼:今天又装逼失败了。

    ——这是哪儿来的神仙啊。

    赵文渊把组员都叫过来交代任务:今天就开始搭脚手架,用最小模型拉一条链路,在8卡环境下跑一圈。

    周围工程师都是一愣:“今天?”

    江松然在旁边补了一句:“跑的时候把Profiler打开。不要只看最后成败;每一步的耗时、等待时间、内存拷贝、通信比例,这些数据都有价值。”

    众人还不认识江松然,都看向赵文渊。赵文渊点头,大家才散开。

    赵文渊转身对江松然说:“江博士,谢谢你。这个点我确实没想到,还好你现在指出来了。”

    江松然脸上毫无骄色:“这不是你的问题,是咱们推进得太快了。”

    赵文渊不解:“太快了?”

    江松然问:“你知道我们当年做TPU时,花了多久才意识到这个问题吗?”

    赵文渊递话:“多久?”

    “三年。”江松然说,“你们现在才做多久?最多半年吧?”

    赵文渊已经没兴趣纠正这个了——这点小逼不装也罢。

    江松然接着说:“正常来说,一个团队还卡在第一个SDPA的时候,不需要想这么远。咱们现在的问题是:已经把最难启动的部分打穿了,所以系统性问题提前暴露了——”

    “这是好事。”

    说完,江松然又打开赵文渊电脑上那几个效率已超过80%的算子文件夹:“这些实现是你把关的吧?这得对底层有很深的理解才做得出来。不管有没有智能体这种工具,这份理解都做不了假。”

    江松然比赵文渊年长几岁,也管过几十号人。他说这番话,是怕刚才的举动在下属面前伤了赵文渊的权威,想鼓励他一下,修补关系,防患于未然——毕竟两人将来大概率要共事很久。

    没想到赵文渊听完,脸上又露出那种不自在的神色。纠结片刻,他才开口:“其实,这些不是我写的。”

    江松然好奇:“那是谁写的?”

    “是韩总写的。”赵文渊说着,看了眼电梯方向。最近韩路一上班后都会直接来十三楼报到;今天听说京城有人过来——国网投资的尽职调查团队,黄宇带队,需要韩路一去对接,所以到现在还没来。

    “韩总?”江松然今天已经惊讶太多次,这会儿都有点惊讶不出来了,“哪些是他写的?”

    赵文渊已经麻木了:你怎么哪壶不开提哪壶呢。

    “全是。”

    “全是?”江松然强提一口气,又被惊到了。他回想了一下韩路一——那天在医院见到的年轻人。两人只见过一面,他当时还以为对方是HR。江松然本来完全不考虑再加入创业公司,可韩路一说话像有魔力,能直击他内心深处的需求;聊了短短几十分钟,他就被说服了。

    从那之后,他觉得韩路一是个有天赋的管理者,自己来这儿能把技术发挥出来;没想到今天才知道,韩路一本人的技术也这么强。

    “韩总——”江松然犹豫了一下,八卦道,“是哪个学校毕业的博士?”

    “交大本科。”赵文渊现在心情很复杂:自己的逼没装成,倒替韩总装了一个,心里还莫名有点爽。

    这话说完,两人都陷入沉默,随后默契地结束了话题。

    江松然回到新工位,设置好电脑,环顾四周——还是乱糟糟的。

    他忽然想起沈丛云说过,源智科技已经融过资。好奇心起,他打开电脑,在飞书里搜了一下,果然有相关公告。

    《源智科技完成4.5亿人民币A轮融资,加速国产算力基础设施研发》

    4.5亿融资,估值30亿人民币。

    江松然面露古怪。他原以为自己是为了家庭,才拒绝其他几家大厂的Offer,降薪加入源智科技;没想到除了200万现金,那2%的期权现在就值六千万——比鼎盛和昆仑给的多了一大截。

    接下来,江松然都有点心神不宁。

    他不缺钱,可这么多钱、这份信任,让他生出一种“士为知己者死”的感觉。

    终于等到韩路一发来飞书私信:“江博士,入职第一天还适应吗?不好意思,我这边有事走不开,没能第一时间欢迎你加盟。有问题可以咨询@赵文渊,他对这块最熟悉。”

    江松然犹豫片刻,还是回复:“韩总,我一切顺利,谢谢关心。期权奖励实在丰厚,再次感谢。”

    “期权在劳动合同上已经写明了吧?江博士对差旅条款还有额外要求吗?”

    江松然心想:是写了,但我没想到那不是纸钱啊。

    他还没回复,韩路一又发来一条:“我相信你能对得起这个价格。这不是工资,而是合伙人的证明。期待和你的合作。”

    江松然沉默了一会儿,打出回复:“韩总,我也期待着和您的合作。”

    这个话题告一段落,韩路一又起了新话头:“刚才我听@赵文渊说了,你已经把训练链路大概理清。这个工作量靠现有团队肯定不够,我这边会继续招人;但这个领域太窄,普通招聘效率太低。”

    江松然明白了:“你想让我推荐些人?”

    “你手底下的职位,如果有合适的人,可以推过来见见。”

    “好的。”江松然回复。

    随后他关掉飞书,打开一个很久没说话的微信群。

    【AI Infra交流群】是个500人的大群,天南海北的人都有:有美国的,也有国内的;有在Meta、亚马逊这种大厂的,也有在创业公司的,还有一些是国内大厂的技术负责人。

    唯一的共同点:都做这一行。

    江松然想了想,没有用源智科技的名义发消息——源智科技现在声名不显,发出去反而会让潜在应聘者有顾虑。

    他只以个人名义发了一条:“我回国了,现在在一家创业公司带Infra团队,方向是做国产AI加速卡的大模型训练栈。团队招人,方向包括训练系统、分布式调度、通信、容错、AI Infra工程化。有兴趣可以私信我。”

    消息发出没多久,许久没人说话的群活了过来。

    “江神,你也回国了?”

    “江神,你看好国产算力替代这个方向吗?”

    “我前两天看了一篇论文,non-CUDA attention的,好像是一个国内团队写的?有人关注吗?”

    “国产卡?训练?现在还有人幻想这个呢?”——看到这条,江松然嘴角微微上扬。放在一周前,他自己也是这个反应;可现在,他只觉得对方是井底之蛙。

    “我有个师弟刚从新加坡回来,做调度,要不要推给你?”

    江松然知道自己在AI Infra这个领域的地位。这样一条消息发出去,来投简历的人不会少。

    接下来几天,得花时间好好挑挑了。
本文每页显示5000字 共502页 当前第200页

目录   上一页   ←   200/502   →   下一页   加入书签  
小提示:如您觉着本文好看,可以通过键盘上的方向键 ← 或 → 快捷打开上一页、下一页继续在线阅读
也可以下载首富从看见信息面板开始TXT电子书到您的看书设备,以获得更快更好的阅读体验!