沈丛云放下手机,把目光移到电脑屏幕上。
浏览器开着,页面上是一个人的LinkedIn主页。
Songran Jiang,连张照片也没有,工作履历也极其简单。
2011年至2020年在谷歌工作,在TPU团队担任Staff Engineer(L6),对应鼎盛时期的P8,高级专家。
2020年跳槽到一家芯片创业公司做Head of Infrastructure(基础设施负责人),一直到现在。职位只有一个,具体工作内容完全空白。种种迹象表明,这个人并没有积极找工作,所以也没更新个人履历。
关掉浏览器,沈丛云又点开桌面上的一个文件夹,里面是他从其他渠道搜集到的关于江松然的资料。
此人在谷歌时始终在TPU团队,软硬件均有涉猎,带过几个大项目,升职速度堪称坐火箭。
跳槽后,他是那家创业公司的一号员工,从零搭起一套千卡级异构显卡训练集群。全球做出过这种成果的人或许不超过两位数,他便是其中之一。
简单来说,这是个极度低调的圈内大佬:在AI基础设施领域成就斐然,出了圈子却不太知名。
这样的人物离职回国,确实牵动整个AI圈老板与猎头的心,沈丛云只是其中之一。别说鼎盛,据他所知,鹏城也有人专程飞来劝江松然加盟。
这样的人才,韩路一肯定不想错过;可沈丛云这边已经黔驴技穷了。
电话打不进去,微信加不上,邮件也不回——还能有什么办法?总不能去他家堵人吧?可问题是你得先知道他家在哪儿。
沈丛云把资料打包,一并发给韩路一。
很快,韩路一回复:“来十三楼一趟。”
沈丛云忙在那条信息上点了个大拇指,收起笔记本电脑,出了办公室。
到了十三楼,韩路一和赵文渊并排坐在电脑前,屏幕上开着沈丛云刚发过去的资料。
韩路一先挥手让沈丛云坐到面前的空椅子上,随即开门见山:“怎么了,不太顺利?”
“韩总,电话不接,邮件不回,连联系都联系不上。”沈丛云的声音里带着些尴尬——这样的结果,显得他办事能力不足。
韩路一转头问赵文渊:“文渊,你认识吗?”
赵文渊摇头,他入职谷歌时江松然已经离职。两人领域也不同:一个偏理论研究,一个偏工程实践。虽然都在硅谷,或许有共同朋友,却无直接交集。
他忽然想起什么,拿出微信搜江松然的名字。
赵文渊加过几个谷歌华人微信群,吃喝玩乐群、徒步群、摘樱桃群都有,都是那几年陆续加的;也许江松然也在其中。
这一搜还真搜出来了——一个叫【海城人在谷歌】的群。赵文渊加进去以后,群里一直没人说话。
赵文渊点进江松然的名片,又打开朋友圈。仅展示最近六个月,里面只有一条:病房照片,只拍病床,没拍人;配文是:“你永远不知道明天和意外哪个先来。”
韩路一在旁边看完全程,没作声。
倒是沈丛云先开口:“韩总,江松然的微信号我也查到了,可他没通过我的好友申请。”
赵文渊问:“要不我从群里加他?他或许会通过。”
韩路一没应好,也没说不好,只拿过赵文渊的手机,又看了一遍那条朋友圈。
……
上午十点刚过。
海城某三甲医院神经外科,普通病房。
这里很安静。
江松然坐在病床旁的折叠椅上,膝上放着笔记本电脑。
他短发,瘦削的脸上没有表情,静静盯着屏幕,眼里血丝密密麻麻。
床上躺着一位老人,容貌与江松然有五六分相像,只是更瘦、更苍老。老人左手插着留置针,呼吸很轻;床头监护仪规律地隔一会儿响一声“嘀”,像在提醒病房里的人,时间正流逝。
父亲脑梗发作那天,江松然正在硅谷办公室加班。
突然接到母亲的越洋电话。他已回忆不起自己当时想了什么,又做了什么。
整个人像进入自动导航模式。
江松然买下能买到的最早回国机票,只带一个小箱子,装几件衣服和一台私人电脑。
那时,他不知道自己还能不能见到父亲最后一面。
十几个小时奔波后,在ICU玻璃门外看到父亲的那一刻,他眼泪夺眶而出。
万幸,人抢救回来了。
在ICU住了十几天,脱离危险期后,父亲转入普通病房;仍睡得多,醒得少。
医生建议先静养,恢复得好再观察一个月,便可出院。
和医生聊完,江松然做了个决定,没和任何人商量。
他不回美国了。
决定后,他给公司CEO打了视频电话,说明想法。
CEO在视频那头沉默许久,最后连挽留都没说,只祝他父亲早日好起来;若将来想回去,随时欢迎。
江松然注意到,这个当初与他在车库创业、合作多年的白人老头红了眼眶。
随后,他拜托美国的朋友照看房子,留意卖房经纪。
从接到母亲电话那一刻起,江松然的生活像被从中间分成两段。
前半段,他疯狂努力证明自己,想让父母骄傲;后半段是什么,他还不知道。
江松然一边等母亲来换班,一边无聊地刷信息流,目光在其中一篇上停了一下。
《算力国产化,未来五年最大的变量》。
看到标题,江松然在心里久违地笑了一下。
这些媒体估计都不知道自己在说什么。
算力国产化、国家级战略资源——这话当然谁都会说。
可对像他这样专门干这一行的人而言,这话有点脱离实际。
无他,门槛太高了。
这就像在说“我们应该解决气候问题”一样,是句正确的废话。具体要做什么?怎么做?花多少钱?周期多长?代价是什么?没人说得出来。
关掉新闻,江松然在电脑上点开新页面:arXiv。
这是个免费发布论文的网站,尤其在AI与计算机系统圈,几乎所有新研究都会先挂上去。不用等期刊评审,不用等会议接收;写完发上去,当天全世界都能读到。
圈里人管这叫“挂上去”。
每天早晨刷一遍arXiv,看看关注的几个分类下有没有新东西,是这个圈子里大部分研究人员的基本习惯。
江松然这个习惯保持了十几年:从上学到谷歌,再到创业公司。
回国陪床两个多月,虽已没有工作要做,每天刷arXiv的习惯却还留着。
江松然的目光从上到下快速扫过,一篇新发布论文的题目吸引了他的注意。
《On Adapting Memory-Efficient Attention to Non-CUDA Heterogeneous Accelerators: A Single-Operator Case Study》(非CUDA硬件上的注意力算子适配:一个单算子的案例研究)
作者只有一个:Wenyuan Zhao。
江松然在脑中过了一遍这个名字,没什么印象;点进作者页一看,其他论文都与训练架构理论相关,这篇是他第一篇涉及硬件领域的论文。
江松然心中一动:如今非CUDA适配这么热门了?其他领域的研究者也跨界来研究?还真是天下苦英伟达久矣。
他又退回去看团队名:Source Intelligence AI,一个没听过的中国公司。
江松然生出一种复杂的感觉:这也是在做算力国产化,里面到底有多少真东西?又有多少是噱头?
最终,他还是点开看了。
最打动他的,是这篇论文只有一个作者。
在工业界做过科研的人知道,公司发论文很少出现单作者。不是说一个人做不了研究,可既然公司赞助了研究,相关方总得挂个名吧?
单作者很少见:要么真没有团队,要么公司不在乎,只给主要研究者署名。
无论哪种情况,这篇论文都值得一看。
PDF加载出来,江松然先看摘要。
“本文报告了一款国产非CUDA加速器上内存高效注意力机制的端到端实现:在单节点8卡配置下,吞吐达到对应cuDNN参考实现的83%,数值误差在2.3e-6以内。”
看完摘要,江松然在心里嗤了一声。
这数据,注水了吧。
既然已经打开,他还是耐着性子往下看。
出乎意料,论文结构清晰,数据详实,用词严谨;实现一节甚至给出具体优化方法和一些代码片段,有心的话,复现起来应该很容易。
但最触动江松然的,还是局限性那一节。作者诚恳写道:“本工作只完成了单算子(SDPA)的实验性适配工作,没有涉及LayerNorm、Softmax以及各类Optimizer等数十个其他算子;没有涉及多卡间通信库;也没有涉及训练场景下的反向传播与混合精度优化,所以还不能构成一套可用的训练栈。”
江松然叹了口气:这个作者一句话就把他们这些研究者的困境写透了。
这种吃力不讨好的事,国内竟真有人做。是,你可以一个一个研究,研究出一个,还能发一篇论文。
可整套生态里,只要有一个关键算子没做完,就真没什么用。
这种活儿江松然熟得很,谷歌TPU团队的头两年就是这么熬出来的。
只不过谷歌当年有几百名工程师;这个叫Source Intelligence的团队有多大?又投了多少资源?
江松然在心里默算:从论文提到的内容,到从头做出一套国产化训练生态,今天到底还差什么。
剩下的几十上百个算子、多卡通信库、分布式训练框架、编译器、容错与检查点——这么大的量,远不是一个公司做得出来的。
如果国内真能有几百个团队,都像这一个那样沉下心,安静地做这种没人鼓掌的事,国产化也未必没有可能。
可惜,没有几百个这样的团队。
正想着,母亲从外面进来,一进门就唠叨。
“松然,累坏了吧?快回去睡会儿。你在医院陪床也得注意休息,别你爸还没醒过来,自己先病倒了……”
江松然确实累坏了。
他和母亲交代几句,略收拾一下,拿上电脑,走出病房。
走到住院部一楼,他看见一个瘦高帅气的年轻人站在大门边,背着双肩包,像在找人。
江松然正看着,那年轻人也看过来,似乎看到了他,冲他笑着点头,向他走来。
那人的眼神亮得惊人。
江松然不确定他是不是冲自己来的,也点头回应。
本文每页显示
5000字 共
502页 当前第
193页
目录 上一页 ← 193/502 →
下一页 加入书签