TXT图书下载网
最新小说 | 小编推荐 | 返回简介页 | 返回首页
(双击鼠标开启屏幕滚动,鼠标滚轮控制速度)
首富从看见信息面板开始_第一百九十九章 五百卡?起步
小说作者:路大头   内容大小:4420.71 KB   下载:首富从看见信息面板开始Txt下载   上传时间:2026-03-07 04:35:07   加入书签
    下午,韩路一终于见到了第一天入职的江松然。两人在十三楼找了间空会议室。

    简单客套两句,江松然便问起工作:“韩总,今天上午赵总带我看了一遍进度。说实话,我很震惊——比你在医院给我看的那些成果更惊人。”

    韩路一清楚,江松然已经看过源智科技借助智能体能达到什么效率。那是短时间追赶英伟达 CUDA 生态、把不可能变成可能的关键。拿出几个算子适配成果,很牛,却改变不了行业;拿出一个能稳定、快速完成算子适配的系统,情况就完全不同。江松然的眼界,能看出这意味着什么。

    同时,韩路一也好奇:江松然作为 AI Infra 专家,能给源智科技带来什么?大方向他已经想好,要做到两点。

    一是拥有自己的训练和推理栈——数据跑在别人的云上,他不放心。

    二是推进国产化替代。这是一举两得:英伟达的卡因种种原因,他根本买不到;他也有能力、有动力率先完成算力国产化替代。真做到了,不只自己的数据中心问题解决,还能打开更广阔的国内政企市场。

    方向定了,具体实施仍需要真正在这个行业里做过的人。这也是江松然对源智科技如此重要的原因。

    江松然是行业大佬,技术深厚不假,但他对源智科技最大的价值还在另一点:此前那家创业公司里,他做过一号员工和高管,有过把数据中心从零到一搭起来的经历,经验横跨软件和硬件。这样的人才,远比一个技术大牛稀缺。

    可以说,他对源智的重要性远高于对鼎盛、昆仑的重要性。大云服务供应商已有丰富的数据中心管理经验,江松然去了,顶多带来一些新视角,在某些方面有所提升,却难有本质突破。可他来到源智科技,直接填补了源智在硬件管理上的空白。

    所以韩路一才这么慷慨,直接给了 2% 的期权奖励。这可是视哥认证的金色传说!江松然可能赚了,韩路一绝对不亏。

    既然江松然提起,韩路一便直接问:“江博士,我们现在要尽快拥有自己的推理栈和训练栈。一期计划五百张卡,这个采购量在国产卡里不算大,哪家都拿得出来;但具体从哪买、买来能做到什么程度,我还想听听你的意见。”

    这个数字,韩路一在医院时就透露过;江松然也早做准备——他知道入职后韩路一一定会问,他不打无准备之仗。

    “韩总,我回去看过。现在市面上最先进的国产卡能做到 400 TFLOPS。如果只是推理,五百张支撑十万日活绰绰有余。”江松然说,“基于标注数据的后训练,勉强也能做。但要做预训练,远远不够。”

    TFLOPS(TeraFLOPS,Trillion Floating-point Operations Per Second)是衡量计算机算力的单位,中文是“每秒一万亿次浮点运算”。GPU 的强项就是浮点数学运算;若把每块 GPU 比作一辆跑车,TFLOPS 就是仪表盘上的最高时速。

    用 N 卡体系举例:游戏玩家的梦中情卡 RTX 5090 在 AI 实际使用精度下大概能做到 200 TFLOPS;专业用于 AI 训练的英伟达 B200,单卡能达到 2250 TFLOPS 的恐怖算力。

    韩路一点头,这和他设想的没有出入。

    “而且,韩总,我不知道咱们团队里有没有人有过显卡集群管理的实操经验。但非 CUDA 生态显卡集群的管理难度,和 CUDA 生态完全不一样。五百张国产卡,全国能把训练栈跑通的不超过三家。”

    说完,江松然露出些许骄傲:“有我在,我有信心让源智科技成为其中一家。”

    韩路一倒不怀疑——他招江松然进来,就是要他干这个。他接着问:“那从哪家采购最好,你有什么建议?”

    江松然微微沉吟,没有马上回答。

    这个问题其实有点敏感。他当过管理者,当然知道对任何公司来说,采购都是敏感话题;何况 AI 用显卡单卡价格都在十万以上,五百张就是五千万的采购,金额不小。

    为求安全,他最好推荐一家国产头部大厂。大厂内控严厉,给他回扣的风险小,韩路一更不会怀疑他。

    可做过调查后,江松然确实发现了一个更好的选择;只是说出来,未必对他本人是好事。

    他没犹豫太久,还是咬了咬牙,说出更冒险的版本:“有一家,叫硅明半导体(Sili-Lumin),总部在鹏城,也是创业公司。去年刚开始量产第一款产品,叫 L100,算力 600 TFLOPS,片间互联带宽 600 GB/s,对标英伟达 H100。硬件料很足,还有一个对我们来说算优点的缺点——他们的软件做得很差,完全没有训练落地配套,买家全在做推理。”

    “所以硅明对咱们格外合适。五千多万的单子,对他们来说是救命稻草;他们销路不好,有现货。”江松然把思考都说了出来,“再加上软件弱、硬件强,按硬件单价算,性价比特别高。我们根本不用他们的配套软件,相当于采购的钱全花在硬件上。”

    话说完,江松然心里也打鼓。他明确表示这是自己提前调查过的厂家,韩路一会不会怀疑他吃回扣?

    他默默想了一句:他以国士待我,我当以国士报之。

    韩路一面上不动声色,只是眼睛发亮。他没怎么犹豫,直接说:“江博士,你费心了。确实很适合源智现在的需求。这样,你不方便出差,一会儿我让助理过来找你。你和他交代清楚,让他跑一趟鹏城。”

    江松然心里松了一口气。不让他经手,他挺庆幸,至少可以避嫌。

    正事聊完,韩路一最后又说了一句:“你既然说有信心,我很期待咱们把自己的集群搭起来的那天。”

    实际上,江松然说得还保守了——他不只是有信心。这事他做过一遍,再做一遍当然十拿九稳。何况现在见识过源智科技的技术潜力,他觉得不止五百卡、千卡集群,就算万卡也不是不能尝试。

    要知道,想把显卡集群做大,技术难度是指数级上升的。真正的挑战来自使用过程中集群各节点之间的通信。要完成大模型训练,就得让各节点数据完全同步。假设只有十个人,互相交流一个信息不算太难;可扩大到一百人、一千人,每个人都在做自己的事,即使是简单信息同步也很难做到。

    而且,万卡集群比起千卡集群,运算速度并不能提升十倍。受通信带宽限制,能达到七八倍就不错了。

    成本极高,收益不大。既然这样,为什么还要做万卡集群?直接做很多小集群不行吗?

    因为万卡集群能做到千卡集群做不到的事:训练超大模型。基于现在的大模型理论,模型越大、参数越多,能力就越强。可要把那么多信息训练进一个模型,就需要能同时容纳所有原始信息的内存;只有万卡规模的集群,才有可能训练出这样的超大模型。

    可以说,万卡集群才是英伟达体系王冠上的明珠。而现在,江松然已经有野心,要在源智科技用国产显卡挑战万卡集群。

    当然,AI 训练用显卡的成本,即便国产低很多,单卡也在十万元人民币以上。要做万卡集群,单显卡成本就要十亿;更别说这个级别的集群,配套机房、电力、冷却、存储等成本加起来约为显卡本身的一倍,总投入要在二十亿以上。

    但这些事江松然都不担心。那不是 CEO 该担心的问题吗?他相信到时候韩路一会解决。

    这些念头在江松然脑子里转了一圈,他什么都没说出口。只是那颗因家中变故而沉寂的心,突然又火热起来了。
本文每页显示5000字 共502页 当前第201页

目录   上一页   ←   201/502   →   下一页   加入书签  
小提示:如您觉着本文好看,可以通过键盘上的方向键 ← 或 → 快捷打开上一页、下一页继续在线阅读
也可以下载首富从看见信息面板开始TXT电子书到您的看书设备,以获得更快更好的阅读体验!