从会议室出来后,韩路一和苏念念一起进了他的办公室。
两人正准备就方才那场视频会议商量应对策略。
这时,门外忽然响起一阵急促的敲门声。
“韩总,在吗?”
是赵文渊的声音。
韩路一和苏念念对视一眼。
韩路一走过去开门,赵文渊抱着笔记本电脑站在门外,一脸兴奋。
“韩总!真神了!”他边说边走进来,这才注意到苏念念也在,明显一愣。
随即神色松下来,把笔记本电脑搁在办公桌上。
“正好,苏总也在,一起看看。”赵文渊说,“第一轮训练结果出来了。”
他掀开屏幕,手指在触控板上飞快一划,调出一张表格。
“先看基础数据。”赵文渊切到第一页,“先打个预防针啊:7B的开源基座微调,参数量不到GPT的二十分之一。知识问答、逻辑推理、数学计算这些常规指标,在同量级模型里也就是中游偏上,更没法跟那些几千亿的大家伙比。”
说着,他瞥了韩路一一眼,等着看反应。
“但注意,重点在下一页。”
话落,他把表格翻到第二页。
屏幕上是一张柱状图:横轴排着十几个模型名,纵轴是分数。
韩路一认出了几个:GPT、Mercury、Gemini。
它们旁边的柱子高度相近,分数集中在71到78之间。
唯独最右边一根浅蓝色柱子单独拔高,明显比其余的都高一截。
这个模型的名字是PX-7B-post_trained-v0.1。
柱顶标着83.7。
赵文渊的声音里压不住兴奋:“这是单看意图理解维度的结果,评测集用IFEval标准框架,再加上我自己设计的深层意图还原测试,一共一千二百道题,覆盖十六个不同场景。”
他用手指点了点那根浅蓝柱子。
“看见了吗?83.7。”
韩路一当然看见了,也留意了第二、第三名。
GPT是78.2。
Gemini是76.9。
他还特意扫了一眼水星的分数——就是刚才瑞恩展示的那个——这一项是74.8。
赵文渊问:“韩总,猜猜哪个是我——不,是咱们训练出来的模型?”
韩路一露出无奈的神情。
都整得这么明显了,我还能猜错?
他指了指水星:“这个?”
苏念念在旁边白了他一眼:这两个人,一个敢问,一个敢猜,她怎么忽然对这家还没成立的新公司没那么有信心了呢?
赵文渊知道他是故意的,嘿嘿一笑,往后翻页,讲起这项意图理解测试。
韩路一很快听明白了。
意图理解,简单来说,就是模型能不能读懂用户真正想要什么。
用户敲进去的字只是表面;表面之下,是处境,是约束,是没说出口的真实需求。
绝大多数模型做的是理解字面意思,再给一个正确却泛泛的回答。
PX-7B却能从同样的输入里读出用户真正想要的东西。
这任务极难,参数量大几十倍的模型都未必做得好。说到底,模型只能学到训练材料里有的东西;而大部分模型拿到的原始数据和标注数据,根本不足以知道用户的真实意图。
只有韩路一提供的标注数据能做到这一点。
这也是PX-7B如此强的原因。
讲完,赵文渊郑重道:“韩总,我做这行这么多年,从没见过一个7B的东西能在任何单项维度上打赢GPT-4,从来没有。”
“而且这才第一轮,只跑了几个epoch,超参数都没调到最优。在这个基础上再调几轮,后面还有上升空间。”
苏念念一直没作声,这时才轻声开口:“意图理解……这不就是开物一直想做的事吗?”
韩路一点头,心里也涌起一阵激动。
视哥,给力!
沉吟片刻,他问:“如果有十万条这种精度的数据呢?”
赵文渊仰头,对着天花板想了一阵。
“十万条这种精度的标注,”他慢慢说,“理论上足够在70B甚至更大的基座上,把意图理解能力拉到当前行业天花板之上。”
“这可不只是提升几个百分点的事,你可以想象从GPT-3到GPT-4那种级别的换代。”
“而且到那时候,就不只是意图理解一个维度了。意图理解是模型的基础能力;模型一旦真正学会理解人话,所有下游任务的表现都会跟着变强:回答更精准,代码更贴合需求,内容更有针对性,用户满意度也能提升——”
赵文渊停住,意识到自己说远了。
“这只是理论上的。”他往回收了一步,“实际操作还要看数据分布、训练稳定性、泛化表现等等,不能简单线性推理,但大方向上肯定没问题。”
他接着说:“这个效果、这个水平的标注数据,拿到任何一家大模型公司做对齐训练,都能让意图理解直接上一个档次。”
“韩总,我融资经验不多,但可以肯定地告诉你:我们不会缺钱了。”
韩路一和苏念念对视一眼,都因这个好消息振奋起来,方才Nexus AI带来的压力也被一扫而空。
“参数调完,做一个最优原型出来,大概还要多久?”韩路一问。
“一周吧。”说完,赵文渊面露难色,“不过,要占用工作时间。”
这正是两人之前讨论过的灰色地带:在工作时间使用工作资源做出的成果,源码科技可以主张所有权;如果弘远真和韩路一闹僵,这就是隐患。
想了一会儿,赵文渊说:“我先请一周无薪假,先把成果做出来。”
韩路一点头:“不用过沈丛云,我来批。”
赵文渊正要起身告辞,韩路一叫住他,转头看了苏念念一眼,才开口:“既然训练结果不错,趁你们两个都在,我说个事。”
两人一起看向他。
“融资的事,我仔细想过了。既然我们最缺的只是算力,也没必要从投资人那里绕一大圈,直接找有算力的人,用算力入股。”
“现在国内几个大玩家,这方面最有实力的还是鼎盛。源码过去和鼎盛有点不愉快,但我希望你们别有芥蒂。”
说完,他看了两人一眼,又补了一句:“当然,这只是我的初步想法,你们有什么建议都可以提。”
苏念念先表态:“我没什么问题。在商言商,只要能以最快速度把模型做出来,和谁合作无所谓。而且——”
她看了赵文渊一眼,“其实你也不用问我的看法。不管和谁合作,保持住控制权才最重要。”
听完韩路一的问题,赵文渊沉默得更久。良久,他才开口:“非得在国内找吗?我在谷歌——”
韩路一打断他:“文渊,大模型训练,必须得在国内!”
赵文渊抬头看他,发现他也正盯着自己。两人对视片刻,赵文渊点头:“……我明白了,我没问题。”
“既然这样,后面的就交给我来谈吧。”韩路一说。
送两人走出办公室后,韩路一拿出手机,找到程远的微信。
当初两人见面、加上微信后,程远发来一条问候:“韩总,我是鼎盛程远。今天一见如故。以后常联系,有合作意向的话第一时间告诉我。”
韩路一一直没回。
隔了半个多月,他倒要主动发消息了。
尴尬吗?
不尴尬。
做生意,哪有什么尴尬?
无非是利益而已。
“程总,不好意思,刚看到。我这边有个新项目的想法,有时间聊一聊?”
发送。
本文每页显示
5000字 共
502页 当前第
136页
目录 上一页 ← 136/502 →
下一页 加入书签