这顿饭,韩路一吸取了教训:确认不必再加菜后,便飞快地在小程序上提前买了单。
吃完刚起身,赵文渊的电话打了进来,韩路一只好重新坐下接听。
“韩总,最新一轮的结果出来了!”赵文渊的声音带着连续熬夜后特有的沙哑,语气却很亢奋,“意图理解基准从83.7涨到了85.2,其他几项基础指标也在上升,语义连贯提了0.8个点,多轮推理提高了1.2个点!”
“综合性能呢?”
“综合得分比之前那版高了将近两个百分点。这个提升幅度,在7B参数的量级上已经很夸张了。”赵文渊停了一下,“业内现在的主流猜测一直认为,数据标注的质量能提高模型的上限,但我是真没想到影响能这么大。从结果来看,之前一定没有人用这种质量的数据训练过大模型!”
“提升的空间还有吗?”
“基本到头了,我下午换了学习率策略,看看接下来两天能不能再挤一点。”
“学习率那边别动了,”韩路一说,“两个点的提升够用了。你明天看看能不能先把模型部署下来,我们做些场景测试。”
赵文渊愣了一下:“这么快就上实测?”
“训练集上再刷分意义不大,拿真实场景的实际用例测一测,周二去给鼎盛一点小小的震撼。”
“哈哈哈!”赵文渊觉得跟着韩路一,自己的心态都变年轻了——虽然他本来也不老,“我这辈子没调过这么爽的参数。”
挂了电话,这两个曾经狼狈离开鼎盛的人,此刻都迫不及待地想杀回那扇大门。
苏念念听完这通电话。她虽然不知道对面说了啥,但听到要去给鼎盛一点震撼,便知道一定是好消息。
韩路一没有立刻起身,短暂地陷入沉思:原来刚才经验值的变化是从这儿来的——上午看还是7%,刚才变成了8%。现在他可以确定,是赵文渊跑完这一轮微调,带来了经验值上涨。
控制变量来看,基本可以肯定:模型训练和视界经验值之间存在正相关。照这么干下去,下一级触手可及。
那之前训练天工代码模型时没涨经验,是因为没用他自己的标注数据吗?这到底跟标注的被使用量有关,还是跟产出的模型准确率有关?
“走吗?”苏念念说着已经站起来,穿上了外套。
被这么一叫,韩路一回过神,说:“念念,我发现我还是挺擅长推理的。”
苏念念不置可否。
两人继续往外走,完成清单上的最后一项特别奖。苏念念一路领着韩路一,直奔二楼的大疆/哈苏体验店。
店里的装修清冷,但不失调性;正中间是一条长条形玻璃展柜,往里走,台面上还陈列着更多产品。
韩路一走到陈列的产品前,拿起一台Pocket 4翻看。机器入手扎实,比他想象的小。
“这个员工拿到真的会用吗?”他问。
“当然啦,”苏念念说得很肯定,“上周我在办公室听见小杨他们聊天,说朋友刚买了这个去云南拍了一路,回来素材剪出来放在小黄书上,涨了好多粉。”
韩路一若有所思:他上次旅游是什么时候……
苏念念继续说道:“而且现在大家都爱往户外跑,徒步、骑行、露营、滑雪,这个都用得上。”
不愧是产品经理,说起别人的产品也头头是道,有理有据,令人信服。
韩路一看了眼旁边的价格牌,又想了想今年的账:源码虽然创立才几个月,但每一步都踩在点上,钱赚到了,团队也在扩张,大家越干越有劲头。
他第一次当老板。以前当打工牛马,年终礼品发什么,他没资格管;现在轮到他了,他也想激发一下凝聚力,搞点拿得出手的东西,让员工用着就能想起今年干得不错。
他看看手上的Pocket,又看看Action,都不错嘛。
小孩子才做选择,大人我全都要。
“各买三台吧!”他决定,“做抽奖,全员参与。”
苏念念没显得很意外,但还是肯定了他一句:“韩总大气!”
……
12月15日,周二,下午一点半。
鼎盛大厦三十三层,图灵厅。
程远提前半小时到场。
会议室不大,一张八人座的椭圆桌,中间摆着矿泉水、烧水壶和一盒没拆封的挂耳咖啡。投影幕布已经拉下,连着一台鼎盛内部配发的工作站。
秘书虽然已经检查过一遍,他还是又查了一遍会议室的设备,确认投影、网络、白板笔都没问题,又把桌上水瓶的标签朝外转了转。
门开了,刘大海走了进来。
他光头,穿一件灰色连帽衫,下身穿条宽松运动裤,脚上一双跑鞋。和西装革履的程远站在一起,像两个不同次元的人。
“刘博士,辛苦了。”程远站起来。
“嗨,这不外道了么,都咱份内的事儿。”刘大海是北方人,特别能唠嗑,绝不会把话落在地上。他把笔记本往桌上一放,就开始接线调试。
程远把这场内部会议提前了半小时,也是借机先深入了解自己模型组的最新进度,对齐一下颗粒度。郑总似乎很挂心这事,他得赶紧把优先主次调整清楚。
刘大海调好设备,坐下来喝了口水。
“今天来的谁(sei)啊?”
“源码科技,一个AI创业公司。”程远简短地说,“做应用层的,最近想往大模型方向走。”
刘大海抬了抬眉毛:“啥?多大规模?”
“五十人左右,A轮。”
刘大海皱起眉头,头顶飘着两个为什么——
为什么五十人就敢做大模型,光数据清洗的团队都凑不齐,虎了吧唧的。
为什么这么不切实际的公司今天能来鼎盛开会?还是郑总发话,需要他亲自来给演示。
“郑总的意思,你把坤元最新的评测结果给对方演示一下就行。”程远说。
“坤元”是鼎盛内部通用大模型的代号。乾元是代码大模型,已经公开发布;坤元是通用模型,还在内部测试阶段,没有对外公布过。
“现在我们内部做到什么水平了?刘博士,能不能先给我解解惑?”
刘大海点点头,打开演示界面,顺手调出一组数据。
“上周刚跑完的结果,”刘大海指着屏幕,“咱们最强的在这,意图理解直接干到78,比上一版提了将近两个点,老猛了!”
刘大海切到一张对比图:纵轴是综合得分,横轴排着国内外十几家模型。
“你瞅这,综合跑分这个位置,”刘大海用手指点了一下点状图最高的那个点,“GPT-4。”
然后他的手指往左移了两格:“咱在这儿,差距大概三个百分点。放在国内,这是第一梯队,稳稳当当的!”
接着他切了一张图:“只看意图理解这个单项,咱和OpenAI的差距已经缩到不到0.2个点;而且在中文场景下,咱还能加加,支棱支棱超过去也不是啥大问题。”
程远看着那张图,心里踏实了不少:这个数字拿出去,足够让任何一个创业公司掂量掂量自己几斤几两。
“刘博士,演示的时候你把这张对比图放出来就行,不用太详细,点到为止。”
“嗨,妥妥的。”刘大海关掉屏幕,“说实话,我不太乐意整这种对外演示;但郑总发话了,那就走个过场呗。”
程远笑了笑,没接话。
刘大海也不在乎,掏出手机,接着看论文。
一点五十。
还有十分钟又要和韩路一见面了。程远看完表,拉了拉袖口,嘴角不自觉地挂上一抹势在必得的笑意。
本文每页显示
5000字 共
502页 当前第
141页
目录 上一页 ← 141/502 →
下一页 加入书签