聽見李東的語音,電話那邊的楊勝果隔了很久才發來一條語音。
“你小子最近有點飄啊。”
“我楊勝果要說搞學術,或許是不如你,不如彭羅斯教授,不如劉若傳院長,不如……哈哈哈”
說著說著他自己都笑了。
最後很認真的說了句。
“但我會追上的……”
李東一聽,也會了條訊息。
“我信你,楊老師。”
結束聊天后,李東伸了個懶腰,從床上爬下來。
昨晚上寫到一半的那份{Φk}嵌入運算元族的草稿還攤在桌上。
“先把手頭的事做完。”
“晚上的事,晚上再說。”
……
時間很快就到了下午五點多。
李東換上了一件深灰色的針織衫,外面套了一件黑色的外套。
這是他能在寢室的衣櫃裡找出來的,最接近“正經”兩個字的行頭了。
他在鏡子前看了自己一眼。
嗯,吳彥祖多了一分成熟的氣質。
走出宿舍樓,李東順著熟悉的“學霸專線”一路坐地鐵,大概四十分鐘之後,在中關村站下車。
地鐵口出來,他按照導航往北走了一段。
然後就看見了一個玻璃幕牆的建築。
中關村香格里拉大酒店。
這座酒店在中關村這一片的地位有點特殊。
它在海淀中關村大街與知春路的交匯處,背後就是整個京城最密集的科技產業帶和高校。
正門往外一百米,就是一堆人耳熟能詳的網際網路公司的老巢。
所以圈內人一提到“在中關村香格里拉見面”,那潛臺詞往往都不是簡單的“吃個飯聊個天”。
而是……
這頓飯,和科技有關,和錢有關
李東走到酒店門口的時候,就看見高穩已經到了。
他今天也穿了一件深色的西裝外套,正站在酒店門口的臺階上和另一個人聊天。
那個人看起來大約五十歲上下,身材不算高,穿著一件看起來很低調的灰色毛呢大衣。
但氣質非常扎眼。
李東一看到他,就覺得這張臉莫名其妙地眼熟。
他一邊走一邊想。
然後他終於對上號了。
我靠?
這不是三巨頭之一的李總嗎?
這個時候高穩已經看見了他,笑著朝他招了招手。
“李東,過來。”
然後李東就走了過去嘛。
“高老師。”
高穩伸手拍了拍身邊那位中年男人的胳膊,給李東介紹。
“這位是北行的李總。”
“李總,這就是你一直想見的李東。
面前這位中年男人臉上的笑容很溫和,主動伸出了手。
“你就是李東啊。”
真是英雄出少年啊!”
“比我想象的還要年輕。”
李東趕緊把手伸過去,握了握,姿態放得很低。
“李總,您好。”
“我還是個學生,以後要跟您多學習。”
李總笑了笑。
“學生?”
“陽光廳那天那個十三連問,在場的那些老教授有的還是我老師。”
“能把他們問到臉色發青這可不是一個學生能幹到的事。”
李東一時間還不知道怎麼接。
好在高穩在旁邊很自然地打了個圓場。
“行了行了,你倆別在門口站著了,裡面還有幾位都快到齊了。”
“我們先進去。”
李東點了點頭。
三人就一起走進了酒店。
……
中關村香格里拉,三樓宴會廳。
大門被門童推開。
李東往裡面看了看。
整個宴會廳其實並不算特別大,中間擺了兩張大圓桌。
廳裡現在已經站了十來個人,三三兩兩地湊成幾個小圈子。
李東的目光在這些人身上掃了一圈。
好傢伙!
全是些大佬呀。
在窗邊和別人聊天的,不是上個月才上了《財經》雜誌封面的那個嗎?
那個在桌邊看手機的女士不是裡雲的副總裁嗎?
還有那個看上去四十出頭的男人,前段時間剛剛因為一篇關於大模型路線的文章登過一次熱搜……
李東心裡感嘆
這個廳裡的規格有點高呀。
這是把整個國內ai圈能叫得動的人,都叫來了呀。
好幾個人察覺到門口的動靜,轉過頭來,看見高穩和李總走進來,都笑著點了點。
甚至還有好幾個李東不認識的人朝他打了個招呼。
高穩在李東背上輕輕一拍,朝廳裡一個相對安靜的角落抬了抬下巴。
“先去那邊坐會兒。”
三人走過去。
剛一坐下,
李總就從旁邊的小几上拿起一杯檸檬水遞給李東,笑眯眯地開口。
“李東,今天就當朋友聊。”
“你那個降維演算法10版本一公開,我們底下深度學習實驗室的人就跑去測了。”
“測完之後專門給我打了個電話。”
李總頓了頓,抿了一口水。
“演算法是真的很優秀……”
李東喝了一口檸檬水。
“李總您過獎了。”
李總笑得很溫和。
“過獎個啥呀。”
“我們公司光是把你那個演算法的思路套在分散式訓練的通訊層上,單卡有效算力直接抬高了一截。”
“你知道這意味著什麼嗎?”
李東其實大概知道。
但他還是配合地搖了搖頭。
李總哈哈的笑道。
“省錢。”
“上億的省。”
“所以今天我也就不繞彎子了。”
“北行那邊,你隨時可以來。”
“ai研究院那邊,崗位、方向、團隊你自己挑,年薪你自己開。”
“別管什麼市價,你開多少,我就批多少。”
旁邊的高穩端著茶杯,就像沒聽見一樣。
李東心裡又開始默默地吐槽。
你們這幫老總怎麼回事?
動不動就是拿錢考驗幹部呀?
你就不怕我開個一百億嗎?
不過吐槽歸吐槽,李東臉上的表情還是端得很穩的。
“李總,您是真看得起我。”
“但是說實話,我現在還是想以學業為重。”
“我對純粹一點的學術更感興趣,至於把學術成果落地、做產品、做應用這些……我心裡清楚,我不是那塊料。”
李總臉上的笑容沒變。
但眼睛還是有一絲失落閃過。
他在商場上摸爬滾打了二十多年,李東話裡的意思,他當然懂。
這小子,是真不愛錢。
華軒:???
或者說……
這小子心裡裝的東西,比錢大得多。
李總沉默了大概兩秒鐘。
然後擺了擺手,笑著說道。
“行,不勉強你。”
“我就是惜才。”
“以後你要是改主意了,隨時給我打電話。”
高穩這個時候才慢悠悠地插了一句。
“行了李總,你也別老盯著我們家這棵苗子。”
“田鋼院士那邊可看著呢,你再這麼挖下去,老田明天就得給我打電話。” _тtkan _¢O
李總立馬“哎喲”一聲,做出一個誇張的告饒手勢。
“不敢不敢,田院士的人,我哪敢動。”
三個人相視一笑。
桌上的氣氛一下子就緩和下來了。
……
六點半的時候,晚宴正式開始了。
服務員推著餐車從門口的側門進來。
宴會廳一共就兩桌,李東、高穩、李總坐在主桌。
旁邊幾個也是比較有分量的人。
包括裡雲那位副總裁,還有一個看起來像是某家做晶片的初創公司ceo的男人,也都坐在主桌上。
服務員退出去之後,話題自然而然就從最近的天氣、最近的政策,慢慢地飄到了“那玩意兒”上面。
“那玩意兒”
這是在場所有人對“gpt-35”心照不宣的稱呼。
最先開口的是裡雲ai那位副總裁,姓邱,叫邱明麗。
她端著酒杯,慢悠悠地說道。
“上個禮拜我們組裡專門搞了一個內部測試。”
“中文常識題、英文閱讀理解、程式碼生成、數學推理、長文字總結,五個方向,各出了二十道題。”
她嘆了口氣。
“五個方向,它都贏了。”
桌上一片沉默。
李總放下了筷子,眉頭皺著。
“贏得多嗎?”
邱明麗自嘲的笑了一聲。
“我就不說具體分數了,但差距……不小。”
“尤其是那種需要多步推理的題,我們這邊的模型基本上做到第三步就開始胡言亂語了。”
“它還能穩穩地往下推。”
“你把一道國內高考壓軸題扔給它,它就算做錯,它做錯的路子也是對的。”
“它是在認真地算錯,不是那種一看就知道在瞎編的錯。”
“這個東西,是我們目前的模型最缺的。”
那個戴眼鏡的男人放下了刀叉,慢慢地開口。
“邱總,我其實一直有個問題想請教。”
“gpt-3到gpt-35中間這一跳,到底關鍵是跳在哪兒的?”
“外面現在一提就是rlhf,好像那一套人類反饋就是所有答案。”
“但我總覺得沒那麼簡單。”
邱明麗笑了一下。
“你這個問題,問到點子上了。”
“rlhf這幾個字,最近被炒得有點太兇了。”
他用筷子頭在桌布上虛劃了一下。
“gpt-3到gpt-35,真正那一跳,不是rlhf。”
“是程式碼。”
桌上有人愣了一下。
“程式碼?”
邱明麗點頭。
“openai中間悄悄幹了一件事。”
“他們在gpt-3的底座上,又灌了一輪超大規模的程式碼預訓練,內部叫-davci-002。”
“github上能扒的高質量程式碼,加上一部分自然語言和程式碼混在一起的資料,一鍋燉進去。”
“灌完這一輪出來,模型的推理能力莫名其妙地就起來了。”
“不光是會寫程式碼了,你讓它做數學題、讓它做多步邏輯推理、讓它分析一段很長的論證,它突然就會想了。”
“業內現在把這個叫做程式碼帶出來的思維鏈。”
“程式碼這個東西是很嚴苛的,你少一個分號它就跑不了。”
“模型在海量程式碼上被反覆蹂躪過一遍之後,它對一步一步地把事情想清楚這件事,就有了一種別的語料給不了的感覺。”
邱明麗頓了一下,抿了一口酒。
“在這個底座上,再往上套指令微調、再往上套rlhf那才有了chatgpt。”
“但你要問跳在哪兒,我也只是個人猜測,最關鍵的一跳我覺得的是在程式碼預訓練那一步。”
“rlhf真正解決的問題,是怎麼讓這個聰明但是野的模型聽人話。”
“它解決的是對齊,不是智商。”
那個戴眼鏡的男人慢慢地點頭,若有所思。
邱明麗接著補了一句。
“當然rlhf那一套也不是簡單東西。”
“我們這邊要追這一套,標註員的培訓體系從零開始搭,至少得半年到一年才能進入狀態。”
桌上一片安靜。
李總端起杯子,輕輕晃了一下。
“我補一句。”
“我們家文心這邊,其實也不是從今年才開始搞的。”
“eritan兩年前就發了億引數,中文那些經典榜單上咱們也不虛gpt-3。”
“真要說單純的中文語言理解,我們底子不差。”
李東一直沒有說話,但是他聽的很認真。
李總繼續說道。
“但這次35一出來,我自己心裡涼了一下。”
“涼不是涼在它中文比我們好,它中文其實還沒我們好。”
“主要是……它和我們根本不是在做同一件事。”
“我們之前那一代大模型,比的是這個句子的意思你理解得準不準、你分類的對不對、你完形填空填得好不好。”
“它比的是你能不能和人自然地聊天,聊的時候順手把一道題給做了、把一段程式碼給寫了。”
“後面這件事,是另一個維度上的能力。”
“不是我們原來那一套路線自然延伸能接上的。”
“我們內部這兩個月已經在趕下一版了。”
“對外的代號你們可能過一陣子就會聽到,這次我們是對著35去的。”
“但我跟你們交個底。”
“第一版出來的東西,和35之間,差距肯定還會有。”
“而且還不是那種一個月兩個月就能抹平的差距。”
氣氛沉了一會兒,邱明麗突然看向李東。
笑著開口。
“這位小兄弟一直沒說話啊。”
“還挺面生的。”
如果您覺得《我的學習群裡全是真大佬》小說很精彩的話,請貼上以下網址分享給您的好友,謝謝支援!
( 本書網址:https://m.51du.org/xs/478232.html )