李東禮貌的把筷子放了下來。
“邱總您好,我是高老師的學生,李東。”
邱明麗愣了一下。
然後就有些驚喜的說道。
“你就是李東?”
“那個降維演算法的李東?”
“我的天,你這也太年輕了吧。”
旁邊幾個原本沒對上號的,聽見“降維演算法”這四個字,也反應了過來,紛紛看向李東。
李東被這麼多雙眼睛盯著,多少有點不自在。
“邱總過獎了,我就是個大學生。”
“我就瞎搞的。”
李總在旁邊哈哈大笑。
“瞎搞?你這要是瞎搞,那我們這幫人全都白乾了。”
桌上一片善意的笑聲。
笑聲落下之後,邱明麗率先說道。
“李東啊,我特別想聽聽你的看法。”
“你看剛才咱們聊的,算力、資料……這些東西”
“那你心裡對‘怎麼追上去’這件事,有沒有什麼想法?”
說實話在座的人是真的想聽,畢竟李東演算法的去向他們不知道,不知道本身就很說明問題了。
所以他們對李東是特別的好奇的。
李東沉默了幾秒鐘。
老實講,他心裡其實並沒有什麼完整的能拿出來講的想法。
他只是……
只是想到了牛頓的小黑。
那玩意兒,怎麼看都不像是用現在這一套大語言模型的路子搞出來的。
他斟酌了一下措辭,慢慢開口。
“我沒什麼很專業的看法。”
“就是有個特別外行的問題,大家別笑我哈。”
桌上的人都笑著說不會的。
李東這才繼續說道。
“為什麼……人工智慧就一定要按照現在這種路子做呢?”
“我說的是,為什麼不能更接近人腦真正的工作方式?”
“你看,人腦大概有八百多億個神經元,每天大概就消耗二十瓦的功率。”
“但它能聽、能看、能想、能學、能在一秒鐘之內認出一張臉,還能在兩年之內學會一門語言。”
“而我們現在最先進的大模型……”
“訓練一次要燒幾千萬度電,推理一次也得調動一整個機房的卡。”
“在做某些事情的時候還不如一個三歲小孩。”
“差距在哪兒?”
“我覺得不是在算力上,是在……根本路子上。”
說實話ai這塊李東確實不太懂,所以就是吧自己的想法說出來。
桌上的人沒有一個出聲的。
他們就那樣靜靜地聽著。
李東頓了一下,繼續往下講。
“我前一陣子翻文獻的時候看到過一個方向,叫脈衝神經網路。”
“它的思路就是不用現在這種連續值的啟用函式,而是模仿人腦裡神經元放電的方式。”
“只有放和不放兩種狀態,平時不工作,只有訊號攢到一定程度才發一個脈衝。”
“理論上這種網路的能效比要比現在的ann高几個量級。”
“還有更激進一點的,叫神經形態計算,乾脆把晶片本身就做成模擬神經元的結構。”
“ib的truenorth、英特爾的loihi,都是這條路上的嘗試。”
“我就在想……”
“是不是有一天,我們真的能造出一個不用一萬張a100,而是用一顆類腦晶片,就能完成同樣事情的東西?”
李東說完,桌上一片安靜。
倒不是說大家被震驚到了,而是……
“哦,原來你也只是個會做白日夢的小孩”
李總最先反應過來。
他臉上的笑容有點複雜,但看得出來,是真心想跟李東講點東西。
“李東啊。”
“你這個想法,其實在學術圈不算新。”
“不光不新,可以說是非常老了。”
“早在上世紀八十年代,就有人提了。”
李東點了點頭。
李總繼續說。
“但是這條路為什麼這麼多年了都沒起來?”
“因為它太難了。”
他放下杯子,兩隻手一攤。
“我們對人腦本身的瞭解,遠遠沒有外行想象的那麼多。”
“目前為止,全世界唯一一個被完整測出來的連線組。”
“是秀麗隱杆線蟲。”
“它一共就三百零二個神經元。”
“光是這三百零二個神經元的連線圖,科學家整整測了三十年。”
“果蠅的連線組前兩年才剛剛做完一部分,而一隻老鼠腦子裡大概七千萬個神經元,目前連零頭都沒測完。”
“人腦?八百億個神經元,每個神經元平均連一萬個突觸。”
“我們離把它徹底搞清楚,還差著十萬八千里。”
李總看著李東說道。
“就算我們瞭解了大腦,我們也沒法在矽基晶片上
高效地復現它。”
“人腦的神經元和我們的晶片。”
“是兩套完全不同的邏輯。”
“你硬要在gpu上模擬一個脈衝神經網路,效率比直接跑ann還低。”
“這就是為什麼snn吹了這麼多年,到現在主流的ai公司也沒真的all的原因。”
“它現在能做的任務規模,比ann差得很遠。”
李總嘆了口氣繼續說道。
“還有,我們沒有成熟的訓練方法。”
“ann為什麼這十年突飛猛進?因為我們有反向傳播。”
“反向傳播這個東西在數學上是很高效的。”
“但人腦裡有反向傳播嗎?沒有。”
“那snn要怎麼訓練?目前學術界還沒有一個公認的、和反向傳播一樣好用的方法。”
“很多團隊在試,但都還沒試出來。”
李總把手放下,端起杯子。
“所以李東啊。”
“你這個方向,理論上當然是對的。”
“長遠來看,類腦計算很可能就是未來。”
“但是……”
他還是強調了一下。
“在可見的五年、十年之內,能落地、能賺錢、能讓中國的ai追上世界第一梯隊的,只能是現在這條transforr的大模型路子。”
“不是因為它最好。”
“是因為它最現實。”
李總說完,桌上的幾個人都紛紛點頭。
顯然這是行業內已經形成的共識。
李東沒說話。
但心裡有一個聲音,在很堅定地反駁。
不可能?
我親眼“見過”有人做出來啊。
那就是牛頓的“小黑”。
既然有人能在那個時代、把它做出來。
那就說明,這條路是走得通的。
至於眼前這些困難……
對大腦的理解也好,硬體的底層邏輯也好,訓練方法也好……
一步一步克服就是了。
如果您覺得《我的學習群裡全是真大佬》小說很精彩的話,請貼上以下網址分享給您的好友,謝謝支援!
( 本書網址:https://m.51du.org/xs/478232.html )