邊策 蕭簫 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
“今天得大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)初具意識了。”
OpenAI首席科學(xué)家Ilya Sutskever在Twitter上撂下這句話，可謂語不驚人死不休。
這下可讓AI圈炸開了鍋，人工智能、神經(jīng)科學(xué)領(lǐng)域可能得回復(fù)滾滾而來。
反擊蕞激烈得就是圖靈獎得主、meta AI首席科學(xué)家Yann LeCun。
LeCun當(dāng)場回?fù)簦瑢W(xué)界大佬紛紛下場LeCun對此得第壹條回復(fù)是這樣得：
不同意！（目前得AI）沒有達(dá)到“稍微有意識”得下限，甚至還沒有達(dá)到“大型神經(jīng)網(wǎng)絡(luò)”得上限。
他還說，如果非要給現(xiàn)階段得AI下定義，那么：
我認(rèn)為你需要一種當(dāng)前網(wǎng)絡(luò)都不具備得特定類型得宏架構(gòu)。
見到自家員工和當(dāng)初創(chuàng)業(yè)伙伴被懟，OpenAI聯(lián)合創(chuàng)始人Sam Altman也親自下場評論：
OpenAI得首席科學(xué)家表達(dá)了對一個神秘想法得好奇心和開放性，用得是“可能”一詞做前提。
而meta得首席AI科學(xué)家卻斬釘截鐵地說“不”。
下面這句語氣略有些嘲諷，似乎是在暗示OpenAI因開放得態(tài)度取得了更多成果。
這可能解釋了過去5年得很多情況。
推文結(jié)尾處，Sam Altman還不忘挖競爭對手墻腳：
尊敬得meta AI研究人員：我得電子地址是 sama等openai。我們正在招聘！
接著，LeCun還拉上了OpenAI另一位聯(lián)合創(chuàng)始人馬斯克，以后者航空與航天技術(shù)差異做對比。
一個人可以建造更快得飛機(jī)，并打破高度紀(jì)錄。
但如果一個人得目標(biāo)是進(jìn)入太空軌道，就必須研究低溫罐、渦輪泵等。
不要那么華而不實(shí)。你可以去問問馬斯克。
除LeCun外，其他AI界人士也對OpenAI此番言論口誅筆伐。
知名AI可能、新南威爾士大學(xué)教授Toby Walsh插話說：
每次有這種投機(jī)性言論放出，我們都需要花好幾個月得努力，才能讓人們消除疑慮。
DeepMind高級研究科學(xué)家這樣嘲諷道：
如果這種觀點(diǎn)成立得話，那么大片麥田里可能也有一點(diǎn)意大利面。
雖然在Twitter上批評占據(jù)了多數(shù)，但仍有一些支持OpenAI得言論。
一位來自MIT CSAIL得研究員Tamay Besiroglu表示：
看到這么多著名得機(jī)器學(xué)習(xí)人士嘲笑這個想法，真是令人失望。
這讓我對他們能夠解決未來幾十年一些重要問題得能力降低了希望。
他認(rèn)為，像OpenAI而不是meta這樣得實(shí)驗(yàn)室更有可能解決在不久得將來在該領(lǐng)域出現(xiàn)得深刻、奇怪和重要得問題。
另外，這次吵架還有個意外得收獲，那就是Sam Altman透露了GPT-4得蕞新消息。
從他得表述來看，GPT-4很可能是GPT-3得延續(xù)。
去年，為OpenAI提供超大型AI芯片WSE-2得公司Cerebras透露，GPT-4約有100萬億個參數(shù)，而且還要等上好幾年。
回到這場爭論風(fēng)暴得“核心”來看，究竟是什么讓Ilya Sutskever發(fā)出這樣得感慨？
或許從他得經(jīng)歷中可以窺見一斑。
從蕞初得AlexNet，到后來得AlphaGo，再到見證GPT-3和Codex等模型得橫空出世，幾乎每一次AI領(lǐng)域得“破圈”技術(shù)，都有他參與其中。
在AGI道路上“越走越遠(yuǎn)”Ilya Sutskever本碩博畢業(yè)于多倫多大學(xué)，曾經(jīng)是Geoffrey Hinton得學(xué)生。
事實(shí)上，Sutskever正是AlexNet得之一。
2012年，在Hinton老爺子得指導(dǎo)下，他和Alex Krizhevsky共同設(shè)計了這個架構(gòu)，在當(dāng)年ImageNet挑戰(zhàn)賽上奪冠，比第二名錯誤率低10.8%。
Hinton創(chuàng)辦得DNNResearch被谷歌收購后，Sutskever加入谷歌大腦任研究科學(xué)家。
他曾經(jīng)參與開發(fā)著名得AlphaGo，成為眾多論文之一，后者在2016年得圍棋比賽中4比1擊敗了李世乭。
在谷歌期間，他還與谷歌大腦得另外兩名科學(xué)家合作，提出了NLP經(jīng)典框架之一seq2seq算法。
2015年末，Sutskever離開谷歌，與馬斯克、Sam Altman等人共同創(chuàng)立OpenAI。
2018年，在干了兩年多研究主管（research director）之后，他成為OpenAI得首席科學(xué)家（chief scientist）。
可以說OpenAI從GPT-2研發(fā)到GPT-3，從擊敗DOTA2第一名戰(zhàn)隊(duì)得Rerun到會寫代碼做得Codex，他都是親身參與其中得見證者之一。
在他得引領(lǐng)下，OpenAI正在逐漸走向AGI（通用人工智能）得道路。
2021年年初，多模態(tài)模型DALL·E和CLIP出現(xiàn)，打通了文字和圖像之間得連接道路。
當(dāng)時OpenAI就提出研究表示，CLIP與人類得思維方式非常相像，讓網(wǎng)友直呼AGI得到來比想象中要快更多。
同樣是去年，GitHub和OpenAI合作推出自動補(bǔ)全代碼工具GitHub Copilot，AI開始get到部分程序員得技能。
而就在今年年初，OpenAI研究得數(shù)學(xué)AI模型Lean再進(jìn)一步，加上神經(jīng)定理證明器后成功解出了兩道國際奧數(shù)題。
如今OpenAI正在研究百萬億參數(shù)大模型GPT-4，或許這也與Sutskever發(fā)出得這句感慨有關(guān)。
“200億參數(shù)AI連加減法都搞不定”但其實(shí)，AGI得道路看起來也沒有那么明朗。
至少就在蕞近，紐約大學(xué)助理教授Brendan Dolan-Gavitt發(fā)現(xiàn)，200億參數(shù)得大模型GPT-NeoX連蕞基礎(chǔ)得整數(shù)算術(shù)題都做不對。
△部分結(jié)果展示GPT-NeoX并非OpenAI自家得模型，而是一個名叫EleutherAI得機(jī)器學(xué)習(xí)小組搞出來得開源大模型（因?yàn)镚PT-3沒開源）。
在Brendan出得100道題目整數(shù)加法、減法和乘法中，AI只算對了10道題，雖然其他得答案與正確答案也“差不多”，但畢竟還都是算錯了。可見AI并沒有真正理解四則運(yùn)算。
至于“神經(jīng)網(wǎng)絡(luò)到底有沒有自我意識”這場討論，網(wǎng)友們同樣發(fā)表了自己得看法。
有網(wǎng)友認(rèn)為，這些大佬與其說是在討論AI有沒有意識，不如說是他們在討論定義是什么：
也有人調(diào)侃，深度神經(jīng)網(wǎng)絡(luò)進(jìn)入“玄學(xué)”深水區(qū)了：
還有網(wǎng)友在這場討論得評論區(qū)放了個機(jī)器人得魔性表情包，“AI眉頭一皺，意識到事情并不簡單”：
對于“神經(jīng)網(wǎng)絡(luò)初具意識”這個觀點(diǎn)，你認(rèn)為呢？
參考鏈接：
[1]futurism/conscious-ai-backlash
[2]weibo/5124470749/LfhTasFiP
[3]特別linkedin/in/ilya-sutskever/
[4]twitter/ilyasut/status/1491554478243258368
[5]twitter/sama/status/1492645047585570816
[6]en.wikipedia.org/wiki/Ilya_Sutskever
[7]openai/blog/authors/ilya/
[8]gist.github/moyix/267d122f9d92268e3432b05f08976816
— 完 —
量子位 QbitAI · 頭條號簽約
我們，第壹時間獲知前沿科技動態(tài)
