一封公開信，突然引爆全球科技圈！

3月29日，未來生命研究所(Future of Life Institute)的一封公開信，在全球科技圈引發(fā)熱議。信中呼吁，所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。截至目前，這封信已有超過1000名科技領(lǐng)袖和研究人員簽名，其中包括，馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫沃茲尼亞克等。

令人玩味的是，3月29日下午，有網(wǎng)友發(fā)現(xiàn)OpenAI CEO Sam Altman的名字也出現(xiàn)在“呼吁暫停大型AI訓(xùn)練”的公開信上。但據(jù)媒體報(bào)道，Sam Altman的名字曾短暫出現(xiàn)后，便迅速從簽名者名單中消失。

(資料圖)

當(dāng)日午后，A股市場(chǎng)一度爆火的人工智能概念集體啞火，掌閱科技大跌超5%，昆侖萬維、川大智勝、中文在線等熱門股集體轉(zhuǎn)跌，海天瑞聲、光云科技的漲幅亦明顯收窄。有機(jī)構(gòu)提示，除了留意板塊的交易擁擠度提升帶來的波動(dòng)風(fēng)險(xiǎn)外，高位股回調(diào)也是一個(gè)值得關(guān)注的風(fēng)險(xiǎn)。

“立刻暫停AI研究”

超級(jí)火爆的人工智能，正在科學(xué)界引起了廣泛的警惕和擔(dān)憂。

3月29日，未來生命研究所(Future of Life Institute)的一封公開信，在全球科技圈引發(fā)熱議。信中呼吁，所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。這種暫停應(yīng)該是公開的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并實(shí)行暫停。

信中寫道，廣泛的研究表明，具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。

需要指出的是，這份題為《暫停巨型AI實(shí)驗(yàn)》的公開信發(fā)布于23日，于29日解封。

據(jù)官網(wǎng)介紹，生命未來研究所創(chuàng)立于2014年，位于美國(guó)波士頓，是一個(gè)非營(yíng)利組織。該研究所成立的目的一方面是為了促進(jìn)對(duì)“未來樂觀圖景”的研究，一方面則是為了“降低人類面臨的現(xiàn)存風(fēng)險(xiǎn)”。其中，在開發(fā)與人類相當(dāng)?shù)娜斯ぶ悄芗夹g(shù)過程中出現(xiàn)的風(fēng)險(xiǎn)，是該所關(guān)注的重點(diǎn)。

該機(jī)構(gòu)在信中指出，只有當(dāng)確保強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的才能繼續(xù)開發(fā)。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。

當(dāng)?shù)貢r(shí)間3月28日，據(jù)路透社報(bào)道，截至目前，這封信已有1000多名科技領(lǐng)袖和研究人員簽名，其中包括馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫沃茲尼亞克、Stability AI首席執(zhí)行官Emad Mostaque、谷歌旗下DeepMind的研究人員，以及AI重量級(jí)人物 Yoshua Bengio和Stuart Russell呼吁暫停高級(jí)AI開發(fā)，直到此類設(shè)計(jì)的共享安全協(xié)議由獨(dú)立專家開發(fā)、實(shí)施和審核。

據(jù)美國(guó)《時(shí)代周刊》報(bào)道，截至當(dāng)?shù)貢r(shí)間周二，沒有OpenAI員工在這封信上簽名，盡管CEO Sam Altman的名字曾短暫出現(xiàn)，然后從簽名者名單中消失。報(bào)道指出，暫時(shí)無法驗(yàn)證所有簽名都是真實(shí)的。

值得一提的是，OpenAI CEO Sam Altman在與MIT研究科學(xué)家Lex Fridman的最新對(duì)話中指出，AI已經(jīng)出現(xiàn)其無法解釋的推理能力，同時(shí)承認(rèn)“AI殺死人類”有一定可能性。

同時(shí)，被稱為“人工智能教父”的杰弗里·辛頓(Geoffrey Hinton)，在最新的采訪中表示，人工智能可能發(fā)展到對(duì)人類構(gòu)成威脅“并非不可想象”的地步。

另外，AI“大?！鄙w瑞·馬庫斯28日發(fā)表題為“人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn)”的文章稱，超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫，但在短期內(nèi)，需要擔(dān)心“MAI(平庸人工智能)風(fēng)險(xiǎn)”。隨后，特斯拉創(chuàng)始人馬斯克在推特上表達(dá)了對(duì)辛頓、馬庫斯觀點(diǎn)的贊同。

當(dāng)?shù)貢r(shí)間3月27日，歐洲刑警組織發(fā)表題為《ChatGPT-大型語言模型對(duì)執(zhí)法的影響》的報(bào)告稱，人工智能聊天機(jī)器人ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚、宣傳虛假信息以及網(wǎng)絡(luò)犯罪，這加劇了外界對(duì)這一新興事物在法律、道德等方面的擔(dān)憂。

突然跳水

回到市場(chǎng)層面，3月29日早間，A股市場(chǎng)的人工智能板塊一度大爆發(fā)，海天瑞聲盤中暴漲20%，創(chuàng)出歷史新高，年內(nèi)漲幅一度擴(kuò)大至352%。

但當(dāng)日午后，人工智能概念大幅回落，掌閱科技大跌超5%，昆侖萬維、川大智勝、中文在線等熱門股集體轉(zhuǎn)跌，海天瑞聲、光云科技的漲幅亦明顯收窄。

隨著人工智能的火爆，市場(chǎng)資金也瘋狂涌入相關(guān)個(gè)股。據(jù)中信證券統(tǒng)計(jì)，上周之前，TMT板塊的日均成交額達(dá)到2400億元左右，占A股成交量的28.41%。而3月20日至27日期間，板塊的日均成交額則超4400億元，全市場(chǎng)占比達(dá)到了43.13%。

另外，據(jù)數(shù)據(jù)顯示，今年以來，場(chǎng)內(nèi)杠桿資金持續(xù)加碼A股，分行業(yè)來看，融資凈買入最高的正是TMT板塊，年內(nèi)累計(jì)凈買入已達(dá)到200億元，該行業(yè)目前融資余額已超過1000億元，排在A股全行業(yè)的第五位。

中信證券提示風(fēng)險(xiǎn)稱，對(duì)于高交易擁擠度的板塊，在享受其短期賺錢效應(yīng)的同時(shí)，不妨也“留一分清醒”，既要關(guān)注長(zhǎng)期的市場(chǎng)空間，也要留意短期的情緒溢價(jià)。除了留意板塊的交易擁擠度提升帶來的波動(dòng)風(fēng)險(xiǎn)外，高位股回調(diào)也是一個(gè)值得關(guān)注的風(fēng)險(xiǎn)。

另外，華創(chuàng)策略的最新報(bào)告指出，當(dāng)前TMT成交額占比已處2010年以來94%分位，歷史上強(qiáng)勢(shì)主題交易熱度快速上升，警惕短期觸頂后的回調(diào)風(fēng)險(xiǎn)。AIGC行情已經(jīng)處在拔估值第一階段尾聲，AIGC 交易已明顯過熱，基本面尚不明朗的背景下，對(duì)相關(guān)板塊超額收益的判斷仍需謹(jǐn)慎。

（文章來源：證券時(shí)報(bào)）