您的位置:首頁 > 資訊 > 行情 >
ChatGPT“狂飆”引擔(dān)憂 AI發(fā)展需“備剎車” 全球速看料
來源:光明網(wǎng) 2023-03-31 09:12:45

經(jīng)常跑高速的朋友大概都有這樣的體會,在急彎或者長下坡的路段,路旁一般會有“請試剎車”的警示語,甚至有些路段還有備用車道,目的就是降低駕駛過程中出現(xiàn)的風(fēng)險,說白了就是在加油的同時不要忘記備剎車。

最近,ChatGPT相關(guān)的討論一度成為熱議話題,很多人都躍躍欲試,向其提出各種問題,似乎它都能給出令人滿意的答案,甚至已經(jīng)有人開始利用這個程序替自己完成部分工作,比如撰寫論文。


(相關(guān)資料圖)

在前不久組織的一次科普座談會上,有專家表示以ChatGPT為代表的人工智能會給科普創(chuàng)作帶來一定的挑戰(zhàn),因為隨著大規(guī)模語言模型的日趨成熟,普通讀者可能難以區(qū)分哪些作品是由人工智能生產(chǎn)出來的。當(dāng)然,在科普作品的情感方面,也許人工智能還不能比肩人類這個物種,但是它給我們帶來的挑戰(zhàn)仍然不能忽視。實際上,隨著人工智能產(chǎn)品不斷融入甚至是侵入生活的各個角落,有關(guān)人工智能將給人類帶來哪些挑戰(zhàn)的討論也日漸多了起來,當(dāng)然也有人會擔(dān)心它會讓很多人失業(yè)。

日前,包括圖靈獎得主約書亞·本吉奧、計算機科學(xué)家斯圖爾特·羅素以及特斯拉創(chuàng)始人馬斯克在內(nèi)的千余名專家人士在宇宙學(xué)家泰格馬克等人創(chuàng)辦的未來生命研究所網(wǎng)站上發(fā)表了一封呼吁暫停訓(xùn)練比GPT4更強大的AI系統(tǒng)的公開信。他們認為最近幾個月來人工智能領(lǐng)域已陷入一場幾近失控的競賽,我們到了給巨型AI研究按下暫停鍵的時候了。

在《2001太空漫游》中,作者寫過這樣一句話:“任何足夠先進的科技,都與魔法無異?!币訡hatGPT為代表的人工智能應(yīng)用就如魔法一般,你提出一個問題,它能在很短的時間完成任務(wù),當(dāng)然其中也有一本正經(jīng)胡說八道的內(nèi)容,但是對于不明就里的普通公眾而言,它確實就像變戲法,這也暗合了卡爾·薩根的那句話,“我們生活在一個完全依賴科學(xué)和技術(shù)的社會中,然而幾乎沒有人了解這些科學(xué)和技術(shù)”。

確實,人工智能便捷了我們的生活,比如在交通行業(yè),人工智能助力自動駕駛汽車已經(jīng)開始上路。借助人工智能技術(shù),汽車可以處理大量復(fù)雜道路、行人和其他車輛的信息,并據(jù)此得出行駛路線的智能決策;在金融行業(yè),人工智能技術(shù)可以生成金融分析模型,并且可以對歷史信息進行整合,以便在征信和風(fēng)控領(lǐng)域進行輔助;在醫(yī)療行業(yè),人工智能技術(shù)可以通過對海量歷史數(shù)據(jù)的挖掘,協(xié)助醫(yī)生完成診斷,還可以通過對醫(yī)療影像數(shù)據(jù)的分析計算初步得出病理分析……

但是,在我們享受人工智能這種便捷服務(wù)的同時,也不能忽視它可能給我們帶來的挑戰(zhàn)。比如前不久剛剛發(fā)生的AI一鍵脫衣功能給當(dāng)事人帶來的傷害,這樣的例子可能還有不少。

從科技向善的角度來說,我們有必要關(guān)注和研究新技術(shù)應(yīng)該保持在一個什么樣合理的范圍內(nèi),才更符合全體人類的發(fā)展利益,這其實是一種立場和價值導(dǎo)向的問題,當(dāng)然這應(yīng)該是全人類共同持有的一種警覺,但是從研發(fā)者的視角來說,至少應(yīng)該把“科技向善”作為一個終極目標,在最大的范圍內(nèi)尋求共識和解決方案,引導(dǎo)人工智能產(chǎn)品釋放最大的人性之善,實現(xiàn)社會的良性發(fā)展。也就是說,人工智能產(chǎn)品需要以為人服務(wù)為宗旨,不能脫離開人類社會的全面發(fā)展這個基本目標。

實際上,從阿西莫夫的機器人三定律開始,人工智能的倫理問題就一直得到了特別的關(guān)注,但是就目前的發(fā)展速度來看,隨著對人工智能投入和研發(fā)力度的不斷加大,也許人工智能產(chǎn)品通過圖靈測試只是時間問題,但是我們也應(yīng)該從倫理道德、法律規(guī)章等較多做好相應(yīng)的機制建設(shè),讓人工智能產(chǎn)品在造福人類福祉的道路上正常行駛,甚至必要的時候我們需要有一個“剎車”,畢竟在低頭拉車的同時,我們也需要抬頭看路,想想為什么出發(fā)。

這也讓人想起了1975年在加利福尼亞阿西羅馬會議中心舉辦的最著名的阿西羅馬會議,其正式的名稱是重組DNA分子國際會議。會上有超過100位頂尖科學(xué)家——其中大部分都是生物學(xué)家,和眾多律師以及物理學(xué)家(以及報刊的成員)齊聚一堂共同提出對重組DNA技術(shù)(也被稱為基因修飾)進行自我約束的指南??梢哉J為,該會議起源于科學(xué)家自己對研究的關(guān)切,會議研究并公布了一系列原則,旨在處理與重組DNA技術(shù)相關(guān)的潛在危害。同時,該會議是科學(xué)家們的一種自我規(guī)制,同時也有助于建立公眾的信心,即在科學(xué)家采用的預(yù)防性措施方面,科學(xué)還是有用的。

想到日前發(fā)布的呼吁暫停訓(xùn)練比GPT4更強大的AI系統(tǒng)的公開信,我們并不知道它是否會起到作用,但是至少我們需要去思考這樣一個問題,同時也應(yīng)該考慮在加油的時候別忘了備剎車。

(作者系中國科普研究所副研究員、中國科普作家協(xié)會理事)

王大鵬

光明網(wǎng)

關(guān)鍵詞:
相關(guān)文章
今年煤炭需求將保持適度增加

今年煤炭需求將保持適度增加

  3月28日,中國煤炭工業(yè)協(xié)會發(fā)布《2022煤炭行業(yè)發(fā)展年度報告》(下稱《報告》)顯示,2022年全國原煤產(chǎn)量456億噸,創(chuàng)歷史新高。截至2022年12更多

2023-03-30 10:18:05
3月第三周天津市煤炭價格整體趨穩(wěn)

3月第三周天津市煤炭價格整體趨穩(wěn)

  據(jù)天津市市場運行監(jiān)測數(shù)據(jù)顯示,3月份第三周(3月13日-3月19日),天津市煤炭均價為732元噸,環(huán)比持平。本周市場價格整體趨穩(wěn)。煤價以波動更多

2023-03-30 09:54:33
3月第三周陜西省煤炭均價微跌

3月第三周陜西省煤炭均價微跌

  據(jù)商務(wù)部重要生產(chǎn)資料市場監(jiān)測系統(tǒng)顯示,3月11日至3月17日,陜西省煤炭均價15958元噸,環(huán)比下跌12%。其中:煙煤15063元噸,環(huán)比下跌13%;更多

2023-03-30 10:16:55
CCTD:煤炭價格見底了嗎?

CCTD:煤炭價格見底了嗎?

  近期煤炭市場進入傳統(tǒng)淡季,下游采購意愿不強,產(chǎn)地及港口市場價格出現(xiàn)小幅松動,市場預(yù)期本周大企業(yè)外購價格或有小幅下跌,但昨日大企業(yè)更多

2023-03-30 10:07:50
中煤協(xié):煤炭生產(chǎn)重心加快向晉陜蒙新等地區(qū)集中|環(huán)球視訊

中煤協(xié):煤炭生產(chǎn)重心加快向晉陜蒙新等地區(qū)集中|

  3月28日,中國煤炭工業(yè)協(xié)會發(fā)布2022煤炭行業(yè)發(fā)展年度報告。報告指出,10年來,煤炭生產(chǎn)開發(fā)布局深度調(diào)整,部分省(市)由于煤炭資源枯竭、更多

2023-03-29 11:03:14
浩吉鐵路煤炭運輸突破2億噸

浩吉鐵路煤炭運輸突破2億噸

  3月28日,隨著滿載8000噸煤炭的71453次列車從國鐵西安局靖邊東站緩緩駛出,浩吉鐵路煤炭運量正式突破2億噸大關(guān),能源運輸大通道作用進一步更多

2023-03-29 11:09:24
今年我國煤炭市場供需將保持基本平衡

今年我國煤炭市場供需將保持基本平衡

  預(yù)計今年我國煤炭市場供需將保持基本平衡態(tài)勢,煤炭需求將保持適度增加,煤炭產(chǎn)量將保持增長、增幅回落,進口煤進一步發(fā)揮調(diào)節(jié)補充國內(nèi)煤更多

2023-03-29 11:15:27
“疆煤進寧”首列車在洗選中心裝運成功|滾動

“疆煤進寧”首列車在洗選中心裝運成功|滾動

  伴隨著一聲清脆的鳴笛,3月24日下午17點20分,裝滿新疆煤的火車從洗選中心清水營洗煤廠裝車站鐵路轉(zhuǎn)運線緩緩駛出發(fā)往黃驊港,疆煤進寧首列更多

2023-03-29 09:53:23
全球通訊!安徽省開展煤礦安全生產(chǎn)綜合整治

全球通訊!安徽省開展煤礦安全生產(chǎn)綜合整治

  安徽省能源局消息,安徽省聚焦重大災(zāi)害治理、重大風(fēng)險管控等重點任務(wù),于今年3月至12月開展煤礦安全生產(chǎn)綜合整治。  整治期間,將集中開更多

2023-03-29 09:56:05
煤炭保供如何防范產(chǎn)能過剩?中煤協(xié):研究建立“彈性產(chǎn)能”機制 全球新視野

煤炭保供如何防范產(chǎn)能過剩?中煤協(xié):研究建立“彈

  中國煤炭工業(yè)協(xié)會28日召開新聞發(fā)布會,發(fā)布2022年煤炭經(jīng)濟運行情況及2023年市場走勢預(yù)測?! ∶禾渴袌霈F(xiàn)貨價格向合理區(qū)間回歸  2022年更多

2023-03-29 10:03:27
熱門
關(guān)注