經(jīng)常跑高速的朋友大概都有這樣的體會，在急彎或者長下坡的路段，路旁一般會有“請試剎車”的警示語，甚至有些路段還有備用車道，目的就是降低駕駛過程中出現(xiàn)的風(fēng)險，說白了就是在加油的同時不要忘記備剎車。

最近，ChatGPT相關(guān)的討論一度成為熱議話題，很多人都躍躍欲試，向其提出各種問題，似乎它都能給出令人滿意的答案，甚至已經(jīng)有人開始利用這個程序替自己完成部分工作，比如撰寫論文。

(相關(guān)資料圖)

在前不久組織的一次科普座談會上，有專家表示以ChatGPT為代表的人工智能會給科普創(chuàng)作帶來一定的挑戰(zhàn)，因為隨著大規(guī)模語言模型的日趨成熟，普通讀者可能難以區(qū)分哪些作品是由人工智能生產(chǎn)出來的。當(dāng)然，在科普作品的情感方面，也許人工智能還不能比肩人類這個物種，但是它給我們帶來的挑戰(zhàn)仍然不能忽視。實際上，隨著人工智能產(chǎn)品不斷融入甚至是侵入生活的各個角落，有關(guān)人工智能將給人類帶來哪些挑戰(zhàn)的討論也日漸多了起來，當(dāng)然也有人會擔(dān)心它會讓很多人失業(yè)。

日前，包括圖靈獎得主約書亞·本吉奧、計算機科學(xué)家斯圖爾特·羅素以及特斯拉創(chuàng)始人馬斯克在內(nèi)的千余名專家人士在宇宙學(xué)家泰格馬克等人創(chuàng)辦的未來生命研究所網(wǎng)站上發(fā)表了一封呼吁暫停訓(xùn)練比GPT4更強大的AI系統(tǒng)的公開信。他們認為最近幾個月來人工智能領(lǐng)域已陷入一場幾近失控的競賽，我們到了給巨型AI研究按下暫停鍵的時候了。

在《2001太空漫游》中，作者寫過這樣一句話：“任何足夠先進的科技,都與魔法無異?！币訡hatGPT為代表的人工智能應(yīng)用就如魔法一般，你提出一個問題，它能在很短的時間完成任務(wù)，當(dāng)然其中也有一本正經(jīng)胡說八道的內(nèi)容，但是對于不明就里的普通公眾而言，它確實就像變戲法，這也暗合了卡爾·薩根的那句話，“我們生活在一個完全依賴科學(xué)和技術(shù)的社會中，然而幾乎沒有人了解這些科學(xué)和技術(shù)”。

確實，人工智能便捷了我們的生活，比如在交通行業(yè)，人工智能助力自動駕駛汽車已經(jīng)開始上路。借助人工智能技術(shù)，汽車可以處理大量復(fù)雜道路、行人和其他車輛的信息，并據(jù)此得出行駛路線的智能決策；在金融行業(yè)，人工智能技術(shù)可以生成金融分析模型，并且可以對歷史信息進行整合，以便在征信和風(fēng)控領(lǐng)域進行輔助；在醫(yī)療行業(yè)，人工智能技術(shù)可以通過對海量歷史數(shù)據(jù)的挖掘，協(xié)助醫(yī)生完成診斷，還可以通過對醫(yī)療影像數(shù)據(jù)的分析計算初步得出病理分析……

但是，在我們享受人工智能這種便捷服務(wù)的同時，也不能忽視它可能給我們帶來的挑戰(zhàn)。比如前不久剛剛發(fā)生的AI一鍵脫衣功能給當(dāng)事人帶來的傷害，這樣的例子可能還有不少。

從科技向善的角度來說，我們有必要關(guān)注和研究新技術(shù)應(yīng)該保持在一個什么樣合理的范圍內(nèi)，才更符合全體人類的發(fā)展利益，這其實是一種立場和價值導(dǎo)向的問題，當(dāng)然這應(yīng)該是全人類共同持有的一種警覺，但是從研發(fā)者的視角來說，至少應(yīng)該把“科技向善”作為一個終極目標，在最大的范圍內(nèi)尋求共識和解決方案，引導(dǎo)人工智能產(chǎn)品釋放最大的人性之善，實現(xiàn)社會的良性發(fā)展。也就是說，人工智能產(chǎn)品需要以為人服務(wù)為宗旨，不能脫離開人類社會的全面發(fā)展這個基本目標。

實際上，從阿西莫夫的機器人三定律開始，人工智能的倫理問題就一直得到了特別的關(guān)注，但是就目前的發(fā)展速度來看，隨著對人工智能投入和研發(fā)力度的不斷加大，也許人工智能產(chǎn)品通過圖靈測試只是時間問題，但是我們也應(yīng)該從倫理道德、法律規(guī)章等較多做好相應(yīng)的機制建設(shè)，讓人工智能產(chǎn)品在造福人類福祉的道路上正常行駛，甚至必要的時候我們需要有一個“剎車”，畢竟在低頭拉車的同時，我們也需要抬頭看路，想想為什么出發(fā)。

這也讓人想起了1975年在加利福尼亞阿西羅馬會議中心舉辦的最著名的阿西羅馬會議，其正式的名稱是重組DNA分子國際會議。會上有超過100位頂尖科學(xué)家——其中大部分都是生物學(xué)家，和眾多律師以及物理學(xué)家（以及報刊的成員）齊聚一堂共同提出對重組DNA技術(shù)（也被稱為基因修飾）進行自我約束的指南?？梢哉J為，該會議起源于科學(xué)家自己對研究的關(guān)切，會議研究并公布了一系列原則，旨在處理與重組DNA技術(shù)相關(guān)的潛在危害。同時，該會議是科學(xué)家們的一種自我規(guī)制，同時也有助于建立公眾的信心，即在科學(xué)家采用的預(yù)防性措施方面，科學(xué)還是有用的。

想到日前發(fā)布的呼吁暫停訓(xùn)練比GPT4更強大的AI系統(tǒng)的公開信，我們并不知道它是否會起到作用，但是至少我們需要去思考這樣一個問題，同時也應(yīng)該考慮在加油的時候別忘了備剎車。

（作者系中國科普研究所副研究員、中國科普作家協(xié)會理事）

王大鵬

光明網(wǎng)