(相關(guān)資料圖)

《中國(guó)經(jīng)濟(jì)周刊》首席評(píng)論員 鈕文新

如果科技發(fā)展不講人類(lèi)的倫理，核武器、生化武器變成常規(guī)武器，那人類(lèi)將會(huì)遭遇怎樣的命運(yùn)？實(shí)際上，科技發(fā)展一直伴隨著倫理的討論和約束?，F(xiàn)在，人工智能面臨同樣的問(wèn)題。試想，如果ChatGPT可以謀劃出殺人越貨、搶劫銀行的最佳路徑等幫助不法分子作案，那這個(gè)社會(huì)將會(huì)變成什么樣子？

最新的消息是：生命未來(lái)研究所（Future of Life）向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。與此同時(shí)，由馬斯克領(lǐng)銜，硅谷1000多位企業(yè)家、科學(xué)家也聯(lián)名發(fā)出呼吁，他們認(rèn)為：全社會(huì)都在為AI的進(jìn)化而歡呼雀躍，但全新的、意想不到的風(fēng)險(xiǎn)可能也正在悄悄醞釀。3月22日，生命未來(lái)研究所稱(chēng)：我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)，將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)確保強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的才能繼續(xù)開(kāi)發(fā)。

這項(xiàng)呼吁得到廣泛支持，而更為普遍的認(rèn)知是：需要先為人工智能技術(shù)發(fā)展立法。所謂先立法、后發(fā)展的主張，實(shí)際就是確信，人工智能技術(shù)的發(fā)展，必須接受人類(lèi)倫理約束。但也有反對(duì)聲音認(rèn)為，科技發(fā)展一旦被各種條文捆住手腳，那它的發(fā)展就會(huì)被大打折扣。那到底應(yīng)當(dāng)如何是好？應(yīng)當(dāng)說(shuō)，人工智能超越了歷史任何一次科技進(jìn)步對(duì)人類(lèi)倫理的沖擊，非比尋常。發(fā)展慢一點(diǎn)，健康一點(diǎn)，總比它大規(guī)模突破人類(lèi)倫理底線而泛濫成災(zāi)要好。

中國(guó)對(duì)科技發(fā)展的倫理約束非常重視。2022年3月，中共中央辦公廳、國(guó)務(wù)院辦公廳應(yīng)當(dāng)前和未來(lái)科技發(fā)展趨勢(shì)，印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》。深刻體現(xiàn)了生命至上和人民至上理念，系統(tǒng)論述了全面提升科技倫理治理能力和完善科技倫理治理體系的具體措施，繪制了為健全科技倫理治理體系提供制度保障的路線圖，為我國(guó)抓住第四次技術(shù)革命的發(fā)展機(jī)遇，系統(tǒng)防控科技研發(fā)與推廣應(yīng)用過(guò)程中的潛在風(fēng)險(xiǎn)，引領(lǐng)高質(zhì)量發(fā)展和加快數(shù)字化轉(zhuǎn)型提供了價(jià)值導(dǎo)向。

毫無(wú)疑問(wèn)，我們當(dāng)然不能藐視或拒絕人工智能的研究，但中國(guó)未來(lái)的人工智能研究應(yīng)當(dāng)具備怎樣的特點(diǎn)？具備怎樣的功能？至少我們應(yīng)當(dāng)明確一個(gè)粗淺的道理：無(wú)論是怎樣的技術(shù)革命，它都必須是為人類(lèi)謀幸福，而不是相反。尤其是今天，當(dāng)科技發(fā)展開(kāi)始挑戰(zhàn)人類(lèi)智力極限之時(shí)，發(fā)展過(guò)程中的利弊權(quán)衡則顯得更為重要。為此，我們必須時(shí)時(shí)拷問(wèn)：我們需要怎樣的人工智能？

責(zé)編：姚坤

（版權(quán)屬《中國(guó)經(jīng)濟(jì)周刊》雜志社所有，任何媒體、網(wǎng)站或個(gè)人未經(jīng)授權(quán)不得轉(zhuǎn)載、摘編、鏈接、轉(zhuǎn)貼或以其他方式使用。）

關(guān)鍵詞：