中國(guó)作家協(xié)會(huì)主管

從左至右：《人工智能：馴服賽維坦》《人工智能倫理引論》《人類未來(lái)》。均出版社供圖

剛剛結(jié)束的2020世界人工智能大會(huì)上，包括7位圖靈獎(jiǎng)得主、1位諾貝爾獎(jiǎng)得主、62位中外頂級(jí)院士在內(nèi)的550余位嘉賓探討了人工智能技術(shù)的未來(lái)。伴隨著人工智能的高速發(fā)展，與倫理、責(zé)任相關(guān)的問(wèn)題亦浮出水面。近期，上海交通大學(xué)出版社集中推出了《人工智能倫理引論》《人類未來(lái)》《人工智能：馴服賽維坦》等一批與AI相關(guān)新書(shū)，從道德倫理層面上探討了人工智能與人類的未來(lái)，并提出：人工智能的發(fā)展，人文社科學(xué)者和思想家們不能缺席。

根據(jù)分析報(bào)告，到2030年，全球得益于人工智能推動(dòng)的經(jīng)濟(jì)增長(zhǎng)將高達(dá)15.7萬(wàn)億美元，而中國(guó)將占7萬(wàn)億美元。人工智能在教育、醫(yī)療、居家、養(yǎng)老、交通等方方面面都將極大地提高人類生活質(zhì)量，勢(shì)必帶來(lái)一場(chǎng)前所未見(jiàn)的科技和產(chǎn)業(yè)革命。但同時(shí)，也有不少人對(duì)人工智能技術(shù)發(fā)展可能帶來(lái)的問(wèn)題憂心忡忡。

人工智能實(shí)現(xiàn)后，它們會(huì)接受人類的道德觀念，還是發(fā)展出自己的道德觀？未來(lái)的人類如何與具備自主思維能力的人工智能相處？人類會(huì)與具備情感能力的機(jī)器人結(jié)為伴侶嗎？老人死后會(huì)把遺產(chǎn)留給一直在身邊照顧自己的智慧機(jī)器人嗎？在新出版的《人工智能倫理引論》一書(shū)中，上海交通大學(xué)杜嚴(yán)勇教授對(duì)人工智能可能帶來(lái)的問(wèn)題進(jìn)行了深入思考。他從機(jī)器人權(quán)利、機(jī)器人道德能力的建構(gòu)以及人工智能安全問(wèn)題等著手，提出了人工智能倫理問(wèn)題的解決進(jìn)路，包括道德責(zé)任、倫理設(shè)計(jì)、自反性倫理治理等內(nèi)容，探討人工智能為什么發(fā)展以及怎樣才算是理想發(fā)展的問(wèn)題。這是目前國(guó)內(nèi)較為全面且深入闡述人工智能倫理學(xué)意義和實(shí)操案例的著作。

“要應(yīng)對(duì)全球威脅，需要更多的技術(shù)，但這些技術(shù)需要社會(huì)學(xué)和倫理道德的引導(dǎo)?！痹蝿虼髮W(xué)三一學(xué)院院長(zhǎng)和天文研究所所長(zhǎng)的英國(guó)皇家天文學(xué)家馬丁·里斯在《人類未來(lái)》一書(shū)如是強(qiáng)調(diào)。馬丁·里斯雖然樂(lè)觀預(yù)測(cè)了人類運(yùn)用科學(xué)技術(shù)修復(fù)受傷的星球、改善生活狀況的前景，但同時(shí) “謹(jǐn)以科學(xué)家、同時(shí)也是人類中的一名焦慮者的身份”去討論未來(lái)人類可能面對(duì)的問(wèn)題。例如，隨著計(jì)算機(jī)技術(shù)、人工智能、生物技術(shù)等的發(fā)展，如若“插入”擴(kuò)展記憶或?qū)⒄Z(yǔ)言技能直接輸入大腦等成為現(xiàn)實(shí)，那么，“我是誰(shuí)”這樣的哲學(xué)問(wèn)題也因技術(shù)的發(fā)展而出現(xiàn)了新的語(yǔ)境，實(shí)際的人與“可能存在的人”的關(guān)系、機(jī)器智能與有機(jī)智能的關(guān)系等都成為新的倫理課題。

而《人工智能：馴服賽維坦》一書(shū)，則從產(chǎn)業(yè)格局、社會(huì)公正和人文倫理的層面，討論了人工智能的未來(lái)與我們每一個(gè)人，及與社會(huì)之間喜憂參半的關(guān)系。例如有學(xué)者就指出，大數(shù)據(jù)的未來(lái)不能僅僅掌握在那些數(shù)據(jù)公司手中。同樣的，人工智能和人工智能的未來(lái)也不能僅僅掌握在自然科學(xué)家、工程師和科技公司手中。因?yàn)檫@不僅是科技和科學(xué)家的未來(lái)，也是整個(gè)人類的未來(lái)。科學(xué)家和工程師可以掌控科技發(fā)展的技術(shù)走向，但不一定能深刻地理解科技對(duì)人類的復(fù)雜性影響。人文社科學(xué)者和思想家們不能缺席，而應(yīng)該主動(dòng)參與到影響人類命運(yùn)和人類發(fā)展的大討論中。同時(shí)，書(shū)中提出的“趣緣合作”“數(shù)據(jù)生命體”“算法獨(dú)裁”“透明人”等一系列科技與人文碰撞而生的概念也十分有趣耐讀。