中國(guó)作家協(xié)會(huì)主管

12月14日，2023年《自然》年度10大人物（Nature's 10）正式揭曉，除了從全球重大科學(xué)事件中評(píng)選出的10位人物——5位男性，5位女性，今年還有1位非人類上榜——美國(guó)人工智能公司OpenAI發(fā)布的聊天機(jī)器人ChatGPT。

事實(shí)上，ChatGPT應(yīng)當(dāng)是榮登《自然》11大人物，這本身就改變了歷史，也改變了《自然》的評(píng)和選規(guī)則。改變《自然》的規(guī)則還體現(xiàn)在，ChatGPT并非自然人，但是《自然》又把它當(dāng)成自然人。

當(dāng)然，ChatGPT改變歷史的不只是《自然》的規(guī)則，而是與其他10大人物一樣可能對(duì)人類社會(huì)產(chǎn)生巨大的影響，并改變歷史的進(jìn)程?！蹲匀弧吩u(píng)選的10大人物其實(shí)并不亞于每年的諾貝爾獎(jiǎng)獲得者，因?yàn)樗麄兌际歉鱾€(gè)領(lǐng)域的佼佼者和卓有貢獻(xiàn)者，而且范圍比諾貝爾獎(jiǎng)還廣泛，包括自然、人文和社會(huì)各個(gè)領(lǐng)域，如這次的10大人物之一有巴西的環(huán)境部長(zhǎng)瑪麗娜·席爾瓦（Marina Silva），理由是她守護(hù)亞馬遜雨林。

對(duì)于為何要將ChatGPT 評(píng)選為《自然》11大人物，該雜志編輯部的理由是：“雖然（ChatGPT）這個(gè)工具不算人物，也不完全滿足《自然》10大人物的評(píng)選條件，但我們將其破例納入榜單，以承認(rèn)生成式人工智能給科學(xué)發(fā)展和進(jìn)步帶來(lái)的巨大改變?！?/p>

實(shí)際上，ChatGPT比《自然》評(píng)選的任何人物的知名度和影響力更大，而且對(duì)未來(lái)人類社會(huì)的影響更為巨大和深遠(yuǎn)，因此ChatGPT應(yīng)當(dāng)算是11大人物之首。從2022年11月ChatGPT作為免費(fèi)使用的自動(dòng)對(duì)話代理（聊天機(jī)器人）發(fā)布以來(lái)，就一直占領(lǐng)著全球各種新聞?lì)^條，不只是科學(xué)界，整個(gè)社會(huì)都切身感受到其震撼人心的影響。

ChatGPT不是一個(gè)人，但他是千萬(wàn)個(gè)人，是無(wú)數(shù)人的集結(jié)和投影。美國(guó)的OpenAI公司創(chuàng)建了ChatGPT，它的基礎(chǔ)和建材是擁有數(shù)千億參數(shù)的神經(jīng)網(wǎng)絡(luò)，這個(gè)神經(jīng)網(wǎng)絡(luò)是建立在一個(gè)巨大的在線書(shū)籍和文檔語(yǔ)料庫(kù)上并進(jìn)行訓(xùn)練，估計(jì)耗資數(shù)千萬(wàn)美元。還有大量研究人員、編輯評(píng)估它的回答，以進(jìn)一步完善和塑造其輸出的內(nèi)容。2023年，OpenAI升級(jí)了ChatGPT的底層大型語(yǔ)言模型（LLM），并將其與其他程序連接起來(lái)，以便該工具可以接收和創(chuàng)建圖像。

這也意味著ChatGPT是一個(gè)目前為止最有實(shí)力也最有知識(shí)的百科全書(shū)式的“巨人”，它勝過(guò)無(wú)數(shù)的教授、學(xué)者、工程師、作家、醫(yī)生、藥劑師、會(huì)計(jì)、精算師、設(shè)計(jì)師、記者和幾乎所有人類的專業(yè)人員。因此，《自然》將其列為年度十一大人物有充分的理由，有誰(shuí)能勝過(guò)或強(qiáng)大于有數(shù)千億參數(shù)的神經(jīng)網(wǎng)絡(luò)的ChatGPT呢？

盡管ChatGPT看起來(lái)十分強(qiáng)大，但從某種角度看，它也不過(guò)是一個(gè)泥足巨人，在應(yīng)對(duì)很多簡(jiǎn)單的問(wèn)題上，并不如一位活生生的自然人。原因有很多，如缺少背景，訓(xùn)練它的知識(shí)有限等，但最重要的是，它所獲得的知識(shí)和訓(xùn)練以及輸出的信息都是不確定的，因?yàn)樗鼪](méi)有像人那樣可以明察人類社會(huì)世事和自然的分辨能力，以及邏輯推理能力，當(dāng)然更缺少人類的情感。它不會(huì)像一位小學(xué)老師教學(xué)生時(shí)會(huì)極其肯定的說(shuō)，3+2等于5。如果你挑逗一下ChatGPT說(shuō)，我老婆說(shuō)3+2等于6，老婆一定是對(duì)的。于是，ChatGPT會(huì)馬上改口說(shuō)，抱歉，我錯(cuò)了，3+2應(yīng)該等于6。

當(dāng)然，ChatGPT的重大作用和巨大功能已經(jīng)獲得人類認(rèn)同，而且它將成為人類最重要的工具之一，無(wú)論是幫助人們撰寫(xiě)和生產(chǎn)各類產(chǎn)品，如各種文本、編寫(xiě)程序和代碼，創(chuàng)作圖畫(huà)，設(shè)計(jì)藥物和疫苗等，都是既快又有一定水準(zhǔn)。但是，ChatGPT的局限和弊病也是顯而易見(jiàn)的。

有趣的是，此次《自然》的11大人物之一也有ChatGPT的創(chuàng)造者伊利亞·蘇茨克維（Ilya Sutskever）。蘇茨克維對(duì)ChatGPT和其他AI產(chǎn)品是抱有較大的戒備心的，因此，在對(duì)待自己所創(chuàng)建的ChatGPT上是比較保守的。他認(rèn)為，ChatGPT和其他AI如果不受到人類的有效控制，就有可能造成巨大風(fēng)險(xiǎn)和災(zāi)難。因此，他現(xiàn)在正通過(guò)OpenAI的 “超級(jí)對(duì)齊 ”項(xiàng)目專注于控制人工智能系統(tǒng)。而且，他認(rèn)為，OpenAI和其他一些公司應(yīng)將其代碼和訓(xùn)練數(shù)據(jù)保密，從長(zhǎng)遠(yuǎn)來(lái)看，封閉系統(tǒng)將避免讓他人制造出強(qiáng)大的人工智能，這是負(fù)責(zé)任的做法?！暗搅四硞€(gè)時(shí)候，人工智能的能力將變得如此巨大，以至于開(kāi)源模型顯然是不負(fù)責(zé)任的?！?/p>

蘇茨克維的觀點(diǎn)顯然與OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）不一致，并產(chǎn)生了OpenAI內(nèi)部的“宮斗”，后者先被解職，后來(lái)又復(fù)職。而奧特曼是極力主張將ChatGPT快速推向市場(chǎng)。但是，此次《自然》將蘇茨克維而非奧特曼評(píng)為11大人物，體現(xiàn)了《自然》的思考和趨向，ChatGPT和其他AI產(chǎn)品可以研發(fā)和使用，但是，一定要小心謹(jǐn)慎。

因?yàn)椋珻hatGPT除了會(huì)一本正經(jīng)地胡說(shuō)八道外，還有其他方方面面的錯(cuò)誤和隱憂，包括幫助作弊和剽竊，幫助詐騙，編造事實(shí)，發(fā)明參考文獻(xiàn)，照搬仇恨言論，傳播謠言等。另外，ChatGPT還會(huì)扮演任何對(duì)話者想要的角色，時(shí)而順從，時(shí)而迷人，時(shí)而有趣，時(shí)而令人恐懼。

所有這些，都是人類設(shè)計(jì)、訓(xùn)練和使用ChatGPT會(huì)產(chǎn)生的問(wèn)題，如果不對(duì)ChatGPT提供的產(chǎn)品和答案進(jìn)行人工審核和查證，就有可能出錯(cuò)，而且錯(cuò)得離譜。也因此，對(duì)于ChatGPT和其他AI軟件和工具，除了在技術(shù)上要不斷完善和改進(jìn)以適合現(xiàn)在人類的認(rèn)知和實(shí)際情況外，還需要法律的監(jiān)管。

2023年12月8日，歐盟委員會(huì)、歐洲議會(huì)和歐盟成員國(guó)代表就《人工智能法案》（AI Act）達(dá)成初步協(xié)議，新法案涉及包括ChatGPT在內(nèi)的通用目的AI系統(tǒng)。這是全球首份針對(duì)AI監(jiān)管的全面法規(guī)，意在保護(hù)人類基本權(quán)利和不阻礙人工智能行業(yè)發(fā)展之間尋求平衡。法案將AI系統(tǒng)分為低風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、不可接受風(fēng)險(xiǎn)、特定透明度風(fēng)險(xiǎn)等不同等級(jí)，按照風(fēng)險(xiǎn)級(jí)別制定相應(yīng)規(guī)定。

因此，《自然》將ChatGPT列為本年度11大人物不只是因?yàn)樗鼤?huì)成為人類最好的幫手，而且對(duì)它的應(yīng)用也是人類現(xiàn)在和未來(lái)最大和最艱巨的挑戰(zhàn)之一。