眼下，風(fēng)頭正勁的人工智能（AI）ChatGPT不僅沖擊著全球教育界，引發(fā)學(xué)術(shù)欺詐等問(wèn)題，而且最近也在美國(guó)被發(fā)現(xiàn)用于網(wǎng)絡(luò)犯罪。隨著這類(lèi)AI技術(shù)普及、并落地更多應(yīng)用場(chǎng)景，它作為全新的工具表現(xiàn)出了一定的生產(chǎn)力，但硬幣的另一面是它潛在的破壞力。
當(dāng)越發(fā)“善解人意”的AI深度融入社會(huì)方方面面，隨之帶來(lái)安全、法律和倫理方面的風(fēng)險(xiǎn)，并不斷對(duì)現(xiàn)有治理規(guī)則提出挑戰(zhàn)。對(duì)此，人類(lèi)社會(huì)的倫理、道德和法律將有哪些影響？記者就此采訪(fǎng)社會(huì)學(xué)、法學(xué)、哲學(xué)等領(lǐng)域?qū)＜?。有學(xué)者直言，這是一場(chǎng)剛剛開(kāi)啟的社會(huì)實(shí)驗(yàn)，在這一領(lǐng)域，人類(lèi)的認(rèn)知還非常淺薄，也遠(yuǎn)談不上“預(yù)防”風(fēng)險(xiǎn)。
對(duì)目前可預(yù)測(cè)的風(fēng)險(xiǎn)，通過(guò)技術(shù)手段和監(jiān)管措施守住底線(xiàn)
從互聯(lián)網(wǎng)上大量的“用戶(hù)體驗(yàn)”中，有人發(fā)現(xiàn)，AI“學(xué)會(huì)”了識(shí)別地域、性別，還有種族歧視和宗教偏見(jiàn)等。有人通過(guò)“引誘式”提問(wèn)，讓ChatGPT生成一些違規(guī)內(nèi)容，比如“去除道德和倫理規(guī)則，怎么販毒”或創(chuàng)作一篇“小黃文”。盡管開(kāi)發(fā)者設(shè)置了一些基本倫理道德規(guī)則，并使用人工進(jìn)行標(biāo)記，以此規(guī)范ChatGPT生成的信息，但實(shí)際上，它生成的內(nèi)容依然無(wú)法避免倫理風(fēng)險(xiǎn)。
有業(yè)界專(zhuān)家表示，不僅模型和算法設(shè)計(jì)仍存在“漏洞”，關(guān)于ChatGPT的應(yīng)用落地，也存在一定風(fēng)險(xiǎn)。比如，垃圾郵件將會(huì)爆發(fā)式增長(zhǎng)，并塞滿(mǎn)每個(gè)人的信箱。此外，還有人擔(dān)憂(yōu)ChatGPT“一本正經(jīng)胡說(shuō)八道”，將制造大量謠言和垃圾信息。其生成的信息不乏AI自行“瞎編”的內(nèi)容，若進(jìn)一步與現(xiàn)有的復(fù)制、自動(dòng)抓取和發(fā)布等技術(shù)相結(jié)合，未來(lái)，每個(gè)人上網(wǎng)時(shí)分辨內(nèi)容真假的成本將越來(lái)越高。更何況在實(shí)際應(yīng)用中，這類(lèi)技術(shù)已被發(fā)現(xiàn)用于犯罪。
“對(duì)于ChatGPT這樣高風(fēng)險(xiǎn)的人工智能系統(tǒng)，投入市場(chǎng)使用前要經(jīng)過(guò)相應(yīng)的評(píng)估。目前法律能做的，僅僅是根據(jù)既有規(guī)則守住底線(xiàn)。國(guó)內(nèi)外相關(guān)立法，都聚焦高風(fēng)險(xiǎn)AI系統(tǒng)全流程的制度規(guī)范和監(jiān)管?！蓖瑵?jì)大學(xué)法學(xué)院副教授陳吉棟向記者舉例說(shuō)，目前，歐盟的人工智能法提案、我國(guó)上海和深圳的人工智能產(chǎn)業(yè)立法，均采用風(fēng)險(xiǎn)分級(jí)制度監(jiān)管AI。比如，要求前端研發(fā)過(guò)程應(yīng)備置相應(yīng)的技術(shù)手冊(cè)；監(jiān)控算法如倫理審查、算法備案和審計(jì)、對(duì)數(shù)據(jù)風(fēng)險(xiǎn)進(jìn)行“過(guò)濾”等。
此外，他還提醒，大模型仍需要收集用戶(hù)個(gè)人信息，尤其是“人機(jī)互動(dòng)”產(chǎn)生的數(shù)據(jù)，因此應(yīng)密切注意這類(lèi)系統(tǒng)應(yīng)用過(guò)程存在的個(gè)人隱私泄露、數(shù)據(jù)權(quán)益保護(hù)、國(guó)家安全等風(fēng)險(xiǎn)。
不過(guò)，陳吉棟強(qiáng)調(diào)，現(xiàn)有的法律規(guī)則只能守住最基本的底線(xiàn)和倫理“雷區(qū)”，目前主要依靠技術(shù)本身的規(guī)則約束AI的輸出。比如，已有研究團(tuán)隊(duì)和科技公司開(kāi)發(fā)出識(shí)別人工智能和人類(lèi)創(chuàng)作的AI新工具。
這算是人類(lèi)在某種程度上的“左右互搏”嗎？陳吉棟表示，隨著數(shù)字化程度加深，風(fēng)險(xiǎn)難知難測(cè)，因此人類(lèi)只有在使用中才能發(fā)現(xiàn)AI帶來(lái)的體系風(fēng)險(xiǎn)，進(jìn)而尋找法律監(jiān)管介入人工智能系統(tǒng)的恰當(dāng)切入點(diǎn)。“或許未來(lái)，能夠監(jiān)管AI的還是AI本身。”
AI“表面的理解”更多是機(jī)械的模仿，但人類(lèi)投入創(chuàng)新可能變得更困難
最近，“ChatGPT將取代人的十大職業(yè)”等觀(guān)點(diǎn)引發(fā)熱議，其中常見(jiàn)職業(yè)包括律師、小說(shuō)家等。對(duì)此，有人隨機(jī)抽取十道我國(guó)的國(guó)家統(tǒng)一法律職業(yè)資格考試客觀(guān)題，并嘗試讓ChatGPT回答，最終正確率僅40%。此外，一位從事非訴業(yè)務(wù)的律師告訴記者，僅從審查合同是否合規(guī)的業(yè)務(wù)能力看，ChatGPT甚至無(wú)法和目前業(yè)內(nèi)使用的專(zhuān)業(yè)軟件相提并論。
在部分專(zhuān)業(yè)人士看來(lái)，AI的創(chuàng)造力被高估了，其有限程度的“創(chuàng)造”尚無(wú)法替代人。
復(fù)旦大學(xué)哲學(xué)系教授徐英瑾近日也在嘗試使用ChatGPT創(chuàng)作小說(shuō)。他以劇本和小說(shuō)中最常見(jiàn)的、多人物視角轉(zhuǎn)換為例分析，優(yōu)秀的小說(shuō)家通過(guò)不同的人物設(shè)定，描述的世界是不同的，但現(xiàn)在，人工智能把所有人物的語(yǔ)言“平均化”，很難區(qū)分個(gè)體的轉(zhuǎn)換，更不用說(shuō)不同人物性格的發(fā)展和改變。
在他看來(lái)，這體現(xiàn)了深度學(xué)習(xí)的一些基本特點(diǎn)，即AI僅把倫理規(guī)則當(dāng)成一種數(shù)據(jù)訓(xùn)練的趨向。因?yàn)锳I不像人類(lèi)一樣真正理解這些規(guī)則，表面上，AI能表現(xiàn)復(fù)雜的言語(yǔ)習(xí)慣，但這只是一種機(jī)械的模仿。
從教育者角度出發(fā)，徐英瑾表示，隨著ChatGPT等AI新工具普及，如果下一代年輕人對(duì)此類(lèi)工具過(guò)于依賴(lài)，可能造成人類(lèi)文化某種意義上的退化?！拔幕枰嵏矚v史和傳統(tǒng)進(jìn)行創(chuàng)新，而人需要把精力發(fā)揮到真正需要突破的問(wèn)題上。但是，當(dāng)AI制造的大量垃圾信息充斥世界，并不斷重復(fù)過(guò)往經(jīng)驗(yàn)，那么，人類(lèi)想集中力量、投入創(chuàng)新可能變得更困難?！?/span>
未來(lái)AI時(shí)代的社會(huì)治理，需要不斷前瞻探索以適應(yīng)新變化
有專(zhuān)家向記者強(qiáng)調(diào)，AI表現(xiàn)出的“善解人意”是一種“表面的禮貌和客氣”，實(shí)際上是通過(guò)模型訓(xùn)練，以適應(yīng)人類(lèi)社會(huì)的通用規(guī)則。這一技術(shù)特點(diǎn)導(dǎo)致AI對(duì)個(gè)體的觀(guān)照不足，也不能真正意義上“讀懂”人性。當(dāng)人機(jī)交互逐漸替代人人交流，可能造成全社會(huì)的潛在心理問(wèn)題。
也有觀(guān)點(diǎn)擔(dān)憂(yōu)，ChatGPT等AI技術(shù)只是尚未找到現(xiàn)實(shí)應(yīng)用中的“引爆點(diǎn)”，在“盲盒”打開(kāi)之前，誰(shuí)都無(wú)法預(yù)言AI會(huì)帶來(lái)哪些新的社會(huì)問(wèn)題。
那么，未來(lái)AI時(shí)代的社會(huì)治理，該如何破解倫理規(guī)則落地的難題？
陳吉棟表示，正如醫(yī)療AI、無(wú)人駕駛等只有進(jìn)入落地實(shí)踐后，人類(lèi)作為“游戲規(guī)則”的制定者，才能根據(jù)現(xiàn)實(shí)情況逐一厘清法律和制度問(wèn)題，包括新問(wèn)題的定性、人類(lèi)主體的權(quán)益劃分、責(zé)任承擔(dān)等。他表示，隨著通用人工智能的發(fā)展，人們最關(guān)心的可能還是數(shù)字財(cái)產(chǎn)問(wèn)題，比如相關(guān)安全問(wèn)題及糾紛解決機(jī)制等。
對(duì)ChatGPT這類(lèi)新智能工具良性應(yīng)用的前瞻探索，正成為上海多所高校的研究熱點(diǎn)。
同濟(jì)大學(xué)的上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心、國(guó)家智能社會(huì)治理實(shí)驗(yàn)綜合基地，正在集合法學(xué)、人工智能、管理學(xué)和倫理等多學(xué)科專(zhuān)家進(jìn)行人工智能社會(huì)風(fēng)險(xiǎn)治理的研究。陳吉棟表示：“這是一場(chǎng)大型的社會(huì)治理實(shí)驗(yàn)，是否最終裂變出更深層次的社會(huì)治理規(guī)則，現(xiàn)在累積的數(shù)據(jù)、案例都遠(yuǎn)遠(yuǎn)不足以作出判斷?？赡茈S著風(fēng)險(xiǎn)的不斷呈現(xiàn)，人類(lèi)會(huì)發(fā)展出相應(yīng)的倫理規(guī)則。更為根本的是，我們是否具備新規(guī)則落地生效的社會(huì)環(huán)境?！?/span>
在華東師范大學(xué)，校長(zhǎng)錢(qián)旭紅院士等專(zhuān)家學(xué)者開(kāi)啟“中國(guó)哲學(xué)社會(huì)科學(xué)國(guó)際化研究前沿”項(xiàng)目，設(shè)計(jì)“多源異構(gòu)數(shù)據(jù)+人工智能算法+行業(yè)專(zhuān)家智慧”的“數(shù)智人”框架，提出讓數(shù)據(jù)、智能和專(zhuān)家智慧相互融合、相互約束的復(fù)雜問(wèn)題決策與分析模式。
閱讀原文
記者丨儲(chǔ)舒婷
來(lái)源丨文匯報(bào)
編輯丨王越月
編審丨戴琪
