【資料圖】

近期，人工智能大模型在用戶(hù)體驗(yàn)上取得了顯著提升，發(fā)展與應(yīng)用機(jī)遇不斷涌現(xiàn)。例如在文本生成領(lǐng)域，人工智能大模型有望基于互聯(lián)網(wǎng)文本生成針對(duì)某個(gè)事務(wù)相對(duì)更全面深入的分析，從而輔助人類(lèi)更好地利用互聯(lián)網(wǎng)信息解決問(wèn)題。在圖像生成領(lǐng)域，能夠根據(jù)文字描述生成以往并不存在的圖像以及視頻，甚至給人“一圖勝千言”的感受。

然而，潛在的發(fā)展與應(yīng)用機(jī)遇的井噴也帶來(lái)諸多隱患。生成式人工智能大模型基于包括個(gè)人信息的互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行內(nèi)容生成，目前已經(jīng)出現(xiàn)了模型及其服務(wù)侵犯用戶(hù)個(gè)人隱私的案例；人工智能內(nèi)容生成技術(shù)的濫用和惡用，使得越來(lái)越多的虛假信息被用于網(wǎng)絡(luò)詐騙和網(wǎng)絡(luò)犯罪等場(chǎng)景，對(duì)社會(huì)信任產(chǎn)生明顯的沖擊；此外，有些人工智能內(nèi)容生成系統(tǒng)對(duì)社會(huì)文化和價(jià)值觀沒(méi)有客觀的評(píng)價(jià)和闡述方式，對(duì)特定群體的價(jià)值觀和文化認(rèn)同也產(chǎn)生了挑戰(zhàn)；人工智能內(nèi)容生成甚至?xí)?duì)危險(xiǎn)行為的實(shí)施提供建議……支撐人工智能內(nèi)容生成訓(xùn)練的原始互聯(lián)網(wǎng)數(shù)據(jù)、用戶(hù)對(duì)人工智能內(nèi)容生成系統(tǒng)提出的問(wèn)題、系統(tǒng)生成式輸出結(jié)果的三重不可預(yù)期性，使得人工智能內(nèi)容生成面臨的風(fēng)險(xiǎn)更加不可控。

由于人工智能大模型迅速?gòu)V泛的發(fā)展與應(yīng)用，目前的潛在風(fēng)險(xiǎn)并沒(méi)有留給人類(lèi)足夠的時(shí)間準(zhǔn)備，就已迅速成為實(shí)存風(fēng)險(xiǎn)。人類(lèi)將如何理解和使用生成式人工智能大模型的輸出？潛在風(fēng)險(xiǎn)是什么？現(xiàn)在學(xué)術(shù)界和社會(huì)還來(lái)不及討論，相關(guān)的應(yīng)用就已經(jīng)大規(guī)模進(jìn)入社會(huì)，技術(shù)創(chuàng)新和服務(wù)的倫理治理卻還沒(méi)有跟上。

我們?cè)诎l(fā)展人工智能內(nèi)容生成技術(shù)的同時(shí)，需要開(kāi)展對(duì)人工智能內(nèi)容生成的深度治理。每一個(gè)服務(wù)于社會(huì)的人工智能大模型與系統(tǒng)，都應(yīng)當(dāng)為其設(shè)計(jì)和實(shí)現(xiàn)道德與安全框架，以技術(shù)落地和自動(dòng)化檢測(cè)與評(píng)估等形式，深度融入產(chǎn)品與服務(wù)。與發(fā)展人工智能技術(shù)應(yīng)用相比，推進(jìn)人工智能倫理安全的研究不僅同等重要，而且也必不可少。人工智能的研發(fā)與服務(wù)企業(yè)、各級(jí)政府監(jiān)管部門(mén)應(yīng)當(dāng)盡快建立人工智能倫理與安全委員會(huì)，對(duì)風(fēng)險(xiǎn)進(jìn)行實(shí)質(zhì)有效的監(jiān)管。

近期人工智能大模型的發(fā)展，主要依靠的是工程技術(shù)的組合創(chuàng)新，同時(shí)和海量人工標(biāo)注與反饋進(jìn)行深度融合，這跟自然演化錘煉出的“智能”千差萬(wàn)別。在這種情況下，一方面，應(yīng)當(dāng)給予人工智能內(nèi)容生成產(chǎn)品與服務(wù)以明確標(biāo)識(shí)，幫助人們識(shí)別合成信息。這是因?yàn)槟壳暗娜斯ぶ悄苓€只是個(gè)看似智能的信息處理模型，既不具備真正的智能，更無(wú)法承擔(dān)道德的責(zé)任，不應(yīng)當(dāng)混淆人工智能內(nèi)容生成與人類(lèi)生產(chǎn)內(nèi)容的界限。另一方面，研究結(jié)構(gòu)和機(jī)理受自然與人類(lèi)啟發(fā)，特別是受腦與心智啟發(fā)的人工智能，仍應(yīng)是形成未來(lái)真正意義上的人工智能的突破途徑。自然演化過(guò)程中的優(yōu)勝劣汰避免掉了諸多潛在風(fēng)險(xiǎn)，科學(xué)意義上擴(kuò)展和延伸自然演化的人工智能探索更合乎社會(huì)與生態(tài)長(zhǎng)遠(yuǎn)發(fā)展的期待。

從現(xiàn)實(shí)的視角來(lái)看，人工智能大模型的發(fā)展和應(yīng)用機(jī)遇仍然是顯見(jiàn)的。接下來(lái)，中國(guó)的前進(jìn)方向是發(fā)展信息處理能力接近世界高水平，而倫理安全方面顯著超越當(dāng)前產(chǎn)品的人工智能大模型。與發(fā)展信息處理能力同步，賦能社會(huì)服務(wù)的每一個(gè)人工智能大模型應(yīng)構(gòu)建可技術(shù)落地的倫理安全框架，并經(jīng)過(guò)倫理安全的自動(dòng)化檢測(cè)與評(píng)估。在應(yīng)用層面，由于人工智能大模型目前還存在明確的倫理安全隱患，也只是看似智能的信息處理工具，推進(jìn)其在不同領(lǐng)域應(yīng)用的時(shí)候，應(yīng)當(dāng)把握“人工智能不必?zé)o所不在，應(yīng)適度使用”的原則。對(duì)那些用人工智能大模型服務(wù)替代人類(lèi)勞動(dòng)的嘗試，應(yīng)積極探索人與人工智能在特定工作中的協(xié)作模式，而非急于完全替代。

這也提醒我們，對(duì)通用人工智能和超級(jí)智能潛在風(fēng)險(xiǎn)的前瞻研究應(yīng)盡早提上日程。雖然目前的人工智能大模型及其發(fā)展路徑的延伸，難以實(shí)現(xiàn)真正意義上的通用人工智能，但目前實(shí)存風(fēng)險(xiǎn)就已經(jīng)超出人類(lèi)預(yù)期，而通用人工智能和超級(jí)智能的風(fēng)險(xiǎn)如何應(yīng)對(duì)，現(xiàn)在幾乎看不到任何可行的方案。因此人類(lèi)需要對(duì)此盡早準(zhǔn)備，避免潛在風(fēng)險(xiǎn)變成實(shí)存風(fēng)險(xiǎn)再次上演，到時(shí)只會(huì)更加措手不及。

總體而言，我們應(yīng)本著“適度發(fā)展，深度治理”的原則，最小化技術(shù)發(fā)展的倫理安全隱患，并積極主動(dòng)應(yīng)對(duì)潛在與實(shí)存挑戰(zhàn)，推進(jìn)人工智能大模型穩(wěn)健發(fā)展，賦能社會(huì)、經(jīng)濟(jì)與生態(tài)的可持續(xù)發(fā)展。同時(shí)，應(yīng)積極長(zhǎng)遠(yuǎn)布局，源頭創(chuàng)新，在科學(xué)意義上取得人工智能發(fā)展的真正突破，并以中國(guó)的產(chǎn)業(yè)創(chuàng)新體系孵化和放大來(lái)自中國(guó)的源頭創(chuàng)新，做好充足的準(zhǔn)備迎接人工智能發(fā)展的“中國(guó)時(shí)刻”。

（曾毅，作者是中國(guó)科學(xué)院自動(dòng)化研究所研究員，國(guó)家新一代人工智能治理專(zhuān)委會(huì)委員，聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專(zhuān)家組專(zhuān)家）

關(guān)鍵詞：