中國(guó)科學(xué)院院士梅宏：

面對(duì)AI熱潮，科技倫理治理要跟上

  “智能是人類(lèi)區(qū)別于其他動(dòng)物的專(zhuān)有特征，特別是認(rèn)知能力。我們可以接受機(jī)器在感知能力方面超越人類(lèi)，但對(duì)機(jī)器認(rèn)知智能的研發(fā)，需要高度審慎。從科技倫理的視角來(lái)看，我們?yōu)槭裁匆斐鲆粋�(gè)替代我們認(rèn)知的東西？”

  2024年11月22日，在以“跨越邊界的科技倫理”為主題的第二屆中國(guó)科技倫理高峰論壇上，中國(guó)科學(xué)院院士、北京大學(xué)教授梅宏直指當(dāng)前數(shù)字技術(shù)面臨的倫理挑戰(zhàn)。

  從智能制造到智慧城市，從醫(yī)療健康到金融服務(wù)，當(dāng)前大語(yǔ)言模型火爆，人工智能（AI）風(fēng)頭正盛。梅宏認(rèn)為，AI熱潮中泡沫太大，仍處于技術(shù)成熟度曲線(xiàn)的高峰階段，喧囂埋沒(méi)理性，需要一個(gè)冷靜期。

  他強(qiáng)調(diào)，雖然基于當(dāng)前的技術(shù)路徑，大模型尚不能“無(wú)中生有”、做出超越人類(lèi)預(yù)期的事情，但一味信奉“蠻力”、追求規(guī)模，也極易發(fā)展出在覆蓋面和復(fù)雜度上令人們難以掌控的“巨獸”。

 

“拿著手機(jī)讀不到有價(jià)值的內(nèi)容”

 

  在經(jīng)歷了兩個(gè)“春天”和兩個(gè)“冬天”后，AI迎來(lái)了第三個(gè)“春天”，深度學(xué)習(xí)技術(shù)帶來(lái)的一次次突破不斷刷新著人們對(duì)AI的認(rèn)知。

  但是，從臉書(shū)（Facebook）數(shù)據(jù)泄露到大模型生成內(nèi)容引發(fā)侵權(quán)糾紛和虛假信息傳播，數(shù)字技術(shù)在為人類(lèi)社會(huì)經(jīng)濟(jì)發(fā)展帶來(lái)益處的同時(shí)，也帶來(lái)了數(shù)據(jù)隱私保護(hù)、算法偏見(jiàn)、責(zé)任認(rèn)定等一系列倫理問(wèn)題。

  例如，就當(dāng)前大語(yǔ)言模型的技術(shù)路線(xiàn)而言，“黑盒”導(dǎo)致的不可解釋性是其最大“罩門(mén)”，如果不加任何規(guī)制而大量應(yīng)用，可能導(dǎo)致人類(lèi)知識(shí)體系面臨嚴(yán)峻挑戰(zhàn)。訓(xùn)練語(yǔ)料的質(zhì)量缺陷、概率統(tǒng)計(jì)的內(nèi)生誤差等因素會(huì)導(dǎo)致大模型產(chǎn)生幻覺(jué)，生成錯(cuò)誤內(nèi)容；再加上人為干預(yù)誘導(dǎo)，極易生成虛假內(nèi)容。

  “通過(guò)算法，平臺(tái)可以個(gè)性化推送內(nèi)容，但也可能形成用戶(hù)的信息繭房。我最近最大的困擾是拿著手機(jī)卻讀不到想讀的有價(jià)值的內(nèi)容。”梅宏表示，目前幾乎大部分網(wǎng)絡(luò)平臺(tái)都在AI算法和大數(shù)據(jù)驅(qū)動(dòng)下運(yùn)營(yíng)，這就帶來(lái)對(duì)算法和數(shù)據(jù)應(yīng)用的有效監(jiān)管問(wèn)題，這些亟待通過(guò)建立完善的治理體系加以解決。當(dāng)涉及平臺(tái)跨境時(shí)，還需要有相應(yīng)的國(guó)際治理體系。

 

現(xiàn)實(shí)情況不盡如人意

 

  當(dāng)前，社會(huì)對(duì)“AI+”或“AI for everything”（一切皆人工智能）抱有很高的期望。然而，現(xiàn)實(shí)情況卻不盡如人意。

  “雷聲隆隆，雨點(diǎn)并不大。”梅宏坦言，“從當(dāng)前的熱潮中，我看到了太多‘炒作’和‘非理性’導(dǎo)致的 AI‘過(guò)熱’現(xiàn)象，也對(duì)當(dāng)前AI發(fā)展技術(shù)路徑多樣性的欠缺產(chǎn)生了一些擔(dān)憂(yōu)。”

  “大語(yǔ)言模型的成功依賴(lài)于人類(lèi)長(zhǎng)時(shí)間積累的龐大語(yǔ)料庫(kù)，文生視頻的成功也依賴(lài)于互聯(lián)網(wǎng)上存在的海量視頻。然而，其他行業(yè)的數(shù)據(jù)積累尚未達(dá)到這個(gè)量級(jí)。獲取全數(shù)據(jù)，關(guān)鍵是跨越足夠的時(shí)間尺度。”梅宏表示，AI的應(yīng)用還需要經(jīng)歷一段時(shí)期的探索、磨合和積累，才可能迎來(lái)繁榮。

  “在我看來(lái)，AI當(dāng)前的問(wèn)題有3個(gè)：泡沫太大，仍處于技術(shù)成熟度曲線(xiàn)的高峰階段，喧囂埋沒(méi)理性，需要一個(gè)冷靜期；以偏概全，對(duì)成功個(gè)案不顧前提地放大、泛化，過(guò)度承諾；期望過(guò)高，用戶(hù)神化AI的預(yù)期效果，提出難以實(shí)現(xiàn)的需求。”梅宏說(shuō)。

  面對(duì)AI技術(shù)發(fā)展及其應(yīng)用現(xiàn)狀，梅宏建議，在尚搞不清如何應(yīng)用、用到何處時(shí)，不妨先積累數(shù)據(jù)，“可采盡采、能存盡存”。

 

沒(méi)有跳出概率統(tǒng)計(jì)框架

 

  那么，大語(yǔ)言模型能走向通用人工智能嗎？梅宏認(rèn)為，從基本原理來(lái)看，目前的大語(yǔ)言模型沒(méi)有跳出概率統(tǒng)計(jì)這個(gè)框架。

  梅宏并不認(rèn)為現(xiàn)在的AI有所謂“意識(shí)”或者知識(shí)涌現(xiàn)能力。以大語(yǔ)言模型為例，模型本身無(wú)法產(chǎn)生新的東西，其生成的內(nèi)容取決于對(duì)大量文本內(nèi)容的統(tǒng)計(jì)，如果某些內(nèi)容反復(fù)出現(xiàn)，它們大概率就會(huì)將之視為“合理存在”的內(nèi)容。

  “就這個(gè)意義而言，大模型可被視為由已有語(yǔ)料壓縮而成的知識(shí)庫(kù)，生成結(jié)果的語(yǔ)義正確性高度依賴(lài)于數(shù)據(jù)的空間廣度、時(shí)間深度以及分布密度，更高度依賴(lài)于數(shù)據(jù)的質(zhì)量。”梅宏提到，學(xué)術(shù)界的研究更應(yīng)關(guān)心大模型構(gòu)建過(guò)程的可重復(fù)性和可追溯性，盡可能保證結(jié)果的可解釋和可信任。

  “大膽預(yù)測(cè)，作為壓縮了人類(lèi)已有可公開(kāi)訪(fǎng)問(wèn)的絕大多數(shù)知識(shí)的基礎(chǔ)模型，大語(yǔ)言模型將像互聯(lián)網(wǎng)一樣走向開(kāi)源。全世界共同維護(hù)一個(gè)開(kāi)放共享的基礎(chǔ)模型，盡力保證其與人類(lèi)知識(shí)同步。”梅宏說(shuō)，“這至少也是表達(dá)自己的一種期望。”

 

適時(shí)調(diào)整倫理審查的復(fù)核清單

 

  “發(fā)明技術(shù)的最終目的是為了讓人類(lèi)的生活變得更好，毫無(wú)疑問(wèn)應(yīng)該充分考慮技術(shù)可能帶來(lái)的倫理問(wèn)題。”梅宏表示，在AI快速發(fā)展的熱潮下，需要對(duì)可能的風(fēng)險(xiǎn)進(jìn)行研判，并提醒科技工作者時(shí)刻牢記科技向善、以人為本。

  隨著數(shù)字技術(shù)的發(fā)展，科技倫理治理也應(yīng)當(dāng)跟上。梅宏強(qiáng)調(diào)，目前應(yīng)當(dāng)完善科技倫理治理體制機(jī)制，明確數(shù)字技術(shù)領(lǐng)域的治理重點(diǎn)和安全護(hù)欄，對(duì)數(shù)字技術(shù)進(jìn)行分級(jí)分類(lèi)治理，同時(shí)建立健全生成式人工智能（AIGC）的主動(dòng)披露標(biāo)注制度并開(kāi)展相關(guān)技術(shù)研究。

  那么，數(shù)字技術(shù)領(lǐng)域是否應(yīng)該存在研究禁區(qū)？梅宏認(rèn)為，在基礎(chǔ)研究階段一般不做限制，涉及對(duì)人的認(rèn)知能力調(diào)控、違背人的自由意志的研究應(yīng)列為禁區(qū)。在技術(shù)和產(chǎn)品應(yīng)用階段，要根據(jù)具體場(chǎng)景及影響來(lái)確定。

  “例如大規(guī)模遠(yuǎn)程監(jiān)控、自主決策的社會(huì)評(píng)價(jià)體系、操縱個(gè)人意識(shí)和行為并造成個(gè)體或他人身體或心理傷害的技術(shù)，以及以超越或替代人的認(rèn)知能力為目標(biāo)的AI技術(shù)研發(fā)，應(yīng)當(dāng)受到限制。”梅宏說(shuō)。

  同時(shí)他表示，數(shù)字技術(shù)領(lǐng)域的研究禁區(qū)應(yīng)該建立動(dòng)態(tài)調(diào)整機(jī)制，適時(shí)調(diào)整倫理審查的復(fù)核清單。

  此外，梅宏呼吁建立AI生成內(nèi)容的披露標(biāo)準(zhǔn)機(jī)制，建立涵蓋大模型開(kāi)發(fā)者、創(chuàng)作者、使用者的標(biāo)注責(zé)任機(jī)制；鼓勵(lì)多條技術(shù)路線(xiàn)推進(jìn)大模型生成內(nèi)容標(biāo)注技術(shù)研發(fā)；完善大模型內(nèi)容審核制度規(guī)范和檢測(cè)技術(shù)開(kāi)發(fā)；推進(jìn)相關(guān)標(biāo)準(zhǔn)和規(guī)范制定并將之國(guó)際化�！�