作者:劉偉 來源: 發(fā)布時(shí)間:2022-1-25 2:9:45
人機(jī)混合智能是未來智能領(lǐng)域的發(fā)展方向

 

   智能不是人腦(或類腦)的產(chǎn)物,也不是人自身的產(chǎn)物,而是人、物、環(huán)境系統(tǒng)相互作用的產(chǎn)物。人工智能的優(yōu)勢(shì)在于龐大的信息存儲(chǔ)量和高速的處理速度,但是無法處理如休謨之問,即從“是”(being)能否推出“應(yīng)該”(should),也即“事實(shí)”命題能否推出“價(jià)值”命題。

   目前,國內(nèi)外人工智能的核心在于兩個(gè)方向,一個(gè)是“機(jī)器學(xué)習(xí)”,另一個(gè)是“自主系統(tǒng)”。在機(jī)器學(xué)習(xí)各方法中,深度學(xué)習(xí)方法容易導(dǎo)致局部(非全局)最優(yōu),強(qiáng)化學(xué)習(xí)很難識(shí)別意圖的隱藏和偽裝,遷移學(xué)習(xí)的跨域能力很差等等,這些機(jī)器學(xué)習(xí)的缺點(diǎn)很難實(shí)現(xiàn)真正的智能;另外,現(xiàn)在的自主系統(tǒng)還處在“偽自主”階段,究其原因是由其底層的技術(shù)架構(gòu)——機(jī)器學(xué)習(xí)和大數(shù)據(jù)處理機(jī)制局限所致。無論行為主義的強(qiáng)化學(xué)習(xí)、聯(lián)結(jié)主義的深度學(xué)習(xí),還是符號(hào)主義的專家系統(tǒng)都不能如實(shí)準(zhǔn)確地反映人類的認(rèn)知機(jī)理,比如直覺、情感、價(jià)值等。

 

目前人工智能技術(shù)的核心問題

 

   當(dāng)前的人工智能及未來的智能科學(xué)研究存在兩個(gè)致命的缺點(diǎn):一是把數(shù)學(xué)等同于邏輯。弗雷格、羅素等邏輯主義者一般是把數(shù)學(xué)歸于邏輯學(xué)(logic)之下(“+logy”也成為許多學(xué)科(非所有學(xué)科)的字尾,譬如生物學(xué)Biology=bio+logy)。

   邏輯是探索、闡述和確立有效推理原則的學(xué)料。數(shù)學(xué)不等同于邏輯,數(shù)學(xué)研究空間形式和數(shù)量關(guān)系結(jié)構(gòu),是一種基于公理的邏輯體系;邏輯研究思維的形式結(jié)構(gòu)。二者一致之處在于“研究對(duì)象都是高度抽象的結(jié)構(gòu)”。二者不同之處在于,一方面,數(shù)學(xué)和邏輯的研究對(duì)象不同,數(shù)學(xué)的研究對(duì)象是客觀事物的空間形式與數(shù)量關(guān)系,而邏輯學(xué)的研究對(duì)象是思維的形式及規(guī)律;另一方面,數(shù)學(xué)和邏輯的任務(wù)和目標(biāo)不相同,數(shù)學(xué)的主要目標(biāo)和任務(wù)是揭示客觀事物的空間形式與數(shù)量關(guān)系的特征,探索其規(guī)律性,而邏輯的主要目標(biāo)和任務(wù)卻是為了解決思維推理形式的有效性或真實(shí)性問題。

   另一個(gè)致命的缺點(diǎn)便是把符號(hào)與對(duì)象的指涉混淆。符號(hào)重點(diǎn)在于表征,而對(duì)象重點(diǎn)在于意向性。一般來說,一種意向可以對(duì)應(yīng)一種或多種符號(hào),而一種符號(hào)代表的意向性也可以有多個(gè)指向(如能指、所指、意指),人類可以用“一花一世界,一樹一菩提”靈活地表征任何事物,而目前的機(jī)器卻只能用固定打標(biāo)的方式孤立、靜止、片面地表征一個(gè)事物。 

   這兩個(gè)缺點(diǎn)直接誘發(fā)了以下幾個(gè)很難解決的智能領(lǐng)域及軍事智能領(lǐng)域問題:一是客觀數(shù)據(jù)與主觀信息、知識(shí)的彈性輸入——靈活的表征;二是公理與非公理推理的有機(jī)融合——有效的處理;三是責(zé)任性判斷與無風(fēng)險(xiǎn)性決策的無縫銜接——虛實(shí)互補(bǔ)的輸出;四是人類反思與機(jī)器反饋之間的相互協(xié)同調(diào)整;五是深度態(tài)勢(shì)感知與其逆向資源管理過程的雙向平衡;六是人機(jī)之間的透明信任機(jī)制生成;七是機(jī)器常識(shí)與人類常識(shí)的差異;八是人機(jī)之間可解釋性的閾值;九是機(jī)器終身學(xué)習(xí)的范圍/內(nèi)容與人類學(xué)習(xí)的不同。

 

人機(jī)混合智能是未來智能領(lǐng)域的發(fā)展方向

 

   智能是一種由人、機(jī)、環(huán)境系統(tǒng)相互作用而產(chǎn)生的組織形式,是物理、生理、心理、數(shù)理、管理、哲理、文理、機(jī)理、藝?yán)、地理、倫理、宗理等多事?shí)、多價(jià)值、多責(zé)任的混合適應(yīng)體系,所以智能可能不是單純的類腦(比如狼孩的人腦就沒有人類智能)。

   人工智能只是人類智能可描述化、可程序化的一部分,而人類的智能是人、機(jī)(物)、環(huán)境系統(tǒng)相互作用的產(chǎn)物。智能生成的機(jī)理,簡(jiǎn)而言之,就是人物(機(jī)屬人造物)環(huán)境系統(tǒng)相互作用的疊加結(jié)果,由人、機(jī)器、各種環(huán)境的變化狀態(tài)所疊加衍生出的形勢(shì)、局勢(shì)和趨勢(shì)(簡(jiǎn)稱勢(shì))共同構(gòu)成,三者變化的狀態(tài)有好有壞、有高有低、有順有逆,體現(xiàn)智能的生成則是由人、機(jī)、環(huán)境系統(tǒng)態(tài)、勢(shì)的和諧共振大小程度所決定的,三者之間具有建設(shè)性和破壞性干涉效應(yīng),或增強(qiáng)或消除,三位一體則智能強(qiáng),三位多體則智能弱。

   如何調(diào)諧共頻則是人機(jī)融合智能的關(guān)鍵。當(dāng)代人工智能由最初的完全人工編譯的機(jī)器自動(dòng)化發(fā)展到了人工預(yù)編譯的機(jī)器學(xué)習(xí),接下來的發(fā)展可能是通過人機(jī)融合智能的方法來實(shí)現(xiàn)機(jī)器認(rèn)知,最終實(shí)現(xiàn)機(jī)器覺醒。

   在智能領(lǐng)域中,對(duì)自動(dòng)化、智能化概念的厘清非常重要,自動(dòng)化是確定性的輸入,可編程的處理,確定性的輸出;人工智能是部分確定性的輸入,可編程的處理,部分確定性的輸出;智能是不確定性的輸入,部分可編程的處理,不確定性的輸出。人工智能(含自動(dòng)化)與智能的區(qū)別在于,一個(gè)是功能,一個(gè)是能力。

   很多人期望得到的往往是能力,而不是功能,即通過人工智能功能實(shí)現(xiàn)智能能力,這就是期望與現(xiàn)實(shí)的矛盾之所在,同時(shí)也是人們失望之所在:把功能錯(cuò)看成了能力。智能需要實(shí)現(xiàn)的是一種合成:功能+能力(簡(jiǎn)稱功能力)。機(jī)器功能邏輯的基礎(chǔ)是映射關(guān)系,而人類直覺能力的基礎(chǔ)則是漫射、散射、影射,其中人類的想象力、創(chuàng)造力是一種情理融合之能力,也是“智能”的邊界。所以僅開發(fā)出高性能智能產(chǎn)品或系統(tǒng)仍不可能提高體系的組織力和創(chuàng)造力,該模型必須集成到運(yùn)行技術(shù)系統(tǒng)、組織流程和人員運(yùn)行流程中才能發(fā)揮其威力和效力。

   然而,智能化的瓶頸和關(guān)鍵問題在于不是單純的快、單純的準(zhǔn)、而是對(duì),例如單純機(jī)器計(jì)算的越精細(xì)、越準(zhǔn)確、越快速,危險(xiǎn)性越大,因?yàn)椴┺膶?duì)方可以隱真示假、造勢(shì)欺騙、以真亂假,所以有專家參與的人機(jī)融合/混合智能顯得相對(duì)更重要、更迫切、更有效。

   人機(jī)混合常常是指人+機(jī)(側(cè)重事實(shí)性數(shù)理物理結(jié)合,價(jià)值性結(jié)合較少);人機(jī)融合往往是指人*機(jī)(既包括事實(shí),也涉及價(jià)值,既有數(shù)理物理交互,也有心理倫理交流)。對(duì)于軍事界而言,大多數(shù)認(rèn)為:人必須在人—裝備—環(huán)境系統(tǒng)中并掌控著該系統(tǒng)的關(guān)鍵使用(如許多科學(xué)家支持致命性自主武器系統(tǒng)宣言,以反對(duì)脫離人類控制的自主武器系統(tǒng)開發(fā)),這就要求兩點(diǎn),首先是必須可靠的人在系統(tǒng)中,而不能是不可靠的人在系統(tǒng)中;其次,要求人、機(jī)不能是平等的關(guān)系,可靠的人必須要掌控關(guān)鍵作用。所以從這個(gè)角度看,對(duì)軍事智能而言,“人機(jī)混合”要比“人機(jī)融合”一詞要準(zhǔn)確一些(可以保證人主機(jī)輔關(guān)系的一致性)。

   如何實(shí)現(xiàn)人的算計(jì)(經(jīng)驗(yàn))與機(jī)的計(jì)算(模型)融合后的計(jì)算計(jì)系統(tǒng)呢?東方思想里的“易”就是一個(gè)典型的計(jì)算計(jì)(計(jì)算+算計(jì))系統(tǒng),有算有計(jì),有性有量,有顯有隱,計(jì)算交融,情理相依。其中的“與或非”邏輯既有人經(jīng)驗(yàn)的、也有物(機(jī))數(shù)據(jù)的,即人價(jià)值性的“與或非”+機(jī)事實(shí)性的“與或非”,人機(jī)融合智能及深度態(tài)勢(shì)感知的任務(wù)之一就是要打開與、或、非門的狹隘,比如大與、小與,大或、小或,大非、小非……大是(being)、大應(yīng)(should)、小是(being)、小應(yīng)(should)。人的經(jīng)驗(yàn)性概率與機(jī)器的事實(shí)性概率不同,它是一種價(jià)值性概率,可以穿透非家族相似性的壁壘,用其它領(lǐng)域的成敗得失結(jié)果影響當(dāng)前領(lǐng)域的態(tài)勢(shì)感知SA,比如同情、共感、同理心、信任等。

   凡事有利就有弊,手機(jī)不例外,智能也不例外。在人機(jī)環(huán)境系統(tǒng)動(dòng)態(tài)交互(產(chǎn)生智能)時(shí),由于時(shí)間、空間、對(duì)象、屬性、關(guān)系、條件、規(guī)則、情緒、狀態(tài)、趨勢(shì)、感知等的變化,智能中的方式、方法、方案、手段、工具都會(huì)做適當(dāng)?shù)恼{(diào)整和重新組合,正可謂時(shí)變法亦變。智能需要解決的常常是面對(duì)的真實(shí)問題,比如安全威脅、高效處理、準(zhǔn)確預(yù)測(cè)等等。智能包含著過去的經(jīng)驗(yàn)和數(shù)據(jù),但不會(huì)僅僅依賴這些過去,它還包含著未來對(duì)此時(shí)的影響,比如期望的反饋。一般而言,不能隨機(jī)應(yīng)變的智能應(yīng)該不是真智能。人機(jī)交互、人機(jī)混合、人機(jī)融合智能……中人工智能AI可以幫助人,也可以阻礙人,還可以毀掉人,比如過度依賴AI易造成失去人性中的自信、果敢和勇氣等,做這些工作或申請(qǐng)項(xiàng)目時(shí),望不要光看人機(jī)融合中計(jì)算計(jì)系統(tǒng)好的一面,還希望管理者、評(píng)審者也能客觀地看到其不好的一面,在不少情境任務(wù)下,不好的概率可能更高一些!

 

主流人工智能學(xué)科仍無法理解人機(jī)融合智能領(lǐng)域

 

   AI追求數(shù)據(jù)化、確定性和理性的解釋,假定任何問題都有標(biāo)準(zhǔn)答案,把每個(gè)決策簡(jiǎn)單地變成約束條件下求解,變成數(shù)據(jù)計(jì)算。但是,真實(shí)世界里具有大量的不確定性,沒有標(biāo)準(zhǔn)答案,需要人的想象力和算計(jì),不是循規(guī)蹈矩。

   研究一個(gè)事物如果不從未來看它,往往會(huì)被它迷惑。計(jì)算是算計(jì)的產(chǎn)物,計(jì)算常是算計(jì)的簡(jiǎn)化版,不能體現(xiàn)出算計(jì)中主動(dòng)、辯證、矛盾的價(jià)值。計(jì)算可以處理關(guān)鍵場(chǎng)景的特征函數(shù),但較難解決基本場(chǎng)景的對(duì)應(yīng)規(guī)則,更難對(duì)付任意場(chǎng)景的統(tǒng)計(jì)概率,可惜這些還僅僅只是場(chǎng)景,遠(yuǎn)未涉及情境和意識(shí)……

   智能僅是解決問題的一種工具手段,若不與日常生活中的風(fēng)俗習(xí)慣、倫理道德中的仁義禮智信勇、法律中的邊界規(guī)則統(tǒng)計(jì)概率等諸多方面相結(jié)合,就很容易泛濫成災(zāi)而不可控制。真實(shí)的智能不是萬能,它不但涉及事實(shí)性的真假問題,還應(yīng)該包括價(jià)值性的是非問題,更與責(zé)任性的大小輕重密切相關(guān)。所以,嚴(yán)格意義上講,軍事智能是許多領(lǐng)域的一連串組合應(yīng)用。

   對(duì)于人、機(jī)而言,雖然都是將一個(gè)問題拆成幾個(gè)子問題,分別求解這些子問題,即可推斷出大問題的解,但是人的動(dòng)態(tài)規(guī)劃與機(jī)器的動(dòng)態(tài)規(guī)劃卻是不同的:有經(jīng)驗(yàn)的人可以游刃有余地將一個(gè)復(fù)雜性大問題拆成事實(shí)、價(jià)值、責(zé)任等不同性質(zhì)的小問題來求解,即用事實(shí)、價(jià)值、責(zé)任的不同化法進(jìn)行大事化小,小事化了,還可以避免各種鼠目寸光和畫地為牢,而目前的機(jī)器對(duì)此異質(zhì)合取化解問題依然望塵莫及,人工智能只會(huì)對(duì)比(不是類比),也許這也是人類智能的又一個(gè)瓶頸和難點(diǎn)——如何有效地處理異質(zhì)性的非形式化問題。

   計(jì)算是事實(shí)性推理關(guān)系,低階的算計(jì)則是價(jià)值性推理關(guān)系,高階的算計(jì)更是事實(shí)價(jià)值混合/融合的推理關(guān)系,計(jì)算與算計(jì)是不同的因果關(guān)系。人類的“既…又…”關(guān)系往往不是“并”的計(jì)算關(guān)系,與具體態(tài)勢(shì)算計(jì)有關(guān)。是非不同于對(duì)錯(cuò),也不同于真假和01,正如孟子所云:是非之心,智也……

   美國諾貝爾獎(jiǎng)得主卡內(nèi)曼在《快與慢》一書中將人類的本能意識(shí)快決策稱為系統(tǒng)一,將人類的理性邏輯慢決策稱為系統(tǒng)二,并考察了系統(tǒng)一與系統(tǒng)二之間的區(qū)別。經(jīng)過我們進(jìn)一步研究,人機(jī)環(huán)境系統(tǒng)的深度態(tài)勢(shì)感知中應(yīng)該還有決策系統(tǒng)三——人類理性與感性結(jié)合的不快不慢的right決策系統(tǒng),即人機(jī)融合的計(jì)算計(jì)決策系統(tǒng)!

(作者系北京郵電大學(xué)人工智能學(xué)院研究員)

 

 

《科學(xué)新聞》 (科學(xué)新聞2021年12月刊 AI)
發(fā)E-mail給:      
| 打印 | 評(píng)論 |