內(nèi)容摘要：當人工智能因深度學習而從他律系統(tǒng)轉(zhuǎn)化為自律系統(tǒng)，特別是在人工智能網(wǎng)絡之間的相互作用及其連鎖反應不斷進行的情況下，黑箱化和失控的風險會不斷增大。“透明社會”與“黑箱算法”，這是數(shù)據(jù)驅(qū)動社會的一對根本矛盾，對國家治理方式的改革提出了新的挑戰(zhàn)，也提供了新的機遇。為此，如何對人工智能進行適當?shù)摹⒑侠淼摹⒊浞值囊?guī)制，確立人工智能開發(fā)的規(guī)則、倫理以及政策就勢必成為極其重要并非常緊迫的一項課題。國務院印發(fā)的2017年《新一代人工智能發(fā)展規(guī)劃》提出了人工智能發(fā)展的中國式制度安排以及九條主要原則，與國際社會已經(jīng)形成的基本共識是相洽的;但在不同價值取向發(fā)生沖突時，怎樣決定取舍的元規(guī)則和優(yōu)先順序還有待進一步明確。為了在甄別和防范風險的同時保護人工智能開發(fā)的積極性和創(chuàng)造性，有必要更多地采取軟法方式，而不是簡單地提高硬法的懲戒力度。

　　關鍵詞：數(shù)字驅(qū)動 風險社會 人工智能網(wǎng)絡化 軟法與硬法 數(shù)據(jù)格式標準化

　　《模式識別與人工智能》雜志級別：北大核心 科技統(tǒng)計源核心 CSCD，主辦單位：中華醫(yī)學會，周期：月刊，國內(nèi)統(tǒng)一刊號：11-2338/R。

　　前言：人工智能的網(wǎng)絡化與互聯(lián)互通

　　“走得太快了，靈魂跟不上”——這是一個游牧部族的古訓，也可以用來描述人工智能開發(fā)在中國突飛猛進卻隱患頻仍、局部失序的現(xiàn)狀。〔1 〕

　　從自動駕駛的汽車到機器人運營的酒店，從電腦量刑到高頻度金融交易，人工智能已經(jīng)滲透到經(jīng)濟、政治、社會生活的各個方面，各種新奇事物層出不窮。〔2 〕但是，對由此產(chǎn)生的風險以及必要的對策和規(guī)制方式，我們還缺乏足夠的認識和深入研討。人工智能的開發(fā)和利用大都還處于高速增長階段，相關的制度條件尚不完備，在很多重要方面還沒有制定明確的、適當?shù)摹⒔y(tǒng)一的倫理標準、法律原則、規(guī)則、規(guī)格以及政策。我們不能讓這樣的事態(tài)長期持續(xù)下去，否則將留下嚴重的后患。2017年7月21日由國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》已經(jīng)指出研究相關法律問題和建立問責制度的必要性，提出了一些重要舉措。當然，人工智能開發(fā)的具體規(guī)制方式和規(guī)范內(nèi)容還有待進一步充實、完善。

　　實際上，艾薩克·阿西莫夫早在1942年發(fā)表的科幻短篇小說《轉(zhuǎn)圈跑》中，就曾經(jīng)提出了關于防止機器人失控的三大定律，即機器人不得傷害人或者對人受到傷害袖手旁觀;機器人必須服從人的指令，除非該指令危害到人;在遵循上述兩條定律的前提條件下，機器人必須保護自己。〔3 〕后來，為了避免允許機器人劫法場之類的邏輯漏洞，他在《機器人與帝國》中又追加了一條零定律：“機器人不得加害于人類整體或者因為坐視危機而加害人類整體”。〔4 〕這些富于靈感和遠見的主張為人工智能開發(fā)的規(guī)制展現(xiàn)了基本思路和雛形，對后來的制度設計產(chǎn)生了深刻影響，但卻不能充分反映當今社會的嶄新狀況和需求。

　　為了正確把握人工智能在全世界的發(fā)展趨勢以及問題群，我們首先需要對產(chǎn)業(yè)革命的進程進行簡單的回顧。

　　迄今為止，人類社會經(jīng)歷了四次重大產(chǎn)業(yè)革命，采取了不同的基本生產(chǎn)方式。首先是機械化生產(chǎn)方式，由蒸汽機和紡織機的發(fā)明而啟動，從18世紀后期持續(xù)到19世紀前期。其次是電氣化生產(chǎn)方式，因電力和石油以及高度分工引發(fā)，從19世紀后期持續(xù)到20世紀前期。接著以產(chǎn)業(yè)機器人的研發(fā)為契機，〔5 〕從20世紀60年代開始出現(xiàn)了自動化生產(chǎn)方式，其驅(qū)動力量是半導體、電腦以及互聯(lián)網(wǎng)。就在這個階段，人工智能的研究開始出現(xiàn)幾經(jīng)起伏的熱潮。

　　初級的人工智能只不過是裝載了控制程序的家用電器，例如具有自動調(diào)節(jié)功能的洗衣機、冰箱以及電動剃須刀。較高級的人工智能則是裝載了知識數(shù)據(jù)庫的推理和探索系統(tǒng)，例如象棋程序、掃地機器人以及對話軟件。更高級的人工智能搭載檢索引擎，可以按照既定算法進行機械學習，包括各種實用的專家系統(tǒng)。〔6 〕現(xiàn)在我們通常所說的人工智能大多數(shù)就是指具有機械學習功能的計算機信息處理系統(tǒng)。

　　至此我們迎來了大數(shù)據(jù)時代，新的產(chǎn)業(yè)革命條件也開始日漸成熟。〔7 〕21世紀初由萬物互聯(lián)互通、大數(shù)據(jù)、人工智能引發(fā)的智網(wǎng)化生產(chǎn)方式，可謂第四次產(chǎn)業(yè)革命。正在進行中的這次產(chǎn)業(yè)社會的結(jié)構轉(zhuǎn)型是以數(shù)據(jù)驅(qū)動和人工智能網(wǎng)絡化為基本特征的。其主要構成因素有如下三項。

　　第一，物聯(lián)網(wǎng)(簡稱IOT)。物聯(lián)網(wǎng)導致數(shù)據(jù)的生成、流通、積蓄并不斷增大，通過數(shù)據(jù)合作實現(xiàn)最合理化的供應鏈，可以針對顧客個人需求進行產(chǎn)品和服務的創(chuàng)新。

　　第二，由物聯(lián)網(wǎng)形成和積累而成的大數(shù)據(jù)。對物聯(lián)網(wǎng)而言，大數(shù)據(jù)的收集和運用是關鍵，而大數(shù)據(jù)具有經(jīng)濟價值，甚至被認為是一種新型通貨。大數(shù)據(jù)也使得個人生活狀態(tài)變得非常透明化，甚至可以說我們面對的是一個極端化的“透明社會”。

　　第三，人工智能。沒有人工智能，大數(shù)據(jù)的收集和運用都不可能實現(xiàn)，而基于大數(shù)據(jù)的機械學習和深度學習又給人工智能帶來質(zhì)變，可以不斷開發(fā)新產(chǎn)品、新服務，并且大幅度提高效率和質(zhì)量。

　　這三種因素互相作用、相輔相成，推動人工智能網(wǎng)絡化程度不斷加深，促進現(xiàn)實空間與虛擬空間之間互動和反饋的關系不斷增殖，形成一種具備控制力的信息實體交融系統(tǒng)(簡稱CPS)。在這樣的背景下，以多倫多大學開發(fā)的圖像識別系統(tǒng)Super Vision以及谷歌的貓臉識別項目為標志，人工智能也從2012年開始進入了能夠自己進行“特征表現(xiàn)學習”(深度學習)的嶄新時代，為歷史性突破提供了重要契機。〔8 〕

　　在人工智能的網(wǎng)絡化和萬物互聯(lián)互通的時代，阿西莫夫關于防止機器人失控的三大定律和零定律就顯得有些捉襟見肘了。從控制程序、知識數(shù)據(jù)庫到檢索引擎，人工智能都必須按照人給出的指令或算法來運行。在機械學習階段，即便有非常龐大的數(shù)據(jù)，人工智能也不會自動學習，需要有人來提供數(shù)據(jù)的特征量和規(guī)格化方式才能進行學習和預測;通過機械學習，人工智能可以提供更高的精確度，但卻很難對復雜的、模糊的問題進行判斷。然而當機械學習的數(shù)據(jù)輸入不間斷地高速進行時，對輸出的預測就會變得非常困難。而在深度學習的場合，人工智能系統(tǒng)不僅按照算法進行數(shù)據(jù)處理，還采取多層次腦神經(jīng)網(wǎng)絡的模型和方法，能從大數(shù)據(jù)中發(fā)現(xiàn)和提取特征量，揭示迄今為止未知的問題、樣式、結(jié)構以及原理，從而具有更高的自主性，因而更類似具有條件反射能力的動物或者自由意志的人。