摘 要：人工智能、基因重組、干細(xì)胞移植等新興技術(shù)逐漸被應(yīng)用到經(jīng)濟(jì)社會的發(fā)展中。然而，新技術(shù)如同“雙刃劍”，可能引發(fā)道德倫理等問題，因此需要加強(qiáng)對新興技術(shù)倫理治理的研究。文章聚焦人工智能，分析新興技術(shù)發(fā)展可能帶來的倫理挑戰(zhàn)及倫理治理存在的問題，結(jié)合當(dāng)前國內(nèi)外人工智能倫理治理實(shí)踐，提出中國人工智能倫理治理的對策建議，以期促進(jìn)人工智能在發(fā)展中規(guī)范、在規(guī)范中發(fā)展。

　　關(guān)鍵詞：人工智能;倫理挑戰(zhàn);倫理治理

　　現(xiàn)代科技發(fā)展具備的不確定性、高風(fēng)險(xiǎn)性等特點(diǎn)決定了科技倫理問題的產(chǎn)生具有必然性。如果把科學(xué)技術(shù)視為一輛正在行駛的列車，科技倫理就是指引列車前行，用以保證科技研發(fā)與應(yīng)用的方向正確的路標(biāo)。對新興技術(shù)倫理的研究，一方面要對新技術(shù)的發(fā)展應(yīng)用予以規(guī)范，另一方面又要保護(hù)和促進(jìn)“負(fù)責(zé)任的研究”。筆者以人工智能技術(shù)的發(fā)展為例，研究新興技術(shù)倫理治理的對策。

　　一、人工智能發(fā)展帶來的倫理挑戰(zhàn)

　　人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，不僅能替代人類的體力勞動，更幾乎可以完全替代人類的腦力勞動[1]。人工智能更像是智慧載體，它可以通過深度學(xué)習(xí)不斷進(jìn)化，它的顛覆性、復(fù)雜性以及社會關(guān)聯(lián)性等特性所引發(fā)的倫理挑戰(zhàn)和風(fēng)險(xiǎn)日趨凸顯，如何應(yīng)對人工智能等新技術(shù)引發(fā)的倫理挑戰(zhàn)已經(jīng)是相關(guān)研究人員所要面對的重要課題。

　　(一)存在性風(fēng)險(xiǎn)對人類主體地位的挑戰(zhàn)

　　隨著信息技術(shù)、生物技術(shù)的發(fā)展，人機(jī)互動、人機(jī)協(xié)同甚至人機(jī)一體都成為人工智能發(fā)展的趨勢。盡管現(xiàn)階段對人工智能技術(shù)的開發(fā)、測試、應(yīng)用等都還在一個(gè)基本可控的倫理框架內(nèi)，但隨著人工智技術(shù)的能進(jìn)一步發(fā)展，當(dāng)具備無自主意識的人工智能做出超出科研人員預(yù)期的行為并產(chǎn)生相應(yīng)的倫理影響時(shí)，現(xiàn)有的倫理框架及人類的思維本質(zhì)將因此面臨極大的挑戰(zhàn)。如果技術(shù)的發(fā)展推動智能機(jī)器人越來越像人類，這將會對目前社會的人際關(guān)系、家庭結(jié)構(gòu)產(chǎn)生重大影響，甚至顛覆人類在人類活動中的主體地位。機(jī)器人是否應(yīng)享有人類的基本權(quán)利?是否應(yīng)建立新的人機(jī)關(guān)系甚至人際關(guān)系的價(jià)值原則?人類的唯一主體地位或?qū)⒁虼耸艿教魬?zhàn)[2]。隨著人工智能的強(qiáng)智能化發(fā)展，人類有可能逐漸難以參與智能生產(chǎn)的過程，甚至最終成為智能機(jī)器的零件，人與機(jī)器的關(guān)系可能發(fā)生扭轉(zhuǎn)，人工智能由此引發(fā)對人類傳統(tǒng)倫理道德判斷的顛覆，人類將第一次真正面對存在性風(fēng)險(xiǎn)。

　　(二)數(shù)據(jù)泄露和信息泛濫帶來的挑戰(zhàn)

　　人工智能技術(shù)的基礎(chǔ)是基于海量數(shù)據(jù)的算法設(shè)計(jì)和深度學(xué)習(xí)，而數(shù)據(jù)的采集和使用若管理不到位會導(dǎo)致數(shù)據(jù)安全問題。當(dāng)前互聯(lián)網(wǎng)應(yīng)用軟件采集的個(gè)人信息維度多樣，社交通信、移動支付、網(wǎng)絡(luò)購物、衛(wèi)星導(dǎo)航、智能手環(huán)等智能工具采集了用戶多方面的數(shù)據(jù)，將一個(gè)人的喜好、行蹤、受教育程度、職業(yè)、財(cái)富、健康等多種信息整合歸納，多維度的數(shù)據(jù)軌跡足以為個(gè)人畫像。這些信息如果被非法利用就會構(gòu)成對他人隱私權(quán)的侵犯。2019年8月，一款名為“ZAO”的AI換臉社交軟件在年輕人中流行開來，用戶只需提供一張正面照就能將其他視頻中人物的臉換為自己的臉。但該軟件的用戶隱私協(xié)議沒有對用戶闡明數(shù)據(jù)泄露的風(fēng)險(xiǎn)，甚至認(rèn)為該軟件對使用者的肖像權(quán)具有“全球范圍內(nèi)免費(fèi)、不可撤、永久可轉(zhuǎn)授權(quán)”，而如果侵權(quán)了明星肖像，最后責(zé)任都在用戶。此外，當(dāng)前的監(jiān)控設(shè)備也因其便捷性被廣泛使用，商場、醫(yī)院、學(xué)校甚至快遞收取點(diǎn)都有監(jiān)控系統(tǒng)。這些設(shè)施在便利工作生活、輔助安全保障的同時(shí)，收集并存儲的信息并沒有被合理監(jiān)管，導(dǎo)致公民的個(gè)人隱私也存在隱患。

　　(三)權(quán)利與責(zé)任認(rèn)定問題帶來的挑戰(zhàn)

　　人類對人工智能的擔(dān)憂之一，就是它的高度智能化系統(tǒng)如果被不正當(dāng)利用或者失控可能會對人類社會產(chǎn)生威脅，隨之而來的必定是技術(shù)研究與應(yīng)用引發(fā)的責(zé)任歸屬問題。目前已經(jīng)有一些醫(yī)院采用算法讀取患者影像，凡是機(jī)器判斷為陽性的片子，醫(yī)生再通過人工診斷進(jìn)行復(fù)核，診斷出來是陰性的，醫(yī)生不再檢查。一旦因算法出錯導(dǎo)致誤診，特別是出現(xiàn)假陰性誤診，誰應(yīng)該簽字承擔(dān)責(zé)任?再如，隨著谷歌、特斯拉和Uber等智能無人駕駛致人死亡事件的相繼發(fā)生，關(guān)于機(jī)器和人誰應(yīng)當(dāng)對此負(fù)責(zé)的倫理爭論愈演愈烈。麻省理工學(xué)院進(jìn)行的“道德機(jī)器”測試曾提出無人駕駛的倫理困境：通過模擬行駛中不常見的一些情景，大量采集公眾選擇的數(shù)據(jù)樣本，“訓(xùn)練”一輛無人駕駛汽車的人工智能系統(tǒng)對這些情景作出判斷。這些判斷是基于公眾的意見，簡單來看是由公眾對這些情景進(jìn)行了判斷，這些判斷沒有正確答案，但形成了無人駕駛汽車行動的依據(jù)，而由此產(chǎn)生的責(zé)任劃分則難以明確。因此，如果事先沒有適當(dāng)?shù)臋?quán)責(zé)劃分，容易導(dǎo)致人工智能產(chǎn)品脫離社會倫理、法律規(guī)范，其可能擾亂經(jīng)濟(jì)社會秩序，造成更大危害。

　　(四)人工智能的崗位替代帶來的挑戰(zhàn)

　　人工智能以其智能化、高效化，成為提高社會工作效率、提升經(jīng)濟(jì)效益的重要方式，實(shí)現(xiàn)對產(chǎn)業(yè)結(jié)構(gòu)和社會分工模式的重構(gòu)，有可能造成大量人員的結(jié)構(gòu)性失業(yè)，從而影響社會公平。當(dāng)前，許多領(lǐng)域的工作崗位已經(jīng)逐漸嘗試應(yīng)用人工智能技術(shù)。例如，制造大廠富士康在多個(gè)工廠和多條生產(chǎn)線已經(jīng)實(shí)現(xiàn)了自動化，實(shí)現(xiàn)了24小時(shí)的無人工廠，僅在昆山工廠就減員6萬人。麻省理工學(xué)院發(fā)布研究報(bào)告稱，過去20年，美國有36萬—67萬工作崗位被機(jī)器人奪走，未來10年，還將有350萬個(gè)崗位被人工智能替代[3]。雖然這并非人類開發(fā)者刻意為之，但是人工智能技術(shù)的應(yīng)用對人類就業(yè)和財(cái)富分配觀念帶來的影響，對社會公平可能帶來的損害，都引發(fā)了潛在的倫理風(fēng)險(xiǎn)。

　　二、中國人工智能倫理治理的實(shí)踐探索

　　為促進(jìn)人工智能的健康發(fā)展，中國一直以來都很重視對人工智能的倫理、法律、社會影響等問題的研究，積極研究制定相關(guān)政策法規(guī)，以全球化的視角推動人工智能治理。但隨著人工智能技術(shù)的快速應(yīng)用與發(fā)展，與之匹配的倫理治理體系還未建立，相關(guān)政策還需不斷完善，科研人員的倫理自覺還有待提升，社會影響的應(yīng)對方式還需探索。

　　(一)主要進(jìn)展

　　1.建立人工智能治理委員會

　　為推進(jìn)人工智能發(fā)展，保持中國在人工智能等新技術(shù)革命中的后發(fā)優(yōu)勢，從2015年開始，國家通過頂層設(shè)計(jì)，有力地保障了人工智能的快速發(fā)展。2019年，中國成立了由科學(xué)技術(shù)部、國家發(fā)展和改革委員會、工業(yè)和信息化部、中國科學(xué)院、中國工程院、中國共產(chǎn)黨中央軍事委員會科學(xué)技術(shù)委員會、中國科學(xué)技術(shù)協(xié)會等15個(gè)部門構(gòu)成的新一代人工智能發(fā)展規(guī)劃推進(jìn)辦公室，隨后成立了國家新一代人工智能治理專業(yè)委員會，加強(qiáng)了對人工智能領(lǐng)域科技倫理的監(jiān)督。

　　2.發(fā)布相關(guān)治理原則和規(guī)范

　　《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》中提出，要形成我國人工智能法律法規(guī)、倫理規(guī)范和政策體系。國家標(biāo)準(zhǔn)化管理委員會發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》，從國家層面明確了中國人工智能為人類服務(wù)原則和責(zé)任原則[4]。2019年6月，新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》。由于人工智能技術(shù)正處于快速發(fā)展期，過早地從法制角度進(jìn)行強(qiáng)制性約束可能會影響技術(shù)的發(fā)展和應(yīng)用[5]，因此這些政策僅是原則性意見或通知，尚無具體管理制度。中國人工智能學(xué)會倫理道德專業(yè)委員會正在計(jì)劃針對不同行業(yè)的人工智能設(shè)立和制定種種倫理規(guī)范，如智能駕駛規(guī)范、數(shù)據(jù)倫理規(guī)范、智慧醫(yī)療倫理規(guī)范、智能制造規(guī)范、助老機(jī)器人規(guī)范等[6]。

　　針對一些具體技術(shù)應(yīng)用領(lǐng)域，國家也出臺了相關(guān)管理規(guī)范。2019年11月底，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確提出“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的，應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施，并將相關(guān)信息報(bào)網(wǎng)信、文化和旅游、廣播電視等部門備案”等規(guī)定，加強(qiáng)對數(shù)據(jù)隱私的管理。2018年4月，工業(yè)和信息化部、公安部和交通運(yùn)輸部等三部門發(fā)布了《智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范(試行)》，對測試主體、測試駕駛?cè)恕⒔煌ㄟ`法和事故處理等內(nèi)容進(jìn)行了明確規(guī)定，各省、市級政府相關(guān)主管部門可以組織開展智能網(wǎng)聯(lián)汽車道路測試工作。

　　3.推動人工智能科研界建立共識

　　2019年5月25日，北京智源人工智能研究院正式成立了人工智能倫理與安全研究中心。北京智源人工智能研究院與北京大學(xué)、清華大學(xué)、中國科學(xué)院自動化研究所、中國科學(xué)院計(jì)算技術(shù)研究所等單位共同發(fā)布了《人工智能北京共識》。該文件提出，在人工智能的研發(fā)、使用、治理等方面應(yīng)遵循有益于人類命運(yùn)共同體構(gòu)建和社會發(fā)展的15條原則。2020年9月14日，北京智源人工智能研究院發(fā)布了中國首個(gè)針對兒童的人工智能發(fā)展原則《面向兒童的人工智能北京共識》，作為《人工智能北京共識》針對兒童群體的實(shí)施細(xì)則，提出包括“以兒童為中心”“保護(hù)兒童權(quán)利”“承擔(dān)責(zé)任”“多方治理”4大主題的19條細(xì)化原則。

　　(二)存在的問題

　　1.人工智能倫理治理體系亟待建立

　　在人工智能領(lǐng)域，技術(shù)飛速發(fā)展，但與其相匹配的管理、運(yùn)行、保障、監(jiān)督機(jī)制仍顯滯后和發(fā)展緩慢，政府對人工智能倫理監(jiān)管的頂層設(shè)計(jì)尚處于起步階段。與人工智能類似的大數(shù)據(jù)領(lǐng)域已基本完成制度建設(shè)，在全國形成了協(xié)同共治的大數(shù)據(jù)管理機(jī)制，各省、自治區(qū)、直轄市都設(shè)置了由中央統(tǒng)一領(lǐng)導(dǎo)的大數(shù)據(jù)政務(wù)服務(wù)管理局。而在人工智能領(lǐng)域，目前國家新一代人工智能治理專業(yè)委員會正逐步探索構(gòu)建治理體系，政府對于技術(shù)倫理的治理仍處于探索階段，治理組織體系、監(jiān)管機(jī)制、治理方案等都還不夠成熟。

　　推薦閱讀：基于人工智能技術(shù)的會展業(yè)務(wù)新模式