人工智能的倫理和隱私難題

【編者按】

如何深刻理解與全面把握“大變局”，決定著中國對當今世界未來與中國發(fā)展的清晰認識，也會直接影響中國人的日常生活。近日，《百年變局》一書出版，從政勢之變、經(jīng)濟之變、數(shù)字之變?nèi)齻€篇章展開，闡述在百年變局的背景下政治、經(jīng)濟、科技的變化趨勢，并在此基礎(chǔ)上引出當前的中國應(yīng)該怎么辦，未來向何處去。本文摘錄“數(shù)字之變”中的部分內(nèi)容，在簡要回溯人工智能的歷史的基礎(chǔ)上，探討人工智能的倫理和隱私難題。

怎樣進行人工智能監(jiān)管？這已經(jīng)成為一個全球性難題。普京曾經(jīng)指出：“人工智能是未來，但也有難以預(yù)測的威脅。無論誰成為這個領(lǐng)域的領(lǐng)導者，都將會成為這個領(lǐng)域的統(tǒng)治者。”普京指出了一個殘酷的現(xiàn)實——在人工智能領(lǐng)域是贏家通吃的世界，而不受約束的科技亦正亦邪，是鋒利的雙刃劍。

1.人工智能“一鍵脫衣”的危機

2019年6月27日，一款“一鍵脫衣”的軟件DeeNude引起了全球媒體的焦慮。只要給DeepNude一張女性照片，借助神經(jīng)網(wǎng)絡(luò)技術(shù)，App可以自動“脫掉”女性身上的衣服，顯示出裸體。

DeepNude的創(chuàng)建者阿爾貝托（Alberto）在接受媒體采訪時表示，該軟件基于加州大學伯克利分校研究者開發(fā)的開源算法pix2pix創(chuàng)建，并使用1萬張女性裸圖加以訓練。這一算法與之前的人工智能換臉技術(shù)deepfake算法相似，也和無人車技術(shù)所使用的算法相似。阿爾貝托還表示，該軟件目前之所以只能用于女性照片，是因為女性裸體圖像更容易在網(wǎng)上找到，但他希望能創(chuàng)建一個男性版本的軟件。反“色情復仇”組織Badass的創(chuàng)始人凱特琳·鮑登（Katelyn Bowden）感嘆說：“真是讓人震驚?，F(xiàn)在每個人都有可能成為色情報復的受害者，即使沒有拍過一張裸體照片，也可能會成為受害者。這樣的技術(shù)根本不應(yīng)該向公眾開放?！?/p>

2.想避免風險會是發(fā)展的最大風險：以無人駕駛為例

2018年以來，隨著人工智能技術(shù)帶來的各種改變，例如對工作的威脅，對個人大數(shù)據(jù)信息的精準分析，引起了全球各國人們的普遍恐慌。規(guī)避風險是人的天性，但不是發(fā)展的目的。托馬斯·阿奎那（Saint Thomas Aquinas） 曾經(jīng)寫道：“如果船長的最高使命是保護他的船只，那么他永遠只會停留在港口?！焙推渌袆?chuàng)新類似，人工智能的最終目標是促進人類社會的發(fā)展，而安全是發(fā)展的一部分。過度擔憂在一定程度上會阻礙技術(shù)的發(fā)展。下面以無人駕駛為例來說明這個問題。當前無人駕駛技術(shù)發(fā)展全面加速。盡管2018年出現(xiàn)了兩起無人駕駛致命車禍，但大部分無人駕駛汽車公司的發(fā)展并沒有受到影響。自動駕駛的人工智能發(fā)展不能只局限于實驗室，同時也需要大量的實際路況測試和數(shù)據(jù)訓練。通過公路的無人駕駛實際運行，讓駕駛AI學習規(guī)范、合法和安全的駕駛，不斷修復存在的系統(tǒng)問題。當前美國有部分州政府通過了無人駕駛公路測試法案，其中加州對無人駕駛發(fā)展的支持最為積極。根據(jù)加州車輛管理局的報告，2017年無人駕駛車輛的實際公路測試中，測試車輛以完全無人干預(yù)的自動駕駛模式運行的里程數(shù)超過50萬英里。其中Waymo（谷歌拆分出來的自動駕駛公司）和Cruise（通用汽車子公司）自動駕駛測試里程數(shù)最多。下圖是加州車管局（DMV）公布的2017年1至11月各公司汽車自動駕駛平均里程數(shù)（自動行駛距離/人為干預(yù)次數(shù)）。

2017年1-11月加州路測汽車自動駕駛的平均英里數(shù)（自動行駛距離/人為干預(yù)次數(shù)）。資料來源：California DMV.

從圖看，大部分公司2017年下半年人為干預(yù)自動駕駛的頻率明顯下降。Waymo公司1-6月無人駕駛平均英里數(shù)是4847英里，7-11月增長了55%。通用公司的無人駕駛里程數(shù)也從1-6月的627英里增加到了7-11月的2750英里，增長338.6%。百度也表現(xiàn)不俗，增長了600%，無人干預(yù)自動駕駛平均距離達到了119英里。根據(jù)加州DMV的數(shù)據(jù)，當前獲準在公路上進行無人駕駛的汽車數(shù)量約400余輛（可查數(shù)據(jù)是409輛）。其中Cruise公司最多，占104輛；其次是蘋果和Waymo，分別是55輛和51輛。Waymo公司是當前加州唯一在不配置備用駕駛員的情況下準許在公路進行自動駕駛測試的公司。

但民眾特別是發(fā)達國家的民眾對無人駕駛的擔憂卻開始越來越強烈。從2018年年初的民意調(diào)查看，亞非拉人民對自動駕駛的熱情遠高于西方發(fā)達國家。根據(jù)蓋洛普2018年年初對1503名美國民眾對無人駕駛相關(guān)問題進行的調(diào)查，有34%的人表示他們期望未來6至10年內(nèi)美國能普及無人駕駛。有19%的受訪人認為未來五年內(nèi)無人駕駛就會隨處可見。

民眾對自動駕駛的接受程度，各地區(qū)差異較大。根據(jù)跨國咨詢公司益普索集團（Ipsos）近期對中、印等15個國家2.15萬人的抽樣調(diào)查表明，亞非拉國家普遍比較歡迎自動駕駛，而西方發(fā)達國家反對人數(shù)占比反而更多。如下圖所示，印度和中國對自動駕駛最熱情，分別有49%和46%的人表示非常期待。根據(jù)Ipsos的調(diào)查，在南美，巴西有31%受訪者表示歡迎自動駕駛，和俄羅斯接近。但美國可能由于受最近幾個月無人駕駛車禍事件的影響，有近四分之一的人表示不會嘗試自動駕駛。歐洲國家反對自動駕駛的人也比較多，德國占31%、法國和英國分別占25%和24%。加拿大也有24%的人表示明確反對。

部分國家民眾對自動駕駛汽車的態(tài)度（省略態(tài)度中立人數(shù)占比）。資料來源：Ipsos

雖然無人駕駛汽車發(fā)展過程引發(fā)了民眾對于安全的焦慮，但究竟是進一步加強監(jiān)管還是提供較為寬松的環(huán)境？當前從美國和我國的實際情況來看， 并沒有因為存在風險而加強對無人駕駛的束縛。

部分國家民眾對自動駕駛汽車的態(tài)度（省略態(tài)度中立人數(shù)占比）

根據(jù)皮尤調(diào)查2016年的數(shù)據(jù)，2006-2016年十年中，美國的人類駕駛員造成4萬人不必要的死亡。換句話說，每天有100人被一名人類駕駛員殺死。另一方面，自動駕駛汽車可以將交通事故死亡率降低多達90%。這意味著延遲的成本由于監(jiān)管焦慮而無人駕駛的汽車技術(shù)每年將導致成千上萬的不必要的死亡。莫卡特斯中心（Mercatus Center）模型表明，5%的監(jiān)管延遲可能會產(chǎn)生額外的15500例不必要的死亡事故。延遲25%意味著112400名不必要的死亡。所以，從長遠發(fā)展看，因為害怕無人駕駛帶來的風險而限制其發(fā)展，本身就是最大的風險，因為無人駕駛較之于人類駕駛，有著顯然的優(yōu)勢。其他人工智能領(lǐng)域也存在類似的問題。

3.當前我國人工智能發(fā)展遇到的問題

一是大數(shù)據(jù)生態(tài)有待進一步完善。當前人工智能是以大數(shù)據(jù)為基礎(chǔ)的，需要依托大數(shù)據(jù)對機器智能進行訓練。在這一方面，目前我國依然存在一些問題。一是大數(shù)據(jù)生態(tài)系統(tǒng)方面落后于美國，缺少統(tǒng)一的標準和跨平臺的共享。二是公共大數(shù)據(jù)開放依然有限。開放政府大數(shù)據(jù)有助于私營部門的創(chuàng)新，但我國的公共部門開放的大數(shù)據(jù)依然相對少。三是跨國大數(shù)據(jù)流動的安全問題，我國在這方面面臨的挑戰(zhàn)越來越嚴峻。

二是人工智能人才問題。我國在人工智能基礎(chǔ)研究方面依然落后于美國，其中主要原因之一是人才依然短缺。當前我國對高端人工智能人才的渴求依然是非常強烈的。美國超過半數(shù)的資據(jù)科學家擁有10年以上的工作經(jīng)驗，但據(jù)麥肯錫統(tǒng)計，我國相關(guān)領(lǐng)域經(jīng)驗不足5年的研究人員高達40%。我國當前只有不到30個專注于人工智能的大學研究實驗室，僅靠這些實驗室是無法產(chǎn)出足夠的人才來滿足人工智能行業(yè)的需求的。此外，我國當前人工智能人才分布也不均勻，主要集中在計算機視覺和語音識別領(lǐng)域，而其他領(lǐng)域的人才相對更少。

三是人工智能核心硬件依然存在諸多不足。我國的微處理器（micropro-cessors）長期以來嚴重依賴進口，部分類型的高階半導體則幾乎完全依靠進口。為解決這一難題并掌握半導體核心技術(shù)以提高我國在未來更廣泛地部署人工智能領(lǐng)域的能力，我國在2014年發(fā)布《國家集成電路產(chǎn)業(yè)發(fā)展推進綱要》和《中國制造2025》，并設(shè)立了一個超過200億美元的基金，通過并購、投資入股國內(nèi)外半導體產(chǎn)業(yè)等，積極扶持國內(nèi)半導體產(chǎn)業(yè)，雖然已見初步成效，但自主創(chuàng)新之路仍然艱辛漫長。

4.對未來我國人工智能發(fā)展的建議：夯實基礎(chǔ)，保護知識產(chǎn)權(quán)，鼓勵創(chuàng)新

縱觀人工智能的發(fā)展，既有低谷，也有高峰，一路走來，在曲折中前進。回顧歷史，人工智能的發(fā)展既離不開基礎(chǔ)設(shè)施的發(fā)展，也受到市場利益的推動。未來，人工智能的發(fā)展會越來越廣泛，它會促進全行業(yè)數(shù)據(jù)的加速產(chǎn)生，推動移動化計算的發(fā)展。在垂直領(lǐng)域，AI也會向商業(yè)化發(fā)展靠攏，創(chuàng)造出更多的直接經(jīng)濟價值。因此，回歸基礎(chǔ)建設(shè)，完善大數(shù)據(jù)生態(tài)，加強知識產(chǎn)權(quán)保護，依然是當前我國推動人工智能發(fā)展的重點，這三項基礎(chǔ)工作做好了，才能進一步激發(fā)社會的創(chuàng)新能力，激活企業(yè)的人工智能創(chuàng)新動力，為我國在數(shù)字時代的騰飛培育堅實的核心動能。

《百年變局》，王文、賈晉京、劉玉書、王鵬/著，北京師范大學出版社2020年5月版。