人工智能安全（精裝版）

第1章人工智能技術發(fā)展概述
1.1人工智能的研究方向及起源
1.1.1人工智能的研究方向
1.1.2人工智能起源
1.2人工智能的三次發(fā)展高峰
1.2.1人工智能第一次發(fā)展高峰
1.2.2人工智能第二次發(fā)展高峰
1.2.3人工智能第三次發(fā)展高峰
1.3人工智能的三個學術流派
1.3.1符號主義
1.3.2連接主義
1.3.3行為主義
1.3.4關于三個學術流派的評論
1.4人工智能第三次發(fā)展高峰的技術推手
1.4.1深度學習的貢獻
1.4.2軟件框架成為人工智能應用的推手
1.4.3解決不同軟硬件的適配
1.4.4算力大幅提升的貢獻
1.4.5大數(shù)據(jù)的貢獻
1.4.6移動互聯(lián)網(wǎng)與傳感器的貢獻
1.5人工智能帶來的巨大沖擊
1.5.1人工智能對經(jīng)濟的沖擊
1.5.2人工智能對社會的沖擊
1.5.3人工智能對人類思維的沖擊
1.5.4人工智能對教育與就業(yè)的影響
1.5.5人工智能對隱私的沖擊
1.6本章小結(jié)
參考文獻
第2章世界各國人工智能發(fā)展戰(zhàn)略規(guī)劃
2.1美國人工智能發(fā)展戰(zhàn)略
2.1.1美國人工智能發(fā)展職能機構
2.1.2美國人工智能戰(zhàn)略規(guī)劃
2.1.3美國人工智能發(fā)展計劃
2.1.4美國人工智能監(jiān)管政策
2.2歐盟及英國人工智能發(fā)展戰(zhàn)略
2.2.1歐盟及英國的人工智能戰(zhàn)略
2.2.2歐盟人工智能發(fā)展計劃
2.2.3歐盟及英國的人工智能倫理原則
2.2.4歐盟及英國人工智能立法及監(jiān)管
2.3其他一些國家人工智能發(fā)展戰(zhàn)略
2.3.1日本人工智能發(fā)展戰(zhàn)略
2.3.2俄羅斯人工智能發(fā)展戰(zhàn)略
2.3.3韓國、新加坡、加拿大、印度等國的人工智能戰(zhàn)略
2.4中國人工智能發(fā)展戰(zhàn)略
2.4.1中國人工智能發(fā)展的總體要求
2.4.2中國人工智能發(fā)展的主要任務
2.4.3中國人工智能產(chǎn)業(yè)發(fā)展的資源配置
2.4.4中國人工智能發(fā)展的保障措施
2.4.5中國人工智能發(fā)展的組織保障
2.4.6中國人工智能人才培養(yǎng)政策
2.5國內(nèi)外人工智能標準研究
2.5.1國際人工智能標準研究
2.5.2中國人工智能標準研究
2.6本章小結(jié)
參考文獻
第3章人工智能安全概述
3.1人工智能與安全的辯證關系
3.2人工智能安全體系架構與分類
3.2.1人工智能安全體系架構
3.2.2人工智能助力安全
3.2.3人工智能內(nèi)生安全
3.2.4人工智能衍生安全
3.3人工智能安全所處位置及外部關聯(lián)
3.3.1人工智能安全性、可靠性和可控性的關系
3.3.2人工智能安全與法律、政策和標準的關系
3.3.3人工智能安全與倫理之間的關系
3.3.4人工智能安全評測與防控
3.4本章小結(jié)
參考文獻
第4章人工智能助力安全
4.1人工智能助力安全概述
4.2人工智能助力防御
4.2.1物理智能安防監(jiān)控
4.2.2軍用機器人
4.2.3智能入侵檢測
4.2.4惡意代碼檢測與分類
4.2.5基于知識圖譜的威脅獵殺
4.2.6用戶實體行為分析
4.2.7垃圾郵件檢測
4.3人工智能助力攻擊
4.3.1自動化網(wǎng)絡攻擊
4.3.2助力網(wǎng)絡攻擊，提升網(wǎng)絡攻擊效率
4.3.3助力有害信息的傳播
4.3.4助力虛假信息內(nèi)容的制作
4.3.5智能惡意代碼
4.3.6神經(jīng)網(wǎng)絡后門
4.3.7對抗機器學習
4.3.8智能工具被用于惡意攻擊
4.3.9助力自主武器研發(fā)
4.4本章小結(jié)
參考文獻
第5章人工智能的內(nèi)生安全
5.1數(shù)據(jù)安全
5.1.1數(shù)據(jù)集質(zhì)量影響人工智能內(nèi)生安全
5.1.2數(shù)據(jù)投毒可人為導致人工智能算法出錯
5.1.3對抗樣本成為人工智能內(nèi)生安全的新關注點
5.2框架安全
5.3算法安全
5.3.1算法的可解釋性
5.3.2對抗樣本體現(xiàn)出人工智能算法缺乏可解釋性
5.4模型安全
5.4.1模型存儲和管理的安全
5.4.2開源模型被攻擊
5.5運行安全
5.5.1客觀原因?qū)е碌倪\行安全問題
5.5.2主觀原因?qū)е碌倪\行安全問題
5.6本章小結(jié)
參考文獻
第6章人工智能衍生安全問題
6.1人工智能系統(tǒng)失誤而引發(fā)的安全事故
6.1.1自動駕駛汽車失效
6.1.2智能機器人失效
6.1.3智能音箱失效
6.1.4人工智能系統(tǒng)“失控”
6.1.5會話人工智能的偏激言論
6.1.6醫(yī)療人工智能的危險治療意見
6.2人工智能武器研發(fā)可能引發(fā)國際軍備競賽
6.2.1各國人工智能武器化發(fā)展情況
6.2.2人工智能武器軍備競賽帶來的風險
6.3人們對人工智能技術失控的擔憂
6.4人工智能行為體失控三要素
6.4.1人工智能行為體具有行為能力以及破壞力
6.4.2人工智能行為體具有不可解釋的決策能力
6.4.3人工智能行為體具有進化能力，可進化成自主系統(tǒng)
6.5預防人工智能技術失控的舉措
6.5.1人機協(xié)作國際規(guī)范
6.5.2阿西洛馬人工智能原則
6.5.3自我終結(jié)機制防范系統(tǒng)性失控風險
6.6本章小結(jié)
參考文獻
第7章人工智能行為體
7.1人工智能行為體的定義
7.2人工智能行為體類型1——傳統(tǒng)型
7.2.1工業(yè)機器人
7.2.2專用服務機器人
7.2.3家用型機器人
7.3人工智能行為體類型2——自動駕駛的交通工具
7.3.1自動駕駛簡介
7.3.2自動駕駛汽車
7.3.3人工智能無人機
7.3.4無人駕駛船舶
7.4人工智能行為體類型3——人工智能武器
7.4.1人工智能武器簡介
7.4.2“殺人蜂” 武器
7.4.3炮塔型AI戰(zhàn)斗機器人
7.4.4人形戰(zhàn)斗機器人
7.5人工智能行為體類型4——類人機器人
7.5.1Jules機器人
7.5.2Bina48機器人
7.5.3Sophia機器人
7.6人工智能行為體的特性
7.6.1人工智能行為體的移動特性
7.6.2人工智能行為體的決策特性
7.6.3人工智能行為體的自主特性
7.7本章小結(jié)
參考文獻
第8章人工智能行為體保險箍
8.1體系架構
8.2基本功能
8.2.1遠程控制組件
8.2.2能源控制組件
8.2.3宿主交互組件
8.2.4數(shù)據(jù)記錄組件
8.3安全機制
8.3.1設備安全
8.3.2數(shù)據(jù)安全
8.3.3運行安全
8.4安全圍欄
8.4.1工作過程
8.4.2移動范圍限制
8.4.3速度與距離監(jiān)控
8.4.4輸出功率與力約束
8.4.5安全策略
8.5增強功能
8.5.1內(nèi)置傳感器
8.5.2人的識別
8.5.3“黑AIA”識別
8.6防控中心
8.6.1態(tài)勢感知
8.6.2指揮控制
8.6.3應急處置
8.6.4專家研判
8.7生態(tài)環(huán)境
8.7.1準入制度
8.7.2標準規(guī)范
8.7.3生態(tài)基礎
8.8本章小結(jié)
參考文獻
第9章人工智能行為體的安全評估與檢測
9.1人工智能行為體的安全管理概述
9.1.1從術語的角度感受個人助理機器人的安全要素
9.1.2個人助理機器人的風險評估要求
9.1.3個人助理機器人的安全要求
9.1.4個人助理機器人的功能安全
9.2人工智能行為體安全評估和檢測的目標
9.2.1動能安全：對AIA動能的評估
9.2.2決策安全：對決策系統(tǒng)安全的評估
9.2.3自主安全：對AIA自主能力失控風險的評估
9.3人工智能行為體安全評估的方法與指標
9.3.1動能安全評估
9.3.2決策安全評估
9.3.3自主安全評估
9.3.4安全評估過程
9.4人工智能行為體檢測能力與檢測方法
9.4.1針對AIA動能的檢測方法
9.4.2針對AIA決策機制的檢測方法
9.4.3針對AIA自主能力的檢測方法
9.5人工智能行為體的檢測流程
9.5.1針對AIA動能的檢測流程
9.5.2針對AIA決策機制的檢測流程
9.5.3針對AIA自主能力的檢測流程
9.6本章小結(jié)
參考文獻
第10章人工智能安全倫理準則
10.1人工智能技術引發(fā)的倫理問題
10.1.1人權問題
10.1.2倫理地位問題
10.1.3責任倫理問題
10.1.4風險問題
10.2人工智能技術發(fā)展的倫理準則
10.2.1各國政府及社團組織關于人工智能技術發(fā)展的倫理準則
10.2.2國際組織關于人工智能技術發(fā)展的倫理準則
10.2.3企業(yè)和高等院校關于人工智能技術發(fā)展的倫理準則
10.3人工智能行為體的倫理決策
10.3.1人工智能行為體的倫理決策能力
10.3.2人工智能行為體的倫理決策設計
10.3.3人工智能行為體的倫理決策考量
10.4人工智能行為體的責任歸咎
10.4.1責任主體
10.4.2責任分配
10.4.3無人駕駛汽車的責任追究
10.5本章小結(jié)
參考文獻
第11章人工智能前沿技術
11.1學術前沿
11.1.1強化學習
11.1.2遷移學習
11.1.3聯(lián)邦學習
11.1.4分布式機器學習
11.1.5表示學習
11.1.6元學習
11.1.7可解釋的人工智能
11.1.8對抗訓練
11.1.9人工智能芯片
11.1.10技術前沿安全挑戰(zhàn)
11.2應用前沿
11.2.1計算機視覺
11.2.2自然語言處理
11.2.3智能語音
11.2.4智能駕駛
11.2.5擬人和仿生
11.2.6智能攻防
11.2.7應用前沿安全挑戰(zhàn)
11.3交叉領域
11.3.1人工智能與互聯(lián)網(wǎng)
11.3.2人工智能與工業(yè)互聯(lián)網(wǎng)
11.3.3人工智能與醫(yī)學生物
11.3.4人工智能與軍事
11.3.5人工智能與商業(yè)模式
11.3.6人工智能與人文社會
11.3.7交叉領域安全挑戰(zhàn)
11.4本章小結(jié)
參考文獻
第12章人工智能安全的未來展望
12.1人工智能內(nèi)生安全的未來展望
12.1.1數(shù)據(jù)是否會制約人工智能內(nèi)生安全
12.1.2對抗樣本是否會出現(xiàn)在實際應用場景中
12.1.3是否存在安全的智能模型
12.1.4人工智能執(zhí)行過程是否安全
12.2人工智能衍生安全的未來展望
12.2.1人工智能武器化
12.2.2人工智能濫用導致安全隱患
12.2.3人工智能是否會危害人類
12.3人工智能安全相關的未來焦點
12.3.1人工智能基礎工具應注重自主可控
12.3.2如何看待人工智能自主發(fā)明物的專利性問題
12.3.3人工智能對人的影響
12.3.4人工智能挑起的欲望
12.3.5超人工智能是否會危害人類
12.4人工智能的安全可控之路
12.4.1建立保護人類的法律規(guī)范和規(guī)章制度
12.4.2確立人類優(yōu)先與安全優(yōu)先的原則
12.4.3謹慎承認智能機器人的法律主體資格
12.4.4充分尊重社會公眾的知情權
12.4.5人工智能的安全評估與檢測
12.4.6人工智能安全可控需要社會各界共同的努力
12.5本章小結(jié)
參考文獻