白话AI安全：32个故事带你读懂AI的攻防博弈

·真实案例驱动：融合电信、金融、医疗等多行业真实事件，将晦涩技术分解为鲜活故事，以此打破专业壁垒，零基础也能轻松看懂AI安全风险与防御逻辑。
·内容覆盖全面：从AI面临的安全挑战，到攻防技术与应用、AI赋能安全、业界动态与未来趋势，不仅揭示AI如何被“黑”，更教你用AI打造防护体系。
·聚焦前沿技术：深入解读越狱攻击、数据投毒、模型窃取等热门威胁，覆盖AI内生安全与衍生安全，紧跟技术前沿。
·适合广泛读者：不管你是技术人员、管理者，还是单纯对AI安全感兴趣的“小白”，这本书都能带你真正看懂AI安全背后的本质与实战逻辑。

随着AI技术深度融入医疗、金融、交通等关键领域，其安全风险已从技术问题升级为关乎社会稳定与伦理的核心挑战。本书以通俗易懂的“故事+对话”形式，揭开AI安全的神秘面纱，以“AI的攻防博弈”为主线，通过32个故事系统剖析AI时代的核心挑战和解决方案。
本书分为五篇，旨在帮助读者构建AI安全认知体系。第一篇从AI泄露用户隐私、AI应用技术风险等案例切入，揭示AI安全的重要性，勾勒攻防战场全貌；第二篇聚焦技术与管理双重维度，深入模型鲁棒性、可解释性差、数据质量与数据投毒等九大核心问题，探讨技术漏洞背后的伦理与法律困境；第三篇详解对抗样本、模型窃取攻击等十一类攻击手法，并给出对抗训练、可解释性工具等防护方案；第四篇展示AI如何赋能安全，包括安全大模型、AI代码审计工具等，以及电信运营商实践案例；第五篇聚焦AI安全行业动态与未来发展趋势，展望AI安全在标准规范、产业研究方向的趋势。
本书适合AI行业的技术人员（网络安全从业者、AI工程师）阅读，也适合关注AI合规的企业管理者借鉴，还适合希望系统理解AI安全的高校师生与探索者学习。

马洁，通信与运维管理高级工程师、网络与信息安全管理师（高级）、CISE、CISP-DSG、CCRC-DSO（数据安全官），中国信息通信研究院“数据安全共同体计划专家库”入库专家，广东省通信行业协会数据安全专业委员会委员，中国电信集团公司“优秀集团级内训师” “金牌讲师”，“2024数字中国创新大赛数据安全产业讲师选拔赛”银奖、最佳风采奖、优秀课件奖；第二届“数信杯”数据安全讲师赛银奖；中国计算机行业协会网络和数据安全专业委员会授予网络和数据安全人才培养“金牌讲师”。出版译著1本，发表专业相关论文9篇，承担工作站重点课题3项，揭榜挂帅项目1项，其他重点管理及科研项目超20项。

引子 安教授的AI安全第 一课　1
第 一篇 AI安全初探　5
故事1 AI的崛起：从图灵测试到大模型　6
故事2 AI安全风险案例：AI的安全黑洞　15
故事3 AI安全的重要性：AI的守护使命　26
故事4 AI安全攻防全貌：AI的攻防战场　37
第二篇 AI面临的安全挑战　47
故事5 AI模型的脆弱心脏：模型鲁棒性问题　48
故事6 AI模型的黑箱之谜：可解释性挑战　57
故事7 AI数据的污染危机：数据质量与数据投毒风险　66
故事8 AI算法的双刃剑：漏洞、攻击与滥用　77
故事9 AI的偏见：算法歧视与公平性　87
故事10 AI的责权：责任归属与法律挑战　93
故事11 AI武器化的隐忧：军事化应用的安全风险　101
故事12 AI时代的数据隐私保护：技术与法规解析　108
故事13 AI应用的合规挑战：各国规范性文件对比与发展趋势　118
第三篇 AI安全攻防及应用　129
故事14 扰动输入样本：欺骗AI的魔术　130
故事15 数据投毒攻击：污染AI的源头　140
故事16 模型窃取攻击：偷走AI的大脑　150
故事17 后门攻击：隐藏在AI中的定时炸弹　159
故事18 提升AI模型鲁棒性：应对输入样本扰动　168
故事19 AI数据安全防护：防御AI数据投毒　178
故事20 AI模型知识产权保护：防止模型窃取与滥用　188
故事21 AI系统安全加固：检测与防御后门攻击　197
故事22 AI内容安全的“守门员”：虚假信息识别与多模态过滤　207
故事23 AI周边安全的防护网：保障AI系统的安全　217
故事24 AI管理的“安全屋”：构建AI安全管理体系　225
第四篇 AI赋能安全　235
故事25 AI赋能安全攻防的“神兵利器”：关键技术解析　236
故事26 AI在安全测试中的利与弊：漏洞挖掘与代码审计　245
故事27 AI赋能安全防御：构建“铜墙铁壁”　253
故事28 安全产业的变革者：重塑安全生态　262
故事29 安全设备和系统的升级者：提升安全能力　271
故事30 电信运营商AI安全实践：实战案例分享　280
第五篇 AI安全行业动态与发展趋势　291
故事31 全球AI安全标准化组织：规则制定与发展　292
故事32 AI安全研究的风向标：最新研究进展　301
后记 　310