驯服AI

1.“人工智能领域最值得信赖的声音之一”、“硅谷斗士”、知名认知科学家盖瑞·马库斯的全新力作，针对人工智能，尤其是生成式AI，发表引人深思的全新观点。
2.作者认为，生成式AI的能力和前景被过度炒作了，我们正在走向一个人工智能寡头统治的境地，并重点阐释了生成式AI带来的十二大迫在眉睫的威胁，包括虚假信息、市场操纵、数据泄漏等，深入剖析了“AI幻觉”问题。
3.这本书为我们提供了应对当前困境的实用的工具，包括8项行动建议，说明合乎逻辑的人工智能政策应该是什么样的，并且介绍了普通人如何运用人工智能解决问题。
4.该书入选《纽约客》2024年度图书，并被《福布斯》《卫报》《财富》等多家媒体深度报道。上海交通大学讲席教授 江晓原、复旦大学国际政治系副教授 蒋昌建、财经作家 吴晨 联袂推荐！

· 你有没有被AI自信满满地欺骗过？
· 大模型一个比一个强，可它们说的话，你能信几分？
· 是你在使用AI，还是AI在使用你？
· 技术跑得比监管快，这场实验中的小白鼠是谁？

在这本书中，作者深入阐释了生成式人工智能的潜在风险，总结了它带给我们的12项迫在眉睫的威胁，包括自动化虚假信息、市场操纵、非自愿深度伪造、数据泄露、版权侵害、环境代价等；重点剖析了“AI幻觉”问题：从技术本质上揭露大语言模型的致命缺陷，指出其混淆事实真相、罔顾统计规律的核心问题。
这本书揭示了硅谷企业如何通过舆论操控和游说手段，影响公众认知与政府政策，阻碍有效监管的形成。随后，书中提供了一套具体可行的治理框架，包括8项行动建议，涵盖隐私立法、追责机制、人工智能素养教育、独立监管和敏捷治理等。
作者讲清了AI应该被如何约束，以及我们普通人对此要如何做出反应。这本书有助于科技行业从业者、政策制定者及关注AI发展的普通读者理解：AI监管不是压制创新，而是将技术发展纳入负责任的轨道。

美国知名的认知科学家，纽约大学教授，师从史蒂芬·平克，在认知心理学、神经科学和人工智能交叉领域做出重要贡献。
· 他以激烈批判当代“人工智能炒作”而闻名，经常挑战关于深度学习和神经网络的主流观点，甚至与山姆·奥尔特曼、杨立昆等人论战，呼吁对人工智能进行监管，提高公众对人工智能的了解。
· 2014年，他创办了机器学习公司几何智能（Geometric Intelligence），并担任首席执行官。该公司于2016年被优步收购，随后他在优步创立了人工智能实验室。
· 2019年，他与机器人专家罗德尼·布鲁克斯共同创立了Robust.AI，专注于研发新一代的人工智能认知引擎，提供协作式移动机器人，帮助仓库和工厂提高效率。2024年，Robust.AI被世界经济论坛评选为年度技术先锋。

前 言 如果不改变航向，我们将失去自己熟知的社会 / V

第一部分 人工智能的现状
第一章 我们现有的 AI / 003
第二章 当今的人工智能，并非我们理想中的模样 / 013
第三章 生成式人工智能的十二大迫在眉睫的严峻威胁 / 029
第一大威胁：蓄意、自动化、大规模生产的虚假政治信息 / 030
第二大威胁：操纵市场 / 032
第三大威胁：无意识的虚假信息 / 033
第四大威胁：诽谤 / 038
第五大威胁：非自愿的深度伪造信息 / 039
第六大威胁：犯罪升级 / 041
第七大威胁：网络安全与生物武器 / 043
第八大威胁：偏见与歧视 / 044
第九大威胁：隐私与数据的泄露 / 047
第十大威胁：未经许可侵占知识产权 / 050
第十一大威胁：对不可靠系统的过度依赖 / 053
第十二大威胁：环境成本 / 055

第二部分 政治与修辞问题
第四章 硅谷的道德沉沦 / 065
第五章 硅谷如何操纵公众舆论 / 077
第六章 硅谷如何操纵政府政策 / 093

第三部分 我们应当坚守的阵地
第七章 数据权利 / 107
第八章 隐私权 / 115
第九章 信息透明 / 121
第十章 责任归属 / 129
第十一章 人工智能素养 / 139
第十二章 独立监管 / 143
第十三章 监管须层层设防 / 151
第十四章 以税收激励构建良性 AI 生态 / 155
第十五章 敏捷治理与建立 AI 监管机构的迫切性 / 161
第十六章 国际 AI 治理的挑战 / 171
第十七章 构建真正可信的人工智能的研究路径 / 179
第十八章 全球人工智能治理的核心诉求 / 193

结 语 我们的共同行动纲领—即刻行动倡议/ 195
致 谢 / 207
注 释 / 209