FOREWORD
序

很高兴应复旦大学姜育刚教授邀请为《人工智能：数据与模型安全》一书作序。

近年来，人工智能领域的多元化和爆发式发展令人目不暇接，其影响深度和广度将使人类生活、生产及社会活动发生前所未有的变革。从智能安防到智能制造，再到智慧医疗及智慧教育，人工智能的“足迹”几乎遍布了社会的每一个角落，人类正满怀激情地拥抱正在来临的智能化发展新时代。然而，随着人工智能技术赋能千行百业，网络安全问题和隐私侵犯等事件也频频发生，尤其是人工智能算法和模型不仅存在不可解释性、不可判识性及不可推论性等内生安全个性问题，而且模型或算法的宿主执行环境还存在难以彻底避免的软硬件漏洞或后门等网络内生安全共性问题，以及与之密切相关的网络攻击和破坏造成的影响。人工智能应用系统个性化及共性化安全问题交织叠加造成诸多的新域新质安全威胁，给智能时代健康可持续发展带来极其严峻的挑战，已经引起科技界、产业界和国际社会的高度关注。近期，世界主要国家政府和国际组织纷纷制定法规、政策和标准，强调要保护人工智能数据与模型的安全，防范各种威胁和风险。与此同时，学术界和产业界也在积极探索理论与技术方面的网络弹性解决方案，以期使人工智能应用系统获得高可靠、高可信和高可用三位一体的稳定鲁棒性。

在这样的背景下，很多高校已经开设了人工智能安全相关课程，旨在帮助学生了解最前沿的研究与应用进展，加强人工智能安全意识。然而，当前尚无面向数据与模型安全的教材。因此，本教材的出版意义重大，在一定程度上可以填补此方面的空白。

本教材的作者是人工智能领域的优秀学者，在数据与模型安全方面做出了一系列国际前沿的研究成果，率先提出了诸如黑盒视频对抗样本生成方法、面向视频识别模型的数据投毒和后门攻击方法等。这些成果在人工智能安全领域已形成国际影响，引发同行大量跟踪研究。本教材是基于他们多年的一线研究与教学经验凝炼而成的，内容十分丰富。

本教材紧密围绕人工智能的两大核心要素——数据和模型，对人工智能安全问题和攻防算法进行了较为深刻的讨论，覆盖的理论方法和攻防策略对构建安全可靠人工智能系统具有重要意义。作者特别注重内容的体系化，系统梳理了近年来各方面的研究成果，提炼了人工智能攻防的核心思想，同时介绍了大量的技术细节，为人工智能领域的学生和研究人员提供了宝贵的参考资料。本教材可以帮助广大读者深入了解人工智能安全这一重要领域，在全社会大力发展人工智能技术的背景下，加强人工智能应用系统开发者与使用者的安全防范意识，平衡数字化、智能化时代网络安全风险与责任，促进人工智能产业的健康发展。

我相信，通过基于本教材的学习和实践，读者一定能够更好地应对人工智能时代的数据和模型安全挑战。最后，期待本教材的出版能够为人工智能领域的发展和进步做出应有的贡献！

邬江兴

2024年1月20日于上海