创新发展“AI+安全”，护航中国式现代化

工业互联网作为新型工业化的战略性基础设施和发展新质生产力的重要驱动力量，为推进新型工业化提供了坚实支撑。自2018年以来，“工业互联网”连续7年被写入政府工作报告。2024年政府工作报告指出，实施制造业数字化转型行动，加快工业互联网规模化应用，推进服务业数字化，建设智慧城市、数字乡村。

2024年两会已拉开序幕，工业互联网产业联盟特别推出“AII报两会”专题栏目，让我们一起看看今年围绕新型工业化、新质生产力、制造业、工业互联网、人工智能等内容，来自联盟的代表们都准备了哪些提案？委员们怎么说？

创新发展“AI+安全”，护航中国式现代化

近年来，AI持续加剧安全威胁，以ChatGPT为代表的生成式 AI 能快速生成钓鱼邮件、编写恶意软件与代码等，导致攻击数量增加，AI 欺诈事件频发。数据显示，ChatGPT等生成式AI导致网络钓鱼邮件攻击增长 135%。生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题，如ChatGPT在对话交互过程中能获取用户数据，加剧数据泄露风险。不法分子还能利用“深度伪造”换脸变声、伪造视频，“眼见未必为实”将成为常态，网络诈骗大增，甚至引发社会认知混乱。

“AI加剧了攻防失衡，利用和针对 AI的攻击层出不穷，网络安全‘易攻难守’。在AI恶意利用方面，人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，专业的黑客组织可以利用人工智能对网络攻击进行改造升级。”齐向东表示，利用AI制作恶意软件、生成规避杀毒软件检测的代码等，网络攻击能力出现跃升；在针对 AI 算法攻击方面，机器视觉攻击、数据源污染等攻击频发，攻击者能通过对抗样本、数据投毒、模型窃取等方式对AI算法进行攻击，使其产生错误判断，同时由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

齐向东建议，抓住三个关键，创新发展“AI+安全”，提高应对网络空间安全风险与不确定性的能力，护航中国式现代化。

从供给侧看，开展联合创新，围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破。“技术创新产品需要在应用中更新迭代走向成熟，特别是人工智能大模型，数据样本越丰富，成长速度越快。”齐向东表示，建议鼓励各行业头部企业与专业安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用，在实战中推动“AI+安全”进入越用越强的良性循环。

从需求侧看，强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用。“把AI用于网络安全防护是新事物，政企机构面对大模型安全创新产品产生疑虑是正常的。”齐向东表示，积极的政策引导是推动新事物落地应用、成长壮大的催化剂。以新能源汽车产业的发展为例，最初消费者对其安全性有疑虑，密集出台的财税补贴、“双积分”制度等一系列政策，逐步改变了消费者观念，拉动了新能源汽车产业的发展和技术进步。为此，他建议，像支持新能源汽车的发展一样，支持“AI+安全”发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；对率先取得技术突破，实现成果转化的科研机构和企业给予奖励；对积极使用相关技术、产品和服务的企业给予相应补贴，推动“AI+安全”相关产业取得更多科技创新成果。

从人才侧看，壮大“AI+安全”领域的实战型、复合型人才队伍。随着AI技术的普及和应用领域的不断扩展，我国AI人才严重短缺。数据显示，人工智能不同技术方向岗位的人才供需比均低于0.4，其中智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09，相关人才极度稀缺。“建议充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才，为我国抢抓人工智能机遇培育人才。”齐向东表示。