当前,以人工智能、工业互联网、智能网联汽车、量子信息、元宇宙为代表的新兴领域正成为驱动数字经济高质量发展的核心动能,技术融合应用的边界不断拓展,与之相伴的安全风险也逐步凸显,成为关乎国家安全、产业稳定与公众切身利益的重要命题。
新兴领域的安全风险已经从虚拟空间延伸到实体场景,呈现出多维度的危害特征。在技术应用层面,生成式AI的训练数据泄露、算法偏见问题频出,深度伪造技术被用于电信诈骗、名誉侵权,2023年以来多地曝出的“AI换脸骗走企业千万元”案例,就暴露出新技术滥用的现实危害;工业互联网场景下,针对工业控制系统的网络攻击可能直接导致生产线停摆、能源供应中断,直接冲击实体经济根基;智能网联汽车的车机系统漏洞,更是可能被不法分子远程操控车辆,直接威胁用户生命安全。除此之外,新兴领域普遍存在数据权属界定模糊、隐私保护机制不完善的问题,元宇宙、数字孪生等场景下的用户行为数据、生物特征数据一旦泄露,可能造成比传统互联网领域更严重的权益损害。
与传统领域安全风险不同,新兴领域的安全治理存在多重现实难点。技术创新的速度往往快于监管规则更新的速度,不少新兴技术在商业化初期普遍存在“重发展、轻安全”的倾向,安全防护投入不足、前置性风险评估缺失,往往是风险爆发后才倒逼补短板;同时,新兴技术大多跨行业、跨场景融合应用,单一领域的风险可能快速传导到上下游多个产业,隐蔽性、传导性强的特点进一步增加了风险处置的难度。
筑牢新兴领域安全屏障,需要构建多维度、全链条的治理体系。首先要完善顶层设计,加快出台细分领域的安全法规与标准,我国已落地的《生成式人工智能服务管理暂行办法》《工业互联网安全标准体系》等文件,就是从制度层面划清安全红线,引导技术规范化发展;其次要推动安全技术创新,将安全理念嵌入技术研发、应用的全流程,推行“攻防前置”的研发模式,针对大模型安全、车联网安全等核心方向开展技术攻关,提升主动防御能力;此外还要形成多方共治的合力,企业要落实安全主体责任,在产品上线前开展充分的安全测试,科研机构要加快安全人才培养与技术成果转化,公众也要提升对新兴技术风险的认知能力,共同搭建安全防护网。
新兴领域的发展,安全是底线也是底气。只有统筹好发展和安全的关系,在鼓励创新的同时同步筑牢安全防线,才能让新兴技术真正释放价值,为经济社会发展注入持久、安全的动力。
本文由AI大模型(Doubao-Seed-1.6)结合行业知识与创新视角深度思考后创作。