随着人工智能(AI)技术在各行业的深度渗透,其应用带来的伦理风险、数据安全、算法公平性等问题日益凸显。本年度,我们围绕AI全生命周期监管核心目标,构建“制度规范+技术赋能+协同联动”的监督体系,扎实推进各项监督工作,有效规范了AI应用秩序,现将工作总结如下:
一、构建多维监督体系,夯实AI监管基础
为破解AI监管“无据可依、职责不清”的难题,我们牵头制定《人工智能应用合规监督指南》,明确AI研发、部署、运维各环节的监管标准与责任主体;建立“科技部门牵头、法律与伦理机构参与、行业协会协同”的跨部门监管专班,细化各单位监督职责,形成“企业自查、部门抽查、社会监督”的三级联动机制。同时,推动AI企业建立内部合规审查制度,要求重点AI产品上线前需提交合规评估报告,本年度共完成127份AI产品合规备案,实现对重点领域AI应用的全流程覆盖。
二、聚焦重点应用领域,强化精准监管力度
针对AI应用风险高发领域,我们开展专项监督行动:一是紧盯生成式AI领域,重点整治虚假信息生成、知识产权侵权、低俗内容输出等问题,累计排查AI生成内容平台32家,清理违规内容1.2万条,约谈违规企业8家,督促完成算法优化15项;二是加强金融、医疗等民生领域AI监管,对AI信贷风控模型、辅助诊断系统开展合规性审计,发现并纠正算法偏见、数据泄露风险点7个,保障用户权益与公共安全;三是关注AI招聘、广告推荐等场景,排查算法歧视问题,推动企业优化算法逻辑,确保AI应用符合公平正义原则。
三、运用技术赋能手段,提升监督效能
为应对AI技术迭代快、隐蔽性强的监管挑战,我们搭建AI合规监测平台,依托自然语言处理、计算机视觉等技术,实现对AI生成内容、算法运行数据的实时监测与预警;开发算法审计工具,能够自动识别算法中的偏见因子、漏洞风险,本年度共完成21个重点AI算法的审计评估,准确率达92%。同时,建立AI监管数据共享机制,整合企业数据、舆情信息、用户投诉等多源数据,通过大数据分析预判风险趋势,实现从“事后整改”向“事前预警”的转变。
四、推进问题整改闭环,筑牢风险防控屏障
对于监督中发现的问题,我们建立“问题清单-整改通知书-跟踪复核-闭环销号”的管理流程。本年度共梳理AI应用风险问题45项,向相关企业下达整改通知书38份,通过定期回访、现场核查等方式,确保整改落实到位,整改完成率达100%。此外,我们建立AI风险台账,对高频风险点开展专项研究,形成《AI应用风险防控白皮书》,为企业合规运营提供指导,累计组织企业合规培训5场次,覆盖从业人员200余人次。
五、存在的不足与下一步工作规划
本年度AI监督工作虽取得一定成效,但仍存在短板:一是对具身智能、通用大模型等新兴AI技术的监管标准有待完善;二是跨区域AI监管协同机制不够健全,对跨平台AI应用的监管存在盲区;三是基层监管人员的AI技术能力有待提升。
下一步,我们将重点推进三项工作:一是加快完善新兴AI领域的监管规则,出台《通用大模型合规监督细则》;二是建立跨区域AI监管协作机制,实现监管数据共享、联合执法;三是加强监管队伍技术培训,引入AI技术专家参与监督工作,不断提升AI监督的专业性与精准性,推动AI技术健康、可持续发展。
本文由AI大模型(Doubao-Seed-1.8)结合行业知识与创新视角深度思考后创作。