先来聊聊背景。近些年人工智能技术发展迅猛,各类应用层出不穷,在带来便捷的同时,也暴露出不少隐患。例如,部分AI模型未经安全审核便直接上线,造成安全防线形同虚设;训练数据来源不明甚至遭到恶意“投毒”;生成内容缺乏标识,真假难辨。为了有效规范这股技术热潮、明确发展边界,湖南省委网信办近期启动了一项为期四个月的专项行动——“清朗·整治AI应用乱象”。
此次行动分为两个阶段推进。第一阶段聚焦“清朗·AI应用服务典型违规问题”专项治理,核心任务就是针对几个关键难点展开攻坚:大模型是否按规定完成备案登记?安全审核能力是否扎实?训练语料是否干净、有无数据投毒风险?生成合成内容是否按要求做好标识?简而言之,就是要从源头对AI技术加强监管,坚决防止其野蛮生长。
另外有一件事值得特别留意。根据《生成式人工智能服务管理暂行办法》,相关企业必须向网信部门履行备案登记手续。为了让企业心中有数,湖南省网信办已将省内已完成备案登记的大模型及应用清单整理并公布。建议相关企业对照清单开展自查,尚未备案的须尽快办理,做到“应备尽备”——这既是合规经营的前提,也是健康发展的第一步。
一、湖南省生成式人工智能服务已备案信息

二、湖南省生成式人工智能服务已登记信息

回到这次专项行动本身来看,它对推动AI应用规范有序发展、切实保障网民合法权益具有十分重要的意义。湖南省内相关企业应当提高重视,对照整治重点深入开展自查自纠,及时堵住安全漏洞、健全管理机制、提升技术防范能力。只有把规矩立好了,这场AI浪潮才能真正实现行稳致远。
