据媒体报道,包括讯飞星火在内的多个AIGC(人工智能生成内容)相关App,于8月1日凌晨在苹果应用商店下架。8月2日,讯飞星火 App 在苹果应用商店恢复上架,版本更新为 1.3.04。
据媒体报道,接近监管部门的权威人士表示,8月15日即将施行的《生成式人工智能服务管理暂行办法》,相关应用在数据采集和使用环节等还不够规范。虽然应用调整后已重新上架,但此事件也给其他应用提供者敲响了警钟。
作为今年全球最受瞩目的重要科技成果之一,AIGC快速发展,我国也掀起了“百模大战”。由于AIGC在大模型训练过程中,数据采集和使用等方面数量巨大,GPT-3时期的ChatGPT数据量达到了45TB, GPT-4的规模是GPT-3的10倍以上。可以想见,我国“百模大战”的推进,各家企业所需数据量规模将急剧放大。
(资料图片仅供参考)
市场竞争压力之下,不排除个别企业为了加快研发和应用,在数据采集和使用过程中,对用户隐私重视程度不够,出现“重采集轻保护”的现象,不仅会涉嫌引发用户隐私,而且会造成相关数据泄露风险。
近期,爆火的妙鸭相机凭借AI生成数字照片能力火速出圈,不过其无法退款和隐私保护等问题也被消费者诟病,遭到上海消保委点名。这一事件反映出AIGC应用在用户隐私方面存在的问题。
除了用户隐私之外,随着AIGC未来进入更多行业,对海量行业数据采集和应用,有可能遭遇数据资产权益保障等问题。对于合作企业或行业而言,如何放心将自身所积累的宝贵数据资产交由AIGC服务方使用?假设遇到未经授权允许,AIGC服务方擅自“爬虫”数据等问题,给自身权益带来损害,又该如何维权?这些问题如果不得以解决,将对AIGC与实体经济融合产生影响。
从数字经济及人工智能的发展趋势来看,数据资产的重要性日益凸显。数据将成为创造财富的重要来源,并且成为企业资产增值、带来新业务发展空间的基础。当AIGC进入众多行业领域,尤其是指向国计民生的重要领域,就会形成双刃剑效应,一方面通过技术创新,带动相关领域的效能提升、成本下降,另一方面如果管理不善,则会引发数据外泄、甚至被别有用心者用于非法用途等危机。
也因此,让AIGC成为造福于社会进步和科技发展的利器,而非给社会经济带来不可控影响的巨兽,成为《生成式人工智能服务管理暂行办法》出台的动因。《办法》明确了训练数据处理活动和数据标注等要求,要求AIGC提供者须履行个人信息保护义务,做好信息脱敏,保障公众知情权和选择权,按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识,发现违法内容应当及时采取处置措施等。此外,还规定了安全评估、算法备案、投诉举报等制度,从而在有序规范AIGC技术和产业发展的基础上,鼓励科技创新。
此次多个AIGC 应用APP下架,据称是其数据采集和使用未达到规范标准。这也说明,尽管《办法》尚未正式实施,但对于AIGC应用的管理已经发力。AIGC技术研发及提供方、手机或者网络平台同为该技术的提供者,也即负有相互监督责任。如果手机或者网络平台发现,AIGC技术研发及提供方,在数据采集及应用方面存在种种问题,应当按《办法》要求主动下架,督促其进行整改,并向主管部门报告,主管部门也应对不履行相关标准的AIGC提供者,采取处罚举措,倒逼其提高合规意识。
多个AIGC应用下架,对技术提供者敲响了警钟。中国数字经济及人工智能技术的发展已经到了重要节点,任由其野蛮成长的日子已一去不复返。随着《网络安全法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》等诸多法律法规的出台,生成式AI将被纳入到更加严格的管理体系中,实现全链条监管。
未来一旦碰撞管理“红线”,AIGC提供者将面临更严厉的问责,数据合规应用是生成式AI必由之路,随着《办法》实施,企业,平台及监管部门都应各司其职,加快数据采集使用的规范化和透明化,如此才能让国内AIGC发展走向良性有序。
评论人 毕舸
编辑 徐超
校对 赵琳