新民快评|治理“深度伪造”,对AI换脸等“作恶”说不

来源:新民晚报时间:2022-12-12 15:40:27


(相关资料图)

只需上传自己的照片,相关系统即可自动“换脸”,成为“主角”穿越到热播网剧中。这样的AI(人工智能)换脸已经成为了不少剧迷追剧的新玩法。然而,这种深度合成技术就像一柄双刃剑,也有可能给使用者带来威胁。对此,近日发布并将于明年1月10日起实施的《互联网信息服务深度合成管理规定》中明确,AI换脸等应当进行显著标识,避免公众混淆或者误认。

图源:东方IC

前两年,中年妇女迷恋短视频平台上的“假靳东”事件,让人记忆犹新。随着技术的发展,不法分子已经可以通过深度合成技术进行变声、变脸的“深度伪造”,让“假靳东”们更加逼真,难以辨别真假,进行新型诈骗。合肥警方在“净网2021”专项行动中打掉一个利用深度合成技术进行犯罪的团伙,犯罪嫌疑人利用电脑将一张张静态照片制作为人脸动态视频,为黑灰产业链提供注册手机卡等技术支撑。

当眼见不再为实时,就需要制度予以规范。此次出台的规定中,除了要求对AI换脸等进行显著标识之外,还要求深度合成服务提供者等,应当提示使用者依法告知被编辑的个人,并取得其单独同意。同时,深度合成服务提供者和应用商店都要从源头上对深度合成内容提前把关,否则也要担责。

有了制度还需要具体的执行。一方面,有关部门要提高公众对深度合成技术的认知,除了显著标识之外,更要让他们了解到技术可能带来的风险,让公众一起参与到对深度合成技术的治理中,促使深度合成技术健康良性发展;另外一方面,有关部门也应该看到,随着“元宇宙”等技术的发展,全身合成、3D塑型等将被广泛应用,全新的场景将以深度合成技术为基石展开,也需要相关的“底线”和“红线”进一步明确,避免虚假信息在短时间内引发产生病毒式扩散。

深度合成技术不是法外之地,也非“洪水猛兽”,不能“一刀切”地禁止。深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进其正向应用与创新,助力打造网络空间良好生态。

方翔/文

标签:

相关阅读

推荐阅读

新民快评|治理“深度伪造”,对AI换脸等“作恶”说不

新民快评|治理“深度伪造”,对AI换脸等“作恶”

深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的更多

2022-12-12 15:40:27
北京市药监局进驻11家防疫药品企业_世界即时

北京市药监局进驻11家防疫药品企业_世界即时

北京市药监局进驻11家防疫药品企业更多

2022-12-12 15:46:57
热门药买不到有什么对策吗?混管异常要怎么办?上海发布回应_独家

热门药买不到有什么对策吗?混管异常要怎么办?上

热门药买不到有什么对策吗?混管异常要怎么办?上海发布回应更多

2022-12-12 15:52:21
全国各地多措并举促消费 城市“烟火气”回归

全国各地多措并举促消费 城市“烟火气”回归

除了企业出海招商抢订单,各地也都想尽办法多措并举促销费。从12月8日20时至12月19日24时,广州分三轮不间断发放消费券共计3000万元,派发的消更多

2022-12-12 15:12:19
今日热搜:中国“托老所”式社区养老服务渐成规模应对“银发潮”

今日热搜:中国“托老所”式社区养老服务渐成规模

(李丹)上午练习书法,中午在助老餐厅吃饭,下午和老伙计打乒乓球……72岁的任洪泉在吉林省白城市居家养老服务中心的生活,充实且自在。江西南更多

2022-12-12 15:11:55
铁证如山!这些文物讲述南京大屠杀真相-世界关注

铁证如山!这些文物讲述南京大屠杀真相-世界关注

侵华日军南京大屠杀遇难同胞纪念馆的19 2万余件馆藏文物史料、1216套6318件国家珍贵文物,记录着任何淡化、粉饰、歪曲、否认都不可改变的历史更多

2022-12-12 15:17:53
“阳过”何时可以返岗?一份“阳康”指南送给你

“阳过”何时可以返岗?一份“阳康”指南送给你

当下,各地复工复产已箭在弦上,这段日子,不少新冠病毒阳性感染者居家治疗后逐渐康复。但“阳过”们实在担心:家里的被子床单会不会藏匿病毒更多

2022-12-12 15:13:22
全球今亮点!航天新征程|打造太空家园

全球今亮点!航天新征程|打造太空家园

11月30日,神舟十五号航天员顺利入驻中国空间站,与神舟十四号航天员“会师”太空。中国航天员中心环控生保室主任卞强:我们有一套系统,尿收更多

2022-12-12 13:04:28
+ 点击查看更多精彩

精彩放送

太原12个楼盘发放18张预售证 仅有3个项目为纯新盘
    今年9月,太原市房产管理局给省城12个楼盘正式发放了18张预售证。...
截至9月底 杭州共完成不动产登记988.72万件
    房产证、土地证,两证合一了!2016年6月1日,在市民之家举行的全市...
各地继续密集发布楼市宽松政策 多地支持农民进城购房
    近期以来,各地继续密集发布楼市宽松政策,其中包括长春、遵义多...
宁波:关于“带押过户”新模式的7个典型问题权威解答来了
    日前,宁波市不动产登记中心试点二手房带押过户新模式。新模式下...
多地政府大手笔回购商品房 苏州拟对10个板块回购约1万套新房
    越来越多的地方政府出手回购当地商品房。近日,一份苏州市政府部...
市场降温豪宅不冷 媒体:北上广深掀起“豪宅热”
    尽管整体市场低迷,但豪宅板块比较稳定。争取成交,忙完这一次,...
    最新见闻