【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
粉丝接机艺人造成拥堵混乱,如何引导合法理性追星?******
疯狂粉丝接机艺人造成拥堵混乱事件频发
专家认为 粉丝不理性追星艺人也有责任
采访背景
近日,接连发生两起因粉丝接机艺人造成拥堵、导致现场秩序混乱的事件,一起事件还冲上了热搜榜,引发社会关注。
粉丝疯狂追星事件近年来屡见不鲜,从粉丝购买艺人手机号码、航班信息追星到接机挤爆机场扶梯玻璃,从粉丝为艺人应援集资、投票打榜到在网上侮辱、诋毁有竞争关系的艺人。令人担忧的是,其中大量粉丝为未成年人。
粉丝追星到底应该怎么追?如何引导合法、理性追星?艺人又该承担怎样的责任?带着这些问题,记者进行了调查采访。
□ 本报记者 张守坤
“别推他!”粉丝对着警察大喊。
近日,一余姓艺人现身上海虹桥机场,众多粉丝聚集接机造成现场拥堵,严重影响其他旅客正常通行,现场维持秩序的警察催促该艺人尽快离开,却招致粉丝不满。该事件迅速登上热搜榜第一。1月11日,该艺人在社交平台上为此事道歉。
无独有偶。1月13日,有网友发布一段发生于湖南省长沙市的粉丝接机某男团的视频,视频中,大量粉丝一拥而上,工作人员阻拦未果,粉丝直接冲破护栏,踩踏草坪,现场一片混乱。
粉丝该如何追星?一时成为社会的热点话题。
粉丝追星失去理性
根源在价值观扭曲
在上述粉丝接机某男团事件中,有同机乘客发微博称,飞机刚落地还在滑行时,就有粉丝从经济舱冲到头等舱,直到滑行停止,感觉很不安全。
有网友针对此事发表评论称,这类不理性追星的粉丝可以称为“私生饭”或者“代拍”。“私生饭”是行为极端、作风疯狂的粉丝,他们为满足自己的私欲,喜欢跟踪、偷窥、偷拍明星的日常,影响艺人及其家人的私生活,甚至曾有女艺人被“私生饭”猥琐偷拍的情形发生。“代拍”则是替人拍摄高清明星照片进而转卖的粉丝。
粉丝的不理性追星行为还有很多:2021年8月,某明星的粉丝群体在网络上寻衅滋事、言语辱骂该明星的拟合作对象,有些粉丝抱着“把事情闹大”的心理参与其中,还有一些营销号煽风点火、恶意炒作;随着某选秀综艺节目的热播,有粉丝大量购买印有投票二维码的牛奶,囤积在家的牛奶因喝不了而被倒掉……
记者在调查中发现,还有一些粉丝为违法失德艺人“洗白”。
在微博“柯震东超话”中,一直都有粉丝打卡留言称,“不懂好多人为啥抵制柯震东复出,明星也只是人而已……不问毒品怎么流通的,只盯着被毒害的”“每个人都应该有一次被原谅的权利”。
在这些粉丝的眼中,因违法失德而遭封杀的明星,俨然成了受到不公正待遇的人,他们的不理性支持反而是“忠粉”的象征。
北京星权律师事务所副主任甄景善认为,对于做出“常人难以理解”的追星行为的粉丝而言,有部分人是为了满足其“不合理”的精神需求;有部分人是为了追求“不正当”的经济利益;还有部分人在满足精神需求的同时赚取金钱。这种社会现象的发生,有着复杂、多层次的原因,但是根源在于部分不理性粉丝价值观的扭曲。
“粉丝种种不理性的追星行为会造成不良影响。对于粉丝而言,在扭曲价值观的指引下,他们可能会在错误的道路上越走越远。就社会层面而言,长此以往,特别是当这种不当追星行为成为常态时,会给社会带来诸多不安全、不稳定的因素。”甄景善说。
在中国传媒大学文化产业管理学院法律系主任郑宁看来,粉丝不理性追星行为容易越过法律红线。根据治安管理处罚法,粉丝如果在机场等公共场合给公务人员的正常执法造成干扰,就可能涉嫌违法而受到法律制裁。粉丝如果通过非法渠道获取明星的行程信息等隐私,可能违反民法典或者个人信息保护法的规定,构成侵犯隐私权或者个人信息权益的行为,需要承担侵权责任。
艺人主动作为发声
引导粉丝理性追星
在前述上海虹桥机场粉丝接机造成现场拥堵事件中,余姓艺人一开始沉默不语,并没有意识到拥堵对其他乘客的影响,也没有劝粉丝离开。直到一周后,其被媒体点名批评才出面道歉。
据了解,很多粉丝到机场接机聚集受到经纪公司鼓励并资助,目的是借此为明星刷“存在感”,提升知名度。粉丝很多不理性追星行为的背后,少不了明星一方的推波助澜。
但也有声音呼吁粉丝理性追星。
去年8月,多位明星和粉丝后援团曾发表声明,呼吁粉丝不要接机,不要在公共场合聚集,严禁以各种方式跟机、拍摄。
那么,明星对于粉丝追星是否应当有所作为?该如何作为?
中国传媒大学文化产业管理学院教授、北京文化娱乐法学会副会长李丹林认为,尽管绝大多数粉丝具有完全行为能力,能够对自己的行为负责,但是一些粉丝疯狂的追星行为,仍然值得警惕,特别是明星或者其经纪公司利用粉丝的情绪和心理故意而为之,以达到提高知名度、提高流量的情形,直接与明星相关。
“以一些接机事件为例,明星出行是个人自由,但明星作为一个正常人,已经看到因为自己的出现而导致秩序混乱的情形下,仍不主动配合维持秩序的警察迅速解决问题,而是进一步引发粉丝情绪,使拥堵加剧。”李丹林说,这种情况下,明星是有责任的。
甄景善同样认为,明星应当及时积极作为,避免不良后果的发生并勇于承担相应的责任。
“当不理性追星行为正在发生或极有可能发生时,艺人应当快速准确作出判断,第一时间采取应对措施,以避免事态的扩大。对于不理性追星行为,艺人态度应当鲜明,通过自身言行向不理性行为说‘不’,同时还应当进行指引,告诉粉丝正确做法是什么。处理相关事件过程中,艺人应当积极配合职能部门及有关人员的工作,共同化解不理性追星行为造成的不良影响。当不理性追星行为已经造成不良影响时,艺人应当及时主动发声,表明态度,承担责任,呼吁避免不理性行为再次发生。”甄景善说。
严打违法违规追星
营造健康追星氛围
2021年6月初,杭州到北京一航班落地滑行阶段,有粉丝不听机组劝阻,站在过道上并涌向头等舱追星,引发公众关注。
2021年6月11日,中国民用航空局召开例行新闻发布会,中国民用航空局公安局负责人表示,粉丝在明星出行过程中追星的情况时有发生。部分粉丝在追星过程中,未遵守民航安全管理有关规定,甚至违反相关法律法规,侵犯公民个人信息,扰乱机场和航班安全秩序,给民航运行和旅客出行带来安全隐患。
这位负责人透露,自2018年起,民航局就强化了对粉丝接送机、跟机情况的引导管理。“头等舱追星”事件发生后,民航局发布了空中安保处置指引。民航公安机关将进一步强化民航社会面治安管控,对粉丝追星过程中出现的违法违规行为保持严打态势。
2022年5月,国家广播电视总局发布《广播电视和网络视听领域经纪机构管理办法》,要求经纪机构不得发布引发粉丝互撕、拉踩引战等有害信息,不得以虚假消费、带头打赏、应援集资等方式诱导粉丝消费。
近日,国家广播电视总局网站发布《全国广播电视和网络视听“十四五”人才发展规划》,提出面向青年演员和经纪人开展思想政治、职业素养、法律法规等培训,教育引导相关从业人员强化使命担当,自觉遵守法律法规,做德才兼备、德艺双馨的文艺工作者。
受访专家一致认为,对于不理性追星行为,需要有关部门出手加以整治。
甄景善认为,有关部门应当加大宣传力度和法治教育,引导明星和粉丝形成合法、理性、适度的追星理念;应当整顿不理性追星行为所涉及的产业链,取缔、关停相关非法粉丝组织或平台,切断利益链条,使不理性追星行为丧失利益驱动;加大对不理性追星行为特别是违法行为的责任追究力度。
受访专家还认为,明星也要积极主动引导粉丝合法理性追星。
甄景善呼吁,在引导粉丝方面,艺人及其经纪公司首先应当以身作则,在工作中认真努力、精益求精,以优秀的作品、深刻的角色塑造回馈粉丝的喜爱;在生活中,崇尚健康、乐观的生活方式,呈现出一种积极向上的生活状态;在与粉丝的沟通和交流过程中,艺人时刻牢记传递正确的价值观,引导粉丝合法合理表达对明星的喜爱,营造健康向上的追星方式。
“还要理顺和后援会等粉丝组织的关系,明确粉丝组织不是艺人的自留地,艺人及经纪公司既要依法依规行使相关权利,又要充分利用粉丝组织发挥积极作用,向粉丝们传递正确的价值观。坚决抵制粉丝不理性追星的行为。”甄景善说。
郑宁建议,可以利用行业组织发出倡议、协调粉丝共同参与等多种形式引导明星表态、在全社会营造理性追星的健康氛围。
在李丹林看来,年轻粉丝对于自身偶像的崇拜,确实会投入热烈情感甚至出现盲目和疯狂的情况,这也是人生一个特定阶段的经历。如果这种崇拜不妨碍公共利益、公共秩序、损害他人利益,属于一个文明社会的正常现象,应该允许和接纳,但是这种现象也是有底线的,那就是粉丝的行为要符合法律规定。
“成年粉丝是从青少年成长起来的,从相关新闻、社交媒体上传播的信息来看,一些粉丝缺乏基本的公德意识、基本的是非观念、更不用说对于法律的了解和把握,所以,我们需要从青少年抓起,对他们进行公德教育、法律教育,相信随着年龄的增长,他们能够理性追星。”李丹林说。
(文图:赵筱尘 巫邓炎)