如果飒姐猜得没错,明年初ChatGTP的内地版本会络绎不绝。从现在新闻圈的教授们的口风看,还是有不少老师抱有很高期待,希望借此降低文字工作者的工作量。同时,短视频领域,在试水故事情节“换头”效果后,表现出“小孩子玩蛇”的两难境地,一方面觉得新奇刺激好玩;另一方面确实怕被咬了手


针对深度合成技术的蓬勃发展,我国上个月公布了新规,并将于2023年1月10日正式实施,这就是国家网信办、工信部和公安部联合发出的部门规章---《互联网信息服务深度合成管理规定》(以下简称《深度合成规定》)。


针对即将到来的热潮和规制文件,从业者和玩家应当如何自处?且听飒姐分解。



一、深度合成技术的外延



飒姐和团队诸位并非IT技术专家,我们对深度合成技术的内涵和学派不做分析,有兴趣的朋友可自行到知网和海外网站查资料。我们介绍的是明年一月份即将实施的《深度合成规定》里,对于这项技术给出的规章项下的“外延”


深度合成技术,是指利用深度学习、虚拟现实等生成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。不完全列举我国部门规章所认可的该技术项下的子技术:


篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术。讲真,在尝试使用ChatGTP时,我一度迷惑了,简直是文字工作者的“捉刀神器”,要是大学时代有这个东东,班里男生们写检查也不用每人20块钱找我来帮忙了。把要求和字数输进去,秒出答案,文字还很有“诚意”。


文本转语音、语音转换、语音属性等生成或者编辑语音内容的技术。其实这种技术在即时通讯工具里已经十分常见,我只是设想到一种情形,未来缅北是不是就不需要往那边骗人头了,只需要做一套程序,男声变女声,一人变数人都变得简单,犯罪时间成本锐减。


音乐生成、场景声编辑等生成或者编辑非语音内容的技术。说实话,飒姐小时候最大的遗憾是没有学钢琴,姥姥说弹琴又不当饭吃,虽然长大后学了点声乐但感觉完全不对味儿,倘若音乐生成技术日臻成熟,遇到郁闷的时候,不用写文章,而是直接作曲一首直抒胸臆,cool!


人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等声音或者编辑图像、视频内容中生物特征的技术;在协助东家入住元宇宙世界时,一开始我也提出了这种需求,想将律所里诸位贤达的形象植入到元宇宙律所,当我看到供应商一脸难色的时候还没有太多感觉,直到去了现场,才发现要想达到《阿凡达》那种逼真效果,一定要穿动捕服,而且还要多方位拍摄,需要的人力成本和时间成本巨大,当然对设备和技术要求极高,比我想象的难太多,也太烧钱,在三五年内飒姐认为如果技术上没有更大突破,这个成本就会吓退很多想以此为工具来做坏事的人。当然,小范围的换脸另说,但该种技术类似直播中的“带特效”,不仅效果粗糙还容易穿帮,稍微细心观察即可发现。


图像生成、图像增强、图像恢复等生成或者编辑图像、视频内容中非生物特征的技术。现在的AI绘画就是这个细分赛道,确实很上头,圈里有些朋友很喜欢玩,But有些关键词造出来的图片驴唇不对马嘴,AI还不够聪明,数据量不足


三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。目前新西兰在这方面做得很好,飒姐也相信未来的戏剧学院和电影学院,灯光音效学科会逐渐走向数字化,甚至需要选拔优秀的理工科同学来做这项研究。


总结下来,深度合成技术的监管,飒姐认为大致要区分对待:一是第4项人脸相关技术,应当经过严格的伦理论证和安全评估才放行技术方案;二是其他五项,飒姐认为应当降低门槛,让更多创业者参与其中,而不是大资本一统江湖



二、监管防护网的搭建




从深度合成规定的体系地位来看,其法律位阶是部门规章,是在四部法律、行政法规之下:《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》,也就是说,倘若深度合成规定里的条款与上位法产生矛盾冲突,尤其在实践生活中,要遵从上位法的规定,行政相对人是可以向有权机关提出违法审查的


从监管架构看,对于互联网类问题自网贷之后,多采取行政机关监管与行业自律相结合的办法,发动各方积极性。深度合成业务的监管主体是:1.国家网信部门,负责统筹深度合成服务的治理和监管工作;2.国务院电信主管部门,负责自己职权范围内的监管工作;3.公安部门,负责自己职权范围内的监管工作。


其中,网信部门承担统筹工作,换句话说,系主要负责机关。各地对应部门负责本辖区内相应工作,形成自上而下的网状结构,规制各自职权和辖区的具体监管工作。


鼓励行业自律,建立健全行业标准、行业准则、自律管理制度,督促从业者制定行业规范,依法开展业务接受监督。这一方面,各地的做法不一,鉴于自律组织是民间自发设立,也不必要求统一,只要把自己的行业内、赛道里的企业组织起来,自觉完成社会责任,守法经营就好。


无论是从业企业、人员还是监管机关和自律组织,都要遵守若干原则:1.守法;2.尊重社会公德和伦理道德;3.坚持正确方向、导向、取向,促进科技“向上向善”。



三、从业企业和人员的“行为黄线”



第二章一般规定,是对深度合成技术从业者的黄线---“安全”的原则性规定:


区分新闻信息和非新闻信息。对于新闻信息要求深度合成服务提供者和使用者不得制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。对于新闻信息和非新闻信息,都要求不得危害国家安全和利益、不得损害国家形象、不得侵害公共利益、不得扰乱经济和社会秩序、不得侵犯他人合法权益等。


落实主体责任,要求服务提供者具有安全可控的技术保障措施,其中最亮眼的是:科技伦理审查,这属于哲学范畴,飒姐很期待法哲学(法理学)的同学们在这方面能大展拳脚。


技术支持者和使用者承担信息安全义务,要将管理规则、平台公约等公开,飒姐推荐用联盟链的方式,在全站广播并用区块链记录。


深度合成技术的使用者,需要实名,且至少三要素。


内容管理不可松懈。飒姐在使用某提词器App时发现,上传稿件备用时,会被内容审核,与此类似,未来深度合成技术的内容,也需要技术或人工审核、留痕和及时上报。


“辟谣机制”是又一亮点。鉴于深度合成技术的成品具有一定的迷惑性,对公众有可能产生误导,因此辟谣机制就是一个必要措施。


用户申诉和投诉、举报通畅,这一点是顽疾,在互联网平台服务中经常出现由此产生的纠纷。App分发平台负担部分上架审核、日常管理、应急处置等安全管理责任。



四、区别生物识别信息编辑与其他信息编辑



对于人脸、人声等生物识别信息编辑,有特殊要求:深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意


自行或委托开展安全评估对可能导致公众混淆、误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。


当然,对于智能对话、智能写作、沉浸式拟真场景等生成和编辑服务,应当提供显著标识功能,并提示深度合成使用者可以进行显著标识。



五、具体监管手段和法律责任



监管还是由前述三家监管机关进行,但鉴于部门规章并没有规定具体的罚款细则,还是要依照上位法进行办理:


履行备案手续。对于具有舆论属性或者社会动员能力的(具体参照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》评估)深度合成服务提供者,按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。完成备案后,在自家网站显著位置表明备案编号和公示信息链接。


进行安全评估。对具有舆论属性或者社会动员能力的新产品、新应用、新功能,按照国家有关规定开展安全评估。


开展监督检查。三大监管部门及辖区监管部门有权进行检查,深度合成服务提供者和技术支持者应当依法予以配合。


部门规章没有规定罚款,但提示行政相对人可能会被上位法处罚,构成治安案件的,公安机关处罚,构成犯罪的,追究刑事责任。



写在最后



从新规中,我们敏锐地观察到“科技伦理审查”一词,未来互联网侵权、犯罪案件可能会以不同的形式出现,我们并不担心明显恶意或善意的行为。最难办的是两边都是善良的,如何定分止争?两边都是恶意的,如何各自规制?“无知之幕”背后,考验的是每个人的价值排序


同时,作为对刑法有一点研究的团队,我们还是要提醒执法部门和从业人员,新规的位阶不足以支撑刑法第225条非法经营罪,倘若真的有企业违反了深度合成规则中的规定,并不当然构成犯罪。新规出台,我们一起研读、实践,一起为2023年经济发展和科技进步服务!!


飒姐团队联系方式

 chengpeng.yuan@dentons.cn

 guoquan.wang@dentons.cn

【工作联系电话:17184034530

工作联系微信:xiaosalawyer


精彩回顾





原创 | 中国版监管沙箱,未来可期
肖飒|深度分析!币圈安全丑闻案
肖飒:NFT交易所,中国合规探索
真实案例|非法集资!BTC是资金?
肖飒:继续挖矿,法律后果如何?
法律|允许国人持有BTC的态度会变吗?









肖飒法律团队,一支以学术业务立身的法学硕博团队。垂直深耕于“金融+科技”行业,对创新业务有独特的研究优势和一线实务经验。


团队创始人肖飒女士,系中国互联网金融协会申诉委员、中国银行法学研究会理事、首批北京市涉案企业合规第三方监督评估专业人才、中国人民大学法学院法硕实务导师、中国政法大学法律硕士学院兼职导师、中国社科院产业金融研究基地特约研究员、工信部信息中心《中国区块链产业白皮书》编委会委员。著有虚拟币规制畅销书《ICO黑洞》、合著学术书籍《网络金融犯罪的刑事治理研究》等。在《证券时报》《人民日报海外版》《财新》《经济观察报》等发表过近百篇署名文章。


坚守法律,让金融人+科技人远离“囹圄”!