新浪博客

AIGC监管正当时——如何正确牵手虚拟主播？

2023-08-11 11:35阅读：

http://blog.sina.cn/dpool/blog/u/2014552167

近几年随着人工智能技术的更新迭代，各行各业对于AIGC的应用需求都处于井喷状态。就电商行业而言，AIGC技术的使用场景也日益多元化。例如，京东云旗下言犀人工智能应用平台面向商家推出智能客服机器人“京小智”，作为企业专属的客服机器人，满足用户大部分日常咨询接待内容；资生堂品牌近日在小红书官方账号官宣四位数字代言人，为红腰子精华和新品红腰子冻干粉进行宣传，虚拟数字人AYAYI还参与了资生堂直播，与另一名真人主播配合进行新品的直播带货。
AIGC监管正当时——如何正确牵手虚拟主播？
（资生堂品牌虚拟数字人AYAYI与真人主播共同参与资生堂直播）
但与此同时，虚拟主播引发的各种法律问题也层出不穷。此前即有多个电商直播间被爆出使用明星AI换脸直播涉嫌侵权。本文将介绍虚拟主播在电商行业中的应用场景及其背后的法律问题，以期为行业合规发展提供些许建议。
AIGC监管正当时——如何正确牵手虚拟主播？

（某女装品牌直播间的不同主播都有着一张神似杨幂的脸）
一、 虚拟主播在直播电商行业的应用场景
本文所讨论的虚拟主播是指通过数字语音合成、计算机图像处理、自然语言处理等人工智能技术，将语音表达、面部表情、具体动作通过深度学习模型的运算结果实时或离线驱动，在渲染后实现最终效果的智能驱动型虚拟主播（即AI主播）。
从目前实际应用来看，当下虚拟主播形象主要有两类，一类是基于真人研发而来，以现实社会上拥有一定知名度和影响力的人物如明星、体育韵永远、专家学者、网红等为原型进行开发制作，相关公众可识别出原始自然人的虚拟主播；另一类为设计师通过想象设计出来的虚拟主播，无法与现实生活中的人物一一对应。在电商直播板块，目前虚拟直播主要被用来填补真人主播没有办法出镜的空白时间以及平台流量较差的时间段，可以有效地降低商家的人力及运维成本并有效利用闲时流量。
在百度发表的《百度2023数字人电商直播解决方案》中，百度就其可提供的虚拟主播服务进行了相对完整的描述，从主播形象生成到脚本撰写、音频设置、直播问答等，其可提供一站式的电商服务。如下图所示：
AIGC监管正当时——如何正确牵手虚拟主播？
（图文来自于《百度2023数字人电商直播解决方案》）
同时，百度对其推出的虚拟数字人直播间制作流程也进行了介绍，主要由数字人形象选择、直播话术添加、产品添加、直播背景图设计等步骤组成。如下图所示：
AIGC监管正当时——如何正确牵手虚拟主播？
（图文来自于《百度2023数字人电商直播解决方案》）
直播电商领域，已经有越来越多的品牌商家开始应用虚拟数字人主播替代真人主播进行带货，逐渐形成日趋完整的数字IP矩阵。但很多品牌商家在使用虚拟主播过程中也频频踩雷。
二、 虚拟主播直播的四个核心风险点
在虚拟主播/虚拟偶像火热之始，行业内普遍认为其一大优势是“可控性强、不塌房”，但实际上虚拟主播的内容合规问题可能更为复杂，本文仅列举常见的四大核心风险点。
（一）广告内容合规风险
聚集了大量虚拟主播账号的B站曾发布《虚拟主播专项治理公告》，对于虚拟主播低俗色情类和其他违反公序良俗类的恶意行为及言论进行专项治理，在B站自己的统计中，该次行动被封禁的账号有137个。
从虚假广告/内容违禁风险角度而言，在虚拟主播直播带货的情况下，客观上对广告内容合规审查的难度更大。原因在于：虚拟主播与直播观众互动时所产生的内容，除了提前输入的脚本外，还可能是以生成式人工智能技术为基础的AI产物，该内容是来源于以数据库为基础的AI根据不同的模式所生成的，品牌方或运营主体难以全面审查数据库内容。实际操作中只能对直播观众可能提问到的高概率问题如优惠活动、发货时间等问题与数字人所荐证商品或服务相关的主要信息做事先的设定并予以审查。第二，基于虚拟主播直播带货时与直播间观众实时互动的特点，不存在对虚拟主播荐证内容进行审查的空档时间。因此，相较于真人主播而言，广告内容不可控性更高，虚拟主播背后的责任主体需在合同层面进一步明确约定。
（二）广告代言风险
在真人授权生成虚拟主播并直播带货的模式下，该真人可能构成对直播所售商品（含服务）的推荐、证明，属于广告代言人；不以真人为基础的虚拟主播不构成广告法上的广告代言人。
根据《广告法》第2条的规定，广告代言行为是指广告主以外的，在广告中以自己的名义或者形象对商品、服务作推荐、证明的行为。《网络直播营销管理办法（试行）》明确规定，直播间运营者、直播营销人员使用其他人肖像作为虚拟形象从事网络直播营销活动的，应当征得肖像权人同意，不得利用信息技术手段伪造等方式侵害他人的肖像权。对自然人声音的保护，参照适用前述规定。《市场监管总局、中央网信办、文化和旅游部、广电总局、银保监会、证监会、国家电影局关于进一步规范明星广告代言活动的指导意见》规定，明星艺人等在商业广告中通过形象展示、语言、文字、动作等对商品或者服务进行推荐或者证明，应当依法认定为广告代言行为。
在真人生成的虚拟主播直播带货的过程中，虚拟主播对商品作推荐、证明时所显示的是名人的名义、形象。对消费者而言，仍是以明星艺人等公众人物的形象和名义进行直播带货，消费者基于明星艺人等公众人物的影响力和信任在直播间消费购买商品的，可以认定构成广告代言。但该虚拟主播在直播过程中输出的内容可能实质上并非明星艺人本人的真实意思标识，而是基于AIGC技术实时生成或由品牌方或运营方实现输入脚本的内容，此时在合同层面根据广告内容生成方式和来源明确约定最终的责任承担主体则显得至关重要。
（三）知识产权侵权及不正当竞争风险
以上文提及到的百度发布的《数字人电商直播解决方案》为例，可以看到电商直播的主要要素基本上都是由受众在模板库中挑选产生的，直播脚本是基于大语言模型直接生成的、数字人主播形象及声音从主播形象公众库中自主选择生成、直播问答及商品素材来源于电商素材模板库。
AIGC监管正当时——如何正确牵手虚拟主播？
（图文来自于百度发布的《数字人电商直播解决方案》）
该等情况下，使用该软件/平台的受众至少需考虑两个方面的问题：第一，平台方提供的AIGC技术的训练数据来源是哪里？相关授权链条是否完整？即相关素材库内容本身是否合规，从而避免用户与平台方成为共同侵权的责任主体。第二，自身输入到软件/平台内的数据是否会被再利用？利用规则是怎样的？以受众为品牌方为例，品牌方根据自身品牌调性输入给到数据库内的内容是否会被用作训练的基础素材并二次分享给到其他品牌方，是否进行脱敏分享?该等模式下是否会影响到品牌方自身的竞争优势？
（四）人格权侵权风险
该等人格权侵权风险一般发生在以真人形象为基础生成虚拟主播的模式下，通常会涉及到的是真人相关的肖像权、名誉权、姓名权。“何某与上海XX红蓝人工智能科技有限公司网络侵权责任纠纷”一案为例【（2020）京0491民初9526号】即为典型代表案例。本案中，红蓝公司运营一款陪伴智能AI聊天软件，用户可发送文字、图片等进行用户与智能AI机器人的人机互动，同时该软件为用户提供包括但不限于角色调教功能或服务软件，用户可自行创设或添加“AI陪伴者”。红蓝公司未经公众人物何某授权，将用户上传、制作的以何某姓名、肖像为标识的虚拟形象推送“AI陪伴者”，并通过算法应用，将该角色开放给众多用户，允许用户“调教”该“AI陪伴者”。北京互联网法院认为，虽然具体图文由用户上传，但该公司的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为，直接决定了软件核心功能的实现，该公司不再只是中立的技术服务提供者，应作为内容服务提供者承担侵权责任。该公司未经同意使用何某姓名、肖像，设定涉及何某人格自由和人格尊严的系统功能，构成对姓名权、肖像权、一般人格权的侵害。
三、虚拟主播电商合规升级的两点小提示
在生成式人工智能被定义为行业未来时，监管及合规也必不可少。Web3.0研究小组前一篇文章《新规发布后，“AI虚拟主播”的合规要点》也已提及B站、抖音等平台方均发布了相关规则对虚拟人直播、AI 辅助生成内容、流量是否支持 AI 内容等做出了约束。从合同层面而言，机构或平台与真人主播签约时会关注的重点法律问题如违约责任的设定方式、佣金、广告合规及知识产权约定等，在与虚拟主播的权利人签署时，依然存在；但另一方面与虚拟主播合作又有其特殊性。基于篇幅考虑，本文简要列举两点合同层面可考虑作出特别约定的内容：
1、明确账号及数字资产归属及流转问题
在真人主播场景下，主播与机构的账号之争乃高频问题，账号究竟归属于公司、主播个人甚至归属平台并未达成共识，实践中因账号基本为本人出镜且使用本人艺名，本身具有较强的人身属性，故有不少认定账号归属于主播的判例。而在虚拟主播场景下，该虚拟形象本质上属于公司的数字资产或知识产权，这会导致账号的人身属性大幅度削弱，因而公司在账号归属问题上具有更强的话语权。因此结合使用场景，我们建议做一些特别约定，例如明确授权内容包括将真人形象用于数字人制作并将制作完成的数字人用于广告代言、约定形成的数据资产的归属及再利用规则等。
2、授权链及授权范围的再核查
对品牌方而言，在选用虚拟主播就品牌方产品进行销售并向技术开发者提供自家品牌产品卖点、营销话术及策略等素材时，一方面建议明确该等数据是否会被AIGC用于在训练升级，相关数据是否会被再分享至第三方；另一方面也建议就主播形象、声音等人格权内容及虚拟主播直播内容的知识产权等进行进一步核查与确认。
对于MCN机构而言，如需顺应技术和电商的发展，需对知名艺人的形象进行虚拟主播开发并对外授权的，则建议相关的经纪协议需进行更新迭代，以避免超出原有的经纪范围。
对于艺人而言，需要特别关注的点在于：以本人形象开发虚拟主播进行直播带货的模式下，艺人可能被认定为广告代言人；如相关广告被认定为虚假广告的，则艺人可能会被要求承担连带责任，因此我们建议艺人与合作方明确限定使用范围、设定负面清单并建立单次使用特别同意制度。
囿于篇幅，文本仅对AI驱动的虚拟主播应用场景、主要法律风险及合规升级要点进行了初步探讨。对于电商行业虚拟主播运营过程中的其他法律问题，我们也将在后续的文章中进行详细分析，敬请持续关注。
文：赵晓波
本文为星瀚原创，如需转载请先联系。

我的更多文章

下载客户端阅读体验更佳

APP专享