第A2版:我们的节日·清明

清明将至 “AI复活”引热议

有哪些伦理和法律风险?

清明将至,“AI复活”话题引发热议。借助AI(人工智能)技术,人们为逝去的亲人生成“数字人”,使之眨眼张嘴、开口说话——前有音乐人包小柏钻研AI“复活”女儿,后有商汤科技将逝世的董事长汤晓鸥“复刻”为“数字人”,在年会上和同事们跨越时空“重逢”……

然而,当“AI复活”逐渐形成产业链,随之而来的争议也不可避免。有人对此有伦理顾虑,觉得永远无法替代真人;有人担忧法律风险,表示这会造成隐私泄露,甚至涉嫌犯罪。

那么,现在网上的“AI复活”服务“怎么卖”?相关从业者和法律专家又有何看法?

只需几十元,让逝者“动起来”

所谓的“AI复活”技术,是指将逝者生前留下的照片、声音、视频等数据,导入AI算法模型,从而模拟生成“数字人”形象。此前,“AI数字人”已在电商直播、语音导览、新闻播报等领域有成熟应用。而在今年清明前夕,越来越多人借此缅怀亲人,寄托哀思。

记者发现,在一些电商平台,“AI复活”已成为明码标价的生意,价格从数十元到数千元不等,更有店铺显示“已售2000+”。顾客只需提供一张逝者的照片,商家就能让它“动起来”,甚至“开口说话”。

有商家向记者提供了服务价格——

“提供一张逝者的正面照片,先选择‘说话’还是‘不说话’。不说话‘动起来’是50元,时长13秒;如果选择‘说话’,需要顾客自己准备文字内容,1秒10元,150元起步。前提是没法模拟声音,需提供配音或我们用普通话配音。制作周期视照片情况而定,这些只用作怀念亲人,其他用途勿扰。”

然而,这些“AI复活”项目质量参差不齐,更没有明确的行业标准。

尽管这些商家的评论区里有不少留言表示,“看到奶奶太激动了”“眼泪一直在眼眶里打转”……但记者亲测发现,售价几十元的“AI复活”人像,仅能完成睁眼闭眼等特定动作,且面部皱纹等特征不明显,效果并不逼真。

而定价数百元的商家则声称能提供更多服务,如“声音克隆”,即根据逝者生前音频模拟说话;“场景复原”,可定制逝者年代的衣服形象。更有定价高达“四位数”的商家,给出最高5980元的“AI复活”定制套餐,满足“文字语音实时互动、视频实时对话等个性化需求”。

“AI复活”有何技术门槛?

“明码标价”的“AI复活”,技术门槛有多高?

宁波IT从业人员、国研软件行业应用研发部高级工程师孙一帆告诉记者,目前,市面上的“AI复活”服务可分为几类:一是最简单的照片动态化制作;二是涉及“AI换脸”和“AI换声”;三是“AI数字人”技术。前两种门槛不高,有不少开源软件可供免费使用,最后一种较为复杂。

“如果是照片动态化,只需将照片导入软件即可批量完成;如果涉及‘AI换脸’,则需真人模特替换成被‘复活’者的形象和声音,需要数小时的训练周期。”孙一帆介绍,“而要想实现和真人交互,就得打造‘AI数字人’,涉及3D动画合成、动作捕捉、智能对话、情感计算、机器学习等多种技术。”孙一帆说。

换言之,网上定价数十至数百元的“AI复活”服务,赚的只是大众不懂如何使用免费软件的“信息差”。而更具“含金量”的技术——即制作逼真、模仿逝者生前音容笑貌,甚至和生者无缝对话的“数字人”,则是一些IT企业和殡葬公司关注的焦点。

最近,宁波一家殡葬礼仪服务公司推出了“AI数字人”殡葬服务。“在经得家属同意后,这套‘数字人’可以应用在逝者的遗体告别会上,还能应用在养老陪伴、哀伤抚慰等场景。”该公司负责人表示,该技术需采集逝者生前的10分钟左右视频,价格从几百元到数万元不等。

“数字永生”,还是伦理谜题?

“AI复活”,令人喜忧参半。

更有科幻爱好者联想到,《流浪地球2》里刘德华扮演的角色,将家人的意识储存在量子计算机“550A”中。“AI复活”的出现,让他们看到“数字永生”的可能性。

但也有人出于伦理考量,对“AI复活”持反对意见。北京师范大学—香港浸会大学联合国际学院文化与创意学院院长Eugene Ch'ng(庄以仁)教授认为,用AI制作的亲友“数字分身”,只是机器生成的符号,无法替代有血有肉的真人,更无法替代人们和亲友建立的情感链接。

“AI‘复活’的‘父母’,绝不是真正生你养你的‘父母’。一些人将情感错误地寄托于机械制造的符号,成为技术滥用的受害者,甚至被商家骗取钱财,这是不可取的。”庄以仁认为,唯有将AI视为一种生产力工具,才是对AI正确的“打开方式”。

记者了解到,在宁波,愿意让AI“复活”逝去亲属的人并不多。记者曾就这一话题进行群访,多数受访者表示,“不接受,AI无法替代真人”。

法律风险需牢记

云家族(浙江)科技有限公司总经理于浩表示:“AI技术就像一味药,用好了可以治病救人,用不好也可能变成‘毒药’。”

不少业内人士认为,技术本身“无罪”,但“AI复活”技术如果使用不当仍面临法律风险。

浙江素豪律师事务所孙央律师指出,“民法典第994条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。逝者的人格权益同样受法律保护,如未经逝者家属同意,擅自将逝者生物识别信息用于‘AI复活’,可能侵犯逝者的肖像权,如生成的内容涉及侮辱性或有损逝者名誉的行为,还可能侵犯名誉权等。”

这一方面已有不少案例。近期,一些博主擅自用AI技术“复活”李玟等已故公众人物。李玟的母亲委托律师发表声明,要求侵权责任方7日之内下架、删除含有“AI复活李玟”侵权内容的相关图片、视频及文章,并称“相关内容给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害”。

至于提供“AI复活”机构,孙央律师表示,它们在提供服务前,应审查技术使用者和逝者是否有亲属关系、是否具有正当利益、是否遵守有关法律法规的规定、是否符合社会伦理道德等。同时,还应对虚拟内容进行依法标识,避免被误认为是逝者本人的言辞,造成不必要的纠纷和争议。

于浩认为,“AI复活”作为一项新事物,它的发展有赖于技术方、商家、政府部门等多方的机制健全。

“首先是‘数字人’的权属问题,一定要经得亲属的授权才能做;其次,要对数据进行加密保护,如借助区块链技术,或由政府部门搭建一个安全的‘云’;还要倡导‘科技向善’,AI‘数字人’的构建要从哀伤疗愈和文化传承角度出发,不能成为无底线敛财的工具。”于浩表示。

记者 严瑾

2024-04-03 有哪些伦理和法律风险? 2 2 宁波晚报 content_146219.html 1 3 清明将至 “AI复活”引热议 /enpproperty-->