AI“复活”逝者规范才能“长寿”

北京青年报  |  2024-03-11作者:丰收

“只需要52.1元,就能还原逝去亲人的容貌并和ta聊天。”生成式AI技术的发展浪潮之下,与逝去的亲人“再见一面”似乎日渐成为可能。据《法治日报》报道,用AI“复活”逝去的人已经发展成了一门生意。在一些电商平台上,有不少做AI“复活”生意的商家。

我们身处AI时代,仅生成式AI市场就快速成长,2023年我国生成式AI市场规模14.4万亿元。作为生成式AI细分行业之一的AI“复活”逝者,是利用人工智能技术,将逝者的文字描述、图片、视频和声音资料输入AI算法模型,模拟生成一个数字形象,具备逝者的性格、记忆、图像、视频和声音。

在今年清明节即将到来之际,关注AI“复活”逝者有特殊意义。因为这种新技术为我们提供了缅怀已逝亲人新的方式。在某电商平台,AI“复活”的商品标价从几元、几十元到上百元乃至数千元。当花点钱就能重新“见到”已逝亲人,这对需求者是一件很有价值的事情,对商家而言提供了盈利机会。

对于AI“复活”逝者,有人赞成,但有反对意见认为这样的做法没有意义,人没了就是没了,这只会让自己更难走出失去亲人的痛苦。在观念多元化的今天,有不同意见这很正常。而AI“复活”逝者,就是为那些认可的、有需求的人群提供的,随着这项技术的不断进步,相信市场需求将会越来越大。

不过AI“复活”逝者,目前既面临不少技术限制,也可能出现某些侵权乱象。比如技术方面,目前算法主要支持普通话,对方言和口音的支持较为有限;逝者生前留下的声音文件偏少,限制产品的扩展和适用范围等。随着技术不断发展和录音等电子产品普及,未来影响AI“复活”的技术限制有望突破。

在规范方面,我国已经出台了《生成式人工智能服务管理暂行办法》,自2023年8月15日起施行。该办法围绕“技术发展与治理”“服务规范”“监督检查和法律责任”等方面,已做出相应规定。例如关于数据标注的规定,对AI“复活”服务提供者可起到规范作用,避免“复活”产品被非法利用。

从现实情况推测,AI“复活”技术大量应用后,很有可能出现各种侵权问题。此前,人脸识别、深度合成等技术在造福我们的同时,不法分子也利用这类新技术实施诈骗,让人防不胜防。假如有不法分子利用AI“复活”技术,通过“数字人”套取财产等信息,就有可能成为新型诈骗,带来财产等损失。

目前,AI“复活”逝者至少存在三大问题:只有上述暂行办法予以简单规范,尚无专门法律法规予以规制;部分AI“复活”产品缺少有关标注以证明产品由AI制作;上述暂行办法的有关规定,很多消费者仍不了解。这意味着AI“复活”逝者眼下正处于野蛮生长状态,存在各种不确定性风险,亟待规范。

只有健全法律法规进行规范,既约束AI“复活”服务提供者,也保障消费者合法权益,这种新技术新服务才能“长寿”并造福人类。对逝者,越来越多人的缅怀方式在“刷新”,而AI“复活”技术提供了更多选择。但任何涉及消费者权益的技术和服务,只有在法治轨道内运行才能避免出格“伤人”。

虽然立法总是滞后于新技术的发展速度,但可以探索采取更灵活更高效的规制新技术新服务的方式。

责任编辑:李悠扬