AI“复活”逝者催生行业热潮 需要关注哪些风险
随着人工智能(AI)技术的发展,与逝去的亲人“再见一面”正在成为可能。知名音乐人包小柏通过AI技术“复活”了去世的女儿,为妻子唱生日歌;辽宁抚顺一男子用AI换脸“复活”病逝的父亲,以宽慰年事已高的奶奶;上海一位00后视觉设计师用AI工具生成了奶奶的虚拟数字人,实现与其的视频对话。AI“复活”现象在近年屡次引发舆论关注,并产生诸多争议。有观点认为AI“复活”能寄托哀思,非常有意义;同时也有声音担忧相关的法律风险及情感伦理争议。
AI“复活”的用户情感需求创造市场前景
在@红星新闻 发起的一项关于“你想用AI‘复活’亲人吗?”微博投票中,超六成的网民表达了肯定观点。微信公众号“红星评论”文章表示,通过技术手段,为逝去的亲人建立数字化身,通过“看见”去治愈疗伤,缓解悲痛弥补遗憾,也是一种对生命意义的求索。
如今,用科技手段“复活”亲人已经萌发出较强的市场需求。据“紫牛新闻”报道,在南京组建的5人工作室“超级头脑”团队,用AI技术帮助顾客“复活”已故亲人,业务开展的半年多时间,已接到了一千多人的询问,帮助600多个家庭实现了不一样的“团圆”。受到生成式AI技术浪潮带来的利润驱使影响,电商平台上也有越来越多在做AI“复活”生意的商家,价格从几元、几十元到上百元乃至数千元不等。
AI“复活”游走在法律和道德的边缘
不过,媒体呼吁,在享受技术抚慰之余,也要有所警惕和预判。AI技术在拥抱市场机遇的同时仍面临着多项风险挑战:
一是警惕AI“复活”打感情牌,避免被蒙蔽。去年年中,中国互联网协会曾发文提醒,不法分子利用AI技术,伪造成特定人物的声音及形象,实时与他人进行视频通话。更换后的面部表情自然,足够以假乱真,冒充他人实施诈骗。相较于AI换脸,由AI“复活”技术制造的违法乱象更会打出感情牌,利用客户思念亲人心切而从中牟利。“极目新闻”文章认为,人类美好的情感不应被利用来做一些“非法生意”,对于那些利用AI技术实施诈骗的行为,相关部门要从严打击,而针对这一技术被滥用的情况,也应有相应的防范和监督措施。
二是谨防对逝者及其家属个人权益的侵害。AI技术处理大量的个人数据,包括逝者的个人信息以及与其相关的家庭成员信息。如何确保这些敏感数据的安全,防止数据泄露或被滥用,是一个重要的法律问题。在中国传媒大学文化产业管理学院法律系主任郑宁看来,科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。数字“复活”技术的推广需要更多的监管和规范,既保证技术的创新,也要保障人类的价值和尊严。
三是在伦理道德领域是否应该“复活”逝者值得思考。尤其是AI“复活”的亲人并不是一个真正的生命体,只是基于数据和算法生成的虚拟形象,这可能会加剧人们对于生死的模糊认知,使得一些人对于死亡产生不切实际的幻想,从而影响到他们对于现实生活的态度和行为。对此,“红网”文章呼吁,需要加强科技伦理教育和管理,确保技术的健康发展,以实现科技与人文的和谐共生。只有不越过科技伦理的边界,才能确保科技进步真正为人类带来福祉。
总而言之,AI“复活”亲人服务受到市场热捧,固然迎合了用户的人际情感交流之需。但也应看到,人类情感的复杂性和深度是任何技术都无法完全替代的,需要保持理性冷静的头脑,避免陷入到个体精神困境以及各类网络诈骗陷阱中。
- 2024-03-12每天晚上10点都扔掉?别让浪费成为面包店的“显眼包”
- 2024-03-12有些APP别再硌硬人了!跟用户“勾心斗角”,必然代价惨痛
- 2024-03-11农夫山泉回应旗下产品包装争议,品牌形象得以扭转了吗?
- 2024-03-11提醒!金价攀高带火银行黄金业务,潜在舆情风险需注意!