您当前的位置 : 中国甘肃网 >> 舆情频道 >> 舆情聚焦

AI“复活”逝者催生行业热潮 需要关注哪些风险

2024-03-13 11:08 来源:人民网

  随着人工智能(AI)技术的发展,与逝去的亲人“再见一面”正在成为可能。知名音乐人包小柏通过AI技术“复活”了去世的女儿,为妻子唱生日歌;辽宁抚顺一男子用AI换脸“复活”病逝的父亲,以宽慰年事已高的奶奶;上海一位00后视觉设计师用AI工具生成了奶奶的虚拟数字人,实现与其的视频对话。AI“复活”现象在近年屡次引发舆论关注,并产生诸多争议。有观点认为AI“复活”能寄托哀思,非常有意义;同时也有声音担忧相关的法律风险及情感伦理争议。

  AI“复活”的用户情感需求创造市场前景

  在@红星新闻 发起的一项关于“你想用AI‘复活’亲人吗?”微博投票中,超六成的网民表达了肯定观点。微信公众号“红星评论”文章表示,通过技术手段,为逝去的亲人建立数字化身,通过“看见”去治愈疗伤,缓解悲痛弥补遗憾,也是一种对生命意义的求索。

  如今,用科技手段“复活”亲人已经萌发出较强的市场需求。据“紫牛新闻”报道,在南京组建的5人工作室“超级头脑”团队,用AI技术帮助顾客“复活”已故亲人,业务开展的半年多时间,已接到了一千多人的询问,帮助600多个家庭实现了不一样的“团圆”。受到生成式AI技术浪潮带来的利润驱使影响,电商平台上也有越来越多在做AI“复活”生意的商家,价格从几元、几十元到上百元乃至数千元不等。

  AI“复活”游走在法律和道德的边缘

  不过,媒体呼吁,在享受技术抚慰之余,也要有所警惕和预判。AI技术在拥抱市场机遇的同时仍面临着多项风险挑战:

  一是警惕AI“复活”打感情牌,避免被蒙蔽。去年年中,中国互联网协会曾发文提醒,不法分子利用AI技术,伪造成特定人物的声音及形象,实时与他人进行视频通话。更换后的面部表情自然,足够以假乱真,冒充他人实施诈骗。相较于AI换脸,由AI“复活”技术制造的违法乱象更会打出感情牌,利用客户思念亲人心切而从中牟利。“极目新闻”文章认为,人类美好的情感不应被利用来做一些“非法生意”,对于那些利用AI技术实施诈骗的行为,相关部门要从严打击,而针对这一技术被滥用的情况,也应有相应的防范和监督措施。

  二是谨防对逝者及其家属个人权益的侵害。AI技术处理大量的个人数据,包括逝者的个人信息以及与其相关的家庭成员信息。如何确保这些敏感数据的安全,防止数据泄露或被滥用,是一个重要的法律问题。在中国传媒大学文化产业管理学院法律系主任郑宁看来,科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。数字“复活”技术的推广需要更多的监管和规范,既保证技术的创新,也要保障人类的价值和尊严。

  三是在伦理道德领域是否应该“复活”逝者值得思考。尤其是AI“复活”的亲人并不是一个真正的生命体,只是基于数据和算法生成的虚拟形象,这可能会加剧人们对于生死的模糊认知,使得一些人对于死亡产生不切实际的幻想,从而影响到他们对于现实生活的态度和行为。对此,“红网”文章呼吁,需要加强科技伦理教育和管理,确保技术的健康发展,以实现科技与人文的和谐共生。只有不越过科技伦理的边界,才能确保科技进步真正为人类带来福祉。

  总而言之,AI“复活”亲人服务受到市场热捧,固然迎合了用户的人际情感交流之需。但也应看到,人类情感的复杂性和深度是任何技术都无法完全替代的,需要保持理性冷静的头脑,避免陷入到个体精神困境以及各类网络诈骗陷阱中。

版权声明:凡注有稿件来源为“中国甘肃网”的稿件,均为中国甘肃网版权稿件,转载必须注明来源为“中国甘肃网”。

西北角西北角
中国甘肃网微信中国甘肃网微信
中国甘肃网微博中国甘肃网微博
微博甘肃微博甘肃
学习强国学习强国
今日头条号今日头条号
分享到