在数字来世领域，人工智能技术使人们能够与死者对话，剑桥大学的科学家们将道德界限和潜在危害的担忧推到了风口浪尖。这些人工智能聊天机器人被称为“死亡机器人”或“悲伤机器人”，旨在模仿逝去亲人的语言和个性，为死者家属提供慰藉。然而，最近的一项研究警告说，这些创新可能会导致意想不到的后果，包括研究人员所说的缺乏安全标准的“数字闹鬼”。
约书亚·巴博 (Joshua Barbeau) 等人的经历凸显了这种技术的伦理影响。巴博使用早期版本的人工智能技术“十二月计划” (Project December)与他已故未婚妻的数字复制品进行交谈。巴博向人工智能提供了未婚妻的文本和个人描述样本，得到了栩栩如生的回应，这引发了人们对这种技术可能被滥用的担忧，包括插入伪装成死者想法的广告。
此外，心理学家强调这些技术对儿童应对失去亲人的影响，并对死者的尊严和生者的幸福提出了质疑。帕多瓦大学的 Ines Testoni 教授强调了与逝去的亲人分离的困难，强调了了解死亡及其后果的重要性。为了说明潜在的风险，剑桥人工智能伦理学家概述了悲伤机器人可能造成伤害的三种假设场景。
这些包括未经授权模拟已故个人来推销商业产品，不切实际的互动导致的困惑导致愈合延迟，以及将数字存在强加给不情愿的接受者，造成情绪困扰和内疚。该研究提倡实施基于同意的悲伤机器人设计流程，包括选择退出机制和年龄限制。此外，它呼吁采用新的仪式来尊重地淘汰这些数字复制品，质疑这种技术是否只是延迟了悲伤的过程。
该研究的合著者 Katarzyna Nowaczyk-Basińska 博士强调了人工智能在数字来世中的伦理复杂性，强调需要优先考虑死者的尊严并维护数据捐赠者和用户的权利。随着人工智能在数字来世领域的应用不断发展，道德考量仍然是探索这一未知领域的重中之重。在中国，人工智能生成的已故亲人复制品这一蓬勃发展的行业为哀悼者提供了慰藉，同时也引发了重大的伦理问题。像Silicon Intelligence这样的公司正在利用人工智能技术的进步来创建模拟与死者对话的数字化身，为像孙凯这样寻求与已故母亲保持联系的人提供安慰。
对这些服务的需求凸显了与死者交流的文化传统，但批评者质疑与人工智能复制品互动是否是一种处理悲伤的健康方式。尽管存在技术限制和道德不确定性，但数字永生市场正在蓬勃发展，价格下降，可及性增加。人工智能生成的头像类似于深度伪造，依靠照片、视频和文本等数据输入来复制已故个人的形象和说话方式。中国在人工智能技术方面的快速进步使此类服务更加普及，硅谷智能等公司提供从交互式应用程序到平板电脑显示器等可定制的选项。
虽然有些人认为这些复制品具有治疗作用，但另一些人则对互动的真实性以及在未经同意的情况下复制死者的伦理问题表示担忧。此外，复制身体动作和获取足够的训练数据等技术挑战也带来了重大障碍。宁波一家公司发生的一起有争议的事件就是人工智能复制品面临的伦理困境的典型例子，该公司未经同意使用人工智能制作已故名人的视频。该事件引发了公众的强烈抗议，并凸显了在蓬勃发展的数字来世技术领域需要明确的伦理准则。