Author: Nir Eisikovits and Daniel J. Feldman
近年来,人工智能的出现开辟了新的视野,使创作者能够为各种用途塑造已故人士的形象。这一新兴领域,常被称为“AI 复活”或“深度伪造”,旨在创建与已故个人栩栩如生的再现。从在法庭上发表声明到在音乐会表演,这些再现引发了社会必须应对的诸多伦理问题。
AI 复活挑战了传统的遗产观念,使已故人士能够参与当代的讨论、表演和事件。其中一个引人注目的案例是在一场关于道路愤怒事件的审判中,通过 AI 生成的视频让被害人克里斯托弗·佩尔基发表受害人影响陈述。这类事件引发了对在未获得明确同意的情况下使用已故人士形象的道德含义的辩论。
一个重要的担忧在于关于同意的问题。逝者是否会同意在政治敏感事件或法律程序中出现?一个关于已故以色列歌手为国家独立音乐会进行 AI 复活的案例,彰显了这一困境。使用他们形象的决策引发了关于事件背后动机以及这些已故人士是否会支持此类用途的质疑。
此外,AI 技术的影响超越了简单的复活。伦理困境还包括对观众潜在操控。例如,在现代政治或教育环境中使用如马丁·路德·金或阿加莎·克里斯蒂等受尊敬的历史人物的形象,可能以伦理上令人质疑的方式影响认知和行为。继承人或代表的许可是否属于必要,关于他们的形象是否被操控为政治利益或盈利的工具,仍然需要考量。
AI 生成的再现引发关于同意和操控的伦理关切。
使用 AI 进行复活也带来了显著的情感方面。幸存者可能在与已故亲人的 AI 再现互动中找到安慰,这也催生了悲伤机器人,模仿已故者的沟通风格。这引出了一个问题,即人工交流是否能取代真正的人际关系的本质,还是只是作为一种临时的抚慰工具。
伦理学家认为,即使是善意的 AI 复活用途,也必须审视其对社会的广泛影响。例如,利用已故人物支持政治事业可能会破坏该人物记忆的完整性。在这种背景下,AI 对逝者形象的商品化引发了关于尊重、尊严以及避免将其形象用于短暂潮流的深刻伦理思考。
此外,随着 AI 技术的进步,出现了滥用的可能性。历史政权曾试图操控公众认知,可能会利用 AI 复活创造虚假叙事。人们担心 AI 会被用作工具,扭曲历史,伪造真实感,因为观众可能会被那些在数字形态中出现的挚爱人物的情感冲击所左右。
随着社会不断探索这一未知领域,讨论必须超越技术层面,考虑道德、伦理和社会影响。进行深入的对话对于导航复杂的道德环境至关重要,这也是 AI 技术提出的重要问题。
最终,关于 AI 复活的讨论反映了与技术相关的更广泛伦理挑战。随着我们接受 AI 的能力,必须慎重考虑其后果,确保我们尊重已故者的意愿、尊严和价值观。