ChatGPT 卷入校园枪击案,OpenAI 面临诉讼数量已超 50 起
9 月 5 日消息,据外媒 Futurism 当地时间 4 日报道,OpenAI 正面临 30 起新的诉讼,原告均为加拿大不列颠哥伦比亚省塔姆布勒岭校园枪击案的受害者。
他们指控 OpenAI 向枪手提供了“实质性协助和鼓励”,并在枪击案发生前,没有就枪手与 ChatGPT 之间令人警觉的互动向警方示警。
目前,针对 OpenAI 的诉讼已经超过 50 起,原告指控,大量使用 ChatGPT 后,用户本人或身边的人出现心理伤害、身体伤害,甚至死亡。
这 30 起新诉讼由今年 2 月塔姆布勒岭枪击案的幸存教师和学生提起。枪击案发生在加拿大一座偏远矿业小镇,共造成 8 名成年人和儿童死亡,另有 27 人受伤。18 岁的枪手杰西 · 范 · 鲁特瑟拉尔先在家中枪杀母亲和年幼的继弟,随后携带经过改装的步枪和长枪袭击学校,杀害 5 名 12 岁至 13 岁的学生和 1 名教师。
早在案发数月前,OpenAI 就曾考虑向当地执法部门通报范 · 鲁特瑟拉尔与 ChatGPT 之间令人不安的对话,其中包含对大规模暴力的详细描述。经过内部讨论,OpenAI 管理层最终决定不向当地执法部门报警,只停用了范 · 鲁特瑟拉尔的账号。范 · 鲁特瑟拉尔随后又创建了一个新账号。
这批诉讼是在 4 月最初 7 起诉讼基础上新增的案件,指控 OpenAI 存在疏忽,并“协助和教唆大规模枪击”,称 ChatGPT 助长了范 · 鲁特瑟拉尔的暴力幻想。
OpenAI 首席安全官杰森 · 权在 X 平台发布声明称:“没有一天我不会想到塔姆布勒岭发生的事情,也没有一天不会想到这场毁灭性悲剧的受害者及其家人。”
据了解,杰森 · 权表示:“OpenAI 安全团队使用自动化系统,把最困难的判断交由人工完成,同时依据明确标准,尽量减少自由裁量空间,并作出有原则的决定,努力在用户和公众的安全与隐私之间取得平衡。这种判断并非绝对不会出错,但始终以维护这种平衡为出发点。安全团队还会与心理健康、行为和执法领域的专家合作,帮助我们完善判断标准,确定对话何时越过界线,构成迫在眉睫且可信的风险,并协助评估复杂案件。”他还称,诉讼中针对 OpenAI 安全团队的部分说法属于“虚假指控”。
OpenAI 还面临一宗与康涅狄格州格林尼治一起谋杀后自杀案件有关的诉讼,以及一名跟踪骚扰受害者提起的诉讼。后者称,ChatGPT 助长了其前伴侣带有虐待性质的妄想。与此同时,多名原告还指控,自己或亲人因大量使用 GPT-4o 受到伤害。原告称,这一版本以过度迎合用户著称,令他们陷入妄想和自杀恶性循环,最终造成心理伤害、经济和声誉损失,甚至死亡。
声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!