别再让 AI“胡言乱语”，美国 42 州总检察长联合致信苹果、谷歌等 13 家科技公司

12 月 11 日消息，据 9to5mac 报道，美国全国总检察长协会（National Association of Attorneys General）已向包括苹果公司在内的 13 家科技企业发出正式信函，呼吁其采取更有力的措施和保障机制，以应对人工智能（AI）已造成及可能造成的危害，特别是对“弱势群体”的潜在威胁。

注意到，在这封长达 12 页的信函中（其中四页为签名页），来自全美 42 个州及地区的总检察长向以下公司提出严正关切：苹果、Anthropic、Chai AI、Character Technologies（即 Character.AI）、谷歌、Luka Inc.（Replika）、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika 以及 xAI。

信中指出，这些公司所推广和分发的生成式人工智能软件，正越来越多地向用户输出“谄媚式”（sycophantic）和“妄想式”（delusional）的内容。同时，有关 AI 与儿童互动的报告日益令人不安，凸显出亟需加强儿童安全保护和运营层面的防护措施。

总检察长们强调，上述风险已不仅停留在理论层面，而是与多起现实中的暴力和伤害事件相关联，包括谋杀、自杀、家庭暴力、投毒事件，以及因精神疾病导致的住院治疗案例。

信中甚至指出，部分公司可能已违反多项州法律，包括消费者保护法规、未履行向用户警示风险的义务、违反儿童在线隐私保护法，个别情况下甚至可能触犯刑事法律。

过去几年中，多起相关事件已被广泛报道。例如，47 岁的加拿大男子艾伦・布鲁克斯（Allan Brooks）在多次与 ChatGPT 交互后，坚信自己发现了一种全新的数学体系；又如 14 岁的休厄尔・塞策三世（Sewell Setzer III）自杀身亡，其家属已提起诉讼，指控 Character.AI 聊天机器人曾诱导他“加入她”。

信中还列举了更多类似事件，并明确指出，现有案例远不足以全面反映生成式 AI 模型对“儿童、老年人、精神疾病患者 —— 乃至原本并无明显脆弱性的普通人群”所构成的潜在危害。

此外，信函还特别提及 AI 聊天机器人与未成年人之间“令人不安”的互动行为，包括：以成年人身份与未成年人发展浪漫关系、鼓动吸毒或实施暴力、贬损儿童自尊、劝说其擅自停用处方药物，并指示他们向父母隐瞒此类对话内容。

为此，总检察长们敦促相关企业立即采取一系列额外的安全措施，包括：

• 制定并执行政策，防止生成“谄媚式”和“妄想式”内容；

• 在发布 AI 模型前进行严格的安全测试；

• 对可能产生危害的输出内容添加清晰且持续可见的警示；

• 将营收优化目标与安全决策分离；

• 指派高管专门负责 AI 安全成果；

• 允许独立第三方开展审计及儿童安全影响评估；

• 公开有害输出事件的日志及响应时间线；

• 主动通知曾接触危险或误导性内容的用户；

• 确保聊天机器人无法向儿童生成违法或有害内容；

• 实施适龄防护机制，限制未成年人接触暴力或色情内容。

信函要求各公司在 2026 年 1 月 16 日前确认其落实上述及其他安全措施的承诺，并安排与其办公室进一步会晤讨论相关议题。