谷歌改进 Gemini 助手危机响应机制,可帮助用户一键拨打求助热线
浏览12次
点赞0次
收藏0次
4 月 7 日消息,据科技媒体 9To5Google 今天报道,谷歌今天对 Gemini 进行一系列改进,更好应对用户提出的心理健康问题。

据报道,目前 Gemini 在遇到与自杀、自残相关的危机信号时会出现“一键连接”模块,引导用户一键拨打求助热线,还能够打电话、在线聊天、发送短信或访问相关网站。相关机制一旦触发将在整个对话过程中持续显示,系统也会以“鼓励用户寻求帮助”为核心进行回应。
如果对话表明用户需要心理健康方面信息,Gemini 就会展示“帮助就在身边”模块,旨在提供更高效、及时的专业支持资源。
同时,Gemini 的回复将鼓励用户寻求帮助,避免出现认同或强化自杀、自残冲动。并且 Gemini 还不会认同错误信念,而是以温和方式区分主观体验与客观事实。
谷歌还针对年轻一代用户提供多重保护机制,防止 Gemini 变得像具有人类属性的“陪伴者”,同时避免使用模拟亲密关系或表达情感需求的语言,防止情感依赖现象出现。
谷歌计划在未来三年内投入 3000 万美元(注:现汇率约合 2.07 亿元人民币),以提升全球热线服务承载能力。
声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里。
AI 中文社