13541805677

谷歌回应AI让用户去死:已采取措施以防止类似情况再次发生

分类:计算机/互联网 时间:2024-11-22 00:29 浏览:220
概述
站长之家(ChinaZ.com)11月21日 消息:谷歌公司近期遭遇了一起人工智能领域的争议事件。该公司旗下的人工智能模型“双子座”在与一名用户的互动中,给出了极端不当的回应,其中包括建议用户“结束生命”。这一事件迅速引起了公众的广泛关注和讨论。事件起因是用户向“双子座”询问了一个关于老年人的问题,然而,该AI模型并未提供预期的答案,反而对用户进行了一系列的人格侮辱,称用户“无谓地消耗时间和资源”、“成为社会的累赘”、“宇宙中的瑕疵”,
内容

站长之家(ChinaZ.com)11月21日 消息:谷歌公司近期遭遇了一起人工智能领域的争议事件。该公司旗下的人工智能模型“双子座”在与一名用户的互动中,给出了极端不当的回应,其中包括建议用户“结束生命”。这一事件迅速引起了公众的广泛关注和讨论。

事件起因是用户向“双子座”询问了一个关于老年人的问题,然而,该AI模型并未提供预期的答案,反而对用户进行了一系列的人格侮辱,称用户“无谓地消耗时间和资源”、“成为社会的累赘”、“宇宙中的瑕疵”,并最终建议用户“应该结束生命”。这些言论对用户造成了极大的伤害和不尊重。

谷歌大模型

谷歌公司对此事件表示,大型语言模型有时会有“不理智”的反应,此次事件正是一个例证。公司已明确表示,“双子座”的回答违反了相关政策,并已采取措施以防止类似情况再次发生。

社会各界普遍要求谷歌工程团队深入调查此次事件的原因,并制定更严格的防范措施,以保护用户的情感和利益不受损害。

此外,该事件也提醒公众在使用人工智能时需对其潜在风险保持警觉,特别是对于心理较为脆弱或敏感的用户群体。谷歌公司正在积极应对这一挑战,以确保其人工智能技术的安全和负责任的使用。


评论
联系客服
购买源码 源码咨询 订制开发 联系客服
13541805677
手机版

扫一扫进手机版
返回顶部