谷歌回应AI让用户去死：大模型的“不理智”反应 已采取行动
发布时间：2024-12-29 00:13:20 作者：玩站小弟 
我要评论
我要评论11月21日消息，据报道，谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的回应，让该用户“去死”，这一事件迅速引发了公众的
。
11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。
对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。
同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。
此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。
相关文章
阿里云发布全栈AI负载高可用 与用户共建AI时代云上IT新治理
12月17日上午，在中国信息通信研究院主办的2024第五届“GOLF+IT新治理领导力论坛”主论坛上，阿里云重磅发布了全栈AI负载高可用架构，以满足AI大模型企业级应用在大规模2024-12-29
近日，《黑神话：悟空》好评数正式突破一百万！根据SteamDB数据，《黑神话：悟空》是Steam平台目前仅有的三款好评评论数超过100万的游戏，另两款分别是经典游戏《Garry's MOD即G2024-12-29
毫无悬念！官方：3场5球1助攻，22岁格林伍德当选马赛8月最佳
9月12日讯 马赛官方公布8月最佳球员，新援格林伍德无悬念当选。22岁的格林伍德在今夏以2600万欧元从曼联加盟马赛，新赛季3场法甲贡献5球1助攻，帮助球队取得2胜1平暂列积分榜次席。2024-12-29
09月12日讯 被终身禁足的陕西联合队长丁捷前陕西长安竞技球员）发文，承认自己赛后收钱，触犯法律，但表示没有出卖球队。丁捷成为9月10日禁足名单公开后首位公开认罚的球员，而此前两天则有将近10名被禁足2024-12-29
当人们发现一款老游戏中一些鲜为人知的新内容时，总是很有意思。如今有消息透露，《塞尔达传说：梅祖拉的假面》是支持麦克风功能的。任天堂最终在这款游戏的成品中并没有启用这一功能。不过，事实证明它支持好几种不2024-12-29
11月24日讯 巴萨vs塞尔塔第84分钟，孔德送礼，第86分钟，巴萨再度丢球，比分变为巴萨2-2塞尔塔！巴萨第二粒丢球↓2024-12-29
最新评论