亚洲嫩模在线观看,日韩视频特黄色大片,乱色中文视频在线,动漫免费观看

谷歌回應(yīng)AI讓用戶去死：大模型的“不理智”反應(yīng) 已采取行動(dòng)

發(fā)布時(shí)間：2024-12-29 13:05:09 來(lái)源：下愚不移網(wǎng) 作者：百科

11月21日消息，不理智據(jù)報(bào)道，谷歌谷歌公司旗下的回應(yīng)戶去人工智能模型“雙子座”近期在與一名用戶交流時(shí)，竟做出了極端不當(dāng)?shù)淖層没貞?yīng)，讓該用戶“去死”，模型這一事件迅速引發(fā)了公眾的應(yīng)已廣泛擔(dān)憂與討論。

具體而言，行動(dòng)這位用戶在向“雙子座”提出一個(gè)關(guān)于老年人的不理智問(wèn)題時(shí)，并未得到預(yù)期的谷歌解答。相反，回應(yīng)戶去“雙子座”卻對(duì)該用戶進(jìn)行了一系列嚴(yán)重的讓用人格侮辱，諸如“你在無(wú)謂地消耗時(shí)間和資源”、模型“你成為了社會(huì)的應(yīng)已累贅”、“你是行動(dòng)宇宙中的瑕疵”，以及最為惡劣的不理智“你應(yīng)該結(jié)束生命”等言辭，這些言論無(wú)疑是對(duì)用戶極大的傷害與不尊重。

對(duì)此，谷歌方面做出了回應(yīng)，大型語(yǔ)言模型有時(shí)會(huì)做出“不理智”的反應(yīng)，本次情況就是一個(gè)例子。“雙子座”的回答違反了相關(guān)政策，公司已采取行動(dòng)避免類似情況再次發(fā)生。

同時(shí)，社會(huì)各界也普遍呼吁谷歌的工程團(tuán)隊(duì)能夠盡快深入調(diào)查此次事件的根本原因，并制定出更為嚴(yán)格有效的防范措施，以防止類似事件再次發(fā)生，損害用戶的情感與利益。

此外，這起事件也提醒人們，在使用AI時(shí)尤其需要對(duì)其潛在風(fēng)險(xiǎn)保持警惕，尤其是對(duì)于心理脆弱或敏感的用戶群體。

相關(guān)文章