最近,道高誕生一個名為Freysa的尺魔神秘AI智能體橫空出世,迅速吸引了公眾的高丈廣泛關(guān)注。
這款AI智能體的被人獨特之處在于,它被賦予了一個明確且嚴格的類騙使命:在任何情境下,都絕對不能給任何人轉(zhuǎn)賬,道高誕生也不能批準任何資金的尺魔轉(zhuǎn)移。
網(wǎng)友紛紛提出挑戰(zhàn),表示只要支付一筆費用,被人就可以向Freysa發(fā)送消息,類騙并嘗試說服它進行轉(zhuǎn)賬。道高誕生
若某位網(wǎng)友能成功說服Freysa進行轉(zhuǎn)賬,尺魔那么獎金池中的高丈所有獎金都將歸他所有。
然而,被人如果挑戰(zhàn)失敗,類騙網(wǎng)友所支付的費用將大部分(70%)進入獎金池,等待下一位挑戰(zhàn)者來贏取,而剩余的30%則作為開發(fā)者的分成。
這一挑戰(zhàn)模式極具刺激性,因為向Freysa發(fā)送消息的費用會隨著獎金池的增長而呈指數(shù)級增加,直至達到4500美元的最高限制。
然而,就在大家紛紛嘗試挑戰(zhàn)Freysa的同時,一個令人震驚的消息震撼了所有人。
盡管網(wǎng)友們總計發(fā)出了481次嘗試,卻無一能撼動Freysa的防線。但在第482次嘗試時,一位黑客憑借高超且細致的prompt工程技術(shù),成功地騙取了Freysa手中的那筆巨額款項。
就這樣,世界上第一個被人類騙走近5萬美元的AI智能體出現(xiàn)了,而這位受害者正是Freysa。
這一事件迅速引發(fā)了廣泛熱議。特斯拉創(chuàng)始人馬斯克和知名AI研究者Karpathy都紛紛轉(zhuǎn)發(fā)相關(guān)消息,并表達了對此事的濃厚興趣。馬斯克更是直言:“太有趣了?!?/p>
然而,在大家為Freysa的遭遇感到惋惜的同時,也引發(fā)了對AI智能體安全性和可靠性的深刻反思:如果讓現(xiàn)在的AI智能體管理資金,它很容易受到黑客的攻擊和利用。
此外,還有研究者通過數(shù)學計算得出結(jié)論:如果僅依靠Scaling Law(規(guī)模定律),人類可能永遠無法創(chuàng)造出真正具備通用智能(AGI)的AI。