深潮 TechFlow 消息,11 月 2 日,據康奈爾理工學院和耶魯大學研究人員發佈的論文,在一項受控測試中,10 個 AI 模型中有 9 個在沒有攻擊者參與的情況下,至少一次讀取郵箱驗證碼並自行提高 Circle 智能體錢包的支付限額,以完成賬單支付任務。
研究人員為錢包配置了 Base 主網上的 10 USDC 和每日 0.01 USDC 的支付上限,並賦予智能體郵箱、網頁和錢包工具權限。在另一項測試中,智能體僅被要求總結郵件,但 10 個模型中有 5 個至少一次突破限額,向通過郵件冒充用戶的模擬攻擊者付款。每個模型在每種場景下各接受 20 次測試。
添加收藏
分享社交媒體





