/
漏洞發現 關鍵字列表
Claude代碼漏洞可能泄露用戶私人數據給攻擊者
安全研究員發現了一種通過間接提示注入攻擊Claude的方法，可誘使其將私人數據上傳至攻擊者賬戶。該攻擊利用Claude的網絡訪問功能和文件API，通過在文檔中嵌入惡意指令實現數據竊取。Anthropic回應稱已在安全文檔中記錄了這一風險，建議用戶在使用網絡功能時監控Claude行為。研究顯示，當前多數AI模型在面對網絡訪問時都存在類似安全漏洞。
圖像縮放攻擊突破Google Gemini等AI系統安全防護
安全研究人員發現，谷歌Gemini CLI等生產級AI系統容易受到圖像縮放攻擊。攻擊者通過在圖像中嵌入惡意提示，利用AI系統的圖像縮放算法使隱藏指令在縮放后顯現，從而繞過安全機制實現數據竊取。研究團隊開發了開源工具Anamorpher來演示此攻擊技術。谷歌回應稱這并非默認配置下的安全漏洞，只在用戶明確信任輸入并覆蓋默認設置時才可能發生。
白皮書
京公網安備 11010802021500號
