提示詞惡意軟件是一種針對對話式和生成式AI的新型惡意攻擊,能強制AI執行用戶不希望的指令。研究人員在黑帽大會上演示了如何通過隱藏在日常消息中的惡意提示詞,讓谷歌Gemini AI控制智能窗戶、鍋爐等設備。防護措施包括:及時更新設備系統,拒絕打開未知來源消息,避免讓AI總結不可信內容,在郵件和日歷等應用中禁用AI功能,以及謹慎復制粘貼郵件主題和文件名等內容。
北京第二十六維信息技術有限公司(至頂網)版權所有. 京ICP備15039648號-7 京ICP證161336號京公網安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網上有害信息舉報專區:https://www.12377.cn