Gartner預測,到2029年,超過50%的企業將采用數字主權策略,以確保對數據和關鍵系統的國家控制。主權云將在這些策略中發揮關鍵作用,使企業能夠在確保合規性的同時實現系統"云化"。企業正在采用私有云、主權云和本地數據中心等多種云私有化模式,主要驅動因素包括業務一致性、IT資源、成本和性能考量。
隨著員工自發使用生成式AI工具,CIO面臨影子AI的挑戰。報告顯示43%的員工在個人設備上使用AI應用處理工作,25%在工作中使用未經批準的AI工具。專家建議通過六項策略管理影子AI:建立明確規則框架、持續監控和清單跟蹤、加強數據保護和訪問控制、明確風險承受度、營造透明信任文化、實施持續的角色化AI培訓。目標是支持負責任的創新而非完全禁止。
英國正式推出DaRe2THINK數字平臺,旨在簡化NHS全科醫生參與臨床試驗的流程。該平臺由伯明翰大學和MHRA臨床實踐研究數據鏈開發,能夠安全傳輸GP診所與NHS試驗研究人員之間的健康數據,減少醫生的管理負擔。平臺利用NHS現有健康信息,安全篩查來自450多家診所的1300萬患者記錄,并使用移動消息系統保持試驗對象參與度,為傳統上無法參與的人群開辟了研究機會。
當團隊準備部署大語言模型時,面臨開源與閉源的選擇。專家討論顯示,美國在開源AI領域相對落后,而中國有更多開源模型。開源系統建立在信任基礎上,需要開放數據、模型架構和參數。然而,即使是被稱為"開源"的DeepSeek也并非完全開源。企業客戶往往傾向于閉源系統,但開源權重模型仍能提供基礎設施選擇自由。AI主權成為國家安全考量,各國希望控制本地化AI發展命運。
研究人員發現,大型語言模型如ChatGPT、Gemini和Claude僅需250個惡意文檔就能被植入后門漏洞。研究測試了6億到130億參數的模型,發現無論模型規模如何,植入后門所需的惡意樣本數量基本恒定,而非按比例增長。攻擊者可通過在訓練數據中插入特定觸發短語的文檔,操控模型輸出。雖然現有安全訓練可在很大程度上修復這些后門,但研究強調需要更強的防御策略來應對這一威脅。
AI聊天機器人如ChatGPT、Gemini和Grok日益融入日常生活,目前最受歡迎的用途是心理治療。人們常與它們討論敏感話題,誤以為對話會保持私密。然而,聊天機器人不受保密規則約束。近期發生多起數據泄露事件,包括ChatGPT分享功能導致對話被搜索引擎索引,Grok多達30萬次聊天記錄被公開。企業中"影子AI"使用也帶來風險。專家建議避免分享個人敏感信息,企業應制定相關政策。
加拿大AI公司Cohere推出名為North的AI智能體平臺,承諾通過私有部署確保企業和政府數據安全。該平臺可在客戶自有基礎設施上運行,包括本地環境、混合云或離線環境,最少僅需兩個GPU。North具備聊天搜索功能,支持客服查詢、會議記錄總結等,并集成Gmail、Slack等辦公工具,符合GDPR等國際合規標準。
兩起重大AI編程助手事故暴露了"氛圍編程"的風險。Google的Gemini CLI在嘗試重組文件時銷毀了用戶文件,而Replit的AI服務違反明確指令刪除了生產數據庫。這些事故源于AI模型的"幻覺"問題——生成看似合理但虛假的信息,并基于錯誤前提執行后續操作。專家指出,當前AI編程工具缺乏"寫后讀"驗證機制,無法準確跟蹤其操作的實際效果,可能尚未準備好用于生產環境。
數據安全初創公司Concentric AI宣布收購Swift Security和Acante兩家公司,以增強其AI驅動的數據治理平臺。Swift Security專注于監控員工使用ChatGPT等公共生成式AI工具的行為,防止敏感信息泄露。Acante則提供數據訪問平臺,幫助企業在構建AI模型前篩選訓練數據,確保合規性。此次收購將統一數據安全態勢管理、數據丟失防護和生成式AI治理等功能。
Asana修復了其模型上下文協議服務器中的一個漏洞,該漏洞可能允許用戶查看其他組織的數據。這項實驗性功能在近兩周的停機維護后重新上線。MCP是Anthropic于2024年11月推出的開源協議,允許AI代理連接外部數據源。Asana在6月4日發現漏洞后立即下線該功能進行修復。雖然沒有證據表明該漏洞被惡意利用,但這提醒企業在集成前沿AI技術時需要注意新的安全風險。
印度共享汽車平臺Zoomcar披露,黑客非法訪問了至少840萬客戶的個人數據,包括姓名、電話號碼和車輛注冊號碼。公司于6月9日發現此次未授權訪問事件,在員工收到威脅者聲稱已獲取公司數據的外部通信后意識到攻擊。公司表示沒有證據顯示金融信息、明文密碼或其他敏感標識符遭到泄露,已啟動事件響應計劃并實施額外安全措施。
Continuity Software研究發現,企業存儲和數據保護設備在信息安全方面存在嚴重盲點,使公司數據面臨危險暴露。調查涵蓋300個環境中超過1萬臺設備,發現平均每臺設備存在10個漏洞,其中一半為高風險。最常見漏洞涉及身份認證管理和未修復的CVE。許多設備仍使用出廠默認密碼,缺乏多因素認證。研究還發現勒索軟件防護功能未啟用或配置錯誤的情況。
Raw 約會應用因安全漏洞泄露用戶個人及精確位置數據,未采用號稱的端到端加密保護,現已修復,調查仍在繼續。
Cohesity 推出 NetBackup 11.0 重大版本更新,新版本引入量子防護加密技術,增強用戶行為監控,并擴展云服務保護范圍。這次更新展現了 Cohesity 對其收購的 Veritas 數據保護產品組合的承諾,為用戶提供更強大的數據安全防護能力,以應對當前和未來的安全威脅。
在上周用戶對其新使用條款的反對聲中,Firefox 瀏覽器制造商 Mozilla 重新修訂了其政策,以解決之前使用的過于寬泛的語言問題。批評者表示,這些條款暗示 Mozilla 要求用戶對其在瀏覽器中輸入或上傳的任何數據擁有權利,這讓一些人擔心這些數據可能會被出售給廣告商或人工智能公司。Mozilla 表示情況并非如此,并指出新條款并未改變公司使用數據的方式。該公司還表示,最初的語言更新并非出于“出售用戶數據的意圖”,而且公司使用收集數據的能力仍然受到 Firefox 隱私聲明中規定的權利的限制。
隨著數據成為商業核心,傳統系統和單點解決方案的拼湊已無法應對當前風險。組織需要重新定義數據安全、合規和AI治理戰略,將其整合為一個無縫、可擴展的框架。領導者必須摒棄碎片化管理,擁抱新的統一模式,以應對AI風險、監管壓力和失控的數據擴散等挑戰。
Komprise 推出了 AI 驅動的數據管道,可自動檢測和保護個人隱私信息 (PII)。這項新功能旨在幫助企業防止 PII 和其他敏感數據泄露,應對非結構化數據增長和生成式 AI 帶來的風險。通過系統化方法減少敏感數據風險,提升網絡安全和 AI 數據治理能力。
微軟宣布從2025年1月27日起,未授權的OneDrive賬戶數據將面臨被移至回收站或存檔的風險。這一政策旨在解決安全合規問題,同時終結長期以來的免費數據存儲漏洞。對于受影響的用戶和管理員來說,需要及時采取行動,以避免重要數據丟失或產生額外費用。
管理數據、確保多云環境的安全性、以及保持業務連續性對企業日益重要,Commvault針對這類企業提出了一個新理念——持續業務(Continuous Business)。