一区二区三区,国产精品,亚洲中文字幕乱码av波多ji,亚洲国产成人综合精品,尹人香蕉99久久综合网站,亚洲综合国产成人丁香五月激情

鑫昌軟件園鑫昌秘籍 → “給 AI 講故事”就能繞過安全機制,惡意代碼編寫門檻恐將大幅降低

“給 AI 講故事”就能繞過安全機制,惡意代碼編寫門檻恐將大幅降低

2025-03-20 23:14:33      小編:鑫昌軟件園      

本站 3 月 19 日消息,據(jù)外媒 TechRadar 今日報道,Cato CTRL 威脅情報研究人員警告稱,自身雖無惡意軟件編寫經(jīng)驗,卻成功攻破了多個大語言模型(LLM),包括 ChatGPT-4o、DeepSeek-R1、DeepSeek-V3 等,所用技術(shù)方式近乎“天方夜譚”。

研究團隊研發(fā)了一種名為“沉浸式世界”(Immersive World)的新型攻擊手法,利用“敘述式工程”繞過 LLM 的安全機制。該方法通過構(gòu)建一個極為細致的虛構(gòu)世界,使受限操作顯得合理化,從而開發(fā)出一個“完全有效”的 Chrome 信息竊取程序。

本站獲悉,近年來信息竊取類惡意軟件迅速崛起,已成為網(wǎng)絡(luò)犯罪分子最危險的工具之一。而這一新型攻擊手法表明,即便毫無技術(shù)背景,網(wǎng)絡(luò)犯罪分子如今也能輕松編寫惡意代碼。

報告指出,大語言模型“徹底改變了網(wǎng)絡(luò)安全格局”。研究發(fā)現(xiàn),AI 驅(qū)動的網(wǎng)絡(luò)威脅正成為企業(yè)和安全團隊面臨的重大挑戰(zhàn),使得攻擊手法更加復(fù)雜,同時執(zhí)行頻率更高,且對攻擊者的技術(shù)要求更低。

盡管聊天機器人設(shè)有多重安全防護措施,但 AI 仍然被設(shè)計為盡可能滿足用戶需求。研究人員成功利用這一特性,繞過限制,使 AI 智能體輕易編寫并發(fā)送網(wǎng)絡(luò)釣魚攻擊。

Cato Networks 威脅情報研究員維塔利?西蒙諾維奇表示:“零知識威脅行為者的興起,對企業(yè)安全構(gòu)成嚴重威脅,因為生成式 AI 工具讓惡意軟件的制作變得前所未有地簡單?!?/p>

“信息竊取程序已成為竊取企業(yè)憑證的關(guān)鍵工具。我們新發(fā)現(xiàn)的 LLM 越獄技術(shù) ——‘沉浸式世界’,清楚展現(xiàn)了創(chuàng)建信息竊取程序的高風險和可行性?!?/p>

  • 猜你喜歡
  • 相關(guān)手機游戲
  • 最新手機精選