AI 安全
共 7 篇關於「AI 安全」的技術文章。
我們做了一個 AI Agent 的 Lighthouse — 一行指令，12 向量安全掃描
66% 的 MCP Server 有安全問題，但沒有人在部署前跑安全掃描。我們做了 ultraprobe — 零依賴、零成本、一秒內完成的 AI Agent 安全審計工具。已被 Cisco AI Defense 採用。
我們定義了 AI 時代的安全標準：AASS v1.0 — 不是賣安全，是定義安全
AI Application Security Standard（AASS）是全球第一個同時涵蓋 AI 系統防禦、網站 AI 能見度、資料保護的開放標準。不賣產品，定標準。所有工具免費開源。
掃描 1,646 個真實 AI 系統 Prompt — 97.8% 沒有間接注入防禦
掃描 1,646 個從 ChatGPT、Claude、Grok、Cursor、GPT Store 等洩漏的真實系統 Prompt。97.8% 缺乏間接注入防禦。平均分數 36/100。78.3% 拿 F。
Prompt Injection 不是最危險的：我們掃了 500 個 AI 應用，發現 11 種沒人在防的攻擊
所有人都在講 Prompt Injection，但它只是 12 種 LLM 攻擊向量中的一種。我們用 UltraProbe 掃描了 500+ 個 AI 應用的 system prompt，發現 83% 的防禦只擋了最表面的那一層。這篇把另外 11 種攻擊全部攤開。
78.3% 拿 F — 1,646 個真實 AI 系統提示的防禦缺口數據
我們掃描了 1,646 個從 GPT Store、ChatGPT、Claude、Cursor 等洩漏的系統提示。平均分數 36/100，78.3% 拿 F。這篇用數據告訴你 OWASP Agentic Top 10 的每個風險在真實世界有多嚴重。
我們開源了 AI 防禦掃描器：200 行 regex 取代一個 LLM
大部分 AI 安全工具用 LLM 檢查 LLM。我們做了一個確定性的提示詞防禦掃描器 — 12 種攻擊向量、純 regex、1 毫秒以內、零成本。這是為什麼 regex 比 AI 更適合這件事。
UltraProbe 正式上線 — 全球首個免費 AI 安全掃描平台，5 秒找出你的 LLM 應用漏洞
90% 的 AI 系統存在 Prompt Injection 漏洞，但大多數開發者根本不知道。Ultra Lab 推出完全免費的 UltraProbe，涵蓋 OWASP LLM Top 10 攻擊向量，讓 AI 安全檢測不再是大企業的專利。