風向判讀｜AI 的安全成績單出爐：全班最高分，只有 C+

非營利組織 Future of Life Institute（FLI）剛發布年度「AI 安全評比」，給幾家大 AI 公司打了「安全分數」，結果有點尷尬——衝最前面的那幾家，分數都不好看。

  • 最高分是 Anthropic，也只有 C+。
  • OpenAI、Google 拿 C；Meta D+。
  • xAI、DeepSeek、Mistral 幾乎等於不及格。

有意思的對比：同一週，Anthropic 又是安全第一、又是營收第一、還挖走一票頂尖人才（連 Karpathy、諾貝爾得主都跳槽過去）。但就算是這樣的「模範生」，安全也只拿 C+。

看出風向了嗎？這一年大家拼的是能力、是營收、是搶人——安全被甩在後面。AI 正被塞進你的搜尋、你的公司、你的手機，但「它到底夠不夠安全」這題，連做得最好的都只是勉強及格。看風向：別只看誰跑得快，也要看誰在踩剎車。

—

The Future of Life Institute's 2026 AI Safety Index is out, and the best grade any frontier lab earned is a C+ (Anthropic). OpenAI and Google got C, Meta D+, and xAI / DeepSeek / Mistral effectively failed. Same week, Anthropic also led on revenue and poached top talent (Karpathy, a Nobel laureate). Everyone's racing on capability, money and hiring — safety is what's lagging. Watch who's hitting the brakes, not just who's fastest.

📄 資料來源：Future of Life Institute《AI Safety Index · Summer 2026》

留言

張貼留言

這個網誌中的熱門文章

AI 懶人包｜不會寫指令？讓 AI 幫你寫

圖片
老實說，指令（prompt）寫不好，多半不是你不會用 AI，是你自己還沒想清楚要什麼。與其自己硬擠，不如叫 AI 先幫你把需求想清楚——這招叫 meta-prompting，白話說就是「用 AI 幫你寫出更好的指令」。 先搞懂：什麼叫「好指令」？ 只有一種解讀，別讓它有第二種理解方式 講得出「怎樣算成功」，要具體、能檢查 給背景：你是誰、講給誰聽、什麼情境 框住格式跟長度 明講「不要做什麼」 難題目，叫它「先想再答」 最偷懶的一招（複製就能用） ，把這句貼給 AI—— 「這是我的需求：＿＿。請先幫我改寫成一個清楚、只有一種解讀、能檢查成敗的指令，並反問我還缺哪些資訊。」 一個提醒：好指令很少一次到位，都是「寫 → 試 → 改」磨出來的。與其怪 AI 不懂你，不如先讓它幫你把話講清楚。 — Can't write good prompts? Let AI write them for you. A bad prompt usually means fuzzy thinking, not bad AI. Meta-prompting = asking AI to turn your vague ask into one clear, single-interpretation, checkable prompt — and to ask what's still missing. A good prompt has: one reading, a defined "success," context, format, boundaries, and room to think first. It's draft → test → revise, rarely one shot. 📖 整理自《Meta-Prompting》 github.com/jason3e7/ai-101 → 05-notes/meta-prompting.md
閱讀完整內容

風向判讀｜AI 打破知識門檻：卡在中間的人最尷尬

圖片
以前「懂得比較多、做得比較熟」就能養活自己。現在 AI 幾乎有問必答——你會的它也會，還更快、更便宜。 誰得利、誰受傷，其實很清楚： 新手最開心：以前要學好久才敢碰的事，現在問一句就有人教。 真高手還是穩：懂得「什麼時候該信、什麼時候別亂用」，這種判斷 AI 學不來。 最尷尬的是中間那群人：一直靠「我比你多會一點」吃飯的。 還有個反差：AI 讓原本比較弱的人進步最多，強的反而沒差多少。等於把地板墊高，大家越來越像。 所以往後拼的不是「你知道多少」，是「你判斷得準不準、有沒有品味、敢不敢扛」。會查資料不稀奇，會做決定才值錢。 — AI is making "knowing stuff" cheap. What still pays: judgment, taste, and owning the call. 📖 靈感：《AI Breaks Knowledge Barriers》 github.com/jason3e7/ai-101 → 05-notes/ai-and-knowledge-barriers.md
閱讀完整內容

風向判讀｜AI 離開聊天框，進入「會做事」的時代

圖片
過去我們問 AI「答得對不對」，接下來要問的是「敢不敢把事交給它做」。 軟體 AI 開始跑完整流程：自己分析業績、比對數據、做成簡報、寄給主管，一條龍搞定。光 Zapier 一家公司內部就用了 800 多個 AI 代理。 機器人也長出「語言腦」：NVIDIA 開源新模型，讓機器人聽得懂人話、看著現場自己完成多步驟任務。 連寫程式都給 AI 做：Claude 生成機器狗的控制程式，比去年最強的人類團隊快 20 倍。 兩條腿一起走：螢幕裡的軟體代理、現實中的機器人，都在從「示範」走向「上工」。 重點早就不是 AI 聰不聰明，是它做事「穩不穩、貴不貴、會不會出包」。這才是企業敢不敢用的關鍵。下次別看 demo 多炫，看誰真的讓 AI 上工還不出錯。 — AI is leaving the chatbox. Software agents now run real multi-step work inside companies (Zapier runs 800+ internal agents); robots are getting language brains (NVIDIA open-sourced a model that lets them understand speech and act); AI even writes robot control code 20x faster than last year's best human team. The bottleneck isn't smarts anymore — it's cost, latency and error rate. The edge shifts from "whose model is strongest" to "who can make AI reliably do the job."
閱讀完整內容