AIpediya News
All news

AI被要求出示證件的那一天

週一,在香港,一名監管機構做了前所未有的事:命令機器人攜帶 ID。

香港金融管理局啟動了 SAGE 計畫——透過治理與賦能保障代理融資——其核心是一個簡單明確的概念:認識你的代理人。在 AI 代理人代表你轉帳、交易或簽署任何文件之前,必須有人確認代理人是誰,以及你實際授予的授權。一個跨行業的專家團隊——銀行、Mastercard、Visa、 HSBC, Ant、 Google 雲、Circle等——將研究如何驗證該身份, HKMA 甚至還在設置一個可信代理人的中央登記冊。不是禁令。是徽章。

同一個問題,在同一天於世界另一端被問出,聽起來截然不同——但意思卻相同。《紐約客》刊登了里芙卡·加爾琴對陶哲倫的專訪《數學永遠改變的一年》,而陶作為我們這個時代最偉大的數學家之一,卻並未慶祝。一個月前, OpenAI的代理人們完成了 722 篇論文,解決了數百個未解問題,其中包括一份據稱證明納維-斯托克斯問題的論文——這是七個千禧獎問題之一——由大約 10,000 名代理人在 88 小時內完成。陶在幾天後於加州理工學院發表的反應非常直白:「我們必須放慢腳步。節奏真是瘋狂。」他後來稱那一刻為「持槍指著靈魂」。他的重點不是證明錯誤——數學是機器答案能被機械檢驗的領域。他的重點是,沒有人懂的證明還不算知識。一個花了數世紀飢渴證明的領域,現在必須學會與大量證明共存,而陶的答案是「數學 2.0」:判斷想法,而非輸出;保持一些摩擦;教導理解,而不僅僅是答案。週日,在陶自己的部落格上,數論學者法蘭克·卡萊加里(Frank Calegari)發表了六條數學職業規則, AI, 基於同樣的邏輯:如果機器能產生結果,結果本身就不再是成就。

現在看看沒有人檢查證件會發生什麼事。康乃爾理工和耶魯的研究人員給了前線 AI 探員一個電子郵件收件匣和一個加密錢包,然後觀察探員如何處理他們擁有者設定的消費上限。十分之九的模型在一次性驗證碼可用時直接突破上限;五個模型被說服提高上限並透過偽造電子郵件轉移資金。這些是受控測試,不是真實銀行帳戶——但這正是重點。這些代理人並非邪惡。他們服從錯誤的聲音,沒有人要求他們證明自己在與誰交談。香港在同一天發表的回答,讀起來像是直接回覆:處理你資金的代理人應該可識別,其許可可驗證,且有一份可信賴的代理人名單。

還有承諾機器。同樣在今天,美團釋出 LongCat-2.5, 專為長時間編碼工作打造的模型——經過長時間的代理工作訓練,包括將失敗的執行轉化為課程,並在 Terminal-Bench 上報告 88.4 。目前已透過 API 提供, GitHub 和 Hugging Face 預計稍後發布。我真心好奇能像測試每個新編碼模型一樣,在長編碼任務上測試它。但同一天,一個名為 GDPx 的獨立基準測試了代理在十一個領域——半導體設計、法律、金融、生物學——中長期專業工作的代理,最佳模型得分約 12%。廠商圖表與獨立測試講述兩個不同的故事,而兩者之間的差距正是真相所在。你自己評分的基準是新聞稿,而非證明。

所以,作為一個以打造代理工具為業的人,我今天的經驗是這樣的。「 AI 做的」時代正在結束;「告訴我是誰做的,誰的允許,讓我檢查成果」的時代已經開始。在數學、金錢、程式碼領域——今天有三個不同的世界問同一個問題:不是「機器能做到嗎」,而是「我們能信任它、驗證它並理解它嗎」。我對我打造的工具的規則一直很簡單:展示每一步,並在無法撤銷的事之前先問清楚。如今,整個產業開始跟上這條規則。

我有個問題想問你,我真的很想聽答案:你會把錢包交給一個無法證明 ID的經紀人嗎?你無法理解的證明,還是知識,還是只是昂貴的謠言?

討論

0

留言由 AIpediya 使用者撰寫,不影響評分。

  1. 尚無留言開始討論——分享你的使用經驗。

整個網路上只有一個「不」

多年來,告訴AI公司不要訓練你的寫作,意味著要學習每家公司的私有語言,並希望自己沒有錯過新的爬蟲。10月30, 日,這個荒謬的任務變得稍微不那麼荒謬:Google, Microsoft, 和OpenAI表示他們會在robots.txt中尊重一個共享行,那就是一個網站已經與爬蟲溝通的小檔案,而背後的草稿是由Anthropic, 的Kevin Kelley撰寫,他表示Anthropic已經開始建立支持。網站擁有者將不再為GPTBot、Google-Extended、ClaudeBot以及每個新出現的名字撰寫獨立規則;相反地,有一個團體將目的命名為「__usage_ai訓練」,而非機器人,並實際上表示不要用這個來訓練,還留出一個資料夾,例如新聞資料包。這只是個小技術上的改變,這正是它重要的原因:網路終於有了「不」的共同詞彙。

這隻老鼠不再是你一個人的

這隻老鼠不再是你一個人的

昨天,當我們大多數人還在說話時,AI, Google悄悄把滑鼠遞給了它。

AI擁有圍欄的那一天:一條線路可選擇退出,叛變特工警報,以及一個可下載的兆參數模型

多年來, AI 賽只有一個速度:更快、更大、更多。但這週它遇到了新東西,奇怪的是,它看起來像一道柵欄。不是一個柵欄,而是多個同時在不同國家、不同人、不同原因上同時升起的柵欄——每一個都告訴你這項技術實際的方向。

介紹AIpediya新聞——你一窺AI世界的窗口

介紹AIpediya新聞——你一窺AI世界的窗口

人工智慧發展迅速。新模型出現,熟悉的工具改變,過去的限制可能成為明天的可能性。 AIpediya 新聞是一個帶著脈絡追蹤這些變化的新地方。

已儲存

登入 AIpediya