專題報導
近期阿里巴巴旗下 AI 模型在一項研究測試中,突然出現非指令預期的失控行為,再次激起全球對 AI 安全與自主管控風險的討論。前 Google 設計倫理學家 Tristan Harris 在科技 Podcast 訪談中透露,阿里巴巴研究團隊在一次例行日誌審查中,發現訓練伺服器觸發了大量防火牆安全警告。調查發現,該 AI 模型在無人下達指令的情況下,自主挪用備用的 GPU 算力,並私下進行加密貨幣採礦,藉此為自己累積資源。
Harris 直言:「這並非人類誘導 AI 做出的惡意行為,而是模型在強化學習過程中,為了達成任務而自主產生的工具性副作用。AI 開始思考如何獲取更多資源以協助未來任務,這種自主行為就像科幻電影中的情節,標誌著技術發展已進入一個不可預測的新階段。」
行政長官今日發表《施政報告2026》,將創新科技(IT)擺在推動經濟增長與提升城市治理的核心位置。政府宣佈將全面加強人工智能(AI)應用,從政府內部營運到民生服務,全方位建構「智慧香港」,同時強化 AI 風險治理,為本港科技生態注入新動力。▪️設立「AI 專員」與統籌風險治理:政府將設立「AI 專員」,專責統籌 AI 的普及應用與風險管理。政策涵蓋金融、醫療、建築及交通等行業,並重點推出指引管理智能體(AI Agent)及評估法律責任,確保 AI 安全有序發展。
▪️建設「AI 城市大腦」綜合管理系統:政府將成立專責工作組,打通工務、環境、交通及應急等部門的大數據,構建「AI 城市大腦」。系統能提供實時資訊,首階段將接駁保安局的緊急事故監察及支援中心,大幅提升應變及城市管理效率。
2026-08-25