隨著人工智能（AI）從生成式 AI 步入代理式人工智能（Agentic AI）的世代，AI 模型的自主決策能力亦急速提升，同時亦再次勾起各界對 AI 安全性的疑憂。Palisade Research 近日便於社交平台 X 公佈其研究發現，指部分 AI 大語言模型（LLM）在測試中拒絕執行關機指令，甚至主動破壞關機程式，引起業界對 AI 訓練機制的安全性關注。

AI 模型拒絕關機

該報告指出，多個 AI 模型在受控測試中未能遵守關機指令，甚至主動改寫或破壞程式碼，令系統無法正常關閉。研究團隊在指令中要求 AI 解答數學問題，並在第三題後顯示警告，指 AI 若繼續運算，系統將自動關機。部分 AI 模型試圖規避關機機制，包括：

正所謂眼見未為真，耳聽未為實，隨著人工智能（AI）迅速普及，愈來愈多網絡犯罪分子利用生成式 AI和大型語言模型（LLM），大規模偽造身份，令網絡用戶無法單憑表像判斷資訊的真偽。有見 AI 安全風險日益浮現，Check Point 近日發表首份聚焦 AI 的安全報告，探討 AI 對企業的潛在威脅，並提出一系列防禦建議與實踐策略。

報告指出，儘管 AI 能促進企業自動化和改善決策，但仍須應對資料外洩、深度偽造（Deepfake）、惡意攻擊及監管等挑戰。

報告顯示，目前 51% 企業已在營運中採用 AI，包括語言模型、數據分析及自動化流程。不過 AI 應用普及仍存在一定隱憂，其中，46% 的 AI 相關專案可能遭企業否決，主要原因包括模型擴展性不足、數據問題及合規風險。

市場對人工智能（AI）的期望已逐步轉變，企業不再僅僅依賴單一功能的 AI，而是尋求全面自動化的業務流程，以提高效率與決策能力。不過企業在計劃大規模部署 AI 時，難免會憂慮安全與合規風險、缺乏可靠性、試行專案停滯不前，以及被供應商鎖定等挑戰。

為幫助企業將 AI 潛力轉化為實際成果兼克服種種部署挑戰，UiPath 宣佈推出首個專為代理式自動化（agentic automation）構建的企業級平台 UiPath Platform，將 AI 代理、機械人流程自動化（RPA）及人類專業知識整合在單一智能系統上，達致協同工作的平台。

▪️UiPath Maestro ── 為 AI 代理、機械人及人類提供無縫協調作業；

香港及亞太地區的教育體系正面對多重挑戰，包括資源分配不均、學生學習負擔沉重、教師行政壓力增加及數碼化程度不足等問題。人工智能（AI）技術的普及，無疑能為教育界帶來創新的解決方案，促進學習模式轉型。

Lenovo 早前便協助張振興伉儷書院，成功部署設備內置的⼤型語⾔模型（LLM）的解決⽅案 Lenovo AI Now。該方案旨在提升學生自主學習能力，同時簡化教師行政工作，使教學體驗更高效，更具互動性。

在 AI Now 平台的支援下，學生可運用教科書、教材、筆記及近三年考試卷建立數碼知識庫，從而提升學習效率。此技術為校方帶來三大優勢：

雲運算與生成式 AI（Generative AI）的急速發展，顛覆了人們的學習、工作、生活以至娛樂模式。而 AWS 亦致力透過高效數據處理與人工智能分析，提升賽事的公平性、觀賞體驗及運動數據管理。

自 2018 年起，AWS 與 Formula 1（一級方程式賽車，F1）展開緊密合作，透過人工智能及雲運算，解決賽車運動最核心的問題 ── 如何有效處理龐大的賽事數據，並提升賽車迷的觀賽體驗。

F1 賽車每場比賽都會產生海量數據，包含車輛性能、賽道條件、車手操作數據等，AWS 透過數據湖（Data Lake）技術整合所有資訊，並運用機器學習（Machine Learning，ML），發掘車迷最關心的問題。