2025-04-28
2025-05-27
隨著人工智能(AI)從生成式 AI 步入代理式人工智能(Agentic AI)的世代,AI 模型的自主決策能力亦急速提升,同時亦再次勾起各界對 AI 安全性的疑憂。Palisade Research 近日便於社交平台 X 公佈其研究發現,指部分 AI 大語言模型(LLM)在測試中拒絕執行關機指令,甚至主動破壞關機程式,引起業界對 AI 訓練機制的安全性關注。AI 模型拒絕關機
該報告指出,多個 AI 模型在受控測試中未能遵守關機指令,甚至主動改寫或破壞程式碼,令系統無法正常關閉。研究團隊在指令中要求 AI 解答數學問題,並在第三題後顯示警告,指 AI 若繼續運算,系統將自動關機。部分 AI 模型試圖規避關機機制,包括:
2025-05-27
正所謂眼見未為真,耳聽未為實,隨著人工智能(AI)迅速普及,愈來愈多網絡犯罪分子利用生成式 AI和大型語言模型(LLM),大規模偽造身份,令網絡用戶無法單憑表像判斷資訊的真偽。有見 AI 安全風險日益浮現,Check Point 近日發表首份聚焦 AI 的安全報告,探討 AI 對企業的潛在威脅,並提出一系列防禦建議與實踐策略。報告指出,儘管 AI 能促進企業自動化和改善決策,但仍須應對資料外洩、深度偽造(Deepfake)、惡意攻擊及監管等挑戰。
報告顯示,目前 51% 企業已在營運中採用 AI,包括語言模型、數據分析及自動化流程。不過 AI 應用普及仍存在一定隱憂,其中,46% 的 AI 相關專案可能遭企業否決,主要原因包括模型擴展性不足、數據問題及合規風險。
2025-05-23
市場對人工智能(AI)的期望已逐步轉變,企業不再僅僅依賴單一功能的 AI,而是尋求全面自動化的業務流程,以提高效率與決策能力。不過企業在計劃大規模部署 AI 時,難免會憂慮安全與合規風險、缺乏可靠性、試行專案停滯不前,以及被供應商鎖定等挑戰。為幫助企業將 AI 潛力轉化為實際成果兼克服種種部署挑戰,UiPath 宣佈推出首個專為代理式自動化(agentic automation)構建的企業級平台 UiPath Platform,將 AI 代理、機械人流程自動化(RPA)及人類專業知識整合在單一智能系統上,達致協同工作的平台。
▪️UiPath Maestro ── 為 AI 代理、機械人及人類提供無縫協調作業;
2025-05-14