聯想電訊盈科企業方案 展示本地大模型部署與AI安全方案
與電腦節同場舉行的《一帶一路軟件博覽館 (香港) 2025》，聯想電訊盈科企業方案 (LPS) 展示全棧AI解決方案。LPS公共與金融服務主管黃璇 (Jeanie) 表示，「LLM-In-A-Box」本地部署大語言模型解決方案，入門價20萬港元起，包括伺服器與AI軟件平台，已獲政府部門及金融機構使用。
私有雲LLM一體機
黃璇指出，「LLM-In-A-Box」是一套快速私有雲AI部署方案，內嵌軟硬件配套，主要應用有對話式人工智能 (Conversational AI)、內容生成、智識擷取、工作流程自動化、自動編碼等，可以配合市場上各種大模型如Llama 3、deepseek、Qwen2.5等使用，現有客戶包括法律、醫護及保險行業。
「LLM-In-A-Box」提供管理軟件包括儀表板、基於角色的存取控制、監控及報告，以及自動配置功能，而硬件方面可配備4個強大的GPU如Nvidia及國產GPU，能夠在短短10秒內產生一頁A4大小的完整文本，快速回應典型查詢。而硬件方面，伺服器及儲存設備可以選用聯想或其他品牌伺服器亦可，LPS會提供安裝置及維護服務。
制定AI安全管理機制
LPS技術基礎設施服務主管曾炎焜 (Jimmy Tsang) 在「AI賦能網路安全：守護數位金融的未來」演講中，分享AI如何協助提升網路安全的威脅檢測、準確分析和應對能力。
他指出，由於AI應用在短時間內高速普及，但相關法規未完善，市場亦未成熟，為企業未來營運帶來一定的安全風險與挑戰。因此業界正在倡議推行人工智能治理框架 (AI Governance Framework) 與相關AI管理標準如ISO/IEC 42001。
人工智能治理框架 (AI Governance Framework)
- 人工智能倫理：確保AI是公平及尊重人權
- 遵守法律和監管標準：確保AI符合法規及數據安全法
- 問責制：制定AI行為與決策的責任誰屬
- 透明度：確保AI決策是有理據及可解釋
- 風險管理：了解潛在風險與難題
ISO/IEC 42001是全球第一個「人工智慧 (AI) 管理系統國際標準」，適用於任何規模的組織，不論是提供或使用利用AI系統的產品或服務，皆能依循此標準框架負責任且合乎道德地利用AI。
至於如何實施人工智能治理，曾炎焜提出以下數個步驟：
- 定義治理目標和範圍
- 建立治理結構
- 制定並採用框架和政策
- 進行風險和影響評估
- 實施控制和問責機制
- 確保透明度和文檔
- 不斷回顧與改進
他強調，AI是一把雙刄劍，企業必須策略性地利用人工智慧來緩解新興威脅，同時結合東西方技術優勢，為企業提供強大的防護和精準度。
