10/24/25

台灣大哥大硬科技日(DEEP Tech Day 2025)

 台灣大哥大即將舉辦第三屆「D.E.E.P. Tech Day 2025」硬科技日,活動核心聚焦於人工智慧的在地化與實務應用。論壇邀請多位重量級專家,包含 Google DeepMind 副總裁紀懷新探討具備推理能力的多模態通用助理,以及群聯電子執行長潘健成分享如何透過硬體創新解決 GPU 記憶體瓶頸,實現低成本且高安全性的地端 AI 部署。台灣大資訊長蔡祈岩則提出「逆分工」理論,分析生成式 AI 對企業組織架構與商業模式的革新影響。整體內容展現了從基礎模型、技術平台到產業實踐的完整藍圖,致力於協助企業打造可擴展且受控的 AI 生態系。透過產學研三方的專業見解,本次盛會不僅勾勒出未來科技趨勢,更提供企業數位轉型與 AI 落地的具體行動方案。

回應企業客戶的三大痛點

在第三屆台灣大哥大硬科技日(D.E.E.P. Tech Day 2025)中,官方明確指出了企業在導入 AI 過程中所面臨的三大核心痛點,分別為:落地困難應用零碎,以及系統整合的壁壘

為了更深入理解這些痛點,我們可以從以下幾個維度解析企業面臨的具體挑戰:

1. 落地困難(部署門檻與成本過高)

許多企業在嘗試將 AI 從願景轉化為實踐時,往往因技術門檻過高而停滯不前。

  • 硬體成本與算力瓶頸: 傳統 AI 訓練需要堆疊大量昂貴的 GPU,導致成本高昂且地端部署困難。此外,記憶體不足常成為運算瓶頸。
  • 導入周期過長: 從基礎建設到實際部署,繁瑣的流程常讓企業望而卻步。
  • 人才缺乏: 企業往往缺乏足夠的專業人才來處理複雜的模型微調與維護。

2. 應用零碎(模型訓練與在地化不足)

即使企業開始嘗試 AI,也常面臨應用場景過於細碎、無法產生規模化效益的問題。

  • 模型訓練困難: 高達 95% 的企業受限於模型訓練與部署的門檻,導致進度原地踏步。
  • 缺乏在地化支援: 通用型模型往往缺乏對在地語料(如國、台、客語混用)的理解,難以精準應用於本地商務場景。
  • 難以衡量營運成果: 企業難以將零散的技術應用轉化為可衡量的商業價值或生產力提升。

3. 系統整合的壁壘(資安風險與架構不相容)

將 AI 整合進現有的企業架構時,資安與技術相容性是最大的阻礙。

  • 資料安全與主權: 企業高度擔憂私域數據外洩或資安風險,這使得許多企業對於雲端 AI 抱持保留態度。
  • 系統相容性: 如何將 AI 與既有的 ERP、EIP 等企業內部系統深度整合,並打破資訊孤島,是實現自動化的關鍵難題。
  • 管理與控管: 缺乏一個「可落地、可擴展、可控管」的生態系,導致企業在擴張 AI 應用時面臨治理挑戰。

總結來說,這三大痛點反映了企業從「模型競賽」轉入「落地實戰」時,必須跨越的技術、經濟與安全三道門檻。

您可以將這三大痛點想像成企業在通往 AI 轉型終點線上的三大路障「昂貴的賽車門票」(落地困難的高成本)、「模糊的地圖」(應用零碎且缺乏在地精準度),以及**「封閉的賽道關卡」**(系統整合與資安的重重壁壘)。台灣大硬科技日提供的解方,正是為了幫企業掃除這些障礙。

本次展會的四大主題

這次台灣大硬科技日以「OP AI 落地智慧」為主題,透過集結全球科技巨頭、硬體創新領導者及電信與資訊技術專家的多方合作,從趨勢引領、硬體突破、戰略重構及產業應用四個層次,全面推動 AI 的落地實踐:

1. 全球技術趨勢與在地研發的結合

硬科技日邀請了 Google DeepMind 研究副總裁紀懷新 (Ed Chi),從全球視角解析 AI 的發展趨勢。他指出 AI 正從單純的排序系統進化為具備推理能力、情境理解的「多模態個人化助理」。

  • 技術整合: 透過將全球領先的多模態模型趨勢,結合台灣大哥大研發團隊開發的在地化 ASR 語音智慧轉譯(國、台、客等多語混用,正確率破 97%),實現了能應對在地需求的技術落地。

2. 解決硬體瓶頸與降低部署成本

群聯電子執行長潘健成與台灣大合作,針對企業導入 AI 時面臨的「硬體昂貴」與「記憶體不足」痛點提供解方。

  • 硬體突破: 群聯電子推出 aiDAPTIV+ 落地化 AI 訓練伺服器,利用 NAND Flash 技術突破 GPU 記憶體瓶頸。
  • 成本效益: 此方案讓企業能以較低成本進行地端(On-Prem)部署,降低約 90% 的邊緣 AI 微調成本,並縮短 30 天的布署時程。此外,透過 aiDAPTIVCache 技術,甚至能將一般 PC 升級為具備 AI 推論能力的 AI PC。

3. 企業戰略重構與「逆分工」理論

台灣大資訊長蔡祈岩提出「逆分工」驅動的產業重構理論,強調企業競爭關鍵在於掌握在地語料、地端部署與私域 AI 能力中心

  • 實踐策略: 他主張將 AI 化為可控、可衡量的戰略資產,透過「可落地、可擴展、可控管」的生態系,協助企業從戰略到技術層面實現「產業 AI 化」。

4. 跨場域應用與生態圈夥伴合作

活動現場展示了 15 項跨場域應用,透過與不同領域的夥伴合作,將 AI 滲透進各行各業的日常營運:

  • 解決方案: 台灣大商務長朱曉幸帶領團隊開發出如 AI 聽寫大哥、AI 客服助手、M++ 企業通訊中樞等應用,直接解決企業在溝通與協作上的痛點。
  • 生態夥伴綜效:
    • 碩網資訊: 提供「AI 語音訂位服務」,解決餐飲業缺工問題。
    • 精誠資訊: 展示「EAP 企業 AI 智慧中樞」,強化製造、零售與資安領域的智慧升級。
  • 基礎設施:美商威德新 (Vantage) 合作打造 AIDC 國際級資料中心,提供穩定算力支持,落實「算力即服務」。

總結來說,這次活動透過**「On-Prem(地端部署)、Over-Powered(高效能支撐)、Open Possible(生態共創)」**的核心架構,將 AI 從「模型競賽」轉化為「落地實戰」,為企業提供從跑道(網路)、跑鞋(硬體解方)到教練(落地經驗)的全方位支援。

您可以將這次多方合作比喻為**「蓋一棟智慧建築」**:Google DeepMind 提供了前衛的建築設計藍圖(趨勢預測);群聯電子研發出強度更高、成本更低的建築材料(硬體突破);台灣大哥大則擔任總工程師與營造商,鋪設水電管線(網路與算力)並將設計圖轉化為實際可入住的各種機能房間(產業應用與資安防護)。