AI 翻譯雲端走向地端 資安成本兼顧 | 中央社新聞學院

中央社 28 日舉辦 AI 專題講座，邀請環球睿視創辦人暨執行長蘇育民博士，分享語音辨識、即時翻譯及邊緣運算（Edge AI）等技術與應用。他指出，AI 技術逐漸從雲端延伸至地端設備，為資料安全與運算成本提供不同選擇。

蘇育民介紹 AI 即時語譯的運作原理：依序透過語音轉文字（STT）、文字翻譯（TTT），最後再將文字轉為語音（TTS）。相較真人口譯員同一時間通常只能翻譯一種目標語言，AI 能將同一段發言同步翻成多國語言。

他說明，AI 可依需求部署於雲端（Cloud）、邊緣裝置（Edge）或嵌入式晶片（Chip）。雲端運算資源較充足，可支援結合簡報、影片及多語即時翻譯的會議服務；邊緣 AI 則可透過可攜式設備離線翻譯，減少敏感資料外傳，並節省 token 算力；晶片端則能以輕量化模型，在有限算力下執行語音辨識與互動。

宋育民介紹從雲端到地端的 AI 部署 蘇育民以麥當勞 AI 語音點餐曾發生 AI 幻覺（AI Hallucination）導致訂單錯誤為例，說明生成式 AI 可能產生不符合預期的結果。對於點餐、設備控制等需要明確指令的情境，可採用機器學習（Machine Learning）技術，不一定需要深度學習（Deep Learning）或高階圖形處理器（GPU）。他並展示離線聲控設備及聲紋辨識等應用。 在重視資料安全的趨勢下，蘇育民強調「主權 AI」及「非紅產業鏈」概念，建議個人、企業與政府都應重視資料主權。他表示，AI 模型如今可部署於便當盒大小的地端設備，也可整合至 AI 筆電，因此像北高政府的高階主管甚至規劃一人一機。涉及敏感資訊時，除了評估模型效能，也須考量軟硬體來源及資料流向。 環球睿視執行長蘇育民（中立者）28 日至中央社演講 交流環節中，中央社資訊暨創新中心主任宋育泰指出，新聞處理涉及不同領域、上下文及專有名詞，現有大型語言模型（LLM）仍有改善空間，詢問小型化模型能否提升新聞處理效率與準確率。 蘇育民回應，大型語言模型可透過蒸餾、剪枝及量化等技術，縮減為小型語言模型（SLM），部署於邊緣裝置；特定任務也可採用機器學習技術，降低運算需求。他進一步指出，中央社是熟悉新聞內容與術語的「領域專家」（Domain Expert），技術廠商則是擅長演算法的「AI 專家」（AI Expert），雙方可合作建立專業詞庫、優化模型，發展符合新聞需求的專用 AI 模型。 系統開發組長謝弘柏則關心模型優化方式與成本。蘇育民表示，不一定需要重新訓練大型語言模型，可先建置專業詞庫（glossaruy）或自訂詞典（dictionary），再依需求調整，兼顧效能與成本。 透過這場講座，與會同仁進一步了解 AI 語音技術從雲端到地端的部署選擇，以及資料安全、成本與效能之間的取捨。未來若能結合 AI 技術與新聞專業知識，並透過人工審核確保內容準確，將有效提升新聞工作的效率與品質。 會後蘇育民（中）與中央社主管宋育泰（左）、謝弘柏（右）熱烈交流

蘇育民以麥當勞 AI 語音點餐曾發生 AI 幻覺（AI Hallucination）導致訂單錯誤為例，說明生成式 AI 可能產生不符合預期的結果。對於點餐、設備控制等需要明確指令的情境，可採用機器學習（Machine Learning）技術，不一定需要深度學習（Deep Learning）或高階圖形處理器（GPU）。他並展示離線聲控設備及聲紋辨識等應用。

在重視資料安全的趨勢下，蘇育民強調「主權 AI」及「非紅產業鏈」概念，建議個人、企業與政府都應重視資料主權。他表示，AI 模型如今可部署於便當盒大小的地端設備，也可整合至 AI 筆電，因此像北高政府的高階主管甚至規劃一人一機。涉及敏感資訊時，除了評估模型效能，也須考量軟硬體來源及資料流向。

環球睿視執行長蘇育民（中立者）28 日至中央社演講 交流環節中，中央社資訊暨創新中心主任宋育泰指出，新聞處理涉及不同領域、上下文及專有名詞，現有大型語言模型（LLM）仍有改善空間，詢問小型化模型能否提升新聞處理效率與準確率。 蘇育民回應，大型語言模型可透過蒸餾、剪枝及量化等技術，縮減為小型語言模型（SLM），部署於邊緣裝置；特定任務也可採用機器學習技術，降低運算需求。他進一步指出，中央社是熟悉新聞內容與術語的「領域專家」（Domain Expert），技術廠商則是擅長演算法的「AI 專家」（AI Expert），雙方可合作建立專業詞庫、優化模型，發展符合新聞需求的專用 AI 模型。 系統開發組長謝弘柏則關心模型優化方式與成本。蘇育民表示，不一定需要重新訓練大型語言模型，可先建置專業詞庫（glossaruy）或自訂詞典（dictionary），再依需求調整，兼顧效能與成本。 透過這場講座，與會同仁進一步了解 AI 語音技術從雲端到地端的部署選擇，以及資料安全、成本與效能之間的取捨。未來若能結合 AI 技術與新聞專業知識，並透過人工審核確保內容準確，將有效提升新聞工作的效率與品質。 會後蘇育民（中）與中央社主管宋育泰（左）、謝弘柏（右）熱烈交流

環球睿視執行長蘇育民（中立者）28 日至中央社演講

交流環節中，中央社資訊暨創新中心主任宋育泰指出，新聞處理涉及不同領域、上下文及專有名詞，現有大型語言模型（LLM）仍有改善空間，詢問小型化模型能否提升新聞處理效率與準確率。

蘇育民回應，大型語言模型可透過蒸餾、剪枝及量化等技術，縮減為小型語言模型（SLM），部署於邊緣裝置；特定任務也可採用機器學習技術，降低運算需求。他進一步指出，中央社是熟悉新聞內容與術語的「領域專家」（Domain Expert），技術廠商則是擅長演算法的「AI 專家」（AI Expert），雙方可合作建立專業詞庫、優化模型，發展符合新聞需求的專用 AI 模型。

系統開發組長謝弘柏則關心模型優化方式與成本。蘇育民表示，不一定需要重新訓練大型語言模型，可先建置專業詞庫（glossaruy）或自訂詞典（dictionary），再依需求調整，兼顧效能與成本。

透過這場講座，與會同仁進一步了解 AI 語音技術從雲端到地端的部署選擇，以及資料安全、成本與效能之間的取捨。未來若能結合 AI 技術與新聞專業知識，並透過人工審核確保內容準確，將有效提升新聞工作的效率與品質。

會後蘇育民（中）與中央社主管宋育泰（左）、謝弘柏（右）熱烈交流