生成式AI與雲原生技術的融合：實現IT現代化

我們將探討生成式AI與雲原生技術的融合，如何推動IT現代化。介紹生成式AI在雲端架構設計中的應用，特別是利用AI自動生成架構圖，提升設計效率與一致性。接著，透過以程式碼生成雲端架構圖，實現自動化設計與版本控制，透過AI自動生成符合政策規範的雲端架構圖，並實際展示上述技術的應用。最後，展望未來生成式AI與雲端服務的發展方向，包括環境實作測試、自動生成IaC程式碼等進階功能。聽眾將收穫對生成式AI架構設計中的前沿技術應用的理解，探索如何通過自動化工具提升架構設計效率，並洞察生成式AI與雲端平台結合的未來發展方向。

會議資訊

• 會議名稱：Cloud Edge Summit Taiwan 2025 臺灣雲端大會
• 演講時間：2025-07-02 12:00
• 相關連結：PDF簡報 單體範例程式 → 雲原生架構重構建議

• 核心理念

  • IT 現代化是一段不斷演進的旅程：從早期的單機系統與單體架構，走過網際網路、行動通訊的隨時連線，一路發展到今日以雲端運算與人工智慧為核心的數位生態。每一階段都推動組織在效率、敏捷與創新上的持續躍升，體現「科技驅動業務」的深層價值。

  • 系統上雲的核心效益並非「省錢」，而是IT 現代化與Time to market。

    • 敏捷與創新
      • 雲端提供 自助式資源與快速實驗環境：如人壽官網Search Engine服務僅花 2 天就能 PoC，遠快於地端要花半年的流程。
      • 這種速度優勢直接帶動新產品迭代與上市時程。
    • 可觀測性與自動化資安
      • 雲原生監控、集中式日誌與政策即程式（Policy-as-Code）提升合規效率，降低營運風險。
    • 機房資源活化
      • 部分 UAT 環境遷至雲端後，釋放出昂貴的本地機房空間，可轉作 GPU 叢集或高敏感核心系統，提高資產利用率。

    • 長期競爭力

      • IT 現代化帶來人才吸引、跨雲備援、全球佈點等無形價值；即使帳面成本與地端持平或略高，仍能提供業務基礎設施的未來彈性。

• 國泰金控的雲端轉型旅程

  • 國泰金控於2020年啟動了為期七年的集團雲端轉型計畫。

  • 階段目標

    • 2020年（Cloud Ready）：著重於基礎設施、管理治理、人才與應用系統的雲端準備。
    • 2021-2025年（Cloud Adoption）：目標是讓集團內100套系統上雲，預計今年可達成。
    • 2025年後（Cloud Modernization）：未來新的系統和商業模式將優先考量雲端部署，直接採用SaaS服務或雲原生架構，雲端加速IT現代化。

  • 雲端策略：採用混合雲且多雲架構，同時佈署於AWS、GCP與Azure。

  • 技術選擇：鼓勵採用容器化（Containerization）和無伺服器（Serverless）等雲原生技術。這種架構能帶來：

    • 比市場快半步，更快的市場響應和發布速度。
    • 更好的資源彈性。
    • 潛在的成本節省（成本取決於雲端架構設計，直接將虛擬機搬上雲可能反而更貴）。
    • 天然高可用

  • 遷移方法：國泰金控採用目標架構遷移法，即先行設計目標雲端架構（微服務化、無伺服器），而非單純地將現有系統直接搬遷上雲（”lift-and-shift”）。國泰金控也定義了自身的Cathay 6R遷移概念。

• 生成式AI在IT現代化中的應用

  • 雲端GPU算力應用：為因應AI發展對H100/H200等GPU資源的需求，國泰金控利用雲端提供按用量付費（PPU）或無伺服器模式（SaaS-like API）的GPU算力，成本效益高且具備彈性。例如，在雲端運行Gemma 3 27B模型可達到每秒26個字元的生成速度。

  • AI輔助雲端架構圖生成：為解決架構師稀缺問題，利用AI工具根據問卷或自然語言描述自動生成標準化的雲端架構圖，並可透過對話方式解釋設計理念和元件功能。

  • AI驅動的系統現代化與重構（AI Coding）

    • 背景：面對舊有單體架構（如JSP）重構為雲原生微服務的挑戰。

    • AI實踐

      • AI能分析現有系統，識別其單體架構、傳統技術棧、有狀態特性、資料庫（如MySQL）和部署方式。

      • AI能自動生成詳細的重構策略報告，包括：

        • 轉型為無狀態架構（如使用Redis管理會話）。
        • 前後端分離、微服務拆解（如驗證授權、帳戶、交易、支付服務）。
        • 容器化配置（Dockerfiles, Kubernetes）。
        • 資料庫遷移（如MySQL到PostgreSQL，包含索引與資料轉換建議）。
        • 建構CI/CD流程。
        • 監控、日誌、資安設計（加密、API設計、環境變數）。
        • 成本估算和成功指標（SLA）。
        • 提供雲原生模式的參考資料。

      • 效率顯著提升：一份過去需耗時三天撰寫的重構報告，AI能在半小時內完成，且品質更優。

      • 實例：引述日本樂天案例，運用AI在7小時內重構了1250萬行程式碼，準確率達99.9%。

    • 應用場景考量：AI輔助開發在架構分析與設計方面表現突出，但在前端UI/App開發等需要即時視覺回饋的場景可能較不適用。此外，AI生成的複雜程式碼對初級工程師而言可能難以理解和修改。

• 未來展望

  • AI輔助開發（AI Coding）自2023年以來日益普及，並在特定場景中展現了其有效性。
  • 技術發展迅速，不斷有新的工具與應用場景出現。