生成式AI如何革新企業雲端架構設計

這場演講分享關於其雲端轉型歷程以及利用 AI 輔助雲端架構設計的經驗。詳細介紹了我們的上雲計畫，並重點介紹 雲端架構圖智能生成 Smart Archie 這個 AI 工具，用於自動生成和修改雲端架構圖。

會議資訊

• 會議名稱：Gartner 高階主管研討會
• 演講時間：2025-04-18
• 相關連結：

以下是演講的重點總結：

• 國泰金控的上雲計畫：該計畫自 2020 年開始，為期七年。目標是在五年內將集團 100 套系統上雲，目前已完成 82 套，預計今年將達成目標。上雲的目的是為了加速 IT 現代化、提升系統的彈性和高可用性，並縮短新功能的上市時間 (time to market)。我們強調上雲並非單純遷移虛擬機，而是透過分散式架構和雲端服務來實現 IT 現代化。
• 雲端架構設計的挑戰：傳統地端架構設計相對單純，但雲端架構設計需要考量眾多雲端服務及其組合，使得雲端架構師成為稀缺人才。為了應對這個挑戰，我們開始探索利用 AI 技術輔助架構圖的生成。
• AI 輔助架構設計的實驗 (Smart Archie)：我們進行了一項實驗，旨在利用生成式 AI 自動繪製雲端架構圖，並進一步從架構圖反向生成基礎設施即代碼 (IaC)。
• 實驗過程與工具：使用 Python 語言定義的 diagrams (Diagram as Code) 和 PlantUML 等工具來呈現架構圖。AI 模型需要輸入上雲的需求、資安規範 (policy) 等資訊。
• 實驗結果與改進：最初直接將需求丟給 AI 模型，編譯成功率 為 0%。透過逐步加入 Chain of Thought (COT)、架構圖範例 (ICON) 和反思機制，最終實現了 100% 的架構圖生成成功率和 98% 的需求滿足度。然而，生成時間也會隨之增加。
• Smart Archie 的功能展示：展示了 Smart Archie 的操作介面，使用者可以透過填寫問卷輸入系統需求，工具會自動生成雲端架構圖。使用者還可以透過自然語言與 Smart Archie 互動，修改架構圖、詢問設計理念等。Smart Archie 具備護欄機制，避免回答與架構無關的問題。最終可以將架構圖下載保存。
• Smart Archie 的價值與未來發展：Smart Archie 對於 Junior 架構師尤其有用，可以幫助他們理解複雜的雲端架構。未來的目標是從架構圖自動生成 IaC 的程式碼，進一步加速雲端部署。
• 人機協作的重要性：即使有了 AI 工具的輔助，人類架構師的全局觀和整合能力仍然至關重要。AI 生成的架構需要人類進行審核和完善。

這場演講展示我們在雲端轉型方面的努力和創新，特別是在利用 AI 技術提升雲端架構設計效率方面的探索和成果。我們開發的 Smart Archie 工具展現了 AI 在解決實際 IT 問題方面的潛力，並為金融業的雲端轉型提供了有價值的經驗。