AOAI介紹：了解Azure OpenAI服務與優勢，與其他AI服務的差異
“隨著生成式 AI 蓬勃發展，如何有效運用這些技術來提升業務效率與創新能力成為企業重要課題。Azure OpenAI，為微軟推出的企業級雲端解決方案，提供了強大的 AI 工具，能夠幫助企業在不同層面實現自動化，優化作業流程，做出更具價值的決策。本文將深入介紹 Azure OpenAI，討論 OpenAI 與其之間的差異，並介紹 Azure OpenAI 如何在不同產業發揮潛能，助企業一臂之力。”
精選內容
Azure OpenAI 和 OpenAI 有什麼不同
OpenAI 為專注於人工智慧（Articial Intelligence，AI）研究的機構，成立於 2015 年，其最著名的產品是於 2022 年推出的聊天機器人應用程式 ChatGPT。ChatGPT 全名為 Chat Generative Pre-trained Transformer（聊天生成預訓練轉換器），以 GPT-3.5、GPT-4 以及 GPT-4o 等大型語言模型為基礎運作。分析使用者輸入的資料，並根據使用者的提示自動生成文本。自發布以來， ChatGPT 便迅速受到企業與個人用戶的廣泛使用，並在工作方式上引發了革命性的改革。
在 2019 年，OpenAI 所屬公司獲得了來自微軟的資金挹注，微軟也因此成為 GPT-4 語言模型的獨家授權使用者。兩家公司繼續深入合作，OpenAI 致力於語言模型的研究與開發，而微軟則推出了專為企業設計的 Azure OpenAI，提供可自訂的生成式 AI 雲端解決方案。
換句話說，OpenAI 是研究機構，而 Azure OpenAI 則是針對企業需求的雲端解決方案。儘管兩者名稱中皆包含 OpenAI 一詞，但兩者在本質和功能上都有著根本的區別。那 OpenAI 的 AI 產品與專為企業設計的 Azure OpenAI 有何不同呢？
| AI 服務 | ChatGPT | Azure OpenAI |
|---|---|---|
| 語言模型 | GPT-3.5 GPT-4 GPT-4o Dall-E *部分語言模型僅供付費訂閱者使用 |
GPT-4 Turbo o1 ＆ o1-mini GPT-4o & GPT-4o mini & GPT-4 Turbo GPT-4o-Realtime-Preview GPT-4 GPT-3.5 Embeddings DALL-E Whisper Text to speech *部分語言模型有使用區域限制 |
| 服務提供方式 | 以個人帳戶免費使用或訂閱，直接使用 ChatGPT 網頁版或應用程式 | 以企業帳戶註冊 Azure 平台，串連 API |
| 費用 | 每月 20 美元 | 以使用量計價 |
| 技術支援 | OpenAI 團隊 | 微軟技術團隊 |
| SLA（服務水準協定） | *官方未公布確切數字 | 99.9% |
| 適合場景 | 即時交互或簡單任務 | 開發應用程式、批量處理、大規模整合 |
接下來，我們將深入介紹 Azure OpenAI，探討其對於企業的價值與幫助，以及各種 Azure OpenAI 語言模型的具體應用場景。
為企業量身打造的 Azure OpenAI
Azure OpenAI 使企業能夠在各種業務場景中實現AI自動化，從而顯著提高運營效率。例如，企業可以利用 AI 進行客戶服務自動化、內容生成及數據分析，節省時間並降低人力成本，更能加強決策過程，幫助企業在競爭中保持優勢。
●客戶服務機器人
AI 可讀取客戶需求，摘要重點，再根據摘要內容提供解決方案，或將問題分派給專業的人工客服進行處理。自動化客戶支援系統能整合企業繁雜的知識庫，為客服人員提供即時協助，更可 24/7 提供即時諮詢。
●產生內容
利用 GPT-4 與 DALL-E 等語言模型，企業能夠自動生成多種行銷素材，包括產品描述、社群網站貼文、部落格內容等文案與圖像素材，從而減少行銷團隊的工作負擔。
●深入數據分析
透過 Azure OpenAI，企業可深入分析專屬資料，以做出更符合市場發展的決策。在金融、醫療保健、製造、物流及零售、教育、能源、人資等等各式產業都能進一步提升營運和工作流程。
●程式碼生成
GPT-3.5 與 GPT-4 系列語言模型包含程式碼撰寫與修正功能，可提升企業的開發團隊工作效率，縮短產品開發週期。
●AI 智慧助理
企業可借助 AI 技術即時聽打會議記錄、摘要要點等功能提升運作效率。甚至打造虛擬助理，讓 AI 進行人性化問答，提升數位服務體驗。
Azure OpenAI 使用的語言模型
無論是 ChatGPT 還是 Azure OpenAI，都基於大型語言模型（Large Language Model）來分析資料中的模式差異，並根據指令自動生成內容。想更深入認識 Azure OpenAI 的語言模型可給企業帶來哪些優勢，可以參考下方我們統整的表格資訊，而若想知道 Azure OpenAI 對企業資安有哪保障，可直接參考下一段落。
那麼，語言模型（Language Model）究竟是什麼呢？在深入了解Azure OpenAI中所使用的語言模型及其如何助力企業運營之前，我們需要先對語言模型有基本的認識。
語言模型是一種自然語言（即為人類文化自然發展出的語言，中文、日文、英文都是自然語言。）中的詞語分佈機率的模型，分析並預測詞語在語言中出現的機率，特別是在不同的語境下。通過語言模型，我們能夠預測在特定情境中，下一個最有可能出現的詞彙組合。
大型語言模型（Large Language Model）顧名思義，為規模較大的語言模型，以大量的資料進行深度學習模型的預測訓練，資料可能到達數上萬億的參數。參數指深度學習模型中可訓練的變數，例如權重和偏置，用於辨識數據中的模式，並作出預測。參數數量通常代表模型的規模，參數越多，就代表模型可學習越複雜的結構。根據官方已公布的數據，GPT-3 模型就有 1750 億個參數。
截至 2024 年 12 月，Azure OpenAI 使用的 7 大服務模型系列簡介與功能整理為下：
| o1 系列 | o1 & o1-mini 專為推理和解決問題發展的模型，專注與能力都較高，也花費較多時間了解使用者要求，因此在數學、科學與程式碼撰寫等方面性能較佳。 |
| GPT-4 系列 | GPT-4 較舊版的大型 GA 模型。 GPT-4 Turbo 前身為 GPT-4，大型多模態模型（Large Multmodal Model，LMM），可處理不同種類的資料，例如文字、圖像、聲音等。相較於 GPT-4，GPT-4 Turbo 速度更快，成本更低。 *但部分多模態功能還在預覽階段，尚未完全開放。 GPT-4o 最新版本的大型 GA 模型，同時也為多模態模型，整合文字與影像於單一模型，處理不同的資料類型。GPT-4o 在處理英語文字和程式碼撰寫時會與 GPT-4 Turbo 進行比對，增強 AI 判斷的能力。 GPT-4o mini 最新版本的小型 GA 模型，價格相對較低，但速度快，也可處理文字與影像兩種資料。 GPT-4-Realtime-Preview 為 GPT-4o 模型系列的一部分，支援低延遲的「語音輸入，語音輸出」交談互動。主打處理即時、低延遲的對話互動，非常適合支援助理、翻譯程式等高來回互動需求的場景。 *尚未開放廣泛部署，還在預覽階段。 |
| GPT-3.5 系列 | GPT-3.5 較舊的大型語言模型，可以依據指示產生自然語言或程式碼。 GPT-3.5 Turbo 針對聊天功能進行最佳化的語言模型，可搭配聊天完成 API（Chat Completion API）使用。也可快速完成簡單的任務，後為 GPT-4 超越。 |
| Embeddings 內嵌 | 最新且功能最強的內嵌模型。所謂的內嵌就是把高維度的資料（例如文字或圖像）轉換成低維度的資料的過程。白話說，就是把人懂的文字或圖片，變成機器可以懂的數字串的過程。 轉換資料後，機器可以進一步進行相似度搜尋、分類、推薦系統等應用，特別適合結構化資訊處理與資料庫整合。 |
| Dall-E | Dall-E 模型可以根據使用者提供的文字指令生成影像。 |
| Whisper | Whisper 模型可將語音轉換為文字。 |
| Text to speech 文字轉換語音 | 此模型目前為預覽版，功能與 Whisper 相反，可將文字轉為語音，應用於語音輔助器或語音生成。 |
而過去用來生成程式碼的 Codex 語言模型，現已不直接標示在 Azure OpenAI 的模型中。原因是程式碼相關功能，已整合至 GPT-3.5 與 GPT-4 系列中，可生成、補全程式碼，並修復錯誤。企業使用 Azure OpenAI 即可藉由 GPT-3.5 與 GPT-4 語言模型：
●將自然語言描述轉程式碼
●詢問程式碼的解釋和改進建議
●撰寫或修改多種程式語言
Azure OpenAI 如何保障企業資安
Azure OpenAI 旨在為企業提供高效能的AI解決方案，同時充分重視資訊安全。微軟在保障企業資安方面投入了大量資源，並在以下三大領域加強了安全性與合規性，為企業用戶提供與 Azure 雲端平台相同等級的資安防護。
基礎架構資訊安全
微軟的 Azure 實體資料中心、基礎設施及作業層面，都有多層次的安全防護，提供全球頂尖安全性。且 Azure 採用專為資訊安全設計的自訂硬體，將安全控制整合進硬體與韌體，可對抗 DDoS 攻擊等各種威脅。此外，微軟全球團隊有 3,500 餘名網絡資安專家，致力於確保企業資產和資料的全面保護，讓企業能夠放心使用 Azure OpenAI。
內建安全機制
除了硬體設施與基礎架構的安全性外，Azure 雲端平台還針對身份識別、資料、網路及應用程式工作負載提供了強大的安全管理工具。無論是靜態資料、傳輸中的資料，還是使用中的資料，Azure 都提供業界領先的資安解決方案，全面保障資料與應用程式的安全性，例如：
●身分識別、端點和網路的全方位深度防禦策略的Microsoft Entra ID
●可進行運算資源管理與存取權限控制的 Azure Resource Manager
●加密虛擬機資料的 Azure Disk Encryption for Linux VMs 及 Azure Disk Encryption for Windows VMs
●加密 Azure 上的虛擬機與地端等內部網路之間的流量、虛擬機彼此之間的流量的 Azure VPN Gateway
●整合管理企業內部機敏文件的 Microsoft Purview
●保護雲端連線安全的 Azure ExpressRoute
●儲存和管理機密資訊（如金鑰、密碼和憑證）的 Azure Key Vault
偵測威脅
透過 Microsoft Intelligent Security Graph，Azure OpenAI 能夠分析大量數據來偵測潛在的安全威脅。這套系統結合了雲端上的龐大網路安全情報，實時跟蹤並了解最新的攻擊模式，為企業提供即時的資安對策建議，幫助企業提前識別並防範威脅。
Azure OpenAI 價格
Azure OpenAI 的計費方式與許多雲端服務類似，採取基於使用量的計價模式。而 AI 的使用量是以 Token 為單位來計算。
Token 是 AI 運算的基本單位，相當於「位元」的概念，在中文有「權杖」、「符元」或「詞元」等不同的翻譯。可將 Token 想像為個別單詞，但實際上，一個 Token 所代表的自然語言文字位元數量會根據電腦的運算方式而有所不同，不同的語言模型也可能會有不同的字數對應。例如，在 GPT-4o 模型中，10 個 Token 可能等於 33 個英文字母或 13 個中文字。可透過 OpenAI 官方的 Tokenizer 工具估算不同語言對應的 Token 數量。
此外，Azure OpenAI 在不同的地理區域可能會有不同的價格，具體的計費標準可以參考微軟官方的 Azure OpenAI 的服務定價網頁，進一步了解 Azure OpenAI 價格
Azure OpenAI 企業使用實例
聯發科技
晶片設計領導企業聯發科技成功導入 Azure OpenAI 生成式 AI，顯著提升了營運效率和生產力。公司開發的助理機器人「達哥」，結合了聊天機器人、瀏覽器和搜尋引擎的功能，協助員工查詢公司作業流程、員工政策及專案進度，並能錄製會議過程、整理會議重點。此外，「達哥」還能回答客戶問題、對技術文件進行摘要整理，並整合Bing搜尋引擎，讓員工能即時查找外部資料。
在 IC 設計領域，聯發科透過 GPT-4 模型協助產品開發，進行程式碼撰寫和錯誤修正，大幅提升開發人員的工作效率，縮短開發週期。
台大醫院
台大醫院與微軟合作，使用 Azure OpenAI 推動醫療革新，提升醫療服務品質。AI在病歷生成方面發揮重要作用，協助醫護人員生成病歷報告或摘要病歷內容，並提供客製化界面以適應不同的文件樣式需求。此外，AI 技術還可用於非結構化資料的探勘，從病歷文章中自動擷取關鍵資訊，如病人風險分數計算。
台大醫院還利用 Azure OpenAI 建立互動式護理教學平台，協助護理師了解作業流程；更可以用來快速回覆民眾衛教問題。透過 AI 自動翻譯功能，讓外籍照護者也能快速了解衛教知識。
而台大醫院選擇 Azure OpenAI 的原因包括：員工對微軟開發工具的熟悉度、Azure OpenAI 提供的全方位技術支援，以及其符合 HIPAA 18 資料保密標準。
遠傳電信
遠傳助亞東醫院導入生成式AI首創將Azure OpenAI運用於失智症照護諮詢。為解決高齡化社會帶來醫護人力短缺的困境，遠傳協助亞東紀念醫院導入生成式AI技術，運用於失智症照護諮詢，透過有溫度的仿真人問答、傳遞正確衛教資訊，協助病患家屬減緩照護失智症者的龐大壓力，同時也舒緩第一線醫護與志工團隊的負載，創造醫病雙贏。
生成式AI可辨識圖表和表單，進而解讀複雜的文件，遠傳在微軟雲端平台的Azure OpenAI，建立自然語言搜尋知識庫，並提供互動式對話介面，透過生成式AI將搜尋的結果歸納整合，以仿真人回答的自然語言，取代生硬的衛教文件，讓病患與家屬能更輕鬆地獲得解答。
Azure OpenAI 常見問題
Q1：企業的資料是否會被用來訓練 AI？
微軟承諾 Azure OpenAI 不會使用客戶資料來重新訓練模型，也不會將企業資料另作他用。
Q2：使用 Azure OpenAI 產出圖文可能會有侵害他人版權的問題嗎？
微軟「客戶著作權承諾」於 2023 年 12 月 1 日生效，為用戶提供與生成內容相關的第三方智慧財產權索賠保護，避免 AI 產生侵權內容。但客戶也需遵守 Azure OpenAI 服務文件中的風險降低措施，並在新服務或功能發佈後的六個月內完成實施，才能維持保險保障。
Q3：AI 技術日新月異，可以如何確保自己了解 Azure OpenAI 的最新發展？
可在微軟官方網頁Azure OpenAI 服務的新功能 閱讀最新資訊，例如語言模型的存取權限、模型微調內容、AI 濫用監視等資訊。
Q4：如何精準的提問，讓 AI 達到確實依照指示生成內容？
可參考微軟官方的提示工程技術頁面，進一步了解使用者輸入的指示如何影響生成式 AI 運作。
Q5：企業和微軟如何分配 Azure OpenAI 的使用責任？
Azure OpenAI 和其他雲端服務一樣，使用的責任由企業和微軟共同承擔。
Q6：微軟如何落實 AI 倫理？
Azure OpenAI 模型具備內容生成、程式碼生成、摘要與搜尋等進階功能，但也伴隨著生成不當內容、隱私風險和人類行為模仿等挑戰。為確保負責任地使用這些 AI 模型，Microsoft 根據其「負責任 AI 標準」提供四階段技術建議：識別潛在風險與危害、測量危害頻率與嚴重程度、減緩危害、制定運行計畫。
Q7：SLA是什麼？
SLA（Service-Level Agreement，服務水準協定）為服務提供商對客戶的正式承諾，內容明定服務品質、可用性、責任分配。例如服務交付時間、停機時間不得多於特定分鐘、客戶技術支援的內容或次數、回應時間等等。
企業如何申請 Azure OpenAI
開始使用 Azure OpenAI 之前，企業首先需要建立 Azure 帳戶，試用不同的 Azure 雲端服務與解決方案。遠傳在推動數位轉型上，經驗豐富，協助企業導入 Azure 雲端平台，利用雲端服務自動化處理重複性工作，提升員工生產力。遠傳更能為企業提供全方位一站式服務，從導入 Azure OpenAI 前的需求評估、策略定制、客製 AI 模型與應用開發，到專業人才培訓，都可放心交給遠傳、無痛開始您的企業 AI 轉型之旅。
若您有興趣進一步了解遠傳企業AI導入應用，請點選「我有興趣」。
延伸閱讀：