作者： Nidhi Chappell ，Azure AI 基礎設施總經理，Eric Boyd公司副總裁，AI 平台
生成式人工智慧是一項強大的變革性技術，有潛力推動從製造到零售、從金融服務到醫療保健等眾多產業的發展。我們對硬體和人工智慧基礎設施的早期投資正在幫助客戶實現生成人工智慧所能提供的效率和創新。我們的Azure AI 基礎設施是我們擴展產品的支柱，Azure OpenAI 服務處於這項轉型的最前沿，為開發人員提供在 Azure 上建置下一代人工智慧應用程式所需的系統、工具和資源平台。透過生成式人工智慧，使用者可以創造更豐富的使用者體驗、推動創新並提高企業生產力。
作為我們致力於為客戶帶來 AI 變革力量的承諾的一部分，今天我們宣布更新如何為企業提供 Azure AI 基礎設施和應用程式支援。隨著Azure OpenAI服務的全球擴張，我們正在多個新區域推出OpenAI最先進的模型GPT-4和GPT-35-Turbo，為全球企業提供無與倫比的生成式AI能力。我們的 Azure AI 基礎設施為這種可擴展性提供了動力，我們將繼續對其進行投資和擴展。我們也推出了 ND H100 v5 虛擬機系列，配備 NVIDIA H100 Tensor Core 圖形處理單元 (GPU) 和低延遲網絡，推動企業進入 AI 應用的新時代。
以下是這些進步如何在整個堆疊中擴展 Microsoft 的統一 AI 方法。
ND H100 v5 虛擬機器系列全面上市：前所未有的 AI 處理與規模
今天，我們的 Azure ND H100 v5 虛擬機器 (VM) 系列正式上市，該系列配備了最新的 NVIDIA H100 Tensor Core GPU 和 NVIDIA Quantum-2 InfiniBand 網路。該 VM 系列是根據 Microsoft 在提供超級運算效能和規模方面的豐富經驗精心設計的，以應對尖端 AI 工作負載呈指數級增長的複雜性。作為我們對生成式人工智慧持續深入投資的一部分，我們正在利用人工智慧優化的 4K GPU 集群，並將在明年增加到數十萬個最新 GPU。
ND H100 v5 現已在美國東部和美國中南部 Azure 區域推出。企業可以在Microsoft Learn上註冊對存取新 VM 的興趣或查看有關 ND H100 v5 VM 系列的技術詳細資訊。
目前，ND H100 v5 VM 包括以下功能：
AI 超級運算 GPU：這些虛擬機器配備 8 個 NVIDIA H100 Tensor Core GPU，可提供比前幾代更快的 AI 模型效能，為企業提供無與倫比的運算能力。
新一代電腦處理單元 (CPU)：了解 CPU 效能對於 AI 訓練和推理的重要性，我們選擇第四代 Intel Xeon 可擴充處理器作為這些虛擬機器的基礎，以確保最佳的處理速度。
低延遲網路：採用NVIDIA Quantum-2 ConnectX-7 InfiniBand（每個GPU 400Gb/s，每個虛擬機器3.2 Tb/s 的跨節點頻寬）確保跨GPU 的無縫效能，與全球高效能超級電腦的功能相匹配。
優化主機到 GPU 的效能：借助 PCIe Gen5 為每個 GPU 提供 64GB/s 的頻寬，Azure 在 CPU 和 GPU 之間實現了顯著的效能優勢。
大規模記憶體和記憶體頻寬：DDR5 記憶體是這些虛擬機器的核心，可提供更高的資料傳輸速度和效率，使其成為具有較大資料集的工作負載的理想選擇。
這些虛擬機器已經證明了它們的效能優勢，與前幾代的 FP16 相比，使用新的 8 位元 FP8 浮點資料類型時，矩陣乘法運算的速度提高了六倍。ND H100 v5 虛擬機器在 BLOOM 175B 端到端模型推理等大型語言模型中實現了高達兩倍的加速，展示了其進一步優化 AI 應用程式的潛力。
Azure OpenAI 服務邁向全球：在全球擴展尖端模型
我們很高興地宣布 Azure OpenAI 服務在全球擴展，將 OpenAI 的尖端模型（包括 GPT-4 和 GPT-35-Turbo）帶給全球更廣泛的受眾。我們的新生活區域澳洲東部、加拿大東部、美國東部 2、日本東部和英國南部的服務擴展了我們對尋求強大生成人工智慧能力的組織的影響力和支持。隨著這些區域的增加，Azure OpenAI 服務現已在更多地點推出，補充了我們在美國東部、法國中部、美國中南部和西歐的現有可用性。Azure OpenAI 服務的反應非常好，自上次揭露以來，我們的客戶群幾乎增加了兩倍。我們現在自豪地為超過 11,000 名客戶提供服務，本季平均每天吸引 100 名新客戶。這一顯著的成長證明了我們的服務為渴望利用人工智慧潛力來滿足其獨特需求的企業帶來的價值。
作為此次擴展的一部分，我們將提高 Azure OpenAI 最先進的生成式 AI 模型 GPT-4 在新區域的可用性。這項增強功能使更多客戶能夠利用 GPT-4 的功能來產生內容、文件智慧、客戶服務等。透過 Azure OpenAI 服務，組織可以將其營運推向新的高度，推動各產業的創新和轉型。
開發生成式人工智慧的負責任方法
Microsoft 對負責任的 AI的承諾是 Azure AI 和機器學習的核心。這個人工智慧平台整合了強大的安全系統，並利用人類回饋機制來負責任地處理有害輸入，確保為使用者和最終消費者提供最大程度的保護。企業可以申請存取 Azure OpenAI 服務，並釋放生成式 AI 的全部潛力，將其營運推向新的高度。
我們邀請世界各地的企業和開發者加入我們這趟變革之旅，讓我們引領人工智慧創新。Azure OpenAI 服務證明了 Microsoft 致力於讓 AI 對各種規模的企業都易於存取、可擴展且具有影響力。讓我們共同擁抱生成式 AI 的力量和 Microsoft 對負責任的 AI 實踐的承諾，以在全球範圍內推動積極影響和成長。
客戶靈感
生成式人工智慧正在徹底改變各個行業，包括內容創建和設計、加速自動化、個人化行銷、客戶服務、聊天機器人、產品和服務創新、語言翻譯、自動駕駛、詐欺偵測和預測分析。我們的客戶利用生成式人工智慧進行創新的方式為我們帶來了啟發，並期待看到世界各地的客戶如何利用這些技術進行建構。
梅賽德斯-奔馳正在 Azure OpenAI 服務的支援下，為駕駛員創新車內體驗。升級後的「Hey Mercedes」功能比以往更加直觀和對話。畢馬威 (KPMG)是一家全球專業服務公司，利用我們的服務來改善其服務交付模式、實現智慧自動化並增強編碼生命週期。Wayve使用 Azure 機器學習和 Azure 的 AI 基礎設施訓練用於自動駕駛的大規模基礎神經網路。微軟合作夥伴SymphonyAI推出 Sensa Copilot，使金融犯罪調查人員能夠減輕非法活動對經濟和組織造成的負擔。透過自動收集、整理和匯總財務和第三方信息，Sensa Copilot 可以識別洗錢行為，並促進調查人員快速有效地進行分析。了解所有 Azure AI 和 ML 客戶案例。
