大模型之家訊 日前，在全球市場分析機構國際數據公司（IDC）發布的《2025年IDC MarketScape：全球公有云基礎設施即服務（IaaS）報告》中，亞馬遜云科技被評為“領導者”，在能力和戰略的雙維度上均為“領導者”。IDC在該報告中表示，全球公有云IaaS繼續快速增長，預計2025年的整體規模將達到1880億美元。

IDC分析師、報告作者Dave McCarthy表示：“亞馬遜云科技通過廣泛的服務組合和持續的創新，在公有云IaaS市場中處于領導地位。廣泛的全球基礎設施，結合Amazon Graviton等定制芯片計劃以及在AI領域的重大投資，使其在滿足企業需求方面獨具優勢。其在可擴展性方面的卓越表現、成熟的開發者社區以及對AI基礎設施的積極投入，使其成為需要先進云能力的企業的首選。”

作為全球云計算的開創者和引領者，亞馬遜云科技是率先進入自研芯片領域的云供應商。革命性的Nitro虛擬化平臺全面加速了亞馬遜云科技在自研芯片領域的創新速度。迄今為止，亞馬遜云科技已推出了多個系列的自研芯片，包括Amazon Nitro系統、通用處理器芯片Amazon Graviton、機器學習訓練芯片Amazon Trainium和推理芯片Amazon Inferentia，同時保持穩定的更新頻率，且每次更新均提供兩位數以上的百分比的性價比提升。在2024年的re:Invent上，亞馬遜云科技推出全面升級的Amazon Trainium2芯片，以及基于該芯片的Amazon EC2 Trn2實例和超級服務器。Amazon EC2 Trn2實例與當前基于GPU的EC2 P5e和P5en實例相比，Amazon EC2 Trn2實例的性價比提升30-40%。單實例配備16個Trainium2芯片，可提供高達20.8 Petaflops浮點算力的性能，非常適合訓練和推理高達數十億參數的大型語言模型。

Amazon EC2 Trn2 UltraServers服務器是亞馬遜云科技在縱向擴展領域的又一次突破，用以滿足大規模生成式AI訓練和實時推理的性能需求。該服務器配備64個相互連接的Trainium2芯片，采用NeuronLink超速互連技術，可提供高達83.2 Petaflops浮點算力，其計算、內存和網絡能力是單一實例的四倍，能夠支持訓練和部署超大規模的模型。訓練方面，Amazon EC2 Trn2 UltraServers使客戶能夠突破單個Trn2實例的限制進行擴展，從而減少訓練時間，加快投放市場的速度，實現快速迭代以提高模型準確性。推理工作負載方面，客戶可以使用Trn2 UltraServers提升生產環境中萬億參數模型的實時推理性能。亞馬遜云科技攜手Anthropic正打造名為Project Rainier的EC2 UltraCluster，其包含數十萬顆Trainium2 芯片，所達到的超級算力比他們當前一代領先AI模型訓練所需算力高出5倍以上。

此外，亞馬遜云科技發布了新一代AI訓練芯片Amazon Trainium3。Trainium3是亞馬遜云科技首款采用3納米工藝制造的芯片。搭載Trainium3的UltraServers性能預計將是Trn2 UltraServers的4倍。首批基于Trainium3的實例預計將在2025年末上線。

芯片創新重塑計算，而在基礎設施的另一個重頭場景——網絡中，亞馬遜云科技在2024年re:Invent上推出了第二代UltraCluster網絡架構，也稱為”10p10u”網絡，支持超過20,000個GPU協同工作，帶寬達10Pb/s，延遲低于10μs(微秒)，這一突破性的性能躍遷將模型訓練時間縮短至少15%。同時還推出了兼具中央控制和優化及分布式的速度和彈性的SIDR(Scalable, Intent Driven Routing)全新網絡路由協議。相比傳統的BGP、OSPF等協議，SIDR在亞馬遜云科技的10p10u網絡中能在不到1秒內恢復網絡，速度比傳統方法快10倍，顯著提升了分布式AI訓練中的可靠性和實時性，確保網絡在故障發生時也能保持高效運行。10p10u是亞馬遜云科技有史以來擴展最快的網絡，在2024年，安裝了超過300萬條鏈路。