• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • 3 月 19 日下午 2 點,鎖定 NVIDIA AI 網絡中文專場。立即注冊觀看
    技術演練

    使用NVIDIA Spectrum-3交換機,展現卓越的云計算、AI和存儲性能

    交換機重要嗎?

    網絡矩陣是現代化數據中心性能的關鍵。這對數據中心的交換機提出了很多要求,而其中最基本的要求,是為所有客戶提供等量的帶寬,以便均勻地共享資源。如果沒有公平的網絡,所有應用都會因吞吐量惡化、延遲、分布式應用緩慢等原因,而出現性能不可預測的情況。

    為了回答交換機是否重要這個問題,Tolly Group對NVIDIA Spectrum-3 12.8Tbps交換機的云、AI和存儲應用性能進行了基準測試,并將結果與典型的(商品級)12.8Tbps數據中心交換機的性能進行了同類比較。

    Tolly Group

    Tolly Group是一家第三方獨立IT行業實驗室,30多年來,一直從事對IT產品的性能測試和實際評估。Tolly Group的定位是提供證據證明產品達到,或超越營銷主張,并且不產生與Tolly Group公平測試憲章相沖突的報告。這一性能證明可以讓客戶知道自己是否可以放心地進行部署。

    分布式應用的性能(AI和SPARK)

    每個交換機都有一個緩沖區以防止丟包。每當送入交換機的流量超過可以送出交換機的流量時,緩沖區就會通過吸收數據包突發,來保護應用性能。這有時被稱為incast流量模式。AI和Spark等分布式應用因其性質而會受到incast流量模式的困擾。

    兩種交換機在其數據表中顯示二者緩沖區大小相同。但Tolly Group發現,NVIDIA Spectrum-3能夠吸收的數據包是典型數據中心交換機的4-8倍,因此需要8臺商品級交換機才能提供相當于Spectrum-3交換機的數據包吸收能力。

    You need eight commodity switches to provide the packet absorption capabilities equal to a Spectrum-3 switch.

    1 ?NVIDIA Spectrum-3和商品級交換機對比

    最大吸收能力固然重要,但光考慮這一點還不夠。交換機必須均勻吸收來自所有發送方的微突發流量,一個節點的延緩就會使整個集群變慢。

    Tolly Group發現,Spectrum-3在所有情況下都能均勻吸收來自所有發送方的微突發流量,而商品級交換機則會使多個節點變慢,導致計算資源未得到充分利用。

    公有云和私有云性能

    公有云和私有云環境中會出現“吵鬧的鄰居”問題,即當多個租戶使用一個共享資源,如CPU周期或網絡帶寬時,出現了一個租戶占用了這些資源,這個租戶被稱為“吵鬧的鄰居”。

    “吵鬧的鄰居”問題可能因交換機租戶之間的隔離能力不足,使得一個租戶的使用而降低另一個租戶的體驗。數據中心交換機必須保護租戶不受其他租戶活動的影響,既要防止惡意攻擊,也要防止“吵鬧的鄰居”的影響。

    Tolly Group發現,Spectrum-3交換機完全保護了每個租戶。而其他的交換機卻未能保護租戶,因為“吵鬧的鄰居”的流量模式,使一些租戶的成為受害者,嚴重匱乏帶寬,。

    在擴展多租戶環境時,Spectrum-3同樣保護了每個租戶。但在這種情況下,“吵鬧的鄰居”問題規模遠大于商品級交換機,擴展到交換機端口總數的一半。換言之,多達70個端口可能成為受害者并出現帶寬匱乏。

    如果一個交換機不能保護租戶免受“吵鬧的鄰居”的影響,該交換機就不符合云架構交換機的基本要求。

    With Spectrum-3, there is no effect from noisy neighbor traffic patterns. With the commodity switch, victim tenants are starved for bandwidth.

    2 “吵鬧的鄰居”隔離

    (換句話說:使用Spectrum-3,“吵鬧的鄰居”流量模式就不會產生影響。而如果使用商品級交換機,受害租戶就會出現帶寬匱乏。)

    存儲性能

    如今,數據中心的大多數存儲流量都在以太網上運行。具體而言,存儲通常使用9KB的巨幀。因此,這種數據包的大小變得比以往任何時候都重要,現在大多數交換機都支持9KB默認數據包大小。

    但典型數據中心交換機僅僅支持9KB數據包,這并不意味著它們為存儲應用進行了優化。為了測量和比較每個交換機的存儲性能水平,Tolly Group使用IXIA的標準網絡測試工具來測量9KB數據包。

    Tolly Group發現,Spectrum-3在所有情況下都能為所有存儲節點提供可預測和公平的性能。商品級交換機在使用9KB數據包時,顯示出不公平的流量共享,迫使一個存儲節點的運行速度比其他存儲節點慢17倍。這些不可預測的結果嚴重影響了存儲性能。

    這會對現實世界產生影響。比如本來計劃并預計運行一個存儲備份的時間為2小時,但最終用了34小時才完成。

    混合應用性能

    大多數數據中心運行多種不同的應用,每個應用數據包大小不盡相同。即使是單個應用也會使用各種不同大小的數據包。再加上控制流量模式,最終,網絡上可能會出現更多不同大小的數據包。

    Tolly Group發現,無論數據包大小如何,Spectrum-3始終能夠實現公平性,而商品級交換機上,使用較小數據包的應用總會陷入帶寬匱乏。更糟糕的是,隨著數據包大小差距的增加,小數據包的情況變得越發糟糕。

    Spectrum-3 treats packets of different sizes equally by providing them equitable throughput. With the commodity switch, smaller packets suffer through uneven throughput distribution.

    3 因幀的大小而產生的懸殊性能

    在商品級交換機中,混合數據包大小所帶來的帶寬匱乏會對云、存儲和分布式應用產生不利的影響。

    為何會如此?

    一言以蔽之,因為架構。

    Spectrum交換機有一個現代的、完全共享的緩沖區架構,以及靈活的流水線架構,該架構專為優化數據中心應用性能和安全而設計。進一步了解評估結果,請下載新的Tolly Group性能評估報告。該報告解釋了Spectrum交換機和商品級交換機的架構及其優勢與劣勢。

    架構是一個真正的零和游戲。但與其他許多廠商不同,NVIDIA同時開發了ASIC和交換機,使用戶可以兼得“魚與熊掌”,并且其出色的結果也得到了Tolly Group驗證的。

    了解更多

    交換機十分重要,并且在網絡上產生了巨大的不同,它們決定了應用是能夠被充分利用,還是受到不利影響。如要了解更多信息,請參加Tolly報告網絡研討會、下載Tolly Group性能評估報告或訪問Tolly Group網站。

    ?

    0

    標簽

    人人超碰97caoporen国产