跳轉到內容

區域網設計/儲存區域網路簡介

來自華夏公益教科書,開放的書,開放的世界
Previous page
LAN 中的網路層
區域網設計
儲存區域網路簡介

儲存架構

[編輯 | 編輯原始碼]

公司通常需要儲存大量資料

  • 大型機(歷史):資料訪問集中在物理儲存資料的同一臺機器上;
  • 客戶端-伺服器模型:多個客戶端要求伺服器機器檢索儲存在硬碟上的資料;
  • 對等模型:資料分佈在所有相互連線的機器之間,每臺機器都可以要求其他任何機器獲取一些資料。
比較
  • 成本:對等網路中的每臺機器不需要高計算能力和高儲存容量,而伺服器則需要同時管理來自多個客戶端的請求,因此伺服器非常昂貴;
  • 可擴充套件性:在對等模型中,資料可以分佈在無限數量的機器上,而伺服器的計算能力和儲存容量是有限的;
  • 健壯性:伺服器具有很高的可靠性,但故障更難解決;對等網路中的機器更容易出現故障,因為它們是低端且不太可靠的機器,但管理對等網路的軟體意識到這種弱點,被設計為保持資料完整性,例如透過執行自動備份。
資料中心

資料中心是一個集中式位置,所有伺服器都集中在那裡,可以避免在公司的控制下有太多伺服器分散在各個組織。

  • 資料訪問:資料可能可用,但需要它們的人可能屬於另一個組織,或者可能沒有所需的許可權;
  • 完整性:如果伺服器分散在公司各地,很難備份所有伺服器;
  • 安全性:很容易從無保護的伺服器上竊取硬碟。

在一個DAS 系統中,每個伺服器都擁有對自身硬碟集的獨佔訪問許可權

  • 內部磁碟:對於伺服器來說不是一個合適的解決方案,因為在出現故障的情況下,必須從機器內部物理提取硬碟;
  • 外部磁碟:磁碟透過 SCSI 連線到伺服器;多個磁碟集可以像匯流排架構一樣級聯連線。
    磁碟可以放在一個名為JBOD 的專用機櫃中:SCSI 控制器能夠匯出與物理磁碟不同的虛擬驅動器結構,透過聚合或拆分磁碟容量並提供高階服務(例如 RAID)。

TheSCSI 標準定義了一個完整的協議棧

  • 物理介面(例如電纜和聯結器):它們允許將硬碟物理連線到伺服器;
  • 協議:它們允許透過直接根據邏輯塊定址 (LBA) 方案定址磁碟塊來執行讀寫事務;
  • 命令匯出到應用程式:它們允許透過發出諸如 READ、WRITE、FORMAT 等命令來執行讀寫操作。
優點
  • 低延遲:透過磁碟的延遲在毫秒級,透過快取的延遲在微秒級;
  • 高可靠性:錯誤機率非常低,資料完整性始終得到保證;
  • 廣泛的相容性:它得到作業系統的廣泛支援,除了磁碟之外,還被許多外部裝置使用。
缺點
  • 緩慢的錯誤恢復:由於錯誤很少發生,錯誤恢復機制從效能角度來看效率不高;
  • 集中式訪問磁碟:只有伺服器可以訪問磁碟,因此如果伺服器出現故障,就無法再訪問磁碟;
  • 可擴充套件性限制:在級聯中最多可以連線 16 個裝置,最大長度為 25 米。

NASSAN 允許透過網路將磁碟與伺服器分離,從而使這些實體連線起來,因此多個伺服器可以訪問磁碟。

NAS 的例子。

一個NAS 匯出檔案系統,在網路(通常是 LAN)上提供邏輯檔案,而不是磁碟塊。

檔案系統與網路客戶端共享:連線到網路的伺服器和客戶端都可以訪問檔案。

用於匯出檔案系統的典型協議是

  • NFS:在 UNIX 系統上很流行;
  • CIFS:Windows 系統使用;

在 TCP/IP 網路上工作

NAS 協議棧。
NFS/CIFS
TCP
IP
乙太網
優點
  • 除了檔案系統之外,還可以匯出使用者許可權和訪問保護(例如使用者名稱和密碼);
  • 與網路客戶端的相容性:NAS 系統對現有基礎設施的影響最小:所有作業系統都能夠安裝共享磁碟,而無需額外的驅動程式。
缺點
  • 與應用程式的相容性:原始磁碟對客戶端不可見:磁碟無法在塊級別進行格式化或管理,因此一些需要直接訪問磁碟塊的應用程式無法在遠端磁碟上工作:作業系統、資料庫管理系統、交換檔案/分割槽;
  • NAS 裝置需要足夠的計算能力來進行使用者許可權管理以及從檔案相關的請求到塊相關的請求的重新對映;
  • 協議棧不是為 NAS 而開發的:TCP 錯誤恢復機制可能會引入不可忽略的效能開銷。
雙層 SAN 的例子。

一個SAN 匯出物理磁碟,而不是邏輯卷,並允許根據 LBA 方案定址磁碟,就像磁碟直接透過 SCSI(DAS 系統)連線到伺服器一樣。

客戶端可以透過伺服器訪問資料,它們透過廣域網或區域網連線到伺服器。通常,資料中心遵循三層模型

  1. Web 伺服器:它是面向客戶端的前端;
  2. 應用程式/資料庫伺服器:它可以安裝一個共享磁碟檔案系統,該檔案系統將客戶端發出的與檔案相關的請求轉換為與塊相關的請求,然後透過 SAN 傳送到遠端磁碟;
  3. 硬碟:它們通常放在 JBOD 中。

SAN 不能完全依賴於傳統的 TCP/IP,因為 TCP 錯誤恢復機制可能會引入不可忽略的效能開銷,因此已經開發了一些用於 SAN 的協議,旨在儘可能保持 SCSI 的高速、低延遲和高可靠性。

SAN 協議棧。
光纖通道.
SCSI
光纖通道
FCoE.
SCSI
光纖通道
FCoE
10 千兆乙太網
iSCSI.
SCSI
iSCSI
TCP
IP
乙太網
FCIP.
SCSI
光纖通道
FCIP
TCP
IP
乙太網

所有 SAN 協議在其協議棧的上層都採用 SCSI,並在其下方工作→這保證了與所有現有的基於 SCSI 的應用程式的相容性,並且在從 DAS 遷移到 SAN 時影響最小。

光纖通道

[編輯 | 編輯原始碼]
基於光纖通道的 SAN 的示例,具有交換式結構拓撲。

光纖通道標準誕生於對伺服器和儲存磁碟之間光纖連線的可靠支援的需求,被認為可以替代 SCSI 的物理層。光纖通道支援高傳輸速率:1 Gbps、2 Gbps、4 Gbps、8 Gbps、16 Gbps。

拓撲結構

[編輯 | 編輯原始碼]

該標準考慮了 SAN 的三種可能的拓撲結構

  • 點對點:伺服器和 JBOD 之間的直接連線,如 SCSI 中的連線;
  • 仲裁環:出於可靠性目的的環形拓撲;
  • 交換式結構:多個伺服器透過結構(即橋接器的網狀網路)連線到多個 JBOD。
    交換式結構拓撲結構在儲存領域是新的:SCSI 僅允許像匯流排架構一樣級聯連線。

路由由結構最短路徑優先 (FSPF) 協議執行,與 IP 網路中的 OSPF 協議非常相似。拓撲結構中的環路不考慮任何生成樹協議。

光纖通道節點(伺服器或 JBOD)的每個埠都動態分配一個 24 位地址

8 16 24
域 ID 區域 ID 埠 ID

其中欄位為

  • 域 ID 欄位(8 位):標識節點連線到的橋接器;
  • 區域 ID 欄位(8 位):標識節點連線到的橋接器埠所屬的埠組;
  • 埠 ID 欄位(8 位):標識節點埠。
    每個伺服器都透過一個名為主機匯流排介面卡 (HBA) 的介面連線到結構。

流量控制

[編輯 | 編輯原始碼]

光纖通道透過引入基於信貸機制的逐跳流量控制來增強 SCSI 錯誤恢復機制:每個埠都有一個信貸額度,每轉發一個數據包信貸額度就會減少,每收到一個確認訊息就會增加→如果可用信貸額度降至 0,則該埠將無法傳送其他資料包,必須等待下一跳透過確認訊息進行通訊,確認訊息表明它已準備好將其他資料接收進其緩衝區→此機制避免了節點緩衝區擁塞,從而避免了資料包丟失。

此外,信貸機制允許資源預留並保證幀按順序交付:目標節點不必實現資料包重新排序機制(如 TCP 中的機制)。

問題
  • 由於信貸不足,連結上的流量可能會被阻止一段時間→必須根據連結另一端埠的緩衝區容量適當設定埠的最大信貸數;
  • 網狀網路中可能出現迴圈依賴關係的死鎖。

高階功能

[編輯 | 編輯原始碼]
  • 虛擬 SAN (VSAN):SAN 的 VLAN 等效項;
  • 鏈路聚合;
  • 負載均衡;
  • 虛擬化:SCSI 控制器的虛擬化功能可以直接移動到 JBOD 連線到的橋接器。

乙太網上的光纖通道 (FCoE) 技術允許透過 FCoE 適配層將光纖通道幀封裝到乙太網幀中,FCoE 適配層替換了光纖通道的物理層→這允許使用 10 千兆乙太網(或更高速度)網路,同時保留光纖通道協議。

在 FCoE 之前,資料中心使用乙太網進行 TCP/IP 網路,使用光纖通道進行 SAN。使用 FCoE,光纖通道成為在乙太網上執行的另一種網路協議,與傳統的 IP 流量並存:與 iSCSI 在 TCP 和 IP 之上執行相反,FCoE 在網路協議棧中直接位於乙太網之上

  • 優勢:伺服器不再需要具有特定於光纖通道的 HBA 介面,而是單個 NIC 介面可以提供到 SAN 和 Internet 的連線→更少的電纜和橋接器,更低的功耗;
  • 劣勢:FCoE 在 IP 層不可路由,即它不能在 SAN 之外的 Internet 網路上執行。

由於與光纖通道不同,經典乙太網不包含任何流量控制機制,因此 FCoE 需要對乙太網標準進行一些增強,以支援基於優先順序的流量控制機制,以減少由於擁塞而導致的幀丟失。

FCoE 中的基於優先順序的流量控制。

基本思想是採用IEEE 802.3x 標準中的 PAUSE 資料包,用於乙太網上的流量控制,但是兩個橋接器之間的乙太網通道在邏輯上被劃分為通道(例如,一個專用於儲存流量,另一個專用於正常的網際網路流量)→PAUSE 資料包,而不是阻止整個連結上的流量,而是隻阻止特定通道的流量,而不會影響其他通道的流量。

通常,對於具有 FCoE 技術的伺服器,首選機架頂端 (TOR) 交換機,而不是與光纖通道一起使用的機架末端 (EOR) 交換機,因為具有 FCoE 技術的交換機相對於具有光纖通道技術的交換機而言成本更低

  • 機架末端交換機:有一個主交換機,每個伺服器都透過自己的電纜連線到它→更長的電纜;
  • 機架頂端交換機:每個機架的頂部都有一個交換機,每個伺服器都連線到其機架交換機,然後所有機架交換機都連線到主交換機→更多交換機,但電纜更短。
基於 iSCSI 的 SAN 的示例。

TheiSCSI 協議由思科提出,旨在對抗光纖通道的霸權,允許透過使用最常見的網路技術(即 TCP/IP)來建立 SAN:SCSI 命令透過 iSCSI 適配層封裝到 TCP 資料包中,並透過乙太網網路跨越 SAN。

優點
  • 伺服器不再需要具有特定於光纖通道的 HBA 介面,而是單個 NIC 介面可以提供到 SAN 和 Internet 的連線→更少的電纜和橋接器,更低的功耗;
  • 客戶端也可以透過 Internet 訪問磁碟;
  • 無需專門為 SAN 連線鋪設光纖。
缺點
  • SAN 中的橋接器緩衝區需要調整大小,以最大程度地減少由於緩衝區溢位而導致的資料包丟失,從而最大程度地減少由於 TCP 錯誤恢復機制而導致的效能開銷;
  • 儲存領域對乙太網技術並不熟悉,過去一直使用光纖通道工具→iSCSI 協議並沒有取得很大成功。
基於 FCIP 的 SAN 的示例。

資料中心容易受到自然災害(如地震、海嘯等)導致的資料丟失風險的影響→為了提高彈性(業務連續性),資料中心可以在另一個位置完全複製,通常相距數百公里。主資料中心和備份資料中心可以使用光纖通道相互通訊,但由於距離較遠,透過簡單的光纖連線它們成本過高。

IP 上的光纖通道 (FCIP) 技術允許地理分散式 SAN 透過使用現有的 TCP/IP 基礎設施(即 Internet)相互連線,而不會讓資料中心中的內部裝置感知到 IP 網路的存在

  1. 主資料中心傳送一個光纖通道幀;
  2. 邊緣路由器透過 FCIP 適配層(替換了光纖通道的物理層)將光纖通道幀封裝到 TCP 資料包中,然後透過 Internet 網路將 TCP 資料包轉發到另一個邊緣路由器,形成一個隧道;
  3. 另一個邊緣路由器提取光纖通道幀並將其傳送到備份資料中心;
  4. 備份資料中心接收光纖通道幀。

但是,光纖通道幀的最小尺寸超過了乙太網有效載荷尺寸限制,碎片化帶來的開銷過高→乙太網幀必須擴充套件到大約 2.2 KB,才能封裝最小尺寸的光纖通道幀。

Previous page
LAN 中的網路層
區域網設計
儲存區域網路簡介
華夏公益教科書