中規模ネットワークの構築 - 物理設計

40,50人〜数千人が利用する中規模ネットワークを構築する時の物理設計について説明します。

トポロジーの検討

敷地に本館、A棟、B棟などがあり、40,50人から数千人が利用するネットワークを設計する場合、本館にコアスイッチを設置し、各棟にエッジスイッチを設置するスター型が一般的です。

中規模ネットワークのスター型構成図

コアスイッチは、ルーターの機能を兼ねるL3スイッチを使います。エッジスイッチは、要件によりL2スイッチを用いるのか、L3スイッチを用いるのか検討が必要です。

エッジスイッチでルーティングしない方法を集中ルーティング型、ルーティングする方法を分散ルーティング型と分けて説明します。

なお、ファイアウォールを2台にして冗長化する、コアスイッチは1台、複数台などバリエーションはさまざまですが、中規模ネットワークの構築では上記を例に説明します。

集中ルーティング型

集中ルーティング型ではエッジスイッチがL2スイッチで済むため、分散ルーティング型と比較して安価に構築できます。また、コアスイッチのみでルーティングを行うため構築が比較的楽に済み、VLAN間通信のフィルタリングもコアスイッチで集中して行うため、運用も楽になります。

ただし、コアスイッチとエッジスイッチ間の接続はループになるためスパニングツリープロトコルの適用を検討する必要があり、場合によっては障害時の切り替えが遅くなります。

集中ルーティング型でループになる区間

また、すべてのブロードキャストがコアスイッチまで流れるため、通信量が多い場合はコアスイッチに負荷がかかったり、コアスイッチ〜エッジスイッチ間の帯域を太くする必要があります。

集中ルーティング型でブロードキャストが流れる区間

分散ルーティング型

分散ルーティング型ではエッジスイッチをL3スイッチにする必要があり、集中ルーティング型と比較して高価になります。また、すべてのエッジスイッチでルーティングを行うためL3について知識が必要で、VLAN間通信のフィルタリングもそれぞれのエッジスイッチで行うため、場合によっては運用が煩雑になります。

ただし、コアスイッチとエッジスイッチ間の接続はスパニングツリープロトコルが不要で障害時の切り替えが速くなります。

分散ルーティング型ではループにならない

また、すべてのブロードキャストがコアスイッチまで流れないため、通信量が多い場合は集中ルーティング型に比べて優位です。

分散ルーティング型でブロードキャストが流れる区間

設置場所の検討

コアスイッチは、一般的にサーバーなどが置かれるサーバールーム、マシンルーム、計算機室と言った呼ばれ方をする部屋に設置されます。建屋間は屋外でもノイズや雷の影響を受けない光ケーブルで接続するため、エッジスイッチは光ケーブルを敷設する先に設置します。既に敷設されている場合は、その先に設置するようにします。

エッジスイッチとパソコン、サーバーなどを接続する部分は安価なツイストペアケーブルで接続するため、接続距離が100m以内に制限されます。

建物が大きいと100mで届かない場合があります。この場合は、中継用のスイッチを設置して各階にエッジスイッチを設置します。

建屋に中継スイッチを配置する構成

エッジスイッチを各階に配置することで、各階100m以内のパソコンに接続ができるようになります。また、各階に設置しても100mで届かない場合は、設置場所を変えて2台LANスイッチを各階に設置するなどして、ネットワークを使うすべての機器が100m以内になるようにLANスイッチを設置します。

このように中継スイッチを設置した場合、分散ルーティング型では中継スイッチがルーティングを行い、エッジスイッチはL2スイッチにすることが一般的です。

また、本館と建物の間にケーブルの余裕がある場合は、以下のように接続することもあります。

各階のエッジスイッチとコアスイッチを直結する構成

このように接続すると、中継スイッチの障害で建屋すべてが通信できなくなるといった状況を防げます。

UPS

UPS(Uninterruptible Power Supply)は無停電電源装置と言って、停電時にバッテリーから電源を供給する装置です。数万円から数十万円のものはバッテリーも数分から数十分と長くは持たないため、瞬断対策が主な目的になります。また、落雷があった場合は電源を伝わって最悪機器が壊れてしまいますが、UPSでは落雷対策があるためLANスイッチが壊れるのを防ぐことができます。

UPSはLANスイッチの電源ケーブルをUPSに接続し、UPSの電源ケーブルは電源コンセントに接続して利用します。

UPSの使い方

UPSには、以下のような方式があります。

常時商用給電方式
常時商用給電方式は、主として家庭向けで比較的安く購入できます。商用電源をそのまま出力するため、電圧低下があった場合にネットワーク機器がダウンしてしまう可能性があります。また、停電発生時に一瞬ですがバッテリーへの切り替えのため出力が途切れます。
常時インバータ給電方式
常時インバータ給電方式は、商用電源をそのままではなく電圧を整えて出力するため、電圧低下があった場合でも安定したネットワーク機器の動作が可能です。また、停電発生時も出力が途切れることがありませんが、比較的高価になります。
ラインインタラクティブ方式
ラインインタラクティブ方式は、常時商用給電方式の派生版です。通常時は商用電源をそのまま出力しますが、多少の電圧低下があると変圧器で電圧を変えて出力し、大きな電圧低下を検知するとバッテリーからの出力に自動的に切り替えます。切り替え時間は数msで、この程度の出力断であれば通常のネットワーク機器はダウンしません。

ネットワーク機器用のUPSは、常時商用給電方式であってもラインインタラクティブ方式をとっていれば、比較的安価なUPSでも充分と思われます。

その他、UPSを選択する時のポイントは、以下のとおりです。

定格容量
UPSは、ネットワーク機器の消費電力を賄える定格容量が必要です。例えば、400Wの消費電力を持つ機器であれば500Wの定格容量を持つUPSを選択するなど、余裕を持った機種を選択します。複数のネットワーク機器を1台のUPSに接続する場合は、消費電力を合計した値を賄える必要があります。
コンセント数
複数のネットワーク機器を接続する場合は、電源コンセントの数が足りているものを選択する必要があります。
電源コンセントの形状
AC100VでもAC200Vでも、電源コンセントの形状が一致しているものを選択する必要があります。

電源コンセントの形状は、AC100Vであれば日本の場合は家庭のコンセントで見られる平行2ピン、若しくは平行2ピンにアースプラグが付いたNEMA5-15がほとんどです。このため、UPSの出力でNEMA5-15R(受け側)をサポートしていれば平行2ピンの機器も接続できるため、ほとんどのネットワーク機器は接続できます。

平行2ピンのコンセント 平行2ピンアース付のコンセント

UPS側で平行2ピンの出力をサポートしている場合で、NEMA5-15P(アース付の差込側)の機器を接続する場合は変換コネクタが必要です。

AC200Vの場合は、複数のコネクタを見ます。また、UPS側で出力が端子盤になっているものもあります。コネクタが一致しない場合や端子盤の場合は、工事によってコネクタの作成やケーブルの癒着が必要になります。

瞬断や電圧低下の時にLANスイッチがダウンすることが許容できる場合、UPSは不要です。また、重要な施設では建物自体にCVCF(Constant Voltage Constant Frequency)という大きな無停電電源装置が備わっていることがあるため、その場合も不要です。

パッチパネル

パッチパネルとは、ケーブルを集約してパッチケーブルによりLANスイッチなどと接続するためのパネルです。ケーブルは、ツイストペアケーブルを接続するタイプと、光ケーブルを接続するタイプ両方あります。

パッチパネル

パッチケーブルという名前で呼ばれていますが特殊なケーブルではなく、ツイストペアケーブルであったり、普通のマルチモードファイバー、シングルモードファイバーだったりします。パッチパネルと機器の間を繋ぐ短いケーブルを特にパッチケーブルと呼んでいます。

パッチパネルのメリットは、事前に複数のケーブルを敷設してパッチパネルで集約しておき、接続が必要な機器ができた場合はパッチケーブルですぐに接続できる点です。接続が必要になるたびに工事すると面倒ですし、費用もかかりますが、パッチパネルを設置して一度に工事しておくと将来の増強にすぐに対応可能で、その都度工事するよりコストメリットがあります。

また、光ケーブルの場合、SC、LC、その他のコネクタがありますが、LANスイッチが変更になってコネクタが変わった場合はパッチケーブルだけ交換すればコネクタを変えることができます。

なお、光ケーブルのコネクタの変換は、ジョイントアダプタというものでも可能です。例えば、SCコネクタの光ケーブルが敷設されていて、SC-SCのジョイントアダプタで延長するとSC-LCのパッチケーブルによりLCコネクタのLANスイッチと接続できるようになります。

ジョイントアダプタを使ってコネクタを変換する方法

これは、既に敷設してある光ケーブルのコネクタを変えたい場合に便利です。

このため、光ケーブルのコネクタを変換すること自体はパッチパネルがないと不可能という訳ではありませんが、多数のケーブルがある場合はパッチパネルがあった方が楽ですし、配線もすっきりしてコストメリットもあります。

19インチラック

コアスイッチは床の上などに設置しても大丈夫ですが、サーバールームや計算機室ではたくさんのサーバーが置かれるため、設置スペースに限りがあります。

ラックを設置すると、ラック内に複数のサーバーやLANスイッチを積み重ねて設置できるため、設置スペースを節約できます。

19インチラック

企業向けのラックとして代表的なものは、19インチラックです。機器を収容してネジ留めしますが、その幅が19インチのためこう呼ばれています。

機器を何台収容できるかはU数によります。例えば、42Uのものであれば1Uの高さがあるエッジスイッチを42台収容できます。1Uは44.45mmです。U数が多くなるほど19インチラックの高さは高くなります。UPSやコアスイッチなどは3U、4Uなど複数占有するものもあります。安定性のためUPSなど重い装置を下にし、軽い装置を上に配置するようにします。

また、エッジスイッチについても床置きすると邪魔になったり埃などで故障の原因になり易いため、小さなラックやエッジスイッチを収納するだけのスペースがあるボックスなどで収容することも検討します。

エッジスイッチから先の接続検討

エッジスイッチから先の接続例として、以下の3とおりがあります。1つめは、パソコンと直接接続する方法です。

エッジスイッチとパソコンを直結する構成

利用者が少ない場合の接続方法です。

次は、居室用スイッチを設置する方法です。

居室用スイッチを設置する構成

居室用スイッチの先に自由にパソコンやプリンターなどを接続可能です。

次は、情報コンセントを設置する方法です。

情報コンセントがある構成

情報コンセントとは、電話を繋ぐ時のコンセントのようなもので、その先に居室用LANスイッチを接続したり、パソコンを接続するなど、さらに自由な接続が可能な形態となります。

電話線はコネクタがRJ11ですが、情報コンセントはツイストペアケーブルを接続するためコネクタがRJ45となり、一回り大きなものになります。

情報コンセントを設置するのはそれなりの費用がかかり、居室用LANスイッチを設置するとLANスイッチの費用がかかります。このため、利用する人数と利用形態に合わせて選択します。

インターフェース規格の検討

エッジスイッチと居室間はツイストペアケーブルで接続するため、必要な速度に応じて100BASE-TXか1000BASE-Tなどを選択します。今ではほとんどの機器が10/100/1000BASE-T対応といって、10Mbps、100Mbps、1000Mbpsすべてに対応していてオートネゴシエーションで最速に設定されます。このため、10/100/1000BASE-T対応のものを選択することが基本です。

光ケーブルは、距離により1000BASE-SX、1000BASE-LX、通信量が多い場合は10GBASE-SRや10GBASE-LRなどを選択します。

一般的に、以下が選択の目安になります。

【光ケーブルの選択目安】
接続箇所 必要な速度 規格 制限長
建屋間を接続 1Gbps 1000BASE-LX 10km
10Gbps 10GBASE-LR 10km
建屋内を接続 1Gbps 1000BASE-SX 550m
10Gbps 10GBASE-SR 300m

建屋間であっても、制限長内であれば1000BASE-SXや10GBASE-SRを利用することは可能です。ただし、少しでも離れていると距離的には厳しいと思います。

コアスイッチとサーバーファーム用のLANスイッチは同じ計算機室に設置されることも多く、その場合はTwinaxというケーブルで接続できる場合があります。Twinaxは両端にSPF+が付いている形態をしており、ケーブル長は5mなど非常に短距離ですが、同一ラック内や隣接したラック間の機器を接続する上では充分な距離です。また、10Gbpsの速度をサポートしており、光ケーブルとSFP+を購入するよりはるかに安く済みます。このため、隣接したLANスイッチ間やLANスイッチとサーバーを接続する時で通信量が多い場合はTwinaxの検討もします。

LANスイッチ機種の検討

LANスイッチの機種を決めるに当たって、以下のような点を検討します。

性能
LANスイッチは基本的にノンブロッキングのものを選択しますが、例えば24個のインターフェースを持つLANスイッチでも10個しか使わないのであれば、10個のインターフェースを同時利用した時にノンブロッキングであれば問題ありません。コアスイッチは、規模が大きくなると数百のインターフェースが必要な場合があります。インターフェース数が多くてノンブロッキングが難しい場合は、通信量を賄えるLANスイッチを選択します。
インターフェース
必要なインターフェース規格をサポートし、必要なインターフェース数を賄えるLANスイッチにする必要があります。
スタック
エッジスイッチに多数の機器が接続される予定で1台のエッジスイッチでインターフェースが足りない場合、本館と各建屋間にケーブルが複数敷設されていればエッジスイッチを複数台接続できますが、敷設されていないと建屋を跨って新規に光ケーブルを敷設する必要があり、かなり費用がかかります。この場合は、スタック可能なLANスイッチを購入することも検討します。また、スタックすると複数のエッジスイッチを1台として管理できるため、運用が楽になります。エッジスイッチが大量になる場合はスタックが選択肢の1つになります。
機能
スパニングツリー、OSPFなど、利用する機能をサポートしている必要があります。
電源の冗長化
LANスイッチの電源は、冗長化が可能な機種もあります。電源は壊れやすい部品の1つのため、コアスイッチ、および重要なエッジスイッチは冗長化も選択肢の1つです。

命名規約

LANスイッチやファイアウォールの命名規約を決めます。コアスイッチ1をCore-1、コアスイッチ2をCore-2、A棟エッジスイッチをA-edgeなど、設置場所や機能がイメージできるわかり易い名前がお奨めです。

接続表

中規模ネットワーク以上では、どのインターフェースに何が接続されるか設計しておかないとミスが多くなります。また、運用を開始した後も設定変更やトラブル対応時に困ります。このため、接続表を作成します。

接続表ではどの規格で接続するか、ネゴシエーションはどうするかなども記載します。

【コアスイッチ1接続表(例)】
I/F 規格 ネゴ コネクタ 接続先 I/F コネクタ
1-1 1000BASE-T 1000M RJ45 ファイアウォール 1 RJ45
1-2 1000BASE-T AUTO RJ45 コアスイッチ2 1-2 RJ45
2-1 1000BASE-SX AUTO LC サーバーファームスイッチ 23 LC
2-2 1000BASE-LX AUTO LC A棟エッジスイッチ 23 LC
2-3 1000BASE-LX AUTO LC B棟エッジスイッチ 23 LC
2-4 1000BASE-LX AUTO LC C棟エッジスイッチ 23 LC
2-5 1000BASE-LX AUTO LC D棟エッジスイッチ 23 LC
【A棟エッジスイッチ接続表(例)】
I/F 規格 ネゴ コネクタ 接続先 I/F コネクタ
1 1000BASE-T AUTO RJ45 A居室 - RJ45
2 1000BASE-T AUTO RJ45 B居室 - RJ45
3 1000BASE-T AUTO RJ45 C居室 - RJ45
23 1000BASE-LX AUTO LC コアスイッチ1 2-2 LC
24 1000BASE-LX AUTO LC コアスイッチ2 2-2 LC

ケーブルをパッチパネル経由で接続する場合は、パッチパネルのコネクタ番号も含めて記載すると後々確認がし易くなります。

ラベリング

ケーブルを接続する際、LANスイッチのどのインターフェースに接続するためのケーブルであるかラベルが貼ってあると便利です。また、運用開始後も接続先がどこになるかラベルを見て判断できると便利です。

このため、ラベリングの記載について決めます。

接続元の装置名、インターフェース番号、接続先の装置名、インターフェース番号といった記載がお奨めです。

コアスイッチにタグ付けするラベリングの例

ラベルは、可能であればどこで見てもわかるようにコアスイッチ、エッジスイッチ、およびパッチパネルに接続する部分すべてに貼ると確認がし易くなります。

中規模ネットワークの構築関連ページ