ストレージ装置および同装置の増設方法
【課題】より簡素な構成で、アクセス経路中のDEが故障した場合でも、故障したDE以外の全てのDEに対して継続したアクセスを可能にする。
【解決手段】CE10における2つのCE−CM11,12の一方に対し、DE20のそれぞれにおける2つのDE−CM21,22の一方を縦続接続して形成される第1経路と、CE10における2つのCE−CM11,12の他方に対し、DE20のそれぞれにおける2つのDE−CM21,22の他方を縦続接続して形成される第2経路とを備え、第1経路における一方のDE−CM21又は22の接続順序が2以上のDE20の増設順序であり、第2経路における他方のDE−CM21又は22の接続順序が2以上のDE20の増設順序と異なる順序である。
【解決手段】CE10における2つのCE−CM11,12の一方に対し、DE20のそれぞれにおける2つのDE−CM21,22の一方を縦続接続して形成される第1経路と、CE10における2つのCE−CM11,12の他方に対し、DE20のそれぞれにおける2つのDE−CM21,22の他方を縦続接続して形成される第2経路とを備え、第1経路における一方のDE−CM21又は22の接続順序が2以上のDE20の増設順序であり、第2経路における他方のDE−CM21又は22の接続順序が2以上のDE20の増設順序と異なる順序である。
【発明の詳細な説明】
【技術分野】
【0001】
本件は、制御筐体及びこの制御筐体に縦続接続された2以上の増設筐体を有するストレージ装置および同装置の増設方法に関する。
【背景技術】
【0002】
従来、SAS(Serial Attached SCSI)対応のディスクを搭載するストレージ装置、例えばRAID(Redundant Arrays of Inexpensive Disks)システムがある。このようなストレージ装置には、多くのディスク搭載をサポートするため、システムの中心となる制御筐体であるコントローラエンクロージャ(Controller Enclosure;以下、CEという)と増設ディスクを搭載するための増設筐体である複数のドライブエンクロージャ(Drive Enclosure;以下、DEという)とを備えるものがある。
【0003】
この場合、SASはループ状の接続が許容されていないため、CEのコントローラモジュール(Controller Module;以下、CEのCMをCE−CMという)とDEのCM(以下、DEのCMをDE−CMという)との接続及びDE−CM間の接続は、図19に示すように、DEの増設順に数珠繋ぎ(デイジーチェーン;以下、縦続接続という)で行なわれる。しかしながら、このようなストレージ装置では、アクセス経路中のいずれかのDE−CMが故障した場合には、CEは故障したDE及びそれより後段のDEへアクセスすることができなくなる。そのため、図20に示すように、CE−CM及びDE−CMを冗長化(例えば二重化)するとともに、CE−DE間及びDE−DE間のケーブルを冗長化(例えば二重化)する手法が用いられている。
【0004】
他にも、例えば、ストレージシステムにおいて、コントローラ、又はスイッチ装置の空きポートと、他のスイッチ装置の空きポートとをループ状に物理的に接続し、ルーティングテーブルによって切り離しておくことで、論理的に2つのカスケード状の経路とするものが知られている。このシステムにおいては、いずれかの経路で障害が発生しても、ルーティングテーブルのステータス値を変更することで、コントローラは他の経路を介してスイッチ装置に論理的に接続でき、従ってシステムの稼動を継続することが可能となる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−71005号公報
【特許文献2】特開2005−293595号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述のようなストレージ装置においては、アクセス経路中のいずれかのDEが故障した場合、即ち冗長化したDE−CMがともに使用不能となった場合、CEは、故障したDE及び故障したDEより後段のDEにアクセスすることができなくなる。
また、ストレージシステムのコントローラ及びスイッチ装置の空きポートを利用してループ状に接続する構成では、スイッチ装置の数が増大すると、物理パスの配線が複雑になり、配線の管理が煩雑となる問題がある。
【0007】
本件の目的の1つは、より簡素な構成で、アクセス経路中のDEが故障した場合でも、継続して、故障したDE以外の全てのDEに対するアクセスを可能にすることである。
なお、前記目的に限らず、後述する発明を実施するための形態に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本発明の他の目的の1つとして位置付けることができる。
【課題を解決するための手段】
【0008】
本件は、記憶部、および、記憶部に対する冗長アクセス制御を行なう2つの制御部を含む制御筐体と、増設記憶部、および、増設記憶部に対する冗長アクセス制御を行なう2つの増設制御部とを含む2以上の増設筐体とをそなえ、制御筐体に対し2以上の増設筐体を縦続接続して増設するストレージ装置であって、制御筐体における2つの制御部の一方に対し、2以上の増設筐体のそれぞれにおける2つの増設制御部の一方を縦続接続して形成される第1経路と、制御筐体における2つの制御部の他方に対し、2以上の増設筐体のそれぞれにおける2つの増設制御部の他方を縦続接続して形成される第2経路とをそなえ、第1経路における一方の増設制御部の接続順序が、2以上の増設筐体の増設順序であり、第2経路における他方の増設制御部の接続順序が、2以上の増設筐体の増設順序と異なる順序であることを要件としたものである。
【発明の効果】
【0009】
開示の技術によれば、より簡素な構成で、アクセス経路中の増設筐体が故障した場合でも、継続して、故障した増設筐体以外の全ての増設筐体に対するアクセスが可能になり、増設筐体の障害発生に伴う業務影響度を最小限に抑えることができる。
【図面の簡単な説明】
【0010】
【図1】第1実施形態のストレージ装置の構成例を模式的に示す図である。
【図2】図1に示す構成例における第1経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図3】図1に示す構成例における第2経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図4】第1実施形態のCEの構成例を示すブロック図である。
【図5】第1実施形態のDEの構成例を示すブロック図である。
【図6】図1に示すストレージ装置のDEの一つが故障した場合の構成例を模式的に示す図である。
【図7】図6に示す構成例における第1経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図8】図6に示す構成例における第2経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図9】図1に示すストレージ装置における、DEの増設手順を説明するとともに、DE増設後の構成例を模式的に示す図である。
【図10】第2実施形態のストレージ装置の構成例を模式的に示す図である。
【図11】第2実施形態のCEの構成例を示すブロック図である。
【図12】図10に示すストレージ装置における、DEの増設手順を説明するとともに、DE増設中の構成例を模式的に示す図である。
【図13】図12で説明した手順でDEを増設した後の構成例を模式的に示す図である。
【図14】図12に示すストレージ装置のDEの一つがDE増設中に故障した場合の構成例を模式的に示す図である。
【図15】図14に示す構成例における第1経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図16】図14に示す構成例における第2経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図17】図10に示すストレージ装置における、DEの増設手順の変形例を説明するとともに、DE増設後の構成の変形例を模式的に示す図である。
【図18】図17に示すストレージ装置における、DEの増設手順を説明するとともに、DE増設後の構成例を模式的に示す図である。
【図19】従来のストレージ装置におけるDEの増設状態の例を模式的に示す図である。
【図20】従来のストレージ装置におけるDEの増設状態の他の例を模式的に示す図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して本発明の実施の形態を説明する。
(A)第1実施形態
(A−1)第1実施形態の構成
図1は、第1実施形態としてのストレージ装置1の構成例を模式的に示す図である。
ストレージ装置1は、例えば、RAIDシステムである。
【0012】
図1に示すように、制御筐体としてのCE10は、記憶部18と、この記憶部18に対する冗長アクセス制御を行なう2つの制御部としてのCM11及び12とを有する。つまり、CE10は、CE−CM11又は12により、CE10が搭載する記憶部18にアクセス可能に構成されている。ここで、記憶部18は、M個のディスク(例えばHDD)18−1〜18−Mから構成されている。
【0013】
CE−CM11,12は、それぞれ1個の物理層13a,14aを有し、これらの物理層13a,14aを介して、DE20−1〜20−3へアクセスを行なう機能を有する。なお、以下、「物理層」(Physical layer)を「PHY」という。
増設筐体としてのDE20−1は、記憶部28−1と、この記憶部28−1に対する冗長アクセス制御を行なう2つの増設制御部としてのDE−CM21−1及びDE−CM22−1とを有する。つまり、DE20−1は、DE−CM21−1又はDE−CM22−1により、DE20−1が搭載する記憶部28−1にアクセス可能に構成されている。ここで、記憶部28−1は、L個のディスク(例えばHDD)201−1〜201−Lから構成されている。
【0014】
また、増設筐体としてのDE20−2は、記憶部28−2と、この記憶部28−2に対する冗長アクセス制御を行なう2つの増設制御部としてのDE−CM21−2及びDE−CM22−2とを有する。つまり、DE20−2は、DE−CM21−2又はDE−CM22−2により、DE20−2が搭載する記憶部28−2にアクセス可能に構成されている。ここで、記憶部28−2は、K個のディスク(例えばHDD)202−1〜202−Kから構成されている。
【0015】
さらに、増設筐体としてのDE20−3は、記憶部28−3と、この記憶部28−3に対する冗長アクセス制御を行なう2つの増設制御部としてのDE−CM21−3及びDE−CM22−3とを有する。つまり、DE20−3は、DE−CM21−3又はDE−CM22−3により、DE20−3が搭載する記憶部28−3にアクセス可能に構成されている。ここで、記憶部28−3は、J個のディスク(例えばHDD)203−1〜203−Jから構成されている。
【0016】
また、DE−CM21−1は、2個のPHY23−1a及び23−1bを有し、これらのPHY23−1a及び23−1bを介して、後段のDEへアクセスを行なう機能を有する。また、DE−CM21−2は、2個のPHY23−2a及び23−2bを有し、これらのPHY23−2a及び23−2bを介して、後段のDEへアクセスを行なう機能を有する。さらに、DE−CM21−3は、2個のPHY23−3a及び23−3bを有し、これらのPHY23−3a及び23−3bを介して、後段のDEへアクセスを行なう機能を有する。
【0017】
同様に、DE−CM22−1は、2個のPHY24−1a及び24−1bを有し、これらのPHY24−1a及び24−1bを介して、後段のDEへアクセスを行なう機能を有する。また、DE−CM22−2は、2個のPHY24−2a及び24−2bを有し、これらのPHY24−2a及び24−2bを介して、後段のDEへアクセスを行なう機能を有する。さらに、DE−CM22−3は、2個のPHY24−3a及び24−3bを有し、これらのPHY24−3a及び24−3bを介して、後段のDEへアクセスを行なう機能を有する。
【0018】
なお、DE20−1〜20−3は、互いにほぼ同様の構成及び機能を備えている。以下、DEを示す符号としては、複数のDEのうち1つを特定する必要があるときには符号20−1〜20−3を用いるが、任意のDEを指すときには符号20を用いる。
また、DE−CM21−1〜21−3及び22−1〜22−3は互いにほぼ同様の構成及び機能を備えている。以下、DE−CMを示す符号としては、複数のDE−CMのうち1つを特定する必要があるときには符号21−1〜21−3及び22−1〜22−3を用いるが、任意のDE−CMを指すときには符号21及び22を用いる。
【0019】
さらに、PHY23−1a〜23−3a,23−1b〜23−3b,24−1a〜24−3a及び24−1b〜24−3bは互いにほぼ同様の構成及び機能を備えている。以下、PHYを示す符号としては、複数のPHYのうち1つを特定する必要があるときには符号23−1a〜23−3a,23−1b〜23−3b,24−1a〜24−3a及び24−1b〜24−3bを用いるが、任意のPHYを指すときには符号23及び24又は23a,23b,24a及び24bを用いる。
【0020】
また、ディスク18−1〜18−M,201−1〜201−L,202−1〜202−K及び203−1〜203−Jは互いにほぼ同様の構成及び機能を備えている。以下、ディスクを示す符号としては、複数のディスクのうち1つを特定する必要があるときには符号18−1〜18−M,201−1〜201−L,202−1〜202−K及び203−1〜203−Jを用いるが、任意のディスクを指すときには符号18,201,202及び203を用いる。
【0021】
図1に示すストレージ装置1では、CE10に対し3つのDE20が縦続接続されて増設されている。
このとき、CE−CM11のPHY13aは、DE−CM21−1のPHY23−1bとケーブル25−1によって接続される。また、DE−CM21−1のPHY23−1aは、DE−CM21−2のPHY23−2bとケーブル25−2によって接続される。また、DE−CM21−2のPHY23−2aは、DE−CM21−3のPHY23−3bとケーブル25−3によって接続される。なお、DE−CM21−3のPHY23−3aは、空きポートになっている。
【0022】
一方、CE−CM12のPHY14aは、DE−CM22−3のPHY24−3aとケーブル26−1によって接続される。また、DE−CM22−3のPHY24−3bは、DE−CM22−2のPHY24−2aとケーブル26−3によって接続される。また、DE−CM22−2のPHY24−2bは、DE−CM22−1のPHY24−1aとケーブル26−2によって接続される。なお、DE−CM22−1のPHY24−1bは、空きポートになっている。
【0023】
従って、第1実施形態によれば、図1に示すように、CE−CM11には、DE−CM21−1,DE−CM21−2,DE−CM21−3が、この順序、つまりDE20の増設順序で縦続接続される。一方、CE−CM12には、DE−CM22−3,DE−CM22−2,DE−CM22−1が、この順序、つまりDE20の増設順序と逆の順序で縦続接続される。
【0024】
即ち、CE−CM11及びDE−CM21を縦続接続して形成されるアクセス経路と、CE−CM12及びDE−CM22を縦続接続して形成されるアクセス経路とは、互いに逆の接続順序となる。
以下、CE−CM11及びDE−CM21側のアクセス経路を第1経路といい、CE−CM12及びDE−CM22側のアクセス経路を第2経路という場合がある。
【0025】
なお、図1に示すストレージ装置1においては、DE20の数を3としたが、これに限定されるものではない。
ここで、本実施形態のストレージ装置1は、SASを採用したものである。以下に、図2〜図5を参照しながら、ストレージ装置1におけるCE10やDE20の構成について、より詳細に説明する。
【0026】
まず、図2及び図3を参照しながら、ルートテーブルについて説明する。
ルートテーブルは、SASを採用したストレージ装置1において、CE−CM11,12及びDE−CM21,22が当該CM以降に縦続接続されるDE20におけるディスクやPHYへのアクセスルートを特定する際に用いられる。このルートテーブルは、CE−CM11,12及びDE−CM21,22のPHY毎に作成される。
【0027】
また、ルートテーブルは、CE−CM11及び12並びにDE−CM21及び22のそれぞれが有する、後述するルートテーブル作成部112,122,212−1〜212−3,222−1〜222−3によって作成される。ルートテーブルは、ストレージ装置1の起動時に作成されるとともに、SASデバイスの増設,撤去又は故障によりアクセス不能となった場合等、SASデバイスの接続構成に変化が生じた時にも作成・更新される。
【0028】
図2は、図1に示す構成例における第1経路上のCE−CM11及びDE−CM21−1〜21−3が、それぞれ有するルートテーブルT11a及びT21−1a〜T21−3aに格納されるSASアドレスを示す図である。
また、図3は、図1に示す構成例における第2経路上のCE−CM12及びDE−CM22−1〜22−3が、それぞれ有するルートテーブルT12a及びT22−1b〜T22−3bに格納されるSASアドレスを示す図である。
【0029】
CE10およびDE20の各PHY13,14,23及び24には、図2及び図3に示すように、それぞれのPHY13,14,23及び24から参照可能な全てのSASデバイスのSASアドレスが格納されたルートテーブルが対応付けられる。
図4は、第1実施形態のCE10の構成例を示すブロック図である。
この図4に示すように、CE10は、CE−CM11及び12を有する。なお、図4では記憶部18の図示を省略している。
【0030】
また、CE10は、図示しないホスト装置等と接続され、ホスト装置からCE10又はDE20の各記憶部18及び201〜203へのリード/ライト要求を受けて、CE−CM11及び12に当該処理を実行させるとともに、リード/ライト処理の結果をホスト装置に返すものである。
CE−CM11は、CPU100,メモリ101,SAS制御デバイス110及びSAS制御デバイス用メモリ111を有する。同様に、CE−CM12は、CPU102,メモリ103,SAS制御デバイス120及びSAS制御デバイス用メモリ121を有する。
【0031】
CPU100及び102は、それぞれ、CE10が受信したホスト装置等からのリード/ライト要求に対する処理を実行する機能を含むものであり、その詳細な説明は省略する。
メモリ101及び103は、それぞれ、CPU100及び102における処理用の記憶部として機能する。なお、メモリ101及び103は、それぞれCPU100及び102内に設けられてもよい。
【0032】
SAS制御デバイス110及び120は、それぞれ、CE−CM11及び12が有するSASデバイス、即ち記憶部(ディスク)18へのアクセスを制御する。また、SAS制御デバイス110及び120では、CE−CM11及び12と接続されているSASデバイス、即ちDE−CM21及び22並びにDE−CM21及び22の記憶部28−1〜28−3(ディスク201〜203)へのアクセスを制御するとともに、CE−CM11及び12と接続されているSASデバイスへアクセスするためのルートテーブルT11a,T12aを管理する機能を持つ。
【0033】
SAS制御デバイス用メモリ111及び121は、それぞれ、SAS制御デバイス110及び120のそれぞれが用いる情報を保持するものである。これらのメモリ111及び121は、それぞれ、例えば、後述するルートテーブル作成部112及び122が作成したCE−CM11のPHY13a及びCE−CM12のPHY14aのそれぞれにおけるルートテーブルT11a,T12aを格納するルートテーブル格納部として機能する。以下、SAS制御デバイス用メモリ111及び121をそれぞれルートテーブル格納部111及び121という場合もある。なお、SAS制御デバイス用メモリ111及び121は、それぞれSAS制御デバイス110及び120内に格納されてもよい。
【0034】
SAS制御デバイス110は、ルートテーブル作成部112,アクセス制御部113,イニシエータ114a及び前述したPHY13aを有する。同様に、SAS制御デバイス120は、ルートテーブル作成部122,アクセス制御部123,イニシエータ124a及び前述したPHY14aを有する。
ルートテーブル作成部112及び122は、それぞれ、ストレージ装置1の起動や、SASデバイスの接続構成に変化が生じたことをそれぞれのSAS制御デバイス110及び120が検知すると、CE−CM11及び12のそれぞれから現在アクセスすることのできるSASデバイスのSASアドレスを含むルートテーブルT11a,T12aを作成する。
【0035】
例えば、図1に示すストレージ装置1の構成時にCE−CM11のルートテーブル作成部112が作成するルートテーブルT11aには、図2におけるPHYの番号“PHY13a”の列に記載のSASアドレスが格納される。また、図1に示すストレージ装置1の構成時にCE−CM12のルートテーブル作成部122が作成するルートテーブルT12aには、図3におけるPHYの番号“PHY14a”の列に記載のSASアドレスが格納される。なお、ルートテーブルT11a,T12aの作成は、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
【0036】
アクセス制御部113及び123は、それぞれ、ルートテーブル格納部111及び121に格納されたルートテーブルT11a,T12aに基づいて、アクセス対象であるディスク201〜203へのアクセス経路(アクセスルート)を第1経路又は第2経路に沿って特定する。また、アクセス制御部113及び123は、それぞれ、特定した経路における後述するイニシエータ114a又は124aに対して、アクセス対象であるディスク201〜203へのアクセスを指示する。
【0037】
アクセス制御部113及び123は、それぞれ、ホスト装置から特定のディスクへのアクセス要求があると、ルートテーブル格納部111及び121に格納されたルートテーブルT11a,T12aを参照し、アクセス対象のディスクのSASアドレスが含まれているか否かを確認する。そして、アクセス制御部113又は123が参照するルートテーブルT11a又はT12aに、アクセス対象のディスクのSASアドレスが含まれている場合には、アクセス制御部113又は123は、当該アクセス対象のディスクにアクセス可能なイニシエータ114a又は124aに対してアクセスを指示する。
【0038】
また、ルートテーブル格納部111及び121のいずれのルートテーブルT11a,T12aにもアクセス対象のディスクのSASアドレスが含まれている場合、即ち、第1経路及び第2経路のいずれの経路からも、アクセス対象のディスクにアクセスすることができる場合には、アクセス制御部113及び123は、所定の条件に従い、アクセス経路を第1経路又は第2経路のいずれか一方に特定する。又は、アクセス制御部113及び123は、アクセス経路を第1経路又は第2経路のいずれか一方に特定するかを、コントローラエンクロージャの設計や運用段階での設定等の任意の時点で、予め決定するように構成してもよい。
【0039】
なお、所定の条件によるアクセス制御部113及び123によるアクセス経路の特定については、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
イニシエータ114a又は124aは、それぞれPHY13a又はPHY14aを介し、第1経路又は第2経路でDE−CM21又は22に対してディスク201〜203に関するアクセス処理(リード/ライト命令等の発行等)を行なう。
【0040】
図5は、第1実施形態のDE20−1の構成例を示すブロック図である。
なお、図5においては、それぞれ同様の構成であるDE20−1〜20−3のうち、代表してDE20−1について示す。DE20−2及び20−3に対応させるためには、図中の各符号において、“-(ハイフン)”の右の符号“1”を適宜“2”又は“3”に置き換えればよい。
【0041】
図5に示すように、DE20−1は、DE−CM21−1及び22−1を有する。なお、図5では、記憶部28−1の図示を省略している。
DE−CM21−1は、SAS制御デバイス210−1及びSAS制御デバイス用メモリ211−1を有する。同様に、DE−CM22−1は、SAS制御デバイス220−1及びSAS制御デバイス用メモリ221−1を有する。
【0042】
SAS制御デバイス210−1は、DE20−1が有するSASデバイス、即ち記憶部(ディスク)28−1へのアクセスを制御する。また、DE−CM21−1より下流に接続されているSASデバイス、即ちDE−CM21−2及び21−3並びにDE−CM21−2及び21−3の記憶部28−2及び28−3へのアクセスを制御するとともに、DE−CM21−2及び21−3と接続されているSASデバイスへアクセスするためのルートテーブルT21−1a及びT21−1bを管理する機能を持つ。また、SAS制御デバイス220−1は、SAS制御デバイス210−1と同様にDE20−1が有するSASデバイス、即ち記憶部(ディスク)28−1へのアクセスを制御する。また、DE−CM21−1より下流に接続されているSASデバイスへアクセスするためのルートテーブルT22−1a及びT22−1bを管理する機能を持つ。なお、図1に示すストレージ装置1の構成例においては、DE−CM22−1は第2経路における最下流のコントローラモジュールであるため、この場合は、SAS制御デバイス220−1は、他のDE−CM及びその記憶部へアクセスすることはできない。
【0043】
SAS制御デバイス用メモリ211−1及び221−1は、SAS制御デバイス210−1及び220−1のそれぞれが用いる情報を保持するものである。例えば、SAS制御デバイス用メモリ211−1は、後述するルートテーブル作成部212−1が作成した、DE−CM21−1のPHY23−1aにおけるルートテーブルT21−1aを格納するルートテーブル格納部として機能する。また、SAS制御デバイス用メモリ221−1は、後述するルートテーブル作成部222−1が作成した、DE−CM22−1のPHY24−1bにおけるルートテーブルT22−1bを格納するルートテーブル格納部として機能する。以下、SAS制御デバイス用メモリ211−1及び221−1をそれぞれルートテーブル格納部211−1及び221−1という場合もある。なお、SAS制御デバイス用メモリ211−1及び221−1は、それぞれSAS制御デバイス210−1及び220−1内に格納されてもよい。
【0044】
SAS制御デバイス210−1は、ルートテーブル作成部212−1,PHY23−1a及び23−1bを有する。同様に、SAS制御デバイス220−1は、ルートテーブル作成部222−1,PHY24−1a及び24−1bを有する。
ルートテーブル作成部212−1及び222−1は、ストレージ装置1の起動や、SASデバイスの接続構成に変化が生じたことをそれぞれのSAS制御デバイス210−1及び220−1が検知すると、DE−CM21−1及び22−1のそれぞれから現在アクセスすることのできるSASデバイスのSASアドレスを含むルートテーブルT21−1a及びT22−1bを作成する。
【0045】
なお、SASの仕様上、図1に示すストレージ装置1の構成例において、第1経路における最下流のコントローラモジュールであるDE−CM21−3のPHY23−3aはその先に何も接続されていないため、ルートテーブルT21−3aは作成されない。同様に、第2経路における最下流のコントローラモジュールであるDE−CM22−1のPHY24−1bはその先に何も接続されていないため、ルートテーブルT22−1bは作成されない。従って、図1に示すストレージ装置1の構成例においては、DE−CM21は、第1経路の下流側に位置するPHY、すなわち、DE−CM21−1のPHY23−1a及びDE−CM21−2のPHY23−2aにおけるルートテーブルT21−1a及びT21−2aのみを作成する。また、DE−CM22は、第2経路の下流側に位置するPHY、すなわち、DE−CM22−3のPHY24−3b及びDE−CM22−2のPHY24−2bにおけるルートテーブルT22−3b及びT22−2bのみを作成する。
【0046】
例えば、図1に示すストレージ装置1の構成時にDE−CM21−1のルートテーブル作成部212−1が作成するルートテーブルT21−1aには、図2におけるPHYの番号“PHY23−1a”の列に記載のSASアドレスが格納される。また、図1に示すストレージ装置1の構成時に、DE−CM22−1のルートテーブル作成部222−1は、上述したようにルートテーブルT22−1bを作成しないため、図3においてはDE−CM22−1のPHY24−1bのルートテーブルは存在しない。なお、ルートテーブルT21−1aの作成は、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
【0047】
なお、ルートテーブル作成部212−1〜212−3及び222−1〜222−3は互いにほぼ同様の構成及び機能を備えている。以下、ルートテーブル作成部を示す符号としては、複数のルートテーブル作成部のうち1つを特定する必要があるときには符号212−1〜212−3及び222−1〜222−3を用いるが、任意のルートテーブル作成部を指すときには符号212及び222を用いる。
【0048】
また、ルートテーブルT21−1a,T22−1b,T21−2a,T22−2b,T21−3a,T22−3bは互いにほぼ同様のフォーマットを有している。以下、ルートテーブルを示す符号としては、複数のルートテーブルのうち1つを特定する必要があるときには符号T21−1a,T22−1b,T21−2a,T22−2b,T21−3a,T22−3bを用いるが、任意のルートテーブルを指すときには符号T21及びT22を用いる。
【0049】
(A−2)第1実施形態におけるDE故障時のストレージ装置の動作
上述の如く構成されたストレージ装置1においては、アクセス経路中のいずれかのDEが故障した場合、即ち冗長化したDE−CMがともに使用不能となった場合においても、継続してストレージ装置1の動作を提供することができる。
以下、図6〜図8を参照しながらDE故障時のストレージ装置1の動作を説明する。
【0050】
図6は、図1に示すストレージ装置1のDE20−2が故障した場合の構成例を模式的に示す図である。
図7は、図6に示す、DE20−2が故障した構成例における第1経路上のCE−CM11及びDE−CM21が有する、ルートテーブルT11a,T21−1a,T21−3aに格納されるSASアドレスを示す図である。
【0051】
また、図8は、図6に示す、DE20−2が故障した構成例における第2経路上のCE−CM12及びDE−CM22が有する、ルートテーブルT12a,T22−1b,T22−3bに格納されるSASアドレスを示す図である。
図6において、CE10,DE20−1及びDE20−3におけるSAS制御デバイス110,120,210−1,220−1,210−3及び220−3が、DE20−2の故障に伴ってSASデバイスの接続構成に変化が生じたことを検知すると、各ルートテーブル作成部112,122,212−1,222−1,212−3及び222−3は、現在アクセスをすることが可能なSASデバイスのSASアドレスが格納されたルートテーブルT11a,T12a,T21−1a,T22−1b,T21−3a及びT22−3bを更新する。
【0052】
なお、図6及び図7に示すように、故障したDE20−2のPHY23−2a及び24−2bにおいては、ルートテーブルは作成されない。また、DE20−1のPHY24−1b及びDE20−3のPHY23−3aにおいては、その先に何も接続されていないため、SASの仕様上、ルートテーブルは作成されない。さらに、DE20−1のPHY23−1a及びDE20−3のPHY24−3bにおいては、それぞれの接続先となるDE20−2が故障しており、アクセス可能なSASデバイスがないため、それぞれのルートテーブルにはアクセス可能なSASデバイスのSASアドレスが存在しない。
【0053】
その結果、CE10およびDE20の各PHY13,14,23及び24には、図7及び図8に示すように、それぞれのPHY13,14,23及び24から参照可能な全てのSASデバイスのSASアドレスが格納されたルートテーブルが対応付けられる。
CE−CM11は、このようにして作成されたルートテーブル格納部111に保持されたルートテーブルT11aから、図7における第1経路上のPHYの番号“PHY13a”の列に記載の“ディスク201−1〜201−L”のSASアドレスを得る。同様に、CE−CM12は、このようにして作成されたルートテーブル格納部121に保持されたルートテーブルT12aから、図8における第2経路上のPHYの番号“PHY14a”の列に記載の“ディスク203−1〜203−J”のSASアドレスを得る。
【0054】
次いで、CE−CM11のアクセス制御部113及びCE−CM12のアクセス制御部123は、それぞれのルートテーブル格納部111又は121に格納されたルートテーブルに基づいて、アクセス対象であるディスクに到達できるアクセス経路を特定する。そして、アクセス制御部113及び123は、特定された経路側のイニシエータ114a又は124aに対して、アクセス対象であるディスクに対する処理を伝える。
【0055】
例えば、ホスト装置からCE10に対して、DE20−1のディスク201−2に対するリード要求がなされた場合、アクセス制御部113及び123は、それぞれのルートテーブル格納部111及び121に保持されたルートテーブルT11a,T12aを参照する。そして、アクセス制御部113は、ルートテーブルT11aにおいてDE20−1のディスク201−2のSASアドレスを見出すことになり(図7参照)、当該リード要求のためのアクセス経路を第1経路に特定する。
【0056】
また、例えば、ホスト装置からCE10に対して、DE20−3のディスク203−Jに対するリード要求がなされた場合、アクセス制御部113及び123は、それぞれのルートテーブル格納部111及び121に保持されたルートテーブルT11a,T12aを参照する。そして、アクセス制御部123は、ルートテーブルT12aにおいてDE20−3のディスク203−JのSASアドレスを見出すことになり(図8参照)、当該リード要求のためのアクセス経路を第2経路に特定する。
【0057】
そして、経路を特定したアクセス制御部113又は123は、ホスト装置からのリード要求をイニシエータ114a又は124aに伝え、イニシエータ114a又は124aは、PHY13a又は14aを介して、DE−CM21又は22に対して対象ディスクへのリード要求を発行する。
上述のことから、図6に示すように、何らかの原因によりDE20−2全体が故障した場合、第1経路においては、CE10のCE−CM11は、PHY13a及びPHY23−1bを経由してDE20−1のDE−CM21−1にアクセスすることができ、記憶部28−1に対する処理を行なうことができる。
【0058】
また、第1経路とは異なる経路で配線されている第2経路においては、CE10のCE−CM12は、PHY14a及びPHY24−3aを経由してDE20−3のDE−CM22−3にアクセスすることができ、記憶部28−3に対する処理を行なうことができる。
従って、CE−CM11及び12は、図6に示すストレージ装置1のDE20−2が故障した場合においても、故障後にルートテーブル作成部112及び122が作成したルートテーブルT11a,T12aに基づいて、第1経路及び第2経路を選択的に用いることで、DE20−1のディスク201にアクセスをすることができるとともに、故障したDE20−2より後段のDE20−3のディスク203にもアクセスをすることができる。
【0059】
このように、第1実施形態のストレージ装置1によれば、より簡素な構成で、アクセス経路中のいずれか一つのDEが故障した場合でも、継続して、故障したDE以外の全てのDEに対するアクセスが可能になり、DEの障害発生に伴う業務影響度を最小限に抑えることができる。
(A−3)第1実施形態におけるDEの増設方法
次に、本実施形態のDE増設手順について図9を参照しながら説明する。
【0060】
図9は、図1に示すストレージ装置1における、DE20−4の増設手順を説明するとともに、DE20−4の増設後の構成例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。また、増設したDE20−4は、DE20−1〜20−3と同様の構成であるため、その詳細な説明は省略する。
【0061】
ここで、図9において、ケーブル25−4及び26−4は、前述した図1の構成から、新たに追加されたケーブルである。
始めに、第2経路において、CE−CM12のPHY14aとDE−CM20−3のPHY24−3aとを連結するケーブル26−1の、DE−CM20−3のPHY24−3a側を取り外し、新たに増設するDE20−4のDE−CM22−4のPHY24−4aに接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを作成、または更新する。
【0062】
次いで、第2経路において、新たなケーブル26−4によって、DE−CM22−3のPHY24−3aとDE−CM22−4のPHY24−4bとを接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを更新する。
また、第1経路において、新たなケーブル25−4によって、DE−CM21−3のPHY23−3aとDE−CM21−4のPHY23−4bとを接続する。このとき、第1経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM11及びDE−CM21のそれぞれがルートテーブルを作成、または更新する。
【0063】
上述した手順により、DE20−4の増設が完了する。
なお、ケーブル25−4によるPHY23−3aとPHY23−4bとの接続は、上述した手順のいずれの時点で行なってもよい。つまり、ケーブル26−4によるPHY24−3aとPHY24−4bとの接続の前に行なってもよい。
このように、第1実施形態のストレージ装置1では、少なくとも以下の2つのステップ(S1),(S2)によってDEが増設される。
【0064】
(S1)増設対象のDE20−4における2つのDE−CM21−4,22−4の一方を、第1経路における最後のDE20−3に縦続接続するステップ。
(S2)増設対象のDE20−4における2つのDE−CM21−4,22−4の他方を、第2経路における他方のCE−CM12と第2経路における最初のDE−CM22−3との間に縦続接続するステップ。
【0065】
これにより、ストレージ装置1では、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1を継続して動作させることができる。つまり、DE増設作業中も、ストレージ装置1の第1経路は、CE−CM11からDE−CM21−3まで接続されているため、ストレージ装置1は、継続してDE20−1〜20−3の記憶部28−1〜28−3にアクセスすることが可能である。
【0066】
なお、DE20−4を撤去する場合は、上述した手順と逆の順序で、ケーブルの結線を行なえばよい。
(B)第2実施形態
(B−1)第2実施形態の構成
第1実施形態のストレージ装置1は、ディスクやエンクロージャをループ状に接続することが許容されていないSASを採用している。しかし、第2実施形態のストレージ装置1’は、後述するCE−CM11’及び12’が有するループ検出部114及び124並びにループ選択部115及び125により、論理的にルートテーブルの作成を制御することで、ループ状の接続が可能となっている。以下、第2実施形態のストレージ装置1’の構成について詳述する。
【0067】
図10は、第2実施形態のストレージ装置1’の構成例を模式的に示す図、図11は、第2実施形態のストレージ装置1’におけるCE10’の構成例を示すブロック図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。
【0068】
図10に示すように、第2実施形態のストレージ装置1’も、第1実施形態のストレージ装置1と同様に構成されているが、第2実施形態のストレージ装置1’においては、第1実施形態のCE10に代えCE10’が備えられている。このCE10’では、図10及び図11に示すように、第1実施形態のCE10におけるCE−CM11及び12に代え、CE−CM11’及び12’が備えられている。また、図11に示すように、CE−CM11’及び12’では、それぞれ、第1実施形態のSAS制御デバイス110及び120に代え、SAS制御デバイス110’及び120’が備えられている。
【0069】
そして、SAS制御デバイス110’は、アクセス制御部113の替わりにアクセス制御部113’を備え、イニシエータ114aの替わりにイニシエータ114a’を備えるとともに、イニシエータ114b’,PHY13b及びループ選択部115をさらに有する。また、SAS制御デバイス120’は、アクセス制御部123の替わりにアクセス制御部123’を備え、イニシエータ124aの替わりにイニシエータ124a’を備えるとともに、イニシエータ124b’,PHY14b及びループ選択部125をさらに有する。
【0070】
ここで、第1実施形態のCE−CM11,12は、それぞれ1個のPHY13a,14aを有していたのに対し、第2実施形態のCE−CM11’,12’では、それぞれ、2個のPHY13a,13b;14a,14bを有している。なお、図10に示す構成例において、PHY13b及び14bは空きポートになっている。
SAS制御デバイス110’のイニシエータ114a’及び114b’は、それぞれ第1実施形態におけるイニシエータ114aと同様の機能を有するほか、後述する第2実施形態におけるDEの増設手順において、第1経路がループ状に結線されることを検出する。同様に、SAS制御デバイス120’のイニシエータ124a’及び124b’は、それぞれ第1実施形態におけるイニシエータ124aと同様の機能を有するほか、後述する第2実施形態におけるDEの増設手順において、第2経路がループ状に結線されることを検出する。
【0071】
以下、イニシエータ114a’,114b’,124a’及び124b’を、それぞれループ検出部114a’,114b’,124a’及び124b’という場合もある。また、イニシエータ114a’及び114b’をまとめてループ検出部114といい、イニシエータ124a’及び124b’をまとめてループ検出部124という場合もある。
また、ループ検出部114及び124は、各ルートテーブル作成部112及び122においてルートテーブルを作成する際に、下記(1)及び(2)の少なくとも一方を検出した場合に、第1経路又は第2経路がループ状に結線されている、つまりループを成していると判断する。
【0072】
(1)ルートテーブル上に自身のデバイスのSASアドレスが出現すること、つまりCE−CM11’又は12’に係る情報がルートテーブルT11a,T11b,T12a,T12bに現われること。
(2)ルートテーブルT11a,T11b,T12a,T12bの作成処理が一定時間経過後も終了しないこと。
【0073】
ループ選択部115は、ループ検出部114がループを検出すると、当該ループの2つの周方向の一方向を選択し、選択された方向に沿う順序でDE20が接続されているとみなしてルートテーブルを作成させるものである。より具体的に、ループ選択部115は、CE−CM11’からDE−CM21へアクセスするイニシエータとして、増設順序でアクセスするためのイニシエータ114a’又は増設順序とは逆の順序でアクセスするためのイニシエータ114b’のいずれか一方を選択するとともに、選択しなかった他方のイニシエータを無効にする。他方のイニシエータが無効になることで、ストレージ装置1’における各ルートテーブル作成部112及び212において、他方のPHY(無効になったイニシエータ側のPHY)が認識されなくなる。即ち、第1経路は、物理的にループ状に結線されているが、論理的には縦続接続されていることになる。従って、各ルートテーブル作成部112及び212においては、一方のPHY(選択されたイニシエータ側のPHY)からDE−CM21へアクセスする方向に沿った経路としてルートテーブルが作成される。
【0074】
例えば、ループ選択部115が、イニシエータ114a’を選択し、イニシエータ114b’を無効にした場合、ルートテーブル作成部112及び212は、イニシエータ114b’に対応するPHY13bを認識できなくなる。従って、CE−CM11’のPHY13aから、増設順序の方向のSASデバイスのSASアドレスについてのルートテーブルが作成され、増設順序に沿った第1経路が設けられることになる。
【0075】
ループ選択部125についても、ループ選択部115と同様である。つまり、ループ選択部125は、ループ検出部124がループを検出すると、CE−CM12’からDE−CM22へアクセスするイニシエータとして、増設順序でアクセスするためのイニシエータ124b’又は増設順序とは逆の順序でアクセスするためのイニシエータ124a’のいずれか一方を選択するとともに、選択しなかった他方のイニシエータを無効にする。
【0076】
また、ループ選択部115及び125は、上述の如く選択しなかった他方のイニシエータを無効にするために、有効/無効フラグを用いることができる。このフラグは、イニシエータ114a’,114b’,124a’,124b’のそれぞれに対応付けたテーブルとして設けることができ、このテーブルは、SAS制御デバイス用メモリ111及び121に格納することができる。あるいは、SASの一機能として、イニシエータ114a’,114b’,124a’,124b’について個別に有効/無効の管理を行なうこともできる。このような有効/無効の管理は、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
【0077】
そして、ループ選択部115又は125は、ループ検出部114又は124がループを検出すると、当該ループの2つの周方向の一方向を選択し、選択した一方のイニシエータを“有効”にする一方、選択しなかったイニシエータを“無効”にする。この場合、ルートテーブル作成部112,212,122,222は、この有効/無効に基づいてルートテーブルを作成する。
【0078】
また、ストレージ装置1’の接続構成が変更されたことをSAS制御デバイス110’又は120’が検知した場合、ループ選択部115又は125は、イニシエータ114a’及び114b’又は124a’及び124b’に対応付けられた有効/無効情報を削除(クリア)する。そして、ループ検出部114又は124が新たなループを検出する場合には、ループ選択部115又は125は、再度、当該ループの2つの周方向の一方向を選択し、選択した一方のイニシエータを“有効”にする一方、選択しなかったイニシエータを“無効”にする。
【0079】
ここで、ループ選択部115及び125が、それぞれ経路を決定するイニシエータを選択する際に、増設順序方向又は増設順序とは逆の順序の、いずれのイニシエータを選択するかは、コントローラエンクロージャの設計や運用段階での設定等の任意の時点で、予め自由に決定することができる。つまり、ループ選択部115及び125が選択するイニシエータは、第1経路及び第2経路が互いに逆の順序となるように予め決定されてよく、第1経路及び第2経路がいずれも同じ順序となるように予め決定されてもよい。また、このように決定されたイニシエータを選択するための情報を、SAS制御デバイス用メモリ111又は121に保持してもよい。
【0080】
なお、第1実施形態において既述のように、第1経路と第2経路とが互いに逆の順序で構成されていれば、ストレージ装置1’のいずれかのDEが故障した場合においても、CE−CM11'及び12’は、第1経路及び第2経路を選択的に用いることで、故障したDEを除く他のDEの記憶部にそれぞれアクセスすることができる。従って、第1経路及び第2経路が互いに逆の順序となるように、ループ選択部115及び125が選択するイニシエータが決定されることがより好ましい。
【0081】
アクセス制御部113’及び123’は、それぞれ第1実施形態におけるアクセス制御部113及び123と同様の構成及び機能を有する。このとき、アクセス制御部113’及び123’は、第1経路又は第2経路がループを成していることを検出した場合、ループ選択部115,125,ルートテーブル作成部112,122,212,222によって上述の如く作成されたルートテーブルに基づいてアクセス制御を行なう。また、アクセス制御部113’は、図14〜図16を参照して後述するストレージ装置1’が、ループ状の経路を有する場合にDE故障が発生すると、ルートテーブル作成部112が作成する、CE−CM11’の2つのPHY13a及び13bについてのルートテーブルT11a及びT11bに基づいて、アクセス対象の記憶部に応じてアクセス経路を制御する機能を持つ。同様に、アクセス制御部123’は、図14〜図16を参照して後述するストレージ装置1’が、ループ状の経路を有する場合にDE故障が発生すると、ルートテーブル作成部122が作成する、CE−CM12’の2つのPHY14a及び14bについてのルートテーブルT12a及びT12bに基づいて、アクセス対象の記憶部に応じてアクセス経路を制御する機能を持つ。
【0082】
ここで、ループ検出部114及び124並びにループ選択部115及び125を設けた理由を述べる。第1実施形態と同様、第2実施形態におけるストレージ装置1’も、SASを採用したものである。しかしながら、SASは、ディスクやエンクロージャをループ状に接続することが許容されていない。また、仮にこれらがループ状に接続された場合には、各ルートテーブル作成部112,122,212及び222において、ルートテーブル上に自身のデバイスのSASアドレスが出現するとともに、ルートテーブルの作成処理が終了しなくなる現象が発生する。
【0083】
そこで、第2実施形態におけるストレージ装置1’は、CE−CM11’及び12’のSAS制御デバイス110’及び120’に、ループ検出部114及び124とループ選択部115及び125とをそれぞれ有して構成される。これにより、ルートテーブル作成部112及び212並びに122及び222は、第1経路又は第2経路が一時的にループ状に結線されても、ループ検出部114及び124とループ選択部115及び125とにより、ルートテーブルを作成すべき方向が指定されるとともに、指定されなかった他方のイニシエータが無効にされるので、ループ選択部115及び125によって指定された順序に沿ったルートテーブルを作成する。これにより、ルートテーブル上に自身のデバイスのSASアドレスが出現するとともに、ルートテーブルの作成処理が終了しなくなるという従来の問題を解決することができる。
【0084】
なお、図10及び図11に示すストレージ装置1’の構成において、いずれかのDEが故障した場合、ストレージ装置1’は、第1実施形態と同様の動作をする。従って、その詳細な説明は省略する。
(B−2)第2実施形態におけるDEの増設方法
図12は、図10に示すストレージ装置における、DE20−4の増設手順を説明するとともに、DE20−4の増設中の構成例を模式的に示す図である。
【0085】
また、図13は、図12で説明した手順でDEを増設した後の構成例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。
以下、図12及び図13を参照しながら、第2実施形態におけるDEの増設方法を説明する。
【0086】
ここで、図12において、ケーブル25−4,25−5,26−4及び26−5は、前述した図10の構成から、新たに追加されたケーブルである。また、図中これらのケーブルに付されている括弧付き数字は、DE20−4を増設する際におけるケーブルの結線順序を表しており、以下、この括弧付き数字を用いてDEの増設手順を説明する。
始めに、第1経路において、増設作業中にのみ用いるケーブル25−5によって、CE−CM11’における空きポートのPHY13bと、DE−CM21−4のPHY23−4aとを接続する(手順(1))。また、第2経路において、増設作業中にのみ用いるケーブル26−5によって、CE−CM12’における空きポートのPHY14bと、DE−CM22−1のPHY24−1bとを接続する(手順(1)’)。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを作成、または更新する。また、第2経路はループ状に結線されることになる。従って、第2経路では、ルートテーブルの作成にあたり、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方のイニシエータを無効にする)。
【0087】
次いで、第1経路において、新たなケーブル25−4によって、DE−CM21−3のPHY23−3aとDE−CM21−4のPHY23−4bとを接続する(手順(2))。このとき、第1経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’及びDE−CM21のそれぞれがルートテーブルを更新する。また、第1経路はループ状に結線されることになる。従って、第1経路では、CE−CM11’のループ検出部114がループを検出するとともに、ループ選択部115がイニシエータ114a’又は114b’のいずれか一方を選択する(他方のイニシエータを無効にする)。
【0088】
そして、第2経路において、CE−CM12’のPHY14aとDE−CM20−3のPHY24−3aとを連結するケーブル26−1の、DE−CM22−3のPHY24−3a側を取り外し、新たに増設するDE20−4のDE−CM22−4のPHY24−4aに接続する(手順(3))。このとき、第2経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM12’及びDE−CM22のそれぞれがルートテーブルを作成、または更新する。
【0089】
さらに、第2経路において、新たなケーブル26−4によって、DE−CM22−3のPHY24−3aとDE−CM22−4のPHY24−4bとを接続する(手順(4))。このとき、第2経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM12’及びDE−CM22のそれぞれがルートテーブルを更新する。また、第2経路はループ状に結線されることになる。従って、第2経路では、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方を無効にする)。
【0090】
最後に、第1経路において、増設作業中にのみ用いるケーブル25−5を、CE−CM11’のPHY13bと、DE−CM21−4のPHY23−4aとから取り外す(手順(5))。また、第2経路において、増設作業中にのみ用いるケーブル26−5を、CE−CM12’のPHY14bと、DE−CM22−1のPHY24−1bとから取り外す(手順(5)’)。
【0091】
上述した手順により、図13に示すように、DE20−4の増設が完了する。
このように、第2実施形態のストレージ装置1’では、少なくとも以下の4つのステップ(S11)〜(S14)によってDEが増設される。
(S11)増設対象のDE20−4における2つのDE−CM21−4,22−4の一方を、第1経路における最後のDE−CM21−3に縦続接続するとともに第1経路における一方のCE−CM11’に接続することにより、第1経路をループにするステップ(手順(1),(2))。
【0092】
(S12)第2経路における他方のCE−CM12’と第2経路における最後のDE−CM22−1とを接続することにより、第2経路をループにするステップ(手順(1)’)。
(S13)第2経路をループにした後に、増設対象のDE20−4における2つのDE−CM21−4,22−4の他方を、第2経路における他方のCE−CM12’と第2経路における最初のDE−CM22−3との間に縦続接続するステップ(手順(3),(4))。
【0093】
(S14)増設対象のDE20−4における他方のDE−CM22−4を縦続接続した後に、増設対象のDE20−4における一方のDE−CM21−4と第1経路における一方のCE−CM11’との接続を外すとともに、第2経路における他方のCE−CM12’と第2経路における最後のDE−CM22−1との接続を外すステップ(手順(5),(5)’)。
【0094】
これにより、ストレージ装置1’は、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1’を継続して動作させることができる。つまり、DE増設作業中も、ストレージ装置1’の第1経路は、CE−CM11からDE−CM21−4まで接続されているため、ストレージ装置1’は、継続してDE20−1〜20−3の記憶部28−1〜28−3にアクセスすることが可能である。
【0095】
なお、DE増設手順(ケーブルの結線順序)は、上述したステップ(S11)〜(S14)を含むものであれば、上述した順序に限定されるものではない。
例えば、手順(1),(1)’のケーブル25−5の接続とケーブル26−5の接続は、いずれの接続が先でもよく、手順(5),(5)’のケーブル25−5の取り外しとケーブル26−5の取り外しは、いずれの取り外しが先でもよい。
【0096】
上述した手順でDE20−4の増設を行なうことにより、ステップ(S11)〜(S13)の間、常に第1経路又は第2経路のうち、少なくとも一方の経路はループ状に設けられることになる。このとき、ループ選択部115及び125並びにルートテーブル作成部112及び122によって、第1経路及び第2経路が互いに逆の順序となるようにルートテーブルが作成されることが好ましい。
【0097】
また、第2実施形態では、SASを採用したストレージ装置1’において、DE増設中にアクセス経路(第1経路及び第2経路)がループを成しても、ループ検出部114,124,ループ選択部115,125,ルートテーブル作成部112,122,212,222によってルートテーブルを作成することが可能である。従って、ストレージ装置1’における全ての記憶部(ディスク)に対するアクセスを行なうことが可能になっている。
【0098】
これにより、DEの増設中に、ストレージ装置1’のいずれかのDEが故障した場合においても、CE−CM11'及び12’は、第1経路及び第2経路を選択的に用いることで、故障したDE以外の全てのDEに対してアクセスすることができる。つまり、DE増設中、2つのアクセス経路(第1経路及び第2経路)によって、常に二重化された状態を保つことができるので、DE増設中もストレージ装置1’について高い信頼性を保つことができる。
【0099】
なお、DE20−4を撤去する場合は、上述した手順と逆の順序で、ケーブルの結線を行なえばよい。
(B−3)第2実施形態においてDE増設中(アクセス経路がループ状の経路となった際)にDEが故障した場合のストレージ装置の動作
以下、図14〜図16を参照しながらループ状の経路である場合のDE故障時のストレージ装置1’の動作を説明する。
【0100】
図14は、図12に示すストレージ装置1’のDE20−2がDE20−4の増設中に故障した場合の構成例を模式的に示す図である。
図15は、図14に示す、DE20−2が故障した構成例における第1経路上のCE−CM11’及びDE−CM21が有する、ルートテーブルT11a,T11b,T21にそれぞれ格納されるSASアドレスを示す図である。
【0101】
また、図16は、図14に示す、DE20−2が故障した構成例における第2経路上のCE−CM12’及びDE−CM22が有する、ルートテーブルT12a,T12b,T22にそれぞれ格納されるSASアドレスを示す図である。
図14に示すように、ストレージ装置1’においてDE20−2が故障すると、CE10’,DE20−1,DE20−3及びDE20−4が有するそれぞれのSAS制御デバイス110’,120’,210−1,220−1,210−3,220−3,210−4及び220−4は、SASデバイスの接続構成に変化が生じたことを検知する。このとき、ループ選択部115及び125は、DE20−2の故障前、すなわち第1経路及び第2経路がともにループ状に接続されていたときのSASデバイスの接続構成時にイニシエータ114a’又は114b’及び124a’又は124b’に設定していた“無効”情報を削除(クリア)する。そして、各ルートテーブル作成部112,122,212−1,222−1,212−3,222−3,212−4,222−4は、既知の手法により、現在アクセスをすることが可能なSASデバイスのSASアドレスが格納されたルートテーブルT11a,T11b,T12a,T12b,T21,T22を更新する。
【0102】
その結果、CE10’およびDE20の各PHY13,14,23及び24には、図15及び図16に示すように、それぞれのPHY13,14,23及び24から参照可能な全てのSASデバイスのSASアドレスが格納されたルートテーブルT11a,T11b,T12a,T12b,T21,T22が対応付けられる。
なお、図15及び図16に示すように、故障したDE20−2のPHY23−2a,23−2b,24−2a及び24−2bにおいては、ルートテーブルは作成されない。また、DE20−1のPHY23−1b及び24−1b,DE20−3のPHY23−3a及び24−3a並びにDE20−4のPHY23−4a及び24−4aにおいては、SASの仕様上、ルートテーブルは作成されない。さらに、DE20−1のPHY23−1a及び24−1a並びにDE20−3のPHY23−3b及び24−3bにおいては、それぞれの接続先となるDE20−2が故障しており、アクセス可能なSASデバイスがないため、それぞれのルートテーブルにはアクセス可能なSASデバイスのSASアドレスが存在しない。
【0103】
CE−CM11’のアクセス制御部113’は、作成されたルートテーブルT11aから、図15における第1経路上のPHYの番号“PHY13a”の列に記載の“記憶部28−1の全ディスク”のSASアドレスを得る。また、アクセス制御部113'は、作成されたルートテーブルT11bから、PHYの番号“PHY13b”の列に記載の“記憶部28−3の全ディスク”及び“記憶部28−4の全ディスク”のSASアドレスを得る。そして、アクセス制御部113’は、次にルートテーブルが更新されるまでの間、記憶部28−1が有するディスクに対してアクセス要求のあった場合には、PHY13aに対応するイニシエータ114a’に対して、当該アクセス対象であるディスクへのアクセスを指示する。一方、アクセス制御部113’は、記憶部28−3又は28−4が有するディスクに対してアクセス要求のあった場合には、PHY13bに対応するイニシエータ114b’に対して、当該アクセス対象であるディスクへのアクセスを指示する。
【0104】
同様に、CE−CM12’のアクセス制御部123’は、作成されたルートテーブルT12aから、図16における第2経路上のPHYの番号“PHY14a”の列に記載の“記憶部28−3の全ディスク”及び“記憶部28−4の全ディスク”のSASアドレスを得る。また、アクセス制御部123'は、作成されたルートテーブルT12bから、PHYの番号“PHY14b”の列に記載の“記憶部28−1の全ディスク”のSASアドレスを得る。そして、アクセス制御部123’は、次にルートテーブルが更新されるまでの間、記憶部28−1が有するディスクに対してアクセス要求のあった場合には、PHY14bに対応するイニシエータ124b’に対して、当該アクセス対象であるディスクへのアクセスを指示する。一方、アクセス制御部123'は、記憶部28−3又は28−4が有するディスクに対してアクセス要求のあった場合には、PHY14aに対応するイニシエータ124a’に対して、当該アクセス対象であるディスクへのアクセスを指示する。
【0105】
この場合、CE−CM11’及び12’のいずれも、記憶部28−1,28−3及び28−4の有するそれぞれのディスクにアクセスすることができる。
ここで、アクセス制御部113’及び123’は、第1実施例で説明したように、所定の条件に従い、アクセス経路を第1経路又は第2経路のいずれかに特定する。或いは、コントローラエンクロージャの設計や運用段階での設定等の任意の時点で、アクセス経路を第1経路又は第2経路のいずれに特定するかを、予め設定するように構成してもよい。
【0106】
このようにして、CE−CM11’及び12’は、アクセス制御部113’又は123’によって、それぞれのルートテーブル格納部111又は121に格納されたルートテーブルT11a,T11b又はT12a,T12bに基づいて、アクセス対象であるディスクに到達できるアクセス経路を特定する。そして、アクセス制御部113’又は123’は、特定された経路側のイニシエータ114a’,114b’,124a’又は124b’のいずれかに対して、アクセス対象であるディスクに対する処理を指示する。
【0107】
例えば、ホスト装置からCE10’に対して、DE20−1の記憶部28−1のディスク201−2に対するリード要求がなされた場合、アクセス制御部113’及び123’は、それぞれのルートテーブル格納部111及び121に保持されたルートテーブルT11a,T11b,T12a,T12bを参照する。そして、アクセス制御部113’は、図15に示すPHY13aに対応するルートテーブルT11a中から記憶部28−1のディスク201−2のSASアドレスを見出すことになる。一方、アクセス制御部123’は、図16に示すPHY14bに対応するルートテーブルT12b中から記憶部28−1のディスク201−2のSASアドレスを見出すことになる。このように、CE−CM11’及び12のいずれからも記憶部28−1のディスク201−2へアクセス可能な場合は、アクセス制御部113’又は123’のいずれか一方のみが、対応するイニシエータ114a’又は124b’に、記憶部28−1のディスク201−2へのアクセスを指示する。
【0108】
上述のことから、図14に示すように、何らかの原因によりDE20−2が故障した場合、第1経路においては、CE10’のCE−CM11’は、PHY13a及びPHY23−1bを経由してDE20−1のDE−CM21−1にアクセスし、記憶部28−1に対する処理を行なうことができる。また、CE−CM11’は、PHY13b及びPHY23−4aを経由してDE20−4のDE−CM21−4にアクセスし、記憶部28−4に対する処理を行なうことができる。さらに、CE−CM11’は、PHY13b及びPHY23−4aから、PHY23−4b及びPHY23−3aを経由してDE20−3のDE−CM21−3にアクセスし、記憶部28−3に対する処理を行なうことができる。
【0109】
一方、第1経路とは異なる経路で配線されている第2経路においても、CE10’のCE−CM12’は、PHY14b及びPHY24−1bを経由してDE20−1のDE−CM22−1にアクセスし、記憶部28−1に対する処理を行なうことができる。また、CE−CM12’は、PHY14a及びPHY24−4aを経由してDE20−4のDE−CM22−4にアクセスし、記憶部28−4に対する処理を行なうことができる。さらに、CE−CM12’は、PHY14a及びPHY24−4aから、PHY24−4b及びPHY24−3aを経由してDE20−3のDE−CM22−3にアクセスし、記憶部28−3に対する処理を行なうことができる。
【0110】
従って、CE−CM11’及び12’は、図14に示す、ループ状の経路となっているストレージ装置1’のDE20−2が故障した場合においても、故障後にルートテーブル作成部112及び122が作成したルートテーブルに基づいて、第1経路及び第2経路を選択的に用いることで、DE20−1,DE20−3及びDE20−4の記憶部28−1,28−3及び28−4にそれぞれアクセスをすることができる。
【0111】
このように、第2実施形態のストレージ装置1’によれば、ループ状の経路となっている場合において、より簡素な構成で、アクセス経路中のいずれか一つのDEが故障した場合でも、第1経路及び第2経路を選択的に用いることで、継続して、故障したDE以外の全てのDEに対するアクセスが可能になり、DEの障害発生に伴う業務影響度を最小限に抑えることができる。
【0112】
また、DE増設中、2つのアクセス経路(第1経路及び第2経路)によって、常に二重化された状態を保つことができるので、DE増設中もストレージ装置1’について高い信頼性を保つことができる。
(C)第2実施形態の変形例
第2実施形態で述べたように、ストレージ装置1’は、ディスクやエンクロージャをループ状に接続することが許容されていないSASを採用している。しかし、CE−CM11’及び12’が有するループ検出部114及び124並びにループ選択部115及び125により、論理的にルートテーブルの作成を制御することで、ループ状の接続が可能となっている。
【0113】
以下、図10に示すストレージ装置1’に基づいて、図17及び図18を参照しながら、DEの増設手順の変形例を説明する。
図17は、図10に示すストレージ装置1’における、DE20−4の増設手順の変形例を説明するとともに、DE20−4の増設後の構成の変形例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。
【0114】
ここで、図17において、ケーブル25−4,25−6,26−4及び26−6は、前述した図10の構成から、新たに追加されたケーブルである。
始めに、新たなケーブル25−4によって、DE−CM21−3のPHY23−3aとDE−CM21−4のPHY23−4bとを接続する。このとき、第1経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’及びDE−CM21のそれぞれがルートテーブルを作成、または更新する。
【0115】
次に、新たなケーブル25−6によって、CE−CM11’のPHY13bとDE−CM21−4のPHY23−4aとを接続する。このとき、第1経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’及びDE−CM21のそれぞれがルートテーブルを更新する。また、第1経路はループ状に結線されることになる。従って、第1経路では、CE−CM11’のループ検出部114がループを検出するとともに、ループ選択部115がイニシエータ114a’又は114b’のいずれか一方を選択する(他方を無効にする)。
【0116】
また、新たなケーブル26−4によって、DE−CM22−1のPHY24−1bとDE−CM22−4のPHY24−4bとを接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを作成、または更新する。
最後に、新たなケーブル26−6によって、CE−CM12’のPHY14bとDE−CM22−4のPHY24−4aとを接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを更新する。また、第2経路はループ状に結線されることになる。従って、第2経路では、ルートテーブルの作成にあたり、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方を無効にする)。
【0117】
上述した手順により、DE20−4の増設が完了する。
このように、第2実施形態の変形例のストレージ装置1’は、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1’を継続して動作させることができる。
図17に示すDEの増設においては、図10におけるストレージ装置1’のケーブル25−1〜25−3及び26−1〜26−3の配線を変更せず、第1経路及び第2経路合わせて、新たな4本のケーブル25−4,25−6,26−4及び26−6を設けている。従って、DE増設作業中も、ストレージ装置1’は、第1経路及び第2経路が互いに逆の順序で接続されているため、ストレージ装置1’は、継続してDE20−1〜20−3の記憶部28−1〜28−3にアクセスすることができる。また、図10におけるストレージ装置1’の既存の配線の変更がないため、増設作業を容易に行なうことが可能である。
【0118】
なお、DE増設時のケーブルの結線順序は、上述した順序に限定されるものではない。
図18は、図17に示すストレージ装置1’における、DE20−5の増設手順を説明するとともに、DE20−5の増設後の構成例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。また、増設したDE20−5は、DE20−1〜20−4と同様の構成及び機能であるため、その詳細な説明は省略する。
【0119】
ここで、図18において、ケーブル25−5及び26−5は、前述した図17のストレージ装置1’の構成から、新たに追加されたケーブルである。
始めに、第1経路において、CE−CM11’のPHY13bとDE−CM21−4のPHY23−4aとを連結するケーブル25−6のDE−CM21−4のPHY23−4a側を取り外す。また、第2経路において、CE−CM12’のPHY14bとDE−CM22−4のPHY24−4aとを連結するケーブル26−6のDE−CM22−4のPHY24−4a側を取り外す。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを更新する。
【0120】
次いで、第1経路において、新たなケーブル25−5によって、DE−CM21−4のPHY23−4aと増設をするDE20−5のDE−CM21−5のPHY23−5bとを接続する。また、第2経路において、新たなケーブル26−5によって、DE−CM22−4のPHY24−4aと増設をするDE20−5のDE−CM22−5のPHY24−5bとを接続する。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを作成、または更新する。
【0121】
最後に、第1経路において、一端が取り外されているケーブル25−6を、DE−CM21−5のPHY23−5aに接続する。また、第2経路において、一端が取り外されているケーブル26−6を、DE−CM22−6のPHY24−5aに接続する。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを更新する。また、第1経路及び第2経路はともにループ状に結線されることになる。従って、第1経路では、ルートテーブルの作成にあたり、CE−CM11’のループ検出部114がループを検出するとともに、ループ選択部115がイニシエータ114a’又は114b’のいずれか一方を選択する(他方を無効にする)。第2経路では、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方を無効にする)。
【0122】
上述した手順により、DE20−5の増設が完了する。
このように、第2実施形態の変形例のストレージ装置1’は、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1’を継続して動作させることができる。
さらに、DE増設作業中も、ストレージ装置1’の第1経路及び第2経路は、ともにCE10’からDE20−4まで接続されているため、ストレージ装置1’は、継続してDE20−1〜20−4の記憶部28−1〜28−4にアクセスすることが可能である。
【0123】
なお、DE増設時のケーブルの結線順序は、上述した順序に限定されるものではない。
例えば、最初の作業において、第1経路におけるケーブル25−6の一端をDE−CM21−4のPHY23−4aから取り外し、第2経路におけるケーブル26−6の一端のDE−CM22−4のPHY24−4aから取り外した後は、先に第1経路における結線を最後まで行い、CE−CM11’からDE−CM21−5までをループ状に結線してしてもよい。そして、その後、第2経路における結線を最後まで行なえばよい。
【0124】
これにより、DE増設作業時にいずれかのDEが故障した場合でも、CE−CM11’のアクセス制御部113’がPHY13a又は13bのいずれかの経路を、アクセス対象の記憶部に応じて選択的に切り替えることができる。従って、DEの故障により第2経路からアクセスができなくなったアクセス対象の記憶部に対しても、CE10’から継続してアクセスすることが可能となる。
【0125】
(D)その他
以上、本発明の好ましい実施形態について詳述したが、本発明は、係る特定の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲内において、種々の変形、変更して実施することができる。
なお、上述したルートテーブル作成部112,122,212,222;アクセス制御部113,113’,123,123’;イニシエータ114a,114a’,114b,114b’,124a,124a’,124b,124b’及びループ選択部115,125としての機能は、コンピュータ(CPU,情報処理装置,各種端末を含む)が所定のアプリケーションプログラムを実行することによって実現されてもよい。
【0126】
そのプログラムは、例えばフレキシブルディスク,CD(CD−ROM,CD−R,CD−RWなど),DVD(DVD−ROM,DVD−RAM,DVD−R,DVD−RW,DVD+R,DVD+RWなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体から記憶部制御プログラムを読み取って内部記憶装置または外部記憶装置に転送し格納して用いる。また、そのプログラムを、例えば磁気ディスク,光ディスク,光磁気ディスク等の記憶装置(記録媒体)に記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
【0127】
ここで、コンピュータとは、ハードウェアとOS(オペレーティングシステム)とを含む概念であり、OSの制御の下で動作するハードウェアを意味している。また、OSが不要でアプリケーションプログラム単独でハードウェアを動作させるような場合には、そのハードウェア自体がコンピュータに相当する。ハードウェアは、少なくとも、CPU等のマイクロプロセッサと、記録媒体に記録されたコンピュータプログラムを読み取るための手段とをそなえている。
【0128】
上記アプリケーションプログラムは、上述のようなコンピュータに、上記機能を実現させるプログラムコードを含んでいる。また、その機能の一部は、アプリケーションプログラムではなくOSによって実現されてもよい。
【符号の説明】
【0129】
1,1’ ストレージ装置
10,10’ コントローラエンクロージャ(CE,制御筐体)
11,11’,12,12’ コントローラモジュール(CE−CM,制御部)
13a,13b,14a,14b 物理層(PHY)
18 記憶部
18−1〜M ディスク
20−1〜5 ドライブエンクロージャ(DE,増設筐体)
21−1〜5,22−1〜5 コントローラモジュール(DE−CM,増設制御部)
23−1a,23−1b,24−1a,24−1b 物理層(PHY)
23−2a,23−2b,24−2a,24−2b 物理層(PHY)
23−3a,23−3b,24−3a,24−3b 物理層(PHY)
23−4a,23−4b,24−4a,24−4b 物理層(PHY)
23−5a,23−5b,24−5a,24−5b 物理層(PHY)
25−1〜6,26−1〜6 ケーブル
28−1〜5 記憶部
100,102 CPU
101,103 メモリ
110,110’,120,120’ SAS制御デバイス
111,121 SAS制御デバイス用メモリ(ルートテーブル格納部,格納部)
112,122 ルートテーブル作成部(作成部)
113,113’,123,123’ アクセス制御部
114a,124a イニシエータ
114a’,114b’ イニシエータ(ループ検出部,検出部)
124a’,124b’ イニシエータ(ループ検出部,検出部)
115,125 ループ選択部(選択部)
201−1〜L,202−1〜K,203−1〜J ディスク
210−1,220−1 SAS制御デバイス
211−1 SAS制御デバイス用メモリ(ルートテーブル格納部,格納部)
221−1 SAS制御デバイス用メモリ(ルートテーブル格納部,格納部)
212−1,222−1 ルートテーブル作成部(作成部)
T11,T12,T21−1〜4,T22−1〜4 ルートテーブル
【技術分野】
【0001】
本件は、制御筐体及びこの制御筐体に縦続接続された2以上の増設筐体を有するストレージ装置および同装置の増設方法に関する。
【背景技術】
【0002】
従来、SAS(Serial Attached SCSI)対応のディスクを搭載するストレージ装置、例えばRAID(Redundant Arrays of Inexpensive Disks)システムがある。このようなストレージ装置には、多くのディスク搭載をサポートするため、システムの中心となる制御筐体であるコントローラエンクロージャ(Controller Enclosure;以下、CEという)と増設ディスクを搭載するための増設筐体である複数のドライブエンクロージャ(Drive Enclosure;以下、DEという)とを備えるものがある。
【0003】
この場合、SASはループ状の接続が許容されていないため、CEのコントローラモジュール(Controller Module;以下、CEのCMをCE−CMという)とDEのCM(以下、DEのCMをDE−CMという)との接続及びDE−CM間の接続は、図19に示すように、DEの増設順に数珠繋ぎ(デイジーチェーン;以下、縦続接続という)で行なわれる。しかしながら、このようなストレージ装置では、アクセス経路中のいずれかのDE−CMが故障した場合には、CEは故障したDE及びそれより後段のDEへアクセスすることができなくなる。そのため、図20に示すように、CE−CM及びDE−CMを冗長化(例えば二重化)するとともに、CE−DE間及びDE−DE間のケーブルを冗長化(例えば二重化)する手法が用いられている。
【0004】
他にも、例えば、ストレージシステムにおいて、コントローラ、又はスイッチ装置の空きポートと、他のスイッチ装置の空きポートとをループ状に物理的に接続し、ルーティングテーブルによって切り離しておくことで、論理的に2つのカスケード状の経路とするものが知られている。このシステムにおいては、いずれかの経路で障害が発生しても、ルーティングテーブルのステータス値を変更することで、コントローラは他の経路を介してスイッチ装置に論理的に接続でき、従ってシステムの稼動を継続することが可能となる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−71005号公報
【特許文献2】特開2005−293595号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述のようなストレージ装置においては、アクセス経路中のいずれかのDEが故障した場合、即ち冗長化したDE−CMがともに使用不能となった場合、CEは、故障したDE及び故障したDEより後段のDEにアクセスすることができなくなる。
また、ストレージシステムのコントローラ及びスイッチ装置の空きポートを利用してループ状に接続する構成では、スイッチ装置の数が増大すると、物理パスの配線が複雑になり、配線の管理が煩雑となる問題がある。
【0007】
本件の目的の1つは、より簡素な構成で、アクセス経路中のDEが故障した場合でも、継続して、故障したDE以外の全てのDEに対するアクセスを可能にすることである。
なお、前記目的に限らず、後述する発明を実施するための形態に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本発明の他の目的の1つとして位置付けることができる。
【課題を解決するための手段】
【0008】
本件は、記憶部、および、記憶部に対する冗長アクセス制御を行なう2つの制御部を含む制御筐体と、増設記憶部、および、増設記憶部に対する冗長アクセス制御を行なう2つの増設制御部とを含む2以上の増設筐体とをそなえ、制御筐体に対し2以上の増設筐体を縦続接続して増設するストレージ装置であって、制御筐体における2つの制御部の一方に対し、2以上の増設筐体のそれぞれにおける2つの増設制御部の一方を縦続接続して形成される第1経路と、制御筐体における2つの制御部の他方に対し、2以上の増設筐体のそれぞれにおける2つの増設制御部の他方を縦続接続して形成される第2経路とをそなえ、第1経路における一方の増設制御部の接続順序が、2以上の増設筐体の増設順序であり、第2経路における他方の増設制御部の接続順序が、2以上の増設筐体の増設順序と異なる順序であることを要件としたものである。
【発明の効果】
【0009】
開示の技術によれば、より簡素な構成で、アクセス経路中の増設筐体が故障した場合でも、継続して、故障した増設筐体以外の全ての増設筐体に対するアクセスが可能になり、増設筐体の障害発生に伴う業務影響度を最小限に抑えることができる。
【図面の簡単な説明】
【0010】
【図1】第1実施形態のストレージ装置の構成例を模式的に示す図である。
【図2】図1に示す構成例における第1経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図3】図1に示す構成例における第2経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図4】第1実施形態のCEの構成例を示すブロック図である。
【図5】第1実施形態のDEの構成例を示すブロック図である。
【図6】図1に示すストレージ装置のDEの一つが故障した場合の構成例を模式的に示す図である。
【図7】図6に示す構成例における第1経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図8】図6に示す構成例における第2経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図9】図1に示すストレージ装置における、DEの増設手順を説明するとともに、DE増設後の構成例を模式的に示す図である。
【図10】第2実施形態のストレージ装置の構成例を模式的に示す図である。
【図11】第2実施形態のCEの構成例を示すブロック図である。
【図12】図10に示すストレージ装置における、DEの増設手順を説明するとともに、DE増設中の構成例を模式的に示す図である。
【図13】図12で説明した手順でDEを増設した後の構成例を模式的に示す図である。
【図14】図12に示すストレージ装置のDEの一つがDE増設中に故障した場合の構成例を模式的に示す図である。
【図15】図14に示す構成例における第1経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図16】図14に示す構成例における第2経路上のCE−CM及びDE−CMが有する、ルートテーブルに格納されるSASアドレスを示す図である。
【図17】図10に示すストレージ装置における、DEの増設手順の変形例を説明するとともに、DE増設後の構成の変形例を模式的に示す図である。
【図18】図17に示すストレージ装置における、DEの増設手順を説明するとともに、DE増設後の構成例を模式的に示す図である。
【図19】従来のストレージ装置におけるDEの増設状態の例を模式的に示す図である。
【図20】従来のストレージ装置におけるDEの増設状態の他の例を模式的に示す図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して本発明の実施の形態を説明する。
(A)第1実施形態
(A−1)第1実施形態の構成
図1は、第1実施形態としてのストレージ装置1の構成例を模式的に示す図である。
ストレージ装置1は、例えば、RAIDシステムである。
【0012】
図1に示すように、制御筐体としてのCE10は、記憶部18と、この記憶部18に対する冗長アクセス制御を行なう2つの制御部としてのCM11及び12とを有する。つまり、CE10は、CE−CM11又は12により、CE10が搭載する記憶部18にアクセス可能に構成されている。ここで、記憶部18は、M個のディスク(例えばHDD)18−1〜18−Mから構成されている。
【0013】
CE−CM11,12は、それぞれ1個の物理層13a,14aを有し、これらの物理層13a,14aを介して、DE20−1〜20−3へアクセスを行なう機能を有する。なお、以下、「物理層」(Physical layer)を「PHY」という。
増設筐体としてのDE20−1は、記憶部28−1と、この記憶部28−1に対する冗長アクセス制御を行なう2つの増設制御部としてのDE−CM21−1及びDE−CM22−1とを有する。つまり、DE20−1は、DE−CM21−1又はDE−CM22−1により、DE20−1が搭載する記憶部28−1にアクセス可能に構成されている。ここで、記憶部28−1は、L個のディスク(例えばHDD)201−1〜201−Lから構成されている。
【0014】
また、増設筐体としてのDE20−2は、記憶部28−2と、この記憶部28−2に対する冗長アクセス制御を行なう2つの増設制御部としてのDE−CM21−2及びDE−CM22−2とを有する。つまり、DE20−2は、DE−CM21−2又はDE−CM22−2により、DE20−2が搭載する記憶部28−2にアクセス可能に構成されている。ここで、記憶部28−2は、K個のディスク(例えばHDD)202−1〜202−Kから構成されている。
【0015】
さらに、増設筐体としてのDE20−3は、記憶部28−3と、この記憶部28−3に対する冗長アクセス制御を行なう2つの増設制御部としてのDE−CM21−3及びDE−CM22−3とを有する。つまり、DE20−3は、DE−CM21−3又はDE−CM22−3により、DE20−3が搭載する記憶部28−3にアクセス可能に構成されている。ここで、記憶部28−3は、J個のディスク(例えばHDD)203−1〜203−Jから構成されている。
【0016】
また、DE−CM21−1は、2個のPHY23−1a及び23−1bを有し、これらのPHY23−1a及び23−1bを介して、後段のDEへアクセスを行なう機能を有する。また、DE−CM21−2は、2個のPHY23−2a及び23−2bを有し、これらのPHY23−2a及び23−2bを介して、後段のDEへアクセスを行なう機能を有する。さらに、DE−CM21−3は、2個のPHY23−3a及び23−3bを有し、これらのPHY23−3a及び23−3bを介して、後段のDEへアクセスを行なう機能を有する。
【0017】
同様に、DE−CM22−1は、2個のPHY24−1a及び24−1bを有し、これらのPHY24−1a及び24−1bを介して、後段のDEへアクセスを行なう機能を有する。また、DE−CM22−2は、2個のPHY24−2a及び24−2bを有し、これらのPHY24−2a及び24−2bを介して、後段のDEへアクセスを行なう機能を有する。さらに、DE−CM22−3は、2個のPHY24−3a及び24−3bを有し、これらのPHY24−3a及び24−3bを介して、後段のDEへアクセスを行なう機能を有する。
【0018】
なお、DE20−1〜20−3は、互いにほぼ同様の構成及び機能を備えている。以下、DEを示す符号としては、複数のDEのうち1つを特定する必要があるときには符号20−1〜20−3を用いるが、任意のDEを指すときには符号20を用いる。
また、DE−CM21−1〜21−3及び22−1〜22−3は互いにほぼ同様の構成及び機能を備えている。以下、DE−CMを示す符号としては、複数のDE−CMのうち1つを特定する必要があるときには符号21−1〜21−3及び22−1〜22−3を用いるが、任意のDE−CMを指すときには符号21及び22を用いる。
【0019】
さらに、PHY23−1a〜23−3a,23−1b〜23−3b,24−1a〜24−3a及び24−1b〜24−3bは互いにほぼ同様の構成及び機能を備えている。以下、PHYを示す符号としては、複数のPHYのうち1つを特定する必要があるときには符号23−1a〜23−3a,23−1b〜23−3b,24−1a〜24−3a及び24−1b〜24−3bを用いるが、任意のPHYを指すときには符号23及び24又は23a,23b,24a及び24bを用いる。
【0020】
また、ディスク18−1〜18−M,201−1〜201−L,202−1〜202−K及び203−1〜203−Jは互いにほぼ同様の構成及び機能を備えている。以下、ディスクを示す符号としては、複数のディスクのうち1つを特定する必要があるときには符号18−1〜18−M,201−1〜201−L,202−1〜202−K及び203−1〜203−Jを用いるが、任意のディスクを指すときには符号18,201,202及び203を用いる。
【0021】
図1に示すストレージ装置1では、CE10に対し3つのDE20が縦続接続されて増設されている。
このとき、CE−CM11のPHY13aは、DE−CM21−1のPHY23−1bとケーブル25−1によって接続される。また、DE−CM21−1のPHY23−1aは、DE−CM21−2のPHY23−2bとケーブル25−2によって接続される。また、DE−CM21−2のPHY23−2aは、DE−CM21−3のPHY23−3bとケーブル25−3によって接続される。なお、DE−CM21−3のPHY23−3aは、空きポートになっている。
【0022】
一方、CE−CM12のPHY14aは、DE−CM22−3のPHY24−3aとケーブル26−1によって接続される。また、DE−CM22−3のPHY24−3bは、DE−CM22−2のPHY24−2aとケーブル26−3によって接続される。また、DE−CM22−2のPHY24−2bは、DE−CM22−1のPHY24−1aとケーブル26−2によって接続される。なお、DE−CM22−1のPHY24−1bは、空きポートになっている。
【0023】
従って、第1実施形態によれば、図1に示すように、CE−CM11には、DE−CM21−1,DE−CM21−2,DE−CM21−3が、この順序、つまりDE20の増設順序で縦続接続される。一方、CE−CM12には、DE−CM22−3,DE−CM22−2,DE−CM22−1が、この順序、つまりDE20の増設順序と逆の順序で縦続接続される。
【0024】
即ち、CE−CM11及びDE−CM21を縦続接続して形成されるアクセス経路と、CE−CM12及びDE−CM22を縦続接続して形成されるアクセス経路とは、互いに逆の接続順序となる。
以下、CE−CM11及びDE−CM21側のアクセス経路を第1経路といい、CE−CM12及びDE−CM22側のアクセス経路を第2経路という場合がある。
【0025】
なお、図1に示すストレージ装置1においては、DE20の数を3としたが、これに限定されるものではない。
ここで、本実施形態のストレージ装置1は、SASを採用したものである。以下に、図2〜図5を参照しながら、ストレージ装置1におけるCE10やDE20の構成について、より詳細に説明する。
【0026】
まず、図2及び図3を参照しながら、ルートテーブルについて説明する。
ルートテーブルは、SASを採用したストレージ装置1において、CE−CM11,12及びDE−CM21,22が当該CM以降に縦続接続されるDE20におけるディスクやPHYへのアクセスルートを特定する際に用いられる。このルートテーブルは、CE−CM11,12及びDE−CM21,22のPHY毎に作成される。
【0027】
また、ルートテーブルは、CE−CM11及び12並びにDE−CM21及び22のそれぞれが有する、後述するルートテーブル作成部112,122,212−1〜212−3,222−1〜222−3によって作成される。ルートテーブルは、ストレージ装置1の起動時に作成されるとともに、SASデバイスの増設,撤去又は故障によりアクセス不能となった場合等、SASデバイスの接続構成に変化が生じた時にも作成・更新される。
【0028】
図2は、図1に示す構成例における第1経路上のCE−CM11及びDE−CM21−1〜21−3が、それぞれ有するルートテーブルT11a及びT21−1a〜T21−3aに格納されるSASアドレスを示す図である。
また、図3は、図1に示す構成例における第2経路上のCE−CM12及びDE−CM22−1〜22−3が、それぞれ有するルートテーブルT12a及びT22−1b〜T22−3bに格納されるSASアドレスを示す図である。
【0029】
CE10およびDE20の各PHY13,14,23及び24には、図2及び図3に示すように、それぞれのPHY13,14,23及び24から参照可能な全てのSASデバイスのSASアドレスが格納されたルートテーブルが対応付けられる。
図4は、第1実施形態のCE10の構成例を示すブロック図である。
この図4に示すように、CE10は、CE−CM11及び12を有する。なお、図4では記憶部18の図示を省略している。
【0030】
また、CE10は、図示しないホスト装置等と接続され、ホスト装置からCE10又はDE20の各記憶部18及び201〜203へのリード/ライト要求を受けて、CE−CM11及び12に当該処理を実行させるとともに、リード/ライト処理の結果をホスト装置に返すものである。
CE−CM11は、CPU100,メモリ101,SAS制御デバイス110及びSAS制御デバイス用メモリ111を有する。同様に、CE−CM12は、CPU102,メモリ103,SAS制御デバイス120及びSAS制御デバイス用メモリ121を有する。
【0031】
CPU100及び102は、それぞれ、CE10が受信したホスト装置等からのリード/ライト要求に対する処理を実行する機能を含むものであり、その詳細な説明は省略する。
メモリ101及び103は、それぞれ、CPU100及び102における処理用の記憶部として機能する。なお、メモリ101及び103は、それぞれCPU100及び102内に設けられてもよい。
【0032】
SAS制御デバイス110及び120は、それぞれ、CE−CM11及び12が有するSASデバイス、即ち記憶部(ディスク)18へのアクセスを制御する。また、SAS制御デバイス110及び120では、CE−CM11及び12と接続されているSASデバイス、即ちDE−CM21及び22並びにDE−CM21及び22の記憶部28−1〜28−3(ディスク201〜203)へのアクセスを制御するとともに、CE−CM11及び12と接続されているSASデバイスへアクセスするためのルートテーブルT11a,T12aを管理する機能を持つ。
【0033】
SAS制御デバイス用メモリ111及び121は、それぞれ、SAS制御デバイス110及び120のそれぞれが用いる情報を保持するものである。これらのメモリ111及び121は、それぞれ、例えば、後述するルートテーブル作成部112及び122が作成したCE−CM11のPHY13a及びCE−CM12のPHY14aのそれぞれにおけるルートテーブルT11a,T12aを格納するルートテーブル格納部として機能する。以下、SAS制御デバイス用メモリ111及び121をそれぞれルートテーブル格納部111及び121という場合もある。なお、SAS制御デバイス用メモリ111及び121は、それぞれSAS制御デバイス110及び120内に格納されてもよい。
【0034】
SAS制御デバイス110は、ルートテーブル作成部112,アクセス制御部113,イニシエータ114a及び前述したPHY13aを有する。同様に、SAS制御デバイス120は、ルートテーブル作成部122,アクセス制御部123,イニシエータ124a及び前述したPHY14aを有する。
ルートテーブル作成部112及び122は、それぞれ、ストレージ装置1の起動や、SASデバイスの接続構成に変化が生じたことをそれぞれのSAS制御デバイス110及び120が検知すると、CE−CM11及び12のそれぞれから現在アクセスすることのできるSASデバイスのSASアドレスを含むルートテーブルT11a,T12aを作成する。
【0035】
例えば、図1に示すストレージ装置1の構成時にCE−CM11のルートテーブル作成部112が作成するルートテーブルT11aには、図2におけるPHYの番号“PHY13a”の列に記載のSASアドレスが格納される。また、図1に示すストレージ装置1の構成時にCE−CM12のルートテーブル作成部122が作成するルートテーブルT12aには、図3におけるPHYの番号“PHY14a”の列に記載のSASアドレスが格納される。なお、ルートテーブルT11a,T12aの作成は、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
【0036】
アクセス制御部113及び123は、それぞれ、ルートテーブル格納部111及び121に格納されたルートテーブルT11a,T12aに基づいて、アクセス対象であるディスク201〜203へのアクセス経路(アクセスルート)を第1経路又は第2経路に沿って特定する。また、アクセス制御部113及び123は、それぞれ、特定した経路における後述するイニシエータ114a又は124aに対して、アクセス対象であるディスク201〜203へのアクセスを指示する。
【0037】
アクセス制御部113及び123は、それぞれ、ホスト装置から特定のディスクへのアクセス要求があると、ルートテーブル格納部111及び121に格納されたルートテーブルT11a,T12aを参照し、アクセス対象のディスクのSASアドレスが含まれているか否かを確認する。そして、アクセス制御部113又は123が参照するルートテーブルT11a又はT12aに、アクセス対象のディスクのSASアドレスが含まれている場合には、アクセス制御部113又は123は、当該アクセス対象のディスクにアクセス可能なイニシエータ114a又は124aに対してアクセスを指示する。
【0038】
また、ルートテーブル格納部111及び121のいずれのルートテーブルT11a,T12aにもアクセス対象のディスクのSASアドレスが含まれている場合、即ち、第1経路及び第2経路のいずれの経路からも、アクセス対象のディスクにアクセスすることができる場合には、アクセス制御部113及び123は、所定の条件に従い、アクセス経路を第1経路又は第2経路のいずれか一方に特定する。又は、アクセス制御部113及び123は、アクセス経路を第1経路又は第2経路のいずれか一方に特定するかを、コントローラエンクロージャの設計や運用段階での設定等の任意の時点で、予め決定するように構成してもよい。
【0039】
なお、所定の条件によるアクセス制御部113及び123によるアクセス経路の特定については、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
イニシエータ114a又は124aは、それぞれPHY13a又はPHY14aを介し、第1経路又は第2経路でDE−CM21又は22に対してディスク201〜203に関するアクセス処理(リード/ライト命令等の発行等)を行なう。
【0040】
図5は、第1実施形態のDE20−1の構成例を示すブロック図である。
なお、図5においては、それぞれ同様の構成であるDE20−1〜20−3のうち、代表してDE20−1について示す。DE20−2及び20−3に対応させるためには、図中の各符号において、“-(ハイフン)”の右の符号“1”を適宜“2”又は“3”に置き換えればよい。
【0041】
図5に示すように、DE20−1は、DE−CM21−1及び22−1を有する。なお、図5では、記憶部28−1の図示を省略している。
DE−CM21−1は、SAS制御デバイス210−1及びSAS制御デバイス用メモリ211−1を有する。同様に、DE−CM22−1は、SAS制御デバイス220−1及びSAS制御デバイス用メモリ221−1を有する。
【0042】
SAS制御デバイス210−1は、DE20−1が有するSASデバイス、即ち記憶部(ディスク)28−1へのアクセスを制御する。また、DE−CM21−1より下流に接続されているSASデバイス、即ちDE−CM21−2及び21−3並びにDE−CM21−2及び21−3の記憶部28−2及び28−3へのアクセスを制御するとともに、DE−CM21−2及び21−3と接続されているSASデバイスへアクセスするためのルートテーブルT21−1a及びT21−1bを管理する機能を持つ。また、SAS制御デバイス220−1は、SAS制御デバイス210−1と同様にDE20−1が有するSASデバイス、即ち記憶部(ディスク)28−1へのアクセスを制御する。また、DE−CM21−1より下流に接続されているSASデバイスへアクセスするためのルートテーブルT22−1a及びT22−1bを管理する機能を持つ。なお、図1に示すストレージ装置1の構成例においては、DE−CM22−1は第2経路における最下流のコントローラモジュールであるため、この場合は、SAS制御デバイス220−1は、他のDE−CM及びその記憶部へアクセスすることはできない。
【0043】
SAS制御デバイス用メモリ211−1及び221−1は、SAS制御デバイス210−1及び220−1のそれぞれが用いる情報を保持するものである。例えば、SAS制御デバイス用メモリ211−1は、後述するルートテーブル作成部212−1が作成した、DE−CM21−1のPHY23−1aにおけるルートテーブルT21−1aを格納するルートテーブル格納部として機能する。また、SAS制御デバイス用メモリ221−1は、後述するルートテーブル作成部222−1が作成した、DE−CM22−1のPHY24−1bにおけるルートテーブルT22−1bを格納するルートテーブル格納部として機能する。以下、SAS制御デバイス用メモリ211−1及び221−1をそれぞれルートテーブル格納部211−1及び221−1という場合もある。なお、SAS制御デバイス用メモリ211−1及び221−1は、それぞれSAS制御デバイス210−1及び220−1内に格納されてもよい。
【0044】
SAS制御デバイス210−1は、ルートテーブル作成部212−1,PHY23−1a及び23−1bを有する。同様に、SAS制御デバイス220−1は、ルートテーブル作成部222−1,PHY24−1a及び24−1bを有する。
ルートテーブル作成部212−1及び222−1は、ストレージ装置1の起動や、SASデバイスの接続構成に変化が生じたことをそれぞれのSAS制御デバイス210−1及び220−1が検知すると、DE−CM21−1及び22−1のそれぞれから現在アクセスすることのできるSASデバイスのSASアドレスを含むルートテーブルT21−1a及びT22−1bを作成する。
【0045】
なお、SASの仕様上、図1に示すストレージ装置1の構成例において、第1経路における最下流のコントローラモジュールであるDE−CM21−3のPHY23−3aはその先に何も接続されていないため、ルートテーブルT21−3aは作成されない。同様に、第2経路における最下流のコントローラモジュールであるDE−CM22−1のPHY24−1bはその先に何も接続されていないため、ルートテーブルT22−1bは作成されない。従って、図1に示すストレージ装置1の構成例においては、DE−CM21は、第1経路の下流側に位置するPHY、すなわち、DE−CM21−1のPHY23−1a及びDE−CM21−2のPHY23−2aにおけるルートテーブルT21−1a及びT21−2aのみを作成する。また、DE−CM22は、第2経路の下流側に位置するPHY、すなわち、DE−CM22−3のPHY24−3b及びDE−CM22−2のPHY24−2bにおけるルートテーブルT22−3b及びT22−2bのみを作成する。
【0046】
例えば、図1に示すストレージ装置1の構成時にDE−CM21−1のルートテーブル作成部212−1が作成するルートテーブルT21−1aには、図2におけるPHYの番号“PHY23−1a”の列に記載のSASアドレスが格納される。また、図1に示すストレージ装置1の構成時に、DE−CM22−1のルートテーブル作成部222−1は、上述したようにルートテーブルT22−1bを作成しないため、図3においてはDE−CM22−1のPHY24−1bのルートテーブルは存在しない。なお、ルートテーブルT21−1aの作成は、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
【0047】
なお、ルートテーブル作成部212−1〜212−3及び222−1〜222−3は互いにほぼ同様の構成及び機能を備えている。以下、ルートテーブル作成部を示す符号としては、複数のルートテーブル作成部のうち1つを特定する必要があるときには符号212−1〜212−3及び222−1〜222−3を用いるが、任意のルートテーブル作成部を指すときには符号212及び222を用いる。
【0048】
また、ルートテーブルT21−1a,T22−1b,T21−2a,T22−2b,T21−3a,T22−3bは互いにほぼ同様のフォーマットを有している。以下、ルートテーブルを示す符号としては、複数のルートテーブルのうち1つを特定する必要があるときには符号T21−1a,T22−1b,T21−2a,T22−2b,T21−3a,T22−3bを用いるが、任意のルートテーブルを指すときには符号T21及びT22を用いる。
【0049】
(A−2)第1実施形態におけるDE故障時のストレージ装置の動作
上述の如く構成されたストレージ装置1においては、アクセス経路中のいずれかのDEが故障した場合、即ち冗長化したDE−CMがともに使用不能となった場合においても、継続してストレージ装置1の動作を提供することができる。
以下、図6〜図8を参照しながらDE故障時のストレージ装置1の動作を説明する。
【0050】
図6は、図1に示すストレージ装置1のDE20−2が故障した場合の構成例を模式的に示す図である。
図7は、図6に示す、DE20−2が故障した構成例における第1経路上のCE−CM11及びDE−CM21が有する、ルートテーブルT11a,T21−1a,T21−3aに格納されるSASアドレスを示す図である。
【0051】
また、図8は、図6に示す、DE20−2が故障した構成例における第2経路上のCE−CM12及びDE−CM22が有する、ルートテーブルT12a,T22−1b,T22−3bに格納されるSASアドレスを示す図である。
図6において、CE10,DE20−1及びDE20−3におけるSAS制御デバイス110,120,210−1,220−1,210−3及び220−3が、DE20−2の故障に伴ってSASデバイスの接続構成に変化が生じたことを検知すると、各ルートテーブル作成部112,122,212−1,222−1,212−3及び222−3は、現在アクセスをすることが可能なSASデバイスのSASアドレスが格納されたルートテーブルT11a,T12a,T21−1a,T22−1b,T21−3a及びT22−3bを更新する。
【0052】
なお、図6及び図7に示すように、故障したDE20−2のPHY23−2a及び24−2bにおいては、ルートテーブルは作成されない。また、DE20−1のPHY24−1b及びDE20−3のPHY23−3aにおいては、その先に何も接続されていないため、SASの仕様上、ルートテーブルは作成されない。さらに、DE20−1のPHY23−1a及びDE20−3のPHY24−3bにおいては、それぞれの接続先となるDE20−2が故障しており、アクセス可能なSASデバイスがないため、それぞれのルートテーブルにはアクセス可能なSASデバイスのSASアドレスが存在しない。
【0053】
その結果、CE10およびDE20の各PHY13,14,23及び24には、図7及び図8に示すように、それぞれのPHY13,14,23及び24から参照可能な全てのSASデバイスのSASアドレスが格納されたルートテーブルが対応付けられる。
CE−CM11は、このようにして作成されたルートテーブル格納部111に保持されたルートテーブルT11aから、図7における第1経路上のPHYの番号“PHY13a”の列に記載の“ディスク201−1〜201−L”のSASアドレスを得る。同様に、CE−CM12は、このようにして作成されたルートテーブル格納部121に保持されたルートテーブルT12aから、図8における第2経路上のPHYの番号“PHY14a”の列に記載の“ディスク203−1〜203−J”のSASアドレスを得る。
【0054】
次いで、CE−CM11のアクセス制御部113及びCE−CM12のアクセス制御部123は、それぞれのルートテーブル格納部111又は121に格納されたルートテーブルに基づいて、アクセス対象であるディスクに到達できるアクセス経路を特定する。そして、アクセス制御部113及び123は、特定された経路側のイニシエータ114a又は124aに対して、アクセス対象であるディスクに対する処理を伝える。
【0055】
例えば、ホスト装置からCE10に対して、DE20−1のディスク201−2に対するリード要求がなされた場合、アクセス制御部113及び123は、それぞれのルートテーブル格納部111及び121に保持されたルートテーブルT11a,T12aを参照する。そして、アクセス制御部113は、ルートテーブルT11aにおいてDE20−1のディスク201−2のSASアドレスを見出すことになり(図7参照)、当該リード要求のためのアクセス経路を第1経路に特定する。
【0056】
また、例えば、ホスト装置からCE10に対して、DE20−3のディスク203−Jに対するリード要求がなされた場合、アクセス制御部113及び123は、それぞれのルートテーブル格納部111及び121に保持されたルートテーブルT11a,T12aを参照する。そして、アクセス制御部123は、ルートテーブルT12aにおいてDE20−3のディスク203−JのSASアドレスを見出すことになり(図8参照)、当該リード要求のためのアクセス経路を第2経路に特定する。
【0057】
そして、経路を特定したアクセス制御部113又は123は、ホスト装置からのリード要求をイニシエータ114a又は124aに伝え、イニシエータ114a又は124aは、PHY13a又は14aを介して、DE−CM21又は22に対して対象ディスクへのリード要求を発行する。
上述のことから、図6に示すように、何らかの原因によりDE20−2全体が故障した場合、第1経路においては、CE10のCE−CM11は、PHY13a及びPHY23−1bを経由してDE20−1のDE−CM21−1にアクセスすることができ、記憶部28−1に対する処理を行なうことができる。
【0058】
また、第1経路とは異なる経路で配線されている第2経路においては、CE10のCE−CM12は、PHY14a及びPHY24−3aを経由してDE20−3のDE−CM22−3にアクセスすることができ、記憶部28−3に対する処理を行なうことができる。
従って、CE−CM11及び12は、図6に示すストレージ装置1のDE20−2が故障した場合においても、故障後にルートテーブル作成部112及び122が作成したルートテーブルT11a,T12aに基づいて、第1経路及び第2経路を選択的に用いることで、DE20−1のディスク201にアクセスをすることができるとともに、故障したDE20−2より後段のDE20−3のディスク203にもアクセスをすることができる。
【0059】
このように、第1実施形態のストレージ装置1によれば、より簡素な構成で、アクセス経路中のいずれか一つのDEが故障した場合でも、継続して、故障したDE以外の全てのDEに対するアクセスが可能になり、DEの障害発生に伴う業務影響度を最小限に抑えることができる。
(A−3)第1実施形態におけるDEの増設方法
次に、本実施形態のDE増設手順について図9を参照しながら説明する。
【0060】
図9は、図1に示すストレージ装置1における、DE20−4の増設手順を説明するとともに、DE20−4の増設後の構成例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。また、増設したDE20−4は、DE20−1〜20−3と同様の構成であるため、その詳細な説明は省略する。
【0061】
ここで、図9において、ケーブル25−4及び26−4は、前述した図1の構成から、新たに追加されたケーブルである。
始めに、第2経路において、CE−CM12のPHY14aとDE−CM20−3のPHY24−3aとを連結するケーブル26−1の、DE−CM20−3のPHY24−3a側を取り外し、新たに増設するDE20−4のDE−CM22−4のPHY24−4aに接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを作成、または更新する。
【0062】
次いで、第2経路において、新たなケーブル26−4によって、DE−CM22−3のPHY24−3aとDE−CM22−4のPHY24−4bとを接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを更新する。
また、第1経路において、新たなケーブル25−4によって、DE−CM21−3のPHY23−3aとDE−CM21−4のPHY23−4bとを接続する。このとき、第1経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM11及びDE−CM21のそれぞれがルートテーブルを作成、または更新する。
【0063】
上述した手順により、DE20−4の増設が完了する。
なお、ケーブル25−4によるPHY23−3aとPHY23−4bとの接続は、上述した手順のいずれの時点で行なってもよい。つまり、ケーブル26−4によるPHY24−3aとPHY24−4bとの接続の前に行なってもよい。
このように、第1実施形態のストレージ装置1では、少なくとも以下の2つのステップ(S1),(S2)によってDEが増設される。
【0064】
(S1)増設対象のDE20−4における2つのDE−CM21−4,22−4の一方を、第1経路における最後のDE20−3に縦続接続するステップ。
(S2)増設対象のDE20−4における2つのDE−CM21−4,22−4の他方を、第2経路における他方のCE−CM12と第2経路における最初のDE−CM22−3との間に縦続接続するステップ。
【0065】
これにより、ストレージ装置1では、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1を継続して動作させることができる。つまり、DE増設作業中も、ストレージ装置1の第1経路は、CE−CM11からDE−CM21−3まで接続されているため、ストレージ装置1は、継続してDE20−1〜20−3の記憶部28−1〜28−3にアクセスすることが可能である。
【0066】
なお、DE20−4を撤去する場合は、上述した手順と逆の順序で、ケーブルの結線を行なえばよい。
(B)第2実施形態
(B−1)第2実施形態の構成
第1実施形態のストレージ装置1は、ディスクやエンクロージャをループ状に接続することが許容されていないSASを採用している。しかし、第2実施形態のストレージ装置1’は、後述するCE−CM11’及び12’が有するループ検出部114及び124並びにループ選択部115及び125により、論理的にルートテーブルの作成を制御することで、ループ状の接続が可能となっている。以下、第2実施形態のストレージ装置1’の構成について詳述する。
【0067】
図10は、第2実施形態のストレージ装置1’の構成例を模式的に示す図、図11は、第2実施形態のストレージ装置1’におけるCE10’の構成例を示すブロック図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。
【0068】
図10に示すように、第2実施形態のストレージ装置1’も、第1実施形態のストレージ装置1と同様に構成されているが、第2実施形態のストレージ装置1’においては、第1実施形態のCE10に代えCE10’が備えられている。このCE10’では、図10及び図11に示すように、第1実施形態のCE10におけるCE−CM11及び12に代え、CE−CM11’及び12’が備えられている。また、図11に示すように、CE−CM11’及び12’では、それぞれ、第1実施形態のSAS制御デバイス110及び120に代え、SAS制御デバイス110’及び120’が備えられている。
【0069】
そして、SAS制御デバイス110’は、アクセス制御部113の替わりにアクセス制御部113’を備え、イニシエータ114aの替わりにイニシエータ114a’を備えるとともに、イニシエータ114b’,PHY13b及びループ選択部115をさらに有する。また、SAS制御デバイス120’は、アクセス制御部123の替わりにアクセス制御部123’を備え、イニシエータ124aの替わりにイニシエータ124a’を備えるとともに、イニシエータ124b’,PHY14b及びループ選択部125をさらに有する。
【0070】
ここで、第1実施形態のCE−CM11,12は、それぞれ1個のPHY13a,14aを有していたのに対し、第2実施形態のCE−CM11’,12’では、それぞれ、2個のPHY13a,13b;14a,14bを有している。なお、図10に示す構成例において、PHY13b及び14bは空きポートになっている。
SAS制御デバイス110’のイニシエータ114a’及び114b’は、それぞれ第1実施形態におけるイニシエータ114aと同様の機能を有するほか、後述する第2実施形態におけるDEの増設手順において、第1経路がループ状に結線されることを検出する。同様に、SAS制御デバイス120’のイニシエータ124a’及び124b’は、それぞれ第1実施形態におけるイニシエータ124aと同様の機能を有するほか、後述する第2実施形態におけるDEの増設手順において、第2経路がループ状に結線されることを検出する。
【0071】
以下、イニシエータ114a’,114b’,124a’及び124b’を、それぞれループ検出部114a’,114b’,124a’及び124b’という場合もある。また、イニシエータ114a’及び114b’をまとめてループ検出部114といい、イニシエータ124a’及び124b’をまとめてループ検出部124という場合もある。
また、ループ検出部114及び124は、各ルートテーブル作成部112及び122においてルートテーブルを作成する際に、下記(1)及び(2)の少なくとも一方を検出した場合に、第1経路又は第2経路がループ状に結線されている、つまりループを成していると判断する。
【0072】
(1)ルートテーブル上に自身のデバイスのSASアドレスが出現すること、つまりCE−CM11’又は12’に係る情報がルートテーブルT11a,T11b,T12a,T12bに現われること。
(2)ルートテーブルT11a,T11b,T12a,T12bの作成処理が一定時間経過後も終了しないこと。
【0073】
ループ選択部115は、ループ検出部114がループを検出すると、当該ループの2つの周方向の一方向を選択し、選択された方向に沿う順序でDE20が接続されているとみなしてルートテーブルを作成させるものである。より具体的に、ループ選択部115は、CE−CM11’からDE−CM21へアクセスするイニシエータとして、増設順序でアクセスするためのイニシエータ114a’又は増設順序とは逆の順序でアクセスするためのイニシエータ114b’のいずれか一方を選択するとともに、選択しなかった他方のイニシエータを無効にする。他方のイニシエータが無効になることで、ストレージ装置1’における各ルートテーブル作成部112及び212において、他方のPHY(無効になったイニシエータ側のPHY)が認識されなくなる。即ち、第1経路は、物理的にループ状に結線されているが、論理的には縦続接続されていることになる。従って、各ルートテーブル作成部112及び212においては、一方のPHY(選択されたイニシエータ側のPHY)からDE−CM21へアクセスする方向に沿った経路としてルートテーブルが作成される。
【0074】
例えば、ループ選択部115が、イニシエータ114a’を選択し、イニシエータ114b’を無効にした場合、ルートテーブル作成部112及び212は、イニシエータ114b’に対応するPHY13bを認識できなくなる。従って、CE−CM11’のPHY13aから、増設順序の方向のSASデバイスのSASアドレスについてのルートテーブルが作成され、増設順序に沿った第1経路が設けられることになる。
【0075】
ループ選択部125についても、ループ選択部115と同様である。つまり、ループ選択部125は、ループ検出部124がループを検出すると、CE−CM12’からDE−CM22へアクセスするイニシエータとして、増設順序でアクセスするためのイニシエータ124b’又は増設順序とは逆の順序でアクセスするためのイニシエータ124a’のいずれか一方を選択するとともに、選択しなかった他方のイニシエータを無効にする。
【0076】
また、ループ選択部115及び125は、上述の如く選択しなかった他方のイニシエータを無効にするために、有効/無効フラグを用いることができる。このフラグは、イニシエータ114a’,114b’,124a’,124b’のそれぞれに対応付けたテーブルとして設けることができ、このテーブルは、SAS制御デバイス用メモリ111及び121に格納することができる。あるいは、SASの一機能として、イニシエータ114a’,114b’,124a’,124b’について個別に有効/無効の管理を行なうこともできる。このような有効/無効の管理は、既知の種々の手法により行なうことが可能であり、その詳細な説明は省略する。
【0077】
そして、ループ選択部115又は125は、ループ検出部114又は124がループを検出すると、当該ループの2つの周方向の一方向を選択し、選択した一方のイニシエータを“有効”にする一方、選択しなかったイニシエータを“無効”にする。この場合、ルートテーブル作成部112,212,122,222は、この有効/無効に基づいてルートテーブルを作成する。
【0078】
また、ストレージ装置1’の接続構成が変更されたことをSAS制御デバイス110’又は120’が検知した場合、ループ選択部115又は125は、イニシエータ114a’及び114b’又は124a’及び124b’に対応付けられた有効/無効情報を削除(クリア)する。そして、ループ検出部114又は124が新たなループを検出する場合には、ループ選択部115又は125は、再度、当該ループの2つの周方向の一方向を選択し、選択した一方のイニシエータを“有効”にする一方、選択しなかったイニシエータを“無効”にする。
【0079】
ここで、ループ選択部115及び125が、それぞれ経路を決定するイニシエータを選択する際に、増設順序方向又は増設順序とは逆の順序の、いずれのイニシエータを選択するかは、コントローラエンクロージャの設計や運用段階での設定等の任意の時点で、予め自由に決定することができる。つまり、ループ選択部115及び125が選択するイニシエータは、第1経路及び第2経路が互いに逆の順序となるように予め決定されてよく、第1経路及び第2経路がいずれも同じ順序となるように予め決定されてもよい。また、このように決定されたイニシエータを選択するための情報を、SAS制御デバイス用メモリ111又は121に保持してもよい。
【0080】
なお、第1実施形態において既述のように、第1経路と第2経路とが互いに逆の順序で構成されていれば、ストレージ装置1’のいずれかのDEが故障した場合においても、CE−CM11'及び12’は、第1経路及び第2経路を選択的に用いることで、故障したDEを除く他のDEの記憶部にそれぞれアクセスすることができる。従って、第1経路及び第2経路が互いに逆の順序となるように、ループ選択部115及び125が選択するイニシエータが決定されることがより好ましい。
【0081】
アクセス制御部113’及び123’は、それぞれ第1実施形態におけるアクセス制御部113及び123と同様の構成及び機能を有する。このとき、アクセス制御部113’及び123’は、第1経路又は第2経路がループを成していることを検出した場合、ループ選択部115,125,ルートテーブル作成部112,122,212,222によって上述の如く作成されたルートテーブルに基づいてアクセス制御を行なう。また、アクセス制御部113’は、図14〜図16を参照して後述するストレージ装置1’が、ループ状の経路を有する場合にDE故障が発生すると、ルートテーブル作成部112が作成する、CE−CM11’の2つのPHY13a及び13bについてのルートテーブルT11a及びT11bに基づいて、アクセス対象の記憶部に応じてアクセス経路を制御する機能を持つ。同様に、アクセス制御部123’は、図14〜図16を参照して後述するストレージ装置1’が、ループ状の経路を有する場合にDE故障が発生すると、ルートテーブル作成部122が作成する、CE−CM12’の2つのPHY14a及び14bについてのルートテーブルT12a及びT12bに基づいて、アクセス対象の記憶部に応じてアクセス経路を制御する機能を持つ。
【0082】
ここで、ループ検出部114及び124並びにループ選択部115及び125を設けた理由を述べる。第1実施形態と同様、第2実施形態におけるストレージ装置1’も、SASを採用したものである。しかしながら、SASは、ディスクやエンクロージャをループ状に接続することが許容されていない。また、仮にこれらがループ状に接続された場合には、各ルートテーブル作成部112,122,212及び222において、ルートテーブル上に自身のデバイスのSASアドレスが出現するとともに、ルートテーブルの作成処理が終了しなくなる現象が発生する。
【0083】
そこで、第2実施形態におけるストレージ装置1’は、CE−CM11’及び12’のSAS制御デバイス110’及び120’に、ループ検出部114及び124とループ選択部115及び125とをそれぞれ有して構成される。これにより、ルートテーブル作成部112及び212並びに122及び222は、第1経路又は第2経路が一時的にループ状に結線されても、ループ検出部114及び124とループ選択部115及び125とにより、ルートテーブルを作成すべき方向が指定されるとともに、指定されなかった他方のイニシエータが無効にされるので、ループ選択部115及び125によって指定された順序に沿ったルートテーブルを作成する。これにより、ルートテーブル上に自身のデバイスのSASアドレスが出現するとともに、ルートテーブルの作成処理が終了しなくなるという従来の問題を解決することができる。
【0084】
なお、図10及び図11に示すストレージ装置1’の構成において、いずれかのDEが故障した場合、ストレージ装置1’は、第1実施形態と同様の動作をする。従って、その詳細な説明は省略する。
(B−2)第2実施形態におけるDEの増設方法
図12は、図10に示すストレージ装置における、DE20−4の増設手順を説明するとともに、DE20−4の増設中の構成例を模式的に示す図である。
【0085】
また、図13は、図12で説明した手順でDEを増設した後の構成例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。
以下、図12及び図13を参照しながら、第2実施形態におけるDEの増設方法を説明する。
【0086】
ここで、図12において、ケーブル25−4,25−5,26−4及び26−5は、前述した図10の構成から、新たに追加されたケーブルである。また、図中これらのケーブルに付されている括弧付き数字は、DE20−4を増設する際におけるケーブルの結線順序を表しており、以下、この括弧付き数字を用いてDEの増設手順を説明する。
始めに、第1経路において、増設作業中にのみ用いるケーブル25−5によって、CE−CM11’における空きポートのPHY13bと、DE−CM21−4のPHY23−4aとを接続する(手順(1))。また、第2経路において、増設作業中にのみ用いるケーブル26−5によって、CE−CM12’における空きポートのPHY14bと、DE−CM22−1のPHY24−1bとを接続する(手順(1)’)。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを作成、または更新する。また、第2経路はループ状に結線されることになる。従って、第2経路では、ルートテーブルの作成にあたり、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方のイニシエータを無効にする)。
【0087】
次いで、第1経路において、新たなケーブル25−4によって、DE−CM21−3のPHY23−3aとDE−CM21−4のPHY23−4bとを接続する(手順(2))。このとき、第1経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’及びDE−CM21のそれぞれがルートテーブルを更新する。また、第1経路はループ状に結線されることになる。従って、第1経路では、CE−CM11’のループ検出部114がループを検出するとともに、ループ選択部115がイニシエータ114a’又は114b’のいずれか一方を選択する(他方のイニシエータを無効にする)。
【0088】
そして、第2経路において、CE−CM12’のPHY14aとDE−CM20−3のPHY24−3aとを連結するケーブル26−1の、DE−CM22−3のPHY24−3a側を取り外し、新たに増設するDE20−4のDE−CM22−4のPHY24−4aに接続する(手順(3))。このとき、第2経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM12’及びDE−CM22のそれぞれがルートテーブルを作成、または更新する。
【0089】
さらに、第2経路において、新たなケーブル26−4によって、DE−CM22−3のPHY24−3aとDE−CM22−4のPHY24−4bとを接続する(手順(4))。このとき、第2経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM12’及びDE−CM22のそれぞれがルートテーブルを更新する。また、第2経路はループ状に結線されることになる。従って、第2経路では、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方を無効にする)。
【0090】
最後に、第1経路において、増設作業中にのみ用いるケーブル25−5を、CE−CM11’のPHY13bと、DE−CM21−4のPHY23−4aとから取り外す(手順(5))。また、第2経路において、増設作業中にのみ用いるケーブル26−5を、CE−CM12’のPHY14bと、DE−CM22−1のPHY24−1bとから取り外す(手順(5)’)。
【0091】
上述した手順により、図13に示すように、DE20−4の増設が完了する。
このように、第2実施形態のストレージ装置1’では、少なくとも以下の4つのステップ(S11)〜(S14)によってDEが増設される。
(S11)増設対象のDE20−4における2つのDE−CM21−4,22−4の一方を、第1経路における最後のDE−CM21−3に縦続接続するとともに第1経路における一方のCE−CM11’に接続することにより、第1経路をループにするステップ(手順(1),(2))。
【0092】
(S12)第2経路における他方のCE−CM12’と第2経路における最後のDE−CM22−1とを接続することにより、第2経路をループにするステップ(手順(1)’)。
(S13)第2経路をループにした後に、増設対象のDE20−4における2つのDE−CM21−4,22−4の他方を、第2経路における他方のCE−CM12’と第2経路における最初のDE−CM22−3との間に縦続接続するステップ(手順(3),(4))。
【0093】
(S14)増設対象のDE20−4における他方のDE−CM22−4を縦続接続した後に、増設対象のDE20−4における一方のDE−CM21−4と第1経路における一方のCE−CM11’との接続を外すとともに、第2経路における他方のCE−CM12’と第2経路における最後のDE−CM22−1との接続を外すステップ(手順(5),(5)’)。
【0094】
これにより、ストレージ装置1’は、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1’を継続して動作させることができる。つまり、DE増設作業中も、ストレージ装置1’の第1経路は、CE−CM11からDE−CM21−4まで接続されているため、ストレージ装置1’は、継続してDE20−1〜20−3の記憶部28−1〜28−3にアクセスすることが可能である。
【0095】
なお、DE増設手順(ケーブルの結線順序)は、上述したステップ(S11)〜(S14)を含むものであれば、上述した順序に限定されるものではない。
例えば、手順(1),(1)’のケーブル25−5の接続とケーブル26−5の接続は、いずれの接続が先でもよく、手順(5),(5)’のケーブル25−5の取り外しとケーブル26−5の取り外しは、いずれの取り外しが先でもよい。
【0096】
上述した手順でDE20−4の増設を行なうことにより、ステップ(S11)〜(S13)の間、常に第1経路又は第2経路のうち、少なくとも一方の経路はループ状に設けられることになる。このとき、ループ選択部115及び125並びにルートテーブル作成部112及び122によって、第1経路及び第2経路が互いに逆の順序となるようにルートテーブルが作成されることが好ましい。
【0097】
また、第2実施形態では、SASを採用したストレージ装置1’において、DE増設中にアクセス経路(第1経路及び第2経路)がループを成しても、ループ検出部114,124,ループ選択部115,125,ルートテーブル作成部112,122,212,222によってルートテーブルを作成することが可能である。従って、ストレージ装置1’における全ての記憶部(ディスク)に対するアクセスを行なうことが可能になっている。
【0098】
これにより、DEの増設中に、ストレージ装置1’のいずれかのDEが故障した場合においても、CE−CM11'及び12’は、第1経路及び第2経路を選択的に用いることで、故障したDE以外の全てのDEに対してアクセスすることができる。つまり、DE増設中、2つのアクセス経路(第1経路及び第2経路)によって、常に二重化された状態を保つことができるので、DE増設中もストレージ装置1’について高い信頼性を保つことができる。
【0099】
なお、DE20−4を撤去する場合は、上述した手順と逆の順序で、ケーブルの結線を行なえばよい。
(B−3)第2実施形態においてDE増設中(アクセス経路がループ状の経路となった際)にDEが故障した場合のストレージ装置の動作
以下、図14〜図16を参照しながらループ状の経路である場合のDE故障時のストレージ装置1’の動作を説明する。
【0100】
図14は、図12に示すストレージ装置1’のDE20−2がDE20−4の増設中に故障した場合の構成例を模式的に示す図である。
図15は、図14に示す、DE20−2が故障した構成例における第1経路上のCE−CM11’及びDE−CM21が有する、ルートテーブルT11a,T11b,T21にそれぞれ格納されるSASアドレスを示す図である。
【0101】
また、図16は、図14に示す、DE20−2が故障した構成例における第2経路上のCE−CM12’及びDE−CM22が有する、ルートテーブルT12a,T12b,T22にそれぞれ格納されるSASアドレスを示す図である。
図14に示すように、ストレージ装置1’においてDE20−2が故障すると、CE10’,DE20−1,DE20−3及びDE20−4が有するそれぞれのSAS制御デバイス110’,120’,210−1,220−1,210−3,220−3,210−4及び220−4は、SASデバイスの接続構成に変化が生じたことを検知する。このとき、ループ選択部115及び125は、DE20−2の故障前、すなわち第1経路及び第2経路がともにループ状に接続されていたときのSASデバイスの接続構成時にイニシエータ114a’又は114b’及び124a’又は124b’に設定していた“無効”情報を削除(クリア)する。そして、各ルートテーブル作成部112,122,212−1,222−1,212−3,222−3,212−4,222−4は、既知の手法により、現在アクセスをすることが可能なSASデバイスのSASアドレスが格納されたルートテーブルT11a,T11b,T12a,T12b,T21,T22を更新する。
【0102】
その結果、CE10’およびDE20の各PHY13,14,23及び24には、図15及び図16に示すように、それぞれのPHY13,14,23及び24から参照可能な全てのSASデバイスのSASアドレスが格納されたルートテーブルT11a,T11b,T12a,T12b,T21,T22が対応付けられる。
なお、図15及び図16に示すように、故障したDE20−2のPHY23−2a,23−2b,24−2a及び24−2bにおいては、ルートテーブルは作成されない。また、DE20−1のPHY23−1b及び24−1b,DE20−3のPHY23−3a及び24−3a並びにDE20−4のPHY23−4a及び24−4aにおいては、SASの仕様上、ルートテーブルは作成されない。さらに、DE20−1のPHY23−1a及び24−1a並びにDE20−3のPHY23−3b及び24−3bにおいては、それぞれの接続先となるDE20−2が故障しており、アクセス可能なSASデバイスがないため、それぞれのルートテーブルにはアクセス可能なSASデバイスのSASアドレスが存在しない。
【0103】
CE−CM11’のアクセス制御部113’は、作成されたルートテーブルT11aから、図15における第1経路上のPHYの番号“PHY13a”の列に記載の“記憶部28−1の全ディスク”のSASアドレスを得る。また、アクセス制御部113'は、作成されたルートテーブルT11bから、PHYの番号“PHY13b”の列に記載の“記憶部28−3の全ディスク”及び“記憶部28−4の全ディスク”のSASアドレスを得る。そして、アクセス制御部113’は、次にルートテーブルが更新されるまでの間、記憶部28−1が有するディスクに対してアクセス要求のあった場合には、PHY13aに対応するイニシエータ114a’に対して、当該アクセス対象であるディスクへのアクセスを指示する。一方、アクセス制御部113’は、記憶部28−3又は28−4が有するディスクに対してアクセス要求のあった場合には、PHY13bに対応するイニシエータ114b’に対して、当該アクセス対象であるディスクへのアクセスを指示する。
【0104】
同様に、CE−CM12’のアクセス制御部123’は、作成されたルートテーブルT12aから、図16における第2経路上のPHYの番号“PHY14a”の列に記載の“記憶部28−3の全ディスク”及び“記憶部28−4の全ディスク”のSASアドレスを得る。また、アクセス制御部123'は、作成されたルートテーブルT12bから、PHYの番号“PHY14b”の列に記載の“記憶部28−1の全ディスク”のSASアドレスを得る。そして、アクセス制御部123’は、次にルートテーブルが更新されるまでの間、記憶部28−1が有するディスクに対してアクセス要求のあった場合には、PHY14bに対応するイニシエータ124b’に対して、当該アクセス対象であるディスクへのアクセスを指示する。一方、アクセス制御部123'は、記憶部28−3又は28−4が有するディスクに対してアクセス要求のあった場合には、PHY14aに対応するイニシエータ124a’に対して、当該アクセス対象であるディスクへのアクセスを指示する。
【0105】
この場合、CE−CM11’及び12’のいずれも、記憶部28−1,28−3及び28−4の有するそれぞれのディスクにアクセスすることができる。
ここで、アクセス制御部113’及び123’は、第1実施例で説明したように、所定の条件に従い、アクセス経路を第1経路又は第2経路のいずれかに特定する。或いは、コントローラエンクロージャの設計や運用段階での設定等の任意の時点で、アクセス経路を第1経路又は第2経路のいずれに特定するかを、予め設定するように構成してもよい。
【0106】
このようにして、CE−CM11’及び12’は、アクセス制御部113’又は123’によって、それぞれのルートテーブル格納部111又は121に格納されたルートテーブルT11a,T11b又はT12a,T12bに基づいて、アクセス対象であるディスクに到達できるアクセス経路を特定する。そして、アクセス制御部113’又は123’は、特定された経路側のイニシエータ114a’,114b’,124a’又は124b’のいずれかに対して、アクセス対象であるディスクに対する処理を指示する。
【0107】
例えば、ホスト装置からCE10’に対して、DE20−1の記憶部28−1のディスク201−2に対するリード要求がなされた場合、アクセス制御部113’及び123’は、それぞれのルートテーブル格納部111及び121に保持されたルートテーブルT11a,T11b,T12a,T12bを参照する。そして、アクセス制御部113’は、図15に示すPHY13aに対応するルートテーブルT11a中から記憶部28−1のディスク201−2のSASアドレスを見出すことになる。一方、アクセス制御部123’は、図16に示すPHY14bに対応するルートテーブルT12b中から記憶部28−1のディスク201−2のSASアドレスを見出すことになる。このように、CE−CM11’及び12のいずれからも記憶部28−1のディスク201−2へアクセス可能な場合は、アクセス制御部113’又は123’のいずれか一方のみが、対応するイニシエータ114a’又は124b’に、記憶部28−1のディスク201−2へのアクセスを指示する。
【0108】
上述のことから、図14に示すように、何らかの原因によりDE20−2が故障した場合、第1経路においては、CE10’のCE−CM11’は、PHY13a及びPHY23−1bを経由してDE20−1のDE−CM21−1にアクセスし、記憶部28−1に対する処理を行なうことができる。また、CE−CM11’は、PHY13b及びPHY23−4aを経由してDE20−4のDE−CM21−4にアクセスし、記憶部28−4に対する処理を行なうことができる。さらに、CE−CM11’は、PHY13b及びPHY23−4aから、PHY23−4b及びPHY23−3aを経由してDE20−3のDE−CM21−3にアクセスし、記憶部28−3に対する処理を行なうことができる。
【0109】
一方、第1経路とは異なる経路で配線されている第2経路においても、CE10’のCE−CM12’は、PHY14b及びPHY24−1bを経由してDE20−1のDE−CM22−1にアクセスし、記憶部28−1に対する処理を行なうことができる。また、CE−CM12’は、PHY14a及びPHY24−4aを経由してDE20−4のDE−CM22−4にアクセスし、記憶部28−4に対する処理を行なうことができる。さらに、CE−CM12’は、PHY14a及びPHY24−4aから、PHY24−4b及びPHY24−3aを経由してDE20−3のDE−CM22−3にアクセスし、記憶部28−3に対する処理を行なうことができる。
【0110】
従って、CE−CM11’及び12’は、図14に示す、ループ状の経路となっているストレージ装置1’のDE20−2が故障した場合においても、故障後にルートテーブル作成部112及び122が作成したルートテーブルに基づいて、第1経路及び第2経路を選択的に用いることで、DE20−1,DE20−3及びDE20−4の記憶部28−1,28−3及び28−4にそれぞれアクセスをすることができる。
【0111】
このように、第2実施形態のストレージ装置1’によれば、ループ状の経路となっている場合において、より簡素な構成で、アクセス経路中のいずれか一つのDEが故障した場合でも、第1経路及び第2経路を選択的に用いることで、継続して、故障したDE以外の全てのDEに対するアクセスが可能になり、DEの障害発生に伴う業務影響度を最小限に抑えることができる。
【0112】
また、DE増設中、2つのアクセス経路(第1経路及び第2経路)によって、常に二重化された状態を保つことができるので、DE増設中もストレージ装置1’について高い信頼性を保つことができる。
(C)第2実施形態の変形例
第2実施形態で述べたように、ストレージ装置1’は、ディスクやエンクロージャをループ状に接続することが許容されていないSASを採用している。しかし、CE−CM11’及び12’が有するループ検出部114及び124並びにループ選択部115及び125により、論理的にルートテーブルの作成を制御することで、ループ状の接続が可能となっている。
【0113】
以下、図10に示すストレージ装置1’に基づいて、図17及び図18を参照しながら、DEの増設手順の変形例を説明する。
図17は、図10に示すストレージ装置1’における、DE20−4の増設手順の変形例を説明するとともに、DE20−4の増設後の構成の変形例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。
【0114】
ここで、図17において、ケーブル25−4,25−6,26−4及び26−6は、前述した図10の構成から、新たに追加されたケーブルである。
始めに、新たなケーブル25−4によって、DE−CM21−3のPHY23−3aとDE−CM21−4のPHY23−4bとを接続する。このとき、第1経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’及びDE−CM21のそれぞれがルートテーブルを作成、または更新する。
【0115】
次に、新たなケーブル25−6によって、CE−CM11’のPHY13bとDE−CM21−4のPHY23−4aとを接続する。このとき、第1経路は接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’及びDE−CM21のそれぞれがルートテーブルを更新する。また、第1経路はループ状に結線されることになる。従って、第1経路では、CE−CM11’のループ検出部114がループを検出するとともに、ループ選択部115がイニシエータ114a’又は114b’のいずれか一方を選択する(他方を無効にする)。
【0116】
また、新たなケーブル26−4によって、DE−CM22−1のPHY24−1bとDE−CM22−4のPHY24−4bとを接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを作成、または更新する。
最後に、新たなケーブル26−6によって、CE−CM12’のPHY14bとDE−CM22−4のPHY24−4aとを接続する。このとき、第2経路は接続構成が変更されるため、CE10及び各DE20においては、CE−CM12及びDE−CM22のそれぞれがルートテーブルを更新する。また、第2経路はループ状に結線されることになる。従って、第2経路では、ルートテーブルの作成にあたり、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方を無効にする)。
【0117】
上述した手順により、DE20−4の増設が完了する。
このように、第2実施形態の変形例のストレージ装置1’は、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1’を継続して動作させることができる。
図17に示すDEの増設においては、図10におけるストレージ装置1’のケーブル25−1〜25−3及び26−1〜26−3の配線を変更せず、第1経路及び第2経路合わせて、新たな4本のケーブル25−4,25−6,26−4及び26−6を設けている。従って、DE増設作業中も、ストレージ装置1’は、第1経路及び第2経路が互いに逆の順序で接続されているため、ストレージ装置1’は、継続してDE20−1〜20−3の記憶部28−1〜28−3にアクセスすることができる。また、図10におけるストレージ装置1’の既存の配線の変更がないため、増設作業を容易に行なうことが可能である。
【0118】
なお、DE増設時のケーブルの結線順序は、上述した順序に限定されるものではない。
図18は、図17に示すストレージ装置1’における、DE20−5の増設手順を説明するとともに、DE20−5の増設後の構成例を模式的に示す図である。
なお、図中、既述の符号と同一の符号は同一もしくは略同一の部分を示しているので、その詳細な説明は省略する。また、増設したDE20−5は、DE20−1〜20−4と同様の構成及び機能であるため、その詳細な説明は省略する。
【0119】
ここで、図18において、ケーブル25−5及び26−5は、前述した図17のストレージ装置1’の構成から、新たに追加されたケーブルである。
始めに、第1経路において、CE−CM11’のPHY13bとDE−CM21−4のPHY23−4aとを連結するケーブル25−6のDE−CM21−4のPHY23−4a側を取り外す。また、第2経路において、CE−CM12’のPHY14bとDE−CM22−4のPHY24−4aとを連結するケーブル26−6のDE−CM22−4のPHY24−4a側を取り外す。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを更新する。
【0120】
次いで、第1経路において、新たなケーブル25−5によって、DE−CM21−4のPHY23−4aと増設をするDE20−5のDE−CM21−5のPHY23−5bとを接続する。また、第2経路において、新たなケーブル26−5によって、DE−CM22−4のPHY24−4aと増設をするDE20−5のDE−CM22−5のPHY24−5bとを接続する。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを作成、または更新する。
【0121】
最後に、第1経路において、一端が取り外されているケーブル25−6を、DE−CM21−5のPHY23−5aに接続する。また、第2経路において、一端が取り外されているケーブル26−6を、DE−CM22−6のPHY24−5aに接続する。このとき、第1経路及び第2経路はともに接続構成が変更されるため、CE10’及び各DE20においては、CE−CM11’,12’,DE−CM21及び22のそれぞれがルートテーブルを更新する。また、第1経路及び第2経路はともにループ状に結線されることになる。従って、第1経路では、ルートテーブルの作成にあたり、CE−CM11’のループ検出部114がループを検出するとともに、ループ選択部115がイニシエータ114a’又は114b’のいずれか一方を選択する(他方を無効にする)。第2経路では、CE−CM12’のループ検出部124がループを検出するとともに、ループ選択部125がイニシエータ124a’又は124b’のいずれか一方を選択する(他方を無効にする)。
【0122】
上述した手順により、DE20−5の増設が完了する。
このように、第2実施形態の変形例のストレージ装置1’は、DEを、ホットスワップによりシステムの停止をせずに増設することができるため、DEの増設作業時においてもストレージ装置1’を継続して動作させることができる。
さらに、DE増設作業中も、ストレージ装置1’の第1経路及び第2経路は、ともにCE10’からDE20−4まで接続されているため、ストレージ装置1’は、継続してDE20−1〜20−4の記憶部28−1〜28−4にアクセスすることが可能である。
【0123】
なお、DE増設時のケーブルの結線順序は、上述した順序に限定されるものではない。
例えば、最初の作業において、第1経路におけるケーブル25−6の一端をDE−CM21−4のPHY23−4aから取り外し、第2経路におけるケーブル26−6の一端のDE−CM22−4のPHY24−4aから取り外した後は、先に第1経路における結線を最後まで行い、CE−CM11’からDE−CM21−5までをループ状に結線してしてもよい。そして、その後、第2経路における結線を最後まで行なえばよい。
【0124】
これにより、DE増設作業時にいずれかのDEが故障した場合でも、CE−CM11’のアクセス制御部113’がPHY13a又は13bのいずれかの経路を、アクセス対象の記憶部に応じて選択的に切り替えることができる。従って、DEの故障により第2経路からアクセスができなくなったアクセス対象の記憶部に対しても、CE10’から継続してアクセスすることが可能となる。
【0125】
(D)その他
以上、本発明の好ましい実施形態について詳述したが、本発明は、係る特定の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲内において、種々の変形、変更して実施することができる。
なお、上述したルートテーブル作成部112,122,212,222;アクセス制御部113,113’,123,123’;イニシエータ114a,114a’,114b,114b’,124a,124a’,124b,124b’及びループ選択部115,125としての機能は、コンピュータ(CPU,情報処理装置,各種端末を含む)が所定のアプリケーションプログラムを実行することによって実現されてもよい。
【0126】
そのプログラムは、例えばフレキシブルディスク,CD(CD−ROM,CD−R,CD−RWなど),DVD(DVD−ROM,DVD−RAM,DVD−R,DVD−RW,DVD+R,DVD+RWなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体から記憶部制御プログラムを読み取って内部記憶装置または外部記憶装置に転送し格納して用いる。また、そのプログラムを、例えば磁気ディスク,光ディスク,光磁気ディスク等の記憶装置(記録媒体)に記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
【0127】
ここで、コンピュータとは、ハードウェアとOS(オペレーティングシステム)とを含む概念であり、OSの制御の下で動作するハードウェアを意味している。また、OSが不要でアプリケーションプログラム単独でハードウェアを動作させるような場合には、そのハードウェア自体がコンピュータに相当する。ハードウェアは、少なくとも、CPU等のマイクロプロセッサと、記録媒体に記録されたコンピュータプログラムを読み取るための手段とをそなえている。
【0128】
上記アプリケーションプログラムは、上述のようなコンピュータに、上記機能を実現させるプログラムコードを含んでいる。また、その機能の一部は、アプリケーションプログラムではなくOSによって実現されてもよい。
【符号の説明】
【0129】
1,1’ ストレージ装置
10,10’ コントローラエンクロージャ(CE,制御筐体)
11,11’,12,12’ コントローラモジュール(CE−CM,制御部)
13a,13b,14a,14b 物理層(PHY)
18 記憶部
18−1〜M ディスク
20−1〜5 ドライブエンクロージャ(DE,増設筐体)
21−1〜5,22−1〜5 コントローラモジュール(DE−CM,増設制御部)
23−1a,23−1b,24−1a,24−1b 物理層(PHY)
23−2a,23−2b,24−2a,24−2b 物理層(PHY)
23−3a,23−3b,24−3a,24−3b 物理層(PHY)
23−4a,23−4b,24−4a,24−4b 物理層(PHY)
23−5a,23−5b,24−5a,24−5b 物理層(PHY)
25−1〜6,26−1〜6 ケーブル
28−1〜5 記憶部
100,102 CPU
101,103 メモリ
110,110’,120,120’ SAS制御デバイス
111,121 SAS制御デバイス用メモリ(ルートテーブル格納部,格納部)
112,122 ルートテーブル作成部(作成部)
113,113’,123,123’ アクセス制御部
114a,124a イニシエータ
114a’,114b’ イニシエータ(ループ検出部,検出部)
124a’,124b’ イニシエータ(ループ検出部,検出部)
115,125 ループ選択部(選択部)
201−1〜L,202−1〜K,203−1〜J ディスク
210−1,220−1 SAS制御デバイス
211−1 SAS制御デバイス用メモリ(ルートテーブル格納部,格納部)
221−1 SAS制御デバイス用メモリ(ルートテーブル格納部,格納部)
212−1,222−1 ルートテーブル作成部(作成部)
T11,T12,T21−1〜4,T22−1〜4 ルートテーブル
【特許請求の範囲】
【請求項1】
記憶部、および、前記記憶部に対する冗長アクセス制御を行なう2つの制御部を含む制御筐体と、
増設記憶部、および、前記増設記憶部に対する冗長アクセス制御を行なう2つの増設制御部とを含む2以上の増設筐体とをそなえ、
前記制御筐体に対し前記2以上の増設筐体を縦続接続して増設するストレージ装置であって、
前記制御筐体における前記2つの制御部の一方に対し、前記2以上の増設筐体のそれぞれにおける前記2つの増設制御部の一方を縦続接続して形成される第1経路と、
前記制御筐体における前記2つの制御部の他方に対し、前記2以上の増設筐体のそれぞれにおける前記2つの増設制御部の他方を縦続接続して形成される第2経路とをそなえ、
前記第1経路における前記一方の増設制御部の接続順序が、前記2以上の増設筐体の増設順序であり、
前記第2経路における前記他方の増設制御部の接続順序が、前記2以上の増設筐体の増設順序と異なる順序であることを特徴とする、ストレージ装置。
【請求項2】
前記制御部および前記増設制御部のそれぞれは、
当該制御部または当該増設制御部以降に縦続接続されている増設筐体における前記記憶部へのアクセスルートを特定するルートテーブルを作成する作成部と、
前記作成部によって作成された前記ルートテーブルを格納する格納部とを有するとともに、
前記制御部は、
前記格納部における前記ルートテーブルに基づいて、前記第1経路または前記第2経路に沿うアクセスルートを特定し、当該アクセスルートで、当該制御部以降に縦続接続されている増設筐体における前記増設記憶部に対するアクセスを行なうアクセス制御部をさらに有することを特徴とする、請求項1記載のストレージ装置。
【請求項3】
前記制御部は、
前記第1経路または前記第2経路がループを成すことを検出する検出部と、
前記検出部によって前記第1経路または前記第2経路がループを成すことを検出した場合、当該ループの2つの周方向の一方向を選択し、選択された前記一方向に沿う順序で前記2以上の増設筐体が縦続接続されているとみなして前記ルートテーブルを前記作成部に作成させる選択部とをさらに含むことを特徴とする、請求項2記載のストレージ装置。
【請求項4】
前記検出部は、前記制御筐体の前記作成部による前記ルートテーブルの作成処理が終了しない場合、および、前記制御筐体の前記制御部に係る情報が前記制御部の前記ルートテーブルに現われた場合の少なくとも一方の場合に、前記第1経路または前記第2経路がループを成していると判断することを特徴とする、請求項3記載のストレージ装置。
【請求項5】
請求項1または請求項2に記載のストレージ装置において前記増設筐体を増設する方法であって、
増設対象の増設筐体における2つの増設制御部の一方を、前記第1経路における最後の増設制御部に縦続接続するステップと、
前記増設対象の増設筐体における2つの増設制御部の他方を、前記第2経路における前記他方の制御部と前記第2経路における最初の増設制御部との間に縦続接続するステップとを含むことを特徴とする、ストレージ装置の増設方法。
【請求項6】
請求項3または請求項4に記載のストレージ装置において前記増設筐体を増設する方法であって、
増設対象の増設筐体における2つの増設制御部の一方を、前記第1経路における最後の増設制御部に縦続接続するとともに前記第1経路における前記一方の制御部に接続することにより、前記第1経路をループにするステップと、
前記第2経路における前記他方の制御部と前記第2経路における最後の増設制御部とを接続することにより、前記第2経路をループにするステップと、
前記第2経路をループにした後に、前記増設対象の増設筐体における2つの増設制御部の他方を、前記第2経路における前記他方の制御部と前記第2経路における最初の増設制御部との間に縦続接続するステップと、
前記増設対象の増設筐体における前記他方の増設制御部を縦続接続した後に、前記増設対象の増設筐体における前記一方の増設制御部と前記第1経路における前記一方の制御部との接続を外すとともに、前記第2経路における前記他方の制御部と前記第2経路における最後の増設制御部との接続を外すステップとを含むことを特徴とする、ストレージ装置の増設方法。
【請求項1】
記憶部、および、前記記憶部に対する冗長アクセス制御を行なう2つの制御部を含む制御筐体と、
増設記憶部、および、前記増設記憶部に対する冗長アクセス制御を行なう2つの増設制御部とを含む2以上の増設筐体とをそなえ、
前記制御筐体に対し前記2以上の増設筐体を縦続接続して増設するストレージ装置であって、
前記制御筐体における前記2つの制御部の一方に対し、前記2以上の増設筐体のそれぞれにおける前記2つの増設制御部の一方を縦続接続して形成される第1経路と、
前記制御筐体における前記2つの制御部の他方に対し、前記2以上の増設筐体のそれぞれにおける前記2つの増設制御部の他方を縦続接続して形成される第2経路とをそなえ、
前記第1経路における前記一方の増設制御部の接続順序が、前記2以上の増設筐体の増設順序であり、
前記第2経路における前記他方の増設制御部の接続順序が、前記2以上の増設筐体の増設順序と異なる順序であることを特徴とする、ストレージ装置。
【請求項2】
前記制御部および前記増設制御部のそれぞれは、
当該制御部または当該増設制御部以降に縦続接続されている増設筐体における前記記憶部へのアクセスルートを特定するルートテーブルを作成する作成部と、
前記作成部によって作成された前記ルートテーブルを格納する格納部とを有するとともに、
前記制御部は、
前記格納部における前記ルートテーブルに基づいて、前記第1経路または前記第2経路に沿うアクセスルートを特定し、当該アクセスルートで、当該制御部以降に縦続接続されている増設筐体における前記増設記憶部に対するアクセスを行なうアクセス制御部をさらに有することを特徴とする、請求項1記載のストレージ装置。
【請求項3】
前記制御部は、
前記第1経路または前記第2経路がループを成すことを検出する検出部と、
前記検出部によって前記第1経路または前記第2経路がループを成すことを検出した場合、当該ループの2つの周方向の一方向を選択し、選択された前記一方向に沿う順序で前記2以上の増設筐体が縦続接続されているとみなして前記ルートテーブルを前記作成部に作成させる選択部とをさらに含むことを特徴とする、請求項2記載のストレージ装置。
【請求項4】
前記検出部は、前記制御筐体の前記作成部による前記ルートテーブルの作成処理が終了しない場合、および、前記制御筐体の前記制御部に係る情報が前記制御部の前記ルートテーブルに現われた場合の少なくとも一方の場合に、前記第1経路または前記第2経路がループを成していると判断することを特徴とする、請求項3記載のストレージ装置。
【請求項5】
請求項1または請求項2に記載のストレージ装置において前記増設筐体を増設する方法であって、
増設対象の増設筐体における2つの増設制御部の一方を、前記第1経路における最後の増設制御部に縦続接続するステップと、
前記増設対象の増設筐体における2つの増設制御部の他方を、前記第2経路における前記他方の制御部と前記第2経路における最初の増設制御部との間に縦続接続するステップとを含むことを特徴とする、ストレージ装置の増設方法。
【請求項6】
請求項3または請求項4に記載のストレージ装置において前記増設筐体を増設する方法であって、
増設対象の増設筐体における2つの増設制御部の一方を、前記第1経路における最後の増設制御部に縦続接続するとともに前記第1経路における前記一方の制御部に接続することにより、前記第1経路をループにするステップと、
前記第2経路における前記他方の制御部と前記第2経路における最後の増設制御部とを接続することにより、前記第2経路をループにするステップと、
前記第2経路をループにした後に、前記増設対象の増設筐体における2つの増設制御部の他方を、前記第2経路における前記他方の制御部と前記第2経路における最初の増設制御部との間に縦続接続するステップと、
前記増設対象の増設筐体における前記他方の増設制御部を縦続接続した後に、前記増設対象の増設筐体における前記一方の増設制御部と前記第1経路における前記一方の制御部との接続を外すとともに、前記第2経路における前記他方の制御部と前記第2経路における最後の増設制御部との接続を外すステップとを含むことを特徴とする、ストレージ装置の増設方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2011−150415(P2011−150415A)
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願番号】特願2010−9185(P2010−9185)
【出願日】平成22年1月19日(2010.1.19)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願日】平成22年1月19日(2010.1.19)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
[ Back to top ]