説明

ストレージ管理方法およびストレージシステム

【課題】 コピー障害に対する適切な対処を行いやすくすること。
【解決手段】 マルチ管理システム1は、ストレージ管理システム2から、1以上のストレージ装置でのコピーに関する障害の通知を受けた場合、障害に係るペアボリュームのボリュームを有するストレージ装置を管理するストレージ管理システムに対し、当該ペアボリューム情報の送信要求を行う。送信要求を受けたストレージ管理システムは、ペアボリューム情報をマルチ管理システム1に送信する。マルチ管理システム1は、受信したペアボリューム情報に示されたボリュームを有するストレージ装置に対し、ストレージ装置の接続形態を表す接続情報の送信要求を行う。接続情報の送信要求を受けたストレージ管理システムは、ストレージ装置の接続情報をマルチ管理システム1に送信する。マルチ管理システム1は、受信した接続情報から、障害に係るペアボリューム間の中継経路を特定して外部に表示する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、データの複製を行うストレージシステムに関するものである。
【背景技術】
【0002】
近年、ネットワークを経由して複数のサーバからストレージ装置にアクセスするSAN(Storage Area Network)や、NAS(Network Attached Storage)では、高機能化や大規模化が進みつつある。その一例として、ストレージ装置に備えたリモートコピー機能を利用して、他の作業を中断せず、データを遠隔地などに複製(コピー)を行い、冗長性を高める手法が知られている。
また、遠隔地にある2サイト(拠点)でデータを常に同期させておき、地震や火災など拠点が失われるような災害時でも、他方のサイトのネットワークを利用して業務が直ちに再開できる、冗長性を高める手法が知られている。さらに、広域災害や同時多発テロ等により複数の拠点が同時に利用できなくなった場合のダメージを考え、3サイト以上で冗長性を維持する手法も知られている。
このような状況下において、複数のサイトで構成されるような大規模構成システムで冗長性を維持するため、複数のサイトに跨ったデータのコピーを実施する必要がある。その際に、一つのサイトで障害が発生すると、コピーの失敗により、関連するサイトにおいても障害が誘発する可能性がある。
そこで、従来、そのような障害に対処するため、複数の障害から根本原因を特定する方法が知られている。この方法では、常に最新の状態に更新されているSANトポロジ・マップに対して、発生した障害の情報をマッピングしていき、そこから導かれる障害の時間的・空間的関連性から問題を判定する(例えば、特許文献1)。
【特許文献1】特開2001−249856号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
しかし、特許文献1に記載の方法を複数のサイトに跨る大規模なシステムに適用するには、次のような問題があった。すなわち、第1の問題として、SANトポロジ・マップに必要な情報量は、システムを構成する装置数の自乗に比例して増大するため、たとえば数千台程度の装置で構成されるシステムではSANトポロジ・マップを作成するのが困難であった。第2の問題として、サイト内の通信帯域が狭い場合、SANトポロジ・マップを構築するために必要なデータの収集時間が遅延するため、SANトポロジ・マップを常に最新の状態で維持することが困難であった。
このため、たとえ、コピー障害の原因を判定することが困難であったとしても、そのコピー障害に対する適切な対処を行いやすくすることが望まれていた。
そこで、本発明は、前記問題に鑑みてなされたもので、コピー障害に対する適切な対処を行いやすくすることを目的とする。
【課題を解決するための手段】
【0004】
前記した課題を解決するために本発明は、複数のストレージ装置と、前記ストレージ装置の各々を管理する各管理サーバと、前記各管理サーバとの間で通信を行う計算機とを含んで構成されるコンピュータシステムを用いて実行されるストレージ管理方法であって、前記管理サーバは、管理下の前記ストレージ装置の接続形態を表す接続情報と、当該ストレージ装置のボリュームとペアを組むペアボリュームに関するペアボリューム情報とを格納する記憶部を有し、前記計算機は、前記管理サーバから、一または複数のストレージ装置でのコピーに関する障害の通知を受けた場合、当該通知された障害にかかわるペアボリュームのボリュームを有するストレージ装置を管理する管理サーバに対し、当該ペアボリュームに関するペアボリューム情報の送信要求を行い、前記送信要求を受けた管理サーバは、当該送信要求されたペアボリューム情報を記憶部から読み出して、前記計算機に送信し、前記ペアボリューム情報を受信した計算機は、当該ペアボリューム情報に示されたボリュームを有するストレージ装置に対し、当該ストレージ装置の接続形態を表す接続情報の送信要求を行い、当該接続情報の送信要求を受けた管理サーバは、前記送信要求されたストレージ装置の接続情報を前記記憶部から読み出して、前記計算機に送信し、前記送信された接続情報を受信した計算機は、当該接続情報から、前記通知された障害にかかわるペアボリューム間の中継経路を特定して外部に表示する。
【発明の効果】
【0005】
本発明によれば、コピー障害に対する適切な対処を行いやすくすることができる。
【発明を実施するための最良の形態】
【0006】
[実施の形態1]
図1は本発明の実施の形態1におけるシステム全体の構成例を示すブロック図である。ここでは、東京(First Site)、大阪(Second Site)、福岡(Third Site)の3サイト11、12、13により構成された大規模構成システムを例示している。
各サイト11〜13は、ストレージ管理システム(管理サーバともいう)2、3、4の各々に接続され、各ストレージ管理システム2、3、4がIP(Internet Protocol)ネットワーク53を介してマルチサイト管理システム(計算機ともいう)1に接続されている。サイト11とサイト12との間は、IPネットワーク51によって接続されている。サイト12とサイト13との間は、IPネットワーク52によって接続されている。なお、図1では、図示されていないが、東京と福岡の各サイト11、13間を接続するIPネットワークも存在し、各サイト11〜13間の相互接続を実現しているものとする。
そして、各サイト11〜13では、複数のホスト200に接続されたSAN(Storage Area Network)21〜23が構築されている。SAN21には、ストレージ装置31とFC-IP(Fiber Channel−Internet Protocol)変換装置(単に「変換装置」あるいは「中継装置」ともいう)41とが接続されている。同様に、SAN22、23の各々にも、ストレージ装置32、33と変換装置42、43とが接続されている。
なお、ネットワークの接続形態として、各サイト11〜13相互間では専用線などのネットワークを介して実現するようにしてもよい。また、SAN21〜23の各々にはネットワーク用スイッチを接続するようにしてもよい。
【0007】
[ストレージ装置の構成]
次に、ストレージ装置31〜33の構成について説明する。ここでは、ストレージ装置31の構成について詳述するが、ストレージ装置32、33の構成も同様であるため、重複説明を適宜省略する。
図1に示すように、ストレージ装置31は、ボリューム61と、コントロールユニット(中継装置)71と、ポート(中継装置)81とを含んで構成されている。コントロールユニット71は、ボリューム61に関する制御機能や、コピー機能あるいはリモートコピー機能などをもつ。
ボリューム61は、例えば、一または複数の記憶装置(ハードディスクドライブなど)をRAID(Redundant Array of Independent Disks)構成により形成された仮想的な記憶領域を意味する。ボリューム61は、他のボリューム(例えば、大阪サイトのボリューム62など)とペアボリュームを組む。図1では、ストレージ装置31内に1つのボリューム61が記載されているが、複数のボリュームが存在するものとする。
ペアボリュームとは、コントロールユニット71、72、73、74、75のコピー機能(同一のストレージ装置内のコピー機能)あるいはリモートコピー機能(複数のストレージ装置間のコピー機能)を用いた正ボリューム(複製元ボリューム)と副ボリューム(複製先ボリューム)の組を指す。
なお、ストレージ装置32は、2つのボリューム62、63と、3台のコントロールユニット72、73、74と、2つのポート82、83とを含んで構成されている。
【0008】
[ストレージ管理システムの構成]
次に、ストレージ管理システム2〜4の構成について説明する。なお、図1では、1台のストレージ管理システム2の構成が記載されているが、他のストレージ管理システム3、4も同様の構成である。
ストレージ管理システム2〜4は、管理下の各サイト11〜13を管理している。具体的には、ストレージ管理システム2は東京のサイト11を管理し、ストレージ管理システム3は大阪のサイト12を管理する。また、ストレージ管理システム4は福岡のサイト13を管理する。
ストレージ管理システム2は、管理下のサイト11内の装置(ホスト、ストレージ装置、スイッチ、FC-IP変換装置の各々を意味する)にLAN(Local Area Network)もしくはFC(Fibre Channel)を介して接続されている。そして、ストレージ管理システム2は、SNMP(Simple Network Management Protocol)や、各装置(ホスト、ストレージ装置、スイッチ、FC-IP変換装置)の専用APIなどにより、サイト11内の装置(ホスト、ストレージ装置、スイッチ、FC-IP変換装置)の管理や監視を行っている。
【0009】
図1に示すように、ストレージ管理システム2は、CPU(処理部)101Aと、メモリ101Bと、ハードディスク装置101Cとを含んで構成されている。
メモリ101Bには、SAN情報収集プログラム101と障害監視プログラム102とがロードされている。また、ハードディスク装置101Cには、DB(Data Base)103とGUI104とを有する。GUIは、Graphical User Interfaceの略であり、ウィンドウなどの画像を表示するためのプログラムを表す。CPU101Aは、各種のプログラム101、102、104に従って実行する。
SAN情報収集プログラム101は、ストレージ管理システム2〜4が管理しているサイト11〜13内の装置(ホスト、ストレージ装置、スイッチ、FC-IP変換装置)の設定や動作情報(性能情報)を定期的に収集している。このSAN情報収集プログラム101が収集した情報は、後記するペアボリューム情報テーブル221(図2参照)やSAN構成情報テーブル241(図5参照)、障害イベントログ情報テーブル261(図8参照)として作成されたり更新されたりして、ストレージ管理システム2内のDB103に格納される。
障害監視プログラム102は、障害イベントログ情報テーブル261〜263(図8〜図10参照)を参照してペアボリュームに関する障害を検知した場合に、そのペアボリュームに関する障害イベント通知メッセージをマルチサイト管理システム1に送信する。
【0010】
[マルチサイト管理システムの構成]
次に、マルチサイト管理システム1の構成について説明する。マルチサイト管理システム1は、各サイト11〜13のストレージ管理システム2〜4とIPネットワーク53によって接続されている。
図1に示すように、マルチサイト管理システム1は、CPU(処理部)111Aと、メモリ111Bと、ハードディスク装置111Cとを含んで構成されている。
メモリ111Bには、障害特定プログラム111とデータパス構築プログラム112とがロードされている。また、ハードディスク装置111Cには、DB(Data Base)113とGUI(Graphical User Interface)114とを有する。CPU111Aは、各種プログラム111、112、114に従って実行する。
障害特定プログラム111は、ストレージ管理システム2〜4から通知された障害イベント通知メッセージを受信すると、その障害イベント通知メッセージを基にデータパス構築プログラム112を用いて各サイト11〜13からデータパス(ペアボリューム間におけるデータの流れを表したもの)を構築するための情報を選別したり収集したりする。収集したデータパスを受け取った障害特定プログラム111は、構築されたデータパス上に存在する障害イベントを各サイト11〜13から収集する。
そして、CPU111Aが、障害の特定および運用上問題が波及する影響範囲をマルチサイト管理システム1の管理者用端末115(コンピュータの表示装置)にGUI114を用いて表示する。また、CPU111Aが、障害の影響範囲にあるサイト11〜13に障害警告メッセージを送信する。これらの内容は後記する。
【0011】
[各種テーブルの構成例]
次に、各サイト11〜13を管理するストレージ管理システム2〜4のDBに管理されているペアボリューム情報テーブル221〜223の構成例を図2ないし図4に基づいて説明する。
図2はペアボリューム情報テーブル221(ペアボリューム情報ともいう)の構成例を示す図である。ペアボリューム情報テーブル221は、東京のサイト11を管理するストレージ管理システム2のDBで管理されている。
図2に示すように、ペアボリューム情報テーブル221は、正ボリュームと副ボリュームとの項目(列)を含んで構成されている。正ボリュームは複製元のボリュームを表し、副ボリュームは複製先のボリュームを表す。
正ボリュームには、装置名と、Vol部品名と、CU部品名と、Port部品名との項目を含んでいる。装置名には、複製元のストレージ装置を識別するための情報(例えば、ストレージ装置31を表す「ST01」など)が示され、Vol部品名には、正ボリュームを識別するための情報(例えば、ボリューム61を表す「01」など)が示される。
【0012】
CU部品名には、正ボリュームを制御するコントロールユニットを識別するための情報(例えば、コントロールユニット71を表す「11」など)が示され、Port部品名には、正ボリュームに用いられるポートを識別するための情報(例えば、ポート81を表す「21」など)が示される。
また、副ボリュームにも、正ボリュームの場合と同様、装置名と、Vol部品名と、CU部品名と、Port部品名との項目を含んでいる。装置名には、複製先のストレージ装置を識別するための情報(例えば、ストレージ装置32を表す「ST02」など)が示され、Vol部品名には、副ボリュームを識別するための情報(例えば、ボリューム62を表す「02」など)が示される。
CU部品名には、副ボリュームを制御するコントロールユニットを識別するための情報(例えば、コントロールユニット72を表す「12」など)が示され、Port部品名には、副ボリュームに用いられるポートを識別するための情報(例えば、ポート82を表す「22」など)が示される。
【0013】
このようなテーブル221の各値は、ストレージ管理システム2のSAN情報収集プログラム101の機能により収集される。具体的には、ストレージ管理システム2のSAN情報収集プログラム101は、例えば、定期的あるいはペアボリューム作成時に、ストレージ装置31のコントロールユニット71から、ペアボリュームの正ボリューム(図2の正ボリュームのVol部品名225で指定されるもの)と副ボリューム(図2の副ボリュームのVol部品名229で指定されるもの)を制御するコントロールユニット(図2のCU部品名226、230で指定されるもの)とポート(図2のPort部品名227、231で指定されるもの)の情報を問い合わせる。そして、このSAN情報収集プログラム101は、問い合わせに対する情報を収集し、これらの情報を用いてペアボリューム情報テーブル221の項目(列)224〜231を作成したり更新したりする。
【0014】
また、大阪のサイト12を管理するストレージ管理システム3のDBにも、図3に示すペアボリューム情報テーブル222が管理される。さらに、福岡のサイト13を管理するストレージ管理システム3のDBにも、図3に示すペアボリューム情報テーブル223が管理される。これらのテーブル222、223も、図2のテーブル221と同様の構成である。
【0015】
なお、図2ないし図4において、「ST01」〜「ST03」の装置名はストレージ装置31〜33(図1参照)の各々を表し、「01」〜「04」のVol部品名はボリューム61〜64(図1参照)の各々を表す。「11」〜「15」のCU部品名はコントロールユニット71〜75(図1参照)の各々を表し、「21」〜「24」のPort部品名はポート81〜84(図1参照)の各々を表す。
【0016】
次に、各サイト11〜13を管理するストレージ管理システム2〜4のDBに管理されているSAN構成情報テーブル241〜243の構成例を図5ないし図7に基づいて説明する。
図5はSAN構成情報テーブル241(ストレージ装置の接続形態を表す接続情報ともいう)の構成例を示す図である。SAN構成情報テーブル241は、東京のサイト11を管理するストレージ管理システム2のDBで管理されている。
図5に示すように、SAN構成情報テーブル241は、装置種別と装置名と部品名との項目(列)を含んで構成されている。
装置種別には、ストレージ装置、変換装置、ボリューム、CU(コントロールユニット)、ポートのいずれかの種別が示される。
装置名には、装置種別で指定された装置の所属装置(ストレージ装置、変換装置)を識別するための情報(例えば、「ST01」「FP01」など)が示され、部品名には、装置名で指定された部品(ボリューム、CU、ポート)を識別するための情報(例えば、「01」など)が示される。
【0017】
このようなテーブル241の各値は、ストレージ管理システム2のSAN情報収集プログラム101の機能により収集される。具体的には、ストレージ管理システム2のSAN情報収集プログラム101は、例えば、定期的あるいはSAN構成変更時に、ストレージ装置31および変換装置41の各々に対して、ボリュームやコントロールユニット、ポートの位置を特定するための情報(図5の項目224〜226)を問い合わせる。そして、このSAN情報収集プログラム101は、問い合わせに対する情報を収集し、これらの情報を用いてSAN構成情報テーブル241の項目(列)244〜246を作成したり更新したりする。
【0018】
また、大阪のサイト12を管理するストレージ管理システム3のDBにも、図6に示すSAN構成情報テーブル242が管理される。さらに、福岡のサイト13を管理するストレージ管理システム3のDBにも、図7に示すSAN構成情報テーブル243が管理される。これらのテーブル242、243も、図5のテーブル241と同様の構成である。
【0019】
なお、図5ないし図7において、「FI01」〜「FI04」の装置名は変換装置41〜44(図1参照)の各々を表す。「‐」は空データを表す。
【0020】
次に、各サイト11〜13を管理するストレージ管理システム2〜4のDBに管理されている障害イベントログ情報テーブル261〜263の構成例を図8ないし図10に基づいて説明する。
図8は障害イベントログ情報テーブル261の構成例を示す図である。障害イベントログ情報テーブル261は、東京のサイト11を管理するストレージ管理システム2のDBで管理されている。
図8に示すように、障害イベントログ情報テーブル261は、装置種別と装置名と部品名と障害イベントと報告済フラグの項目(列)を含んで構成されている。
装置種別には、CPU101Aによって障害が検出された装置(ポート、CUなど)の種別が示され、障害イベントには、障害の内容が示される。
報告済みフラグは、当該障害イベントをマルチサイト管理システム1に報告したことを示すフラグである。報告済みであれば「○」の値が書き込まれ、未報告であれば「‐」の値が書き込まれる。
なお、装置名と部品名の項目には、図5〜図7に示した装置名と部品名の各値が示される。
【0021】
このようなテーブル261の各値は、ストレージ管理システム2のSAN情報収集プログラム101の機能により収集される。具体的には、ストレージ管理システム2のSAN情報収集プログラム101は、例えば、定期的にあるいはSNMPなどにより障害を検知した時に、ストレージ装置31および変換装置41の各々から、ボリューム61やコントロールユニット71、ポート81などの性能情報を収集する。そして、このSAN情報収集プログラム101は、その性能情報の中から、障害に関する情報(図8の障害イベント267で指定されるもの)とその障害が発生した装置の位置に関する情報(図8の項目264〜266で指定されるもの)を抽出する。そして、このSAN情報収集プログラム101は、抽出した情報を用いて障害イベントログ情報テーブル261を作成する。
【0022】
なお、ストレージ管理システム2の障害監視プログラム102は、障害イベントログ情報テーブル261から、例えば、ペアボリュームの障害に関する情報(障害イベント)を検知したとき、その障害イベントをマルチサイト管理システム1に通知する。ペアボリュームの障害として、ペアボリューム同期失敗、コピー/リモートコピープログラム内部エラーなどがある。また、ペアボリューム以外の障害として、例えば、ハードウェア障害・カーネルパニック・メモリエラー・電源ダウンなどの装置の障害や、通信接続失敗・ポート閉塞・リンクタイムアウト・パケット未到達などの通信の障害、ボリューム閉塞・アクセスエラーなどのボリュームの障害がある。これらの障害も障害イベントログ情報テーブル261に登録される。
【0023】
大阪のサイト12を管理するストレージ管理システム3のDBにも、図9に示す障害イベントログ情報テーブル262が管理される。さらに、福岡のサイト13を管理するストレージ管理システム4のDBにも、図10に示す障害イベントログ情報テーブル263が管理される。これらのテーブル262、263も、図8のテーブル261と同様の構成である。
【0024】
次に、マルチサイト管理システム1のDBに管理されているサイト情報テーブル300の構成例を図11に基づいて説明する。
図11に示すように、サイト情報テーブル300は、装置種別と装置名とサイト名との項目(列)を含んで構成されている。装置種別には、ストレージ装置または変換装置のいずれかの種別が示され、装置名には、装置種別で指定された装置を識別するための情報が示される。サイト名には、東京、大阪または福岡のいずれかの拠点が示される。このような構成により、ストレージ装置または変換装置と、その設置先のサイトとの対応付けが可能となる。
【0025】
このようなサイト情報テーブル300は、どのサイトのストレージ管理システムにどの装置の情報収集を依頼するかどうかの判断材料として用いられるものであり、マルチサイト管理システム1によって作成される。具体的には、マルチサイト管理システム1は、各ストレージ管理システム2〜4のSAN構成情報テーブル221〜223(図2〜図4)を参照し、各サイト11〜13内のストレージ装置31〜33と変換装置41〜44の各々の位置を識別するための情報(図11の項目301〜303で指定されるもの)を収集したり更新したりする。この収集・更新は、例えば、一定間隔あるいはストレージ管理システム2〜4から障害イベントの通知を受けたときに行われる。
【0026】
[抽象データパスの具体例]
次に、ペアボリュームを抽象的に表した抽象データパスについて説明する。
図12は抽象データパスの概念図である。ここでは、カスケード接続されたペアボリュームの集合を表す抽象データパスを例にして説明する。
図12では、ボリューム401(「01」のVol部品名)、ボリューム402(「02」のVol部品名)、ボリューム403(「03」)、ボリューム404(「04」)の順に流れる抽象データパスが表されている。
このうち、ボリューム401とボリューム402の関係をみると、ボリューム401を正ボリュームとしたペアボリュームが形成され、ボリューム401から402へのリモートコピー411が行われている。これは、ペアボリューム情報テーブル221(図2の最上段のレコード参照)に示された関係と同じである。次に、ボリューム402とボリューム403の関係をみると、ボリューム402を正ボリュームとしたペアボリュームが形成され、ボリューム402から403へのコピー412が行われている。これは、ペアボリューム情報テーブル222(図3の最上段から2段目のレコード参照)に示された関係と同じである。
ボリューム403とボリューム404の関係をみると、ボリューム403を正ボリュームとしたペアボリュームが形成され、ボリューム403から404へのリモートコピー413が行われている。これは、ペアボリューム情報テーブル223(図4の最上段のレコード参照)に示された関係と同じである。
このように、3つのコピー411〜413によって、1つの抽象データパスが構成されている。
なお、本実施の形態において、ペアボリュームを構成する正ボリュームと副ボリュームとの間のある位置からみて、正ボリューム側を上流と称したり、副ボリューム側を下流と称したりもする。
【0027】
[データパスのマッピング例]
次に、図12に示した抽象データパスに対応するデータパスのマッピング例について説明する。なお、データパスとは、抽象データパスに対して、実際に複製元ボリュームから複製先ボリュームへの複製に必要なデータを中継する装置(コントロールユニットなど)をマッピングした集合を指す。
図13はデータパスのマッピング例を示す概念図である。
図13に示すボリューム501〜504の各々は、図12のボリューム401〜404に対応している。そして、ボリューム501とボリューム502との間には、ボリューム501からボリューム502へのリモートコピーが行われる場合のデータの中継順序と同様の配列にコントロールユニット571(「CU」表記、図1のコントロールユニット71に相当)などがマッピングにより示されている。
【0028】
具体的には、ボリューム501とボリューム502との間には、ボリューム501側からみて順次、コントロールユニット571、ポート581(「Port」表記、図1のポート81に相当)、SAN521(図1のSAN21に相当)、変換装置541(「FC-IP」表記、図1の変換装置41に相当)、IPネットワーク551(「IP」表記、図1のIPネットワーク51に相当)、変換装置542(「FC-IP」表記、図1の変換装置42に相当)、SAN522(図1のSAN22に相当)、ポート582(「Port」表記、図1のポート82に相当)、コントロールユニット572(「CU」表記、図1のコントロールユニット72に相当)が示されている。
【0029】
また、ボリューム502とボリューム503との間には、コントロールユニット573(「CU」表記、図1のコントロールユニット73に相当)が示されている。
【0030】
さらに、ボリューム503とボリューム504との間には、ボリューム503側からみて順次、コントロールユニット574(「CU」表記、図1のコントロールユニット74に相当)、ポート583(「Port」表記、図1のポート83に相当)、SAN523(図1のSAN22に相当)、変換装置543(「FC-IP」表記、図1の変換装置43に相当)、IPネットワーク551(「IP」表記、図1のIPネットワーク52に相当)、変換装置544(「FC-IP」表記、図1の変換装置44に相当)、SAN524(図1のSAN23に相当)、ポート584(「Port」表記、図1のポート84に相当)、コントロールユニット575(「CU」表記、図1のコントロールユニット75に相当)が示されている。
【0031】
記号591は、障害を表すものであり、この記号591が、コントロールユニット574上に示されている。
また、障害の根本原因が存在する範囲592として、コントロールユニット574の下流にある装置(図13のPort、SAN、FC-IP、IP、FC-IP、SAN、Port、CU、04)が示されている。
さらに、運用上問題が出る影響範囲593として、コントロールユニット574の上流にある装置(図13の03、CU、02、CU、Port、SAN、FC-IP、IP、FC-IP、SAN、Port、CU、01)が示されている。
なお、図13では、複数のサイト間で1つの経路(「01」→「02」→「03」→「04」)のみが存在する場合について説明したが、例えば、1つの経路(「01」→「02」→「03」→「04」)上で他のボリュームへの分岐経路(「02」→他のボリューム)が存在する場合にも適用がある。
【0032】
[データパス構成情報テーブルの構成例]
次に、図13に示したデータパスのマッピング例を表すデータパス構成情報テーブル280の構成例について説明する。
図14はデータパス構成情報テーブル280の構成例を示す図である。
データパス構成情報テーブル280は、装置情報と、上流装置情報と、障害イベントとの項目を含んで構成されている。
装置情報は、対象となる装置がどのサイトに存在するのかを表したものであり、装置種別と装置名と部品名とサイト名との項目を有している。装置種別、装置名および部品名の項目には、図5〜図7に示した装置種別、装置名および部品名の各値が示される。サイト名の項目には、当該装置の管理下にあるサイト先(東京、大阪、福岡)が示される。
上流装置情報は、装置情報の装置名(または部品名)で指定された装置(または部品)の上流に位置付けられる装置(または部品)を表すものであり、装置種別と装置名と部品名とサイト名との項目(装置情報の項目と同様の内容)を有している。
障害イベントには、障害イベントログ情報テーブル261〜263(図8〜図10参照)の障害イベントで指定された内容が示される。この障害イベントで指定された内容は、管理者等のユーザにとって、障害の根本原因を特定する際の判断材料となりうる。
【0033】
このデータパス構成情報テーブル280は、マルチサイト管理システム1のデータパス構築プログラム112の機能により作成される。データパス構築プログラム112は、ストレージ管理システム2〜4からの障害イベント通知メッセージを受信した場合、ストレージ管理システム2〜4のDB上の各テーブル(図2〜図4のペアボリューム情報テーブル221〜223、図5〜図7のSAN構成情報テーブル241〜243)の情報を選別したり収集したりすることで、データパス(中継経路)を構築する。
【0034】
[障害特定プログラムの処理例]
次に、図1の障害特定プログラム111の処理例について説明するが、その前提として、まず障害の根本原因の特定に関する原理を説明する。
本実施の形態では、コピー/リモートコピーに関する障害があった場合、データパスの一番下流に近い障害がその障害の根本原因にあるとの前提で処理を行う。このため、まずは、当該障害に関連するデータパスを構築するために必要な情報を収集し、その情報から障害の根本原因を特定する。具体的には、コピー/リモートコピーに関して発生した障害にかかるペアボリュームに基づいて、そのボリュームに関連するペアボリュームを全て追跡する。そして、追跡により収集したペアボリュームから抽象データパスを構築する。
次に、構築した抽象データパスに対してストレージシステム内における装置(ポート、コントローラなど)の接続情報をマッピングすることでデータパスを構築する。すなわち、抽象データパス内で表されるペアボリューム間において、正ボリューム(コピー元)から副ボリューム(コピー先)へのコピー/リモートコピーに関するデータを中継した装置をその正ボリュームと副ボリュームの間に新しく追加する。
このようにして構築したデータパス上でコピー/リモートコピーに関する障害が発生した場合、データの流れは正ボリュームから副ボリュームへの一方向であるため、データパス上のデータの流れがどこかの装置で塞き止められていることになっている。そして、障害が発生した場合に他の装置へ波及する範囲は、データが上手く流れなくなったデータパスの上流部分になっている。したがって、このような特徴から、コピー/リモートコピーに関する障害の根本原因は発生した障害の下流にあり、コピー/リモートコピーに関する障害の影響範囲は発生した障害の上流にあることになる。
【0035】
次に、図1の障害特定プログラム111の処理例について説明する。
図15は障害特定プログラム111の処理例を示すフローチャートである。ここでは、例えば、大阪のサイト12を管理するストレージ管理システム3の障害監視プログラム102が、障害イベントログ情報テーブル262(図9参照)の2行目にあるペアボリュームに関する障害(例えば、コントロールユニットでペアボリュームエラー)を検知した場合を前提に説明する。
この場合、ストレージ管理システム3では、障害監視プログラム102が、まず、ペアボリューム情報テーブル222(図3参照)から、障害イベントログ情報テーブル262(図9参照)の2行目に指定された項目(装置種別、装置名、部品名)264〜266の各値(CU、ST02、14)に対応する行に含まれる全項目の各項目224〜231の値を取り出す。
そして、障害監視プログラム102が、障害イベントログ情報テーブル262(図9参照)の2行目に指定された項目(装置種別、装置名)の各値264〜265(CU、ST02)と、前記取り出したペアボリューム情報テーブル222(図3参照)の全項目の各値224〜231とを含む障害イベント通知メッセージをマルチサイト管理システム1に送信する。これにより、マルチサイト管理システム1では、障害特定プログラム111により図15のステップ601以降の処理が行われる。
【0036】
ステップ601では、マルチサイト管理システム1は、例えば、ストレージ管理システム3の障害監視プログラム102からの障害イベント通知メッセージを受信する。これにより、障害特定プログラム111の実行が開始され、障害特定プログラム111は、受信した障害イベント通知メッセージから、ボリュームの情報を抽出する(ステップ602)。具体的には、ステップ602では、障害特定プログラム111は、障害イベント通知メッセージ中の各値224〜231の中から、正ボリュームであるボリューム63(障害が発生したペアボリュームのもの)に関する値224〜225(図3の正ボリュームの装置名、Vol部品名の値)を取り出す。
【0037】
ステップ603では、障害特定プログラム111は、データパス構築プログラム112に障害イベント通知メッセージの中から抽出したボリューム63の情報(値224〜225)を渡し、データパスの構築を依頼する。
この依頼により、ボリューム63の情報224〜225を受け取ったデータパス構築プログラム112は、ボリューム63の情報224〜225に基づいて、データパスを構築し、構築したデータパスの構成情報をデータパス構成情報テーブル280として、障害特定プログラム111に返す。
【0038】
ステップ604では、障害特定プログラム111は、データパス構築プログラム112からデータパスの構成情報を受け取ると、障害イベント通知メッセージに含まれていた障害を検知した装置を調査対象装置とする。本実施の形態では、障害イベント通知メッセージには、障害を検知した装置を表す値264〜266(図9の障害イベントログ情報テーブルの装置種別、装置名、部品名)が含まれている。このため、この値264で指定されたコントロールユニット74が、調査対象装置になる。
【0039】
ステップ605では、障害特定プログラム111は、調査対象装置を管理するストレージ管理システムに装置障害確認メッセージを送信する。
本実施の形態では、調査対象装置はコントロールユニット74であり、このコントロールユニット74を管理するストレージ管理システムはストレージ管理システム3(障害イベント通知メッセージ中の項目265で指定されたもの)である。装置障害確認メッセージには、データパス構成情報テーブル289(図17参照)の項目281〜283(装置種別、装置名、部品名)の各値を含んで構成されている。
【0040】
障害特定プログラム111からの送信を受け、ストレージ管理システム3(確認先ストレージ管理システムともいう)は、障害イベントログ情報テーブル262(図9参照)を検索する。その検索の結果、受信した装置障害確認メッセージ中の各値281〜283で指定された装置種別、装置名および部品名に関する障害イベントログが存在する場合は、その障害イベントログに示された障害イベントのデータ内容267(図9のペアボリュームエラー、ST02-03→ST03-04参照)を装置障害報告メッセージに含めて、マルチサイト管理システム1に送信する。
他方、障害イベントログが存在しない場合は、「無」の値を装置障害報告メッセージに含めて、マルチサイト管理システム1に送信する。
【0041】
ステップ606では、ストレージ管理システム3からの送信を受け、マルチサイト管理システム1は、確認先ストレージ管理システムとしてのストレージ管理システム3から返信された装置障害報告メッセージによりデータパス情報テーブル289(図17参照)の障害イベントを更新する。この更新では、例えば、受信した装置障害報告メッセージに含まれる値(例えば「無」)をデータパス情報テーブル289の障害イベントの値288として格納する。
【0042】
ステップ606の終了後、ステップ607では、データパス構成情報テーブル280(図14参照)で表されるデータパス(図13参照)の下流にある装置を全部調査済かどうかの判断を行う。具体的には、この判断では、データパス構成情報テーブル280(図17参照)の上流装置情報の項目(装置種別、装置名、部品名)の各値285〜287を辿り、ステップ601で受信した障害イベント通知メッセージ中の値264で指定されたコントロールユニット74(障害を検知した装置)に到達できる装置(当該装置の下流に位置づけられるもの、図13参照)がないか確認する。
【0043】
確認の結果、例えば、そのような装置が存在する場合(ステップ607のNo)、その装置(未調査の装置)を調査対象装置とし(ステップ608)、ステップ605に戻って、ステップ605以降の処理を行う。他方、そのような装置が存在しない場合(ステップ607のYes)、当該データパス内で一番下流にある障害イベント(最上流の装置から辿る回数がもっとも多い装置で発生した図14の障害イベント)を探し出し、それを根本原因として特定する(ステップ609)。
ステップ610では、特定した根本原因とその影響範囲とを特定して、例えばコンピュータの表示装置に表示する。この表示例は後記図18で詳述する。
ステップ611では、ステップ610において特定した障害の影響範囲内のストレージ管理システム2〜4に障害警告メッセージを送信し、ステップ612に進んで、次の障害イベントの待ち受け状態(待機状態)に移行する。なお、ステップ611において送信された障害警告メッセージを受信したストレージ管理システム2〜4は、その障害警告メッセージに含まれるデータパス構成情報テーブル280をDBに格納する。
【0044】
[データパス構築プログラムの処理例]
次に、図15のステップ603で渡されたボリュームの情報(図3の装置名およびVol部品名の値224〜225)を受け取るデータパス構築プログラム112(図1参照)の処理例について説明する。
図16はデータパス構築プログラム112の処理例を示すフローチャートである。
ステップ631では、データパス構築プログラム112は、図15のステップ603で渡されたボリュームの情報(図3の装置名およびVol部品名の値224〜225)を受け取り、抽象データパスの構築を開始する。
ステップ632では、受け取った情報で指定されたボリュームを調査対象ボリュームとする。
具体的には、受け取った情報(図3の装置名およびVol部品名の値224〜225)を新規に作成したデータパス構成情報テーブル280(図14参照)の装置種別、装置名および部品名の項目(列)281〜283に書き込む。また、データパス構成情報テーブル280(図14参照)の装置種別、装置名および部品名の項目(列)285〜287の全てに「-」の値を書き込む。そして、このようにして書き込んだデータパス構成情報テーブル280(図14参照)の1行目で指定されたボリュームを調査対象ボリュームとする。なお、装置種別、装置名および部品名の項目(列)285〜287(図14参照)の全ての値が「-」の場合、データパス構成情報テーブル280で表されるデータパスの最上流であることを示す。
【0045】
ステップ633では、調査対象ボリュームを持つ調査対象サイトを検索する。具体的には、データパス構成情報テーブル280(図14参照)の装置情報から、装置名282で指定された装置が存在するサイト名303(図11のサイト情報テーブル300参照)で指定されたサイトを調べる。そして、調べたサイトが例えば「大阪」であれば、データパス構成情報テーブル280(図14参照)の1行目のサイト名284に「大阪」と書き込む。
【0046】
ステップ634では、調査対象サイトのストレージ管理システムにペアボリューム構成要求メッセージを送信する。具体的には、例えば、マルチサイト管理システム1は、ステップ633において書き込んだ1行目のサイト名284(図14参照)のサイト(例えば、大阪)を管理するストレージ管理システム3に対して、データパス構成情報テーブル280(図14参照)の1行目の装置名282と部品名283との各値を含んで構成されるペアボリューム構成要求メッセージを送信する。
その要求メッセージの送信を受け、ストレージ管理システム3は、例えば、部品名283で指定された値を表すボリューム63(図1参照)とペアボリュームとなっている全てのボリューム(正ボリュームと副ボリューム)の位置を特定する情報(図3の正ボリュームの項目224〜225・副ボリュームの項目228〜229)をペアボリューム情報テーブル222(図3参照)から検索する。
ストレージ管理システム3は、前記検索されたボリューム63の全ペアボリュームの位置を特定する情報(図3のペアボリューム情報テーブル222の2行目の正ボリュームの項目224〜225・図3のペアボリューム情報テーブル222の3行目の副ボリュームの項目228〜229の各値)をペアボリューム構成情報メッセージとして、マルチサイト管理システム1に送信する。
【0047】
ストレージ管理システム3からペアボリューム構成情報メッセージを受信したマルチサイト管理システム1は、当該ペアボリューム構成情報メッセージより、抽象データパスを構築する(ステップ635)。具体的には、ボリューム63の正ボリュームであるボリューム62の情報(図3の正ボリュームの項目224〜225の各値)について、データパス構成情報テーブル280(図14参照)において重複がないか調べる。その結果、重複がなければ、ボリューム62の情報(図3の正ボリュームの項目224〜225の各値)と、当該ボリュームのサイト名とをデータパス構成情報テーブル280の2行目の項目281〜283に書き込む。
また、その2行目の項目285〜287には、ボリューム62の副ボリュームである1行目の項目285〜287の値を書き込み、また、1行目の項目285〜287には、正ボリュームであるボリューム62の2行目の項目281〜283の値を書き込む。
他方、重複があれば、ボリューム62の情報(図3の正ボリュームの項目224〜225の各値)を書き込まない。
そして、ボリューム63の副ボリュームであるボリューム64の情報(図4の正ボリュームの項目224〜225の各値)について、データパス構成情報テーブル280において重複がないか調べる。その結果、重複がなければ、ボリューム64の情報(図3の正ボリュームの項目224〜225の各値)と、当該ボリュームのサイト名とをデータパス構成情報テーブル280の3行目の項目281〜283に書き込む。また、3行目の項目285〜287には、1行目の項目281〜283の値を書き込む。他方、もし重複があれば、ボリューム64の情報は一切書き込まない。以上より、データパス構成情報テーブル280の1行目のボリューム63に関する調査が終了する。
【0048】
ステップ635の後、ステップ636では、データパス構成情報テーブル280に示された全ボリュームを調査完了済かどうかの判断を行う。この判断では、次の調査対象となる行があるかどうかを調べる。
そして、次行に調査対象となるデータが存在する場合は(ステップ636のNo)、その行を調査対象とし(ステップ637)、ステップ633に戻る。
他方、次行に調査対象となるデータが存在しない場合は(ステップ636のYes)、全ての抽象データパスを構築できたことになるため、抽象データパスの構築を終了しデータパス構築を開始する(ステップ661)。このときのデータパス構成情報テーブルは、図17に示したテーブル289の構成となる。
【0049】
図16に戻って、ステップ662では、構築を終了した抽象データパスの最上流ペアボリュームを調査対象ペアボリュームとする。具体的には、データパス構成情報テーブル289(図17参照)から、抽象データパスの最上流である項目285〜287の値が全て「-」の行に示された項目281のボリュームを検索し、調査対象ペアボリュームを決定する。
【0050】
ステップ663では、マルチサイト管理システム1は、調査対象ペアボリュームにおける正ボリュームの項目284のサイト(例えば、東京)11を管理するストレージ管理システム2に対して、正ボリューム61と副ボリューム62の項目281〜282の各値を含んで構成されたペアボリュームパス要求メッセージを送信する。
その要求メッセージの送信を受け、ストレージ管理システム2は、ペアボリューム情報テーブル221(図2参照)やSAN構成情報テーブル241(図5参照)を用いて、受信したペアボリュームパス要求メッセージに含まれる各値の正ボリュームから副ボリュームに届く複製データを中継した装置の経路(パス)を追跡させる。そして、ストレージ管理システム2は、前記追跡した結果(図2のペアボリューム情報テーブル221の1行目の項目224〜231の各値、図5のSAN構成情報テーブル241の変換装置(複製データの中継経路となるもの)の装置名245の値)をペアボリュームパス情報メッセージに含めて、マルチサイト管理システム1に送信する。
【0051】
ステップ664では、ペアボリュームパス情報メッセージを受信したマルチサイト管理システム1は、要求先ストレージ管理システムから返信されたペアボリュームパス情報メッセージよりデータパスを構築する。具体的には、マルチサイト管理システム1は、ペアボリュームパス情報メッセージから、正ボリューム61および副ボリューム62のペアボリュームを制御する2台のコントロールユニット71、72と、2つのポート81、82との情報(図2のペアボリューム情報テーブル221の1行目の項目224〜231の各値)を取得する。そして、それらの情報をデータパス構成情報テーブル280の5行目(コントロールユニット71に関するもの)、6行目(ポート81に関するもの)、7行目(ポート82に関するもの)および8行目(コントロールユニット72に関するもの)の装置種別281、装置名282および部品名283に書き込む。
データパス構成情報テーブル280の5行目(コントロールユニット71に関するもの)は、装置名282の「ST01」の値をキーとして、サイト情報テーブル300(図11参照)が検索される。そして、そのキーに対応するサイト名285に例えば「東京」と書き込まれる。また、5行目の項目285〜287(図14の上流装置情報の装置種別、装置名、部品名)に、4行目の項目281〜283(図14の装置情報の装置種別、装置名、部品名)の値が書き込まれる。
【0052】
同様に、データパス構成情報テーブル280の6行目、7行目および8行目においても、項目284〜287(図14のサイト名、上流装置情報の装置種別、装置名、部品名)に各値を書き込む。最後に、副ボリュームであるデータパス構成情報テーブル280(図14参照)の2行目(ボリューム62に関するもの)において、項目285〜287の値を8行目(コントロールユニット72に関するもの)の項目281〜283の値に書き換える。
【0053】
次に、マルチサイト管理システム1は、ポート81とポート82との間に存在する装置の情報に関する処理を行う。具体的には、マルチサイト管理システム1は、受信したペアボリュームパス情報メッセージを基に、2台の変換装置41、42に関する情報をデータパス構成情報テーブル280の9行目(変換装置41に関するもの)と10行目(変換装置42に関するもの)の項目281〜287に書き込む。最後に、7行目(ポート82に関するもの)の項目285〜287の値を10行目(変換装置42に関するもの)の項目281〜283の値に書き換える。
【0054】
ステップ665では、データパス上における全ペアボリュームの経路の調査が完了済かどうかの判断を行う。この判断では、データパス構成情報テーブル289(図17参照)の2つの項目281、285の各値が共に「ボリューム」である行がないかどうかで確認する。
確認の結果、2つの項目281、285の各値が共に「ボリューム」である行があれば、調査が未完了と判断し(ステップ665のNo)、当該行に示されたボリュームのペアボリュームを調査対象とし(ステップ666)、ステップ663に戻ってステップ処理を行う。他方、調査完了済と判断すれば(ステップ665のYes)、ステップ667に進んでデータパスの構築を終了する(ステップ667)。終了後、マルチサイト管理システム1のCPU111Aは、構築したデータパスを表す中継経路を管理者用端末115に表示させる。この表示画面は、図13のような中継経路を表示することとなる。これにより、ユーザは、コピー障害に対する適切な対処を行いやすくなる。
【0055】
なお、ポート81からポート82を経由した装置の経路(パス)を追跡する方法として、例えば次のような方法がある。すなわち、まず、SANのトポロジ(ポートを含むネットワーク接続形態)を管理する機能を持つスイッチ(図示省略)に対して、ポート81からポート82までの中継経路を問い合わせる。そして、その問い合わせに対する応答をスイッチから受信し、その応答から、その中継経路上の2台の変換装置41、42の情報を抽出して、データパス構成情報テーブル288に書き込む方法である。
もっとも、データの冗長性を高めるため、複数の経路(変換装置の組み合わせ)が存在する場合があるので、その場合は、その経路の終端となるポート82のレコードをその経路の数だけ複製する。そして、そのポート82の上流に位置づけられた装置を特定するための項目285〜287(図17の上流装置情報の装置種別、装置名、部品名)に、それぞれの経路の上流を示す値を書き換える。これにより、複数の経路を表すことが可能となる。
なお、IPネットワークなどの公衆回線網がリモートコピーに利用される場合、ストレージ管理システムではその公衆回線網を用いて中継経路の管理を行うことができないため、経路の追跡を行わない。
【0056】
[障害特定表示の具体例]
次に、図15のステップ610での表示例を図18に示す。この表示例では、マルチサイト管理システム1のGUI114により出力されたウィンドウ700を用いて示している。
図18に示すように、ウィンドウ700には、検知障害、障害特定および影響範囲特定の表示項目710、711、712がある。そして、検知障害の表示項目710は、装置種別、装置名、部品名、サイト名および障害イベントの各項目を含んでいる。障害特定の表示項目711は、装置種別、装置名、部品名、サイト名および障害イベントの各項目を含んでいる。また、影響範囲特定の表示項目712は、装置種別、装置名、部品名、サイト名および障害イベントの各項目を含んでいる。ボタン799は、GUI114による表示の終了を指示するためのものである。
このようなウィンドウ700をみたユーザは、例えば、検知障害の表示項目710等から、大阪サイトのコントロールユニットでペアボリュームエラーが検知されたこと等を確認することが可能となる。
【0057】
なお、検知障害の表示項目710の情報721〜725は、ステップ601(図15参照)において受信された障害イベント通知メッセージ中の各値224〜231(図2〜図4参照)に対応する各値をデータパス構成情報テーブル280から検索されて表示される。
障害特定の表示項目711の情報731〜735は、ステップ610(図15参照)において特定された障害の根本原因にかかる装置の情報と、その直近の上下流に位置する装置の情報とからなり、これらの情報は、データパス構成情報テーブル280から抽出されて表示される。なお、仮に冗長化された経路が存在し、上流もしくは下流の装置が複数ある場合は、それらの装置の情報は全てデータパス構成情報テーブル280から抽出されて表示される。
影響範囲特定の表示項目712の情報741〜745は、ステップ610において特定した障害範囲にある装置の情報である。
【0058】
[ストレージ管理システムでの障害監視プログラムの処理例]
次に、ストレージ管理システム2〜4での障害監視プログラム102の処理例について説明する。
図19は障害監視プログラム102の処理例を示すフローチャートである。ここでは、ストレージ管理システム2を例にして説明するが、他のストレージ管理システム3、4も同様の処理を行う。
ストレージ管理システム2の障害監視プログラム102は、一定時間経過したとき、もしくはSNMPにより障害を検知したときに(ステップ680)、ステップ681に進む。
ステップ681では、障害監視プログラム102がロードされているストレージ管理システム2の障害イベントログ情報テーブル261(図8参照)より、未報告のペアボリューム障害を検索する。そして、検索の結果、未報告障害が存在するかの判断を行う(ステップ682)。具体的には、障害イベントログ情報テーブル261(図8参照)の報告済フラグに示された「○」(○は報告済を表す)以外の行に障害イベント(ペアボリュームに関するもの)があるかどうかの判断を行う。
【0059】
そして、ステップ682において未報告障害が存在しない場合(ステップ682のNo)、障害監視プログラム102は、待機状態に移行する(ステップ683)。他方、ステップ682において未報告障害が存在する場合(ステップ682のYes)、障害監視プログラム102は、当該未報告障害としての障害イベント(図8の障害イベントログ情報テーブルの障害イベント)を検知障害イベントとし、その検知障害イベントより、ペアボリューム情報テーブル221(図2参照)から、検知障害イベントに関するペアボリューム情報(図2の項目224〜231の各値)を取得する(ステップ684)。
【0060】
ステップ685では、取得したペアボリューム情報と、前記障害警告メッセージ内のデータパス情報とを比較する。比較の結果、データパスの一部と一致するかどうかの判断を行う(ステップ686)。具体的には、障害監視プログラム102をロードしたストレージ管理システム2が、受信した障害警告メッセージ中のデータパス構成情報テーブル280を検索し、ステップ684で取得した検知障害イベントのペアボリュームの情報(図2の項目224〜231の各値)を全て含むデータパス構成情報テーブル280が存在するかの検索を行う。
【0061】
そして、ステップ686における比較の結果、該当するデータパス構成情報テーブル280が存在しない場合(ステップ686のNo)、マルチサイト管理システム1に障害イベント通知メッセージを送信する(ステップ687)。具体的には、ステップ687では、マルチサイト管理システム1に対して、検知障害イベントが発生した装置の情報(図8の項目264〜266の各値)と、ペアボリュームの情報(図2の項目224〜231)とを含む障害イベント通知メッセージを送信する。
【0062】
次に、障害イベントログ情報テーブル261における検知障害イベントの報告済みフラグを更新し(ステップ688)、待機状態に移行する(ステップ683)。具体的には、ステップ688では、障害イベントログ情報テーブル261(図8参照)の報告済フラグに「○」(報告済を表す)の値を書き込む。
【0063】
他方、ステップ686において、該当するデータパス構成情報テーブル280(図14参照)が存在する場合(ステップ686のYes)、ストレージ管理システム2のGUI104で、ウィンドウ700(図17参照)をコンピュータの表示装置に表示し(ステップ689)、ステップ687以降の処理を実行する。
【0064】
[実施の形態2]
実施の形態2では、実施の形態1において用いられていた障害イベントに代えて、性能異常イベントを用いる点に主要な特徴がある。性能異常イベントとは、入出力データの転送量などの性能指標を監視する装置(コントローラ、ポート、キャッシュ、メモリなど)において、あらかじめ設定されていた性能指標の閾値を超過した場合に通知されるものである。性能指標としては、入出力データの転送量のほか、通信帯域やキャッシュ残り容量などがある。もっとも、装置の性能指標は、当該装置が監視してもよいし、専用の監視装置あるいはストレージ管理システム2〜4が一括して監視してもよい。
【0065】
図20は本発明の実施の形態2におけるシステム全体の構成例を示すブロック図である。なお、実施の形態1と同一の部分は同一の符号を付して重複説明を省略する。
図20において、マルチサイト管理システム1では、実施の形態1における障害特定プログラム111(図1参照)に代えて、性能異常特定プログラム116がメモリ111Bにロードされている。また、ストレージ管理システム2では、実施の形態1における障害監視プログラム102(図1参照)に代えて、性能異常監視プログラム105がメモリ101Bにロードされている(ストレージ管理システム3、4も同様)。
そして、ストレージ管理システム2のDBには、図21に示す性能異常イベントログ情報テーブル269が管理されている。この性能異常イベントログ情報テーブル269は、障害イベントログ情報テーブル261〜263(図8〜図10参照)の障害イベントの項目267に代えて、図21に示す性能異常イベントの項目270にした点が、障害イベントログ情報テーブル261〜263(図8〜図10参照)と異なる。この性能異常イベントログ情報テーブル269の値は、ストレージ管理システム2〜4のSAN情報収集プログラム101がSNMPなどにより性能異常の通知を受信した場合などに各装置から性能異常イベントの情報を収集して更新される。
性能異常特定プログラム116は、図22に示すデータパス構成情報テーブル291を作成してDB103に格納する。データパス構成情報テーブル291も、図14のデータパス構成情報テーブル280の障害イベントの項目288に代えて、性能異常イベントの項目292にした点が、データパス構成情報テーブル280(図14参照)と異なる。その他の構成は、実施の形態1の場合とほぼ同様である。
【0066】
次に、図20の性能異常特定プログラム116の処理例について説明する(適宜図1等参照)。なお、この処理例は、障害イベントに代えて性能異常イベントを用いる点を除けば、図15のステップ601〜612の処理例とほぼ同様である。
図23は性能異常特定プログラム116の処理例を示すフローチャートである。ここでは、例えば、ストレージ管理システム3(大阪のサイトを管理)の性能監視異常監視プログラム105が、性能異常イベントログ情報テーブル269の1行目の性能異常イベントを検知し、マルチサイト管理システム1に対して性能異常通知メッセージを送信した場合を前提に説明する。なお、性能異常イベント通知メッセージは、性能異常イベントログ情報テーブル269(図21参照)の項目270の性能異常イベントを含む以外は、実施の形態1における障害イベント通知メッセージと同じ構造である。
【0067】
この場合、マルチサイト管理システム1は、ストレージ管理システム3の性能異常監視プログラム105からの性能異常イベント通知メッセージを受信し(ステップ821)、性能異常特定プログラム116(図20参照)の実行を開始し、ステップ822以降の処理を行う。
ステップ822では、受信した性能異常イベント通知メッセージから、ボリュームの情報を抽出する。具体的には、性能異常イベント通知メッセージに含まれているペアボリュームに関する情報(図3の項目224〜231の値)から、性能異常が発生したペアボリュームの正ボリュームであるボリューム63の情報(図3の項目224〜225の値)を取り出す。
【0068】
ステップ823では、データパス構築プログラム112(図20参照)に、抽出したボリュームの情報を渡し、データパス構築の処理を行う。具体的には、性能異常特定プログラム116は、データパス構築プログラム112に性能異常イベント通知メッセージから抽出したボリューム63の情報(図3の項目224〜225の値)を渡して、データパスの構築を依頼する。具体的には、ステップ823では、ボリューム63の情報(図3の項目224〜225の値)を受け取ったデータパス構築プログラム112は、ボリューム63の情報(図3の項目224〜225の値)に基づいて、データパスを構築し、構築したデータパスの構成情報をデータパス構成情報テーブル291として、性能異常特定プログラム116(図20参照)に返す。
【0069】
ステップ824では、性能異常イベント通知メッセージから、性能異常イベントに示された装置を調査対象装置とする。具体的には、性能異常特定プログラム116は、データパス構築プログラム112からデータパス構成情報テーブルを受け取ると、性能異常イベント通知メッセージに含まれていた性能異常イベントに示された装置を調査対象装置とする。
【0070】
ステップ825では、調査対象装置を管理するストレージ管理システムに装置性能異常確認メッセージを送信する。具体的には、マルチサイト管理システム1は、調査対象装置であるボリュームのサイト11〜13を管理するストレージ管理システム2〜4に対して、図14の装置種別、装置名および部品名の項目281〜283の各値で構成された装置性能異常確認メッセージを送信する。
なお、マルチサイト管理システム1から装置性能異常確認メッセージを受信したストレージ管理システム2〜4は、装置性能異常確認メッセージより、性能異常イベントログ情報テーブル269(図21参照)を検索する。検索の結果、ストレージ管理システム2〜4は、性能異常イベントログ情報テーブル269(図21参照)の項目270に性能異常イベントログが存在する場合は、その性能異常イベントを装置性能異常報告メッセージに含め、他方、性能異常イベントログが存在しない場合は、「無」の値を装置性能異常報告メッセージに含めて、マルチサイト管理システム1に送信する。
【0071】
ステップ826では、確認先ストレージ管理システムとしてのストレージ管理システム2〜4から返信された装置性能異常報告メッセージよりデータパス構成情報テーブル291(図22参照)の項目(障害イベント)288の値を更新する。具体的には、ストレージ管理システム2〜4からの装置性能異常報告メッセージを受信したマルチサイト管理システム1は、装置性能異常報告メッセージから、データパス構成情報テーブル291の項目292の性能異常イベントにその性能異常イベント(図21の項目270の値)を格納する。
【0072】
ステップ826を完了した直後、上流の装置を辿ることで性能異常イベント通知メッセージに含まれていた性能異常イベントを検知した装置に到達できる装置がないか確認する(ステップ827)。そして、そのような装置が存在する場合は(ステップ827のNo)、その装置を調査対象装置とし(ステップ828)、ステップ825に戻ってステップ処理を行う。
他方、ステップ827において、そのような装置が存在しない場合は(ステップ827のYes)、データパス内で一番下流にある性能異常イベントを探し出し、それを根本原因として特定する(ステップ829)。具体的には、ステップ829では、収集した性能異常イベントの中で、データパスのもっとも下流にある(最上流の装置から辿る回数がもっとも多い)装置で発生した性能異常イベント(図22の項目292の値)を検索する。
【0073】
ステップ830では、根本原因とその影響範囲を特定し、表示する。具体的には、該当した性能異常イベント(図22の項目292の値)を根本原因として特定し、さらに性能異常イベント通知メッセージに含まれていた装置より上流にあるデータパスを性能異常の影響範囲として特定し、例えばコンピュータの表示装置に表示する。
ステップ831では、影響範囲内のストレージ管理システムに性能異常警告メッセージを送信し、ステップ832に進んで、次の性能異常イベントの待ち受け状態(待機状態)に移行する(ステップ832)。具体的には、ステップ830で特定した性能異常の影響範囲にある装置のサイト(図22の項目284の値)を管理するストレージ管理システム2〜4に対して、データパス構成情報テーブル291(図22参照)によって構成される性能異常警告メッセージを送信する。
【0074】
ここで、ステップ830においてGUI114に出力されるウィンドウ701の表示例を図24に示す。この表示例では、検知性能異常の表示項目713と、性能異常特定の表示項目714と、影響範囲特定の表示項目715とを含んでいる。これらの表示項目713〜715では、性能異常イベントの内容が表示される点が、図18の場合と異なる。
【0075】
なお、検知性能異常の表示項目713(情報721〜724、726)では、図23のステップ821において受信した性能異常イベントに関する情報(図22の項目281〜284、292の各値に対応)を表示する。なお、仮に冗長化された経路が存在し、上流もしくは下流の装置が複数ある場合は、それらの装置の情報は全てデータパス構成情報テーブル291(図22参照)から抽出されて表示される。
性能異常特定の表示項目714(情報731〜734、736)では、図23のステップ830において性能異常を特定した装置の情報とその直近の上下流の装置の情報とが表示される。
影響範囲特定の表示項目715(情報741〜744、746)では、ステップ610において特定した障害範囲にある装置の情報である。
【0076】
図23のステップ831において、マルチサイト管理システム1からの性能異常警告メッセージを受信したストレージ管理システム2〜4は、性能異常警告メッセージに含まれるデータパス構成情報テーブル291(図22参照)をDBに格納する。
【0077】
次に、ストレージ管理システム2〜4での性能異常監視プログラム105の処理例について説明する。なお、この処理例は、障害イベントに代えて性能異常イベントを用いる点を除けば、図19のステップ680〜689の処理例とほぼ同様である。
図25は性能異常監視プログラム105の処理例を示すフローチャートである。ここでは、ストレージ管理システム2を例にして説明するが、他のストレージ管理システム3、4も同様の処理を行う。
ストレージ管理システム2の性能異常監視プログラム105は、一定時間経過したとき、もしくはSNMPにより障害を検知したときに(ステップ800)、ステップ801に進む。
ステップ801では、性能異常監視プログラム105がロードされているストレージ管理システム2の性能異常イベントログ情報テーブル269(図21参照)より、未報告のペアボリューム性能異常を検索する。そして、検索の結果、未報告性能異常が存在するかの判断を行う(ステップ802)。具体的には、性能異常イベントログ情報テーブル269(図21参照)の報告済フラグに示された「○」(○は報告済を表す)以外の行の性能異常イベント(ペアボリュームに関するもの)があるかどうかの判断を行う。
【0078】
そして、ステップ802において未報告性能異常が存在しない場合(ステップ802のNo)、性能異常監視プログラム105は、待機状態に移行する(ステップ803)。他方、ステップ802において未報告性能異常が存在する場合(ステップ802のYes)、性能異常監視プログラム105は、当該未報告性能異常としての性能異常イベント(図22の性能異常イベントログ情報テーブルの性能異常イベント)を検知性能異常イベントとし、その検知性能異常イベントより、ペアボリューム情報テーブル221(図2参照)から、検知性能異常イベントに関するペアボリューム情報(図2の項目224〜231の各値)を取得する(ステップ804)。
【0079】
ステップ805では、取得したペアボリューム情報と、前記性能異常警告メッセージ内のデータパス情報とを比較する。比較の結果、データパスの一部と一致するかどうかの判断を行う(ステップ806)。具体的には、性能異常監視プログラム105をロードしたストレージ管理システム2が、受信した性能異常警告メッセージ中のデータパス構成情報テーブル291を検索し、ステップ804で取得した検知性能異常イベントのペアボリュームの情報(図2の項目224〜231の各値)を全て含むデータパス構成情報テーブル291が存在するかの検索を行う。
【0080】
そして、ステップ806における比較の結果、該当するデータパス構成情報テーブル291が存在しない場合(ステップ806のNo)、マルチサイト管理システム1に性能異常イベント通知メッセージを送信する(ステップ807)。具体的には、ステップ807では、マルチサイト管理システム1に対して、検知性能異常イベントが発生した装置の情報(図21の項目264〜266の各値)と、ペアボリュームの情報(図2の項目224〜231)とを含む性能異常イベント通知メッセージを送信する。
【0081】
次に、性能異常イベントログ情報テーブル269における検知性能異常イベントの報告済みフラグを更新し(ステップ808)、待機状態に移行する(ステップ803)。具体的には、ステップ808では、性能異常イベントログ情報テーブル269(図21参照)の報告済フラグに「○」(報告済を表す)の値を書き込む。
【0082】
他方、ステップ806において、該当するデータパス構成情報テーブル291(図22参照)が存在する場合(ステップ806のYes)、ストレージ管理システム2のGUI104で、ウィンドウ701(図24参照)をコンピュータの表示装置に表示し(ステップ809)、ステップ807以降の処理を実行する。
【0083】
なお、本発明は、実施の形態1、2に限られない。たとえば、図1のコントロールユニット71において、ペアボリューム書き込み失敗の障害が発生した場合、ストレージ管理システム2のSAN情報収集プログラム101により、障害イベントログ情報テーブル261に書き込まれる。その情報をストレージ管理システム2の障害監視プログラム102が検出すると、図19の処理例のとおり、マルチサイト管理システム1に対して、発生した障害に関する障害イベント通知メッセージを送信する。
障害イベント通知メッセージを受信したマルチサイト管理システム1の障害特定プログラム111は、受信した障害イベント通知メッセージからボリュームに関する情報を抽出し、その情報をデータパス構築プログラム112に渡して、データパスを構築させる。その際のデータパスを構築するための情報は、データパス構成情報テーブル280と同様である。データパス構築プログラム112からデータパス構成情報テーブル280を受け取った障害特定プログラム111は、障害を検知したコントロールユニット71よりデータパスの下流にある装置に対して、その装置を管理する各サイトのストレージ管理システム2〜4に対して装置障害確認メッセージを送信し、返信された装置障害報告メッセージの内容をデータパス構成情報テーブル280に反映させる。その結果、ステップ609においてボリューム62においてボリュームが書き込みエラーであるという情報がデータパス上でもっとも下流にあることが判明したため、障害の根本原因をボリューム62の書き込みエラーと特定し、影響範囲をストレージ装置31と特定し、マルチサイト管理システム1において図18の障害特定表示ウィンドウを用いて表示する。そして、データパス構成情報テーブル280を含んだ障害警告メッセージをストレージ管理システム2に送信する。
【0084】
また、前記実施の形態において一例を記述する。図1のコントロールユニット74において、リモートコピーの内部プログラムエラーが発生した場合、ストレージ管理システム4のSAN情報収集プログラム101により、障害イベントログ情報テーブル263に各値の情報が書き込まれる。その情報をストレージ管理システム4の障害監視プログラム102が検出すると、マルチサイト管理システム1に対して、発生した障害に関する障害イベント通知メッセージを送信する。前述の障害イベント通知メッセージを受信したマルチサイト管理システム1の障害特定プログラム111は、受信した障害イベント通知メッセージからボリュームに関する情報を抽出し、その情報をデータパス構築プログラム112に渡して、データパスを構築させる。その際のデータパスを構築するための情報は、データパス情報テーブル280と同様である。データパス構築プログラム112からデータパス情報テーブル280を受け取った障害特定プログラム111は、障害を検知したコントロールユニット74よりデータパスの下流にある装置に対して、その装置を管理する各サイトのストレージ管理システム4に対して装置障害確認メッセージを送信し、返信された装置障害報告メッセージの内容をデータパス情報テーブル280に反映させる。その結果、図15のステップ609においてコントロールユニット74において内部プログラムエラーであるという情報がデータパス上でもっとも下流にあることが判明したため、障害の根本原因をコントロールユニット74において内部プログラムエラーと特定し、影響範囲をストレージ装置31〜33、FC-IP変換装置41〜44と特定し、マルチサイト管理システム1において図18の障害特定表示のウィンドウ700を用いて表示する。そして、データパス情報テーブル280を含んだ障害警告メッセージをストレージ管理システム2〜4に送信する。
【0085】
実施の形態1、2では、マルチサイト管理システム1は、1台の場合で説明したが、例えば、複数台で分散処理するようにしてもよい。また、ストレージ管理システム2〜4は、マルチサイト管理システム1とは独立のシステムとして設けているが、例えば、1台のマルチサイト管理システム1にそれらの機能を兼ね備えるようにしてもよい。さらに、ストレージ管理システム2〜4は、管理下のサイトごとに設けることとしたが、運用形態に応じ、1台のストレージ管理システムに集約してもよい。
【図面の簡単な説明】
【0086】
【図1】本発明の実施の形態1におけるシステム全体の構成例を示すブロック図である。
【図2】ペアボリューム情報テーブル(東京)の構成例を示す図である。
【図3】ペアボリューム情報テーブル(大阪)の構成例を示す図である。
【図4】ペアボリューム情報テーブル(福岡)の構成例を示す図である。
【図5】SAN構成情報テーブル(東京)の構成例を示す図である。
【図6】SAN構成情報テーブル(大阪)の構成例を示す図である。
【図7】SAN構成情報テーブル(福岡)の構成例を示す図である。
【図8】障害イベントログ情報テーブル(東京)の構成例を示す図である。
【図9】障害イベントログ情報テーブル(大阪)の構成例を示す図である。
【図10】障害イベントログ情報テーブル(福岡)の構成例を示す図である。
【図11】サイト情報テーブルの構成例を示す図である。
【図12】抽象データパスの概念図である。
【図13】データパスのマッピング例を示す概念図である。
【図14】データパス構成情報テーブルの構成例を示す図である。
【図15】障害特定プログラムの処理例を示すフローチャートである。
【図16】データパス構築プログラムの処理例を示すフローチャートである。
【図17】図16のステップ661でのデータパス構成情報テーブルの構成例を示す図である。
【図18】障害特定表示に関するウィンドウの表示例を示す図である。
【図19】障害監視プログラムの処理例を示すフローチャートである。
【図20】本発明の実施の形態2におけるシステム全体の構成例を示すブロック図である。
【図21】性能異常イベントログ情報テーブルの構成例を示す図である。
【図22】データパス構成情報テーブル(性能異常特定プログラム用)の構成例を示す図である。
【図23】性能異常特定プログラムの処理例を示すフローチャートである。
【図24】性能異常特定表示に関するウィンドウの表示例を示す図である。
【図25】性能異常監視プログラムの処理例を示すフローチャートである。
【符号の説明】
【0087】
1 マルチサイト管理システム
2〜4 ストレージ管理システム
11〜13 サイト(東京11・大阪12・福岡13)
21〜23 SAN(ストレージ・エリア・ネットワーク)
31〜33 ストレージ装置
41〜44 FC-IP変換装置
51〜53 IPネットワーク
61〜64 ボリューム
71〜75 コントロールユニット
81〜84 ポート
101 SAN情報収集プログラム
101A CPU(処理部)
101B メモリ
101C ハードディスク装置
102 障害監視プログラム
103 DB
104 GUI
111 障害特定プログラム
111A CPU(処理部)
111B メモリ
111C ハードディスク装置
112 データパス構築プログラム
113 DB
114 GUI

【特許請求の範囲】
【請求項1】
複数のストレージ装置と、前記ストレージ装置の各々を管理する各管理サーバと、前記各管理サーバとの間で通信を行う計算機とを含んで構成されるコンピュータシステムを用いて実行されるストレージ管理方法であって、
前記管理サーバは、管理下の前記ストレージ装置の接続形態を表す接続情報と、当該ストレージ装置のボリュームとペアを組むペアボリュームに関するペアボリューム情報とを格納する記憶部を有し、
前記計算機は、
前記管理サーバから、一または複数のストレージ装置でのコピーに関する障害の通知を受けた場合、当該通知された障害にかかわるペアボリュームのボリュームを有するストレージ装置を管理する管理サーバに対し、当該ペアボリュームに関するペアボリューム情報の送信要求を行い、
前記送信要求を受けた管理サーバは、
当該送信要求されたペアボリューム情報を記憶部から読み出して、前記計算機に送信し、
前記ペアボリューム情報を受信した計算機は、
当該ペアボリューム情報に示されたボリュームを有するストレージ装置に対し、当該ストレージ装置の接続形態を表す接続情報の送信要求を行い、
当該接続情報の送信要求を受けた管理サーバは、
前記送信要求されたストレージ装置の接続情報を前記記憶部から読み出して、前記計算機に送信し、
前記送信された接続情報を受信した計算機は、
当該接続情報から、前記通知された障害にかかわるペアボリューム間の中継経路を特定して外部に表示する
ことを特徴とするストレージ管理方法。
【請求項2】
前記複数のストレージ装置は、複数の異なるサイトに分散されるとともに、前記サイトは、相互にネットワーク接続されていることを特徴とする請求項1に記載のストレージ管理方法。
【請求項3】
前記計算機は、前記ペアボリューム間の中継経路を特定する場合、コピー元のボリュームを起点とするすべてのペアボリューム間の中継経路上にあるすべての中継装置に中継順を問い合わせて、前記中継経路を特定することを特徴とする請求項1に記載のストレージ管理方法。
【請求項4】
前記特定される中継経路は、複数のペアボリューム間の中継経路からなることを特徴とする請求項3に記載のストレージ管理方法。
【請求項5】
前記中継装置として、少なくとも、ストレージ装置のコントローラまたはストレージ装置のポートのいずれか一つがあることを特徴とする請求項1に記載のストレージ管理方法。
【請求項6】
前記計算機は、前記中継経路を特定する場合、前記問い合わせた中継順に前記中継装置を中継経路に配置することを特徴とする請求項3に記載のストレージ管理方法。
【請求項7】
前記計算機は、前記特定した中継経路を表示する場合、
前記管理サーバから、当該中継経路上、前記通知された障害にかかわるペアボリュームのコピー元のボリュームよりも下位に位置する中継装置に関する障害イベントを収集し、その障害イベントから、当該通知された障害の原因を特定し、特定した障害の原因を前記中継経路とともに表示することを特徴とする請求項1に記載のストレージ管理方法。
【請求項8】
前記計算機は、当該中継経路上、前記通知された障害にかかわるペアボリュームのコピー元のボリュームよりも上位に位置する装置に対し、その障害の影響範囲として特定されたことをさらに通知することを特徴とする請求項1に記載のストレージ管理方法。
【請求項9】
複数のストレージ装置と、前記ストレージ装置の各々を管理する各管理サーバと、前記各管理サーバとの間で通信を行う計算機とを含んで構成されるストレージシステムであって、
前記管理サーバは、管理下の前記ストレージ装置の接続形態を表す接続情報と、当該ストレージ装置のボリュームとペアを組むペアボリュームに関するペアボリューム情報とを格納する記憶部を有し、
前記計算機は、
前記管理サーバから、一または複数のストレージ装置でのコピーに関する障害の通知を受けた場合、当該通知された障害にかかわるペアボリュームのボリュームを有するストレージ装置を管理する管理サーバに対し、当該ペアボリュームに関するペアボリューム情報の送信要求を行い、
前記送信要求を受けた管理サーバは、
当該送信要求されたペアボリューム情報を記憶部から読み出して、前記計算機に送信し、
前記ペアボリューム情報を受信した計算機は、
当該ペアボリューム情報に示されたボリュームを有するストレージ装置に対し、当該ストレージ装置の接続形態を表す接続情報の送信要求を行い、
当該接続情報の送信要求を受けた管理サーバは、
前記送信要求されたストレージ装置の接続情報を前記記憶部から読み出して、前記計算機に送信し、
前記送信された接続情報を受信した計算機は、
当該接続情報から、前記通知された障害にかかわるペアボリューム間の中継経路を特定して外部に表示する
ことを特徴とするストレージシステム。
【請求項10】
前記複数のストレージ装置は、複数の異なるサイトに分散されるとともに、前記サイトは、相互にネットワーク接続されていることを特徴とする請求項9に記載のストレージシステム。
【請求項11】
前記計算機は、前記ペアボリューム間の中継経路を特定する場合、コピー元のボリュームを起点とするすべてのペアボリューム間の中継経路上にあるすべての中継装置に中継順を問い合わせて、前記中継経路を特定することを特徴とする請求項9に記載のストレージシステム。
【請求項12】
前記特定される中継経路は、複数のペアボリューム間の中継経路からなることを特徴とする請求項11に記載のストレージシステム。
【請求項13】
前記中継装置として、少なくとも、ストレージ装置のコントローラまたはストレージ装置のポートのいずれか一つがあることを特徴とする請求項9に記載のストレージシステム。
【請求項14】
前記計算機は、前記中継経路を特定する場合、前記問い合わせた中継順に前記中継装置を中継経路に配置することを特徴とする請求項11に記載のストレージシステム。
【請求項15】
前記計算機は、前記特定した中継経路を表示する場合、
前記管理サーバから、当該中継経路上、前記通知された障害にかかわるペアボリュームのコピー元のボリュームよりも下位に位置する中継装置に関する障害イベントを収集し、その障害イベントから、当該通知された障害の原因を特定し、特定した障害の原因を前記中継経路とともに表示することを特徴とする請求項9に記載のストレージシステム。
【請求項16】
前記計算機は、当該中継経路上、前記通知された障害にかかわるペアボリュームのコピー元のボリュームよりも上位に位置する装置に対し、その障害の影響範囲として特定されたことをさらに通知することを特徴とする請求項9に記載のストレージシステム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate


【公開番号】特開2007−58484(P2007−58484A)
【公開日】平成19年3月8日(2007.3.8)
【国際特許分類】
【出願番号】特願2005−242005(P2005−242005)
【出願日】平成17年8月24日(2005.8.24)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】