説明

カメラシステム及び機械装置

【課題】クレーン機械装置の周辺視界を適切に支援する。
【解決手段】クレーン機械装置において、旋回台は走行体上に旋回自在に装着され、旋回台上にブームが起伏運動自在に装着されている。カメラは、クレーン機械装置の周辺を撮影する。ブームの長さ及びブームの起伏角度から旋回台及びブームの旋回運動によってブームの先端部が描く円の半径を求め、その半径に基づいて前記円の世界座標系上における位置を求める。この後、前記円をカメラの撮像面の座標系に投影変換し、投影変換後の円をガイドライン(201)としてカメラの撮影画像に重畳して表示する。ガイドラインよりもクレーン機械装置に近い画像領域は、障害物との衝突を特に注視すべき安全確認領域となる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラ撮影に基づく画像を提供するカメラシステムに関する。特に、クレーン機械装置等における周辺視界を支援するカメラシステムに関する。また、本発明は、そのカメラシステムを利用した機械装置に関する。
【背景技術】
【0002】
近年の安全意識の高まりに伴って自動車などの車両にカメラを搭載することが多くなっており、カメラの撮影画像によって安全確認を支援する様々なシステムが提案されている。例えば、車幅や車両後端からの距離等を示す補助線をカメラ映像に重畳して表示する、乗用車向けのシステムが知られている(例えば、下記特許文献1〜3参照)。この種の補助線の描画位置は、固定的に定まった乗用車の形状等に基づいて決定される。これらの補助線表示は、車両の進行方向に存在する障害物との距離の把握や該障害物に接触するか否かの判断に有益である。
【0003】
また、視点変換によってカメラの撮影画像を車両の鉛直上方から見下ろしたような鳥瞰図画像に変換し、これを表示するシステムや、複数のカメラの撮影画像に基づく鳥瞰図画像を貼り合わせて合成し、車両の全周を表示するシステムが知られている(例えば、下記特許文献4参照)。鳥瞰図画像による表示方式を採用すれば、障害物までの距離感をつかみやすくなる。
【0004】
ところで、建築機械業界においても、ISO(International Organization for Standardization)等の規格又は法規制によって周囲の視覚確保が求められつつある。移動式クレーン等のクレーン機械装置に安全確認用のカメラを搭載するシステムも提案されているが、この種のクレーン機械装置では、ブームの伸張及び起伏運動などによって注視すべき安全確認領域が変化すると共に乗用車にはない旋回運動なども行なわれる。このため、乗用車向けに開発されたシステムを単純に適用しても、視界支援は十分に達成できない。
【0005】
【特許文献1】特開2005−186906号公報
【特許文献2】特開2000−272445号公報
【特許文献3】特開2002−314991号公報
【特許文献4】特開2002−125224号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
そこで本発明は、クレーン機械装置等における旋回体の周辺状況の確認容易化に寄与するカメラシステムを提供することを目的とする。また本発明は、そのカメラシステムを利用した機械装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係るカメラシステムは、旋回運動が可能な旋回体の周辺を撮影するカメラユニットと、前記カメラユニットにて得られた撮影画像に基づく表示用画像を生成する画像処理装置と、を備えて、前記表示用画像を表示装置に出力するカメラシステムにおいて、前記画像処理装置は、前記旋回体の旋回による前記旋回体の可動範囲の外周位置に応じた特定画像領域が前記表示装置の表示画面上で視認可能なように前記表示用画像を生成することを特徴とする。
【0008】
これにより、旋回体の可動範囲の外周位置に応じた特定画像領域と旋回体にとっての障害物等との位置関係を、表示画面上で確認することが可能となる。結果、注視すべき旋回体の周辺状況の確認容易化が図られる。
【0009】
具体的には例えば、前記旋回体は、旋回運動が可能な旋回台上に起伏運動が可能なように装着された棒状の主軸部材を有して、前記旋回台の旋回に伴って旋回運動し、前記外周位置は、前記主軸部材の長さ及び前記旋回台に対する前記主軸部材の起伏角度を含む旋回体状態に応じて変化し、前記画像処理装置は、前記旋回体状態に基づいて前記表示用画像上における前記特定画像領域の位置を定める。
【0010】
また具体的には例えば、前記画像処理装置は、前記外周位置に応じた指標を前記撮影画像に重畳することによって或いは前記外周位置に応じて前記撮影画像を加工することによって前記表示用画像を生成する。
【0011】
これに代えて例えば、前記画像処理装置は、前記撮影画像を仮想カメラの視点から見た鳥瞰図画像に変換する鳥瞰変換手段を備え、前記外周位置に応じた指標を前記鳥瞰図画像に重畳することによって或いは前記外周位置に応じて前記鳥瞰図画像を加工することによって前記表示用画像を生成するようにしてもよい。
【0012】
また更に例えば、前記カメラユニットは、前記旋回体の周辺を撮影する、互いに異なる視点を有した複数のカメラから形成され、前記画像処理装置は、各カメラの撮影画像を仮想カメラの視点から見た鳥瞰図画像に変換して各鳥瞰図画像を合成することにより合成鳥瞰図画像を生成する鳥瞰変換手段を備え、前記外周位置に応じた指標を前記合成鳥瞰図画像に重畳することによって或いは前記外周位置に応じて前記合成鳥瞰図画像を加工することによって前記表示用画像を生成するようにしてもよい。
【0013】
そして例えば、前記画像処理装置は、前記旋回体の可動範囲が変化した際、その変化に基づく前記表示用画像上の前記特定画像領域の大きさ変化が抑制されるように前記表示用画像を生成するようにしてもよい。
【0014】
これにより、旋回体の可動範囲の変化に拘らず、特に注視すべき画像領域を適切なサイズにて表示し続けることが可能となる。
【0015】
具体的には例えば、前記画像処理装置は、前記旋回体の可動範囲が変化した際、その変化に応じて前記仮想カメラの視点の高さを変更することにより前記大きさ変化を抑制する。
【0016】
また具体的には例えば、前記主軸部材は、クレーン機械装置又はショベルカーを含む機械装置に備えられたブームである。
【0017】
また本発明に係る機械装置は、上記の旋回体を旋回運動させ、且つ、上記のカメラシステムが設置されたことを特徴とする。
【発明の効果】
【0018】
本発明によれば、クレーン機械装置等における旋回体の周辺状況の確認容易化に寄与するカメラシステムを提供することができる。
【0019】
本発明の意義ないし効果は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下の実施の形態は、あくまでも本発明の一つの実施形態であって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
【発明を実施するための最良の形態】
【0020】
以下、本発明の実施の形態につき、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。
【0021】
以下の説明において、地面は水平面に平行であるものとする。また、単に「高さ」といった場合、それは地面からの高さを意味するものとする。
【0022】
<<第1実施形態>>
まず、本発明の第1実施形態について説明する。図1並びに図2(a)及び(b)を参照する。図1は、第1実施形態に係る視界支援システムの全体ブロック図である。図1の視界支援システムは、カメラ1、画像処理装置2、表示装置3及び操作部4を備えている。
【0023】
図2(a)は、図1の視界支援システムが搭載されるクレーン機械装置10の外観側面図であり、図2(b)は、クレーン機械装置10を上方から見た平面図である。
【0024】
クレーン機械装置10は、移動式クレーンであり、本実施形態ではクローラクレーンを例示している。クレーン機械装置10は、クローラとしての下部走行体21(以下、走行体21と略記する)と、上部旋回台22(以下、旋回台22と略記する)と、操縦席ボックス23と、ブーム24と、を含んで構成される。更に、ワイヤ25及びフック26も、クレーン機械装置10に備え付けられている。旋回台22と操縦席ボックス23とブーム24は、機体20を形成する。尚、ブーム24は、アームとも呼ばれることがある。
【0025】
走行体21は地面上を走行し、クレーン機械装置10の全体を移動させる。但し、本実施形態及び後述の他の実施形態において、走行体21は静止しているものとする。旋回台22を含む機体20は、走行体21と旋回台22との連結部を通り且つ鉛直線に平行な所定軸を旋回軸として旋回自在となるように走行体21上に装着されている。ブーム24は、旋回台22の旋回に伴って該旋回軸の周りを旋回する。
【0026】
旋回台22上には、操縦席ボックス23とブーム24が装着されている。ブーム24は、その長さを伸縮可能な伸縮ブームである。ブーム24は、起伏運動が可能なように旋回台22上に取り付けられ、旋回台22に対するブーム24の起伏角度(後述の角度θA)は所定角度範囲内で自在に変更可能となっている。尚、ブーム24は、長さが固定されたブームであっても良い。
【0027】
ブーム24は、細長い棒状体であり、その一端は旋回台22に固定されている。一方、ブーム24の他端を含むブーム24の先端部27からは、鉛直下方向きに巻き上げ及び巻き下げ自在のワイヤ25が吊り下げられている。ワイヤ25の下端にはフック26が取り付けられている。フック26に荷(不図示)を掛けた状態でワイヤ25を巻き上げ、旋回台22を含む機体20を旋回運動させることにより、荷を水平方向に運搬することができる。尚、フック26以外のものをワイヤ25の下端に取り付けてもよい。例えば、建造物等を破砕するための鉄球(不図示)をフック26の代わりにワイヤ25の下端に取り付けてもよい。
【0028】
図2(b)において、旋回台22が旋回した際にブーム24の先端部27が描く仮想線を波線曲線100にて表している。波線曲線100は円を成す。
【0029】
クレーン機械装置10の操縦者が、操縦席ボックス23内に配置された操縦用部材を操作することにより、走行体21による走行、ブーム24の長さの変更、旋回台22の旋回運動、旋回台22に対するブーム24の起伏角度の変更、及び、ワイヤ25の巻き上げ/巻き下げを指示することができる。
【0030】
機体20には、機体20の周辺を撮影するカメラ1が設置されている。図2(a)及び(b)に示す例では、操縦席ボックス23の上部にカメラ1が設置されている。但し、旋回台22又はブーム24にカメラ1を設置するようにしても構わない。
【0031】
カメラ1として、例えばCCD(Charge Coupled Devices)を用いたカメラや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いたカメラが用いられる。画像処理装置2は、例えば集積回路から形成される。表示装置3は、液晶ディスプレイパネル等から形成される。画像処理装置2、表示装置3及び操作部4は、例えば、操縦席ボックス23内の操縦席付近に設置される。特に、クレーン機械装置10の操縦者が表示装置3の表示画面を視認可能なように表示装置3を設置しておく。
【0032】
カメラ1は、機体20の周辺に位置する被写体(地面を含む)を撮影し、撮影によって得られた画像(以下、撮影画像という)を表す信号を画像処理装置2に送る。特に、先端部27を通る鉛直線と地面との交点が、カメラ1の視野に含まれるようにカメラ1は設置される。望ましくは、フック26をカメラ1の視野に収める。図2(b)において、波線扇型領域101は、カメラ1の視野を表している。
【0033】
画像処理装置2は、撮影画像から表示装置3に対する出力画像、即ち表示用画像を生成する。この表示用画像を表す映像信号は表示装置3に与えられ、表示装置3は、該表示用画像を映像として表示する。操作部4は、ユーザからの操作を受け付け、その操作内容に応じた信号を画像処理装置2に伝達する。カメラ1は、所定のフレーム周期(例えば、1/60秒の周期)にて撮影画像を取得する。そして例えば、新たな撮影画像が得られる度に、その新たな撮影画像から表示用画像が生成されて表示装置3の表示内容が更新される。
【0034】
図3及び図4を参照して、表示用画像の生成に関与する物理量や記号等の説明を行う。
【0035】
図3は、その物理量を表す記号を併記した、クレーン機械装置10の外観側面図である。ブーム24を、直方体と捉え、ブーム24の長手方向の中心軸105と所定の基準面106とが成す鋭角をθAにより表す。θAは、旋回台22に対するブーム24の起伏角度を表し、それをブーム起伏角度と呼ぶ。基準面106は、旋回台22の旋回面に平行な面である。旋回台22は、旋回面に沿って旋回運動を行う。基本的には、旋回面と水平面は平行であり、旋回面が水平面に平行である場合を考える。
【0036】
ブーム24の長手方向とは、ブーム24の、旋回台22に固定された一端と、ブーム24の他端を含む先端部27と、を結ぶ方向である。そして、そのブーム24の長手方向におけるブーム24の長さ(ブーム24の一端と他端間の長さ)をlにて表し、それをブーム長さと呼ぶ。
【0037】
また、水平面とカメラ1の光軸との成す角度には鋭角と鈍角の2つの角度があるが、その2つの角度の内の鈍角をθにより表し、角度θを、水平面に対するカメラ1の傾き角度として捉える。尚、(180°−θ)は、一般的には見下ろし角または俯角と呼ばれている。更に、カメラ1の高さ(より詳細には、カメラ1の光学中心の高さ)をhにて表す。
【0038】
図4は、カメラ1の撮像面Sの座標系と、世界座標系との関係を示している。撮像面Sの座標系は、Xbu軸及びYbu軸を座標軸とする二次元の座標系である。世界座標系は、Xw軸、Yw軸及びZw軸を座標軸とする三次元の座標系である。図4には、撮像面Sが仮想的に示されている。
【0039】
撮像面Sの座標系では、撮像面Sの中心に原点をとり、撮像面Sの横方向にXbu軸がとられ、撮像面Sの縦方向にYbu軸がとられている。世界座標系における原点Owは、カメラ1の光学中心Oを通る鉛直線と地面との交点に一致する。Xw軸、Yw軸及びZw軸は互いに直交しており、Xw軸とYw軸とZw軸は原点Owにて交わる。原点Owを含み且つXw軸及びYw軸に平行な面は、地面であり、Zw軸方向は高さ方向に一致する。従って、原点Owと光学中心Oとの平行移動量はhである。
【0040】
光学中心O及び原点Owを含み且つZw軸及びYw軸に平行な面上に、カメラ1の光軸110が存在する。そして、光軸110と水平面との成す鈍角が、上述の傾き角度θである。
【0041】
撮像面Sの座標系における各点の座標を(xbu,ybu)で表し、世界座標系における各点の座標を(xw,yw,zw)で表す。撮像面Sの座標系において、或る点に関するxbu及びybuは、夫々、その点の座標のXbu軸成分及びYbu軸成分である。世界座標系において、或る点に関するxw,yw及びzwは、夫々、その点の座標のXw軸成分、Yw軸成分及びZw軸成分である。
【0042】
世界座標系上における任意の点は、透視投影により撮像面Sの座標系上における点に投影される。この投影を表す式は下記式(1)にて表される。ここで、Pは3×4の行列であり、一般に透視投影行列と呼ばれる。周知の如く、行列Pは、カメラ1の高さh、傾き角度θ及び焦点距離fを含むカメラパラメータによって一意に定まる。このカメラパラメータは、画像処理装置2にとって既知であるものとし、画像処理装置2は、カメラパラメータに基づく行列Pを用い、式(1)に従って世界座標系上における任意の点を撮像面Sの座標系上における点に投影することができる。
【0043】
【数1】

【0044】
更に図5を参照する。図5において、符号120は、旋回台22の旋回運動によってブーム24の先端部27が描く図形の、地面への投影曲線を表している。尚、図5には、図4と同じ世界座標系が示されている。投影曲線120は円を成し、その円の半径をrで表すと、r=l・cosθAが成立する。投影曲線120が描く円の中心121は、ブーム24の旋回軸上にあり、原点Owと一致する場合もあるが一致しない場合もある。半径rは、旋回台22を含む機体20の旋回運動によるブーム24の可動範囲の半径を表し、投影曲線120は、その可動範囲の外周を表している。
【0045】
本実施形態では、半径rに応じた安全確認領域(特定画像領域)が視認可能なように、撮影画像から表示用画像を生成し、これを表示する。安全確認領域とは、障害物が存在していないかを注視すべき領域であり、本実施形態では、安全確認領域とそれ以外の領域をガイドラインによって区別して視認させる。
【0046】
これに対応する、図1の視界支援システムの動作手順を、図6を参照して説明する。図6は、この動作手順を表すフローチャートである。ステップS1〜S4及びS6の各処理は画像処理装置2によって実施され、ステップS5の処理はカメラ1と画像処理装置2によって実施され、ステップS7の処理は表示装置3によって実施される。
【0047】
まず、ステップS1において、画像処理装置2は、ブーム長さl及びブーム起伏角度θAを特定する。それらの特定手法として公知の任意の特定手法を利用可能である。
【0048】
例えば、ブーム長さl及びブーム起伏角度θAを特開平7−61777号公報に記載の手法によって自動的に求めることができる。安全装置としてクレーン機械装置10に元々備えられているブーム起伏角度検出器(不図示)を利用して、ブーム起伏角度θAを検出することもできる。
【0049】
また例えば、ブーム長さl及びブーム起伏角度θAを手動操作にて画像処理装置2に与えるようにしてもよい。この場合、現在のブーム長さl及びブーム起伏角度θAを表す情報を図1の操作部4を操作することによって画像処理装置2に与え、画像処理装置2は、その情報によってブーム長さl及びブーム起伏角度θAを特定する。尚、ブーム長さlが予め固定的に決まっている場合は、ブーム長さlを表す固定値を画像処理装置2に予め与えておくこともできる。
【0050】
ステップS1に続くステップS2において、ステップS1にて特定されたブーム長さl及びブーム起伏角度θAを用い、算出式「r=l・cosθA」に従って上述の半径rを算出する。その後、ステップS3に進む。
【0051】
半径rが求まれば、描画すべきガイドラインの世界座標系上における位置を求めることができる。具体的には以下のように処理する。ステップS3において、ステップS2で算出された半径rと、カメラ1とブーム24との位置関係を特定する既知情報とに基づいて、旋回台22の旋回によってブーム24の先端部27が描く図形の世界座標系上の座標値を求める。この図形を、便宜上、旋回外周図形と呼ぶ。この旋回外周図形は、ZW軸方向の座標値zwを任意とすれば図5の投影曲線120を一断面とする円筒を形成し、zw=0とすれば図5の投影曲線120を描く。尚、カメラ1とブーム24との位置関係を特定する上記既知情報によって、図5の中心121のXW軸方向の座標値及びYW軸方向の座標値は定まる。この既知情報は、予め画像処理装置2に与えられる。
【0052】
ステップS3では、最終的に、描画すべきガイドラインの世界座標系上における座標値を求める。例えば、旋回外周図形の世界座標系上における座標値そのものを、ガイドラインの世界座標系上における座標値とする。この場合において、通常は、zw=0とし、投影曲線120を世界座標系上におけるガイドラインとする。
【0053】
また例えば、接触事故等に対する安全性を考慮して、図7に示す如く、半径rよりも半径が大きい仮想円130を想定し、仮想円130の世界座標系上における座標値をガイドラインの世界座標系上における座標値としてもよい。図7において、仮想円130は投影曲線120が描かれる平面上に定義された円であり、仮想円130の中心は投影曲線120が描く円の中心121と一致する。尚、仮想円130を世界座標系上におけるガイドラインとして取り扱う場合、ステップS3において、仮想円130の世界座標系上における座標値が求まれば足るので旋回外周図形の世界座標系上における座標値を求める必要はない。
【0054】
ステップS3に続くステップS4では、ステップS3で求められた世界座標系上のガイドラインを撮像面Sの座標系上に投影変換する。つまり、世界座標系におけるガイドライン上の各点の座標値(xw,yw,zw)を、上記式(1)に従って撮像面Sの座標系上の座標値(xbu,ybu)に変換し、この変換によって得られた各座標値(xbu,ybu)を有する点から形成される図形を撮像面Sの座標系上におけるガイドラインとする。式(1)に基づく変換の際、一般的には「zw=0」とすればよい。
【0055】
そして続くステップS5において、画像処理装置2はカメラ1の撮影画像を取り込む。カメラ1に広角レンズを用いた場合などにおいては、通常、撮影画像に歪みが生じているため、レンズ歪み補正を施す。撮像面Sの座標系は、カメラ1が歪みのないピンホールカメラであることを想定して定義された座標系であるため、レンズ歪み補正後の撮影画像が撮像面Sの座標系上におけるカメラ1の撮影画像となる。
【0056】
その後、ステップS6において、ステップS5で得られた撮影画像(レンズ歪み補正後の撮影画像)に、ステップS4にて求められた各座標値(xbu,ybu)を有するガイドラインを重畳することによって表示用画像を生成する。この表示用画像は、ステップS7において、表示装置3の表示画面上に表示される。ステップS7の後、ステップS1に戻り、ステップS1〜S7の各処理が繰り返し実施される。
【0057】
図8に、ステップS6及びS7にて生成及び表示される表示用画像の例を示す。符号200が付された画像が表示用画像である。表示用画像200の下側には、旋回台22及び走行体21の各一部が描画されており、表示用画像200の中央付近には、ワイヤ25の一部とフック26が描画されている。表示用画像200において、符号201が付された波線円弧が重畳されたガイドラインであり、ガイドラインの色を適切に選ぶことによって他の画像領域とガイドラインとを容易に区別して視認できるようにする。尚、後述の第2実施形態における「鳥瞰表示」との区別を図るために、図8において「通常表示」という文言を便宜上設けた。
【0058】
旋回台22を含む機体20を旋回させることによってブーム24を旋回させた時、フック26は概ねガイドライン201に沿って移動することになる。ガイドライン201よりもクレーン機械装置10に近い領域は、障害物が存在していないかを注視すべき安全確認領域であり、ガイドライン201を表示することにより安全確認領域と障害物の位置関係などを画像上で認識することが可能となる。結果、操縦者の視界が支援され安全性が促進される。また、現時点のブーム長さl及びブーム起伏角度θAに応じてガイドラインが動的に変化するため、最新の安全確認領域を視覚的に認識することが可能である。
【0059】
図2(a)及び(b)に示すようなクレーン機械装置10では、ブーム24が操縦席ボックス23の側面に配置されることが多いため、操縦者はブーム24側の側方障害物を目視で確認することが困難なことが多い。このため、安全確認領域を表示画面上で確認できることは非常に有益である。
【0060】
尚、レンズ歪み補正後の撮影画像にガイドラインを重畳して表示する例を上述したが、レンズ歪み補正が施されていない撮影画像(以下、元画像という)にガイドラインを重畳した表示用画像を生成及び表示することも可能である。元画像に重畳されるべきガイドラインは、レンズ歪み補正後の撮影画像に対応したステップS4で求められるべきガイドラインに対して、レンズ歪み補正時における変換の逆変換を施すことで求めることができる。
【0061】
また、ガイドラインを重畳表示するのではなく、ガイドラインよりもクレーン機械装置10に近い領域(即ち、安全確認領域)の表示色を変えるなどの処理を行ってもよい。例えば、図9に示されるような表示用画像210を生成及び表示するようにする。表示用画像210では、ガイドラインよりもクレーン機械装置10に近い領域と他の領域とが区別可能なように、前者の領域(即ち、安全確認領域)の表示色が変更されている。図9における波線領域211が安全確認領域である。これを実施するためには、ステップS6において、表示用画像210が得られるように、ステップS4にて求められたガイドラインを形成する各座標値(xbu,ybu)に基づいて、撮影画像内の安全確認領域に相当する一部領域の映像信号(輝度信号及び/又は色信号)を加工する。そして、この加工後の撮影画像を表示装置3に出力すればよい。何れにせよ、半径rに基づく安全確認領域とそれ以外の領域とを表示画面上で区別して視認可能なように表示用画像を生成すればよい。
【0062】
<<第2実施形態>>
次に、本発明の第2実施形態について説明する。第2実施形態に係る視界支援システムの全体ブロック図及び視界支援システムが適用されるクレーン機械装置10は、第1実施形態におけるそれらと同様である。第2実施形態では、視界支援システムの動作手順が第1実施形態のそれから変更されており、その変更を除いて第1及び第2実施形態は同様である。従って、動作手順に関与する説明だけ行う。第1実施形態に記載した事項は、矛盾なき限り第2実施形態にも適用される。
【0063】
第2実施形態に係る視界支援システムの動作手順を、図10を参照して説明する。図10は、この動作手順を表すフローチャートである。ステップS1〜S3及びS11〜S13の各処理は画像処理装置2によって実施され、ステップS5の処理はカメラ1と画像処理装置2によって実施され、ステップS14の処理は表示装置3によって実施される。
【0064】
まず、ステップS1〜S3の各処理が実施された後、ステップS5にて撮影画像が取得される。ステップS1〜S3及びS5の各処理は、図6を参照して説明したそれらと同じである。第2実施形態では、ステップS1〜S3及びS5の各処理の後、ステップS11に移行する。
【0065】
ステップS11では、ステップS5にて得られた撮影画像を鳥瞰図画像に変換する。但し、鳥瞰図画像の基となる撮影画像に対してレンズ歪み補正を施し、そのレンズ歪み補正後の撮影画像を鳥瞰図画像に変換するものとする。鳥瞰図画像は、実際のカメラ1の撮影画像を仮想カメラの視点(仮想視点)から見た画像に変換したものである。より具体的には、鳥瞰図画像は、実際のカメラ1の撮影画像を、地上面を鉛直方向に見下ろした画像に変換したものである。この種の画像変換は、一般に、視点変換とも呼ばれる。
【0066】
鳥瞰図画像は、互いに直交するXau軸及びYau軸を座標軸とする二次元の鳥瞰図座標系上に定義される。鳥瞰図座標系における各点の座標を(xau,yau)で表す。鳥瞰図座標系において、或る点に関するxau及びyauは、夫々、その点の座標のXau軸成分及びYau軸成分である。撮像面Sの座標系における各点の座標(xbu,ybu)を、鳥瞰図座標系における座標(xau,yau)に変換するための式は、下記式(2)によって表されることが知られている(例えば、特開2006−287892号公報参照)。上述したように、f、h、θ及びHは、夫々、カメラ1の焦点距離、カメラ1の高さ、カメラ1の傾き角度及び仮想カメラの高さ(仮想視点の高さ)である。第2実施形態では、仮想カメラの高さHを固定値とする。
【0067】
【数2】

【0068】
画像処理装置2は、ステップS5にて得られた撮影画像上の各点の座標(xbu,ybu)を、式(2)に従って鳥瞰図画像上の座標(xau,yau)に変換することによって、鳥瞰図画像を生成する。この際、式(2)に従って座標(xbu,ybu)と座標(xau,yau)との対応関係を示す変換テーブルデータを予め作成しておき、この変換テーブルデータを用いて撮影画像を鳥瞰図画像に変換するようにしてもよい。尚、上記式(1)と後述の式(3)と仮想カメラの高さHに基づいて撮影画像を鳥瞰図画像に変換することも可能である(但し、式(1)において、zw=0とする)。
【0069】
【数3】

【0070】
ステップS11の後、ステップS12に移行する。ステップS12では、ステップS3で求められた世界座標系上のガイドラインから鳥瞰図座標系上のガイドラインの座標値を求める。今、XW軸及びYW軸を座標軸とする二次元の座標系を地面座標系と呼ぶ。地面座標系は、zw=0における世界座標系である。この地面座標系上のガイドラインは、例えば、図5の投影曲線120を描くこととなる。地面座標系上におけるガイドラインが鳥瞰図座標系上のガイドラインとなるため、世界座標系上のガイドラインの座標値(xw,yw,zw)における(xw,yw)が、そのまま、鳥瞰図座標系上のガイドラインの座標値(xau,yau)とされる。
【0071】
その後、ステップS13において、ステップS11で得られた鳥瞰図画像に、ステップS12にて求められた各座標値(xau,yau)を有する鳥瞰図座標系上のガイドラインを重畳することによって表示用画像を生成する。生成された表示用画像は、ステップS14において、表示装置3の表示画面上に表示される。ステップS14の後、ステップS1に戻り、上述の各処理が繰り返し実施される。
【0072】
図11に、ステップS13及びS14にて生成及び表示される表示用画像の例を示す。符号220が付された画像が表示用画像である。表示用画像220の下側には、旋回台22及び走行体21の各一部が描画されており、表示用画像220の中央付近には、ワイヤ25の一部とフック26が描画されている。また、表示用画像220の左下隅及び右下隅の黒塗り領域は、カメラ1の視野外の領域に対応している。表示用画像220において、符号221が付された波線円弧が重畳されたガイドラインであり、ガイドラインの色を適切に選ぶことによって他の画像領域とガイドラインとを容易に区別して視認できるようにしておく。これにより、第1実施形態と同様の効果が得られる。
【0073】
また、第1実施形態で述べたのと同様に、ガイドラインを重畳表示するのではなく、ガイドラインよりもクレーン機械装置10に近い領域(即ち、安全確認領域)の表示色を変えるなどの処理を行ってもよい。例えば、図12に示されるような表示用画像230を生成及び表示するようにする。表示用画像230では、ガイドラインよりもクレーン機械装置10に近い領域と他の領域とが区別可能なように、前者の領域(即ち、安全確認領域)の表示色が変更されている。図12における波線領域231が安全確認領域である。これを実施するためには、ステップS13において、表示用画像230が得られるように、ステップS12にて求められたガイドラインを形成する各座標値(xau,yau)に基づいて、鳥瞰図画像内の安全確認領域に相当する一部領域の映像信号(輝度信号及び/又は色信号)を加工する。そして、この加工後の鳥瞰図画像を表示装置3に出力すればよい。何れにせよ、半径rに基づく安全確認領域とそれ以外の領域とを表示画面上で区別して視認可能なように表示用画像を生成すればよい。
【0074】
<<第3実施形態>>
ところで、第2実施形態のように鳥瞰図画像を表示する場合は、鳥瞰図画像のズーム調整を行うことによって、より安全性支援に寄与する映像を提供することが可能である。実空間上において高い視点から見ると安全確認領域が小さく見え、低い視点から見ると安全確認領域が大きく見えるのと同様に、図10のステップS11及びS12で用いる仮想カメラの高さHを変更すれば安全確認領域の表示サイズを自由に変更することが可能である。
【0075】
このような変更を行う実施形態として第3実施形態を説明する。第3実施形態は、第2実施形態の一部を変更した実施形態であり、第2実施形態との相違点のみを以下に説明する。特に記述しない部分は、第2実施形態と同様である。また、第1実施形態に記載した事項は、矛盾なき限り第3実施形態にも適用される。
【0076】
第1の撮影条件と第2の撮影条件にて撮影が行われた場合を想定する。第1の撮影条件におけるブーム起伏角度θAよりも第2の撮影条件におけるブーム起伏角度θAの方が大きいものとする。ブーム長さlを含むその他の条件は、第1及び第2の撮影条件間で同じであるものとする。
【0077】
図13を参照する。図13において、符号250は、第1の撮影条件下におけるカメラ1の撮影画像を表し、符号260は、第2の撮影条件下におけるカメラ1の撮影画像を表している。符号251が付された破線円弧は撮影画像250におけるガイドラインであり、符号261が付された破線円弧は撮影画像260におけるガイドラインである。
【0078】
第1及び第2の撮影条件間においてブーム起伏角度θAが相違しているため、撮影画像上におけるガイドラインの大きさ、即ち、撮影画像の全体に占める安全確認領域の大きさが、撮影画像250及び260間で異なっていることが分かる。安全確認上、重量な領域は、安全確認領域内と安全確認領域近傍であるので、安全確認領域が大きく表示された方が安全性支援がより促進される。
【0079】
このため、ブーム起伏角度θAの変化に拘らず、表示画面上の安全確認領域の大きさが概ね一定となるように、鳥瞰図画像を生成する際の仮想カメラの高さHを変更する処理を行う。具体的には、第1の撮影条件にて撮影が行われた時には、ステップS11及びS12で用いる仮想カメラの高さHをH1とする。図13において、符号255は、H=H1とした上で撮影画像250から得られた鳥瞰図画像を表し、符号256は、鳥瞰図画像255におけるガイドラインである。一方、第2の撮影条件にて撮影が行われた時には、ステップS11及びS12で用いる仮想カメラの高さHをH2とする。図13において、符号265は、H=H2とした上で撮影画像260から得られた鳥瞰図画像であり、符号266は、鳥瞰図画像265におけるガイドラインである。ここで、H2<H1である。撮影画像250が得られた際には鳥瞰図画像255にガイドライン256を重畳した画像を表示装置3に与えて表示させ、撮影画像260が得られた際には鳥瞰図画像265にガイドライン266を重畳した画像を表示装置3に与えて表示させる。
【0080】
上述の如く、仮想カメラの高さHを調整することによって、表示画面上の安全確認領域の大きさを概ね一定とする。今の場合、ブーム起伏角度θAが変化することによってブーム24の可動範囲(可動範囲の外周位置)が変化した場合を想定しているため、ブーム起伏角度θAの変化に応じて仮想カメラの高さHを動的に変更する。ブーム長さlが変化した場合も同様に処理すればよい。つまり、まとめると、ブーム起伏角度θA及びブーム長さlの少なくとも一方が変化することによってブーム24の可動範囲(可動範囲の外周位置)が変化した場合、その変化に基づく表示用画像上の安全確認領域の大きさ変化が打ち消されるように仮想カメラの高さHを動的に変更する。換言すれば、ブーム24の可動範囲の変化に拘らず、表示用画像の全体領域に占める、安全確認領域の割合が概ね一定となるように、仮想カメラの高さHを動的に変更する。これにより、表示画面上の安全確認領域の大きさが概ね一定となる。
【0081】
尚、表示用画像上の安全確認領域の大きさ変化が完全に打ち消される必要はなく、また、完全に打ち消そうとしてもそれを完全にはできないこともある。従って、表示用画像上の安全確認領域の大きさ変化に対する「打ち消す」という文言は「抑制する」の意味をも含む。
【0082】
また、仮想カメラの高さHを変更することなく、電子ズームによって同様の表示用画像を得るようにしてもよい。つまり、仮想カメラの高さHを固定し、撮影画像から得られた鳥瞰図画像の全体又は一部を切り出すことによって得られる画像にガイドラインを重畳した画像を、表示用画像として表示装置3に表示するようにしておく。そして、ブーム24の可動範囲(可動範囲の外周位置)が変化した場合、その変化に基づく表示用画像上の安全確認領域の大きさ変化が打ち消されるように鳥瞰図画像の全体から切り出す画像の位置及びサイズを変更すればよい(即ち、電子ズームの倍率を変更すればよい)。
【0083】
電子ズームに基づく手法は、第1実施形態にも適用可能である。第1実施形態に適用する場合、撮影画像の全体又は一部を切り出すことによって得られる画像にガイドラインを重畳した画像を、表示用画像として表示装置3に表示するようにしておく。そして、ブーム24の可動範囲(可動範囲の外周位置)が変化した場合、その変化に基づく表示用画像上の安全確認領域の大きさ変化が打ち消されるように撮影画像の全体から切り出す画像の位置及びサイズを変更すればよい(即ち、電子ズームの倍率を変更すればよい)。
【0084】
<<第4実施形態>>
次に、第4実施形態について説明する。第1〜第3実施形態に記載した事項は、矛盾無き限り、本実施形態にも適用される。この適用の際、同一名称の部位間の符号の相違(例えば、符号2と2aの相違)は適宜無視される。図14は、第4実施形態に係る視界支援システムの全体ブロック図である。図14の視界支援システムは、カメラ1F、1B、1L及び1Rと、画像処理装置2aと、表示装置3と、操作部4を備えている。本実施形態におけるカメラ1Fは第1〜第3実施形態におけるカメラ1に相当する。
【0085】
図15(a)は、図14の視界支援システムが搭載されるクレーン機械装置10の外観側面図であり、図15(b)は、そのクレーン機械装置10を上方から見た平面図である。図15(a)及び(b)に示されるクレーン機械装置10自体は、第1実施形態に係るそれと同じものである。但し、本実施形態においては、クレーン機械装置10の機体20に、機体20の周辺を撮影する4つのカメラが設置されている。具体的には、クレーン機械装置10の操縦席ボックス23の前部、後部、左側部及び右側部に、夫々、互いに異なる視点を有するカメラ1F、1B、1L及び1Rが取り付けられている(但し、図15(a)では、カメラ1Lの図示を省略している)。尚、カメラ1F、1B、1L及び1Rの全部又は一部を、旋回台22に取り付けるようにしてもよい。
【0086】
カメラ1Fの光軸の向きが機体20の前方斜め下向きになるように、且つ、カメラ1Bの光軸の向きが機体20の後方斜め下向きになるように、且つ、カメラ1Lの光軸の向きが機体20の左方斜め下向きになるように、且つ、カメラ1Rの光軸の向きが機体20の右方斜め下向きになるように、カメラ1F、1B、1L及び1Rは機体20に設置される。
【0087】
図16も、図15(b)と同様の、クレーン機械装置10を上方から見た平面図であるが、図16には各カメラの視野が示されている。図16において、破線扇型領域300F、300B、300L及び300Rは、夫々、カメラ1F、1B、1L及び1Rの視野を表している。
【0088】
カメラ1Fは、機体20の前方の所定領域内に位置する被写体(地面を含む)を撮影する。カメラ1Bは、機体20の後方の所定領域内に位置する被写体(地面を含む)を撮影する。カメラ1Lは、機体20の左側の所定領域内に位置する被写体(地面を含む)を撮影する。カメラ1Rは、機体20の右側の所定領域内に位置する被写体(地面を含む)を撮影する。
【0089】
カメラ1Fの視野の一部とカメラ1Rの視野の一部は、機体20の右斜め前方にて重なり合う。カメラ1Fの視野の一部とカメラ1Lの視野の一部は、機体20の左斜め前方にて重なり合う。カメラ1Bの視野の一部とカメラ1Rの視野の一部は、機体20の右斜め後方にて重なり合う。カメラ1Bの視野の一部とカメラ1Lの視野の一部は、機体20の左斜め後方にて重なり合う。
【0090】
カメラ1F、1B、1L及び1Rの各撮影画像を表す信号は、画像処理装置2aに送られる。画像処理装置2aは、各撮影画像から表示用画像を生成する。この表示用画像を表す映像信号は表示装置3に与えられ、表示装置3は、該表示用画像を映像として表示する。操作部4は、ユーザからの操作を受け付け、その操作内容に応じた信号を画像処理装置2aに伝達する。各カメラ(1F、1B、1L及び1R)は、所定のフレーム周期(例えば、1/60秒の周期)にて撮影画像を取得する。そして例えば、新たな撮影画像が得られる度に、その新たな撮影画像から表示用画像が生成されて表示装置3の表示内容が更新される。
【0091】
図14の視界支援システムの動作手順を、図17を参照して説明する。図17は、この動作手順を表すフローチャートである。ステップS1〜S3及びS22〜S25の各処理は画像処理装置2aによって実施され、ステップS21の処理は各カメラと画像処理装置2aによって実施され、ステップS26の処理は表示装置3によって実施される。
【0092】
まず、ステップS1〜S3の各処理が実施された後、ステップS21にてカメラ1F、1B、1L及び1Rの各撮影画像が取得される。ステップS1〜S3の各処理は、図6を参照して説明したそれらと同じである。第4実施形態では、ステップS1〜S3及びS21の各処理の後、ステップS22に移行する。
【0093】
ステップS22では、ステップS21にて得られた各撮影画像を鳥瞰図画像に変換する。1つの撮影画像を1つの鳥瞰図画像に変換する手法は、第2実施形態(又は第3実施形態)で述べたものと同じである。但し、鳥瞰図画像の基となる撮影画像に対してレンズ歪み補正を施し、そのレンズ歪み補正後の撮影画像を鳥瞰図画像に変換するものとする。カメラ1F、1B、1L及び1Rについての鳥瞰図画像を、夫々、鳥瞰図画像310F、310B、310L及び310Rと呼ぶ。
【0094】
続くステップS23では、鳥瞰図画像310Fを基準として、他の鳥瞰図画像310B、310L及び310Rを回転及び平行移動することにより、それら(310B、310L及び310R)の座標を鳥瞰図画像310Fにおける座標に変換する。この変換は、例えば、各カメラ(1F、1B、1L及び1R)間の位置関係を表す既知の位置関係情報に基づいて行われる。この変換後、各鳥瞰図画像を合成することにより、全周鳥瞰図画像を生成する。全周鳥瞰図画像が定義される座標系を、全周鳥瞰図座標系と呼ぶ。今の例の場合、全周鳥瞰図座標系はカメラ1Fについての鳥瞰図座標系と一致する。
【0095】
図18に、全周鳥瞰図座標系上に表された鳥瞰図画像310F、310B、310L及び310Rを示す。カメラ1Fと1Rの視野の一部が重なり合うことに対応して鳥瞰図画像310Fと310Rの一部が重なり合う。鳥瞰図画像310Fと310Lの間などにおいても同様である。全周鳥瞰図画像を画像合成によって生成する際、重なり合う部分の画像は、合成する画像間の画素値を平均化することによって生成される、或いは、定義した合成境界線を境に合成する画像を貼り合わせることによって生成される。何れにせよ、各鳥瞰図画像が接合部分において滑らかに接合されるように画像合成がなされる。
【0096】
尚、各カメラの撮影画像の各座標と全周鳥瞰図座標系上の座標との対応関係を示すテーブルデータを予め作成しておき、このテーブルデータを用いて各撮影画像から全周鳥瞰図画像を生成するようにしてもよい。この場合、個々の鳥瞰図画像を生成する必要はない。
【0097】
全周鳥瞰図画像が生成された後、ステップS24に移行する。ステップS24では、ステップS3で求められた世界座標系上のガイドラインの座標値から全周鳥瞰図座標系上のガイドラインの座標値を求める。全周鳥瞰図座標系はカメラ1Fについての鳥瞰図座標系と同じであるため、ステップS24の処理内容は、第2実施形態におけるステップS12(図10参照)のそれと同じである。
【0098】
その後、ステップS25において、ステップS24にて求められた各座標値を有する全周鳥瞰図座標系上のガイドラインを全周鳥瞰図画像に重畳することによって表示用画像を生成する。生成された表示用画像は、ステップS26において、表示装置3の表示画面上に表示される。ステップS26の後、ステップS1に戻り、上述の各処理が繰り返し実施される。
【0099】
図19に、ステップS25及びS26にて生成及び表示される表示用画像の例を示す。符号330が付された画像が表示用画像である。表示用画像330の中央には、クレーン機械装置10の仮想機体が描画されている。各カメラがクレーン機械装置10の機体20全体を撮影できるわけではないので、描画された仮想機体は、各カメラによって実際に撮影された機体20とは異なる(但し、仮想機体の一部は実際の撮影結果に基づく)。表示用画像330の中央上部には、ワイヤ25の一部とフック26が描画されている。尚、クレーン機械装置10のブーム24も表示用画像に描写されうるが、図示の簡略化上、図19(並びに後述する図20及び図21)においてブーム24の図示を省略している。
【0100】
表示用画像330において、符号331が付された波線円が重畳されたガイドラインであり、ガイドラインの色を適切に選ぶことによって他の画像領域とガイドラインとを容易に区別して視認できるようにしておく。これにより、第1及び第2実施形態と同様の効果が得られると共に、広範囲領域が表示画面上で確認可能となる。
【0101】
また、第2実施形態で述べたのと同様に、ガイドラインを重畳表示するのではなく、ガイドラインよりもクレーン機械装置10に近い領域(即ち、安全確認領域)の表示色を変えるなどの処理を行ってもよい。例えば、図20に示されるような表示用画像340を生成及び表示するようにする。表示用画像340では、ガイドラインよりもクレーン機械装置10に近い領域と他の領域とが区別可能なように、前者の領域(即ち、安全確認領域)の表示色が変更されている。図20における波線領域341が安全確認領域である。これを実施するためには、ステップS25において、表示用画像340が得られるように、ステップS24にて求められたガイドラインの全周鳥瞰図座標系上の各座標値に基づいて、全周鳥瞰図画像内の安全確認領域に相当する一部領域の映像信号(輝度信号及び/又は色信号)を加工する。そして、この加工後の全周鳥瞰図画像を表示装置3に出力すればよい。何れにせよ、半径rに基づく安全確認領域とそれ以外の領域とを表示画面上で区別して視認可能なように表示用画像を生成すればよい。
【0102】
また、第3実施形態に記載の内容を本実施形態にも適用することができる。図21を参照して具体例を説明する。図21において、符号360、370及び380は、夫々、生成可能な表示用画像であり、破線円361、371及び381は、夫々、表示用画像360、370及び380におけるガイドラインである。基準状態にて表示用画像360が得られたとする。
【0103】
この基準状態を基準として、ブーム起伏角度θAが増加又はブーム長さlが減少しブーム24の可動範囲(可動範囲の外周位置)が小さくなった場合を想定する。この場合において、各カメラについての仮想カメラの高さHを固定値としていた場合は、表示用画像は表示用画像360から表示用画像370に遷移する。即ち、表示用画像におけるガイドラインの大きさ(表示画面上の安全確認領域の大きさ)も小さくなる。一方、ブーム24の可動範囲(可動範囲の外周位置)の縮小分に相当する分だけ各カメラについての仮想カメラの高さHを基準状態よりも低くすれば、表示用画像は表示用画像360から表示用画像380に遷移する。即ち、表示用画像におけるガイドラインの大きさ(表示画面上の安全確認領域の大きさ)は一定に維持される。
【0104】
このように、ブーム起伏角度θA及びブーム長さlの少なくとも一方が変化することによってブーム24の可動範囲(可動範囲の外周位置)が変化した場合、その変化に基づく表示用画像上の安全確認領域の大きさ変化が打ち消されるように仮想カメラの高さHを動的に変更してもよい。これにより、表示画面上の安全確認領域の大きさが概ね一定となる。本実施形態の如く複数のカメラを用いた合成画像を表示する場合は描画可能な領域が広いため、このような安全確認領域の表示サイズ調整が、安全確認の支援上、特に効果的である。
【0105】
尚、第3実施形態でも述べたように、仮想カメラの高さHを変更することなく、電子ズームによって同様の表示用画像を得るようにしてもよい。
【0106】
また、カメラ1F、1B、1L及び1Rの全部又は一部を、ブーム24に取り付けることも可能である。但し、その場合は、ブーム起伏角度θA及び/又はブーム長さl(図3参照)が変化することによってカメラと旋回台22及び操縦席ボックス23との位置関係が変化する。このため、ブーム起伏角度θA及び/又はブーム長さlの変化に応じた上記位置関係の変化を認識可能なように視界支援システムを形成し、撮影画像から鳥瞰図画像を得るための座標変換に、その位置関係の変化を反映させる必要がある。
【0107】
<<第5実施形態>>
第1〜第4実施形態に係る視界支援システムが適用されるクレーン機械装置は様々な形態をとる。例えば、図22に示されるようなクレーン機械装置10aにも、第1〜第4実施形態に係る視界支援システムを適用可能である。図22は、クレーン機械装置10aの外観側面図である。
【0108】
クレーン機械装置10aは、走行体21、旋回台22、操縦席ボックス23及びブーム24を備え、更に、ブーム24の先端部27に連結ジブ31が取り付けられている。つまり、クレーン機械装置10aは、図2(a)等に示されるクレーン機械装置10に、連結ジブ31が追加された構成を有し、この追加以外、クレーン機械装置10と10aは基本的に同様である。但し、図22において、カメラの図示を省略している。
【0109】
ブーム24の一端は旋回台22に固定される。ブーム24の他端を含むブーム24の先端部27に棒状の連結ジブ31が連結される。連結ジブ31は、ブーム24に対する起伏角度を自在に変更可能となっており、クレーン機械装置10aの操縦者が、操縦席ボックス23内に配置された操縦用部材を操作することにより上記起伏角度を変更することができる。連結ジブ31の一端はブーム24と連結ジブ31の連結部に固定される。連結ジブ31の他端を含む連結ジブ31の先端部32から鉛直下方向きに巻き上げ及び巻き下げ自在のワイヤ25が吊り下げられている。ワイヤ25の下端にはフック26が取り付けられている。
【0110】
旋回台22、運転席ボックス23、ブーム24及び連結ジブ31を含む機体は、走行体21と旋回台22との連結部を通り且つ鉛直線に平行な所定軸を旋回軸として旋回自在となるように走行体21上に装着されている。ブーム24及び連結ジブ31は、旋回台22の旋回に伴って該旋回軸の周りを旋回する。フック26に荷(不図示)を掛けた状態でワイヤ25を巻き上げ、旋回台22を旋回運動させることにより、荷を水平方向に運搬することができる。
【0111】
図22には、ブーム起伏角度θA等が併記されている。ブーム起伏角度θA及びブーム長さlは、第1実施形態で述べたそれらと同じものである。連結ジブ31を直方体と捉え、連結ジブ31の長手方向の中心軸115と、旋回面と平行な基準面106と、が成す鋭角をθA2により表す。θA2は、ブーム24と連結ジブ31との連結角度を表す。ブーム24と連結ジブ31の連結部を支点として連結ジブ31を回転駆動することによりθA2が変更される。
【0112】
連結ジブ31の長手方向とは、ブーム24と連結ジブ31の連結部と連結ジブ31の先端部32とを結ぶ方向である。連結ジブ31の長手方向における連結ジブ31の長さをl2にて表す。尚、ブーム24の長手方向の中心軸105と連結ジブ31の長手方向の中心軸115は、同一平面上にある。
【0113】
図22に示されるようなクレーン機械装置10aに第1〜第4実施形態に係る視界支援システムを適用する場合、1台又は複数台のカメラを操縦席ボックス23(又は旋回台22若しくはブーム24)に取り付ける。そして、第1〜第4実施形態にて説明した手法にて表示用画像を生成及び表示すればよいのであるが、連結ジブ31が存在するため、ガイドラインを定めるために必要な半径rの算出式が異なる。つまり、クレーン機械装置10aに第1〜第4実施形態に係る視界支援システムを適用する場合は、半径rを、算出式「r=l・cosθA+l2・cosθA2」に従って算出すれば良い。
【0114】
尚、長さl2を表す情報は画像処理装置(2又は2a)に予め与えておくこともできるし、特開平7−61777号公報に記載の手法を転用することによって連結ジブ31の長さl2を自動的に求めるようにしてもよい。また、ブーム起伏角度検出器と同様の角度検出器(不図示)を利用して、連結角度θA2を検出することができる。
【0115】
視界支援システムを図2(a)等のクレーン機械装置10に適用する場合も図22のクレーン機械装置10aに適用する場合も、ブーム長さl及びブーム起伏角度θAを含む旋回体状態に基づいて、半径rが求められて安全確認領域が特定される。旋回体状態とは、文字通り、旋回体の状態を意味している。クレーン機械装置10における旋回体は、ブーム24を含む。クレーン機械装置10aにおける旋回体はブーム24の他に連結ジブ31を含むため、クレーン機械装置10aにとっての旋回体状態には、ブーム長さl及びブーム起伏角度θAの他に連結ジブ31の長さl2及び連結角度θA2が含まれる。
【0116】
<<変形等>>
上述の実施形態の変形例または注釈事項として、以下に、注釈1〜注釈4を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0117】
[注釈1]
上述の各実施形態では、本発明に係る視界支援システムが適用されるクレーン機械装置として移動式クレーンを例示しているが、移動式クレーン以外の種類に分類されるクレーン機械装置にも当該視界支援システムを適用可能である。例えば、ジブクレーンやアンローダ等にも本発明は適用可能である。
【0118】
また、本発明は、クレーンに分類されない機械装置にも適用可能である。例えば、クレーン機能を備えたショベルカー(不図示)に本発明を適用することも可能である。但し、クレーン機能を備えたショベルカーは、クレーンに含まれるとも解釈される。ショベルカーは、図22のクレーン機械装置10aと共通の構造を有している。但し、ショベルカーにおいては、符号24で参照される部位はブームと呼ばれることが多いものの、符号31で参照される部位はアームと呼ばれることが一般的である。そのアームの先端部にバケットやブレーカ等のアタッチメントが取り付けられる。
【0119】
[注釈2]
鳥瞰図座標系への座標変換を伴う第2実施形態(又は第3実施形態)とそれを伴わない第1実施形態を別個に説明したが、両者における表示方式を同一の視界支援システム内で切り替え可能にしておくことも可能である。例えば、図1の操作部4に対する操作によって、通常表示方式と鳥瞰表示方式を選択可能としておく。そして、通常表示方式が選択された場合は、第1実施形態に係る図8等の表示用画像を生成及び表示するようにし、鳥瞰表示方式が選択された場合は、第2実施形態(又は第3実施形態)に係る図11等の表示用画像を生成及び表示するようにする。
【0120】
[注釈3]
図1の画像処理装置2又は図14の画像処理装置2aの機能は、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアの組み合わせによって実現可能である。画像処理装置(2又は2a)にて実現される機能の全部または一部を、プログラムとして記述し、該プログラムをコンピュータ上で実行することによって、その機能の全部または一部を実現するようにしてもよい。
【0121】
[注釈4]
例えば以下のように考えることができる。上述の各実施形態において、1台のカメラ1又は複数台のカメラ(1F、1B、1L及び1R)は、カメラユニットを形成する。このカメラユニットと画像処理装置(2又は2a)は、カメラシステムを形成する。また、画像処理装置(2又は2a)は、撮影画像を鳥瞰図画像又は全周鳥瞰図画像に変換するための鳥瞰変換手段を備える。
【図面の簡単な説明】
【0122】
【図1】本発明の第1実施形態に係る視界支援システムの全体ブロック図である。
【図2】図1の視界支援システムが搭載されるクレーン機械装置の外観側面図(a)と、そのクレーン機械装置を上方から見た平面図(b)である。
【図3】表示用画像の生成に関与する記号等を併記した、図2(a)のクレーン機械装置の外観側面図である。
【図4】本発明の第1実施形態に係り、カメラの撮像面の座標系と世界座標系との関係を示す図である。
【図5】世界座標系と表示用画像の生成に関与する記号等との関係を示す図である。
【図6】本発明の第1実施形態に係る視界支援システムの動作手順を表すフローチャートである。
【図7】世界座標系と表示用画像の生成に関与する記号等との関係を示す図である。
【図8】本発明の第1実施形態に係る視界支援システムにて表示される画像例を示す図である。
【図9】本発明の第1実施形態に係る視界支援システムにて表示される画像例を示す図である。
【図10】本発明の第2実施形態に係る視界支援システムの動作手順を表すフローチャートである。
【図11】本発明の第2実施形態に係る視界支援システムにて表示される画像例を示す図である。
【図12】本発明の第2実施形態に係る視界支援システムにて表示される画像例を示す図である。
【図13】本発明の第3実施形態に係る視界支援システムにて得られる撮影画像及び鳥瞰図画像の例を示す図である。
【図14】本発明の第4実施形態に係る視界支援システムの全体ブロック図である。
【図15】図14の視界支援システムが搭載されるクレーン機械装置の外観側面図(a)と、そのクレーン機械装置を上方から見た平面図(b)である。
【図16】本発明の第4実施形態に係り、各カメラの視野を併記した、クレーン機械装置を上方から見た平面図である。
【図17】本発明の第4実施形態に係る視界支援システムの動作手順を表すフローチャートである。
【図18】図14の視界支援システムにて生成される、全周鳥瞰図座標系上の各鳥瞰図画像を表す図である。
【図19】図14の視界支援システムにて表示される画像例を示す図である。
【図20】図14の視界支援システムにて表示される画像例を示す図である。
【図21】図14の視界支援システムにて表示される画像例を示す図である。
【図22】本発明の第5実施形態に係り、本発明の視界支援システムが適用されるクレーン機械装置の外観側面図である。
【符号の説明】
【0123】
1、1F、1B、1R、1L カメラ
2、2a 画像処理装置
3 表示装置
4 操作部
10、10a クレーン機械装置
21 下部走行体
22 上部旋回台
23 操縦席ボックス
24 ブーム
25 ワイヤ
26 フック
27 先端部
31 連結ジブ

【特許請求の範囲】
【請求項1】
旋回運動が可能な旋回体の周辺を撮影するカメラユニットと、
前記カメラユニットにて得られた撮影画像に基づく表示用画像を生成する画像処理装置と、を備えて、前記表示用画像を表示装置に出力するカメラシステムにおいて、
前記画像処理装置は、前記旋回体の旋回による前記旋回体の可動範囲の外周位置に応じた特定画像領域が前記表示装置の表示画面上で視認可能なように前記表示用画像を生成する
ことを特徴とするカメラシステム。
【請求項2】
前記旋回体は、旋回運動が可能な旋回台上に起伏運動が可能なように装着された棒状の主軸部材を有して、前記旋回台の旋回に伴って旋回運動し、
前記外周位置は、前記主軸部材の長さ及び前記旋回台に対する前記主軸部材の起伏角度を含む旋回体状態に応じて変化し、
前記画像処理装置は、前記旋回体状態に基づいて前記表示用画像上における前記特定画像領域の位置を定める
ことを特徴とする請求項1に記載のカメラシステム。
【請求項3】
前記画像処理装置は、前記外周位置に応じた指標を前記撮影画像に重畳することによって或いは前記外周位置に応じて前記撮影画像を加工することによって前記表示用画像を生成する
ことを特徴とする請求項1または請求項2に記載のカメラシステム。
【請求項4】
前記画像処理装置は、前記撮影画像を仮想カメラの視点から見た鳥瞰図画像に変換する鳥瞰変換手段を備え、前記外周位置に応じた指標を前記鳥瞰図画像に重畳することによって或いは前記外周位置に応じて前記鳥瞰図画像を加工することによって前記表示用画像を生成する
ことを特徴とする請求項1または請求項2に記載のカメラシステム。
【請求項5】
前記カメラユニットは、前記旋回体の周辺を撮影する、互いに異なる視点を有した複数のカメラから形成され、
前記画像処理装置は、各カメラの撮影画像を仮想カメラの視点から見た鳥瞰図画像に変換して各鳥瞰図画像を合成することにより合成鳥瞰図画像を生成する鳥瞰変換手段を備え、前記外周位置に応じた指標を前記合成鳥瞰図画像に重畳することによって或いは前記外周位置に応じて前記合成鳥瞰図画像を加工することによって前記表示用画像を生成する
ことを特徴とする請求項1または請求項2に記載のカメラシステム。
【請求項6】
前記画像処理装置は、前記旋回体の可動範囲が変化した際、その変化に基づく前記表示用画像上の前記特定画像領域の大きさ変化が抑制されるように前記表示用画像を生成する
ことを特徴とする請求項4または請求項5に記載のカメラシステム。
【請求項7】
前記画像処理装置は、前記旋回体の可動範囲が変化した際、その変化に応じて前記仮想カメラの視点の高さを変更することにより前記大きさ変化を抑制する
ことを特徴とする請求項6に記載のカメラシステム。
【請求項8】
前記主軸部材は、クレーン機械装置又はショベルカーを含む機械装置に備えられたブームである
ことを特徴とする請求項2に記載のカメラシステム。
【請求項9】
請求項1〜請求項8の何れかに記載されたカメラシステムが設置され且つ旋回体を旋回運動させる
ことを特徴とする機械装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate


【公開番号】特開2008−312004(P2008−312004A)
【公開日】平成20年12月25日(2008.12.25)
【国際特許分類】
【出願番号】特願2007−158785(P2007−158785)
【出願日】平成19年6月15日(2007.6.15)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】