画像生成装置及び操作支援システム
【課題】複数のカメラが撮像した複数の入力画像に基づいて生成される出力画像における、複数のカメラの撮像範囲が重複する領域での物体の消失を防止しながらも、入力画像間の明るさの差が際立たないようにする画像生成装置を提供すること。
【解決手段】ショベル６０に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置１００は、二つのカメラ２Ｒ、２Ｂのそれぞれの撮像範囲が重複する領域に対応するそれら二つのカメラ２Ｒ、２Ｂのそれぞれの入力画像部分がその出力画像において格子模様を形成するように、それら二つの入力画像部分を配置する。
【解決手段】ショベル６０に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置１００は、二つのカメラ２Ｒ、２Ｂのそれぞれの撮像範囲が重複する領域に対応するそれら二つのカメラ２Ｒ、２Ｂのそれぞれの入力画像部分がその出力画像において格子模様を形成するように、それら二つの入力画像部分を配置する。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、被操作体に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置及びその装置を用いた操作支援システムに関する。
【背景技術】
【０００２】
従来、車両周辺を撮像する複数の車載カメラによって撮像された画像のそれぞれを鳥瞰図画像に変換し、それら鳥瞰図画像を繋ぎ合わせた出力画像を運転者に提示する運転支援システムが知られている（例えば、特許文献１参照。）。
【０００３】
この運転支援システムは、二つのカメラの撮像範囲の重複領域に対応する重複領域画像を生成する際に、その重複領域画像を二つに分ける一本の複雑な形状の境界線である櫛歯状の境界線を設定し、二つのカメラのそれぞれが撮像した二つの鳥瞰図画像のそれぞれの部分領域が櫛歯状に交互に配置されるように二つの鳥瞰図画像を繋ぎ合わせるようにする。
【０００４】
通常、その重複領域に存在する高さのある物体は、二つのカメラのそれぞれとその物体とを結ぶ線の延長方向に二方向に伸長して投影されるため、その重複領域を一本の直線で二つの領域に二分し、一方の領域を一方のカメラによる鳥瞰図画像に対応させ、他方の領域を他方のカメラによる鳥瞰図画像に対応させることによってその重複領域画像を生成すると、その重複領域画像から消失してしまうこととなる。
【０００５】
その点、この運転支援システムは、上述の繋ぎ合わせにより、高さのある物体が重複領域画像から消失してしまうのを防止することができ、その物体を運転者が認識し易いものにすることができるとしている。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開２００７−１０９１６６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、特許文献１に記載の運転支援システムは、一本の複雑な形状の境界線である櫛歯状の境界線を用いて二つの鳥瞰図画像のそれぞれの部分領域が櫛歯状に交互に配置されるように二つの鳥瞰図画像を繋ぎ合わせて出力画像を生成するので、それら二つの鳥瞰図画像の明るさに大きな差がある場合に櫛歯状の際立った明暗パタンを創出してしまい、その出力画像を見た運転者に不自然さを感じさせてしまうこととなる。
【０００８】
上述の点に鑑み、本発明は、複数のカメラが撮像した複数の入力画像に基づいて生成される出力画像における、複数のカメラの撮像範囲が重複する領域での物体の消失を防止しながらも、入力画像間の明るさの差が際立たないようにする画像生成装置及びその装置を用いた操作支援システムを提供することを目的とする。
【課題を解決するための手段】
【０００９】
上述の目的を達成するために、本発明の実施例に係る画像生成装置は、被操作体に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置であって、前記複数のカメラのうちの二つのそれぞれの撮像範囲が重複する領域に対応する前記複数のカメラのうちの二つのそれぞれの入力画像部分は、前記出力画像において、格子模様を形成するように配置されることを特徴とする。
また、本発明の実施例に係る操作支援システムは、被操作体の移動又は操作を支援する操作支援システムであって、請求項１又は２に記載の画像生成装置と、前記被操作体を移動させ或いは操作するための操作室に設置され、該画像生成装置が生成する出力画像を表示する表示部と、を備えることを特徴とする。
【発明の効果】
【００１０】
上述の手段により、本発明は、複数のカメラが撮像した複数の入力画像に基づいて生成される出力画像における、複数のカメラの撮像範囲が重複する領域での物体の消失を防止しながらも、入力画像間の明るさの差が際立たないようにする画像生成装置及びその装置を用いた操作支援システムを提供することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明に係る画像生成装置の構成例を概略的に示すブロック図である。
【図２】画像生成装置が搭載されるショベルの構成例を示す図である。
【図３】入力画像が投影される空間モデルの一例を示す図である。
【図４】空間モデルと処理対象画像平面との間の関係の一例を示す図である。
【図５】入力画像平面上の座標と空間モデル上の座標との対応付けを説明するための図である。
【図６】座標対応付け手段による座標間の対応付けを説明するための図である。
【図７】平行線群の作用を説明するための図である。
【図８】補助線群の作用を説明するための図である。
【図９】処理対象画像生成処理及び出力画像生成処理の流れを示すフローチャートである。
【図１０】出力画像の表示例（その１）である。
【図１１】出力画像の表示例（その２）である。
【図１２】同色錯視を説明するための図である。
【図１３】同色錯視をもたらす明暗パタンを生成する方法の一例を説明するための図である。
【図１４】図１３の格子模様を出力画像平面上に配置した状態を示す図である。
【図１５】格子模様形成処理の流れを示すフローチャートである。
【図１６】図１１で示される出力画像と、図１１の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図である。
【図１７】出力画像の表示例（その３）である。
【図１８】二つのカメラのそれぞれの撮像範囲の重複領域における物体の消失防止効果を説明するための図である。
【図１９】図１７で示される出力画像と、図１７の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図である。
【発明を実施するための形態】
【００１２】
以下、図面を参照しつつ、本発明を実施するための最良の形態の説明を行う。
【００１３】
図１は、本発明に係る画像生成装置の構成例１００を概略的に示すブロック図である。
【００１４】
画像生成装置１００は、例えば、建設機械に搭載されたカメラ２が撮像した入力画像に基づいて出力画像を生成しその出力画像を運転者に提示する装置であって、制御部１、カメラ２、入力部３、記憶部４、及び表示部５で構成される。
【００１５】
図２は、画像生成装置１００が搭載されるショベル６０の構成例を示す図であり、ショベル６０は、クローラ式の下部走行体６１の上に、旋回機構６２を介して、上部旋回体６３を旋回軸ＰＶの周りで旋回自在に搭載している。
【００１６】
また、上部旋回体６３は、その前方左側部にキャブ（運転室）６４を備え、その前方中央部に掘削アタッチメントＥを備え、その右側面及び後面にカメラ２（右側方カメラ２Ｒ、後方カメラ２Ｂ）を備えている。なお、キャブ６４内の運転者が視認し易い位置には表示部５が設置されているものとする。
【００１７】
次に、画像生成装置１００の各構成要素について説明する。
【００１８】
制御部１は、ＣＰＵ（Central Processing Unit）、ＲＡＭ(Random Access Memory)、ＲＯＭ（Read Only Memory）、ＮＶＲＡＭ（Non-Volatile Random Access Memory）等を備えたコンピュータであって、例えば、後述する座標対応付け手段１０及び出力画像生成手段１１のそれぞれに対応するプログラムをＲＯＭやＮＶＲＡＭに記憶し、一時記憶領域としてＲＡＭを利用しながら各手段に対応する処理をＣＰＵに実行させる。
【００１９】
カメラ２は、ショベル６０の周辺を映し出す入力画像を取得するための装置であり、例えば、キャブ６４にいる運転者の死角となる領域を撮像できるよう上部旋回体６３の右側面及び後面に取り付けられる（図２参照。）、ＣＣＤ(Charge Coupled Device)やＣＭＯＳ(Complementary Metal Oxide Semiconductor)等の撮像素子を備えた右側方カメラ２Ｒ及び後方カメラ２Ｂである。なお、カメラ２は、上部旋回体６３の右側面及び後面以外の位置（例えば、前面及び左側面である。）に取り付けられていてもよく、広い範囲を撮像できるよう広角レンズ又は魚眼レンズが装着されていてもよい。
【００２０】
また、カメラ２は、制御部１からの制御信号に応じて入力画像を取得し、取得した入力画像を制御部１に対して出力する。なお、カメラ２は、魚眼レンズ又は広角レンズを用いて入力画像を取得した場合には、それらレンズを用いることによって生じる見掛け上の歪曲やアオリを補正した補正済みの入力画像を制御部１に対して出力するが、その見掛け上の歪曲やアオリを補正していない入力画像をそのまま制御部１に対して出力してもよい。その場合には、制御部１がその見掛け上の歪曲やアオリを補正することとなる。
【００２１】
入力部３は、操作者が画像生成装置１００に対して各種情報を入力できるようにするための装置であり、例えば、タッチパネル、ボタンスイッチ、ポインティングデバイス、キーボード等である。
【００２２】
記憶部４は、各種情報を記憶するための装置であり、例えば、ハードディスク、光学ディスク、又は半導体メモリ等である。
【００２３】
表示部５は、画像情報を表示するための装置であり、例えば、建設機械のキャブ６４（図２参照。）内に設置された液晶ディスプレイ又はプロジェクタ等であって、制御部１が出力する各種画像を表示する。
【００２４】
また、画像生成装置１００は、入力画像に基づいて処理対象画像を生成し、その処理対象画像に画像変換処理を施すことによって周辺障害物との位置関係や距離感を直感的に把握できるようにする出力画像を生成した上で、その出力画像を運転者に提示するようにしてもよい。
【００２５】
「処理対象画像」は、入力画像に基づいて生成される、画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）の対象となる画像であり、例えば、地表を上方から撮像するカメラによる入力画像であってその広い画角により水平方向の画像（例えば、空の部分である。）を含む入力画像を画像変換処理で用いる場合に、その水平方向の画像が不自然に表示されないよう（例えば、空の部分が地表にあるものとして扱われないよう）その入力画像を所定の空間モデルに投影した上で、その空間モデルに投影された投影画像を別の二次元平面に再投影することによって得られる、画像変換処理に適した画像である。なお、処理対象画像は、画像変換処理を施すことなくそのまま出力画像として用いられてもよい。
【００２６】
「空間モデル」は、少なくとも、処理対象画像が位置する平面である処理対象画像平面以外の平面又は曲面（例えば、処理対象画像平面に平行な平面、又は、処理対象画像平面との間で角度を形成する平面若しくは曲面である。）を含む、一又は複数の平面若しくは曲面で構成される、入力画像の投影対象である。
【００２７】
なお、画像生成装置１００は、処理対象画像を生成することなく、その空間モデルに投影された投影画像に画像変換処理を施すことによって出力画像を生成するようにしてもよい。また、投影画像は、画像変換処理を施すことなくそのまま出力画像として用いられてもよい。
【００２８】
図３は、入力画像が投影される空間モデルＭＤの一例を示す図であり、図３（Ａ）は、ショベル６０を側方から見たときのショベル６０と空間モデルＭＤとの間の関係を示し、図３（Ｂ）は、ショベル６０を上方から見たときのショベル６０と空間モデルＭＤとの間の関係を示す。
【００２９】
図３で示されるように、空間モデルＭＤは、半円筒形状を有し、その底面内部の平面領域Ｒ１とその側面内部の曲面領域Ｒ２とを有する。
【００３０】
また、図４は、空間モデルＭＤと処理対象画像平面との間の関係の一例を示す図であり、処理対象画像平面Ｒ３は、例えば、空間モデルＭＤの平面領域Ｒ１を含む平面である。なお、図４は、明確化のために、空間モデルＭＤを、図３で示すような半円筒形状ではなく、円筒形状で示しているが、空間モデルＭＤは、半円筒形状及び円筒形状の何れであってもよいものとする。以降の図においても同様である。また、処理対象画像平面Ｒ３は、上述のように、空間モデルＭＤの平面領域Ｒ１を含む円形領域であってもよく、空間モデルＭＤの平面領域Ｒ１を含まない環状領域であってもよい。
【００３１】
次に、制御部１が有する各種手段について説明する。
【００３２】
座標対応付け手段１０は、カメラ２が撮像した入力画像が位置する入力画像平面上の座標と、空間モデルＭＤ上の座標と、処理対象画像平面Ｒ３上の座標とを対応付けるための手段であり、例えば、予め設定された、或いは、入力部３を介して入力される、カメラ２の光学中心、焦点距離、ＣＣＤサイズ、光軸方向ベクトル、カメラ水平方向ベクトル、射影方式等のカメラ２に関する各種パラメータと、予め決定された、入力画像平面、空間モデルＭＤ、及び処理対象画像平面Ｒ３の相互の位置関係とに基づいて、入力画像平面上の座標と、空間モデルＭＤ上の座標と、処理対象画像平面Ｒ３上の座標とを対応付け、それらの対応関係を記憶部４の入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１に記憶する。
【００３３】
なお、座標対応付け手段１０は、処理対象画像を生成しない場合には、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標との対応付け、及び、その対応関係の空間モデル・処理対象画像対応マップ４１への記憶を省略する。
【００３４】
出力画像生成手段１１は、出力画像を生成するための手段であり、例えば、処理対象画像にスケール変換、アフィン変換、又は歪曲変換を施すことによって、処理対象画像平面Ｒ３上の座標と出力画像が位置する出力画像平面上の座標とを対応付け、その対応関係を記憶部４の処理対象画像・出力画像対応マップ４２に記憶し、座標対応付け手段１０がその値を記憶した入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１を参照しながら、出力画像における各画素の値（例えば、輝度値、色相値、彩度値等である。）と入力画像における各画素の値とを関連付けて出力画像を生成する。
【００３５】
また、出力画像生成手段１１は、予め設定された、或いは、入力部３を介して入力される、仮想カメラの光学中心、焦点距離、ＣＣＤサイズ、光軸方向ベクトル、カメラ水平方向ベクトル、射影方式等の各種パラメータに基づいて、処理対象画像平面Ｒ３上の座標と出力画像が位置する出力画像平面上の座標とを対応付け、その対応関係を記憶部４の処理対象画像・出力画像対応マップ４２に記憶し、座標対応付け手段１０がその値を記憶した入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１を参照しながら、出力画像における各画素の値（例えば、輝度値、色相値、彩度値等である。）と入力画像における各画素の値とを関連付けて出力画像を生成する。
【００３６】
なお、出力画像生成手段１１は、仮想カメラの概念を用いることなく、処理対象画像のスケールを変更して出力画像を生成するようにしてもよい。
【００３７】
また、出力画像生成手段１１は、処理対象画像を生成しない場合には、施した画像変換処理に応じて空間モデルＭＤ上の座標と出力画像平面上の座標とを対応付け、入力画像・空間モデル対応マップ４０を参照しながら、出力画像における各画素の値（例えば、輝度値、色相値、彩度値等である。）と入力画像における各画素の値とを関連付けて出力画像を生成する。この場合、出力画像生成手段１１は、処理対象画像平面Ｒ３上の座標と出力画像平面上の座標との対応付け、及び、その対応関係の処理対象画像・出力画像対応マップ４２への記憶を省略する。
【００３８】
次に、座標対応付け手段１０及び出力画像生成手段１１による具体的な処理の一例について説明する。
【００３９】
座標対応付け手段１０は、例えば、ハミルトンの四元数を用いて、入力画像平面上の座標と空間モデル上の座標とを対応付けることができる。
【００４０】
図５は、入力画像平面上の座標と空間モデル上の座標との対応付けを説明するための図であり、カメラ２の入力画像平面は、カメラ２の光学中心Ｃを原点とするＵＶＷ直交座標系における一平面として表され、空間モデルは、ＸＹＺ直交座標系における立体面として表されるものとする。
【００４１】
最初に、座標対応付け手段１０は、空間モデル上の座標（ＸＹＺ座標系上の座標）を入力画像平面上の座標（ＵＶＷ座標系上の座標）に変換するため、ＸＹＺ座標系の原点を光学中心Ｃ（ＵＶＷ座標系の原点）に並行移動させた上で、Ｘ軸をＵ軸に、Ｙ軸をＶ軸に、Ｚ軸を−Ｗ軸（符号「−」は方向が逆であることを意味する。これは、ＵＶＷ座標系がカメラ前方を＋Ｗ方向とし、ＸＹＺ座標系が鉛直下方を−Ｚ方向としていることに起因する。）にそれぞれ一致させるようＸＹＺ座標系を回転させる。
【００４２】
なお、カメラ２が複数存在する場合、カメラ２のそれぞれが個別のＵＶＷ座標系を有することとなるので、座標対応付け手段１０は、複数のＵＶＷ座標系のそれぞれに対して、ＸＹＺ座標系を並行移動させ且つ回転させることとなる。
【００４３】
上述の変換は、カメラ２の光学中心ＣがＸＹＺ座標系の原点となるようにＸＹＺ座標系を並行移動させた後に、Ｚ軸が−Ｗ軸に一致するよう回転させ、更に、Ｘ軸がＵ軸に一致するよう回転させることによって実現されるので、座標対応付け手段１０は、この変換をハミルトンの四元数で記述することにより、それら二回の回転を一回の回転演算に纏めることができる。
【００４４】
ところで、あるベクトルＡを別のベクトルＢに一致させるための回転は、ベクトルＡとベクトルＢとが張る面の法線を軸としてベクトルＡとベクトルＢとが形成する角度だけ回転させる処理に相当し、その角度をθとすると、ベクトルＡとベクトルＢとの内積から、角度θは、
【００４５】
【数１】
で表されることとなる。
【００４６】
また、ベクトルＡとベクトルＢとが張る面の法線の単位ベクトルＮは、ベクトルＡとベクトルＢとの外積から
【００４７】
【数２】
で表されることとなる。
【００４８】
なお、四元数は、ｉ、ｊ、ｋをそれぞれ虚数単位とした場合、
【００４９】
【数３】
を満たす超複素数であり、本実施例において、四元数Ｑは、実成分をｔ、純虚成分をａ、ｂ、ｃとして、
【００５０】
【数４】
で表されるものとし、四元数Ｑの共役四元数は、
【００５１】
【数５】
で表されるものとする。
【００５２】
四元数Ｑは、実成分ｔを０（ゼロ）としながら、純虚成分ａ、ｂ、ｃで三次元ベクトル（ａ，ｂ，ｃ）を表現することができ、また、ｔ、ａ、ｂ、ｃの各成分により任意のベクトルを軸とした回転動作を表現することもできる。
【００５３】
更に、四元数Ｑは、連続する複数回の回転動作を統合して一回の回転動作として表現することができ、例えば、任意の点Ｓ（ｓｘ，ｓｙ，ｓｚ）を、任意の単位ベクトルＣ（ｌ，ｍ，ｎ）を軸としながら角度θだけ回転させたときの点Ｄ（ｅｘ，ｅｙ，ｅｚ）を以下のように表現することができる。
【００５４】
【数６】
ここで、本実施例において、Ｚ軸を−Ｗ軸に一致させる回転を表す四元数をＱｚとすると、ＸＹＺ座標系におけるＸ軸上の点Ｘは、点Ｘ'に移動させられるので、点Ｘ'は、
【００５５】
【数７】
で表されることとなる。
【００５６】
また、本実施例において、Ｘ軸上にある点Ｘ'と原点とを結ぶ線をＵ軸に一致させる回転を表す四元数をＱｘとすると、「Ｚ軸を−Ｗ軸に一致させ、更に、Ｘ軸をＵ軸に一致させる回転」を表す四元数Ｒは、
【００５７】
【数８】
で表されることとなる。
【００５８】
以上により、空間モデル（ＸＹＺ座標系）上の任意の座標Ｐを入力画像平面（ＵＶＷ座標系）上の座標で表現したときの座標Ｐ'は、
【００５９】
【数９】
で表されることとなり、四元数Ｒがカメラ２のそれぞれで不変であることから、座標対応付け手段１０は、以後、この演算を実行するだけで空間モデル（ＸＹＺ座標系）上の座標を入力画像平面（ＵＶＷ座標系）上の座標に変換することができる。
【００６０】
空間モデル（ＸＹＺ座標系）上の座標を入力画像平面（ＵＶＷ座標系）上の座標に変換した後、座標対応付け手段１０は、カメラ２の光学中心Ｃ（ＵＶＷ座標系上の座標）と空間モデル上の任意の座標ＰをＵＶＷ座標系で表した座標Ｐ'とを結ぶ線分ＣＰ'と、カメラ２の光軸Ｇとが形成する入射角αを算出する。
【００６１】
また、座標対応付け手段１０は、カメラ２の入力画像平面Ｒ４（例えば、ＣＣＤ面）に平行で且つ座標Ｐ'を含む平面Ｈにおける、平面Ｈと光軸Ｇとの交点Ｅと座標Ｐ'とを結ぶ線分ＥＰ'と、平面ＨにおけるＵ'軸とが形成する偏角φ、及び線分ＥＰ'の長さを算出する。
【００６２】
カメラの光学系は、通常、像高さｈが入射角α及び焦点距離ｆの関数となっているので、座標対応付け手段１０は、通常射影（ｈ＝ｆｔａｎα）、正射影（ｈ＝ｆｓｉｎα）、立体射影（ｈ＝２ｆｔａｎ（α／２））、等立体角射影（ｈ＝２ｆｓｉｎ（α／２））、等距離射影（ｈ＝ｆα）等の適切な射影方式を選択して像高さｈを算出する。
【００６３】
その後、座標対応付け手段１０は、算出した像高さｈを偏角φによりＵＶ座標系上のＵ成分及びＶ成分に分解し、入力画像平面Ｒ４の一画素当たりの画素サイズに相当する数値で除算することにより、空間モデルＭＤ上の座標Ｐ（Ｐ'）と入力画像平面Ｒ４上の座標とを対応付けることができる。
【００６４】
なお、入力画像平面Ｒ４のＵ軸方向における一画素当たりの画素サイズをａＵとし、入力画像平面Ｒ４のＶ軸方向における一画素当たりの画素サイズをａＶとすると、空間モデルＭＤ上の座標Ｐ（Ｐ'）に対応する入力画像平面Ｒ４上の座標（ｕ，ｖ）は、
【００６５】
【数１０】
【００６６】
【数１１】
で表されることとなる。
【００６７】
このようにして、座標対応付け手段１０は、空間モデルＭＤ上の座標と、カメラ毎に存在する一又は複数の入力画像平面Ｒ４上の座標とを対応付け、空間モデルＭＤ上の座標、カメラ識別子、及び入力画像平面Ｒ４上の座標を関連付けて入力画像・空間モデル対応マップ４０に記憶する。
【００６８】
また、座標対応付け手段１０は、四元数を用いて座標の変換を演算するので、オイラー角を用いて座標の変換を演算する場合と異なり、ジンバルロックを発生させることがないという利点を有する。しかしながら、座標対応付け手段１０は、四元数を用いて座標の変換を演算するものに限定されることはなく、オイラー角を用いて座標の変換を演算するようにしてもよい。
【００６９】
なお、複数の入力画像平面Ｒ４上の座標への対応付けが可能な場合、座標対応付け手段１０は、空間モデルＭＤ上の座標Ｐ（Ｐ'）を、その入射角αが最も小さいカメラに関する入力画像平面Ｒ４上の座標に対応付けるようにしてもよく、操作者が選択した入力画像平面Ｒ４上の座標に対応付けるようにしてもよい。
【００７０】
次に、空間モデルＭＤ上の座標のうち、曲面領域Ｒ２上の座標（Ｚ軸方向の成分を持つ座標）を、ＸＹ平面上にある処理対象画像平面Ｒ３に再投影する処理について説明する。
【００７１】
図６は、座標対応付け手段１０による座標間の対応付けを説明するための図であり、図６（Ａ）は、一例として通常射影（ｈ＝ｆｔａｎα）を採用するカメラ２の入力画像平面Ｒ４上の座標と空間モデルＭＤ上の座標との間の対応関係を示す図であって、座標対応付け手段１０は、カメラ２の入力画像平面Ｒ４上の座標とその座標に対応する空間モデルＭＤ上の座標とを結ぶ線分のそれぞれがカメラ２の光学中心Ｃを通過するようにして、両座標を対応付ける。
【００７２】
図６（Ａ）の例では、座標対応付け手段１０は、カメラ２の入力画像平面Ｒ４上の座標Ｋ１を空間モデルＭＤの平面領域Ｒ１上の座標Ｌ１に対応付け、カメラ２の入力画像平面Ｒ４上の座標Ｋ２を空間モデルＭＤの曲面領域Ｒ２上の座標Ｌ２に対応付ける。このとき、線分Ｋ１−Ｌ１及び線分Ｋ２−Ｌ２は共にカメラ２の光学中心Ｃを通過する。
【００７３】
なお、カメラ２が通常射影以外の射影方式（例えば、正射影、立体射影、等立体角射影、等距離射影等である。）を採用する場合、座標対応付け手段１０は、それぞれの射影方式に応じて、カメラ２の入力画像平面Ｒ４上の座標Ｋ１、Ｋ２を空間モデルＭＤ上の座標Ｌ１、Ｌ２に対応付けるようにする。
【００７４】
具体的には、座標対応付け手段１０は、所定の関数（例えば、正射影（ｈ＝ｆｓｉｎα）、立体射影（ｈ＝２ｆｔａｎ（α／２））、等立体角射影（ｈ＝２ｆｓｉｎ（α／２））、等距離射影（ｈ＝ｆα）等である。）に基づいて、入力画像平面上の座標と空間モデルＭＤ上の座標とを対応付ける。この場合、線分Ｋ１−Ｌ１及び線分Ｋ２−Ｌ２がカメラ２の光学中心Ｃを通過することはない。
【００７５】
図６（Ｂ）は、空間モデルＭＤの曲面領域Ｒ２上の座標と処理対象画像平面Ｒ３上の座標との間の対応関係を示す図であり、座標対応付け手段１０は、ＸＺ平面上に位置する平行線群ＰＬであって、処理対象画像平面Ｒ３との間で角度βを形成する平行線群ＰＬを導入し、空間モデルＭＤの曲面領域Ｒ２上の座標とその座標に対応する処理対象画像平面Ｒ３上の座標とが共に平行線群ＰＬのうちの一つに乗るようにして、両座標を対応付ける。
【００７６】
図６（Ｂ）の例では、座標対応付け手段１０は、空間モデルＭＤの曲面領域Ｒ２上の座標Ｌ２と処理対象画像平面Ｒ３上の座標Ｍ２とが共通の平行線に乗るとして、両座標を対応付けるようにする。
【００７７】
なお、座標対応付け手段１０は、空間モデルＭＤの平面領域Ｒ１上の座標を曲面領域Ｒ２上の座標と同様に平行線群ＰＬを用いて処理対象画像平面Ｒ３上の座標に対応付けることが可能であるが、図６（Ｂ）の例では、平面領域Ｒ１と処理対象画像平面Ｒ３とが共通の平面となっているので、空間モデルＭＤの平面領域Ｒ１上の座標Ｌ１と処理対象画像平面Ｒ３上の座標Ｍ１とは同じ座標値を有するものとなっている。
【００７８】
このようにして、座標対応付け手段１０は、空間モデルＭＤ上の座標と、処理対象画像平面Ｒ３上の座標とを対応付け、空間モデルＭＤ上の座標及び処理対象画像Ｒ３上の座標を関連付けて空間モデル・処理対象画像対応マップ４１に記憶する。
【００７９】
図６（Ｃ）は、処理対象画像平面Ｒ３上の座標と一例として通常射影（ｈ＝ｆｔａｎα）を採用する仮想カメラ２Ｖの出力画像平面Ｒ５上の座標との間の対応関係を示す図であり、出力画像生成手段１１は、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標とその座標に対応する処理対象画像平面Ｒ３上の座標とを結ぶ線分のそれぞれが仮想カメラ２Ｖの光学中心ＣＶを通過するようにして、両座標を対応付ける。
【００８０】
図６（Ｃ）の例では、出力画像生成手段１１は、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標Ｎ１を処理対象画像平面Ｒ３（空間モデルＭＤの平面領域Ｒ１）上の座標Ｍ１に対応付け、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標Ｎ２を処理対象画像平面Ｒ３上の座標Ｍ２に対応付ける。このとき、線分Ｍ１−Ｎ１及び線分Ｍ２−Ｎ２は共に仮想カメラ２Ｖの光学中心ＣＶを通過する。
【００８１】
なお、仮想カメラ２Ｖが通常射影以外の射影方式（例えば、正射影、立体射影、等立体角射影、等距離射影等である。）を採用する場合、出力画像生成手段１１は、それぞれの射影方式に応じて、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標Ｎ１、Ｎ２を処理対象画像平面Ｒ３上の座標Ｍ１、Ｍ２に対応付けるようにする。
【００８２】
具体的には、出力画像生成手段１１は、所定の関数（例えば、正射影（ｈ＝ｆｓｉｎα）、立体射影（ｈ＝２ｆｔａｎ（α／２））、等立体角射影（ｈ＝２ｆｓｉｎ（α／２））、等距離射影（ｈ＝ｆα）等である。）に基づいて、出力画像平面Ｒ５上の座標と処理対象画像平面Ｒ３上の座標とを対応付ける。この場合、線分Ｍ１−Ｎ１及び線分Ｍ２−Ｎ２が仮想カメラ２Ｖの光学中心ＣＶを通過することはない。
【００８３】
このようにして、出力画像生成手段１１は、出力画像平面Ｒ５上の座標と、処理対象画像平面Ｒ３上の座標とを対応付け、出力画像平面Ｒ５上の座標及び処理対象画像Ｒ３上の座標を関連付けて処理対象画像・出力画像対応マップ４２に記憶し、座標対応付け手段１０が記憶した入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１を参照しながら、出力画像における各画素の値と入力画像における各画素の値とを関連付けて出力画像を生成する。
【００８４】
なお、図６（Ｄ）は、図６（Ａ）〜図６（Ｃ）を組み合わせた図であり、カメラ２、仮想カメラ２Ｖ、空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２、並びに、処理対象画像平面Ｒ３の相互の位置関係を示す。
【００８５】
次に、図７を参照しながら、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標とを対応付けるために座標対応付け手段１０が導入する平行線群ＰＬの作用について説明する。
【００８６】
図７（Ａ）は、ＸＺ平面上に位置する平行線群ＰＬと処理対象画像平面Ｒ３との間で角度βが形成される場合の図であり、図７（Ｂ）は、ＸＺ平面上に位置する平行線群ＰＬと処理対象画像平面Ｒ３との間で角度β１（β１＞β）が形成される場合の図である。また、図７（Ａ）及び図７（Ｂ）における空間モデルＭＤの曲面領域Ｒ２上の座標Ｌａ〜Ｌｄのそれぞれは、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれに対応するものとし、図７（Ａ）における座標Ｌａ〜Ｌｄのそれぞれの間隔は、図７（Ｂ）における座標Ｌａ〜Ｌｄのそれぞれの間隔と等しいものとする。なお、平行線群ＰＬは、説明目的のためにＸＺ平面上に存在するものとしているが、実際には、Ｚ軸上の全ての点から処理対象画像平面Ｒ３に向かって放射状に延びるように存在するものとする。なお、この場合のＺ軸を「再投影軸」と称することとする。
【００８７】
図７（Ａ）及び図７（Ｂ）で示されるように、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれの間隔は、平行線群ＰＬと処理対象画像平面Ｒ３との間の角度が増大するにつれて線形的に減少する（空間モデルＭＤの曲面領域Ｒ２と座標Ｍａ〜Ｍｄのそれぞれとの間の距離とは関係なく一様に減少する。）。一方で、空間モデルＭＤの平面領域Ｒ１上の座標群は、図７の例では、処理対象画像平面Ｒ３上の座標群への変換が行われないので、座標群の間隔が変化することはない。
【００８８】
これら座標群の間隔の変化は、出力画像平面Ｒ５（図６参照。）上の画像部分のうち、空間モデルＭＤの曲面領域Ｒ２に投影された画像に対応する画像部分のみが線形的に拡大或いは縮小されることを意味する。
【００８９】
次に、図８を参照しながら、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標とを対応付けるために座標対応付け手段１０が導入する平行線群ＰＬの代替例について説明する。
【００９０】
図８（Ａ）は、ＸＺ平面上に位置する補助線群ＡＬの全てがＺ軸上の始点Ｔ１から処理対象画像平面Ｒ３に向かって延びる場合の図であり、図８（Ｂ）は、補助線群ＡＬの全てがＺ軸上の始点Ｔ２（Ｔ２＞Ｔ１）から処理対象画像平面Ｒ３に向かって延びる場合の図である。また、図８（Ａ）及び図８（Ｂ）における空間モデルＭＤの曲面領域Ｒ２上の座標Ｌａ〜Ｌｄのそれぞれは、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれに対応するものとし（図８（Ａ）の例では、座標Ｍｃ、Ｍｄは、処理対象画像平面Ｒ３の領域外となるため図示されていない。）、図８（Ａ）における座標Ｌａ〜Ｌｄのそれぞれの間隔は、図８（Ｂ）における座標Ｌａ〜Ｌｄのそれぞれの間隔と等しいものとする。なお、補助線群ＡＬは、説明目的のためにＸＺ平面上に存在するものとしているが、実際には、Ｚ軸上の任意の一点から処理対象画像平面Ｒ３に向かって放射状に延びるように存在するものとする。なお、図７と同様、この場合のＺ軸を「再投影軸」と称することとする。
【００９１】
図８（Ａ）及び図８（Ｂ）で示されるように、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれの間隔は、補助線群ＡＬの始点と原点Ｏとの間の距離（高さ）が増大するにつれて非線形的に減少する（空間モデルＭＤの曲面領域Ｒ２と座標Ｍａ〜Ｍｄのそれぞれとの間の距離が大きいほど、それぞれの間隔の減少幅が大きくなる。）。一方で、空間モデルＭＤの平面領域Ｒ１上の座標群は、図８の例では、処理対象画像平面Ｒ３上の座標群への変換が行われないので、座標群の間隔が変化することはない。
【００９２】
これら座標群の間隔の変化は、平行線群ＰＬのときと同様、出力画像平面Ｒ５（図６参照。）上の画像部分のうち、空間モデルＭＤの曲面領域Ｒ２に投影された画像に対応する画像部分のみが非線形的に拡大或いは縮小されることを意味する。
【００９３】
このようにして、画像生成装置１００は、空間モデルＭＤの平面領域Ｒ１に投影された画像に対応する出力画像の画像部分（例えば、路面画像である。）に影響を与えることなく、空間モデルＭＤの曲面領域Ｒ２に投影された画像に対応する出力画像の画像部分（例えば、水平画像である。）を線形的に或いは非線形的に拡大或いは縮小させることができるので、ショベル６０の近傍の路面画像（ショベル６０を真上から見たときの仮想画像）に影響を与えることなく、ショベル６０の周囲に位置する物体（ショベル６０から水平方向に周囲を見たときの画像における物体）を迅速且つ柔軟に拡大或いは縮小させることができ、ショベル６０の死角領域の視認性を向上させることができる。
【００９４】
次に、図９を参照しながら、画像生成装置１００が処理対象画像を生成する処理（以下、「処理対象画像生成処理」とする。）、及び、生成した処理対象画像を用いて出力画像を生成する処理（以下、「出力画像生成処理」とする。）について説明する。なお、図９は、処理対象画像生成処理（ステップＳ１〜ステップＳ３）及び出力画像生成処理（ステップＳ４〜ステップＳ６）の流れを示すフローチャートである。また、カメラ２（入力画像平面Ｒ４）、空間モデル（平面領域Ｒ１及び曲面領域Ｒ２）、並びに、処理対象画像平面Ｒ３の配置は予め決定されているものとする。
【００９５】
最初に、制御部１は、座標対応付け手段１０により、処理対象画像平面Ｒ３上の座標と空間モデルＭＤ上の座標とを対応付ける（ステップＳ１）。
【００９６】
具体的には、座標対応付け手段１０は、平行線群ＰＬと処理対象画像平面Ｒ３との間に形成される角度を取得し、処理対象画像平面Ｒ３上の一座標から延びる平行線群ＰＬの一つが空間モデルＭＤの曲面領域Ｒ２と交差する点を算出し、算出した点に対応する曲面領域Ｒ２上の座標を、処理対象画像平面Ｒ３上のその一座標に対応する曲面領域Ｒ２上の一座標として導き出し、その対応関係を空間モデル・処理対象画像対応マップ４１に記憶する。なお、平行線群ＰＬと処理対象画像平面Ｒ３との間に形成される角度は、記憶部４等に予め記憶された値であってもよく、入力部３を介して操作者が動的に入力する値であってもよい。
【００９７】
また、座標対応付け手段１０は、処理対象画像平面Ｒ３上の一座標が空間モデルＭＤの平面領域Ｒ１上の一座標と一致する場合には、平面領域Ｒ１上のその一座標を、処理対象画像平面Ｒ３上のその一座標に対応する一座標として導き出し、その対応関係を空間モデル・処理対象画像対応マップ４１に記憶する。
【００９８】
その後、制御部１は、座標対応付け手段１０により、上述の処理によって導き出された空間モデルＭＤ上の一座標と入力画像平面Ｒ４上の座標とを対応付ける（ステップＳ２）。
【００９９】
具体的には、座標対応付け手段１０は、通常射影（ｈ＝ｆｔａｎα）を採用するカメラ２の光学中心Ｃの座標を取得し、空間モデルＭＤ上の一座標から延びる線分であり、光学中心Ｃを通過する線分が入力画像平面Ｒ４と交差する点を算出し、算出した点に対応する入力画像平面Ｒ４上の座標を、空間モデルＭＤ上のその一座標に対応する入力画像平面Ｒ４上の一座標として導き出し、その対応関係を入力画像・空間モデル対応マップ４０に記憶する。
【０１００】
その後、制御部１は、処理対象画像平面Ｒ３上の全ての座標を空間モデルＭＤ上の座標及び入力画像平面Ｒ４上の座標に対応付けたか否かを判定し（ステップＳ３）、未だ全ての座標を対応付けていないと判定した場合には（ステップＳ３のＮＯ）、ステップＳ１及びステップＳ２の処理を繰り返すようにする。
【０１０１】
一方、制御部１は、全ての座標を対応付けたと判定した場合には（ステップＳ３のＹＥＳ）、処理対象画像生成処理を終了させた上で出力画像生成処理を開始させ、出力画像生成手段１１により、処理対象画像平面Ｒ３上の座標と出力画像平面Ｒ５上の座標とを対応付ける（ステップＳ４）。
【０１０２】
具体的には、出力画像生成手段１１は、処理対象画像にスケール変換、アフィン変換、又は歪曲変換を施すことによって出力画像を生成し、施したスケール変換、アフィン変換、又は歪曲変換の内容によって定まる、処理対象画像平面Ｒ３上の座標と出力画像平面Ｒ５上の座標との間の対応関係を処理対象画像・出力画像対応マップ４２に記憶する。
【０１０３】
或いは、出力画像生成手段１１は、仮想カメラ２Ｖを用いて出力画像を生成する場合には、採用した射影方式に応じて処理対象画像平面Ｒ３上の座標から出力画像平面Ｒ５上の座標を算出し、その対応関係を処理対象画像・出力画像対応マップ４２に記憶するようにしてもよい。
【０１０４】
或いは、出力画像生成手段１１は、通常射影（ｈ＝ｆｔａｎα）を採用する仮想カメラ２Ｖを用いて出力画像を生成する場合には、その仮想カメラ２Ｖの光学中心ＣＶの座標を取得した上で、出力画像平面Ｒ５上の一座標から延びる線分であり、光学中心ＣＶを通過する線分が処理対象画像平面Ｒ３と交差する点を算出し、算出した点に対応する処理対象画像平面Ｒ３上の座標を、出力画像平面Ｒ５上のその一座標に対応する処理対象画像平面Ｒ３上の一座標として導き出し、その対応関係を処理対象画像・出力画像対応マップ４２に記憶するようにしてもよい。
【０１０５】
その後、制御部１は、出力画像生成手段１１により、入力画像・空間モデル対応マップ４０、空間モデル・処理対象画像対応マップ４１、及び処理対象画像・出力画像対応マップ４２を参照しながら入力画像平面Ｒ４上の座標と空間モデルＭＤ上の座標との対応関係、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標との対応関係、及び処理対象画像平面Ｒ３上の座標と出力画像平面Ｒ５上の座標との対応関係を辿り、出力画像平面Ｒ５上の各座標に対応する入力画像平面Ｒ４上の座標が有する値（例えば、輝度値、色相値、彩度値等である。）を取得し、その取得した値を、対応する出力画像平面Ｒ５上の各座標の値として採用する（ステップＳ５）。なお、出力画像平面Ｒ５上の一座標に対して複数の入力画像平面Ｒ４上の複数の座標が対応する場合、出力画像生成手段１１は、それら複数の入力画像平面Ｒ４上の複数の座標のそれぞれの値に基づく統計値（例えば、平均値、最大値、最小値、中間値等である。）を導き出し、出力画像平面Ｒ５上のその一座標の値としてその統計値を採用するようにしてもよい。
【０１０６】
その後、制御部１は、出力画像平面Ｒ５上の全ての座標の値を入力画像平面Ｒ４上の座標の値に対応付けたか否かを判定し（ステップＳ６）、未だ全ての座標の値を対応付けていないと判定した場合には（ステップＳ６のＮＯ）、ステップＳ４及びステップＳ５の処理を繰り返すようにする。
【０１０７】
一方、制御部１は、全ての座標の値を対応付けたと判定した場合には（ステップＳ６のＹＥＳ）、出力画像を生成して、この一連の処理を終了させる。
【０１０８】
なお、画像生成装置１００は、処理対象画像を生成しない場合には、処理対象画像生成処理を省略し、出力画像生成処理におけるステップＳ４の"処理対象画像平面上の座標"を"空間モデル上の座標"で読み替えるものとする。
【０１０９】
以上の構成により、画像生成装置１００は、建設機械と周辺障害物との位置関係を操作者に直感的に把握させることが可能な処理対象画像及び出力画像を生成することができる。
【０１１０】
また、画像生成装置１００は、処理対象画像平面Ｒ３から空間モデルＭＤを経て入力画像平面Ｒ４に遡るように座標の対応付けを実行することにより、処理対象画像平面Ｒ３上の各座標を入力画像平面Ｒ４上の一又は複数の座標に確実に対応させることができ、入力画像平面Ｒ４から空間モデルＭＤを経て処理対象画像平面Ｒ３に至る順番で座標の対応付けを実行する場合と比べ（この場合には、入力画像平面Ｒ４上の各座標を処理対象画像平面Ｒ３上の一又は複数の座標に確実に対応させることができるが、処理対象画像平面Ｒ３上の座標の一部が、入力画像平面Ｒ４上の何れの座標にも対応付けられない場合があり、その場合にはそれら処理対象画像平面Ｒ３上の座標の一部に補間処理等を施す必要がある。）、より良質な処理対象画像を迅速に生成することができる。
【０１１１】
また、画像生成装置１００は、空間モデルＭＤの曲面領域Ｒ２に対応する画像のみを拡大或いは縮小する場合には、平行線群ＰＬと処理対象画像平面Ｒ３との間に形成される角度を変更して空間モデル・処理対象画像対応マップ４１における曲面領域Ｒ２に関連する部分のみを書き換えるだけで、入力画像・空間モデル対応マップ４０の内容を書き換えることなく、所望の拡大或いは縮小を実現させることができる。
【０１１２】
また、画像生成装置１００は、出力画像の見え方を変更する場合には、スケール変換、アフィン変換又は歪曲変換に関する各種パラメータの値を変更して処理対象画像・出力画像対応マップ４２を書き換えるだけで、入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１の内容を書き換えることなく、所望の出力画像（スケール変換画像、アフィン変換画像又は歪曲変換画像）を生成することができる。
【０１１３】
同様に、画像生成装置１００は、出力画像の視点を変更する場合には、仮想カメラ２Ｖの各種パラメータの値を変更して処理対象画像・出力画像対応マップ４２を書き換えるだけで、入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１の内容を書き換えることなく、所望の視点から見た出力画像（視点変換画像）を生成することができる。
【０１１４】
図１０は、ショベル６０に搭載された二台のカメラ２（右側方カメラ２Ｒ及び後方カメラ２Ｂ）の入力画像を用いて生成される出力画像を表示部５に表示させたときの表示例である。
【０１１５】
画像生成装置１００は、それら二台のカメラ２のそれぞれの入力画像を空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２上に投影した上で処理対象画像平面Ｒ３に再投影して処理対象画像を生成し、その生成した処理対象画像に画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）を施すことによって出力画像を生成して、ショベル６０の近傍を上空から見下ろした画像（平面領域Ｒ１における画像）と、ショベル６０から水平方向に周辺を見た画像（処理対象画像平面Ｒ３における画像）とを同時に表示している。
【０１１６】
なお、出力画像は、画像生成装置１００が処理対象画像を生成しない場合には、空間モデルＭＤに投影された画像に画像変換処理（例えば、視点変換処理である。）を施すことによって生成されるものとする。
【０１１７】
また、出力画像は、ショベル６０が旋回動作を行う際の画像を違和感なく表示できるよう、円形にトリミングされ、その円の中心ＣＴＲが空間モデルＭＤの円筒中心軸上で、且つ、ショベル６０の旋回軸ＰＶ上となるように生成されており、ショベル６０の旋回動作に応じてその中心ＣＴＲを軸に回転するように表示される。この場合、空間モデルＭＤの円筒中心軸は、再投影軸と一致するものであってもよく、一致しないものであってもよい。
【０１１８】
なお、空間モデルＭＤの半径は、例えば、５メートルであり、平行線群ＰＬが処理対象画像平面Ｒ３との間で形成する角度、又は、補助線群ＡＬの始点高さは、ショベル６０の旋回中心から掘削アタッチメントＥの最大到達距離（例えば１２メートルである。）だけ離れた位置に物体（例えば、作業員である。）が存在する場合にその物体が表示部５で十分大きく（例えば、７ミリメートル以上である。）表示されるように、設定され得る。
【０１１９】
更に、出力画像は、ショベル６０のＣＧ画像を、ショベル６０の前方が表示部５の画面上方と一致し、且つ、その旋回中心が中心ＣＴＲと一致するように配置するようにしてもよい。ショベル６０と出力画像に現れる物体との間の位置関係をより分かり易くするためである。なお、出力画像は、方位等の各種情報を含む額縁画像をその周囲に配置するようにしてもよい。
【０１２０】
次に、図１１〜図１６を参照しながら、画像生成装置１００が入力画像間の明るさ（輝度）の差を際立たせないようにする処理について説明する。
【０１２１】
図１１は、ショベル６０に搭載された三台のカメラ２（左側方カメラ２Ｌ、右側方カメラ２Ｒ、及び後方カメラ２Ｂ）のそれぞれの入力画像と、それら入力画像を用いて生成される出力画像とを示す図である。
【０１２２】
画像生成装置１００は、それら三台のカメラ２のそれぞれの入力画像を空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２上に投影した上で処理対象画像平面Ｒ３に再投影して処理対象画像を生成し、その生成した処理対象画像に画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）を施すことによって出力画像を生成して、ショベル６０の近傍を上空から見下ろした画像（平面領域Ｒ１における画像）と、ショベル６０から水平方向に周辺を見た画像（処理対象画像平面Ｒ３における画像）とを同時に表示している。
【０１２３】
図１１において、左側方カメラ２Ｌの入力画像及び後方カメラ２Ｂの入力画像はそれぞれ、ショベル６０の周囲における同じ場所を異なる角度から撮像した重複部分を含むが、それら重複部分はそれぞれ、各カメラに関する照明環境等の違いにより異なる明るさで撮像されており、その輝度が異なるものとなっている。右側方カメラ２Ｒの入力画像と後方カメラ２Ｂの入力画像との間の重複部分についても同様である。
【０１２４】
そのため、それら三つの入力画像に基づいて生成される出力画像は、その出力画像平面上の座標が複数の入力画像平面上の座標に対応付け可能な場合に、その出力画像平面上の座標が入射角の最も小さいカメラに関する入力画像平面上の座標に対応付けられるものとすると、同じ場所を撮像しているにもかかわらず、左側方カメラ２Ｌの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界（図の一点鎖線で囲まれる領域Ｒ６参照。）、及び、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界（図の一点鎖線で囲まれる領域Ｒ７参照。）のところでその輝度が急激に変化することとなり、その出力画像を見た運転者に不自然さを感じさせてしまうこととなる。
【０１２５】
そこで、画像生成装置１００は、チェッカーシャドー錯視（同色錯視）による効果を利用して、入力画像間の輝度の差を際立たせないようにする。
【０１２６】
図１２は、同色錯視を説明するための図（Edward H. Adelson、"Checker shadow illusion"、１９９５年、インターネット＜URL: http://web.mit.edu/persci/people/adelson/checkershadow_illusion.html＞）であり、図１２（Ａ）は、同色錯視をもたらすために利用されるチェッカーパタン（格子模様）を示し、図１２（Ｂ）は、チェッカーパタン（格子模様）上の点Ｐ１〜点Ｐ３及び点Ｐ４〜点Ｐ６における輝度の推移を表すグラフを示す。
【０１２７】
図１２（Ａ）で示されるように、点Ｐ２を含む単位パタンの輝度よりも高い輝度を有する二つの単位パタン（点Ｐ１を含む単位パタン及び点Ｐ３を含む単位パタンである。）で挟まれたその点Ｐ２を含む単位パタンの輝度は、点Ｐ５を含む単位パタンの輝度よりも低い輝度を有する二つの単位パタン（点Ｐ４を含む単位パタン及び点Ｐ６を含む単位パタンである。）で挟まれたその点Ｐ５を含む単位パタンの輝度よりも低いように見える。
【０１２８】
しかしながら、この輝度の差は、それぞれの単位パタンが格子模様を形成していること、及び、点Ｐ４〜点Ｐ６を含む単位パタン群が物体ＯＢＪの影に入っていることを認識している観察者の錯視によるものであり、実際には、図１２（Ｂ）で示されるように、点Ｐ２を含む単位パタンの輝度は、点Ｐ５を含む単位パタンの輝度に等しいものとなっている。
【０１２９】
このように、その観察者は、点Ｐ１、点Ｐ３、及び点Ｐ５のそれぞれを含む単位パタンが同じ輝度を有し、点Ｐ２、点Ｐ４、及び点Ｐ６のそれぞれを含む単位パタンが同じ輝度を有するものと錯覚することとなる。
【０１３０】
図１３は、同色錯視をもたらす明暗パタンを生成する方法の一例を説明するための図であり、二つの波源（例えば、右側方カメラ２Ｒ及び後方カメラ２Ｂである。なお、右側方カメラ２Ｒが図の左側に示されているが、これは図の明瞭化のためであり、ここでは、図の右斜め上方が、ショベル６０の後方に対応するものとする。）から山（実線円）及び谷（破線円）を形成しながら拡がって互いに干渉する二つの波を示す。
【０１３１】
また、図１３において、二つの扇形領域２Ｒａ、２Ｂａはそれぞれ、右側方カメラ２Ｒの撮像範囲、及び、後方カメラ２Ｂの撮像範囲を示し、太い実線で表される腹線ＡＮＬは、二つの波が互いに強め合う点を連ねた線を示し、太い破線で表される節線ＮＬは、二つの波が互いに弱め合う点を連ねた線を示す。なお、腹線ＡＮＬ及び節線ＮＬは、図１３で示されるように、交互に現れることとなる。
【０１３２】
また、図１３において、右側方カメラ２Ｒを波源として拡がる波の一つの谷が描く線（破線円）と、その一つの谷の次に発生する一つの山が描く線（実線円）と、後方カメラ２Ｂを波源として拡がる波の一つの谷が描く線（破線円）と、その一つの谷の次に発生する一つの山が描く線（実線円）とで定められる菱形状の領域のそれぞれは、単位パタン領域ＬＴを形成するものとする。
【０１３３】
図１３で示される複数の単位パタン領域ＬＴが出力画像平面上に描かれたものとし、単位パタン領域ＬＴのうちの腹線ＡＮＬが通過する（灰色で塗り潰される）単位パタン領域ＬＴ１に後方カメラ２Ｂの入力画像が対応付けられ、且つ、単位パタン領域ＬＴのうちの節線ＮＬが通過する（白色で塗り潰される）単位パタン領域ＬＴ２に右側方カメラ２Ｒの入力画像が対応付けられるものとすると、平均輝度がそれぞれ異なる二つの入力画像は、同色錯視をもたらす格子模様を形成することができることとなる。
【０１３４】
なお、単位パタン領域ＬＴのうちの腹線ＡＮＬが通過する（灰色で塗り潰される）単位パタン領域ＬＴ１に右側方カメラ２Ｒの入力画像が対応付けられ、且つ、単位パタン領域ＬＴのうちの節線ＮＬが通過する（白色で塗り潰される）単位パタン領域ＬＴ２に後方カメラ２Ｂの入力画像が対応付けられる場合も同様に、平均輝度がそれぞれ異なる二つの入力画像は、同色錯視をもたらす格子模様を形成することができることとなる。
【０１３５】
また、図１３の格子模様は、波長及び位相が等しい二つの波を用いて形成されるが、波長及び位相の一方又は双方が異なる二つの波を用いて形成されてもよい。単位パタン領域ＬＴ１、ＬＴ２のサイズや形状を柔軟に調整できるようにするためである。
【０１３６】
図１４は、図１３で示される格子模様を出力画像平面（平面領域Ｒ１）上に配置した状態を示し、ショベル６０のＣＧ画像の右後方（図の右下方向）にある、右側方カメラ２Ｒの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様と、ショベル６０のＣＧ画像の左後方（図の左下方向）にある、左側方カメラ２Ｌの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様とを示す。
【０１３７】
図１４において、右側方カメラ２Ｒの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様は、例えば、（灰色で塗り潰される）単位パタン領域ＬＴ１に右後方カメラ２Ｒの入力画像が対応付けられ、（白色で塗り潰される）単位パタン領域ＬＴ２に後方カメラ２Ｂの入力画像が対応付けられるものとする。
【０１３８】
また、左側方カメラ２Ｌの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様は、例えば、（灰色で塗り潰される）単位パタン領域ＬＴ３に左後方カメラ２Ｌの入力画像が対応付けられ、（白色で塗り潰される）単位パタン領域ＬＴ４に後方カメラ２Ｂの入力画像が対応付けられるものとする。
【０１３９】
図１５は、画像生成装置１００が、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像平面上の各座標に、それら二つのカメラの何れか一方の入力画像平面上の座標を対応付け、同色錯視をもたらす格子模様を形成する処理（以下、「格子模様形成処理」とする。）の流れを示すフローチャートである。
【０１４０】
画像生成装置１００の制御部１は、例えば、座標対応付け手段１０により、図９の処理対象画像生成処理のステップＳ２において、空間モデルＭＤの平面領域Ｒ１上の一座標と複数の入力画像平面上の座標との対応付けが可能な場合に、空間モデルＭＤの平面領域Ｒ１上の一座標と二つのカメラのそれぞれに対応する二つの入力画像平面のうちの一つにおける一座標とを対応付ける際に、この格子模様形成処理を実行するものとする。
【０１４１】
最初に、制御部１は、二つのカメラ（例えば、右側方カメラ２Ｒ及び後方カメラ２Ｂである。）の撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の一座標を取得する（ステップＳ１１）。
【０１４２】
次に、制御部１は、二つのカメラのそれぞれにおける光学中心の座標を取得する（ステップＳ１２）。
【０１４３】
次に、制御部１は、ステップＳ１１で取得した空間モデルＭＤにおける平面領域Ｒ１上の一座標に対応付けるカメラを選択する（ステップＳ１３）。
【０１４４】
具体的には、制御部１は、右側方カメラ２Ｒの光学中心の座標を（Ｘcam1、Ｙcam1）とし、後方カメラ２Ｂの光学中心の座標を（Ｘcam2、Ｙcam2）とし、対応付けの対象である空間モデルＭＤの平面領域Ｒ１上の一座標を（Ｘtarget、Ｙtarget）とすると、
【０１４５】
【数１２】
で表される条件式が真である場合、その平面領域Ｒ１上の一座標に対応付けるカメラとして右側方カメラ２Ｒを選択し、上述の条件式が偽である場合、その平面領域Ｒ１上の一座標に対応付けるカメラとして後方カメラ２Ｒを選択する。
【０１４６】
なお、制御部１は、上述の条件式が真である場合に、その平面領域Ｒ１上の一座標に対応付けるカメラとして後方カメラ２Ｂを選択し、上述の条件式が偽である場合に、その平面領域Ｒ１上の一座標に対応付けるカメラとして右側方カメラ２Ｒを選択するようにしてもよい。
【０１４７】
なお、上述の条件式は、平面領域Ｒ１上の座標（Ｘtarget、Ｙtarget）が、図１４で示される単位パタン領域ＬＴ１に含まれるか、或いは、単位パタン領域ＬＴ２に含まれるかの判定式に相当する。
【０１４８】
また、本実施例において、制御部１は、光学中心の座標が二次元座標であり、波源から発生する波が平面波であるという前提で、平面領域Ｒ１上の一座標（二次元座標）と二つのカメラのそれぞれの光学中心の座標（平面領域Ｒ１を含む平面上に投影された二次元座標）との間の二次元距離に基づいてカメラを選択するが、光学中心の座標を（高さ情報を含む）三次元座標とし、波源から発生する波を球面波としながら、平面領域Ｒ１上の一座標（三次元座標）と二つのカメラのそれぞれの光学中心の座標（三次元座標）との間の三次元距離に基づいてカメラを選択するようにしてもよい。
【０１４９】
また、本実施例において、制御部１は、二つのカメラ（例えば、右側方カメラ２Ｒ及び後方カメラ２Ｂである。）の撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の一座標に対応付けるカメラを選択しているが、二つのカメラの撮像範囲が重複する領域に対応する、処理対象画像平面Ｒ３上の一座標に対応付けるカメラを選択するようにしてもよい。
【０１５０】
この場合、制御部１は、処理対象画像平面Ｒ３上の一座標（二次元座標）と二つのカメラのそれぞれの光学中心の座標（処理対象画像平面Ｒ３を含む平面上に投影された二次元座標）との間の二次元距離に基づいてカメラを選択するようにしてもよく、処理対象画像平面Ｒ３上の一座標（三次元座標）と二つのカメラのそれぞれの光学中心の座標（三次元座標）との間の三次元距離に基づいてカメラを選択するようにしてもよい。なお、処理対象画像平面Ｒ３は、平面領域Ｒ１を含むものであってもよい。
【０１５１】
その後、制御部１は、座標対応付け手段１０により、選択したカメラの入力画像平面上の一座標と、空間モデルＭＤの平面領域Ｒ１上の一座標とを対応付け（ステップＳ１４）、空間モデルＭＤ上の座標、カメラ識別子、及び入力画像平面上の座標を関連付けて入力画像・空間モデル対応マップ４０に記憶する。
【０１５２】
その後、制御部１は、二つのカメラの撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の全ての座標を、二つのカメラのうちの一つの入力画像平面上の座標に対応付けたか否かを判定し（ステップＳ１５）、未だ全ての座標を対応付けていないと判定した場合には（ステップＳ１５のＮＯ）、ステップＳ１１〜ステップＳ１４の処理を繰り返すようにする。
【０１５３】
一方、制御部１は、全ての座標を対応付けたと判定した場合には（ステップＳ１５のＹＥＳ）、この格子模様形成処理を終了させる。
【０１５４】
なお、上述において、制御部１は、二つのカメラの撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の各座標、又は、処理対象画像平面Ｒ３上の各座標を、二つのカメラのうちの一つの入力画像平面上の座標に対応付けるようにするが、更に、二つのカメラの撮像範囲が重複する領域に対応する、空間モデルＭＤの曲面領域Ｒ２上の各座標を、二つのカメラのうちの一つの入力画像平面上の座標に対応付けるようにしてもよい。
【０１５５】
このように、制御部１は、上述のような条件式を用いて空間モデルＭＤ上の各座標を二つのカメラのうちの一つの入力画像平面上の座標に容易に対応付けることができ、適切な格子模様を生成することができる。
【０１５６】
図１６は、図１１で示される出力画像と、図１１の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図であり、図１６（Ａ）が図１１で示される出力画像を示し、図１６（Ｂ）が同色錯視をもたらす格子模様が適用された出力画像を示す。
【０１５７】
左側方カメラ２Ｌの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界を含む図１６（Ａ）の一点鎖線で囲まれた領域Ｒ６は、顕著な輝度の違いを提示しているが、左側方カメラ２Ｌの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域とが格子模様となって混在する図１６（Ｂ）の一点鎖線で囲まれた領域Ｒ８は、その輝度の違いが目立たなくなっており、その領域Ｒ８を含む出力画像を見た運転者に不自然さを感じさせ難くしている。
【０１５８】
同様に、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界を含む図１６（Ａ）の一点鎖線で囲まれた領域Ｒ７は、顕著な輝度の違いを提示しているが、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域とが格子模様となって混在する図１６（Ｂ）の一点鎖線で囲まれた領域Ｒ９は、その輝度の違いが目立たなくなっており、その領域Ｒ９を含む出力画像を見た運転者に不自然さを感じさせ難くしている。
【０１５９】
次に、図１７〜図１９を参照しながら、画像生成装置１００が、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像部分を生成する際にその出力画像部分にある物体が消失するのを防止する処理について説明する。
【０１６０】
図１７は、ショベル６０に搭載された三台のカメラ２（左側方カメラ２Ｌ、右側方カメラ２Ｒ、及び後方カメラ２Ｂ）のそれぞれの入力画像と、それら入力画像を用いて生成される出力画像とを示す図である。
【０１６１】
画像生成装置１００は、それら三台のカメラ２のそれぞれの入力画像平面上の座標を空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２上の座標に投影した上で処理対象画像平面Ｒ３に再投影して処理対象画像を生成し、その生成した処理対象画像に画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）を施すことによって出力画像を生成して、ショベル６０の近傍を上空から見下ろした画像（平面領域Ｒ１における画像）と、ショベル６０から水平方向に周辺を見た画像（処理対象画像平面Ｒ３における画像）とを表示している。
【０１６２】
図１７において、右側方カメラ２Ｒの入力画像、及び、後方カメラ２Ｂの入力画像はそれぞれ、右側方カメラ２Ｒの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域内に人物（右側方カメラ２Ｒの入力画像における二点鎖線で囲まれる領域Ｒ１０、及び、後方カメラ２Ｂの入力画像における二点鎖線で囲まれる領域Ｒ１１参照。）を捉えている。
【０１６３】
しかしながら、それら右側方カメラ２Ｒの入力画像、及び、後方カメラ２Ｂの入力画像に基づいて生成される出力画像は、その出力画像平面上の座標が入射角の最も小さいカメラに関する入力画像平面上の座標に対応付けられるものとすると、図１７で示されるように、その重複領域内の人物を消失させてしまうこととなる（出力画像内の一点鎖線で囲まれる領域Ｒ１２参照。）。
【０１６４】
そこで、画像生成装置１００は、同色錯視をもたらすために形成される格子模様を利用して、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像部分を生成する際にその出力画像部分にある物体が消失するのを防止するものとする。
【０１６５】
図１８は、二つのカメラのそれぞれの撮像範囲の重複領域における物体の消失防止効果を説明するための図であり、図１８（Ａ）は、図１３で示される同色錯視をもたらすための格子模様を形成するための波の図を示し、図１８（Ｂ）は、図１８（Ａ）の一部拡大図を示す。
【０１６６】
図１８（Ａ）において、破線で囲まれる投影像ＰＲＪ１は、後方カメラ２Ｂの入力画像における物体ＯＢＪ１の像が、路面画像を生成するための視点変換によって、その後方カメラ２Ｂとその物体ＯＢＪ１とを結ぶ線の延長方向に伸長されたもの（後方カメラ２Ｂの入力画像を用いてその出力画像部分における路面画像を生成した場合に表示される像である。）を表す。
【０１６７】
また、破線で囲まれる投影像ＰＲＪ２は、右後方カメラ２Ｒの入力画像における物体ＯＢＪ１の像が、路面画像を生成するための視点変換によって、その右側方カメラ２Ｒとその物体ＯＢＪ１とを結ぶ線の延長方向に伸長されたもの（右側方カメラ２Ｒの入力画像を用いてその出力画像部分における路面画像を生成した場合に表示される像である。）を表す。
【０１６８】
なお、投影像ＰＲＪ１及び投影像ＰＲＪ２は、最終的な出力画像上にそのままの状態で表示されることはなく、図１８（Ｂ）で示されるように、一部が切り欠かれた状態で表示されることとなる。
【０１６９】
また、図１８（Ａ）において、投影像ＰＲＪ１を表す破線領域のうち、灰色で塗り潰された部分は、腹線ＡＮＬが通過する単位パタン領域ＬＴ１（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられることを示す。
【０１７０】
一方、投影像ＰＲＪ１を表す破線領域のうち、白色で塗り潰された部分は、節線ＮＬが通過する単位パタン領域ＬＴ２（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられることを示す。
【０１７１】
なお、投影像ＰＲＪ１を表す破線領域のうち、灰色で塗り潰された部分に対応する出力画像上の各座標に、右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられ、投影像ＰＲＪ１を表す破線領域のうち、白色で塗り潰された部分に対応する出力画像上の各座標に、後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられるようにしてもよい。
【０１７２】
この場合、投影像ＰＲＪ１は、図１８（Ｂ）で示されるように、その伸長方向に直交する円（後方カメラ２Ｂの位置を波源とする波の山及び谷が描く円である。）の一部をその境界線として含む単位パタン領域ＬＴ２によって切り欠かれることとなるが、隣接する単位パタン領域ＬＴ１が互いに頂点を接触させているので繊切り状に分断され難く、単位パタン領域ＬＴ２のそれぞれがその伸長方向に直交する円の一部を含むため、その輪郭も認識され易いはっきりした状態で保存されることとなる。
【０１７３】
また、投影像ＰＲＪ１は、物体ＯＢＪ１の高さが高い程、カメラから遠ざかる方向により長く伸長され、且つ、カメラから遠ざかる程、より大きく拡大される傾向を有するが、単位パタン領域ＬＴ１及びＬＴ２は何れもカメラから遠ざかる程、その投影像ＰＲＪ１と同じ度合いで、より大きく拡大していくので、その切り欠き状態もほぼ均一に維持されることとなる。
【０１７４】
また、図１８（Ａ）において、投影像ＰＲＪ２を表す破線領域のうち、黒色で塗り潰された部分は、節線ＮＬが通過する単位パタン領域ＬＴ２（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられることを示す。
【０１７５】
一方、投影像ＰＲＪ２を表す破線領域のうち、白色で塗り潰された部分は、腹線ＡＮＬが通過する単位パタン領域ＬＴ１（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられることを示す。
【０１７６】
なお、投影像ＰＲＪ２を表す破線領域のうち、黒色で塗り潰された部分に対応する出力画像上の各座標に後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられ、投影像ＰＲＪ２を表す破線領域のうち、白色で塗り潰された部分に対応する出力画像上の各座標に右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられるようにしてもよい。
【０１７７】
この場合、投影像ＰＲＪ２は、投影像ＰＲＪ１と同様に、図１８（Ｂ）で示されるように、その伸長方向に直交する円（右側方カメラ２Ｒの位置を波源とする波の山及び谷が描く円である。）の一部をその境界線として含む単位パタン領域ＬＴ１によって切り欠かれることとなるが、隣接する単位パタン領域ＬＴ２が互いに頂点を接触させているので繊切り状に分断され難く、単位パタン領域ＬＴ１のそれぞれがその伸長方向に直交する円の一部を含むため、その輪郭も認識され易いはっきりした状態で保存されることとなる。
【０１７８】
また、投影像ＰＲＪ２は、投影像ＰＲＪ１と同様に、物体ＯＢＪ１の高さが高い程、カメラから遠ざかる方向により長く伸長され、且つ、カメラから遠ざかる程、より大きく拡大される傾向を有するが、単位パタン領域ＬＴ１及びＬＴ２は何れもカメラから遠ざかる程、その投影像ＰＲＪ２と同じ度合いで、より大きく拡大していくので、その切り欠き状態もほぼ均一に維持されることとなる。
【０１７９】
図１９は、図１７で示される出力画像と、図１７の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図であり、図１９（Ａ）が図１７で示される出力画像を示し、図１９（Ｂ）が同色錯視をもたらす格子模様が適用された出力画像を示す。
【０１８０】
右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界を含む図１９（Ａ）の一点鎖線で囲まれた領域Ｒ１３は、人物が消失した状態を提示しているが、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域とが格子模様となって混在する図１９（Ｂ）の一点鎖線で囲まれた領域Ｒ１４は、人物を消失させることなく、その人物を認識し易い状態で提示し、その領域Ｒ１４を含む出力画像を見た運転者にその人物の存在を確実に認識させることができるようにしている。
【０１８１】
以上の構成により、画像生成装置１００は、同色錯視をもたらすための格子模様を利用することにより、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像部分を生成する際にその出力画像部分にある物体が消失するのを防止することができ、二つの入力画像のそれぞれの部分領域が櫛歯状に交互に配置されるように二つの入力画像を繋ぎ合わせる場合に比べ、その一部が切り欠かれることとなるその物体の投影像を、運転者がより認識し易い状態で表示することができる。
【０１８２】
以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなしに上述した実施例に種々の変形及び置換を加えることができる。
【０１８３】
例えば、上述の実施例において、画像生成装置１００は、空間モデルとして円筒状の空間モデルＭＤを採用するが、多角柱等の他の柱状の形状を有する空間モデルを採用してもよく、底面及び側面の二面から構成される空間モデルを採用してもよく、或いは、側面のみを有する空間モデルを採用してもよい。
【０１８４】
また、画像生成装置１００は、バケット、アーム、ブーム、旋回機構等の可動部材を備えながら自走する建設機械にカメラと共に搭載され、周囲画像をその運転者に提示しながらその建設機械の移動及びそれら可動部材の操作を支援する操作支援システムに組み込まれているが、産業用機械若しくは固定式クレーン等のように可動部材を有するが自走はしない他の被操作体にカメラと共に搭載され、それら他の被操作体の操作を支援する操作支援システムに組み入れられてもよい。
【符号の説明】
【０１８５】
１・・・制御部 ２・・・カメラ ２Ｌ・・・左側方カメラ ２Ｒ・・右側方カメラ ２Ｂ・・後方カメラ ３・・・入力部 ４・・・記憶部 ５・・・表示部 １０・・・座標対応付け手段 １１・・・出力画像生成手段 ４０・・・入力画像・空間モデル対応マップ ４１・・・空間モデル・処理対象画像対応マップ ４２・・・処理対象画像・出力画像対応マップ ６０・・・ショベル ６１・・・下部走行体 ６２・・・旋回機構 ６３・・・上部旋回体 ６４・・・キャブ
【技術分野】
【０００１】
本発明は、被操作体に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置及びその装置を用いた操作支援システムに関する。
【背景技術】
【０００２】
従来、車両周辺を撮像する複数の車載カメラによって撮像された画像のそれぞれを鳥瞰図画像に変換し、それら鳥瞰図画像を繋ぎ合わせた出力画像を運転者に提示する運転支援システムが知られている（例えば、特許文献１参照。）。
【０００３】
この運転支援システムは、二つのカメラの撮像範囲の重複領域に対応する重複領域画像を生成する際に、その重複領域画像を二つに分ける一本の複雑な形状の境界線である櫛歯状の境界線を設定し、二つのカメラのそれぞれが撮像した二つの鳥瞰図画像のそれぞれの部分領域が櫛歯状に交互に配置されるように二つの鳥瞰図画像を繋ぎ合わせるようにする。
【０００４】
通常、その重複領域に存在する高さのある物体は、二つのカメラのそれぞれとその物体とを結ぶ線の延長方向に二方向に伸長して投影されるため、その重複領域を一本の直線で二つの領域に二分し、一方の領域を一方のカメラによる鳥瞰図画像に対応させ、他方の領域を他方のカメラによる鳥瞰図画像に対応させることによってその重複領域画像を生成すると、その重複領域画像から消失してしまうこととなる。
【０００５】
その点、この運転支援システムは、上述の繋ぎ合わせにより、高さのある物体が重複領域画像から消失してしまうのを防止することができ、その物体を運転者が認識し易いものにすることができるとしている。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開２００７−１０９１６６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、特許文献１に記載の運転支援システムは、一本の複雑な形状の境界線である櫛歯状の境界線を用いて二つの鳥瞰図画像のそれぞれの部分領域が櫛歯状に交互に配置されるように二つの鳥瞰図画像を繋ぎ合わせて出力画像を生成するので、それら二つの鳥瞰図画像の明るさに大きな差がある場合に櫛歯状の際立った明暗パタンを創出してしまい、その出力画像を見た運転者に不自然さを感じさせてしまうこととなる。
【０００８】
上述の点に鑑み、本発明は、複数のカメラが撮像した複数の入力画像に基づいて生成される出力画像における、複数のカメラの撮像範囲が重複する領域での物体の消失を防止しながらも、入力画像間の明るさの差が際立たないようにする画像生成装置及びその装置を用いた操作支援システムを提供することを目的とする。
【課題を解決するための手段】
【０００９】
上述の目的を達成するために、本発明の実施例に係る画像生成装置は、被操作体に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置であって、前記複数のカメラのうちの二つのそれぞれの撮像範囲が重複する領域に対応する前記複数のカメラのうちの二つのそれぞれの入力画像部分は、前記出力画像において、格子模様を形成するように配置されることを特徴とする。
また、本発明の実施例に係る操作支援システムは、被操作体の移動又は操作を支援する操作支援システムであって、請求項１又は２に記載の画像生成装置と、前記被操作体を移動させ或いは操作するための操作室に設置され、該画像生成装置が生成する出力画像を表示する表示部と、を備えることを特徴とする。
【発明の効果】
【００１０】
上述の手段により、本発明は、複数のカメラが撮像した複数の入力画像に基づいて生成される出力画像における、複数のカメラの撮像範囲が重複する領域での物体の消失を防止しながらも、入力画像間の明るさの差が際立たないようにする画像生成装置及びその装置を用いた操作支援システムを提供することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明に係る画像生成装置の構成例を概略的に示すブロック図である。
【図２】画像生成装置が搭載されるショベルの構成例を示す図である。
【図３】入力画像が投影される空間モデルの一例を示す図である。
【図４】空間モデルと処理対象画像平面との間の関係の一例を示す図である。
【図５】入力画像平面上の座標と空間モデル上の座標との対応付けを説明するための図である。
【図６】座標対応付け手段による座標間の対応付けを説明するための図である。
【図７】平行線群の作用を説明するための図である。
【図８】補助線群の作用を説明するための図である。
【図９】処理対象画像生成処理及び出力画像生成処理の流れを示すフローチャートである。
【図１０】出力画像の表示例（その１）である。
【図１１】出力画像の表示例（その２）である。
【図１２】同色錯視を説明するための図である。
【図１３】同色錯視をもたらす明暗パタンを生成する方法の一例を説明するための図である。
【図１４】図１３の格子模様を出力画像平面上に配置した状態を示す図である。
【図１５】格子模様形成処理の流れを示すフローチャートである。
【図１６】図１１で示される出力画像と、図１１の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図である。
【図１７】出力画像の表示例（その３）である。
【図１８】二つのカメラのそれぞれの撮像範囲の重複領域における物体の消失防止効果を説明するための図である。
【図１９】図１７で示される出力画像と、図１７の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図である。
【発明を実施するための形態】
【００１２】
以下、図面を参照しつつ、本発明を実施するための最良の形態の説明を行う。
【００１３】
図１は、本発明に係る画像生成装置の構成例１００を概略的に示すブロック図である。
【００１４】
画像生成装置１００は、例えば、建設機械に搭載されたカメラ２が撮像した入力画像に基づいて出力画像を生成しその出力画像を運転者に提示する装置であって、制御部１、カメラ２、入力部３、記憶部４、及び表示部５で構成される。
【００１５】
図２は、画像生成装置１００が搭載されるショベル６０の構成例を示す図であり、ショベル６０は、クローラ式の下部走行体６１の上に、旋回機構６２を介して、上部旋回体６３を旋回軸ＰＶの周りで旋回自在に搭載している。
【００１６】
また、上部旋回体６３は、その前方左側部にキャブ（運転室）６４を備え、その前方中央部に掘削アタッチメントＥを備え、その右側面及び後面にカメラ２（右側方カメラ２Ｒ、後方カメラ２Ｂ）を備えている。なお、キャブ６４内の運転者が視認し易い位置には表示部５が設置されているものとする。
【００１７】
次に、画像生成装置１００の各構成要素について説明する。
【００１８】
制御部１は、ＣＰＵ（Central Processing Unit）、ＲＡＭ(Random Access Memory)、ＲＯＭ（Read Only Memory）、ＮＶＲＡＭ（Non-Volatile Random Access Memory）等を備えたコンピュータであって、例えば、後述する座標対応付け手段１０及び出力画像生成手段１１のそれぞれに対応するプログラムをＲＯＭやＮＶＲＡＭに記憶し、一時記憶領域としてＲＡＭを利用しながら各手段に対応する処理をＣＰＵに実行させる。
【００１９】
カメラ２は、ショベル６０の周辺を映し出す入力画像を取得するための装置であり、例えば、キャブ６４にいる運転者の死角となる領域を撮像できるよう上部旋回体６３の右側面及び後面に取り付けられる（図２参照。）、ＣＣＤ(Charge Coupled Device)やＣＭＯＳ(Complementary Metal Oxide Semiconductor)等の撮像素子を備えた右側方カメラ２Ｒ及び後方カメラ２Ｂである。なお、カメラ２は、上部旋回体６３の右側面及び後面以外の位置（例えば、前面及び左側面である。）に取り付けられていてもよく、広い範囲を撮像できるよう広角レンズ又は魚眼レンズが装着されていてもよい。
【００２０】
また、カメラ２は、制御部１からの制御信号に応じて入力画像を取得し、取得した入力画像を制御部１に対して出力する。なお、カメラ２は、魚眼レンズ又は広角レンズを用いて入力画像を取得した場合には、それらレンズを用いることによって生じる見掛け上の歪曲やアオリを補正した補正済みの入力画像を制御部１に対して出力するが、その見掛け上の歪曲やアオリを補正していない入力画像をそのまま制御部１に対して出力してもよい。その場合には、制御部１がその見掛け上の歪曲やアオリを補正することとなる。
【００２１】
入力部３は、操作者が画像生成装置１００に対して各種情報を入力できるようにするための装置であり、例えば、タッチパネル、ボタンスイッチ、ポインティングデバイス、キーボード等である。
【００２２】
記憶部４は、各種情報を記憶するための装置であり、例えば、ハードディスク、光学ディスク、又は半導体メモリ等である。
【００２３】
表示部５は、画像情報を表示するための装置であり、例えば、建設機械のキャブ６４（図２参照。）内に設置された液晶ディスプレイ又はプロジェクタ等であって、制御部１が出力する各種画像を表示する。
【００２４】
また、画像生成装置１００は、入力画像に基づいて処理対象画像を生成し、その処理対象画像に画像変換処理を施すことによって周辺障害物との位置関係や距離感を直感的に把握できるようにする出力画像を生成した上で、その出力画像を運転者に提示するようにしてもよい。
【００２５】
「処理対象画像」は、入力画像に基づいて生成される、画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）の対象となる画像であり、例えば、地表を上方から撮像するカメラによる入力画像であってその広い画角により水平方向の画像（例えば、空の部分である。）を含む入力画像を画像変換処理で用いる場合に、その水平方向の画像が不自然に表示されないよう（例えば、空の部分が地表にあるものとして扱われないよう）その入力画像を所定の空間モデルに投影した上で、その空間モデルに投影された投影画像を別の二次元平面に再投影することによって得られる、画像変換処理に適した画像である。なお、処理対象画像は、画像変換処理を施すことなくそのまま出力画像として用いられてもよい。
【００２６】
「空間モデル」は、少なくとも、処理対象画像が位置する平面である処理対象画像平面以外の平面又は曲面（例えば、処理対象画像平面に平行な平面、又は、処理対象画像平面との間で角度を形成する平面若しくは曲面である。）を含む、一又は複数の平面若しくは曲面で構成される、入力画像の投影対象である。
【００２７】
なお、画像生成装置１００は、処理対象画像を生成することなく、その空間モデルに投影された投影画像に画像変換処理を施すことによって出力画像を生成するようにしてもよい。また、投影画像は、画像変換処理を施すことなくそのまま出力画像として用いられてもよい。
【００２８】
図３は、入力画像が投影される空間モデルＭＤの一例を示す図であり、図３（Ａ）は、ショベル６０を側方から見たときのショベル６０と空間モデルＭＤとの間の関係を示し、図３（Ｂ）は、ショベル６０を上方から見たときのショベル６０と空間モデルＭＤとの間の関係を示す。
【００２９】
図３で示されるように、空間モデルＭＤは、半円筒形状を有し、その底面内部の平面領域Ｒ１とその側面内部の曲面領域Ｒ２とを有する。
【００３０】
また、図４は、空間モデルＭＤと処理対象画像平面との間の関係の一例を示す図であり、処理対象画像平面Ｒ３は、例えば、空間モデルＭＤの平面領域Ｒ１を含む平面である。なお、図４は、明確化のために、空間モデルＭＤを、図３で示すような半円筒形状ではなく、円筒形状で示しているが、空間モデルＭＤは、半円筒形状及び円筒形状の何れであってもよいものとする。以降の図においても同様である。また、処理対象画像平面Ｒ３は、上述のように、空間モデルＭＤの平面領域Ｒ１を含む円形領域であってもよく、空間モデルＭＤの平面領域Ｒ１を含まない環状領域であってもよい。
【００３１】
次に、制御部１が有する各種手段について説明する。
【００３２】
座標対応付け手段１０は、カメラ２が撮像した入力画像が位置する入力画像平面上の座標と、空間モデルＭＤ上の座標と、処理対象画像平面Ｒ３上の座標とを対応付けるための手段であり、例えば、予め設定された、或いは、入力部３を介して入力される、カメラ２の光学中心、焦点距離、ＣＣＤサイズ、光軸方向ベクトル、カメラ水平方向ベクトル、射影方式等のカメラ２に関する各種パラメータと、予め決定された、入力画像平面、空間モデルＭＤ、及び処理対象画像平面Ｒ３の相互の位置関係とに基づいて、入力画像平面上の座標と、空間モデルＭＤ上の座標と、処理対象画像平面Ｒ３上の座標とを対応付け、それらの対応関係を記憶部４の入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１に記憶する。
【００３３】
なお、座標対応付け手段１０は、処理対象画像を生成しない場合には、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標との対応付け、及び、その対応関係の空間モデル・処理対象画像対応マップ４１への記憶を省略する。
【００３４】
出力画像生成手段１１は、出力画像を生成するための手段であり、例えば、処理対象画像にスケール変換、アフィン変換、又は歪曲変換を施すことによって、処理対象画像平面Ｒ３上の座標と出力画像が位置する出力画像平面上の座標とを対応付け、その対応関係を記憶部４の処理対象画像・出力画像対応マップ４２に記憶し、座標対応付け手段１０がその値を記憶した入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１を参照しながら、出力画像における各画素の値（例えば、輝度値、色相値、彩度値等である。）と入力画像における各画素の値とを関連付けて出力画像を生成する。
【００３５】
また、出力画像生成手段１１は、予め設定された、或いは、入力部３を介して入力される、仮想カメラの光学中心、焦点距離、ＣＣＤサイズ、光軸方向ベクトル、カメラ水平方向ベクトル、射影方式等の各種パラメータに基づいて、処理対象画像平面Ｒ３上の座標と出力画像が位置する出力画像平面上の座標とを対応付け、その対応関係を記憶部４の処理対象画像・出力画像対応マップ４２に記憶し、座標対応付け手段１０がその値を記憶した入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１を参照しながら、出力画像における各画素の値（例えば、輝度値、色相値、彩度値等である。）と入力画像における各画素の値とを関連付けて出力画像を生成する。
【００３６】
なお、出力画像生成手段１１は、仮想カメラの概念を用いることなく、処理対象画像のスケールを変更して出力画像を生成するようにしてもよい。
【００３７】
また、出力画像生成手段１１は、処理対象画像を生成しない場合には、施した画像変換処理に応じて空間モデルＭＤ上の座標と出力画像平面上の座標とを対応付け、入力画像・空間モデル対応マップ４０を参照しながら、出力画像における各画素の値（例えば、輝度値、色相値、彩度値等である。）と入力画像における各画素の値とを関連付けて出力画像を生成する。この場合、出力画像生成手段１１は、処理対象画像平面Ｒ３上の座標と出力画像平面上の座標との対応付け、及び、その対応関係の処理対象画像・出力画像対応マップ４２への記憶を省略する。
【００３８】
次に、座標対応付け手段１０及び出力画像生成手段１１による具体的な処理の一例について説明する。
【００３９】
座標対応付け手段１０は、例えば、ハミルトンの四元数を用いて、入力画像平面上の座標と空間モデル上の座標とを対応付けることができる。
【００４０】
図５は、入力画像平面上の座標と空間モデル上の座標との対応付けを説明するための図であり、カメラ２の入力画像平面は、カメラ２の光学中心Ｃを原点とするＵＶＷ直交座標系における一平面として表され、空間モデルは、ＸＹＺ直交座標系における立体面として表されるものとする。
【００４１】
最初に、座標対応付け手段１０は、空間モデル上の座標（ＸＹＺ座標系上の座標）を入力画像平面上の座標（ＵＶＷ座標系上の座標）に変換するため、ＸＹＺ座標系の原点を光学中心Ｃ（ＵＶＷ座標系の原点）に並行移動させた上で、Ｘ軸をＵ軸に、Ｙ軸をＶ軸に、Ｚ軸を−Ｗ軸（符号「−」は方向が逆であることを意味する。これは、ＵＶＷ座標系がカメラ前方を＋Ｗ方向とし、ＸＹＺ座標系が鉛直下方を−Ｚ方向としていることに起因する。）にそれぞれ一致させるようＸＹＺ座標系を回転させる。
【００４２】
なお、カメラ２が複数存在する場合、カメラ２のそれぞれが個別のＵＶＷ座標系を有することとなるので、座標対応付け手段１０は、複数のＵＶＷ座標系のそれぞれに対して、ＸＹＺ座標系を並行移動させ且つ回転させることとなる。
【００４３】
上述の変換は、カメラ２の光学中心ＣがＸＹＺ座標系の原点となるようにＸＹＺ座標系を並行移動させた後に、Ｚ軸が−Ｗ軸に一致するよう回転させ、更に、Ｘ軸がＵ軸に一致するよう回転させることによって実現されるので、座標対応付け手段１０は、この変換をハミルトンの四元数で記述することにより、それら二回の回転を一回の回転演算に纏めることができる。
【００４４】
ところで、あるベクトルＡを別のベクトルＢに一致させるための回転は、ベクトルＡとベクトルＢとが張る面の法線を軸としてベクトルＡとベクトルＢとが形成する角度だけ回転させる処理に相当し、その角度をθとすると、ベクトルＡとベクトルＢとの内積から、角度θは、
【００４５】
【数１】
で表されることとなる。
【００４６】
また、ベクトルＡとベクトルＢとが張る面の法線の単位ベクトルＮは、ベクトルＡとベクトルＢとの外積から
【００４７】
【数２】
で表されることとなる。
【００４８】
なお、四元数は、ｉ、ｊ、ｋをそれぞれ虚数単位とした場合、
【００４９】
【数３】
を満たす超複素数であり、本実施例において、四元数Ｑは、実成分をｔ、純虚成分をａ、ｂ、ｃとして、
【００５０】
【数４】
で表されるものとし、四元数Ｑの共役四元数は、
【００５１】
【数５】
で表されるものとする。
【００５２】
四元数Ｑは、実成分ｔを０（ゼロ）としながら、純虚成分ａ、ｂ、ｃで三次元ベクトル（ａ，ｂ，ｃ）を表現することができ、また、ｔ、ａ、ｂ、ｃの各成分により任意のベクトルを軸とした回転動作を表現することもできる。
【００５３】
更に、四元数Ｑは、連続する複数回の回転動作を統合して一回の回転動作として表現することができ、例えば、任意の点Ｓ（ｓｘ，ｓｙ，ｓｚ）を、任意の単位ベクトルＣ（ｌ，ｍ，ｎ）を軸としながら角度θだけ回転させたときの点Ｄ（ｅｘ，ｅｙ，ｅｚ）を以下のように表現することができる。
【００５４】
【数６】
ここで、本実施例において、Ｚ軸を−Ｗ軸に一致させる回転を表す四元数をＱｚとすると、ＸＹＺ座標系におけるＸ軸上の点Ｘは、点Ｘ'に移動させられるので、点Ｘ'は、
【００５５】
【数７】
で表されることとなる。
【００５６】
また、本実施例において、Ｘ軸上にある点Ｘ'と原点とを結ぶ線をＵ軸に一致させる回転を表す四元数をＱｘとすると、「Ｚ軸を−Ｗ軸に一致させ、更に、Ｘ軸をＵ軸に一致させる回転」を表す四元数Ｒは、
【００５７】
【数８】
で表されることとなる。
【００５８】
以上により、空間モデル（ＸＹＺ座標系）上の任意の座標Ｐを入力画像平面（ＵＶＷ座標系）上の座標で表現したときの座標Ｐ'は、
【００５９】
【数９】
で表されることとなり、四元数Ｒがカメラ２のそれぞれで不変であることから、座標対応付け手段１０は、以後、この演算を実行するだけで空間モデル（ＸＹＺ座標系）上の座標を入力画像平面（ＵＶＷ座標系）上の座標に変換することができる。
【００６０】
空間モデル（ＸＹＺ座標系）上の座標を入力画像平面（ＵＶＷ座標系）上の座標に変換した後、座標対応付け手段１０は、カメラ２の光学中心Ｃ（ＵＶＷ座標系上の座標）と空間モデル上の任意の座標ＰをＵＶＷ座標系で表した座標Ｐ'とを結ぶ線分ＣＰ'と、カメラ２の光軸Ｇとが形成する入射角αを算出する。
【００６１】
また、座標対応付け手段１０は、カメラ２の入力画像平面Ｒ４（例えば、ＣＣＤ面）に平行で且つ座標Ｐ'を含む平面Ｈにおける、平面Ｈと光軸Ｇとの交点Ｅと座標Ｐ'とを結ぶ線分ＥＰ'と、平面ＨにおけるＵ'軸とが形成する偏角φ、及び線分ＥＰ'の長さを算出する。
【００６２】
カメラの光学系は、通常、像高さｈが入射角α及び焦点距離ｆの関数となっているので、座標対応付け手段１０は、通常射影（ｈ＝ｆｔａｎα）、正射影（ｈ＝ｆｓｉｎα）、立体射影（ｈ＝２ｆｔａｎ（α／２））、等立体角射影（ｈ＝２ｆｓｉｎ（α／２））、等距離射影（ｈ＝ｆα）等の適切な射影方式を選択して像高さｈを算出する。
【００６３】
その後、座標対応付け手段１０は、算出した像高さｈを偏角φによりＵＶ座標系上のＵ成分及びＶ成分に分解し、入力画像平面Ｒ４の一画素当たりの画素サイズに相当する数値で除算することにより、空間モデルＭＤ上の座標Ｐ（Ｐ'）と入力画像平面Ｒ４上の座標とを対応付けることができる。
【００６４】
なお、入力画像平面Ｒ４のＵ軸方向における一画素当たりの画素サイズをａＵとし、入力画像平面Ｒ４のＶ軸方向における一画素当たりの画素サイズをａＶとすると、空間モデルＭＤ上の座標Ｐ（Ｐ'）に対応する入力画像平面Ｒ４上の座標（ｕ，ｖ）は、
【００６５】
【数１０】
【００６６】
【数１１】
で表されることとなる。
【００６７】
このようにして、座標対応付け手段１０は、空間モデルＭＤ上の座標と、カメラ毎に存在する一又は複数の入力画像平面Ｒ４上の座標とを対応付け、空間モデルＭＤ上の座標、カメラ識別子、及び入力画像平面Ｒ４上の座標を関連付けて入力画像・空間モデル対応マップ４０に記憶する。
【００６８】
また、座標対応付け手段１０は、四元数を用いて座標の変換を演算するので、オイラー角を用いて座標の変換を演算する場合と異なり、ジンバルロックを発生させることがないという利点を有する。しかしながら、座標対応付け手段１０は、四元数を用いて座標の変換を演算するものに限定されることはなく、オイラー角を用いて座標の変換を演算するようにしてもよい。
【００６９】
なお、複数の入力画像平面Ｒ４上の座標への対応付けが可能な場合、座標対応付け手段１０は、空間モデルＭＤ上の座標Ｐ（Ｐ'）を、その入射角αが最も小さいカメラに関する入力画像平面Ｒ４上の座標に対応付けるようにしてもよく、操作者が選択した入力画像平面Ｒ４上の座標に対応付けるようにしてもよい。
【００７０】
次に、空間モデルＭＤ上の座標のうち、曲面領域Ｒ２上の座標（Ｚ軸方向の成分を持つ座標）を、ＸＹ平面上にある処理対象画像平面Ｒ３に再投影する処理について説明する。
【００７１】
図６は、座標対応付け手段１０による座標間の対応付けを説明するための図であり、図６（Ａ）は、一例として通常射影（ｈ＝ｆｔａｎα）を採用するカメラ２の入力画像平面Ｒ４上の座標と空間モデルＭＤ上の座標との間の対応関係を示す図であって、座標対応付け手段１０は、カメラ２の入力画像平面Ｒ４上の座標とその座標に対応する空間モデルＭＤ上の座標とを結ぶ線分のそれぞれがカメラ２の光学中心Ｃを通過するようにして、両座標を対応付ける。
【００７２】
図６（Ａ）の例では、座標対応付け手段１０は、カメラ２の入力画像平面Ｒ４上の座標Ｋ１を空間モデルＭＤの平面領域Ｒ１上の座標Ｌ１に対応付け、カメラ２の入力画像平面Ｒ４上の座標Ｋ２を空間モデルＭＤの曲面領域Ｒ２上の座標Ｌ２に対応付ける。このとき、線分Ｋ１−Ｌ１及び線分Ｋ２−Ｌ２は共にカメラ２の光学中心Ｃを通過する。
【００７３】
なお、カメラ２が通常射影以外の射影方式（例えば、正射影、立体射影、等立体角射影、等距離射影等である。）を採用する場合、座標対応付け手段１０は、それぞれの射影方式に応じて、カメラ２の入力画像平面Ｒ４上の座標Ｋ１、Ｋ２を空間モデルＭＤ上の座標Ｌ１、Ｌ２に対応付けるようにする。
【００７４】
具体的には、座標対応付け手段１０は、所定の関数（例えば、正射影（ｈ＝ｆｓｉｎα）、立体射影（ｈ＝２ｆｔａｎ（α／２））、等立体角射影（ｈ＝２ｆｓｉｎ（α／２））、等距離射影（ｈ＝ｆα）等である。）に基づいて、入力画像平面上の座標と空間モデルＭＤ上の座標とを対応付ける。この場合、線分Ｋ１−Ｌ１及び線分Ｋ２−Ｌ２がカメラ２の光学中心Ｃを通過することはない。
【００７５】
図６（Ｂ）は、空間モデルＭＤの曲面領域Ｒ２上の座標と処理対象画像平面Ｒ３上の座標との間の対応関係を示す図であり、座標対応付け手段１０は、ＸＺ平面上に位置する平行線群ＰＬであって、処理対象画像平面Ｒ３との間で角度βを形成する平行線群ＰＬを導入し、空間モデルＭＤの曲面領域Ｒ２上の座標とその座標に対応する処理対象画像平面Ｒ３上の座標とが共に平行線群ＰＬのうちの一つに乗るようにして、両座標を対応付ける。
【００７６】
図６（Ｂ）の例では、座標対応付け手段１０は、空間モデルＭＤの曲面領域Ｒ２上の座標Ｌ２と処理対象画像平面Ｒ３上の座標Ｍ２とが共通の平行線に乗るとして、両座標を対応付けるようにする。
【００７７】
なお、座標対応付け手段１０は、空間モデルＭＤの平面領域Ｒ１上の座標を曲面領域Ｒ２上の座標と同様に平行線群ＰＬを用いて処理対象画像平面Ｒ３上の座標に対応付けることが可能であるが、図６（Ｂ）の例では、平面領域Ｒ１と処理対象画像平面Ｒ３とが共通の平面となっているので、空間モデルＭＤの平面領域Ｒ１上の座標Ｌ１と処理対象画像平面Ｒ３上の座標Ｍ１とは同じ座標値を有するものとなっている。
【００７８】
このようにして、座標対応付け手段１０は、空間モデルＭＤ上の座標と、処理対象画像平面Ｒ３上の座標とを対応付け、空間モデルＭＤ上の座標及び処理対象画像Ｒ３上の座標を関連付けて空間モデル・処理対象画像対応マップ４１に記憶する。
【００７９】
図６（Ｃ）は、処理対象画像平面Ｒ３上の座標と一例として通常射影（ｈ＝ｆｔａｎα）を採用する仮想カメラ２Ｖの出力画像平面Ｒ５上の座標との間の対応関係を示す図であり、出力画像生成手段１１は、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標とその座標に対応する処理対象画像平面Ｒ３上の座標とを結ぶ線分のそれぞれが仮想カメラ２Ｖの光学中心ＣＶを通過するようにして、両座標を対応付ける。
【００８０】
図６（Ｃ）の例では、出力画像生成手段１１は、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標Ｎ１を処理対象画像平面Ｒ３（空間モデルＭＤの平面領域Ｒ１）上の座標Ｍ１に対応付け、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標Ｎ２を処理対象画像平面Ｒ３上の座標Ｍ２に対応付ける。このとき、線分Ｍ１−Ｎ１及び線分Ｍ２−Ｎ２は共に仮想カメラ２Ｖの光学中心ＣＶを通過する。
【００８１】
なお、仮想カメラ２Ｖが通常射影以外の射影方式（例えば、正射影、立体射影、等立体角射影、等距離射影等である。）を採用する場合、出力画像生成手段１１は、それぞれの射影方式に応じて、仮想カメラ２Ｖの出力画像平面Ｒ５上の座標Ｎ１、Ｎ２を処理対象画像平面Ｒ３上の座標Ｍ１、Ｍ２に対応付けるようにする。
【００８２】
具体的には、出力画像生成手段１１は、所定の関数（例えば、正射影（ｈ＝ｆｓｉｎα）、立体射影（ｈ＝２ｆｔａｎ（α／２））、等立体角射影（ｈ＝２ｆｓｉｎ（α／２））、等距離射影（ｈ＝ｆα）等である。）に基づいて、出力画像平面Ｒ５上の座標と処理対象画像平面Ｒ３上の座標とを対応付ける。この場合、線分Ｍ１−Ｎ１及び線分Ｍ２−Ｎ２が仮想カメラ２Ｖの光学中心ＣＶを通過することはない。
【００８３】
このようにして、出力画像生成手段１１は、出力画像平面Ｒ５上の座標と、処理対象画像平面Ｒ３上の座標とを対応付け、出力画像平面Ｒ５上の座標及び処理対象画像Ｒ３上の座標を関連付けて処理対象画像・出力画像対応マップ４２に記憶し、座標対応付け手段１０が記憶した入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１を参照しながら、出力画像における各画素の値と入力画像における各画素の値とを関連付けて出力画像を生成する。
【００８４】
なお、図６（Ｄ）は、図６（Ａ）〜図６（Ｃ）を組み合わせた図であり、カメラ２、仮想カメラ２Ｖ、空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２、並びに、処理対象画像平面Ｒ３の相互の位置関係を示す。
【００８５】
次に、図７を参照しながら、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標とを対応付けるために座標対応付け手段１０が導入する平行線群ＰＬの作用について説明する。
【００８６】
図７（Ａ）は、ＸＺ平面上に位置する平行線群ＰＬと処理対象画像平面Ｒ３との間で角度βが形成される場合の図であり、図７（Ｂ）は、ＸＺ平面上に位置する平行線群ＰＬと処理対象画像平面Ｒ３との間で角度β１（β１＞β）が形成される場合の図である。また、図７（Ａ）及び図７（Ｂ）における空間モデルＭＤの曲面領域Ｒ２上の座標Ｌａ〜Ｌｄのそれぞれは、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれに対応するものとし、図７（Ａ）における座標Ｌａ〜Ｌｄのそれぞれの間隔は、図７（Ｂ）における座標Ｌａ〜Ｌｄのそれぞれの間隔と等しいものとする。なお、平行線群ＰＬは、説明目的のためにＸＺ平面上に存在するものとしているが、実際には、Ｚ軸上の全ての点から処理対象画像平面Ｒ３に向かって放射状に延びるように存在するものとする。なお、この場合のＺ軸を「再投影軸」と称することとする。
【００８７】
図７（Ａ）及び図７（Ｂ）で示されるように、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれの間隔は、平行線群ＰＬと処理対象画像平面Ｒ３との間の角度が増大するにつれて線形的に減少する（空間モデルＭＤの曲面領域Ｒ２と座標Ｍａ〜Ｍｄのそれぞれとの間の距離とは関係なく一様に減少する。）。一方で、空間モデルＭＤの平面領域Ｒ１上の座標群は、図７の例では、処理対象画像平面Ｒ３上の座標群への変換が行われないので、座標群の間隔が変化することはない。
【００８８】
これら座標群の間隔の変化は、出力画像平面Ｒ５（図６参照。）上の画像部分のうち、空間モデルＭＤの曲面領域Ｒ２に投影された画像に対応する画像部分のみが線形的に拡大或いは縮小されることを意味する。
【００８９】
次に、図８を参照しながら、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標とを対応付けるために座標対応付け手段１０が導入する平行線群ＰＬの代替例について説明する。
【００９０】
図８（Ａ）は、ＸＺ平面上に位置する補助線群ＡＬの全てがＺ軸上の始点Ｔ１から処理対象画像平面Ｒ３に向かって延びる場合の図であり、図８（Ｂ）は、補助線群ＡＬの全てがＺ軸上の始点Ｔ２（Ｔ２＞Ｔ１）から処理対象画像平面Ｒ３に向かって延びる場合の図である。また、図８（Ａ）及び図８（Ｂ）における空間モデルＭＤの曲面領域Ｒ２上の座標Ｌａ〜Ｌｄのそれぞれは、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれに対応するものとし（図８（Ａ）の例では、座標Ｍｃ、Ｍｄは、処理対象画像平面Ｒ３の領域外となるため図示されていない。）、図８（Ａ）における座標Ｌａ〜Ｌｄのそれぞれの間隔は、図８（Ｂ）における座標Ｌａ〜Ｌｄのそれぞれの間隔と等しいものとする。なお、補助線群ＡＬは、説明目的のためにＸＺ平面上に存在するものとしているが、実際には、Ｚ軸上の任意の一点から処理対象画像平面Ｒ３に向かって放射状に延びるように存在するものとする。なお、図７と同様、この場合のＺ軸を「再投影軸」と称することとする。
【００９１】
図８（Ａ）及び図８（Ｂ）で示されるように、処理対象画像平面Ｒ３上の座標Ｍａ〜Ｍｄのそれぞれの間隔は、補助線群ＡＬの始点と原点Ｏとの間の距離（高さ）が増大するにつれて非線形的に減少する（空間モデルＭＤの曲面領域Ｒ２と座標Ｍａ〜Ｍｄのそれぞれとの間の距離が大きいほど、それぞれの間隔の減少幅が大きくなる。）。一方で、空間モデルＭＤの平面領域Ｒ１上の座標群は、図８の例では、処理対象画像平面Ｒ３上の座標群への変換が行われないので、座標群の間隔が変化することはない。
【００９２】
これら座標群の間隔の変化は、平行線群ＰＬのときと同様、出力画像平面Ｒ５（図６参照。）上の画像部分のうち、空間モデルＭＤの曲面領域Ｒ２に投影された画像に対応する画像部分のみが非線形的に拡大或いは縮小されることを意味する。
【００９３】
このようにして、画像生成装置１００は、空間モデルＭＤの平面領域Ｒ１に投影された画像に対応する出力画像の画像部分（例えば、路面画像である。）に影響を与えることなく、空間モデルＭＤの曲面領域Ｒ２に投影された画像に対応する出力画像の画像部分（例えば、水平画像である。）を線形的に或いは非線形的に拡大或いは縮小させることができるので、ショベル６０の近傍の路面画像（ショベル６０を真上から見たときの仮想画像）に影響を与えることなく、ショベル６０の周囲に位置する物体（ショベル６０から水平方向に周囲を見たときの画像における物体）を迅速且つ柔軟に拡大或いは縮小させることができ、ショベル６０の死角領域の視認性を向上させることができる。
【００９４】
次に、図９を参照しながら、画像生成装置１００が処理対象画像を生成する処理（以下、「処理対象画像生成処理」とする。）、及び、生成した処理対象画像を用いて出力画像を生成する処理（以下、「出力画像生成処理」とする。）について説明する。なお、図９は、処理対象画像生成処理（ステップＳ１〜ステップＳ３）及び出力画像生成処理（ステップＳ４〜ステップＳ６）の流れを示すフローチャートである。また、カメラ２（入力画像平面Ｒ４）、空間モデル（平面領域Ｒ１及び曲面領域Ｒ２）、並びに、処理対象画像平面Ｒ３の配置は予め決定されているものとする。
【００９５】
最初に、制御部１は、座標対応付け手段１０により、処理対象画像平面Ｒ３上の座標と空間モデルＭＤ上の座標とを対応付ける（ステップＳ１）。
【００９６】
具体的には、座標対応付け手段１０は、平行線群ＰＬと処理対象画像平面Ｒ３との間に形成される角度を取得し、処理対象画像平面Ｒ３上の一座標から延びる平行線群ＰＬの一つが空間モデルＭＤの曲面領域Ｒ２と交差する点を算出し、算出した点に対応する曲面領域Ｒ２上の座標を、処理対象画像平面Ｒ３上のその一座標に対応する曲面領域Ｒ２上の一座標として導き出し、その対応関係を空間モデル・処理対象画像対応マップ４１に記憶する。なお、平行線群ＰＬと処理対象画像平面Ｒ３との間に形成される角度は、記憶部４等に予め記憶された値であってもよく、入力部３を介して操作者が動的に入力する値であってもよい。
【００９７】
また、座標対応付け手段１０は、処理対象画像平面Ｒ３上の一座標が空間モデルＭＤの平面領域Ｒ１上の一座標と一致する場合には、平面領域Ｒ１上のその一座標を、処理対象画像平面Ｒ３上のその一座標に対応する一座標として導き出し、その対応関係を空間モデル・処理対象画像対応マップ４１に記憶する。
【００９８】
その後、制御部１は、座標対応付け手段１０により、上述の処理によって導き出された空間モデルＭＤ上の一座標と入力画像平面Ｒ４上の座標とを対応付ける（ステップＳ２）。
【００９９】
具体的には、座標対応付け手段１０は、通常射影（ｈ＝ｆｔａｎα）を採用するカメラ２の光学中心Ｃの座標を取得し、空間モデルＭＤ上の一座標から延びる線分であり、光学中心Ｃを通過する線分が入力画像平面Ｒ４と交差する点を算出し、算出した点に対応する入力画像平面Ｒ４上の座標を、空間モデルＭＤ上のその一座標に対応する入力画像平面Ｒ４上の一座標として導き出し、その対応関係を入力画像・空間モデル対応マップ４０に記憶する。
【０１００】
その後、制御部１は、処理対象画像平面Ｒ３上の全ての座標を空間モデルＭＤ上の座標及び入力画像平面Ｒ４上の座標に対応付けたか否かを判定し（ステップＳ３）、未だ全ての座標を対応付けていないと判定した場合には（ステップＳ３のＮＯ）、ステップＳ１及びステップＳ２の処理を繰り返すようにする。
【０１０１】
一方、制御部１は、全ての座標を対応付けたと判定した場合には（ステップＳ３のＹＥＳ）、処理対象画像生成処理を終了させた上で出力画像生成処理を開始させ、出力画像生成手段１１により、処理対象画像平面Ｒ３上の座標と出力画像平面Ｒ５上の座標とを対応付ける（ステップＳ４）。
【０１０２】
具体的には、出力画像生成手段１１は、処理対象画像にスケール変換、アフィン変換、又は歪曲変換を施すことによって出力画像を生成し、施したスケール変換、アフィン変換、又は歪曲変換の内容によって定まる、処理対象画像平面Ｒ３上の座標と出力画像平面Ｒ５上の座標との間の対応関係を処理対象画像・出力画像対応マップ４２に記憶する。
【０１０３】
或いは、出力画像生成手段１１は、仮想カメラ２Ｖを用いて出力画像を生成する場合には、採用した射影方式に応じて処理対象画像平面Ｒ３上の座標から出力画像平面Ｒ５上の座標を算出し、その対応関係を処理対象画像・出力画像対応マップ４２に記憶するようにしてもよい。
【０１０４】
或いは、出力画像生成手段１１は、通常射影（ｈ＝ｆｔａｎα）を採用する仮想カメラ２Ｖを用いて出力画像を生成する場合には、その仮想カメラ２Ｖの光学中心ＣＶの座標を取得した上で、出力画像平面Ｒ５上の一座標から延びる線分であり、光学中心ＣＶを通過する線分が処理対象画像平面Ｒ３と交差する点を算出し、算出した点に対応する処理対象画像平面Ｒ３上の座標を、出力画像平面Ｒ５上のその一座標に対応する処理対象画像平面Ｒ３上の一座標として導き出し、その対応関係を処理対象画像・出力画像対応マップ４２に記憶するようにしてもよい。
【０１０５】
その後、制御部１は、出力画像生成手段１１により、入力画像・空間モデル対応マップ４０、空間モデル・処理対象画像対応マップ４１、及び処理対象画像・出力画像対応マップ４２を参照しながら入力画像平面Ｒ４上の座標と空間モデルＭＤ上の座標との対応関係、空間モデルＭＤ上の座標と処理対象画像平面Ｒ３上の座標との対応関係、及び処理対象画像平面Ｒ３上の座標と出力画像平面Ｒ５上の座標との対応関係を辿り、出力画像平面Ｒ５上の各座標に対応する入力画像平面Ｒ４上の座標が有する値（例えば、輝度値、色相値、彩度値等である。）を取得し、その取得した値を、対応する出力画像平面Ｒ５上の各座標の値として採用する（ステップＳ５）。なお、出力画像平面Ｒ５上の一座標に対して複数の入力画像平面Ｒ４上の複数の座標が対応する場合、出力画像生成手段１１は、それら複数の入力画像平面Ｒ４上の複数の座標のそれぞれの値に基づく統計値（例えば、平均値、最大値、最小値、中間値等である。）を導き出し、出力画像平面Ｒ５上のその一座標の値としてその統計値を採用するようにしてもよい。
【０１０６】
その後、制御部１は、出力画像平面Ｒ５上の全ての座標の値を入力画像平面Ｒ４上の座標の値に対応付けたか否かを判定し（ステップＳ６）、未だ全ての座標の値を対応付けていないと判定した場合には（ステップＳ６のＮＯ）、ステップＳ４及びステップＳ５の処理を繰り返すようにする。
【０１０７】
一方、制御部１は、全ての座標の値を対応付けたと判定した場合には（ステップＳ６のＹＥＳ）、出力画像を生成して、この一連の処理を終了させる。
【０１０８】
なお、画像生成装置１００は、処理対象画像を生成しない場合には、処理対象画像生成処理を省略し、出力画像生成処理におけるステップＳ４の"処理対象画像平面上の座標"を"空間モデル上の座標"で読み替えるものとする。
【０１０９】
以上の構成により、画像生成装置１００は、建設機械と周辺障害物との位置関係を操作者に直感的に把握させることが可能な処理対象画像及び出力画像を生成することができる。
【０１１０】
また、画像生成装置１００は、処理対象画像平面Ｒ３から空間モデルＭＤを経て入力画像平面Ｒ４に遡るように座標の対応付けを実行することにより、処理対象画像平面Ｒ３上の各座標を入力画像平面Ｒ４上の一又は複数の座標に確実に対応させることができ、入力画像平面Ｒ４から空間モデルＭＤを経て処理対象画像平面Ｒ３に至る順番で座標の対応付けを実行する場合と比べ（この場合には、入力画像平面Ｒ４上の各座標を処理対象画像平面Ｒ３上の一又は複数の座標に確実に対応させることができるが、処理対象画像平面Ｒ３上の座標の一部が、入力画像平面Ｒ４上の何れの座標にも対応付けられない場合があり、その場合にはそれら処理対象画像平面Ｒ３上の座標の一部に補間処理等を施す必要がある。）、より良質な処理対象画像を迅速に生成することができる。
【０１１１】
また、画像生成装置１００は、空間モデルＭＤの曲面領域Ｒ２に対応する画像のみを拡大或いは縮小する場合には、平行線群ＰＬと処理対象画像平面Ｒ３との間に形成される角度を変更して空間モデル・処理対象画像対応マップ４１における曲面領域Ｒ２に関連する部分のみを書き換えるだけで、入力画像・空間モデル対応マップ４０の内容を書き換えることなく、所望の拡大或いは縮小を実現させることができる。
【０１１２】
また、画像生成装置１００は、出力画像の見え方を変更する場合には、スケール変換、アフィン変換又は歪曲変換に関する各種パラメータの値を変更して処理対象画像・出力画像対応マップ４２を書き換えるだけで、入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１の内容を書き換えることなく、所望の出力画像（スケール変換画像、アフィン変換画像又は歪曲変換画像）を生成することができる。
【０１１３】
同様に、画像生成装置１００は、出力画像の視点を変更する場合には、仮想カメラ２Ｖの各種パラメータの値を変更して処理対象画像・出力画像対応マップ４２を書き換えるだけで、入力画像・空間モデル対応マップ４０及び空間モデル・処理対象画像対応マップ４１の内容を書き換えることなく、所望の視点から見た出力画像（視点変換画像）を生成することができる。
【０１１４】
図１０は、ショベル６０に搭載された二台のカメラ２（右側方カメラ２Ｒ及び後方カメラ２Ｂ）の入力画像を用いて生成される出力画像を表示部５に表示させたときの表示例である。
【０１１５】
画像生成装置１００は、それら二台のカメラ２のそれぞれの入力画像を空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２上に投影した上で処理対象画像平面Ｒ３に再投影して処理対象画像を生成し、その生成した処理対象画像に画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）を施すことによって出力画像を生成して、ショベル６０の近傍を上空から見下ろした画像（平面領域Ｒ１における画像）と、ショベル６０から水平方向に周辺を見た画像（処理対象画像平面Ｒ３における画像）とを同時に表示している。
【０１１６】
なお、出力画像は、画像生成装置１００が処理対象画像を生成しない場合には、空間モデルＭＤに投影された画像に画像変換処理（例えば、視点変換処理である。）を施すことによって生成されるものとする。
【０１１７】
また、出力画像は、ショベル６０が旋回動作を行う際の画像を違和感なく表示できるよう、円形にトリミングされ、その円の中心ＣＴＲが空間モデルＭＤの円筒中心軸上で、且つ、ショベル６０の旋回軸ＰＶ上となるように生成されており、ショベル６０の旋回動作に応じてその中心ＣＴＲを軸に回転するように表示される。この場合、空間モデルＭＤの円筒中心軸は、再投影軸と一致するものであってもよく、一致しないものであってもよい。
【０１１８】
なお、空間モデルＭＤの半径は、例えば、５メートルであり、平行線群ＰＬが処理対象画像平面Ｒ３との間で形成する角度、又は、補助線群ＡＬの始点高さは、ショベル６０の旋回中心から掘削アタッチメントＥの最大到達距離（例えば１２メートルである。）だけ離れた位置に物体（例えば、作業員である。）が存在する場合にその物体が表示部５で十分大きく（例えば、７ミリメートル以上である。）表示されるように、設定され得る。
【０１１９】
更に、出力画像は、ショベル６０のＣＧ画像を、ショベル６０の前方が表示部５の画面上方と一致し、且つ、その旋回中心が中心ＣＴＲと一致するように配置するようにしてもよい。ショベル６０と出力画像に現れる物体との間の位置関係をより分かり易くするためである。なお、出力画像は、方位等の各種情報を含む額縁画像をその周囲に配置するようにしてもよい。
【０１２０】
次に、図１１〜図１６を参照しながら、画像生成装置１００が入力画像間の明るさ（輝度）の差を際立たせないようにする処理について説明する。
【０１２１】
図１１は、ショベル６０に搭載された三台のカメラ２（左側方カメラ２Ｌ、右側方カメラ２Ｒ、及び後方カメラ２Ｂ）のそれぞれの入力画像と、それら入力画像を用いて生成される出力画像とを示す図である。
【０１２２】
画像生成装置１００は、それら三台のカメラ２のそれぞれの入力画像を空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２上に投影した上で処理対象画像平面Ｒ３に再投影して処理対象画像を生成し、その生成した処理対象画像に画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）を施すことによって出力画像を生成して、ショベル６０の近傍を上空から見下ろした画像（平面領域Ｒ１における画像）と、ショベル６０から水平方向に周辺を見た画像（処理対象画像平面Ｒ３における画像）とを同時に表示している。
【０１２３】
図１１において、左側方カメラ２Ｌの入力画像及び後方カメラ２Ｂの入力画像はそれぞれ、ショベル６０の周囲における同じ場所を異なる角度から撮像した重複部分を含むが、それら重複部分はそれぞれ、各カメラに関する照明環境等の違いにより異なる明るさで撮像されており、その輝度が異なるものとなっている。右側方カメラ２Ｒの入力画像と後方カメラ２Ｂの入力画像との間の重複部分についても同様である。
【０１２４】
そのため、それら三つの入力画像に基づいて生成される出力画像は、その出力画像平面上の座標が複数の入力画像平面上の座標に対応付け可能な場合に、その出力画像平面上の座標が入射角の最も小さいカメラに関する入力画像平面上の座標に対応付けられるものとすると、同じ場所を撮像しているにもかかわらず、左側方カメラ２Ｌの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界（図の一点鎖線で囲まれる領域Ｒ６参照。）、及び、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界（図の一点鎖線で囲まれる領域Ｒ７参照。）のところでその輝度が急激に変化することとなり、その出力画像を見た運転者に不自然さを感じさせてしまうこととなる。
【０１２５】
そこで、画像生成装置１００は、チェッカーシャドー錯視（同色錯視）による効果を利用して、入力画像間の輝度の差を際立たせないようにする。
【０１２６】
図１２は、同色錯視を説明するための図（Edward H. Adelson、"Checker shadow illusion"、１９９５年、インターネット＜URL: http://web.mit.edu/persci/people/adelson/checkershadow_illusion.html＞）であり、図１２（Ａ）は、同色錯視をもたらすために利用されるチェッカーパタン（格子模様）を示し、図１２（Ｂ）は、チェッカーパタン（格子模様）上の点Ｐ１〜点Ｐ３及び点Ｐ４〜点Ｐ６における輝度の推移を表すグラフを示す。
【０１２７】
図１２（Ａ）で示されるように、点Ｐ２を含む単位パタンの輝度よりも高い輝度を有する二つの単位パタン（点Ｐ１を含む単位パタン及び点Ｐ３を含む単位パタンである。）で挟まれたその点Ｐ２を含む単位パタンの輝度は、点Ｐ５を含む単位パタンの輝度よりも低い輝度を有する二つの単位パタン（点Ｐ４を含む単位パタン及び点Ｐ６を含む単位パタンである。）で挟まれたその点Ｐ５を含む単位パタンの輝度よりも低いように見える。
【０１２８】
しかしながら、この輝度の差は、それぞれの単位パタンが格子模様を形成していること、及び、点Ｐ４〜点Ｐ６を含む単位パタン群が物体ＯＢＪの影に入っていることを認識している観察者の錯視によるものであり、実際には、図１２（Ｂ）で示されるように、点Ｐ２を含む単位パタンの輝度は、点Ｐ５を含む単位パタンの輝度に等しいものとなっている。
【０１２９】
このように、その観察者は、点Ｐ１、点Ｐ３、及び点Ｐ５のそれぞれを含む単位パタンが同じ輝度を有し、点Ｐ２、点Ｐ４、及び点Ｐ６のそれぞれを含む単位パタンが同じ輝度を有するものと錯覚することとなる。
【０１３０】
図１３は、同色錯視をもたらす明暗パタンを生成する方法の一例を説明するための図であり、二つの波源（例えば、右側方カメラ２Ｒ及び後方カメラ２Ｂである。なお、右側方カメラ２Ｒが図の左側に示されているが、これは図の明瞭化のためであり、ここでは、図の右斜め上方が、ショベル６０の後方に対応するものとする。）から山（実線円）及び谷（破線円）を形成しながら拡がって互いに干渉する二つの波を示す。
【０１３１】
また、図１３において、二つの扇形領域２Ｒａ、２Ｂａはそれぞれ、右側方カメラ２Ｒの撮像範囲、及び、後方カメラ２Ｂの撮像範囲を示し、太い実線で表される腹線ＡＮＬは、二つの波が互いに強め合う点を連ねた線を示し、太い破線で表される節線ＮＬは、二つの波が互いに弱め合う点を連ねた線を示す。なお、腹線ＡＮＬ及び節線ＮＬは、図１３で示されるように、交互に現れることとなる。
【０１３２】
また、図１３において、右側方カメラ２Ｒを波源として拡がる波の一つの谷が描く線（破線円）と、その一つの谷の次に発生する一つの山が描く線（実線円）と、後方カメラ２Ｂを波源として拡がる波の一つの谷が描く線（破線円）と、その一つの谷の次に発生する一つの山が描く線（実線円）とで定められる菱形状の領域のそれぞれは、単位パタン領域ＬＴを形成するものとする。
【０１３３】
図１３で示される複数の単位パタン領域ＬＴが出力画像平面上に描かれたものとし、単位パタン領域ＬＴのうちの腹線ＡＮＬが通過する（灰色で塗り潰される）単位パタン領域ＬＴ１に後方カメラ２Ｂの入力画像が対応付けられ、且つ、単位パタン領域ＬＴのうちの節線ＮＬが通過する（白色で塗り潰される）単位パタン領域ＬＴ２に右側方カメラ２Ｒの入力画像が対応付けられるものとすると、平均輝度がそれぞれ異なる二つの入力画像は、同色錯視をもたらす格子模様を形成することができることとなる。
【０１３４】
なお、単位パタン領域ＬＴのうちの腹線ＡＮＬが通過する（灰色で塗り潰される）単位パタン領域ＬＴ１に右側方カメラ２Ｒの入力画像が対応付けられ、且つ、単位パタン領域ＬＴのうちの節線ＮＬが通過する（白色で塗り潰される）単位パタン領域ＬＴ２に後方カメラ２Ｂの入力画像が対応付けられる場合も同様に、平均輝度がそれぞれ異なる二つの入力画像は、同色錯視をもたらす格子模様を形成することができることとなる。
【０１３５】
また、図１３の格子模様は、波長及び位相が等しい二つの波を用いて形成されるが、波長及び位相の一方又は双方が異なる二つの波を用いて形成されてもよい。単位パタン領域ＬＴ１、ＬＴ２のサイズや形状を柔軟に調整できるようにするためである。
【０１３６】
図１４は、図１３で示される格子模様を出力画像平面（平面領域Ｒ１）上に配置した状態を示し、ショベル６０のＣＧ画像の右後方（図の右下方向）にある、右側方カメラ２Ｒの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様と、ショベル６０のＣＧ画像の左後方（図の左下方向）にある、左側方カメラ２Ｌの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様とを示す。
【０１３７】
図１４において、右側方カメラ２Ｒの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様は、例えば、（灰色で塗り潰される）単位パタン領域ＬＴ１に右後方カメラ２Ｒの入力画像が対応付けられ、（白色で塗り潰される）単位パタン領域ＬＴ２に後方カメラ２Ｂの入力画像が対応付けられるものとする。
【０１３８】
また、左側方カメラ２Ｌの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域に配置される格子模様は、例えば、（灰色で塗り潰される）単位パタン領域ＬＴ３に左後方カメラ２Ｌの入力画像が対応付けられ、（白色で塗り潰される）単位パタン領域ＬＴ４に後方カメラ２Ｂの入力画像が対応付けられるものとする。
【０１３９】
図１５は、画像生成装置１００が、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像平面上の各座標に、それら二つのカメラの何れか一方の入力画像平面上の座標を対応付け、同色錯視をもたらす格子模様を形成する処理（以下、「格子模様形成処理」とする。）の流れを示すフローチャートである。
【０１４０】
画像生成装置１００の制御部１は、例えば、座標対応付け手段１０により、図９の処理対象画像生成処理のステップＳ２において、空間モデルＭＤの平面領域Ｒ１上の一座標と複数の入力画像平面上の座標との対応付けが可能な場合に、空間モデルＭＤの平面領域Ｒ１上の一座標と二つのカメラのそれぞれに対応する二つの入力画像平面のうちの一つにおける一座標とを対応付ける際に、この格子模様形成処理を実行するものとする。
【０１４１】
最初に、制御部１は、二つのカメラ（例えば、右側方カメラ２Ｒ及び後方カメラ２Ｂである。）の撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の一座標を取得する（ステップＳ１１）。
【０１４２】
次に、制御部１は、二つのカメラのそれぞれにおける光学中心の座標を取得する（ステップＳ１２）。
【０１４３】
次に、制御部１は、ステップＳ１１で取得した空間モデルＭＤにおける平面領域Ｒ１上の一座標に対応付けるカメラを選択する（ステップＳ１３）。
【０１４４】
具体的には、制御部１は、右側方カメラ２Ｒの光学中心の座標を（Ｘcam1、Ｙcam1）とし、後方カメラ２Ｂの光学中心の座標を（Ｘcam2、Ｙcam2）とし、対応付けの対象である空間モデルＭＤの平面領域Ｒ１上の一座標を（Ｘtarget、Ｙtarget）とすると、
【０１４５】
【数１２】
で表される条件式が真である場合、その平面領域Ｒ１上の一座標に対応付けるカメラとして右側方カメラ２Ｒを選択し、上述の条件式が偽である場合、その平面領域Ｒ１上の一座標に対応付けるカメラとして後方カメラ２Ｒを選択する。
【０１４６】
なお、制御部１は、上述の条件式が真である場合に、その平面領域Ｒ１上の一座標に対応付けるカメラとして後方カメラ２Ｂを選択し、上述の条件式が偽である場合に、その平面領域Ｒ１上の一座標に対応付けるカメラとして右側方カメラ２Ｒを選択するようにしてもよい。
【０１４７】
なお、上述の条件式は、平面領域Ｒ１上の座標（Ｘtarget、Ｙtarget）が、図１４で示される単位パタン領域ＬＴ１に含まれるか、或いは、単位パタン領域ＬＴ２に含まれるかの判定式に相当する。
【０１４８】
また、本実施例において、制御部１は、光学中心の座標が二次元座標であり、波源から発生する波が平面波であるという前提で、平面領域Ｒ１上の一座標（二次元座標）と二つのカメラのそれぞれの光学中心の座標（平面領域Ｒ１を含む平面上に投影された二次元座標）との間の二次元距離に基づいてカメラを選択するが、光学中心の座標を（高さ情報を含む）三次元座標とし、波源から発生する波を球面波としながら、平面領域Ｒ１上の一座標（三次元座標）と二つのカメラのそれぞれの光学中心の座標（三次元座標）との間の三次元距離に基づいてカメラを選択するようにしてもよい。
【０１４９】
また、本実施例において、制御部１は、二つのカメラ（例えば、右側方カメラ２Ｒ及び後方カメラ２Ｂである。）の撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の一座標に対応付けるカメラを選択しているが、二つのカメラの撮像範囲が重複する領域に対応する、処理対象画像平面Ｒ３上の一座標に対応付けるカメラを選択するようにしてもよい。
【０１５０】
この場合、制御部１は、処理対象画像平面Ｒ３上の一座標（二次元座標）と二つのカメラのそれぞれの光学中心の座標（処理対象画像平面Ｒ３を含む平面上に投影された二次元座標）との間の二次元距離に基づいてカメラを選択するようにしてもよく、処理対象画像平面Ｒ３上の一座標（三次元座標）と二つのカメラのそれぞれの光学中心の座標（三次元座標）との間の三次元距離に基づいてカメラを選択するようにしてもよい。なお、処理対象画像平面Ｒ３は、平面領域Ｒ１を含むものであってもよい。
【０１５１】
その後、制御部１は、座標対応付け手段１０により、選択したカメラの入力画像平面上の一座標と、空間モデルＭＤの平面領域Ｒ１上の一座標とを対応付け（ステップＳ１４）、空間モデルＭＤ上の座標、カメラ識別子、及び入力画像平面上の座標を関連付けて入力画像・空間モデル対応マップ４０に記憶する。
【０１５２】
その後、制御部１は、二つのカメラの撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の全ての座標を、二つのカメラのうちの一つの入力画像平面上の座標に対応付けたか否かを判定し（ステップＳ１５）、未だ全ての座標を対応付けていないと判定した場合には（ステップＳ１５のＮＯ）、ステップＳ１１〜ステップＳ１４の処理を繰り返すようにする。
【０１５３】
一方、制御部１は、全ての座標を対応付けたと判定した場合には（ステップＳ１５のＹＥＳ）、この格子模様形成処理を終了させる。
【０１５４】
なお、上述において、制御部１は、二つのカメラの撮像範囲が重複する領域に対応する、空間モデルＭＤの平面領域Ｒ１上の各座標、又は、処理対象画像平面Ｒ３上の各座標を、二つのカメラのうちの一つの入力画像平面上の座標に対応付けるようにするが、更に、二つのカメラの撮像範囲が重複する領域に対応する、空間モデルＭＤの曲面領域Ｒ２上の各座標を、二つのカメラのうちの一つの入力画像平面上の座標に対応付けるようにしてもよい。
【０１５５】
このように、制御部１は、上述のような条件式を用いて空間モデルＭＤ上の各座標を二つのカメラのうちの一つの入力画像平面上の座標に容易に対応付けることができ、適切な格子模様を生成することができる。
【０１５６】
図１６は、図１１で示される出力画像と、図１１の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図であり、図１６（Ａ）が図１１で示される出力画像を示し、図１６（Ｂ）が同色錯視をもたらす格子模様が適用された出力画像を示す。
【０１５７】
左側方カメラ２Ｌの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界を含む図１６（Ａ）の一点鎖線で囲まれた領域Ｒ６は、顕著な輝度の違いを提示しているが、左側方カメラ２Ｌの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域とが格子模様となって混在する図１６（Ｂ）の一点鎖線で囲まれた領域Ｒ８は、その輝度の違いが目立たなくなっており、その領域Ｒ８を含む出力画像を見た運転者に不自然さを感じさせ難くしている。
【０１５８】
同様に、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界を含む図１６（Ａ）の一点鎖線で囲まれた領域Ｒ７は、顕著な輝度の違いを提示しているが、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域とが格子模様となって混在する図１６（Ｂ）の一点鎖線で囲まれた領域Ｒ９は、その輝度の違いが目立たなくなっており、その領域Ｒ９を含む出力画像を見た運転者に不自然さを感じさせ難くしている。
【０１５９】
次に、図１７〜図１９を参照しながら、画像生成装置１００が、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像部分を生成する際にその出力画像部分にある物体が消失するのを防止する処理について説明する。
【０１６０】
図１７は、ショベル６０に搭載された三台のカメラ２（左側方カメラ２Ｌ、右側方カメラ２Ｒ、及び後方カメラ２Ｂ）のそれぞれの入力画像と、それら入力画像を用いて生成される出力画像とを示す図である。
【０１６１】
画像生成装置１００は、それら三台のカメラ２のそれぞれの入力画像平面上の座標を空間モデルＭＤの平面領域Ｒ１及び曲面領域Ｒ２上の座標に投影した上で処理対象画像平面Ｒ３に再投影して処理対象画像を生成し、その生成した処理対象画像に画像変換処理（例えば、スケール変換、アフィン変換、歪曲変換、視点変換処理等である。）を施すことによって出力画像を生成して、ショベル６０の近傍を上空から見下ろした画像（平面領域Ｒ１における画像）と、ショベル６０から水平方向に周辺を見た画像（処理対象画像平面Ｒ３における画像）とを表示している。
【０１６２】
図１７において、右側方カメラ２Ｒの入力画像、及び、後方カメラ２Ｂの入力画像はそれぞれ、右側方カメラ２Ｒの撮像範囲と後方カメラ２Ｂの撮像範囲との重複領域内に人物（右側方カメラ２Ｒの入力画像における二点鎖線で囲まれる領域Ｒ１０、及び、後方カメラ２Ｂの入力画像における二点鎖線で囲まれる領域Ｒ１１参照。）を捉えている。
【０１６３】
しかしながら、それら右側方カメラ２Ｒの入力画像、及び、後方カメラ２Ｂの入力画像に基づいて生成される出力画像は、その出力画像平面上の座標が入射角の最も小さいカメラに関する入力画像平面上の座標に対応付けられるものとすると、図１７で示されるように、その重複領域内の人物を消失させてしまうこととなる（出力画像内の一点鎖線で囲まれる領域Ｒ１２参照。）。
【０１６４】
そこで、画像生成装置１００は、同色錯視をもたらすために形成される格子模様を利用して、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像部分を生成する際にその出力画像部分にある物体が消失するのを防止するものとする。
【０１６５】
図１８は、二つのカメラのそれぞれの撮像範囲の重複領域における物体の消失防止効果を説明するための図であり、図１８（Ａ）は、図１３で示される同色錯視をもたらすための格子模様を形成するための波の図を示し、図１８（Ｂ）は、図１８（Ａ）の一部拡大図を示す。
【０１６６】
図１８（Ａ）において、破線で囲まれる投影像ＰＲＪ１は、後方カメラ２Ｂの入力画像における物体ＯＢＪ１の像が、路面画像を生成するための視点変換によって、その後方カメラ２Ｂとその物体ＯＢＪ１とを結ぶ線の延長方向に伸長されたもの（後方カメラ２Ｂの入力画像を用いてその出力画像部分における路面画像を生成した場合に表示される像である。）を表す。
【０１６７】
また、破線で囲まれる投影像ＰＲＪ２は、右後方カメラ２Ｒの入力画像における物体ＯＢＪ１の像が、路面画像を生成するための視点変換によって、その右側方カメラ２Ｒとその物体ＯＢＪ１とを結ぶ線の延長方向に伸長されたもの（右側方カメラ２Ｒの入力画像を用いてその出力画像部分における路面画像を生成した場合に表示される像である。）を表す。
【０１６８】
なお、投影像ＰＲＪ１及び投影像ＰＲＪ２は、最終的な出力画像上にそのままの状態で表示されることはなく、図１８（Ｂ）で示されるように、一部が切り欠かれた状態で表示されることとなる。
【０１６９】
また、図１８（Ａ）において、投影像ＰＲＪ１を表す破線領域のうち、灰色で塗り潰された部分は、腹線ＡＮＬが通過する単位パタン領域ＬＴ１（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられることを示す。
【０１７０】
一方、投影像ＰＲＪ１を表す破線領域のうち、白色で塗り潰された部分は、節線ＮＬが通過する単位パタン領域ＬＴ２（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられることを示す。
【０１７１】
なお、投影像ＰＲＪ１を表す破線領域のうち、灰色で塗り潰された部分に対応する出力画像上の各座標に、右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられ、投影像ＰＲＪ１を表す破線領域のうち、白色で塗り潰された部分に対応する出力画像上の各座標に、後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられるようにしてもよい。
【０１７２】
この場合、投影像ＰＲＪ１は、図１８（Ｂ）で示されるように、その伸長方向に直交する円（後方カメラ２Ｂの位置を波源とする波の山及び谷が描く円である。）の一部をその境界線として含む単位パタン領域ＬＴ２によって切り欠かれることとなるが、隣接する単位パタン領域ＬＴ１が互いに頂点を接触させているので繊切り状に分断され難く、単位パタン領域ＬＴ２のそれぞれがその伸長方向に直交する円の一部を含むため、その輪郭も認識され易いはっきりした状態で保存されることとなる。
【０１７３】
また、投影像ＰＲＪ１は、物体ＯＢＪ１の高さが高い程、カメラから遠ざかる方向により長く伸長され、且つ、カメラから遠ざかる程、より大きく拡大される傾向を有するが、単位パタン領域ＬＴ１及びＬＴ２は何れもカメラから遠ざかる程、その投影像ＰＲＪ１と同じ度合いで、より大きく拡大していくので、その切り欠き状態もほぼ均一に維持されることとなる。
【０１７４】
また、図１８（Ａ）において、投影像ＰＲＪ２を表す破線領域のうち、黒色で塗り潰された部分は、節線ＮＬが通過する単位パタン領域ＬＴ２（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられることを示す。
【０１７５】
一方、投影像ＰＲＪ２を表す破線領域のうち、白色で塗り潰された部分は、腹線ＡＮＬが通過する単位パタン領域ＬＴ１（図１３参照。）との重なり部分を表し、その重なり部分に対応する出力画像上の各座標には後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられることを示す。
【０１７６】
なお、投影像ＰＲＪ２を表す破線領域のうち、黒色で塗り潰された部分に対応する出力画像上の各座標に後方カメラ２Ｂの入力画像平面上の座標（物体ＯＢＪ１の像を形成しない領域内の座標）が対応付けられ、投影像ＰＲＪ２を表す破線領域のうち、白色で塗り潰された部分に対応する出力画像上の各座標に右側方カメラ２Ｒの入力画像平面上の座標（物体ＯＢＪ１の像を形成する領域内の座標）が対応付けられるようにしてもよい。
【０１７７】
この場合、投影像ＰＲＪ２は、投影像ＰＲＪ１と同様に、図１８（Ｂ）で示されるように、その伸長方向に直交する円（右側方カメラ２Ｒの位置を波源とする波の山及び谷が描く円である。）の一部をその境界線として含む単位パタン領域ＬＴ１によって切り欠かれることとなるが、隣接する単位パタン領域ＬＴ２が互いに頂点を接触させているので繊切り状に分断され難く、単位パタン領域ＬＴ１のそれぞれがその伸長方向に直交する円の一部を含むため、その輪郭も認識され易いはっきりした状態で保存されることとなる。
【０１７８】
また、投影像ＰＲＪ２は、投影像ＰＲＪ１と同様に、物体ＯＢＪ１の高さが高い程、カメラから遠ざかる方向により長く伸長され、且つ、カメラから遠ざかる程、より大きく拡大される傾向を有するが、単位パタン領域ＬＴ１及びＬＴ２は何れもカメラから遠ざかる程、その投影像ＰＲＪ２と同じ度合いで、より大きく拡大していくので、その切り欠き状態もほぼ均一に維持されることとなる。
【０１７９】
図１９は、図１７で示される出力画像と、図１７の出力画像に同色錯視をもたらす格子模様が適用された出力画像との違いを表す対比図であり、図１９（Ａ）が図１７で示される出力画像を示し、図１９（Ｂ）が同色錯視をもたらす格子模様が適用された出力画像を示す。
【０１８０】
右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域との間の境界を含む図１９（Ａ）の一点鎖線で囲まれた領域Ｒ１３は、人物が消失した状態を提示しているが、右側方カメラ２Ｒの入力画像に基づく出力画像上の領域と後方カメラ２Ｂの入力画像に基づく出力画像上の領域とが格子模様となって混在する図１９（Ｂ）の一点鎖線で囲まれた領域Ｒ１４は、人物を消失させることなく、その人物を認識し易い状態で提示し、その領域Ｒ１４を含む出力画像を見た運転者にその人物の存在を確実に認識させることができるようにしている。
【０１８１】
以上の構成により、画像生成装置１００は、同色錯視をもたらすための格子模様を利用することにより、二つのカメラのそれぞれの撮像範囲の重複領域に対応する出力画像部分を生成する際にその出力画像部分にある物体が消失するのを防止することができ、二つの入力画像のそれぞれの部分領域が櫛歯状に交互に配置されるように二つの入力画像を繋ぎ合わせる場合に比べ、その一部が切り欠かれることとなるその物体の投影像を、運転者がより認識し易い状態で表示することができる。
【０１８２】
以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなしに上述した実施例に種々の変形及び置換を加えることができる。
【０１８３】
例えば、上述の実施例において、画像生成装置１００は、空間モデルとして円筒状の空間モデルＭＤを採用するが、多角柱等の他の柱状の形状を有する空間モデルを採用してもよく、底面及び側面の二面から構成される空間モデルを採用してもよく、或いは、側面のみを有する空間モデルを採用してもよい。
【０１８４】
また、画像生成装置１００は、バケット、アーム、ブーム、旋回機構等の可動部材を備えながら自走する建設機械にカメラと共に搭載され、周囲画像をその運転者に提示しながらその建設機械の移動及びそれら可動部材の操作を支援する操作支援システムに組み込まれているが、産業用機械若しくは固定式クレーン等のように可動部材を有するが自走はしない他の被操作体にカメラと共に搭載され、それら他の被操作体の操作を支援する操作支援システムに組み入れられてもよい。
【符号の説明】
【０１８５】
１・・・制御部 ２・・・カメラ ２Ｌ・・・左側方カメラ ２Ｒ・・右側方カメラ ２Ｂ・・後方カメラ ３・・・入力部 ４・・・記憶部 ５・・・表示部 １０・・・座標対応付け手段 １１・・・出力画像生成手段 ４０・・・入力画像・空間モデル対応マップ ４１・・・空間モデル・処理対象画像対応マップ ４２・・・処理対象画像・出力画像対応マップ ６０・・・ショベル ６１・・・下部走行体 ６２・・・旋回機構 ６３・・・上部旋回体 ６４・・・キャブ
【特許請求の範囲】
【請求項１】
被操作体に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置であって、
前記複数のカメラのうちの二つのそれぞれの撮像範囲が重複する領域に対応する前記複数のカメラのうちの二つのそれぞれの入力画像部分は、前記出力画像において、格子模様を形成するように配置される、
ことを特徴とする画像生成装置。
【請求項２】
前記格子模様は、第一カメラの位置を波源とする第一の波の山が描く円と、該第一の波の谷が描く円と、第二カメラの位置を波源とする第二の波の山が描く円と、該第二の波の谷が描く円とによって区切られる格子を単位パタンとし、
前記第一の波及び前記第二の波によって形成される腹線が通過する単位パタンに対応する出力画像平面上の座標を前記第一カメラの入力画像平面上の座標に関連付け、
前記第一の波及び前記第二の波によって形成される節線が通過する単位パタンに対応する出力画像平面上の座標を前記第二カメラの入力画像平面上の座標に関連付ける、
ことを特徴とする請求項１に記載の画像生成装置。
【請求項３】
被操作体の移動又は操作を支援する操作支援システムであって、
請求項１又は２に記載の画像生成装置と、
前記被操作体を移動させ或いは操作するための操作室に設置され、該画像生成装置が生成する出力画像を表示する表示部と、
を備えることを特徴とする操作支援システム。
【請求項１】
被操作体に取り付けられた複数のカメラが撮像した複数の入力画像に基づいて出力画像を生成する画像生成装置であって、
前記複数のカメラのうちの二つのそれぞれの撮像範囲が重複する領域に対応する前記複数のカメラのうちの二つのそれぞれの入力画像部分は、前記出力画像において、格子模様を形成するように配置される、
ことを特徴とする画像生成装置。
【請求項２】
前記格子模様は、第一カメラの位置を波源とする第一の波の山が描く円と、該第一の波の谷が描く円と、第二カメラの位置を波源とする第二の波の山が描く円と、該第二の波の谷が描く円とによって区切られる格子を単位パタンとし、
前記第一の波及び前記第二の波によって形成される腹線が通過する単位パタンに対応する出力画像平面上の座標を前記第一カメラの入力画像平面上の座標に関連付け、
前記第一の波及び前記第二の波によって形成される節線が通過する単位パタンに対応する出力画像平面上の座標を前記第二カメラの入力画像平面上の座標に関連付ける、
ことを特徴とする請求項１に記載の画像生成装置。
【請求項３】
被操作体の移動又は操作を支援する操作支援システムであって、
請求項１又は２に記載の画像生成装置と、
前記被操作体を移動させ或いは操作するための操作室に設置され、該画像生成装置が生成する出力画像を表示する表示部と、
を備えることを特徴とする操作支援システム。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１４】
【図１５】
【図１８】
【図１０】
【図１１】
【図１２】
【図１３】
【図１６】
【図１７】
【図１９】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１４】
【図１５】
【図１８】
【図１０】
【図１１】
【図１２】
【図１３】
【図１６】
【図１７】
【図１９】
【公開番号】特開２０１２−１０９７４１（Ｐ２０１２−１０９７４１Ａ）
【公開日】平成２４年６月７日（２０１２．６．７）
【国際特許分類】
【出願番号】特願２０１０−２５６２９５（Ｐ２０１０−２５６２９５）
【出願日】平成２２年１１月１６日（２０１０．１１．１６）
【出願人】（０００００２１０７）住友重機械工業株式会社 (2,241)
【Ｆターム（参考）】
【公開日】平成２４年６月７日（２０１２．６．７）
【国際特許分類】
【出願日】平成２２年１１月１６日（２０１０．１１．１６）
【出願人】（０００００２１０７）住友重機械工業株式会社 (2,241)
【Ｆターム（参考）】
[ Back to top ]