説明

画像生成装置、画像生成方法及びプログラム

【課題】物体検出に適した画像変換処理部を備える撮像装置を提供すること。
【解決手段】画像生成装置100は、水平方向よりも俯角だけ下向きに設置された撮像装置により撮像された第1の画像から、前記第1の画像が画像変換された第2の画像を生成する画像生成装置100であって、撮像装置を端点とする、鉛直方向のベクトルと撮像面との交点を通る、第1の画像における直線を特定する特定部105xと、特定された直線に沿って、第1の画像2の画素をサンプリングすることで、前記第2の画像を生成する画像展開処理部103とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、監視装置等の撮像画像におけるパースペクティブ歪みの補正に関する。
【背景技術】
【0002】
従来より、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子を用いた監視装置がある。このような監視装置として、撮像した画像に対して画像処理を行い、画像中の物体、特に人物を検出するようなものが広く用いられている。画像中の人物を検出する方法として、一般的には、非特許文献1のような、統計的学習に基づくパターン認識技術による方法が用いられている。
【0003】
この手法では、以下の各技術が用いられる。撮像画像から、識別に用いる特徴量を抽出する特徴選択技術が用いられる。選択した特徴量を入力として、対象物であるか否かを判定する識別器を構築する識別器構築技術が用いられる。構築した識別器を使って、画像中の部分領域内に人物が存在するか判定する技術が用いられる。
【0004】
一般的なレンズを用いた監視装置は、天井等の高い位置に、一定の俯角をつけて設置される。このように、見下ろして撮影した撮像画像には、3次元の被写体を、2次元の撮影素子に投影したことで生じるパースペクティブ歪みが顕著に生じる。これが原因で、直立した同一人物の映像であっても、画像中における、その映像が映る位置が、画像の中心部であるか、端部であるかによって、画像中の、その映像に映された人物の傾きが異なってしまう。つまり、その人物の方向(足元から、頭への方向など)が異なってしまう。
【0005】
しかし、人物検出用に構築した前記識別器は、画像中において、特定の傾きをもった人物しか検出することができない。よって、監視装置の撮像画像中の全ての人物を、自動的に検出するためには、一般的に、画像中に映りうる、全ての人物の傾きに対応した識別器を作成して、識別器の数だけ判定処理を行う、という方法がとられている。
【0006】
また、監視装置においては、一つのカメラで全範囲を監視したいというニーズのために、魚眼レンズ・全方位ミラー等を用いた全方位撮像装置を使用することも増えている。全方位撮像装置を用いた監視装置の場合、撮像画像は、円形の特殊な画像となるため、撮像画像に、ある変換処理を行った画像上で検出を行うことが多い。
【0007】
例えば、非特許文献2では、全方位画像を、物体の縦横比を保持したまま、円形画像の中心を基点として、画像をパノラマ展開している。その結果、展開後の画像では、画像中の人物の上下が等しくなるため、通常のレンズで撮影した画像と同様の処理で検出が行える。
【先行技術文献】
【非特許文献】
【0008】
【非特許文献1】Dalal、 N. and Triggs、 B.、 “ Histograms of oriented gradients for human detection”、Computer Vision and Pattern Recognition、 2005. IEEEComputer Society Conference、pages:886-893
【非特許文献2】佐藤辰雄、後藤和弘、“全方位カメラのためのパノラマ画像展開”、大分県産業科学技術センター研究報告、巻:2002 頁:9-11
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、識別器を増やした場合、人物検出処理に、多くの記憶領域と処理時間とが必要となってしまうという問題点があった。
【0010】
また、通常のレンズを用いた監視装置であっても、監視範囲をなるべく広く取るために、広角レンズ(視野角90度程度)を使用することが多い。しかし、広角レンズを用いた監視装置の場合には、通常のレンズでの場合よりも、パースペクティブ歪みが顕著であるため、撮像画像上の全ての人物を検出しようとした場合、より多くの検出器を用意しなければならい。
【0011】
さらに、全方位画像に対する画像変換についても、前記非特許文献2では、入力画像は全方位画像であるという前提を置いているため、通常のレンズを用いた撮像装置に対しては、使用できないという課題があった。
【0012】
本発明は、前記従来の課題を解決するもので、撮像装置の種類によらず、画像中に写される人物の傾きを等しくして、物体検出に適した画像変換処理をする撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
前記従来の課題を解決するために、本発明の画像生成装置は、水平方向よりも俯角だけ下向きに設置された撮像装置により撮像された第1の画像から、前記第1の画像が画像変換された第2の画像を生成する画像生成装置であって、前記撮像装置を端点とする、鉛直方向のベクトルと、撮像面との交点を通る、前記第1の画像における直線を特定する特定部と、特定された前記直線に沿って、前記第1の画像の画素をサンプリングすることで、前記第2の画像を生成する画像展開処理部とを備える構成を採る。
【0014】
本構成によって、パースペクティブ歪みや全方位画像の撮像方式に起因する、画像中の映像に写される人物(物体)の傾きを、画像変換によって統一した画像を生成することができる。
【発明の効果】
【0015】
本発明の撮像装置によれば、出力した画像中では、地面に対して直立している人物(物体)の傾きが統一されているため、物体検出、特に人物検出における特徴量が一つで済むようになる。
【0016】
また、光学系は、広角レンズに限らず、魚眼レンズ・全方位ミラーであっても、適切な補正画像を出力することができる。
【0017】
撮像装置の光軸の方向(図8の方向804Lを参照)が、斜め下向き(図8の説明などを参照)であるにも関わらず、不適切な方向(方向9xdを参照)が特定されてしまうのが回避されて、適切な方向(方向4bdを参照)が特定できる。
【0018】
これにより、ひいては、光軸の方向が、斜め下向きであるにも関わらず、構成(人物検出器100dを参照)が複雑になるのが回避されて、構成が簡単にできる。
【図面の簡単な説明】
【0019】
【図1】図1は、実施の形態1における撮像装置の構成を示すブロック図である。
【図2】図2は、実施の形態1における撮像装置の設置の一例を示す図である。
【図3】図3は、実施の形態1における撮像画像の一例を示す図である。
【図4】図4は、レンズによる撮像面への投影を示す図である。
【図5】図5は、ピンホールカメラによる投影の様子を描いた図である。
【図6】図6は、図5の撮像面を仮想視点位置の前側に置いた図である。
【図7】図7は、実施の形態1における撮像画像と、画像変換処理部によって出力される展開画像の一例を示す図である。
【図8】図8は、実施の形態1における撮像画像上にカメラ真下点、等俯角点とそれらを結んだ半直線を描画した図である。
【図9】図9は、実施の形態1における撮像画像上に複数の半直線を描画した図である。
【図10】図10は、実施の形態1における画像変換方法を示した図である。
【図11】図11は、実施の形態1における画像変換時にサンプリング間隔を一定にした場合の展開画像図である。
【図12】図12は、実施の形態1における画像変換時にサンプリング間隔を局所的に縦横比が等しくなるようにした場合の展開画像図である。
【図13】図13は、実施の形態1における画像展開時に物体の傾きが統一されることを示す概念図である。
【図14】図14は、実施の形態1における撮像装置の動作フロー図である。
【図15】図15は、実施の形態2における撮像装置の構成を示すブロック図である。
【図16】図16は、魚眼レンズの射影方式を示す図である。
【図17】図17は、実施の形態2における撮像画像の一例を示す図である。
【図18】図18は、通常のレンズ(中心投影モデル)の射影方式を示す図である。
【図19】図19は、本発明の実施の形態2における撮像画像を歪補正部により補正した画像の一例を示す図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される構成要素、構成要素の接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。本発明は、請求の範囲だけによって限定される。よって、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、本発明の課題を達成するのに必ずしも必要ではないが、より好ましい形態を構成するものとして説明される。
【0021】
実施形態の画像生成装置は、水平方向(図2の方向x)よりも俯角(角度201)だけ下向きに設置された撮像装置101により撮像された、第1の画像(撮像画像)2から、第1の画像2が画像変換された、第2の画像(展開画像)3を生成する画像生成装置(画像変換装置、コンピュータ、情報処理装置、画像変換処理部)100であって、撮像装置101を端点とする、鉛直方向(図8の方向z)のベクトル(単位カメラ真下ベクトル)806と、撮像面807との交点(カメラ真下点)801を通る、第1の画像2(図2、図7上欄、図8右欄)における直線803(図8)を特定する特定部105xと、特定された直線803に沿って、第1の画像2の画素をサンプリングすることで、第2の画像3を生成する画像展開処理部103とを備える画像生成装置100である。
【0022】
つまり、例えば、直線803に含まれる複数の画素が特定されることにより、それら複数の画素からなる直線803が特定される。
【0023】
例えば、上述のサンプリングがされることにより、第2の画像3における、その第2の画像3の上下方向3yのライン5bLに含まれる複数の画素は、サンプリングされた、特定される直線803に含まれる複数の画素である。つまり、第1の画像2に含まれる、直線803Lの複数の画素がサンプリングされることにより、その直線803の方向803Lと同じ方向である、第1の映像4bIにおける、人物100hの方向4bdが、上述の適切な方向(方向2y)へと変化される。これにより、第2の映像5bIにおける、人物100hの方向5bdが、変化後の適切な方向(方向2y)であり、検出器の構成が、簡単にされる。
【0024】
また、例えば、撮像される第1の画像2は、人物4b(図7)が映された映像4bIを含み、映された人物4bの足元から頭への方向4bdは、第1の画像2の上下方向2yとは異なる方向であり、この異なる方向4bdは、鉛直方向のベクトル806と撮像面807(撮像面807に投影された第1の画像2)との交点801と、映像4bIの位置とを通る直線803の方向と同じ方向であり、特定部105xは、この交点801を通る直線803を特定することにより、特定される直線803の方向803Lを、人物4bの方向4bdとして特定し、生成される第2の画像3は、人物4bと同じ人物である人物5bが映された映像5bIを含み、含まれる映像5bIは、第1の画像2に含まれる映像4bIにおける、特定された方向803L(方向4bd)が、第2の画像3の上下方向3yに変換されることで生成された映像である。
【0025】
これにより、角度(俯角、設置俯角)201だけ下向きに撮像がされるにも関わらず、映像4bIが、映像5bIへと変換され、映像4bIに映された、適切でない方向4bdの人物4bの検出がされるのが回避され、映像5bIに映された、適切な方向5bdの人物5bの検出がされる。これにより、その検出をする構成(例えば図2の人物検出器100d)が、簡単にできる。
【0026】
なお、例えば、適切でない方向は、検出がされる人物である一方の人物(人物4b)以外の他方の人物(人物4a)の方向(方向4ad)とは異なる方向などである。
【0027】
つまり、適切である方向は、一方の人物(人物5b)ではない他方の人物(人物5a)の方向(方向5ad)と同じ方向などである。
【0028】
なお、上述された、画像(第1の画像2、第2の画像3)に映された他の人物の方向(方向4ad、5ad)は、例えば、その画像の上下方向(方向2y、3y)である。
【0029】
なお、例えば、撮像面807は、第1の画像2が投影される面である。この撮像面807は、例えば、その撮像面807に設けられた撮像素子などに、第1の画像2が撮像されるのに際して、撮像される第1の画像2が投影される面でもよい。また、撮像面807は、例えば、撮像素子などが設けられる面ではなく、単に、その面に、撮像素子などが設けられた場合には、設けられた撮像素子へと、第1の画像2が投影されると考えられる面などでもよい。
【0030】
なお、撮像面807は、例えば、その面の中心(図3の位置9xを参照)に、撮像装置101の光軸(図8のベクトル805を参照)が通り、かつ、その面が、その光軸に垂直である面などである。
【0031】
このため、上述された、その角度だけ、撮像装置101が、下向きに設置される上述の角度201が、一方の角度201a(図2)とは異なる他方の角度201bである場合における撮像面807である第1の面は、角度201が、一方の角度201aである場合における撮像面807である第2の面とは異なる。
【0032】
つまり、角度201が、他方の角度201bである場合に特定される直線803である一方の直線(一方の方向803Laを参照)は、一方の角度201aである場合に特定される直線803である他方の直線(他方の方向803Lbを参照)とは異なる。
【0033】
角度201を示すデータがあってもよい(図1のパラメータ保持部104などを参照)
。このデータは、問えば、画像生成装置100により記憶されてもよいし、撮像装置101から、取得部100g(図2)により取得されてもよい。
【0034】
なお、取得されるデータ(図2のデータ101dを参照)により示される角度201は、例えば、撮像装置101に設けられた検出部(ジャイロなど)101sにより検出された角度などでもよい。
【0035】
このデータは、例えば、画像生成装置100に対して、このシステム100sのユーザなどにより操作がされることにより、画像生成装置100へ入力されたデータなどでもよい。
【0036】
取得されるデータにより、一方の角度201aと示される場合には、生成される第2の画像3における、上下方向3yのライン5bLに含まれる複数の画素は、第1の画像2に含まれる、その場合に特定される一方の直線に含まれる複数の画素であるなどして、第1の直線の複数の画素から特定される。
【0037】
他方の角度201bと示される場合には、生成される第2の画像3における、上下方向3yのライン5bLに含まれる複数の画素は、第1の画像2に含まれる、その場合に特定される他方の直線に含まれる複数の画素であるなどして、他方の直線の複数の画素から特定される。
【0038】
これにより、角度201が、一方の角度201aである場合にも、他方の角度201bである場合にも、生成される第2の画像3が適切な画像にできる。
【0039】
なお、例えば、角度201は、撮像装置101が、一方の場所に設置される場合には一方の角度201aである一方で、他方の場所に設置される場合には他方の角度201bでもよい。
【0040】
また、例えば、角度201は、一方の期間においては一方の角度201aである一方で、一方の期間に続く、一方の期間よりも後の期間などである他方の期間においては他方の角度201bでもよい。
【0041】
なお、こうして、第1の画像2の中心の位置9xと、第1の映像4bIの位置とを通る線(直線)の方向9xdがある。
【0042】
この方向9xdは、人物100hがいる空間100rにおける、鉛直方向zの上向きの方向(方向zの負の方向)を表わす方向ではない、その他の方向である(非特許文献2の先述の「基点」「中心」を参照)。
【0043】
そこで、この方向9xdが特定されて、特定された方向9xdに基づく処理がされて、その他の方向に基づく処理がされ、行われる処理が、不適切になってしまうことが回避される。
【0044】
つまり、撮像面807へと投影された第1の画像2上における、撮像装置101から、鉛直方向zの位置801と、第1の映像4bIの位置とを通る直線803の方向803Lが特定される。これにより、特定された方向803Lに基づく処理がされ、行われる処理が、適切にできる。
【0045】
(実施の形態1)
図1〜図19を用いて、実施の形態1におけるシステム100sの構成について説明する。
【0046】
図1は、本発明の実施の形態1におけるシステム100sを示す図である。
【0047】
システム100sは、画像変換処理部(画像生成装置)100と、撮像装置101とを備える。
【0048】
図1において、画像変換処理部100は、撮像装置101により撮像された撮像画像(第1の画像)2を入力とし、撮像画像取得部102と、画像展開処理部103と、パラメータ保持部104と、対応点計算部105とを有する。
【0049】
なお、画像変換処理部100の一部または全部は、例えば、CPU、ROM、RAMなどを備えるコンピュータでもよい。このコンピュータによりプログラムが実行されることにより、上述の撮像画像取得部102の機能などの、画像変換処理部100に実現される各機能が、この画像変換処理部100に実現されてもよい。
【0050】
なお、画像変換処理部100は、例えば、撮像装置101の一部などでもよい。
【0051】
また、画像変換処理部100は、例えば、撮像装置101の外部に設けられてもよい。例えば、画像変換処理部100は、撮像装置101により撮影されて、監視される、ビルのエントランスなどの空間から離れた空間などに設けられてもよい。離れた空間は、例えば、そのビルの守衛室などでもよい。
【0052】
撮像装置101は、例えば、1台で比較的広い範囲を監視する監視装置である。その場合、撮像装置101は、広角レンズ(後述の図2のレンズ101Lを参照)を用いた監視カメラであり、監視空間の撮影を行う。
【0053】
図2は、撮像装置101の設置の一例を示す図である。
【0054】
図3は、撮像画像2の一例を示す図である。
【0055】
図3により、撮像装置101を、図2のように、床面101fより高い位置に、ある程度の設置俯角(角度)201を持って設置した場合の撮像画像2の例が示される。撮像画像2は、撮像装置101の撮像面807(後述の図4〜図6、図8などを参照)に投影された3次元空間情報(画像)をデジタル化して記録したものである。
【0056】
ここで、撮像面807への、3次元空間情報の投影、および、撮像面807上の物理座標系と、撮像画像2上の画像座標系との間の変換について簡単に説明する。
【0057】
図4は、理想的なレンズを用いた撮像装置による投影の様子を示す図である。
【0058】
3次元空間におけるある点から発せられた光は、撮像面9a11に入射する角度に応じて、撮像面9a11のある一点に集約される。理想的なレンズでは、このようにして、光が集約されて、集光される位置である集光位置の複数個が、ある一つの平面(撮像面9a11)上に集まる。
【0059】
このため、この平面上に、CCD等の撮像素子を設置すれば、ピントの合った画像が得られる。
【0060】
これら、レンズと撮像素子とによって、3次元空間から2次元空間への投影が起こる。
【0061】
このとき、撮像装置の幾何学的な性質のみを考えれば、レンズの中心の一点のみに注目することで、この撮像装置は、ピンホールカメラモデルにおけるピンホールカメラに近似できる。
【0062】
図5は、ピンホールカメラによる投影の様子を描いた図である。
【0063】
レンズの中心が仮想視点位置9a3となり、光の集まる平面が、撮像面9a4となる。また、仮想視点位置9a3と、撮像面9a4との間の距離が、焦点距離である。
【0064】
図6は、図5の撮像面を、仮想視点位置9a3の前側に置いた図である。
【0065】
図5に示されるように、ピンホールカメラでは、対象物9a2が上下逆転して投影されるが、図6に示されるように、撮像面(撮像面9a5)を、仮想視点位置9a3の前に置くと、像が逆転せず、投影される。撮像面(撮像面9a5)を、この図6のように置いても、その撮像面に投影される物体の相似性は保証されるため、今後、撮像面は、対象物9a2側に置いて考えることとする。
【0066】
実際の撮像装置では、撮像面に、CCDやCMOS等の撮像素子を設置することで、撮像素子の各素子に到達した光の強弱といった、アナログな、3次元空間の情報を、デジタル信号に変換し、撮像画像を作成する。
【0067】
次に、撮像面上の物理座標系と、撮像画像上の画像座標系の間での、座標(座標系)の変換について説明する。
【0068】
撮像画像上の画像座標系の原点や縦横比等は、物理座標系と無関係に自由に決めることが出来る。
【0069】
このことより、実際のカメラをモデル化する場合には、物理座標系から画像座標系への変換を考える必要がある。
【0070】
この変換を行う際には、座標系の原点位置合わせのための平行移動、縦横比や焦点距離に応じたスケール変換定数がわかればよい。
【0071】
一般的に、これらのパラメータは、内部パラメータと呼ばれ、行列の形で表される。
【0072】
この行列を用いることで、撮像画像上の画像座標と、撮像面上の物理座標との間での変換をすることができる。これにより、画像中のある画素について考えた場合、物理座標系において、撮像面のどの位置を通って、仮想視点位置に集まった光線の画素なのかが計算で求められる。
【0073】
画像変換処理部100において、撮像装置101の内部パラメータは、既知であるとする。
【0074】
このとき、俯角(設置俯角、角度)201及び内部パラメータは、パラメータ保持部104に保持される。なお、例えば、角度201も、内部パラメータの1つでもよい。
【0075】
撮像装置101は、上記のような手順を経て作成された撮像画像2を、撮像画像取得部102(図1)を介して、画像展開処理部103に送る。
【0076】
撮像画像取得部102とは、例えば、撮像画像2の記録再生部である。
【0077】
画像展開処理部103は、撮像画像取得部102から取得した撮像画像2に対して、処理をして、撮像画像(第1の画像)2から、撮像画像2中に写された人物の傾きを統一した展開画像(第2の画像)3を出力する。
【0078】
図7は、入力された撮像画像2に対応した展開画像(第2の画像)3の一例である。
【0079】
画像展開処理部103は、撮像画像2において、全方位画像のパノラマ展開処理に似た、ある画像変換(以下で詳述)を行うことで、展開画像3を作成する。
【0080】
このとき、この変換に必要な、画像(撮像画像2、展開画像3)中の各座標は、対応点計算部105(図1)が計算する。
【0081】
画像展開処理の内容について説明する。
【0082】
図8は、撮像画像2などを示す図である。
図8では、撮像画像2上に、カメラ真下点801、等俯角点802と、それらを結んだ半直線803が描画される。
【0083】
図9は、撮像画像2上に複数の半直線803を描画した図である。
【0084】
まず、画像変換に必要な対応点の計算方法について、図8、9を用いて説明する。
【0085】
対応点計算部105は、撮像画像2におけるカメラ真下点801と、等俯角点802とを計算する。
【0086】
その後、カメラ真下点801を端点とし、等俯角点802へと、その端点からの線を伸ばす事で、半直線803を作る(特定する)。
【0087】
図8において、804は、撮像装置101の仮想視点位置(撮像装置101の位置)である。805は、撮像装置101の光軸の方向804Lの向きの単位ベクトルである単位光軸ベクトルである。806は、カメラ設置位置から鉛直真下方向(z方向)を向いた単位ベクトルである単位カメラ真下ベクトルである。
【0088】
また、撮像画像2が投影される、撮像装置101の撮像面を807とする。
なお、撮像面807は、図6の撮像面と同様の概念であり、実際のカメラ撮像面とは異なるが、この撮像面807で得られる画像は、実際のカメラ撮像面での撮像画像2との相似性が保証されている画像である。
【0089】
このとき、カメラ真下点801とは、単位カメラ真下ベクトル806と、撮像面807との交点位置(図8の位置807a)を、内部パラメータを用いた座標変換により、撮像画像2上に描画した点である。
【0090】
同じく、等俯角点802とは、単位光軸ベクトル805を、ある定められたサンプリング角度901(図9)によって、この角度901を整数倍した角度だけ、方位角方向に回転したベクトル808(図8左欄上段)と、撮像面807との交点(位置808p)を、座標変換により、撮像画像2上に描画した点である。
なお、図9では、角度901が3倍された角度の回転がされたベクトル808が例示される。
【0091】
このサンプリング角度によって、等俯角点の間隔と個数とが決まり、ひいては、半直線の本数が決まる。
【0092】
なお、図9では、特定される複数の半直線のうちの、11個の半直線が例示される。
【0093】
このため、結果として、展開画像3の水平解像度が決まる。
【0094】
サンプリング角度901(図9)は、パラメータ保持部104が保持している。
【0095】
なお、等俯角点802を求める際、一例として、単位光軸ベクトル805を用いているが、方位角方向に回転した各ベクトルの俯角が同一であれば良く、必ずしも単位光軸ベクトル805を用いなくとも良い。なお、このように、例えば、上述の各ベクトルのうちの一方のベクトルの俯角は、他方のベクトルの俯角と同じであり、一方のベクトルは、他方のベクトルが、鉛直方向zを回転軸として回転されたベクトルである。
【0096】
図9では、単位光軸ベクトル805を、方位角方向に回転した場合の各ベクトル808と、撮像面807との交点(等俯角点802)を、撮像画像2上に図示している。
【0097】
なお、図9の等俯角点802xでは、一例として、単位光軸ベクトル805を、0度しか回転させず、そのまま延長した場合の等俯角点802を、撮像画像2上に図示している。特定される複数の半直線803は、例えば、このような、単位光軸ベクトル805がそのまま延長されただけの等俯角点802xでの半直線803を含んでもよい。
【0098】
図10は、画像変換方法を示した図である。
【0099】
次に、半直線803の端点であるカメラ真下点801、および、複数の等俯角点802によって作られる複数の半直線803を用いた、展開画像3の作成方法について、図10を用いて説明する。
【0100】
まず、1本の半直線803について着目すると、図10のように、撮像画像2上の半直線803上を、その撮像画像2上のある間隔で、カメラ真下点801側から、等俯角点802の方向にサンプリングした結果が、展開画像3の垂直1ライン分(図10のライン5bLを参照)に対応する。展開画像3上での向きについては、カメラ真下点801側が、展開画像3の下側(方向3yの負の側)に対応し、等俯角点802側が、展開画像3の上側(方向3yの正の側)に対応する。
【0101】
つまり、撮像画像2における、カメラ真下点801から、等俯角点802へと向かう向きは、展開画像3における、その展開画像3の下側から上側への向き(方向(上下方向)3yの正の向き)へと変換される。
【0102】
なお、例えば、展開画像3における、展開画像3の上下方向3yのライン5bLがある。
【0103】
展開画像3は、このライン5bL上に、撮像画像2に含まれる、半直線803上の画素を含んでもよい。
【0104】
つまり、例えば、ライン5bLにおける上述の画素は、半直線803上の上述の画素の画素値と同じ画素値、または、近傍の画素値などでもよい。
【0105】
近傍の画素値は、例えば、半直線803上の上述の画素の画素値に対して、その画素の近傍の画素の画素値へと近づける補正がされた画素値などである。
【0106】
展開画像3は、ライン5bL上に、撮像画像2における、半直線803上のそれぞれの画素を含んでもよい。
【0107】
撮像画像1は、半直線803上における、カメラ真下点801により近い側(撮像画像2の上下方向2yの負の側)にある一方の画素と、より遠い側(上下方向2yにおけるより正の側)にある他方の画素とを含んでもよい。
【0108】
展開画像3は、ライン5bL上における、展開画像3の上下方向3yのより負の側に、上述の一方の画素を含み、より正の側に、上述の他方の画素を含んでもよい。
【0109】
なお、半直線803上のサンプリング間隔(後述の図12の間隔1201、1202などを参照)の決め方については後述する。
【0110】
複数の半直線803上での複数のサンプリング結果を、図10の上段(撮像画像2)における(1)〜(11)と、下段(展開画像3)における(1)〜(11)とに示されるように、処理する。つまり、撮像画像2のカメラ真下点801を原点とした、半直線803の角度の順序がある。それぞれのサンプリング結果が、そのサンプリング結果のサンプリングがされた半直線803の順序と同じ順序で、展開画像3に含まれる。つまり、半直線803の順序と同じ順序で、それらの、複数の半直線803での複数のサンプリング結果が、水平方向(左右方向3xの方向)に、左から右へと並べられることで、展開画像3が作成される。
【0111】
つまり、撮像画像2における半直線803の順序(上段の(1)〜(11))がある。
展開画像3におけるライン5bLの順序(下段の(1)〜(11))がある。
【0112】
例えば、より早い順序の半直線803における画素(サンプリング結果)が、より早い順序のライン5bLに含まれてもよい。
【0113】
また、展開画像3の水平解像度は、半直線803の個数によって決まり、図10では、一部の半直線803しか図示していないが、実際には、展開画像3の水平解像度分だけの個数の半直線803を作成している。
【0114】
図11は、画像変換時に、サンプリング間隔(間隔9b)を一定にした場合の展開画像3である展開画像3pなどを示す図である。
【0115】
図12は、画像変換時にサンプリング間隔を、局所的に縦横比が等しくなるようにした場合の展開画像3である展開画像3qなどを示す図である。
【0116】
ここで、上記サンプリング間隔の決定方法の一例について、図11、図12を用いて説明する。
【0117】
展開画像3における、縦方向(図10の上下方向3yの方向)の解像度は、撮像画像2中の半直線803上のサンプリング間隔で決まる。
【0118】
また、横方向の解像度は、半直線803の本数、つまり等俯角点802の数によって決まる。
【0119】
よって、単純にサンプリング間隔を、図11のように、一定の値にしてしまうと、同一人物の縦横比が、展開画像3の複数の領域のうちで、その人物が写された領域が何れであるかによって変化してしまう(図11の展開画像3pを参照)。
【0120】
なお、例えば図11の展開画像3pに示されるように、図11のより下側の領域である、上下方向3yの比較的負の側の領域では、横方向(左右方向3x)の長さに対する、縦方向(上下方向3y)の長さの比が比較的大きい。
【0121】
一方で、より上側の領域である、上下方向3yの比較的正の側の領域では、この比が比較的小さい。
【0122】
その結果、人物検出に必要な識別器の数が多くなってしまい、画像変換を行う意味がなくなってしまう。
【0123】
なお、例えば、より下側の領域での検出のための識別器と共に、より上側の領域での検出のための識別器が必要で、必要な識別器の数が多くなってしまう。
【0124】
そこで、図12のように、局所領域での、半径方向(半直線803の方向)の半径方向サンプリング間隔1201と、円周方向(半直線803の端点である点801を中心とする周回り方向)の円周方向サンプリング間隔1202を等しくして(例えば、図12の2つのΔrに示されるように、1:1の比にして)、半直線803の本数と、半直線803上のサンプリング間隔とを、それぞれ独立に定めないようにする。すると、それぞれ独立に定めた場合よりも、人物の縦横比が、より十分に保存された、より適切な展開画像3(図12の展開画像3q)を作成することができる。
【0125】
その結果、展開画像3は、図12の展開画像3qで示されるようになり、人物検出の検出器を減らすことが出来る。
【0126】
図13は、傾きが統一されることを示す概念図である。
【0127】
また、カメラ真下点801と各等俯角点802とを結んだ半直線803について、図13に示すように、地面に鉛直な物体もしくは人物は、撮像画像2において、必ず、この半直線803に沿って撮像される。つまり、展開画像3に写された人物等(人物4bなど)の方向(図3の方向4bd)は、その人物等の位置を通る半直線803の方向803L(図13)と同じ方向である。
【0128】
よって、半直線803上に沿ったサンプリングを行い、その半直線803上の複数の画素をサンプリングする(抽出する)ことで、その人物等の、画像中の位置によらず、その人物等(物体)の傾きが統一されて、同じにされた展開画像3を作成することが出来る。
【0129】
次に、以上の構成を有する画像変換処理部100の動作について説明する。
【0130】
図14は、画像変換処理部100の動作説明に供するフロー図である。
【0131】
なお、後で詳しく説明されるように、例えば、角度201(図2)が、変更前における角度(一方の角度201a)から、変更後における角度(他方の角度201b)へと変更されてもよい。つまり、先述のように、撮像装置101は、水平方向x(図2)よりも、俯角の角度201だけ下向きに設置される。例えば、設置された撮像装置101の光軸の向きが、上述された、下向きの向きである。この角度201が、変更されてもよい。説明される図14の処理は、例えば、設置される角度が、変更後の角度(角度201b)へと変更された際などに、変更後の角度201(角度201b)に基づいて行われてもよい。
【0132】
ステップST1401で、対応点計算部105は、設置俯角201(変更後の角度201a)、および、内部パラメータを用いて、撮像画像2中のカメラ真下点801(上述)を求める。
【0133】
ステップST1402で、対応点計算部105は、設置俯角201、内部パラメータ、サンプリング角度901(図9)を用いて、撮像画像2中の各等俯角点802を求める。
【0134】
ステップST1403で、画像展開処理部103は、撮像画像取得部102から受け取った撮像画像2を基に、対応点計算部105で計算したカメラ真下点801、および、等俯角点802(図1の情報4)を用いて、展開画像3を作成する。
【0135】
本実施の形態1により、監視装置における撮像画像2中の位置によらず、その位置の物体や人物の傾きを、それぞれの他の位置での人物などの傾きと統一し、同じにした画像(図10等の第2の画像3など)を作成することができる。これにより、物体検出、特に人物検出における特徴量が一つで済むようになるため、検出処理が容易になる。
【0136】
以上、本発明の実施の形態1におけるシステム100sについて説明したが、本発明はこの実施の形態に限定されるものではない。
【0137】
例えば、図1において、撮像装置101は、広角レンズを用いた監視カメラと説明したが、双曲面鏡等全方位ミラーを用いて、全方位を撮像する監視カメラでもよく、画像上のカメラ真下点と等俯角点群とが計算できれば良い。この場合、撮像画像中のカメラ真下点と等俯角点とは、光線ベクトルの反射計算により計算することが出来る。
【0138】
(実施の形態2)
図15は、システム1500sの構成を示すブロック図である。
【0139】
図15を用いて、実施の形態2におけるシステム1500sの構成について説明する。
【0140】
なお、図15において、図1と同じ構成要素については同じ符号を用い、適宜、詳細な説明を省略する。
【0141】
図15により、本発明の実施の形態2における、画像変換処理部1500と、魚眼レンズ撮像装置1501とが示される。
【0142】
図15において、1502は、画像歪補正部である。
【0143】
魚眼レンズ撮像装置1501は、通常のレンズの代わりに魚眼レンズを用いることで(図2のレンズ101Lを参照)、より広い範囲を撮像可能とした撮像装置である。
【0144】
図16は、等距離射影の魚眼レンズにおける入射光線9pの、撮像面9qへの射影状態をモデル化した図である。
【0145】
f1を、魚眼レンズの焦点距離、光線の入射角(天頂角)をθ、方位角をφとしたとき、等距離射影の場合の、撮像面9qの中心からの距離L1は、入射角θに比例するように定められる。
【0146】
従って、式(1)のように、βとθの関係を定めた場合、L1とβには、式(2)の関係がある。
【0147】
また、L1と、撮像面座標P1=(x1、y1)との間には、式(3)、(4)の関係がある。
【0148】
なお、ほとんどの魚眼レンズでは、等距離射影方式が採用されている。
【0149】
【数1】

【0150】
図17は、撮像画像2hの一例を示す図である。
【0151】
等距離射影方式の魚眼レンズ撮像装置1501を、図3の撮像画像2を撮影した撮像装置101と同等の条件で設置した場合の魚眼レンズ撮像画像2hの例を図17に示す。
【0152】
図17のように、等距離射影方式の魚眼レンズを用いて撮像した画像は、魚眼レンズ特有の歪みが生じるが、下記に示す変換を行うことで、歪みを補正した画像を生成することができる。
【0153】
図18は、中心射影方式のレンズにおける、入射光線の射影状態を表した図である。
【0154】
ここで、焦点距離f2の、中心射影方式のレンズを考えた場合、撮像面中心からの距離L2は、以下の式(5)で表され、L2と撮像面座標P2=(x2、y2)との間には、式(6)、(7)の関係がある。
【0155】
【数2】

【0156】
ここで、式(1)、式(2)と式(5)とより、L1とL2には以下の関係式(8)が成り立つ。
【0157】
【数3】

【0158】
上記(6)、(7)、(8)式より、各レンズの焦点距離が既知であり、かつ、光線の入射角・方位角が等しい場合、撮像面座標P1に対応する撮像面座標P2を変換することが可能となる。カメラの内部パラメータが既知であれば、撮像面座標から画像座標に変換することが出来るため、等距離射影方式の魚眼レンズで撮影した画像を、中心射影方式のレンズで撮影した画像に変換することができる。
【0159】
図19は、補正した画像の一例を示す図である。
【0160】
上記の変換を用いて図17の画像を変換した歪補正画像2iの例を図19に示す。図19を見ると、歪補正を行うことで、広角レンズで撮影した撮像画像である、図3の撮像画像2と同じ画像が作成できていることがわかる。
【0161】
以上の様に、魚眼レンズ撮像装置1501で撮影した魚眼レンズ撮像画像2hに対しても、画像歪補正部1502を備えることで、歪みのない画像(撮像画像2i)を作成することができる。
【0162】
よって、以後は、実施の形態1と同様の処理を行うことで、撮像画像2i中の位置によらず、物体や人物の傾きを統一した画像を作成することができる。
【0163】
なお、こうして、例えば、次の動作が行われてもよい。
【0164】
つまり、撮像画像2が撮像されてもよい(図1の撮像装置101、図2、図3等を参照)。
【0165】
そして、撮像画像2が、地面(図2等)よりも高い箇所から、水平(図8の方向x)よりも俯角201(図8、図2など)だけ下側の向きが撮像された画像でもよい。
【0166】
つまり、例えば、撮像装置101は、監視カメラなどである。
【0167】
しかしながら、撮像された、このような撮像画像2に対して、先述された、人物の検出などの処理がされることが考えられる。
【0168】
つまり、例えば、撮像画像2は、一方の映像(例えば図7の第1の映像4aIなど)だけでなく、他方の映像(他方の映像4bIなど)も含む。
【0169】
一方の映像は、鉛直方向(人物の足元から頭への向き、図8のz方向の負の向き)が、上下方向2yの向き(下から上への向き)に写された映像である。
【0170】
そして、他方の映像は、鉛直方向(図8のz方向の負の向き)が、上述された、上下方向2yの向き(下から上への向き)以外のその他の向き(斜めの向き)(図7の他方の映像4bIでは、斜め右上への方向4bd)に写された映像である。
【0171】
このため、例えば、先述のように、このような他方の映像での処理に適する余計な識別器が必要になるなどして、構成が複雑になってしまう恐れがある。
【0172】
そこで、撮像画像2から展開画像3(図7下段など)が生成されてもよい(画像展開処理部103、図14のST1403)。
【0173】
つまり、この生成により、上述のその他の方向である、鉛直方向が写された方向(方向4bd)が、他方の映像における方向(方向4bd)から、生成される展開画像3における、当該展開画像3の上下方向3yと同じ方向5bd(図10下段の、ライン5bLの方向)へと変化してもよい。
【0174】
なお、展開画像3は、例えば、撮像画像2に対して、この変化が生じる変形が加えられた画像などでもよい。
【0175】
なお、例えば、展開画像3に表れた、方向5bdが、その人物の(足元から頭への)方向である人物(図2の人物100hを参照)は、撮像画像2に表れた、方向4bdが、その人物の方向である人物と同じ人物である。
【0176】
なお、具体的には、先述のように、方向4bd(図10の半直線803L)に沿って、それぞれの画素がサンプリングされることにより、この生成がされてもよい。
【0177】
なお、例えば、撮像画像2が展開画像3へと変換されてもよい。
【0178】
そして、この変化の前の撮像画像2に対して、人物の検出などの処理がされず、変化の後の展開画像3に対して、人物の検出などの処理がされてもよい。
【0179】
これにより、展開画像3への処理がされ、例えば、余計な識別器が必要になるのが回避されるなどで、構成が簡単にできる。
【0180】
しかしながら、上述された、鉛直方向(図8の方向z)が写された方向4bdの向きが特定されるのに際して、例えば、撮像画像2の解析などの処理において、複雑な処理がされて、十分に、構成が簡単にできない恐れがあることに気付く。
【0181】
そこで、撮像画像2における、撮像装置101の鉛直方向(図8のz方向)の箇所が撮像されたカメラ真下点801(図8、図9など)があることに気付く。
【0182】
つまり、このカメラ真下点801から他方の映像(他方の映像4bI)への方向(図10の半直線803の方向803L)は、他方の映像における、鉛直方向(方向z)が写された方向4bd(図7など)と同じ方向であることに気付く。
【0183】
そこで、カメラ真下点801が特定されてもよい(対応点計算部105、ST1401)。
【0184】
つまり、これにより、特定されるカメラ真下点801から他方の映像への方向(半直線803の方向803L)が、鉛直上向きが写された方向4bdと特定されてもよい。
【0185】
そして、特定された方向4bdに基づいて、この方向4bdが、先述の方向3yへと変化した(変換された)展開画像3が生成されてもよい。
【0186】
これにより、単に、カメラ真下点801が特定されるなどだけの簡単な処理で済み、複雑な処理がされず、十分に(大幅に)、構成が簡単にできる。
【0187】
なお、例えばある局面などで次の動作がされてもよい。
【0188】
すなわち、撮像装置101により、第1の画像(撮像画像)2が撮像されてもよい。
【0189】
撮像される第1の画像2は、第1の映像4bI(図7)を含んでもよい。
【0190】
含まれる第1の映像4bIには、人物4bが映される。
【0191】
一方、撮像をする撮像装置101は、水平方向(図2の方向x)よりも、俯角の角度201だけ下向きに設置される。なお、例えば、撮像装置101の光軸の方向は、このような、角度201だけ下向きの方向である。
【0192】
このため、上述の映像4bIにおける、この映像4bIに写された人物4bの足元から頭への方向4bdは、第1の画像2における、他の映像4aIにおける、他の映像4aIに映された人物5aの足元から頭への方向4adとは異なり、この方向4adとはズレた方向である。
【0193】
なお、上述の方向4adは、図7などで示されるように、例えば、この第1の画像2の上下方向2yと同じ方向などである。
【0194】
そこで、撮像された第1の画像2における、次のような点(カメラ真下点)801があることに着目される。
【0195】
点801は、第1の画像2の面である、第1の画像2が投影される(映される)面(撮像面)807に対して、撮像装置101から鉛直下向きに延びる線(図8の単位カメラ真下ベクトル806を参照)が交わる点である。
【0196】
つまり、この点801を通る線(直線)803(図8など)の方向803Lは、上述された、ズレた方向である、一方の映像4bIにおける、人物4bの方向4bdと同じ方向である。
【0197】
そこで、上述の線803の方向803Lが、特定部105x(図1)により特定されてもよい。
【0198】
つまり、例えば、線803に含まれる複数の画素が特定されて、特定される複数の画素が構成する線が、線803と特定されることにより、その線803の方向が特定されてもよい。
【0199】
第1の画像2から、第2の画像3が生成されてもよい。
【0200】
生成される第2の画像3は、第2の映像5bIを含む。
【0201】
含まれる第2の映像5bIは、上述の第1の映像4bIにおける、特定された方向(方向803L)が、次の方向(方向3y)へと変換された映像である。
【0202】
その方向とは、第2の画像3に含まれる、上述の他の映像4aIに映された人物5aと同じ人物である人物5aが映された、上述の映像5bI以外の他の映像5aIにおける、その人物5aの足元から頭への方向5adである。
【0203】
なお、この方向5adは、例えば、第2の画像3の上下方向3yと同じ方向である。
【0204】
第2の画像3における、人物5bの位置が、人物101h(図2)の位置として、人物検出器により検出されてもよい。
【0205】
なお、この人物検出器は、例えば、画像変換処理部100が備える人物検出器100d(図2)である。
【0206】
これにより、例えば、この人物検出器が、上述の人物5aの検出をする人物検出器と同じであるなどにより、人物5bの検出をする人物検出器の構成が簡単にできる。
【0207】
なお、例えば、撮像装置101により、撮像装置101が備えるレンズ101Lで、第1の画像2が撮像されてもよい。
【0208】
上述のレンズ101Lが、広角レンズでもよい。
【0209】
つまり、例えば、35mm判換算で、焦点距離60mmの標準的なレンズの水平角は、約39.6度である。
【0210】
上述の広角レンズとは、このような標準的なレンズの画角よりも広い画角のレンズなどをいう。
【0211】
なお、第1の画像2における画素と、第2の画像3における画素との対応関係を示すデータ(上述の角度201など)が、特定部105x(パラメータ保持部104)により記憶されてもよい。
【0212】
生成される第2の画像3には、第1の画像2に含まれる画素の画素値から特定される画素値の画素が、次の画素として含まれてもよい。その画素とは、第1の画像2の上述の画素に対して、記憶されるデータの対応関係が対応付ける画素である。
【0213】
なお、上述された、第1の画像2に含まれる画素の画素値から特定される画素値は、例えば、第1の画像2の画素の上述の画素値と同じ画素値でもよいし、第1の画像2に含まれる画素の上述の画素値と、その画素の近傍の画素の画素値との平均の画素値などでもよい。
【0214】
これにより、第1の画像2における、第1の映像4bIでの、人物100hの方向4bdが、第2の画像3における、第2の映像5bIでの、人物100hの方向5bdへと変換された第2の画像2が生成されてもよい。
【0215】
なお、角度201を示すデータ101dが、画像変換処理部100の取得部100gにより取得されてもよい。
【0216】
この取得は、例えば、撮像装置101が設置された角度201が、他方の角度201b以外の他の角度である一方の角度201aから、他方の角度201bへと変更される際などに行われてもよいし、撮像装置101が設置される際に行われてもよい。
【0217】
示される角度201が一方の角度201aである場合には、一方の角度201aだけ下向きに撮像装置101が設置される際における撮像面807での交点801に基づいて、上述の処理がされてもよい。
【0218】
他方の角度201bである場合には、他方の角度201bだけ下向きに設置される際における撮像面807での交点801に基づいて、上述の処理がされてもよい
【0219】
これにより、一方の角度201aで設置される場合にも、他方の角度201bで設置される場合にも、適切な第2の画像3が生成され、生成される第2の画像3が確実に適切にできる。
【0220】
なお、取得されるデータ101dは、例えば、画像変換処理部100に対する、ユーザの操作がされることにより、ユーザによって画像変換処理部100へと入力されたデータなどでもよい。
【0221】
他方、このデータ101dは、撮像装置101から取得されてもよい。
例えば、撮像装置101が、ジャイロなどの、撮像装置101の俯角の角度を検出する検出部101sを備えてもよい。
【0222】
この検出部101sにより検出された角度を、上述の角度201として示すデータ101dが、取得部100gにより取得されてもよい。
【0223】
なお、例えば、データ101dが取得された際に、記憶される上述のデータが、撮像装置101が設置される角度が、取得されたデータ101dにより示される角度201である際に適切なデータへと更新されてもよい。
【0224】
この更新がされた後には、先述の処理として、更新後のデータに基づく処理がされてもよい。
【0225】
これにより、上述の更新後に再度、データ101d取得される必要がなく、処理が比較的簡単にできる。
【0226】
なお、このように、それぞれの半直線803について、以下の通りである。
【0227】
つまり、生成される第2の画像3における、その半直線803の順序と同じ順序(先述)のライン5bL(図10)がある。
【0228】
第2の画像3に含まれる、同じ順序のライン5bLの複数の画素が、第1の画像2に含まれる、その半直線803の複数の画素などの、その半直線803のそれらの複数の画素から特定される複数の画素である。
【0229】
なお、例えば、半直線803の画素から特定、ライン5bLの画素が特定される。半直線803の画素の、半直線803の複数の画素のうちにおける順序が、より後の順序(点801から離れる方の順序)であるほど、その画素から特定される、ライン5bLの画素の順序は、より後の順序(方向3yのより正の側の順序)である。
【0230】
例えば、これにより、生成される第2の画像3には、第1の画像2の何れの映像(映像4aI、4bIなど)に映された人物(人物4a、4b)についても、その人物(人物5a、5b)の映像を含んでもよい。
【0231】
これにより、第2の画像3には、何れの人物も写されて、何れの人物の検出も成功し、確実に、人物の検出に成功できる。
【0232】
また、次の動作がされてもよい。
【0233】
つまり、上述のようにして、第1の画像2における、点801(図10など)を通る直線803上のそれぞれの画素である、図12の第1の画素9b1(画素9bn、9bfなど)がある。
【0234】
また、その直線803条の第2の画素9b2がある。
【0235】
例えば、第1の画素9b1から特定される、第2の画像3の画素に対して、第2の画素9b2から特定される、第2の画像3の画素は、第2の画像3の上下方向3yから隣接する。
【0236】
第1の画素9b1と、第2の画素9b2との間の第1の間隔1201がある。
【0237】
図12で示されるように、例えば、点801に対して比較的遠い画素9bfである第1の画素9b1での間隔1201は、比較的近い画素9bnである第1の画素9b1での間隔1201よりも広くてもよい。
【0238】
これにより、より広くはない場合に生成される第2の画像3(図11の第2の画像3pを参照)よりも適切な第2の画像3(図12の第2の画像3qを参照)が、第2の画像3として生成され、生成される第2の画像3がより適切にできる。
【0239】
一方、上述された、第1の画素9b1(画素9bn、9bf)がある直線803以外の他の直線803上の第3の画素9b3もある。
【0240】
例えば、第1の画素9b1から特定される上述の画素に対して、この第3の画素9b3から特定される、第2の画像3における画素が、第2の画像3の左右方向3xから隣接する。
【0241】
第1の画素9b1と、この第3の画素9b3との間の間隔1202がある。
【0242】
遠い方の第1の画素9b1(画素9bf)での間隔1202は、近い方の第1の画素9b1(画素9bn)での間隔1202よりも広い(図12を参照)。
【0243】
遠い方の第1の画素9b1(画素9bf)における、間隔1201と間隔1202との比は、近い方の第1の画素9b1(画素9bn)における、間隔1201と間隔1202との比と同じもよい。
【0244】
なお、この比は、例えば、図12に示される2つの「Δr」の記号で示されるように、例えば、「1:1」の比などである。
【0245】
つまり、それぞれの第1の画素9b1(近い方の画素9bn、遠い方の画素9bf)における間隔1201は、その第1の画素9b1における間隔1202と同じでもよい。
【0246】
これにより、遠い方の第1の画素9b1(画素9bf)での間隔1201は、近い方の第1の画素9b1(画素9bn)での間隔1201よりも広くてもよい。
【0247】
なお、例えば、特定部105xにより、第2の画像3の画素に対応する、第1の画像2の画素が特定されてもよい(対応点計算部105を参照)。
【0248】
特定部105xにより、第2の画像3の画素の画素値が、その画素に対応する、第1の画像2の画素の画素値から特定されてもよい。
【0249】
なお、第2の画像3の画素に対応する、第1の画像2の画素として、2つ以上の画素が特定されて、第2の画像3の画素の画素値が、それらの2つ以上の画素の画素値から特定されてもよい。
【0250】
なお、例えば、撮像面807上の点の第1の座標と、撮像面807の法線ベクトルと、撮像装置101の第2の座標と、撮像装置101の光軸の方向804Lとを示すデータが、特定部105xにより記憶されてもよい(パラメータ保持部104を参照)。
【0251】
示される第1の座標の点を通る、示される法線ベクトルの面と、示される第2の座標を通る、示される方向804Lの線(直線)との交点の位置が、位置801として特定されてもよい。
【0252】
なお、この特定は、この種の特定をする、数学の分野における公式の計算がされることにより、特定されてもよい。
【0253】
なお、こうして特定される位置801は、示される方向804Lが、俯角の角度201が一方の角度201aである場合の一方の方向である場合には、一方の位置であると共に、他方の角度201bである場合の他方の方向である場合には、他方の位置でもよい。
【0254】
方向803Lとして、位置801として一方の位置が特定された場合には、その一方の位置を通る線803である一方の線の方向803Laが特定され、他方の位置が特定された場合には、その他方の位置を通る線803である他方の線の方向803Lbが特定されてもよい。
【0255】
こうして、第1の画像2の中心の位置9xを通る線の方向9xdが特定されるのが回避されて、人物100hがいる空間101rの鉛直方向zの上向きの方向が映された方向4bd以外の他の方向が特定されて、不適切な方向が特定されてしまうのが回避される。
【0256】
つまり、撮像装置101の、鉛直方向の下向きの位置801を通る線803(一方の線、または、他方の線)の方向803La(一方の方向803La、または、他方の方向803Lb)が特定されて、適切な方向が特定される。
【0257】
これにより、図2の3人の人物100hのうちの最も左の人物100hなどの、撮像装置101から比較的遠い人物100hがいて、光軸の方向804Lが、鉛直方向zの下向きの方向でなく、水平方向xから、俯角の角度201だけ下向きの、斜め下向きの方向であるにも関わらず、適切な動作がされる。つまり、その動作では、不適切な方向9xdが特定されてしまうのが回避され、適切な方向4bd(一方の方向803La、または、他方の方向803Lb)が特定できる。
【0258】
これにより、ひいては、特定される方向に基づいて、適切な第2の映像5bIが含まれる第2の画像3が生成されて、この第2の画像3から、第2の映像5bIが検出される。これにより、画像(第2の画像3)から、人物100hが映された映像(第2の映像5bI)を検出する検出器(人物検出器100d)の構成が複雑であることが回避され、簡単にされる。
【0259】
これにより、光軸の方向804Lが、斜め下向きであるにも関わらず、構成が複雑になるのが回避されて、簡単にできる。
【0260】
しかも、上述のような、斜め下向きである際における角度201としては、一方の角度201aのみがあるのでなく、他方の角度201bともあるにも関わらず、次の動作がされる。
【0261】
その動作では、角度201が一方の角度201aである場合に、方向803Lとして、一方の方向803Laが特定されて、適切な方向が特定されるだけに止まらない。
【0262】
つまり、角度201が、他方の角度201bである場合にも、方向803Lとして、他方の方向803Lbが特定されて、適切な方向が特定される。
【0263】
これにより、比較的確実に、適切な方向が特定できる。
【0264】
こうして複数の構成(画像展開処理部103など)が組合わせられ、組合わせからの相乗効果が生じる。これに対し、知られる先行例では、これら複数の構成のうちの一部または全部を欠き、相乗効果は生じない。この点で、本技術は、先行例に対して相違する。
【0265】
なお、本発明は、装置として実現できるだけでなく、その装置を構成する処理手段をステップとする方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、そのプログラムを記録したコンピュータ読み取り可能なCD−ROMなどの記録媒体として実現したり、そのプログラムを示す情報、データ又は信号として実現したりすることもできる。そして、それらプログラム、情報、データ及び信号は、インターネット等の通信ネットワークを介して配信してもよい。
【産業上の利用可能性】
【0266】
出力した画像(図10の展開画像3)中では、地面に対して直立している物体の傾きが統一されているため、物体検出、特に人物検出における特徴量が一つで済むようになる。
【0267】
撮像装置101および画像変換処理部100を備えるシステム100sの利便性が向上できる。
【0268】
光軸の方向804Lが、斜め下向きであるにも関わらず、構成が複雑になるのが回避されて、構成が簡単にできる。
【符号の説明】
【0269】
2 撮像画像
3 展開画像
100 画像変換処理部
101 撮像装置
102 撮像画像取得部
103 画像展開処理部
104 パラメータ保持部
105 対応点計算部
201 設置俯角
801 カメラ真下点
802 等俯角点
803 半直線
804 仮想視点位置
805 単位光軸ベクトル
806 単位カメラ真下ベクトル
807 撮像面
901 サンプリング角度
1201 半径方向サンプリング間隔
1202 円周方向サンプリング間隔
1500 画像変換処理部
1501 魚眼レンズ撮像装置
1502 画像歪補正部
1701 魚眼レンズ撮像画像
1901 歪補正画像

【特許請求の範囲】
【請求項1】
水平方向よりも俯角だけ下向きに設置された撮像装置により撮像された第1の画像から、前記第1の画像が画像変換された第2の画像を生成する画像生成装置であって、
前記撮像装置を端点とする、鉛直方向のベクトルと、撮像面との交点を通る、前記第1の画像における直線を特定する特定部と、
特定された前記直線に沿って、前記第1の画像の画素をサンプリングすることで、前記第2の画像を生成する画像展開処理部とを備える画像生成装置。
【請求項2】
前記特定部は、特定される前記直線に含まれる複数の画素を特定し、
生成される前記第2の画像は、サンプリングされた、特定された複数の前記画素を、前記第2の画像の上下方向の直線に含まれる複数の画素として含む請求項1記載の画像生成装置。
【請求項3】
特定される前記直線は、前記交点である第1の交点と、第2の交点とを通る直線であり、
前記第2の交点は、前記撮像装置を端点とする第2のベクトルが、前記鉛直方向のベクトルである第1のベクトルを回転軸として回転された第3のベクトルと、前記撮像面との交点である請求項2記載の画像生成装置。
【請求項4】
前記第1の画像は、複数の角度のうちのそれぞれの角度に回転された前記第3のベクトルでの前記第2の交点の前記画素を含み、
前記第2の画像は、前記第1の画像に含まれる、複数の前記角度の前記第2の交点の前記画素を、前記第2の画像の左右方向の直線上の複数の画素として含む請求項3記載の画像生成装置。
【請求項5】
前記特定部は、それぞれの前記第3のベクトルを生成して、生成された前記第3のベクトルにおける前記第2の交点を算出する請求項4記載の画像生成装置。
【請求項6】
前記俯角を示すデータを取得する取得部を備え、
算出されるそれぞれの前記第2の交点は、取得される前記データにより示される前記俯角における前記撮像面での交点である請求項5記載の画像生成装置。
【請求項7】
取得される前記データにより示される前記俯角は、前記撮像装置が備えるジャイロにより検出された角度である請求項6記載の画像生成装置。
【請求項8】
前記第2の画像の前記上下方向の前記直線上の、人物が映された映像の位置を、前記人物がいる位置として検出する検出部を備える請求項2記載の画像生成装置。
【請求項9】
前記第1の画像は、前記撮像装置が備える広角レンズで、前記撮像装置により撮像される請求項1〜8の何れかに記載の画像生成装置。
【請求項10】
前記第1の画像は、前記撮像装置が備える魚眼レンズで、前記撮像装置により撮像され、
前記魚眼レンズによる歪みが含まれる、補正前の前記第1の画像を、前記歪みが含まれない補正後の前記第1の画像へと補正する画像歪み補正部を備え、
前記第2の画像は、補正前の前記第1の画像からでなく、補正後の前記第1の画像から生成される請求項1〜8の何れかに記載の画像生成装置。
【請求項11】
特定される前記直線は、第1の画素と、第2の画素とを含み、
生成される前記第2の画像は、前記第1の画素から特定される一方の画素と、前記一方の画素に隣接する、前記第2の画素から特定される他方の画素とを含み、
前記第1の画素と前記第2の画素との間の間隔は、前記第1の画素が、前記鉛直方向の前記ベクトルの前記交点からより遠いほど、より広い間隔である請求項1記載の画像生成装置。
【請求項12】
前記第2の画像は、前記一方の画素に対して、前記第2の画像の左右方向から隣接する、前記第1の画像に含まれる第3の画素から特定される画素を含み、
前記間隔は、前記第1の画素と、前記第3の画素との間の第2の間隔とは別の第1の間隔であり、
前記鉛直方向の前記ベクトルの前記交点から比較的遠い前記第1の画素における、前記第2の間隔に対する前記第1の間隔の比は、比較的近い前記第1の画素における、前記第2の間隔に対する前記第1の間隔の比と同じである請求項11記載の画像生成装置。
【請求項13】
撮像される前記第1の画像は、人物が写された映像を含み、
写された前記人物の足元から頭への方向は、前記第1の画像の上下方向とは異なる方向であり、
異なる前記方向は、前記鉛直方向の前記ベクトルと前記撮像面との前記交点と、前記映像の位置とを通る前記直線の方向と同じ方向であり、
前記特定部は、前記交点を通る前記直線を特定することにより、特定される前記直線の方向を、前記人物の前記方向として特定し、
生成される前記第2の画像は、前記人物と同じ人物が映された映像を含み、
含まれる前記映像は、前記第1の画像に含まれる前記映像における特定された前記方向が、前記第2の画像の上下方向へと変換された映像である請求項1記載の画像生成装置。
【請求項14】
水平方向よりも俯角だけ下向きに設置された撮像装置により撮像された第1の画像から、前記第1の画像が画像変換された第2の画像を生成する画像生成方法であって、
前記撮像装置を端点とする、鉛直方向のベクトルと撮像面との交点を通る、前記第1の画像における直線を特定する特定ステップと、
特定された前記直線に沿って、前記第1の画像の画素をサンプリングすることで、前記第2の画像を生成する画像展開処理ステップとを含む画像生成方法。
【請求項15】
水平方向よりも俯角だけ下向きに設置された撮像装置により撮像された第1の画像から、前記第1の画像が画像変換された第2の画像を生成するためのプログラムであって、
前記撮像装置を端点とする、鉛直方向のベクトルと撮像面との交点を通る、前記第1の画像における直線を特定する特定ステップと、
特定された前記直線に沿って、前記第1の画像の画素をサンプリングすることで、前記第2の画像を生成する画像展開処理ステップとをコンピュータに実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図18】
image rotate

【図3】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図17】
image rotate

【図19】
image rotate


【公開番号】特開2012−141972(P2012−141972A)
【公開日】平成24年7月26日(2012.7.26)
【国際特許分類】
【出願番号】特願2011−274881(P2011−274881)
【出願日】平成23年12月15日(2011.12.15)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】