説明

複眼カメラおよびカメラ応用機器

【課題】視野角を拡大した画像を生成すると共に、カメラ画像から同程度の視野角の被写体の距離を測定可能とした複眼カメラを提供し、新たな機能の実現や低コストで高性能なカメラ応用機器を提供する。
【解決手段】水平画角αの同一の2つのカメラa、bのレンズ中心を含む平面上でカメラa,bの光軸を水平画角αと同じ角度αで交差するように配置し、画像を合成することで、2αの視野のワイド画像を生成し、距離測定をできる。さらに同様の配置を行う4眼カメラの場合、垂直方向も2βの視野の画面を生成でき、距離測定範囲も同様に拡大できる。また背景画像を記憶し移動物・人物抽出部により背景の変化を記録することで、送信や記録の画像情報データ量を削減すると同時に忘れ物記憶や置き場所当てゲームなどができ、また動き出部情報から人物の体形情報を成長記録として残せ、また教師の動き情報との比較からダンス等の採点などの機能を提供できる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複眼カメラおよびカメラ応用機器に関し、特に複数のカメラ画像から視野角を拡大した画像を合成すると共に、同じ視野角で被写体の距離を測定可能とした複眼カメラ、およびゲーム機、自動車、WEBなどにおいて、新規の機能を実現するカメラ応用機器に関する。
【背景技術】
【0002】
近年、ゲーム機、家電機器、防犯、自動車、ロボットなどの多くの分野において、画像認識技術と距離測定技術とを併用した応用の実用化が活発化している。画像認識技術では、一般の高画質デジタルカメラと異なり、画素数が比較的少なく、安価なカメラが多く用いられているが、今後ワイド画面の提供なども含め機能や性能をより魅力あるものにするために広視野角のカメラが期待される。
【0003】
広視野角のカメラを実現するには、広角レンズを用いる方法や、複眼カメラの撮像された画像を合成処理して実現する方法がある。しかし広角レンズは高価であると同時に樽型歪が生じる為の歪補正処理を必要とする問題があり、また標準レンズ向けの撮像素子で広視野画像の取得を行う為、解像度が劣化する問題がある。
【0004】
複眼カメラを用いる方法は、二倍の画角の画像取得する方法として二眼パノラマが多く提案されている。例えば、特許文献1の「パノラマカメラの配置方法及びその構築法」の提案では、撮像レンズを垂直方向に重なるように配置し、水平方向のレンズ中心を揃え視差の少ない方法が考案されている。しかしこの方法でも視差は残り、また垂直方向の近接画像での垂直画角のずれという大きな問題と垂直方向の視差の問題が残る。
【0005】
一方距離測定技術では、車載応用はミリ波レーダや超音波ソナーが、その他の応用は赤外線が主に利用されている。しかし電波、音波、赤外線の発信器が必要であり、反射の時間差を利用した距離測定を行うことから複数点の距離を同時計測する場合には高価なセンサーが必要であり、また広い角度の範囲の距離測定は実現していない。さらに画像認識結果との直接的な関係付けが困難であるなど連動処理上の問題がある。
【0006】
その為、画像認識と距離測定をカメラ画像情報から同時に行い連動させるアプローチが検討されている。その代表は車載応用で検討されているステレオカメラのアプローチである。しかし従来のステレオカメラでは、レンズの水平画角以上の視野角の合成画像が得られない問題と距離計算可能角度範囲がレンズの水平画角以下である問題がある。
【0007】
次にカメラ画像や距離情報を利用した応用に目を向けると、例えばゲーム機や家電機器のモーションコントロールなどで動き認識を利用したものがある。しかし距離情報を用いるアプローチのほとんどは例えばTOF(Time Of Flight)方式の赤外線センサーなどを用いたものや、画像と加速度センサーなどを利用したリモコンを用いるなど、使用形態の制限が大きく、またゲーム機などではカメラ情報をゲーム機本体で処理を行うなど、ゲーム機の計算負担が大きいなどの問題がある。また防犯カメラでも単に映像をディスプレイで見るか記録するなどの機能が殆どであり、画像認識を利用したものも真に有効な機能は極めて少ないのが現状である。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2002−369060号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
本発明は、このような問題点を解決するためになされたもので、レンズの画角の2倍以上の広視野角のカメラを実現し、同時に画像情報から距離測定を広視野角に対して可能とする複眼カメラを提供すること、およびカメラ応用機器では特に固定点で使用するカメラにおいて新たな機能を実現することを目的とする。
【課題を解決するための手段】
【0010】
請求項1の発明においては、水平画角α(または垂直画角β)の同一の2つのカメラa、bを具備し、カメラa,bのレンズ中心を含む平面上でカメラaの光軸a2とカメラbの光軸b2を水平画角α(または垂直画角β)と同じ角度α(またはβ)で交差するように配置する。尚、2つの光軸の交差する点を通り、かつ同一平面上の直線で2つの光軸と同じ角度(つまりα/2またはβ/2)の直線を以下では平均光軸Xabと表すことにする。
【0011】
請求項2の発明においては、水平画角αの同一の4つのカメラa,b,c,dの内、カメラa,bまたはカメラc,dの両方が請求項1記載の複眼カメラであり、4つのレンズ中心を含む平面上でカメラaの光軸とカメラcの光軸を平行にし、カメラbの光軸とカメラdの光軸を平行になるように配置する。
【0012】
請求項3の発明においては、水平画角α、垂直画角βの4つの同一のカメラa,b,e,fを具備し、カメラa,bおよびカメラe,fの両方が請求項1記載の複眼カメラであり、カメラa,bの平均光軸Xabとカメラe,fの平均光軸Xefの成す平面上で角度βで交差するように配置する。
【0013】
また請求項4の発明のように、請求項1ないし請求項3の複眼カメラを少なくとも1つ具備し、これら複眼カメラ(/および1眼カメラ)を組み合わせて構成してもよい。
【0014】
また請求項5の発明のように、請求項1ないし請求項4の複眼カメラを設け、画像合成部を設けてもよい。
【0015】
また請求項6の発明のように、請求項1ないし請求項5の複眼カメラを設け、画角の重なり領域の距離計算を行う距離計算部を設ける構成としてもよい。
【0016】
また請求項7の発明のように、複眼カメラ、被写体三次元座標計算部、仮想カメラ情報入力部、仮想撮像情報距離計算部を具備し、複眼カメラの複数のカメラの画像出力から被写体三次元座標計算部で被写体の三次元座標値を計算し、この三次元座標値と仮想カメラ情報入力部からの仮想レンズ中心座標値と仮想光軸ベクトル値から、仮想撮像情報距離計算部で計算し、仮想レンズ中心にあるピンホールカメラと同等の合成画像を得る構成とする。
【0017】
また請求項8の発明のように、請求項7記載の複眼カメラに関し、光軸収束点計算部を具備し、仮想カメラ情報入力部からは仮想3Dカメラの2つの仮想光軸ベクトルおよび被写体三次元座標計算部で計算された被写体の三次元座標値を光軸収束点計算部に入力し、光軸収束点を再計算により2つの再計算光軸ベクトルを計算し、計算結果を仮想撮像情報距離計算部で、2つのレンズに対応する仮想撮像情報を計算し、2チャンネルの合成画像データおよび距離データを出力する構成とする。
【0018】
次に本発明の請求項9から請求項17のカメラ応用機器に関する課題解決の手段を示す。請求項9の発明においてカメラ、背景画像記憶部、移動物人物付随物抽出部、背景画像計算制御部を具備し、カメラからの撮像情報と移動物人物付随物抽出部からの現移動物人物付随物情報と現背景画像の3つの情報を背景画像計算制御部に入力し、移動物人物付随物情報から付随物が移動物または(/および)人物から離脱したと判断できる時に、付随物の離脱判断部分を現背景画像に上書きし、次背景画像として背景画像記憶部を更新することを特徴とする。
【0019】
また請求項10の発明において、請求項9記載のカメラ応用機器に関し、背景変化記憶部、タイマー、背景変化確認制御部、初期背景画像記憶部を具備し、背景画像記憶部を更新すると同時に、更新時の背景と異なった変化画像情報を時系列情報とともに、背景変化記憶部に格納し、背景変化確認制御部の指示で、指定された時間の背景画像を初期背景画像記憶部の画像と背景変化記憶部の画像から随時で背景画像の再生成処理を行い確認できることを特徴とする。
【0020】
また請求項11の発明のように、請求項9記載のカメラ応用機器に関し、ホスト機器または(/および)カメラ内画像記憶装置を具備し、予めホスト機器または(/および)カメラ内画像記憶装置に背景画像記憶部の初期情報を送信し、その後は、背景画像記憶部が更新される毎に更新情報をホストに送信し、また移動物・人物抽出部の情報は随時送信し、データ通信量を減らし、カメラ情報の送信情報量や記憶装置容量を削減する構成とする。
【0021】
また請求項12の発明のように、請求項9記載のカメラ応用機器に関し、ホスト機器および移動物人物付随物抽出部からの動き情報を抽出する動き抽出部を具備し、通信回線を通して動き情報だけをホスト機器等へ送信し、ホスト機器へのデータ通信量を減らすことを特徴とする構成としてもよい。
【0022】
また請求項13の発明のように、請求項11または請求項12記載のホスト機器へのデータ送信を同時に実現する構成としてもよい。
【0023】
また請求項14の発明のように、請求項13記載のカメラ応用機器に関し、画像表示装置およびホスト側に送られた動き情報とホスト側の教師動き情報を比較し採点する動き採点部を具備し、画像表示装置で教師画像と人物のカメラ画像を分割した表示領域に同時に表示し、逐次採点を行う構成としてもよい。
【0024】
また請求項15の発明のように、請求項9記載のカメラ応用機器に関し、エッジ抽出部、体形情報計算部を具備し、移動物人物付随物抽出部から得られる人物画像情報からエッジ抽出部でエッジ情報を抽出し、人物が回転して得られる全方位のエッジ情報を収集し、カメラ内またはホスト機器に送り体形情報を計算する構成としてもよい。
【0025】
また請求項16の発明のように、請求項15記載のカメラ応用機器に関し、表示装置、体形情報記憶部、タイマー、体形表示制御部を具備し、測定した体形情報と同時に体形測定時の年月日及び時間情報を体形情報記憶部に記録し、時間的変化を表示可能とした構成としてもよい。
【0026】
また請求項17の発明のように、請求項9ないし請求項16記載のカメラ応用機器に関し、請求項1ないし請求項8記載の複眼カメラを具備した構成としてもよい。
【0027】
なお、この発明は装置またはシステムとして実現できるのみでなく、方法としても実現可能である。また、そのような発明の一部をソフトウェアとして構成することができることはもちろんである。またそのようなソフトウェアをコンピュータに実行させるために用いるソフトウェア製品もこの発明の技術的な範囲に含まれることも当然である。
【0028】
この発明の上述の側面および他の側面は特許請求の範囲に記載され、以下、実施例等を用いて詳述される。
【発明の効果】
【0029】
請求項1の発明のように、水平画角αの2つのカメラのレンズ中心を含む平面上で2つのカメラの光軸を角度αで交差するように配置したことで、角度2αでのカメラ画像情報の取得が可能になり、請求項5の画像合成部で処理すれば、1つの広角画像を生成できる。
【0030】
さらに請求項2の発明のように水平画角αの4つのカメラの光軸を同一平面内で、2つは角度αで交差させ。この2つの光軸に残り2つの光軸を平行に位置付けることで、2αの角度で、三角測量原理などを用いた請求項6の距離計算部で処理すれば距離測定が可能になる。
【0031】
また請求項3の発明のようにこれらのレンズが垂直画角βのレンズであれば、垂直方向に対しても同様の手段を講ずれば、水平方向の2α、垂直方向の2βの角度でのカメラ画像の取得と同時に画像合成部、距離計算部で処理すれば2次元的に広い画像の生成や距離測定が可能となる。尚、画角αやβの倍数が180度未満の範囲であれば、画像取得と距離測定の角度を3倍、4倍と拡大することが可能となる。
【0032】
また請求項7の発明のように被写体三次元情報計算部と光軸収束点計算部を備えれば、これらの複眼カメラから得られた情報により、2チャンネルの3D映像情報を計算により求めることが可能になる。
【0033】
次に請求項9から請求項17のカメラ応用機器に関する発明によれば、記憶した初期の背景画像に移動物(車や人物など)と共に付随した物が写った場合に、背景画像との差異を変化判定部で移動物から離れたことを判定した時点で、背景に変化がある場合には移動物以外のものが背景に置かれたと判断できた時に背景を更新する手段を講じることで、背景変化の履歴を記憶すれば、置物を時間を遡って確認するなどが可能になり、忘れ物捜しや新規のゲームなどに繋がる。また背景はこの変化部分だけを随時記憶やホストへの転送などデータ量の削減も可能になる。
【0034】
このように、請求項1ないし請求項4の複眼カメラの場合には、カメラの水平画角の2倍以上の画角にしたり、垂直画角も2倍以上の画角にしたり、広い視野角の撮像情報を取得可能とでき、さらに画角の重なりをもった領域に関しては距離測定情報を取得可能とできるカメラが実現できる。パソコンなどの画像入力用カメラとして用いればパソコン内でパノラマ合成法のような画像合成を行うなどで広視野角の画像を作ることができ、また距離計算ソフトを用いた距離計算が可能になる効果がある。
【0035】
請求項5の複眼カメラでは、画像合成部を内蔵するためカメラ単独で広視野角の画像を作ることができ、請求項6の複眼カメラでは、距離計算部を内蔵するためカメラ単独で距離を測定できる効果がある。
【0036】
請求項7の複眼カメラの場合には、被写体の各点の三次元情報を計算により取得できることから、仮想的なピンホールカメラで撮影した画像や、仮想レンズ中心との距離を同時取得でき、特に遠近が混在するような被写体に対してはパノラマ合成技術より優れた広視野角の画像を得ることができる効果がある。
【0037】
請求項8の複眼カメラの場合には、光軸収束部による判定機能により、最近傍の被写点に光軸の交点を合わせることができなど、3D立体映像に相応しい2チャンネル映像の撮影が可能になる効果がある。
【0038】
請求項9のカメラ応用機器は、ある期間固定の位置に設置したカメラ応用機器を想定したもので、車などの移動物や人物および人物が手に持った物などの付随物を随時処理し、背景画像を逐次更新することができる効果がある。
【0039】
請求項10のカメラ応用機器の場合には、初期画面記憶部と背景変化記憶部の情報から時間を指定した背景画面の生成ができる効果がある。
【0040】
請求項11のカメラ応用機器の場合には、カメラから撮像情報を初期背景情報とその後の変化する移動物人物付随物情報とに分けて処理することで、カメラ内記憶装置の容量やホストへの通信容量を減らせる効果がある。
【0041】
請求項12のカメラ応用機器の場合には、動き情報だけをホスト機器に送信する構成であることから、例えば3Dグラフィックなどで処理能力が限界であるようなゲーム機などホスト機器の処理負担を減らした形で、モーションコントロールなどのアプリケーションを実現できる効果がある。
【0042】
請求項13のカメラ応用機器の場合には、請求項11および請求項12を同時に実現する効果がある。
【0043】
請求項14のカメラ応用機器の場合には、教師とユーザの両方を画面表示しつつ採点を行うダンス採点ゲームのようなアプリケーションを実現できる効果がある。
【0044】
請求項15のカメラ応用機器の場合には、人物の体形情報を取得できる効果がある。請求項16のカメラ応用機器の場合には、人物の体形情報を記録し、確認したい時期の体形情報を観たり、成長のグラフを見たりなど体形情報により成長記録のいう従来にない機能を実現できる効果がある。
【0045】
請求項17のカメラ応用機器の場合には、カメラ部を請求項1ないし請求項8の複眼カメラとすることで、請求項9から請求項15の効果を広視野角映像のカメラ情報に拡張でき、特に部屋中で遊ぶゲーム応用や広視野の防犯カメラや参加者の全員が写るテレビ会議など広範囲な応用に繋がる効果がある。
【図面の簡単な説明】
【0046】
【図1】本発明の第1の実施例の複眼カメラ構成図である。
【図2】本発明の第1の実施例の複眼カメラ画角重なり図である。
【図3】本発明の第2の実施例の複眼カメラ構成図である。
【図4】本発明の第2の実施例の複眼カメラ画角重なり図である。
【図5】本発明の第3の実施例の複眼カメラ構成図である。
【図6】本発明の第3の実施例の複眼カメラ画角重なり図である。
【図7】本発明の第4の実施例の複眼カメラ構成の側面図である。
【図8】本発明の第5の実施例の複眼カメラ構成図である。
【図9】本発明の第5の実施例の複眼カメラ画角重なり図である。
【図10】本発明の第6の実施例の複眼カメラ構成図である。
【図11】本発明の第6の実施例の複眼カメラのパソコンを利用した形態図である。
【図12】本発明の第7の実施例の複眼カメラ構成図である。
【図13】本発明の第8の実施例の複眼カメラ構成図である。
【図14】本発明の第9の実施例の複眼カメラ構成図である。
【図15】本発明の第10の実施例の複眼カメラ構成図である。
【図16】本発明の第11の実施例のカメラ応用機器構成図である。
【図17】本発明の第11の実施例の付随物離脱処理説明図である。
【図18】本発明の第12の実施例のカメラ応用機器構成図である。
【図19】本発明の第13の実施例のカメラ応用機器構成図である。
【図20】本発明の第14の実施例のカメラ応用機器構成図である。
【図21】本発明の第17の実施例のカメラ応用機器構成図である。
【図22】本発明の第18の実施例のカメラ応用機器構成図である。
【発明を実施するための形態】
【0047】
以下、この発明の実施例の情報閲覧システムについて説明する。
【0048】
先ず、本発明の複眼カメラの実施例を説明する。
【0049】
[第1の実施例]
図1は、請求項1に関する本発明の第1の実施例の複眼カメラ構成図である。図1においては同じ水平画角αのレンズからなるレンズ中心a1のカメラaとレンズ中心b1のカメラbで構成され、それぞれの光軸はa2とb2、撮像素子はa3とb3とし、レンズ中心a1とb1を含む平面上で、光軸a2と光軸b2が角度αで交差するように配置することで、カメラaとカメラbとの撮像素子に写る画角の範囲の合計は2αとすることが可能となる。本発明のカメラは、その用途に応じて静止画用でもよいし、動画用でもよい。
【0050】
図2は図1のカメラa,bの配置における2つのカメラの画角の重なる部分をグレー色の中にa,bと記して示した本発明の第1の実施例の複眼カメラ画角重なり図である。従来提案されている複眼カメラの重なり配置は、撮像素子に写る画角の範囲の合計が2α未満になるのに対して、請求項1のカメラ配置は、撮像素子に写る角度範囲を2αにでき、かつパノラマ合成処理などで必要とされる画像の水平方向の重なり部分を保証できる配置となる。さらに重なりのある部分では、三角測量の原理に基づき距離測定が可能となる。
【0051】
[第2の実施例]
図3は、請求項2に関する本発明の第2の実施例の複眼カメラ構成図である。図3においては請求項1のa,bからなる複眼カメラとc,dからなる複眼カメラを同一平面上でカメラaとカメラcの光軸が平行にし、カメラbとカメラdの光軸を平行して、カメラa,bが、カメラc.,dの内側に配置した構成である。これはc,bからなる請求項1の複眼カメラとa,dからなる請求項1の複眼カメラからなると見ることもできる。図4は請求項2に関する本発明の第2の実施例の複眼カメラ画角重なり図である。
【0052】
図4から分かるように、三角測量の方法で必要となるカメラの画角の水平方向の重なりを有した角度範囲は、4つのカメラの相互の重なりを総合すれば、2αに及ぶ配置になっている。従って距離測定可能な範囲を2αにできる。
【0053】
また図4から中央の重なりは、カメラa,bとa,cとa,dとb,cとb,dとc,dの6つの組み合わせから距離計算ができることから平均化処理などで距離の精度を高めることができる。中央部分の距離計算精度を上げたい場合に特に有効である。
【0054】
[第3の実施例]
図5は、請求項2に関する本発明の第3の実施例の複眼カメラ構成図である。図5においては請求項1のa,bからなる複眼カメラとc,dからなる複眼カメラを対称な位置関係で配置した構成である。図6は請求項2に関する本発明の第3の実施例の複眼カメラ画角重なり図である。図6は、図4と同様に2つのカメラの画角の水平方向の重なりを有した角度範囲は、2αに及ぶ配置になっている。従って距離測定可能な範囲は2αにできる。三角測量では、距離の遠い場所の距離測定精度を上げる場合、レンズ間の距離を大きくした方が有利であることが知られていることから、遠距離の距離精度を優先する場合に有効な実施例である。
【0055】
[第4の実施例]
図7は、請求項3に関する本発明の第4の実施例の複眼カメラ構成の側面図である。図7においては、同じ水平画角α、垂直画角βの4つのカメラa,b,e,fからなり、カメラa,bおよびカメラe,fの両方が請求項1記載の複眼カメラとし、カメラa,bの平均光軸Xabとカメラe、fの平均光軸Xefの成す平面上でXabとXefが角度βで交差するように配置することで、カメラa,b,c,dの撮像素子に写る画角の範囲は、水平方向の合計は2αであると同時に、垂直方向の合計が2βとすることが可能となる。図を示さないが、垂直方向にも重なりの部分を有し、距離測定可能な範囲を有する。
【0056】
[第5の実施例]
図8は、請求項4に関する本発明の第5の実施例の複眼カメラ構成図である。図9は請求項4に関する本発明の第5の実施例の複眼カメラ画角重なり図である。
【0057】
図8においては、第3の実施例である図5の構成の中央に1眼カメラeを配置した構成にする。このことで、図9から分かるように、画角の重なりを増やすことで、距離測定の精度を高めることができる点と、例えば被写体が1名の場合などカメラeのみで撮影可能な場合など、他の4つのカメラの電源をオフできる利点がある。
【0058】
[第6の実施例]
図10は、請求項1および請求項4に関する本発明の第6の実施例の複眼カメラ構成図である。図10においては、水平画角αの同一のカメラa,b,cから構成し、a,bは請求項1の複眼カメラに該当し、請求項4に該当する1眼カメラcを追加したカメラであるが、カメラb,cの2つもまた請求項1の複眼となる構成であることを特徴とする。この場合、カメラa,b,cの撮像素子に写る画角の範囲の合計は3αとすることが可能となる。また画角の加算あり領域がV字状の2つの領域ができ距離測定が可能な領域となる。レンズ歪の少ない標準レンズなどから広角の撮影情報を得る場合などで有効である。尚、第6の実施例と同様に水平方向に限らずまた3眼カメラに限らず、本発明の請求項1から請求項4に従い、垂直方向にも、また4眼以上で同様の構成が実現できることは明らかである。
【0059】
また本発明の請求項1ないし請求項4については、複眼カメラの構成に関する発明である点から、画像合成および(/または)距離計算に関してはパソコンを利用する構成でも実現できる。 図11は、複眼カメラ1101からの撮像情報1102をパソコン1103に入れ、パソコン1103でパノラマ合成手法などの画像合成ソフトで画像合成データ1104を出力する構成を示した本発明の第6の実施例の複眼カメラのパソコンを利用した形態図である。画像合成の代わりに距離計算を行う場合や両方を計算する場合も同じ構成で実現できる。
【0060】
[第7の実施例]
図12は、請求項5に関する本発明の第7の実施例の複眼カメラ構成図である。図12においては、複眼カメラ1201からの撮像情報1202を画像合成部1203に入れ、画像合成部1203ではパノラマ合成などの画像合成処理を行い、画像合成データ1204を出力する。このことで、ワイドな画面情報を出力することができる。
【0061】
[第8の実施例]
図13は、請求項6に関する本発明の第8の実施例の複眼カメラ構成図である。図13においては、複眼カメラ1301からの撮像情報1302を距離計算部1303に入れ、距離計算部1303では例えば三角測量の原理に基づく距離計算処理を行い、距離計算データ1304を出力する。このことで画角の重なり領域の距離計算結果を出力することができる。
【0062】
[第9の実施例]
図14は、請求項7に関する本発明の第9の実施例の複眼カメラ構成図である。図14においては、複眼カメラ1401からの撮像情報1402を被写体三次元座標計算部1403に入れ、被写体三次元座標値1404を計算し出力する。仮想撮像情報距離計算部1408は、仮想カメラ情報入力部1407から入力されたレンズ中心座標値1405および光軸ベクトル1406および被写体三次元座標値1404を入力として合成画像データ1409および距離計算データ1410を計算し出力する。このことで、仮想レンズ中心にあるピンホールカメラに対応する合成画像と距離情報を同時に得ることができる。
【0063】
[第10の実施例]
図15は、請求項8に関する本発明の第10の実施例の複眼カメラ構成図である。図15においては、複眼カメラ1501からの撮像情報1502を被写体三次元座標計算部1503にいれ、被写体三次元座標値1504を計算し出力する。光軸収束点計算部1509は、仮想カメラ情報入力部1505から入力された自動オンオフスイッチ1508とマニュアルで予め設定された3Dカメラの2つの光軸ベクトル1507および被写体三次元座標値1504を入力し、自動オンオフスイッチ1508がオンの時には、例えば被写体の最近傍の被写体の点が収束点になるよう2つの光軸ベクトル1507を修正計算し、2つの修正光軸ベクトル1510を出力する。出力の2つのレンズ中心座標値1509は、仮想撮像情報距離計算部1511は、被写体三次元座標値1504および2つの修正光軸ベクトル1510および仮想カメラ情報入力部からの2つのレンズ中心座標値1506を入力し、2つの修正光軸を視線方向とした2つの仮想レンズからの撮像情報として計算し、2チャンネル合成画像データ1512および必要があれば2チャンネル画素点距離データ1513を計算し出力する。
【0064】
自動オンオフスイッチ1508がオフの時には、光軸収束点計算部1509は、修正光軸ベクトル1510とし2つの光軸ベクトル1507を出力し、仮想撮像情報距離計算部1511は、被写体三次元座標値1504および2つの修正光軸ベクトル1510および仮想カメラ情報入力部からの2つのレンズ中心座標値1506を入力し、2つの修正光軸を視線方向とした2つの仮想レンズからの撮像情報として計算し、2チャンネル合成画像データ1512および必要があれば2チャンネル画素点距離データ1513を計算し出力する。
【0065】
[第11の実施例]
次に本発明のカメラ応用機器の実施の形態を説明する。
【0066】
以後の本実施例の説明では、実施の形態を明確化する意味でカメラ応用機器の時間単位は画像の取得単位であるフレーム単位で示すものとする。
【0067】
図16は、請求項9に関する本発明の第11の実施例のカメラ応用機器構成図である。図16においては、カメラ1601からの撮像情報1602は背景画像計算制御部1603および移動物人物抽出部1608にフレーム単位で入力される。背景画像計算制御部1603は背景リセット信号1604がオンの時には、その時点の撮像情報1602を、次背景画像1605として何も計算せず出力し、背景画像記憶部1607にも記憶する。移動物人物付随物抽出部1608は、撮像情報1602と背景画像記憶部1607から現背景画像1609として入力しエッジ抽出後にエッジ内のみの情報を抜き取り計算し、車や人物のような移動物と車に搭載したものや人物が手にもった付随物を含めた情報である移動物人物付随物情報1610として出力する。
【0068】
この計算は、背景リセット信号1604がオンとなりリセットされた次のフレームから背景リセット信号1604がオフである限りフレーム毎に計算するが、同じフレーム時間内で他の処理を行う時間(以下残余時間と呼ぶ)を有するよう高速処理で実現する。
【0069】
背景画像計算制御部1603は、背景リセット信号1604がオフの時には、撮像情報1602と背景画像記憶部1607からの現背景画像1609と移動物人物付随物抽出部1608からの移動物人物付随物情報1610の3つの情報を入力し、残余時間内で付随物が移動物または人物から確実に離脱したと判断できる付随物の全部または一部の領域の画像を背景画像に上書きし、更新された次背景画像1605として出力し、背景画像記憶部1607に記憶する。以後この付随物の離脱判断部分の背景への上書き処理を付随物離脱処理と呼ぶことにする。
【0070】
以上のように構成することで、背景画像は随時更新され、車のような移動物または(/および)人物から付随物が離脱して十分後のフレームでは、背景画像記憶部1607には、離脱後の付随物が背景画像に置かれた状態の画像とすることができる。
【0071】
図17は、請求項9に関する本発明の第11の実施例の付随物離脱処理説明図である。図17においては、1行目は撮像情報1602を、2行目は移動物人物付随物情報1610を、3行目は現背景情報1609を、4行目は次背景情報1605を、5フレームの時間に亘っての変化の様子を示したもので、付随物が移動物または人物から確実に離脱したとする判断は、例えば人物や車の形状判断処理を背景画像計算制御部で行うことで、フレーム=4の連結していない2つの画像領域部の何れが付随物であるかの判断ができる。また人物や車の形状判断処理を行わない方法としては、移動物人物付随物情報の時間的な推移を追跡し、動かなくなった領域を付随物情報と判断する方法でも実現できる。
【0072】
以上のように本発明の請求項9によれば、第11の実施例のように固定カメラの撮像情報から背景画像の自動更新が実現できる。
【0073】
[第12の実施例]
図18は、請求項10に関する本発明の第12の実施例のカメラ応用機器構成図である。図18においては、破線で囲われた部分は、図16の構成と同じ構成とする。1801〜1810は1601〜1610と同じ機能および信号とする。ただし、背景リセット信号1804がオンになった時に、初期背景画像記憶部1820に背景変化確認制御部1817を経由して初期背景画像が格納され、背景画像計算制御部1803で背景が更新された時に背景更新信号1811と背景画像の変化情報である付随物情報1812を出力し、タイマー1812からの更新時点の時間1814と同時に背景変化記憶部1815に記憶する。また破線部からは現背景情報1809を出力する構成とする。
【0074】
過去の何時までの時点の背景を確認したいかなどの指示信号である背景履歴確認指示信号1819を背景変化確認制御部1817が受け取ると、背景変化確認制御部1817は、初期背景画像記憶部1820を元に、背景変化記憶部1815から順次、時間付随物情報1816を読み、背景履歴確認指示信号1819の指示される時間までの再生背景画像1818を生成し出力する。
本発明の第12の実施例により、例えば防犯カメラにおける不審物の発見や、部屋における置き場所記憶などの応用が可能になる。
【0075】
[第13の実施例]
図19は、請求項11に関する本発明の第13の実施例のカメラ応用機器構成図である。図19においては、図16の構成のカメラ応用機器1901に加え、カメラ内画像記憶装置1902を設け、図16の構成のカメラ応用機器1901の出力である次背景情報1903および移動物人物付随物情報1904をカメラ内画像記憶装置1902に格納する構成である。
【0076】
このことで、室内の撮影映像の情報を大幅に削減して再生することができる。また図19のカメラ内画像記憶装置を設ける代わりにPCやゲーム機などのホスト機器に置き換え、通信回線で図16の構成のカメラ応用機器からの次背景情報1903および移動物人物付随物情報1904をホストに送信し、ホスト内の記憶装置に格納する構成でも情報削減した映像記録が実現できる。
【0077】
[第14の実施例]
図20は、請求項12に関する本発明の第14の実施例のカメラ応用機器構成図である。図20においては、図16の構成のカメラ応用機器2001からの出力である移動物人物付随物情報2002から動き情報抽出部2003で動き情報2004を抽出し、ホスト機器2005に送信する構成である。この構成により例えば動き情報を利用したモーションコントロール型のゲームにおいて、情報送信量が少ないと同時に、ゲーム機側で動き抽出を行う必要がないため、レスポンスの速いゲームが実現できる。
【0078】
[第15の実施例]
請求項13に関する本発明の第13の実施例と第14の実施例を同時に実装した構成とする本発明の第15の実施例にすることで、ゲーム機の負担を減らした形で、リアルな画像をホスト側で表示し、かつモーションコントロールを行うようなゲームの実現が可能になる。
【0079】
[第16の実施例]
請求項14に関する本発明の第15の実施例に、ホスト側に送られた動き情報と教師動き情報を比較し採点する動き採点部と画面表示装置を設けた構成とする本発明の第16の実施例にすることで、ダンス教育ゲームのゲームソフトなどが実現できる。
【0080】
[第17の実施例]
図21は、請求項15に関する本発明の第17の実施例のカメラ応用機器構成図である。図21においては、図16の構成のカメラ応用機器2101からの出力である移動物人物付随物情報2102からエッジ抽出部2103でエッジ情報2104を抽出し、体形情報計算部2105で体形情報2106を計算する構成とすることで、カメラに向かって人物が回転するなどにより収集された人物の全方位エッジ情報から全身の採寸を可能とすることができる。なお、カメラ内に体形情報計算部の代わりにエッジ情報をホスト側に送信し、体形情報の計算をホスト側で行う構成でもよい。
【0081】
[第18の実施例]
図22は、請求項16に関する本発明の第18の実施例のカメラ応用機器構成図である。図22においては、図21の構成のカメラ応用機器2201からの出力である体形情報2202をタイマー2206からの日時情報2207と一緒に体形情報記憶部2203に記憶し、体形表示制御部2208の指示により体形表示指示信号2209を体形情報記憶部2203および表示装置2205に指示を出し、体形の時間的変化を表示可能とした構成にすることで、子供の成長記録をとり、成長の履歴を確認したりすることができる。
【0082】
[第19の実施例]
請求項17に関する本発明の第19の実施例は、請求項9ないし請求項16におけるカメラを請求項1ないし請求項8の複眼カメラとすることで、広視野角での防犯カメラや、ゲーム機用カメラなどが実現できる。
【0083】
以上で実施例の説明を終了する。
【0084】
なお、この発明は上述の実施例に限定されることなく、その趣旨を逸脱しない範囲で種々変更が可能である。
【符号の説明】
【0085】
a,b,c,d,e,f カメラの識別記号
a1,b1,e1,f1 レンズ中心
a2,b2,c2,d2,e2,f2 光軸
a3,b3,e3,f3 撮像素子
α カメラの水平画角
β カメラの垂直画角
Xab,Xef 平均光軸

【特許請求の範囲】
【請求項1】
水平画角α(または垂直画角β)の同一の2つのカメラa、bを具備し、カメラa,bのレンズ中心を含む平面上でカメラa,bの光軸を水平画角α(または垂直画角β)と同じ角度α(またはβ)で交差するように配置したことを特徴とする複眼カメラ。
【請求項2】
水平画角α(または垂直画角β)の同一の4つのカメラa,b,c,dを具備し、カメラa,bおよびカメラc,dの両方が請求項1記載の複眼カメラであり、4つのレンズ中心を含む平面上でカメラaの光軸とカメラcの光軸を平行にし、カメラbの光軸とカメラdの光軸を平行になるように配置したことを特徴とする複眼カメラ。
【請求項3】
水平画角α、垂直画角βの4つの同一のカメラa,b,e,fを具備し、カメラa,bおよびカメラe,fの両方が請求項1記載の複眼カメラとし、カメラa,bの平均光軸Xabとカメラe,fの平均光軸Xefの成す平面上でXabとXefを角度βで交差するように配置したことを特徴とする複眼カメラ。
【請求項4】
請求項1ないし請求項3の複眼カメラを少なくとも1つ具備し、これら複眼カメラ(/および1眼カメラ)を組み合わせて構成したことを特徴とする複眼カメラ。
【請求項5】
請求項1ないし請求項4の複眼カメラを具備し、画像合成部を具備したことを特徴とする複眼カメラ。
【請求項6】
請求項1ないし請求項5の複眼カメラを具備し、画角の重なり領域の距離計算を行う距離計算部を具備したことを特徴とする複眼カメラ。
【請求項7】
複眼カメラ、被写体三次元座標計算部、仮想カメラ情報入力部、仮想撮像情報距離計算部を具備し、複眼カメラから撮像情報を被写体三次元座標計算部に入力し、計算された出力の被写体三次元座標情報と仮想カメラ情報入力部からの仮想レンズ中心座標および仮想光軸ベクトルを、仮想撮像情報距離計算部に入力し、仮想撮像情報距離計算部で計算した合成画像データおよび距離データを出力することで、仮想レンズ中心にあるピンホールカメラに対応する合成画像と距離情報を同時に得ることを特徴とする複眼カメラ。
【請求項8】
光軸収束点計算部を具備し、仮想カメラ情報入力部からの仮想3Dカメラの2つの仮想光軸ベクトルおよび入力被写体三次元座標計算部で計算された被写体の三次元座標値を光軸収束点計算部に入力し、光軸収束点を計算により2つの光軸ベクトルを再計算し、計算結果を仮想撮像情報距離計算部で、2つのレンズに対応する仮想撮像情報を計算し、2チャンネルの合成画像データおよび距離データを出力することを特徴とする請求項7記載の複眼カメラ。
【請求項9】
カメラ、背景画像記憶部、移動物人物付随物抽出部、背景画像計算制御部を具備し、カメラからの撮像情報と移動物人物付随物抽出部からの現移動物人物付随物情報と現背景画像の3つの情報を背景画像計算制御部に入力し、移動物人物付随物情報から付随物が移動物または(/および)人物から離脱したと判断できる時に、付随物の離脱判断部分を現背景画像に上書きし、次背景画像として背景画像記憶部を更新することを特徴とするカメラ応用機器。
【請求項10】
背景変化記憶部、タイマー、背景変化確認制御部、初期背景画像記憶部を具備し、背景画像記憶部を更新すると同時に、更新時の背景と異なった変化画像情報を時系列情報とともに、背景変化記憶部に格納し、背景変化確認制御部の指示で、指定された時間の背景画像を初期背景画像記憶部の画像と背景変化記憶部の画像から随時で背景画像の再生成処理を行い確認できることを特徴とする請求項9記載のカメラ応用機器。
【請求項11】
ホスト機器または(/および)カメラ内画像記憶装置を具備し、予めホスト機器または(/および)カメラ内画像記憶装置に背景画像記憶部の初期情報を送信し、その後は、背景画像記憶部が更新される毎に更新情報をホストに送信し、また移動物人物付随物抽出部からの移動物人物付随物情報は随時ホストまたは(/および)カメラ内画像記憶装置に送信し、データ通信量を減らし、カメラ情報の送信情報量やカメラ内画像記憶装置の容量を削減することを特徴とする請求項9記載のカメラ応用機器。
【請求項12】
ホスト機器および移動物人物付随物抽出部からの動き情報を抽出する動き抽出部を具備し、通信回線を通して動き情報だけをホスト機器等へ送信し、ホスト機器へのデータ通信量を減らすことを特徴とする請求項9記載のカメラ応用機器。
【請求項13】
請求項11および請求項12記載のホスト機器へのデータ送信を同時に実現することを特徴とするカメラ応用機器。
【請求項14】
画像表示装置およびホスト側に送られた動き情報とホスト側の教師動き情報を比較し採点する動き採点部を具備し、画像表示装置で教師画像と人物のカメラ画像を分割した表示領域に同時に表示し、逐次採点を行うことを特徴とする請求項13記載のカメラ応用機器。
【請求項15】
エッジ抽出部、体形情報計算部を具備し、移動物人物付随物抽出部から得られる人物画像情報からエッジ抽出部でエッジ情報を抽出し、人物が回転して得られる全方位のエッジ情報を収集し、カメラ内またはホスト機器に送り体形情報を計算することを特徴とする請求項9記載のカメラ応用機器。
【請求項16】
表示装置、体形情報記憶部、タイマー、体形表示制御部を具備し、測定した体形情報と同時に体形測定時の年月日及び時間情報を体形情報記憶部に記録し、時間的変化を表示可能としたことを特徴とする請求項15記載のカメラ応用機器。
【請求項17】
請求項1ないし請求項8記載の複眼カメラを具備し、請求項9ないし請求項16を実現したことを特徴とするカメラ応用機器。

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図17】
image rotate


【公開番号】特開2011−151636(P2011−151636A)
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願番号】特願2010−11707(P2010−11707)
【出願日】平成22年1月22日(2010.1.22)
【出願人】(301073163)マセマテック株式会社 (6)
【Fターム(参考)】