画像処理装置、そのプログラム、画像処理システム、および画像処理方法
【課題】立体画像における色情報のずれが低減され得る技術を提供する。
【解決手段】画像処理装置は、互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得部と、第1画像と第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成部とを備える。第1画像と第2画像とのうち少なくとも第1画像がカラー画像であり、生成部が、第1画像と第2画像とのうち第1画像のみの色情報に基づいて立体画像の色情報を生成する。
【解決手段】画像処理装置は、互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得部と、第1画像と第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成部とを備える。第1画像と第2画像とのうち少なくとも第1画像がカラー画像であり、生成部が、第1画像と第2画像とのうち第1画像のみの色情報に基づいて立体画像の色情報を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、色情報のずれが低減された立体画像を生成する技術に関する。
【背景技術】
【0002】
近年、表示される画像を立体視可能な三次元テレビなどの三次元表示装置の普及が進んでおり、三次元表示装置用の立体視可能な左目用および右目用のカラー画像の画像群(立体画像)を容易に生成し得る技術が望まれている。
【0003】
このような技術として、例えば、特許文献1には、高解像度カメラによって撮影された高解像度のカラー画像と、低解像度のカメラによって撮影された低解像度のカラー画像とを用いて高解像度のカラーの立体画像を生成する画像処理装置が示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−244916号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1の画像処理装置には、生成された立体画像を構成する左右の画像間で、左右のカメラの特性の差異に起因した色情報のずれが発生することがある。このため、立体画像の観察者が立体画像の色情報の違いに起因したちらつき感を覚えるといった問題がある。
【0006】
本発明は、こうした問題を解決するためになされたもので、立体画像における色情報のずれを低減し得る技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記の課題を解決するため、第1の態様に係る画像処理装置は、互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得部と、前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成部とを備え、前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、前記生成部が、前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報を生成することを特徴とする。
【0008】
第2の態様に係る画像処理装置は、第1の態様に係る画像処理装置であって、前記第1画像と前記第2画像との間で対応点探索処理を行うことによって前記第2画像の各基準画素にそれぞれ対応した前記第1画像の各対応画素をそれぞれ特定する探索部をさらに備え、前記生成部が、前記各基準画素のうち1の基準画素と、前記各対応画素のうち該1の基準画素に対応した1の対応画素とについて、前記第2派生画像における該1の基準画素に対応した画素の色情報を該1の対応画素の色情報に基づいて生成する処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする。
【0009】
第3の態様に係る画像処理装置は、第2の態様に係る画像処理装置であって、前記探索部が、前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記対応点探索処理を行うことを特徴とする。
【0010】
第4の態様に係る画像処理装置は、第1から第3の何れか1つの態様に係る画像処理装置であって、前記第2画像が、輝度画像を生成する撮像系によって撮影された輝度画像であることを特徴とする。
【0011】
第5の態様に係る画像処理装置は、第1から第4の何れか1つの態様に係る画像処理装置であって、前記生成部が、前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第2画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする。
【0012】
第6の態様に係る画像処理装置は、第1から第4の何れか1つの態様に係る画像処理装置であって、前記生成部が、前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする。
【0013】
第7の態様に係る画像処理装置は、第1から第4の何れか1つの態様に係る画像処理装置であって、前記生成部が、前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする。
【0014】
第8の態様に係る画像処理装置は、第2から第7の何れか1つの態様に係る画像処理装置であって、前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記第2画像において探索して特定する特定部とを更に備え、前記生成部が、前記別の基準画素に対応した前記第1画像における対応画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする。
【0015】
第9の態様に係る画像処理装置は、第8の態様に係る画像処理装置であって、前記特定部が、前記1の基準画素からの前記別の基準画素の候補画素の距離が近ければ近いほど該候補画素が前記別の基準画素として特定され易くなるように該候補画素についての探索処理の信頼度に重み付け処理を行なうことによって前記別の基準画素を特定することを特徴とする。
【0016】
第10の態様に係る画像処理装置は、第2から第7の何れか1つの態様に係る画像処理装置であって、前記取得部が、前記第1画像と前記第2画像とにそれぞれ対応した時系列の第1画像と時系列の第2画像とを取得するとともに、前記生成部が、前記時系列の第1画像と前記時系列の第2画像とからそれぞれ派生する時系列の第1派生画像と時系列の第2派生画像とにより構成される時系列の立体画像を生成し、前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記時系列の第2画像において探索して特定する特定部とを更に備え、前記生成部が、前記別の基準画素に対応した前記時系列の第1画像における画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする。
【0017】
第11の態様に係る画像処理装置は、第2から第7の何れか1つの態様に係る画像処理装置であって、前記1の基準画素からの距離が予め設定された基準値以下となる複数の画素を前記第2画像において特定する特定部を更に備え、前記生成部が前記複数の画素にそれぞれ対応した前記第1画像における複数の対応画素の色情報に基づいて前記1の基準画素の色情報を生成する生成処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする。
【0018】
第12の態様に係る画像処理装置は、第11の態様に係る画像処理装置であって、前記生成部が、前記1の基準画素についての前記対応点探索処理の信頼度に応じた重み付け処理を前記1の対応画素の色情報に対して行なうことによって前記生成処理を行なうことを特徴とする。
【0019】
第13の態様に係る画像処理システムは、第1から第12の何れか1つの態様に係る画像処理装置と、前記第1の画像を撮像する第1撮像系と、前記第2画像を撮像する第2撮像系とを備えたことを特徴とする。
【0020】
第14の態様に係るプログラムは、画像処理装置に搭載されたコンピューターにおいて実行されることにより当該画像処理装置を第1から第12の何れか1つの態様に係る画像処理装置として機能させることを特徴とする。
【0021】
第15の態様に係る画像処理方法は、互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得工程と、前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成工程とを備え、前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、前記生成工程において、前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報が生成されることを特徴とする。
【発明の効果】
【0022】
第1から第15の何れの態様に係る発明によっても、第1画像と第2画像とのうちカラー画像である第1画像のみの色情報に基づいて第1派生画像と第2派生画像とによって構成される立体画像の色情報が生成されるので、立体画像における色情報のずれが低減され得る。
【図面の簡単な説明】
【0023】
【図1】実施形態に係る画像処理システムの構成例を示す機能ブロック図である。
【図2】実施形態に係る画像処理装置の要部の構成例を示す機能ブロック図である。
【図3】入力画像と出力画像との説明をするための図である。
【図4】入力画像と出力画像との説明をするための図である。
【図5】入力画像の色空間の変換の概念を説明するための図である。
【図6】色空間の変換による出力画像の生成の概念を説明するための図である。
【図7】出力画像の生成処理を説明するための図である。
【図8】出力画像の生成処理を説明するための図である。
【図9】出力画像の生成処理を説明するための図である。
【図10】SAD法を用いた対応点探索の例を説明する図である。
【図11】SAD法における参照ウィンドウの走査態様を例示する図である。
【図12】出力画像の生成処理を説明するための図である。
【図13】時系列画像の概念を説明するための図である。
【図14】出力画像の生成処理を説明するための図である。
【図15】累積ヒストグラムを用いた変換用ガンマテーブルの生成処理を説明するための図である。
【図16】対象画像の輝度の変換用ガンマテーブルの1例を示す図である。
【図17】目標画像の輝度の変換用ガンマテーブルの1例を示す図である。
【図18】実施形態に係る画像処理装置の動作フローの1例を示す図である。
【図19】実施形態に係る画像処理装置の動作フローの1例を示す図である。
【発明を実施するための形態】
【0024】
<実施形態について:>
以下、本発明の一実施形態を図面に基づいて説明する。図面では同様な構成および機能を有する部分に同じ符号が付され、下記説明では重複説明が省略される。また、各図面は模式的に示されたものであり、例えば、各図面における画像上の表示物のサイズおよび位置関係等、ならびに各図面における画像の画素数等は必ずしも正確に図示されたものではない。また、画像データ(画像信号)と、該画像データに基づいて表示される画像とをまとめて「画像」と適宜総称する。更に、各図面では、画像の左上の画素が原点とされ、該画像の長辺に沿った方向(ここでは、横方向)がX軸方向とされ、該画像の短辺に沿った方向(ここでは縦方向)がY軸方向とされる。なお、図7から図12および図14には直交するXYの2軸が付されている。
【0025】
<(1)画像処理システム100Aについて>
図1は、実施形態に係る画像処理装置200Aを用いた画像処理システム100Aの構成例を示す機能ブロック図である。図1に示されるように、画像処理システム100Aは、ステレオカメラ300と画像処理装置200Aとを主に備えて構成されている。画像処理システム100Aでは、被写体70をステレオカメラ300が撮影することにより取得した入力画像1(「第1画像」)および入力画像2(「第2画像」)を画像処理装置200Aの取得部12(図2)が取得する。入力画像1および2のうち少なくとも入力画像1はカラー画像である。画像処理装置200Aの生成部15(図2)は、入力画像1および2を処理することによって入力画像1から派生する出力画像3(「第1派生画像」)および入力画像2から派生する出力画像4(「第2派生画像」)を生成する。出力画像3および4は、それぞれカラー画像であり、被写体70についてのカラーの立体画像29を構成する。なお、生成部15は、入力画像1と入力画像2とのうち入力画像1のみの色情報に基づいて立体画像29の色情報を生成する。すなわち、画像処理装置200Aは、2つの入力画像のうち1つのカラー画像のみの色情報に基づいて立体画像29の色情報を生成する。生成された立体画像29は、画像処理装置200Aの表示部43に表示される。
【0026】
<(1−1)ステレオカメラ300について>
図1に示されるように、ステレオカメラ300は、撮影によりカラー画像を生成するカラーカメラである第1カメラ61と、撮影により輝度画像(モノクロ画像)を生成するモノクロカメラである第2カメラ62とを主に備えて構成されている。第1カメラ61は、不図示の撮影光学系と、カラー撮像素子を有する制御処理回路とを主に備えて構成されており、第2カメラ62は、不図示の撮影光学系と、モノクロ撮像素子を有する制御処理回路とを主に備えて構成されている。第1カメラ61と第2カメラ62とは、所定の基線長を隔てて設けられており、互いに異なる方向から同一の被写体をそれぞれ撮影し、入力画像1および2をそれぞれ生成して取得する。すなわち、入力画像1および2は、互いに異なる方向から同一の被写体がそれぞれ撮影された画像であり、入力画像1および2には、互いに対応する画像内容が含まれている。
【0027】
第1カメラ61のカラー撮像素子は、三原色であるR(赤)、G(緑)、B(青)の光をそれぞれ透過可能なカラーフィルタが積層された、例えば、横3456×縦2592の画素からなるCMOSイメージセンサ、またはCCDイメージセンサ等の撮像素子である。R(赤)、G(緑)、B(青)の光にそれぞれ対応した各カラーフィルターは、該カラー撮像素子上において、例えば、RGBベイヤー配列により配列されている。
【0028】
該カラー撮像素子は、撮影光学系により結像された被写体の光像を、該光像の光量に応じてRGBの各色成分の画像信号(各画素で受光された画素信号の信号列からなる信号)に光電変換して出力する。制御処理回路は、該画像信号に対して、所定のタイミングでデジタル化処理を行なうとともに、各色成分に対応したカラーフィルターがベイヤー配列されたことによって生じる、各色成分における欠落画素を補間するための補間処理などを実行する。該補間処理によって、該制御処理回路は、例えば、横3456×縦2592画素の画素サイズの所定のビット数の階調を有するデジタルのカラー画像である入力画像1を生成して取得する。入力画像1の各画素の画素値としては、R、G、Bの3つの色成分に対応した画素値であるR値(R信号)、G値(G信号)、およびB値(B信号)のそれぞれが設定される。
【0029】
第2カメラ62のモノクロ撮像素子は、例えば、R,G,Bの三原色の全ての光を透過する透明なフィルターが積層された、例えば、横3456×縦2592などの所定の画素数の画素からなるCMOSイメージセンサ、またはCCDイメージセンサ等の撮像素子である。該モノクロ撮像素子は、撮影光学系により結像された被写体の光像を、該光像の光量に応じた輝度成分の画像信号(各画素で受光された画素信号の信号列からなる信号)に光電変換して出力する。制御処理回路は、該画像信号に対して、所定のタイミングでデジタル化処理などを実行し、横3456×縦2592などの所定の画素サイズの所定のビット数の階調を有するデジタルのモノクロ画像(輝度画像)である入力画像2を生成して取得する。入力画像2の各画素の画素値としては、輝度に対応した画素値であるY値(Y信号)が設定される。
【0030】
ステレオカメラ300の各種動作は、画像処理装置200Aから入出力部41(図2)および通信回線DL(図1、図2)を介して供給される制御信号に基づいて制御される。通信回線DLは、有線の回線であっても無線の回線であっても良い。また、生成された入力画像1および2は、通信回線DLを介して画像処理装置200Aの入出力部41へと供給される。また、ステレオカメラ300は、第1カメラ61と第2カメラ62との同期をとりつつ被写体を時間順次に連続的に撮影することによって、時系列画像である複数の入力画像1および複数の入力画像2を生成することもできる。
【0031】
なお、入力画像1および2の画素数が互いに等しいとしても、また、異なるとしても本発明の有用性を損なうものではない。また、第1カメラ61と第2カメラ62とがそれぞれカラー画像を生成するカラーカメラであるとしても本発明の有用性を損なうものではない。この場合には、入力画像1および2はともにカラー画像であり、入力画像1と入力画像2とのうち何れか一方の画像のみの色情報に基づいて出力画像3および4の色情報が生成される。
【0032】
また、第1カメラ61と第2カメラ62とのうち一方がモノクロカメラであれば、両方ともカラーカメラである場合に比べて、低コストでカラーの立体画像を生成することができる。
【0033】
図3および図4は、入力画像1および2と、出力画像3および4との説明をするための図である。なお、図3に示される各画像における被写体の像は、図示の都合上、その輪郭のみが表示されている。
【0034】
図3に示されるように入力画像1、2には、近景の被写体と遠景の被写体とを含む共通の被写体がそれぞれ撮影されている。近景被写体像66a(図3)は、入力画像1における該近景被写体の画像であり、近景被写体像66b(図3)は、入力画像2における該近景被写体の画像である。入力画像1における近景被写体像66aの周囲と、入力画像2における近景被写体像66bの周囲とのそれぞれには、該近景被写体の背景が、背景被写体像として撮影されている。入力画像1および2の間では、第1カメラ61と第2カメラ62との基線長に起因した視差が存在しており、特に近景被写体像66aおよび66bの間での視差が顕著となっている。
【0035】
図4に示されるように、入力画像1は各画素が、R、G、Bの三原色にそれぞれ対応した所定ビット数で表現されたR値、G値、B値を画素値としてそれぞれ有するカラー画像、すなわちRGBの色空間で表現されたカラー画像である。また、入力画像2は、各画素が、所定ビット数で表現された輝度Y(Y値)を画素値として有する輝度画像(モノクロ画像)である。
【0036】
出力画像3および4は、入力画像1および2からそれぞれ派生した画像であり、立体画像29を構成している。図3に示されるように、出力画像3に撮影された各被写体の像の輪郭は、入力画像1に撮影された各被写体の像の輪郭と等しく、出力画像4に撮影された各被写体の像の輪郭は、入力画像2に撮影された各被写体の像の輪郭と等しい。例えば、図3に示されるように入力画像1の近景被写体像66aと、出力画像3における近景被写体像66cとは画像空間における位置が等しい。また、入力画像2の近景被写体像66bと、出力画像4の近景被写体像66dとは画像空間における位置が等しい。なお、図4に示されるように出力画像3および4は、ともに、RGBの色空間で表現されたカラー画像である。
【0037】
なお、図3および図4に示されるように、入力画像1から派生した出力画像3として入力画像1自体が採用されたとしても本発明の有用性を損なうものではない。本願においては、出力画像3として入力画像1自体が採用された場合を例として主に説明を行なう。
【0038】
<(1−2)画像処理装置200Aについて>
図1に示されるように、画像処理装置200Aは、CPU11A、入出力部41、操作部42、表示部43、ROM44、RAM45および記憶装置46を主に備えて構成されており、例えば、汎用のコンピューターでプログラムを実行することなどによって実現される。
【0039】
入出力部41は、例えばUSBインタフェース、またはBluetooth(登録商標)インタフェースなどの入出力インタフェース、マルチメディアドライブ、およびネットワークアダプタなどのLANやインターネットに接続するためのインタフェースなどを備えて構成され、CPU11Aとの間でデータの授受を行うものである。具体的には、入出力部41は、例えば、CPU11Aがステレオカメラ300を制御するための各種の制御信号を、通信回線DLなどを介して入出力部41に接続されたステレオカメラ300へと供給する。また、入出力部41は、ステレオカメラ300が撮影した入力画像1および入力画像2を画像処理装置200Aへとそれぞれ供給する。なお、入出力部41は、予め入力画像1および入力画像2が記憶された光ディスクなどの記憶媒体を受け付けることなどによっても、入力画像1および入力画像2を画像処理装置200Aにそれぞれ供給する。
【0040】
操作部42は、例えば、キーボードあるいはマウスなどによって構成されており、操作者が操作部42を操作することによって、画像処理装置200Aへの各種制御パラメータの設定、画像処理装置200Aの各種動作モードの設定などが行われる。また、画像処理装置200Aの機能部は、操作部42から設定される各動作モードに応じた処理を行うことができるように構成されている。
【0041】
表示部43は、例えば、パララックスバリア方式などの3次元表示方式に対応した3次元表示用の液晶表示画面などによって構成される。また、表示部43は、出力画像3と出力画像4とによって構成される立体画像29を表示部43における3次元表示方式に対応した画像形式に変換する不図示の画像処理部を備えている。表示部43は、該画像処理部によって必要な変換処理が施された該立体画像をその表示画面に表示する。表示部43における3次元表示方式として、例えば、左目用画像および右目用画像を交互に高速で切り替えて表示部43に表示するとともに、該切り替えに同期して、左目および右目にそれぞれ対応した各シャッター部を交互に開閉可能な専用めがねを介して表示部43に表示された立体画像が観察される三次元表示方式が採用されてもよい。なお、表示部43は、ステレオカメラ300から供給される画像、画像処理装置200Aが生成した画像、画像処理装置200Aに関する各種設定情報、および制御用GUI(Graphical User Interface)などを、二次元の画像や文字情報として観察者に視認され得るように表示することもできる。
【0042】
ROM(Read Only Memory)44は、読出し専用メモリであり、CPU11Aを動作させるプログラムPG1などを格納している。なお、読み書き自在の不揮発性メモリ(例えば、フラッシュメモリ)が、ROM44に代えて使用されてもよい。
【0043】
RAM(Random Access Memory)45は、読み書き自在の揮発性メモリであり、画像処理装置200Aが取得した各種画像、ならびに画像処理装置200Aが生成する立体画像29などを一時的に記憶する画像格納部、CPU11Aの処理情報を一時的に記憶するワークメモリなどとして機能する。なお、後述するCPU11Aにおける各機能部の間での画像(画像データ)の授受は、RAM45を介して行なわれる。
【0044】
記憶装置46は、例えば、フラッシュメモリなどの読み書き自在な不揮発性メモリやハードディスク装置等によって構成されており、画像処理装置200Aの各種制御パラメータや各種動作モードなどの情報を恒久的に記録する。
【0045】
CPU(Central Processing Unit)11Aは、画像処理装置200Aの各機能部を統轄制御する制御処理装置であり、ROM44に格納されたプログラムPG1などに従った制御および処理を実行する。CPU11Aは、図2を用いて後述するように、取得部12、変換部13、探索部14、生成部15、判定部16、および特定部17としても機能する。CPU11Aは、これらの機能部などによって、カラー画像である入力画像1および輝度画像である入力画像2をそれぞれ処理することによって、それぞれカラー画像である出力画像3および4(立体画像29)を生成する。なお。画像処理装置200Aは、入力画像1と入力画像2とのうち入力画像1のみの色情報に基づいて立体画像29の色情報を生成する。また、CPU11Aは、ステレオカメラ300の撮像動作の制御を行うとともに、表示部43を制御して、各種画像、算出結果、および各種制御情報などを表示部43に表示させる。
【0046】
また、CPU11A、入出力部41、操作部42、表示部43、ROM44、RAM45、記憶装置46等のそれぞれは、信号線49を介して電気的に接続されている。したがって、CPU11Aは、例えば、入出力部41を介したステレオカメラ300の制御およびステレオカメラ300からの画像情報の取得、および表示部43への表示等を所定のタイミングで実行できる。なお、図2に示される構成例では、取得部12、変換部13、探索部14、生成部15、判定部16、および特定部17などの各機能部は、CPU11Aで所定のプログラムを実行することによって実現されているが、これらの各機能部はそれぞれ、例えば、専用のハードウェア回路などによって実現されてもよい。
【0047】
<(1−3)画像処理装置200Aの要部の構成について>
図2は、実施形態に係る画像処理装置200Aの要部の構成例を示す機能ブロック図である。
【0048】
○取得部12:
図2に示される取得部12は、入出力部41から供給されるカラー画像である入力画像1および輝度画像(モノクロ画像)である入力画像2を取得する。入力画像1は、変換部13および特定部17に供給され、入力画像2は、探索部14、特定部17、および生成部15へと供給される。
【0049】
○変換部13:
図2に示される変換部13は、入力画像1に対して、RGB色空間を輝度色差系の色空間であるYUV色空間に変換する変換処理を施すことによって、色情報画像(色差画像)5(図5)と輝度画像6(図5)とを生成して取得する。色情報画像5および輝度画像6は、探索部14および生成部15に供給される。
【0050】
○探索部14:
図2に示される探索部14は、入力画像1と入力画像2との間で対応点探索処理を行うことによって入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する。具体的には、探索部14は、入力画像(輝度画像)2と輝度画像6との間で対応点探索処理を行なうことによって、入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する。すなわち、探索部14は、入力画像1と入力画像2とのそれぞれの輝度情報に基づいて該対応点探索処理を行う。特定された各基準画素および各対応画素の座標情報、各基準画素と各対応画素との対応情報などの探索結果の情報は、生成部15へと供給される。また、各対応画素の特定に係る対応点探索処理において取得される対応点探索処理の信頼度R1(図10)は、判定部16へと供給される。
【0051】
なお、入力画像1と入力画像2との画素数が異なる場合には、探索部14は、例えば、画素数の拡張処理等によって画素数を同じにする処理、または画素サイズ以下のサブピクセル単位での対応点探索処理などによって、入力画像1と入力画像2との間で対応点探索処理を行う。
【0052】
○生成部15:
図2に示される生成部15は、例えば、入力画像2、色情報画像5、および輝度画像6などを予め設定された動作モードに応じて適宜処理することによって、立体画像29(図3、図4)を生成する。なお、立体画像29の色情報は、入力画像1と入力画像2とのうちカラー画像である入力画像1のみの色情報に基づいて生成される。生成された立体画像29は、表示部43に表示される。
【0053】
なお、生成部15は、後述するように、判定部16、および特定部17の動作に応じて立体画像29を生成することもできる。
【0054】
○判定部16:
図2に示される判定部16は、予め設定された画像処理装置200Aの動作モードに応じて対応点探索処理の信頼度の判定用の基準値T1(図10)を記憶装置46から取得し、探索部14から供給された対応点探索処理の信頼度R1(図10)が予め設定された基準値T1よりも低いか否かを判定する。該判定結果は、特定部17および生成部15へと供給される。
【0055】
○特定部17:
図2に示される特定部17は、判定部16から供給された信頼度の判定結果が、予め設定された基準値T1よりも低いと判定された判定結果であった場合に、入力画像2における1の基準画素に対応した別の基準画素を入力画像1において探索して特定する処理などを行なう。該特定処理の結果は、生成部15へと供給される。
【0056】
<(2)画像処理装置200Aの動作について>
図18は、実施形態に係る画像処理装置200Aが立体画像29(出力画像3および4)を生成する動作フローS10Aの1例を示す図である。以下に、図18を適宜参照しつつ、画像処理装置200Aの動作について説明する。なお、画像処理装置200Aの各機能部は、処理対象である入力画像1および2の画素数が異なる場合には、補間、間引き、および平均化の各処理のうち少なくとも1つの処理によって、画素数が相互に異なる画像間での処理を行なう。
【0057】
<(2−1)ステップS10:取得工程>
画像処理装置200Aからの指示に応じたステレオカメラ300による被写体70の撮影動作によって、入力画像1および2が取得されて画像処理装置200Aに供給されると、取得部12(図2)は、入出力部41を介してカラー画像である入力画像1および輝度画像(モノクロ画像)である入力画像2を取得する(図18のステップS10)。
【0058】
<(2−2)ステップS20:変換工程>
図5は、RGB色空間で表現されたカラー画像である入力画像1の色空間の変換の概念を説明するための図である。ステップS10において入力画像1および2が取得されると、変換部13(図2)は、入力画像1に対して、例えば下記の(1)式〜(3)式によって、RGB色空間を輝度色差系の色空間であるYUV色空間に変換する変換処理を施すことによって、色情報画像(色差画像)5(図5)と輝度画像6(図5)とを生成して取得する(図18のステップS20)。色情報画像5は、各画素について、色情報U、Vのそれぞれを各画素値とする画像である。また、輝度画像6は、輝度Yを各画素の画素値とする画像である。
【0059】
なお、本願においては、(2)式および(3)式によってそれぞれ算出される色差U、V(UV信号)と、値R、G、B(RGB信号)の総称として「色情報」という用語を使用する。また、RGB色空間からYUV色空間への変換処理は数種類あり、(1)式〜(3)式に示される変換は、その一手法である。
【0060】
【数1】
【0061】
<(2−3)ステップS30:探索工程>
ステップS20において輝度画像6が生成されると、探索部14(図2)は、入力画像1と入力画像2との間で対応点探索処理を行うことによって入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する(図18のステップS30)。ここで、探索部14は、入力画像(輝度画像)2と入力画像1との間で、それぞれの輝度情報に基づいて該対応点探索処理を行う。すなわち、探索部14は、入力画像(輝度画像)2と、入力画像1についての輝度情報を表現した輝度画像6との間で対応点探索処理を行うことによって、入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する。
【0062】
該対応点探索処理は、NCC(Normalized Cross Correlation)法、SAD(Sum of Absolute Difference)法、またはPOC(Phase Only Correlation)法などの相関演算手法を用いたパターンマッチング処理により互いに対応づけられる各領域の代表点を特定する処理などにより行なわれ得る。以下に、一例として、SAD法を用いた対応点探索処理を説明する。
【0063】
○SAD法を用いた対応点探索:
図10は、SAD法を用いた対応点探索の例を説明する図である。図10に示される入力画像2上にはX座標がh2である基準画素21が設定されており、基準画素21に対して基準ウィンドウ51が設定されている。基準ウィンドウ51のX方向の両端のX座標は、h1とh3である。また、入力画像1に対応した輝度画像6上には、基準画素21に対応する対応画素23が示されている。
【0064】
ここでは、SAD法を用いて対応画素23を求める例について説明する。輝度画像6上には、X座標がxsである探索基準点22sからX座標がxeである探索基準点22eまで、X座標がxs≦x≦xeの範囲で1画素ごとに複数の探索基準点が設定されており、これら複数の探索基準点の代表として両端の探索基準点22s、22eのみが記載されている。また、該複数の探索基準点には、それぞれ基準ウィンドウ51と同サイズの複数の参照ウィンドウが設定されており、該複数の参照ウィンドウの代表として両端の参照ウィンドウ52s、52eのみが記載されている。
【0065】
ここで、図10においては説明を簡単にするため、基準画素21と複数の探索基準点22s〜22eのY座標は同じであり、従って、基準ウィンドウ51と、参照ウィンドウ52s〜52eのY方向の座標のずれ量は無いように設定されている。また、基準画素21と、求められるべき対応画素23のY座標も一致するように設定されている。
【0066】
次に、参照ウィンドウ52s〜52eの各参照ウィンドウ内の各画像と、基準ウィンドウ51内の画像との相関値を演算する。基準ウィンドウと参照ウィンドウのX方向、Y方向の座標のずれ量(視差)をそれぞれ視差xd、ydとする。図10の例では、視差xdの範囲はxs−h2〜xe−h2であり、視差ydは0である。
【0067】
基準ウィンドウ51内の各画素(xi,yj)の画素値をImg1(xi,yj)、X方向、Y方向の視差が、視差xd、ydである参照ウィンドウ52内の各画素(xi+xd,yj+yd)の画素値をImg2(xi+xd,yj+yd)とすると、(4)式、(5)式を用いた演算によって基準ウィンドウ51内の画像と参照ウィンドウ52内の画像の相関値CORpが算出される。
【0068】
【数2】
【0069】
参照ウィンドウが52sから52eにわたって走査されるように、X方向の視差xdをxs−h2〜xe−h2の範囲で変更しつつ、(4)式および(5)式によって各視差xdに対する相関値CORpが算出されると、図10に示すグラフU1のように輝度画像6のX座標と相関値CORpとの関係が明らかになる。
【0070】
図10の例では、座標xMにおいて、グラフU1における相関値CORpの最大値R1が与えられているので、探索基準点のX座標がxMと一致する参照ウィンドウが、相関値CORpの最大値R1を与える参照ウィンドウであり、該参照ウィンドウの探索基準点と、基準画素21に対応する対応画素23とは一致する。
【0071】
なおCORp値の最大値R1が、本発明における「信頼度」に相当する。信頼度R1は、判定部16によって、記憶装置46などに予め格納された所定の判定用の基準値T1と比較されて、対応点探索処理についての信頼度が判定される。該判定処理において、信頼度R1が基準値T1以上であれば対応点探索処理の信頼度は高く、対応画素23の特定は成功していると判定される。逆に、信頼度R1が基準値T1よりも低ければ、対応画素23の特定は失敗していると判定される。
【0072】
図11はSAD法における参照ウィンドウ52の走査態様を例示する図であり、入力画像1に対応した輝度画像6の全域に参照ウィンドウ52を走査させている。SAD法は周波数分析を行う手法に比べて演算量が少なく高速な処理が可能であるので、画素数が多い入力画像1(輝度画像6)にSAD法による対応点探索を適用し、図11に示される全域走査を行っても処理時間が短くなる。
【0073】
従ってSAD法を用いる場合には、画像の全域にわたって参照ウィンドウの走査を行って視差特定をしても、周波数分析を行う手法を用いる場合に比べて短時間で対応点探索を行うことができるので、探索基準点を求める処理コストを削減することが可能となる。
【0074】
なお、SAD法以外にも、例えば、SSD(濃度差の二乗和)法などを差分型探索手法として採用しても本発明の有用性を損なうものではない。また、対応点探索法としてPOC法を用いてもよい。POC法は、画像の周波数成分を用いるため、上述したように入力画像(輝度画像)2と輝度画像6との間での対応点探索を行う方法としては好適である。
【0075】
ここで、後述する生成部15は、予め設定された動作モードに応じて、探索部14の対応点探索処理の結果から、例えば、後述する3種類の生成処理1〜3によって、RGB色空間で表現されたカラー画像出力画像4を生成可能に構成されている。
【0076】
図7〜図9は、それぞれ、該3種類の生成処理1〜3のそれぞれによる出力画像4の生成処理を説明するための図である。図7〜図9においては、画素間の対応関係の理解を容易にするために、撮影された被写体像の一部の輪郭が破線によって表示されている。
【0077】
また、図6は、YUV色空間からRGB色空間への変換による出力画像4の生成の概念を、該3種類の手法にそれぞれ対応して説明するための図である。
【0078】
<(2−4)ステップS40:第1生成工程>
図18のステップS30において、入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素がそれぞれ特定されると、生成部15(図2)は、入力画像2から派生する出力画像4の各画素に対応した輝度情報と色情報(色差)との取得処理を行なう(図18のステップS40)。
【0079】
○出力画像4の生成処理1に対するステップS40の処理:
出力画像4の生成処理1においては、生成部15は、図7に示されるように、出力画像4の画素P4の輝度Yとして、入力画像2における画素P4に対応する画素P1の輝度Yを採用する。生成部15は、また、画素P4の色情報(色差)U、Vとして、色情報画像5における対応画素P3の色情報(色差)U、Vを採用する。
【0080】
生成部15は、ステップS40においては、先ず、探索部14から供給された探索結果の情報に基づいて、入力画像2の画素P1(Xa,Ya)と、輝度画像6の画素P1に対応した対応画素P2(Xb,Yb)とを特定する。
【0081】
生成部15は、また、対応画素P2と同じ座標の色情報画像(色差画像)5における対応画素P3(Xb,Yb)を特定するとともに、入力画像2の画素P1と同じ座標の出力画像4における画素P4(Xa,Ya)を特定する。
【0082】
生成部15は、入力画像2における他の画素のそれぞれについても、同様に、色情報画像5および輝度画像6における対応画素と、出力画像4における同じ座標の画素とを特定する。
【0083】
出力画像4の各画素について、各画素の色情報R、G、Bの生成に用いられる輝度情報Yと色情報(色差)U、Vに係る各画素を特定することにより、各画素の色情報R、G、Bの生成に用いられる輝度情報Yと、色情報(色差)U、Vとを取得する。
【0084】
○出力画像4の生成処理2に対するステップS40の処理:
出力画像4の生成処理2においては、生成部15は、図8に示されるように、出力画像4の画素P4の輝度Yとして、輝度画像6における対応画素P2の輝度Yを採用する。生成部15は、また、画素P4の色情報(色差)U、Vとして、生成処理1と同様に、色情報画像5における対応画素P3の色情報(色差)U、Vを採用する。
【0085】
出力画像4の生成処理2に対するステップS40の処理においては、生成処理1に対するステップS40の処理と同様にして、生成部15は、図8に示されるように、画素P1に対して、対応画素P2、P3および画素P4をそれぞれ特定する。
【0086】
また、生成部15は、入力画像2における他の画素のそれぞれについても、同様に、色情報画像5および輝度画像6における対応画素と、出力画像4における同じ座標の画素とを特定し、出力画像4の各画素について、色情報R、G、Bの生成に用いられる輝度情報Yと、色情報(色差)U、Vとを取得する。
【0087】
○出力画像4の生成処理3に対するステップS40の処理:
出力画像4の生成処理3においては、生成部15は、図9に示されるように、出力画像4の画素P4の輝度Yとして、入力画像2における画素P1と輝度画像6における対応画素P2とのそれぞれの輝度Yを採用する。生成部15は、また、画素P4の色情報(色差)U、Vとして、生成処理1、2と同様に、色情報画像5における対応画素P3の色情報(色差)U、Vを採用する。
【0088】
出力画像4の生成処理3に対するステップS40の処理においては、生成部15は、生成処理1に対するステップS40の処理と同様にして、図9に示されるように、画素P1に対して、対応画素P2、P3および画素P4をそれぞれ特定する。
【0089】
また、生成部15は、入力画像2における他の画素のそれぞれについても、同様に、色情報画像5および輝度画像6における対応画素と、出力画像4における同じ座標の画素とを特定し、出力画像4の各画素について、色情報R、G、Bの生成に用いられる輝度情報Yと、色情報(色差)U、Vとを取得する。
【0090】
<(2−5)ステップS50:第2生成工程>
出力画像4の各画素の色情報RGBの生成に用いられる輝度情報Yと色情報(色差)U、Vとの取得がされると、生成部15は、取得された輝度情報Yと色情報U、Vについて、YUV色空間からRGB色空間への逆変換処理を行い、出力画像4を生成する(図18のステップS50)。
【0091】
○出力画像4の生成処理1に対するステップS50の処理:
生成部15は、出力画像4の生成処理1に対するステップS50において、出力画像4における1の画素P4(図7)に対応した入力画像2における画素P1(図7)の輝度Yと、画素P4に対応した色情報画像5における対応画素P3(図7)の色情報U、Vとに対して、YUV色空間からRGB色空間への逆変換処理を行う。該逆変換処理は、(1)式〜(3)式で表現されたRGB色空間からYUV色空間への変換処理の逆変換によって行われる。該逆変換処理によって、画素P4の色情報R、G、Bが取得される。生成部15は、取得した色情報R、G、Bを画素P4に対応したRAM45のメモリ空間に格納することなどによって、画素P4の画素値の生成を完了する。生成部15は、出力画像4における他の画素についても画素P4と同様の処理を行うことにより出力画像4を生成する。従って、図6に示されるように、出力画像4は、入力画像2の輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより生成される。
【0092】
○出力画像4の生成処理2に対するステップS50の処理:
生成部15は、出力画像4の生成処理2に対するステップS50において、出力画像4における1の画素P4(図8)に対応した輝度画像6における対応画素P2(図8)の輝度Yと、画素P4に対応した色情報画像5における対応画素P3(図8)の色情報U、Vとに対して、YUV色空間からRGB色空間への逆変換処理を行う。生成部15は、該逆変換処理によって、画素P4の色情報R、G、Bを取得し、取得した色情報R、G、Bを画素P4に対応したRAM45のメモリ空間に格納することなどによって、画素P4の画素値の生成を完了する。生成部15は、出力画像4における他の画素についても画素P4と同様の処理を行うことにより出力画像4を生成する。従って、図6に示されるように、出力画像4は、輝度画像6の輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより生成される。
【0093】
○出力画像4の生成処理3に対するステップS50の処理:
生成部15は、出力画像4の生成処理3に対するステップS50において、出力画像4の1の画素P4(図9)にそれぞれ対応した入力画像2の画素P1と、輝度画像6の対応画素P2(図9)とのそれぞれの各輝度Yについて、例えば、平均値を求めることなどにより派生した輝度Yを取得する。生成部15は、該派生した輝度Yと、画素P4に対応した色情報画像5の対応画素P3(図9)の色情報U、Vとに対して、YUV色空間からRGB色空間への逆変換処理を行う。生成部15は、該逆変換処理によって、画素P4の色情報R、G、Bを取得し、取得した色情報R、G、Bを画素P4に対応したRAM45のメモリ空間に格納することなどによって、画素P4の画素値の生成を完了する。生成部15は、出力画像4における他の画素についても画素P4と同様の処理を行うことにより出力画像4を生成する。従って、図6に示されるように、出力画像4は、入力画像2および輝度画像6のそれぞれの輝度Yから派生した輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより生成される。
【0094】
<(2−6)ステップS60:第3生成工程>
出力画像4が生成されると、生成部15は、入力画像1から派生した出力画像3を生成することによって、出力画像3、4(立体画像29)を生成し(図18のステップS60)、立体画像29の生成処理を終了する。
【0095】
なお、出力画像3の生成処理において、生成部15は、例えば、入力画像1自体を出力画像3として採用する処理により出力画像3を生成する。また、生成部15が、例えば、既述した出力画像4の生成処理3と同様にして、入力画像2および輝度画像6のそれぞれの輝度Yから派生した輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより出力画像3を生成したとしても本発明の有用性を損なうものではない。ステップS40(第1生成工程)、ステップS50(第2生成工程)およびステップS60(第3生成工程)を総称して、生成工程と言う。
【0096】
上述したように、画像処理装置200Aによれば、入力画像1と入力画像2とのうちカラー画像である入力画像1のみの色情報に基づいて出力画像3と出力画像4とによって構成される立体画像29の色情報が生成される。従って、生成された立体画像における色情報のずれが低減され得る。
【0097】
また、画像処理装置200Aは、入力画像1と入力画像2との間で互いに対応する画素の位置情報を使用して立体画像29を生成する。従って、入力画像1および2からそれぞれ派生する出力画像3および4の画素位置の変化がないので、画素位置の変化に起因して生ずる画像(画像データ)の欠落部分を生ずることなく立体画像29を生成することができる。
【0098】
<(3)対応点探索処理の失敗時における回復処理>
<(3−1)回復処理1>
図12は、入力画像2の基準画素に対応した入力画像1の対応画素、すなわち輝度画像6における対応画素を特定する対応点探索処理が失敗した場合に、画像処理装置200Aが行なう出力画像4の生成処理の1例を説明するための図である。図12においては、入力画像2における基準画素の1例として基準画素Q2(X2,Y2)が示されている。また、輝度画像6における対応画素として、図18のステップS30において特定された画素の1例として対応画素Q1(X1,Y1)が示されている。
【0099】
ここで、対応画素Q1が探索された際の対応点探索処理における信頼度R1(図10)は、判定部16に供給されている。そして、判定部16(図2)によって信頼度R1と、記憶装置46に予め格納されている信頼度判定用の基準値T1とが比較された結果、信頼度R1が基準値T1よりも低い、すなわち該対応点探索処理が失敗したとの判定結果が得られている。また、該判定結果は、特定部17(図2)へと供給されている。
【0100】
特定部17は、該判定結果が、対応点探索処理の失敗に対応した判定結果であった場合には、基準画素Q2に対応した別の基準画素Q3(X3,Y3)を入力画像2において探索して特定する。該特定処理は、探索部14における処理と同様に、SAD法やPOC法などの相関演算手法を用いたパターンマッチング処理により互いに対応づけられる各領域の代表点を特定する処理などにより行なわれる。また、該特定処理の結果である基準画素Q3に関する情報は、生成部15へと供給される。
【0101】
なお、特定部17は、設定された動作モードに応じて、基準画素Q3の特定処理において更に重み付け処理を行なうことにより基準画素Q3を特定することもできる。具体的には、特定部17は、基準画素Q2からの基準画素Q3の候補画素の距離が近ければ近いほど該候補画素が基準画素Q3として特定され易くなるように該候補画素についての探索処理の信頼度に重み付け処理を行なうことによって基準画素Q3を特定する。
【0102】
生成部15は、基準画素Q3に対応した入力画像1における対応画素の色情報に基づいて基準画素Q2に対応した出力画像4における基準画素Q6(X2,Y2)の色情報を生成する。具体的には、輝度画像6における対応画素Q4(X4,Y4)は、基準画素Q3に対応した対応画素として探索部14によって予め探索された対応画素である。なお、対応画素Q4の対応点探索処理は成功したと判定されている。
【0103】
生成部15は、輝度画像6において基準画素Q3に対応した探索が成功した対応画素Q4(X4,Y4)を特定し、色情報画像5において対応画素Q4と同じ座標の対応画素Q5(X4,Y4)を特定する。対応画素Q5が特定されると、生成部15は、基準画素Q2に対応した出力画像4における画素Q6(X2,Y2)の色情報(色差)U、Vとして対応画素Q5の色情報(色差)U、Vを採用する。また、生成部15は、基準画素Q6の輝度情報として、例えば、基準画素Q2の輝度Yを採用する。
【0104】
生成部15は、対応画素Q5の色情報(色差)U、Vと、基準画素Q2の輝度情報Yとに対してYUV色空間からRGB色空間への逆変換処理を行なうことによって画素Q6の色情報R、G、Bを取得し、出力画像4における画素Q6を生成する。
【0105】
すなわち、生成部15は、基準画素Q2とは別の基準画素Q3に対応した入力画像1における対応画素の色情報に基づいて基準画素Q2に対応した出力画像4における画素Q6の色情報を生成する。
【0106】
<(3−2)回復処理2>
画像処理装置200Aの制御に基づいてステレオカメラ300が時系列画像を取得した場合には、画像処理装置200Aは、入力画像1、2とは異なる時刻に撮影された他の入力画像に基づいて、対応点探索処理が失敗した場合の立体画像29の生成処理を行なうことができる。
【0107】
図13は、時系列画像の概念を説明するための図であり、画像fA〜fFは、所定のフレームレートで連続的に撮影された時系列画像である。なお、画像fBは、現在の時刻における画像である。また、取得部12は、ステレオカメラ300から時系列の入力画像1と時系列の入力画像2とを取得し、図13は、時系列の入力画像2を表示している。
【0108】
入力画像2(画像fB)の基準画素に対する入力画像1の対応画素の探索処理の信頼度R1が予め設定された基準値T1よりも低いと判定された場合には、特定部17は、画像fBの1の基準画素に対応した別の基準画素を、例えば、画像fCなどの画像fBとは異なる時刻に撮影された時系列の入力画像2において探索して特定する。
【0109】
生成部15は、設定された動作モードに応じて、画像fCと同じ時刻の時系列の入力画像1において、該別の基準画素に対応した対応画素を特定し、該対応画素の色情報に基づいて該1の基準画素に対応した出力画像4における基準画素の色情報を生成する。該生成処理によって、対応点探索処理が失敗した場合であっても、生成部15は、時系列の入力画像1と時系列の入力画像2とからそれぞれ派生する時系列の出力画像3と時系列の出力画像4とにより構成される立体画像29を生成し得る。
【0110】
画像処理装置200Aが時系列の入力画像1,2を用いて立体画像29の生成を行なえば、現在の時刻における入力画像2の基準画素についての対応点探索処理が失敗した場合であっても、他の時刻の時系列画像に基づいて該基準画素についての対応点探索処理を行い得る。従って、色情報の設定がされない出力画像4の画素の画素数が低減され得る。
【0111】
<(4)色情報の欠落低減のための立体画像29の生成処理>
図14は、立体画像29における色情報の欠落低減のために画像処理装置200Aが行なう出力画像4の生成処理を説明するための図である。図14に示される画素M1〜M12は、入力画像2の一部における各画素である。画素M6は、入力画像2における1の基準画素で、例えばオクルージョンなどによって対応する色情報が得られない画素である。また、画素M2、M5、M7、およびM10は、画素M6に対して4近傍に存在する画素である。
【0112】
画像処理装置200Aは、該色情報の欠落防止のための立体画像29の生成処理を、以下の処理(A−1)〜(A−6)を行なうことによって実現する。
【0113】
・処理(A−1):生成部15は、先ず、出力画像4の各画素に対応した色情報(色差)の値を0に初期化する。
【0114】
・処理(A−2):次に、特定部17は、画素M6からの距離が、例えば、4近傍に対応した所定の基準値(基準距離)以下である複数の基準画素を特定し、特定した複数の基準画素に関する情報を生成部15に供給する。
【0115】
・処理(A−3):特定部17から該複数の基準画素についての情報が供給されると、生成部15は、画素M6に対応した入力画像1における1の対応画素を、探索部14から供給された対応点処理の探索結果に基づいて特定する。そして生成部15は、該1の対応画素についての色情報、すなわち該1の対応画素に対応した色情報画像5の画素における色情報(色差)を該複数の基準画素のそれぞれの色情報(色差)に加算する。
【0116】
・処理(A−4):入力画像2における画素M6以外の全ての画素に対して、同様に特定部17が処理(A−2)を行ない、生成部15が処理(A−3)を行なう。
【0117】
・処理(A−5):生成部15は、出力画像4における各基準画素について、加算された色情報(色差)の平均値を求めることなどによって、該各基準画素の色情報R、G、Bの生成に用いられる色情報(色差)を取得する。
【0118】
・処理(A−6):生成部15は、出力画像4の各基準画素のそれぞれについて、処理(A−5)で取得した色情報(色差U、V)と、該各基準画素にそれぞれ対応した輝度画像6における各対応画素の輝度情報(輝度Y)とに基づいて、YUV色空間からRGB色空間への逆変換を行なう。生成部15は、該逆変換よって出力画像4の生成を行なうとともに、例えば、入力画像1を出力画像3として採用することなどにより、立体画像29の生成を行なう。
【0119】
処理(A−1)〜(A−6)によれば、画像処理装置200Aは、オクルージョンなどによって、入力画像2における基準画素に対応する出力画像3の対応画素が存在しない場合でも、該基準画素に対応した出力画像4の画素の色情報を取得し得る。
【0120】
なお、生成部15は、動作モードに応じて、処理(A−3)における加算処理を行う際に、入力画像2における各基準画素のそれぞれについて、探索部14による対応点探索処理の信頼度R1に応じた重み付けを、各基準画素に対応した色情報画像5の対応画素の色情報(色差)に対して行なうこともできる。
【0121】
<(5)立体画像29の輝度合わせ処理>
画像処理装置200Aは、動作モードに応じて、生成された出力画像3、4の輝度情報のヒストグラムに基づいて出力画像3および4の間での輝度合わせ処理を行なうことで輝度が補正された出力画像3および4を生成する。なお、本願においては、入力値と、該入力値に対応する累積度数(累積画素数)との関係を表現するヒストグラムを累積ヒストグラムと称する。
【0122】
ここで、出力画像3、4は、同一の被写体がそれぞれ撮影された入力画像1、2からそれぞれ派生した画像であるので、本来、両画像の輝度Yのヒストグラムの形も凡そ近いものとなるはずである。従って、画像処理装置200Aは、出力画像3、4の生成にそれぞれ用いられる輝度の差異などによって出力画像3、4における輝度が違っている場合にも、両画像のヒストグラムを近づける変換(ヒストグラムの形をおおよそ合わせる変換)によって、両画像の輝度を互いに近づけることができる。
【0123】
より詳細には、画像処理装置200Aは、先ず、出力画像3、4のそれぞれの輝度Yのヒストグラムを相対的に近づけるように出力画像3、4の輝度を変換する変換用ガンマテーブルを生成する。そして、画像処理装置200Aは、該変換用ガンマテーブルを用いて出力画像3、4の輝度を変換することにより出力画像3、4の輝度合わせ処理を行なう。なお、変換用ガンマテーブルについては、後述する。
【0124】
出力画像3、4についての輝度のヒストグラムは、各画像の画素数によってそれぞれ正規化された後に、各ヒストグラムを相対的に近づける処理に用いられる。通常、立体画像29を構成する出力画像3、4の画素数は互いに等しいが、仮に、画素数が相違したとしても、該正規化の処理によって、出力画像3、4の輝度合わせ処理は行なわれる。
【0125】
画像処理装置200Aによれば、輝度合わせ処理専用の校正用チャートが不要であるため、例えば、出力画像3、4の生成毎に、出力画像3、4の間での輝度合わせ処理を行なうことも可能となる。
【0126】
<目標画像の設定について>
画像処理装置200Aは、輝度合わせ処理の開始に先立って、出力画像3、4のうち少なくとも一方から派生する目標画像を生成し、上述したヒストグラムを近づける処理において目標となるヒストグラムを与える目標画像として用いる。目標画像は、出力画像3、4のうち何れか一方自体であってもよい。また、目標画像は、例えば、出力画像3、4の輝度の平均を取った画像など、出力画像3、4に基づいて生成された画像であってもよい。
【0127】
なお、本願においては、出力画像3、4のうち目標画像として設定されていない画像は、「対象画像」とも称される。
【0128】
また、生成部15は、予め設定された動作モードに応じて、出力画像3、4のうち解像度が高い方の画像を目標画像とする。解像度が高い撮像系、すなわち画素数の多い撮像系は、一般に、解像度が低い撮像系、すなわち画素数の少ない撮像系よりも、各種の光学的性能が優れたレンズ、および処理回路が用いられる。従って、撮影される画像の収差、偽色の有無などの画質も、解像度が高い撮像系によって撮像された画像の方が良くなる。従って、撮像系の解像度が高い方の画像が目標画像とされれば、出力画像3、4の輝度合わせ処理の結果がより改善され得る。
【0129】
なお、生成部15は、動作モードに応じて、操作部42を用いてユーザーが目標画像を指定する情報に基づいて目標画像を選択指定することもできる。
【0130】
<(5−1)累積ヒストグラムの使用による輝度合わせ処理>
図19は、実施形態に係る画像処理装置200Aの累積ヒストグラムを用いた輝度合わせ処理に係る動作フローS100Aの1例を示す図である。次に、出力画像3が対象画像として、また、出力画像4が目標画像としてそれぞれ設定された場合を例として、累積ヒストグラムを使用した輝度合わせ処理について図19の動作フローを適宜参照しつつ説明する。なお、本願においては、Y値などの画像の各画素値は、それぞれ8ビットで表現される。
【0131】
また、図15は、累積ヒストグラムを用いた画像のY成分(Y値)についての変換用ガンマテーブルの生成処理を説明するための図である。また、図16は、出力画像3(対象画像)の輝度Yの変換用ガンマテーブルURの1例を示す図であり、図17は、出力画像4(目標画像)の輝度Yの変換用ガンマテーブルVRの1例を示す図である。
【0132】
輝度合わせ処理が開始されると、生成部15が、出力画像3、4を輝度合わせの対象として取得する(図19のステップS110)。そして、生成部15は、出力画像3、4のそれぞれについて、輝度を表現した画素値(Y値)の累積ヒストグラムを取得する(図19のステップS120)。なお、生成部15は、例えば、出力画像3、4に対してRGB色空間からYUV色空間への変換を施すことなどによって出力画像3、4の輝度の取得を行なう。また、生成部15は、出力画像3、4の生成過程で用いられた輝度画像によって出力画像3、4の輝度の取得を行なうこともできる。図15においては、出力画像3のY値の累積ヒストグラムCH1と、出力画像4のY値の累積ヒストグラムCH2とが示されている。また、累積ヒストグラムCH1、CH2は、累積度数の最大値によってそれぞれ正規化されている。
【0133】
次に、生成部15は、目標画像、すなわち出力画像4についてのY値の累積ヒストグラムを取得する(図19のステップS130)。図15に示されるように、目標画像のY値の累積ヒストグラムCHTは、累積ヒストグラムCH2でもある。
【0134】
対象画像と、目標画像とのそれぞれについての各色成分の累積ヒストグラムが取得されると、生成部15は、出力画像3、4について、RGB各成分の変換用ガンマテーブルを生成する(図19のステップS140)。
【0135】
Y値(Y成分)について変換用ガンマテーブルUR、VRが生成される場合には、該ステップS140において、生成部15は、累積ヒストグラムCH1上に、例えば、点Pa1〜Pa5のように複数の点を設定する。なお、点Pa1〜Pa5のY値は、それぞれA1〜A5である。
【0136】
複数の点Pa1〜Pa5が設定されると、生成部15は、点Pa1〜Pa5にそれぞれに対応する累積ヒストグラムCH2上の点Pb1〜Pb5を、累積度数の値を対応付け指標として特定することにより取得する。ここで、点Pa1〜Pa5のY値の各累積度数は、点Pb1〜Pb5のY値の各累積度数とそれぞれ等しい値となる。
【0137】
このように、生成部15は、累積度数の値を対応付け指標として、累積ヒストグラムCH1のYの値と、累積ヒストグラムCH2のYの値とを対応づけた組みを、累積度数の複数の値のそれぞれについて取得する。
【0138】
点Pb1〜Pb5が特定されると、生成部15は、図16に示されるように、出力画像3についてのY値A1〜A5と出力画像4についてのY値B1〜B5とに対応した点c1〜c5を特定する。そして、生成部15は、出力画像3の各Y値(入力値)と、輝度補正後の出力画像3の各Y値(出力値)とを対応させる入出力関係を点c1〜c5に基づいて特定する。特定された入出力関係(「変換特性」とも称される)は、「変換用ガンマテーブル」とも称される。
【0139】
変換用ガンマテーブルURは、例えば、点c1〜c5を通る折れ線や、近似曲線などとして特定される。なお、変換用ガンマテーブルURは、例えばY値が8ビットの場合、入力値0が出力値0に対応し、入力値255が出力値255に対応するように生成される。
【0140】
ここで、出力画像4は、目標画像であるので、出力画像4は、そのまま補正後の出力画像4として生成される。従って、出力画像4についての変換用ガンマテーブルVRは、図17において点d1〜d5によって特定されるように、傾き1の直線となる。このように入力画像が、目標画像そのものである場合には、無変換の変換用ガンマテーブルが作られる。
【0141】
上述したように、出力画像3を輝度補正後の出力画像3に変換する変換用ガンマテーブルURは、出力画像3(対象画像)のY値の累積ヒストグラムCH1の値と、出力画像4(目標画像)のY値の累積ヒストグラムCH2とを互いに近づけるように特定された変換特性である。
【0142】
出力画像3、4について、輝度Yの変換用ガンマテーブルがそれぞれ生成されると、生成部15は、生成された各変換用ガンマテーブルを用いて、出力画像3、4の輝度Yを変換して補正する(図19のステップS150)。輝度が補正されると生成部15は、YUV色空間からRGB色空間への逆変換を行なうことなどによって、輝度が補正された出力画像3、4をそれぞれ生成し、輝度合わせ処理を終了する。
【0143】
累積ヒストグラムにおいては、画素表現情報の値と、該値に対応する累積度数とが1対1に対応する。従って、上述したように、累積ヒストグラムが用いられれば、累積ヒストグラム上に、例えば、ピークなどの特徴点以外の複数の点を特定することによって、対象画像の累積ヒストグラムと、目標画像の累積ヒストグラムと相対的に近づけることができる。複数の点に基づいて各累積ヒストグラムが近づけられるので、累積ヒストグラムが用いられれば、例えば、入力値に対応する度数(画素数)との関係を表現した通常のヒストグラムが用いられる場合に比べて、より正確に出力画像3と出力画像4との輝度合わせが行なわれ得る。
【0144】
<変形例について>
以上、本発明の実施の形態について説明してきたが、本発明は上記実施の形態に限定されるものではなく様々な変形が可能である。
【0145】
例えば、上述した画像処理システム100Aは、画像処理システム100Aにおける画像処理装置200Aが汎用のコンピューターでプログラムを実行することなどによって実現されている構成であるが、該構成に代えて、画像処理システム100Aが、例えば、デジタルカメラ、デジタルビデオカメラ、形態情報端末など1の装置にステレオカメラ300と画像処理装置200Aとを備えたシステムとして実現されても良い。
【0146】
また、YUV色空間(画像信号)に代えて、例えば、他の輝度色差系の色空間(画像信号)であるYCbCrなどが採用されたとしても本発明の本発明の有用性を損なうものではない。
【符号の説明】
【0147】
100A 画像処理システム
200A 画像処理装置
300 ステレオカメラ
1,2 入力画像
3,4 出力画像
5 色情報画像
6 輝度画像
29 立体画像
CH1、CH2 累積ヒストグラム
【技術分野】
【0001】
本発明は、色情報のずれが低減された立体画像を生成する技術に関する。
【背景技術】
【0002】
近年、表示される画像を立体視可能な三次元テレビなどの三次元表示装置の普及が進んでおり、三次元表示装置用の立体視可能な左目用および右目用のカラー画像の画像群(立体画像)を容易に生成し得る技術が望まれている。
【0003】
このような技術として、例えば、特許文献1には、高解像度カメラによって撮影された高解像度のカラー画像と、低解像度のカメラによって撮影された低解像度のカラー画像とを用いて高解像度のカラーの立体画像を生成する画像処理装置が示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−244916号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1の画像処理装置には、生成された立体画像を構成する左右の画像間で、左右のカメラの特性の差異に起因した色情報のずれが発生することがある。このため、立体画像の観察者が立体画像の色情報の違いに起因したちらつき感を覚えるといった問題がある。
【0006】
本発明は、こうした問題を解決するためになされたもので、立体画像における色情報のずれを低減し得る技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記の課題を解決するため、第1の態様に係る画像処理装置は、互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得部と、前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成部とを備え、前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、前記生成部が、前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報を生成することを特徴とする。
【0008】
第2の態様に係る画像処理装置は、第1の態様に係る画像処理装置であって、前記第1画像と前記第2画像との間で対応点探索処理を行うことによって前記第2画像の各基準画素にそれぞれ対応した前記第1画像の各対応画素をそれぞれ特定する探索部をさらに備え、前記生成部が、前記各基準画素のうち1の基準画素と、前記各対応画素のうち該1の基準画素に対応した1の対応画素とについて、前記第2派生画像における該1の基準画素に対応した画素の色情報を該1の対応画素の色情報に基づいて生成する処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする。
【0009】
第3の態様に係る画像処理装置は、第2の態様に係る画像処理装置であって、前記探索部が、前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記対応点探索処理を行うことを特徴とする。
【0010】
第4の態様に係る画像処理装置は、第1から第3の何れか1つの態様に係る画像処理装置であって、前記第2画像が、輝度画像を生成する撮像系によって撮影された輝度画像であることを特徴とする。
【0011】
第5の態様に係る画像処理装置は、第1から第4の何れか1つの態様に係る画像処理装置であって、前記生成部が、前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第2画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする。
【0012】
第6の態様に係る画像処理装置は、第1から第4の何れか1つの態様に係る画像処理装置であって、前記生成部が、前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする。
【0013】
第7の態様に係る画像処理装置は、第1から第4の何れか1つの態様に係る画像処理装置であって、前記生成部が、前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする。
【0014】
第8の態様に係る画像処理装置は、第2から第7の何れか1つの態様に係る画像処理装置であって、前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記第2画像において探索して特定する特定部とを更に備え、前記生成部が、前記別の基準画素に対応した前記第1画像における対応画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする。
【0015】
第9の態様に係る画像処理装置は、第8の態様に係る画像処理装置であって、前記特定部が、前記1の基準画素からの前記別の基準画素の候補画素の距離が近ければ近いほど該候補画素が前記別の基準画素として特定され易くなるように該候補画素についての探索処理の信頼度に重み付け処理を行なうことによって前記別の基準画素を特定することを特徴とする。
【0016】
第10の態様に係る画像処理装置は、第2から第7の何れか1つの態様に係る画像処理装置であって、前記取得部が、前記第1画像と前記第2画像とにそれぞれ対応した時系列の第1画像と時系列の第2画像とを取得するとともに、前記生成部が、前記時系列の第1画像と前記時系列の第2画像とからそれぞれ派生する時系列の第1派生画像と時系列の第2派生画像とにより構成される時系列の立体画像を生成し、前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記時系列の第2画像において探索して特定する特定部とを更に備え、前記生成部が、前記別の基準画素に対応した前記時系列の第1画像における画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする。
【0017】
第11の態様に係る画像処理装置は、第2から第7の何れか1つの態様に係る画像処理装置であって、前記1の基準画素からの距離が予め設定された基準値以下となる複数の画素を前記第2画像において特定する特定部を更に備え、前記生成部が前記複数の画素にそれぞれ対応した前記第1画像における複数の対応画素の色情報に基づいて前記1の基準画素の色情報を生成する生成処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする。
【0018】
第12の態様に係る画像処理装置は、第11の態様に係る画像処理装置であって、前記生成部が、前記1の基準画素についての前記対応点探索処理の信頼度に応じた重み付け処理を前記1の対応画素の色情報に対して行なうことによって前記生成処理を行なうことを特徴とする。
【0019】
第13の態様に係る画像処理システムは、第1から第12の何れか1つの態様に係る画像処理装置と、前記第1の画像を撮像する第1撮像系と、前記第2画像を撮像する第2撮像系とを備えたことを特徴とする。
【0020】
第14の態様に係るプログラムは、画像処理装置に搭載されたコンピューターにおいて実行されることにより当該画像処理装置を第1から第12の何れか1つの態様に係る画像処理装置として機能させることを特徴とする。
【0021】
第15の態様に係る画像処理方法は、互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得工程と、前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成工程とを備え、前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、前記生成工程において、前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報が生成されることを特徴とする。
【発明の効果】
【0022】
第1から第15の何れの態様に係る発明によっても、第1画像と第2画像とのうちカラー画像である第1画像のみの色情報に基づいて第1派生画像と第2派生画像とによって構成される立体画像の色情報が生成されるので、立体画像における色情報のずれが低減され得る。
【図面の簡単な説明】
【0023】
【図1】実施形態に係る画像処理システムの構成例を示す機能ブロック図である。
【図2】実施形態に係る画像処理装置の要部の構成例を示す機能ブロック図である。
【図3】入力画像と出力画像との説明をするための図である。
【図4】入力画像と出力画像との説明をするための図である。
【図5】入力画像の色空間の変換の概念を説明するための図である。
【図6】色空間の変換による出力画像の生成の概念を説明するための図である。
【図7】出力画像の生成処理を説明するための図である。
【図8】出力画像の生成処理を説明するための図である。
【図9】出力画像の生成処理を説明するための図である。
【図10】SAD法を用いた対応点探索の例を説明する図である。
【図11】SAD法における参照ウィンドウの走査態様を例示する図である。
【図12】出力画像の生成処理を説明するための図である。
【図13】時系列画像の概念を説明するための図である。
【図14】出力画像の生成処理を説明するための図である。
【図15】累積ヒストグラムを用いた変換用ガンマテーブルの生成処理を説明するための図である。
【図16】対象画像の輝度の変換用ガンマテーブルの1例を示す図である。
【図17】目標画像の輝度の変換用ガンマテーブルの1例を示す図である。
【図18】実施形態に係る画像処理装置の動作フローの1例を示す図である。
【図19】実施形態に係る画像処理装置の動作フローの1例を示す図である。
【発明を実施するための形態】
【0024】
<実施形態について:>
以下、本発明の一実施形態を図面に基づいて説明する。図面では同様な構成および機能を有する部分に同じ符号が付され、下記説明では重複説明が省略される。また、各図面は模式的に示されたものであり、例えば、各図面における画像上の表示物のサイズおよび位置関係等、ならびに各図面における画像の画素数等は必ずしも正確に図示されたものではない。また、画像データ(画像信号)と、該画像データに基づいて表示される画像とをまとめて「画像」と適宜総称する。更に、各図面では、画像の左上の画素が原点とされ、該画像の長辺に沿った方向(ここでは、横方向)がX軸方向とされ、該画像の短辺に沿った方向(ここでは縦方向)がY軸方向とされる。なお、図7から図12および図14には直交するXYの2軸が付されている。
【0025】
<(1)画像処理システム100Aについて>
図1は、実施形態に係る画像処理装置200Aを用いた画像処理システム100Aの構成例を示す機能ブロック図である。図1に示されるように、画像処理システム100Aは、ステレオカメラ300と画像処理装置200Aとを主に備えて構成されている。画像処理システム100Aでは、被写体70をステレオカメラ300が撮影することにより取得した入力画像1(「第1画像」)および入力画像2(「第2画像」)を画像処理装置200Aの取得部12(図2)が取得する。入力画像1および2のうち少なくとも入力画像1はカラー画像である。画像処理装置200Aの生成部15(図2)は、入力画像1および2を処理することによって入力画像1から派生する出力画像3(「第1派生画像」)および入力画像2から派生する出力画像4(「第2派生画像」)を生成する。出力画像3および4は、それぞれカラー画像であり、被写体70についてのカラーの立体画像29を構成する。なお、生成部15は、入力画像1と入力画像2とのうち入力画像1のみの色情報に基づいて立体画像29の色情報を生成する。すなわち、画像処理装置200Aは、2つの入力画像のうち1つのカラー画像のみの色情報に基づいて立体画像29の色情報を生成する。生成された立体画像29は、画像処理装置200Aの表示部43に表示される。
【0026】
<(1−1)ステレオカメラ300について>
図1に示されるように、ステレオカメラ300は、撮影によりカラー画像を生成するカラーカメラである第1カメラ61と、撮影により輝度画像(モノクロ画像)を生成するモノクロカメラである第2カメラ62とを主に備えて構成されている。第1カメラ61は、不図示の撮影光学系と、カラー撮像素子を有する制御処理回路とを主に備えて構成されており、第2カメラ62は、不図示の撮影光学系と、モノクロ撮像素子を有する制御処理回路とを主に備えて構成されている。第1カメラ61と第2カメラ62とは、所定の基線長を隔てて設けられており、互いに異なる方向から同一の被写体をそれぞれ撮影し、入力画像1および2をそれぞれ生成して取得する。すなわち、入力画像1および2は、互いに異なる方向から同一の被写体がそれぞれ撮影された画像であり、入力画像1および2には、互いに対応する画像内容が含まれている。
【0027】
第1カメラ61のカラー撮像素子は、三原色であるR(赤)、G(緑)、B(青)の光をそれぞれ透過可能なカラーフィルタが積層された、例えば、横3456×縦2592の画素からなるCMOSイメージセンサ、またはCCDイメージセンサ等の撮像素子である。R(赤)、G(緑)、B(青)の光にそれぞれ対応した各カラーフィルターは、該カラー撮像素子上において、例えば、RGBベイヤー配列により配列されている。
【0028】
該カラー撮像素子は、撮影光学系により結像された被写体の光像を、該光像の光量に応じてRGBの各色成分の画像信号(各画素で受光された画素信号の信号列からなる信号)に光電変換して出力する。制御処理回路は、該画像信号に対して、所定のタイミングでデジタル化処理を行なうとともに、各色成分に対応したカラーフィルターがベイヤー配列されたことによって生じる、各色成分における欠落画素を補間するための補間処理などを実行する。該補間処理によって、該制御処理回路は、例えば、横3456×縦2592画素の画素サイズの所定のビット数の階調を有するデジタルのカラー画像である入力画像1を生成して取得する。入力画像1の各画素の画素値としては、R、G、Bの3つの色成分に対応した画素値であるR値(R信号)、G値(G信号)、およびB値(B信号)のそれぞれが設定される。
【0029】
第2カメラ62のモノクロ撮像素子は、例えば、R,G,Bの三原色の全ての光を透過する透明なフィルターが積層された、例えば、横3456×縦2592などの所定の画素数の画素からなるCMOSイメージセンサ、またはCCDイメージセンサ等の撮像素子である。該モノクロ撮像素子は、撮影光学系により結像された被写体の光像を、該光像の光量に応じた輝度成分の画像信号(各画素で受光された画素信号の信号列からなる信号)に光電変換して出力する。制御処理回路は、該画像信号に対して、所定のタイミングでデジタル化処理などを実行し、横3456×縦2592などの所定の画素サイズの所定のビット数の階調を有するデジタルのモノクロ画像(輝度画像)である入力画像2を生成して取得する。入力画像2の各画素の画素値としては、輝度に対応した画素値であるY値(Y信号)が設定される。
【0030】
ステレオカメラ300の各種動作は、画像処理装置200Aから入出力部41(図2)および通信回線DL(図1、図2)を介して供給される制御信号に基づいて制御される。通信回線DLは、有線の回線であっても無線の回線であっても良い。また、生成された入力画像1および2は、通信回線DLを介して画像処理装置200Aの入出力部41へと供給される。また、ステレオカメラ300は、第1カメラ61と第2カメラ62との同期をとりつつ被写体を時間順次に連続的に撮影することによって、時系列画像である複数の入力画像1および複数の入力画像2を生成することもできる。
【0031】
なお、入力画像1および2の画素数が互いに等しいとしても、また、異なるとしても本発明の有用性を損なうものではない。また、第1カメラ61と第2カメラ62とがそれぞれカラー画像を生成するカラーカメラであるとしても本発明の有用性を損なうものではない。この場合には、入力画像1および2はともにカラー画像であり、入力画像1と入力画像2とのうち何れか一方の画像のみの色情報に基づいて出力画像3および4の色情報が生成される。
【0032】
また、第1カメラ61と第2カメラ62とのうち一方がモノクロカメラであれば、両方ともカラーカメラである場合に比べて、低コストでカラーの立体画像を生成することができる。
【0033】
図3および図4は、入力画像1および2と、出力画像3および4との説明をするための図である。なお、図3に示される各画像における被写体の像は、図示の都合上、その輪郭のみが表示されている。
【0034】
図3に示されるように入力画像1、2には、近景の被写体と遠景の被写体とを含む共通の被写体がそれぞれ撮影されている。近景被写体像66a(図3)は、入力画像1における該近景被写体の画像であり、近景被写体像66b(図3)は、入力画像2における該近景被写体の画像である。入力画像1における近景被写体像66aの周囲と、入力画像2における近景被写体像66bの周囲とのそれぞれには、該近景被写体の背景が、背景被写体像として撮影されている。入力画像1および2の間では、第1カメラ61と第2カメラ62との基線長に起因した視差が存在しており、特に近景被写体像66aおよび66bの間での視差が顕著となっている。
【0035】
図4に示されるように、入力画像1は各画素が、R、G、Bの三原色にそれぞれ対応した所定ビット数で表現されたR値、G値、B値を画素値としてそれぞれ有するカラー画像、すなわちRGBの色空間で表現されたカラー画像である。また、入力画像2は、各画素が、所定ビット数で表現された輝度Y(Y値)を画素値として有する輝度画像(モノクロ画像)である。
【0036】
出力画像3および4は、入力画像1および2からそれぞれ派生した画像であり、立体画像29を構成している。図3に示されるように、出力画像3に撮影された各被写体の像の輪郭は、入力画像1に撮影された各被写体の像の輪郭と等しく、出力画像4に撮影された各被写体の像の輪郭は、入力画像2に撮影された各被写体の像の輪郭と等しい。例えば、図3に示されるように入力画像1の近景被写体像66aと、出力画像3における近景被写体像66cとは画像空間における位置が等しい。また、入力画像2の近景被写体像66bと、出力画像4の近景被写体像66dとは画像空間における位置が等しい。なお、図4に示されるように出力画像3および4は、ともに、RGBの色空間で表現されたカラー画像である。
【0037】
なお、図3および図4に示されるように、入力画像1から派生した出力画像3として入力画像1自体が採用されたとしても本発明の有用性を損なうものではない。本願においては、出力画像3として入力画像1自体が採用された場合を例として主に説明を行なう。
【0038】
<(1−2)画像処理装置200Aについて>
図1に示されるように、画像処理装置200Aは、CPU11A、入出力部41、操作部42、表示部43、ROM44、RAM45および記憶装置46を主に備えて構成されており、例えば、汎用のコンピューターでプログラムを実行することなどによって実現される。
【0039】
入出力部41は、例えばUSBインタフェース、またはBluetooth(登録商標)インタフェースなどの入出力インタフェース、マルチメディアドライブ、およびネットワークアダプタなどのLANやインターネットに接続するためのインタフェースなどを備えて構成され、CPU11Aとの間でデータの授受を行うものである。具体的には、入出力部41は、例えば、CPU11Aがステレオカメラ300を制御するための各種の制御信号を、通信回線DLなどを介して入出力部41に接続されたステレオカメラ300へと供給する。また、入出力部41は、ステレオカメラ300が撮影した入力画像1および入力画像2を画像処理装置200Aへとそれぞれ供給する。なお、入出力部41は、予め入力画像1および入力画像2が記憶された光ディスクなどの記憶媒体を受け付けることなどによっても、入力画像1および入力画像2を画像処理装置200Aにそれぞれ供給する。
【0040】
操作部42は、例えば、キーボードあるいはマウスなどによって構成されており、操作者が操作部42を操作することによって、画像処理装置200Aへの各種制御パラメータの設定、画像処理装置200Aの各種動作モードの設定などが行われる。また、画像処理装置200Aの機能部は、操作部42から設定される各動作モードに応じた処理を行うことができるように構成されている。
【0041】
表示部43は、例えば、パララックスバリア方式などの3次元表示方式に対応した3次元表示用の液晶表示画面などによって構成される。また、表示部43は、出力画像3と出力画像4とによって構成される立体画像29を表示部43における3次元表示方式に対応した画像形式に変換する不図示の画像処理部を備えている。表示部43は、該画像処理部によって必要な変換処理が施された該立体画像をその表示画面に表示する。表示部43における3次元表示方式として、例えば、左目用画像および右目用画像を交互に高速で切り替えて表示部43に表示するとともに、該切り替えに同期して、左目および右目にそれぞれ対応した各シャッター部を交互に開閉可能な専用めがねを介して表示部43に表示された立体画像が観察される三次元表示方式が採用されてもよい。なお、表示部43は、ステレオカメラ300から供給される画像、画像処理装置200Aが生成した画像、画像処理装置200Aに関する各種設定情報、および制御用GUI(Graphical User Interface)などを、二次元の画像や文字情報として観察者に視認され得るように表示することもできる。
【0042】
ROM(Read Only Memory)44は、読出し専用メモリであり、CPU11Aを動作させるプログラムPG1などを格納している。なお、読み書き自在の不揮発性メモリ(例えば、フラッシュメモリ)が、ROM44に代えて使用されてもよい。
【0043】
RAM(Random Access Memory)45は、読み書き自在の揮発性メモリであり、画像処理装置200Aが取得した各種画像、ならびに画像処理装置200Aが生成する立体画像29などを一時的に記憶する画像格納部、CPU11Aの処理情報を一時的に記憶するワークメモリなどとして機能する。なお、後述するCPU11Aにおける各機能部の間での画像(画像データ)の授受は、RAM45を介して行なわれる。
【0044】
記憶装置46は、例えば、フラッシュメモリなどの読み書き自在な不揮発性メモリやハードディスク装置等によって構成されており、画像処理装置200Aの各種制御パラメータや各種動作モードなどの情報を恒久的に記録する。
【0045】
CPU(Central Processing Unit)11Aは、画像処理装置200Aの各機能部を統轄制御する制御処理装置であり、ROM44に格納されたプログラムPG1などに従った制御および処理を実行する。CPU11Aは、図2を用いて後述するように、取得部12、変換部13、探索部14、生成部15、判定部16、および特定部17としても機能する。CPU11Aは、これらの機能部などによって、カラー画像である入力画像1および輝度画像である入力画像2をそれぞれ処理することによって、それぞれカラー画像である出力画像3および4(立体画像29)を生成する。なお。画像処理装置200Aは、入力画像1と入力画像2とのうち入力画像1のみの色情報に基づいて立体画像29の色情報を生成する。また、CPU11Aは、ステレオカメラ300の撮像動作の制御を行うとともに、表示部43を制御して、各種画像、算出結果、および各種制御情報などを表示部43に表示させる。
【0046】
また、CPU11A、入出力部41、操作部42、表示部43、ROM44、RAM45、記憶装置46等のそれぞれは、信号線49を介して電気的に接続されている。したがって、CPU11Aは、例えば、入出力部41を介したステレオカメラ300の制御およびステレオカメラ300からの画像情報の取得、および表示部43への表示等を所定のタイミングで実行できる。なお、図2に示される構成例では、取得部12、変換部13、探索部14、生成部15、判定部16、および特定部17などの各機能部は、CPU11Aで所定のプログラムを実行することによって実現されているが、これらの各機能部はそれぞれ、例えば、専用のハードウェア回路などによって実現されてもよい。
【0047】
<(1−3)画像処理装置200Aの要部の構成について>
図2は、実施形態に係る画像処理装置200Aの要部の構成例を示す機能ブロック図である。
【0048】
○取得部12:
図2に示される取得部12は、入出力部41から供給されるカラー画像である入力画像1および輝度画像(モノクロ画像)である入力画像2を取得する。入力画像1は、変換部13および特定部17に供給され、入力画像2は、探索部14、特定部17、および生成部15へと供給される。
【0049】
○変換部13:
図2に示される変換部13は、入力画像1に対して、RGB色空間を輝度色差系の色空間であるYUV色空間に変換する変換処理を施すことによって、色情報画像(色差画像)5(図5)と輝度画像6(図5)とを生成して取得する。色情報画像5および輝度画像6は、探索部14および生成部15に供給される。
【0050】
○探索部14:
図2に示される探索部14は、入力画像1と入力画像2との間で対応点探索処理を行うことによって入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する。具体的には、探索部14は、入力画像(輝度画像)2と輝度画像6との間で対応点探索処理を行なうことによって、入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する。すなわち、探索部14は、入力画像1と入力画像2とのそれぞれの輝度情報に基づいて該対応点探索処理を行う。特定された各基準画素および各対応画素の座標情報、各基準画素と各対応画素との対応情報などの探索結果の情報は、生成部15へと供給される。また、各対応画素の特定に係る対応点探索処理において取得される対応点探索処理の信頼度R1(図10)は、判定部16へと供給される。
【0051】
なお、入力画像1と入力画像2との画素数が異なる場合には、探索部14は、例えば、画素数の拡張処理等によって画素数を同じにする処理、または画素サイズ以下のサブピクセル単位での対応点探索処理などによって、入力画像1と入力画像2との間で対応点探索処理を行う。
【0052】
○生成部15:
図2に示される生成部15は、例えば、入力画像2、色情報画像5、および輝度画像6などを予め設定された動作モードに応じて適宜処理することによって、立体画像29(図3、図4)を生成する。なお、立体画像29の色情報は、入力画像1と入力画像2とのうちカラー画像である入力画像1のみの色情報に基づいて生成される。生成された立体画像29は、表示部43に表示される。
【0053】
なお、生成部15は、後述するように、判定部16、および特定部17の動作に応じて立体画像29を生成することもできる。
【0054】
○判定部16:
図2に示される判定部16は、予め設定された画像処理装置200Aの動作モードに応じて対応点探索処理の信頼度の判定用の基準値T1(図10)を記憶装置46から取得し、探索部14から供給された対応点探索処理の信頼度R1(図10)が予め設定された基準値T1よりも低いか否かを判定する。該判定結果は、特定部17および生成部15へと供給される。
【0055】
○特定部17:
図2に示される特定部17は、判定部16から供給された信頼度の判定結果が、予め設定された基準値T1よりも低いと判定された判定結果であった場合に、入力画像2における1の基準画素に対応した別の基準画素を入力画像1において探索して特定する処理などを行なう。該特定処理の結果は、生成部15へと供給される。
【0056】
<(2)画像処理装置200Aの動作について>
図18は、実施形態に係る画像処理装置200Aが立体画像29(出力画像3および4)を生成する動作フローS10Aの1例を示す図である。以下に、図18を適宜参照しつつ、画像処理装置200Aの動作について説明する。なお、画像処理装置200Aの各機能部は、処理対象である入力画像1および2の画素数が異なる場合には、補間、間引き、および平均化の各処理のうち少なくとも1つの処理によって、画素数が相互に異なる画像間での処理を行なう。
【0057】
<(2−1)ステップS10:取得工程>
画像処理装置200Aからの指示に応じたステレオカメラ300による被写体70の撮影動作によって、入力画像1および2が取得されて画像処理装置200Aに供給されると、取得部12(図2)は、入出力部41を介してカラー画像である入力画像1および輝度画像(モノクロ画像)である入力画像2を取得する(図18のステップS10)。
【0058】
<(2−2)ステップS20:変換工程>
図5は、RGB色空間で表現されたカラー画像である入力画像1の色空間の変換の概念を説明するための図である。ステップS10において入力画像1および2が取得されると、変換部13(図2)は、入力画像1に対して、例えば下記の(1)式〜(3)式によって、RGB色空間を輝度色差系の色空間であるYUV色空間に変換する変換処理を施すことによって、色情報画像(色差画像)5(図5)と輝度画像6(図5)とを生成して取得する(図18のステップS20)。色情報画像5は、各画素について、色情報U、Vのそれぞれを各画素値とする画像である。また、輝度画像6は、輝度Yを各画素の画素値とする画像である。
【0059】
なお、本願においては、(2)式および(3)式によってそれぞれ算出される色差U、V(UV信号)と、値R、G、B(RGB信号)の総称として「色情報」という用語を使用する。また、RGB色空間からYUV色空間への変換処理は数種類あり、(1)式〜(3)式に示される変換は、その一手法である。
【0060】
【数1】
【0061】
<(2−3)ステップS30:探索工程>
ステップS20において輝度画像6が生成されると、探索部14(図2)は、入力画像1と入力画像2との間で対応点探索処理を行うことによって入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する(図18のステップS30)。ここで、探索部14は、入力画像(輝度画像)2と入力画像1との間で、それぞれの輝度情報に基づいて該対応点探索処理を行う。すなわち、探索部14は、入力画像(輝度画像)2と、入力画像1についての輝度情報を表現した輝度画像6との間で対応点探索処理を行うことによって、入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素をそれぞれ特定する。
【0062】
該対応点探索処理は、NCC(Normalized Cross Correlation)法、SAD(Sum of Absolute Difference)法、またはPOC(Phase Only Correlation)法などの相関演算手法を用いたパターンマッチング処理により互いに対応づけられる各領域の代表点を特定する処理などにより行なわれ得る。以下に、一例として、SAD法を用いた対応点探索処理を説明する。
【0063】
○SAD法を用いた対応点探索:
図10は、SAD法を用いた対応点探索の例を説明する図である。図10に示される入力画像2上にはX座標がh2である基準画素21が設定されており、基準画素21に対して基準ウィンドウ51が設定されている。基準ウィンドウ51のX方向の両端のX座標は、h1とh3である。また、入力画像1に対応した輝度画像6上には、基準画素21に対応する対応画素23が示されている。
【0064】
ここでは、SAD法を用いて対応画素23を求める例について説明する。輝度画像6上には、X座標がxsである探索基準点22sからX座標がxeである探索基準点22eまで、X座標がxs≦x≦xeの範囲で1画素ごとに複数の探索基準点が設定されており、これら複数の探索基準点の代表として両端の探索基準点22s、22eのみが記載されている。また、該複数の探索基準点には、それぞれ基準ウィンドウ51と同サイズの複数の参照ウィンドウが設定されており、該複数の参照ウィンドウの代表として両端の参照ウィンドウ52s、52eのみが記載されている。
【0065】
ここで、図10においては説明を簡単にするため、基準画素21と複数の探索基準点22s〜22eのY座標は同じであり、従って、基準ウィンドウ51と、参照ウィンドウ52s〜52eのY方向の座標のずれ量は無いように設定されている。また、基準画素21と、求められるべき対応画素23のY座標も一致するように設定されている。
【0066】
次に、参照ウィンドウ52s〜52eの各参照ウィンドウ内の各画像と、基準ウィンドウ51内の画像との相関値を演算する。基準ウィンドウと参照ウィンドウのX方向、Y方向の座標のずれ量(視差)をそれぞれ視差xd、ydとする。図10の例では、視差xdの範囲はxs−h2〜xe−h2であり、視差ydは0である。
【0067】
基準ウィンドウ51内の各画素(xi,yj)の画素値をImg1(xi,yj)、X方向、Y方向の視差が、視差xd、ydである参照ウィンドウ52内の各画素(xi+xd,yj+yd)の画素値をImg2(xi+xd,yj+yd)とすると、(4)式、(5)式を用いた演算によって基準ウィンドウ51内の画像と参照ウィンドウ52内の画像の相関値CORpが算出される。
【0068】
【数2】
【0069】
参照ウィンドウが52sから52eにわたって走査されるように、X方向の視差xdをxs−h2〜xe−h2の範囲で変更しつつ、(4)式および(5)式によって各視差xdに対する相関値CORpが算出されると、図10に示すグラフU1のように輝度画像6のX座標と相関値CORpとの関係が明らかになる。
【0070】
図10の例では、座標xMにおいて、グラフU1における相関値CORpの最大値R1が与えられているので、探索基準点のX座標がxMと一致する参照ウィンドウが、相関値CORpの最大値R1を与える参照ウィンドウであり、該参照ウィンドウの探索基準点と、基準画素21に対応する対応画素23とは一致する。
【0071】
なおCORp値の最大値R1が、本発明における「信頼度」に相当する。信頼度R1は、判定部16によって、記憶装置46などに予め格納された所定の判定用の基準値T1と比較されて、対応点探索処理についての信頼度が判定される。該判定処理において、信頼度R1が基準値T1以上であれば対応点探索処理の信頼度は高く、対応画素23の特定は成功していると判定される。逆に、信頼度R1が基準値T1よりも低ければ、対応画素23の特定は失敗していると判定される。
【0072】
図11はSAD法における参照ウィンドウ52の走査態様を例示する図であり、入力画像1に対応した輝度画像6の全域に参照ウィンドウ52を走査させている。SAD法は周波数分析を行う手法に比べて演算量が少なく高速な処理が可能であるので、画素数が多い入力画像1(輝度画像6)にSAD法による対応点探索を適用し、図11に示される全域走査を行っても処理時間が短くなる。
【0073】
従ってSAD法を用いる場合には、画像の全域にわたって参照ウィンドウの走査を行って視差特定をしても、周波数分析を行う手法を用いる場合に比べて短時間で対応点探索を行うことができるので、探索基準点を求める処理コストを削減することが可能となる。
【0074】
なお、SAD法以外にも、例えば、SSD(濃度差の二乗和)法などを差分型探索手法として採用しても本発明の有用性を損なうものではない。また、対応点探索法としてPOC法を用いてもよい。POC法は、画像の周波数成分を用いるため、上述したように入力画像(輝度画像)2と輝度画像6との間での対応点探索を行う方法としては好適である。
【0075】
ここで、後述する生成部15は、予め設定された動作モードに応じて、探索部14の対応点探索処理の結果から、例えば、後述する3種類の生成処理1〜3によって、RGB色空間で表現されたカラー画像出力画像4を生成可能に構成されている。
【0076】
図7〜図9は、それぞれ、該3種類の生成処理1〜3のそれぞれによる出力画像4の生成処理を説明するための図である。図7〜図9においては、画素間の対応関係の理解を容易にするために、撮影された被写体像の一部の輪郭が破線によって表示されている。
【0077】
また、図6は、YUV色空間からRGB色空間への変換による出力画像4の生成の概念を、該3種類の手法にそれぞれ対応して説明するための図である。
【0078】
<(2−4)ステップS40:第1生成工程>
図18のステップS30において、入力画像2における各基準画素にそれぞれ対応した入力画像1の各対応画素がそれぞれ特定されると、生成部15(図2)は、入力画像2から派生する出力画像4の各画素に対応した輝度情報と色情報(色差)との取得処理を行なう(図18のステップS40)。
【0079】
○出力画像4の生成処理1に対するステップS40の処理:
出力画像4の生成処理1においては、生成部15は、図7に示されるように、出力画像4の画素P4の輝度Yとして、入力画像2における画素P4に対応する画素P1の輝度Yを採用する。生成部15は、また、画素P4の色情報(色差)U、Vとして、色情報画像5における対応画素P3の色情報(色差)U、Vを採用する。
【0080】
生成部15は、ステップS40においては、先ず、探索部14から供給された探索結果の情報に基づいて、入力画像2の画素P1(Xa,Ya)と、輝度画像6の画素P1に対応した対応画素P2(Xb,Yb)とを特定する。
【0081】
生成部15は、また、対応画素P2と同じ座標の色情報画像(色差画像)5における対応画素P3(Xb,Yb)を特定するとともに、入力画像2の画素P1と同じ座標の出力画像4における画素P4(Xa,Ya)を特定する。
【0082】
生成部15は、入力画像2における他の画素のそれぞれについても、同様に、色情報画像5および輝度画像6における対応画素と、出力画像4における同じ座標の画素とを特定する。
【0083】
出力画像4の各画素について、各画素の色情報R、G、Bの生成に用いられる輝度情報Yと色情報(色差)U、Vに係る各画素を特定することにより、各画素の色情報R、G、Bの生成に用いられる輝度情報Yと、色情報(色差)U、Vとを取得する。
【0084】
○出力画像4の生成処理2に対するステップS40の処理:
出力画像4の生成処理2においては、生成部15は、図8に示されるように、出力画像4の画素P4の輝度Yとして、輝度画像6における対応画素P2の輝度Yを採用する。生成部15は、また、画素P4の色情報(色差)U、Vとして、生成処理1と同様に、色情報画像5における対応画素P3の色情報(色差)U、Vを採用する。
【0085】
出力画像4の生成処理2に対するステップS40の処理においては、生成処理1に対するステップS40の処理と同様にして、生成部15は、図8に示されるように、画素P1に対して、対応画素P2、P3および画素P4をそれぞれ特定する。
【0086】
また、生成部15は、入力画像2における他の画素のそれぞれについても、同様に、色情報画像5および輝度画像6における対応画素と、出力画像4における同じ座標の画素とを特定し、出力画像4の各画素について、色情報R、G、Bの生成に用いられる輝度情報Yと、色情報(色差)U、Vとを取得する。
【0087】
○出力画像4の生成処理3に対するステップS40の処理:
出力画像4の生成処理3においては、生成部15は、図9に示されるように、出力画像4の画素P4の輝度Yとして、入力画像2における画素P1と輝度画像6における対応画素P2とのそれぞれの輝度Yを採用する。生成部15は、また、画素P4の色情報(色差)U、Vとして、生成処理1、2と同様に、色情報画像5における対応画素P3の色情報(色差)U、Vを採用する。
【0088】
出力画像4の生成処理3に対するステップS40の処理においては、生成部15は、生成処理1に対するステップS40の処理と同様にして、図9に示されるように、画素P1に対して、対応画素P2、P3および画素P4をそれぞれ特定する。
【0089】
また、生成部15は、入力画像2における他の画素のそれぞれについても、同様に、色情報画像5および輝度画像6における対応画素と、出力画像4における同じ座標の画素とを特定し、出力画像4の各画素について、色情報R、G、Bの生成に用いられる輝度情報Yと、色情報(色差)U、Vとを取得する。
【0090】
<(2−5)ステップS50:第2生成工程>
出力画像4の各画素の色情報RGBの生成に用いられる輝度情報Yと色情報(色差)U、Vとの取得がされると、生成部15は、取得された輝度情報Yと色情報U、Vについて、YUV色空間からRGB色空間への逆変換処理を行い、出力画像4を生成する(図18のステップS50)。
【0091】
○出力画像4の生成処理1に対するステップS50の処理:
生成部15は、出力画像4の生成処理1に対するステップS50において、出力画像4における1の画素P4(図7)に対応した入力画像2における画素P1(図7)の輝度Yと、画素P4に対応した色情報画像5における対応画素P3(図7)の色情報U、Vとに対して、YUV色空間からRGB色空間への逆変換処理を行う。該逆変換処理は、(1)式〜(3)式で表現されたRGB色空間からYUV色空間への変換処理の逆変換によって行われる。該逆変換処理によって、画素P4の色情報R、G、Bが取得される。生成部15は、取得した色情報R、G、Bを画素P4に対応したRAM45のメモリ空間に格納することなどによって、画素P4の画素値の生成を完了する。生成部15は、出力画像4における他の画素についても画素P4と同様の処理を行うことにより出力画像4を生成する。従って、図6に示されるように、出力画像4は、入力画像2の輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより生成される。
【0092】
○出力画像4の生成処理2に対するステップS50の処理:
生成部15は、出力画像4の生成処理2に対するステップS50において、出力画像4における1の画素P4(図8)に対応した輝度画像6における対応画素P2(図8)の輝度Yと、画素P4に対応した色情報画像5における対応画素P3(図8)の色情報U、Vとに対して、YUV色空間からRGB色空間への逆変換処理を行う。生成部15は、該逆変換処理によって、画素P4の色情報R、G、Bを取得し、取得した色情報R、G、Bを画素P4に対応したRAM45のメモリ空間に格納することなどによって、画素P4の画素値の生成を完了する。生成部15は、出力画像4における他の画素についても画素P4と同様の処理を行うことにより出力画像4を生成する。従って、図6に示されるように、出力画像4は、輝度画像6の輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより生成される。
【0093】
○出力画像4の生成処理3に対するステップS50の処理:
生成部15は、出力画像4の生成処理3に対するステップS50において、出力画像4の1の画素P4(図9)にそれぞれ対応した入力画像2の画素P1と、輝度画像6の対応画素P2(図9)とのそれぞれの各輝度Yについて、例えば、平均値を求めることなどにより派生した輝度Yを取得する。生成部15は、該派生した輝度Yと、画素P4に対応した色情報画像5の対応画素P3(図9)の色情報U、Vとに対して、YUV色空間からRGB色空間への逆変換処理を行う。生成部15は、該逆変換処理によって、画素P4の色情報R、G、Bを取得し、取得した色情報R、G、Bを画素P4に対応したRAM45のメモリ空間に格納することなどによって、画素P4の画素値の生成を完了する。生成部15は、出力画像4における他の画素についても画素P4と同様の処理を行うことにより出力画像4を生成する。従って、図6に示されるように、出力画像4は、入力画像2および輝度画像6のそれぞれの輝度Yから派生した輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより生成される。
【0094】
<(2−6)ステップS60:第3生成工程>
出力画像4が生成されると、生成部15は、入力画像1から派生した出力画像3を生成することによって、出力画像3、4(立体画像29)を生成し(図18のステップS60)、立体画像29の生成処理を終了する。
【0095】
なお、出力画像3の生成処理において、生成部15は、例えば、入力画像1自体を出力画像3として採用する処理により出力画像3を生成する。また、生成部15が、例えば、既述した出力画像4の生成処理3と同様にして、入力画像2および輝度画像6のそれぞれの輝度Yから派生した輝度Yと、色情報画像5の色情報(色差)U、Vとに対してYUV色空間からRGB色空間への逆変換を施すことにより出力画像3を生成したとしても本発明の有用性を損なうものではない。ステップS40(第1生成工程)、ステップS50(第2生成工程)およびステップS60(第3生成工程)を総称して、生成工程と言う。
【0096】
上述したように、画像処理装置200Aによれば、入力画像1と入力画像2とのうちカラー画像である入力画像1のみの色情報に基づいて出力画像3と出力画像4とによって構成される立体画像29の色情報が生成される。従って、生成された立体画像における色情報のずれが低減され得る。
【0097】
また、画像処理装置200Aは、入力画像1と入力画像2との間で互いに対応する画素の位置情報を使用して立体画像29を生成する。従って、入力画像1および2からそれぞれ派生する出力画像3および4の画素位置の変化がないので、画素位置の変化に起因して生ずる画像(画像データ)の欠落部分を生ずることなく立体画像29を生成することができる。
【0098】
<(3)対応点探索処理の失敗時における回復処理>
<(3−1)回復処理1>
図12は、入力画像2の基準画素に対応した入力画像1の対応画素、すなわち輝度画像6における対応画素を特定する対応点探索処理が失敗した場合に、画像処理装置200Aが行なう出力画像4の生成処理の1例を説明するための図である。図12においては、入力画像2における基準画素の1例として基準画素Q2(X2,Y2)が示されている。また、輝度画像6における対応画素として、図18のステップS30において特定された画素の1例として対応画素Q1(X1,Y1)が示されている。
【0099】
ここで、対応画素Q1が探索された際の対応点探索処理における信頼度R1(図10)は、判定部16に供給されている。そして、判定部16(図2)によって信頼度R1と、記憶装置46に予め格納されている信頼度判定用の基準値T1とが比較された結果、信頼度R1が基準値T1よりも低い、すなわち該対応点探索処理が失敗したとの判定結果が得られている。また、該判定結果は、特定部17(図2)へと供給されている。
【0100】
特定部17は、該判定結果が、対応点探索処理の失敗に対応した判定結果であった場合には、基準画素Q2に対応した別の基準画素Q3(X3,Y3)を入力画像2において探索して特定する。該特定処理は、探索部14における処理と同様に、SAD法やPOC法などの相関演算手法を用いたパターンマッチング処理により互いに対応づけられる各領域の代表点を特定する処理などにより行なわれる。また、該特定処理の結果である基準画素Q3に関する情報は、生成部15へと供給される。
【0101】
なお、特定部17は、設定された動作モードに応じて、基準画素Q3の特定処理において更に重み付け処理を行なうことにより基準画素Q3を特定することもできる。具体的には、特定部17は、基準画素Q2からの基準画素Q3の候補画素の距離が近ければ近いほど該候補画素が基準画素Q3として特定され易くなるように該候補画素についての探索処理の信頼度に重み付け処理を行なうことによって基準画素Q3を特定する。
【0102】
生成部15は、基準画素Q3に対応した入力画像1における対応画素の色情報に基づいて基準画素Q2に対応した出力画像4における基準画素Q6(X2,Y2)の色情報を生成する。具体的には、輝度画像6における対応画素Q4(X4,Y4)は、基準画素Q3に対応した対応画素として探索部14によって予め探索された対応画素である。なお、対応画素Q4の対応点探索処理は成功したと判定されている。
【0103】
生成部15は、輝度画像6において基準画素Q3に対応した探索が成功した対応画素Q4(X4,Y4)を特定し、色情報画像5において対応画素Q4と同じ座標の対応画素Q5(X4,Y4)を特定する。対応画素Q5が特定されると、生成部15は、基準画素Q2に対応した出力画像4における画素Q6(X2,Y2)の色情報(色差)U、Vとして対応画素Q5の色情報(色差)U、Vを採用する。また、生成部15は、基準画素Q6の輝度情報として、例えば、基準画素Q2の輝度Yを採用する。
【0104】
生成部15は、対応画素Q5の色情報(色差)U、Vと、基準画素Q2の輝度情報Yとに対してYUV色空間からRGB色空間への逆変換処理を行なうことによって画素Q6の色情報R、G、Bを取得し、出力画像4における画素Q6を生成する。
【0105】
すなわち、生成部15は、基準画素Q2とは別の基準画素Q3に対応した入力画像1における対応画素の色情報に基づいて基準画素Q2に対応した出力画像4における画素Q6の色情報を生成する。
【0106】
<(3−2)回復処理2>
画像処理装置200Aの制御に基づいてステレオカメラ300が時系列画像を取得した場合には、画像処理装置200Aは、入力画像1、2とは異なる時刻に撮影された他の入力画像に基づいて、対応点探索処理が失敗した場合の立体画像29の生成処理を行なうことができる。
【0107】
図13は、時系列画像の概念を説明するための図であり、画像fA〜fFは、所定のフレームレートで連続的に撮影された時系列画像である。なお、画像fBは、現在の時刻における画像である。また、取得部12は、ステレオカメラ300から時系列の入力画像1と時系列の入力画像2とを取得し、図13は、時系列の入力画像2を表示している。
【0108】
入力画像2(画像fB)の基準画素に対する入力画像1の対応画素の探索処理の信頼度R1が予め設定された基準値T1よりも低いと判定された場合には、特定部17は、画像fBの1の基準画素に対応した別の基準画素を、例えば、画像fCなどの画像fBとは異なる時刻に撮影された時系列の入力画像2において探索して特定する。
【0109】
生成部15は、設定された動作モードに応じて、画像fCと同じ時刻の時系列の入力画像1において、該別の基準画素に対応した対応画素を特定し、該対応画素の色情報に基づいて該1の基準画素に対応した出力画像4における基準画素の色情報を生成する。該生成処理によって、対応点探索処理が失敗した場合であっても、生成部15は、時系列の入力画像1と時系列の入力画像2とからそれぞれ派生する時系列の出力画像3と時系列の出力画像4とにより構成される立体画像29を生成し得る。
【0110】
画像処理装置200Aが時系列の入力画像1,2を用いて立体画像29の生成を行なえば、現在の時刻における入力画像2の基準画素についての対応点探索処理が失敗した場合であっても、他の時刻の時系列画像に基づいて該基準画素についての対応点探索処理を行い得る。従って、色情報の設定がされない出力画像4の画素の画素数が低減され得る。
【0111】
<(4)色情報の欠落低減のための立体画像29の生成処理>
図14は、立体画像29における色情報の欠落低減のために画像処理装置200Aが行なう出力画像4の生成処理を説明するための図である。図14に示される画素M1〜M12は、入力画像2の一部における各画素である。画素M6は、入力画像2における1の基準画素で、例えばオクルージョンなどによって対応する色情報が得られない画素である。また、画素M2、M5、M7、およびM10は、画素M6に対して4近傍に存在する画素である。
【0112】
画像処理装置200Aは、該色情報の欠落防止のための立体画像29の生成処理を、以下の処理(A−1)〜(A−6)を行なうことによって実現する。
【0113】
・処理(A−1):生成部15は、先ず、出力画像4の各画素に対応した色情報(色差)の値を0に初期化する。
【0114】
・処理(A−2):次に、特定部17は、画素M6からの距離が、例えば、4近傍に対応した所定の基準値(基準距離)以下である複数の基準画素を特定し、特定した複数の基準画素に関する情報を生成部15に供給する。
【0115】
・処理(A−3):特定部17から該複数の基準画素についての情報が供給されると、生成部15は、画素M6に対応した入力画像1における1の対応画素を、探索部14から供給された対応点処理の探索結果に基づいて特定する。そして生成部15は、該1の対応画素についての色情報、すなわち該1の対応画素に対応した色情報画像5の画素における色情報(色差)を該複数の基準画素のそれぞれの色情報(色差)に加算する。
【0116】
・処理(A−4):入力画像2における画素M6以外の全ての画素に対して、同様に特定部17が処理(A−2)を行ない、生成部15が処理(A−3)を行なう。
【0117】
・処理(A−5):生成部15は、出力画像4における各基準画素について、加算された色情報(色差)の平均値を求めることなどによって、該各基準画素の色情報R、G、Bの生成に用いられる色情報(色差)を取得する。
【0118】
・処理(A−6):生成部15は、出力画像4の各基準画素のそれぞれについて、処理(A−5)で取得した色情報(色差U、V)と、該各基準画素にそれぞれ対応した輝度画像6における各対応画素の輝度情報(輝度Y)とに基づいて、YUV色空間からRGB色空間への逆変換を行なう。生成部15は、該逆変換よって出力画像4の生成を行なうとともに、例えば、入力画像1を出力画像3として採用することなどにより、立体画像29の生成を行なう。
【0119】
処理(A−1)〜(A−6)によれば、画像処理装置200Aは、オクルージョンなどによって、入力画像2における基準画素に対応する出力画像3の対応画素が存在しない場合でも、該基準画素に対応した出力画像4の画素の色情報を取得し得る。
【0120】
なお、生成部15は、動作モードに応じて、処理(A−3)における加算処理を行う際に、入力画像2における各基準画素のそれぞれについて、探索部14による対応点探索処理の信頼度R1に応じた重み付けを、各基準画素に対応した色情報画像5の対応画素の色情報(色差)に対して行なうこともできる。
【0121】
<(5)立体画像29の輝度合わせ処理>
画像処理装置200Aは、動作モードに応じて、生成された出力画像3、4の輝度情報のヒストグラムに基づいて出力画像3および4の間での輝度合わせ処理を行なうことで輝度が補正された出力画像3および4を生成する。なお、本願においては、入力値と、該入力値に対応する累積度数(累積画素数)との関係を表現するヒストグラムを累積ヒストグラムと称する。
【0122】
ここで、出力画像3、4は、同一の被写体がそれぞれ撮影された入力画像1、2からそれぞれ派生した画像であるので、本来、両画像の輝度Yのヒストグラムの形も凡そ近いものとなるはずである。従って、画像処理装置200Aは、出力画像3、4の生成にそれぞれ用いられる輝度の差異などによって出力画像3、4における輝度が違っている場合にも、両画像のヒストグラムを近づける変換(ヒストグラムの形をおおよそ合わせる変換)によって、両画像の輝度を互いに近づけることができる。
【0123】
より詳細には、画像処理装置200Aは、先ず、出力画像3、4のそれぞれの輝度Yのヒストグラムを相対的に近づけるように出力画像3、4の輝度を変換する変換用ガンマテーブルを生成する。そして、画像処理装置200Aは、該変換用ガンマテーブルを用いて出力画像3、4の輝度を変換することにより出力画像3、4の輝度合わせ処理を行なう。なお、変換用ガンマテーブルについては、後述する。
【0124】
出力画像3、4についての輝度のヒストグラムは、各画像の画素数によってそれぞれ正規化された後に、各ヒストグラムを相対的に近づける処理に用いられる。通常、立体画像29を構成する出力画像3、4の画素数は互いに等しいが、仮に、画素数が相違したとしても、該正規化の処理によって、出力画像3、4の輝度合わせ処理は行なわれる。
【0125】
画像処理装置200Aによれば、輝度合わせ処理専用の校正用チャートが不要であるため、例えば、出力画像3、4の生成毎に、出力画像3、4の間での輝度合わせ処理を行なうことも可能となる。
【0126】
<目標画像の設定について>
画像処理装置200Aは、輝度合わせ処理の開始に先立って、出力画像3、4のうち少なくとも一方から派生する目標画像を生成し、上述したヒストグラムを近づける処理において目標となるヒストグラムを与える目標画像として用いる。目標画像は、出力画像3、4のうち何れか一方自体であってもよい。また、目標画像は、例えば、出力画像3、4の輝度の平均を取った画像など、出力画像3、4に基づいて生成された画像であってもよい。
【0127】
なお、本願においては、出力画像3、4のうち目標画像として設定されていない画像は、「対象画像」とも称される。
【0128】
また、生成部15は、予め設定された動作モードに応じて、出力画像3、4のうち解像度が高い方の画像を目標画像とする。解像度が高い撮像系、すなわち画素数の多い撮像系は、一般に、解像度が低い撮像系、すなわち画素数の少ない撮像系よりも、各種の光学的性能が優れたレンズ、および処理回路が用いられる。従って、撮影される画像の収差、偽色の有無などの画質も、解像度が高い撮像系によって撮像された画像の方が良くなる。従って、撮像系の解像度が高い方の画像が目標画像とされれば、出力画像3、4の輝度合わせ処理の結果がより改善され得る。
【0129】
なお、生成部15は、動作モードに応じて、操作部42を用いてユーザーが目標画像を指定する情報に基づいて目標画像を選択指定することもできる。
【0130】
<(5−1)累積ヒストグラムの使用による輝度合わせ処理>
図19は、実施形態に係る画像処理装置200Aの累積ヒストグラムを用いた輝度合わせ処理に係る動作フローS100Aの1例を示す図である。次に、出力画像3が対象画像として、また、出力画像4が目標画像としてそれぞれ設定された場合を例として、累積ヒストグラムを使用した輝度合わせ処理について図19の動作フローを適宜参照しつつ説明する。なお、本願においては、Y値などの画像の各画素値は、それぞれ8ビットで表現される。
【0131】
また、図15は、累積ヒストグラムを用いた画像のY成分(Y値)についての変換用ガンマテーブルの生成処理を説明するための図である。また、図16は、出力画像3(対象画像)の輝度Yの変換用ガンマテーブルURの1例を示す図であり、図17は、出力画像4(目標画像)の輝度Yの変換用ガンマテーブルVRの1例を示す図である。
【0132】
輝度合わせ処理が開始されると、生成部15が、出力画像3、4を輝度合わせの対象として取得する(図19のステップS110)。そして、生成部15は、出力画像3、4のそれぞれについて、輝度を表現した画素値(Y値)の累積ヒストグラムを取得する(図19のステップS120)。なお、生成部15は、例えば、出力画像3、4に対してRGB色空間からYUV色空間への変換を施すことなどによって出力画像3、4の輝度の取得を行なう。また、生成部15は、出力画像3、4の生成過程で用いられた輝度画像によって出力画像3、4の輝度の取得を行なうこともできる。図15においては、出力画像3のY値の累積ヒストグラムCH1と、出力画像4のY値の累積ヒストグラムCH2とが示されている。また、累積ヒストグラムCH1、CH2は、累積度数の最大値によってそれぞれ正規化されている。
【0133】
次に、生成部15は、目標画像、すなわち出力画像4についてのY値の累積ヒストグラムを取得する(図19のステップS130)。図15に示されるように、目標画像のY値の累積ヒストグラムCHTは、累積ヒストグラムCH2でもある。
【0134】
対象画像と、目標画像とのそれぞれについての各色成分の累積ヒストグラムが取得されると、生成部15は、出力画像3、4について、RGB各成分の変換用ガンマテーブルを生成する(図19のステップS140)。
【0135】
Y値(Y成分)について変換用ガンマテーブルUR、VRが生成される場合には、該ステップS140において、生成部15は、累積ヒストグラムCH1上に、例えば、点Pa1〜Pa5のように複数の点を設定する。なお、点Pa1〜Pa5のY値は、それぞれA1〜A5である。
【0136】
複数の点Pa1〜Pa5が設定されると、生成部15は、点Pa1〜Pa5にそれぞれに対応する累積ヒストグラムCH2上の点Pb1〜Pb5を、累積度数の値を対応付け指標として特定することにより取得する。ここで、点Pa1〜Pa5のY値の各累積度数は、点Pb1〜Pb5のY値の各累積度数とそれぞれ等しい値となる。
【0137】
このように、生成部15は、累積度数の値を対応付け指標として、累積ヒストグラムCH1のYの値と、累積ヒストグラムCH2のYの値とを対応づけた組みを、累積度数の複数の値のそれぞれについて取得する。
【0138】
点Pb1〜Pb5が特定されると、生成部15は、図16に示されるように、出力画像3についてのY値A1〜A5と出力画像4についてのY値B1〜B5とに対応した点c1〜c5を特定する。そして、生成部15は、出力画像3の各Y値(入力値)と、輝度補正後の出力画像3の各Y値(出力値)とを対応させる入出力関係を点c1〜c5に基づいて特定する。特定された入出力関係(「変換特性」とも称される)は、「変換用ガンマテーブル」とも称される。
【0139】
変換用ガンマテーブルURは、例えば、点c1〜c5を通る折れ線や、近似曲線などとして特定される。なお、変換用ガンマテーブルURは、例えばY値が8ビットの場合、入力値0が出力値0に対応し、入力値255が出力値255に対応するように生成される。
【0140】
ここで、出力画像4は、目標画像であるので、出力画像4は、そのまま補正後の出力画像4として生成される。従って、出力画像4についての変換用ガンマテーブルVRは、図17において点d1〜d5によって特定されるように、傾き1の直線となる。このように入力画像が、目標画像そのものである場合には、無変換の変換用ガンマテーブルが作られる。
【0141】
上述したように、出力画像3を輝度補正後の出力画像3に変換する変換用ガンマテーブルURは、出力画像3(対象画像)のY値の累積ヒストグラムCH1の値と、出力画像4(目標画像)のY値の累積ヒストグラムCH2とを互いに近づけるように特定された変換特性である。
【0142】
出力画像3、4について、輝度Yの変換用ガンマテーブルがそれぞれ生成されると、生成部15は、生成された各変換用ガンマテーブルを用いて、出力画像3、4の輝度Yを変換して補正する(図19のステップS150)。輝度が補正されると生成部15は、YUV色空間からRGB色空間への逆変換を行なうことなどによって、輝度が補正された出力画像3、4をそれぞれ生成し、輝度合わせ処理を終了する。
【0143】
累積ヒストグラムにおいては、画素表現情報の値と、該値に対応する累積度数とが1対1に対応する。従って、上述したように、累積ヒストグラムが用いられれば、累積ヒストグラム上に、例えば、ピークなどの特徴点以外の複数の点を特定することによって、対象画像の累積ヒストグラムと、目標画像の累積ヒストグラムと相対的に近づけることができる。複数の点に基づいて各累積ヒストグラムが近づけられるので、累積ヒストグラムが用いられれば、例えば、入力値に対応する度数(画素数)との関係を表現した通常のヒストグラムが用いられる場合に比べて、より正確に出力画像3と出力画像4との輝度合わせが行なわれ得る。
【0144】
<変形例について>
以上、本発明の実施の形態について説明してきたが、本発明は上記実施の形態に限定されるものではなく様々な変形が可能である。
【0145】
例えば、上述した画像処理システム100Aは、画像処理システム100Aにおける画像処理装置200Aが汎用のコンピューターでプログラムを実行することなどによって実現されている構成であるが、該構成に代えて、画像処理システム100Aが、例えば、デジタルカメラ、デジタルビデオカメラ、形態情報端末など1の装置にステレオカメラ300と画像処理装置200Aとを備えたシステムとして実現されても良い。
【0146】
また、YUV色空間(画像信号)に代えて、例えば、他の輝度色差系の色空間(画像信号)であるYCbCrなどが採用されたとしても本発明の本発明の有用性を損なうものではない。
【符号の説明】
【0147】
100A 画像処理システム
200A 画像処理装置
300 ステレオカメラ
1,2 入力画像
3,4 出力画像
5 色情報画像
6 輝度画像
29 立体画像
CH1、CH2 累積ヒストグラム
【特許請求の範囲】
【請求項1】
互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得部と、
前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成部と、
を備え、
前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、
前記生成部が、
前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報を生成することを特徴とする画像処理装置。
【請求項2】
請求項1に記載された画像処理装置であって、
前記第1画像と前記第2画像との間で対応点探索処理を行うことによって前記第2画像の各基準画素にそれぞれ対応した前記第1画像の各対応画素をそれぞれ特定する探索部をさらに備え、
前記生成部が、
前記各基準画素のうち1の基準画素と、前記各対応画素のうち該1の基準画素に対応した1の対応画素とについて、前記第2派生画像における該1の基準画素に対応した画素の色情報を該1の対応画素の色情報に基づいて生成する処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする画像処理装置。
【請求項3】
請求項2に記載された画像処理装置であって、
前記探索部が、
前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記対応点探索処理を行うことを特徴とする画像処理装置。
【請求項4】
請求項1から請求項3の何れか1つの請求項に記載された画像処理装置であって、
前記第2画像が、輝度画像を生成する撮像系によって撮影された輝度画像であることを特徴とする画像処理装置。
【請求項5】
請求項1から請求項4の何れか1つの請求項に記載された画像処理装置であって、
前記生成部が、
前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第2画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする画像処理装置。
【請求項6】
請求項1から請求項4の何れか1つの請求項に記載された画像処理装置であって、
前記生成部が、
前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする画像処理装置。
【請求項7】
請求項1から請求項4の何れか1つの請求項に記載された画像処理装置であって、
前記生成部が、
前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする画像処理装置。
【請求項8】
請求項2から請求項7の何れか1つの請求項に記載された画像処理装置であって、
前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、
該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記第2画像において探索して特定する特定部と、
を更に備え、
前記生成部が、
前記別の基準画素に対応した前記第1画像における対応画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする画像処理装置。
【請求項9】
請求項8に記載された画像処理装置であって、
前記特定部が、
前記1の基準画素からの前記別の基準画素の候補画素の距離が近ければ近いほど該候補画素が前記別の基準画素として特定され易くなるように該候補画素についての探索処理の信頼度に重み付け処理を行なうことによって前記別の基準画素を特定することを特徴とする画像処理装置。
【請求項10】
請求項2から請求項7の何れか1つの請求項に記載された画像処理装置であって、
前記取得部が、前記第1画像と前記第2画像とにそれぞれ対応した時系列の第1画像と時系列の第2画像とを取得するとともに、
前記生成部が、前記時系列の第1画像と前記時系列の第2画像とからそれぞれ派生する時系列の第1派生画像と時系列の第2派生画像とにより構成される時系列の立体画像を生成し、
前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、
該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記時系列の第2画像において探索して特定する特定部と、
を更に備え、
前記生成部が、
前記別の基準画素に対応した前記時系列の第1画像における画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする画像処理装置。
【請求項11】
請求項2から請求項7の何れか1つの請求項に記載された画像処理装置であって、
前記1の基準画素からの距離が予め設定された基準値以下となる複数の画素を前記第2画像において特定する特定部、
を更に備え、
前記生成部が
前記複数の画素にそれぞれ対応した前記第1画像における複数の対応画素の色情報に基づいて前記1の基準画素の色情報を生成する生成処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする画像処理装置。
【請求項12】
請求項11に記載された画像処理装置であって、
前記生成部が、
前記1の基準画素についての前記対応点探索処理の信頼度に応じた重み付け処理を前記1の対応画素の色情報に対して行なうことによって前記生成処理を行なうことを特徴とする画像処理装置。
【請求項13】
請求項1から請求項12の何れか1つの請求項に記載された画像処理装置と、
前記第1の画像を撮像する第1撮像系と、前記第2画像を撮像する第2撮像系と、
を備えたことを特徴とする画像処理システム。
【請求項14】
画像処理装置に搭載されたコンピューターにおいて実行されることにより、当該画像処理装置を請求項1から請求項12の何れか1つの請求項に記載された画像処理装置として機能させることを特徴とするプログラム。
【請求項15】
互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得工程と、
前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成工程と、
を備え、
前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、
前記生成工程において、
前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報が生成されることを特徴とする画像処理方法。
【請求項1】
互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得部と、
前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成部と、
を備え、
前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、
前記生成部が、
前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報を生成することを特徴とする画像処理装置。
【請求項2】
請求項1に記載された画像処理装置であって、
前記第1画像と前記第2画像との間で対応点探索処理を行うことによって前記第2画像の各基準画素にそれぞれ対応した前記第1画像の各対応画素をそれぞれ特定する探索部をさらに備え、
前記生成部が、
前記各基準画素のうち1の基準画素と、前記各対応画素のうち該1の基準画素に対応した1の対応画素とについて、前記第2派生画像における該1の基準画素に対応した画素の色情報を該1の対応画素の色情報に基づいて生成する処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする画像処理装置。
【請求項3】
請求項2に記載された画像処理装置であって、
前記探索部が、
前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記対応点探索処理を行うことを特徴とする画像処理装置。
【請求項4】
請求項1から請求項3の何れか1つの請求項に記載された画像処理装置であって、
前記第2画像が、輝度画像を生成する撮像系によって撮影された輝度画像であることを特徴とする画像処理装置。
【請求項5】
請求項1から請求項4の何れか1つの請求項に記載された画像処理装置であって、
前記生成部が、
前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第2画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする画像処理装置。
【請求項6】
請求項1から請求項4の何れか1つの請求項に記載された画像処理装置であって、
前記生成部が、
前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像の輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする画像処理装置。
【請求項7】
請求項1から請求項4の何れか1つの請求項に記載された画像処理装置であって、
前記生成部が、
前記第1画像の色情報に基づいて前記第2派生画像の色情報を生成するとともに、前記第1画像と前記第2画像とのそれぞれの輝度情報に基づいて前記第2派生画像の輝度情報を生成することを特徴とする画像処理装置。
【請求項8】
請求項2から請求項7の何れか1つの請求項に記載された画像処理装置であって、
前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、
該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記第2画像において探索して特定する特定部と、
を更に備え、
前記生成部が、
前記別の基準画素に対応した前記第1画像における対応画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする画像処理装置。
【請求項9】
請求項8に記載された画像処理装置であって、
前記特定部が、
前記1の基準画素からの前記別の基準画素の候補画素の距離が近ければ近いほど該候補画素が前記別の基準画素として特定され易くなるように該候補画素についての探索処理の信頼度に重み付け処理を行なうことによって前記別の基準画素を特定することを特徴とする画像処理装置。
【請求項10】
請求項2から請求項7の何れか1つの請求項に記載された画像処理装置であって、
前記取得部が、前記第1画像と前記第2画像とにそれぞれ対応した時系列の第1画像と時系列の第2画像とを取得するとともに、
前記生成部が、前記時系列の第1画像と前記時系列の第2画像とからそれぞれ派生する時系列の第1派生画像と時系列の第2派生画像とにより構成される時系列の立体画像を生成し、
前記1の基準画素についての前記対応点探索処理の信頼度を判定する判定部と、
該信頼度が予め設定された基準値よりも低いと判定された場合に、前記1の基準画素に対応した別の基準画素を前記時系列の第2画像において探索して特定する特定部と、
を更に備え、
前記生成部が、
前記別の基準画素に対応した前記時系列の第1画像における画素の色情報に基づいて前記1の基準画素に対応した前記第2派生画像における画素の色情報を生成することを特徴とする画像処理装置。
【請求項11】
請求項2から請求項7の何れか1つの請求項に記載された画像処理装置であって、
前記1の基準画素からの距離が予め設定された基準値以下となる複数の画素を前記第2画像において特定する特定部、
を更に備え、
前記生成部が
前記複数の画素にそれぞれ対応した前記第1画像における複数の対応画素の色情報に基づいて前記1の基準画素の色情報を生成する生成処理を、前記各基準画素のそれぞれに対して行なうことを特徴とする画像処理装置。
【請求項12】
請求項11に記載された画像処理装置であって、
前記生成部が、
前記1の基準画素についての前記対応点探索処理の信頼度に応じた重み付け処理を前記1の対応画素の色情報に対して行なうことによって前記生成処理を行なうことを特徴とする画像処理装置。
【請求項13】
請求項1から請求項12の何れか1つの請求項に記載された画像処理装置と、
前記第1の画像を撮像する第1撮像系と、前記第2画像を撮像する第2撮像系と、
を備えたことを特徴とする画像処理システム。
【請求項14】
画像処理装置に搭載されたコンピューターにおいて実行されることにより、当該画像処理装置を請求項1から請求項12の何れか1つの請求項に記載された画像処理装置として機能させることを特徴とするプログラム。
【請求項15】
互いに異なる方向から同一の被写体がそれぞれ撮影された第1画像と第2画像とを取得する取得工程と、
前記第1画像と前記第2画像とからそれぞれ派生する第1派生画像と第2派生画像とによって構成される立体画像を生成する生成工程と、
を備え、
前記第1画像と前記第2画像とのうち少なくとも前記第1画像がカラー画像であり、
前記生成工程において、
前記第1画像と前記第2画像とのうち前記第1画像のみの色情報に基づいて前記立体画像の色情報が生成されることを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図13】
【公開番号】特開2012−253706(P2012−253706A)
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願番号】特願2011−126951(P2011−126951)
【出願日】平成23年6月7日(2011.6.7)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願日】平成23年6月7日(2011.6.7)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】
[ Back to top ]