画像生成方法、装置、およびそのプログラム並びにプログラムを記録した記録媒体
【課題】ビット深度の異なる多視点映像を扱うという発明者の着眼した新規な技術について、低いビット深度の画像が失っている高いダイナミックレンジで表現される情報を復元し、低いビット深度の画像に対する主観的な品質を向上させること。
【解決手段】画像Aと、画像Aよりもビット深度の高い画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングして、画像Bと同じビット深度を有する画像Cを作成し、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定し、対応点があると推定された、画像C中の画素位置に、画像B中の対応位置の画像情報を設定する。対応点推定で対応点がないと推定された、画像C中の画素位置の画像情報を、対応点があると推定されて設定された画像情報から作成するようにしても良い。
【解決手段】画像Aと、画像Aよりもビット深度の高い画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングして、画像Bと同じビット深度を有する画像Cを作成し、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定し、対応点があると推定された、画像C中の画素位置に、画像B中の対応位置の画像情報を設定する。対応点推定で対応点がないと推定された、画像C中の画素位置の画像情報を、対応点があると推定されて設定された画像情報から作成するようにしても良い。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の画像から高ビット深度の画像を生成する技術に関するものである。
本願は、2007年10月15日に出願された特願2007−267613号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
図11は直線配列の多視点撮像系、図12は平面配列の多視点撮像系、図13はアーク状配列の多視点撮像系、図14は球面配列の多視点撮像系のカメラ配置例を示す図である。
【0003】
一つのシーンを異なる方向から撮影する多視点撮像系が開発されている。多視点撮像系において、カメラ配置は、図11に示すように直線上に1次元配列であったり、図12に示すように平面上に2次元配列であったり、また、図13に示すようにアーク状に配列したものや、図14に示すように球面状の配列したものなど、さまざまである。このような多視点撮像系を利用すれば、多面的な映像シーンをアーカイブする(1つにまとめる)ことが可能となる。
【0004】
さらに、多視点で撮影されたカメラ映像から、撮影されていない仮想カメラ位置の画像情報を生成する技術がある。これを画像合成技術と呼ぶ。
画像合成では、元のカメラ映像は空間中のどの方向から撮影した画像情報であるかを示すカメラパラメータがわかっているとする。画像合成には種々の方法がある。
例えば、奥行き情報を推定して合成する方法がある。まず元のカメラ映像間で画像情報の対応点探索を行い視差情報を求め、視差情報からシーンの奥行き情報を推定する。そして、仮想カメラ位置の奥行き情報を推定して、対応する画像情報を元のカメラの画像情報から作成する(非特許文献1参照)。
【0005】
また、奥行き情報の推定まで行わずに、元画像の視差情報を利用して直接仮想カメラ位置の画像情報を作成する方法もある(非特許文献2参照)。
【0006】
あるいは、複数のカメラ映像からシーンに存在するオブジェクトの3次元モデル情報を推定しておき、仮想カメラ位置からの当該モデルの投影画像を生成する方法もある(非特許文献3参照)。
【0007】
このような撮像系では、通常ビット深度(階調)の同じカメラを用いるが、ビット深度の異なるカメラを用いてもよい。ビット深度の高いカメラとビット深度の低いカメラを組み合わせて用いることで、得られる画像情報の情報量を低減することが可能である。
【0008】
ビット深度の低い画像からビット深度の高い画像を得る方法として、トーンマッピング方法が挙げられる(非特許文献4参照)。これは、量子化された値をより高いダイナミックレンジの信号へマッピングする技術である。
【先行技術文献】
【非特許文献】
【0009】
【非特許文献1】Keita Takahashi and Takeshi Naemura,“Layered Light-Field Rendering with Focus Measurement”, EURASIP Signal Processing: Image Communication, vol.21, no.6, pp.519-530(2006.7).
【非特許文献2】M. Droese, T. Fujii and M. Tanimoto,“Ray-Space Interpolation Constraining Smooth Disparities Based On Loopy Belief Propagation”, Proc. of IWSSIP2004, pp.247-250, Poznan, Poland, Sept. 2004.
【非特許文献3】松山隆司、高井勇志、ウ小軍、延原章平:「3次元ビデオ映像の撮影・編集・表示」、日本バーチャルリアリティ学会論文誌、Vol.7, No.4, pp.521-532, 2002.12.
【非特許文献4】E.Reinhard, M.Stark, P.Shirley and J.Ferwerda, “Photographic Tone Reproduction for Digital Images”, presented at SIGGRAPH, 2002.
【発明の概要】
【発明が解決しようとする課題】
【0010】
本発明は、ビット深度の異なる多視点映像を扱うという発明者の着眼した新規な技術について、低いビット深度の画像が失っている高いダイナミックレンジで表現される情報を復元し、低いビット深度の画像に対する主観的な品質を向上させることを目的とする。
【課題を解決するための手段】
【0011】
ビット深度の異なる多視点映像を扱うということは従来行われていなかった。即ち、本発明の課題は、ビット深度の異なる多視点映像を扱うという新しい技術的着想から生じた課題である。
多視点撮像系でビット深度の異なるカメラを用いた場合には、低いビット深度の画像と高いビット深度の画像が混在することになる。また、同じビット深度のカメラで撮影した場合であっても、例えば一部のカメラ映像のビット深度を低減することで情報量を削減できるため、多視点画像の圧縮には好適な場合がある。この場合においても、低いビット深度の画像と高いビット深度の画像が混在することになる。
【0012】
以上のような場合においては、低いビット深度の画像情報では高いダイナミックレンジで表現される情報が欠落している。このため、低いビット深度で撮影されたカメラ位置の画像情報は、高いビット深度で撮影されたカメラ位置の画像情報に比ベて、主観品質が劣化するという間題がある。
【0013】
従って本発明は、上記問題点の解決を図り、低いビット深度の画像が失っている高いダイナミックレンジで表現される情報を復元し、低いビット深度の画像に対する主観的な品質を向上させる技術を提供する。
【0014】
本発明の概要について説明する。例えば、ビット深度の異なる複数のカメラで同一シーンを撮影することにより、扱う画像情報の総情報量を減らすことができる。したがって、この場合、多視点映像の符号量を大幅に下げることができる。
ビット深度とは、例えば8ビットであるとか10ビットであるとかいった、信号のダイナミックレンジを指している。撮影されていないレンジがあると(即ち、ダイナミックレンジが狭くなると)、その部分の情報が欠落しており、主観品質が悪くなるため、多視点映像の符号量を削減しようとした場合に問題となる。
【0015】
本発明では、失われているレンジの情報を復元することによって、この問題を解決する。そもそもビット深度の異なる多視点映像を扱うということは従来行われていなかった。本発明の課題は、ビット深度の異なる多視点映像を扱うという新しい技術的着想から生じた課題である。
【0016】
本発明は、この課題を解決するため、他のカメラで撮影されたビット深度の高い情報を使って、目的の画像のビット深度の高い情報を復元する技術的手段を用いることにより、ビット深度の異なる複数のカメラで撮影した多視点映像を扱う場合において、主観的な画像品質を落とさずに、扱う画像情報の総情報量を減らすことができるようにする。
【0017】
本発明は、画像Aと、画像Aよりもビット深度の高い画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングして、画像Bと同じビット深度を有する画像Cを作成する画像ビット深度拡大ステップと、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、対応点推定ステップで対応点があると推定された、画像C中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定ステップと、を実行する方法を提供する。
【0018】
この画像生成方法によれば、他の画像に含まれる高いダイナミックレンジの情報を使い、所望の画像に対する高いビット深度の画像を生成することができる。このとき生成する画素位置に対応する画像信号が他の画像にない場合には、元々の低いビット深度をトーンマッピングで拡大した画像情報を用いることにより画像情報の欠落を防ぐことができる。
【0019】
対応点の推定では、対応点情報を別途入力として与える場合と、対応点を画像情報を使って探索する場合が挙げられる。対応点情報を別途与える場合には、シーンの奥行き情報や幾何情報を予め推定しておき、そこから画像間の対応点を推定するようにしてもよい。
【0020】
対応点の探索では、対応する画素間(画像Cの各画素に対して、画像Bの1〜複数の画素候補)で差分の絶対値を求めて、その値の最小値が予め設定した閾値よりも小さい場合には、その最小値となる点を対応点と推定し、閾値よりも大きい場合には、対応点はないと推定してもよい。
この場合の閾値を低いビット深度の画像情報と一緒にファイル化しておくことも好適である。ファイル化された低いビット深度の画像情報から高いビット深度の画像情報を生成する際に、ファイルに含まれる閾値を使用することで、生成する際に常に同じ画像が得られることを保障できる。
【0021】
あるシーンを複数の方向から撮影する場合で、ビット深度の異なるカメラを利用する場合に、低いビット深度のカメラの画像に対して、他の高いビット深度のカメラの画像を利用して、高いビット深度の画像を生成することができる。この方法は多視点画像だけではなく、単眼の動画像にも適用できる。すなわち、動画像中の各フレームのビット深度の異なる場合に、低いビット深度のフレームの画像に対して、他の高いビット深度のフレームの画像を利用して、高いビット深度の画像を生成することができる。
【0022】
上記方法において、対応点推定ステップで対応点がないと推定された、画像C中の画素位置の画像情報を、対応画像設定ステップで設定された画像情報から作成する画像補間ステップを、更に設けても良い。
【0023】
この場合、生成する画素位置に対応する画像信号が他の画像にない場合には、周囲にある生成した高いビット深度の画像信号から補間して作成することにより画像情報の欠落を防ぐことができる。
【0024】
また、本発明は、画像Aと、画像Aよりもビット深度の高い画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングして、画像Bと同じビット深度を有する画像Dを作成する画像ビット深度拡大ステップと、画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、対応点推定ステップで対応点があると推定された、画像D中の画素位置と同じ画像E中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定ステップと、対応点推定ステップで対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定ステップで設定された画像情報から作成する画像補間ステップと、画像Eをトーンマッピングして、画像Aと同じビット深度を有する画像Fを作成する画像ビット深度縮小ステップと、画像Aの各画素位置において、画像Aの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成ステップと、差分作成ステップで求めた各画素位置における差分が小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成ステップで求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、を実行する方法を提供する。
【0025】
典型例として、前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、
(i) 対応する画像Cの各画素位置に画像Dの画像情報を設定する、もしくは、
(ii) 対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する
ようにする。
【0026】
この画像生成方法によれば、所望の画像と他の画像との対応点の推定に誤差がある場合に、前述した発明と同様に生成した高いビット深度の画像を用いる代わりに、元々の低いビット深度をトーンマッピングで拡大した画像情報を用いたり、生成した高いビット深度の画像情報と元々の低いビット深度をトーンマッピングで拡大した画像情報の重み付け平均値を用いたりすることにより、推定誤差による画質の劣化を低減できる。
【0027】
また、本発明は、同じビット深度を有する画像生成装置が画像Aと画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングしてビット深度の小さい画像Gを作成する基準画像ビット深度縮小ステップと、画像Gをトーンマッピングして、画像Aと同じビット深度を有する画像Dを作成する画像ビット深度拡大ステップと、画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、対応点推定ステップで対応点があると推定された、画像D中の画素位置と同じ画像E中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定ステップと、対応点推定ステップで対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定ステップで設定された画像情報から作成する画像補間ステップと、画像Eをトーンマッピングして、画像Gと同じビット深度を有する画像Fを作成する画像ビット深度縮小ステップと、画像Gの各画素位置において、画像Gの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成ステップと、を実行し、予め設定した範囲で閾値を設定する閾値設定ステップと、差分作成ステップで求めた各画素位置における差分が閾値よりも小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、画像情報設定ステップで得られる画像Cと画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計ステップと、を閾値を変えながら実行し、生成差分合計ステップで得られる差分の合計が最も小さくなる閾値を決定する閾値決定ステップを実行する方法を提供する。
【0028】
典型例として、前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、
(i) 対応する画像Cの各画素位置に画像Dの画像情報を設定する、もしくは、
(ii) 対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する
ようにする。
【0029】
この画像生成方法によれば、画像を低いビット深度に変換して高いビット深度へ変換する場合において、前述した方法で高いビット深度の画像を生成する際に、対応点の推定誤差による劣化の大きさを検出し、劣化が最も小さくなるように、前述した方法と同様に生成した高いビット深度の画像を選択する閾値を決定できる。元々の高いビット深度の画像情報も存在するため、劣化の大きさを検出することができる。
【0030】
この閾値パラメータは、次のように利用できる。まず、この閾値を推定しておき、閾値パラメータとして低いビット深度の画像情報に付随させておく。例えば、低いビット深度の画像と他の画像と一緒に、この閾値パラメータもファイル化しておく。このファイルには低いビット深度に変換する前の画像情報は含めない。したがって、元の画像よりも低いビット深度の画像情報をファイル化するため、ファイルサイズを小さくすることができる。このファイルを再生する際は、低いビット深度の画像と他の画像から、上記閾値パラメータを利用して、高いビット深度の画像を生成することができる。このとき、主観品質の劣化を最小化した高いビット深度の画像を生成することができる。
【0031】
また、前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合に、上記(ii)の手法を用いる場合には、低いビット深度の画像をトーンマッピングで拡大した画像を生成した画像の信号に用いるのではなく、高いビット深度の画像と重み付け平均した値を用いるので、低いビット深度の画像をトーンマッピング拡大することによる画像のボケを低減することができる。
【0032】
本発明はまた、上記各方法により画像を生成する画像生成装置も提供する。
【発明の効果】
【0033】
本発明によれば、低ビット深度で撮影されたカメラ位置の画像情報に対して、別の高ビット深度で撮影されたカメラ位置の画像情報を利用して、高いビット深度の画像情報を生成することができる。これにより主観品質の劣化を低減することができる。
【図面の簡単な説明】
【0034】
【図1】本発明の第1の実施例である、画像生成装置の構成を示す図である。
【図2】同実施例の、画像生成装置の動作を示すフローチャートである。
【図3】本発明の第2の実施例である、画像生成装置の構成を示す図である。
【図4】同実施例の、画像生成装置の動作を示すフローチャートである。
【図5】本発明の第3の実施例である、画像生成装置の構成を示す図である。
【図6】同実施例の、画像生成装置の動作を示すフローチャートである。
【図7】同実施例の変形例である、画像生成装置の構成を示す図である。
【図8】本発明の第4の実施例である、画像生成装置の構成を示す図である。
【図9】同実施例の、画像生成装置の動作を示すフローチャートである。
【図10】同実施例の変形例である、画像生成装置の構成を示す図である。
【図11】直線配列の多視点撮像系を示す図である。
【図12】平面配列の多視点撮像系を示す図である。
【図13】アーク状配列の多視点撮像系を示す図である。
【図14】球面配列の多視点撮像系を示す図である。
【発明を実施するための形態】
【0035】
図面を用いて本発明の画像生成装置の実施例を説明する。
【0036】
〔第1の実施例〕
第1の実施例として、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから、画像Aに対応する高ビット深度(画像Bのビット深度に対応)の画像Cを生成する場合の例を示す。ここで、カメラで撮影される信号は、全てYUV信号(輝度Y、色差U,V)により色信号が設定されているものとし、実施例では、Y信号のみ扱うものとする。
【0037】
図1に装置概要を示す。本実施例における画像生成装置は、画像Aのビット深度を拡大して、画像Bと同じビット深度を有する画像Cを作成する画像ビット深度拡大部101と、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部102と、対応点推定部102で対応点があると推定された画像C中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部103とを備える。
【0038】
ここで、画像ビット深度拡大部101では、画像のビット深度を、非特許文献4に示されている方法(トーンマッピング)により拡大して画像を作成するものとする。
また、対応点推定部102では、カメラパラメータもしくは既知のマッチング技術を用いて、画像Cの各画素について(画像B中の)対応する画素の候補を(1〜複数)仮定し、対応する画素間で差分の絶対値を求めて、それら絶対値の最小値が予め設定した閾値よりも小さい場合には、その最小値となる点を対応点と推定し、閾値よりも大きい場合には、画像Cの当該画素については対応点はないと推定するものとする。
【0039】
以上を前提として、図1に示す画像生成装置は次のように動作する。図2に、そのフローチャートを示す。
【0040】
まず、画像ビット深度拡大部101は、画像Aをトーンマッピング拡大して画像Cを作成する(ステップS10)。そして、対応点推定部102は、画像Cと画像Bの対応点の有無と位置を、上述のような方法で推定する(ステップS11)。対応画像設定部103は、対応点推定部102で対応点があると推定された画像Cの各画素に対し、画像Bの対応点の画像情報を設定する(ステップS12)。以上により画像Cを生成する。
なお、画像ビット深度拡大部101では、他のトーンマッピング方法を用いてもよい。
【0041】
また、対応点推定部102は、画素間で差分の絶対値を求めたが、推定する対象の画素を中心とする複数画素からなるブロックを使い推定してもよい。例えば、画像Cの各画素について、画像B中の対応する画素の候補を(1〜複数)仮定し、各候補を中心とする複数画素からなるブロック内の画素との差分の絶対値の合計を求めて、その合計値が最小となる候補の位置を対応点として推定してもよい。
【0042】
以上の例では、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから高ビット深度の画像Cを生成したが、同じカメラで撮影した、ある時刻の低ビット深度の画像Aと、別の時刻の高ビット深度の画像Bから、高ビット深度の画像Cを生成してもよい。
【0043】
また、上述のように、画像Aと画像Bから、画像Aに対応する画像Cを作成したが、画像Bは複数あってもよい。画像Bが2つ(B1とB2)ある場合の例を次に示す。構成は同じであるが、次のように動作する。
【0044】
まず、画像ビット深度拡大部101は、画像Aをトーンマッピング拡大して画像Cを作成する。
そして、対応点推定部102は、画像Cと画像B1の対応点の有無と位置を、上記と同様の方法で推定する。対応画像設定部103は、対応点推定部102で対応点があると推定された各位置における画像B1の画像情報を画像Cへ設定する。
次に、対応点推定部102は、画像Cと画像B2の対応点の有無と位置を、同様に推定する。対応画像設定部103は、対応点推定部102で対応点があると推定された各位置における画像B2の画像情報を画像Cへ設定する。
以上により画像Cを生成する。
【0045】
画像B1と画像B2の双方に対応点があると推定された場合、予め定めたどちらかの画像情報を優先させて画像Cに設定してもよいし、対応する画像Cの画素との差分が小さいほうの画像B1または画像B2の画像情報を画像Cに設定してもよいし、画像B1と画像B2の画像情報の平均値を画像Cに設定してもよい。
画像Bが3つ以上ある場合にも同様に高ビット深度の画像Cを生成することができる。
以下に説明する他の実施例についても複数の画像Bがある場合に、同様に実施することができる。
【0046】
〔第2の実施例〕
次に、第2の実施例として、第1の実施例と同様に、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから、画像Aに対応する高ビット深度の画像Cを生成する場合の例を示す。ただし、対応点がない場合には、周囲の高ビット深度の画像情報から補間して生成する場合の例を示す。
【0047】
図3に装置概要を示す。本実施例における画像生成装置は、画像Aのビット深度を拡大して画像Cを作成する画像ビット深度拡大部201と、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部202と、対応点推定部202で対応点があると推定された画像C中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部203と、対応点推定部202で対応点がないと推定された画像C中の画素位置の画像情報を、対応画像設定部203で設定された画像情報から作成する画像補間部204とを備える。
【0048】
画像補間部204では、画像C中の画素で、対応点がないと推定された画素の画像情報を、対応点があるとして画像Bから画像情報を設定された画素位置の当該画像情報から作成する。このとき、画像Bから画像情報を設定された画素位置からの距離に応じて線形補間をする。
【0049】
以上を前提として、図3に示す画像生成装置は次のように動作する。図4に、そのフローチャートを示す。
【0050】
まず、画像ビット深度拡大部201は、画像Aをトーンマッピング拡大して画像Cを作成する(ステップS20)。そして、対応点推定部202は、画像Cと画像Bの対応点の有無と位置を推定する(ステップS21)。対応画像設定部203は、対応点推定部202で対応点があると推定された画像Cの各画素に対し、画像Bの対応点の画像情報を設定する(ステップS22)。画像補間部204は、対応点推定部202で対応点がないと推定された画素位置について、対応画像設定部203で既に設定された画像情報から補間して画像情報を作成する(ステップS23)。以上により画像Cを生成する。
【0051】
画像補間部204では、線形補間により画像情報を生成したが、非線形処理を用いて画像情報を生成してもよい。いずれも、対応画像設定部203で設定された画像情報を利用して生成する。
【0052】
〔第3の実施例〕
次に、第3の実施例として、第1の実施例と同様に、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから、画像Aに対応する高ビット深度(画像Bのビット深度に対応)の画像Cを生成する場合の例を示す。ただし、生成した画像情報のダイナミックレンジを縮小した画像と元の画像Aとの差が小さい画素位置にだけ、生成した画像情報を適用する場合の例を示す。
以下の説明で、画像Dは、画像Aを初めにトーンマッピング拡大した画像、画像Eは、画像Dと同サイズ(同じ画素構成)の一時的な処理用画像である。
また、画像Fは、画像Eをトーンマッピング縮小して作成した、ビット深度の小さい画像(画像Aと同じビット深度を有する、一時的な処理用画像)である。
【0053】
図5に装置概要を示す。本実施例における画像生成装置は、画像Aをトーンマッピング拡大して画像Dを作成する画像ビット深度拡大部301と、画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部302と、対応点推定部302で対応点があると推定された、画像D中の画素位置と同じ画像E中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部303と、対応点推定部302で対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定部303で設定された画像情報から作成する画像補間部304と、画像Eをトーンマッピングしてビット深度の小さい画像Fを作成する画像ビット深度縮小部305と、画像Aの各画素位置において、画像Aの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成部306と、差分作成部306で求めた各画素位置における差分が閾値より小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部306で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報を設定する画像選択部307とを備える。
【0054】
画像ビット深度縮小部305では、例えば非特許文献4に示される方法に従って、ビット深度の小さい画像情報(即ち、画像F)を生成する。
差分作成部306では、各画素位置で上記差分を作成するものとする。
画像選択部307では、予め差分の閾値を設定しておき、差分作成部306で得られる差分との比較をするものとする。
【0055】
以上を前提として、図5に示す画像生成装置は次のように動作する。図6に、そのフローチャートを示す。
【0056】
まず、画像ビット深度拡大部301は、画像Aをトーンマッピング拡大して画像Dを作成する(ステップS30)。そして、対応点推定部302は、画像Dと画像Bの対応点の有無と位置を推定する(ステップS31)。対応画像設定部303は、対応点推定部302で対応点があると推定された位置における画像Bの画像情報を画像Eへ設定する(ステップS32)。
【0057】
画像補間部304は、対応点推定部302で対応点がないと推定された位置について、対応画像設定部303で既に設定された画像情報から補間して画像Eの画像情報を作成する(ステップS33)。
画像ビット深度縮小部305は、画像Eをトーンマッピング縮小してビット深度の小さい画像Fを作成する(ステップS34)。差分作成部306は、画像Aと画像Fの差分を作成する(ステップS35)。
画像選択部307では、差分作成部306で得られる差分に従い、各画素位置について、画像Eまたは画像Dを選択して画像Cを生成する(ステップS36)。
【0058】
なお、画像ビット深度縮小部305では、他の手法を使ってビット深度の小さい画像を作成してもよい。
また、差分作成部306では、対象画素を中心とするブロック間の差分を作成してもよい(第1の実施例参照)。
【0059】
ところで、画像選択部307では、差分作成部306で求めた各画素位置における差分が小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部306で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報を設定した。
この画像選択部307の代わりに、図7に示す画像生成部308を設けてもよい。
【0060】
図7に装置概要を示す。この場合、画像生成部308では、差分作成部306で求めた各画素位置における差分が閾値より小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部306で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する。
これによれば、差分が大きい場合にトーンマッピング拡大した画像Dを用いるのではなく、トーンマッピング拡大した画像Dと他の画像から生成した画像Eの重み付け平均を用いることができる。本手法は、トーンマッピング拡大した画像Dの劣化が大きい場合に好適である。
【0061】
〔第4の実施例〕
次に、第4の実施例として、別のカメラで撮影された同じビット深度の画像AとBがあり、画像Aの縮小画像と画像Bから画像Aに近い画像Cを生成する場合の例を示す。ここでは、生成した画像情報のダイナミックレンジを縮小した画像と元の画像Aとの差が小さい画素位置にだけ生成した画像情報を適用する場合の例を示す。この実施例では、各画素位置における2画像間の差分に対する閾値も推定することが特徴である。
【0062】
図8に装置概要を示す。本実施例における画像生成装置は、
・画像Aをトーンマッピングしてビット深度の小さい画像Gを作成する基準画像ビット深度縮小部412と、
・画像Gをトーンマッピング拡大して、画像A,Bと同じビット深度の画像Dを作成する画像ビット深度拡大部401と、
・画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部402と、
・対応点推定部402で対応点があると推定された、画像D中の画素位置と同じ画像E(同サイズの一時的な処理画像)中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部403と、
・対応点推定部402で対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定部403で設定された画像情報から作成する画像補間部404と、
・画像Eをトーンマッピングしてビット深度の小さい(画像Gと同じビット深度の)画像Fを作成する画像ビット深度縮小部405と、
・画像Gの各画素位置において、画像Gの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成部406と、
・予め設定した範囲で複数の閾値を設定する閾値設定部410と、
・閾値設定部410で設定した各閾値に対し、差分作成部406で求めた各画素位置における差分が閾値よりも小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部406で求めた各画素位置における差分が閾値よりも大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報を設定する画像選択部407と、
・画像選択部407で得られる画像Cと画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計部409と、
・生成差分合計部409で得られる差分の合計が最も小さくなる閾値を決定する閾値決定部411と
を備える。
【0063】
閾値設定部410では、閾値として10から50まで10ずつ閾値を増加させるものとする。
【0064】
以上を前提として、図8に示す画像生成装置は次のように動作する。図9に、そのフローチャートを示す。
【0065】
まず、基準画像ビット深度縮小部412は、画像Aからトーンマッピングによってビット深度の小さい画像Gを作成する(ステップS40)。
画像ビット深度拡大部401は、画像Gからビット深度の大きい(画像A,Bと同じビット深度を有する)画像Dを作成する(ステップS41)。
そして、対応点推定部402は、画像Dと画像Bの対応点の有無と位置を推定する(ステップS42)。
対応画像設定部403は、対応点推定部402で対応点があると推定された位置における画像Bの画像情報を、画像Eへ設定する(ステップS43)。
【0066】
画像補間部404は、対応点推定部402で対応点がないと推定された位置について、対応画像設定部403で既に設定された画像情報から補間して画像Eの画像情報を作成する(ステップS44)。
画像ビット深度縮小部405は、画像Eからビット深度の小さい画像Fを作成する(ステップS45)。
差分作成部406は、画像Gと画像Fの差分を作成する(ステップS46)。
【0067】
続いて、閾値設定部410では、閾値を10に設定する(ステップS47)。
画像選択部407では、差分作成部406で得られる差分と閾値を比較し、各画素位置毎に画像Eまたは画像Dを選択して画像Cを生成する(ステップS48)。
生成差分合計部409は、画像Cと画像Aとの差分の合計を求める(ステップS49)。
以上の閾値設定部410と画像選択部407と生成差分合計部409の処理を、閾値を10ずつ増やしながら50まで繰り返し実行する(ステップS50、S51)。
【0068】
続いて、閾値決定部411は、生成差分合計部409で得られる値が最小となる場合の閾値を決定する(ステップS52)。
【0069】
上記構成において、画像選択部407の代わりに画像生成部408を用いてもよい。図10に装置概要を示す。
画像生成部408では、差分作成部406で求めた各画素位置における差分が小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部406で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する。
【0070】
以上の実施例では、複数のカメラ入力映像に対する処理を説明した。この方法は、このような多視点画像だけではなく、単眼の動画像にも適用できる。
すなわち、動画像中の各フレームのビット深度が異なる場合に、低ビット深度のフレームの画像に対して、他の高ビット深度のフレームの画像を利用して、高いビット深度の画像を生成することができる。
例えば、低ビット深度のフレームを画像Aとし、他の高ビット深度のフレームを画像Bとして、高ビット深度の画像Cを生成する処理に適用できる。
【0071】
また、本実施例では、扱う信号をY信号としたが、これはRGBなどの他の色信号でもよい。
また、YUV信号がありY信号のビット深度が同じであるが、UV信号のビット深度が異なる場合にも適用できる。この場合には、画像拡大部においてUV信号のみ拡大し、Y信号はそのままコピーする。そして、対応点推定部における対応点推定の処理をUまたはV信号を拡大した信号ではなく、Y信号で行ってもよい。
【0072】
以上の画像生成の処理は、コンピュータとソフトウェアプログラムとによっても実現することができ、そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも、ネットワークを通して提供することも可能である。
【産業上の利用可能性】
【0073】
本発明によれば、低ビット深度で撮影されたカメラ位置の画像情報に対して、別の高ビット深度で撮影されたカメラ位置の画像情報を利用して、高いビット深度の画像情報を生成することができる。これにより主観品質の劣化を低減することができる。
【符号の説明】
【0074】
101、201、301、401 画像ビット深度拡大部
102、202、302、402 対応点推定部
103、203、303、403 対応画像設定部
204、304、404 画像補間部
305、405 画像ビット深度縮小部
306、406 差分作成部
307、407 画像選択部
308、408 画像生成部
409 生成差分合計部
410 閾値設定部
411 閾値決定部
412 基準画像ビット深度縮小部
【技術分野】
【0001】
本発明は、複数の画像から高ビット深度の画像を生成する技術に関するものである。
本願は、2007年10月15日に出願された特願2007−267613号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
図11は直線配列の多視点撮像系、図12は平面配列の多視点撮像系、図13はアーク状配列の多視点撮像系、図14は球面配列の多視点撮像系のカメラ配置例を示す図である。
【0003】
一つのシーンを異なる方向から撮影する多視点撮像系が開発されている。多視点撮像系において、カメラ配置は、図11に示すように直線上に1次元配列であったり、図12に示すように平面上に2次元配列であったり、また、図13に示すようにアーク状に配列したものや、図14に示すように球面状の配列したものなど、さまざまである。このような多視点撮像系を利用すれば、多面的な映像シーンをアーカイブする(1つにまとめる)ことが可能となる。
【0004】
さらに、多視点で撮影されたカメラ映像から、撮影されていない仮想カメラ位置の画像情報を生成する技術がある。これを画像合成技術と呼ぶ。
画像合成では、元のカメラ映像は空間中のどの方向から撮影した画像情報であるかを示すカメラパラメータがわかっているとする。画像合成には種々の方法がある。
例えば、奥行き情報を推定して合成する方法がある。まず元のカメラ映像間で画像情報の対応点探索を行い視差情報を求め、視差情報からシーンの奥行き情報を推定する。そして、仮想カメラ位置の奥行き情報を推定して、対応する画像情報を元のカメラの画像情報から作成する(非特許文献1参照)。
【0005】
また、奥行き情報の推定まで行わずに、元画像の視差情報を利用して直接仮想カメラ位置の画像情報を作成する方法もある(非特許文献2参照)。
【0006】
あるいは、複数のカメラ映像からシーンに存在するオブジェクトの3次元モデル情報を推定しておき、仮想カメラ位置からの当該モデルの投影画像を生成する方法もある(非特許文献3参照)。
【0007】
このような撮像系では、通常ビット深度(階調)の同じカメラを用いるが、ビット深度の異なるカメラを用いてもよい。ビット深度の高いカメラとビット深度の低いカメラを組み合わせて用いることで、得られる画像情報の情報量を低減することが可能である。
【0008】
ビット深度の低い画像からビット深度の高い画像を得る方法として、トーンマッピング方法が挙げられる(非特許文献4参照)。これは、量子化された値をより高いダイナミックレンジの信号へマッピングする技術である。
【先行技術文献】
【非特許文献】
【0009】
【非特許文献1】Keita Takahashi and Takeshi Naemura,“Layered Light-Field Rendering with Focus Measurement”, EURASIP Signal Processing: Image Communication, vol.21, no.6, pp.519-530(2006.7).
【非特許文献2】M. Droese, T. Fujii and M. Tanimoto,“Ray-Space Interpolation Constraining Smooth Disparities Based On Loopy Belief Propagation”, Proc. of IWSSIP2004, pp.247-250, Poznan, Poland, Sept. 2004.
【非特許文献3】松山隆司、高井勇志、ウ小軍、延原章平:「3次元ビデオ映像の撮影・編集・表示」、日本バーチャルリアリティ学会論文誌、Vol.7, No.4, pp.521-532, 2002.12.
【非特許文献4】E.Reinhard, M.Stark, P.Shirley and J.Ferwerda, “Photographic Tone Reproduction for Digital Images”, presented at SIGGRAPH, 2002.
【発明の概要】
【発明が解決しようとする課題】
【0010】
本発明は、ビット深度の異なる多視点映像を扱うという発明者の着眼した新規な技術について、低いビット深度の画像が失っている高いダイナミックレンジで表現される情報を復元し、低いビット深度の画像に対する主観的な品質を向上させることを目的とする。
【課題を解決するための手段】
【0011】
ビット深度の異なる多視点映像を扱うということは従来行われていなかった。即ち、本発明の課題は、ビット深度の異なる多視点映像を扱うという新しい技術的着想から生じた課題である。
多視点撮像系でビット深度の異なるカメラを用いた場合には、低いビット深度の画像と高いビット深度の画像が混在することになる。また、同じビット深度のカメラで撮影した場合であっても、例えば一部のカメラ映像のビット深度を低減することで情報量を削減できるため、多視点画像の圧縮には好適な場合がある。この場合においても、低いビット深度の画像と高いビット深度の画像が混在することになる。
【0012】
以上のような場合においては、低いビット深度の画像情報では高いダイナミックレンジで表現される情報が欠落している。このため、低いビット深度で撮影されたカメラ位置の画像情報は、高いビット深度で撮影されたカメラ位置の画像情報に比ベて、主観品質が劣化するという間題がある。
【0013】
従って本発明は、上記問題点の解決を図り、低いビット深度の画像が失っている高いダイナミックレンジで表現される情報を復元し、低いビット深度の画像に対する主観的な品質を向上させる技術を提供する。
【0014】
本発明の概要について説明する。例えば、ビット深度の異なる複数のカメラで同一シーンを撮影することにより、扱う画像情報の総情報量を減らすことができる。したがって、この場合、多視点映像の符号量を大幅に下げることができる。
ビット深度とは、例えば8ビットであるとか10ビットであるとかいった、信号のダイナミックレンジを指している。撮影されていないレンジがあると(即ち、ダイナミックレンジが狭くなると)、その部分の情報が欠落しており、主観品質が悪くなるため、多視点映像の符号量を削減しようとした場合に問題となる。
【0015】
本発明では、失われているレンジの情報を復元することによって、この問題を解決する。そもそもビット深度の異なる多視点映像を扱うということは従来行われていなかった。本発明の課題は、ビット深度の異なる多視点映像を扱うという新しい技術的着想から生じた課題である。
【0016】
本発明は、この課題を解決するため、他のカメラで撮影されたビット深度の高い情報を使って、目的の画像のビット深度の高い情報を復元する技術的手段を用いることにより、ビット深度の異なる複数のカメラで撮影した多視点映像を扱う場合において、主観的な画像品質を落とさずに、扱う画像情報の総情報量を減らすことができるようにする。
【0017】
本発明は、画像Aと、画像Aよりもビット深度の高い画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングして、画像Bと同じビット深度を有する画像Cを作成する画像ビット深度拡大ステップと、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、対応点推定ステップで対応点があると推定された、画像C中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定ステップと、を実行する方法を提供する。
【0018】
この画像生成方法によれば、他の画像に含まれる高いダイナミックレンジの情報を使い、所望の画像に対する高いビット深度の画像を生成することができる。このとき生成する画素位置に対応する画像信号が他の画像にない場合には、元々の低いビット深度をトーンマッピングで拡大した画像情報を用いることにより画像情報の欠落を防ぐことができる。
【0019】
対応点の推定では、対応点情報を別途入力として与える場合と、対応点を画像情報を使って探索する場合が挙げられる。対応点情報を別途与える場合には、シーンの奥行き情報や幾何情報を予め推定しておき、そこから画像間の対応点を推定するようにしてもよい。
【0020】
対応点の探索では、対応する画素間(画像Cの各画素に対して、画像Bの1〜複数の画素候補)で差分の絶対値を求めて、その値の最小値が予め設定した閾値よりも小さい場合には、その最小値となる点を対応点と推定し、閾値よりも大きい場合には、対応点はないと推定してもよい。
この場合の閾値を低いビット深度の画像情報と一緒にファイル化しておくことも好適である。ファイル化された低いビット深度の画像情報から高いビット深度の画像情報を生成する際に、ファイルに含まれる閾値を使用することで、生成する際に常に同じ画像が得られることを保障できる。
【0021】
あるシーンを複数の方向から撮影する場合で、ビット深度の異なるカメラを利用する場合に、低いビット深度のカメラの画像に対して、他の高いビット深度のカメラの画像を利用して、高いビット深度の画像を生成することができる。この方法は多視点画像だけではなく、単眼の動画像にも適用できる。すなわち、動画像中の各フレームのビット深度の異なる場合に、低いビット深度のフレームの画像に対して、他の高いビット深度のフレームの画像を利用して、高いビット深度の画像を生成することができる。
【0022】
上記方法において、対応点推定ステップで対応点がないと推定された、画像C中の画素位置の画像情報を、対応画像設定ステップで設定された画像情報から作成する画像補間ステップを、更に設けても良い。
【0023】
この場合、生成する画素位置に対応する画像信号が他の画像にない場合には、周囲にある生成した高いビット深度の画像信号から補間して作成することにより画像情報の欠落を防ぐことができる。
【0024】
また、本発明は、画像Aと、画像Aよりもビット深度の高い画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングして、画像Bと同じビット深度を有する画像Dを作成する画像ビット深度拡大ステップと、画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、対応点推定ステップで対応点があると推定された、画像D中の画素位置と同じ画像E中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定ステップと、対応点推定ステップで対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定ステップで設定された画像情報から作成する画像補間ステップと、画像Eをトーンマッピングして、画像Aと同じビット深度を有する画像Fを作成する画像ビット深度縮小ステップと、画像Aの各画素位置において、画像Aの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成ステップと、差分作成ステップで求めた各画素位置における差分が小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成ステップで求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、を実行する方法を提供する。
【0025】
典型例として、前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、
(i) 対応する画像Cの各画素位置に画像Dの画像情報を設定する、もしくは、
(ii) 対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する
ようにする。
【0026】
この画像生成方法によれば、所望の画像と他の画像との対応点の推定に誤差がある場合に、前述した発明と同様に生成した高いビット深度の画像を用いる代わりに、元々の低いビット深度をトーンマッピングで拡大した画像情報を用いたり、生成した高いビット深度の画像情報と元々の低いビット深度をトーンマッピングで拡大した画像情報の重み付け平均値を用いたりすることにより、推定誤差による画質の劣化を低減できる。
【0027】
また、本発明は、同じビット深度を有する画像生成装置が画像Aと画像Bから画像Cの画像情報を生成する画像生成方法であって、画像Aをトーンマッピングしてビット深度の小さい画像Gを作成する基準画像ビット深度縮小ステップと、画像Gをトーンマッピングして、画像Aと同じビット深度を有する画像Dを作成する画像ビット深度拡大ステップと、画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、対応点推定ステップで対応点があると推定された、画像D中の画素位置と同じ画像E中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定ステップと、対応点推定ステップで対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定ステップで設定された画像情報から作成する画像補間ステップと、画像Eをトーンマッピングして、画像Gと同じビット深度を有する画像Fを作成する画像ビット深度縮小ステップと、画像Gの各画素位置において、画像Gの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成ステップと、を実行し、予め設定した範囲で閾値を設定する閾値設定ステップと、差分作成ステップで求めた各画素位置における差分が閾値よりも小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、画像情報設定ステップで得られる画像Cと画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計ステップと、を閾値を変えながら実行し、生成差分合計ステップで得られる差分の合計が最も小さくなる閾値を決定する閾値決定ステップを実行する方法を提供する。
【0028】
典型例として、前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、
(i) 対応する画像Cの各画素位置に画像Dの画像情報を設定する、もしくは、
(ii) 対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する
ようにする。
【0029】
この画像生成方法によれば、画像を低いビット深度に変換して高いビット深度へ変換する場合において、前述した方法で高いビット深度の画像を生成する際に、対応点の推定誤差による劣化の大きさを検出し、劣化が最も小さくなるように、前述した方法と同様に生成した高いビット深度の画像を選択する閾値を決定できる。元々の高いビット深度の画像情報も存在するため、劣化の大きさを検出することができる。
【0030】
この閾値パラメータは、次のように利用できる。まず、この閾値を推定しておき、閾値パラメータとして低いビット深度の画像情報に付随させておく。例えば、低いビット深度の画像と他の画像と一緒に、この閾値パラメータもファイル化しておく。このファイルには低いビット深度に変換する前の画像情報は含めない。したがって、元の画像よりも低いビット深度の画像情報をファイル化するため、ファイルサイズを小さくすることができる。このファイルを再生する際は、低いビット深度の画像と他の画像から、上記閾値パラメータを利用して、高いビット深度の画像を生成することができる。このとき、主観品質の劣化を最小化した高いビット深度の画像を生成することができる。
【0031】
また、前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合に、上記(ii)の手法を用いる場合には、低いビット深度の画像をトーンマッピングで拡大した画像を生成した画像の信号に用いるのではなく、高いビット深度の画像と重み付け平均した値を用いるので、低いビット深度の画像をトーンマッピング拡大することによる画像のボケを低減することができる。
【0032】
本発明はまた、上記各方法により画像を生成する画像生成装置も提供する。
【発明の効果】
【0033】
本発明によれば、低ビット深度で撮影されたカメラ位置の画像情報に対して、別の高ビット深度で撮影されたカメラ位置の画像情報を利用して、高いビット深度の画像情報を生成することができる。これにより主観品質の劣化を低減することができる。
【図面の簡単な説明】
【0034】
【図1】本発明の第1の実施例である、画像生成装置の構成を示す図である。
【図2】同実施例の、画像生成装置の動作を示すフローチャートである。
【図3】本発明の第2の実施例である、画像生成装置の構成を示す図である。
【図4】同実施例の、画像生成装置の動作を示すフローチャートである。
【図5】本発明の第3の実施例である、画像生成装置の構成を示す図である。
【図6】同実施例の、画像生成装置の動作を示すフローチャートである。
【図7】同実施例の変形例である、画像生成装置の構成を示す図である。
【図8】本発明の第4の実施例である、画像生成装置の構成を示す図である。
【図9】同実施例の、画像生成装置の動作を示すフローチャートである。
【図10】同実施例の変形例である、画像生成装置の構成を示す図である。
【図11】直線配列の多視点撮像系を示す図である。
【図12】平面配列の多視点撮像系を示す図である。
【図13】アーク状配列の多視点撮像系を示す図である。
【図14】球面配列の多視点撮像系を示す図である。
【発明を実施するための形態】
【0035】
図面を用いて本発明の画像生成装置の実施例を説明する。
【0036】
〔第1の実施例〕
第1の実施例として、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから、画像Aに対応する高ビット深度(画像Bのビット深度に対応)の画像Cを生成する場合の例を示す。ここで、カメラで撮影される信号は、全てYUV信号(輝度Y、色差U,V)により色信号が設定されているものとし、実施例では、Y信号のみ扱うものとする。
【0037】
図1に装置概要を示す。本実施例における画像生成装置は、画像Aのビット深度を拡大して、画像Bと同じビット深度を有する画像Cを作成する画像ビット深度拡大部101と、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部102と、対応点推定部102で対応点があると推定された画像C中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部103とを備える。
【0038】
ここで、画像ビット深度拡大部101では、画像のビット深度を、非特許文献4に示されている方法(トーンマッピング)により拡大して画像を作成するものとする。
また、対応点推定部102では、カメラパラメータもしくは既知のマッチング技術を用いて、画像Cの各画素について(画像B中の)対応する画素の候補を(1〜複数)仮定し、対応する画素間で差分の絶対値を求めて、それら絶対値の最小値が予め設定した閾値よりも小さい場合には、その最小値となる点を対応点と推定し、閾値よりも大きい場合には、画像Cの当該画素については対応点はないと推定するものとする。
【0039】
以上を前提として、図1に示す画像生成装置は次のように動作する。図2に、そのフローチャートを示す。
【0040】
まず、画像ビット深度拡大部101は、画像Aをトーンマッピング拡大して画像Cを作成する(ステップS10)。そして、対応点推定部102は、画像Cと画像Bの対応点の有無と位置を、上述のような方法で推定する(ステップS11)。対応画像設定部103は、対応点推定部102で対応点があると推定された画像Cの各画素に対し、画像Bの対応点の画像情報を設定する(ステップS12)。以上により画像Cを生成する。
なお、画像ビット深度拡大部101では、他のトーンマッピング方法を用いてもよい。
【0041】
また、対応点推定部102は、画素間で差分の絶対値を求めたが、推定する対象の画素を中心とする複数画素からなるブロックを使い推定してもよい。例えば、画像Cの各画素について、画像B中の対応する画素の候補を(1〜複数)仮定し、各候補を中心とする複数画素からなるブロック内の画素との差分の絶対値の合計を求めて、その合計値が最小となる候補の位置を対応点として推定してもよい。
【0042】
以上の例では、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから高ビット深度の画像Cを生成したが、同じカメラで撮影した、ある時刻の低ビット深度の画像Aと、別の時刻の高ビット深度の画像Bから、高ビット深度の画像Cを生成してもよい。
【0043】
また、上述のように、画像Aと画像Bから、画像Aに対応する画像Cを作成したが、画像Bは複数あってもよい。画像Bが2つ(B1とB2)ある場合の例を次に示す。構成は同じであるが、次のように動作する。
【0044】
まず、画像ビット深度拡大部101は、画像Aをトーンマッピング拡大して画像Cを作成する。
そして、対応点推定部102は、画像Cと画像B1の対応点の有無と位置を、上記と同様の方法で推定する。対応画像設定部103は、対応点推定部102で対応点があると推定された各位置における画像B1の画像情報を画像Cへ設定する。
次に、対応点推定部102は、画像Cと画像B2の対応点の有無と位置を、同様に推定する。対応画像設定部103は、対応点推定部102で対応点があると推定された各位置における画像B2の画像情報を画像Cへ設定する。
以上により画像Cを生成する。
【0045】
画像B1と画像B2の双方に対応点があると推定された場合、予め定めたどちらかの画像情報を優先させて画像Cに設定してもよいし、対応する画像Cの画素との差分が小さいほうの画像B1または画像B2の画像情報を画像Cに設定してもよいし、画像B1と画像B2の画像情報の平均値を画像Cに設定してもよい。
画像Bが3つ以上ある場合にも同様に高ビット深度の画像Cを生成することができる。
以下に説明する他の実施例についても複数の画像Bがある場合に、同様に実施することができる。
【0046】
〔第2の実施例〕
次に、第2の実施例として、第1の実施例と同様に、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから、画像Aに対応する高ビット深度の画像Cを生成する場合の例を示す。ただし、対応点がない場合には、周囲の高ビット深度の画像情報から補間して生成する場合の例を示す。
【0047】
図3に装置概要を示す。本実施例における画像生成装置は、画像Aのビット深度を拡大して画像Cを作成する画像ビット深度拡大部201と、画像Cの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部202と、対応点推定部202で対応点があると推定された画像C中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部203と、対応点推定部202で対応点がないと推定された画像C中の画素位置の画像情報を、対応画像設定部203で設定された画像情報から作成する画像補間部204とを備える。
【0048】
画像補間部204では、画像C中の画素で、対応点がないと推定された画素の画像情報を、対応点があるとして画像Bから画像情報を設定された画素位置の当該画像情報から作成する。このとき、画像Bから画像情報を設定された画素位置からの距離に応じて線形補間をする。
【0049】
以上を前提として、図3に示す画像生成装置は次のように動作する。図4に、そのフローチャートを示す。
【0050】
まず、画像ビット深度拡大部201は、画像Aをトーンマッピング拡大して画像Cを作成する(ステップS20)。そして、対応点推定部202は、画像Cと画像Bの対応点の有無と位置を推定する(ステップS21)。対応画像設定部203は、対応点推定部202で対応点があると推定された画像Cの各画素に対し、画像Bの対応点の画像情報を設定する(ステップS22)。画像補間部204は、対応点推定部202で対応点がないと推定された画素位置について、対応画像設定部203で既に設定された画像情報から補間して画像情報を作成する(ステップS23)。以上により画像Cを生成する。
【0051】
画像補間部204では、線形補間により画像情報を生成したが、非線形処理を用いて画像情報を生成してもよい。いずれも、対応画像設定部203で設定された画像情報を利用して生成する。
【0052】
〔第3の実施例〕
次に、第3の実施例として、第1の実施例と同様に、別のカメラで撮影された低ビット深度の画像Aと高ビット深度の画像Bから、画像Aに対応する高ビット深度(画像Bのビット深度に対応)の画像Cを生成する場合の例を示す。ただし、生成した画像情報のダイナミックレンジを縮小した画像と元の画像Aとの差が小さい画素位置にだけ、生成した画像情報を適用する場合の例を示す。
以下の説明で、画像Dは、画像Aを初めにトーンマッピング拡大した画像、画像Eは、画像Dと同サイズ(同じ画素構成)の一時的な処理用画像である。
また、画像Fは、画像Eをトーンマッピング縮小して作成した、ビット深度の小さい画像(画像Aと同じビット深度を有する、一時的な処理用画像)である。
【0053】
図5に装置概要を示す。本実施例における画像生成装置は、画像Aをトーンマッピング拡大して画像Dを作成する画像ビット深度拡大部301と、画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部302と、対応点推定部302で対応点があると推定された、画像D中の画素位置と同じ画像E中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部303と、対応点推定部302で対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定部303で設定された画像情報から作成する画像補間部304と、画像Eをトーンマッピングしてビット深度の小さい画像Fを作成する画像ビット深度縮小部305と、画像Aの各画素位置において、画像Aの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成部306と、差分作成部306で求めた各画素位置における差分が閾値より小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部306で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報を設定する画像選択部307とを備える。
【0054】
画像ビット深度縮小部305では、例えば非特許文献4に示される方法に従って、ビット深度の小さい画像情報(即ち、画像F)を生成する。
差分作成部306では、各画素位置で上記差分を作成するものとする。
画像選択部307では、予め差分の閾値を設定しておき、差分作成部306で得られる差分との比較をするものとする。
【0055】
以上を前提として、図5に示す画像生成装置は次のように動作する。図6に、そのフローチャートを示す。
【0056】
まず、画像ビット深度拡大部301は、画像Aをトーンマッピング拡大して画像Dを作成する(ステップS30)。そして、対応点推定部302は、画像Dと画像Bの対応点の有無と位置を推定する(ステップS31)。対応画像設定部303は、対応点推定部302で対応点があると推定された位置における画像Bの画像情報を画像Eへ設定する(ステップS32)。
【0057】
画像補間部304は、対応点推定部302で対応点がないと推定された位置について、対応画像設定部303で既に設定された画像情報から補間して画像Eの画像情報を作成する(ステップS33)。
画像ビット深度縮小部305は、画像Eをトーンマッピング縮小してビット深度の小さい画像Fを作成する(ステップS34)。差分作成部306は、画像Aと画像Fの差分を作成する(ステップS35)。
画像選択部307では、差分作成部306で得られる差分に従い、各画素位置について、画像Eまたは画像Dを選択して画像Cを生成する(ステップS36)。
【0058】
なお、画像ビット深度縮小部305では、他の手法を使ってビット深度の小さい画像を作成してもよい。
また、差分作成部306では、対象画素を中心とするブロック間の差分を作成してもよい(第1の実施例参照)。
【0059】
ところで、画像選択部307では、差分作成部306で求めた各画素位置における差分が小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部306で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報を設定した。
この画像選択部307の代わりに、図7に示す画像生成部308を設けてもよい。
【0060】
図7に装置概要を示す。この場合、画像生成部308では、差分作成部306で求めた各画素位置における差分が閾値より小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部306で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する。
これによれば、差分が大きい場合にトーンマッピング拡大した画像Dを用いるのではなく、トーンマッピング拡大した画像Dと他の画像から生成した画像Eの重み付け平均を用いることができる。本手法は、トーンマッピング拡大した画像Dの劣化が大きい場合に好適である。
【0061】
〔第4の実施例〕
次に、第4の実施例として、別のカメラで撮影された同じビット深度の画像AとBがあり、画像Aの縮小画像と画像Bから画像Aに近い画像Cを生成する場合の例を示す。ここでは、生成した画像情報のダイナミックレンジを縮小した画像と元の画像Aとの差が小さい画素位置にだけ生成した画像情報を適用する場合の例を示す。この実施例では、各画素位置における2画像間の差分に対する閾値も推定することが特徴である。
【0062】
図8に装置概要を示す。本実施例における画像生成装置は、
・画像Aをトーンマッピングしてビット深度の小さい画像Gを作成する基準画像ビット深度縮小部412と、
・画像Gをトーンマッピング拡大して、画像A,Bと同じビット深度の画像Dを作成する画像ビット深度拡大部401と、
・画像Dの各画素位置と画像B中の対応点の有無および対応点位置を推定する対応点推定部402と、
・対応点推定部402で対応点があると推定された、画像D中の画素位置と同じ画像E(同サイズの一時的な処理画像)中の画素位置に、画像B中の対応位置の画像情報を設定する対応画像設定部403と、
・対応点推定部402で対応点がないと推定された、画像D中の画素位置と同じ画像E中の画素位置の画像情報を、対応画像設定部403で設定された画像情報から作成する画像補間部404と、
・画像Eをトーンマッピングしてビット深度の小さい(画像Gと同じビット深度の)画像Fを作成する画像ビット深度縮小部405と、
・画像Gの各画素位置において、画像Gの画像情報と、同じ画素位置の画像Fの画像情報との差分を求める差分作成部406と、
・予め設定した範囲で複数の閾値を設定する閾値設定部410と、
・閾値設定部410で設定した各閾値に対し、差分作成部406で求めた各画素位置における差分が閾値よりも小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部406で求めた各画素位置における差分が閾値よりも大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報を設定する画像選択部407と、
・画像選択部407で得られる画像Cと画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計部409と、
・生成差分合計部409で得られる差分の合計が最も小さくなる閾値を決定する閾値決定部411と
を備える。
【0063】
閾値設定部410では、閾値として10から50まで10ずつ閾値を増加させるものとする。
【0064】
以上を前提として、図8に示す画像生成装置は次のように動作する。図9に、そのフローチャートを示す。
【0065】
まず、基準画像ビット深度縮小部412は、画像Aからトーンマッピングによってビット深度の小さい画像Gを作成する(ステップS40)。
画像ビット深度拡大部401は、画像Gからビット深度の大きい(画像A,Bと同じビット深度を有する)画像Dを作成する(ステップS41)。
そして、対応点推定部402は、画像Dと画像Bの対応点の有無と位置を推定する(ステップS42)。
対応画像設定部403は、対応点推定部402で対応点があると推定された位置における画像Bの画像情報を、画像Eへ設定する(ステップS43)。
【0066】
画像補間部404は、対応点推定部402で対応点がないと推定された位置について、対応画像設定部403で既に設定された画像情報から補間して画像Eの画像情報を作成する(ステップS44)。
画像ビット深度縮小部405は、画像Eからビット深度の小さい画像Fを作成する(ステップS45)。
差分作成部406は、画像Gと画像Fの差分を作成する(ステップS46)。
【0067】
続いて、閾値設定部410では、閾値を10に設定する(ステップS47)。
画像選択部407では、差分作成部406で得られる差分と閾値を比較し、各画素位置毎に画像Eまたは画像Dを選択して画像Cを生成する(ステップS48)。
生成差分合計部409は、画像Cと画像Aとの差分の合計を求める(ステップS49)。
以上の閾値設定部410と画像選択部407と生成差分合計部409の処理を、閾値を10ずつ増やしながら50まで繰り返し実行する(ステップS50、S51)。
【0068】
続いて、閾値決定部411は、生成差分合計部409で得られる値が最小となる場合の閾値を決定する(ステップS52)。
【0069】
上記構成において、画像選択部407の代わりに画像生成部408を用いてもよい。図10に装置概要を示す。
画像生成部408では、差分作成部406で求めた各画素位置における差分が小さい場合には、対応する画像Cの各画素位置に画像Eの画像情報を設定し、差分作成部406で求めた各画素位置における差分が大きい場合には、対応する画像Cの各画素位置に画像Dの画像情報と画像Eの画像情報を重み付け平均した値を設定する。
【0070】
以上の実施例では、複数のカメラ入力映像に対する処理を説明した。この方法は、このような多視点画像だけではなく、単眼の動画像にも適用できる。
すなわち、動画像中の各フレームのビット深度が異なる場合に、低ビット深度のフレームの画像に対して、他の高ビット深度のフレームの画像を利用して、高いビット深度の画像を生成することができる。
例えば、低ビット深度のフレームを画像Aとし、他の高ビット深度のフレームを画像Bとして、高ビット深度の画像Cを生成する処理に適用できる。
【0071】
また、本実施例では、扱う信号をY信号としたが、これはRGBなどの他の色信号でもよい。
また、YUV信号がありY信号のビット深度が同じであるが、UV信号のビット深度が異なる場合にも適用できる。この場合には、画像拡大部においてUV信号のみ拡大し、Y信号はそのままコピーする。そして、対応点推定部における対応点推定の処理をUまたはV信号を拡大した信号ではなく、Y信号で行ってもよい。
【0072】
以上の画像生成の処理は、コンピュータとソフトウェアプログラムとによっても実現することができ、そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも、ネットワークを通して提供することも可能である。
【産業上の利用可能性】
【0073】
本発明によれば、低ビット深度で撮影されたカメラ位置の画像情報に対して、別の高ビット深度で撮影されたカメラ位置の画像情報を利用して、高いビット深度の画像情報を生成することができる。これにより主観品質の劣化を低減することができる。
【符号の説明】
【0074】
101、201、301、401 画像ビット深度拡大部
102、202、302、402 対応点推定部
103、203、303、403 対応画像設定部
204、304、404 画像補間部
305、405 画像ビット深度縮小部
306、406 差分作成部
307、407 画像選択部
308、408 画像生成部
409 生成差分合計部
410 閾値設定部
411 閾値決定部
412 基準画像ビット深度縮小部
【特許請求の範囲】
【請求項1】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから、第3の画像Cの画像情報を生成する画像生成方法であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第3の画像Cを作成する画像ビット深度拡大ステップと、
第3の画像Cの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、
前記対応点推定ステップで対応点があると推定された、第3の画像C中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定ステップと、
を実行することを特徴とする画像生成方法。
【請求項2】
前記対応点推定ステップで対応点がないと推定された、第3の画像C中の画素位置の画像情報を、前記対応画像設定ステップで設定された画像情報から補間して作成する画像補間ステップ、
を更に実行することを特徴とする、請求項1記載の画像生成方法。
【請求項3】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから第3の画像Cの画像情報を生成する画像生成方法であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大ステップと、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、
前記対応点推定ステップで対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定ステップと、
前記対応点推定ステップで対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定ステップで設定された画像情報から補間して作成する画像補間ステップと、
第5の画像Eをトーンマッピング縮小して、画像Aと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小ステップと、
第1の画像Aの各画素位置において、第1の画像Aの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成ステップと、
前記差分作成ステップで求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、
を実行することを特徴とする画像生成方法。
【請求項4】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項3記載の画像生成方法。
【請求項5】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項3記載の画像生成方法。
【請求項6】
同じビット深度を有する第1の画像Aと第2の画像Bから第3の画像Cの画像情報を、第4〜第7の画像D〜Gを用いて生成する画像生成方法であって、
第1の画像Aをトーンマッピング縮小してビット深度の小さい第7の画像Gを作成する基準画像ビッ卜深度縮小ステップと、
第7の画像Gをトーンマッピング拡大して、画像Aと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大ステップと、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、
前記対応点推定ステップで対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定ステップと、
前記対応点推定ステップで対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定ステップで設定された画像情報から補間して作成する画像補間ステップと、
第5の画像Eをトーンマッピング縮小して、画像Gと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小ステップと、
第7の画像Gの各画素位置において、第7の画像Gの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成ステップと、
閾値を設定する閾値設定ステップと、
前記差分作成ステップで求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、
前記画像情報設定ステップで得られる第3の画像Cと第1の画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計ステップと、
前記閾値設定ステップで設定した閾値を予め定められた範囲内で変えながら前記画像情報設定ステップと前記生成差分合計ステップとを繰り返した結果から、前記生成差分合計ステップで得られる差分の合計が最も小さくなる閾値を決定する閾値決定ステップと、
を実行することを特徴とする画像生成方法。
【請求項7】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項6記載の画像生成方法。
【請求項8】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項6記載の画像生成方法。
【請求項9】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから第3の画像Cの画像情報を生成する画像生成装置であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第3の画像Cを作成する画像ビット深度拡大部と、
第3の画像Cの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定部と、
前記対応点推定部で対応点があると推定された、第3の画像C中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定部と、
を備えることを特徴とする画像生成装置。
【請求項10】
前記対応点推定部で対応点がないと推定された、第3の画像C中の画素位置の画像情報を、前記対応画像設定部で設定された画像情報から補間して作成する画像補間部、
を更に備えることを特徴とする請求項9記載の画像生成装置。
【請求項11】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから第3の画像Cの画像情報を生成する画像生成装置であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大部と、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定部と、
前記対応点推定部で対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定部と、
前記対応点推定部で対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定部で設定された画像情報から補間して作成する画像補間部と、
第5の画像Eをトーンマッピング縮小して、画像Aと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小部と、
第1の画像Aの各画素位置において、第1の画像Aの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成部と、
前記差分作成部で求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成部で求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定部と、
を備えることを特徴とする画像生成装置。
【請求項12】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項11記載の画像生成装置。
【請求項13】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項11記載の画像生成装置。
【請求項14】
同じビット深度を有する第1の画像Aと第2の画像Bから第3の画像Cの画像情報を、第4〜第7の画像D〜Gを用いて生成する画像生成装置であって、
第1の画像Aをトーンマッピング縮小してビット深度の小さい第7の画像Gを作成する基準画像ビット深度縮小部と、
第7の画像Gをトーンマッピング拡大して、画像Aと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大部と、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定部と、
前記対応点推定部で対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定部と、
前記対応点推定部で対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定部で設定された画像情報から補間して作成する画像補間部と、
第5の画像Eをトーンマッピング縮小して、画像Gと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小部と、
第7の画像Gの各画素位置において、第7の画像Gの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成部と、
閾値を設定する閾値設定部と、
前記差分作成部で求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成部で求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定部と、
前記画像情報設定部で得られる第3の画像Cと第1の画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計部と、
前記閾値設定部で設定した閾値を予め定められた範囲内で変えながら前記画像情報設定部と前記生成差分合計部とによる処理を繰り返した結果から、前記生成差分合計部で得られる差分の合計が最も小さくなる閾値を決定する閾値決定部と、
を備えることを特徴とする画像生成装置。
【請求項15】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項14記載の画像生成装置。
【請求項16】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項14記載の画像生成装置。
【請求項17】
請求項1、3、及び6のいずれか1項に記載の画像生成方法を、コンピュータに実行させるための画像生成プログラム。
【請求項18】
請求項1、3、及び6のいずれか1項に記載の画像生成方法を、コンピュータに実行させるための画像生成プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項1】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから、第3の画像Cの画像情報を生成する画像生成方法であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第3の画像Cを作成する画像ビット深度拡大ステップと、
第3の画像Cの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、
前記対応点推定ステップで対応点があると推定された、第3の画像C中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定ステップと、
を実行することを特徴とする画像生成方法。
【請求項2】
前記対応点推定ステップで対応点がないと推定された、第3の画像C中の画素位置の画像情報を、前記対応画像設定ステップで設定された画像情報から補間して作成する画像補間ステップ、
を更に実行することを特徴とする、請求項1記載の画像生成方法。
【請求項3】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから第3の画像Cの画像情報を生成する画像生成方法であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大ステップと、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、
前記対応点推定ステップで対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定ステップと、
前記対応点推定ステップで対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定ステップで設定された画像情報から補間して作成する画像補間ステップと、
第5の画像Eをトーンマッピング縮小して、画像Aと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小ステップと、
第1の画像Aの各画素位置において、第1の画像Aの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成ステップと、
前記差分作成ステップで求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、
を実行することを特徴とする画像生成方法。
【請求項4】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項3記載の画像生成方法。
【請求項5】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項3記載の画像生成方法。
【請求項6】
同じビット深度を有する第1の画像Aと第2の画像Bから第3の画像Cの画像情報を、第4〜第7の画像D〜Gを用いて生成する画像生成方法であって、
第1の画像Aをトーンマッピング縮小してビット深度の小さい第7の画像Gを作成する基準画像ビッ卜深度縮小ステップと、
第7の画像Gをトーンマッピング拡大して、画像Aと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大ステップと、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定ステップと、
前記対応点推定ステップで対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定ステップと、
前記対応点推定ステップで対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定ステップで設定された画像情報から補間して作成する画像補間ステップと、
第5の画像Eをトーンマッピング縮小して、画像Gと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小ステップと、
第7の画像Gの各画素位置において、第7の画像Gの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成ステップと、
閾値を設定する閾値設定ステップと、
前記差分作成ステップで求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定ステップと、
前記画像情報設定ステップで得られる第3の画像Cと第1の画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計ステップと、
前記閾値設定ステップで設定した閾値を予め定められた範囲内で変えながら前記画像情報設定ステップと前記生成差分合計ステップとを繰り返した結果から、前記生成差分合計ステップで得られる差分の合計が最も小さくなる閾値を決定する閾値決定ステップと、
を実行することを特徴とする画像生成方法。
【請求項7】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項6記載の画像生成方法。
【請求項8】
前記画像情報設定ステップにおいて、前記差分作成ステップで求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項6記載の画像生成方法。
【請求項9】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから第3の画像Cの画像情報を生成する画像生成装置であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第3の画像Cを作成する画像ビット深度拡大部と、
第3の画像Cの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定部と、
前記対応点推定部で対応点があると推定された、第3の画像C中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定部と、
を備えることを特徴とする画像生成装置。
【請求項10】
前記対応点推定部で対応点がないと推定された、第3の画像C中の画素位置の画像情報を、前記対応画像設定部で設定された画像情報から補間して作成する画像補間部、
を更に備えることを特徴とする請求項9記載の画像生成装置。
【請求項11】
第1の画像Aと、画像Aよりもビット深度の高い第2の画像Bから第3の画像Cの画像情報を生成する画像生成装置であって、
第1の画像Aをトーンマッピング拡大して、画像Bと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大部と、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定部と、
前記対応点推定部で対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定部と、
前記対応点推定部で対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定部で設定された画像情報から補間して作成する画像補間部と、
第5の画像Eをトーンマッピング縮小して、画像Aと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小部と、
第1の画像Aの各画素位置において、第1の画像Aの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成部と、
前記差分作成部で求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成部で求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定部と、
を備えることを特徴とする画像生成装置。
【請求項12】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項11記載の画像生成装置。
【請求項13】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項11記載の画像生成装置。
【請求項14】
同じビット深度を有する第1の画像Aと第2の画像Bから第3の画像Cの画像情報を、第4〜第7の画像D〜Gを用いて生成する画像生成装置であって、
第1の画像Aをトーンマッピング縮小してビット深度の小さい第7の画像Gを作成する基準画像ビット深度縮小部と、
第7の画像Gをトーンマッピング拡大して、画像Aと同じビット深度を有する第4の画像Dを作成する画像ビット深度拡大部と、
第4の画像Dの各画素位置と第2の画像B中の対応点の有無および対応点位置を推定する対応点推定部と、
前記対応点推定部で対応点があると推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置に、第2の画像B中の対応位置の画像情報を設定する対応画像設定部と、
前記対応点推定部で対応点がないと推定された、第4の画像D中の画素位置と同じ第5の画像E中の画素位置の画像情報を、前記対応画像設定部で設定された画像情報から補間して作成する画像補間部と、
第5の画像Eをトーンマッピング縮小して、画像Gと同じビット深度を有する第6の画像Fを作成する画像ビット深度縮小部と、
第7の画像Gの各画素位置において、第7の画像Gの画像情報と、同じ画素位置の第6の画像Fの画像情報との差分を求める差分作成部と、
閾値を設定する閾値設定部と、
前記差分作成部で求めた各画素位置における差分が閾値よりも小さい場合には、対応する第3の画像Cの各画素位置に第5の画像Eの画像情報を設定し、前記差分作成部で求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報に基づいた画像情報を設定する画像情報設定部と、
前記画像情報設定部で得られる第3の画像Cと第1の画像Aの各画素位置における画像情報の差分の合計を算出する生成差分合計部と、
前記閾値設定部で設定した閾値を予め定められた範囲内で変えながら前記画像情報設定部と前記生成差分合計部とによる処理を繰り返した結果から、前記生成差分合計部で得られる差分の合計が最も小さくなる閾値を決定する閾値決定部と、
を備えることを特徴とする画像生成装置。
【請求項15】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報を設定することを特徴とする請求項14記載の画像生成装置。
【請求項16】
前記画像情報設定部は、前記差分作成部が求めた各画素位置における差分が閾値よりも大きい場合には、対応する第3の画像Cの各画素位置に第4の画像Dの画像情報と第5の画像Eの画像情報を重み付け平均した値を設定することを特徴とする請求項14記載の画像生成装置。
【請求項17】
請求項1、3、及び6のいずれか1項に記載の画像生成方法を、コンピュータに実行させるための画像生成プログラム。
【請求項18】
請求項1、3、及び6のいずれか1項に記載の画像生成方法を、コンピュータに実行させるための画像生成プログラムを記録したコンピュータ読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2011−8815(P2011−8815A)
【公開日】平成23年1月13日(2011.1.13)
【国際特許分類】
【出願番号】特願2010−185543(P2010−185543)
【出願日】平成22年8月20日(2010.8.20)
【分割の表示】特願2009−538070(P2009−538070)の分割
【原出願日】平成20年10月9日(2008.10.9)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
【公開日】平成23年1月13日(2011.1.13)
【国際特許分類】
【出願日】平成22年8月20日(2010.8.20)
【分割の表示】特願2009−538070(P2009−538070)の分割
【原出願日】平成20年10月9日(2008.10.9)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
[ Back to top ]