画像投影装置、画像処理装置、画像投影方法、画像投影方法のプログラム及びそのプログラムを記録した記録媒体
【課題】撮像した画像を二値化する閾値を算出することにより、投影する画像の補正に関する情報を算出することができる画像投影装置を提供すること。
【解決手段】校正用画像を投影対象物に投影する投影手段と、前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、前記第1の閾値に基づいて、撮像した前記画像の二値画像を生成する二値画像生成手段と、前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、を有する、ことを特徴とする。
【解決手段】校正用画像を投影対象物に投影する投影手段と、前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、前記第1の閾値に基づいて、撮像した前記画像の二値画像を生成する二値画像生成手段と、前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、を有する、ことを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像投影装置、画像処理装置、画像投影方法、画像投影方法のプログラム及びそのプログラムを記録した記録媒体に関する。
【背景技術】
【0002】
画像投影装置(プロジェクタなど)は、スクリーンなどの投影対象物に画像を投影する装置である。画像を投影する際、画像投影装置と投影対象物との相対的な位置関係によって、投影された画像に台形歪みが生ずる場合がある。このため、画像投影装置には、投影されている画像を撮像し、その撮像した画像に基づいて、投影する画像の台形歪みを補正するものがある。
【0003】
特許文献1は、等間隔に配列した特徴点を含む画像を投射面に投射し、その投射面を撮像し、特徴点の歪み量(位置のずれ)を算出し、算出した歪み量に応じて、投射する画像を補正する技術を開示している。
【0004】
特許文献2は、所定のパターン画像を投影し、その時の投影面の状態を撮像したパターン撮像画像から投影面に対応する平面領域を抽出し、その平面領域上の点から平面射影行列を算出し、その平面射影行列により投影する画像を校正する技術を開示している。
【発明の概要】
【発明が解決しようとする課題】
【0005】
室内照明が点灯しているとき(投影対象物の上部のみに明かりが射しているとき)、あるいは、投影対象物の表面に局所的に凹凸があるときに、画像投影装置は、投影対象物に画像を投影する場合がある。
【0006】
特許文献1及び特許文献2に開示されている技術では、画像が投影された投影対象物を撮像し、一律の閾値を用いて撮像した画像を二値化することにより、特徴点の抽出及び平面領域の抽出を行う。このため、投影対象物が部分的に明るくなっているとき、あるいは、投影対象物の表面の凹凸により部分的に暗くなっているときでは、特徴点又は平面領域を抽出することができない場合がある。
【0007】
本発明は、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、撮像した画像を二値化することができ、画像の補正に関する情報を算出することができる画像投影装置を提供することを課題とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明は、校正用画像を投影対象物に投影する投影手段と、前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、前記第1の閾値に基づいて、撮像した前記画像の二値画像を生成する二値画像生成手段と、前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、を有する、ことを特徴とする画像投影装置を提供する。
【発明の効果】
【0009】
本発明によれば、画像が投影された投影対象物を含む領域を撮像し、撮像した領域を分割し、分割した領域に対応する二値化の閾値を算出することにより、投影する画像の補正に関する情報を算出することができる。
【図面の簡単な説明】
【0010】
【図1】画像処理装置及び画像投影装置の一例を示す概略構成図である。
【図2】画像を投影及び撮像する動作の一例を説明する説明図である。
【図3】画像処理装置の動作の一例を示すフローチャート図である。
【図4】二値画像を生成する動作の一例を示すフローチャート図である。
【図5】グレイコード画像の一例を説明する説明図である。
【図6】閾値の線形補間を説明する説明図である。
【図7】グレイコードパターン及びコード化の一例を説明する説明図である。
【図8】抽出される対応点を説明する説明図である。
【図9】射影変換係数を算出する動作の一例を示すフローチャート図である。
【図10】投影範囲を算出する動作の一例を説明する説明図である。
【図11】実施例1に係る画像投影装置の投影する動作を説明する説明図である。
【図12】実施例1に係る画像投影装置の投影する動作を説明するフローチャート図である。
【図13】実施例1に係る画像投影装置の画像の補正を説明する説明図である。
【図14】実施例2に係る画像投影システムの一例を示す概略システム構成図である。
【図15】実施例2に係る画像投影システムの投影する動作を説明する説明図である。
【図16】第2の実施形態に係る画像処理装置の二値画像を生成する動作の一例を説明するフローチャート図である。
【図17】第2の実施形態に係る画像処理装置の投影する動作を説明する説明図である。
【図18】第2の実施形態に係る画像処理装置の差分画像及び外接矩形の算出を説明する説明図である。
【図19】第2の実施形態に係る画像処理装置のブロックのサイズの算出及び閾値の共用を説明する説明図である。
【図20】荒いグレイコードパターンを投影したときに撮像される画像の例を説明する説明図である。
【発明を実施するための形態】
【0011】
投影対象物を含む領域を撮像した画像に基づいて、撮像した領域を分割し、分割した領域に対応する二値化の閾値を算出する画像処理装置を用いて、本発明を説明する。
【0012】
(第1の実施形態)
(画像処理装置の構成)
図1に、本発明の第1の実施形態に係る画像処理装置100の概略構成図を示す。
【0013】
図1に示すように、本実施形態に係る画像処理装置100は、投影手段110、撮像手段120、二値画像生成手段131、対応点抽出手段132、変換係数算出手段133、投影領域算出手段134及び記憶手段140を含む。
【0014】
画像処理装置100は、本実施形態では、投影手段110を用いて、画像が投影される対象物(以下、「投影対象物」という。)に所定の画像を投影する。また、画像処理装置100は、撮像手段120及び二値画像生成手段131等を用いて、投影する画像の補正に関する情報を算出する。ここで、投影対象物は、スクリーン、壁又はホワイトボートなど外形表面に画像を投影することができるものを用いることができる。また、投影する画像は、動画及び/又は静止画を含むことができる。動画は、動きのある映像を含むことができる。
【0015】
投影手段110は、投影用レンズ等を用いて、投影対象物に画像を投影する手段である。投影手段110は、本実施形態では、記憶手段140の投影用画像格納手段141及び校正用画像格納手段142に格納(記憶)された投影用画像(オリジナル画像データImgO)及び校正用画像(グレイコードパターン)を投影対象物に投影する。また、投影手段110は、変換係数算出手段133が算出した補正に関する情報に基づいて、投影する画像を変形(補正)し、変形後の画像を投影する。
【0016】
撮像手段120は、投影対象物を含む領域の像を撮像素子(例えばイメージセンサ)に結像し、その撮像素子の画素出力信号をカメラ画像データImgCとして取得する手段である。撮像手段120は、本実施形態では、取得したカメラ画像データImgCを記憶手段140の撮像画像格納手段143に出力する。
【0017】
二値画像生成手段131は、撮像手段120が撮像した投影対象物を含む領域の画像から二値画像を生成する手段である。二値画像生成手段131は、撮像手段120が取得したカメラ画像データImgCに基づいて、画像処理により、二値画像を生成する。ここで、二値画像とは、後述する閾値を用いて、画像を白色又は黒色の二色(二値)に変換した画像である。詳細は後述の(画像を二値化する動作)で説明する。
【0018】
対応点抽出手段132は、二値画像生成手段131が生成した二値画像に基づいて、投影対象物を含む領域に関する複数の位置(以下、「対応点」という。)を抽出する手段である。変換係数算出手段133は、二値画像に基づいて、投影する画像の補正(拡大縮小及び台形補正等の画像処理、以下、「補正」という。)に関する情報を算出する手段である。投影領域算出手段134は、撮像手段120が取得したカメラ画像データImgCに基づいて、投影対象物の投影範囲を算出する手段である。対応点抽出手段132の動作の詳細は後述の(対応点を抽出する動作)で説明する。変換係数算出手段133及び投影領域算出手段134の動作の詳細は後述の(補正に関する情報を算出する動作)で説明する。
【0019】
記憶手段140は、投影用画像格納手段141、校正用画像格納手段142、撮像画像格納手段143、二値画像格納手段144及び変換係数格納手段145を含む。
【0020】
投影用画像格納手段141は、オリジナル画像データImgOを記憶する。オリジナル画像データImgOは、外部装置(PCなど)から入力される。校正用画像格納手段142は、校正時に投影対象物に投影する校正用画像(グレイコードパターン、キャリブレーションパターンなど)を記憶する。校正用画像は、本実施形態では、白色と黒色とを組み合わせた縞状のグレイコードパターンCg(例えば図7)を用いることができる。
【0021】
撮像画像格納手段143は、撮像手段120が取得したカメラ画像データImgCを記憶する。二値画像格納手段144は、二値画像生成手段131が生成した二値画像に関するデータとして、二値画像データImgTを記憶する。変換係数格納手段145は、投影する画像の補正に関するデータとして、後述する射影変換係数(Hcp、Hoc及びHなど)に関するデータを記憶する。
【0022】
なお、以後の説明において、画像に関するデータの「オリジナル画像データImgO」とは、PCなどから投影手段(プロジェクタなど)に入力される投影する画像に関する画像データである。
【0023】
「カメラ画像データImgC」とは、投影されたオリジナル画像データImgOに関する画像を撮像手段120によって撮像した画像に関する画像データである。カメラ画像データImgCは、撮像手段120の受光素子が受光した光の明暗等の電気信号(画素出力信号)をデジタル処理して、生成される。
【0024】
「プロジェクタ画像データImgP」とは、カメラ画像データImgCに関する画像に表れる台形歪み等を解消するために、オリジナル画像データImgOを補正した画像に関する画像データである。プロジェクタ画像データImgPは、後述する射影変換係数を用いて、生成される。
【0025】
「二値画像データImgT」とは、画像処理により、カメラ画像データImgCに関する画像を二色(二値)に変換した画像に関する画像データである。二値画像データImgTは、後述する閾値を用いて、生成される。
【0026】
(画像処理をする動作)
図2及び図3を用いて、画像処理装置が撮像した画像を画像処理する動作を説明する。図2は、投影対象物に画像を投影し、画像が投影された投影対象物を含む領域を撮像する動作を説明する図である。図3は、撮像した画像を画像処理する動作を説明するフローチャート図である。
【0027】
図2に示すように、本実施形態では、投影対象物Scrの上方で、照明Ltが点灯している。このため、投影対象物Scrの上部を撮像した画像の明度は高く、投影対象物Scrの下部を撮像した画像の明度は低い。投影手段110は、先ず、校正用画像格納手段に記憶されたグレイコードパターンを、投影する画像(プロジェクタ画像データImgP)として、投影対象物Scrに投影する。次いで、撮像手段120は、画像が投影された投影対象物Scrを含む領域の反射光(カメラ画像データImgC)を撮像する(取得する)。
【0028】
次に、図3を用いて、撮像した画像を画像処理する動作を説明する。
【0029】
図3に示すように、本実施形態に係る画像処理装置(二値画像生成手段)は、撮像手段が撮像したグレイコードパターンが投影された投影対象物の画像(以下、「グレイコード画像」という。)から二値画像(二値画像データImgT)を生成する(ステップS301)。二値画像を生成する動作の詳細は後述の(画像を二値化する動作)で説明する。二値画像を生成する動作を完了すると、画像処理装置は、二値画像データImgTを二値画像格納手段に格納する。その後、画像処理装置は、ステップS302に進む。
【0030】
ステップS302において、画像処理装置(対応点抽出手段)は、二値画像生成手段が生成した二値画像に基づいて、投影対象物を含む領域に関する対応点を抽出する。対応点を抽出する動作の詳細は後述の(対応点を抽出する動作)で説明する。対応点の抽出を完了すると、画像処理装置は、ステップS303に進む。
【0031】
ステップS303において、画像処理装置(変換係数算出手段)は、生成した二値画像及び抽出した対応点に基づいて、補正に関する情報(射影変換係数など)を算出する。補正に関する情報を算出する動作の詳細は後述の(補正に関する情報を算出する動作)で説明する。補正に関する情報の算出を完了すると、画像処理装置は、ステップS304に進む。
【0032】
ステップS304において、画像処理装置は、ステップS303の算出結果を変換係数格納手段(記憶手段)に出力する。このとき、変換係数格納手段は、算出結果を記憶する。その後、画像処理装置は、図中の「END」に進み、撮像した画像を画像処理する動作を終了する。
【0033】
(画像を二値化する動作)
図4〜図6を用いて、画像処理装置がグレイコード画像から二値画像を生成する動作を説明する。図4は、二値画像の生成の動作を示すフローチャート図である。図5は、グレイコード画像等の例を説明する図である。図6は、閾値の線形補間を説明する図である。
【0034】
図4に示すように、画像処理装置は、校正用画像格納手段に記憶されている白色と黒色とを組み合わせた縞状のグレイコードパターンCg(例えば後述する図7)において、最も縞の幅が小さい横縞のパターン(例えば後述する図7(c))を選択し、投影手段に出力する(ステップS401)。その後、画像処理装置は、ステップS402に進む。
【0035】
ステップS402において、画像処理装置は、投影手段を用いて、選択したグレイコードパターンを投影対象物に投影する。投影手段は、例えば図5(a)に示すようなグレイコードパターン(プロジェクタ画像データImgP)を投影することができる。投影を開始すると、画像処理装置は、ステップS403に進む。
【0036】
ステップS403において、画像処理装置は、撮像手段を用いて、グレイコードパターンが投影された投影対象物を含む領域を撮像する。撮像手段は、例えば図5(b)に示すようなグレイコード画像(カメラ画像データImgC)を撮像する(取得する)ことができる。撮像を完了すると、画像処理装置は、ステップS404に進む。
【0037】
ステップS404において、画像処理装置は、二値画像生成手段を用いて、撮像したグレイコード画像を、ブロック(第1の分割領域)に分割する。二値画像生成手段は、例えば図5(c)に示すようなブロック群Bkに分割することができる。分割を完了すると、画像処理装置は、ステップS405に進む。
【0038】
ステップS405において、画像処理装置は、二値画像生成手段を用いて、ブロックごとに二値化の閾値(第1の閾値T1)を算出する。二値画像生成手段は、二値化の閾値の算出方法として、例えば判別分析法を用いることができる。ここで、判別分析法とは、ブロック内の画素の明度値のヒストグラムを生成し、生成したヒストグラムを双峰性と仮定した場合、双峰の分離度が一番高くなる値を閾値とする算出方法である。具体的には、判別分析法では、双峰にグループ化された画素値のグループ間分散とグループ内分散との比が最大となる値を算出し、算出した値を閾値とする。
【0039】
また、画像処理装置は、二値画像生成手段を用いて、ブロックごとの閾値から、ブロック内の各画素(第2の分割領域Px)に対応する閾値(第2の閾値T2)を算出することができる。具体的には、二値画像生成手段は、算出した各ブロックの閾値をブロックの中心に位置する画素の閾値とする。次いで、二値画像生成手段は、線形補間を用いて、ブロック内の各画素の閾値を算出する。
【0040】
図6に、閾値の線形補間を説明する図を示す。図6に示すように、ブロックB1〜B4の閾値(ブロックの中心に位置する画素の閾値)はP1〜P4である。このとき、任意の位置Aの閾値は、位置Aの周囲4ブロックの閾値に基づいて、線形補間を用いて、閾値P13及びP24から算出することができる(バイリニア補間)。ここで、閾値P13及びP24は、例えば閾値P1及びP3並びに閾値P2及びP4から線形補間により算出することができる。
【0041】
なお、閾値の線形補間は、バイキュービック補間(周囲12ブロックの参照する補間)を用いてもよい。また、画像の端に位置するブロックの場合では、閾値の線形補間は、ブロック内の各画素の閾値にブロックの閾値(ブロックの中心位置の閾値)を用いてもよい。
【0042】
各ブロック(第1の分割領域Bk)及び各画素(第2の分割領域Px)の閾値の算出を完了すると、画像処理装置は、ステップS406に進む。
【0043】
次に、ステップS406において、画像処理装置は、ステップS405で算出した算出結果を二値画像格納手段に出力する。このとき、二値画像格納手段は、閾値の算出結果を記憶する。その後、画像処理装置は、ステップS407に進む。
【0044】
ステップS407において、画像処理装置は、二値画像生成手段を用いて、ステップS405で算出した閾値を用いて、ステップS403で撮像したグレイコード画像から二値画像を生成する。具体的には、二値画像生成手段は、例えば図5(d)に示すような二値画像を生成することができる。二値画像の生成を完了すると、画像処理装置は、生成した二値画像を二値画像格納手段に出力する。このとき、二値画像格納手段は、二値画像データImgTとして、二値画像を記憶する。その後、画像処理装置は、ステップS408に進む。
【0045】
ステップS408において、画像処理装置は、二値画像生成手段を用いて、すべてのグレイコードパターン(例えば図7の(a)〜(c)及び(e)〜(g))を投影して撮像したグレイコード画像に対応する二値画像を生成する。ここで、二値化に用いる閾値は、ステップS405で算出した閾値(最も縞の幅が小さいグレイコードパターンから算出した閾値)を用いることができる。これにより、二値画像生成手段は、縞の幅が大きいグレイコード画像も、適切な閾値で二値化することができる。すべてのグレイコードパターンに対応する二値画像の生成を完了すると、画像処理装置は、図中の「END」に進み、画像を二値化する動作を終了する。それ以外の場合は、画像処理装置は、ステップS409に進み、すべての二値画像の生成が完了するまで、ステップS407及びステップS408の動作を繰り返す。
【0046】
以上により、本発明の第1の実施形態に係る画像処理装置(二値画像生成手段)によれば、ブロックごとに二値化の閾値(第1の閾値T1)を算出すること及びブロック内の各画素(第2の分割領域Px)に対応する閾値(第2の閾値T2)を算出することができるので、算出した閾値を用いて、撮像した画像(グレイコード画像)を二値化することができる。
【0047】
また、本実施形態に係る画像処理装置によれば、グレイコード画像の各ブロック及び各画素(第1の分割領域及び第2の分割領域)に対応した閾値を用いてグレイコード画像を二値化できるので、室内照明等の影響を受けることなく、二値画像を生成できる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、二値画像を生成することができる。
【0048】
更に、本実施形態に係る画像処理装置によれば、最も小さい幅の縞のグレイコードを用いて算出した二値化の閾値を用いることができるので、分割するブロックのサイズが小さい場合に発生する二値画像生成の不具合を防止することができる。また、本実施形態に係る画像処理装置によれば、最も小さい幅の縞のグレイコードを用いて算出した二値化の閾値を用いることができるので、投影領域内の明度の変化の追従性を高めることができる。すなわち、本実施形態に係る画像処理装置は、画像の明度の変動に追随した二値画像を生成することができる。
【0049】
(対応点を抽出する動作)
図7及び図8を用いて、二値画像生成手段が生成した二値画像に基づいて、対応点抽出手段が二値画像上の対応点を抽出する動作を説明する。図7は、グレイコードパターンの例を示す図である。図8は、抽出される対応点を説明する図である。
【0050】
先ず、画像処理装置は、投影手段を用いて、横縞3種類のグレイコードパターン(例えば図7(a)〜(c))及び縦縞3種類のグレイコードパターン(例えば図7(e)〜(g))をプロジェクタ画像データImgPとして、時系列で投影対象物に投影する。このとき、画像処理装置は、撮像手段を用いて、夫々のグレイコードパターンが投影された投影対象物を順次撮像し、グレイコード画像(カメラ画像データImgC)を取得する。なお、本発明を用いることができる画像処理装置は、2種類以下又は4種類以上のグレイコードパターンを投影及び撮像してもよい。
【0051】
次に、画像処理装置は、二値画像生成手段を用いて、取得したグレイコード画像の各ブロック及び各画素に対応した閾値を算出し、算出した閾値に基づいてグレイコード画像から二値画像を生成する。ここで、グレイコード画像から二値画像を生成する方法は、前述の(画像を二値化する動作)と同様のため、説明を省略する。
【0052】
次いで、画像処理装置は、対応点抽出手段を用いて、生成した二値画像を2進数コードでコード化し、格子状の領域に分割する。具体的には、対応点抽出手段は、グレイコードパターンを投影した投影対象物を撮像した6枚の二値画像(図7(a)〜(c)及び図7(e)〜(g))を用いて、二値画像の白色領域のビットを「1」、黒色領域のビットを「0」とし、分割した二値画像の領域に符号を夫々付与する。このとき、二値画像の任意の領域に注目すると、時系列的に「1」または「0」の符号が付与され、6ビットのコードとして一意的に対応付けられる(コード化される)。ここで、コード化される領域は、投影するグレイコードが縦縞及び横縞のため、二値画像を格子状に分割した領域となる。
【0053】
図8に、格子状の領域に分割された二値画像を示す。図8(a)は、カメラ画像データImgCに関する二値画像をコード化し、格子状の領域に分割した画像である。図8(b)は、プロジェクタ画像データImgPに関する二値画像をコード化し、格子状の領域に分割した画像である。
【0054】
ここで、画像処理装置(対応点抽出手段)は、図8(a)に示すように、任意の格子状の領域のエッジ(4隅)を特徴点mC1乃至mC4として選択する。また、画像処理装置(対応点抽出手段)は、図8(b)に示すように、特徴点mC1乃至mC4に対応する6ビットのコードの領域のエッジ(4隅)を特徴点mP1乃至mP4として選択する。このとき、特徴点mC1乃至mC4と特徴点mP1乃至mP4とが対応付けられ、画像処理装置(対応点抽出手段)は、特徴点mC1乃至mC4(特徴点mP1乃至mP4)を対応点として抽出することができる。また、画像処理装置(対応点抽出手段)は、本実施形態では、格子状に分割されたすべての領域に対応する対応点を抽出する。
【0055】
以上により、本発明の第1の実施形態に係る画像処理装置(対応点抽出手段)によれば、グレイコード画像の各ブロック及び各画素に対応した閾値を用いて、グレイコード画像を二値化することができる。また、本実施形態に係る画像処理装置によれば、グレイコード画像を二値化することができるので、カメラ画像データImgCに関する二値画像とプロジェクタ画像データImgPに関する二値画像との対応点を抽出することができる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、室内照明等の影響を受けることなく、二値画像の対応点を抽出することができる。
【0056】
(補正に関する情報を算出する動作)
図9及び図10を用いて、二値画像生成手段が生成した二値画像及び対応点抽出手段が抽出した対応点に基づいて、変換係数算出手段が補正に関する情報(射影変換係数)を算出する動作を説明する。図9は、補正に関する情報の算出の手順を示すフローチャート図である。図10は、投影対象物の投影範囲の算出の動作を説明する図である。
【0057】
図9に示すように、画像処理装置は、先ず、対応点抽出手段が抽出した対応点(例えば図8のmC1乃至mC4とmP1乃至mP4)を選択する(ステップS901)。その後、画像処理装置は、ステップS902に進む。
【0058】
ステップS902において、画像処理装置は、変換係数算出手段を用いて、選択した対応点に基づいて、プロジェクタ画像用射影変換係数Hcpを算出する。具体的には、変換係数算出手段は、数1〜数4を用いて、プロジェクタ画像用射影変換行列Hcpを算出することができる。ここで、カメラ画像データImgCに関する特徴点mCi(xCi,yCi)(i=1〜4)に対応するプロジェクタ画像データImgPに関する特徴点をmPi(xPi,yPi)(i=1〜4)とすると、数1が成り立つ。
【0059】
【数1】
ここで、数1の右辺と左辺とは、同次座標系で等しい(全成分の定数倍以外は等しい)ことを示す。また、プロジェクタ画像用射影変換行列Hcpは、数2で表すことができる。
【0060】
【数2】
このとき、数1は、数3と表すことができる。
【0061】
【数3】
数3の第3成分を1にあわせるため、右辺を正規化すると、数4となる。
【0062】
【数4】
ここで、hCP1乃至hCP8は未知係数である。変換係数算出手段は、カメラ画像データImgCに関する特徴点mCi(xCi,yCi)に対応するプロジェクタ画像データImgPに関する特徴点mPi(xPi,yPi)の4つの組合せを取得することで、hCP1乃至hCP8を算出することができる。また、変換係数算出手段は、算出したhCP1乃至hCP8を用いて、プロジェクタ画像用射影変換行列Hcpを算出することができる。更に、変換係数算出手段は、本実施形態では、格子状に分割されたすべてのブロックに対応するプロジェクタ画像用射影変換行列Hcpを算出することができる。
【0063】
プロジェクタ画像用射影変換行列Hcpの算出を完了すると、画像処理装置は、ステップS903に進む。
【0064】
ステップS903において、画像処理装置は、変換係数算出手段を用いて、投影対象物の投影範囲を算出する。具体的には、画像処理装置は、先ず、投影手段を用いて、所定のパターンとして、全領域を白色とする画像と全領域を黒色とする画像とを投影する。このとき、撮像手段は、全領域を白色とする画像と全領域を黒色とする画像とが投影された投影対象物を含む領域を撮像する(例えば図10(a)及び図10(b))。次に、画像処理装置は、変換係数算出手段を用いて、全領域を白色とする画像を投影したときに撮像した画像の画素位置(x,y)における明度値Iw(x,y)を算出する。また、画像処理装置は、全領域を黒色とする画像を投影したときに撮像した画像の画素位置(x,y)における明度値Ib(x,y)を算出する。
【0065】
次いで、画像処理装置は、変換係数算出手段を用いて、数5によって、明度値の差分D(x,y)を算出する。
【0066】
【数5】
図10(c)に、明度値の差分D(x,y)を表す差分画像を示す。図10(c)に示すように、白い領域R1は、明度値の差分が大きい領域である。変換係数算出手段は、本実施形態では、白い領域R1を投影対象物の外形とする。
【0067】
ここで、白い領域は、明度値の差分が所定の値以上である領域とすることができる。また、白い領域でない部分を抽出して投影対象物の外形を算出し、算出した外形の内部を白い領域とすることができる。なお、所定の値は、撮像した画像において投影対象物の表面であるとみなすことができる値とする。また、所定の値は、数値計算又は実験等を用いて、予め定められる値とすることができる。
【0068】
次に、画像処理装置は、変換係数算出手段を用いて、算出した白い領域R1が内包する四角形R2(図10(c))を算出し、算出した四角形R2を投影対象物の投影可能な投影範囲とする。投影対象物の投影範囲の算出を完了すると、画像処理装置は、ステップS904に進む。
【0069】
ステップS904において、画像処理装置は、変換係数算出手段を用いて、投影対象物の投影範囲に基づいて、カメラ画像用射影変換係数Hocを算出する。具体的には、変換係数算出手段は、投影対象物の投影範囲に関する四角形に対応するように、オリジナル画像データImgOに関する画像を補正(拡大縮小及び平行移動)するカメラ画像用射影変換係数Hocを算出する。
【0070】
ここで、カメラ画像用射影変換係数Hocは、数6のように表すことができる。
【0071】
【数6】
なお、カメラ画像用射影変換係数Hocの算出方法は、ステップS902と基本的に同様のため、説明を省略する。また、変換係数算出手段は、本実施形態では、格子状に分割されたすべてのブロックに対応するカメラ画像用射影変換係数Hocを算出する。
【0072】
カメラ画像用射影変換係数Hocの算出を完了すると、画像処理装置は、ステップS905に進む。
【0073】
ステップS905において、画像処理装置は、変換係数算出手段を用いて、プロジェクタ画像用射影変換係数Hcp及びカメラ画像用射影変換係数Hocに基づいて、校正用射影変換係数Hを算出する。具体的には、変換係数算出手段は、数7を用いて、校正用射影変換係数Hを算出することができる。
【0074】
【数7】
ここで、校正用射影変換係数Hは、数8のように表すことができる。
【0075】
【数8】
変換係数算出手段は、本実施形態では、格子状に分割されたすべてのブロックに対応する校正用射影変換行列Hを算出する。校正用射影変換行列Hの算出を完了すると、画像処理装置は、ステップS906に進む。
【0076】
ステップS906において、画像処理装置は、ステップS905で算出した算出結果を記憶手段の変換係数格納手段に出力する。このとき、変換係数格納手段は、算出結果を記憶する。その後、図中の「END」に進み、画像処理装置は、補正に関する情報を算出する動作を終了する。
【0077】
以上により、本発明の第1の実施形態に係る画像処理装置(変換係数算出手段)によれば、生成した二値画像及び抽出した対応点に基づいて、プロジェクタ画像用射影変換行列Hcp及びカメラ画像用射影変換係数Hocを算出することができる。また、本発明の実施形態に係る画像処理装置によれば、プロジェクタ画像用射影変換行列Hcp及びカメラ画像用射影変換係数Hocを算出することができるので、補正に関する情報(校正用射影変換係数H)を算出することができる。更に、本実施形態に係る画像処理装置によれば、格子状に分割されたブロックに対応する補正に関する情報(校正用射影変換係数H)を夫々算出することができるので、室内照明等の影響を受けることなく、補正に関する情報を算出できる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、室内照明等の影響を受けることなく、補正に関する情報を算出することができる。
【0078】
(第2の実施形態)
第2の実施形態に係る画像処理装置を用いて、本発明を説明する。なお、以後の説明において、第2の実施形態に係る画像処理装置400の構成等は、前述の第1の実施形態に係る画像処理装置100の構成等と基本的に同様のため、異なる部分を主に説明する。
【0079】
(画像処理装置の構成)
図1に、本発明の第2の実施形態に係る画像処理装置400の概略構成図を示す。
【0080】
画像処理装置400の二値画像生成手段131は、本実施形態では、投影範囲(後述する外接矩形)を算出し、算出した投影範囲に基づいてブロック(例えば後述する図19のbkx及びbky)のサイズ(値)を算出する。また、二値画像生成手段131は、算出したサイズのブロックを用いて、二値化の閾値(第1の閾値T1等)を算出する。なお、本実施形態に係る画像処理装置400は、変換係数算出手段133及び投影領域算出手段134を用いて、ブロックのサイズ及び投影範囲(外接矩形)を算出してもよい。
【0081】
(画像処理をする動作)
図2及び図3に、本実施形態に係る画像処理装置が画像処理する動作を示す。本実施形態に係る画像処理装置400が撮像した画像を画像処理する動作は、第1の実施形態に係る画像処理装置100の動作と基本的に同様のため、説明を省略する。
【0082】
(画像を二値化する動作)
図4及び図16〜図20を用いて、本実施形態に係る画像処理装置がグレイコード画像から二値画像を生成する動作を説明する。
【0083】
図16に示すように、本実施形態に係る画像処理装置は、先ず、ステップS1601において、投影手段を用いて、白色光(例えば校正用画像格納手段に記憶されている全面白色画像)を投影する。また、画像処理装置は、撮像手段を用いて、白色光が投影された投影対象物を撮像する。
【0084】
具体的には、画像処理装置は、例えば図17(a)に示すように、投影手段410を用いて、投影対象物Scrに白色光を投影することができる。また、画像処理装置は、例えば図17(b)に示すように、撮像手段420を用いて、投影対象物Scrを含む領域を撮像する(カメラ画像データImgCbを取得する)ことができる。
【0085】
その後、画像処理装置は、ステップS1602に進む。
【0086】
ステップS1602において、画像処理装置は、投影手段を用いて、黒色光(例えば校正用画像格納手段に記憶されている全面黒色画像)を投影する。また、画像処理装置は、撮像手段を用いて、黒色光が投影された投影対象物を撮像する。
【0087】
具体的には、画像処理装置は、例えば図17(a)に示すように、ステップS1601と同様に、投影することができる。また、画像処理装置は、例えば図17(c)に示すように、撮像手段420を用いて、投影対象物Scrを含む領域を撮像する(カメラ画像データImgCcを取得する)ことができる。なお、画像処理装置は、投影光を投影対象物に投射しないで、投影対象物Scrを含む領域を撮像するステップを実施してもよい。
【0088】
その後、画像処理装置は、ステップS1603に進む。
【0089】
ステップS1603において、画像処理装置は、二値画像生成手段を用いて、明度の差分を算出して、差分画像を生成する。具体的には、二値画像生成手段は、先ず、白色光を投影したときに撮像した画像(ステップ1601)の画素位置(x,y)における明度値Iw(x,y)を算出する。また、二値画像生成手段は、黒色光を投影したときに撮像した画像(ステップ1602)の画素位置(x,y)における明度値Ib(x,y)を算出する。次いで、二値画像生成手段は、明度値の差分D(x,y)を算出し、算出した差分D(x,y)に基づいて、差分画像ImgWB(図18)を生成する。
【0090】
なお、二値画像生成手段は、数5を用いて、明度値の差分D(x,y)を算出してもよい。また、二値画像生成手段は、各画素の明度値の差分を用いて、差分画像ImgWBを生成してもよい。更に、二値画像生成手段は、各画素の明度値の差分の絶対値を用いて、差分画像ImgWBを生成してもよい。
【0091】
その後、画像処理装置は、ステップS1604に進む。
【0092】
ステップS1604において、画像処理装置は、二値画像生成手段を用いて、外接矩形を算出する。二値画像生成手段は、例えば図18に示すように、明度値の差分Dを用いて算出される範囲Rwに外接する外接矩形Rcを算出することができる。二値画像生成手段は、例えば一の辺の長さがw、他の辺の長さがhの外接矩形Rcを算出することができる。なお、二値画像生成手段は、算出した差分の絶対値が所定の値よりも大きい画素を抽出し、抽出した画素を内包する領域(例えば凸包)に外接する矩形を算出してもよい。ここで、所定の値は、数値計算又は実験等を用いて、予め定められる値とすることができる。
【0093】
その後、画像処理装置は、ステップS1605に進む。
【0094】
ステップS1605において、画像処理装置は、二値画像生成手段を用いて、算出した外接矩形を分割するブロックのサイズを算出する。具体的には、二値画像生成手段は、次式で表す値bkをブロックのサイズとすることができる。すなわち、二値画像生成手段は、投影されたグレイコードパターンの縞の幅より大きい幅のブロックに外接矩形を分割できるサイズを算出する。
【0095】
【数9】
ここで、mとは、記憶手段140の校正用画像格納手段142(図1)に記憶されている縦縞のグレイコードパターンであって、パターンの幅が最も小さい場合の縞(の対)の数(例えば図19(a))である。nとは、記憶手段140に記憶されている横縞のグレイコードパターンであって、パターンの幅が最も小さい場合の縞(の対)の数(例えば図19(b))である。
【0096】
なお、図19に示すように、ブロックのサイズは、縦横同一の大きさでなくてもよい。また、ブロックのサイズは、例えば図19(a)のbkxと図19(b)のbkyとが同じ大きさでなくてもよい。すなわち、ブロックのサイズは、例えばbkx>w/2m及びbky>h/2nを満たすbkx及びbkyの長方形であってもよい。更に、ブロックのサイズは、w/2m又はh/2n(下限値)の1.5倍程度が好ましい。
【0097】
算出を完了すると、画像処理装置は、ステップS1606に進む。
【0098】
次に、ステップS1606において、画像処理装置は、記憶手段を用いて、算出したブロックのサイズを記憶する。
【0099】
その後、画像処理装置は、図4のステップS401に進む。
【0100】
図4のステップS401〜ステップS406において、画像処理装置は、第1の実施形態の画像処理装置と同様に、撮像したグレイコード画像をブロックに分割し、二値化の閾値を算出する。ここで、画像処理装置は、本実施形態では、ステップS1605で算出したサイズのブロックを用いて、グレイコード画像を分割することができる。
【0101】
その後、画像処理装置は、ステップS407に進む。
【0102】
ステップS407において、画像処理装置は、第1の実施形態の画像処理装置と同様に、二値画像生成手段を用いて、ステップS405で算出した閾値を用いて、ステップS403で撮像したグレイコード画像から二値画像を生成する。ここで、本実施形態に係る画像処理装置は、最も小さい幅の縞のグレイコードを用いて算出した二値化の閾値を、他の幅の大きい縞のグレイコードを用いて撮像したグレイコード画像の二値化に用いることができる。画像処理装置は、例えば図19(a)及び(b)を用いて算出した二値化の閾値を、図19(c)のグレイコード画像の二値化に用いることができる。
【0103】
これにより、本実施形態に係る画像処理装置は、ブロックのサイズが小さい場合に発生する二値画像の生成の不具合を防止することができる。更に、本実施形態に係る画像処理装置は、最も幅の小さい縞のグレイコードを用いて算出した二値化の閾値を用いることができるので、投影領域内の明度の変化の追従性を高めることができる。すなわち、画像処理装置は、画像の明度の変動により正確に追随した二値画像を生成することができる。
【0104】
その後、画像処理装置は、ステップS408に進む。
【0105】
ステップS408及びステップS409において、画像処理装置は、第1の実施形態の画像処理装置と同様に、二値画像生成手段を用いて、ずべてのグレイコードパターンに対応する二値画像を生成する。
【0106】
二値画像の生成を完了すると、画像処理装置は、図4の「END」に進み、画像を二値化する動作を終了する。それ以外の場合は、画像処理装置は、ステップS409に進み、すべての二値画像の生成が完了するまで、ステップS407及びステップS408の動作を繰り返す。
【0107】
一方、ステップS1605で算出するブロックのサイズbkがw/2m又はh/2nより小さいサイズの場合には、ブロック内がすべて白色又は黒色の領域となる場合がある(例えば図20のBkb又はBkw)。二値画像生成手段は、二値化の閾値の計算で判別分析法を用いた場合には、ブロック内がすべて黒色領域のときでも、ブロック内の画素を用いて閾値を算出するため、ブロック内の半分程度を白色領域(例えば斑形状)に二値化することがある。すなわち、ブロックのサイズbkがw/2m又はh/2nより小さいサイズの場合には、二値画像生成手段は、グレイコード画像を二値化するときに(ステップS407で)、画像の明度の変動に正確に追随した二値画像を生成できない場合がある。
【0108】
また、ステップS1605で算出するブロックのサイズbkがw/2m又はh/2nと同程度の場合には、投影対象物の状態(曲面、歪み、変形など)に依存してグレイコード画像の縞の幅がブロックのサイズbkより大きくなる場合がある。このため、二値画像生成手段は、画像の明度の変動に正確に追随した二値画像を生成できない場合がある。
【0109】
以上により、本発明の第2の実施形態に係る画像処理装置(二値画像生成手段)によれば、明度値の差分を用いて外接矩形Rcを算出することができるので、算出した外接矩形Rcを用いて、ブロックのサイズbk(bkx、bky)を算出することができる。
【0110】
また、本実施形態に係る画像処理装置によれば、算出したブロックのサイズbkを用いてブロックごとに二値化の閾値(第1の閾値T1)を算出することができるので、室内照明等の影響を受けることなく、二値画像を生成することができる。また、本実施形態に係る画像処理装置によれば、算出したブロックのサイズbkを用いてブロック内の各画素(第2の分割領域Px)に対応する閾値(第2の閾値T2)を算出することができるので、室内照明等の影響を受けることなく、二値画像を生成できる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、二値画像を生成することができる。
【0111】
更に、本実施形態に係る画像処理装置によれば、小さい幅の縞のグレイコード画像に基づいて算出した二値化の閾値を他のグレイコード画像に用いることができるので、ブロックのサイズが小さい場合に発生する二値画像生成の不具合を防止することができる。また、本実施形態に係る画像処理装置によれば、小さい幅の縞のグレイコード画像に基づいて算出した二値化の閾値を他のグレイコード画像に用いることができるので、投影領域内の明度の変化の追従性を高めることができる。すなわち、本実施形態に係る画像処理装置は、画像の明度の変動に追随した二値画像を生成することができる。
【0112】
(対応点を抽出する動作)及び(補正に関する情報を算出する動作)
図7〜図10に、対応点を抽出する動作及び補正に関する情報を算出する動作を示す。なお、本実施形態に係る画像処理装置400の(対応点を抽出する動作)等は、前述の第1の実施形態に係る画像処理装置100の(対応点を抽出する動作)等と基本的に同様のため、説明を省略する。
【0113】
(プログラム、及び、プログラムを記録した記録媒体)
本発明に係るプログラムPrは、第1の校正用画像を投影対象物に投影するステップと、前記第1の校正用画像が投影された前記投影対象物を含む領域の画像を撮像するステップと、撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出するステップと、第2の校正用画像を投影対象物に投影するステップと、前記第2の校正用画像が投影された投影対象物を含む領域を撮像するステップと、前記第1の閾値に基づいて、前記第1の校正用画像及び前記第2の校正用画像を投影した投影対象物を含む領域を撮像した画像の二値画像を生成するステップと、前記第1の校正用画像及び前記第2の校正用画像と前記二値画像との対応点を抽出するステップと、を実行する。この構成によれば、本発明の第1の実施形態及び第2の実施形態に係る画像処理装置と同等の効果が得られる。また、前記二値画像を生成するステップは、前記第1の閾値に基づいて、前記第1の分割領域を分割した複数の第2の分割領域に対応する複数の第2の閾値を算出するステップを更に含む、ことができる。更に、前記二値画像を生成するステップは、撮像した前記画像の画素値の分散値又はエッジ強度を算出し、算出した前記分散値又は前記エッジ強度に基づいて前記第1の閾値を算出するステップを含む、ことができる。
【0114】
また、本発明は、上記プログラムPrを記録したコンピュータによって読み取り可能な記録媒体Mdとしてもよい。プログラムPrを記録した記録媒体Mdとしては、フレキシブルディスク、CD−ROM、DVD、メモリーカード及びその他のコンピュータ読み取り可能な媒体を利用することができる。
【実施例】
【0115】
画像投影装置及び画像投影システムの実施例を用いて、本発明を説明する。
【0116】
なお、本発明は、以後に説明する画像投影装置等以外でも、対象物を撮像した領域を分割し、分割した領域に対応する二値化の閾値を算出することにより、投影する画像の補正に関する情報を算出するものであれば、いずれのもの(手段、装置、システム等)にも用いることができる。
【0117】
(実施例1)
実施例1に係る画像投影装置を用いて、本発明を説明する。
【0118】
(画像投影装置の構成)
本実施例に係る画像投影装置200の構成を図1に示す。画像投影装置200の構成は、第1の実施形態の画像処理装置100の構成と基本的に同様のため、説明を省略する。
【0119】
(画像を投影する動作)
図11〜図13を用いて、画像を投影する動作を説明する。図11は、投影対象物に画像を投影し、画像が投影された投影対象物を含む領域を撮像する動作を説明する図である。図12は、画像を投影する動作を説明するフローチャート図である。図13は、投影する画像の補正を説明する図である。
【0120】
図11に示すように、投影手段110は、投影用画像格納手段又は校正用画像格納手段に記憶された画像又はグレイコードパターンを、投影する画像(プロジェクタ画像データImgP)として、投影対象物Scrに投影する。次いで、撮像手段120は、画像が投影された投影対象物Scrを含む領域の反射光(カメラ画像データImgC)を撮像する。ここで、投影手段110は、投影対象物Scrに近接している。このため、投影される画像に台形歪み等が生じる(図11のImgC1)。画像投影装置は、本実施例では、後述する射影変換係数を用いて台形歪み等を補正し、補正後の画像(例えば図11のImgC2)を投影対象物に投影する。
【0121】
次に、図12を用いて、画像を投影する動作の手順を説明する。
【0122】
図12に示すように、画像投影装置は、先ず、撮像手段が撮像したグレイコード画像から二値画像を生成する(ステップS1201)。二値画像を生成する動作は実施形態の(画像を二値化する動作)と同様のため、説明を省略する。二値画像を生成する動作を完了すると、画像投影装置は、ステップS1202に進む。
【0123】
ステップS1202において、画像投影装置は、対応点抽出手段を用いて、生成した二値画像における対応点を抽出する。対応点を抽出する動作は実施形態の(対応点を抽出する動作)と同様のため、説明を省略する。対応点の抽出を完了すると、画像投影装置は、ステップS1203に進む。
【0124】
ステップS1203において、画像投影装置は、変換係数算出手段を用いて、生成した二値画像及び抽出した対応点に基づいて、プロジェクタ画像用射影変換係数Hcpを算出する。プロジェクタ画像用射影変換係数Hcpを算出する動作は実施形態の(補正に関する情報を算出する動作)と同様のため、説明を省略する。プロジェクタ画像用射影変換係数Hcpの算出を完了すると、画像投影装置は、ステップS1204に進む。
【0125】
ステップS1204において、画像投影装置は、変換係数算出手段を用いて、生成した二値画像及び抽出した対応点に基づいて、カメラ画像用射影変換係数Hocを算出する。カメラ画像用射影変換係数Hocを算出する動作は実施形態の(補正に関する情報を算出する動作)と同様のため、説明を省略する。カメラ画像用射影変換係数Hocの算出を完了すると、画像投影装置は、ステップS1205に進む。
【0126】
ステップS1205において、画像投影装置は、変換係数算出手段を用いて、プロジェクタ画像用射影変換係数Hcp及びカメラ画像用射影変換係数Hocに基づいて、校正用射影変換係数Hを算出する。校正用射影変換係数Hを算出する動作は実施形態の(補正に関する情報を算出する動作)と同様のため、説明を省略する。校正用射影変換係数Hの算出を完了すると、画像投影装置は、ステップS1206に進む。
【0127】
ステップS1206において、画像投影装置は、校正用射影変換係数Hに基づいて、投影用画像を補正する。具体的には、画像投影装置は、算出した校正用射影変換係数Hの逆行列に基づいて、オリジナル画像データImgOに関する画像を補正(変形)し、台形歪み等が解消されるプロジェクタ画像データImgPに関する画像を生成する。
【0128】
ここで、図13(a)は、オリジナル画像データImgOに関する画像である。図13(b)は、カメラ画像データImgCに関する画像である。図13(c)は、プロジェクタ画像データImgPに関する画像である。また、図13(a)のオリジナル画像データImgOに関する画像は、カメラ画像用影変換係数Hocを用いて射影変換することで、図13(b)のカメラ画像データImgC1に関する画像となる。図13(b)のカメラ画像データImgC2は、プロジェクタ画像用影変換係数Hcpを用いて射影変換することで、図13(c)のプロジェクタ画像データImgP2に関する画像となる。
【0129】
画像投影装置は、算出した校正用射影変換係数H(=Hoc・Hcp)の逆行列に基づいて、オリジナル画像データImgOに関する画像(例えば図13(a))を射影変換し、台形歪み等が解消されるプロジェクタ画像データImgP2に関する画像(例えば図13(c))を算出する。この射影変換後のプロジェクタ画像データImgP2を投影したときのカメラ画像データImgCに関する画像が、カメラ画像データImgC2に関する画像(例えば図13(b))である。すなわち、投影対象物を正面方向から見た場合に、投影された画像(プロジェクタ画像データImgP2)は台形歪みが解消された画像(カメラ画像データImgC2)となる。
【0130】
射影変換の方法は、オリジナル画像データImgOに関する画像上の変換する画素の周囲4画素の画素値を算出し、バイリニア法により、プロジェクタ画像データImgP2に関する画像上の画素値を求める方法を用いることができる。また、周囲16画素の画素値を算出し、バイキュービック法により、プロジェクタ画像データImgP2に関する画像上の画素値を求める方法を用いることができる。更に、オリジナル画像データImgOに関する画像上の対応する画素値をプロジェクタ画像データImgP2の画素値に用いるニアレストネイバー法で画素値を求める方法を用いることができる。
【0131】
なお、射影変換後の画質は、バイキュービック、バイリニア、ニアレストネイバーの順に劣化する。処理時間はその逆順である。このため、画像投影装置は、画質又は画像処理の時間に応じて、射影変換する方法を選択しても良い。
【0132】
投影用画像の補正を完了すると、画像投影装置は、ステップS1207に進む。
【0133】
次に、ステップS1207において、画像投影装置は、ステップS1206において補正した投影用画像(例えば図13(c)のImgP2)を投影する。その後、画像投影装置は、図中の「END」に進み、画像を投影する動作を終了する。
【0134】
以上により、本発明の実施例1に係る画像投影装置200によれば、本発明の第1の実施形態又は第2の実施形態に係る画像処理装置と同等の効果を得ることができる。すなわち、本実施例に係る画像投影装置200によれば、各ブロック及び各画素に対応した閾値を用いて変換した二値画像に基づいて、射影変換係数を算出することができるので、算出した射影変換係数を用いて台形歪み等のない画像を投影することができる。また、本実施例に係る画像投影装置200によれば、各ブロック及び各画素に対応した閾値を用いて変換した二値画像に基づいて、射影変換係数を算出することができるので、室内照明等の影響を受けることなく、台形歪み等のない画像を投影することができる。更に、本実施例に係る画像投影装置200によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、算出した射影変換係数を用いて、台形歪み等のない画像を投影することができる。
【0135】
(変形例)
実施例1の変形例を用いて、エッジ強度に基づいてブロックごとの二値化の閾値を算出する画像投影装置を説明する。
【0136】
(画像投影装置の構成)
本変形例に係る画像投影装置の構成は、実施例1の構成(図1)と同様のため、説明を省略する。
【0137】
(画像を投影する動作)
本変形例に係る画像投影装置は、エッジ強度に基づいて、ブロックごとの二値化の閾値を算出する。具体的には、画像投影装置は、先ず、ブロック内のエッジ強度を画素ごとに算出する。次いで、画像投影装置は、所定のエッジ強度以上の画素を抽出し、抽出した画素の画素値の平均値を閾値とする。
【0138】
ここで、エッジ強度は、数10の空間フィルタを用いて、算出することができる。
【0139】
【数10】
なお、所定のエッジ強度は、数値計算及び実験等により、予め定めることができる。
【0140】
対応点を抽出する動作、射影変換係数を算出する動作及び補正後の画像を投影する動作は、実施例1の動作と同様のため、説明を省略する。
【0141】
(実施例2)
図14及び図15を用いて、本発明の実施例2に係る画像投影システムを説明する。図14は、本実施例に係る画像投影システム300の概略構成図の例である。図15は、本実施例に係る画像投影システム300の投影する動作を説明する図である。
【0142】
(画像投影システムの構成)
図14に示すように、画像投影システム300は、画像投影装置300P及び外部装置300Eを有する。ここで、実施例1と同じ記号の構成は、実施例1の構成と基本的に同様のため、説明を省略する。
【0143】
画像投影装置300Pは、通信手段として、I/F手段360Pを有する。また、外部装置300Eは、I/F手段360Eを有する。画像投影装置300Pと外部装置300Eとは、I/F手段360P及び360Eを用いて、相互に有線及び/又は無線で通信することができる。外部装置300Eは、クラウドコンピューティングなどを利用することができる。
【0144】
外部装置300Eは、二値画像生成手段131、対応点抽出手段132、変換係数算出手段133、投影領域算出手段134、撮像画像格納手段143、二値画像格納手段144及び変換係数格納手段145を有する。外部装置300Eは、本実施例では、画像投影装置300Pから出力された情報に基づいて、画像の補正に関する情報を算出する演算処理を実施することができる。また、外部装置300Eは、補正に関する情報に基づいて、投影する画像を補正し、画像投影装置300P(投影用画像格納手段141)に補正後の画像に関するデータを出力することができる。ここで、外部装置300Eは、二値画像生成手段131等のうちの少なくとも1つの手段を有する構成であってもよい。
【0145】
(画像を投影する動作)
図15を用いて、画像投影システム300の画像を投影する動作を説明する。画像投影システム300の基本的な動作は、実施例1と同様のため、異なる部分を主に説明する。
【0146】
図15に示すように、画像投影システム300は、本実施例では、投影対象物Scrの撮像と撮像した画像の画像処理とを画像投影装置310P外で行う。具体的には、画像投影システム300は、ネットワークNW等を介して、校正用画像及び投影用画像の投影指示を外部装置(PC又はSP等)から投影手段310P(プロジェクタ等)に出力する。また、画像投影システム300は、投影対象物の撮像をPC等に接続されたカメラ320Eで行う。更に、画像投影システム300は、外部装置(PC又はSP等)を用いて、カメラ320Eで撮像した画像を画像処理(二値画像の生成、対応点の抽出、画像の補正に関する情報の算出及び投影用画像の補正等)する。
【0147】
以上により、画像投影システム300は、外部装置300E(図14)を用いることによって、画像投影装置300P(図14)における処理量を低減でき、画像投影装置を小型化、軽量化及び簡素化することができる。また、画像投影システム300は、外部装置としてPC等を利用することができる。このため、画像投影システム300は、画像投影装置(プロジェクタなど)を用いて発表等する場合には、発表時に使用するPC等を外部装置(及び撮像手段、撮影手段)として利用することができる。更に、画像投影システム300は、外部装置をその他の手段(画像投影装置の投影用画像格納手段など)を含む構成とすることができる。
【0148】
本発明は、上述した実施形態及び実施例の画像投影装置、画像処理装置及び画像投影システム等に限定されるものではなく、構成の追加、変更又は削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の範囲に含まれる。
【符号の説明】
【0149】
100,400 : 画像処理装置
110 : 投影手段
120 : 撮像手段(撮影手段)
131 : 二値化画像生成手段
132 : 対応点抽出手段
200,300P : 画像投影装置
300 : 画像投影システム
Cg : 校正用画像(グレイコード画像)
Scr: 投影対象物(スクリーン)
T1 : 第1の閾値
T2 : 第2の閾値
Bk : 第1の分割領域(ブロック)
Px : 第2の分割領域(画素)
Pr : プログラム
Md : 記録媒体
【先行技術文献】
【特許文献】
【0150】
【特許文献1】特開2010−28411号公報
【特許文献2】特開2005−326247号公報
【技術分野】
【0001】
本発明は、画像投影装置、画像処理装置、画像投影方法、画像投影方法のプログラム及びそのプログラムを記録した記録媒体に関する。
【背景技術】
【0002】
画像投影装置(プロジェクタなど)は、スクリーンなどの投影対象物に画像を投影する装置である。画像を投影する際、画像投影装置と投影対象物との相対的な位置関係によって、投影された画像に台形歪みが生ずる場合がある。このため、画像投影装置には、投影されている画像を撮像し、その撮像した画像に基づいて、投影する画像の台形歪みを補正するものがある。
【0003】
特許文献1は、等間隔に配列した特徴点を含む画像を投射面に投射し、その投射面を撮像し、特徴点の歪み量(位置のずれ)を算出し、算出した歪み量に応じて、投射する画像を補正する技術を開示している。
【0004】
特許文献2は、所定のパターン画像を投影し、その時の投影面の状態を撮像したパターン撮像画像から投影面に対応する平面領域を抽出し、その平面領域上の点から平面射影行列を算出し、その平面射影行列により投影する画像を校正する技術を開示している。
【発明の概要】
【発明が解決しようとする課題】
【0005】
室内照明が点灯しているとき(投影対象物の上部のみに明かりが射しているとき)、あるいは、投影対象物の表面に局所的に凹凸があるときに、画像投影装置は、投影対象物に画像を投影する場合がある。
【0006】
特許文献1及び特許文献2に開示されている技術では、画像が投影された投影対象物を撮像し、一律の閾値を用いて撮像した画像を二値化することにより、特徴点の抽出及び平面領域の抽出を行う。このため、投影対象物が部分的に明るくなっているとき、あるいは、投影対象物の表面の凹凸により部分的に暗くなっているときでは、特徴点又は平面領域を抽出することができない場合がある。
【0007】
本発明は、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、撮像した画像を二値化することができ、画像の補正に関する情報を算出することができる画像投影装置を提供することを課題とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明は、校正用画像を投影対象物に投影する投影手段と、前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、前記第1の閾値に基づいて、撮像した前記画像の二値画像を生成する二値画像生成手段と、前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、を有する、ことを特徴とする画像投影装置を提供する。
【発明の効果】
【0009】
本発明によれば、画像が投影された投影対象物を含む領域を撮像し、撮像した領域を分割し、分割した領域に対応する二値化の閾値を算出することにより、投影する画像の補正に関する情報を算出することができる。
【図面の簡単な説明】
【0010】
【図1】画像処理装置及び画像投影装置の一例を示す概略構成図である。
【図2】画像を投影及び撮像する動作の一例を説明する説明図である。
【図3】画像処理装置の動作の一例を示すフローチャート図である。
【図4】二値画像を生成する動作の一例を示すフローチャート図である。
【図5】グレイコード画像の一例を説明する説明図である。
【図6】閾値の線形補間を説明する説明図である。
【図7】グレイコードパターン及びコード化の一例を説明する説明図である。
【図8】抽出される対応点を説明する説明図である。
【図9】射影変換係数を算出する動作の一例を示すフローチャート図である。
【図10】投影範囲を算出する動作の一例を説明する説明図である。
【図11】実施例1に係る画像投影装置の投影する動作を説明する説明図である。
【図12】実施例1に係る画像投影装置の投影する動作を説明するフローチャート図である。
【図13】実施例1に係る画像投影装置の画像の補正を説明する説明図である。
【図14】実施例2に係る画像投影システムの一例を示す概略システム構成図である。
【図15】実施例2に係る画像投影システムの投影する動作を説明する説明図である。
【図16】第2の実施形態に係る画像処理装置の二値画像を生成する動作の一例を説明するフローチャート図である。
【図17】第2の実施形態に係る画像処理装置の投影する動作を説明する説明図である。
【図18】第2の実施形態に係る画像処理装置の差分画像及び外接矩形の算出を説明する説明図である。
【図19】第2の実施形態に係る画像処理装置のブロックのサイズの算出及び閾値の共用を説明する説明図である。
【図20】荒いグレイコードパターンを投影したときに撮像される画像の例を説明する説明図である。
【発明を実施するための形態】
【0011】
投影対象物を含む領域を撮像した画像に基づいて、撮像した領域を分割し、分割した領域に対応する二値化の閾値を算出する画像処理装置を用いて、本発明を説明する。
【0012】
(第1の実施形態)
(画像処理装置の構成)
図1に、本発明の第1の実施形態に係る画像処理装置100の概略構成図を示す。
【0013】
図1に示すように、本実施形態に係る画像処理装置100は、投影手段110、撮像手段120、二値画像生成手段131、対応点抽出手段132、変換係数算出手段133、投影領域算出手段134及び記憶手段140を含む。
【0014】
画像処理装置100は、本実施形態では、投影手段110を用いて、画像が投影される対象物(以下、「投影対象物」という。)に所定の画像を投影する。また、画像処理装置100は、撮像手段120及び二値画像生成手段131等を用いて、投影する画像の補正に関する情報を算出する。ここで、投影対象物は、スクリーン、壁又はホワイトボートなど外形表面に画像を投影することができるものを用いることができる。また、投影する画像は、動画及び/又は静止画を含むことができる。動画は、動きのある映像を含むことができる。
【0015】
投影手段110は、投影用レンズ等を用いて、投影対象物に画像を投影する手段である。投影手段110は、本実施形態では、記憶手段140の投影用画像格納手段141及び校正用画像格納手段142に格納(記憶)された投影用画像(オリジナル画像データImgO)及び校正用画像(グレイコードパターン)を投影対象物に投影する。また、投影手段110は、変換係数算出手段133が算出した補正に関する情報に基づいて、投影する画像を変形(補正)し、変形後の画像を投影する。
【0016】
撮像手段120は、投影対象物を含む領域の像を撮像素子(例えばイメージセンサ)に結像し、その撮像素子の画素出力信号をカメラ画像データImgCとして取得する手段である。撮像手段120は、本実施形態では、取得したカメラ画像データImgCを記憶手段140の撮像画像格納手段143に出力する。
【0017】
二値画像生成手段131は、撮像手段120が撮像した投影対象物を含む領域の画像から二値画像を生成する手段である。二値画像生成手段131は、撮像手段120が取得したカメラ画像データImgCに基づいて、画像処理により、二値画像を生成する。ここで、二値画像とは、後述する閾値を用いて、画像を白色又は黒色の二色(二値)に変換した画像である。詳細は後述の(画像を二値化する動作)で説明する。
【0018】
対応点抽出手段132は、二値画像生成手段131が生成した二値画像に基づいて、投影対象物を含む領域に関する複数の位置(以下、「対応点」という。)を抽出する手段である。変換係数算出手段133は、二値画像に基づいて、投影する画像の補正(拡大縮小及び台形補正等の画像処理、以下、「補正」という。)に関する情報を算出する手段である。投影領域算出手段134は、撮像手段120が取得したカメラ画像データImgCに基づいて、投影対象物の投影範囲を算出する手段である。対応点抽出手段132の動作の詳細は後述の(対応点を抽出する動作)で説明する。変換係数算出手段133及び投影領域算出手段134の動作の詳細は後述の(補正に関する情報を算出する動作)で説明する。
【0019】
記憶手段140は、投影用画像格納手段141、校正用画像格納手段142、撮像画像格納手段143、二値画像格納手段144及び変換係数格納手段145を含む。
【0020】
投影用画像格納手段141は、オリジナル画像データImgOを記憶する。オリジナル画像データImgOは、外部装置(PCなど)から入力される。校正用画像格納手段142は、校正時に投影対象物に投影する校正用画像(グレイコードパターン、キャリブレーションパターンなど)を記憶する。校正用画像は、本実施形態では、白色と黒色とを組み合わせた縞状のグレイコードパターンCg(例えば図7)を用いることができる。
【0021】
撮像画像格納手段143は、撮像手段120が取得したカメラ画像データImgCを記憶する。二値画像格納手段144は、二値画像生成手段131が生成した二値画像に関するデータとして、二値画像データImgTを記憶する。変換係数格納手段145は、投影する画像の補正に関するデータとして、後述する射影変換係数(Hcp、Hoc及びHなど)に関するデータを記憶する。
【0022】
なお、以後の説明において、画像に関するデータの「オリジナル画像データImgO」とは、PCなどから投影手段(プロジェクタなど)に入力される投影する画像に関する画像データである。
【0023】
「カメラ画像データImgC」とは、投影されたオリジナル画像データImgOに関する画像を撮像手段120によって撮像した画像に関する画像データである。カメラ画像データImgCは、撮像手段120の受光素子が受光した光の明暗等の電気信号(画素出力信号)をデジタル処理して、生成される。
【0024】
「プロジェクタ画像データImgP」とは、カメラ画像データImgCに関する画像に表れる台形歪み等を解消するために、オリジナル画像データImgOを補正した画像に関する画像データである。プロジェクタ画像データImgPは、後述する射影変換係数を用いて、生成される。
【0025】
「二値画像データImgT」とは、画像処理により、カメラ画像データImgCに関する画像を二色(二値)に変換した画像に関する画像データである。二値画像データImgTは、後述する閾値を用いて、生成される。
【0026】
(画像処理をする動作)
図2及び図3を用いて、画像処理装置が撮像した画像を画像処理する動作を説明する。図2は、投影対象物に画像を投影し、画像が投影された投影対象物を含む領域を撮像する動作を説明する図である。図3は、撮像した画像を画像処理する動作を説明するフローチャート図である。
【0027】
図2に示すように、本実施形態では、投影対象物Scrの上方で、照明Ltが点灯している。このため、投影対象物Scrの上部を撮像した画像の明度は高く、投影対象物Scrの下部を撮像した画像の明度は低い。投影手段110は、先ず、校正用画像格納手段に記憶されたグレイコードパターンを、投影する画像(プロジェクタ画像データImgP)として、投影対象物Scrに投影する。次いで、撮像手段120は、画像が投影された投影対象物Scrを含む領域の反射光(カメラ画像データImgC)を撮像する(取得する)。
【0028】
次に、図3を用いて、撮像した画像を画像処理する動作を説明する。
【0029】
図3に示すように、本実施形態に係る画像処理装置(二値画像生成手段)は、撮像手段が撮像したグレイコードパターンが投影された投影対象物の画像(以下、「グレイコード画像」という。)から二値画像(二値画像データImgT)を生成する(ステップS301)。二値画像を生成する動作の詳細は後述の(画像を二値化する動作)で説明する。二値画像を生成する動作を完了すると、画像処理装置は、二値画像データImgTを二値画像格納手段に格納する。その後、画像処理装置は、ステップS302に進む。
【0030】
ステップS302において、画像処理装置(対応点抽出手段)は、二値画像生成手段が生成した二値画像に基づいて、投影対象物を含む領域に関する対応点を抽出する。対応点を抽出する動作の詳細は後述の(対応点を抽出する動作)で説明する。対応点の抽出を完了すると、画像処理装置は、ステップS303に進む。
【0031】
ステップS303において、画像処理装置(変換係数算出手段)は、生成した二値画像及び抽出した対応点に基づいて、補正に関する情報(射影変換係数など)を算出する。補正に関する情報を算出する動作の詳細は後述の(補正に関する情報を算出する動作)で説明する。補正に関する情報の算出を完了すると、画像処理装置は、ステップS304に進む。
【0032】
ステップS304において、画像処理装置は、ステップS303の算出結果を変換係数格納手段(記憶手段)に出力する。このとき、変換係数格納手段は、算出結果を記憶する。その後、画像処理装置は、図中の「END」に進み、撮像した画像を画像処理する動作を終了する。
【0033】
(画像を二値化する動作)
図4〜図6を用いて、画像処理装置がグレイコード画像から二値画像を生成する動作を説明する。図4は、二値画像の生成の動作を示すフローチャート図である。図5は、グレイコード画像等の例を説明する図である。図6は、閾値の線形補間を説明する図である。
【0034】
図4に示すように、画像処理装置は、校正用画像格納手段に記憶されている白色と黒色とを組み合わせた縞状のグレイコードパターンCg(例えば後述する図7)において、最も縞の幅が小さい横縞のパターン(例えば後述する図7(c))を選択し、投影手段に出力する(ステップS401)。その後、画像処理装置は、ステップS402に進む。
【0035】
ステップS402において、画像処理装置は、投影手段を用いて、選択したグレイコードパターンを投影対象物に投影する。投影手段は、例えば図5(a)に示すようなグレイコードパターン(プロジェクタ画像データImgP)を投影することができる。投影を開始すると、画像処理装置は、ステップS403に進む。
【0036】
ステップS403において、画像処理装置は、撮像手段を用いて、グレイコードパターンが投影された投影対象物を含む領域を撮像する。撮像手段は、例えば図5(b)に示すようなグレイコード画像(カメラ画像データImgC)を撮像する(取得する)ことができる。撮像を完了すると、画像処理装置は、ステップS404に進む。
【0037】
ステップS404において、画像処理装置は、二値画像生成手段を用いて、撮像したグレイコード画像を、ブロック(第1の分割領域)に分割する。二値画像生成手段は、例えば図5(c)に示すようなブロック群Bkに分割することができる。分割を完了すると、画像処理装置は、ステップS405に進む。
【0038】
ステップS405において、画像処理装置は、二値画像生成手段を用いて、ブロックごとに二値化の閾値(第1の閾値T1)を算出する。二値画像生成手段は、二値化の閾値の算出方法として、例えば判別分析法を用いることができる。ここで、判別分析法とは、ブロック内の画素の明度値のヒストグラムを生成し、生成したヒストグラムを双峰性と仮定した場合、双峰の分離度が一番高くなる値を閾値とする算出方法である。具体的には、判別分析法では、双峰にグループ化された画素値のグループ間分散とグループ内分散との比が最大となる値を算出し、算出した値を閾値とする。
【0039】
また、画像処理装置は、二値画像生成手段を用いて、ブロックごとの閾値から、ブロック内の各画素(第2の分割領域Px)に対応する閾値(第2の閾値T2)を算出することができる。具体的には、二値画像生成手段は、算出した各ブロックの閾値をブロックの中心に位置する画素の閾値とする。次いで、二値画像生成手段は、線形補間を用いて、ブロック内の各画素の閾値を算出する。
【0040】
図6に、閾値の線形補間を説明する図を示す。図6に示すように、ブロックB1〜B4の閾値(ブロックの中心に位置する画素の閾値)はP1〜P4である。このとき、任意の位置Aの閾値は、位置Aの周囲4ブロックの閾値に基づいて、線形補間を用いて、閾値P13及びP24から算出することができる(バイリニア補間)。ここで、閾値P13及びP24は、例えば閾値P1及びP3並びに閾値P2及びP4から線形補間により算出することができる。
【0041】
なお、閾値の線形補間は、バイキュービック補間(周囲12ブロックの参照する補間)を用いてもよい。また、画像の端に位置するブロックの場合では、閾値の線形補間は、ブロック内の各画素の閾値にブロックの閾値(ブロックの中心位置の閾値)を用いてもよい。
【0042】
各ブロック(第1の分割領域Bk)及び各画素(第2の分割領域Px)の閾値の算出を完了すると、画像処理装置は、ステップS406に進む。
【0043】
次に、ステップS406において、画像処理装置は、ステップS405で算出した算出結果を二値画像格納手段に出力する。このとき、二値画像格納手段は、閾値の算出結果を記憶する。その後、画像処理装置は、ステップS407に進む。
【0044】
ステップS407において、画像処理装置は、二値画像生成手段を用いて、ステップS405で算出した閾値を用いて、ステップS403で撮像したグレイコード画像から二値画像を生成する。具体的には、二値画像生成手段は、例えば図5(d)に示すような二値画像を生成することができる。二値画像の生成を完了すると、画像処理装置は、生成した二値画像を二値画像格納手段に出力する。このとき、二値画像格納手段は、二値画像データImgTとして、二値画像を記憶する。その後、画像処理装置は、ステップS408に進む。
【0045】
ステップS408において、画像処理装置は、二値画像生成手段を用いて、すべてのグレイコードパターン(例えば図7の(a)〜(c)及び(e)〜(g))を投影して撮像したグレイコード画像に対応する二値画像を生成する。ここで、二値化に用いる閾値は、ステップS405で算出した閾値(最も縞の幅が小さいグレイコードパターンから算出した閾値)を用いることができる。これにより、二値画像生成手段は、縞の幅が大きいグレイコード画像も、適切な閾値で二値化することができる。すべてのグレイコードパターンに対応する二値画像の生成を完了すると、画像処理装置は、図中の「END」に進み、画像を二値化する動作を終了する。それ以外の場合は、画像処理装置は、ステップS409に進み、すべての二値画像の生成が完了するまで、ステップS407及びステップS408の動作を繰り返す。
【0046】
以上により、本発明の第1の実施形態に係る画像処理装置(二値画像生成手段)によれば、ブロックごとに二値化の閾値(第1の閾値T1)を算出すること及びブロック内の各画素(第2の分割領域Px)に対応する閾値(第2の閾値T2)を算出することができるので、算出した閾値を用いて、撮像した画像(グレイコード画像)を二値化することができる。
【0047】
また、本実施形態に係る画像処理装置によれば、グレイコード画像の各ブロック及び各画素(第1の分割領域及び第2の分割領域)に対応した閾値を用いてグレイコード画像を二値化できるので、室内照明等の影響を受けることなく、二値画像を生成できる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、二値画像を生成することができる。
【0048】
更に、本実施形態に係る画像処理装置によれば、最も小さい幅の縞のグレイコードを用いて算出した二値化の閾値を用いることができるので、分割するブロックのサイズが小さい場合に発生する二値画像生成の不具合を防止することができる。また、本実施形態に係る画像処理装置によれば、最も小さい幅の縞のグレイコードを用いて算出した二値化の閾値を用いることができるので、投影領域内の明度の変化の追従性を高めることができる。すなわち、本実施形態に係る画像処理装置は、画像の明度の変動に追随した二値画像を生成することができる。
【0049】
(対応点を抽出する動作)
図7及び図8を用いて、二値画像生成手段が生成した二値画像に基づいて、対応点抽出手段が二値画像上の対応点を抽出する動作を説明する。図7は、グレイコードパターンの例を示す図である。図8は、抽出される対応点を説明する図である。
【0050】
先ず、画像処理装置は、投影手段を用いて、横縞3種類のグレイコードパターン(例えば図7(a)〜(c))及び縦縞3種類のグレイコードパターン(例えば図7(e)〜(g))をプロジェクタ画像データImgPとして、時系列で投影対象物に投影する。このとき、画像処理装置は、撮像手段を用いて、夫々のグレイコードパターンが投影された投影対象物を順次撮像し、グレイコード画像(カメラ画像データImgC)を取得する。なお、本発明を用いることができる画像処理装置は、2種類以下又は4種類以上のグレイコードパターンを投影及び撮像してもよい。
【0051】
次に、画像処理装置は、二値画像生成手段を用いて、取得したグレイコード画像の各ブロック及び各画素に対応した閾値を算出し、算出した閾値に基づいてグレイコード画像から二値画像を生成する。ここで、グレイコード画像から二値画像を生成する方法は、前述の(画像を二値化する動作)と同様のため、説明を省略する。
【0052】
次いで、画像処理装置は、対応点抽出手段を用いて、生成した二値画像を2進数コードでコード化し、格子状の領域に分割する。具体的には、対応点抽出手段は、グレイコードパターンを投影した投影対象物を撮像した6枚の二値画像(図7(a)〜(c)及び図7(e)〜(g))を用いて、二値画像の白色領域のビットを「1」、黒色領域のビットを「0」とし、分割した二値画像の領域に符号を夫々付与する。このとき、二値画像の任意の領域に注目すると、時系列的に「1」または「0」の符号が付与され、6ビットのコードとして一意的に対応付けられる(コード化される)。ここで、コード化される領域は、投影するグレイコードが縦縞及び横縞のため、二値画像を格子状に分割した領域となる。
【0053】
図8に、格子状の領域に分割された二値画像を示す。図8(a)は、カメラ画像データImgCに関する二値画像をコード化し、格子状の領域に分割した画像である。図8(b)は、プロジェクタ画像データImgPに関する二値画像をコード化し、格子状の領域に分割した画像である。
【0054】
ここで、画像処理装置(対応点抽出手段)は、図8(a)に示すように、任意の格子状の領域のエッジ(4隅)を特徴点mC1乃至mC4として選択する。また、画像処理装置(対応点抽出手段)は、図8(b)に示すように、特徴点mC1乃至mC4に対応する6ビットのコードの領域のエッジ(4隅)を特徴点mP1乃至mP4として選択する。このとき、特徴点mC1乃至mC4と特徴点mP1乃至mP4とが対応付けられ、画像処理装置(対応点抽出手段)は、特徴点mC1乃至mC4(特徴点mP1乃至mP4)を対応点として抽出することができる。また、画像処理装置(対応点抽出手段)は、本実施形態では、格子状に分割されたすべての領域に対応する対応点を抽出する。
【0055】
以上により、本発明の第1の実施形態に係る画像処理装置(対応点抽出手段)によれば、グレイコード画像の各ブロック及び各画素に対応した閾値を用いて、グレイコード画像を二値化することができる。また、本実施形態に係る画像処理装置によれば、グレイコード画像を二値化することができるので、カメラ画像データImgCに関する二値画像とプロジェクタ画像データImgPに関する二値画像との対応点を抽出することができる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、室内照明等の影響を受けることなく、二値画像の対応点を抽出することができる。
【0056】
(補正に関する情報を算出する動作)
図9及び図10を用いて、二値画像生成手段が生成した二値画像及び対応点抽出手段が抽出した対応点に基づいて、変換係数算出手段が補正に関する情報(射影変換係数)を算出する動作を説明する。図9は、補正に関する情報の算出の手順を示すフローチャート図である。図10は、投影対象物の投影範囲の算出の動作を説明する図である。
【0057】
図9に示すように、画像処理装置は、先ず、対応点抽出手段が抽出した対応点(例えば図8のmC1乃至mC4とmP1乃至mP4)を選択する(ステップS901)。その後、画像処理装置は、ステップS902に進む。
【0058】
ステップS902において、画像処理装置は、変換係数算出手段を用いて、選択した対応点に基づいて、プロジェクタ画像用射影変換係数Hcpを算出する。具体的には、変換係数算出手段は、数1〜数4を用いて、プロジェクタ画像用射影変換行列Hcpを算出することができる。ここで、カメラ画像データImgCに関する特徴点mCi(xCi,yCi)(i=1〜4)に対応するプロジェクタ画像データImgPに関する特徴点をmPi(xPi,yPi)(i=1〜4)とすると、数1が成り立つ。
【0059】
【数1】
ここで、数1の右辺と左辺とは、同次座標系で等しい(全成分の定数倍以外は等しい)ことを示す。また、プロジェクタ画像用射影変換行列Hcpは、数2で表すことができる。
【0060】
【数2】
このとき、数1は、数3と表すことができる。
【0061】
【数3】
数3の第3成分を1にあわせるため、右辺を正規化すると、数4となる。
【0062】
【数4】
ここで、hCP1乃至hCP8は未知係数である。変換係数算出手段は、カメラ画像データImgCに関する特徴点mCi(xCi,yCi)に対応するプロジェクタ画像データImgPに関する特徴点mPi(xPi,yPi)の4つの組合せを取得することで、hCP1乃至hCP8を算出することができる。また、変換係数算出手段は、算出したhCP1乃至hCP8を用いて、プロジェクタ画像用射影変換行列Hcpを算出することができる。更に、変換係数算出手段は、本実施形態では、格子状に分割されたすべてのブロックに対応するプロジェクタ画像用射影変換行列Hcpを算出することができる。
【0063】
プロジェクタ画像用射影変換行列Hcpの算出を完了すると、画像処理装置は、ステップS903に進む。
【0064】
ステップS903において、画像処理装置は、変換係数算出手段を用いて、投影対象物の投影範囲を算出する。具体的には、画像処理装置は、先ず、投影手段を用いて、所定のパターンとして、全領域を白色とする画像と全領域を黒色とする画像とを投影する。このとき、撮像手段は、全領域を白色とする画像と全領域を黒色とする画像とが投影された投影対象物を含む領域を撮像する(例えば図10(a)及び図10(b))。次に、画像処理装置は、変換係数算出手段を用いて、全領域を白色とする画像を投影したときに撮像した画像の画素位置(x,y)における明度値Iw(x,y)を算出する。また、画像処理装置は、全領域を黒色とする画像を投影したときに撮像した画像の画素位置(x,y)における明度値Ib(x,y)を算出する。
【0065】
次いで、画像処理装置は、変換係数算出手段を用いて、数5によって、明度値の差分D(x,y)を算出する。
【0066】
【数5】
図10(c)に、明度値の差分D(x,y)を表す差分画像を示す。図10(c)に示すように、白い領域R1は、明度値の差分が大きい領域である。変換係数算出手段は、本実施形態では、白い領域R1を投影対象物の外形とする。
【0067】
ここで、白い領域は、明度値の差分が所定の値以上である領域とすることができる。また、白い領域でない部分を抽出して投影対象物の外形を算出し、算出した外形の内部を白い領域とすることができる。なお、所定の値は、撮像した画像において投影対象物の表面であるとみなすことができる値とする。また、所定の値は、数値計算又は実験等を用いて、予め定められる値とすることができる。
【0068】
次に、画像処理装置は、変換係数算出手段を用いて、算出した白い領域R1が内包する四角形R2(図10(c))を算出し、算出した四角形R2を投影対象物の投影可能な投影範囲とする。投影対象物の投影範囲の算出を完了すると、画像処理装置は、ステップS904に進む。
【0069】
ステップS904において、画像処理装置は、変換係数算出手段を用いて、投影対象物の投影範囲に基づいて、カメラ画像用射影変換係数Hocを算出する。具体的には、変換係数算出手段は、投影対象物の投影範囲に関する四角形に対応するように、オリジナル画像データImgOに関する画像を補正(拡大縮小及び平行移動)するカメラ画像用射影変換係数Hocを算出する。
【0070】
ここで、カメラ画像用射影変換係数Hocは、数6のように表すことができる。
【0071】
【数6】
なお、カメラ画像用射影変換係数Hocの算出方法は、ステップS902と基本的に同様のため、説明を省略する。また、変換係数算出手段は、本実施形態では、格子状に分割されたすべてのブロックに対応するカメラ画像用射影変換係数Hocを算出する。
【0072】
カメラ画像用射影変換係数Hocの算出を完了すると、画像処理装置は、ステップS905に進む。
【0073】
ステップS905において、画像処理装置は、変換係数算出手段を用いて、プロジェクタ画像用射影変換係数Hcp及びカメラ画像用射影変換係数Hocに基づいて、校正用射影変換係数Hを算出する。具体的には、変換係数算出手段は、数7を用いて、校正用射影変換係数Hを算出することができる。
【0074】
【数7】
ここで、校正用射影変換係数Hは、数8のように表すことができる。
【0075】
【数8】
変換係数算出手段は、本実施形態では、格子状に分割されたすべてのブロックに対応する校正用射影変換行列Hを算出する。校正用射影変換行列Hの算出を完了すると、画像処理装置は、ステップS906に進む。
【0076】
ステップS906において、画像処理装置は、ステップS905で算出した算出結果を記憶手段の変換係数格納手段に出力する。このとき、変換係数格納手段は、算出結果を記憶する。その後、図中の「END」に進み、画像処理装置は、補正に関する情報を算出する動作を終了する。
【0077】
以上により、本発明の第1の実施形態に係る画像処理装置(変換係数算出手段)によれば、生成した二値画像及び抽出した対応点に基づいて、プロジェクタ画像用射影変換行列Hcp及びカメラ画像用射影変換係数Hocを算出することができる。また、本発明の実施形態に係る画像処理装置によれば、プロジェクタ画像用射影変換行列Hcp及びカメラ画像用射影変換係数Hocを算出することができるので、補正に関する情報(校正用射影変換係数H)を算出することができる。更に、本実施形態に係る画像処理装置によれば、格子状に分割されたブロックに対応する補正に関する情報(校正用射影変換係数H)を夫々算出することができるので、室内照明等の影響を受けることなく、補正に関する情報を算出できる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、室内照明等の影響を受けることなく、補正に関する情報を算出することができる。
【0078】
(第2の実施形態)
第2の実施形態に係る画像処理装置を用いて、本発明を説明する。なお、以後の説明において、第2の実施形態に係る画像処理装置400の構成等は、前述の第1の実施形態に係る画像処理装置100の構成等と基本的に同様のため、異なる部分を主に説明する。
【0079】
(画像処理装置の構成)
図1に、本発明の第2の実施形態に係る画像処理装置400の概略構成図を示す。
【0080】
画像処理装置400の二値画像生成手段131は、本実施形態では、投影範囲(後述する外接矩形)を算出し、算出した投影範囲に基づいてブロック(例えば後述する図19のbkx及びbky)のサイズ(値)を算出する。また、二値画像生成手段131は、算出したサイズのブロックを用いて、二値化の閾値(第1の閾値T1等)を算出する。なお、本実施形態に係る画像処理装置400は、変換係数算出手段133及び投影領域算出手段134を用いて、ブロックのサイズ及び投影範囲(外接矩形)を算出してもよい。
【0081】
(画像処理をする動作)
図2及び図3に、本実施形態に係る画像処理装置が画像処理する動作を示す。本実施形態に係る画像処理装置400が撮像した画像を画像処理する動作は、第1の実施形態に係る画像処理装置100の動作と基本的に同様のため、説明を省略する。
【0082】
(画像を二値化する動作)
図4及び図16〜図20を用いて、本実施形態に係る画像処理装置がグレイコード画像から二値画像を生成する動作を説明する。
【0083】
図16に示すように、本実施形態に係る画像処理装置は、先ず、ステップS1601において、投影手段を用いて、白色光(例えば校正用画像格納手段に記憶されている全面白色画像)を投影する。また、画像処理装置は、撮像手段を用いて、白色光が投影された投影対象物を撮像する。
【0084】
具体的には、画像処理装置は、例えば図17(a)に示すように、投影手段410を用いて、投影対象物Scrに白色光を投影することができる。また、画像処理装置は、例えば図17(b)に示すように、撮像手段420を用いて、投影対象物Scrを含む領域を撮像する(カメラ画像データImgCbを取得する)ことができる。
【0085】
その後、画像処理装置は、ステップS1602に進む。
【0086】
ステップS1602において、画像処理装置は、投影手段を用いて、黒色光(例えば校正用画像格納手段に記憶されている全面黒色画像)を投影する。また、画像処理装置は、撮像手段を用いて、黒色光が投影された投影対象物を撮像する。
【0087】
具体的には、画像処理装置は、例えば図17(a)に示すように、ステップS1601と同様に、投影することができる。また、画像処理装置は、例えば図17(c)に示すように、撮像手段420を用いて、投影対象物Scrを含む領域を撮像する(カメラ画像データImgCcを取得する)ことができる。なお、画像処理装置は、投影光を投影対象物に投射しないで、投影対象物Scrを含む領域を撮像するステップを実施してもよい。
【0088】
その後、画像処理装置は、ステップS1603に進む。
【0089】
ステップS1603において、画像処理装置は、二値画像生成手段を用いて、明度の差分を算出して、差分画像を生成する。具体的には、二値画像生成手段は、先ず、白色光を投影したときに撮像した画像(ステップ1601)の画素位置(x,y)における明度値Iw(x,y)を算出する。また、二値画像生成手段は、黒色光を投影したときに撮像した画像(ステップ1602)の画素位置(x,y)における明度値Ib(x,y)を算出する。次いで、二値画像生成手段は、明度値の差分D(x,y)を算出し、算出した差分D(x,y)に基づいて、差分画像ImgWB(図18)を生成する。
【0090】
なお、二値画像生成手段は、数5を用いて、明度値の差分D(x,y)を算出してもよい。また、二値画像生成手段は、各画素の明度値の差分を用いて、差分画像ImgWBを生成してもよい。更に、二値画像生成手段は、各画素の明度値の差分の絶対値を用いて、差分画像ImgWBを生成してもよい。
【0091】
その後、画像処理装置は、ステップS1604に進む。
【0092】
ステップS1604において、画像処理装置は、二値画像生成手段を用いて、外接矩形を算出する。二値画像生成手段は、例えば図18に示すように、明度値の差分Dを用いて算出される範囲Rwに外接する外接矩形Rcを算出することができる。二値画像生成手段は、例えば一の辺の長さがw、他の辺の長さがhの外接矩形Rcを算出することができる。なお、二値画像生成手段は、算出した差分の絶対値が所定の値よりも大きい画素を抽出し、抽出した画素を内包する領域(例えば凸包)に外接する矩形を算出してもよい。ここで、所定の値は、数値計算又は実験等を用いて、予め定められる値とすることができる。
【0093】
その後、画像処理装置は、ステップS1605に進む。
【0094】
ステップS1605において、画像処理装置は、二値画像生成手段を用いて、算出した外接矩形を分割するブロックのサイズを算出する。具体的には、二値画像生成手段は、次式で表す値bkをブロックのサイズとすることができる。すなわち、二値画像生成手段は、投影されたグレイコードパターンの縞の幅より大きい幅のブロックに外接矩形を分割できるサイズを算出する。
【0095】
【数9】
ここで、mとは、記憶手段140の校正用画像格納手段142(図1)に記憶されている縦縞のグレイコードパターンであって、パターンの幅が最も小さい場合の縞(の対)の数(例えば図19(a))である。nとは、記憶手段140に記憶されている横縞のグレイコードパターンであって、パターンの幅が最も小さい場合の縞(の対)の数(例えば図19(b))である。
【0096】
なお、図19に示すように、ブロックのサイズは、縦横同一の大きさでなくてもよい。また、ブロックのサイズは、例えば図19(a)のbkxと図19(b)のbkyとが同じ大きさでなくてもよい。すなわち、ブロックのサイズは、例えばbkx>w/2m及びbky>h/2nを満たすbkx及びbkyの長方形であってもよい。更に、ブロックのサイズは、w/2m又はh/2n(下限値)の1.5倍程度が好ましい。
【0097】
算出を完了すると、画像処理装置は、ステップS1606に進む。
【0098】
次に、ステップS1606において、画像処理装置は、記憶手段を用いて、算出したブロックのサイズを記憶する。
【0099】
その後、画像処理装置は、図4のステップS401に進む。
【0100】
図4のステップS401〜ステップS406において、画像処理装置は、第1の実施形態の画像処理装置と同様に、撮像したグレイコード画像をブロックに分割し、二値化の閾値を算出する。ここで、画像処理装置は、本実施形態では、ステップS1605で算出したサイズのブロックを用いて、グレイコード画像を分割することができる。
【0101】
その後、画像処理装置は、ステップS407に進む。
【0102】
ステップS407において、画像処理装置は、第1の実施形態の画像処理装置と同様に、二値画像生成手段を用いて、ステップS405で算出した閾値を用いて、ステップS403で撮像したグレイコード画像から二値画像を生成する。ここで、本実施形態に係る画像処理装置は、最も小さい幅の縞のグレイコードを用いて算出した二値化の閾値を、他の幅の大きい縞のグレイコードを用いて撮像したグレイコード画像の二値化に用いることができる。画像処理装置は、例えば図19(a)及び(b)を用いて算出した二値化の閾値を、図19(c)のグレイコード画像の二値化に用いることができる。
【0103】
これにより、本実施形態に係る画像処理装置は、ブロックのサイズが小さい場合に発生する二値画像の生成の不具合を防止することができる。更に、本実施形態に係る画像処理装置は、最も幅の小さい縞のグレイコードを用いて算出した二値化の閾値を用いることができるので、投影領域内の明度の変化の追従性を高めることができる。すなわち、画像処理装置は、画像の明度の変動により正確に追随した二値画像を生成することができる。
【0104】
その後、画像処理装置は、ステップS408に進む。
【0105】
ステップS408及びステップS409において、画像処理装置は、第1の実施形態の画像処理装置と同様に、二値画像生成手段を用いて、ずべてのグレイコードパターンに対応する二値画像を生成する。
【0106】
二値画像の生成を完了すると、画像処理装置は、図4の「END」に進み、画像を二値化する動作を終了する。それ以外の場合は、画像処理装置は、ステップS409に進み、すべての二値画像の生成が完了するまで、ステップS407及びステップS408の動作を繰り返す。
【0107】
一方、ステップS1605で算出するブロックのサイズbkがw/2m又はh/2nより小さいサイズの場合には、ブロック内がすべて白色又は黒色の領域となる場合がある(例えば図20のBkb又はBkw)。二値画像生成手段は、二値化の閾値の計算で判別分析法を用いた場合には、ブロック内がすべて黒色領域のときでも、ブロック内の画素を用いて閾値を算出するため、ブロック内の半分程度を白色領域(例えば斑形状)に二値化することがある。すなわち、ブロックのサイズbkがw/2m又はh/2nより小さいサイズの場合には、二値画像生成手段は、グレイコード画像を二値化するときに(ステップS407で)、画像の明度の変動に正確に追随した二値画像を生成できない場合がある。
【0108】
また、ステップS1605で算出するブロックのサイズbkがw/2m又はh/2nと同程度の場合には、投影対象物の状態(曲面、歪み、変形など)に依存してグレイコード画像の縞の幅がブロックのサイズbkより大きくなる場合がある。このため、二値画像生成手段は、画像の明度の変動に正確に追随した二値画像を生成できない場合がある。
【0109】
以上により、本発明の第2の実施形態に係る画像処理装置(二値画像生成手段)によれば、明度値の差分を用いて外接矩形Rcを算出することができるので、算出した外接矩形Rcを用いて、ブロックのサイズbk(bkx、bky)を算出することができる。
【0110】
また、本実施形態に係る画像処理装置によれば、算出したブロックのサイズbkを用いてブロックごとに二値化の閾値(第1の閾値T1)を算出することができるので、室内照明等の影響を受けることなく、二値画像を生成することができる。また、本実施形態に係る画像処理装置によれば、算出したブロックのサイズbkを用いてブロック内の各画素(第2の分割領域Px)に対応する閾値(第2の閾値T2)を算出することができるので、室内照明等の影響を受けることなく、二値画像を生成できる。すなわち、本実施形態に係る画像処理装置によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、二値画像を生成することができる。
【0111】
更に、本実施形態に係る画像処理装置によれば、小さい幅の縞のグレイコード画像に基づいて算出した二値化の閾値を他のグレイコード画像に用いることができるので、ブロックのサイズが小さい場合に発生する二値画像生成の不具合を防止することができる。また、本実施形態に係る画像処理装置によれば、小さい幅の縞のグレイコード画像に基づいて算出した二値化の閾値を他のグレイコード画像に用いることができるので、投影領域内の明度の変化の追従性を高めることができる。すなわち、本実施形態に係る画像処理装置は、画像の明度の変動に追随した二値画像を生成することができる。
【0112】
(対応点を抽出する動作)及び(補正に関する情報を算出する動作)
図7〜図10に、対応点を抽出する動作及び補正に関する情報を算出する動作を示す。なお、本実施形態に係る画像処理装置400の(対応点を抽出する動作)等は、前述の第1の実施形態に係る画像処理装置100の(対応点を抽出する動作)等と基本的に同様のため、説明を省略する。
【0113】
(プログラム、及び、プログラムを記録した記録媒体)
本発明に係るプログラムPrは、第1の校正用画像を投影対象物に投影するステップと、前記第1の校正用画像が投影された前記投影対象物を含む領域の画像を撮像するステップと、撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出するステップと、第2の校正用画像を投影対象物に投影するステップと、前記第2の校正用画像が投影された投影対象物を含む領域を撮像するステップと、前記第1の閾値に基づいて、前記第1の校正用画像及び前記第2の校正用画像を投影した投影対象物を含む領域を撮像した画像の二値画像を生成するステップと、前記第1の校正用画像及び前記第2の校正用画像と前記二値画像との対応点を抽出するステップと、を実行する。この構成によれば、本発明の第1の実施形態及び第2の実施形態に係る画像処理装置と同等の効果が得られる。また、前記二値画像を生成するステップは、前記第1の閾値に基づいて、前記第1の分割領域を分割した複数の第2の分割領域に対応する複数の第2の閾値を算出するステップを更に含む、ことができる。更に、前記二値画像を生成するステップは、撮像した前記画像の画素値の分散値又はエッジ強度を算出し、算出した前記分散値又は前記エッジ強度に基づいて前記第1の閾値を算出するステップを含む、ことができる。
【0114】
また、本発明は、上記プログラムPrを記録したコンピュータによって読み取り可能な記録媒体Mdとしてもよい。プログラムPrを記録した記録媒体Mdとしては、フレキシブルディスク、CD−ROM、DVD、メモリーカード及びその他のコンピュータ読み取り可能な媒体を利用することができる。
【実施例】
【0115】
画像投影装置及び画像投影システムの実施例を用いて、本発明を説明する。
【0116】
なお、本発明は、以後に説明する画像投影装置等以外でも、対象物を撮像した領域を分割し、分割した領域に対応する二値化の閾値を算出することにより、投影する画像の補正に関する情報を算出するものであれば、いずれのもの(手段、装置、システム等)にも用いることができる。
【0117】
(実施例1)
実施例1に係る画像投影装置を用いて、本発明を説明する。
【0118】
(画像投影装置の構成)
本実施例に係る画像投影装置200の構成を図1に示す。画像投影装置200の構成は、第1の実施形態の画像処理装置100の構成と基本的に同様のため、説明を省略する。
【0119】
(画像を投影する動作)
図11〜図13を用いて、画像を投影する動作を説明する。図11は、投影対象物に画像を投影し、画像が投影された投影対象物を含む領域を撮像する動作を説明する図である。図12は、画像を投影する動作を説明するフローチャート図である。図13は、投影する画像の補正を説明する図である。
【0120】
図11に示すように、投影手段110は、投影用画像格納手段又は校正用画像格納手段に記憶された画像又はグレイコードパターンを、投影する画像(プロジェクタ画像データImgP)として、投影対象物Scrに投影する。次いで、撮像手段120は、画像が投影された投影対象物Scrを含む領域の反射光(カメラ画像データImgC)を撮像する。ここで、投影手段110は、投影対象物Scrに近接している。このため、投影される画像に台形歪み等が生じる(図11のImgC1)。画像投影装置は、本実施例では、後述する射影変換係数を用いて台形歪み等を補正し、補正後の画像(例えば図11のImgC2)を投影対象物に投影する。
【0121】
次に、図12を用いて、画像を投影する動作の手順を説明する。
【0122】
図12に示すように、画像投影装置は、先ず、撮像手段が撮像したグレイコード画像から二値画像を生成する(ステップS1201)。二値画像を生成する動作は実施形態の(画像を二値化する動作)と同様のため、説明を省略する。二値画像を生成する動作を完了すると、画像投影装置は、ステップS1202に進む。
【0123】
ステップS1202において、画像投影装置は、対応点抽出手段を用いて、生成した二値画像における対応点を抽出する。対応点を抽出する動作は実施形態の(対応点を抽出する動作)と同様のため、説明を省略する。対応点の抽出を完了すると、画像投影装置は、ステップS1203に進む。
【0124】
ステップS1203において、画像投影装置は、変換係数算出手段を用いて、生成した二値画像及び抽出した対応点に基づいて、プロジェクタ画像用射影変換係数Hcpを算出する。プロジェクタ画像用射影変換係数Hcpを算出する動作は実施形態の(補正に関する情報を算出する動作)と同様のため、説明を省略する。プロジェクタ画像用射影変換係数Hcpの算出を完了すると、画像投影装置は、ステップS1204に進む。
【0125】
ステップS1204において、画像投影装置は、変換係数算出手段を用いて、生成した二値画像及び抽出した対応点に基づいて、カメラ画像用射影変換係数Hocを算出する。カメラ画像用射影変換係数Hocを算出する動作は実施形態の(補正に関する情報を算出する動作)と同様のため、説明を省略する。カメラ画像用射影変換係数Hocの算出を完了すると、画像投影装置は、ステップS1205に進む。
【0126】
ステップS1205において、画像投影装置は、変換係数算出手段を用いて、プロジェクタ画像用射影変換係数Hcp及びカメラ画像用射影変換係数Hocに基づいて、校正用射影変換係数Hを算出する。校正用射影変換係数Hを算出する動作は実施形態の(補正に関する情報を算出する動作)と同様のため、説明を省略する。校正用射影変換係数Hの算出を完了すると、画像投影装置は、ステップS1206に進む。
【0127】
ステップS1206において、画像投影装置は、校正用射影変換係数Hに基づいて、投影用画像を補正する。具体的には、画像投影装置は、算出した校正用射影変換係数Hの逆行列に基づいて、オリジナル画像データImgOに関する画像を補正(変形)し、台形歪み等が解消されるプロジェクタ画像データImgPに関する画像を生成する。
【0128】
ここで、図13(a)は、オリジナル画像データImgOに関する画像である。図13(b)は、カメラ画像データImgCに関する画像である。図13(c)は、プロジェクタ画像データImgPに関する画像である。また、図13(a)のオリジナル画像データImgOに関する画像は、カメラ画像用影変換係数Hocを用いて射影変換することで、図13(b)のカメラ画像データImgC1に関する画像となる。図13(b)のカメラ画像データImgC2は、プロジェクタ画像用影変換係数Hcpを用いて射影変換することで、図13(c)のプロジェクタ画像データImgP2に関する画像となる。
【0129】
画像投影装置は、算出した校正用射影変換係数H(=Hoc・Hcp)の逆行列に基づいて、オリジナル画像データImgOに関する画像(例えば図13(a))を射影変換し、台形歪み等が解消されるプロジェクタ画像データImgP2に関する画像(例えば図13(c))を算出する。この射影変換後のプロジェクタ画像データImgP2を投影したときのカメラ画像データImgCに関する画像が、カメラ画像データImgC2に関する画像(例えば図13(b))である。すなわち、投影対象物を正面方向から見た場合に、投影された画像(プロジェクタ画像データImgP2)は台形歪みが解消された画像(カメラ画像データImgC2)となる。
【0130】
射影変換の方法は、オリジナル画像データImgOに関する画像上の変換する画素の周囲4画素の画素値を算出し、バイリニア法により、プロジェクタ画像データImgP2に関する画像上の画素値を求める方法を用いることができる。また、周囲16画素の画素値を算出し、バイキュービック法により、プロジェクタ画像データImgP2に関する画像上の画素値を求める方法を用いることができる。更に、オリジナル画像データImgOに関する画像上の対応する画素値をプロジェクタ画像データImgP2の画素値に用いるニアレストネイバー法で画素値を求める方法を用いることができる。
【0131】
なお、射影変換後の画質は、バイキュービック、バイリニア、ニアレストネイバーの順に劣化する。処理時間はその逆順である。このため、画像投影装置は、画質又は画像処理の時間に応じて、射影変換する方法を選択しても良い。
【0132】
投影用画像の補正を完了すると、画像投影装置は、ステップS1207に進む。
【0133】
次に、ステップS1207において、画像投影装置は、ステップS1206において補正した投影用画像(例えば図13(c)のImgP2)を投影する。その後、画像投影装置は、図中の「END」に進み、画像を投影する動作を終了する。
【0134】
以上により、本発明の実施例1に係る画像投影装置200によれば、本発明の第1の実施形態又は第2の実施形態に係る画像処理装置と同等の効果を得ることができる。すなわち、本実施例に係る画像投影装置200によれば、各ブロック及び各画素に対応した閾値を用いて変換した二値画像に基づいて、射影変換係数を算出することができるので、算出した射影変換係数を用いて台形歪み等のない画像を投影することができる。また、本実施例に係る画像投影装置200によれば、各ブロック及び各画素に対応した閾値を用いて変換した二値画像に基づいて、射影変換係数を算出することができるので、室内照明等の影響を受けることなく、台形歪み等のない画像を投影することができる。更に、本実施例に係る画像投影装置200によれば、室内照明が点灯している場合、あるいは、投影対象物の表面に局所的に凹凸がある場合などでも、算出した射影変換係数を用いて、台形歪み等のない画像を投影することができる。
【0135】
(変形例)
実施例1の変形例を用いて、エッジ強度に基づいてブロックごとの二値化の閾値を算出する画像投影装置を説明する。
【0136】
(画像投影装置の構成)
本変形例に係る画像投影装置の構成は、実施例1の構成(図1)と同様のため、説明を省略する。
【0137】
(画像を投影する動作)
本変形例に係る画像投影装置は、エッジ強度に基づいて、ブロックごとの二値化の閾値を算出する。具体的には、画像投影装置は、先ず、ブロック内のエッジ強度を画素ごとに算出する。次いで、画像投影装置は、所定のエッジ強度以上の画素を抽出し、抽出した画素の画素値の平均値を閾値とする。
【0138】
ここで、エッジ強度は、数10の空間フィルタを用いて、算出することができる。
【0139】
【数10】
なお、所定のエッジ強度は、数値計算及び実験等により、予め定めることができる。
【0140】
対応点を抽出する動作、射影変換係数を算出する動作及び補正後の画像を投影する動作は、実施例1の動作と同様のため、説明を省略する。
【0141】
(実施例2)
図14及び図15を用いて、本発明の実施例2に係る画像投影システムを説明する。図14は、本実施例に係る画像投影システム300の概略構成図の例である。図15は、本実施例に係る画像投影システム300の投影する動作を説明する図である。
【0142】
(画像投影システムの構成)
図14に示すように、画像投影システム300は、画像投影装置300P及び外部装置300Eを有する。ここで、実施例1と同じ記号の構成は、実施例1の構成と基本的に同様のため、説明を省略する。
【0143】
画像投影装置300Pは、通信手段として、I/F手段360Pを有する。また、外部装置300Eは、I/F手段360Eを有する。画像投影装置300Pと外部装置300Eとは、I/F手段360P及び360Eを用いて、相互に有線及び/又は無線で通信することができる。外部装置300Eは、クラウドコンピューティングなどを利用することができる。
【0144】
外部装置300Eは、二値画像生成手段131、対応点抽出手段132、変換係数算出手段133、投影領域算出手段134、撮像画像格納手段143、二値画像格納手段144及び変換係数格納手段145を有する。外部装置300Eは、本実施例では、画像投影装置300Pから出力された情報に基づいて、画像の補正に関する情報を算出する演算処理を実施することができる。また、外部装置300Eは、補正に関する情報に基づいて、投影する画像を補正し、画像投影装置300P(投影用画像格納手段141)に補正後の画像に関するデータを出力することができる。ここで、外部装置300Eは、二値画像生成手段131等のうちの少なくとも1つの手段を有する構成であってもよい。
【0145】
(画像を投影する動作)
図15を用いて、画像投影システム300の画像を投影する動作を説明する。画像投影システム300の基本的な動作は、実施例1と同様のため、異なる部分を主に説明する。
【0146】
図15に示すように、画像投影システム300は、本実施例では、投影対象物Scrの撮像と撮像した画像の画像処理とを画像投影装置310P外で行う。具体的には、画像投影システム300は、ネットワークNW等を介して、校正用画像及び投影用画像の投影指示を外部装置(PC又はSP等)から投影手段310P(プロジェクタ等)に出力する。また、画像投影システム300は、投影対象物の撮像をPC等に接続されたカメラ320Eで行う。更に、画像投影システム300は、外部装置(PC又はSP等)を用いて、カメラ320Eで撮像した画像を画像処理(二値画像の生成、対応点の抽出、画像の補正に関する情報の算出及び投影用画像の補正等)する。
【0147】
以上により、画像投影システム300は、外部装置300E(図14)を用いることによって、画像投影装置300P(図14)における処理量を低減でき、画像投影装置を小型化、軽量化及び簡素化することができる。また、画像投影システム300は、外部装置としてPC等を利用することができる。このため、画像投影システム300は、画像投影装置(プロジェクタなど)を用いて発表等する場合には、発表時に使用するPC等を外部装置(及び撮像手段、撮影手段)として利用することができる。更に、画像投影システム300は、外部装置をその他の手段(画像投影装置の投影用画像格納手段など)を含む構成とすることができる。
【0148】
本発明は、上述した実施形態及び実施例の画像投影装置、画像処理装置及び画像投影システム等に限定されるものではなく、構成の追加、変更又は削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の範囲に含まれる。
【符号の説明】
【0149】
100,400 : 画像処理装置
110 : 投影手段
120 : 撮像手段(撮影手段)
131 : 二値化画像生成手段
132 : 対応点抽出手段
200,300P : 画像投影装置
300 : 画像投影システム
Cg : 校正用画像(グレイコード画像)
Scr: 投影対象物(スクリーン)
T1 : 第1の閾値
T2 : 第2の閾値
Bk : 第1の分割領域(ブロック)
Px : 第2の分割領域(画素)
Pr : プログラム
Md : 記録媒体
【先行技術文献】
【特許文献】
【0150】
【特許文献1】特開2010−28411号公報
【特許文献2】特開2005−326247号公報
【特許請求の範囲】
【請求項1】
校正用画像を投影対象物に投影する投影手段と、
前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、
撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、前記第1の閾値に基づいて、撮像した前記画像の二値画像を生成する二値画像生成手段と、
前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、
を有する、ことを特徴とする画像投影装置。
【請求項2】
前記二値画像生成手段は、前記第1の閾値に基づいて、前記第1の分割領域を分割した複数の第2の分割領域に対応する複数の第2の閾値を算出する、
ことを特徴とする、請求項1に記載の画像投影装置。
【請求項3】
前記二値画像生成手段は、撮像した前記画像の画素値の分散値を算出し、算出した前記分散値に基づいて、前記第1の閾値を算出する、
ことを特徴とする、請求項1又は2に記載の画像投影装置。
【請求項4】
前記二値画像生成手段は、撮像した前記画像のエッジ強度を算出し、算出した前記エッジ強度に基づいて、前記第1の閾値を算出する、
ことを特徴とする、請求項1乃至3のいずれか一項に記載の画像投影装置。
【請求項5】
複数の校正用画像を投影対象物に投影する投影手段と、
複数の前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、
撮像した複数の前記画像に基づいて前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、算出した前記第1の閾値を用いて前記第1の分割領域を更に分割した複数の第2の分割領域に対応する複数の第2の閾値を算出し、算出した前記第1の閾値及び前記第2の閾値に基づいて撮像した前記画像の二値画像を生成する二値画像生成手段と、
前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、
を有し、
前記二値画像生成手段は、撮像した複数の前記画像のうちの一の画像を用いて前記第1の閾値及び前記第2の閾値を算出し、算出した該第1の閾値及び該第2の閾値を用いて複数の前記画像のうちの他の画像の二値画像を生成する、
ことを特徴とする画像処理装置。
【請求項6】
前記投影手段は、複数の前記校正用画像のうちの全面白色画像及び全面黒色画像を投影し、
前記撮像手段は、前記全面白色画像及び前記全面黒色画像を投影された前記投影対象物を含む領域の画像を夫々撮像し、
前記二値画像生成手段は、撮像した前記全面白色画像を投影された領域の画像及び前記全面黒色画像を投影された領域の画像を用いて、前記第1の分割領域の大きさを算出する、
ことを特徴とする、請求項5に記載の画像処理装置。
【請求項7】
第1の校正用画像を投影対象物に投影するステップと、
前記第1の校正用画像が投影された前記投影対象物を含む領域の画像を撮像するステップと、
撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出するステップと、
第2の校正用画像を投影対象物に投影するステップと、
前記第2の校正用画像が投影された投影対象物を含む領域を撮像するステップと、
前記第1の閾値に基づいて、前記第1の校正用画像及び前記第2の校正用画像を投影した投影対象物を含む領域を撮像した画像の二値画像を生成するステップと、
前記第1の校正用画像及び前記第2の校正用画像と前記二値画像との対応点を抽出するステップと、
を含むことを特徴とする画像投影方法。
【請求項8】
前記二値画像を生成するステップは、前記第1の閾値に基づいて、前記第1の分割領域を分割した複数の第2の分割領域に対応する複数の第2の閾値を算出するステップを更に含む、
ことを特徴とする、請求項7に記載の画像投影方法。
【請求項9】
前記二値画像を生成するステップは、撮像した前記画像の画素値の分散値を算出し、算出した前記分散値に基づいて前記第1の閾値を算出するステップを含む、
ことを特徴とする、請求項7又は8に記載の画像投影方法。
【請求項10】
前記二値画像を生成するステップは、撮像した前記画像のエッジ強度を算出し、算出した前記エッジ強度に基づいて前記第1の閾値を算出するステップを含む、
ことを特徴とする、請求項7乃至9のいずれか一項に記載の画像投影方法。
【請求項11】
請求項7乃至10のいずれか一項に記載の画像投影方法をコンピュータに実行させるためのプログラム。
【請求項12】
請求項11に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項1】
校正用画像を投影対象物に投影する投影手段と、
前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、
撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、前記第1の閾値に基づいて、撮像した前記画像の二値画像を生成する二値画像生成手段と、
前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、
を有する、ことを特徴とする画像投影装置。
【請求項2】
前記二値画像生成手段は、前記第1の閾値に基づいて、前記第1の分割領域を分割した複数の第2の分割領域に対応する複数の第2の閾値を算出する、
ことを特徴とする、請求項1に記載の画像投影装置。
【請求項3】
前記二値画像生成手段は、撮像した前記画像の画素値の分散値を算出し、算出した前記分散値に基づいて、前記第1の閾値を算出する、
ことを特徴とする、請求項1又は2に記載の画像投影装置。
【請求項4】
前記二値画像生成手段は、撮像した前記画像のエッジ強度を算出し、算出した前記エッジ強度に基づいて、前記第1の閾値を算出する、
ことを特徴とする、請求項1乃至3のいずれか一項に記載の画像投影装置。
【請求項5】
複数の校正用画像を投影対象物に投影する投影手段と、
複数の前記校正用画像が投影された前記投影対象物を含む領域の画像を撮像する撮像手段と、
撮像した複数の前記画像に基づいて前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出し、算出した前記第1の閾値を用いて前記第1の分割領域を更に分割した複数の第2の分割領域に対応する複数の第2の閾値を算出し、算出した前記第1の閾値及び前記第2の閾値に基づいて撮像した前記画像の二値画像を生成する二値画像生成手段と、
前記校正用画像と前記二値画像との対応点を抽出する対応点抽出手段と、
を有し、
前記二値画像生成手段は、撮像した複数の前記画像のうちの一の画像を用いて前記第1の閾値及び前記第2の閾値を算出し、算出した該第1の閾値及び該第2の閾値を用いて複数の前記画像のうちの他の画像の二値画像を生成する、
ことを特徴とする画像処理装置。
【請求項6】
前記投影手段は、複数の前記校正用画像のうちの全面白色画像及び全面黒色画像を投影し、
前記撮像手段は、前記全面白色画像及び前記全面黒色画像を投影された前記投影対象物を含む領域の画像を夫々撮像し、
前記二値画像生成手段は、撮像した前記全面白色画像を投影された領域の画像及び前記全面黒色画像を投影された領域の画像を用いて、前記第1の分割領域の大きさを算出する、
ことを特徴とする、請求項5に記載の画像処理装置。
【請求項7】
第1の校正用画像を投影対象物に投影するステップと、
前記第1の校正用画像が投影された前記投影対象物を含む領域の画像を撮像するステップと、
撮像した前記画像に基づいて、前記領域を分割した複数の第1の分割領域に対応する複数の第1の閾値を算出するステップと、
第2の校正用画像を投影対象物に投影するステップと、
前記第2の校正用画像が投影された投影対象物を含む領域を撮像するステップと、
前記第1の閾値に基づいて、前記第1の校正用画像及び前記第2の校正用画像を投影した投影対象物を含む領域を撮像した画像の二値画像を生成するステップと、
前記第1の校正用画像及び前記第2の校正用画像と前記二値画像との対応点を抽出するステップと、
を含むことを特徴とする画像投影方法。
【請求項8】
前記二値画像を生成するステップは、前記第1の閾値に基づいて、前記第1の分割領域を分割した複数の第2の分割領域に対応する複数の第2の閾値を算出するステップを更に含む、
ことを特徴とする、請求項7に記載の画像投影方法。
【請求項9】
前記二値画像を生成するステップは、撮像した前記画像の画素値の分散値を算出し、算出した前記分散値に基づいて前記第1の閾値を算出するステップを含む、
ことを特徴とする、請求項7又は8に記載の画像投影方法。
【請求項10】
前記二値画像を生成するステップは、撮像した前記画像のエッジ強度を算出し、算出した前記エッジ強度に基づいて前記第1の閾値を算出するステップを含む、
ことを特徴とする、請求項7乃至9のいずれか一項に記載の画像投影方法。
【請求項11】
請求項7乃至10のいずれか一項に記載の画像投影方法をコンピュータに実行させるためのプログラム。
【請求項12】
請求項11に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2013−65277(P2013−65277A)
【公開日】平成25年4月11日(2013.4.11)
【国際特許分類】
【出願番号】特願2012−127398(P2012−127398)
【出願日】平成24年6月4日(2012.6.4)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
【公開日】平成25年4月11日(2013.4.11)
【国際特許分類】
【出願日】平成24年6月4日(2012.6.4)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
[ Back to top ]