映像信号処理装置および映像信号処理方法
【課題】極端な3D効果がつきそうな箇所を、ユーザが直感的に把握しやすいユーザ・インタフェースで、ユーザに提供する。
【解決手段】左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成する。次に、左眼用の映像信号と右眼用の映像信号に基づいて、左眼用の映像信号よりなる左眼用の撮影画像と、右眼用の映像信号よりなる右眼用の撮影画像との視差を算出する。次に、算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する。次に、エッジ抽出情報に基づいて、注目画素がエッジ部分である場合には警告色画像を出力し、注目画素がエッジ部分でない場合には、左眼用の映像信号または右眼用の映像信号を出力する。
【解決手段】左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成する。次に、左眼用の映像信号と右眼用の映像信号に基づいて、左眼用の映像信号よりなる左眼用の撮影画像と、右眼用の映像信号よりなる右眼用の撮影画像との視差を算出する。次に、算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する。次に、エッジ抽出情報に基づいて、注目画素がエッジ部分である場合には警告色画像を出力し、注目画素がエッジ部分でない場合には、左眼用の映像信号または右眼用の映像信号を出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、立体画像を撮影する立体画像撮像装置に適用して好適な映像信号処理装置およびその映像信号処理方法に関する。
【背景技術】
【0002】
従来、左眼用の画像と右眼用の画像を撮影する立体画像撮像装置が知られている。立体画像の立体感は、左右の画像のズレ量である視差によって表現され、視差をゼロにした場合には、立体画像の再生位置はディスプレイ等の表示面と一致する。右眼用の画像に対して左眼用の画像が右方向に視差を有する場合は、立体像はディスプレイの手前側で再生される。反対に、右眼用の画像に対して左眼用の画像が左方向に視差を有する場合には、立体像は奥行きを持った像として再生される。
【0003】
このような立体像の手前方向への飛び出し量や奥行き方向への奥まり量は、視差の量を変化させることにより調整することができる。ただし、過度の視差は、視聴者が立体画像の融像をできなくなったり、視覚疲労や不快感をおぼえる原因となる。このため、立体画像撮像装置や、立体画像撮像装置から左右の視差画像を入力して画像処理を行う映像信号処理装置等においては、視聴者に不快感を与えるような映像が撮像および/または記録されてしまうことを防ぐための様々な工夫がされている。例えば特許文献1には、左撮像系と右撮像系とにおける合焦位置のズレを防ぐことによって、立体視し易く眼が疲れにくい立体視画像を得ることができることが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2011−28053号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
また、左右の視差画像の視差が過大となり、極端な3D効果がついてしまいそうな場合に、そのことをユーザに表示画面上で喚起(警告)する技術も知られている。ある箇所に極端な3D効果が付きそうか否かの判断は、例えば、左右の視差画像において抽出された特徴点間の距離の大きさに基づいて行われる。そして、特徴点間の距離が大きすぎる場合に、立体画像の飛び出し量や奥まり量が過度に付いてしまう危険があると判断する。表示画面上での警告は、抽出された特徴点上に、左右の特徴点間の距離によって異ならせた警告色を重畳して表示すること等により行われる。または、横軸で特徴点間の距離を表し、縦軸でその距離を持つ画素の総数を示したヒストグラム等によっても表現される。
【0006】
ところが、この手法では、左右の視差画像間の視差の大きさの測定が、画面上の特定の箇所にしか行われないため、警告色の表示も、視差の測定が行われた特定の箇所に対してしか行われない。ヒストグラムで表示される場合には、警告色の表示は画像とは関係のないグラフ上で行われる。このため、極端な3D効果がつきそうな箇所を、ユーザが表示画面上で直感的に把握することが難しいという問題があった。
【0007】
本開示はかかる点に鑑みてなされたものであり、極端な3D効果がつきそうな箇所を、ユーザが直感的に把握しやすいユーザ・インタフェースで、ユーザに提供することを眼的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本開示の映像信号処理装置は、エッジ抽出情報生成部と、警告色画像生成部と、出力信号制御部とを備える構成とし、各部の構成及び機能を次のようにする。エッジ抽出情報生成部は、左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成する。警告色画像生成部は、左眼用の映像信号と右眼用の映像信号に基づいて、左眼用の映像信号よりなる左眼用の撮影画像と、右眼用の映像信号よりなる右眼用の撮影画像との視差を算出する。さらに、算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する。出力信号制御部は、エッジ抽出情報生成部で生成されたエッジ抽出情報に基づいて、注目画素がエッジ部分である場合には、警告色画像生成部で生成された警告色画像を出力する。注目画素がエッジ部分でない場合には、左眼用の映像信号または右眼用の映像信号を出力する。
【0009】
また、上記課題を解決するために、本開示の映像信号処理方法は、次の手順で行う。まず、左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成する。次に、左眼用の映像信号と右眼用の映像信号に基づいて、左眼用の映像信号よりなる左眼用の撮影画像と、右眼用の映像信号よりなる右眼用の撮影画像との視差を算出する。次に、算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する。次に、エッジ抽出情報に基づいて、注目画素がエッジ部分である場合には警告色画像を出力し、注目画素がエッジ部分でない場合には、左眼用の映像信号または右眼用の映像信号を出力する。
【0010】
このように構成および処理することで、左右の視差画像間の視差の大きさ、すなわち立体画像の表示面に対する奥行き方向の深度が、異なる警告色によって、エッジ抽出情報が検知された画素に重畳して表示されるようになる。つまり、極端な3D効果がつく恐れのある箇所のエッジ部分に、深度に応じて色を異ならせた警告色が重畳して表示される。
【発明の効果】
【0011】
本開示の映像信号処理装置および映像信号処理方法によれば、極端な3D効果がつく恐れのある箇所が、ユーザにとって直感的に分かりやすいユーザ・インタフェースで、ユーザに提供されるようになる。
【図面の簡単な説明】
【0012】
【図1】本開示の一実施形態による立体画像撮像装置の構成例を示すブロック図である。
【図2】本開示の一実施形態による警告画像生成処理部の構成例を示すブロック図である。
【図3】本開示の一実施形態によるエッジ抽出処理の例を示す説明図であり、(a)は垂直方向のエッジを抽出するフィルタの例を示し、(b)は水平方向のエッジを抽出するフィルタの例を示す。
【図4】本開示の一実施形態によるエッジ抽出処理および2値化処理の例を示す説明図であり、(a)はエッジ抽出処理が行われる前の元画像の例を示し、(b)はエッジ抽出処理後の画像の例を示し、(c)は2値化された画像の例を示す。
【図5】本開示の一実施形態による遅延回路の構成例を示すブロック図である。
【図6】本開示の一実施形態による低解像度化処理の例を示す説明図であり、(a)は低解像度化される前の元画像の例を示し、(b)は、低解像度化された画像の例を示す。
【図7】本開示の一実施形態による視差算出処理の例を示す説明図であり、(a)は視差算出処理の対象となる左眼用画像の例を示し、(b)は視差算出処理の対象となる右眼用画像の例を示す。
【図8】本開示の一実施形態による色分け処理の例を示す説明図である。
【図9】本開示の一実施形態によるスイッチの切り替え処理の例を示すフローチャートである。
【図10】本開示の一実施形態による警告画像が重畳された画像の例を示す図である。
【図11】本開示の変形例による映像信号処理装置の構成例を示すブロック図である。
【発明を実施するための形態】
【0013】
以下に、本開示の実施形態に係る映像信号処理装置の具体例を、図面を参照しながら下記の順で説明する。
1.映像信号処理装置を立体画像撮像装置に適用した場合の構成例
2.警告色画像生成処理部の構成および処理の例
3.各種変形例
【0014】
<1.映像信号処理装置の構成例>
まず、続いて本開示の実施形態に係る映像信号処理装置の構成例を説明する。本実施の形態では、映像信号処理装置を、左眼用画像の撮像系と右眼用画像の撮像系とを有する立体画像撮像装置に適用して説明する。図1は、立体画像撮像装置100の内部構成例を示すブロック図である。
【0015】
立体画像撮像装置100は、右眼用画像の処理系統として、レンズ10Rと、撮像素子20Rと、信号処理部40Rと、記録再生処理部50Rとを備える。また、左眼用の処理系統として、レンズ10Lと、撮像素子20Lと、信号処理部40Lと、記録再生処理部50Lとを備える。右眼用画像の処理系等を構成する各部と、左眼用画像の処理系等を構成する各部は、それぞれが有する機能は同一であるため、各部の機能の説明は、右眼用画像の処理系等についてのみ行う。
【0016】
レンズ10Rは、右眼用画像を撮影するレンズであり、多数枚・多群のレンズやフィルタ、絞り、レンズ駆動機構などから構成されているものとする。さらに、これらの機構に加えて、ズーム機能や焦点調節機能、その他の機能があってもよい。撮像素子20Rは、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の素子で構成される。撮像素子20Rには、その受光面上に複数の光電変換素子が二次元的に配置されている。各光電変換素子は画素を構成し、撮像面上で各光電変換素子が占める位置が画素位置に対応する。各光電変換素子は、受光面に結像された被写体光の光量に応じた信号電荷を蓄積する。各光電変換素子に蓄積された信号電荷は、CPU(Central Processing Unit)等よりなる制御部30の制御によって読み出され、信号処理部40Rに出力される。
【0017】
信号処理部40Rは、撮像素子20Rから読み出された信号電荷に含まれるノイズを除去するCDS(相関二重サンプリング)回路や、ノイズが除去された信号のレベルを一定のレベルにコントロールするAGC(Automatic Gain Control)回路を含む。また、これらの処理が行われたアナログの映像信号をデジタルの映像信号に変換するA/Dコンバータも含む。なお、撮像素子20RをCMOS素子で構成した場合には、これらの各処理は撮像素子20R内で行われる。
【0018】
記録再生処理部50Rは、制御部30の制御に基づいて、信号処理部40Rで信号処理された映像信号を所定の形式で圧縮したり、入力された圧縮画像を伸張したりする処理を行う。圧縮した映像信号は、ビデオテープやHDD(Hard Disc Drive)、メモリカード等よりなる記録部60に記録し、記録部60から読み出して圧縮した映像信号は、表示処理部70に出力する。表示処理部70は、LCD(Liquid Crystal Display)等よりなる表示部80に映像信号を表示させるための処理を行う。表示部80は、ビューファインダとして構成される。
【0019】
警告画像生成処理部90は、信号処理部40Rから入力される右眼用の映像信号と、信号処理部40Lから入力される左眼用の映像信号に基づいて左右の視差画像間の視差を算出し、視差の大きさに応じて異ならせた警告色を被写体のエッジ部分に重畳して出力する。警告色が重畳された警告画像は、表示処理部70に供給され、表示処理部70によって表示部80に表示される。
【0020】
なお、図1では図示を省略しているが、立体画像撮像装置100は、コンバージェンス(輻輳角)を、レンズの向き等の制御によって光学的に調整する機構もしくは、レンズ全体の回転または移動によって機械的に調整する輻輳角制御部を備える。ユーザが、画面上に表示された警告色が表示されなくなるようにコンバージェンスやズームを調整することで、撮影画像における視差が適正な範囲内に収まるようになる。つまり、立体画像に極端な3D効果がついてしまうことを防ぐことができる。
【0021】
<2.警告画像生成処理部の構成および処理の例>
[2−1.警告画像生成処理部の構成例]
図2は、警告画像生成処理部90の構成例を示すブロック図である。警告画像生成処理部90は、エッジ抽出情報生成部910と、低解像度化部920Lおよび920Rと、警告画像生成部930と、解像度復元部940と、遅延回路950と、出力信号制御部としてのスイッチ960とを備える。
【0022】
エッジ抽出情報生成部910は、エッジ検出部911と、2値化処理部912と、遅延回路913とを含む。エッジ検出部911は、信号処理部40R(図1参照)から出力される左眼用画像に基づいて、画像中で画素の濃淡が急激に変化するエッジ部分を抽出する。エッジの抽出には、例えばソーベルフィルタ等のフィルタを使用する。
【0023】
図3は、ソーベルフィルタの構成例を示したものである。図3(a)は垂直方向のエッジを抽出するフィルタであり、図3(b)は水平方向のエッジを抽出するフィルタである。図3(a)の垂直エッジ抽出用フィルタは、注目画素とその左側の一列および右側の一列の各画素との差分を抽出し、図3(b)の水平エッジ抽出用フィルタは、注目画素とその上側の一列および下側の一列の各画素との差分を抽出する。これらのフィルタの抽出結果を加算することにより、画像における縦横両方向のエッジを抽出することができる。
【0024】
なお、本実施の形態ではソーベルフィルタを用いた例をあげたが、微分フィルタやハイパスフィルタ等の他の手段を用いてエッジ抽出を行うようにしてもよい。
【0025】
図2に戻って説明を続けると、2値化処理部912は、エッジ抽出情報生成部910から出力された画像に対して閾値処理を行うことにより、画像内の領域をエッジ部と非エッジ部とに分ける。つまり、エッジ部分として検出された画素に対して、予め定めた閾値を超えたものに対しては例えば“1”を出力し、閾値以下のものに対しては“0”を出力する。閾値の大きさは、例えば設計者が経験則に基づいて算出される値をヒューリスティックに設定する。
【0026】
もしくは、ある一定の範囲を持たせた閾値の中から、ユーザが任意の値を選択できるように構成してもよい。閾値の大きさによって抽出されるエッジの太さが異なるため、エッジに重畳される警告色の見え方も閾値の大きさによって変化する。このため、閾値をユーザに選択させる構成とすることで、警告色が重畳される線(エッジ)の太さを、ユーザの好みの太さに調整させることも可能となる。
【0027】
図4(a)は、エッジ抽出情報生成部910に入力される元画像を示したものであり、エッジ抽出情報生成部910がエッジの抽出を行うことにより、図4(b)に示すようなエッジ部分が抽出された画像が生成される。この図4(b)に示す画像を、2値化処理部912がさらに閾値処理することにより、図4(b)に示すように白黒の2色で絵柄が表現されるようになる。すなわち、各画素が、エッジ部分であるかそれ以外の部分であるかの2値で表現される。2値化処理部912は、閾値処理によって求められた2値の情報との組を、エッジ抽出情報として垂直同期信号および水平同期信号とともに遅延回路913に出力する。
【0028】
再び図2に戻って説明を続けると、遅延回路913は、2値化処理部912から出力されたエッジ抽出情報を、所定の時間だけ遅延させて出力する。遅延回路913によって加えられる遅延の量は、後述する低解像度化部920Lと920Rに左右の画像が入力されてから警告色画像が生成されるまでの時間と、エッジ抽出情報が生成される時間との差分によって求められる。エッジ抽出情報が生成される時間よりも、警告色画像が生成される時間のほうが長いため、警告色画像が出力されるタイミングとエッジ抽出情報が出力されるタイミングとを一致させる目的で、エッジ抽出情報に遅延を加えている。
【0029】
遅延回路913の構成例を図5に示す。遅延回路913は、書き込みアドレス管理部913aと、デュアルポートRAM(Random Access Memory)等よりなるデータ保持部913bと、読み出しアドレス管理部913cとで構成される。書き込みアドレス管理部913aは、制御部30(図1参照)の制御に基づいて、データ保持部913bのアドレス空間内でサイクリックにアドレスをカウントアップする。そして、カウントアップしたアドレスを、ライトアドレスとしてデータ保持部913bに印加する。読み出しアドレス管理部913cは、制御部30の制御に基づいて、データ保持部913bのアドレス空間内でサイクリックにアドレスをカウントアップする。そして、カウントアップしたアドレスを、リードアドレスとしてデータ保持部913bに印加する。
【0030】
つまり、データ保持部913bには、書き込みアドレス管理部913aによって印加されたライトアドレスに、ライトアドレスが印加されたタイミングでデータが書き込まれる。また、データ保持部913bに書き込まれているデータは、読み出しアドレス管理部913cによって印加されたリードアドレスから、リードアドレスが印加されたタイミングで読み出される。このリードアドレスとライトアドレスとの番地の差が大きいほど、データ保持部913bにデータが書き込まれてから読み出されるまでの時間が長くなる。つまり、この差分が、エッジ抽出情報に加えられる遅延量となる。
【0031】
再び図2に戻って説明を続ける。低解像度化部920Lは、信号処理部40L(図1参照)から入力される左眼用画像の解像度を、より低い解像度に変換して出力する。低解像度化部920Rは、信号処理部40Rから入力される右眼用画像の解像度を、より低い解像度に変換して出力する。入力された画像の低解像度化は、例えば、画素間引きや平均化等の手法で行う。縦横の各画素を1/4画素ずつ間引けば、解像度を1/16に落とすことができる。低解像度化部920Lと低解像度化部920Rによってこのような処理が行われることにより、図6(a)に示す元画像が、図6(b)に示すような低解像度の画像に変換される。これにより、後段の警告画像生成部930(図2参照)に入力される画像のデータ量が大幅に削減される。
【0032】
警告画像生成部930は、視差算出部931と、色分け処理部932と、フィルタ処理部933とを含む。視差算出部931は、低解像度化部920Lと低解像度化部920Rによって低解像度化された左右の入力画像を用いて、各画素における左右の画素間の視差を算出する。図7は、視差算出部931による視差算出処理の例を示す図である。図7(a)は右眼用画像を示し、図7(b)は左眼用画像を示す。いずれの画像とも、横方向n画素×縦方向m画素の(m×n)画素よりなるものとする。
【0033】
視差の算出は、左右の画像に対して画素単位でマッチングをかけ、マッチングのとれた両画素の画素値の差分を算出することにより行う。図7(a)に示す左眼用画像のPxL1を注目画素とした場合、まず、図7(b)に示す右眼用画像における、この画素PxL1と同じ180列目にあるすべての画素を、左端から右方向に順に走査する。続いて、画素毎に類似度をスコアに換算して記録する。180列目にあるすべての画素の走査が終了した時点で、一番スコアの高かった箇所の画素を抽出する。そして、抽出した画素の水平方向における座標と、比較元の左眼用画像の注目画素PxL1の水平方向の座標との差分を算出する。
【0034】
図7に示した例では、注目画素PxL1ともっとも類似している右眼用画像の画素は、画素PxR1である。注目画素PxL1の水平方向における座標は“250”であり、対応画素PxR1の水平方向における座標は“253”であるため、その差は“3”となる。この差分“3”は、左右の画像の水平方向におけるずれ量を示す値、つまり視差である。
【0035】
視差の大きさは、被写体の立体画像撮像装置100からの距離を表している。撮影時にコンバージェンスが大きく設定され、輻輳点が立体画像撮像装置100側(手前側)に形成される場合には、算出される視差は小さくなる。逆に、輻輳点が被写体側(奥側)に形成される場合には、視差は大きくなる。すなわち、視差量が、被写体の立体画像撮像装置100に対する奥行き方向の深度を示しているといえる。視差算出部931は、左右の画像を入力画像として視差を算出し、算出した視差の大きさを深度情報として、画素の情報とともに色分け処理部932(図2参照)に出力する。
【0036】
なお、本実施の形態では、左右の画像に対して画素単位でマッチングをかけた例をあげたが、これに限定されるものではない。特徴点を抽出し、その特徴点同士をマッチングさせてもよい。ただし、特徴点同士をマッチングさせる場合は、特徴点周辺以外の画素の深度情報を得ることができないため、低解像度化された画面全域にわたる深度情報を得る目的で、深度の測定を行った特徴点以外の画素に対する塗りつぶし等の処理を別途行う必要がある。
【0037】
色分け処理部932は、視差算出部931から入力された深度情報に対して、まず閾値処理を行う。図8は、色分け処理部932による色分け処理の例を示す図である。縦軸は深度を示し、横軸は画素の座標を示す。閾値としては、値の異なる2つの閾値Th1、閾値Th2を設けている。これらの閾値によって、深度が、深度0以上閾値Th1未満の第1の領域Da1と、閾値Th1以上閾値Th2未満の第2の領域Da2と、閾値Th2以上の第3の領域Da3に分割される。
【0038】
各領域Daには、予め対応する警告色を割り振ってある。図8に示す例では、第1の領域Da1には警告色Wc1が割り当てられ、第2の領域Da2には警告色の割り当てなし、第3の領域Da3には警告色Wc2が割り当てられている。色分け処理部932は、視差算出部931から入力された画素の深度が、上述した領域Daのうちのどの領域に区分されるかを判断し、区分された領域Daと対応づけられた警告色を、入力された画素に重畳して出力する。
【0039】
入力された画素の深度が第2の領域Da2に区分された場合には、警告色の重畳は行われない。つまり、第2の領域Da2は、警告色を表示する必要のない領域として設定してある。第2の領域Da2を決定づける閾値Th1と閾値Th2の値は、予め固定的な値を設定してもよく、表示部80(図1参照)上に表示したメニュー画面等から、ユーザに任意の値を選択できるようにしてもよい。
【0040】
ユーザに選択させる場合には、閾値Th1と閾値Th2を選択させるのではなく、例えば、画像の水平方向の幅において視差が占める割合を百分率で示した値を選択させる等の手法が考えられる。画像の横幅に対する視差の割合が指定されることによって、第2の領域Da2の範囲も定まる。この場合の「画像の横幅に対する視差の割合」は、立体映像撮影用のガイドライン等の中で「快適な視聴を行える視差範囲」等として示される情報に基づいて設定することができる。
【0041】
もしくは、閾値Th1と閾値Th2とを、画像が最終的に出力される表示画面(図示略)のサイズ毎に複数種類用意しておき、ユーザに画面のサイズを選択させることにより、閾値Th1と閾値Th2とが一意に定まるように構成してもよい。
【0042】
なお、本実施の形態では、閾値Thを2つ設けて深度を3つの領域に分割した例をあげたが、これに限定されるものではない。深度の領域をより細かく分割することにより、警告の度合いにも段階性を持たせるようにしてもよい。例えば、破綻する(極端な3D効果が付きすぎる)可能性が高い領域に区分された画素には赤い警告色を重畳し、破綻する可能性がある画素には黄色い警告色を重畳する。さらに、破綻する可能性がややある画素には、緑色の警告色を重畳する、等の手法が考えられる。あるいは、閾値Thを1つのみ設けて、深度が浅い側(もしくは深い側)の領域に区分された画素に対してのみ、警告色を重畳するようにしてもよい。
【0043】
また、上述した実施の形態では、深度が深すぎる、あるいは浅すぎる画素に警告色を重畳することで、ユーザに対して警告を行う例をあげたが、これに限定されるものではない。深度が分割されてなる各領域Daに対して、色ではなく異なるテクスチャを割り当ててもよい。もしくは、パターンの点滅周期を異ならせたものを各領域Daに割り当ててもよい。
【0044】
再び図2に戻って説明を続ける。フィルタ処理部933は、色分け処理部932から入力された警告色画像を所定のフレーム数分蓄積してその積をとることにより、同一画素における時間軸方向のフィルタリングを行う。例えば、入力された画素を数フレーム分蓄積して積をとり、数フレーム連続で同一の警告色が出力された場合にそれを採用する。同一の警告色が、積がとられた数フレームにおいて連続で出力されなかった場合には、警告色は重畳せずに画素を出力する。このような処理を行うことにより、出力画像にノイズが混入する可能性をより低くすることができる。画素を蓄積するフレーム数は、ノイズ除去効果をどの程度に設定したいか等の情報に基づいて、任意の値に設定可能であるものとする。
【0045】
フィルタ処理部933でフィルタリングされた警告色画像は、解像度復元部940に出力される。解像度復元部940は、入力された警告色画像の解像度を、元の解像度に復元する処理を行う。元の解像度への復元は、例えば、低解像度化部920Lと920Rによって解像度が1/16に落とされた場合には、同じ画素を16個並べて単純に拡大することによって行う。もしくは、他の方法を用いて解像度を復元してもよい。解像度復元部940で解像度が復元された警告色画像は、スイッチ960に供給される。
【0046】
遅延回路950は、信号処理部40L(図1参照)から出力された左眼用画像を、所定の時間だけ遅延させて出力する。つまり、スイッチ960に供給される警告色画像の位相と、信号処理部40Lから出力された左眼用画像の位相の差をなくすための遅延量が、元画像として出力される左眼用画像に付加される。遅延回路950の構成は、図5を参照して説明した遅延回路913と同一であるため、説明は省略する。
【0047】
スイッチ960には、解像度が復元された高解像度の警告色画像と、遅延回路950によってその位相が警告色画像の位相と同相に調整された元画像とが供給され、いずれかの画像が選択されて出力される。スイッチ960の接続先の切り替えは、エッジ抽出情報生成部910から供給されるエッジ抽出情報に基づいて行われる。
【0048】
[2−2.警告画像生成処理部の処理の例]
図9は、スイッチ960による切り替え処理の例を示すフローチャートである。まず、エッジ抽出情報生成部910から供給されたエッジ抽出情報に基づいて、エッジが検出されたか否かが判断される(ステップS11)。すなわち、注目画素が、エッジ部分の画素であるか否かが判断される。エッジが検出された場合には、スイッチ960の接続先が解像度復元部940側に切り替えられ、警告色画像が出力される(ステップS12)。エッジが検出されなかった場合には、スイッチ960の接続先が遅延回路950側に切り替えられ、元画像が出力される(ステップS13)。続いて、入力信号があるか否かが判断され、ある場合にはステップS11に戻って処理が続けられる。ない場合には、処理は終了となる。
【0049】
このような処理が行われることにより、図10に示すように、被写体のエッジ部分であり、かつ視差が大きくついている部分、つまり飛び出し量や奥まり量が大きくなりすぎている部分に、警告色が重畳して表示される。図10には、領域Da1に分類された、飛び出し量がつきすぎる画素に対しては警告色Wc1が重畳され、領域Da3に分類された、奥まり量がつきすぎる画素に対しては警告色Wc2が重畳されている。
【0050】
上述した本実施の形態によれば、撮影画像に極端な3D効果がつきそうな場合に、そのエッジ部分全体に警告色が重畳して表示されるため、極端な3D効果が付きそうな箇所を、ユーザが直感的に把握することが可能となる。そして、警告色がついたエッジとして示される警告表示を見たユーザが、警告色が表示されないようにコンバージェンスおよび/またはズームを調整することにより、左右の視差画像間の視差が適正な範囲内に収まるようになる。
【0051】
また、エッジ抽出情報生成部910では、元の高解像度のままの画像に基づいてエッジの抽出を行っており、かつ、高解像度の画像から抽出されたエッジ部分に、警告色が重畳される。つまり、警告色画像が高解像度で表示されるようになる。このような仕組みによって高解像度による警告色画像の表示が担保されるため、警告画像の生成を、低解像度化した画像に基づいて行うことができるようになる。
【0052】
そして、警告画像生成の元となる深度情報の算出を、低解像度化部920Lと920Rとが低解像度化された画像を用いて行っているため、深度情報の算出を行う視差算出処理の処理量が大幅に軽減される。これにより、視差算出部931を構成するCPUやFPGA(Field-Programmable Gate Array)等のリソースを大幅に削減することが可能となる。したがって、バッテリーにより駆動するビデオカメラレコーダー等においても、本開示の映像信号処理方法による高解像度での警告画像の生成が可能となる。つまり、立体画像撮影における収録素材の安全性の確保および、ユーザが直感的に把握しやすい方法での警告画像の表示を、単体の商品のみによって実現できるようになる。
【0053】
また、上述した実施の形態では、低解像度化部920Lと920Rによって低解像度化された画像を用いて視差を算出しているため、視差算出処理にかかる時間が短くて済む。これにより、映像信号のフレームレートと同一のレートで警告色の表示を行うことができるようになる。また、警告色の表示がフレーム毎に行われるため、警告色の重畳箇所の視認性もよくなる。
【0054】
さらに、上述した実施の形態では、警告色の重畳がエッジ部分に対して行われるため、警告色表示によって、もとの被写体の形状が壊されてしまうことがなくなる。すなわち、極端な3D効果がつきそうな箇所が、より正確に表現されるようになる。
【0055】
<2.各種変形例>
なお、上述した実施の形態では、色分け処理部932(図2参照)によって警告画像を生成してから解像度復元部940で解像度を復元しているが、最初に解像度を復元してから警告画像の生成を行うように、順序を逆にしてもよい。
【0056】
また、上述した実施の形態では、フィルタ処理部933によるフィルタ処理を行っているが、フィルタ処理を行わないようにしてもよい。
【0057】
また、上述した実施の形態では、左眼用画像に基づいてエッジを抽出する例をあげたが、右眼用画像を用いてエッジ抽出を行うようにしてもよい。この場合は、図2に示した警告画像生成部930への入力である左眼用画像と右眼用画像とを入れ替えるとともに、遅延回路950に対して右眼用画像を入力するようにする。もしくは、左眼用画像に基づいて警告画像を生成するブロックと、右眼用画像に基づいて警告画像を生成するブロックを並列で設けるようにしてもよい。
【0058】
また、上述した実施の形態では、信号処理部40Rおよび40L(図1参照)から出力された映像信号に基づいて、警告画像生成処理部90が警告画像を生成する例をあげたが、これに限定されるものではない。記録再生処理部50Rおよび50Lから出力された映像信号に基づいて、警告画像生成処理部90が警告画像を生成するように構成してもよい。
【0059】
また、上述した実施の形態では、本開示の映像信号処理装置を、左右の撮像系が1つの筐体に格納された立体画像撮像装置に適用した例をあげたが、これに限定されるものではない。右眼用画像を撮影する撮像装置と、左眼用画像を撮影する撮像装置との2台の撮像装置で立体画像を撮影する立体画像撮像装置に適用してもよい。この場合は、警告画像生成処理部90は左右のいずれかの撮像装置内に設け、もう一方の撮像装置から映像信号を引き込んで警告画像生成処理部90に入力するようにする。もしくは、左右の両方の撮像装置に警告画像生成処理部90を設け、互いの映像信号を入力するように構成してもよい。
【0060】
もしくは、本開示の映像信号処理装置を、撮像系を有さない映像信号処理装置に適用してもよい。図11は、このような映像信号処理装置200の構成例を示す図である。映像信号処理装置200は、例えば制御部210と、出力信号制御部220とを備える。制御部210は、右眼用画像撮影用の撮像装置100Rと、左眼用画像撮影用の撮像装置100Lから入力される各映像信号に基づいて、アライメントずれや色ずれを補正する処理等を行う。制御部210には、警告画像生成処理部90も含まれる。出力信号制御部220は、映像信号を、出力端子(図示略)に接続されるモニタに合わせた形式に変換して出力する。
【0061】
本開示の映像信号処理装置を、このような立体画像撮像装置または映像信号処理装置に適用した場合にも、上述した実施の形態により得られる効果と同様の効果を得ることができる。
【0062】
なお、本開示は以下のような構成も取ることができる。
(1)左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成するエッジ抽出情報生成部と、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する警告色画像生成部と、
前記エッジ抽出情報生成部で生成されたエッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像生成部で生成された前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力する出力信号制御部とを備えた
映像信号処理装置。
(2)前記左眼用映像信号と前記右眼用映像信号の解像度を所定の低い解像度に変換して、前記視差算出部に出力する低解像度化部と、
前記警告色画像または、前記視差が算出された段階での映像信号の解像度を、前記低解像度化部による低解像度化が行われる前の解像度に復元する解像度復元部とを備えた(1)に記載の映像信号処理装置。
(3)前記警告画像生成部は、前記算出された視差の大きさとして示される、撮像装置に対する被写体の奥行き方向の距離である深度を、少なくとも第1の閾値によって2つの領域に分割し、前記第1の閾値以上である領域または、前記第1の閾値未満の領域に対しては、前記警告色を対応付けない(1)または(2)に記載の映像信号処理装置。
(4)前記警告画像を所定のフレーム数分蓄積してその積分をとることによって、前記警告画像に対して時間軸方向のフィルタリングをかけるフィルタ処理部をさらに備える(1)〜(3)のいずれかに記載の映像信号処理装置。
(5)被写体光を光電変換して映像信号を生成する、右眼用の撮像素子および左眼用の撮像素子をさらに備える(1)〜(4)のいずれかに記載の映像信号処理装置。
(6)前記第1の閾値および前記第2の閾値の値は、前記出力信号制御部から出力される映像信号が入力される表示装置の大きさに対応して複数種類設けられる(1)〜(5)のいずれかに記載の映像信号処理装置。
(7)左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成することと、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成することと、
前記エッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力することとを含む映像信号処理方法。
(8)エッジ部分であると判断された画素であり、かつ、右眼用の撮影画像と左眼用の撮影画像の表示画面上での距離である視差が、予め定められた所定の範囲を超えている画素に、前記視差の量に応じて色を異ならせた警告色が重なって表示される映像信号を生成する映像信号処理装置。
【符号の説明】
【0063】
10L…レンズ、10R…レンズ、20L…撮像素子、20R…撮像素子、30…制御部、40L…信号処理部、40R…信号処理部、50L…記録再生処理部、50R…記録再生処理部、60…記録部、70…表示処理部、80…表示部、90…警告画像生成処理部、100…立体画像撮像装置、100L…撮像装置、100R…撮像装置、200…映像信号処理装置、210…制御部、220…出力信号制御部、910…エッジ抽出情報生成部、911…エッジ検出部、912…2値化処理部、913…遅延回路、913a…書き込みアドレス管理部、913b…データ保持部、913c…読み出しアドレス管理部、920L…低解像度化部、920R…低解像度化部、930…警告画像生成部、931…視差算出部、932…処理部、933…フィルタ処理部、940…解像度復元部、950…遅延回路、960…スイッチ、Da1…第1の領域、Da2…第2の領域、Da3…第3の領域、Th1,Th2…閾値、Wc1,Wc2…警告色
【技術分野】
【0001】
本開示は、立体画像を撮影する立体画像撮像装置に適用して好適な映像信号処理装置およびその映像信号処理方法に関する。
【背景技術】
【0002】
従来、左眼用の画像と右眼用の画像を撮影する立体画像撮像装置が知られている。立体画像の立体感は、左右の画像のズレ量である視差によって表現され、視差をゼロにした場合には、立体画像の再生位置はディスプレイ等の表示面と一致する。右眼用の画像に対して左眼用の画像が右方向に視差を有する場合は、立体像はディスプレイの手前側で再生される。反対に、右眼用の画像に対して左眼用の画像が左方向に視差を有する場合には、立体像は奥行きを持った像として再生される。
【0003】
このような立体像の手前方向への飛び出し量や奥行き方向への奥まり量は、視差の量を変化させることにより調整することができる。ただし、過度の視差は、視聴者が立体画像の融像をできなくなったり、視覚疲労や不快感をおぼえる原因となる。このため、立体画像撮像装置や、立体画像撮像装置から左右の視差画像を入力して画像処理を行う映像信号処理装置等においては、視聴者に不快感を与えるような映像が撮像および/または記録されてしまうことを防ぐための様々な工夫がされている。例えば特許文献1には、左撮像系と右撮像系とにおける合焦位置のズレを防ぐことによって、立体視し易く眼が疲れにくい立体視画像を得ることができることが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2011−28053号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
また、左右の視差画像の視差が過大となり、極端な3D効果がついてしまいそうな場合に、そのことをユーザに表示画面上で喚起(警告)する技術も知られている。ある箇所に極端な3D効果が付きそうか否かの判断は、例えば、左右の視差画像において抽出された特徴点間の距離の大きさに基づいて行われる。そして、特徴点間の距離が大きすぎる場合に、立体画像の飛び出し量や奥まり量が過度に付いてしまう危険があると判断する。表示画面上での警告は、抽出された特徴点上に、左右の特徴点間の距離によって異ならせた警告色を重畳して表示すること等により行われる。または、横軸で特徴点間の距離を表し、縦軸でその距離を持つ画素の総数を示したヒストグラム等によっても表現される。
【0006】
ところが、この手法では、左右の視差画像間の視差の大きさの測定が、画面上の特定の箇所にしか行われないため、警告色の表示も、視差の測定が行われた特定の箇所に対してしか行われない。ヒストグラムで表示される場合には、警告色の表示は画像とは関係のないグラフ上で行われる。このため、極端な3D効果がつきそうな箇所を、ユーザが表示画面上で直感的に把握することが難しいという問題があった。
【0007】
本開示はかかる点に鑑みてなされたものであり、極端な3D効果がつきそうな箇所を、ユーザが直感的に把握しやすいユーザ・インタフェースで、ユーザに提供することを眼的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本開示の映像信号処理装置は、エッジ抽出情報生成部と、警告色画像生成部と、出力信号制御部とを備える構成とし、各部の構成及び機能を次のようにする。エッジ抽出情報生成部は、左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成する。警告色画像生成部は、左眼用の映像信号と右眼用の映像信号に基づいて、左眼用の映像信号よりなる左眼用の撮影画像と、右眼用の映像信号よりなる右眼用の撮影画像との視差を算出する。さらに、算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する。出力信号制御部は、エッジ抽出情報生成部で生成されたエッジ抽出情報に基づいて、注目画素がエッジ部分である場合には、警告色画像生成部で生成された警告色画像を出力する。注目画素がエッジ部分でない場合には、左眼用の映像信号または右眼用の映像信号を出力する。
【0009】
また、上記課題を解決するために、本開示の映像信号処理方法は、次の手順で行う。まず、左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成する。次に、左眼用の映像信号と右眼用の映像信号に基づいて、左眼用の映像信号よりなる左眼用の撮影画像と、右眼用の映像信号よりなる右眼用の撮影画像との視差を算出する。次に、算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する。次に、エッジ抽出情報に基づいて、注目画素がエッジ部分である場合には警告色画像を出力し、注目画素がエッジ部分でない場合には、左眼用の映像信号または右眼用の映像信号を出力する。
【0010】
このように構成および処理することで、左右の視差画像間の視差の大きさ、すなわち立体画像の表示面に対する奥行き方向の深度が、異なる警告色によって、エッジ抽出情報が検知された画素に重畳して表示されるようになる。つまり、極端な3D効果がつく恐れのある箇所のエッジ部分に、深度に応じて色を異ならせた警告色が重畳して表示される。
【発明の効果】
【0011】
本開示の映像信号処理装置および映像信号処理方法によれば、極端な3D効果がつく恐れのある箇所が、ユーザにとって直感的に分かりやすいユーザ・インタフェースで、ユーザに提供されるようになる。
【図面の簡単な説明】
【0012】
【図1】本開示の一実施形態による立体画像撮像装置の構成例を示すブロック図である。
【図2】本開示の一実施形態による警告画像生成処理部の構成例を示すブロック図である。
【図3】本開示の一実施形態によるエッジ抽出処理の例を示す説明図であり、(a)は垂直方向のエッジを抽出するフィルタの例を示し、(b)は水平方向のエッジを抽出するフィルタの例を示す。
【図4】本開示の一実施形態によるエッジ抽出処理および2値化処理の例を示す説明図であり、(a)はエッジ抽出処理が行われる前の元画像の例を示し、(b)はエッジ抽出処理後の画像の例を示し、(c)は2値化された画像の例を示す。
【図5】本開示の一実施形態による遅延回路の構成例を示すブロック図である。
【図6】本開示の一実施形態による低解像度化処理の例を示す説明図であり、(a)は低解像度化される前の元画像の例を示し、(b)は、低解像度化された画像の例を示す。
【図7】本開示の一実施形態による視差算出処理の例を示す説明図であり、(a)は視差算出処理の対象となる左眼用画像の例を示し、(b)は視差算出処理の対象となる右眼用画像の例を示す。
【図8】本開示の一実施形態による色分け処理の例を示す説明図である。
【図9】本開示の一実施形態によるスイッチの切り替え処理の例を示すフローチャートである。
【図10】本開示の一実施形態による警告画像が重畳された画像の例を示す図である。
【図11】本開示の変形例による映像信号処理装置の構成例を示すブロック図である。
【発明を実施するための形態】
【0013】
以下に、本開示の実施形態に係る映像信号処理装置の具体例を、図面を参照しながら下記の順で説明する。
1.映像信号処理装置を立体画像撮像装置に適用した場合の構成例
2.警告色画像生成処理部の構成および処理の例
3.各種変形例
【0014】
<1.映像信号処理装置の構成例>
まず、続いて本開示の実施形態に係る映像信号処理装置の構成例を説明する。本実施の形態では、映像信号処理装置を、左眼用画像の撮像系と右眼用画像の撮像系とを有する立体画像撮像装置に適用して説明する。図1は、立体画像撮像装置100の内部構成例を示すブロック図である。
【0015】
立体画像撮像装置100は、右眼用画像の処理系統として、レンズ10Rと、撮像素子20Rと、信号処理部40Rと、記録再生処理部50Rとを備える。また、左眼用の処理系統として、レンズ10Lと、撮像素子20Lと、信号処理部40Lと、記録再生処理部50Lとを備える。右眼用画像の処理系等を構成する各部と、左眼用画像の処理系等を構成する各部は、それぞれが有する機能は同一であるため、各部の機能の説明は、右眼用画像の処理系等についてのみ行う。
【0016】
レンズ10Rは、右眼用画像を撮影するレンズであり、多数枚・多群のレンズやフィルタ、絞り、レンズ駆動機構などから構成されているものとする。さらに、これらの機構に加えて、ズーム機能や焦点調節機能、その他の機能があってもよい。撮像素子20Rは、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の素子で構成される。撮像素子20Rには、その受光面上に複数の光電変換素子が二次元的に配置されている。各光電変換素子は画素を構成し、撮像面上で各光電変換素子が占める位置が画素位置に対応する。各光電変換素子は、受光面に結像された被写体光の光量に応じた信号電荷を蓄積する。各光電変換素子に蓄積された信号電荷は、CPU(Central Processing Unit)等よりなる制御部30の制御によって読み出され、信号処理部40Rに出力される。
【0017】
信号処理部40Rは、撮像素子20Rから読み出された信号電荷に含まれるノイズを除去するCDS(相関二重サンプリング)回路や、ノイズが除去された信号のレベルを一定のレベルにコントロールするAGC(Automatic Gain Control)回路を含む。また、これらの処理が行われたアナログの映像信号をデジタルの映像信号に変換するA/Dコンバータも含む。なお、撮像素子20RをCMOS素子で構成した場合には、これらの各処理は撮像素子20R内で行われる。
【0018】
記録再生処理部50Rは、制御部30の制御に基づいて、信号処理部40Rで信号処理された映像信号を所定の形式で圧縮したり、入力された圧縮画像を伸張したりする処理を行う。圧縮した映像信号は、ビデオテープやHDD(Hard Disc Drive)、メモリカード等よりなる記録部60に記録し、記録部60から読み出して圧縮した映像信号は、表示処理部70に出力する。表示処理部70は、LCD(Liquid Crystal Display)等よりなる表示部80に映像信号を表示させるための処理を行う。表示部80は、ビューファインダとして構成される。
【0019】
警告画像生成処理部90は、信号処理部40Rから入力される右眼用の映像信号と、信号処理部40Lから入力される左眼用の映像信号に基づいて左右の視差画像間の視差を算出し、視差の大きさに応じて異ならせた警告色を被写体のエッジ部分に重畳して出力する。警告色が重畳された警告画像は、表示処理部70に供給され、表示処理部70によって表示部80に表示される。
【0020】
なお、図1では図示を省略しているが、立体画像撮像装置100は、コンバージェンス(輻輳角)を、レンズの向き等の制御によって光学的に調整する機構もしくは、レンズ全体の回転または移動によって機械的に調整する輻輳角制御部を備える。ユーザが、画面上に表示された警告色が表示されなくなるようにコンバージェンスやズームを調整することで、撮影画像における視差が適正な範囲内に収まるようになる。つまり、立体画像に極端な3D効果がついてしまうことを防ぐことができる。
【0021】
<2.警告画像生成処理部の構成および処理の例>
[2−1.警告画像生成処理部の構成例]
図2は、警告画像生成処理部90の構成例を示すブロック図である。警告画像生成処理部90は、エッジ抽出情報生成部910と、低解像度化部920Lおよび920Rと、警告画像生成部930と、解像度復元部940と、遅延回路950と、出力信号制御部としてのスイッチ960とを備える。
【0022】
エッジ抽出情報生成部910は、エッジ検出部911と、2値化処理部912と、遅延回路913とを含む。エッジ検出部911は、信号処理部40R(図1参照)から出力される左眼用画像に基づいて、画像中で画素の濃淡が急激に変化するエッジ部分を抽出する。エッジの抽出には、例えばソーベルフィルタ等のフィルタを使用する。
【0023】
図3は、ソーベルフィルタの構成例を示したものである。図3(a)は垂直方向のエッジを抽出するフィルタであり、図3(b)は水平方向のエッジを抽出するフィルタである。図3(a)の垂直エッジ抽出用フィルタは、注目画素とその左側の一列および右側の一列の各画素との差分を抽出し、図3(b)の水平エッジ抽出用フィルタは、注目画素とその上側の一列および下側の一列の各画素との差分を抽出する。これらのフィルタの抽出結果を加算することにより、画像における縦横両方向のエッジを抽出することができる。
【0024】
なお、本実施の形態ではソーベルフィルタを用いた例をあげたが、微分フィルタやハイパスフィルタ等の他の手段を用いてエッジ抽出を行うようにしてもよい。
【0025】
図2に戻って説明を続けると、2値化処理部912は、エッジ抽出情報生成部910から出力された画像に対して閾値処理を行うことにより、画像内の領域をエッジ部と非エッジ部とに分ける。つまり、エッジ部分として検出された画素に対して、予め定めた閾値を超えたものに対しては例えば“1”を出力し、閾値以下のものに対しては“0”を出力する。閾値の大きさは、例えば設計者が経験則に基づいて算出される値をヒューリスティックに設定する。
【0026】
もしくは、ある一定の範囲を持たせた閾値の中から、ユーザが任意の値を選択できるように構成してもよい。閾値の大きさによって抽出されるエッジの太さが異なるため、エッジに重畳される警告色の見え方も閾値の大きさによって変化する。このため、閾値をユーザに選択させる構成とすることで、警告色が重畳される線(エッジ)の太さを、ユーザの好みの太さに調整させることも可能となる。
【0027】
図4(a)は、エッジ抽出情報生成部910に入力される元画像を示したものであり、エッジ抽出情報生成部910がエッジの抽出を行うことにより、図4(b)に示すようなエッジ部分が抽出された画像が生成される。この図4(b)に示す画像を、2値化処理部912がさらに閾値処理することにより、図4(b)に示すように白黒の2色で絵柄が表現されるようになる。すなわち、各画素が、エッジ部分であるかそれ以外の部分であるかの2値で表現される。2値化処理部912は、閾値処理によって求められた2値の情報との組を、エッジ抽出情報として垂直同期信号および水平同期信号とともに遅延回路913に出力する。
【0028】
再び図2に戻って説明を続けると、遅延回路913は、2値化処理部912から出力されたエッジ抽出情報を、所定の時間だけ遅延させて出力する。遅延回路913によって加えられる遅延の量は、後述する低解像度化部920Lと920Rに左右の画像が入力されてから警告色画像が生成されるまでの時間と、エッジ抽出情報が生成される時間との差分によって求められる。エッジ抽出情報が生成される時間よりも、警告色画像が生成される時間のほうが長いため、警告色画像が出力されるタイミングとエッジ抽出情報が出力されるタイミングとを一致させる目的で、エッジ抽出情報に遅延を加えている。
【0029】
遅延回路913の構成例を図5に示す。遅延回路913は、書き込みアドレス管理部913aと、デュアルポートRAM(Random Access Memory)等よりなるデータ保持部913bと、読み出しアドレス管理部913cとで構成される。書き込みアドレス管理部913aは、制御部30(図1参照)の制御に基づいて、データ保持部913bのアドレス空間内でサイクリックにアドレスをカウントアップする。そして、カウントアップしたアドレスを、ライトアドレスとしてデータ保持部913bに印加する。読み出しアドレス管理部913cは、制御部30の制御に基づいて、データ保持部913bのアドレス空間内でサイクリックにアドレスをカウントアップする。そして、カウントアップしたアドレスを、リードアドレスとしてデータ保持部913bに印加する。
【0030】
つまり、データ保持部913bには、書き込みアドレス管理部913aによって印加されたライトアドレスに、ライトアドレスが印加されたタイミングでデータが書き込まれる。また、データ保持部913bに書き込まれているデータは、読み出しアドレス管理部913cによって印加されたリードアドレスから、リードアドレスが印加されたタイミングで読み出される。このリードアドレスとライトアドレスとの番地の差が大きいほど、データ保持部913bにデータが書き込まれてから読み出されるまでの時間が長くなる。つまり、この差分が、エッジ抽出情報に加えられる遅延量となる。
【0031】
再び図2に戻って説明を続ける。低解像度化部920Lは、信号処理部40L(図1参照)から入力される左眼用画像の解像度を、より低い解像度に変換して出力する。低解像度化部920Rは、信号処理部40Rから入力される右眼用画像の解像度を、より低い解像度に変換して出力する。入力された画像の低解像度化は、例えば、画素間引きや平均化等の手法で行う。縦横の各画素を1/4画素ずつ間引けば、解像度を1/16に落とすことができる。低解像度化部920Lと低解像度化部920Rによってこのような処理が行われることにより、図6(a)に示す元画像が、図6(b)に示すような低解像度の画像に変換される。これにより、後段の警告画像生成部930(図2参照)に入力される画像のデータ量が大幅に削減される。
【0032】
警告画像生成部930は、視差算出部931と、色分け処理部932と、フィルタ処理部933とを含む。視差算出部931は、低解像度化部920Lと低解像度化部920Rによって低解像度化された左右の入力画像を用いて、各画素における左右の画素間の視差を算出する。図7は、視差算出部931による視差算出処理の例を示す図である。図7(a)は右眼用画像を示し、図7(b)は左眼用画像を示す。いずれの画像とも、横方向n画素×縦方向m画素の(m×n)画素よりなるものとする。
【0033】
視差の算出は、左右の画像に対して画素単位でマッチングをかけ、マッチングのとれた両画素の画素値の差分を算出することにより行う。図7(a)に示す左眼用画像のPxL1を注目画素とした場合、まず、図7(b)に示す右眼用画像における、この画素PxL1と同じ180列目にあるすべての画素を、左端から右方向に順に走査する。続いて、画素毎に類似度をスコアに換算して記録する。180列目にあるすべての画素の走査が終了した時点で、一番スコアの高かった箇所の画素を抽出する。そして、抽出した画素の水平方向における座標と、比較元の左眼用画像の注目画素PxL1の水平方向の座標との差分を算出する。
【0034】
図7に示した例では、注目画素PxL1ともっとも類似している右眼用画像の画素は、画素PxR1である。注目画素PxL1の水平方向における座標は“250”であり、対応画素PxR1の水平方向における座標は“253”であるため、その差は“3”となる。この差分“3”は、左右の画像の水平方向におけるずれ量を示す値、つまり視差である。
【0035】
視差の大きさは、被写体の立体画像撮像装置100からの距離を表している。撮影時にコンバージェンスが大きく設定され、輻輳点が立体画像撮像装置100側(手前側)に形成される場合には、算出される視差は小さくなる。逆に、輻輳点が被写体側(奥側)に形成される場合には、視差は大きくなる。すなわち、視差量が、被写体の立体画像撮像装置100に対する奥行き方向の深度を示しているといえる。視差算出部931は、左右の画像を入力画像として視差を算出し、算出した視差の大きさを深度情報として、画素の情報とともに色分け処理部932(図2参照)に出力する。
【0036】
なお、本実施の形態では、左右の画像に対して画素単位でマッチングをかけた例をあげたが、これに限定されるものではない。特徴点を抽出し、その特徴点同士をマッチングさせてもよい。ただし、特徴点同士をマッチングさせる場合は、特徴点周辺以外の画素の深度情報を得ることができないため、低解像度化された画面全域にわたる深度情報を得る目的で、深度の測定を行った特徴点以外の画素に対する塗りつぶし等の処理を別途行う必要がある。
【0037】
色分け処理部932は、視差算出部931から入力された深度情報に対して、まず閾値処理を行う。図8は、色分け処理部932による色分け処理の例を示す図である。縦軸は深度を示し、横軸は画素の座標を示す。閾値としては、値の異なる2つの閾値Th1、閾値Th2を設けている。これらの閾値によって、深度が、深度0以上閾値Th1未満の第1の領域Da1と、閾値Th1以上閾値Th2未満の第2の領域Da2と、閾値Th2以上の第3の領域Da3に分割される。
【0038】
各領域Daには、予め対応する警告色を割り振ってある。図8に示す例では、第1の領域Da1には警告色Wc1が割り当てられ、第2の領域Da2には警告色の割り当てなし、第3の領域Da3には警告色Wc2が割り当てられている。色分け処理部932は、視差算出部931から入力された画素の深度が、上述した領域Daのうちのどの領域に区分されるかを判断し、区分された領域Daと対応づけられた警告色を、入力された画素に重畳して出力する。
【0039】
入力された画素の深度が第2の領域Da2に区分された場合には、警告色の重畳は行われない。つまり、第2の領域Da2は、警告色を表示する必要のない領域として設定してある。第2の領域Da2を決定づける閾値Th1と閾値Th2の値は、予め固定的な値を設定してもよく、表示部80(図1参照)上に表示したメニュー画面等から、ユーザに任意の値を選択できるようにしてもよい。
【0040】
ユーザに選択させる場合には、閾値Th1と閾値Th2を選択させるのではなく、例えば、画像の水平方向の幅において視差が占める割合を百分率で示した値を選択させる等の手法が考えられる。画像の横幅に対する視差の割合が指定されることによって、第2の領域Da2の範囲も定まる。この場合の「画像の横幅に対する視差の割合」は、立体映像撮影用のガイドライン等の中で「快適な視聴を行える視差範囲」等として示される情報に基づいて設定することができる。
【0041】
もしくは、閾値Th1と閾値Th2とを、画像が最終的に出力される表示画面(図示略)のサイズ毎に複数種類用意しておき、ユーザに画面のサイズを選択させることにより、閾値Th1と閾値Th2とが一意に定まるように構成してもよい。
【0042】
なお、本実施の形態では、閾値Thを2つ設けて深度を3つの領域に分割した例をあげたが、これに限定されるものではない。深度の領域をより細かく分割することにより、警告の度合いにも段階性を持たせるようにしてもよい。例えば、破綻する(極端な3D効果が付きすぎる)可能性が高い領域に区分された画素には赤い警告色を重畳し、破綻する可能性がある画素には黄色い警告色を重畳する。さらに、破綻する可能性がややある画素には、緑色の警告色を重畳する、等の手法が考えられる。あるいは、閾値Thを1つのみ設けて、深度が浅い側(もしくは深い側)の領域に区分された画素に対してのみ、警告色を重畳するようにしてもよい。
【0043】
また、上述した実施の形態では、深度が深すぎる、あるいは浅すぎる画素に警告色を重畳することで、ユーザに対して警告を行う例をあげたが、これに限定されるものではない。深度が分割されてなる各領域Daに対して、色ではなく異なるテクスチャを割り当ててもよい。もしくは、パターンの点滅周期を異ならせたものを各領域Daに割り当ててもよい。
【0044】
再び図2に戻って説明を続ける。フィルタ処理部933は、色分け処理部932から入力された警告色画像を所定のフレーム数分蓄積してその積をとることにより、同一画素における時間軸方向のフィルタリングを行う。例えば、入力された画素を数フレーム分蓄積して積をとり、数フレーム連続で同一の警告色が出力された場合にそれを採用する。同一の警告色が、積がとられた数フレームにおいて連続で出力されなかった場合には、警告色は重畳せずに画素を出力する。このような処理を行うことにより、出力画像にノイズが混入する可能性をより低くすることができる。画素を蓄積するフレーム数は、ノイズ除去効果をどの程度に設定したいか等の情報に基づいて、任意の値に設定可能であるものとする。
【0045】
フィルタ処理部933でフィルタリングされた警告色画像は、解像度復元部940に出力される。解像度復元部940は、入力された警告色画像の解像度を、元の解像度に復元する処理を行う。元の解像度への復元は、例えば、低解像度化部920Lと920Rによって解像度が1/16に落とされた場合には、同じ画素を16個並べて単純に拡大することによって行う。もしくは、他の方法を用いて解像度を復元してもよい。解像度復元部940で解像度が復元された警告色画像は、スイッチ960に供給される。
【0046】
遅延回路950は、信号処理部40L(図1参照)から出力された左眼用画像を、所定の時間だけ遅延させて出力する。つまり、スイッチ960に供給される警告色画像の位相と、信号処理部40Lから出力された左眼用画像の位相の差をなくすための遅延量が、元画像として出力される左眼用画像に付加される。遅延回路950の構成は、図5を参照して説明した遅延回路913と同一であるため、説明は省略する。
【0047】
スイッチ960には、解像度が復元された高解像度の警告色画像と、遅延回路950によってその位相が警告色画像の位相と同相に調整された元画像とが供給され、いずれかの画像が選択されて出力される。スイッチ960の接続先の切り替えは、エッジ抽出情報生成部910から供給されるエッジ抽出情報に基づいて行われる。
【0048】
[2−2.警告画像生成処理部の処理の例]
図9は、スイッチ960による切り替え処理の例を示すフローチャートである。まず、エッジ抽出情報生成部910から供給されたエッジ抽出情報に基づいて、エッジが検出されたか否かが判断される(ステップS11)。すなわち、注目画素が、エッジ部分の画素であるか否かが判断される。エッジが検出された場合には、スイッチ960の接続先が解像度復元部940側に切り替えられ、警告色画像が出力される(ステップS12)。エッジが検出されなかった場合には、スイッチ960の接続先が遅延回路950側に切り替えられ、元画像が出力される(ステップS13)。続いて、入力信号があるか否かが判断され、ある場合にはステップS11に戻って処理が続けられる。ない場合には、処理は終了となる。
【0049】
このような処理が行われることにより、図10に示すように、被写体のエッジ部分であり、かつ視差が大きくついている部分、つまり飛び出し量や奥まり量が大きくなりすぎている部分に、警告色が重畳して表示される。図10には、領域Da1に分類された、飛び出し量がつきすぎる画素に対しては警告色Wc1が重畳され、領域Da3に分類された、奥まり量がつきすぎる画素に対しては警告色Wc2が重畳されている。
【0050】
上述した本実施の形態によれば、撮影画像に極端な3D効果がつきそうな場合に、そのエッジ部分全体に警告色が重畳して表示されるため、極端な3D効果が付きそうな箇所を、ユーザが直感的に把握することが可能となる。そして、警告色がついたエッジとして示される警告表示を見たユーザが、警告色が表示されないようにコンバージェンスおよび/またはズームを調整することにより、左右の視差画像間の視差が適正な範囲内に収まるようになる。
【0051】
また、エッジ抽出情報生成部910では、元の高解像度のままの画像に基づいてエッジの抽出を行っており、かつ、高解像度の画像から抽出されたエッジ部分に、警告色が重畳される。つまり、警告色画像が高解像度で表示されるようになる。このような仕組みによって高解像度による警告色画像の表示が担保されるため、警告画像の生成を、低解像度化した画像に基づいて行うことができるようになる。
【0052】
そして、警告画像生成の元となる深度情報の算出を、低解像度化部920Lと920Rとが低解像度化された画像を用いて行っているため、深度情報の算出を行う視差算出処理の処理量が大幅に軽減される。これにより、視差算出部931を構成するCPUやFPGA(Field-Programmable Gate Array)等のリソースを大幅に削減することが可能となる。したがって、バッテリーにより駆動するビデオカメラレコーダー等においても、本開示の映像信号処理方法による高解像度での警告画像の生成が可能となる。つまり、立体画像撮影における収録素材の安全性の確保および、ユーザが直感的に把握しやすい方法での警告画像の表示を、単体の商品のみによって実現できるようになる。
【0053】
また、上述した実施の形態では、低解像度化部920Lと920Rによって低解像度化された画像を用いて視差を算出しているため、視差算出処理にかかる時間が短くて済む。これにより、映像信号のフレームレートと同一のレートで警告色の表示を行うことができるようになる。また、警告色の表示がフレーム毎に行われるため、警告色の重畳箇所の視認性もよくなる。
【0054】
さらに、上述した実施の形態では、警告色の重畳がエッジ部分に対して行われるため、警告色表示によって、もとの被写体の形状が壊されてしまうことがなくなる。すなわち、極端な3D効果がつきそうな箇所が、より正確に表現されるようになる。
【0055】
<2.各種変形例>
なお、上述した実施の形態では、色分け処理部932(図2参照)によって警告画像を生成してから解像度復元部940で解像度を復元しているが、最初に解像度を復元してから警告画像の生成を行うように、順序を逆にしてもよい。
【0056】
また、上述した実施の形態では、フィルタ処理部933によるフィルタ処理を行っているが、フィルタ処理を行わないようにしてもよい。
【0057】
また、上述した実施の形態では、左眼用画像に基づいてエッジを抽出する例をあげたが、右眼用画像を用いてエッジ抽出を行うようにしてもよい。この場合は、図2に示した警告画像生成部930への入力である左眼用画像と右眼用画像とを入れ替えるとともに、遅延回路950に対して右眼用画像を入力するようにする。もしくは、左眼用画像に基づいて警告画像を生成するブロックと、右眼用画像に基づいて警告画像を生成するブロックを並列で設けるようにしてもよい。
【0058】
また、上述した実施の形態では、信号処理部40Rおよび40L(図1参照)から出力された映像信号に基づいて、警告画像生成処理部90が警告画像を生成する例をあげたが、これに限定されるものではない。記録再生処理部50Rおよび50Lから出力された映像信号に基づいて、警告画像生成処理部90が警告画像を生成するように構成してもよい。
【0059】
また、上述した実施の形態では、本開示の映像信号処理装置を、左右の撮像系が1つの筐体に格納された立体画像撮像装置に適用した例をあげたが、これに限定されるものではない。右眼用画像を撮影する撮像装置と、左眼用画像を撮影する撮像装置との2台の撮像装置で立体画像を撮影する立体画像撮像装置に適用してもよい。この場合は、警告画像生成処理部90は左右のいずれかの撮像装置内に設け、もう一方の撮像装置から映像信号を引き込んで警告画像生成処理部90に入力するようにする。もしくは、左右の両方の撮像装置に警告画像生成処理部90を設け、互いの映像信号を入力するように構成してもよい。
【0060】
もしくは、本開示の映像信号処理装置を、撮像系を有さない映像信号処理装置に適用してもよい。図11は、このような映像信号処理装置200の構成例を示す図である。映像信号処理装置200は、例えば制御部210と、出力信号制御部220とを備える。制御部210は、右眼用画像撮影用の撮像装置100Rと、左眼用画像撮影用の撮像装置100Lから入力される各映像信号に基づいて、アライメントずれや色ずれを補正する処理等を行う。制御部210には、警告画像生成処理部90も含まれる。出力信号制御部220は、映像信号を、出力端子(図示略)に接続されるモニタに合わせた形式に変換して出力する。
【0061】
本開示の映像信号処理装置を、このような立体画像撮像装置または映像信号処理装置に適用した場合にも、上述した実施の形態により得られる効果と同様の効果を得ることができる。
【0062】
なお、本開示は以下のような構成も取ることができる。
(1)左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成するエッジ抽出情報生成部と、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する警告色画像生成部と、
前記エッジ抽出情報生成部で生成されたエッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像生成部で生成された前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力する出力信号制御部とを備えた
映像信号処理装置。
(2)前記左眼用映像信号と前記右眼用映像信号の解像度を所定の低い解像度に変換して、前記視差算出部に出力する低解像度化部と、
前記警告色画像または、前記視差が算出された段階での映像信号の解像度を、前記低解像度化部による低解像度化が行われる前の解像度に復元する解像度復元部とを備えた(1)に記載の映像信号処理装置。
(3)前記警告画像生成部は、前記算出された視差の大きさとして示される、撮像装置に対する被写体の奥行き方向の距離である深度を、少なくとも第1の閾値によって2つの領域に分割し、前記第1の閾値以上である領域または、前記第1の閾値未満の領域に対しては、前記警告色を対応付けない(1)または(2)に記載の映像信号処理装置。
(4)前記警告画像を所定のフレーム数分蓄積してその積分をとることによって、前記警告画像に対して時間軸方向のフィルタリングをかけるフィルタ処理部をさらに備える(1)〜(3)のいずれかに記載の映像信号処理装置。
(5)被写体光を光電変換して映像信号を生成する、右眼用の撮像素子および左眼用の撮像素子をさらに備える(1)〜(4)のいずれかに記載の映像信号処理装置。
(6)前記第1の閾値および前記第2の閾値の値は、前記出力信号制御部から出力される映像信号が入力される表示装置の大きさに対応して複数種類設けられる(1)〜(5)のいずれかに記載の映像信号処理装置。
(7)左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成することと、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成することと、
前記エッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力することとを含む映像信号処理方法。
(8)エッジ部分であると判断された画素であり、かつ、右眼用の撮影画像と左眼用の撮影画像の表示画面上での距離である視差が、予め定められた所定の範囲を超えている画素に、前記視差の量に応じて色を異ならせた警告色が重なって表示される映像信号を生成する映像信号処理装置。
【符号の説明】
【0063】
10L…レンズ、10R…レンズ、20L…撮像素子、20R…撮像素子、30…制御部、40L…信号処理部、40R…信号処理部、50L…記録再生処理部、50R…記録再生処理部、60…記録部、70…表示処理部、80…表示部、90…警告画像生成処理部、100…立体画像撮像装置、100L…撮像装置、100R…撮像装置、200…映像信号処理装置、210…制御部、220…出力信号制御部、910…エッジ抽出情報生成部、911…エッジ検出部、912…2値化処理部、913…遅延回路、913a…書き込みアドレス管理部、913b…データ保持部、913c…読み出しアドレス管理部、920L…低解像度化部、920R…低解像度化部、930…警告画像生成部、931…視差算出部、932…処理部、933…フィルタ処理部、940…解像度復元部、950…遅延回路、960…スイッチ、Da1…第1の領域、Da2…第2の領域、Da3…第3の領域、Th1,Th2…閾値、Wc1,Wc2…警告色
【特許請求の範囲】
【請求項1】
左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成するエッジ抽出情報生成部と、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する警告色画像生成部と、
前記エッジ抽出情報生成部で生成されたエッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像生成部で生成された前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力する出力信号制御部とを備えた
映像信号処理装置。
【請求項2】
前記左眼用映像信号と前記右眼用映像信号の解像度を所定の低い解像度に変換して、前記視差算出部に出力する低解像度化部と、
前記警告色画像または、前記視差が算出された段階での映像信号の解像度を、前記低解像度化部による低解像度化が行われる前の解像度に復元する解像度復元部とを備えた
請求項1に記載の映像信号処理装置。
【請求項3】
前記警告画像生成部は、前記算出された視差の大きさとして示される、撮像装置に対する被写体の奥行き方向の距離である深度を、少なくとも第1の閾値よって2つの領域に分割し、前記第1の閾値以上である領域もしくは前記第1の閾値未満の領域に対しては、前記警告色を対応付けない
請求項2に記載の映像信号処理装置。
【請求項4】
前記警告画像を所定のフレーム数分蓄積してその積分をとることによって、前記警告画像に対して時間軸方向のフィルタリングをかけるフィルタ処理部をさらに備える
請求項3に記載の映像信号処理装置。
【請求項5】
被写体光を光電変換して映像信号を生成する、右眼用の撮像素子および左眼用の撮像素子をさらに備える
請求項3に記載の映像信号処理装置。
【請求項6】
前記第1の閾値および前記第2の閾値の値は、前記出力信号制御部から出力される映像信号が入力される表示装置の大きさに対応して複数種類設けられる
請求項3に記載の映像信号処理装置。
【請求項7】
左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成することと、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成することと、
前記エッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力することとを含む
映像信号処理方法。
【請求項8】
エッジ部分であると判断された画素であり、かつ、右眼用の撮影画像と左眼用の撮影画像の表示画面上での距離である視差が、予め定められた所定の範囲を超えている画素に、前記視差の量に応じて色を異ならせた警告色が重なって表示される映像信号を生成する
映像信号処理装置。
【請求項1】
左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成するエッジ抽出情報生成部と、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成する警告色画像生成部と、
前記エッジ抽出情報生成部で生成されたエッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像生成部で生成された前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力する出力信号制御部とを備えた
映像信号処理装置。
【請求項2】
前記左眼用映像信号と前記右眼用映像信号の解像度を所定の低い解像度に変換して、前記視差算出部に出力する低解像度化部と、
前記警告色画像または、前記視差が算出された段階での映像信号の解像度を、前記低解像度化部による低解像度化が行われる前の解像度に復元する解像度復元部とを備えた
請求項1に記載の映像信号処理装置。
【請求項3】
前記警告画像生成部は、前記算出された視差の大きさとして示される、撮像装置に対する被写体の奥行き方向の距離である深度を、少なくとも第1の閾値よって2つの領域に分割し、前記第1の閾値以上である領域もしくは前記第1の閾値未満の領域に対しては、前記警告色を対応付けない
請求項2に記載の映像信号処理装置。
【請求項4】
前記警告画像を所定のフレーム数分蓄積してその積分をとることによって、前記警告画像に対して時間軸方向のフィルタリングをかけるフィルタ処理部をさらに備える
請求項3に記載の映像信号処理装置。
【請求項5】
被写体光を光電変換して映像信号を生成する、右眼用の撮像素子および左眼用の撮像素子をさらに備える
請求項3に記載の映像信号処理装置。
【請求項6】
前記第1の閾値および前記第2の閾値の値は、前記出力信号制御部から出力される映像信号が入力される表示装置の大きさに対応して複数種類設けられる
請求項3に記載の映像信号処理装置。
【請求項7】
左眼用に撮影された左眼用の映像信号または、右眼用に撮影された右眼用の映像信号を入力信号として、注目画素がエッジ部分であるか否かを示すエッジ抽出情報を生成することと、
前記左眼用の映像信号と前記右眼用の映像信号に基づいて、前記左眼用の映像信号よりなる左眼用の撮影画像と、前記右眼用の映像信号よりなる右眼用の撮影画像との視差を算出し、前記算出された視差の大きさと対応づけられた複数種類の警告色を、各画素に重畳して警告色画像を生成することと、
前記エッジ抽出情報に基づいて、前記注目画素がエッジ部分である場合には、前記警告色画像を出力し、前記注目画素がエッジ部分でない場合には、前記左眼用の映像信号または前記右眼用の映像信号を出力することとを含む
映像信号処理方法。
【請求項8】
エッジ部分であると判断された画素であり、かつ、右眼用の撮影画像と左眼用の撮影画像の表示画面上での距離である視差が、予め定められた所定の範囲を超えている画素に、前記視差の量に応じて色を異ならせた警告色が重なって表示される映像信号を生成する
映像信号処理装置。
【図1】
【図2】
【図3】
【図5】
【図8】
【図9】
【図11】
【図4】
【図6】
【図7】
【図10】
【図2】
【図3】
【図5】
【図8】
【図9】
【図11】
【図4】
【図6】
【図7】
【図10】
【公開番号】特開2013−55565(P2013−55565A)
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願番号】特願2011−193493(P2011−193493)
【出願日】平成23年9月6日(2011.9.6)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願日】平成23年9月6日(2011.9.6)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]