説明

画像処理装置、画像表示システム、及び、画像処理方法

【課題】映像信号に含まれる画像に影響を与えること無く、映像信号の異常を検出することができる技術を提供する。
【解決手段】画像表示システムにおいては、画像結合回路32の映像送信部32aから視点変換回路33に映像信号が送信される。画像結合回路32のデータ付加部32bは、映像送信部32aが送信する映像信号のブランキング期間に対応する部分に所定の検査用データを付加する。一方で、視点変換回路33の異常検出部33bは、映像受信部33aが受信した映像信号に含まれる検査用データに基づいて、映像信号の異常を検出する。このため、映像信号に含まれる画像に影響を与えること無く、映像信号の異常を検出できる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像を処理する技術に関する。
【背景技術】
【0002】
一般に、画像処理には膨大な量の演算が必要となる。このため、画像処理装置では、それぞれが所定の画像処理を実行する複数の集積回路(ASICなど)を備えて、画像処理の高速化を図っていることが多い。画像処理装置においては、このような複数の集積回路などの部位同士の間で、画像を含む映像信号が送受信される。
【0003】
なお、本明細書で説明する技術に関連する技術を開示した文献として特許文献1がある。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−340970号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、映像信号の送受信を行う場合において、映像信号を伝達する信号線において断線や短絡などが生じていたときには、受信側の部位で受信される映像信号に異常が生じる可能性がある。その結果、映像信号に含まれる画像において、色相や彩度が変わるなどの欠陥が生じる。このような欠陥のある画像を表示装置で表示させると、画像を視認するユーザに誤解を与える可能性がある。
【0006】
特に、車両の周辺を撮影して得られた画像を車両内の表示装置に表示するような画像表示システムの場合においては、このような欠陥のある画像が表示装置に表示されると、車両の周辺の様子をユーザが誤って判断し、ユーザが誤った運転を行う可能性がある。
【0007】
これに対応するため、映像信号に周期的に含まれる画像の一部をカラーバー等の検査用画像に変更し、受信側の部位で受信された検査用画像の状態に基づいて映像信号の異常を検出する手法が考えられる。しかしながら、この手法を採用した場合には映像信号に周期的に含まれるべき画像の一部が欠落してしまい、動体の動きのスムーズさが失われるなど、画像を視認するユーザに違和感を与えることになる。
【0008】
本発明は、上記課題に鑑みてなされたものであり、映像信号に含まれる画像に影響を与えること無く、映像信号の異常を検出することができる技術を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記課題を解決するため、請求項1の発明は、画像を処理する画像処理装置であって、映像信号を送信する送信手段と、前記送信手段から送信された前記映像信号を受信する受信手段と、前記受信手段で受信された前記映像信号に含まれる画像に基づく表示画像を表示装置に出力して表示させる出力手段と、前記送信手段が送信する前記映像信号のブランキング期間に対応する部分に検査用データを付加する付加手段と、前記受信手段で受信された前記映像信号に含まれる前記検査用データに基づいて、前記映像信号の異常を検出する検出手段と、を備えている。
【0010】
また、請求項2の発明は、請求項1に記載の画像処理装置において、前記検出手段が前記異常を検出した場合は、前記表示画像に前記異常の発生を示す警告情報を含める警告手段、を備えている。
【0011】
また、請求項3の発明は、請求項2に記載の画像処理装置において、前記送信手段は、車両の周辺を撮影するカメラで取得された画像を含む前記映像信号を送信し、前記出力手段は、前記車両に搭載された表示装置に前記表示画像を出力して表示させる。
【0012】
また、請求項4の発明は、請求項1ないし3のいずれかに記載の画像処理装置において、前記送信手段は、前記映像信号に含まれる複数の単位信号を複数の信号線を介してそれぞれ送信し、前記付加手段は、前記複数の単位信号それぞれに前記検査用データを付加する。
【0013】
また、請求項5の発明は、請求項4に記載の画像処理装置において、前記付加手段は、前記複数の単位信号ごとに異なるタイミングで前記検査用データを付加する。
【0014】
また、請求項6の発明は、画像を表示する画像表示システムであって、請求項1ないし5のいずれかに記載の画像処理装置と、前記画像処理装置から出力された表示画像を表示する表示装置と、を備えている。
【0015】
また、請求項7の発明は、画像を処理する画像処理方法であって、(a)映像信号を送信する工程と、(b)前記工程(a)で送信された前記映像信号を受信する工程と、(c)前記工程(b)で受信された前記映像信号に含まれる画像に基づく表示画像を表示装置に出力して表示させる工程と、(d)前記工程(a)で送信する前記映像信号のブランキング期間に対応する部分に検査用データを付加する工程と、(e)前記工程(b)で受信された前記映像信号に含まれる前記検査用データに基づいて、前記映像信号の異常を検出する工程と、を備えている。
【発明の効果】
【0016】
請求項1ないし7の発明によれば、映像信号のブランキング期間に対応する部分に検査用データを付加するため、映像信号に含まれる画像に影響を与えること無く、映像信号の異常を検出することができる。
【0017】
また、特に請求項2の発明によれば、表示装置に表示される表示画像に警告情報が含まれているため、異常が発生したことを表示画像を視認するユーザに報知することができる。
【0018】
また、特に請求項3の発明によれば、車両の周辺を示す画像を表示装置に表示させる場合に、映像信号に異常があったとしても異常の発生をユーザに報知できるため、安全性を維持することができる。
【0019】
また、特に請求項4の発明によれば、複数の単位信号それぞれに検査用データを付加するため、複数の信号線のそれぞれの断線を検出できる。
【0020】
また、特に請求項5の発明によれば、複数の単位信号ごとに異なるタイミングで検査用データを付加するため、信号線間の短絡を検出できる。
【図面の簡単な説明】
【0021】
【図1】図1は、実施の形態で採用される技術の概要を説明するための図である。
【図2】図2は、水平同期信号と映像信号との関係を示す図である。
【図3】図3は、垂直同期信号と映像信号との関係を示す図である。
【図4】図4は、画像表示システムの構成を示す図である。
【図5】図5は、車載カメラが車両に配置される位置を示す図である。
【図6】図6は、画像処理部が備える機能を示す図である。
【図7】図7は、任意視点画像を生成する手法を説明するための図である。
【図8】図8は、画像結合回路の処理の流れを示す図である。
【図9】図9は、同期信号と映像信号との関係を示す図である。
【図10】図10は、単位信号に付与された検査用データを示す図である。
【図11】図11は、視点変換回路の処理の流れを示す図である。
【図12】図12は、警告情報が表示される様子を示す図である。
【発明を実施するための形態】
【0022】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0023】
<1.技術概要>
まず、本発明の実施の形態の具体的な構成を説明する前に、この実施の形態で採用される技術の概要を説明する。図1は、この技術の概要を説明するための図であり、画像表示システム200の簡略構成を示している。
【0024】
画像表示システム200は、画像を処理する画像処理装置20と、表示装置21とを備えている。画像処理装置20では表示画像が生成され、この表示画像が表示装置21で表示される。
【0025】
画像処理装置20は、第1処理回路22、第2処理回路23及び表示画像生成部24を備えている。第1処理回路22と第2処理回路23とはそれぞれ所定の画像処理を実行するASICなどの集積回路である。
【0026】
画像処理装置20で処理対象となる画像は、まず、第1処理回路22で所定の画像処理がなされる。その後、画像は、第1処理回路22から送信され、第2処理回路23に受信される。そして、画像は、第2処理回路23でも所定の画像処理がなされる。このようにして第1処理回路22及び第2処理回路23の双方で処理が行われた画像は、表示画像生成部24が生成する表示画像に含められる。この表示画像は、表示画像生成部24から表示装置21に出力され、表示装置21において表示される。
【0027】
第1処理回路22が備える映像送信部22aは、処理対象となる画像を周期的に含む映像信号を第2処理回路22に送信する。そして、第2処理回路23が備える映像受信部23aが、この映像信号を受信する。
【0028】
第1処理回路22から第2処理回路23への映像信号の送信は、複数の信号線29を介して行われる。映像信号に含まれる画像の各画素の値は、例えばRGBで表現される。R、G及びBのそれぞれは例えば8ビット(0〜255)で表現されることから、一の画素の値は24ビット(8ビット×3)で表現される。映像信号は、この24のビット情報に対応する24の単位信号を含んでいる。そして、これら24の単位信号が24本の信号線29を介して第1処理回路22から第2処理回路23にそれぞれ送信される。
【0029】
この複数の信号線29のいずれかにおいて、断線や短絡などの障害が生じることがある。このような障害が生じた場合、障害が生じていない信号線においては正しい単位信号が送信される一方で、障害が生じた信号線においては正しい単位信号が送信されない。このため、映像信号は第1処理回路22から第2処理回路23へ送信されるものの、この映像信号に含まれる画像は画素の値を示す一部のビット情報が抜け落ちた状態となる。その結果、映像信号に含まれる画像には、色相や彩度が変わるなどの欠陥が発生する。
【0030】
このような映像信号の異常に対応するため、第1処理回路22はデータ付加部22bを備え、第2処理回路23は異常検出部23b及び警告部23cを備えている。
【0031】
データ付加部22bは、映像送信部22aが送信する映像信号に所定の検査用データを付加する。一方、異常検出部23bは、映像受信部23aが受信した映像信号に含まれる検査用データに基づいて、映像信号の異常を検出する。具体的には、異常検出部23bは、映像信号に含まれている検査用データが予め定められたものと一致するか否かを判定し、一致しなければ映像信号に異常があると判断する。
【0032】
警告部23cは、異常検出部23bが映像信号の異常を検出した場合に、映像信号に含まれる画像に、異常の発生を示す文字などを含む警告情報を重畳する。これにより、この警告情報は表示画像に含まれた状態で、表示装置21において表示される。その結果、表示装置21を視認するユーザに異常の発生が報知される。
【0033】
データ付加部22bは、映像信号に含まれる画像に対してではなく、連続する画像の相互間など、映像信号のブランキング期間に対応する部分に検査用データを付加する。このブランキング期間を規定する同期信号は、映像信号とともに第1処理回路22から第2処理回路23へ送信される。
【0034】
図2及び図3は、各種の同期信号と映像信号との関係を示す図である。図2は主に水平同期信号HSと映像信号との関係を示し、図3は主に垂直同期信号VSと映像信号との関係を示している。
【0035】
図2に示すように、水平同期信号HSは周期的に”L”となる信号であり、その周期は映像信号に含まれる画像の一の水平ラインPLの周期に対応している。また、ドットクロックDCは周期的なパルス信号であり、その周期は水平ラインPLの一の画素の周期に対応している。
【0036】
図に示すように、水平同期信号HSの周期である水平同期間隔HWは、映像信号に水平ラインPLが存在する有効期間Hbと、有効期間Hbより前のブランキング期間Haと、有効期間Hbより後のブランキング期間Hcとを合わせた期間となる。
【0037】
有効期間Hbは、水平イネーブル信号HEが”H”の期間である。つまり、水平イネーブル信号HEが”L”の期間がブランキング期間Ha,Hcとなる。映像信号のブランキング期間Ha,Hcに対応する部分は、連続する水平ラインPLの相互間に相当し、画像に係るデータ(水平ラインPL)を含まない。
【0038】
また、図3に示すように、垂直同期信号VSは周期的に”L”となる信号であり、その周期は映像信号に含まれる一の画像Pの周期に対応している。
【0039】
図に示すように、垂直同期信号VSの周期である垂直同期間隔VWは、映像信号に画像Pが存在する有効期間Vbと、有効期間Vbより前のブランキング期間Vaと、有効期間Vbより後のブランキング期間Vcとを合わせた期間となる。
【0040】
有効期間Vbは、垂直イネーブル信号VEが”H”の期間である。つまり、垂直イネーブル信号VEが”L”の期間がブランキング期間Va,Vcとなる。映像信号のブランキング期間Va,Vcに対応する部分は、連続する画像Pの相互間に相当し、画像Pに係るデータを含まない。
【0041】
このように、映像信号のブランキング期間に対応する部分においては、画像Pに係るデータは含まれていない。データ付加部22bは、このような映像信号のブランキング期間に対応する部分に検査用データTDを付加する(図3参照。)。これにより、映像信号における画像Pとは無関係な位置に検査用データを付加できる。その結果、映像信号に含まれる画像Pに影響を与えること無く、映像信号の異常を検出できることになる。
【0042】
<2.画像表示システムの構成>
以下、上記で説明した技術を採用する画像表示システムについて具体的に説明する。図4は、本実施の形態に係る画像表示システム100の構成を示す図である。この画像表示システム100は、車両に搭載され、当該車両の周辺の様子を示す画像を生成して車室内に表示する機能を有している。以下、車両は自動車であるものとして説明する。
【0043】
図4に示すように、画像表示システム100は、ユーザに対して各種情報を表示する表示装置7と、表示装置7に表示する表示画像を生成する画像処理装置10と、車両の周辺を撮影する撮影部5とを主に備えている。
【0044】
表示装置7は、液晶ディスプレイなどを備えており、画像処理装置10で生成された車両の周辺の様子を示す各種の表示画像を表示する。表示装置7は、ユーザから視認可能なように車両のインストルメントパネルなどに配置される。
【0045】
画像処理装置10は、例えば、画像を生成する機能を有するECU(Electronic Control Unit)である。画像処理装置10は、撮影部5で車両の周辺を撮影して得られる撮影画像に基づいて、表示装置7に表示するための表示画像を生成する。画像処理装置10は、表示装置7とは異なる車両の所定の位置に配置される。
【0046】
撮影部5は、画像処理装置10に電気的に接続され、画像処理装置10からの信号に基づいて動作する。撮影部5は、複数の車載カメラ、具体的には、フロントカメラ51、左サイドカメラ52、右サイドカメラ53、及び、バックカメラ54を備えている。各車載カメラ51〜54は、レンズと撮像素子とを備えており電子的に画像を取得する。これら4つの車載カメラ51〜54は、車両の前後左右にそれぞれ配置される。
【0047】
図5は、車載カメラ51〜54が車両9に配置される位置を示す図である。図5に示すように、フロントカメラ51は車両9の前端に設けられ、その光軸51aは平面視で車両9の前後方向に沿って車両9の前方に向けられている。バックカメラ54は、車両9の後端に設けられ、その光軸54aは平面視で車両9の前後方向に沿って車両9の後方に向けられている。これらフロントカメラ51やバックカメラ54の取付位置は、左右中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。
【0048】
また、左サイドカメラ52は左側のドアミラー93に設けられ、その光軸52aは平面視で車両9の左右方向に沿って車両9の左側に向けられている。一方、右サイドカメラ53は右側のドアミラー93に設けられ、その光軸53aは平面視で車両9の左右方向に沿って車両9の右側に向けられている。
【0049】
これらの車載カメラ51〜54のレンズとしては、魚眼レンズや超広角レンズなどが採用されている。このため、各車載カメラ51〜54が撮影可能な水平方向の角度θは180度以上となっており、4つの車載カメラ51〜54を利用することで車両9の全周囲の撮影が可能となっている。
【0050】
図4に戻り、画像処理装置10は、システム全体を制御する制御部1と、画像処理を実行する画像処理部3と、不揮発性メモリ40と、信号受信部43とを主に備えている。
【0051】
制御部1は、CPU、RAM及びROMなどを備えたコンピュータである。制御部1の各種の制御機能は、所定のプログラムに従ってCPUが演算処理を行うことで実現される。制御部1は、例えば、画像処理に必要な各種のパラメータなどを画像処理部3に指示する。
【0052】
不揮発性メモリ40は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどである。不揮発性メモリ40には、制御部1の機能を実現するプログラム(ファームウェア)や、車体サイズなどの車両9に固有の情報を示す車両データなどが記憶されている。
【0053】
信号受信部43は、車両9に設けられた各種の車載装置から信号を受信する。この信号受信部43を介して、画像表示システム100の外部のシフトセンサ81からの信号が制御部1に入力される。信号受信部43は、シフトセンサ81から、車両9の変速装置のシフトレバーの操作の位置、すなわち、”P(駐車)”,”D(前進)”,”N(中立)”,”R(後退)”などのシフトポジションを示す信号を受信する。
【0054】
画像処理部3は、各種の画像処理を実行する機能を有している。画像処理部3は、撮影部5から撮影画像を取得し、撮影画像を処理して表示装置7に表示するための表示画像を生成する。
【0055】
図6は、画像処理部3が備える機能を他の構成とともに示す図である。画像処理部3は、画像取得部31、画像結合回路32、視点変換回路33、及び、表示画像生成部34を備えている。これら画像取得部31、画像結合回路32、視点変換回路33、及び、表示画像生成部34は同一の基板上に配置される。
【0056】
画像取得部31は、撮影部5が備える4つの車載カメラ51〜54から撮影画像をそれぞれ取得する。画像取得部31は、アナログ信号の撮影画像をデジタル信号の撮影画像に変換(A/D変換)する。画像取得部31は、4つのデジタル信号の撮影画像を画像結合回路32に受け渡す。
【0057】
画像結合回路32は、ASICなどの集積回路であり、4つの撮影画像を結合して4つの撮影画像の全ての内容を含む一の結合画像を生成する。画像結合回路32は、生成した結合画像を視点変換回路33に受け渡す。
【0058】
視点変換回路33は、ASICなどの集積回路であり、画像結合回路32で生成された結合画像を用いて任意の仮想視点からみた車両9の周辺の領域を示す任意視点画像を生成する。この任意視点画像を生成する手法については後述する。視点変換回路33は、生成した任意視点画像を表示画像生成部34に受け渡す。
【0059】
表示画像生成部34は、視点変換回路33に生成された任意視点画像を含む、表示装置7の表示に用いる表示画像を生成する。そして、表示画像生成部34は、生成した表示画像を表示装置7に出力する。これにより、任意視点画像を含む表示画像が表示装置7に表示される。
【0060】
<3.任意視点画像の生成>
次に、任意の仮想視点からみた車両9の周辺の領域を示す任意視点画像を生成する手法について説明する。図7は、任意視点画像を生成する手法を説明するための図である。
【0061】
まず、撮影部5のフロントカメラ51、左サイドカメラ52、右サイドカメラ53及びバックカメラ54で同時期に撮影が行われる。これにより、車両9の前方、左側方、右側方及び後方をそれぞれ示す4つの撮影画像P1〜P4が取得される(ステップS1)。これら4つの撮影画像P1〜P4には、車両9の全周囲を示す情報が含まれている。取得された4つの撮影画像P1〜P4は、画像結合回路32に受け渡される。
【0062】
次に、画像結合回路32が、4つの撮影画像P1〜P4を結合する結合処理を実行する。これにより、4つの撮影画像P1〜P4を縦2×横2に配列して含む結合画像UPが生成される(ステップS2)。この結合画像UPは、画像結合回路32から視点変換回路33に受け渡される。
【0063】
次に、視点変換回路33が、結合画像UPの各画素を、仮想的な三次元空間における立体曲面TSに投影する(ステップS3)。立体曲面TSは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9が存在する位置として定められている。結合画像UPに含まれる各画素の位置と、この立体曲面TSの各画素の位置とは予め対応関係が定められている。このため、立体曲面TSの各画素の値は、この対応関係と結合画像UPに含まれる各画素の値とに基づいて決定できる。
【0064】
結合画像UPの各画素の位置と立体曲面TSの各画素の位置との対応関係は、車両9における4つの車載カメラ51〜54の配置(相互間距離、地上高さ、光軸角度等)に依存する。この対応関係を示すテーブルデータは、不揮発性メモリ40に予め記憶された車両データに含まれている。
【0065】
また、視点変換回路33は、この車両データに含まれる車体の形状やサイズを利用し、車両9の三次元形状を示すポリゴンのモデルを仮想的に構成する。この車両9のモデルは、立体曲面TSが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0066】
さらに、視点変換回路33は、立体曲面TSが存在する三次元空間に対して、制御部1からの指示に基づいて仮想視点VPを設定する。仮想視点VPは、視点位置と視野方向とで規定され、この三次元空間における車両9の近傍に相当する任意の視点位置に任意の視野方向に向けて設定される。
【0067】
そして、視点変換回路33は、設定した仮想視点VPに応じて、立体曲面TSにおける必要な領域を画像として切り出す。仮想視点VPと、立体曲面TSにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ40等に予め記憶されている。また、視点変換回路33は、設定した仮想視点VPに応じてポリゴンのモデルに関してレンダリングを行い、その結果となる二次元の車両9の像を、切り出した画像に対して重畳する。これにより、視点変換回路33は、車両9及びその車両9の周辺を任意の仮想視点VPからみた様子を示す任意視点画像CPを生成する(ステップS4,S5)。
【0068】
例えば、視点位置が車両9の位置の略中央の直上で、視野方向が直下方向とした仮想視点VPaを設定した場合は、視点変換回路33は、車両9の略直上から車両9を見下ろすように車両9及び車両9の周辺の領域を示す任意視点画像CPaを生成する(ステップS4)。また、図中に示すように、視点位置が車両9の位置の左後方で、視野方向が車両9における略前方方向とした仮想視点VPbを設定した場合は、視点変換回路33は、車両9の左後方からその周辺全体を見渡すように車両9及び車両9の周辺の領域を示す任意視点画像CPbを生成する(ステップS5)。
【0069】
画像表示システム100では、このような画像処理部の機能を利用することで車両9の周辺の任意の仮想視点からみた任意視点画像を生成し、その任意視点画像を含む表示画像を表示装置7で表示することができる。
【0070】
<4.画像表示システムの動作>
次に、画像表示システム100の動作の概要について説明する。画像表示システム100は、所定の周期で任意視点画像を生成し、任意視点画像を含む表示画像を表示装置7で表示する。画像表示システム100のユーザ(代表的にはドライバ)は、この表示装置7に表示された表示画像を視認することにより、当該車両の周辺の様子をほぼリアルタイムに把握できる。
【0071】
任意視点画像の仮想視点VPは、シフトセンサ81から受信したシフトポジションを示す信号に基づいて定められる。例えば、シフトポジションが”P(駐車)”あるいは”D(前進)”の場合は、仮想視点VPが車両9の位置の略中央の直上に設定され、車両9の全体を俯瞰するような任意視点画像CPが生成される。一方、シフトポジションが”R(後退)”の場合は、仮想視点VPが車両9の後方に向けて設定され、車両9が後退する方向の様子を示す任意視点画像CPが生成される。
【0072】
<5.映像信号の異常検出>
このように任意視点画像CPを生成する際には、前述したように、画像結合回路32が結合画像UPを生成し、この結合画像UPを用いて視点変換回路33が任意視点画像CPを生成する。この際、画像結合回路32は所定の周期で結合画像UPを含む映像信号を送信し、視点変換回路33がこの映像信号を受信する。
【0073】
画像結合回路32から視点変換回路33への映像信号の送信は、複数の信号線39を介して行われる。これら信号線39のいずれかにおいて断線や短絡などの障害が生じると、映像信号に含まれる結合画像UPに色相や彩度が変わるなどの欠陥が発生する。その結果、結合画像UPを用いて生成される任意視点画像CP、及び、表示画像においても欠陥が生じることになる。このような欠陥のある表示画像が表示装置7に表示されると、車両9の周辺の様子をユーザが誤って判断し、ユーザが誤った運転を行う可能性がある。
【0074】
このため、画像表示システム100では、画像結合回路32から視点変換回路33への映像信号の送信における異常を検出するために、図1から図3を用いて説明した技術を採用している。
【0075】
図6に示す画像結合回路32及び視点変換回路33は、図1に示す第1処理回路22及び第2処理回路23にそれぞれ対応する。そして、画像結合回路32が備える映像送信部32a及びデータ付加部32bは、図1の第1処理回路22が備える映像送信部22a及びデータ付加部22bにそれぞれ対応する。また、視点変換回路33が備える映像受信部33a、異常検出部33b及び警告部33cは、図1の第2処理回路23が備える映像受信部23a、異常検出部23b及び警告部23cにそれぞれ対応する。さらに、図6に示す表示画像生成部34及び表示装置7は、図1に示す表示画像生成部24及び表示装置21にそれぞれ対応する。
【0076】
図8は、画像結合回路32の処理の流れを示す図である。画像結合回路32は、この処理を所定の周期(表示画像の表示周期と同一周期。例えば、1/30秒)で繰り返す。
【0077】
まず、画像結合回路32は、画像取得部31から4つの撮影画像P1〜P4を受け取る(ステップS11)。次に、画像結合回路32は、4つの撮影画像P1〜P4を結合して一の結合画像UPを生成する(ステップS12)。
【0078】
次に、画像結合回路32の映像送信部32aが、この結合画像UPを含む映像信号を視点変換回路33に向けて送信する。この際、データ付加部32bは、映像送信部32aが送信する映像信号のブランキング期間に対応する部分に所定の検査用データを付加する(ステップS13)。
【0079】
図9は、同期信号と映像信号との関係を示す図である。図9においては、垂直同期信号VSを縦方向、水平同期信号HSを横方向に示すことで、映像信号の一周期に含まれる情報全体を2次元の領域(以下、「全体領域」という。)SAとして示している。この全体領域SAのうち、垂直イネーブル信号VE及び水平イネーブル信号HEの双方が”H”の期間に対応する領域(以下、「有効領域」という。)PAに、一の結合画像UPが含まれる。
【0080】
また、全体領域SAのうち、有効領域PAの外側はブランキング期間に対応する領域(以下、「ブランキング領域」という。)BAである。このブランキング領域BAのいずれかに検査用データTDが付加される。すなわち、検査用データTDは、映像信号における結合画像UPとは無関係な位置に付加される。なお、図9では、垂直イネーブル信号VE及び水平イネーブル信号HEの双方が”L”の期間に対応する領域に検査用データTDを付加しているが、ブランキング領域BAのいずれに検査用データTDを付加してもよい。
【0081】
本実施の形態においても、結合画像UPの各画素の値は例えば24ビット(R:8ビット、G:8ビット、B:8ビット)で表現される。このため、映像信号は各ビット情報に対応する24の単位信号を含んでおり、これら24の単位信号が24本の信号線39を介して画像結合回路32から視点変換回路33に送信される。データ付加部32bは、この24の単位信号のそれぞれに検査用データTDを付加する。
【0082】
図10は、24の単位信号のうちのRに対応する8つの単位信号に付与された検査用データTDを示す図である。図に示すように、8つの単位信号R1〜R8のそれぞれには所定のタイミングで”H”となる矩形波がある。この矩形波が検査用データTDとなる。このように複数の単位信号それぞれに検査用データTDを付加することで、複数の信号線39のいずれかのみに断線が生じていたとしても、異常を検出することができる。
【0083】
また、図に示すように、検査用データTDは、単位信号R1〜R8ごとに異なるタイミングで付加されている。すなわち、ドットクロックDCの周期ごとに、異なる単位信号R1〜R8に検査用データTDが表れるようになっている。このように、複数の単位信号ごとに異なるタイミングで検査用データTDを付与することで、あるタイミングでは一の単位信号のみに検査用データTDが表れることになる。したがって、複数の信号線39のいずれかの間で短絡が生じていたとしても、異常を検出することができる。
【0084】
図11は、視点変換回路33の処理の流れを示す図である。視点変換回路33は、この処理を所定の周期(表示画像の表示周期と同一周期。例えば、1/30秒)で繰り返す。
【0085】
まず、映像受信部33aが、画像結合回路32から送信された映像信号を受信する(ステップS21)。次に、視点変換回路33は、映像受信部33aが受信した映像信号に含まれる結合画像UPに基づいて任意視点画像CPを生成する(ステップS22)。
【0086】
一方で、視点変換回路33の異常検出部33bは、映像受信部33aが受信した映像信号に含まれる検査用データTDに基づいて、映像信号の異常を検出する(ステップS23)。具体的には、異常検出部33bは、映像信号に含まれる複数の単位信号それぞれを参照し、所定のタイミングで検査用データTD(矩形波)が含まれているか否かを判定する。そして、異常検出部33bは、複数の単位信号のいずれかに関して検査用データTDが所定のタイミングで含まれていない、あるいは、所定のタイミング以外のタイミングで含まれている場合は、映像信号に異常があると判定する。
【0087】
異常検出部33bが映像信号を正常と判定した場合は(ステップS23にてNo)、任意視点画像CPはそのまま表示画像生成部24に受け渡される(ステップS25)。
【0088】
一方、異常検出部33bが映像信号を異常と判定した場合は(ステップS23にてYes)、任意視点画像CPに異常の発生を示す文字などを含む警告情報を警告部33cが重畳する(ステップS24)。そして、この警告情報が重畳された任意視点画像CPが表示画像生成部24に受け渡される(ステップS25)。これにより、表示画像生成部24が生成する表示画像は、警告情報が重畳された任意視点画像CPを含むことになる。
【0089】
したがって、図12に示すように、警告情報DBは表示画像DPに含まれた状態で、表示装置7において表示される。その結果、表示装置7を視認するユーザに異常の発生が報知されることから、ユーザが誤った運転を行うことを防止でき、安全性を維持できる。
【0090】
以上説明したように、画像表示システム100においては、画像結合回路32のデータ付加部32bが、映像送信部32aが送信する映像信号のブランキング期間に対応する部分に所定の検査用データTDを付加する。一方で、視点変換回路33の異常検出部33bが、映像信号に含まれる検査用データTDに基づいて、映像信号の異常を検出する。このため、映像信号に含まれる結合画像UPに影響を与えること無く、映像信号の異常を検出できる。したがって、表示装置7に表示される表示画像に影響が及ばないため、車両9の周辺にある動体の動きのスムーズさが失われるなどの違和感をユーザに与えることが無い。その結果、ユーザは車両9の周辺の様子を的確に判断することができる。
【0091】
<6.変形例>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施の形態で説明した形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0092】
上記実施の形態では、表示画像に異常の発生を示す警告情報を含めるための警告部は視点変換回路33(第2処理回路23)に設けられているが、表示画像生成部34(24)に設けられていてもよい。この場合、警告部は、視点変換回路33(第2処理回路23)の異常検出部33b(23b)から異常が発生したことを示す信号を受信し、この信号に応答して表示画像に直接的に警告情報を含めるようにすればよい。
【0093】
また、上記実施の形態では、映像信号の異常を検出した場合であっても、車両9の周辺の様子を示す表示画像DPが表示装置7に表示されていた。これに対して、映像信号の異常を検出した場合は、全領域が同一色(例えば、黒)の表示画像を表示装置7に表示して、車両9の周辺の様子を示さないようにしてもよい。また、映像信号の異常を検出した場合は、警告情報を表示せずに、この全領域が同一色の表示画像のみを表示装置7に表示するようにしてもよい。
【0094】
また、上記実施の形態では、画像結合回路32から視点変換回路33への映像信号を送信する際に図1から図3を用いて説明した技術を採用していたが、他の部位間で映像信号を送信する際にも当該技術を採用してよい。例えば、撮影部5から画像処理部3へ映像信号を送信する場合、視点変換回路33から表示画像生成部34へ映像信号を送信する場合、あるいは、表示画像生成部34から表示装置7へ映像信号を送信する場合などに当該技術を採用できる。
【0095】
また、上記実施の形態では、車両に搭載される画像表示システム100について具体的に説明したが、画像処理機能を有する部位間で映像信号を送受信するような画像処理装置であればどのようなものであっても、上記で説明した技術を採用することが可能である。
【符号の説明】
【0096】
7 表示装置
10 画像処理装置
32 画像結合回路
32a 映像送信部
32b データ付加部
33 視点変換回路
33a 映像受信部
33b 異常検出部
33c 警告部
34 表示画像生成部
TD 検査用データ
DB 警告情報
UP 結合画像
DP 表示画像

【特許請求の範囲】
【請求項1】
画像を処理する画像処理装置であって、
映像信号を送信する送信手段と、
前記送信手段から送信された前記映像信号を受信する受信手段と、
前記受信手段で受信された前記映像信号に含まれる画像に基づく表示画像を表示装置に出力して表示させる出力手段と、
前記送信手段が送信する前記映像信号のブランキング期間に対応する部分に検査用データを付加する付加手段と、
前記受信手段で受信された前記映像信号に含まれる前記検査用データに基づいて、前記映像信号の異常を検出する検出手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記検出手段が前記異常を検出した場合は、前記表示画像に前記異常の発生を示す警告情報を含める警告手段、
を備えることを特徴とする画像処理装置。
【請求項3】
請求項2に記載の画像処理装置において、
前記送信手段は、車両の周辺を撮影するカメラで取得された画像を含む前記映像信号を送信し、
前記出力手段は、前記車両に搭載された表示装置に前記表示画像を出力して表示させることを特徴とする画像処理装置。
【請求項4】
請求項1ないし3のいずれかに記載の画像処理装置において、
前記送信手段は、前記映像信号に含まれる複数の単位信号を複数の信号線を介してそれぞれ送信し、
前記付加手段は、前記複数の単位信号それぞれに前記検査用データを付加することを特徴とする画像処理装置。
【請求項5】
請求項4に記載の画像処理装置において、
前記付加手段は、前記複数の単位信号ごとに異なるタイミングで前記検査用データを付加することを特徴とする画像処理装置。
【請求項6】
画像を表示する画像表示システムであって、
請求項1ないし5のいずれかに記載の画像処理装置と、
前記画像処理装置から出力された表示画像を表示する表示装置と、
を備えることを特徴とする画像表示システム。
【請求項7】
画像を処理する画像処理方法であって、
(a)映像信号を送信する工程と、
(b)前記工程(a)で送信された前記映像信号を受信する工程と、
(c)前記工程(b)で受信された前記映像信号に含まれる画像に基づく表示画像を表示装置に出力して表示させる工程と、
(d)前記工程(a)で送信する前記映像信号のブランキング期間に対応する部分に検査用データを付加する工程と、
(e)前記工程(b)で受信された前記映像信号に含まれる前記検査用データに基づいて、前記映像信号の異常を検出する工程と、
を備えることを特徴とする画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2012−138875(P2012−138875A)
【公開日】平成24年7月19日(2012.7.19)
【国際特許分類】
【出願番号】特願2010−291685(P2010−291685)
【出願日】平成22年12月28日(2010.12.28)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】