説明

車両周辺画像表示制御装置

【課題】実画像と履歴画像を合成して車両周辺画像をディスプレイに表示する車両周辺画像表示制御装置において、撮影画像の取得タイミングと車両移動量情報の取得タイミングが異なっている状況で、実画像と履歴画像のずれを従来よりも低減する。
【解決手段】車両周辺画像表示制御装置5は、時点t1において車両移動量情報を取得した場合、当該取得した車両移動量情報に基づいて、時点t1後に撮影画像を取得する予定の時点t11〜t13における車両移動量を推定し、時点t11〜t13のそれぞれにおいて撮影画像を取得すると、今回取得した撮影画像に基づく画像を実画像とし、また、時点t1に推定された現時点t11〜t13における予想移動量に基づいて、時点t11〜t13における車両と周囲の実際の位置関係に合致するよう、過去の撮影画像から履歴画像を作成し、この履歴画像を実画像と合成して表示する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両周辺画像表示制御装置に関するものである。
【背景技術】
【0002】
従来、車両の周辺を撮影するカメラから繰り返し撮影画像を取得し、取得した撮影画像を用いて車両周辺画像を作成してディスプレイに表示させる車両周辺画像表示制御装置が知られている。このような車両周辺画像表示制御装置においては、最新の撮影画像に基づく実画像と、過去の撮影画像に基づく履歴画像とを合成して車両周辺画像とすることで、最新の撮影画像では死角になってしまった車両周辺部分も引き続きディスプレイに表示させるようなものも知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003-9141号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
このように、最新の撮影画像に基づく実画像と過去の撮影画像に基づく履歴画像とを合成して表示させる場合、履歴画像については、過去の撮影画像に基づき、車両の移動に応じて、車両との実際の位置関係に合致するように作成する必要がある。つまり、履歴画像を作成するには、車両の移動を検出する必要がある。車両の移動を検出する方法としては、車両の移動に関する量(例えば、車速パルス、舵角)を含む車両移動量情報を用いる方法が考えられる。
【0005】
ここで、発明者は、撮影画像の取得タイミングと車両移動量情報の取得タイミングは必ずしも一致しない点に着目した。具体的には、撮影画像は第1の時間間隔で繰り返し取得し、車両移動量情報は第1の時間間隔よりも長い第2の時間間隔で繰り返し取得する場合が考えられる。
【0006】
このような場合、図7に示すように、実画像は第1の時間間隔(図7の例では30ms間隔)で更新されるのに対し、履歴画像は第2の時間間隔(図7の例では100ms)でしか更新されない。
【0007】
このようになっていると、ディスプレイに表示される車両周辺画像は、図7の時点taのように、まだ履歴画像が作成されていない時点では、図8(a)に示すように、実画像51と車両50のみが表示される。そして、履歴画像が更新された後に実画像が2回更新された時点tbにおいては、履歴画像が実画像よりも遅れたままになっているので、図8(b)に示すように、実画像61と履歴画像62との境界部分において、ずれが生じてしまう。このずれは、履歴画像が撮影された後すぐに実画像の更新が行われる時点tcでは、図8(c)に示すように緩和もしくは解消されるが、また時間が経過して、履歴画像が更新されないまま実画像が更新されていくと、時点tdにおける図8(d)のように、実画像61と履歴画像62との境界部分において再度ずれが生じてしまう。
【0008】
このように、実画像と履歴画像の境界部において頻繁にずれが生じてしまうと、ユーザに違和感を与えてしまう可能性が高くなる。本発明はこの点に鑑み、実画像と履歴画像を合成して車両周辺画像をディスプレイに表示する車両周辺画像表示制御装置において、撮影画像の取得タイミングと車両移動量情報の取得タイミングが異なっている状況で、実画像と履歴画像のずれを従来よりも低減することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するための請求項1に記載の発明は、カメラが撮影した車両の周辺の撮影画像を第1の時間間隔で繰り返し取得する画像入力インターフェース(2)と、前記第1の時間間隔よりも長い第2の時間間隔の周期で、最新の前記周期における前記車両の移動に関する量(以下、移動量という)を含む車両移動量情報を繰り返し取得する車両信号入力インターフェース(3)と、前記画像入力インターフェース(2)が撮影画像を取得する度に、今回取得した当該撮影画像に基づく実画像と、今回よりも前に取得した撮影画像に基づく履歴画像とを合成して、車両周辺画像を作成し、作成した前記車両周辺画像をディスプレイに表示させる演算部(5)とを備え、前記演算部(5)は、前記車両信号入力インターフェース(3)が第1の移動量情報取得時点(t1)において車両移動量情報を取得した場合、当該取得した車両移動量情報に基づいて、前記第1の移動量情報取得時点後に前記画像入力インターフェース(2)が撮影画像を取得する予定の第1の撮影画像取得時点(t11、t12、t13)における前記車両の予想移動量を推定する車両移動量推定手段(210〜260)と、前記第1の撮影画像取得時点(t11、t12、t13)において前記画像入力インターフェース(2)が撮影画像を取得したことに基づいて、今回取得した撮影画像に基づく画像を実画像とし、また、前記車両移動量推定手段によって推定された前記第1の撮影画像取得時点における前記車両の予想移動量に基づいて、今回よりも前に取得した撮影画像を用いて、前記第1の撮影時点(t11、t12、t13)における前記車両と周囲の実際の位置関係に合致するような履歴画像を作成し、前記履歴実画像と前記実画像とを合成することで、今回の車両周辺画像を作成し、作成した当該今回の車両周辺画像を前記ディスプレイに表示させる表示制御手段(110〜140)と、を有することを特徴とする車両周辺画像表示制御装置である。
【0010】
このように、車両移動量情報を取得したことに基づいて、後の第1の撮影画像取得時点における車両移動量推定し、第1の撮影画像取得時点が訪れたときに、推定した車両移動量を用いて履歴画像を作成することで、実画像と履歴画像の境界における位置ずれは、非常に小さくなる。
【0011】
また、請求項2に記載の発明は、請求項1に記載の車両周辺画像表示制御装置において、前記表示制御手段(110〜140)は、前記第1の撮影画像取得時点(t11、t12、t13)において前記画像入力インターフェース(2)が撮影画像を取得したことに基づいて、前記車両移動量推定手段によって推定された前記第1の撮影画像取得時点における前記車両の予想移動量を用いて、前記第1の撮影画像取得時点(t11、t12、t13)から前記第1の時間間隔だけ遡った前回撮影画像取得時点(t03、t11、t12)において前記ディスプレイに出力した車両周辺画像を、前記第1の撮影時点(t11、t12、t13)における前記車両と周囲の実際の位置関係に合致するよう修正して前記履歴画像として、前記履歴画像を前記実画像と合成することで、今回の車両周辺画像を作成し、作成した当該今回の車両周辺画像を前記ディスプレイに表示させることを特徴とする。
【0012】
また、請求項3に記載の発明は、請求項2に記載の車両周辺画像表示制御装置において、前記車両移動量推定手段(210〜260)は、前記車両信号入力インターフェース(3)が第1の移動量情報取得時点(t1)において車両移動量情報を取得した場合、当該取得した車両移動量情報に基づいて、前記第1の移動量情報取得時点から前記第2の時間間隔が経過するまでの期間における前記車両の予想移動量を推定し、前記車両信号入力インターフェース(3)が前記第2の移動量情報取得時点において車両移動量情報を取得した場合、前記第2の移動量情報取得時点において取得した車両移動量情報に含まれる移動量と、前記第1の移動量情報取得時点において推定した前記第2の移動量情報取得時点における移動量とのずれ量を算出し、前記第2の移動量情報取得時点において取得した前記車両移動量情報に基づいて、前記第2の移動量情報取得時点後に前記画像入力インターフェース(2)が撮影画像を取得する予定の第2の撮影画像取得時点(t21、t22、23)から前記第1の時間間隔だけ遡る期間に前記車両が移動する予想移動距離および前記第2の撮影画像取得時点(t21、t22、t23)における前記車両の予想移動量を推定し、前記第2の撮影画像取得時点のうち、前記第2の移動量情報取得時点に最も近い時点(t21)における予想移動量を、前記ずれ量に基づいて修正することを特徴とする。
【0013】
このようにすることで、第1の移動量情報取得時点において推定した第2の移動量情報取得時点における予想移動量が、第2の移動量情報取得時点における実際の移動量からずれていたとしても、そのずれを緩和する補正を、次の第2の撮影画像取得時点について推定した予想移動量に施すので、当該第2の撮影画像取得時点において表示する車両周辺画像において、実画像と履歴画像のずれが更に低減される。
【0014】
なお、上記および特許請求の範囲における括弧内の符号は、特許請求の範囲に記載された用語と後述の実施形態に記載される当該用語を例示する具体物等との対応関係を示すものである。
【図面の簡単な説明】
【0015】
【図1】本発明の実施形態に係る車両周辺画像表示制御装置の構成図である。
【図2】車両の後退に伴う実画像11と履歴画像12の変化を例示する図である。
【図3】車両移動量情報の取得、実画像の更新、履歴画像の更新のタイミングを例示する図である。
【図4】演算部が実行する処理のフローチャートである。
【図5】演算部が実行する処理のフローチャートである。
【図6】予想移動量Wrと実際の移動量Wrの差分Dを用いた補正を示す図である。
【図7】想定事例における、実画像の更新タイミングと履歴画像の更新タイミングを表す図である。
【図8】想定事例における、実画像61と履歴画像62の関係を示す図である。
【発明を実施するための形態】
【0016】
以下、本発明の一実施形態について説明する。図1に、本実施形態に係る車両周辺画像表示制御装置1の構成を示す。車両周辺画像表示制御装置1は、車両に搭載され、同じく車両に搭載されて車両の後方を撮影するカメラから繰り返し撮影画像を取得すると共に、CAN等の車内LANから車両の移動に関する量(以下、移動量という)を含む車両移動量情報を繰り返し取得し、撮影画像および車両移動量情報に基づいて車両周辺画像を作成し、作成した車両周辺画像を、車室内のディスプレイに表示させるようになっている。
【0017】
そして、本実施形態の車両周辺画像表示制御装置1は、最新の撮影画像に基づく実画像と、過去の撮影画像を用いて車両移動量情報に基づいて作成した履歴画像とを合成したものを車両周辺画像としてディスプレイに表示させることで、車両が移動してカメラの死角となってしまった周辺部分も、ディスプレイに表示するようになっている。
【0018】
具体的には、車両周辺画像の表示開始時(車両の後退開始時)には、図2(a)に示すように、最新の撮影画像を鳥瞰変換(車両の真上から見下ろす視点の画像への変換)した実画像11と、自車両を表す車両画像10とを合成し、他の部分(カメラの死角部分)は単色(例えば黒色)とする車両周辺画像を作成してディスプレイに表示させる。その後、車両が後退移動を続けると、図2(b)に示すように、その時点の最新の撮影画像を鳥瞰変換した実画像11と、上述の車両画像10に加え、その時点の最新でない過去の撮影画像を用いて、履歴画像12を作成し、車両周辺画像のカメラの死角部分に、履歴画像を重畳させる。この履歴画像12は、過去の撮影画像に基づいて、現在車両との実際の位置関係に合致するよう、実画像11と合成する。したがって、図2(c)に示すように、車両の後退と共に、車両周辺画像中で履歴画像12の範囲が広がっていく。
【0019】
この車両周辺画像表示制御装置1は、図1に示すように、画像入力I/F2、車両信号入力I/F3、画像メモリ4、演算部5、画像出力I/F6等を有している。
【0020】
画像入力I/F2は、上記カメラが撮影した車両の周辺の撮影画像を第1の時間間隔(具体的には30ミリ秒間隔)で繰り返し取得するインターフェースである。
【0021】
車両信号入力I/F3は、上記第1の時間間隔よりも長い第2の時間間隔(具体的には100ミリ秒)の周期で、最新の当該周期における車両の移動に関する量(以下、移動量という)を含む車両移動量情報を繰り返し取得するインターフェースである。車両信号入力I/F3は、この車両移動量情報を、上述の通り車内LANから取得する。
【0022】
ここで、車両移動量情報に含まれる移動量について説明する。車両信号入力I/F3が各時点Tに取得する車両移動量情報中の移動量は、当該時点Tから上記第2の時間間隔だけ遡る期間(すなわち、車両移動量情報を取得する最新の周期)における車両の移動距離と、当該期間において検出された最新の車両の舵角である。
【0023】
当該期間における車両の移動距離は、その期間内において1つの車輪速センサから出力された車速パルス信号の数で表される。また、車両の舵角は、舵角センサによって出力された舵角信号によって検出可能である。
【0024】
このような車両移動量情報は、車両に搭載されたECU(図示せず)が、車輪速センサから車速パルス信号を逐次取得すると共に、舵角センサから逐次舵角信号を取得し、上記第2の時間間隔が経過する毎に、この第2の時間間隔内において取得した車速パルス信号の数と、最新の舵角信号に基づいて特定した舵角とを、車両移動量情報に含め、車内LANに出力する。そして車両信号入力I/F3は、このようにECUから繰り返し車内LANに出力された車両移動量情報を逐次取得する。
【0025】
画像メモリ4は、画像入力I/F2によって繰り返し取得される撮影画像を所定の分量だけ(例えば、最新の10秒間分)蓄積する記憶媒体である。
【0026】
演算部5は、画像入力I/F2が撮影画像を取得する度に、今回画像入力I/F2が取得した当該撮影画像に基づく実画像と、今回よりも前に画像入力I/F2が取得した撮影画像に基づく履歴画像とを合成して、車両周辺画像を作成し、作成した前記車両周辺画像を画像出力I/F6に出力するための回路である。このような機能を実現する演算部5として、CPU、RAM、ROM、I/O等を備えた周知のマイクロコントローラを用いることができる。画像出力I/F6は、演算部5から受けた車両周辺画像を逐次ディスプレイに出力する。これにより、車室内のドライバー等の乗員は、ディスプレイに表示される車両周辺画像を見ることができる。
【0027】
ここで、演算部5の機能構成について説明する。演算部5は、図1に示すように、移動距離推定部51、舵角推定部52、車両移動量演算部53、画像合成演算部54、および出力画像生成部55として機能する。
【0028】
移動距離推定部51は、車両信号入力I/F3が車両移動量情報を取得する度に、今回取得した車両移動量情報に含まれる移動距離(あるいは今回に加えて前回以前に取得した車両移動量情報に含まれる移動距離)に基づいて、次に車両移動量情報を取得する時点(現在から第2の時間間隔が経過する時点)までの期間のうち、画像入力I/F2が撮影画像を取得する時点等における、車両の予想移動量(より具体的には、その時点から第1の時間間隔だけ遡る期間における移動量)を推定する。
【0029】
舵角推定部52は、車両信号入力I/F3が車両移動量情報を取得する度に、今回取得した車両移動量情報に含まれる舵角(あるいは今回に加えて前回以前に取得した車両移動量情報に含まれる舵角)に基づいて、次に車両移動量情報を取得する時点までの期間のうち、画像入力I/F2が撮影画像を取得する時点等における、車両の予想舵角を推定する。
【0030】
車両移動量演算部53は、画像入力I/F2が撮影画像を取得したとき、移動距離推定部51、舵角推定部52よって既に推定されていた現在の予想移動量および予想舵角に基づいて、前回画像入力I/F2が撮影画像を取得した時点から現在までに車両がどのように移動したかを算出する。
【0031】
画像合成演算部54は、画像入力I/F2が撮影画像を取得して画像メモリ4に記録したとき、画像メモリ4に記録された最新の撮影画像を実画像とする。また画像合成演算部54は、車両移動量演算部53が算出した車両の移動内容の算出結果に基づいて、現在の車両との実際の車両周辺の位置関係と、車両周辺画像中の車両と履歴画像の位置関係とが、合致するよう、履歴画像を作成し、上記実画像および車両の画像とを合成し、車両周辺画像とする。出力画像生成部55は、この車両周辺画像を、逐次画像出力I/F6に出力する。
【0032】
以上のような構成の車両周辺画像表示制御装置1の作動について、図3〜図6を参照して説明する。図3は、車両周辺画像表示制御装置1における、車両移動量情報の取得、実画像の更新、履歴画像の更新のタイミングを例示する図である。この例では、画像入力I/F2による撮影画像の取得タイミングに対し、実画像および履歴画像の更新タイミングは、実際には処理時間の分だけ遅れているが、この遅れは撮影画像の取得周期(第1の時間間隔)に比べて十分小さいので、両者のタイミングは同じであるとして説明する。
【0033】
[時点t0、t01、t02、t03における作動]
図3の例では、時点t0において、車両のシフト位置が後退位置(R)になったことに基づいて、車両周辺画像表示制御装置1が作動を開始し始めている。そして時点t0において、まず車両信号入力I/F3が車両移動量情報を取得した後、時点t01、t02、t03において画像入力I/F2が撮影画像を取得して画像メモリ4に記録する。この各時点t01、t02、t03において、演算部5は、作動開始からまだ1回しか車両移動量情報を取得していないことに基づいて、実画像と履歴画像のうち実画像のみを用いて車両周辺画像を作成し、作成した車両周辺画像をディスプレイに表示させる。具体的には、その時点で最新の撮影画像を鳥瞰変換した実画像と、自車両の画像である自車画像とを合成する。合成の方法は、図2に示した通り、自車画像10の後端に、実画像11を配置することで、自車両画像10と実画像11内の表示内容との位置関係を、実際の車両と周囲の位置関係に合致させる。そして、合成後の車両周辺画像を画像出力I/F6に出力することで、ディスプレイに表示させる。
【0034】
[時点t1における作動]
次に、時点t0から第2の時間間隔が経過した時点t1において、2回目に車両信号入力I/F3が車両移動量情報を取得した場合、演算部5は、車両周辺画像表示制御装置1の作動開始から2回以上車両移動量情報を取得していることに基づいて、図4に示す処理と図5に示す処理をマルチタスクで同時並列的に実行し始める。
【0035】
図4の処理では、ステップ110で、画像入力I/F2が撮影画像を取得したか否かを判定するが、今回の時点t1では取得していないと判定するので、次に撮影画像を取得するまで、ステップ110の処理を繰り返す。
【0036】
一方、図5の処理では、ステップ210で、車両信号入力I/F3から車両移動量情報を取得したか否かを判定するが、今回の時点t1では、取得していると判定し、処理をステップ220に進める。
【0037】
ステップ220では、前回の推定結果との差分算出処理を行うが、t1の時点では、車両周辺画像表示制御装置1の作動開始後から車両信号入力I/F3が車両移動量情報を取得した回数が3回未満であることに基づいて、ステップ220の処理はバイパスしてステップ230に処理を進める。
【0038】
ステップ230では、画像フレームタイミングの特定を行う。具体的には、現時点t1から現時点の次の車両移動量情報の取得時点t2(現在よりも第2の時間間隔後である時点t2)までの期間A(ただし現時点t1は除く)内で、画像入力I/F2が撮影画像を取得する予定の時点t11、t12、t13(以下、第1の撮影画像取得時点という)を特定する。具体的には、画像入力I/F2が前回(つまり、現時点より前において最後に)撮影画像を取得した時点t03を起点とし、その起点から所定の第1の時間間隔の整数倍の時間がちょうど経過した時点t11、t12、t13のすべてを、期間A内で抽出し、それらの時点t11、t12、t13を画像フレームタイミング(第1の撮影画像取得時点)とする。
【0039】
続いてステップ240では、ステップ230で特定した各画像フレームタイミングt11、t12、t13における車両の予想移動量を推定する。ここで、画像フレームタイミングt11、t12、t13における車両の予想移動量としては、当該画像フレームタイミングから第1の時間間隔だけ遡る期間における車両の予想移動距離と、当該画像フレームタイミングにおける車両の予想舵角を採用する。
【0040】
画像フレームタイミングt11を例に挙げると、当該画像フレームタイミングt11から第1の時間間隔だけ遡る期間、すなわち、時点t03から時点t11までの期間における車両の予想移動距離と、時点t11における車両の予想舵角を算出する。
【0041】
予想移動量については、今回の時点t1において取得した車両移動量情報と、前回の車両移動量情報の取得時点t0において取得した車両移動量情報と、に基づいて推定してもよいし、今回の時点t1において取得した車両移動量情報のみに基づいて推定してもよい。
【0042】
例えば、予想移動距離については、前回の時点t0に取得した車両移動量情報に含まれる車両の移動距離(長さが第2の時間間隔の時点t0までの期間における車両の移動距離)がL0であり、今回の時点t1に取得した車両移動量情報に含まれる車両の移動距離(長さが第2の時間間隔の時点t1までの期間における車両の移動距離)がL1であったとすると、次の第2の時間間隔の期間における車両の移動距離が、これら時点t0、t1における値L0、L1を用いて線形補外した値(2×L1−L0)であると推定してもよいし、今回値すなわちL1であると推定してもよい。
【0043】
そして、時点t03から時点t11までの車両の予想移動距離については、車両が上記線形補外値または今回値で一定速度で移動すると仮定して算出する。すなわち、上記線形補外値または今回値に(t11−t03)/(t2−t1)を乗算した値を時点t03から時点t11までの予想移動距離とする。同様に、時点t11から時点t12までの車両の予想移動距離は、上記線形補外値または今回値に(t12−t11)/(t2−t1)を乗算した値とし、時点t12から時点t13までの車両の予想移動距離は、上記線形補外値または今回値に(t13−t12)/(t2−t1)を乗算した値とする。
【0044】
また、予想舵角については、前回の時点t0に取得した車両移動量情報に含まれる車両の舵角がW0であり、今回の時点t1に取得した車両移動量情報に含まれる車両の移動距離がW1であったとすると、次の時点t2における車両の舵角が、これら時点t0、t1における値W0、W1を用いて線形補外した値(2×W1−W0)であると推定してもよいし、今回値すなわちW1であると推定してもよい。
【0045】
そして、時点t03から時点t11までの車両の予想舵角については、車両が上記線形補外値または今回値で一定速度で移動すると仮定して算出する。すなわち、上記線形補外値または今回値に(t11−t03)/(t2−t1)を乗算した値を時点t03から時点t11までの予想舵角とする。同様に、時点t11から時点t12までの車両の予想舵角は、上記線形補外値または今回値に(t12−t11)/(t2−t1)を乗算した値とし、時点t12から時点t13までの車両の予想舵角は、上記線形補外値または今回値に(t13−t12)/(t2−t1)を乗算した値とする。
【0046】
また、ステップ240では、画像フレームタイミングt11、t12、t13以外にも、現在の時点t1から第2の時間経過後の時点t2における車両の予想移動量も推定する。具体的には、時点t1から時点t2までの期間における車両の予想移動距離と、時点t2における車両の予想舵角を算出する。これらの値としては、上述の線形補外値または今回値を採用すればよい。
【0047】
続いてステップ250では、ステップ220で算出した差分を用いた補正を行うが、t1の時点では、車両周辺画像表示制御装置1の作動開始後から車両信号入力I/F3が車両移動量情報を取得した回数が3回未満であることに基づいて、ステップ250の処理はバイパスしてステップ260に処理を進める。
【0048】
ステップ260では、ステップ240で推定した時点t11、t12、t13、t2における予想移動量(具体的には予想移動距離および予想舵角)を記憶媒体(例えば演算部5内の図示しないRAM)に記録する。その後、処理をステップ210に戻し、再度車両信号入力I/F3が車両移動量情報を取得するまで、車両移動量情報を取得していないと判定しつつステップ210の判定処理を繰り返す。
【0049】
[時点t11における作動]
その後、時間が経過し、時点t11になると、画像入力I/F2が撮影画像を取得して画像メモリ4に記録する。すると演算部5は、図4の処理において、まずステップ110で、撮影画像を取得したと判定してステップ120に進み、現時点t11における車両の予想移動量(予想移動距離および予想舵角)を読み出す。時点t11における車両の予想移動量は、時点t1において図5のステップ260で既に記録されている。
【0050】
続いてステップ130では、読み出した時点t11における予想移動量に基づいて、現時点t11における実画像および履歴画像を作成し、作成した実画像と履歴画像とを合成することで車両周辺画像を作成する。
【0051】
ここで、現時点t11における実画像および履歴画像の作成方法について説明する。現時点t11における実画像は、今回取得した撮影画像(すなわち、画像メモリ4に記録されている最新の撮影画像)を鳥瞰変換することで得られるトップビュー画像である。
【0052】
また、現時点t11における履歴画像は、今回よりも前に取得した撮影画像(すなわち、画像メモリ4に記録されている撮影画像のうち、最新でない撮影画像)に対して、鳥瞰変換、回転変換等の処理を施した結果のトップビュー画像である。
【0053】
具体的には、現時点t11よりも1回前に画像入力I/F2が取得した撮影画像(時点t03における撮影画像)を鳥瞰変換し、鳥瞰変換した後の画像を、時点t03から時点t11までの車両の移動によって車両の周囲の位置が変化するのと同様に回転させる。
【0054】
このためには、時点t03から現時点t11までの車両の移動内容を算出する必要があるが、最後に車両移動量情報を取得したのは時点t1なので、現在の車両の実際の位置を特定することはできない。したがって、ステップ120で読み出した時点t11における予想移動量(予想移動距離、予想舵角)を用いて、実際の車両の移動内容を推定する。
【0055】
具体的には、時点t03から時点t11まで、車両は、読み出した予想舵角を維持しながら、周知のアッカーマンモデルに従って、読み出した予想移動距離だけ後退したと推定する。これにより、時点t03から時点t11までの車両の旋回中心および旋回中心から見込んだ車両の旋回角を推定することができる。時点t03の撮影画像を鳥瞰変換した画像に対しては、上述の旋回中心を回転中心とし、回転角を上記旋回角と同じ大きさかつ逆向とするような回転変換を施し、その結果の画像を、履歴画像とする。
【0056】
そして、このようにして作成した履歴画像と、上述の実画像とを合成するが、合成の際には、履歴画像と実画像とが重なる部分については、履歴画像を削除して、実画像を優先させる。更に、このようにして合成した画像に対して自車画像を合成する。この際、自車画像と実画像の位置関係を、上述の図2(a)のようにすることで、自車画像と履歴画像の位置関係は、自動的に、時点t11における車両と実際の車両周囲との位置関係に概ね合致するようになる。自車画像を合成した後の画像が、ディスプレイに表示させるための車両周辺画像となる。
【0057】
続いてステップ140では、この車両周辺画像を画像出力I/F6に出力することで、ディスプレイに表示させる。このとき、ディスプレイには、図2(b)に示すような、自車画像10、実画像11、履歴画像12が合成された車両周辺画像が表示される。このとき、実画像11と履歴画像12の境界における位置ずれは、非常に小さくなる。これは、履歴画像12が、最後に車両移動量情報を取得した時点t1における車両と周囲の位置関係を反映するよう作成されているのではなく、実画像11の元となる最新の撮影画像を取得した時点t11における車両と周囲の位置関係を反映するよう作成されているからである。ステップ140の後は、処理をステップ110に戻し、再度画像入力I/F2が車両移動量情報を取得するまで、撮影画像を取得していないと判定しつつステップ110の判定処理を繰り返す。
【0058】
[時点t12における作動]
その後、時間が経過し、時点t12になると、画像入力I/F2が撮影画像を取得して画像メモリ4に記録する。すると演算部5は、図4の処理において、まずステップ110で、撮影画像を取得したと判定してステップ120に進み、現時点t12における車両の予想移動量(予想移動距離および予想舵角)を読み出す。時点t12における車両の予想移動量は、時点t1において図5のステップ260で既に記録されている。
【0059】
続いてステップ130では、読み出した時点t12における予想移動量に基づいて、現時点t12における実画像および履歴画像を作成し、作成した実画像と履歴画像とを合成することで車両周辺画像を作成する。現時点t12における実画像の作成方法は、時点t11における方法と同様である。
【0060】
また、現時点t12における履歴画像の作成に関しては、車両周辺画像表示制御装置1の作動後に履歴画像を作成するのが2回目以降であることに基づいて、1回目であった時点t11とは異なる方法で履歴画像を作成する。すなわち、前回の撮影画像の取得時である時点t11(第1の撮影時点から第1の時間間隔だけ遡った前回撮影画像取得時点に相当する)に作成した車両周辺画像に対して回転変換等の修正を施すことで、時点t12(第1の撮影時点に相当する)における車両と車両周囲の実際の位置関係に合致するよう修正したトップビュー画像を、今回の車両周辺画像とする。
【0061】
このために、時点t11から現時点t12までの車両の移動内容を算出するが、その方法は時点t11における方法と同様、ステップ120で読み出した時点t12における予想移動量(予想移動距離、予想舵角)を用いて、実際の車両の移動内容を推定する。
【0062】
具体的には、時点t11から時点t12まで、車両は、読み出した予想舵角を維持しながら、周知のアッカーマンモデルに従って、読み出した予想移動距離だけ後退したと推定する。これにより、時点t11から時点t12までの車両の旋回中心および旋回中心から見込んだ車両の旋回角を推定することができる。時点t11の車両周辺画像に対しては、上述の旋回中心を回転中心とし、回転角を上記旋回角と同じ大きさかつ逆向とするような回転変換を施し、その結果の画像を、履歴画像とする。なお、時点t11に作成された車両周辺画像は、今回の時点t12よりも前に取得した撮影画像を用いて作成されている。
【0063】
そして、このようにして作成した履歴画像と、上述の実画像とを合成するが、合成の際には、履歴画像と実画像とが重なる部分については、履歴画像を削除して、実画像を優先させる。更に、このようにして合成した画像に対して自車画像を合成する。この際、自車画像と実画像の位置関係を、上述の図2(b)のようにすることで、自車画像10と履歴画像12の位置関係は、自動的に、時点t12における車両と実際の車両周囲との位置関係に概ね合致するようになる。自車画像を合成した後の画像が、ディスプレイに表示させるための車両周辺画像となる。
【0064】
続いてステップ140では、この車両周辺画像を画像出力I/F6に出力することで、ディスプレイに表示させる。このとき、ディスプレイには、図2(c)に示すような、自車画像10、実画像11、履歴画像12が合成された車両周辺画像が表示される。このとき、実画像11と履歴画像12の境界における位置ずれは、既に説明した通り、非常に小さくなる。
【0065】
[時点t13における作動]
その後、時間が経過し、時点t13になると、画像入力I/F2が撮影画像を取得して画像メモリ4に記録する。すると演算部5は、図4の処理において、まずステップ110で、撮影画像を取得したと判定してステップ120に進み、現時点t13における車両の予想移動量(予想移動距離および予想舵角)を読み出す。続いてステップ130では、読み出した時点t13における予想移動量に基づいて、現時点t13における実画像および履歴画像を作成し、作成した実画像と履歴画像とを合成することで車両周辺画像を作成する。現時点t12における実画像および履歴画像の作成方法および合成方法は、時点t12における方法と同様である。続いてステップ140では、作成した車両周辺画像を画像出力I/F6に出力することで、ディスプレイに表示させる。このとき、実画像と履歴画像の境界における位置ずれは、既に説明した通り、非常に小さくなる。
【0066】
[時点t2における作動]
その後、時間が経過し、時点t2になると、図5の処理において、ステップ210で、車両信号入力I/F3から車両移動量情報を取得したと判定し、処理をステップ220に進める。
【0067】
ステップ220では、t2の時点では、車両周辺画像表示制御装置1の作動開始後から車両信号入力I/F3が車両移動量情報を取得した回数が3回以上であることに基づいて、前回の推定結果との差分算出処理を行う。この差分抽出処理では、時点t2(第2の移動量情報取得時点に相当する)において取得した車両移動量情報に含まれる移動距離Lr(時点t1から時点t2までの期間における車両の移動距離)および舵角Wr(時点t2において検出されている最新の舵角)と、時点t1(第1の移動量情報取得時点に相当する)において推定した時点t2の予想移動距離Leおよび予想舵角Weとのずれ量(具体的には差分)を算出する。時点t2の予想移動距離および予想舵角は、時点t1において図5のステップ240で推定および記録されている。
【0068】
より具体的には、上記移動距離Lrから上記予想移動距離Leを減算して得られる移動距離差分Lr−Le、および、上記舵角Wrから上記予想舵角Weを減算して得られる舵角差分Wr−Weを算出する。これら差分は、時点t1に推定した移動距離および舵角が、実際の移動距離および舵角とどれ程ずれていたかを示す指標である。予想移動量(予想移動距離および予想舵角)が実際の移動量(移動距離よび舵角)と大きく異なっていれば、実画像と履歴画像の境界において画像のずれが大きくなってしまい、その結果、ユーザが違和感を与えてしまう可能性が高くなる。
【0069】
続いてステップ230では、画像フレームタイミングの特定を行う。具体的には、現時点t2から現時点の次の車両移動量情報の取得時点t3(現在よりも第2の時間間隔後である時点t3)までの期間B(ただし現時点t2は除く)内で、画像入力I/F2が撮影画像を取得する予定の時点t21、t22、t23、t24(以下、第1の撮影画像取得時点という)を特定する。具体的には、画像入力I/F2が前回(つまり、現時点より前において最後に)撮影画像を取得した時点t13を起点とし、その起点から所定の第1の時間間隔の整数倍の時間がちょうど経過した時点t21、t22、t23、t24のすべてを、期間B内で抽出し、それらの時点t21、t22、t23、t24を画像フレームタイミング(第1の撮影画像取得時点)とする。
【0070】
続いてステップ240では、ステップ230で特定した各画像フレームタイミングt21、t22、t23、t24における車両の予想移動量(予想移動距離および予想舵角)を、時点t1におけるステップ240と同様の方法で、推定する。
【0071】
画像フレームタイミングt21を例に挙げると、当該画像フレームタイミングt21から第1の時間間隔だけ遡る期間、すなわち、時点t13から時点t21までの期間における車両の予想移動距離と、時点t21における車両の予想舵角を算出する。算出方法は、時点t1におけるステップ240と同様に、時点t2における今回値を予想移動距離および予想舵角として採用してもよいし、時点t1および時点t2の移動距離および舵角を用いた線形補外値を予想移動距離および予想舵角としてもよい。
【0072】
また、ステップ240では、画像フレームタイミングt21、t22、t23以外にも、現在の時点t2から第2の時間経過後の時点t3における車両の予想移動量も推定する。具体的には、時点t2から時点t3までの期間における車両の予想移動距離と、時点t3における車両の予想舵角を算出する。これらの値としては、上述の線形補外値または今回値を採用すればよい。この時点t2の予想移動量は、後の時点t3においてステップ220で用いられる。
【0073】
続いてステップ250では、t2の時点では、車両周辺画像表示制御装置1の作動開始後から車両信号入力I/F3が車両移動量情報を取得した回数が3回以上であることに基づいて、ステップ220で算出した差分を用いた補正を行う。
【0074】
この補正の対象は、現時点t2以降で現時点に最も近い画像フレームタイミングである時点t21における、予想移動量(予想移動距離および予想舵角)である。この補正は、時点t2における予想移動量と実際の移動量とのずれ量が、時点t2以降の車両周辺画像表示に悪影響を及ぼすことのないよう、それまでのずれを次の表示タイミングt21で解消するための補正である。
【0075】
具体的には、ステップ240で算出した時点t21の予想移動距離に対し、ステップ220で算出した移動距離差分Lr−Leを加算する補正を行う。また同様に、図6に示すように、ステップ240で算出した時点t21の予想舵角W21に対し、ステップ220で算出した舵角差分D=Wr−Weを加算する補正を行う。
【0076】
また、ステップ250では、次の車両移動量情報取得タイミングである時点t3における、予想移動量(予想移動距離および予想舵角)も補正する。具体的には、ステップ240で算出した時点t3の予想移動距離に対し、ステップ220で算出した移動距離差分Lr−Leを加算する補正を行う。また同様に、ステップ240で算出した時点t3の予想舵角に対し、ステップ220で算出した舵角差分Wr−Weを加算する補正を行う。
【0077】
続いてステップ260では、ステップ240で推定した時点t21、t22、t23、t24、t2における予想移動量(具体的には予想移動距離および予想舵角)を記憶媒体(例えば演算部5内の図示しないRAM)に記録する。その後、処理をステップ210に戻し、再度車両信号入力I/F3が車両移動量情報を取得するまで、車両移動量情報を取得していないと判定しつつステップ210の判定処理を繰り返す。
【0078】
[時点t21における作動]
その後、時間が経過し、時点t21になると、画像入力I/F2が撮影画像を取得して画像メモリ4に記録する。すると演算部5は、図4の処理において、まずステップ110で、撮影画像を取得したと判定してステップ120に進み、現時点t21における車両の予想移動量(予想移動距離および予想舵角)を読み出す。ここで読み出す予想移動量は、時点t2において図5のステップ250で補正された予想移動量である。
【0079】
続いてステップ130では、読み出した時点t21における予想移動量に基づいて、現時点t21における実画像および履歴画像を作成し、作成した実画像と履歴画像とを合成することで車両周辺画像を作成する。現時点t21における実画像および履歴画像の作成方法および合成方法は、時点t12、t13における方法と同様である。続いてステップ140では、作成した車両周辺画像を画像出力I/F6に出力することで、ディスプレイに表示させる。このとき、実画像と履歴画像の境界における位置ずれは、既に説明した通り、非常に小さくなる。
【0080】
また、読み出した時刻t21の予想移動量が、時刻t2における予想移動量と実際の移動量のずれを相殺するように補正されているので、時刻t2以前の予想移動量の誤差を時刻t2より後に引きずってしまうことがない。
【0081】
[時点t22以降における作動]
時点t22以降における車両周辺画像表示制御装置1の作動は、時点t22、t23、t24、t31、t32、t33、t41、t42、t43においては、時点t21と同様である。また、時点t3、t4、t5においては、時点t2と同様である。
【0082】
以上説明した通り、本実施形態の車両周辺画像表示制御装置1の演算部5は、第1の移動量情報取得時点t1、t2、t3、t4、t5において車両移動量情報を取得した場合(ステップ210)、当該取得した車両移動量情報に基づいて、第1の移動量情報取得時点(例えば時点t1)後に撮影画像を取得する予定の第1の撮影画像取得時点(例えば時点t11)から第1の時間間隔だけ遡る期間(例えば、時点t03から時点t11までの期間)に車両が移動する予想移動距離および当該第1の撮影画像取得時点(例えば時点t11)における車両の予想舵角を推定する(ステップ230、240)。
【0083】
また、演算部5は、第1の撮影画像取得時点(t11、t12、t13、t21、t22、t23、t24、t31、t32、t33、t41、t42、t43)において撮影画像を取得したことに基づいて(ステップ110)、今回取得した撮影画像に基づく画像を実画像とし、また、先に推定された第1の撮影画像取得時点における予想移動距離および予想舵角に基づいて、第1の撮影画像取得時点(例えば時点t11)から第1の時間間隔だけ遡った前回撮影画像取得時点(例えば時点t03)においてディスプレイに出力した車両周辺画像を、第1の撮影時点(例えばt11)における車両と周囲の実際の位置関係に合致するよう修正し、修正した結果の履歴画像を実画像と合成することで、今回の車両周辺画像を作成し(ステップ120、130)、作成した当該今回の車両周辺画像をディスプレイに表示させる(ステップ140)。
【0084】
このように、車両移動量情報を取得したことに基づいて、後の第1の撮影画像取得時点における車両移動量(予想移動距離、予想舵角)を推定し、第1の撮影画像取得時点が訪れたときに、推定した車両移動量を用いて履歴画像を作成することで、実画像と履歴画像の境界における位置ずれは、非常に小さくなる。
【0085】
また、演算部5は、第1の移動量情報取得時点(例えば時点t1)において車両移動量情報を取得した場合(ステップ210)、当該取得した車両移動量情報に基づいて、第1の移動量情報取得時点から第2の時間間隔が経過するまでの期間に車両が移動する予想移動距離および第1の移動量情報取得時点から第2の時間間隔が経過した第2の移動量情報取得時点(例えば時点t2)における車両の予想舵角を推定し(ステップ240)、この第2の移動量情報取得時点において車両移動量情報を取得した場合(ステップ210)、当該第2の移動量情報取得時点において取得した車両移動量情報に含まれる移動距離および舵角と、第1の移動量情報取得時点(例えば時点t1)において推定した第2の移動量情報取得時点における予想移動距離および予想舵角とのずれ量を算出し(ステップ220)、当該第2の移動量情報取得時点において取得した車両移動量情報に基づいて、第2の移動量情報取得時点後に撮影画像を取得する予定の第2の撮影画像取得時点(例えば、時点t21)から第1の時間間隔だけ遡る期間(例えば、時点t13から時点t21までの期間)に車両が移動する予想移動距離および第2の撮影画像取得時点における車両の予想舵角を推定し(ステップ230、240)、これら第2の撮影画像取得時点のうち、第2の移動量情報取得時点に最も近い時点(例えば時点t21)における予想移動距離および予想舵角を、当該ずれ量に基づいて修正する(ステップ250)。
【0086】
このようにすることで、第1の移動量情報取得時点において推定した第2の移動量情報取得時点における予想移動量(予想移動距離および予想舵角)が、第2の移動量情報取得時点における実際の移動量からずれていたとしても、そのずれを緩和する補正を、次の第2の撮影画像取得時点について推定した予想移動量に施すので、当該第2の撮影画像取得時点において表示する車両周辺画像において、実画像と履歴画像のずれが更に低減される。
【0087】
なお、上記実施形態において、演算部5が、図4のステップ110〜140を実行することで表示制御手段の一例として機能し、ステップ210〜260を実行することで車両移動量推定手段の一例として機能する。また、図1の移動距離推定部51および舵角推定部52の機能は、図5のステップ230、240の処理によって実現され、車両移動量演算部53および画像合成演算部54の機能は、図4のステップ130の処理によって実現され、出力画像生成部55の機能は、図4のステップ140の処理によって実現される。
【0088】
以上、本発明の実施形態について説明したが、本発明の範囲は、上記実施形態のみに限定されるものではなく、本発明の各発明特定事項の機能を実現し得る種々の形態を包含するものである。
【符号の説明】
【0089】
1 車両周辺画像表示制御装置
2 画像入力I/F
3 車両信号入力I/F
4 画像メモリ
5 演算部
6 画像出力I/F
51 移動距離推定部
52 舵角推定部
53 車両移動量演算部
54 画像合成演算部
55 出力画像生成部

【特許請求の範囲】
【請求項1】
カメラが撮影した車両の周辺の撮影画像を第1の時間間隔で繰り返し取得する画像入力インターフェース(2)と、
前記第1の時間間隔よりも長い第2の時間間隔の周期で、最新の前記周期における前記車両の移動に関する量(以下、移動量という)を含む車両移動量情報を繰り返し取得する車両信号入力インターフェース(3)と、
前記画像入力インターフェース(2)が撮影画像を取得する度に、今回取得した当該撮影画像に基づく実画像と、今回よりも前に取得した撮影画像に基づく履歴画像とを合成して、車両周辺画像を作成し、作成した前記車両周辺画像をディスプレイに表示させる演算部(5)とを備え、
前記演算部(5)は、
前記車両信号入力インターフェース(3)が第1の移動量情報取得時点(t1)において車両移動量情報を取得した場合、当該取得した車両移動量情報に基づいて、前記第1の移動量情報取得時点後に前記画像入力インターフェース(2)が撮影画像を取得する予定の第1の撮影画像取得時点(t11、t12、t13)における前記車両の予想移動量を推定する車両移動量推定手段(210〜260)と、
前記第1の撮影画像取得時点(t11、t12、t13)において前記画像入力インターフェース(2)が撮影画像を取得したことに基づいて、今回取得した撮影画像に基づく画像を実画像とし、また、前記車両移動量推定手段によって推定された前記第1の撮影画像取得時点における前記車両の予想移動量に基づいて、今回よりも前に取得した撮影画像を用いて、前記第1の撮影時点(t11、t12、t13)における前記車両と周囲の実際の位置関係に合致するような履歴画像を作成し、前記履歴実画像と前記実画像とを合成することで、今回の車両周辺画像を作成し、作成した当該今回の車両周辺画像を前記ディスプレイに表示させる表示制御手段(110〜140)と、を有することを特徴とする車両周辺画像表示制御装置。
【請求項2】
前記表示制御手段(110〜140)は、前記第1の撮影画像取得時点(t11、t12、t13)において前記画像入力インターフェース(2)が撮影画像を取得したことに基づいて、前記車両移動量推定手段によって推定された前記第1の撮影画像取得時点における前記車両の予想移動量を用いて、前記第1の撮影画像取得時点(t11、t12、t13)から前記第1の時間間隔だけ遡った前回撮影画像取得時点(t03、t11、t12)において前記ディスプレイに出力した車両周辺画像を、前記第1の撮影時点(t11、t12、t13)における前記車両と周囲の実際の位置関係に合致するよう修正して前記履歴画像として、前記履歴画像を前記実画像と合成することで、今回の車両周辺画像を作成し、作成した当該今回の車両周辺画像を前記ディスプレイに表示させることを特徴とする請求項1に記載の車両周辺画像表示制御装置。
【請求項3】
前記車両移動量推定手段(210〜260)は、
前記車両信号入力インターフェース(3)が第1の移動量情報取得時点(t1)において車両移動量情報を取得した場合、当該取得した車両移動量情報に基づいて、前記第1の移動量情報取得時点から前記第2の時間間隔が経過するまでの期間における前記車両の予想移動量を推定し、
前記車両信号入力インターフェース(3)が前記第2の移動量情報取得時点において車両移動量情報を取得した場合、前記第2の移動量情報取得時点において取得した車両移動量情報に含まれる移動量と、前記第1の移動量情報取得時点において推定した前記第2の移動量情報取得時点における移動量とのずれ量を算出し、
前記第2の移動量情報取得時点において取得した前記車両移動量情報に基づいて、前記第2の移動量情報取得時点後に前記画像入力インターフェース(2)が撮影画像を取得する予定の第2の撮影画像取得時点(t21、t22、23)から前記第1の時間間隔だけ遡る期間に前記車両が移動する予想移動距離および前記第2の撮影画像取得時点(t21、t22、t23)における前記車両の予想移動量を推定し、
前記第2の撮影画像取得時点のうち、前記第2の移動量情報取得時点に最も近い時点(t21)における予想移動量を、前記ずれ量に基づいて修正することを特徴とする請求項2に記載の車両周辺画像表示制御装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2013−55410(P2013−55410A)
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願番号】特願2011−190704(P2011−190704)
【出願日】平成23年9月1日(2011.9.1)
【出願人】(000004260)株式会社デンソー (27,639)
【Fターム(参考)】