画像処理装置及び画像処理方法
【課題】映像を見たユーザが被写体の直近の行動の内容を容易に把握することを可能とすること。
【解決手段】映像を構成する入力画像を順次取得する取得部と、前記取得部により取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する検出部と、前記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成する行動画像生成部と、前記行動画像生成部により生成された前記行動画像を入力画像に重畳する重畳部と、を備える画像処理装置を提供する。
【解決手段】映像を構成する入力画像を順次取得する取得部と、前記取得部により取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する検出部と、前記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成する行動画像生成部と、前記行動画像生成部により生成された前記行動画像を入力画像に重畳する重畳部と、を備える画像処理装置を提供する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
通信ネットワークの高度化に伴い、離れた場所において撮影された映像をネットワーク経由で伝送してその場所の様子を視覚的に確認することが容易となっている。こうした映像の伝送は、例えば、勤務形態の一種としてのテレワークや、要介護者の遠隔モニタリングなど、様々な分野で応用されている。例えば、離れた場所同士で互いの映像を伝送し合うことで、テレワークを行う作業者の業務への参加意識を高め、又は要介護者の孤独感を和らげるといった効果も期待される。
【0003】
図14は、典型的な遠隔映像伝送システムの概要を示す模式図である。図14を参照すると、遠隔映像伝送システムは、ネットワーク10を介して互いに接続された情報処理装置20と情報処理装置30とを含む。ネットワーク10は、例えばインターネット、専用線、LAN(Local Area Network)、又はVPN(Virtual Private Network)などの任意のネットワークであってよい。情報処理装置20及び30は、例えば、PC(Personal Computer)やワークステーションなどの汎用的なコンピュータであってもよく、又は映像伝送用の専用の装置であってもよい。情報処理装置20及び30は、それぞれ撮影装置と表示装置とに接続されており、情報処理装置20又は30のうちのいずれかの側の撮影装置を用いて撮影された映像が、ネットワーク10を介して伝送され、他方の側の表示装置に表示される。
【0004】
図15は、図14に例示した遠隔映像伝送システムにおいて撮影される映像の一例を示す説明図である。図15を参照すると、時刻t=1、t=2、及びt=3においてそれぞれ撮影された3枚の画像F01、F02、及びF03が示されている。まず、時刻t=1では、デスクの周囲に位置する2人の被写体が画像F01に映っている。その後、時刻t=2の時点では、さらに3人目の被写体が画像F02の左側に映っている。さらに、時刻t=3の時点では、上記3人目の被写体が画像F03の中で矢印30の方向に移動している。その後、例えば、撮影される画像の内容は、画像F03の状態で一定期間継続され得る。
【0005】
このような遠隔映像伝送システムで結ばれた遠隔地同士で会話を交わす場合には、通常、ユーザは、固定電話又はIP電話などを用いて通話を行う。例えば、ユーザは、図15に示した画像F01〜F03を見て通話相手の在席状況を確認して電話をかけることができる。これに対し、例えば下記特許文献1では、撮影された映像からユーザが通話を希望する通話相手の在席状況を自動的に認識し、在席状況が変化した時点でユーザに視覚的又は聴覚的に報知を行うシステムが提案されている。また、下記特許文献2では、通話相手が不在の場合に通話の予約を行うことを可能にし、通話相手が席に戻ってきた時点で自動的に電話接続を行うシステムが提案されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平8−249545号公報
【特許文献2】特開平3−236660号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、上記特許文献1及び2に記載されたシステムでは、ユーザは、通話相手の在席又は不在という状況を知ることはできるものの、通話相手の直近の行動の内容を具体的に把握することは困難である。例えば、通話相手の手がふさがっている状況又は他のユーザと会話をしている状況などにおいては、電話をかけるのを避けることが望ましい場合がある。また、伝送されてきた映像を単純に表示しているだけでは、画面に常に注目していない限り、通話相手が不在であったとしても、直前まで在席していたのか当分の間不在なのかといった事情を知ることができない。そのため、ユーザは、どのタイミングで通話相手に電話をかけるべきかという判断をすることが難しい。
【0008】
そこで、本発明は、映像を見たユーザが被写体の直近の行動の内容を容易に把握することのできる、新規かつ改良された画像処理装置及び画像処理方法を提供しようとするものである。
【課題を解決するための手段】
【0009】
本発明のある実施形態によれば、映像を構成する入力画像を順次取得する取得部と、上記取得部により取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する検出部と、上記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成する行動画像生成部と、上記行動画像生成部により生成された上記行動画像を入力画像に重畳する重畳部と、を備える画像処理装置が提供される。
【0010】
また、上記行動画像生成部は、複数の入力画像に連続して映っている被写体の行動について一連の複数の行動画像を生成してもよい。
【0011】
また、上記行動画像生成部は、第1の時点の入力画像の部分画像に当該第1の時点と第2の時点の間の複数の時点の入力画像の部分画像を合成比率を変えながら順次合成することにより、上記一連の複数の行動画像を生成してもよい。
【0012】
また、上記行動画像生成部は、第1の時点の入力画像の部分画像に第2の時点の入力画像の部分画像を合成比率を変えながら複数回合成することにより、上記一連の複数の行動画像を生成してもよい。
【0013】
また、上記重畳部は、上記行動画像生成部により生成された1つの行動画像を、所定の期間の入力画像にわたって連続して重畳してもよい。
【0014】
また、上記重畳部は、被写体の行動について生成された上記一連の複数の行動画像を複数回繰り返して入力画像に重畳してもよい。
【0015】
また、上記重畳部は、上記1つの行動画像を連続して重畳するための上記所定の期間を、時間の経過に応じて変化させてもよい。
【0016】
また、本発明の別の実施形態によれば、映像を構成する入力画像を順次取得するステップと、取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出するステップと、上記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成するステップと、生成された上記行動画像を入力画像に重畳するステップと、を含む画像処理方法が提供される。
【発明の効果】
【0017】
以上説明したように、本発明に係る画像処理装置及び画像処理方法によれば、映像を見たユーザが被写体の直近の行動の内容を容易に把握することが可能となる。例えば、被写体が静止する直前の映像が表示されることにより、静止に至る時間が表現されることに加えて、ユーザは、静止に至るまでの被写体の行動の方向も把握することができる。また、ユーザは、被写体が静止状態から移動していく行動も把握することができる。
【図面の簡単な説明】
【0018】
【図1】一実施形態に係る画像処理装置の構成の一例を示すブロック図である。
【図2】一実施形態に係る差分検出処理について説明するための説明図である。
【図3】一実施形態に係る行動画像生成部のより具体的な構成の一例を示すブロック図である。
【図4】一実施形態に係る行動判定処理について説明するための説明図である。
【図5】行動画像生成処理の対象とする部分画像の範囲の一例を示す説明図である。
【図6】一実施形態に係る行動画像生成処理について説明するための説明図である。
【図7】一変形例に係る行動画像生成処理について説明するための説明図である。
【図8】一実施形態に係る画像重畳処理について説明するための説明図である。
【図9】一実施形態に係る画像重畳処理のハードウェア構成の一例を示すブロック図である。
【図10】一実施形態に係る画像処理の全体の流れを示すフローチャートである。
【図11】一実施形態に係る差分検出処理の流れを示すフローチャートである。
【図12】一実施形態に係る行動画像生成処理の流れを示すフローチャートである。
【図13】一実施形態に係る画像重畳処理の流れを示すフローチャートである。
【図14】典型的な遠隔映像伝送システムの一例を示す模式図である。
【図15】典型的な遠隔映像伝送システムにおいて撮影される映像の一例を示す説明図である。
【発明を実施するための形態】
【0019】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0020】
<1.一実施形態に係る画像処理装置の構成の説明>
まず、図1は、本発明の一実施形態に係る画像処理装置100の論理的な構成を示すブロック図である。
【0021】
画像処理装置100は、例えば、図14に示した情報処理装置20又は30と同様、ネットワークを介して取得した映像又は撮影装置から入力された映像を処理し、処理後の映像を出力する情報処理装置であってもよい。画像処理装置100は、例えば、PCやワークステーションなどの汎用的なコンピュータであってもよく、又は画像処理専用の装置であってもよい。図1を参照すると、画像処理装置100は、映像取得部110、差分検出部120、記憶部130、行動画像生成部140、及び画像重畳部150を備える。
【0022】
映像取得部110は、例えば、映像を構成する一連の入力画像を時系列で順次取得し、差分検出部120及び画像重畳部150へ出力する。映像取得部110は、例えば、図14に関連して説明した任意のネットワークを介して他の装置から一連の入力画像を取得してもよい。その代わりに、映像取得部110は、例えば、画像処理装置100に接続されたビデオカメラなどの撮影装置、又はハードディスクドライブなどの記憶装置から一連の入力画像を取得してもよい。
【0023】
差分検出部120は、映像取得部110により取得される一連の入力画像のうち、注目する1つの入力画像とその入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する。そして、差分検出部120は、例えば、差分領域を検出した場合には、検出した差分領域を含む所定の範囲の入力画像の部分画像(以下、差分画像という)を、記憶部130に記憶させる。また、差分検出部120は、例えば、上記差分画像と同一の範囲の前の入力画像の部分画像を、差分元画像として記憶部130に記憶させる。さらに、差分検出部120は、例えば、検出した差分領域の範囲を特定するための座標データを、記憶部130に記憶させる。
【0024】
図2は、本実施形態に係る差分検出部120による差分検出処理についてより具体的に説明するための説明図である。
【0025】
まず、図2の上段には、時刻t=1及びt=2における入力画像F11及びF12が示されている。入力画像F11及びF12を参照すると、時刻t=1からt=2の間に、被写体が入力画像の左上から真ん中やや右に移動したことが分かる。差分検出部120は、例えば、入力画像F11の次に入力画像F12が入力されると、入力画像F11と入力画像F12との間で画素値の差分を計算する。
【0026】
図2の中段には、差分検出部120による入力画像F11と入力画像F12との間の画素値の差分計算結果が示されている。差分計算結果を参照すると、矩形の領域R12において、画素値の差分が生じている。このように、注目する1つの入力画像とその入力画像よりも前に取得された入力画像との間で差分が生じている領域を、本明細書では差分領域という。差分領域の形状は矩形に限定されず、例えば円形や多角形などであってもよい。差分領域の形状が矩形である場合には、例えば、左上の頂点の二次元座標、矩形の幅及び高さにより、差分領域の範囲を特定することができる。なお、画素値の差分が生じている面積が一定の大きさよりも小さい場合(例えば図2の差分計算結果におけるZ12など)には、当該差分について差分領域を設定しないのが好適である。それにより、例えば、画素ごとのちらつきなどを原因とする誤差の影響が排除される。
【0027】
図2の下段には、上述した差分計算結果に応じて抽出される差分画像D12及び差分元画像DX12が示されている。差分画像D12は、注目する入力画像F12における、上記差分領域R12に対応する範囲の部分画像である。一方、差分元画像DX12は、注目する入力画像F12との間で差分が計算された入力画像F11における、上記差分領域R12に対応する範囲の部分画像である。差分検出部120は、かかる差分画像D12及び差分元画像DX12、並びに差分領域の範囲を特定するための座標データ(例えば上述した二次元座標、矩形の幅及び高さ)を記憶部130に記憶させる。
【0028】
記憶部130は、例えばハードディスクや半導体メモリなどの任意の記録媒体を用いて、例えば上述した差分画像、差分元画像、差分領域の範囲を特定するための座標データ、及び入力画像などを時系列で記憶する。また、記憶部130は、例えば画像処理装置100による処理を記述したプログラムや当該プログラムに使用される任意のデータを記憶していてもよい。
【0029】
行動画像生成部140は、差分検出部120により抽出された2以上の時点の差分画像若しくは差分元画像、又はそれらを含む所定の範囲の部分画像を合成することにより、被写体の行動を表現する行動画像を生成する。以下、行動画像生成部140が複数の入力画像に連続して映っている被写体の1まとまりの行動について一連の複数の行動画像を生成する場合について説明する。即ち、この場合、行動画像生成部140は、紙芝居のように被写体の行動を表現することのできる複数の行動画像を生成する。
【0030】
図3は、本実施形態に係る行動画像生成部140の詳細な構成の一例を示すブロック図である。図3を参照すると、行動画像生成部140は、行動判定部142及び合成部144を有する。
【0031】
行動判定部142は、所定の閾値を超える数の連続する入力画像において、差分検出部120により検出された差分領域が継続して1つの場所又はその近傍に留まっているか否かを判定する。ここで、行動判定部142は、後述するように、差分領域が1つの場所又はその近傍に留まっている期間の長さ(入力画像の数を尺度とする)を、滞留値という値を用いて計測する。そして、滞留値が所定の閾値を超えた場合には、行動判定部142は、その期間における被写体の行動を1単位の行動として認識し、後述する合成部144に1単位の行動を表現する一連の行動画像を生成させる。
【0032】
図4は、本実施形態に係る行動判定部142による行動判定処理についてより具体的に説明するための説明図である。
【0033】
図4を参照すると、時刻t=0、1、2、及びnの各時点における入力画像F20、F21、F22、及びF2nが示されている。また、入力画像F20については、時刻t=1において差分検出部120により抽出された差分元画像DX21の範囲を示す点線枠が示されている。また、入力画像F21、F22、及びF2nについては、時刻t=1、2、及びnにおいて差分検出部120によりそれぞれ抽出された差分画像D21、D22、及びD2nの範囲を示す点線枠が示されている。
【0034】
かかる例において、行動判定部142は、まず、時刻t=1〜nまでの各時点にて、その時点の入力画像の差分画像と、記憶部130に記憶されている最も古い差分元画像(以下、初回差分元画像という)との間で重複する範囲に差分が存在するか否かを調べる。図4の場合、差分元画像DX21が初回差分元画像となる。例えば、時刻t=1においては、差分画像D21と初回差分元画像DX21との間に差分が存在することは自明である。このとき、行動判定部142は、例えば滞留値RV=1とする。次に、時刻t=2において、差分画像D22と初回差分元画像DX21との間には、差分領域R22と差分領域R21の重複部分に差分が存在する。そこで、行動判定部142は、例えば滞留値RVを加算(インクリメント)してRV=2とする。その後、同様の処理が繰り返された後、時刻t=nにおいて例えば滞留値RV(=n)が所定の閾値Th1を超えたとする。そうした場合には、行動判定部142は、例えば、時刻t=1〜nの間に差分領域が継続して1つの場所又はその近傍に留まっていると判定することができる。そうすると、行動判定部142は、時刻t=1〜nの間の被写体の行動を1単位の行動として認識し、合成部144に1単位の行動を表現する一連の行動画像を生成させる。なお、上述した所定の閾値Th1は、例えば、1単位の行動を認識させたい時間をT、入力画像のフレームレートをRとすると、Th1=T×Rなどとして与えられる。
【0035】
合成部144は、行動判定部142による判定処理により認識された被写体の1単位の行動について、2以上の時点の入力画像の部分画像を合成することにより、当該行動を表現する一連の行動画像を生成する。
【0036】
図5は、合成部144による合成に用いられる部分画像の範囲の一例を示す説明図である。図5を参照すると、図4に示した初回差分元画像DX21を含む入力画像F20、及び差分画像D2nを含む入力画像F2nが示されている。初回差分元画像DX21の範囲は差分領域R21の範囲に一致する。また、差分画像D2nの範囲は差分領域R2nの範囲に一致する。この場合、合成部144による合成に用いられる部分画像の範囲は、例えば、差分領域R21と差分領域R2nとを共に含む矩形領域AR21とすることができる。かかる矩形領域AR21の範囲は、例えば、上述した座標データを用いて決定され得る。
【0037】
図6は、合成部144による合成処理について説明するための説明図である。図6の例では、合成部144は、第1の時点の入力画像の部分画像に当該第1の時点と第2の時点の間の複数の時点の入力画像の部分画像を合成比率を変えながら順次合成することにより、一連の複数の行動画像を生成する。例えば、第1の時点は時刻t=0、第2の時点は時刻t=nにそれぞれ対応する。また、第1の時点と第2の時点の間の複数の時点とは、時刻t=1、2、…、nに対応する。まず、図6の上段には、上記矩形領域AR21の範囲の時刻t=0、1、2、及びnにおける入力画像の部分画像P20、P21、P22、及びP2nが示されている。そして、合成部144は、まず、部分画像P21を部分画像P20と合成し、最初の行動画像A21を生成する。次に、合成部144は、部分画像P22を部分画像P20と合成し、2番目の行動画像A22を生成する。その後、同様の処理が繰り返された後、合成部144は、部分画像P2nを部分画像P20と合成し、n番目の行動画像A2nを生成する。このとき、合成部144は、例えば部分画像P20に対して合成する部分画像が新しくなるに従い、新しい部分画像の部分画像P20に対する合成比率を高くする。その結果、行動画像の中で行動する被写体の濃度が時間の経過に従って徐々に濃くなっていくような一連の行動画像が生成される。合成部144は、このように生成した一連の複数の行動画像A21〜A2nを記憶部130に出力してもよい。
【0038】
図7は、合成部144による行動画像生成処理の変形例について説明するための説明図である。図7の例では、合成部144は、第1の時点の入力画像の部分画像に第2の時点の入力画像の部分画像を合成比率を変えながら複数回合成することにより、一連の複数の行動画像を生成する。例えば、第1の時点は時刻t=0、第2の時点は時刻t=nにそれぞれ対応する。まず、図7の上段には、矩形領域AR21の範囲の時刻t=0及びt=nにおける入力画像の部分画像P20及びP2nが示されている。そして、合成部144は、まず、第1の合成比率を用いて部分画像P2nを部分画像P20と合成し、最初の行動画像A31を生成する。次に、合成部144は、第2の合成比率を用いて部分画像P2nを部分画像P20と合成し、2番目の行動画像A32を生成する。その後、同様の処理が繰り返された後、合成部144は、第nの合成比率を用いて部分画像P2nを部分画像P20と合成し、n番目の行動画像A3nを生成する。このとき、例えば、第1〜第nの合成比率について、後の合成比率ほど、部分画像P2nの部分画像P20に対する合成比率を高くする。その結果、行動画像の中で時間の経過に従って被写体が徐々に濃く浮き上がって見えるような一連の行動画像が生成される。合成部144は、このように生成した一連の複数の行動画像A31〜A3nを記憶部130に出力してもよい。
【0039】
行動画像生成部140は、例えば図6又は図7を用いて説明した手法に従って合成部144により生成された一連の複数の行動画像を、記憶部130に記憶させる。
【0040】
図1に戻り、本実施形態に係る画像処理装置100の論理的な構成についての説明を継続する。
【0041】
画像重畳部150は、例えば、行動画像生成部140により生成された行動画像を記憶部130から取得し、取得した行動画像を映像取得部110により新たに取得された入力画像に重畳する。このとき、画像重畳部150は、例えば、行動画像生成部140により生成された1つの行動画像を、所定の期間の入力画像にわたって連続して重畳してもよい。また、画像重畳部150は、1単位の行動について生成された一連の行動画像を、複数回繰り返して入力画像に重畳してもよい。さらに、画像重畳部150は、例えば、1つの行動画像を連続して重畳するための上記所定の期間を、時間の経過に応じて変化させてもよい。そして、画像重畳部150は、行動画像を重畳した出力画像を、例えば、画像処理装置100に接続されている表示装置に表示させ、ネットワークを介して他の装置へ送出し、又は所定の記憶装置に記憶させる。
【0042】
図8は、本実施形態に係る画像重畳部150による画像重畳処理についてより具体的に説明するための説明図である。
【0043】
図8の上段には、図6を用いて説明した、行動画像生成部140により生成された一連の行動画像A21〜A2nが示されている。また、図8の下段には、入力画像に各行動画像を重畳して生成される出力画像が示されている。
【0044】
かかる例において、画像重畳部150は、例えば、時刻t=m+1から時刻t=m+kの期間にわたって、行動画像A21を連続して入力画像に重畳している。同様に、画像重畳部150は、例えば、時刻t=m+k+1から時刻t=m+2k+1の期間にわたって、行動画像A22を連続して入力画像に重畳している。このように、1つの行動画像を所定の期間の入力画像にわたって連続して重畳することにより、ユーザに表示される出力画像において被写体の行動がゆっくりとした速度で表示されるため、出力画像を見たユーザが被写体の行動を認識することが容易となる。
【0045】
また、図8の例において、画像重畳部150は、一連の行動画像A21〜A2nの入力画像への重畳を終了した後、再び行動画像A21の入力画像への重畳を開始している。このように、一連の行動画像の入力画像への重畳を複数回繰り返すことにより、ユーザが出力画像において被写体の行動を一度見逃した場合にも、その行動を認識できる余地を再びユーザに与えることができる。
【0046】
また、図8の例において、画像重畳部150は、一連の行動画像のうちの1つの行動画像を連続して重畳する期間を、時間の経過に応じて変化させている。例えば、行動画像A21が連続して重畳される期間がkであるのに対し、行動画像A22が連続して重畳される期間はk+1となっている。このように、例えば、一連の行動画像のうち時間的に後の行動画像ほど、連続して入力画像に重畳する期間を長く設定してもよい。そうした場合には、ユーザは、行動画像が表示される表示速度から、被写体の行動における時間の経過を容易に把握することができる。それにより、例えば、ユーザにとって、被写体である通話相手に対して電話をかけるタイミングを図ることが容易となる。
【0047】
ここまで、図1〜図8を用いて、本発明の一実施形態に係る画像処理装置100の論理的な構成について説明した。次に、図9を用いて、画像処理装置100のハードウェア構成の一例について説明する。
【0048】
図9は、本実施形態に係る画像処理装置100のハードウェア構成の一例を示すブロック図である。
【0049】
図9において、CPU(Central Processing Unit)902は、画像処理装置100の動作全般を制御する。ROM(Read Only Memory)904には、一連の処理の一部又は全部を記述したプログラム又はデータが格納される。RAM(Random Access Memory)906には、処理の実行時にCPU902により用いられるプログラムやデータなどが一時的に記憶される。
【0050】
CPU902、ROM904、及びRAM906は、バス910を介して相互に接続される。バス910にはさらに、入出力インタフェース912が接続される。入出力インタフェース912は、CPU902、ROM904、及びRAM906と、表示装置920、撮影装置922、記憶装置924、入力装置926、及び通信インタフェース928とを接続するためのインタフェースである。
【0051】
表示装置920は、例えばCRT(Cathode Ray Tube)、液晶ディスプレイ、PDP(Plasma Display Panel)、又はOLED(Organic Light Emitting Diode)などを用いて、上述した行動画像が重畳された出力画像をユーザに表示することができる。撮影装置922は、典型的にはビデオカメラに相当し、複数の画像により構成される映像を撮影することができる。記憶装置924は、例えばハードディスクドライブ又は半導体メモリなどの記録媒体を用いて、画像データ、プログラム、又はプログラムデータなどを記憶する。入力装置926は、例えばボタン、スイッチ、レバー、マウスやキーボードなどのユーザインタフェースを介して、ユーザからの指示や情報入力を受け付ける。通信インタフェース928は、他の装置との間のネットワークを介する通信処理を行う。
【0052】
かかる画像処理装置100において、図1に示した各処理ブロックにおける処理は、典型的にはソフトウェアを用いて実行される。一連の処理又はその一部をソフトウェアで実行させる場合には、ソフトウェアを構成するプログラムが、例えば、ROM904又は記憶装置924に格納され、実行時にRAM906に読み込まれ、CPU902により実行される。その代わりに、一連の処理又はその一部は、専用のハードウェアロジックを用いて実行されてもよい。
【0053】
<2.一実施形態に係る画像処理の流れの説明>
次に、図10〜図13を用いて、上述した画像処理装置100による画像処理の流れの一例について説明する。
【0054】
まず、図10は、本実施形態に係る画像処理装置100による画像処理の全体の流れを示すフローチャートである。図10は、映像を構成する一連の入力画像のうちの1つの入力画像が映像取得部110により取得されるごとに実行される処理を示している。
【0055】
図10を参照すると、映像取得部110により取得された入力画像について、まず、差分検出部120により、差分検出処理が行われる(S102)。かかる差分検出処理については、後に図11を用いてより詳細に説明する。次に、行動画像生成部140により、行動画像生成処理が行われる(S104)。かかる行動画像生成処理については、後に図12を用いてより詳細に説明する。その後、行動画像生成処理において生成された行動画像が存在しているか否かで処理は分岐する(S106)。ここで、行動画像が存在している場合には、画像重畳部150により、画像重畳処理が行われる(S108)。そして、入力画像に行動画像が重畳された出力画像が、画像重畳部150から出力される(S110)。かかる画像重畳処理については、後に図13を用いてより詳細に説明する。一方、ステップS106において行動画像が存在していない場合、即ち、例えば行動画像が未だ生成されておらず又は全て削除されている場合には、画像重畳処理はスキップされ、入力画像がそのまま出力画像として出力される(S110)。
【0056】
図11は、本実施形態に係る差分検出部120による差分検出処理の流れを示すフローチャートである。
【0057】
図11を参照すると、まず、映像取得部110により取得された1つの入力画像が、差分検出部120に入力される(S202)。次に、差分検出部120は、映像取得部110から入力された入力画像と前に入力された入力画像との間の画素値の差分を計算する(S204)。次に、差分検出部120は、差分計算の結果として、例えば一定の大きさよりも大きい差分領域が存在するか否かを判定する(S206)。ここで、上記差分領域が存在している場合には、差分検出部120は、入力画像から抽出される差分画像、及び前の入力画像から抽出される差分元画像を記憶部130に出力して記憶させる(S208)。一方、上記差分領域が存在していない場合には、差分検出部120は、被写体による行動が終了しているため、記憶部130に記憶されている差分画像及び差分元画像を削除する(S210)。
【0058】
かかる差分検出部120による差分検出処理により、例えば入力画像内で被写体が行動している間、差分画像及び差分元画像が順次記憶部130に蓄積される。
【0059】
図12は、本実施形態に係る行動画像生成部140による行動画像生成処理の流れを示すフローチャートである。
【0060】
図12を参照すると、まず、行動画像生成部140は、差分検出部120により抽出された差分画像と初回差分画像との間で重複する差分領域が存在するか否かを判定する(S302)。ここで、重複する差分領域が存在している場合には、処理はステップS304へ進む。一方、重複する差分領域が存在していない場合には、処理はステップS316へ進む。ステップS316では、例えば、記憶部130に記憶されている初回差分画像及び初回差分元画像が削除される(S316)。その後、その時点の入力画像についての行動画像生成処理は終了する。なお、初回差分画像及び初回差分元画像が削除されたときに、後述する滞留値はリセットされる。
【0061】
ステップS302において、差分画像と初回差分画像との間で重複する差分領域が存在している場合には、行動画像生成部140は、差分領域が1つの場所又はその近傍に留まっている期間の長さを表す滞留値を加算する(S304)。次に、行動画像生成部140は、滞留値が所定の閾値を超えたか否かを判定する(S306)。ここで、滞留値が所定の閾値を超えた場合には、処理はS308へ進む。一方、滞留値が所定の閾値を超えていない場合には、その時点の入力画像についての行動画像生成処理は終了する。
【0062】
ステップS306において、滞留値が所定の閾値を超えた場合には、行動画像生成部140は、記憶部130に記憶されている初回差分元画像以降の一連の差分画像を取得する(S308)。次に、行動画像生成部140は、例えば図6又は図7を用いて説明した手法に従い、所定の合成比率を用いて行動画像を生成する(S310)。このとき、行動画像の生成は、一連の全ての行動画像の生成が終了するまで繰り返される(S312)。また、1つの行動画像が生成されるごとに、行動画像の生成時に用いられる合成比率は変更され得る(S314)。そして、一連の全ての行動画像が生成されると、行動画像生成処理は終了する。
【0063】
かかる行動画像生成部140による行動画像生成処理により生成された一連の行動画像は、記憶部130により記憶される。
【0064】
図13は、本実施形態に係る画像重畳部150による画像重畳処理の流れを示すフローチャートである。なお、ここでは、複数の入力画像に対する処理を通して、画像重畳部150により「注目行動画像」、「繰返し回数」、及び「連続重畳回数」という3つの変数値が保持されているものとする。このうち、「注目行動画像」とは、一連の行動画像のうちのいずれかの行動画像あって、入力画像への重畳の対象とする当該行動画像を指す識別子又はポインタを表す。また、「繰返し回数」は、画像重畳部150により一連の行動画像が繰返して入力画像に重畳される場合において、画像重畳処理が現在何回目の繰返し時点に位置しているかを表す変数である。また、「連続重畳回数」は、画像重畳部150により1つの行動画像が所定の期間の入力画像にわたって連続して重畳される場合において、1つの行動画像について現在何番目までの入力画像への重畳が終了したかを表す変数である。各変数値は、例えば、一連の入力画像のうちの最初の入力画像に対する画像重畳処理が開始される際に適宜初期化される。
【0065】
図13を参照すると、まず、画像重畳部150は、繰返し回数が所定の上限値以下であるか否かを判定する(S402)。所定の上限値とは、一連の行動画像を繰返し表示させる任意の所望の回数であってよい。ここで、繰返し回数が所定の上限値以下である場合には、処理はステップS404へ進む。一方、繰返し回数が所定の上限値よりも大きい場合には、一連の行動画像の表示の繰返しは既に終了している。その場合、画像重畳部150により記憶部130に記憶されている一連の行動画像が削除され(S422)、その時点の入力画像についての画像重畳処理は終了する。
【0066】
ステップS402において、繰返し回数が所定の上限値以下である場合には、次に、画像重畳部150は、連続重畳回数が所定の上限値以下であるか否かを判定する(S404)。ここでの所定の上限値とは、被写体の行動を出力画像に表示させる際の所望の表示速度に応じて決定された任意の値であってよい。ここで、連続重畳回数が所定の上限値以下である場合には、処理はステップS418へ進む。一方、連続重畳回数が所定の上限値よりも大きい場合には、処理はステップS406へ進む。
【0067】
ステップS406では、画像重畳部150は、次の行動画像が存在するか否かを判定する(S406)。ここで、次の行動画像が存在する場合には、処理はステップS408へ進む。一方、次の行動画像が存在しない場合、即ち前回の注目行動画像が一連の行動画像のうちの最後の行動画像である場合には、処理はステップS412へ進む。
【0068】
ステップS408では、画像重畳部150は、注目行動画像を前回重畳した行動画像の次の行動画像に変更する(S408)。また、画像重畳部150は、連続重畳回数の上限値を加算する(S410)。その後、処理はステップS418へ進む。
【0069】
一方、ステップS412では、画像重畳部150は、注目行動画像を一連の行動画像の最初の行動画像に戻す(S412)。また、画像重畳部150は、連続重畳回数の上限値を初期値に戻す(S414)。さらに、画像重畳部150は、繰返し回数を加算する(S416)。その後、処理はステップS418へ進む。
【0070】
そして、ステップS418において、画像重畳部150は、その時点での注目行動画像を入力画像に重畳して出力画像を生成する(S418)。なお、注目行動画像を入力画像に重畳する手法は、例えばアルファブレンディングなどの任意の手法であってよい。次に、画像重畳部150は、連続重畳回数を加算する(S420)。その後、画像重畳部150による画像重畳処理は終了する。
【0071】
かかる画像重畳部150による画像重畳処理を経て出力される出力画像は、例えば所定の表示装置によりユーザに向けて表示される。その際、出力画像の中に被写体の直近の行動を表現する行動画像が重畳されている。
【0072】
<3.まとめ>
ここまで、図1〜図13を用いて、本発明の一実施形態に係る画像重畳装置100の構成及び当該装置による画像処理について具体的に説明した。かかる実施形態によれば、例えば、画像重畳部150から出力される出力画像を見たユーザは、通話相手である被写体の行動が既に終了した後であっても、被写体の直近の行動の内容を把握することができる。また、一連の行動画像により被写体の行動の過程又は時間の経過が表現されるため、ユーザによる被写体の行動の内容の把握が容易となる。
【0073】
以上、添付図面を参照しながら本発明の好適な2つの実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属す技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0074】
例えば、図10〜図13を用いて説明した画像処理の手順を、必ずしもフローチャートに記載された順序に沿って実行しなくてもよい。各処理ステップは、並列的に又は個別に独立して実行される処理を含んでもよい。
【0075】
また、本明細書では、入力画像において被写体の行動が1つのみ現れる場合について主に説明した。しかしながら、本発明は、入力画像において被写体の行動が複数現れる場合にも適用可能である。入力画像において被写体の行動が複数現れる場合には、例えば、上述した行動画像生成処理及び画像重畳処理が必要な回数だけ繰り返され得る。
【符号の説明】
【0076】
100 画像処理装置
110 映像取得部(取得部)
120 差分検出部(検出部)
130 記憶部
140 行動画像生成部
142 行動判定部
144 合成部
150 画像重畳部(重畳部)
【技術分野】
【0001】
本発明は、画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
通信ネットワークの高度化に伴い、離れた場所において撮影された映像をネットワーク経由で伝送してその場所の様子を視覚的に確認することが容易となっている。こうした映像の伝送は、例えば、勤務形態の一種としてのテレワークや、要介護者の遠隔モニタリングなど、様々な分野で応用されている。例えば、離れた場所同士で互いの映像を伝送し合うことで、テレワークを行う作業者の業務への参加意識を高め、又は要介護者の孤独感を和らげるといった効果も期待される。
【0003】
図14は、典型的な遠隔映像伝送システムの概要を示す模式図である。図14を参照すると、遠隔映像伝送システムは、ネットワーク10を介して互いに接続された情報処理装置20と情報処理装置30とを含む。ネットワーク10は、例えばインターネット、専用線、LAN(Local Area Network)、又はVPN(Virtual Private Network)などの任意のネットワークであってよい。情報処理装置20及び30は、例えば、PC(Personal Computer)やワークステーションなどの汎用的なコンピュータであってもよく、又は映像伝送用の専用の装置であってもよい。情報処理装置20及び30は、それぞれ撮影装置と表示装置とに接続されており、情報処理装置20又は30のうちのいずれかの側の撮影装置を用いて撮影された映像が、ネットワーク10を介して伝送され、他方の側の表示装置に表示される。
【0004】
図15は、図14に例示した遠隔映像伝送システムにおいて撮影される映像の一例を示す説明図である。図15を参照すると、時刻t=1、t=2、及びt=3においてそれぞれ撮影された3枚の画像F01、F02、及びF03が示されている。まず、時刻t=1では、デスクの周囲に位置する2人の被写体が画像F01に映っている。その後、時刻t=2の時点では、さらに3人目の被写体が画像F02の左側に映っている。さらに、時刻t=3の時点では、上記3人目の被写体が画像F03の中で矢印30の方向に移動している。その後、例えば、撮影される画像の内容は、画像F03の状態で一定期間継続され得る。
【0005】
このような遠隔映像伝送システムで結ばれた遠隔地同士で会話を交わす場合には、通常、ユーザは、固定電話又はIP電話などを用いて通話を行う。例えば、ユーザは、図15に示した画像F01〜F03を見て通話相手の在席状況を確認して電話をかけることができる。これに対し、例えば下記特許文献1では、撮影された映像からユーザが通話を希望する通話相手の在席状況を自動的に認識し、在席状況が変化した時点でユーザに視覚的又は聴覚的に報知を行うシステムが提案されている。また、下記特許文献2では、通話相手が不在の場合に通話の予約を行うことを可能にし、通話相手が席に戻ってきた時点で自動的に電話接続を行うシステムが提案されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平8−249545号公報
【特許文献2】特開平3−236660号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、上記特許文献1及び2に記載されたシステムでは、ユーザは、通話相手の在席又は不在という状況を知ることはできるものの、通話相手の直近の行動の内容を具体的に把握することは困難である。例えば、通話相手の手がふさがっている状況又は他のユーザと会話をしている状況などにおいては、電話をかけるのを避けることが望ましい場合がある。また、伝送されてきた映像を単純に表示しているだけでは、画面に常に注目していない限り、通話相手が不在であったとしても、直前まで在席していたのか当分の間不在なのかといった事情を知ることができない。そのため、ユーザは、どのタイミングで通話相手に電話をかけるべきかという判断をすることが難しい。
【0008】
そこで、本発明は、映像を見たユーザが被写体の直近の行動の内容を容易に把握することのできる、新規かつ改良された画像処理装置及び画像処理方法を提供しようとするものである。
【課題を解決するための手段】
【0009】
本発明のある実施形態によれば、映像を構成する入力画像を順次取得する取得部と、上記取得部により取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する検出部と、上記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成する行動画像生成部と、上記行動画像生成部により生成された上記行動画像を入力画像に重畳する重畳部と、を備える画像処理装置が提供される。
【0010】
また、上記行動画像生成部は、複数の入力画像に連続して映っている被写体の行動について一連の複数の行動画像を生成してもよい。
【0011】
また、上記行動画像生成部は、第1の時点の入力画像の部分画像に当該第1の時点と第2の時点の間の複数の時点の入力画像の部分画像を合成比率を変えながら順次合成することにより、上記一連の複数の行動画像を生成してもよい。
【0012】
また、上記行動画像生成部は、第1の時点の入力画像の部分画像に第2の時点の入力画像の部分画像を合成比率を変えながら複数回合成することにより、上記一連の複数の行動画像を生成してもよい。
【0013】
また、上記重畳部は、上記行動画像生成部により生成された1つの行動画像を、所定の期間の入力画像にわたって連続して重畳してもよい。
【0014】
また、上記重畳部は、被写体の行動について生成された上記一連の複数の行動画像を複数回繰り返して入力画像に重畳してもよい。
【0015】
また、上記重畳部は、上記1つの行動画像を連続して重畳するための上記所定の期間を、時間の経過に応じて変化させてもよい。
【0016】
また、本発明の別の実施形態によれば、映像を構成する入力画像を順次取得するステップと、取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出するステップと、上記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成するステップと、生成された上記行動画像を入力画像に重畳するステップと、を含む画像処理方法が提供される。
【発明の効果】
【0017】
以上説明したように、本発明に係る画像処理装置及び画像処理方法によれば、映像を見たユーザが被写体の直近の行動の内容を容易に把握することが可能となる。例えば、被写体が静止する直前の映像が表示されることにより、静止に至る時間が表現されることに加えて、ユーザは、静止に至るまでの被写体の行動の方向も把握することができる。また、ユーザは、被写体が静止状態から移動していく行動も把握することができる。
【図面の簡単な説明】
【0018】
【図1】一実施形態に係る画像処理装置の構成の一例を示すブロック図である。
【図2】一実施形態に係る差分検出処理について説明するための説明図である。
【図3】一実施形態に係る行動画像生成部のより具体的な構成の一例を示すブロック図である。
【図4】一実施形態に係る行動判定処理について説明するための説明図である。
【図5】行動画像生成処理の対象とする部分画像の範囲の一例を示す説明図である。
【図6】一実施形態に係る行動画像生成処理について説明するための説明図である。
【図7】一変形例に係る行動画像生成処理について説明するための説明図である。
【図8】一実施形態に係る画像重畳処理について説明するための説明図である。
【図9】一実施形態に係る画像重畳処理のハードウェア構成の一例を示すブロック図である。
【図10】一実施形態に係る画像処理の全体の流れを示すフローチャートである。
【図11】一実施形態に係る差分検出処理の流れを示すフローチャートである。
【図12】一実施形態に係る行動画像生成処理の流れを示すフローチャートである。
【図13】一実施形態に係る画像重畳処理の流れを示すフローチャートである。
【図14】典型的な遠隔映像伝送システムの一例を示す模式図である。
【図15】典型的な遠隔映像伝送システムにおいて撮影される映像の一例を示す説明図である。
【発明を実施するための形態】
【0019】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0020】
<1.一実施形態に係る画像処理装置の構成の説明>
まず、図1は、本発明の一実施形態に係る画像処理装置100の論理的な構成を示すブロック図である。
【0021】
画像処理装置100は、例えば、図14に示した情報処理装置20又は30と同様、ネットワークを介して取得した映像又は撮影装置から入力された映像を処理し、処理後の映像を出力する情報処理装置であってもよい。画像処理装置100は、例えば、PCやワークステーションなどの汎用的なコンピュータであってもよく、又は画像処理専用の装置であってもよい。図1を参照すると、画像処理装置100は、映像取得部110、差分検出部120、記憶部130、行動画像生成部140、及び画像重畳部150を備える。
【0022】
映像取得部110は、例えば、映像を構成する一連の入力画像を時系列で順次取得し、差分検出部120及び画像重畳部150へ出力する。映像取得部110は、例えば、図14に関連して説明した任意のネットワークを介して他の装置から一連の入力画像を取得してもよい。その代わりに、映像取得部110は、例えば、画像処理装置100に接続されたビデオカメラなどの撮影装置、又はハードディスクドライブなどの記憶装置から一連の入力画像を取得してもよい。
【0023】
差分検出部120は、映像取得部110により取得される一連の入力画像のうち、注目する1つの入力画像とその入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する。そして、差分検出部120は、例えば、差分領域を検出した場合には、検出した差分領域を含む所定の範囲の入力画像の部分画像(以下、差分画像という)を、記憶部130に記憶させる。また、差分検出部120は、例えば、上記差分画像と同一の範囲の前の入力画像の部分画像を、差分元画像として記憶部130に記憶させる。さらに、差分検出部120は、例えば、検出した差分領域の範囲を特定するための座標データを、記憶部130に記憶させる。
【0024】
図2は、本実施形態に係る差分検出部120による差分検出処理についてより具体的に説明するための説明図である。
【0025】
まず、図2の上段には、時刻t=1及びt=2における入力画像F11及びF12が示されている。入力画像F11及びF12を参照すると、時刻t=1からt=2の間に、被写体が入力画像の左上から真ん中やや右に移動したことが分かる。差分検出部120は、例えば、入力画像F11の次に入力画像F12が入力されると、入力画像F11と入力画像F12との間で画素値の差分を計算する。
【0026】
図2の中段には、差分検出部120による入力画像F11と入力画像F12との間の画素値の差分計算結果が示されている。差分計算結果を参照すると、矩形の領域R12において、画素値の差分が生じている。このように、注目する1つの入力画像とその入力画像よりも前に取得された入力画像との間で差分が生じている領域を、本明細書では差分領域という。差分領域の形状は矩形に限定されず、例えば円形や多角形などであってもよい。差分領域の形状が矩形である場合には、例えば、左上の頂点の二次元座標、矩形の幅及び高さにより、差分領域の範囲を特定することができる。なお、画素値の差分が生じている面積が一定の大きさよりも小さい場合(例えば図2の差分計算結果におけるZ12など)には、当該差分について差分領域を設定しないのが好適である。それにより、例えば、画素ごとのちらつきなどを原因とする誤差の影響が排除される。
【0027】
図2の下段には、上述した差分計算結果に応じて抽出される差分画像D12及び差分元画像DX12が示されている。差分画像D12は、注目する入力画像F12における、上記差分領域R12に対応する範囲の部分画像である。一方、差分元画像DX12は、注目する入力画像F12との間で差分が計算された入力画像F11における、上記差分領域R12に対応する範囲の部分画像である。差分検出部120は、かかる差分画像D12及び差分元画像DX12、並びに差分領域の範囲を特定するための座標データ(例えば上述した二次元座標、矩形の幅及び高さ)を記憶部130に記憶させる。
【0028】
記憶部130は、例えばハードディスクや半導体メモリなどの任意の記録媒体を用いて、例えば上述した差分画像、差分元画像、差分領域の範囲を特定するための座標データ、及び入力画像などを時系列で記憶する。また、記憶部130は、例えば画像処理装置100による処理を記述したプログラムや当該プログラムに使用される任意のデータを記憶していてもよい。
【0029】
行動画像生成部140は、差分検出部120により抽出された2以上の時点の差分画像若しくは差分元画像、又はそれらを含む所定の範囲の部分画像を合成することにより、被写体の行動を表現する行動画像を生成する。以下、行動画像生成部140が複数の入力画像に連続して映っている被写体の1まとまりの行動について一連の複数の行動画像を生成する場合について説明する。即ち、この場合、行動画像生成部140は、紙芝居のように被写体の行動を表現することのできる複数の行動画像を生成する。
【0030】
図3は、本実施形態に係る行動画像生成部140の詳細な構成の一例を示すブロック図である。図3を参照すると、行動画像生成部140は、行動判定部142及び合成部144を有する。
【0031】
行動判定部142は、所定の閾値を超える数の連続する入力画像において、差分検出部120により検出された差分領域が継続して1つの場所又はその近傍に留まっているか否かを判定する。ここで、行動判定部142は、後述するように、差分領域が1つの場所又はその近傍に留まっている期間の長さ(入力画像の数を尺度とする)を、滞留値という値を用いて計測する。そして、滞留値が所定の閾値を超えた場合には、行動判定部142は、その期間における被写体の行動を1単位の行動として認識し、後述する合成部144に1単位の行動を表現する一連の行動画像を生成させる。
【0032】
図4は、本実施形態に係る行動判定部142による行動判定処理についてより具体的に説明するための説明図である。
【0033】
図4を参照すると、時刻t=0、1、2、及びnの各時点における入力画像F20、F21、F22、及びF2nが示されている。また、入力画像F20については、時刻t=1において差分検出部120により抽出された差分元画像DX21の範囲を示す点線枠が示されている。また、入力画像F21、F22、及びF2nについては、時刻t=1、2、及びnにおいて差分検出部120によりそれぞれ抽出された差分画像D21、D22、及びD2nの範囲を示す点線枠が示されている。
【0034】
かかる例において、行動判定部142は、まず、時刻t=1〜nまでの各時点にて、その時点の入力画像の差分画像と、記憶部130に記憶されている最も古い差分元画像(以下、初回差分元画像という)との間で重複する範囲に差分が存在するか否かを調べる。図4の場合、差分元画像DX21が初回差分元画像となる。例えば、時刻t=1においては、差分画像D21と初回差分元画像DX21との間に差分が存在することは自明である。このとき、行動判定部142は、例えば滞留値RV=1とする。次に、時刻t=2において、差分画像D22と初回差分元画像DX21との間には、差分領域R22と差分領域R21の重複部分に差分が存在する。そこで、行動判定部142は、例えば滞留値RVを加算(インクリメント)してRV=2とする。その後、同様の処理が繰り返された後、時刻t=nにおいて例えば滞留値RV(=n)が所定の閾値Th1を超えたとする。そうした場合には、行動判定部142は、例えば、時刻t=1〜nの間に差分領域が継続して1つの場所又はその近傍に留まっていると判定することができる。そうすると、行動判定部142は、時刻t=1〜nの間の被写体の行動を1単位の行動として認識し、合成部144に1単位の行動を表現する一連の行動画像を生成させる。なお、上述した所定の閾値Th1は、例えば、1単位の行動を認識させたい時間をT、入力画像のフレームレートをRとすると、Th1=T×Rなどとして与えられる。
【0035】
合成部144は、行動判定部142による判定処理により認識された被写体の1単位の行動について、2以上の時点の入力画像の部分画像を合成することにより、当該行動を表現する一連の行動画像を生成する。
【0036】
図5は、合成部144による合成に用いられる部分画像の範囲の一例を示す説明図である。図5を参照すると、図4に示した初回差分元画像DX21を含む入力画像F20、及び差分画像D2nを含む入力画像F2nが示されている。初回差分元画像DX21の範囲は差分領域R21の範囲に一致する。また、差分画像D2nの範囲は差分領域R2nの範囲に一致する。この場合、合成部144による合成に用いられる部分画像の範囲は、例えば、差分領域R21と差分領域R2nとを共に含む矩形領域AR21とすることができる。かかる矩形領域AR21の範囲は、例えば、上述した座標データを用いて決定され得る。
【0037】
図6は、合成部144による合成処理について説明するための説明図である。図6の例では、合成部144は、第1の時点の入力画像の部分画像に当該第1の時点と第2の時点の間の複数の時点の入力画像の部分画像を合成比率を変えながら順次合成することにより、一連の複数の行動画像を生成する。例えば、第1の時点は時刻t=0、第2の時点は時刻t=nにそれぞれ対応する。また、第1の時点と第2の時点の間の複数の時点とは、時刻t=1、2、…、nに対応する。まず、図6の上段には、上記矩形領域AR21の範囲の時刻t=0、1、2、及びnにおける入力画像の部分画像P20、P21、P22、及びP2nが示されている。そして、合成部144は、まず、部分画像P21を部分画像P20と合成し、最初の行動画像A21を生成する。次に、合成部144は、部分画像P22を部分画像P20と合成し、2番目の行動画像A22を生成する。その後、同様の処理が繰り返された後、合成部144は、部分画像P2nを部分画像P20と合成し、n番目の行動画像A2nを生成する。このとき、合成部144は、例えば部分画像P20に対して合成する部分画像が新しくなるに従い、新しい部分画像の部分画像P20に対する合成比率を高くする。その結果、行動画像の中で行動する被写体の濃度が時間の経過に従って徐々に濃くなっていくような一連の行動画像が生成される。合成部144は、このように生成した一連の複数の行動画像A21〜A2nを記憶部130に出力してもよい。
【0038】
図7は、合成部144による行動画像生成処理の変形例について説明するための説明図である。図7の例では、合成部144は、第1の時点の入力画像の部分画像に第2の時点の入力画像の部分画像を合成比率を変えながら複数回合成することにより、一連の複数の行動画像を生成する。例えば、第1の時点は時刻t=0、第2の時点は時刻t=nにそれぞれ対応する。まず、図7の上段には、矩形領域AR21の範囲の時刻t=0及びt=nにおける入力画像の部分画像P20及びP2nが示されている。そして、合成部144は、まず、第1の合成比率を用いて部分画像P2nを部分画像P20と合成し、最初の行動画像A31を生成する。次に、合成部144は、第2の合成比率を用いて部分画像P2nを部分画像P20と合成し、2番目の行動画像A32を生成する。その後、同様の処理が繰り返された後、合成部144は、第nの合成比率を用いて部分画像P2nを部分画像P20と合成し、n番目の行動画像A3nを生成する。このとき、例えば、第1〜第nの合成比率について、後の合成比率ほど、部分画像P2nの部分画像P20に対する合成比率を高くする。その結果、行動画像の中で時間の経過に従って被写体が徐々に濃く浮き上がって見えるような一連の行動画像が生成される。合成部144は、このように生成した一連の複数の行動画像A31〜A3nを記憶部130に出力してもよい。
【0039】
行動画像生成部140は、例えば図6又は図7を用いて説明した手法に従って合成部144により生成された一連の複数の行動画像を、記憶部130に記憶させる。
【0040】
図1に戻り、本実施形態に係る画像処理装置100の論理的な構成についての説明を継続する。
【0041】
画像重畳部150は、例えば、行動画像生成部140により生成された行動画像を記憶部130から取得し、取得した行動画像を映像取得部110により新たに取得された入力画像に重畳する。このとき、画像重畳部150は、例えば、行動画像生成部140により生成された1つの行動画像を、所定の期間の入力画像にわたって連続して重畳してもよい。また、画像重畳部150は、1単位の行動について生成された一連の行動画像を、複数回繰り返して入力画像に重畳してもよい。さらに、画像重畳部150は、例えば、1つの行動画像を連続して重畳するための上記所定の期間を、時間の経過に応じて変化させてもよい。そして、画像重畳部150は、行動画像を重畳した出力画像を、例えば、画像処理装置100に接続されている表示装置に表示させ、ネットワークを介して他の装置へ送出し、又は所定の記憶装置に記憶させる。
【0042】
図8は、本実施形態に係る画像重畳部150による画像重畳処理についてより具体的に説明するための説明図である。
【0043】
図8の上段には、図6を用いて説明した、行動画像生成部140により生成された一連の行動画像A21〜A2nが示されている。また、図8の下段には、入力画像に各行動画像を重畳して生成される出力画像が示されている。
【0044】
かかる例において、画像重畳部150は、例えば、時刻t=m+1から時刻t=m+kの期間にわたって、行動画像A21を連続して入力画像に重畳している。同様に、画像重畳部150は、例えば、時刻t=m+k+1から時刻t=m+2k+1の期間にわたって、行動画像A22を連続して入力画像に重畳している。このように、1つの行動画像を所定の期間の入力画像にわたって連続して重畳することにより、ユーザに表示される出力画像において被写体の行動がゆっくりとした速度で表示されるため、出力画像を見たユーザが被写体の行動を認識することが容易となる。
【0045】
また、図8の例において、画像重畳部150は、一連の行動画像A21〜A2nの入力画像への重畳を終了した後、再び行動画像A21の入力画像への重畳を開始している。このように、一連の行動画像の入力画像への重畳を複数回繰り返すことにより、ユーザが出力画像において被写体の行動を一度見逃した場合にも、その行動を認識できる余地を再びユーザに与えることができる。
【0046】
また、図8の例において、画像重畳部150は、一連の行動画像のうちの1つの行動画像を連続して重畳する期間を、時間の経過に応じて変化させている。例えば、行動画像A21が連続して重畳される期間がkであるのに対し、行動画像A22が連続して重畳される期間はk+1となっている。このように、例えば、一連の行動画像のうち時間的に後の行動画像ほど、連続して入力画像に重畳する期間を長く設定してもよい。そうした場合には、ユーザは、行動画像が表示される表示速度から、被写体の行動における時間の経過を容易に把握することができる。それにより、例えば、ユーザにとって、被写体である通話相手に対して電話をかけるタイミングを図ることが容易となる。
【0047】
ここまで、図1〜図8を用いて、本発明の一実施形態に係る画像処理装置100の論理的な構成について説明した。次に、図9を用いて、画像処理装置100のハードウェア構成の一例について説明する。
【0048】
図9は、本実施形態に係る画像処理装置100のハードウェア構成の一例を示すブロック図である。
【0049】
図9において、CPU(Central Processing Unit)902は、画像処理装置100の動作全般を制御する。ROM(Read Only Memory)904には、一連の処理の一部又は全部を記述したプログラム又はデータが格納される。RAM(Random Access Memory)906には、処理の実行時にCPU902により用いられるプログラムやデータなどが一時的に記憶される。
【0050】
CPU902、ROM904、及びRAM906は、バス910を介して相互に接続される。バス910にはさらに、入出力インタフェース912が接続される。入出力インタフェース912は、CPU902、ROM904、及びRAM906と、表示装置920、撮影装置922、記憶装置924、入力装置926、及び通信インタフェース928とを接続するためのインタフェースである。
【0051】
表示装置920は、例えばCRT(Cathode Ray Tube)、液晶ディスプレイ、PDP(Plasma Display Panel)、又はOLED(Organic Light Emitting Diode)などを用いて、上述した行動画像が重畳された出力画像をユーザに表示することができる。撮影装置922は、典型的にはビデオカメラに相当し、複数の画像により構成される映像を撮影することができる。記憶装置924は、例えばハードディスクドライブ又は半導体メモリなどの記録媒体を用いて、画像データ、プログラム、又はプログラムデータなどを記憶する。入力装置926は、例えばボタン、スイッチ、レバー、マウスやキーボードなどのユーザインタフェースを介して、ユーザからの指示や情報入力を受け付ける。通信インタフェース928は、他の装置との間のネットワークを介する通信処理を行う。
【0052】
かかる画像処理装置100において、図1に示した各処理ブロックにおける処理は、典型的にはソフトウェアを用いて実行される。一連の処理又はその一部をソフトウェアで実行させる場合には、ソフトウェアを構成するプログラムが、例えば、ROM904又は記憶装置924に格納され、実行時にRAM906に読み込まれ、CPU902により実行される。その代わりに、一連の処理又はその一部は、専用のハードウェアロジックを用いて実行されてもよい。
【0053】
<2.一実施形態に係る画像処理の流れの説明>
次に、図10〜図13を用いて、上述した画像処理装置100による画像処理の流れの一例について説明する。
【0054】
まず、図10は、本実施形態に係る画像処理装置100による画像処理の全体の流れを示すフローチャートである。図10は、映像を構成する一連の入力画像のうちの1つの入力画像が映像取得部110により取得されるごとに実行される処理を示している。
【0055】
図10を参照すると、映像取得部110により取得された入力画像について、まず、差分検出部120により、差分検出処理が行われる(S102)。かかる差分検出処理については、後に図11を用いてより詳細に説明する。次に、行動画像生成部140により、行動画像生成処理が行われる(S104)。かかる行動画像生成処理については、後に図12を用いてより詳細に説明する。その後、行動画像生成処理において生成された行動画像が存在しているか否かで処理は分岐する(S106)。ここで、行動画像が存在している場合には、画像重畳部150により、画像重畳処理が行われる(S108)。そして、入力画像に行動画像が重畳された出力画像が、画像重畳部150から出力される(S110)。かかる画像重畳処理については、後に図13を用いてより詳細に説明する。一方、ステップS106において行動画像が存在していない場合、即ち、例えば行動画像が未だ生成されておらず又は全て削除されている場合には、画像重畳処理はスキップされ、入力画像がそのまま出力画像として出力される(S110)。
【0056】
図11は、本実施形態に係る差分検出部120による差分検出処理の流れを示すフローチャートである。
【0057】
図11を参照すると、まず、映像取得部110により取得された1つの入力画像が、差分検出部120に入力される(S202)。次に、差分検出部120は、映像取得部110から入力された入力画像と前に入力された入力画像との間の画素値の差分を計算する(S204)。次に、差分検出部120は、差分計算の結果として、例えば一定の大きさよりも大きい差分領域が存在するか否かを判定する(S206)。ここで、上記差分領域が存在している場合には、差分検出部120は、入力画像から抽出される差分画像、及び前の入力画像から抽出される差分元画像を記憶部130に出力して記憶させる(S208)。一方、上記差分領域が存在していない場合には、差分検出部120は、被写体による行動が終了しているため、記憶部130に記憶されている差分画像及び差分元画像を削除する(S210)。
【0058】
かかる差分検出部120による差分検出処理により、例えば入力画像内で被写体が行動している間、差分画像及び差分元画像が順次記憶部130に蓄積される。
【0059】
図12は、本実施形態に係る行動画像生成部140による行動画像生成処理の流れを示すフローチャートである。
【0060】
図12を参照すると、まず、行動画像生成部140は、差分検出部120により抽出された差分画像と初回差分画像との間で重複する差分領域が存在するか否かを判定する(S302)。ここで、重複する差分領域が存在している場合には、処理はステップS304へ進む。一方、重複する差分領域が存在していない場合には、処理はステップS316へ進む。ステップS316では、例えば、記憶部130に記憶されている初回差分画像及び初回差分元画像が削除される(S316)。その後、その時点の入力画像についての行動画像生成処理は終了する。なお、初回差分画像及び初回差分元画像が削除されたときに、後述する滞留値はリセットされる。
【0061】
ステップS302において、差分画像と初回差分画像との間で重複する差分領域が存在している場合には、行動画像生成部140は、差分領域が1つの場所又はその近傍に留まっている期間の長さを表す滞留値を加算する(S304)。次に、行動画像生成部140は、滞留値が所定の閾値を超えたか否かを判定する(S306)。ここで、滞留値が所定の閾値を超えた場合には、処理はS308へ進む。一方、滞留値が所定の閾値を超えていない場合には、その時点の入力画像についての行動画像生成処理は終了する。
【0062】
ステップS306において、滞留値が所定の閾値を超えた場合には、行動画像生成部140は、記憶部130に記憶されている初回差分元画像以降の一連の差分画像を取得する(S308)。次に、行動画像生成部140は、例えば図6又は図7を用いて説明した手法に従い、所定の合成比率を用いて行動画像を生成する(S310)。このとき、行動画像の生成は、一連の全ての行動画像の生成が終了するまで繰り返される(S312)。また、1つの行動画像が生成されるごとに、行動画像の生成時に用いられる合成比率は変更され得る(S314)。そして、一連の全ての行動画像が生成されると、行動画像生成処理は終了する。
【0063】
かかる行動画像生成部140による行動画像生成処理により生成された一連の行動画像は、記憶部130により記憶される。
【0064】
図13は、本実施形態に係る画像重畳部150による画像重畳処理の流れを示すフローチャートである。なお、ここでは、複数の入力画像に対する処理を通して、画像重畳部150により「注目行動画像」、「繰返し回数」、及び「連続重畳回数」という3つの変数値が保持されているものとする。このうち、「注目行動画像」とは、一連の行動画像のうちのいずれかの行動画像あって、入力画像への重畳の対象とする当該行動画像を指す識別子又はポインタを表す。また、「繰返し回数」は、画像重畳部150により一連の行動画像が繰返して入力画像に重畳される場合において、画像重畳処理が現在何回目の繰返し時点に位置しているかを表す変数である。また、「連続重畳回数」は、画像重畳部150により1つの行動画像が所定の期間の入力画像にわたって連続して重畳される場合において、1つの行動画像について現在何番目までの入力画像への重畳が終了したかを表す変数である。各変数値は、例えば、一連の入力画像のうちの最初の入力画像に対する画像重畳処理が開始される際に適宜初期化される。
【0065】
図13を参照すると、まず、画像重畳部150は、繰返し回数が所定の上限値以下であるか否かを判定する(S402)。所定の上限値とは、一連の行動画像を繰返し表示させる任意の所望の回数であってよい。ここで、繰返し回数が所定の上限値以下である場合には、処理はステップS404へ進む。一方、繰返し回数が所定の上限値よりも大きい場合には、一連の行動画像の表示の繰返しは既に終了している。その場合、画像重畳部150により記憶部130に記憶されている一連の行動画像が削除され(S422)、その時点の入力画像についての画像重畳処理は終了する。
【0066】
ステップS402において、繰返し回数が所定の上限値以下である場合には、次に、画像重畳部150は、連続重畳回数が所定の上限値以下であるか否かを判定する(S404)。ここでの所定の上限値とは、被写体の行動を出力画像に表示させる際の所望の表示速度に応じて決定された任意の値であってよい。ここで、連続重畳回数が所定の上限値以下である場合には、処理はステップS418へ進む。一方、連続重畳回数が所定の上限値よりも大きい場合には、処理はステップS406へ進む。
【0067】
ステップS406では、画像重畳部150は、次の行動画像が存在するか否かを判定する(S406)。ここで、次の行動画像が存在する場合には、処理はステップS408へ進む。一方、次の行動画像が存在しない場合、即ち前回の注目行動画像が一連の行動画像のうちの最後の行動画像である場合には、処理はステップS412へ進む。
【0068】
ステップS408では、画像重畳部150は、注目行動画像を前回重畳した行動画像の次の行動画像に変更する(S408)。また、画像重畳部150は、連続重畳回数の上限値を加算する(S410)。その後、処理はステップS418へ進む。
【0069】
一方、ステップS412では、画像重畳部150は、注目行動画像を一連の行動画像の最初の行動画像に戻す(S412)。また、画像重畳部150は、連続重畳回数の上限値を初期値に戻す(S414)。さらに、画像重畳部150は、繰返し回数を加算する(S416)。その後、処理はステップS418へ進む。
【0070】
そして、ステップS418において、画像重畳部150は、その時点での注目行動画像を入力画像に重畳して出力画像を生成する(S418)。なお、注目行動画像を入力画像に重畳する手法は、例えばアルファブレンディングなどの任意の手法であってよい。次に、画像重畳部150は、連続重畳回数を加算する(S420)。その後、画像重畳部150による画像重畳処理は終了する。
【0071】
かかる画像重畳部150による画像重畳処理を経て出力される出力画像は、例えば所定の表示装置によりユーザに向けて表示される。その際、出力画像の中に被写体の直近の行動を表現する行動画像が重畳されている。
【0072】
<3.まとめ>
ここまで、図1〜図13を用いて、本発明の一実施形態に係る画像重畳装置100の構成及び当該装置による画像処理について具体的に説明した。かかる実施形態によれば、例えば、画像重畳部150から出力される出力画像を見たユーザは、通話相手である被写体の行動が既に終了した後であっても、被写体の直近の行動の内容を把握することができる。また、一連の行動画像により被写体の行動の過程又は時間の経過が表現されるため、ユーザによる被写体の行動の内容の把握が容易となる。
【0073】
以上、添付図面を参照しながら本発明の好適な2つの実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属す技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0074】
例えば、図10〜図13を用いて説明した画像処理の手順を、必ずしもフローチャートに記載された順序に沿って実行しなくてもよい。各処理ステップは、並列的に又は個別に独立して実行される処理を含んでもよい。
【0075】
また、本明細書では、入力画像において被写体の行動が1つのみ現れる場合について主に説明した。しかしながら、本発明は、入力画像において被写体の行動が複数現れる場合にも適用可能である。入力画像において被写体の行動が複数現れる場合には、例えば、上述した行動画像生成処理及び画像重畳処理が必要な回数だけ繰り返され得る。
【符号の説明】
【0076】
100 画像処理装置
110 映像取得部(取得部)
120 差分検出部(検出部)
130 記憶部
140 行動画像生成部
142 行動判定部
144 合成部
150 画像重畳部(重畳部)
【特許請求の範囲】
【請求項1】
映像を構成する入力画像を順次取得する取得部と;
前記取得部により取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する検出部と;
前記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成する行動画像生成部と;
前記行動画像生成部により生成された前記行動画像を入力画像に重畳する重畳部と;
を備える画像処理装置。
【請求項2】
前記行動画像生成部は、複数の入力画像に連続して映っている被写体の行動について一連の複数の行動画像を生成する、請求項1に記載の画像処理装置。
【請求項3】
前記行動画像生成部は、第1の時点の入力画像の部分画像に当該第1の時点と第2の時点の間の複数の時点の入力画像の部分画像を合成比率を変えながら順次合成することにより、前記一連の複数の行動画像を生成する、請求項2に記載の画像処理装置。
【請求項4】
前記行動画像生成部は、第1の時点の入力画像の部分画像に第2の時点の入力画像の部分画像を合成比率を変えながら複数回合成することにより、前記一連の複数の行動画像を生成する、請求項2に記載の画像処理装置。
【請求項5】
前記重畳部は、前記行動画像生成部により生成された1つの行動画像を、所定の期間の入力画像にわたって連続して重畳する、請求項1に記載の画像処理装置。
【請求項6】
前記重畳部は、被写体の行動について生成された前記一連の複数の行動画像を複数回繰り返して入力画像に重畳する、請求項2に記載の画像処理装置。
【請求項7】
前記重畳部は、前記1つの行動画像を連続して重畳するための前記所定の期間を、時間の経過に応じて変化させる、請求項5に記載の画像処理装置。
【請求項8】
映像を構成する入力画像を順次取得するステップと;
取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出するステップと;
前記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成するステップと;
生成された前記行動画像を入力画像に重畳するステップと;
を含む画像処理方法。
【請求項1】
映像を構成する入力画像を順次取得する取得部と;
前記取得部により取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出する検出部と;
前記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成する行動画像生成部と;
前記行動画像生成部により生成された前記行動画像を入力画像に重畳する重畳部と;
を備える画像処理装置。
【請求項2】
前記行動画像生成部は、複数の入力画像に連続して映っている被写体の行動について一連の複数の行動画像を生成する、請求項1に記載の画像処理装置。
【請求項3】
前記行動画像生成部は、第1の時点の入力画像の部分画像に当該第1の時点と第2の時点の間の複数の時点の入力画像の部分画像を合成比率を変えながら順次合成することにより、前記一連の複数の行動画像を生成する、請求項2に記載の画像処理装置。
【請求項4】
前記行動画像生成部は、第1の時点の入力画像の部分画像に第2の時点の入力画像の部分画像を合成比率を変えながら複数回合成することにより、前記一連の複数の行動画像を生成する、請求項2に記載の画像処理装置。
【請求項5】
前記重畳部は、前記行動画像生成部により生成された1つの行動画像を、所定の期間の入力画像にわたって連続して重畳する、請求項1に記載の画像処理装置。
【請求項6】
前記重畳部は、被写体の行動について生成された前記一連の複数の行動画像を複数回繰り返して入力画像に重畳する、請求項2に記載の画像処理装置。
【請求項7】
前記重畳部は、前記1つの行動画像を連続して重畳するための前記所定の期間を、時間の経過に応じて変化させる、請求項5に記載の画像処理装置。
【請求項8】
映像を構成する入力画像を順次取得するステップと;
取得された1つの入力画像と当該入力画像より前に取得された入力画像との間で差分が生じている差分領域を検出するステップと;
前記差分領域を含む部分画像であって2以上の時点の入力画像の当該部分画像を合成することにより、被写体の行動を表現する行動画像を生成するステップと;
生成された前記行動画像を入力画像に重畳するステップと;
を含む画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2010−211386(P2010−211386A)
【公開日】平成22年9月24日(2010.9.24)
【国際特許分類】
【出願番号】特願2009−55161(P2009−55161)
【出願日】平成21年3月9日(2009.3.9)
【出願人】(000000295)沖電気工業株式会社 (6,645)
【Fターム(参考)】
【公開日】平成22年9月24日(2010.9.24)
【国際特許分類】
【出願日】平成21年3月9日(2009.3.9)
【出願人】(000000295)沖電気工業株式会社 (6,645)
【Fターム(参考)】
[ Back to top ]