説明

画像処理装置、画像処理方法および画像処理プログラム

【課題】簡単な構成で複数の動画中の対象物の状態を容易に比較することができる画像処理装置、画像処理方法および画像処理プログラムを提供する。
【解決手段】第1および第2ファイルは、複数フレームの画像データおよび複数フレームの画像データにそれぞれ対応する複数の評価値からなる。表示部20の一方の画像表示領域Sa1に第1ファイルの各フレームの画像データに基づく画像が表示され、他方の画像表示領域Sa2に第2ファイルの各フレームの画像データに基づく画像が表示される。波形表示領域Sbに、第1ファイルの波形データに基づく第1波形WL1および第2ファイルの波形データに基づく第2波形WL2のグラフが表示される。波形のグラフの横軸は時間軸であり、縦軸は評価値を示す。第1波形WL1が第2波形WL2に対して相対的に時間軸上で移動され、一方の画像表示領域Sa1に表示される画像のフレームが変更される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法および画像処理プログラムに関する。
【背景技術】
【0002】
研究室または製造現場等において、種々の被写体の動きを解析するために、高いフレームレートで被写体を撮影可能な高速撮影装置が用いられる(例えば、特許文献1参照)。
【0003】
例えば、高速撮影装置によりベルトコンベアにより搬送される複数のワーク等の被写体が順次撮影される場合、互いに類似する複数の動画が取得される。複数の動画の撮影タイミングがずれていると、複数の動画を同時に再生しても複数の被写体の動きを比較することは難しい。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−141709号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
そこで、被写体の移動経路にセンサを配置し、センサの出力信号に応答して各被写体の撮影タイミングを決定することが考えられる。この場合、センサが必要となるため、高速撮影装置を用いたシステムの構成が複雑化する。また、各被写体が高速で動く場合には、センサの出力信号を用いても、高速撮影装置の撮影タイミングがずれる場合がある。
【0006】
本発明の目的は、簡単な構成で複数の動画中の対象物の状態を容易に比較することができる画像処理装置、画像処理方法および画像処理プログラムを提供することである。
【課題を解決するための手段】
【0007】
(1)第1の発明に係る画像処理装置は、第1の対象物の動画を構成する複数フレームの第1の画像および第1の対象物と同じまたは異なる第2の対象物の動画を構成する複数フレームの第2の画像を表示するための画像処理装置であって、複数フレームの第1の画像を表示するための複数フレームの第1の画像データ、複数フレームの第1の画像データに対応付けられた複数の第1の評価値、複数フレームの第2の画像を表示するための複数フレームの第2の画像データ、および複数フレームの第2の画像データに対応付けられた複数の第2の評価値を記憶する記憶部と、第1の表示領域、第2の表示領域および第3の表示領域を有する表示部と、記憶部に記憶された各フレームの第1の画像データに基づいて第1の画像を第1の表示領域に表示させ、記憶部に記憶された各フレームの第2の画像データに基づいて第2の画像を第2の表示領域に表示させ、記憶部に記憶された複数の第1の評価値により形成される第1の波形および記憶部に記憶された複数の第2の評価値により形成される第2の波形を時間軸上で移動可能に第3の表示領域に表示させる制御部と、第3の表示領域に表示される第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるためにユーザにより操作される操作部とを備え、複数の第1の評価値は第1の対象物の状態に応じて変化し、複数の第2の評価値は第2の対象物の状態に応じて変化し、制御部は、操作部の操作に基づいて、第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、第1の表示領域に表示させる第1の画像のフレームおよび第2の表示領域に表示させる第2の画像のフレームのいずれか一方を一方の波形の移動に基づいて変更するものである。
【0008】
この画像処理装置においては、複数フレームの第1の画像データ、複数の第1の評価値、複数フレームの第2の画像データ、および複数の第2の評価値が記憶部に記憶される。
【0009】
各フレームの第1の画像データに基づいて第1の画像が表示部の第1の表示領域に表示され、各フレームの第2の画像データに基づいて第2の画像が表示部の第2の表示領域に表示される。また、複数の第1の評価値により形成される第1の波形および複数の第2の評価値により形成される第2の波形が時間軸上で移動可能に表示部の第3の表示領域に表示される。
【0010】
複数の第1の評価値は第1の対象物の状態に応じて変化し、複数の第2の評価値は第2の対象物の状態に応じて変化する。そのため、第1の波形と第2の波形とが同一または類似形状の部分を有する場合、第1の波形の同一または類似形状の部分に対応するフレームの第1の画像内の第1の対象物と、第2の波形の同一または類似形状の部分に対応するフレームの第2の画像内の第2の対象物とは、ほぼ同じ状態にある。
【0011】
ユーザは、操作部の操作により第3の表示領域に表示される第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させることができる。それにより、第1の表示領域に表示される第1の画像のフレームと第2の表示領域に表示される第2の画像のフレームとの対応関係を変更することができる。
【0012】
したがって、ユーザは、第1の波形および第2の波形の同一または類似形状の部分を相対的に移動させることにより、第1および第2の対象物のほぼ同じ状態を含む第1および第2の画像を第1および第2の表示領域にそれぞれ表示させることが可能になる。それにより、第1の対象物の状態と第2の対象物の状態とが同じタイミングで変化するように第1の対象物の動画および第2の対象物の動画を再生することができる。
【0013】
これらの結果、ユーザは、簡単な構成で複数の動画中の対象物の状態を容易に比較することができる。
【0014】
(2)制御部は、第1および第2の波形の任意の位置を指定するための共通の指標を時間軸上で移動可能に第3の表示領域にさらに表示させ、指標により指定される第1の波形の位置と第1の表示領域に表示される第1の画像のフレームとが対応しかつ指標により指定される第2の波形の位置と第2の表示領域に表示される第2の画像のフレームとが対応する状態を保持するように第1、第2および第3の表示領域の表示を制御し、操作部の操作に基づいて、第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、上記の状態を保持するように第1、第2および第3の表示領域の表示を制御してもよい。
【0015】
この場合、表示部の第3の表示領域に、第1および第2の波形の任意の位置を指定するための共通の指標が時間軸上で移動可能に表示される。操作部の操作に基づいて、第1および第2の波形のうち一方の波形が他方の波形に対して相対的に時間軸上で移動される。この場合においても、指標により指定される第1の波形の位置と第1の表示領域に表示される第1の画像のフレームとが対応しかつ指標により指定される第2の波形の位置と第2の表示領域に表示される第2の画像のフレームとが対応する状態が保持される。
【0016】
第1の波形と第2の波形とが同一または類似形状の部分を有する場合、第1の波形の同一または類似形状の部分に対応するフレームの第1の画像内の第1の対象物と、第2の波形の同一または類似形状の部分に対応するフレームの第2の画像内の第2の対象物とは、ほぼ同じ状態にある。
【0017】
これにより、ユーザは、第1の波形および第2の波形の同一または類似形状の部分が重なるように第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させることにより、第1および第2の対象物のほぼ同じ状態を含む第1および第2の画像を第1および第2の表示領域にそれぞれ表示させることが可能になる。それにより、第1の対象物の状態と第2の対象物の状態とが同じタイミングで変化するように第1の対象物の動画および第2の対象物の動画を再生することができる。
【0018】
これらの結果、ユーザは、簡単な構成で複数の動画中の対象物の状態を容易に比較することができる。
【0019】
(3)操作部は、第1および第2の波形のうち一方の波形を時間軸上で移動させるように操作可能であり、制御部は、操作部による一方の波形の移動の操作に基づいて、第3の表示領域に表示される一方の波形および指標を時間軸上で移動させるとともに、第1および第2の表示領域のうち他方の波形に対応する表示領域の画像を変更してもよい。
【0020】
この場合、ユーザは、操作部の操作により第1および第2の波形のうち一方の波形を時間軸上で移動させることができる。したがって、第1波形および第2波形の同一または類似形状の部分を時間軸上で容易に重ね合わせることができる。
【0021】
(4)操作部は、第1および第2の表示領域のうち一方の表示領域に表示される画像のフレームの変更を操作可能であり、制御部は、操作部による画像の変更の操作に基づいて、一方の表示領域に表示される画像を変更するとともに、第1および第2の波形のうち他方の表示領域に対応する波形および指標を時間軸上で移動させてもよい。
【0022】
この場合、ユーザは、操作部の操作により第1および第2の表示領域のうち一方の表示領域に表示される画像のフレームを変更させることにより、第1波形および第2波形の同一または類似形状の部分を時間軸上で容易に重ね合わせることができる。
【0023】
(5)操作部は、第1の表示領域における動画の再生および第2の表示領域における動画の再生を指示可能であり、制御部は、操作部により動画の再生が指示された場合に、第1の表示領域に表示されている第1の画像以降の複数フレームの第1の画像を順次表示するとともに第2の表示領域に表示されている第2の画像以降の複数フレームの第2の画像を順次表示してもよい。
【0024】
この場合、第1の表示領域における動画の再生および第2の表示領域における動画の再生が操作部により指示されることにより、第1の表示領域に表示されている第1の画像以降の複数フレームの第1の画像が順次表示されるとともに第2の表示領域に表示されている第2の画像以降の複数フレームの第2の画像が順次表示される。それにより、第1の対象物の状態と第2の対象物の状態とが同じタイミングで変化するように第1の対象物の動画および第2の対象物の動画を再生することが可能となる。
【0025】
(6)複数の第1の評価値は、複数フレームの第1の画像の特徴を示す値であり、複数の第2の評価値は、複数フレームの第2の画像の特徴を示す値であってもよい。
【0026】
複数の第1の評価値は複数フレームの第1の画像から生成され、複数の第2の評価値は複数フレームの第2の画像から生成される。そのため、複数の第1の評価値および複数の第2の評価値を生成するための装置を別途設ける必要がない。これにより、画像処理装置を含むシステムの構成が簡素化される。
【0027】
(7)複数フレームの第1の画像の特徴を示す値は、複数フレームの第1の画像の輝度に関する値であり、複数フレームの第2の画像の特徴を示す値は、複数フレームの第2の画像の輝度に関する値であってもよい。
【0028】
第1の画像の輝度は第1の対象物の状態に応じて変化する。また、第2の画像の輝度は第2の対象物の状態に応じて変化する。そのため、第1の波形は第1の対象物の状態に応じて変化し、第2の波形は第2の対象物の状態に応じて変化する。したがって、第1の波形および第2の波形の同一または類似形状の部分が重なるように第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させることにより、第1および第2の対象物のほぼ同じ状態を含む第1および第2の画像を第1および第2の表示領域にそれぞれ表示させることが可能になる。
【0029】
(8)複数の第1および第2の評価値は、第1および第2の対象物の状態を検出する検出装置の出力値であってもよい。
【0030】
この場合、第1および第2の対象物の状態を検出装置により確実に検出することができる。したがって、第1の波形および第2の波形の同一または類似形状の部分が重なるように第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させることにより、第1および第2の対象物のほぼ同じ状態を含む第1および第2の画像を第1および第2の表示領域にそれぞれ表示させることが可能になる。
【0031】
(9)第2の発明に係る画像処理方法は、第1の対象物の動画を構成する複数フレームの第1の画像および第1の対象物と同じまたは異なる第2の対象物の動画を構成する複数フレームの第2の画像を表示するための画像処理方法であって、複数フレームの第1の画像を表示するための複数フレームの第1の画像データ、複数フレームの第1の画像データに対応付けられた複数の第1の評価値、複数フレームの第2の画像を表示するための複数フレームの第2の画像データ、および複数フレームの第2の画像データに対応付けられた複数の第2の評価値を記憶するステップと、表示部に第1の表示領域、第2の表示領域および第3の表示領域を表示するステップと、記憶された各フレームの第1の画像データに基づいて第1の画像を第1の表示領域に表示させ、記憶された各フレームの第2の画像データに基づいて第2の画像を第2の表示領域に表示させ、記憶された複数の第1の評価値により形成される第1の波形および記憶部に記憶された複数の第2の評価値により形成される第2の波形を時間軸上で移動可能に第3の表示領域に表示させるステップと、ユーザにより操作される操作部から第3の表示領域に表示される第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させる操作を受け付けるステップと、受け付けられた操作部の操作に基づいて、第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、第1の表示領域に表示させる第1の画像のフレームおよび第2の表示領域に表示させる第2の画像のフレームのいずれか一方を一方の波形の移動に基づいて変更するステップとを備え、複数の第1の評価値は第1の対象物の状態に応じて変化し、複数の第2の評価値は第2の対象物の状態に応じて変化するものである。
【0032】
この画像処理方法においては、複数フレームの第1の画像データ、複数の第1の評価値、複数フレームの第2の画像データ、および複数の第2の評価値が記憶される。
【0033】
各フレームの第1の画像データに基づいて第1の画像が表示部の第1の表示領域に表示され、各フレームの第2の画像データに基づいて第2の画像が表示部の第2の表示領域に表示される。また、複数の第1の評価値により形成される第1の波形および複数の第2の評価値により形成される第2の波形が時間軸上で移動可能に表示部の第3の表示領域に表示される。
【0034】
複数の第1の評価値は第1の対象物の状態に応じて変化し、複数の第2の評価値は第2の対象物の状態に応じて変化する。そのため、第1の波形と第2の波形とが同一または類似形状の部分を有する場合、第1の波形の同一または類似形状の部分に対応するフレームの第1の画像内の第1の対象物と、第2の波形の同一または類似形状の部分に対応するフレームの第2の画像内の第2の対象物とは、ほぼ同じ状態にある。
【0035】
ユーザにより操作部から操作部の操作により第3の表示領域に表示される第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させる操作が受け付けられる。受け付けられた操作部の操作に基づいて第1および第2の波形のうち一方の波形が他方の波形に対して相対的に時間軸上で移動される。また、第1の表示領域に表示される第1の画像のフレームおよび第2の表示領域に表示される第2の画像のフレームのいずれか一方が一方の波形の移動に基づいて変更される。これにより、ユーザは第1の表示領域に表示される第1の画像のフレームと第2の表示領域に表示される第2の画像のフレームとの対応関係を変更することができる。
【0036】
したがって、ユーザは、第1の波形および第2の波形の同一または類似形状の部分を相対的に移動させることにより、第1および第2の対象物のほぼ同じ状態を含む第1および第2の画像を第1および第2の表示領域にそれぞれ表示させることが可能になる。それにより、第1の対象物の状態と第2の対象物の状態とが同じタイミングで変化するように第1の対象物の動画および第2の対象物の動画を再生することができる。
【0037】
これらの結果、ユーザは、簡単な構成で複数の動画中の対象物の状態を容易に比較することができる。
【0038】
(10)第3の発明に係る画像処理プログラムは、第1の対象物の動画を構成する複数フレームの第1の画像および第1の対象物と同じまたは異なる第2の対象物の動画を構成する複数フレームの第2の画像を表示するための画像処理を処理装置に実行させる画像処理プログラムあって、複数フレームの第1の画像を表示するための複数フレームの第1の画像データ、複数フレームの第1の画像データに対応付けられた複数の第1の評価値、複数フレームの第2の画像を表示するための複数フレームの第2の画像データ、および複数フレームの第2の画像データに対応付けられた複数の第2の評価値を記憶する処理と、表示部に第1の表示領域、第2の表示領域および第3の表示領域を表示する処理と、記憶された各フレームの第1の画像データに基づいて第1の画像を第1の表示領域に表示させ、記憶された各フレームの第2の画像データに基づいて第2の画像を第2の表示領域に表示させ、記憶された複数の第1の評価値により形成される第1の波形および記憶部に記憶された複数の第2の評価値により形成される第2の波形を時間軸上で移動可能に第3の表示領域に表示させる処理と、ユーザにより操作される操作部から第3の表示領域に表示される第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させる操作を受け付ける処理と、受け付けられた操作部の操作に基づいて、第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、第1の表示領域に表示させる第1の画像のフレームおよび第2の表示領域に表示させる第2の画像のフレームのいずれか一方を一方の波形の移動に基づいて変更する処理とを、処理装置に実行させ、複数の第1の評価値は第1の対象物の状態に応じて変化し、複数の第2の評価値は第2の対象物の状態に応じて変化するものである。
【0039】
この画像処理プログラムにおいては、複数フレームの第1の画像データ、複数の第1の評価値、複数フレームの第2の画像データ、および複数の第2の評価値が記憶される。
【0040】
各フレームの第1の画像データに基づいて第1の画像が表示部の第1の表示領域に表示され、各フレームの第2の画像データに基づいて第2の画像が表示部の第2の表示領域に表示される。また、複数の第1の評価値により形成される第1の波形および複数の第2の評価値により形成される第2の波形が時間軸上で移動可能に表示部の第3の表示領域に表示される。
【0041】
複数の第1の評価値は第1の対象物の状態に応じて変化し、複数の第2の評価値は第2の対象物の状態に応じて変化する。そのため、第1の波形と第2の波形とが同一または類似形状の部分を有する場合、第1の波形の同一または類似形状の部分に対応するフレームの第1の画像内の第1の対象物と、第2の波形の同一または類似形状の部分に対応するフレームの第2の画像内の第2の対象物とは、ほぼ同じ状態にある。
【0042】
ユーザにより操作部から操作部の操作により第3の表示領域に表示される第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させる操作が受け付けられる。受け付けられた操作部の操作に基づいて第1および第2の波形のうち一方の波形が他方の波形に対して相対的に時間軸上で移動される。また、第1の表示領域に表示される第1の画像のフレームおよび第2の表示領域に表示される第2の画像のフレームのいずれか一方が一方の波形の移動に基づいて変更される。これにより、ユーザは第1の表示領域に表示される第1の画像のフレームと第2の表示領域に表示される第2の画像のフレームとの対応関係を変更することができる。
【0043】
したがって、ユーザは、第1の波形および第2の波形の同一または類似形状の部分を相対的に移動させることにより、第1および第2の対象物のほぼ同じ状態を含む第1および第2の画像を第1および第2の表示領域にそれぞれ表示させることが可能になる。それにより、第1の対象物の状態と第2の対象物の状態とが同じタイミングで変化するように第1の対象物の動画および第2の対象物の動画を再生することができる。
【0044】
これらの結果、ユーザは、簡単な構成で複数の動画中の対象物の状態を容易に比較することができる。
【発明の効果】
【0045】
本発明によれば、簡単な構成で複数の動画中の対象物の状態を容易に比較することができる。
【図面の簡単な説明】
【0046】
【図1】本発明の一実施の形態に係る画像処理装置を備える画像処理システムの構成を示すブロック図である。
【図2】撮影条件の設定時における表示部の表示例を示す図である。
【図3】録画処理中の図1の録画部の記憶状態を示す模式図である
【図4】録画処理中の図1の録画部の記憶状態の他の例を示す模式図である。
【図5】録画処理中の表示部の表示例を示す図である。
【図6】録画処理終了時の表示部の表示例を示す図である。
【図7】ファイル記憶処理により記憶部に記憶される動画ファイルの模式図である。
【図8】再生処理時の表示部の表示例を示す図である。
【図9】比較処理時における表示部の一表示例を示す図である。
【図10】第1ファイルおよび第2ファイルに含まれる複数フレームの画像データ、複数フレームの画像、および複数の評価値の関係の一例を示す概念図である。
【図11】図9の波形表示領域に表示される第1波形および第2波形の一部をそれぞれ拡大したグラフである。
【図12】比較処理時における表示部の第1の操作例を示す図である。
【図13】図12の波形表示領域に表示される第1波形および第2波形の一部をそれぞれ拡大したグラフである。
【図14】比較処理時における表示部の第2の操作例を示す図である。
【図15】図14の波形表示領域に表示される第1波形および第2波形の一部をそれぞれ拡大したグラフである。
【図16】比較処理のフローチャートである。
【図17】比較処理のフローチャートである。
【図18】比較処理のフローチャートである。
【図19】比較処理のフローチャートである。
【図20】計測処理時における表示部の一表示例を示す図である。
【発明を実施するための形態】
【0047】
以下、本発明の一実施の形態に係る画像処理装置、画像処理方法および画像処理プログラムについて図面を参照しつつ説明する。後述するように、本実施の形態に係る画像処理装置は表示部を有する。表示部には複数フレームの画像が連続的に表示されることにより動画が表示される。
【0048】
(1)画像処理システムの基本構成
図1は、本発明の一実施の形態に係る画像処理システム100の構成を示すブロック図である。図1に示すように、画像処理システム100は、本体部1、カメラ2、照明装置3および操作部4を備える。本体部1が本実施の形態に係る画像処理装置を構成する。本体部1は、制御部10、表示部20、録画部30、記憶部40、ビデオメモリ50、波形収集部60、バスBSおよび複数のインターフェース(図示せず)を含む。制御部10、表示部20、録画部30、記憶部40、ビデオメモリ50および波形収集部60は、バスBSに接続される。カメラ2、照明装置3および操作部4は、それぞれインターフェースを介してバスBSに接続される。
【0049】
本体部1には、PLC(プログラマブルロジックコントローラ)5、センサ6および波形収集装置7を接続することができる。波形収集装置7には、センサ8を接続することができる。詳細は後述する。
【0050】
カメラ2は、CCD(電荷結合素子)イメージセンサまたはCMOS(相補性金属酸化膜半導体)イメージセンサ等の撮像素子を備える。撮像素子の露光時間(シャッタースピード)および撮影フレームレート等は、ユーザにより操作部4を用いて設定可能である。撮影フレームレートとは、単位時間当たりに取得される画像のフレーム数である。なお、本実施の形態のカメラ2は、15fps(frame per second)以上32000fps以下の撮影フレームレートで被写体Wを撮影することができる。
【0051】
カメラ2により被写体Wが撮影されると、設定された撮影フレームレートで撮像素子により被写体Wの画像が取得され、取得された画像が画像データとして出力される。それにより、複数フレームの画像に対応する複数フレームの画像データがカメラ2から本体部1に与えられる。複数フレームの画像により動画が構成される。以下、複数フレームの画像データを動画データと称する。
【0052】
カメラ2は、照明装置3とともに三脚台等の図示しない支持台に取り付けられる。照明装置3は、メタルハライドランプまたはハイパワーLED(発光ダイオード)等の光源を含む。照明装置3は、被写体Wに光を照射するために用いられる。被写体Wが十分に明るい場合には、照明装置3はなくてもよい。
【0053】
ビデオメモリ50はRAM(ランダムアクセスメモリ)等のメモリからなる。ビデオメモリ50には、カメラ2、録画部30または記憶部40から複数フレームの画像データが順次与えられる。与えられた複数フレームの画像データは順次ビデオメモリ50に記憶される。
【0054】
表示部20は、例えば液晶ディスプレイパネルまたは有機EL(エレクトロルミネッセンス)パネルにより構成される。表示部20には、ビデオメモリ50に順次記憶される複数フレームの画像データに基づいて複数フレームの画像が連続的に表示される。それにより、動画が表示部20に表示される。
【0055】
操作部4は、例えばマウスまたはトラックボール等のポインティングデバイスにより構成される。なお、操作部4は、ポインティングデバイスとともにまたはポインティングデバイスに代えてキーボードにより構成されてもよいし、リモートコントローラまたはタッチパネルにより構成されてもよい。操作部4は、本体部1と一体的に構成されてもよい。
【0056】
録画部30は、例えばRAM等のメモリからなる。録画部30は、複数の画像データからなる動画データを記憶するための動画データ記憶領域および複数の評価値からなる波形データを記憶するための波形データ記憶領域を含む。複数の評価値からなる波形データの詳細は後述する。
【0057】
カメラ2から与えられる複数フレームの画像データ(動画データ)を録画部30の動画データ記憶領域に記憶させることを録画と呼ぶ。ユーザにより操作部4が操作されることにより、カメラ2で撮影される被写体Wの動画が録画される。本実施の形態では、録画処理時に、波形収集部60から与えられる複数の評価値(波形データ)が録画部30の波形データ記憶領域に同時に記憶される。
【0058】
記憶部40は、ハードディスク等の大容量記憶装置からなる。ユーザにより操作部4が操作されることにより、録画部30に記憶された動画データおよび波形データを含む動画ファイルが生成され、生成された動画ファイルが記憶部40に記憶される。また、記憶部40には、本実施の形態に係る画像処理プログラムが記憶される。画像処理プログラムの詳細は後述する。
【0059】
波形収集部60は、複数の評価値からなる波形データを収集し、収集した波形データを録画部30に与える。複数の評価値は、複数フレームの画像中の被写体Wの状態に応じて変化する値である。被写体Wの状態とは、被写体Wの位置、向き、明るさ、大きさ、形状または色等である。
【0060】
評価値は、例えばカメラ2により撮影される被写体Wの各フレームの画像の平均輝度値(各フレームの画像を構成する複数画素の輝度の平均値)である。この場合、波形収集部60は、カメラ2から録画部30に順次与えられる各フレームの画像データに基づいて各フレームの画像の平均輝度値を評価値として順次算出する。順次算出された複数の平均輝度値は、録画部30の波形データ記憶領域に波形データとして記憶される。この場合、複数の評価値は、複数フレームの画像データに同期して得られる。したがって、単位時間当たりの複数の評価値の数は単位時間当たりの複数フレームの画像データの数に等しい。評価値は、各フレームの画像の輝度値の総和であってもよく、各フレームの画像の輝度値の総和と後続するフレームの画像の輝度値の総和との差分であってもよく、各フレーム内の輝度値の分散であってもよい。
【0061】
波形収集部60は、複数フレームの画像データの取得中におけるセンサ6の出力信号の値を評価値として取得してもよい。この場合、複数の評価値は、複数フレームの画像データと同じ周期または異なる周期で得られる。したがって、単位時間当たりの複数の評価値の数は、単位時間当たりの複数フレームの画像データの数と必ずしも一致しない。複数の評価値が複数フレームの画像データよりも短い周期で得られる場合には、各フレームの画像データに複数の評価値が対応している。複数の評価値が複数フレームの画像データよりも長い周期で得られる場合には、各評価値が複数フレームの画像データに対応している。
【0062】
センサ6が温度センサ、距離センサ、圧力センサ、加速度センサ、または変位センサ等である場合には、測定対象物の温度、距離、圧力、加速度、または変位等の測定値が評価値として波形収集部60により順次取得され、取得された複数の評価値が録画部30の波形データ記憶領域に波形データとして記憶される。
【0063】
さらに、センサ6に代えてマイクが用いられる場合には、音声信号が評価値として波形収集部60により順次取得され、取得された複数の音声信号が録画部30の波形データ記憶領域に波形データとして記憶される。
【0064】
なお、図1において、本体部1に接続される波形収集装置7は、波形収集部60と同じ構成を有する。そのため、本体部1に波形収集装置7が接続される場合には、センサ8の出力信号の値が評価値として波形収集装置7により順次取得され、取得された複数の評価値が録画部30の波形データ記憶領域に波形データとして記憶される。
【0065】
制御部10は、例えばCPU(中央演算処理装置)、ROM(リードオンリーメモリ)およびRAMから構成される。制御部10のCPUは、ユーザによる操作部4の操作に基づいてカメラ2、照明装置3および本体部1における他の構成要素の動作を制御する。また、制御部10のCPUは、記憶部40に記憶された画像処理プログラムをRAM上で実行する。ROMにはシステムプログラムが記憶される。
【0066】
(2)画像処理システムの基本動作
図1の画像処理システム100の基本動作について説明する。
【0067】
(2−1)撮影条件の設定
ユーザが操作部4を操作することにより、カメラ2の撮影条件が設定される。図2は、撮影条件の設定時における表示部20の表示例を示す図である。図2に示すように、撮影条件の設定時には、表示部20の画面上に画像表示領域Sa、波形表示領域Sb、条件設定領域Scおよび録画ボタンSeが表示される。
【0068】
画像表示領域Saには、ビデオメモリ50に記憶される画像データに基づく画像が表示される。波形表示領域Sbには、波形収集部60により収集される波形データに基づく波形のグラフが表示される。波形のグラフの横軸は時間軸であり、縦軸は評価値を示す。
【0069】
条件設定領域Scには、カメラ2の基本的な撮影条件が表示される。撮影条件として、例えばシャッタースピード、撮影フレームレートおよび解像度をそれぞれ設定するための複数の入力枠Sc1,Sc2,Sc3が表示される。ユーザにより操作部4を用いて入力枠Sc1,Sc2,Sc3にシャッタースピード、撮影フレームレートおよび解像度の値がそれぞれ入力される。入力枠Sc1,Sc2,Sc3にそれぞれ入力された値に基づいて、制御部10によりカメラ2のシャッタースピード、撮影フレームレートおよび解像度が設定される。
【0070】
また、本実施の形態では、例えばユーザが操作部4を操作することにより制御部10に後述の録画処理の終了タイミングの基準となるトリガ信号が与えられる。条件設定領域Scには、トリガ信号に基づく制御部10のトリガ設定のための入力枠Sc4,Sc5がさらに表示される。
【0071】
ユーザにより操作部4を用いて入力枠Sc4,Sc5に後述する総録画時間および録画終了時間の値がそれぞれ入力される。入力枠Sc4,Sc5にそれぞれ入力された値に基づいて、制御部10によりトリガ設定が行われる。トリガ設定の詳細を説明する。
【0072】
本実施の形態において、トリガ設定は、1回の録画処理により録画部30に記憶される画像データの記憶時間(以下、総録画時間と呼ぶ。)を定めるとともに、制御部10にトリガ信号が与えられた時点から録画処理が終了するまでの時間(以下、録画終了時間と呼ぶ。)を定めるものである。
【0073】
例えば、総録画時間を30秒とし、録画終了時間を0秒としてトリガ設定が行なわれた場合には、録画が開始された後、制御部10にトリガ信号が与えられた時点で録画処理が終了する。これにより、制御部10にトリガ信号が与えられた時点の30秒前からトリガ信号が与えられた時点までの間に取得された動画データおよび波形データが録画部30に記憶される。
【0074】
一方、総録画時間を30秒とし、録画終了時間を30秒としてトリガ設定が行なわれた場合には、録画が開始された後、制御部10にトリガ信号が与えられた時点から30秒経過した時点で録画処理が終了する。これにより、録画部30には、制御部10にトリガ信号が与えられた時点から30秒経過するまでの間に取得された動画データおよび波形データが録画部30に記憶される。
【0075】
また、総録画時間を30秒とし、録画終了時間を15秒としてトリガ設定が行なわれた場合には、録画が開始された後、制御部10にトリガ信号が与えられた時点から15秒経過した時点で録画処理が終了する。これにより、録画部30には、制御部10にトリガ信号が与えられた時点の15秒前から30秒経過するまでの間に取得された動画データおよび波形データが録画部30に記憶される。
【0076】
なお、トリガ設定として上記の総録画時間が設定される代わりに、録画処理により録画部30に記憶される画像データの総フレーム数が設定されてもよい。また、トリガ設定として上記の録画終了時間が設定される代わりに、トリガ信号が与えられた時点から録画部30に記憶される画像データのフレーム数が設定されてもよい。
【0077】
PLC5から制御部10にトリガ信号が与えられてもよい。この場合、例えばPLC5に予め設定された周期、またはPLC5に接続される外部機器の特定の動作タイミングに応答してトリガ信号を制御部10に与えることができる。また、種々のセンサの出力信号がトリガ信号として制御部10に与えられてもよい。
【0078】
録画ボタンSeは後述する録画処理の開始のためにユーザにより操作部4を用いて操作される。
【0079】
(2−2)録画処理
図3は、録画処理中の図1の録画部30の記憶状態を示す模式図である。上述のように、録画部30には、動画データ(複数フレームの画像データ)を記憶するための動画データ記憶領域30Aおよび波形データ(複数の評価値)を記憶するための波形データ記憶領域30Bが設定されている。
【0080】
本体部1においては、図3(a)に示すように、図2の録画ボタンSeが操作されることにより、制御部10により録画処理が開始される。録画処理では、カメラ2から与えられる第1フレームの画像に対応する画像データv1が録画部30の動画データ記憶領域30Aに記憶される。また、波形収集部60から与えられる第1番目の評価値i1が録画部30の波形データ記憶領域30Bに記憶される。
【0081】
続いて、図3(b)に示すように、カメラ2から与えられる第2、第3および第4フレームの画像に対応する画像データv2,v3,v4が録画部30の動画データ記憶領域30Aに順次記憶されるとともに、画像データv1,v2,v3,v4が動画データ記憶領域30A内で順次シフトする。同時に、波形収集部60から与えられる第2番目、第3番目および第4番目の評価値i2,i3,i4が録画部30の波形データ記憶領域30Bに順次記憶されるとともに、評価値i1,i2,i3,i4が波形データ記憶領域30B内で順次シフトする。
【0082】
録画処理時に動画データ記憶領域30Aに記憶される画像データの量が動画データ記憶領域30Aの記憶容量を超える場合には、動画データ記憶領域30Aに最新のフレーム(現在のフレーム)の画像データが新たに記憶されるごとに動画データ記憶領域30Aに記憶されている最も過去のフレームの画像データが削除される。
【0083】
同様に、録画処理時に波形データ記憶領域30Bに記憶される評価値の量が波形データ記憶領域30Bの記憶容量を超える場合には、波形データ記憶領域30Bに最新の評価値が新たに記憶されるごとに波形データ記憶領域30Bに記憶されている最も過去の評価値が削除される。
【0084】
図3(c)の例では、動画データ記憶領域30Aに12個の画像データv1〜v12が記憶されている状態で、さらに2個の画像データv13,v14が順次記憶されることにより、最も過去の画像データv1,v2が順次削除される。また、波形データ記憶領域30Bに12個の評価値i1〜i12が記憶されている状態で、さらに2個の画像の評価値i13,i14が順次記憶されることにより、最も過去の評価値i1,i2が順次削除される。それにより、動画データ記憶領域30Aに画像データv3〜v14が記憶され、波形データ記憶領域30Bに評価値i3〜i14が記憶されている。
【0085】
このように、録画処理中の動画データ記憶領域30Aおよび波形データ記憶領域30Bにおいては、いわゆるリングバッファの形式で動画データおよび波形データが順次記憶される。
【0086】
図3(c)の例では、波形データ記憶領域30Bに記憶される評価値i3〜i14は動画データ記憶領域30Aに記憶される画像データv3〜v14と一対一に対応している。上記のように、複数の評価値が複数フレームの画像データと異なる周期で得られる場合には、波形データ記憶領域30Bに記憶される評価値は動画データ記憶領域30Aに記憶される画像データと一対一に対応していない。
【0087】
図4は、録画処理中の図1の録画部30の記憶状態の他の例を示す模式図である。図4の例では、複数の評価値が複数フレームの画像データよりも短い周期で得られる。そのため、波形データ記憶領域30Bに記憶される評価値i7〜i42は動画データ記憶領域30Aに記憶される画像データv3〜v14と一対一に対応していない。連続する3つの評価値が1フレームの画像データに対応する。例えば、評価値i7,i8,i9が画像データv3に対応し、評価値i10,i11,i12が画像データv4に対応する。
【0088】
複数の評価値が複数フレームの画像データよりも長い周期で得られる場合には、各評価値が複数フレームの画像データに対応する。
【0089】
図5は、録画処理中の表示部20の表示例を示す図である。図5に示すように、録画処理時には図2の録画ボタンSeに代えて、表示部20にトリガボタンSfが表示される。
【0090】
ユーザにより操作部4を用いてトリガボタンSfが操作されると、制御部10にトリガ信号が与えられる。それにより、上述のように、トリガ設定に基づくタイミングで録画処理が終了する。
【0091】
(2−3)ファイル記憶処理
図6は、録画処理終了時の表示部20の表示例を示す図である。図6に示すように、録画終了時には図5のトリガボタンSfに代えて、表示部20にファイルボタンSjおよび再生ボタンSgが表示される。
【0092】
ユーザにより操作部4を用いてファイルボタンSjが操作されることにより、制御部10によりファイル記憶処理が行なわれる。ファイル記憶処理では、録画部30に記憶されている動画データおよび波形データを含む動画ファイルが生成され、生成された動画ファイルが図1の記憶部40に記憶される。
【0093】
図7は、ファイル記憶処理により記憶部40に記憶される動画ファイルの模式図である。
【0094】
例えば図3の録画部30の動画データ記憶領域30Aに画像データv1〜v12が記憶され、波形データ記憶領域30Bに評価値i1〜i12が記憶されている状態でファイル記憶処理が行われる。この場合、図7に示すように、画像データv1〜v12および評価値i1〜i12、ならびにファイル情報fiを含む動画ファイルFAが生成され、生成された動画ファイルFAが記憶部40に記憶される。
【0095】
なお、ファイル情報fiには、例えばファイル名およびデータの保存形式を示す情報等が含まれる。上記の録画処理およびファイル記憶処理が繰り返されることにより、図1の記憶部40内に複数の動画ファイルFA,FB,FC,FDが記憶される。
【0096】
(2−4)再生処理
次に、再生処理について説明する。再生処理とは、カメラ2から順次与えられる複数フレームの画像データ、録画部30に記憶される複数フレームの画像データまたは記憶部40に記憶される動画ファイル中の複数フレームの画像データのうち任意の連続する複数フレームの画像データに基づいて表示部20に動画を表示することをいう。
【0097】
まず、記憶部40に記憶された動画ファイル中の画像データに基づく画像の再生処理について説明する。
【0098】
記憶部40に記憶された複数の動画ファイルにそれぞれ対応するアイコンが図1の表示部20に表示される。この場合、ユーザは、操作部4を用いて表示部20に表示される複数のアイコンのいずれかを選択することにより、記憶部40に記憶された複数の動画ファイルのうち選択された動画ファイルの動画データを再生対象として選択することができる。
【0099】
図8は、再生処理時の表示部20の表示例を示す図である。図7に示すように、例えばユーザにより操作部4を用いて1つの動画ファイルが選択されると、図1の表示部20には、図6の表示例と同様に、画像表示領域Sa、波形表示領域Sb、条件設定領域Scおよび再生ボタンSgが表示されるとともに、図6のファイルボタンSjに代えて比較ボタンSxが表示される。
【0100】
ユーザにより操作部4を用いて再生ボタンSgが操作されると、制御部10により再生処理が開始される。再生処理では、制御部10は、記憶部40内の選択された動画ファイル中の複数フレームの画像データをビデオメモリ50に順次記憶させる。それにより、ビデオメモリ50に順次記憶される画像データに基づく画像が画像表示領域Saに表示される。このようにして、選択された動画ファイル中の複数フレームの画像データに基づいて動画が再生される。また、制御部10は、記憶部40内の選択された動画ファイル中の波形データをビデオメモリ50に記憶させる。それにより、波形データに基づく波形のグラフが波形表示領域Sbに表示される。
【0101】
この場合、制御部10は、波形表示領域Sbの波形のグラフ上で、画像表示領域Saに現在表示される画像のフレームに対応する評価値(以下、対応評価値と呼ぶ。)の位置に現在表示位置バーLを表示させる。画像表示領域Saに表示される画像のフレームが変化することにより対応評価値が変化すると、制御部10は、現在表示位置バーLを時間軸上で左右に移動させる。
【0102】
次に、録画処理の前の再生処理について説明する。録画処理の前には、制御部10は、カメラ2から与えられる複数フレームの画像データをビデオメモリ50に順次記憶させる。それにより、複数フレームの画像データに基づく画像が図2の画像表示領域Saに表示される。このようにして、カメラ2により撮影される被写体の動画が再生される。また、制御部10は、波形収集部60から与えられる波形データをビデオメモリ50に記憶させる。それにより、波形データに基づく波形のグラフが波形表示領域Sbに表示される。
【0103】
さらに、録画処理終了時に録画部30に記憶される画像データに基づく画像の再生処理について説明する。録画処理後に、ユーザにより操作部4を用いて図6の再生ボタンSgが操作されると、制御部10は、録画部30内の複数フレームの画像データをビデオメモリ50に順次記憶させる。それにより、ビデオメモリ50に順次記憶される画像データに基づく画像が画像表示領域Saに表示される。このようにして、録画部30に記憶される動画データに基づいて動画が再生される。また、制御部10は、録画部30に記憶される波形データをビデオメモリ50に記憶させる。それにより、波形データに基づく波形のグラフが波形表示領域Sbに表示される。
【0104】
ユーザにより操作部4を用いて比較ボタンSxが操作されることにより、後述する比較処理が開始される。
【0105】
(3)比較処理
(3−1)比較処理の概略
比較処理の概略を説明する。本実施の形態において、比較処理時には、後述するように、表示部20に複数の画像表示領域および波形表示領域が表示される。複数の動画ファイルの動画データに基づいて、複数の動画が複数の画像表示領域にそれぞれ表示される。また、複数の動画ファイルの波形データに基づいて複数の波形のグラフが共通の波形表示領域に表示される。これにより、ユーザは、複数の動画および複数の波形のグラフを比較することができる。
【0106】
比較処理においては、ユーザが操作部4を操作することにより比較処理の対象となる複数の動画ファイルが選択される。比較処理の対象として2つの動画ファイルが選択される例を説明する。
【0107】
以下の説明において、比較処理の対象となる2つの動画ファイルをそれぞれ第1ファイルおよび第2ファイルと呼ぶ。また、第1ファイルの動画データに基づく動画を第1動画と呼び、第2ファイルの動画データに基づく動画を第2動画と呼ぶ。さらに、第1ファイルの波形データに基づいて波形表示領域に表示される波形のグラフを第1波形と呼び、第2ファイルの波形データに基づいて波形表示領域Sbに表示される波形のグラフを第2波形と呼ぶ。
【0108】
なお、第1ファイルは、例えば図8を用いて説明した再生処理時に再生対象として選択された動画ファイルである。そのため、本例では、第1ファイルは比較処理前に予めユーザにより選択される。
【0109】
一方、第2ファイルは、例えば比較処理の開始時にユーザにより比較処理の対象として選択される動画ファイルである。図8の比較ボタンSxが操作されることにより比較処理が開始されると、記憶部40に記憶された複数の動画ファイルにそれぞれ対応するアイコンが図1の表示部20に表示される。ユーザは、操作部4を用いて表示部20に表示される複数のアイコンのいずれかを選択することにより所望の動画ファイルを第2ファイルとして選択することができる。
【0110】
図9は比較処理時における表示部20の一表示例を示す図であり、図10は第1ファイルおよび第2ファイルに含まれる複数フレームの画像データ、複数フレームの画像、および複数の評価値の関係の一例を示す概念図である。図11は図9の波形表示領域Sbに表示される第1波形および第2波形の一部をそれぞれ拡大したグラフである。図11においては、上段に第1波形のグラフが示され、下段に第2波形のグラフが示される。さらに、図11の各グラフ上には、複数の評価値に対応する複数の画像データが示される。
【0111】
第1ファイルおよび第2ファイルが選択されることにより、図9に示すように、表示部20の画面上には主として2つの画像表示領域Sa1,Sa2、波形表示領域Sb、再生ボタンTc、一時停止ボタンTd、逆再生ボタンTe、2つのシークバーTf1,Tf2、同期ボタンTm、比較終了ボタンTnおよび2つの操作対象指定ボタンTp1,Tp2が表示される。2つのシークバーTf1,Tf2は、それぞれ水平方向に移動可能なスライダTg1,Tg2を有する。
【0112】
一方の画像表示領域Sa1に第1ファイルの各フレームの画像データに基づく画像が表示され、他方の画像表示領域Sa2に第2ファイルの各フレームの画像データに基づく画像が表示される。共通の波形表示領域Sbに、第1ファイルの波形データに基づく第1波形WL1および第2ファイルの波形データに基づく第2波形WL2のグラフが表示される。波形のグラフの横軸は時間軸であり、縦軸は評価値を示す。
【0113】
波形表示領域Sbのグラフ上には、第1波形WL1および第2波形WL2に対して共通の現在表示位置バーLが表示される。共通の現在表示位置バーLは第1波形WL1および第2波形WL2に交差する。
【0114】
比較処理時には、画像表示領域Sa1に現在表示されている画像のフレームに対応する第1ファイルの対応評価値と、画像表示領域Sa2に現在表示されている画像のフレームに対応する第2ファイルの対応評価値とが現在表示位置バーLにより指定される。
【0115】
図10の上段に第1ファイルに含まれる第1〜第7フレームの画像データva1〜va7に対応する画像VA1〜VA7が左から右へ向かう時間軸に沿って順に示される。第1〜第7フレームの画像データva1〜va7には、それぞれ第1〜第7番目の評価値ia1〜ia7が対応付けられている。本例の画像VA1〜VA7は、床btに向かって落下する被写体W1が撮影されることにより得られる。
【0116】
図10の下段に第2ファイルに含まれる第1〜第7フレームの画像データvb1〜vb7に対応する画像VB1〜VB7が左から右へ向かう時間軸に沿って順に示される。第1〜第7フレームの画像データvb1〜vb7には、それぞれ第1〜第7番目の評価値ib1〜ib7が対応付けられている。本例の画像VB1〜VB7は、床btに向かって落下する被写体W2が撮影されることにより得られる。
【0117】
初期状態では、第1ファイルの第1〜第7フレームの画像データva1〜va7と第2ファイルの第1〜第7フレームの画像データvb1〜vb7とは、時間軸上でそれぞれ対応している。同様に、初期状態では、第1ファイルの第1〜第7番目の評価値ib1〜ib7と第2ファイルの第1〜第7番目の評価値ib1〜ib7とは、時間軸上でそれぞれ対応している。
【0118】
図9の例では、波形表示領域Sbの時間軸上で時点t3の位置に現在表示位置バーLが表示される。この場合、図11に示すように、第1ファイルの対応評価値は評価値ia3である。これにより、図9の画像表示領域Sa1には、第1ファイルの評価値ia3に対応する第3フレームの画像データに基づく画像VA3(図10)が表示される。
【0119】
また、図11に示すように、第2ファイルの対応評価値は評価値ib3である。これにより、図9の画像表示領域Sa2には、第2ファイルの評価値ib3に対応する第3フレームの画像データに基づく画像VB3(図10)が表示される。
【0120】
ここで、図10の上段に示すように、被写体W1が床btに衝突する瞬間の画像VA3は第1ファイルの第3フレームの画像データva3に対応する。一方、図10の下段に示すように、被写体W2が床btに衝突する瞬間の画像VB5は第2ファイルの第5フレームの画像データva5に対応する。
【0121】
この場合、第1〜第7フレームの画像データva1〜va7に基づく第1動画と第1〜第7フレームの画像データvb1〜vb7に基づく第2動画とを同じフレームレートで同時に再生しても、被写体W1が床btに衝突する瞬間の画像VA3と被写体W2が床btに衝突する瞬間の画像VB5とは表示部20の画像表示領域Sa1,Sa2に同時に表示されない。
【0122】
そこで、2つの画像表示領域Sa1,Sa2に同時に表示される画像のフレームの対応関係を変更する。すなわち、第1ファイルの第1〜第7フレームの画像データva1〜va7と第2ファイルの第1〜第7フレームの画像データvb1〜vb7との時間軸上での対応関係を変更する。
【0123】
例えば、画像VA1〜VA7のそれぞれの表示タイミングを画像VB1〜VB7のそれぞれの表示タイミングに対して2フレーム分遅らせる。これにより、画像表示領域Sa1に画像VA3を表示させると同時に、画像表示領域Sa2に画像VB5を表示させることができる。
【0124】
(3−2)比較処理時における表示部の第1の操作例
図12は比較処理時における表示部20の第1の操作例を示す図であり、図13は図12の波形表示領域Sbに表示される第1波形および第2波形の一部をそれぞれ拡大したグラフである。図13においては、上段に第1波形のグラフが示され、下段に第2波形のグラフが示される。さらに、図13の各グラフ上には、複数の評価値に対応する複数の画像データが示される。
【0125】
図12の2つの操作対象指定ボタンTp1,Tp2は、それぞれ第1ファイルおよび第2ファイルに対応する。比較処理時においては、ユーザにより操作部4を用いて操作対象指定ボタンTp1が選択されることにより、第1ファイルに対して再生ボタンTc、一時停止ボタンTd、逆再生ボタンTeおよびスライダTg1の操作が有効となる。一方、ユーザにより操作部4を用いて操作対象指定ボタンTp2が選択されることにより、第2ファイルに対して再生ボタンTc、一時停止ボタンTd、逆再生ボタンTeおよびスライダTg2の操作が有効となる。
【0126】
2つのシークバーTf1,Tf2は、それぞれ第1ファイルおよび第2ファイルに対応する。上述のように、2つのシークバーTf1,Tf2は、それぞれ水平方向に移動可能なスライダTg1,Tg2を有する。操作対象指定ボタンTp1の選択状態では、スライダTg1の位置が現時点で波形表示領域Sbに表示されている現在表示位置バーLの時間軸上の位置に対応する。操作対象指定ボタンTp2の選択状態では、スライダTg2の位置が現時点で波形表示領域Sbに表示されている現在表示位置バーLの時間軸上の位置に対応する。
【0127】
操作対象指定ボタンTp1の選択状態では、第1動画の再生が進むにつれて、スライダTg1がシークバーTf1上で一方向(本例では、表示部20の画面の左から右)に移動する。第1動画の逆再生が進むにつれて、スライダTg1がシークバーTf1上で他方向(本例では、表示部20の画面の右から左)に移動する。逆再生の詳細は後述する。
【0128】
同様に、操作対象指定ボタンTp2の選択状態では、第2動画の再生が進むにつれて、スライダTg2がシークバーTf2上で一方向(本例では、表示部20の画面の左から右)に移動する。第2動画の逆再生が進むにつれて、スライダTg2がシークバーTf2上で他方向(本例では、表示部20の画面の右から左)に移動する。
【0129】
ここで、ユーザは、操作対象指定ボタンTp1の選択状態で操作部4を用いてシークバーTf1のスライダTg1を移動させることにより、波形表示領域Sbに現在表示されている第1波形WL1を現在表示位置バーLとともに時間軸上で第2波形WL2に対して相対的に移動させることができる。
【0130】
また、ユーザは、操作対象指定ボタンTp2の選択状態で操作部4を用いてシークバーTf2のスライダTg2を移動させることにより、波形表示領域Sbに現在表示されている第2波形WL2を現在表示位置バーLとともに時間軸上で第1波形WL1に対して相対的に移動させることができる。
【0131】
図9の表示部10の表示状態から操作対象指定ボタンTp1が選択された後、図12に太い矢印で示すように、ユーザにより操作部4を用いてスライダTg1がシークバーTf1上で一方向(表示部20の画面の左から右)に移動される。
【0132】
この場合、図12に点線矢印で示すように、波形表示領域Sbでは、スライダTg1の移動とともに時間軸上で第1波形WL1および現在表示位置バーLが第2波形WL2に対して相対的に移動する。
【0133】
図12の例では、波形表示領域Sbの時間軸上で時点t3の位置から時点t5の位置に現在表示位置バーLが移動する。このとき、第1波形WL1は現在表示位置バーLとともに移動するので、図13に示すように第1ファイルの対応評価値は評価値ia3で維持される。これにより、図12の画像表示領域Sa1には、第1ファイルの評価値ia3に対応する第3フレームの画像データva3に基づく画像VA3(図10)が表示される。
【0134】
一方、第2波形WL2は移動しないので、図13に示すように、第2ファイルの対応評価値は評価値ib3から評価値ib5に変化する。これにより、図12の画像表示領域Sa2には、第2ファイルの評価値ib5に対応する第5フレームの画像データvb5に基づく画像VB5(図10)が表示される。
【0135】
上記のように、波形表示領域Sbにおいて時間軸上で第1波形WL1および現在表示位置バーLがともに移動する場合、画像表示領域Sa1に表示される画像のフレームは図9の状態から変化しない。一方、波形表示領域Sbにおいて時間軸上で第2波形WL2が移動せずかつ現在表示位置バーLが移動する場合、画像表示領域Sa2に表示される画像のフレームは図9の状態から変化する。
【0136】
その結果、2つの画像表示領域Sa1,Sa2に同時に表示される画像のフレームの対応関係が変更される。すなわち、第1ファイルの画像データva1〜va7と第2ファイルの画像データvb1〜vb7との時間軸上での対応関係が、図11の状態から図13の状態に変更される。
【0137】
このように、ユーザは操作部4を用いて操作対象指定ボタンTp1およびスライダTg1を操作することにより、画像表示領域Sa1,Sa2にそれぞれ表示される画像のフレームの対応関係を変更することができる。
【0138】
また、ユーザは操作部4を用いて操作対象指定ボタンTp2およびスライダTg2を操作することにより、画像表示領域Sa1,Sa2にそれぞれ表示される画像のフレームの対応関係を変更することができる。
【0139】
本例では、ユーザは、操作部4を用いて操作対象指定ボタンTp1を操作した後、ユーザは波形表示領域Sbに表示される第1波形WL1が第2波形WL2に重なるようにスライダTg1を移動させる。それにより、画像表示領域Sa1に画像VA3が表示されかつ画像表示領域Sa2に画像VB5が表示されるように、第1ファイルの画像データva1〜va7と第2ファイルの画像データvb1〜vb7との時間軸上での対応関係が変更される。
【0140】
その後、同期ボタンTmが操作される。これにより、第1ファイルの動画データに基づいて現時点で表示されている画像VA3以降の複数フレームの画像が画像表示領域Sa1に順次表示されるとともに、第2ファイルの動画データに基づいて現時点で表示されている画像VB5以降の複数フレームの画像が画像表示領域Sa2に順次表示される。それにより、第1動画および第2動画が同時に再生される。以下、第1波形WL1および第2波形WL2の同一または類似形状の部分が重なり合った状態で第1動画および第2動画が同時に再生されることを同期再生と呼ぶ。同期再生によると、第1動画中の被写体W1の状態と第2動画中の被写体W2の状態とがほぼ同じタイミングで変化する。
【0141】
同期再生中にユーザにより操作部4を用いて逆再生ボタンTeが操作されることにより、第1動画および第2動画が同時に逆再生される。同期再生中にユーザにより操作部4を用いて一時停止ボタンTdが操作されることにより、第1動画および第2動画の再生が一時停止する。また、ユーザが再生ボタンTcを操作し続けることにより、操作が解除されるまで第1動画および第2動画が高速で再生される。ユーザが逆再生ボタンTeを操作し続けることにより、操作が解除されるまで第1動画および第2動画が高速で逆再生される。同期再生時には、波形表示領域Sbで現在表示位置バーLが第1波形WL1および第2波形WL2に対して相対的に時間軸上を移動する。
【0142】
(3−3)比較処理時における表示部の第2の操作例
図14は比較処理時における表示部20の第2の操作例を示す図であり、図15は図14の波形表示領域Sbに表示される第1波形および第2波形の一部をそれぞれ拡大したグラフである。図15においては、上段に第1波形のグラフが示され、下段に第2波形のグラフが示される。さらに、図15の各グラフ上には、複数の評価値に対応する複数の画像データが示される。
【0143】
図14の操作対象指定ボタンTp1の選択状態で、ユーザにより操作部4を用いて再生ボタンTcが操作される。この場合、第1ファイルの動画データに基づいて現時点で表示されている画像以降の複数フレームの画像が画像表示領域Sa1に順次表示される。それにより、第1動画が再生される。また、ユーザにより操作部4を用いて逆再生ボタンTeが操作される。この場合、第1ファイルの動画データに基づいて現時点で表示されている画像から時間軸上で再生時と逆方向に複数フレームの画像が画像表示領域Sa1に順次表示される。それにより、第1動画が逆再生される。
【0144】
第1動画の再生中または逆再生中にユーザにより操作部4を用いて一時停止ボタンTdが操作されることにより、第1動画の再生または逆再生が一時停止する。また、ユーザが再生ボタンTcを操作し続けることにより、操作が解除されるまで第1動画が高速で再生される。ユーザが逆再生ボタンTeを操作し続けることにより、操作が解除されるまで第1動画が高速で逆再生される。
【0145】
操作対象指定ボタンTp1の選択状態で第1動画が再生または逆再生される場合には、波形表示領域Sbで現在表示位置バーLおよび第2波形WL2が第1波形WL1に対して相対的に時間軸上を移動する。この場合、画像表示領域Sa2に表示される画像は変化しない。
【0146】
一方、図14の操作対象指定ボタンTp2の選択状態で、ユーザにより操作部4を用いて再生ボタンTcが操作される。この場合、第2ファイルの動画データに基づいて現時点で表示されている画像以降の複数フレームの画像が画像表示領域Sa2に順次表示される。それにより、第2動画が再生される。また、ユーザにより操作部4を用いて逆再生ボタンTeが操作される。この場合、第2ファイルの動画データに基づいて現時点で表示されている画像から時間軸上で再生時と逆方向に複数フレームの画像が画像表示領域Sa2に順次表示される。それにより、第2動画が逆再生される。
【0147】
第2動画の再生中または逆再生中にユーザにより操作部4を用いて一時停止ボタンTdが操作されることにより、第2動画の再生または逆再生が一時停止する。また、ユーザが再生ボタンTcを操作し続けることにより、操作が解除されるまで第2動画が高速で再生される。ユーザが逆再生ボタンTeを操作し続けることにより、操作が解除されるまで第2動画が高速で逆再生される。
【0148】
操作対象指定ボタンTp2の選択状態で第2動画が再生または逆再生される場合には、波形表示領域Sbで現在表示位置バーLおよび第1波形WL1が第2波形WL2に対して相対的に時間軸上を移動する。この場合、画像表示領域Sa1に表示される画像は変化しない。
【0149】
図9の表示部10の表示状態から操作対象指定ボタンTp1が選択された後、図14に太い矢印で示すように、ユーザにより操作部4を用いて逆再生ボタンTeが操作される。
【0150】
この場合、図14に点線矢印で示すように、波形表示領域Sbでは、時間軸上で第2波形WL2および現在表示位置バーLが第1波形WL1に対して相対的に移動する。
【0151】
図14の例では、波形表示領域Sbの時間軸上で時点t3の位置から時点t1の位置に現在表示位置バーLが移動する。このとき、第2波形WL2は現在表示位置バーLとともに移動するので、図15に示すように第2ファイルの対応評価値は評価値ib3で維持される。これにより、図14の画像表示領域Sa2には、第2ファイルの評価値ib3に対応する第3フレームの画像データvb3に基づく画像VB3(図10)が表示される。
【0152】
一方、第1波形WL1は移動しないので、図15に示すように、第1ファイルの対応評価値は評価値ib3から評価値ib1に変化する。これにより、図14の画像表示領域Sa1には、第1ファイルの評価値ia1に対応する第1フレームの画像データva1に基づく画像VA1(図10)が表示される。
【0153】
上記のように、波形表示領域Sbにおいて時間軸上で第2波形WL2および現在表示位置バーLがともに移動する場合、画像表示領域Sa2に表示される画像のフレームは図9の状態から変化しない。一方、波形表示領域Sbにおいて時間軸上で第1波形WL1が移動せずかつ現在表示位置バーLが移動する場合、画像表示領域Sa1に表示される画像のフレームは図9の状態から変化する。
【0154】
その結果、2つの画像表示領域Sa1,Sa2に同時に表示される画像のフレームの対応関係が変更される。すなわち、第1ファイルの画像データva1〜va7と第2ファイルの画像データvb1〜vb7との時間軸上での対応関係が、図11の状態から図15の状態に変更される。
【0155】
このように、ユーザは操作部4を用いて操作対象指定ボタンTp1を操作するとともに再生ボタンTcまたは逆再生ボタンTeを操作することにより、画像表示領域Sa1,Sa2にそれぞれ表示される画像のフレームの対応関係を変更することができる。
【0156】
また、ユーザは操作部4を用いて操作対象指定ボタンTp2を操作するとともに再生ボタンTcまたは逆再生ボタンTeを操作することにより、画像表示領域Sa1,Sa2にそれぞれ表示される画像のフレームの対応関係を変更することができる。
【0157】
本例では、ユーザは、操作部4を用いて操作対象指定ボタンTp1を操作した後、波形表示領域Sbに表示される第2波形WL2が第1波形WL1に重なるように逆再生ボタンTeを操作する。それにより、画像表示領域Sa1に画像VA1が表示されかつ画像表示領域Sa2に画像VB3が表示されるように、第1ファイルの画像データva1〜va7と第2ファイルの画像データvb1〜vb7との時間軸上での対応関係が変更される。
【0158】
その後、同期ボタンTmが操作される。これにより、第1ファイルの動画データに基づいて現時点で表示されている画像VA1以降の複数フレームの画像が画像表示領域Sa1に順次表示されるとともに、第2ファイルの動画データに基づいて現時点で表示されている画像VB3以降の複数フレームの画像が画像表示領域Sa2に順次表示される。それにより、第1波形WL1および第2波形WL2の同一または類似形状の部分が重なり合った状態で第1動画および第2動画が同時に再生される。すなわち、第1動画および第2動画が同期再生される。同期再生により、第1動画中の被写体W1の状態と第2動画中の被写体W2の状態とがほぼ同じタイミングで変化する。
【0159】
(3−4)比較処理フロー
図16〜図19は、比較処理のフローチャートである。上述のように、この比較処理は、再生処理時に、ユーザにより操作部4を用いて図8の比較ボタンSxが操作されることにより開始される。本実施の形態において、比較処理は記憶部40に記憶される画像処理プログラムにより実行される処理の少なくとも一部を構成する。
【0160】
比較処理が開始されると、図1の制御部10は、比較処理の対象となる複数の動画ファイルが選択されたか否かを判別する(ステップS11)。上述のように、本例では2つの動画ファイルに対して比較処理が行われる。この場合、例えば制御部10は、上記の第1ファイルおよび第2ファイルが選択されたか否かを判別する。
【0161】
第1ファイルおよび第2ファイルが選択された場合、制御部10は、第1ファイルおよび第2ファイルの波形データに基づいて第1波形WL1(図9)および第2波形WL2(図9)のグラフを表示部20の波形表示領域Sb(図9)に表示させる(ステップS12)。
【0162】
また、制御部10は、波形表示領域Sbの波形のグラフ上で、時間軸の先頭の位置に現在表示位置バーLを表示させる(ステップS13)。
【0163】
また、制御部10は、第1ファイルの先頭のフレームの画像データに基づく画像(現在表示位置バーLにより指定される第1波形WL1の位置に対応するフレームの画像)を一方の画像表示領域Sa1(図9)に表示させる(ステップS14)。さらに、制御部10は、第2ファイルの先頭のフレームの画像データに基づく画像(現在表示位置バーLにより指定される第2波形WL2の位置に対応するフレームの画像)を他方の画像表示領域Sa2(図9)に表示させる(ステップS15)。
【0164】
次に、制御部10は、図9の比較終了ボタンTnの操作により比較処理の終了が指令されたか否かを判別する(ステップS16)。比較処理の終了が指令されることにより、制御部10は、比較処理を終了する。
【0165】
比較処理の終了が指令されない場合、制御部10は、図9の同期ボタンTmの操作により同期再生が指令されたか否かを判別する(ステップS21)。
【0166】
同期再生が指令されない場合、制御部10は、図9の操作対象指定ボタンTp1または操作対象指定ボタンTp2の操作により第1および第2のファイルのいずれが操作対象として選択されたかを判別する(ステップS22)。
【0167】
以下の説明では、ステップS22において選択された動画ファイルを操作ファイルと呼び、ステップS22において選択されなかった動画ファイルを非操作ファイルと呼ぶ。また、操作ファイルの画像データに対応する画像を操作画像と呼び、操作ファイルの波形データに対応する波形を操作波形と呼ぶ。さらに、非操作ファイルの画像データに対応する画像を非操作画像と呼び、非操作ファイルの波形データに対応する波形を非操作波形と呼ぶ。また、操作画像が表示される画像表示領域を操作画像領域と呼び、非操作画像が表示される画像表示領域を非操作画像領域と呼ぶ。さらに、操作ファイルに対応するスライダを操作スライダと呼び、非操作ファイルに対応するスライダを非操作スライダと呼ぶ。
【0168】
ステップS22において、操作対象が選択されない場合、すなわち図9の操作指定ボタンTp1,Tp2のいずれもが選択されない場合、制御部10は、ステップS16の処理に戻る。
【0169】
一方、操作対象が選択された場合、制御部10は、ユーザにより操作部4を用いて操作スライダが移動されたか否かを判別する(ステップS23)。
【0170】
操作スライダが移動されない場合、制御部10は、後述するステップS26の処理に進む。
【0171】
操作スライダが移動された場合、制御部10は、操作スライダの移動量に応じて波形表示領域Sbの時間軸上で現在表示位置バーLおよび操作波形を移動させる(ステップS24)。また、制御部10は、現在表示位置バーLにより指定される非操作波形の位置に対応するフレームの非操作画像を非操作対象画像領域に表示させる(ステップS25)。
【0172】
続いて、制御部10は、図9の再生ボタンTcまたは逆再生ボタンTeの操作により動画の再生または逆再生が指令されたか否かを判別する(ステップS26)。動画の再生または逆再生が指令されない場合、制御部10は、上述のステップS16の処理に戻る。
【0173】
動画の再生または逆再生が指令された場合、制御部10は、操作ファイルの動画データに基づく動画を再生または逆再生する(ステップS27)。また、制御部10は、動画の再生または逆再生により操作画像領域に表示される操作画像のフレームに応じて波形表示領域Sbの時間軸上で現在表示位置バーLおよび非操作波形を移動させる(ステップS28)。
【0174】
この状態で、制御部10は、図9の一時停止ボタンTdの操作により再生または逆再生の停止が指令されたか否かを判別する(ステップS29)。再生または逆再生の停止が指令された場合、制御部10は、操作ファイルの動画データに基づく動画の再生または逆再生を停止してステップS16の処理に戻る。
【0175】
上記のステップS21において、同期再生が指令された場合、制御部10は、波形表示領域Sbの時間軸上で現在表示位置バーLを移動させる(ステップS31)。また、制御部10は、第1ファイルの現在表示されている画像以降の複数フレームの画像データに基づく複数の画像を一方の画像表示領域Sa1に順次表示させる(ステップS32)。さらに、制御部10は、第2ファイルの現在表示されている画像以降の複数フレームの画像データに基づく複数の画像を他方の画像表示領域Sa2に順次表示させる(ステップS33)。
【0176】
その後、制御部10は、図9の一時停止ボタンTdの操作により同期再生の停止が指令されたか否かを判別する(ステップS34)。同期再生の停止が指令された場合、制御部10は、上記のステップS31〜S33の処理を停止し、ステップS16の処理に戻る。
【0177】
なお、ステップS34において、制御部10は、同期再生の停止が指令されたか否かを判別する代わりに、一方および他方の画像表示領域Sa1,Sa2にそれぞれ第1ファイルおよび第2ファイルの最終フレームの画像データに基づく画像が表示されたか否かを判別してもよい。この場合、制御部10は、一方および他方の画像表示領域Sa1,Sa2にそれぞれ最終のフレームの画像が表示されることによりステップS16の処理に戻ってもよい。
【0178】
(3−5)効果
上述のように、波形データを構成する複数の評価値は、複数フレームの画像中の被写体Wの状態に応じて変化する値である。第1波形WL1と第2波形WL2とが同一または類似形状の部分を有する場合、第1波形WL1の同一または類似形状の部分に対応するフレームの画像内の被写体W1と第2波形WL2の同一または類似形状の部分に対応するフレームの画像内の被写体W2とは、ほぼ同じ状態にある。
【0179】
ユーザは、操作部4の操作により波形表示領域Sbに表示される第1波形WL1および第2波形WL2のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させることができる。それにより、画像表示領域Sa1に表示される画像のフレームと画像表示領域Sa2に表示される画像のフレームとの対応関係を変更することができる。
【0180】
したがって、ユーザは、第1波形WL1および第2波形WL2の同一または類似形状の部分を相対的に移動させることにより、被写体W1,W2のほぼ同じ状態を含む2つの画像を2つの画像表示領域Sa1,Sa2にそれぞれ表示させることが可能になる。それにより、被写体W1の状態と被写体W2の状態とが同じタイミングで変化するように第1動画および第2動画を再生することができる。
【0181】
これらの結果、ユーザは、簡単な構成で複数の動画中の対象物W1,W2の状態を容易に比較することができる。
【0182】
(4)他の実施の形態
(4−1)上記の例では、比較処理の対象となる動画ファイルの数は2つである。これに限らず、比較処理の対象となる動画ファイルの数は複数であればよく、3つであってもよいし、4つであってもよい。
【0183】
例えば、比較処理の対象となる動画ファイルの数が3つである場合には、表示部20に3つの画像表示領域が表示され、3つの画像表示領域にそれぞれ3つの動画ファイルの動画データに基づいて各フレームの画像が表示される。また、波形表示領域Sbに3つの動画ファイルの波形データに基づく3つの波形が表示される。
【0184】
(4−2)上記では、比較処理により複数の動画ファイルの動画データに基づいて複数の画像が比較され、複数の動画ファイルの波形データに基づく複数の波形が比較される。これに限らず、共通の動画ファイルの動画データおよび波形データに基づく複数のフレームの画像および複数の波形が互いに比較されてもよい。
【0185】
例えば、制御部10は、上記のステップS11において同一の動画ファイルが重複して選択されることにより、重複して選択された一の動画ファイルが第1ファイルおよび第2ファイルとして選択されたと判別してもよい。これにより、ユーザは1つの動画ファイルの波形データに基づく波形の複数の部分を互いに比較することができる。また、1つの動画ファイルの動画データに基づく動画の複数の部分を同期再生することができる。
【0186】
より具体的には、例えばユーザは第1〜第100フレームの画像データを含む1つの動画ファイルにおいて、第1〜第50フレームの画像データに対応する複数の評価値からなる波形と第50〜第100フレームの画像データに対応する複数の評価値からなる波形とを比較することができる。また、ユーザは第1〜第50フレームの画像データに基づく動画と第50〜第100フレームの画像データに基づく動画とを同期再生することができる。
【0187】
(4−3)比較処理時には、図9に示すように、表示部20に第1ファイルおよび第2ファイルにそれぞれ対応する2つのシークバーTf1,Tf2が表示される。これに限らず、表示部20には、1つのシークバーが表示されてもよい。この場合、例えば図9の操作対象指定ボタンTp1が選択された場合に第1ファイルに対応するスライダTg1がシークバー上に表示され、操作対象指定ボタンTp2が選択された場合に第2ファイルに対応するスライダTg2がシークバー上に表示されてもよい。さらに、図9の同期ボタンTmが操作された場合に、第1ファイルおよび第2ファイルに対して共通のスライダがシークバー上に表示されてもよい。
【0188】
上記の他、表示部20には、第1ファイルおよび第2ファイルにそれぞれ対応する複数のスライダTg1,Tg2を有する1つのシークバーが表示されてもよい。表示部20に1つのシークバーのみが表示されることにより、表示部20における画像の表示領域を拡大することができる。
【0189】
(4−4)図9の例では、比較処理時において、表示部20の波形表示領域Sbには第1波形WL1および第2波形WL2がそれぞれ実線および点線で示される。これに限らず、第1波形WL1および第2波形WL2は、いずれか一方が強調表示(ハイライト表示等)されてもよい。
【0190】
この場合、上記のステップS22において選択された動画ファイルに対応する波形が強調表示されることにより、ユーザは操作対象ファイルおよび操作対象波形を容易に認識することができる。
【0191】
(4−5)図9の例では、表示部20の波形表示領域Sbに第1波形および第2波形が互いに重なるように表示される。これに限らず、表示部20には、第1波形WL1および第2波形WL2にそれぞれ対応する2つの波形表示領域Sbが多段表示されてもよい。この場合、第1波形WL1および第2波形WL2がそれぞれ2つの波形表示領域Sbに表示されることにより、ユーザは第1波形WL1および第2波形WL2をそれぞれ明確に認識することができる。
【0192】
(4−6)上記のステップS22において、制御部10は、第1および第2のファイルのいずれかが操作対象として選択された場合に、操作対象ファイルに対応するシークバーおよびスライダをハイライト表示し、非操作対象ファイルに対応するシークバーおよびスライダをグレースケールまたは破線で表示してもよい。この場合、ユーザは操作対象ファイルおよび非操作対象ファイルを容易に認識することができる。
【0193】
(4−7)上述のように、評価値は、各フレームの画像の平均輝度値であってもよく、各フレームの画像の輝度値の総和であってもよく、あるフレームの画像の輝度値と各フレームの画像の輝度値との差分であってもよく、各フレーム内の輝度値の分散であってもよい。さらに、センサ6が温度センサ、距離センサ、圧力センサ、加速度センサ、または変位センサ等である場合には、評価値は測定対象物の温度、距離、圧力、加速度、または変位等の測定値であってもよい。
【0194】
1つの動画ファイルは、互いに異なる複数の波形データを含んでもよい。例えば、1つの動画ファイルは、複数フレームの画像の平均輝度値からなる波形データと、センサ6により所定の周期で測定された複数の測定値からなる波形データとを含んでもよい。
【0195】
上述の第1ファイルおよび第2ファイルがそれぞれ互いに異なる2つの波形データを含む場合には、図9の波形表示領域Sbのグラフに、第1ファイルの2つの波形データに基づく2つの波形および第2ファイルの2つの波形データに基づく2つの波形が重畳表示されてもよい。
【0196】
または、第1ファイルおよび第2ファイルの一方の波形データに基づく2つの波形と、第1ファイルおよび第2ファイルの他方の波形データに基づく2つの波形とが、ユーザによる操作部4の操作に基づいて選択的に波形表示領域Sbに表示されてもよい。
【0197】
これらの場合、ユーザは、表示部20の波形表示領域Sbに表示される複数の波形を視認することにより、第1動画および第2動画に関する多様な情報を認識することができる。
【0198】
(4−8)比較処理時に、第1ファイルおよび第2ファイルの同期再生が行われることにより、第1ファイルの動画データおよび波形データならびに第2ファイルの動画データおよび波形データを含む新たな動画ファイルが比較動画ファイルとして生成され、記憶部40に記憶されてもよい。
【0199】
比較動画ファイルの生成時においては、例えば同期再生時に図9の画像表示領域Sa1,Sa2に同時に表示される2つの画像の関係に基づいて、第1ファイルの複数フレームの画像データと第2ファイルの複数フレームの画像データとが対応付けられるとともに第1ファイルの複数の評価値と第2ファイルの複数の評価値とが対応付けられてもよい。この場合、制御部10により比較動画ファイルが読み込まれることにより、表示部20の画面上で比較処理中の同期再生の状態が容易に再現される。
【0200】
(4−9)制御部10は、図17のステップS22の処理により第1ファイルおよび第2ファイルが操作対象として選択された後、ユーザによる操作部4の操作に基づいて操作対象波形または非操作波形を波形表示領域Sbのグラフの時間軸上で移動させる。
【0201】
これに限らず、制御部10は、比較処理が開始されることにより、第1ファイルの各フレームの画像データに対応する各評価値と第2ファイルの各フレームの画像データに対応する各評価値との相関値または差分値を算出し、算出された複数の相関値または差分値に基づいて波形表示領域Sbのグラフの時間軸上で第1波形および第2波形を相対的に移動させてもよい。
【0202】
この場合、互いに類似する第1波形の一部分と第2波形の一部分とが、時間軸上の互いに異なる位置に存在する場合に、互いに類似する部分が重なるように時間軸上で第1波形と第2波形とが相対的に移動される。この場合、現在表示位置バーLは、第1波形および第2波形の一方とともに時間軸上を移動してもよいし、時間軸上で停止してもよい。
【0203】
このようにして、比較処理が行われることにより波形表示領域Sbの時間軸上で第1波形および第2波形が相対的に移動される。その結果、画像表示領域Sa1に表示される画像のフレームと画像表示領域Sa2に表示される画像のフレームとの対応関係が容易に変更される。
【0204】
(4−10)比較処理中においては、動画中の被写体を追尾することにより動画中で移動する追尾対象の軌跡を表示する処理(以下、追尾処理と呼ぶ)が行われてもよい。追尾処理を行うために、ユーザは予め操作部4を用いて追尾設定を行う。
【0205】
追尾設定時に、ユーザは、例えば操作部4を用いていずれか一方の画像表示領域に表示される画像上で、追尾対象の画像としてのテンプレート、次フレームの画像において追尾対象を探索する範囲を示す探索範囲、および追尾対象が存在する位置を示すシンボルを指定する。このようにして追尾設定が行われた画像を含む動画が再生されることにより、動画を構成する複数フレームの画像の各々において追尾対象の位置が識別される。
【0206】
上述のように、比較処理時には2つの画像表示領域Sa1,Sa2において第1動画および第2動画がそれぞれ再生される。そのため、第1動画において被写体W1の追尾を行うと同時に第2動画において被写体W2の追尾を行う場合には、ユーザは2つの画像表示領域Sa1,Sa2に表示される2つの画像に対して同様の追尾設定をそれぞれ行う必要がある。
【0207】
そこで、比較処理中に複数の動画について追尾処理が行われる場合には、ユーザにより2つの画像表示領域Sa1,Sa2のうちの一方に表示される画像に対して追尾設定が行われることにより、他方の画像表示領域に表示される画像に対しても一方の画像表示領域に対する追尾設定と同じ内容の追尾設定が反映されてもよい。これにより、ユーザは比較処理中の追尾処理時に同内容の追尾設定を繰り返して行う必要がなくなる。
【0208】
(4−11)比較処理中においては、第1動画中の被写体W1の特定部分の位置と第2動画中の被写体W2の特定部分の位置との間のずれ量を演算し、演算結果を表示する処理(以下、計測処理と呼ぶ)が行われてもよい。
【0209】
図20は計測処理時における表示部20の一表示例を示す図である。計測処理時において、ユーザにより操作部4を用いて一方の画像表示領域Sa1内の所望の位置(本例では、画像VA1の被写体W1の一角部)が指定される。これにより、画像表示領域Sa1内では画像VA1上の指定された位置にシンボルm1が表示される。このとき、他方の画像表示領域Sa2内では、画像表示領域Sa1におけるシンボルm1の位置に対応する位置にシンボルm2が表示される。
【0210】
続いて、ユーザにより操作部4を用いて他方の画像表示領域Sa2内の所望の位置(本例では、画像VB3の被写体W2の一角部)が指定される。これにより、画像表示領域Sa2内では画像VB3上の指定された位置にシンボルn1が表示される。このとき、一方の画像表示領域Sa1内では、画像表示領域Sa2におけるシンボルn1の位置に対応する位置にシンボルn2が表示される。
【0211】
この状態で、一方の画像表示領域Sa1内に表示される2つのシンボルm1,n2間の距離(または他方の画像表示領域Sa2内に示される2つのシンボルn1,m2間の距離)に基づいて被写体W1に対する被写体W2の実際のずれ量Qが制御部10により演算される。演算結果が2つの画像表示領域Sa1,Sa2にそれぞれ表示される。
【0212】
これにより、ユーザは、第1動画中の被写体W1の特定部分の位置と第2動画中の被写体W2の特定部分の位置との間のずれ量を容易に計測することができる。
【0213】
(4−12)第1動画の被写体W1の撮影フレームレートと第2動画の被写体W2の撮影フレームレートとが互いに異なる場合がある。この場合、第1動画および第2動画のうちの少なくとも一方の再生フレームレートは、ほぼ同じ撮影タイミングで取得された被写体W1,W2の各フレームの画像が同時に表示されるように調整されてもよい。再生フレームレートとは、単位時間当たりに表示部20に表示される画像のフレーム数である。
【0214】
例えば、被写体W1および被写体W2の撮影フレームレートがそれぞれ1000fpsおよび250fpsである場合、第1動画および第2動画の再生フレームレートをそれぞれ60fpsおよび15fpsに調整して同期再生を行う。これにより、表示部20の画像表示領域Sa1,Sa2には、ほぼ同じ撮影タイミングで取得された被写体W1,W2の各フレームの画像が表示される。これにより、ユーザは第1動画および第2動画中の対象物W1,W2の状態の変化を正確に比較することができる。
【0215】
第1ファイルに含まれる複数の評価値のサンプリングレートと第2ファイルに含まれる複数の評価値のサンプリングレートとが互いに異なる場合がある。評価値のサンプリングレートとは、単位時間当たりに波形収集装置7により取得される評価値の数である。同期再生時には、制御部10により第1ファイルに含まれる複数の評価値および第2ファイルに含まれる複数の評価値がそれぞれ一定周期で順次読み込まれる。それにより、波形表示領域Sbにおける時間軸上で現在表示位置バーLが移動される。
【0216】
この場合においても、同期再生時に、制御部10が第1ファイルの複数の評価値の読み込み周期と第2ファイルの複数の評価値の読み込み周期とは、ほぼ同じサンプリングタイミングで取得された第1ファイルおよび第2ファイルの複数の評価値が同時に読み込まれるように調整してもよい。これにより、ユーザは第1動画および第2動画中の対象物W1,W2の状態の変化を正確に比較することができる。
【0217】
(5)請求項の各構成要素と実施の形態の各部との対応関係
以下、請求項の各構成要素と実施の形態の各部との対応の例について説明するが、本発明は下記の例に限定されない。
【0218】
上記実施の形態においては、被写体W1が第1の対象物の例であり、画像VA1〜VA7および画像表示領域Sa1に表示される被写体W1の画像が第1の画像の例であり、被写体W2が第2の対象物の例であり、画像VB1〜VB7および画像表示領域Sa2に表示される被写体W2の画像が第2の画像の例である。
【0219】
また、本体部1が画像処理装置の例であり、画像データva1〜va7および第1ファイルの動画データを構成する複数フレームの画像データが第1の画像データの例であり、評価値ia1〜ia7および第1ファイルの波形データを構成する複数の評価値が第1の評価値の例である。
【0220】
さらに、画像データvb1〜vb7および第2ファイルの動画データを構成する複数フレームの画像データが第2の画像データの例であり、評価値ib1〜ib7および第2ファイルの波形データを構成する複数の評価値が第2の評価値の例であり、記憶部40が記憶部の例である。
【0221】
また、画像表示領域Sa1が第1の表示領域の例であり、画像表示領域Sa2が第2の表示領域の例であり、波形表示領域Sbが第3の表示領域の例であり、表示部20が表示部の例であり、第1波形WL1が第1の波形の例であり、第2波形WL2が第2の波形の例である。
【0222】
さらに、センサ6,8および波形収集装置7が検出装置の例であり、制御部10が制御部の例であり、操作部4が操作部の例であり、現在表示位置バーLが共通の指標の例であり、制御部10が処理装置の例である。
【0223】
請求項の各構成要素として、請求項に記載されている構成または機能を有する他の種々の要素を用いることもできる。
【産業上の利用可能性】
【0224】
本発明は、種々の画像処理に有効に利用することができる。
【符号の説明】
【0225】
1 本体部
2 カメラ
3 照明装置
4 操作部
5 PLC
6,8 センサ
7 波形収集装置
10 制御部
20 表示部
30 録画部
30A 動画データ記憶領域
30B 波形データ記憶領域
40 記憶部
50 ビデオメモリ
60 波形収集部
100 画像処理システム
BS バス
bt 床
FA,FB,FC,FD 動画ファイル
fi ファイル情報
i1〜i42,ia1〜ia7,ib1〜ib7 評価値
L 現在表示位置バー
Sa,Sa1,Sa2 画像表示領域
Sb 波形表示領域
Sc 条件設定領域
Sc1〜Sc5 入力枠
Se 録画ボタン
Sf トリガボタン
Sg 再生ボタン
Sj ファイルボタン
Sx 比較ボタン
Tc 再生ボタン
Td 一時停止ボタン
Te 逆再生ボタン
Tf1,Tf2 シークバー
Tg1,Tg2 スライダ
Tm 同期ボタン
Tn 比較終了ボタン
Tp1,Tp2 操作対象指定ボタン
t1〜t9 時点
VA1〜VA7,VB1〜VB7 画像
v1〜v14,va1〜va7,vb1〜vb7 画像データ
W,W1,W2 被写体
WL1 第1波形
WL2 第2波形

【特許請求の範囲】
【請求項1】
第1の対象物の動画を構成する複数フレームの第1の画像および前記第1の対象物と同じまたは異なる第2の対象物の動画を構成する複数フレームの第2の画像を表示するための画像処理装置であって、
前記複数フレームの第1の画像を表示するための複数フレームの第1の画像データ、前記複数フレームの第1の画像データに対応付けられた複数の第1の評価値、前記複数フレームの第2の画像を表示するための複数フレームの第2の画像データ、および前記複数フレームの第2の画像データに対応付けられた複数の第2の評価値を記憶する記憶部と、
第1の表示領域、第2の表示領域および第3の表示領域を有する表示部と、
前記記憶部に記憶された各フレームの第1の画像データに基づいて第1の画像を前記第1の表示領域に表示させ、前記記憶部に記憶された各フレームの第2の画像データに基づいて第2の画像を前記第2の表示領域に表示させ、前記記憶部に記憶された前記複数の第1の評価値により形成される第1の波形および前記記憶部に記憶された前記複数の第2の評価値により形成される第2の波形を時間軸上で移動可能に前記第3の表示領域に表示させる制御部と、
前記第3の表示領域に表示される前記第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるためにユーザにより操作される操作部とを備え、
前記複数の第1の評価値は前記第1の対象物の状態に応じて変化し、前記複数の第2の評価値は前記第2の対象物の状態に応じて変化し、
前記制御部は、前記操作部の操作に基づいて、前記第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、前記第1の表示領域に表示させる第1の画像のフレームおよび前記第2の表示領域に表示させる第2の画像のフレームのいずれか一方を前記一方の波形の移動に基づいて変更することを特徴とする画像処理装置。
【請求項2】
前記制御部は、前記第1および第2の波形の任意の位置を指定するための共通の指標を時間軸上で移動可能に前記第3の表示領域にさらに表示させ、前記指標により指定される前記第1の波形の位置と前記第1の表示領域に表示される第1の画像のフレームとが対応しかつ前記指標により指定される前記第2の波形の位置と前記第2の表示領域に表示される第2の画像のフレームとが対応する状態を保持するように前記第1、第2および第3の表示領域の表示を制御し、前記操作部の操作に基づいて、前記第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、前記状態を保持するように前記第1、第2および第3の表示領域の表示を制御する請求項1記載の画像処理装置。
【請求項3】
前記操作部は、前記第1および第2の波形のうち一方の波形を時間軸上で移動させるように操作可能であり、
前記制御部は、前記操作部による一方の波形の移動の操作に基づいて、前記第3の表示領域に表示される前記一方の波形および前記指標を時間軸上で移動させるとともに、前記第1および第2の表示領域のうち他方の波形に対応する表示領域の画像を変更することを特徴とする請求項2記載の画像処理装置。
【請求項4】
前記操作部は、前記第1および第2の表示領域のうち一方の表示領域に表示される画像のフレームの変更を操作可能であり、
前記制御部は、前記操作部による画像の変更の操作に基づいて、前記一方の表示領域に表示される画像を変更するとともに、前記第1および第2の波形のうち他方の表示領域に対応する波形および前記指標を時間軸上で移動させることを特徴とする請求項2または3記載の画像処理装置。
【請求項5】
前記操作部は、前記第1の表示領域における動画の再生および前記第2の表示領域における動画の再生を指示可能であり、
前記制御部は、前記操作部により動画の再生が指示された場合に、前記第1の表示領域に表示されている第1の画像以降の複数フレームの第1の画像を順次表示するとともに前記第2の表示領域に表示されている第2の画像以降の複数フレームの第2の画像を順次表示する請求項1〜4のいずれかに記載の画像処理装置。
【請求項6】
前記複数の第1の評価値は、前記複数フレームの第1の画像の特徴を示す値であり、前記複数の第2の評価値は、前記複数フレームの第2の画像の特徴を示す値である請求項1〜5のいずれかに記載の画像処理装置。
【請求項7】
前記複数フレームの第1の画像の特徴を示す値は、前記複数フレームの第1の画像の輝度に関する値であり、前記複数フレームの第2の画像の特徴を示す値は、前記複数フレームの第2の画像の輝度に関する値である請求項6記載の画像処理装置。
【請求項8】
前記複数の第1および第2の評価値は、前記第1および第2の対象物の状態を検出する検出装置の出力値である請求項1〜5のいずれかに記載の画像処理装置。
【請求項9】
第1の対象物の動画を構成する複数フレームの第1の画像および前記第1の対象物と同じまたは異なる第2の対象物の動画を構成する複数フレームの第2の画像を表示するための画像処理方法であって、
前記複数フレームの第1の画像を表示するための複数フレームの第1の画像データ、前記複数フレームの第1の画像データに対応付けられた複数の第1の評価値、前記複数フレームの第2の画像を表示するための複数フレームの第2の画像データ、および前記複数フレームの第2の画像データに対応付けられた複数の第2の評価値を記憶するステップと、
表示部に第1の表示領域、第2の表示領域および第3の表示領域を表示するステップと、
前記記憶された各フレームの第1の画像データに基づいて第1の画像を前記第1の表示領域に表示させ、前記記憶された各フレームの第2の画像データに基づいて第2の画像を前記第2の表示領域に表示させ、前記記憶された前記複数の第1の評価値により形成される第1の波形および前記記憶部に記憶された前記複数の第2の評価値により形成される第2の波形を時間軸上で移動可能に前記第3の表示領域に表示させるステップと、
ユーザにより操作される操作部から前記第3の表示領域に表示される前記第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させる操作を受け付けるステップと、
前記受け付けられた前記操作部の操作に基づいて、前記第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、前記第1の表示領域に表示させる第1の画像のフレームおよび前記第2の表示領域に表示させる第2の画像のフレームのいずれか一方を前記一方の波形の移動に基づいて変更するステップとを備え、
前記複数の第1の評価値は前記第1の対象物の状態に応じて変化し、前記複数の第2の評価値は前記第2の対象物の状態に応じて変化することを特徴とする画像処理方法。
【請求項10】
第1の対象物の動画を構成する複数フレームの第1の画像および前記第1の対象物と同じまたは異なる第2の対象物の動画を構成する複数フレームの第2の画像を表示するための画像処理を処理装置に実行させる画像処理プログラムあって、
前記複数フレームの第1の画像を表示するための複数フレームの第1の画像データ、前記複数フレームの第1の画像データに対応付けられた複数の第1の評価値、前記複数フレームの第2の画像を表示するための複数フレームの第2の画像データ、および前記複数フレームの第2の画像データに対応付けられた複数の第2の評価値を記憶する処理と、
表示部に第1の表示領域、第2の表示領域および第3の表示領域を表示する処理と、
前記記憶された各フレームの第1の画像データに基づいて第1の画像を前記第1の表示領域に表示させ、前記記憶された各フレームの第2の画像データに基づいて第2の画像を前記第2の表示領域に表示させ、前記記憶された前記複数の第1の評価値により形成される第1の波形および前記記憶部に記憶された前記複数の第2の評価値により形成される第2の波形を時間軸上で移動可能に前記第3の表示領域に表示させる処理と、
ユーザにより操作される操作部から前記第3の表示領域に表示される前記第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させる操作を受け付ける処理と、
前記受け付けられた前記操作部の操作に基づいて、前記第1および第2の波形のうち一方の波形を他方の波形に対して相対的に時間軸上で移動させるとともに、前記第1の表示領域に表示させる第1の画像のフレームおよび前記第2の表示領域に表示させる第2の画像のフレームのいずれか一方を前記一方の波形の移動に基づいて変更する処理とを、
前記処理装置に実行させ、
前記複数の第1の評価値は前記第1の対象物の状態に応じて変化し、前記複数の第2の評価値は前記第2の対象物の状態に応じて変化することを特徴とする画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate


【公開番号】特開2012−99972(P2012−99972A)
【公開日】平成24年5月24日(2012.5.24)
【国際特許分類】
【出願番号】特願2010−244701(P2010−244701)
【出願日】平成22年10月29日(2010.10.29)
【出願人】(000129253)株式会社キーエンス (681)
【Fターム(参考)】