動作解析装置
【課題】ユーザにとって、簡易に使用可能な動作解析装置を提供することである。
【解決手段】動作解析装置は、動画の入力を受け付けると(S11)、静止画を操作部に表示する(S12)。動作解析装置は、ユーザから静止画像上の任意の箇所を指定される(S13)。そうすると、指定点を中心とした半径rの範囲内において、第一の特徴点の検索を行う(S14)。そして、第一の特徴点を検索した静止画より時間的に後に隣り合う静止画において、第一の特徴点に対応する第二の特徴点の検索を行う(S15)。そして、特徴点の差を算出し(S16)、算出した差の平均値を求める(S17)。そして、連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値を求めると(S18において、YES)、求めた平均値を順に接続する。このようにして軌跡を作成する(S19)。
【解決手段】動作解析装置は、動画の入力を受け付けると(S11)、静止画を操作部に表示する(S12)。動作解析装置は、ユーザから静止画像上の任意の箇所を指定される(S13)。そうすると、指定点を中心とした半径rの範囲内において、第一の特徴点の検索を行う(S14)。そして、第一の特徴点を検索した静止画より時間的に後に隣り合う静止画において、第一の特徴点に対応する第二の特徴点の検索を行う(S15)。そして、特徴点の差を算出し(S16)、算出した差の平均値を求める(S17)。そして、連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値を求めると(S18において、YES)、求めた平均値を順に接続する。このようにして軌跡を作成する(S19)。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、動作解析装置に関し、特に、特定箇所の動作を解析可能な動作解析装置に関するものである。
【背景技術】
【0002】
ゴルフのスイング運動の動作解析に関する技術が、例えば、特開2009−20897号公報(特許文献1)に開示されている。特許文献1によると、時系列の物体画像データのそれぞれについて、特定領域の位置を検出し、検出した特定領域の位置の変化を追跡することにより、特定領域の軌跡を線と点で表示することとしている。
【0003】
具体的には、予め特定領域の色を記憶しておくことにより、記憶された色と同じ色の領域を時系列の物体画像データからそれぞれ検出し、特定領域の位置の変化を追跡する。また、ユーザによるマニュアル操作により、特定領域の位置を指定させ、この指定された領域の色に基づいて、特定領域の位置の変化を追跡する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−20897号公報(段落番号0071〜0075等)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1に開示の技術では、特定領域の位置の検出のために、特定領域の色を予め記憶させる必要がある。そうすると、例えば、予め記憶させた色と異なる色を急遽使用しなければならなくなった場合に、色の登録を改めて行う必要があり、ユーザにとってこのような作業は煩雑である。
【0006】
また、ユーザによるマニュアル操作により、特定領域の位置を指定された場合であっても、指定された領域の色に基づいて、特定領域の位置の変化を追跡するため、例えば、ユーザにとって、複数の特定領域の位置を指定したい場合には、特定領域のそれぞれにおいて、異なる色を用いる必要がある。
【0007】
この発明の目的は、ユーザにとって、簡易に使用可能な動作解析装置を提供することである。
【課題を解決するための手段】
【0008】
この発明に係る動作解析装置は、連続する複数の静止画から構成される動画の動作を解析する。動作解析装置は、動画の入力を受け付ける動画受付手段と、動画受付手段により受け付けた動画のうち、動画を構成する第一の静止画において、第一の静止画像上の解析対象箇所を指定する解析箇所指定手段と、解析対象箇所から一定範囲内において、第一の特徴点を検索する第一の検索手段と、動画を構成し、第一の静止画と異なる静止画である第二の静止画において、第一の特徴点に対応する第二の特徴点を検索する第二の検索手段と、第一および第二の特徴点に基づいて、軌跡を作成する軌跡作成手段とを備える。
【0009】
こうすることにより、動作解析装置は、第一の静止画像上の解析対象箇所の指定を行い、第一の静止画における第一の特徴点および第二の静止画における第二の特徴点を検索する。そして、第一および第二の特徴点に基づいて、軌跡を作成する。したがって、ユーザにとって、色を考慮する必要なく、解析対象箇所の指定および軌跡の作成を行い、動画の動作を解析することができる。その結果、ユーザにとって、簡易に使用可能となる。
【0010】
好ましくは、解析箇所指定手段は、ユーザが解析対象箇所を任意に指定可能とするために、ユーザからの指定を受け付ける指定受付手段を有する。こうすることにより、ユーザは、動作の解析を行う箇所を任意に指定することが可能となる。これにより、ユーザの利便性をさらに向上させることができる。
【0011】
好ましくは、解析箇所指定手段は、第一の静止画から観測対象を認識する認識手段と、認識手段によって認識された観測対象の画像データに基づいて、観測対象の形態を推定する形態推定手段とを有する。ここで、上記解析対象箇所は、形態推定手段によって推定された画像データに基づいて指定される。こうすることにより、動作解析を開始するに際して、動作解析装置が観測対象の初期形態を推定し、そのデータに基づいて解析の初期条件を自動的に決定することが可能となる。これにより、ユーザが解析対象箇所を指定する作業を省略することができるため、ユーザの利便性をさらに向上させた動作解析装置を提供することができる。
【0012】
好ましくは、認識手段は、観測対象を含む一定の領域を対象領域として画定する対象領域画定手段と、対象領域の大きさを所定の画像サイズとなるように調整する対象領域正規化手段とを含む。こうすることにより、第一の静止画像における観測対象の位置や大きさ等による影響を受けることなく、観測対象の形態推定および動作解析を、より高精度に一律に行うことが可能となる。
【0013】
好ましくは、認識手段は、第一の静止画に形成された輝度勾配に基づいて、観測対象の輪郭を検出する。こうすることにより、観測対象の輪郭を高精度に行うことができるため、観測対象の形態推定および動作解析を、より高精度に行うことができる。
【0014】
好ましくは、観測対象に対応する比較対象の画像データを、予め複数記憶するレファレンス画像記憶手段をさらに備え、形態推定手段は、認識手段によって認識された観測対象の画像データと、レファレンス画像記憶手段によって記憶された比較対象の画像データとを比較し、観測対象の画像データに形態が近似する比較対象の画像データを選択するレファレンス画像選択手段を含む。ここで、上記解析対象箇所は、レファレンス画像選択手段によって選択された比較対象の画像データに基づいて指定される。こうすることにより、観測対象の形態を自動的に推定し、且つ、推定された画像データ上において上記解析対象箇所を設定することができる。すなわち、動作解析の開始点における解析箇所の初期条件を、ユーザによる指定を要することなく、より確実且つ高精度に設定することができる。これにより、ユーザに対する利便性を向上させるとともに、動作解析の精度を向上させることができる。
【0015】
好ましくは、第一の検索手段は、一定範囲内において、複数の第一の特徴点を検索し、第二の検索手段は、複数の第一の特徴点に対応する複数の第二の特徴点を検索し、軌跡作成手段は、複数の第一の特徴点と複数の第二の特徴点との差をそれぞれ算出し、この算出した差の平均値を求めることにより、求めた平均値に基づいて、軌跡を作成する。こうすることにより、複数の特徴点の差の平均値に基づいて、軌跡を作成することができる。したがって、例えば、動作解析装置の認識した解析対象箇所が、ユーザの意図する箇所と多少ずれていた場合であっても、そのずれ具合を抑えることができる。その結果、作成する軌跡の精度を向上させることができる。
【0016】
さらに好ましくは、平均値は、第一および第二の特徴点に基づく点であって、動画を構成する静止画像上の所定の点における変化を示すものであり、軌跡作成手段は、平均値を、連続する複数の静止画の隣り合う静止画像間においてそれぞれ算出し、この算出した平均値が示す所定の点を順に接続することにより、軌跡を作成する。
【0017】
さらに好ましくは、第一の静止画は、動画の先頭に位置する静止画と、動画の最後に位置する静止画とを含み、第二の静止画は、第一の静止画と時系列的に後に隣り合う静止画と、第一の静止画より時系列的に前に隣り合う静止画とを含み、第二の検索手段は、時系列的に後に隣り合う静止画において、第一の特徴点に対応する第二の特徴点を検索すると共に、時系列的に前に隣り合う静止画において、第一の特徴点に対応する第二の特徴点を検索する。こうすることにより、例えば、連続する複数の静止画において、時系列的に前から後ろへ向かって、順に特徴点の検索を行った場合に、途中で特徴点の検索を行うことが出来なくなった場合であっても、時系列的に後ろから前へ向かって、逆順に特徴点の検索を行うことができる。その結果、確実に特徴点の検索を行うことができる。
【0018】
さらに好ましくは、第二の検索手段は、動画の動作の速さを取得する取得手段を含み、取得手段により取得した速さに基づいて、第二の特徴点を検索する。こうすることにより、第二の特徴点の検索を動画の動作の速さに応じて変化させることができる。その結果、容易に第二の特徴点を検索することができる。
【0019】
一実施形態として、連続する複数の静止画は、一定間隔で構成されており、取得手段は、隣り合う静止画像間において、静止画像の差の大小を取得することにより、動画の動作の速さを取得する。
【0020】
好ましくは、軌跡作成手段は、軌跡の方向が転換された場合に、方向転換前の軌跡と方向転換後の軌跡とを識別可能とする方向転換識別手段を有する。こうすることにより、動作の転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を容易に行うことができる。
【0021】
好ましくは、方向転換識別手段は、時系列的に連続する静止画間における軌跡の速度ベクトルを計算し、特定の静止画における速度ベクトルと、当該特定の静止画と時系列的に後に隣り合う静止画における速度ベクトルとの内積が負となった場合に、軌跡の方向転換を検出する。こうすることにより、動作の転換点となるポイントを、より高精度に検出することが可能となる。
【0022】
さらに好ましくは、軌跡作成手段により作成された軌跡と、動画受付手段により受け付けた動画とを重ねて表示する表示手段を含む。こうすることにより、軌跡と動画とを重ねて表示することができ、ユーザにとって、動画の動作の解析結果がわかりやすくなる。
【発明の効果】
【0023】
このような動作解析装置は、第一の静止画像上の解析対象箇所の指定を行い、第一の静止画における第一の特徴点および第二の静止画における第二の特徴点を検索する。そして、第一および第二の特徴点に基づいて、軌跡を作成する。したがって、ユーザにとって、色を考慮する必要なく、解析対象箇所の指定および軌跡の作成を行い、動画の動作を解析することができる。その結果、ユーザにとって、簡易に使用可能となる。
【図面の簡単な説明】
【0024】
【図1】この発明の一実施形態に係る動作解析装置の構成を示すブロック図である。
【図2】ゴルフのスイングのフォームを解析する場合の動作解析装置の動作を示すフローチャートである。
【図3】連続する複数の静止画の一部を示す図である。
【図4】連続する複数の静止画の一部を示す図であって、図3の次の状態を示す静止画である。
【図5】連続する複数の静止画の一部を示す図であって、図4の次の状態を示す静止画である。
【図6】図3の静止画において、指定されたP0の位置を示す図である。
【図7】図3の静止画において、検索された特徴点P1、P2、P3の位置を示す図である。
【図8】図4の静止画において、検索された特徴点P1´、P2´、P3´の位置を示す図である。
【図9】図3の静止画に軌跡を重ねて表示した状態を示す図である。
【図10】連続する複数の静止画の他の例を示す図である。
【図11】連続する複数の静止画の他の例を示す図であって、図10の次の状態を示す静止画である。
【図12】連続する複数の静止画の他の例を示す図であって、図11の次の状態を示す静止画である。
【図13】本発明の他の実施形態に係る動作解析装置の動作を示すフローチャートである。
【図14】連続する複数の静止画のうち、時系列的に最初の静止画を示す図である。
【図15】図14に示す対象領域を拡大した示す図である。
【図16】図15に示すプレーヤーの輪郭を抽出した図を示す。
【図17】比較対象となるレファレンス画像の一例を示す図である。
【図18】図17に示すレファレンス画像であって、(a)は画像上に頭部、腕部、および脚部に対応する第一身体部位領域が画定されている様子を表す図であり、(b)はレファレンスプレーヤーの輪郭を抽出した図であり、(c)は(a)に示す第一身体部位領域のみを抽出した様子を表す図である。
【図19】観測対象の画像データに、選択されたレファレンス画像に対応する第一身体部位領域を適用した様子を表す図である。
【図20】図19に示す画像から時系列的に後に隣接する画像を示す図であって、図19に対応する図である。
【図21】図20に示す画像から時系列的に後に隣接する画像を示す図であって、図20に対応する図である。
【図22】一連のゴルフスイングを記録した動画を、計6フレームの静止画によって表した図である。
【図23】方向転換識別手段によってテイクバックとダウンスイングとが識別可能となったゴルフスイングの軌跡を表す図である。
【図24】二つのゴルフスイングの軌跡を形成し、それらを並列表示した図を示す。
【図25】本発明に係る動作比較手段の動作を示すフローチャートである。
【図26】第一および第二の軌跡のフレーム番号Nと差分値xに係るグラフを示す。
【発明を実施するための形態】
【0025】
以下、図面を参照して、この発明の一実施形態に係る動作解析装置について説明する。図1は、この発明の一実施形態に係る動作解析装置10の構成を示すブロック図である。図1を参照して、動作解析装置10は、動画の動作を解析可能であって、動作解析装置10全体を制御するCPU等の制御部11と、画像等を記憶する記憶部12と、タッチパネル式であってユーザからの操作を受け付けると共に記憶部12に記憶した画像等を表示する操作部13と、外部機器との接続インターフェースとなるI/F部14とを備える。なお、本実施形態中において、画像とは、動画および静止画を含むものとする。
【0026】
ここで、動作解析装置10が、ゴルフのスイングのフォームを解析する場合について説明する。図2は、ゴルフのスイングのフォームを解析する場合の動作解析装置10の動きを示すフローチャートである。図1〜図2を参照して説明する。
【0027】
まず、ユーザは、アドレスからフィニッシュまでのゴルフのスイングのフォームをビデオカメラ等で予め撮影しており、動作解析装置10は、I/F部14を介して、撮影した動画の入力を受け付ける(図2において、ステップS11、以下ステップを省略する)。動画は、連続する複数の静止画から構成されており、この複数の静止画は、一定間隔である。図3〜図5は、連続する複数の静止画の一部を示す図である。図3〜図5は、アドレスからフィニッシュまでのゴルフのスイングのうち、スイングの開始直後であるアドレスからテイクバックまでの状態を順に示している。ここで、I/F部14は、動画受付手段として作動する。動作解析装置10は、連続する静止画の先頭に位置する図3の静止画を操作部13に表示する(S12)。ここで、図3の静止画は、第一の静止画である。
【0028】
そうすると、動作解析装置10は、動作解析の対象となる解析対象箇所として、ユーザから静止画像上の任意の箇所を指定される(S13)。操作部13は、タッチパネル式であり、画面を指等でタッチされることによって、任意の箇所を指定される。ここでは、任意の箇所として、P0を指定される。なお、図6は、図3の静止画において、指定されたP0の位置を示す図である。ここで、操作部13は、指定受付手段として作動する。
【0029】
そうすると、動作解析装置10は、指定点であるP0を中心とし、予め定められた半径r範囲内において、第一の特徴点の検索を行う(S14)。特徴点とは、静止画像中の輝度の変化の大きい箇所や、物体のエッジ等を示す点であって、静止画において何らかの変化を有する点である。ここでは、図3の静止画において、P1、P2、P3の複数の第一の特徴点が検索される。
【0030】
なお、特徴点の検索は、SIFT(Scale Invariant Feature Transform)特徴量を用いることができる。SIFT特徴量の計算は、指定点P0を中心とした半径r範囲内の部分静止画を平滑化し、平滑化画像からDoG(Difference of Gaussian)画像を生成する。そして、DoG画像において極値を探索する。そして、当該極値の周囲の画素の輝度勾配および角度に基づき特徴量を計算する。SIFT特徴量は、物体の回転や、物体の拡大および縮小等に影響を受けることがない。したがって、この実施形態のような回転する動作であるゴルフのスイングにおいて、誤差等がなく適切に用いることができる。図7は、図3の静止画において、検索された第一の特徴点P1、P2、P3の位置を示す図である。ここで、制御部11は、第一の検索手段として作動する。
【0031】
そして、動作解析装置10は、第一の特徴点P1、P2、P3を検索した図3の静止画より時系列的に後に隣り合う静止画、すなわち、図4の静止画において、第一の特徴点P1、P2、P3に対応する第二の特徴点の検索を行う(S15)。ここで、対応するとは、第一の特徴点P1、P2、P3に類似する値を有することを意味する。検索においては、例えば、図3の静止画における第一の特徴点P1、P2、P3の座標を図4の静止画にあてはめて、当該座標の位置を中心とした所定の範囲内において、第一の特徴点P1、P2、P3に対応する第二の特徴点の検索を行う。図8は、図4の静止画において、検索された第二の特徴点P1´、P2´、P3´の位置を示す図である。P1´がP1に対応し、P2´がP2に対応し、P3´がP3に対応している。ここで、図4の静止画は、第二の静止画であり、制御部11は、第二の検索手段として作動する。
【0032】
そして、図7に示す特徴点P1、P2、P3と、図8に示す特徴点P1´、P2´、P3´との差を算出する(S16)。P1´−P1=ΔP1よりΔP1を算出する。すなわち、隣り合う静止画像間における特徴点の変化量を算出する。P2´、P3´においても同様に計算して、P2´−P2=ΔP2よりΔP2を算出し、P3´−P3=ΔP3よりΔP3を算出する。そして、算出した差ΔP1、ΔP2、ΔP3の3つの平均値ΔPt1を求める(S17)。この平均値ΔPt1は、第一および第二の特徴点に基づく点である静止画像上の所定の点における変化を示すものとなる。
【0033】
そして、第二の特徴点P1´、P2´、P3´を検索した図4の静止画より時系列的に後に隣り合う静止画、すなわち、図5の静止画においても同様に、特徴点P1´、P2´、P3´に対応する特徴点P1´´、P2´´、P3´´(図示せず)の検索を行い、特徴点P1´、P2´、P3´と特徴点P1´´、P2´´、P3´´の差を算出し、算出した差の平均値ΔPt2を求める。このとき、特徴点P1´、P2´、P3´は第一の特徴点となり、特徴点P1´´、P2´´、P3´´は第二の特徴点となる。
【0034】
このように、S11にて受け付けた動画を構成する連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値ΔPtn(n=1,2・・・)を順に求めていく(S18において、NO)。
【0035】
そして、連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値ΔPtn(n=1,2・・・)を求めると(S18において、YES)、求めた平均値ΔPtnを順に接続する。すなわち、所定の点を順に接続する。このようにして、平均値ΔPtnに基づき、軌跡を作成する(S19)。平均値ΔPtnは、軌跡の一部であり、接続することにより軌跡全体となる。図9は、図3の静止画に軌跡20を重ねて表示した状態を示す図である。なお、図9においては、軌跡20の一部を示している。ここで、制御部11は、軌跡作成手段として作動する。このようにして、動作解析装置10は、軌跡20を作成することにより、動作の解析を行う。
【0036】
このように、動作解析装置10は、解析対象箇所として第一の静止画像上の任意の箇所の指定を受け付けると、第一の静止画における第一の特徴点および第二の静止画における第二の特徴点を検索する。そして、第一および第二の特徴点に基づいて、軌跡を作成する。したがって、ユーザにとって、色を考慮する必要なく、任意の箇所を指定するのみで、軌跡を作成して、動画の動作を解析することができる。その結果、ユーザにとって、簡易に使用可能となる。
【0037】
また、S13において、例えば画面が小さい場合には、ユーザとっては図3のグリップを指定したにもかかわらず、グリップとは異なるシャフト等を指定されたと操作部13が受け付けてしまう場合がある。すなわち、操作部13が受け付けた指定点P0とユーザの意図した解析対象箇所とが異なる場合がある。しかしながら、S14において、指定点P0を中心としてP0の周囲の複数の特徴点を検索するため、この検索した複数の特徴点に基づいて軌跡の作成を行うことができる。したがって、指定点P0とユーザの意図した解析対象箇所とが異なる場合であっても、作成する軌跡の精度を向上させることができる。
【0038】
なお、S15における第二の特徴点の検索の際に、例えば動画の動作が激しい場合には、第二の特徴点の検索が困難となる場合がある。例えば、図3〜図5に示す静止画像は、スイングの開始直後を示すものであるため、動作が遅く、静止画像間の変化が小さい。しかしながら、図10〜図12に示す静止画像は、ダウンスイングからインパクト直前を順に示すものであるため、動作が速く、静止画像間の変化が大きい。このように動画の動作が速く、特徴点の検索が困難な場合には、動画の動作の速さを予め取得しておくことにより、対応することができる。
【0039】
具体的には、静止画像を所定の大きさの領域に分割し、隣り合う静止画像間で、対応する領域毎に差分を抽出する。そして、その差分の大小を取得して、差分が大きければ動作が速いと判断し、差分が小さければ動作が遅いと判断する。このようにして、動画の動作の速さを取得する。そして、S15における第二の特徴点の検索の際に、動作の速さを取得して、動作が速い場合には、検索する範囲を大きくする。ここで、制御部11は、取得手段として作動する。
【0040】
また、例えば、静止画像を所定の大きさの小領域に分割し、小領域毎に、横軸が輝度勾配、縦軸が出現頻度を示す輝度勾配のヒストグラムを計算する。なお、この輝度勾配は、上記したS14におけるSIFT特徴量計算時のものと同じである。そして、隣り合う静止画像間で、計算したヒストグラムを対応する領域毎に比較することにより、ヒストグラムの差の大小を取得して、差が大きければ動作が速いと判断し、差が小さければ動作が遅いと判断してもよい。
【0041】
また、例えば、静止画像全体に2次元DCT(Discrete Cosine Transform:離散コサイン変換)処理を行うことにより、静止画像全体を周波数領域に変換する。そして、変換した周波数領域のうち、高周波領域の情報を除き、低周波領域のヒストグラムを計算する。そして、隣り合う静止画像間で、計算したヒストグラムを比較することにより、ヒストグラムの差の大小を取得して、差が大きければ動作が速いと判断し、差が小さければ動作が遅いと判断してもよい。
【0042】
また、上記の実施の形態においては、特徴点の検索の際に、いずれの静止画像においても特徴点の検索ができた場合について説明したが、例えば図3の静止画の特徴点P1、P2、P3は検索できたものの、図3の静止画に隣り合う図4の静止画の特徴点P1´、P2´、P3´は検索できない場合がある。このような場合には、補間処理を行うことにより、対応することができる。
【0043】
具体的には、特徴点の検索を、動画の先頭に位置する静止画から動画の最後に位置する静止画まで順に行うと共に、動画の最後に位置する静止画から動画の先頭に位置する静止画まで逆順にも行う。すなわち、先頭に位置する静止画において、第一の特徴点を検索すると、先頭に位置する静止画と時系列的に後に隣り合う静止画において、第二の特徴点を検索する。さらに、最後に位置する静止画において、第一の特徴点を検索すると、最後に位置する静止画と時系列的に前に隣り合う静止画において、第二の特徴点を検索する。
【0044】
そして、特徴点の差を算出して、算出した差の平均値が、順にΔPt1、ΔPt2と求まり、逆順にΔPt5、ΔPt4と求まり、ΔPt3については特徴点が検索できず平均値を算出できなかった場合、ΔPt3の前後の平均値、すなわち、ΔPt2、ΔPt4に基づいて、ΔPt3を算出する。すなわち、ΔPt2とΔPt4の平均をΔPt3と算出する。このようにして、補間処理を行うことにより、軌跡を作成してもよい。なお、この場合、最後に位置する静止画における第一の特徴点の検索は、最後に位置する静止画において、先頭に位置する静止画と同じ箇所をユーザから指定されることにより、行ってもよい。
【0045】
また、上記の実施の形態においては、特徴点の検索の際に、いずれの静止画像においても特徴点の検索ができた場合について説明したが、例えば、特徴点P1に対応する特徴点P1´と、特徴点P2に対応する特徴点P2´とを検索でき、特徴点P3に対応する特徴点P3´においては検索できなかった場合、特徴点P3は破棄し、特徴点P1、P2、P1´、P2´のみに基づいて、平均値を算出してもよい。
【0046】
また、軌跡を作成する際に、平均値に対して、移動平均フィルタ等のローパスフィルタ処理を行ってもよい。こうすることにより、作成する軌跡を滑らかにすることができる。
【0047】
また、上記の実施の形態においては、特徴点の差の平均値に基づいて、軌跡を作成する例について説明したが、これに限ることなく、特徴点の平均値に基づいて、軌跡を作成してもよい。すなわち、複数の第一の特徴点を検索し、その平均値を求める。また、複数の第二の特徴点を検索し、その平均値を求める。そして、求めた平均値を順に接続して、軌跡を作成してもよい。
【0048】
また、上記の実施の形態においては、軌跡20と静止画とを重ね合わせて表示する例について説明したが、これに限ることなく、軌跡20と動画とを重ね合わせて表示してもよい。こうすることにより、ユーザにとって、動画の動作の解析結果がわかりやすくなる。ここで、操作部13は、表示手段として作動する。
【0049】
また、例えば、予めモデルとなるゴルフのスイングの動画を準備しておくことにより、モデルの動画の軌跡と、自身の動画の軌跡とを並べて表示してもよい。こうすることにより、モデルのフォームと自身のフォームとを容易に比較することができ、ユーザにとってより良いフォームへと改善しやすくなる。なお、この場合、人物の大きさが異なる場合には、双方の大きさを揃えるように、画像の拡大縮小等を行ってもよい。また、スイングに要する時間が異なる場合には、長い方の動画を間引きして双方の時間の長さを揃えてもよい。
【0050】
また、上記の実施の形態においては、S13において、ユーザからP0の1点を指定される例について説明したが、これに限ることなく、2点以上指定された場合でも同様に、指定点の各々において、S14からの処理を行い、各々の軌跡を作成することができる。
【0051】
また、上記の実施の形態においては、S13において、ユーザからP0を指定されて、指定点であるP0を中心とし、予め定められた所定の半径rの範囲内において、特徴点の検索を行い、指定点P0とは異なるP1、P2、P3の特徴点が検索される例について説明したが、これに限ることなく、指定点P0を特徴点として検索されてもよい。
【0052】
また、上記の実施の形態においては、第二の静止画は、第一の静止画と時系列的に隣り合う静止画である例について説明したが、これに限ることなく、第一の静止画と異なる静止画であればよい。
【0053】
また、上記の実施の形態においては、第一の特徴点として、P1、P2、P3の3つを検索する例について説明したが、これに限ることなく、いくつでもよい。
【0054】
また、上記の実施の形態においては、操作部13は、タッチパネル式である例について説明したが、これに限ることなく、例えば、操作部13は、表示画面と、マウスとを備える構成とし、ユーザによってマウスを操作されることにより、解析対象箇所を指定されてもよい。
【0055】
また、上記の実施の形態においては、特徴量として、SIFT特徴量を用いる例について説明したが、これに限ることなく、や、HOG(Histogram of Oriented Gradients)特徴量や、Harris特徴量等の他の特徴量を用いてもよい。
【0056】
次に、図1および図13〜図21を参照して、この発明の他の実施形態に係る動作解析装置30について説明する。なお、上記実施形態と同様の構成要素については同じ符号を付し、詳しい説明を省略する。また、以下の説明においては、前述した実施形態と同様に、本発明をゴルフスイングの動作解析に適用した場合について説明する。
【0057】
動作解析装置30は、図1に示す実施形態と同様に、動作解析装置30全体を制御するCPU等の制御部11と、画像等を記憶する記憶部12と、タッチパネル式であってユーザからの操作を受け付けると共に記憶部12に記憶した画像等を表示する操作部13と、外部機器との接続インターフェースとなるI/F部14とを備える。
【0058】
ここで、この実施形態に係る動作解析装置30においては、記憶部12に、動作解析の観測対象に対応する画像が、複数記憶されている。具体的には、記憶部12に、アドレスの姿勢をとるゴルフプレーヤーの画像を、幅広い年齢、身長、体型、および性別等に亘ってランダムに多数記憶する。これらの画像は、観測対象の初期形態を推定するためのレファレンス画像として利用される。なお、この処理に関しては、後に詳述する。
【0059】
次に、この実施形態に係る動作解析装置30の制御部11が行う動作解析フローについて説明する。まず、動作解析装置30は、I/F部14を介して、予め撮影されたゴルフスイングの動画の入力を受け付ける(S21)。上記したように、動画データは、時系列的に連続する複数の静止画の集合体として構成されている。動作解析装置30は、時系列の先頭に位置する図14に示す静止画31を、操作部13に表示する(S22)。
【0060】
次いで、動作解析装置30は、静止画31をスキャンし、所定のサイズを有する領域を解析の対象領域32として順に画定する(S23)。なお、図14においては、観測対象となるプレーヤー33が、対象領域32内に適切なサイズで含まれている場合を示している。しかしながら、実際の解析フローとしては、静止画31を全体に亘ってスキャンし、対象領域32の位置と大きさを変化させつつ、次々と候補となる対象領域を画定していく。そして、後述する処理において、それぞれの対象領域毎にプレーヤー33が含まれているか否かが判定される。
【0061】
以下、理解の容易の観点から、図14に示すように、S23により画定された対象領域32内に、観測対象となるプレーヤー33が適切なサイズにて含まれていた場合について説明する。
【0062】
プレーヤー33を含む対象領域32が画定された後、その後の解析処理をより迅速且つ容易に進行可能とするために、対象領域32の大きさを所定の画像サイズとなるように調整する(S24)。具体的には、対象領域32の画像サイズを、例えば64×128ドットに拡大/縮小する。その結果、図14に示す対象領域32が、図15に示すような所定の画像サイズを有する対象領域32Aとして切り出されることとなる。同様に、対象領域32に含まれていたプレーヤー33も、それに対応して拡大/縮小され、プレーヤー33Aとなる。
【0063】
次いで、対象領域32の画像データにおける輝度勾配に基づいて、プレーヤー33Aの輪郭34を検出する(S25)。なお、輪郭を検出する手法としては、例えば上記したSIFT特徴量やHOG特徴量のような輝度勾配に基づく特徴量を適用してもよいし、Harris特徴量等のような輝度勾配以外のパラメータに基づく特徴量を適用してもよい。これらの手法を用いることにより、図16に示すように、プレーヤー33Aに対応する輪郭34を効果的に抽出することができる。なお、図16においては、理解の容易の観点から、プレーヤー33Aの実際の輪郭33Bと、HOG特徴量に基づいて抽出された輪郭34とを併記しているが、実際の処理においては、HOG特徴量に基づく輪郭34を検出すればよい。
【0064】
このように、S23〜S25のステップを経ることによって、図14に示す静止画31から、図16に示す観測対象の輪郭34を抽出することができる。すなわち、本発明においては、S23〜S25のステップを実行する制御部11が、観測対象となるプレーヤー33を静止画31中において認識するための人物認識手段(図13中のA)として機能する。
【0065】
次いで、動作解析装置30は、人物認識手段(A)によって検出されたプレーヤー33Aの輪郭34と、記憶部12に記憶されたレファレンス画像とを比較し、輪郭34と近似するレファレンス画像を選択する(S26)。この動作について、以下に具体的に説明する。
【0066】
この実施形態においては、上記したように、記憶部12が、アドレスの姿勢をとるゴルフプレーヤーの画像データを、幅広い年齢、身長、体型、および性別等に亘って、ランダムに多数記憶している。図17に、比較対象となるレファレンス画像を例示する。このレファレンス画像においても、図15および図16に示す対象領域32Aと同じ画像サイズの対象領域32Aが画定されており、この対象領域32A内にレファレンスプレーヤー35が適切なサイズにて収容されるように記憶されている。すなわち、S26にて比較される観測対象プレーヤー33Aとレファレンスプレーヤー35とは、共通サイズの対象領域32A内において、人物の位置や大きさがほぼ共通となるように調整され、記憶される。この構成により、観測対象プレーヤー33Aと、レファレンスプレーヤー35との比較を、静止画31におけるプレーヤー33の位置や大きさ等によって影響を受けることなく、より高精度に実行することが可能となる。
【0067】
記憶部12においては、レファレンス画像は、図17に示すような静止画像の他に、上記HOG特徴量により導出される輪郭画像や、頭部、腕部、または脚部等といった身体の一部領域を画定した身体部位領域画像として記憶されていてもよい。図18(a)〜(c)に、図17に対応する各形式の画像データを例示する。図18(a)は、図17に対応する静止画であって、画像上において頭部、腕部、および脚部に対応する第一身体部位領域36が画定されている様子を表す図である。すなわち、第一頭部領域36a、第一腕部領域36b、および第一脚部領域36cが、それぞれ画像上に画定されている。図18(b)は、レファレンスプレーヤー35の輪郭55を示す図である。図18(c)は、図18(a)に示す第一身体部位領域36のみを抽出した様子を表す図である。
【0068】
この実施形態においては、人物認識手段(A)によって検出されたプレーヤー33Aの輪郭34と、図18(b)に示すレファレンスプレーヤー35の輪郭55とを比較することによって、記憶部12に記憶された多数のレファレンス画像から、観測対象に形態が近似するものを選択する。そして、選択されたレファレンス画像に対応する第一身体部位領域36を抽出し、観測対象の画像データに適用する。その結果を、図19に示す。
【0069】
図19に示すように、上記した方法により適用された第一身体部位領域36は、観測対象のプレーヤー33Aの身体の各部位とほぼ一致することとなる。これにより、プレーヤー33Aの頭部、腕部、および脚部等の配置、すなわち、アドレス状態におけるプレーヤー33Aの姿勢を、概略的に推定することができる。
【0070】
このように、本発明によれば、入力された静止画31のデータと、記憶部12に記憶されたレファレンス画像データとに基づいて、静止画31におけるプレーヤー33Aの初期形態(姿勢や体型等の要素を含む)を、概略的に推定することが可能となる。すなわち、S26を実行する制御部11は、プレーヤー33Aの初期形態を推定するための初期形態推定手段(B)として機能する。
【0071】
なお、S26を実行した結果、観測対象のプレーヤー33Aに近似するレファレンス画像が発見されなかった場合、動作解析装置30は、S23にて確定した対象領域32内に人物が適切に含まれなかったものと判断し、S23にリターンする。そして、対象領域32内に人物が適切に含まれている状態を検出するまでS23〜S26を繰り返し行う。
【0072】
S26の結果、図19に示すようにプレーヤー33Aの姿勢を推定することができた場合、次のステップとして、動作解析の対象となる解析対象箇所を、図19に示す画像データに基づいて指定する(S27)。ここで、本実施形態においては、解析対象箇所を、第一身体部位領域36によって決定する。その一例としては、図19に示す第一頭部領域36a、第一腕部領域36bの下端部、および/または、第一脚部領域36cの中央部等を、解析対象箇所として自動的に指定する。これは、プレーヤー33Aの頭部、グリップ(手首近辺)、および/または膝を、解析対象箇所として自動的に指定したことと同義である。なぜならば、上記したように、第一身体部位領域36は、観測対象のプレーヤー33Aの身体の各部位とほぼ一致するように画定されているからである。図19に、例として第一腕部領域36bの下端部、すなわちプレーヤー33Aのグリップ付近を解析対象箇所として指定した場合を示す(図19中の点39)。
【0073】
このように、本実施形態においては、上記S23〜S27を実行する制御部11が、解析対象箇所を指定するための解析対象箇所指定手段(C)として機能する。そして、この構成により、ユーザが動作解析を開始するに際して、動作解析装置30が観測対象となるプレーヤー33Aの初期形態を推定し、そのデータに基づいて解析の初期条件を自動的に決定することが可能となる。これにより、ユーザが解析対象箇所を指定する作業を省略することができるため、ユーザの利便性をさらに向上させることができる。
【0074】
S27によって解析対象箇所が指定された後、動作解析装置30は、指定された第一身体部位領域36内において第一の特徴点の検索を行う(S28)。ここでは、上記したSIFT特徴量やHOG特徴量等を用いて、第一身体部位領域36内において複数の第一の特徴点が検索される。
【0075】
次いで、動作解析装置30は、第一の特徴点を検索した図19の静止画より時系列的に後に隣り合う静止画、すなわち、図20に示す静止画において、第一の特徴点に対応する第二の特徴点の検索を行う(S29)。そして、検索された第二の特徴点に基づいて、第一身体部位領域36に対応する第二身体部位領域37を画定する(S30)。
【0076】
次いで、第一身体部位領域36と第二身体部位領域37の差に基づいて軌跡を作成する(S31)。具体的には、図20に示す第二腕部領域37bが新たに画定された後、第二腕部領域37bの下端部に相当する位置が、解析対象箇所として認識される(図20中の点40)。そして、点39と点40との差に基づいて、軌跡42が作成される。同様に、例えばS27にて第一頭部領域36aを解析対象箇所として指定した場合は、第一頭部領域36aと第二頭部領域37aとの差に基づいて、プレーヤー33Aの頭部の軌跡を作成することができる。また、第一脚部領域36cと第二脚部領域37cとの差に基づいて、プレーヤー33Aの膝の軌跡を作成することができる。
【0077】
続けて、図20に示す静止画と時系列的に後に隣り合う静止画、すなわち図21に示す静止画において、第二の特徴点に対応する第三の特徴点の検索を行い、検索された第三の特徴点に基づいて、第二身体部位領域37に対応する第三身体部位領域38を画定する。そして、第二身体部位領域37と第三身体部位領域38の差に基づいて、解析対象箇所を認識し(図21中の点41)、軌跡43を作成する。
【0078】
このように、連続する静止画毎に解析対象箇所の軌跡を順次作成することによって、一連のゴルフスイング動作において、プレーヤーの所定部位(例えば、頭部、腕部、および/または脚部)の運動を解析することが可能となる。
【0079】
なお、本実施形態においては、プレーヤー33Aの輪郭34を検出することによって人物認識を行う場合について述べたが、これに限らず、観測対象の形態を抽出可能であれば、他の如何なる手法を用いてもよい。
【0080】
また、本実施形態においては、プレーヤー33Aの輪郭34とレファレンスプレーヤー35の輪郭55とを比較することによって、観測対象に形態が近似するものを選択する場合について述べたが、これに限らず、例えば図18(a)に示す静止画データの比較によって選択する構成であってもよいし、図18(c)に示す身体部位領域36に係るデータとの比較によって選択してもよい。また、観測対象とレファレンスとの比較が可能であれば、図18に示す以外の如何なる形式のデータを比較に用いてもよい。
【0081】
また、本実施形態においては、身体部位領域36に基づいて動作解析の初期条件である解析対象箇所39を指定する場合について述べた。しかしながら、これに限らず、例えば図18(a)に示す静止画データや、図18(b)に示す輪郭55に係るデータに基づいて指定してもよいし、その他如何なるデータに基づいて解析対象箇所39を指定してもよい。
【0082】
なお、上記実施形態のように、本発明をゴルフスイングの動作解析に適用する場合においては、動作解析装置10、30は、スイングのテイクバックからダウンスイングへとスイングの方向が転換されたことを検出し、それをユーザに識別可能とする方向転換識別手段をさらに備えていてもよい。これについて、図22を参照して説明する。図22(a)〜(f)は、一連のゴルフスイングを記録した動画を示しており、この動画は、連続する計6フレームの静止画によって構成されている。
【0083】
図22(a)〜(f)に示すように、ゴルフスイングは、ゴルフクラブを上方へ振り上げるテイクバック(図22(a)〜(c))から、ゴルフクラブを下方へ振り下げるダウンスイング(図22(d)〜(f))へと移行する。すなわち、図22においては、図22(c)と図22(d)との間にスイングの方向転換が発生している。
【0084】
方向転換識別手段は、この方向転換点を検出し、方向転換前の軌跡と方向転換後の軌跡とをユーザに識別可能とさせるものである。これにより、動作の転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を行うことができる。具体的なアルゴリズムについて以下に説明する。
【0085】
前提として、図22(f)を現時点とする。方向転換識別手段は、まず、現時点から時系列的に5フレーム前の図22(a)におけるグリップの速度べクトルv1を計算する。このv1は、図22(a)と時系列的に前に隣り合うフレーム、すなわち、現時点から6フレーム前(図示せず)のグリップの位置と、5フレーム前のグリップの位置とから求めることができる。同様にして、現時点から4フレーム前の図22(b)におけるグリップの速度べクトルv2、3フレーム前の図22(c)におけるグリップの速度べクトルv3、現時点から2フレーム前の図22(d)におけるグリップの速度べクトルv4、現時点から1フレーム前の図22(e)におけるグリップの速度べクトルv5、現時点のフレームにおけるグリップの速度べクトルv6を、それぞれ計算する。
【0086】
ここで、現時点から5フレーム前〜3フレーム前の間におけるグリップの平均速度ベクトルf1は、以下のように表される。
【0087】
【数1】
【0088】
同様に、現時点から2フレーム前〜現時点のフレームの間におけるグリップの平均速度ベクトルf2は、以下のように表される。
【0089】
【数2】
【0090】
本実施形態に係る方向転換識別手段は、グリップの方向転換点を検出するために、f1とf2との内積=f1・f2を計算する。そうすると、5フレーム前〜3フレーム前におけるグリップの速度ベクトルと、2フレーム前〜現時点におけるグリップの速度ベクトルとは、その方向が反転していることから、内積は、負の値をとることとなる。換言すれば、内積が負となる時点を検出することができれば、スイングのテイクバックからダウンスイングへと方向が転換される方向転換点を検出することができる。
【0091】
このようにして方向転換点を検出した後、上記したS31において、方向転換点の前の軌跡線と異なる種類の軌跡線を形成することによって、ユーザは、テイクバックの軌跡と、ダウンスイングの軌跡とを明瞭に区別して認識することが可能となる。識別可能とする手段としては、例えば軌跡線の色の変更(黄色から赤色等)や、線種の変更(実線から点線等)、軌跡線を点滅表示する等が考えられる。
【0092】
なお、この実施形態においては、理解の容易の観点から、平均速度ベクトルf1,f2を、連続する3フレームの速度ベクトルの平均をとることによって算出したが、これに限らず、任意の数のフレームの速度ベクトルの平均に基づいて、平均速度ベクトルf1,f2を算出してもよい。
【0093】
図23に、方向転換識別手段によってテイクバックとダウンスイングとを識別可能としたゴルフスイングの軌跡の一例を示す。このように、本発明に係る方向転換識別手段によれば、ユーザは、スイングの転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を行うことが可能となる。
【0094】
なお、上記した各実施形態においては、1つのパターンのゴルフスイングを表示手段(操作部13)に表示し、その動作解析を行った場合について述べた。しかしながら、これに限らず、動作解析装置10,30は、二以上の異なる動作を並べて表示し、これらの異なる動作を比較可能とするための動作比較手段をさらに備えていてもよい。以下、上記実施形態と同様に、ゴルフスイングの動作比較を実行可能な動作比較手段について、図24〜図26を参照して説明する。
【0095】
本実施形態に係る動作比較手段は、まず、二つのゴルフスイングを記憶した動画を並列表示し(S41)、前述した実施形態のいずれかの方法を用いて、それぞれのゴルフスイングの軌跡を形成する。図24に、二つのゴルフスイングの軌跡を形成し、それらを並列表示した図を示す。具体的には、第一の表示領域44に、第一の軌跡45が表示され、第二の表示領域46に第二の軌跡47が表示されている。
【0096】
次いで、二つの動画の時間軸を圧縮/伸張して調整し、二つの動画の時間軸を揃える(S42)。ここで、ゴルフスイングは、上記したように、アドレスの姿勢から、テイクバック、ダウンスイング、フィニッシュという一連の動作によって構成される。そして、これら各動作に要する時間は、人によって異なり、且つ、同じ人がスイングした場合であっても、スイング毎に異なるものである。したがって、二つのスイングを並列表示して比較する場合、各動作の始めの時点と終わりの時点とを揃えることによって、各スイングの軌道をより視覚的に比較検証し易くすることができる。
【0097】
その方法としては、二つの動画において、アドレス状態からテイクバックの終わりの時点までの時間と、ダウンスイングの始めの時点とフィニッシュまでの時間をそれぞれ計算し、一方の動画のフレームを間引く、またはフレーム間の時間を伸長させることによって、二つの動画間において各動作に要する時間を揃える処理を行うことが考えられる。なお、テイクバックの終わりからダウンスイングの始めへの転換点は、前述した実施形態に係る方法によって検出可能である。
【0098】
より具体的に説明すると、例えば第一の表示領域44に表示したゴルフスイングにおいては、アドレスからテイクバックの終わりまで1.4秒、ダウンスイングの始めからフィニッシュまで1.1秒を要したとする。また、第二の表示領域46に表示したゴルフスイングにおいては、アドレスからテイクバックの終わりまで1.8秒、ダウンスイングの始めからフィニッシュまで1.5秒を要したとする。この場合、第二の表示領域46に表示する動画において、アドレスからテイクバックの終わりまでの間の静止画フレームを、1.4/1.8の割合で間引きし、且つ、ダウンスイングの始めからフィニッシュまでの間の静止画フレームを、1.1/1.5の割合で間引きをする。この処理によって、二つのゴルフスイングのアドレスからフィニッシュまでの時間軸を揃えることができる。この処理により、二つのスイングを並列して動画再生した場合等において、二つのスイングの軌道をより視覚的に比較検証し易くすることができる。
【0099】
次いで、二つの動画の画像サイズを拡大/縮小し、各表示領域44,46におけるプレーヤーの位置や大きさを揃える処理を行う(S43)。これにより、ユーザは、二つのスイングをより比較検証し易くなる。
【0100】
次いで、第一の軌跡45の重心点48と、第二の軌跡47の重心点49とをそれぞれ計算する(S44)。各軌跡の重心点48,49は、軌跡を構成する各ポイントの平均値を求めることによって計算することができる。なお、重心点48,49を計算した後、その座標を図24に示すように表示してもよいし、表示をせずに記憶するのみであってもよい。
【0101】
次いで、各フレームにおける第一の軌跡45および第二の軌跡47のポイントと、それぞれの軌跡の重心点48,49との間の差分値を計算し、フレーム番号と当該差分値とを記録する(S45)。ここで参考データとして、図26にフレーム番号Nと差分値xに係るグラフを示す。なお、図26においては、第一の軌跡45と重心点48との差分値グラフを線50に、第二の軌跡47と重心点49との差分値グラフを線51にそれぞれ示す。
【0102】
次いで、S45によって得られたデータに基づいて、第一の軌跡45と第二の軌跡47との間の差を計算し、その差が大きくなっている軌跡部分を識別可能に表示する(S46)。具体的には、それぞれのフレーム番号Nにおいて線50と線51との差を計算すると、図26に示すように、その差が比較的に大きくなる軌跡部分52,53,54が検出される。換言すれば、第一の軌跡45と第二の軌跡47とは、軌跡部分52,53,54において、スイングの軌道が相対的に大きく異なっていることを意味している。そこで、第一の軌跡45または第二の軌跡47のうち、この軌跡部分52,53,54に相当する軌跡線に対して、例えば線色の変更や線種の変更、または点滅表示等をすることによって、ユーザがその部分を識別可能とすることができる。この構成によれば、例えばユーザがゴルフスイングを日々記録した場合に、そのスイングの軌道が変化した部分を詳細に把握・検証することが可能となる。これにより、さらに付加価値の高い動作解析装置を提供することができる。
【0103】
なお、本実施形態においては、二つのゴルフスイングを比較した場合について述べたが、これに限らず、三以上の動作を比較する構成であってもよい。
【0104】
また、本発明に係る動作解析装置の動作アルゴリズムが、ソフトウェアまたはハードウェアのいずれによっても実現可能であることは、当業者であれば容易に理解されるであろう。
【0105】
また、上記した各実施形態においては、ゴルフスイングを動作解析の対象とした場合について説明した。しかしながら本発明は、これに限定されるものではない。すなわち、本発明の概念は、動作解析の開始点における画像データと、予め記憶したレファレンスデータとを比較し、開始点における観測対象の形態を推定することによって、解析対象箇所の初期条件(サイズ、座標等)を決定し、以て動作解析を容易且つ迅速に実行可能とすることにある。したがって、ゴルフスイングに限らず、例えば野球のスイングや、舞踊、演技、武道等、プレーヤーの体の動きを把握・検証することに対してニーズのある、あらゆる分野のスポーツ・演技に適用可能であることは、当業者であれば容易に理解されるであろう。
【0106】
以上、図面を参照してこの発明の実施形態を説明したが、この発明は、図示した実施形態のものに限定されない。図示された実施形態に対して、この発明と同一の範囲内において、あるいは均等の範囲内において、種々の修正や変形を加えることが可能である。
【産業上の利用可能性】
【0107】
この発明は、スポーツにおいて、フォームのチェックが必要となる場合に、有効に利用される。
【符号の説明】
【0108】
10,30 動作解析装置、11 制御部、12 記憶部、13 操作部、14 I/F部、20,42,43,45,47 軌跡、31 静止画、32,32A,36,36a,36b,36c,37,37a,37b,37c,38,38a,38b,38c 領域、33,33A,35 プレーヤー、34,55 輪郭、39,40,41,48,49 点、44,46 表示領域、50,51 線、52,53,54 軌跡部分。
【技術分野】
【0001】
この発明は、動作解析装置に関し、特に、特定箇所の動作を解析可能な動作解析装置に関するものである。
【背景技術】
【0002】
ゴルフのスイング運動の動作解析に関する技術が、例えば、特開2009−20897号公報(特許文献1)に開示されている。特許文献1によると、時系列の物体画像データのそれぞれについて、特定領域の位置を検出し、検出した特定領域の位置の変化を追跡することにより、特定領域の軌跡を線と点で表示することとしている。
【0003】
具体的には、予め特定領域の色を記憶しておくことにより、記憶された色と同じ色の領域を時系列の物体画像データからそれぞれ検出し、特定領域の位置の変化を追跡する。また、ユーザによるマニュアル操作により、特定領域の位置を指定させ、この指定された領域の色に基づいて、特定領域の位置の変化を追跡する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−20897号公報(段落番号0071〜0075等)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1に開示の技術では、特定領域の位置の検出のために、特定領域の色を予め記憶させる必要がある。そうすると、例えば、予め記憶させた色と異なる色を急遽使用しなければならなくなった場合に、色の登録を改めて行う必要があり、ユーザにとってこのような作業は煩雑である。
【0006】
また、ユーザによるマニュアル操作により、特定領域の位置を指定された場合であっても、指定された領域の色に基づいて、特定領域の位置の変化を追跡するため、例えば、ユーザにとって、複数の特定領域の位置を指定したい場合には、特定領域のそれぞれにおいて、異なる色を用いる必要がある。
【0007】
この発明の目的は、ユーザにとって、簡易に使用可能な動作解析装置を提供することである。
【課題を解決するための手段】
【0008】
この発明に係る動作解析装置は、連続する複数の静止画から構成される動画の動作を解析する。動作解析装置は、動画の入力を受け付ける動画受付手段と、動画受付手段により受け付けた動画のうち、動画を構成する第一の静止画において、第一の静止画像上の解析対象箇所を指定する解析箇所指定手段と、解析対象箇所から一定範囲内において、第一の特徴点を検索する第一の検索手段と、動画を構成し、第一の静止画と異なる静止画である第二の静止画において、第一の特徴点に対応する第二の特徴点を検索する第二の検索手段と、第一および第二の特徴点に基づいて、軌跡を作成する軌跡作成手段とを備える。
【0009】
こうすることにより、動作解析装置は、第一の静止画像上の解析対象箇所の指定を行い、第一の静止画における第一の特徴点および第二の静止画における第二の特徴点を検索する。そして、第一および第二の特徴点に基づいて、軌跡を作成する。したがって、ユーザにとって、色を考慮する必要なく、解析対象箇所の指定および軌跡の作成を行い、動画の動作を解析することができる。その結果、ユーザにとって、簡易に使用可能となる。
【0010】
好ましくは、解析箇所指定手段は、ユーザが解析対象箇所を任意に指定可能とするために、ユーザからの指定を受け付ける指定受付手段を有する。こうすることにより、ユーザは、動作の解析を行う箇所を任意に指定することが可能となる。これにより、ユーザの利便性をさらに向上させることができる。
【0011】
好ましくは、解析箇所指定手段は、第一の静止画から観測対象を認識する認識手段と、認識手段によって認識された観測対象の画像データに基づいて、観測対象の形態を推定する形態推定手段とを有する。ここで、上記解析対象箇所は、形態推定手段によって推定された画像データに基づいて指定される。こうすることにより、動作解析を開始するに際して、動作解析装置が観測対象の初期形態を推定し、そのデータに基づいて解析の初期条件を自動的に決定することが可能となる。これにより、ユーザが解析対象箇所を指定する作業を省略することができるため、ユーザの利便性をさらに向上させた動作解析装置を提供することができる。
【0012】
好ましくは、認識手段は、観測対象を含む一定の領域を対象領域として画定する対象領域画定手段と、対象領域の大きさを所定の画像サイズとなるように調整する対象領域正規化手段とを含む。こうすることにより、第一の静止画像における観測対象の位置や大きさ等による影響を受けることなく、観測対象の形態推定および動作解析を、より高精度に一律に行うことが可能となる。
【0013】
好ましくは、認識手段は、第一の静止画に形成された輝度勾配に基づいて、観測対象の輪郭を検出する。こうすることにより、観測対象の輪郭を高精度に行うことができるため、観測対象の形態推定および動作解析を、より高精度に行うことができる。
【0014】
好ましくは、観測対象に対応する比較対象の画像データを、予め複数記憶するレファレンス画像記憶手段をさらに備え、形態推定手段は、認識手段によって認識された観測対象の画像データと、レファレンス画像記憶手段によって記憶された比較対象の画像データとを比較し、観測対象の画像データに形態が近似する比較対象の画像データを選択するレファレンス画像選択手段を含む。ここで、上記解析対象箇所は、レファレンス画像選択手段によって選択された比較対象の画像データに基づいて指定される。こうすることにより、観測対象の形態を自動的に推定し、且つ、推定された画像データ上において上記解析対象箇所を設定することができる。すなわち、動作解析の開始点における解析箇所の初期条件を、ユーザによる指定を要することなく、より確実且つ高精度に設定することができる。これにより、ユーザに対する利便性を向上させるとともに、動作解析の精度を向上させることができる。
【0015】
好ましくは、第一の検索手段は、一定範囲内において、複数の第一の特徴点を検索し、第二の検索手段は、複数の第一の特徴点に対応する複数の第二の特徴点を検索し、軌跡作成手段は、複数の第一の特徴点と複数の第二の特徴点との差をそれぞれ算出し、この算出した差の平均値を求めることにより、求めた平均値に基づいて、軌跡を作成する。こうすることにより、複数の特徴点の差の平均値に基づいて、軌跡を作成することができる。したがって、例えば、動作解析装置の認識した解析対象箇所が、ユーザの意図する箇所と多少ずれていた場合であっても、そのずれ具合を抑えることができる。その結果、作成する軌跡の精度を向上させることができる。
【0016】
さらに好ましくは、平均値は、第一および第二の特徴点に基づく点であって、動画を構成する静止画像上の所定の点における変化を示すものであり、軌跡作成手段は、平均値を、連続する複数の静止画の隣り合う静止画像間においてそれぞれ算出し、この算出した平均値が示す所定の点を順に接続することにより、軌跡を作成する。
【0017】
さらに好ましくは、第一の静止画は、動画の先頭に位置する静止画と、動画の最後に位置する静止画とを含み、第二の静止画は、第一の静止画と時系列的に後に隣り合う静止画と、第一の静止画より時系列的に前に隣り合う静止画とを含み、第二の検索手段は、時系列的に後に隣り合う静止画において、第一の特徴点に対応する第二の特徴点を検索すると共に、時系列的に前に隣り合う静止画において、第一の特徴点に対応する第二の特徴点を検索する。こうすることにより、例えば、連続する複数の静止画において、時系列的に前から後ろへ向かって、順に特徴点の検索を行った場合に、途中で特徴点の検索を行うことが出来なくなった場合であっても、時系列的に後ろから前へ向かって、逆順に特徴点の検索を行うことができる。その結果、確実に特徴点の検索を行うことができる。
【0018】
さらに好ましくは、第二の検索手段は、動画の動作の速さを取得する取得手段を含み、取得手段により取得した速さに基づいて、第二の特徴点を検索する。こうすることにより、第二の特徴点の検索を動画の動作の速さに応じて変化させることができる。その結果、容易に第二の特徴点を検索することができる。
【0019】
一実施形態として、連続する複数の静止画は、一定間隔で構成されており、取得手段は、隣り合う静止画像間において、静止画像の差の大小を取得することにより、動画の動作の速さを取得する。
【0020】
好ましくは、軌跡作成手段は、軌跡の方向が転換された場合に、方向転換前の軌跡と方向転換後の軌跡とを識別可能とする方向転換識別手段を有する。こうすることにより、動作の転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を容易に行うことができる。
【0021】
好ましくは、方向転換識別手段は、時系列的に連続する静止画間における軌跡の速度ベクトルを計算し、特定の静止画における速度ベクトルと、当該特定の静止画と時系列的に後に隣り合う静止画における速度ベクトルとの内積が負となった場合に、軌跡の方向転換を検出する。こうすることにより、動作の転換点となるポイントを、より高精度に検出することが可能となる。
【0022】
さらに好ましくは、軌跡作成手段により作成された軌跡と、動画受付手段により受け付けた動画とを重ねて表示する表示手段を含む。こうすることにより、軌跡と動画とを重ねて表示することができ、ユーザにとって、動画の動作の解析結果がわかりやすくなる。
【発明の効果】
【0023】
このような動作解析装置は、第一の静止画像上の解析対象箇所の指定を行い、第一の静止画における第一の特徴点および第二の静止画における第二の特徴点を検索する。そして、第一および第二の特徴点に基づいて、軌跡を作成する。したがって、ユーザにとって、色を考慮する必要なく、解析対象箇所の指定および軌跡の作成を行い、動画の動作を解析することができる。その結果、ユーザにとって、簡易に使用可能となる。
【図面の簡単な説明】
【0024】
【図1】この発明の一実施形態に係る動作解析装置の構成を示すブロック図である。
【図2】ゴルフのスイングのフォームを解析する場合の動作解析装置の動作を示すフローチャートである。
【図3】連続する複数の静止画の一部を示す図である。
【図4】連続する複数の静止画の一部を示す図であって、図3の次の状態を示す静止画である。
【図5】連続する複数の静止画の一部を示す図であって、図4の次の状態を示す静止画である。
【図6】図3の静止画において、指定されたP0の位置を示す図である。
【図7】図3の静止画において、検索された特徴点P1、P2、P3の位置を示す図である。
【図8】図4の静止画において、検索された特徴点P1´、P2´、P3´の位置を示す図である。
【図9】図3の静止画に軌跡を重ねて表示した状態を示す図である。
【図10】連続する複数の静止画の他の例を示す図である。
【図11】連続する複数の静止画の他の例を示す図であって、図10の次の状態を示す静止画である。
【図12】連続する複数の静止画の他の例を示す図であって、図11の次の状態を示す静止画である。
【図13】本発明の他の実施形態に係る動作解析装置の動作を示すフローチャートである。
【図14】連続する複数の静止画のうち、時系列的に最初の静止画を示す図である。
【図15】図14に示す対象領域を拡大した示す図である。
【図16】図15に示すプレーヤーの輪郭を抽出した図を示す。
【図17】比較対象となるレファレンス画像の一例を示す図である。
【図18】図17に示すレファレンス画像であって、(a)は画像上に頭部、腕部、および脚部に対応する第一身体部位領域が画定されている様子を表す図であり、(b)はレファレンスプレーヤーの輪郭を抽出した図であり、(c)は(a)に示す第一身体部位領域のみを抽出した様子を表す図である。
【図19】観測対象の画像データに、選択されたレファレンス画像に対応する第一身体部位領域を適用した様子を表す図である。
【図20】図19に示す画像から時系列的に後に隣接する画像を示す図であって、図19に対応する図である。
【図21】図20に示す画像から時系列的に後に隣接する画像を示す図であって、図20に対応する図である。
【図22】一連のゴルフスイングを記録した動画を、計6フレームの静止画によって表した図である。
【図23】方向転換識別手段によってテイクバックとダウンスイングとが識別可能となったゴルフスイングの軌跡を表す図である。
【図24】二つのゴルフスイングの軌跡を形成し、それらを並列表示した図を示す。
【図25】本発明に係る動作比較手段の動作を示すフローチャートである。
【図26】第一および第二の軌跡のフレーム番号Nと差分値xに係るグラフを示す。
【発明を実施するための形態】
【0025】
以下、図面を参照して、この発明の一実施形態に係る動作解析装置について説明する。図1は、この発明の一実施形態に係る動作解析装置10の構成を示すブロック図である。図1を参照して、動作解析装置10は、動画の動作を解析可能であって、動作解析装置10全体を制御するCPU等の制御部11と、画像等を記憶する記憶部12と、タッチパネル式であってユーザからの操作を受け付けると共に記憶部12に記憶した画像等を表示する操作部13と、外部機器との接続インターフェースとなるI/F部14とを備える。なお、本実施形態中において、画像とは、動画および静止画を含むものとする。
【0026】
ここで、動作解析装置10が、ゴルフのスイングのフォームを解析する場合について説明する。図2は、ゴルフのスイングのフォームを解析する場合の動作解析装置10の動きを示すフローチャートである。図1〜図2を参照して説明する。
【0027】
まず、ユーザは、アドレスからフィニッシュまでのゴルフのスイングのフォームをビデオカメラ等で予め撮影しており、動作解析装置10は、I/F部14を介して、撮影した動画の入力を受け付ける(図2において、ステップS11、以下ステップを省略する)。動画は、連続する複数の静止画から構成されており、この複数の静止画は、一定間隔である。図3〜図5は、連続する複数の静止画の一部を示す図である。図3〜図5は、アドレスからフィニッシュまでのゴルフのスイングのうち、スイングの開始直後であるアドレスからテイクバックまでの状態を順に示している。ここで、I/F部14は、動画受付手段として作動する。動作解析装置10は、連続する静止画の先頭に位置する図3の静止画を操作部13に表示する(S12)。ここで、図3の静止画は、第一の静止画である。
【0028】
そうすると、動作解析装置10は、動作解析の対象となる解析対象箇所として、ユーザから静止画像上の任意の箇所を指定される(S13)。操作部13は、タッチパネル式であり、画面を指等でタッチされることによって、任意の箇所を指定される。ここでは、任意の箇所として、P0を指定される。なお、図6は、図3の静止画において、指定されたP0の位置を示す図である。ここで、操作部13は、指定受付手段として作動する。
【0029】
そうすると、動作解析装置10は、指定点であるP0を中心とし、予め定められた半径r範囲内において、第一の特徴点の検索を行う(S14)。特徴点とは、静止画像中の輝度の変化の大きい箇所や、物体のエッジ等を示す点であって、静止画において何らかの変化を有する点である。ここでは、図3の静止画において、P1、P2、P3の複数の第一の特徴点が検索される。
【0030】
なお、特徴点の検索は、SIFT(Scale Invariant Feature Transform)特徴量を用いることができる。SIFT特徴量の計算は、指定点P0を中心とした半径r範囲内の部分静止画を平滑化し、平滑化画像からDoG(Difference of Gaussian)画像を生成する。そして、DoG画像において極値を探索する。そして、当該極値の周囲の画素の輝度勾配および角度に基づき特徴量を計算する。SIFT特徴量は、物体の回転や、物体の拡大および縮小等に影響を受けることがない。したがって、この実施形態のような回転する動作であるゴルフのスイングにおいて、誤差等がなく適切に用いることができる。図7は、図3の静止画において、検索された第一の特徴点P1、P2、P3の位置を示す図である。ここで、制御部11は、第一の検索手段として作動する。
【0031】
そして、動作解析装置10は、第一の特徴点P1、P2、P3を検索した図3の静止画より時系列的に後に隣り合う静止画、すなわち、図4の静止画において、第一の特徴点P1、P2、P3に対応する第二の特徴点の検索を行う(S15)。ここで、対応するとは、第一の特徴点P1、P2、P3に類似する値を有することを意味する。検索においては、例えば、図3の静止画における第一の特徴点P1、P2、P3の座標を図4の静止画にあてはめて、当該座標の位置を中心とした所定の範囲内において、第一の特徴点P1、P2、P3に対応する第二の特徴点の検索を行う。図8は、図4の静止画において、検索された第二の特徴点P1´、P2´、P3´の位置を示す図である。P1´がP1に対応し、P2´がP2に対応し、P3´がP3に対応している。ここで、図4の静止画は、第二の静止画であり、制御部11は、第二の検索手段として作動する。
【0032】
そして、図7に示す特徴点P1、P2、P3と、図8に示す特徴点P1´、P2´、P3´との差を算出する(S16)。P1´−P1=ΔP1よりΔP1を算出する。すなわち、隣り合う静止画像間における特徴点の変化量を算出する。P2´、P3´においても同様に計算して、P2´−P2=ΔP2よりΔP2を算出し、P3´−P3=ΔP3よりΔP3を算出する。そして、算出した差ΔP1、ΔP2、ΔP3の3つの平均値ΔPt1を求める(S17)。この平均値ΔPt1は、第一および第二の特徴点に基づく点である静止画像上の所定の点における変化を示すものとなる。
【0033】
そして、第二の特徴点P1´、P2´、P3´を検索した図4の静止画より時系列的に後に隣り合う静止画、すなわち、図5の静止画においても同様に、特徴点P1´、P2´、P3´に対応する特徴点P1´´、P2´´、P3´´(図示せず)の検索を行い、特徴点P1´、P2´、P3´と特徴点P1´´、P2´´、P3´´の差を算出し、算出した差の平均値ΔPt2を求める。このとき、特徴点P1´、P2´、P3´は第一の特徴点となり、特徴点P1´´、P2´´、P3´´は第二の特徴点となる。
【0034】
このように、S11にて受け付けた動画を構成する連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値ΔPtn(n=1,2・・・)を順に求めていく(S18において、NO)。
【0035】
そして、連続する複数の静止画の隣り合う静止画像間の全てにおいて、特徴点の差をそれぞれ算出し、算出した差の平均値ΔPtn(n=1,2・・・)を求めると(S18において、YES)、求めた平均値ΔPtnを順に接続する。すなわち、所定の点を順に接続する。このようにして、平均値ΔPtnに基づき、軌跡を作成する(S19)。平均値ΔPtnは、軌跡の一部であり、接続することにより軌跡全体となる。図9は、図3の静止画に軌跡20を重ねて表示した状態を示す図である。なお、図9においては、軌跡20の一部を示している。ここで、制御部11は、軌跡作成手段として作動する。このようにして、動作解析装置10は、軌跡20を作成することにより、動作の解析を行う。
【0036】
このように、動作解析装置10は、解析対象箇所として第一の静止画像上の任意の箇所の指定を受け付けると、第一の静止画における第一の特徴点および第二の静止画における第二の特徴点を検索する。そして、第一および第二の特徴点に基づいて、軌跡を作成する。したがって、ユーザにとって、色を考慮する必要なく、任意の箇所を指定するのみで、軌跡を作成して、動画の動作を解析することができる。その結果、ユーザにとって、簡易に使用可能となる。
【0037】
また、S13において、例えば画面が小さい場合には、ユーザとっては図3のグリップを指定したにもかかわらず、グリップとは異なるシャフト等を指定されたと操作部13が受け付けてしまう場合がある。すなわち、操作部13が受け付けた指定点P0とユーザの意図した解析対象箇所とが異なる場合がある。しかしながら、S14において、指定点P0を中心としてP0の周囲の複数の特徴点を検索するため、この検索した複数の特徴点に基づいて軌跡の作成を行うことができる。したがって、指定点P0とユーザの意図した解析対象箇所とが異なる場合であっても、作成する軌跡の精度を向上させることができる。
【0038】
なお、S15における第二の特徴点の検索の際に、例えば動画の動作が激しい場合には、第二の特徴点の検索が困難となる場合がある。例えば、図3〜図5に示す静止画像は、スイングの開始直後を示すものであるため、動作が遅く、静止画像間の変化が小さい。しかしながら、図10〜図12に示す静止画像は、ダウンスイングからインパクト直前を順に示すものであるため、動作が速く、静止画像間の変化が大きい。このように動画の動作が速く、特徴点の検索が困難な場合には、動画の動作の速さを予め取得しておくことにより、対応することができる。
【0039】
具体的には、静止画像を所定の大きさの領域に分割し、隣り合う静止画像間で、対応する領域毎に差分を抽出する。そして、その差分の大小を取得して、差分が大きければ動作が速いと判断し、差分が小さければ動作が遅いと判断する。このようにして、動画の動作の速さを取得する。そして、S15における第二の特徴点の検索の際に、動作の速さを取得して、動作が速い場合には、検索する範囲を大きくする。ここで、制御部11は、取得手段として作動する。
【0040】
また、例えば、静止画像を所定の大きさの小領域に分割し、小領域毎に、横軸が輝度勾配、縦軸が出現頻度を示す輝度勾配のヒストグラムを計算する。なお、この輝度勾配は、上記したS14におけるSIFT特徴量計算時のものと同じである。そして、隣り合う静止画像間で、計算したヒストグラムを対応する領域毎に比較することにより、ヒストグラムの差の大小を取得して、差が大きければ動作が速いと判断し、差が小さければ動作が遅いと判断してもよい。
【0041】
また、例えば、静止画像全体に2次元DCT(Discrete Cosine Transform:離散コサイン変換)処理を行うことにより、静止画像全体を周波数領域に変換する。そして、変換した周波数領域のうち、高周波領域の情報を除き、低周波領域のヒストグラムを計算する。そして、隣り合う静止画像間で、計算したヒストグラムを比較することにより、ヒストグラムの差の大小を取得して、差が大きければ動作が速いと判断し、差が小さければ動作が遅いと判断してもよい。
【0042】
また、上記の実施の形態においては、特徴点の検索の際に、いずれの静止画像においても特徴点の検索ができた場合について説明したが、例えば図3の静止画の特徴点P1、P2、P3は検索できたものの、図3の静止画に隣り合う図4の静止画の特徴点P1´、P2´、P3´は検索できない場合がある。このような場合には、補間処理を行うことにより、対応することができる。
【0043】
具体的には、特徴点の検索を、動画の先頭に位置する静止画から動画の最後に位置する静止画まで順に行うと共に、動画の最後に位置する静止画から動画の先頭に位置する静止画まで逆順にも行う。すなわち、先頭に位置する静止画において、第一の特徴点を検索すると、先頭に位置する静止画と時系列的に後に隣り合う静止画において、第二の特徴点を検索する。さらに、最後に位置する静止画において、第一の特徴点を検索すると、最後に位置する静止画と時系列的に前に隣り合う静止画において、第二の特徴点を検索する。
【0044】
そして、特徴点の差を算出して、算出した差の平均値が、順にΔPt1、ΔPt2と求まり、逆順にΔPt5、ΔPt4と求まり、ΔPt3については特徴点が検索できず平均値を算出できなかった場合、ΔPt3の前後の平均値、すなわち、ΔPt2、ΔPt4に基づいて、ΔPt3を算出する。すなわち、ΔPt2とΔPt4の平均をΔPt3と算出する。このようにして、補間処理を行うことにより、軌跡を作成してもよい。なお、この場合、最後に位置する静止画における第一の特徴点の検索は、最後に位置する静止画において、先頭に位置する静止画と同じ箇所をユーザから指定されることにより、行ってもよい。
【0045】
また、上記の実施の形態においては、特徴点の検索の際に、いずれの静止画像においても特徴点の検索ができた場合について説明したが、例えば、特徴点P1に対応する特徴点P1´と、特徴点P2に対応する特徴点P2´とを検索でき、特徴点P3に対応する特徴点P3´においては検索できなかった場合、特徴点P3は破棄し、特徴点P1、P2、P1´、P2´のみに基づいて、平均値を算出してもよい。
【0046】
また、軌跡を作成する際に、平均値に対して、移動平均フィルタ等のローパスフィルタ処理を行ってもよい。こうすることにより、作成する軌跡を滑らかにすることができる。
【0047】
また、上記の実施の形態においては、特徴点の差の平均値に基づいて、軌跡を作成する例について説明したが、これに限ることなく、特徴点の平均値に基づいて、軌跡を作成してもよい。すなわち、複数の第一の特徴点を検索し、その平均値を求める。また、複数の第二の特徴点を検索し、その平均値を求める。そして、求めた平均値を順に接続して、軌跡を作成してもよい。
【0048】
また、上記の実施の形態においては、軌跡20と静止画とを重ね合わせて表示する例について説明したが、これに限ることなく、軌跡20と動画とを重ね合わせて表示してもよい。こうすることにより、ユーザにとって、動画の動作の解析結果がわかりやすくなる。ここで、操作部13は、表示手段として作動する。
【0049】
また、例えば、予めモデルとなるゴルフのスイングの動画を準備しておくことにより、モデルの動画の軌跡と、自身の動画の軌跡とを並べて表示してもよい。こうすることにより、モデルのフォームと自身のフォームとを容易に比較することができ、ユーザにとってより良いフォームへと改善しやすくなる。なお、この場合、人物の大きさが異なる場合には、双方の大きさを揃えるように、画像の拡大縮小等を行ってもよい。また、スイングに要する時間が異なる場合には、長い方の動画を間引きして双方の時間の長さを揃えてもよい。
【0050】
また、上記の実施の形態においては、S13において、ユーザからP0の1点を指定される例について説明したが、これに限ることなく、2点以上指定された場合でも同様に、指定点の各々において、S14からの処理を行い、各々の軌跡を作成することができる。
【0051】
また、上記の実施の形態においては、S13において、ユーザからP0を指定されて、指定点であるP0を中心とし、予め定められた所定の半径rの範囲内において、特徴点の検索を行い、指定点P0とは異なるP1、P2、P3の特徴点が検索される例について説明したが、これに限ることなく、指定点P0を特徴点として検索されてもよい。
【0052】
また、上記の実施の形態においては、第二の静止画は、第一の静止画と時系列的に隣り合う静止画である例について説明したが、これに限ることなく、第一の静止画と異なる静止画であればよい。
【0053】
また、上記の実施の形態においては、第一の特徴点として、P1、P2、P3の3つを検索する例について説明したが、これに限ることなく、いくつでもよい。
【0054】
また、上記の実施の形態においては、操作部13は、タッチパネル式である例について説明したが、これに限ることなく、例えば、操作部13は、表示画面と、マウスとを備える構成とし、ユーザによってマウスを操作されることにより、解析対象箇所を指定されてもよい。
【0055】
また、上記の実施の形態においては、特徴量として、SIFT特徴量を用いる例について説明したが、これに限ることなく、や、HOG(Histogram of Oriented Gradients)特徴量や、Harris特徴量等の他の特徴量を用いてもよい。
【0056】
次に、図1および図13〜図21を参照して、この発明の他の実施形態に係る動作解析装置30について説明する。なお、上記実施形態と同様の構成要素については同じ符号を付し、詳しい説明を省略する。また、以下の説明においては、前述した実施形態と同様に、本発明をゴルフスイングの動作解析に適用した場合について説明する。
【0057】
動作解析装置30は、図1に示す実施形態と同様に、動作解析装置30全体を制御するCPU等の制御部11と、画像等を記憶する記憶部12と、タッチパネル式であってユーザからの操作を受け付けると共に記憶部12に記憶した画像等を表示する操作部13と、外部機器との接続インターフェースとなるI/F部14とを備える。
【0058】
ここで、この実施形態に係る動作解析装置30においては、記憶部12に、動作解析の観測対象に対応する画像が、複数記憶されている。具体的には、記憶部12に、アドレスの姿勢をとるゴルフプレーヤーの画像を、幅広い年齢、身長、体型、および性別等に亘ってランダムに多数記憶する。これらの画像は、観測対象の初期形態を推定するためのレファレンス画像として利用される。なお、この処理に関しては、後に詳述する。
【0059】
次に、この実施形態に係る動作解析装置30の制御部11が行う動作解析フローについて説明する。まず、動作解析装置30は、I/F部14を介して、予め撮影されたゴルフスイングの動画の入力を受け付ける(S21)。上記したように、動画データは、時系列的に連続する複数の静止画の集合体として構成されている。動作解析装置30は、時系列の先頭に位置する図14に示す静止画31を、操作部13に表示する(S22)。
【0060】
次いで、動作解析装置30は、静止画31をスキャンし、所定のサイズを有する領域を解析の対象領域32として順に画定する(S23)。なお、図14においては、観測対象となるプレーヤー33が、対象領域32内に適切なサイズで含まれている場合を示している。しかしながら、実際の解析フローとしては、静止画31を全体に亘ってスキャンし、対象領域32の位置と大きさを変化させつつ、次々と候補となる対象領域を画定していく。そして、後述する処理において、それぞれの対象領域毎にプレーヤー33が含まれているか否かが判定される。
【0061】
以下、理解の容易の観点から、図14に示すように、S23により画定された対象領域32内に、観測対象となるプレーヤー33が適切なサイズにて含まれていた場合について説明する。
【0062】
プレーヤー33を含む対象領域32が画定された後、その後の解析処理をより迅速且つ容易に進行可能とするために、対象領域32の大きさを所定の画像サイズとなるように調整する(S24)。具体的には、対象領域32の画像サイズを、例えば64×128ドットに拡大/縮小する。その結果、図14に示す対象領域32が、図15に示すような所定の画像サイズを有する対象領域32Aとして切り出されることとなる。同様に、対象領域32に含まれていたプレーヤー33も、それに対応して拡大/縮小され、プレーヤー33Aとなる。
【0063】
次いで、対象領域32の画像データにおける輝度勾配に基づいて、プレーヤー33Aの輪郭34を検出する(S25)。なお、輪郭を検出する手法としては、例えば上記したSIFT特徴量やHOG特徴量のような輝度勾配に基づく特徴量を適用してもよいし、Harris特徴量等のような輝度勾配以外のパラメータに基づく特徴量を適用してもよい。これらの手法を用いることにより、図16に示すように、プレーヤー33Aに対応する輪郭34を効果的に抽出することができる。なお、図16においては、理解の容易の観点から、プレーヤー33Aの実際の輪郭33Bと、HOG特徴量に基づいて抽出された輪郭34とを併記しているが、実際の処理においては、HOG特徴量に基づく輪郭34を検出すればよい。
【0064】
このように、S23〜S25のステップを経ることによって、図14に示す静止画31から、図16に示す観測対象の輪郭34を抽出することができる。すなわち、本発明においては、S23〜S25のステップを実行する制御部11が、観測対象となるプレーヤー33を静止画31中において認識するための人物認識手段(図13中のA)として機能する。
【0065】
次いで、動作解析装置30は、人物認識手段(A)によって検出されたプレーヤー33Aの輪郭34と、記憶部12に記憶されたレファレンス画像とを比較し、輪郭34と近似するレファレンス画像を選択する(S26)。この動作について、以下に具体的に説明する。
【0066】
この実施形態においては、上記したように、記憶部12が、アドレスの姿勢をとるゴルフプレーヤーの画像データを、幅広い年齢、身長、体型、および性別等に亘って、ランダムに多数記憶している。図17に、比較対象となるレファレンス画像を例示する。このレファレンス画像においても、図15および図16に示す対象領域32Aと同じ画像サイズの対象領域32Aが画定されており、この対象領域32A内にレファレンスプレーヤー35が適切なサイズにて収容されるように記憶されている。すなわち、S26にて比較される観測対象プレーヤー33Aとレファレンスプレーヤー35とは、共通サイズの対象領域32A内において、人物の位置や大きさがほぼ共通となるように調整され、記憶される。この構成により、観測対象プレーヤー33Aと、レファレンスプレーヤー35との比較を、静止画31におけるプレーヤー33の位置や大きさ等によって影響を受けることなく、より高精度に実行することが可能となる。
【0067】
記憶部12においては、レファレンス画像は、図17に示すような静止画像の他に、上記HOG特徴量により導出される輪郭画像や、頭部、腕部、または脚部等といった身体の一部領域を画定した身体部位領域画像として記憶されていてもよい。図18(a)〜(c)に、図17に対応する各形式の画像データを例示する。図18(a)は、図17に対応する静止画であって、画像上において頭部、腕部、および脚部に対応する第一身体部位領域36が画定されている様子を表す図である。すなわち、第一頭部領域36a、第一腕部領域36b、および第一脚部領域36cが、それぞれ画像上に画定されている。図18(b)は、レファレンスプレーヤー35の輪郭55を示す図である。図18(c)は、図18(a)に示す第一身体部位領域36のみを抽出した様子を表す図である。
【0068】
この実施形態においては、人物認識手段(A)によって検出されたプレーヤー33Aの輪郭34と、図18(b)に示すレファレンスプレーヤー35の輪郭55とを比較することによって、記憶部12に記憶された多数のレファレンス画像から、観測対象に形態が近似するものを選択する。そして、選択されたレファレンス画像に対応する第一身体部位領域36を抽出し、観測対象の画像データに適用する。その結果を、図19に示す。
【0069】
図19に示すように、上記した方法により適用された第一身体部位領域36は、観測対象のプレーヤー33Aの身体の各部位とほぼ一致することとなる。これにより、プレーヤー33Aの頭部、腕部、および脚部等の配置、すなわち、アドレス状態におけるプレーヤー33Aの姿勢を、概略的に推定することができる。
【0070】
このように、本発明によれば、入力された静止画31のデータと、記憶部12に記憶されたレファレンス画像データとに基づいて、静止画31におけるプレーヤー33Aの初期形態(姿勢や体型等の要素を含む)を、概略的に推定することが可能となる。すなわち、S26を実行する制御部11は、プレーヤー33Aの初期形態を推定するための初期形態推定手段(B)として機能する。
【0071】
なお、S26を実行した結果、観測対象のプレーヤー33Aに近似するレファレンス画像が発見されなかった場合、動作解析装置30は、S23にて確定した対象領域32内に人物が適切に含まれなかったものと判断し、S23にリターンする。そして、対象領域32内に人物が適切に含まれている状態を検出するまでS23〜S26を繰り返し行う。
【0072】
S26の結果、図19に示すようにプレーヤー33Aの姿勢を推定することができた場合、次のステップとして、動作解析の対象となる解析対象箇所を、図19に示す画像データに基づいて指定する(S27)。ここで、本実施形態においては、解析対象箇所を、第一身体部位領域36によって決定する。その一例としては、図19に示す第一頭部領域36a、第一腕部領域36bの下端部、および/または、第一脚部領域36cの中央部等を、解析対象箇所として自動的に指定する。これは、プレーヤー33Aの頭部、グリップ(手首近辺)、および/または膝を、解析対象箇所として自動的に指定したことと同義である。なぜならば、上記したように、第一身体部位領域36は、観測対象のプレーヤー33Aの身体の各部位とほぼ一致するように画定されているからである。図19に、例として第一腕部領域36bの下端部、すなわちプレーヤー33Aのグリップ付近を解析対象箇所として指定した場合を示す(図19中の点39)。
【0073】
このように、本実施形態においては、上記S23〜S27を実行する制御部11が、解析対象箇所を指定するための解析対象箇所指定手段(C)として機能する。そして、この構成により、ユーザが動作解析を開始するに際して、動作解析装置30が観測対象となるプレーヤー33Aの初期形態を推定し、そのデータに基づいて解析の初期条件を自動的に決定することが可能となる。これにより、ユーザが解析対象箇所を指定する作業を省略することができるため、ユーザの利便性をさらに向上させることができる。
【0074】
S27によって解析対象箇所が指定された後、動作解析装置30は、指定された第一身体部位領域36内において第一の特徴点の検索を行う(S28)。ここでは、上記したSIFT特徴量やHOG特徴量等を用いて、第一身体部位領域36内において複数の第一の特徴点が検索される。
【0075】
次いで、動作解析装置30は、第一の特徴点を検索した図19の静止画より時系列的に後に隣り合う静止画、すなわち、図20に示す静止画において、第一の特徴点に対応する第二の特徴点の検索を行う(S29)。そして、検索された第二の特徴点に基づいて、第一身体部位領域36に対応する第二身体部位領域37を画定する(S30)。
【0076】
次いで、第一身体部位領域36と第二身体部位領域37の差に基づいて軌跡を作成する(S31)。具体的には、図20に示す第二腕部領域37bが新たに画定された後、第二腕部領域37bの下端部に相当する位置が、解析対象箇所として認識される(図20中の点40)。そして、点39と点40との差に基づいて、軌跡42が作成される。同様に、例えばS27にて第一頭部領域36aを解析対象箇所として指定した場合は、第一頭部領域36aと第二頭部領域37aとの差に基づいて、プレーヤー33Aの頭部の軌跡を作成することができる。また、第一脚部領域36cと第二脚部領域37cとの差に基づいて、プレーヤー33Aの膝の軌跡を作成することができる。
【0077】
続けて、図20に示す静止画と時系列的に後に隣り合う静止画、すなわち図21に示す静止画において、第二の特徴点に対応する第三の特徴点の検索を行い、検索された第三の特徴点に基づいて、第二身体部位領域37に対応する第三身体部位領域38を画定する。そして、第二身体部位領域37と第三身体部位領域38の差に基づいて、解析対象箇所を認識し(図21中の点41)、軌跡43を作成する。
【0078】
このように、連続する静止画毎に解析対象箇所の軌跡を順次作成することによって、一連のゴルフスイング動作において、プレーヤーの所定部位(例えば、頭部、腕部、および/または脚部)の運動を解析することが可能となる。
【0079】
なお、本実施形態においては、プレーヤー33Aの輪郭34を検出することによって人物認識を行う場合について述べたが、これに限らず、観測対象の形態を抽出可能であれば、他の如何なる手法を用いてもよい。
【0080】
また、本実施形態においては、プレーヤー33Aの輪郭34とレファレンスプレーヤー35の輪郭55とを比較することによって、観測対象に形態が近似するものを選択する場合について述べたが、これに限らず、例えば図18(a)に示す静止画データの比較によって選択する構成であってもよいし、図18(c)に示す身体部位領域36に係るデータとの比較によって選択してもよい。また、観測対象とレファレンスとの比較が可能であれば、図18に示す以外の如何なる形式のデータを比較に用いてもよい。
【0081】
また、本実施形態においては、身体部位領域36に基づいて動作解析の初期条件である解析対象箇所39を指定する場合について述べた。しかしながら、これに限らず、例えば図18(a)に示す静止画データや、図18(b)に示す輪郭55に係るデータに基づいて指定してもよいし、その他如何なるデータに基づいて解析対象箇所39を指定してもよい。
【0082】
なお、上記実施形態のように、本発明をゴルフスイングの動作解析に適用する場合においては、動作解析装置10、30は、スイングのテイクバックからダウンスイングへとスイングの方向が転換されたことを検出し、それをユーザに識別可能とする方向転換識別手段をさらに備えていてもよい。これについて、図22を参照して説明する。図22(a)〜(f)は、一連のゴルフスイングを記録した動画を示しており、この動画は、連続する計6フレームの静止画によって構成されている。
【0083】
図22(a)〜(f)に示すように、ゴルフスイングは、ゴルフクラブを上方へ振り上げるテイクバック(図22(a)〜(c))から、ゴルフクラブを下方へ振り下げるダウンスイング(図22(d)〜(f))へと移行する。すなわち、図22においては、図22(c)と図22(d)との間にスイングの方向転換が発生している。
【0084】
方向転換識別手段は、この方向転換点を検出し、方向転換前の軌跡と方向転換後の軌跡とをユーザに識別可能とさせるものである。これにより、動作の転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を行うことができる。具体的なアルゴリズムについて以下に説明する。
【0085】
前提として、図22(f)を現時点とする。方向転換識別手段は、まず、現時点から時系列的に5フレーム前の図22(a)におけるグリップの速度べクトルv1を計算する。このv1は、図22(a)と時系列的に前に隣り合うフレーム、すなわち、現時点から6フレーム前(図示せず)のグリップの位置と、5フレーム前のグリップの位置とから求めることができる。同様にして、現時点から4フレーム前の図22(b)におけるグリップの速度べクトルv2、3フレーム前の図22(c)におけるグリップの速度べクトルv3、現時点から2フレーム前の図22(d)におけるグリップの速度べクトルv4、現時点から1フレーム前の図22(e)におけるグリップの速度べクトルv5、現時点のフレームにおけるグリップの速度べクトルv6を、それぞれ計算する。
【0086】
ここで、現時点から5フレーム前〜3フレーム前の間におけるグリップの平均速度ベクトルf1は、以下のように表される。
【0087】
【数1】
【0088】
同様に、現時点から2フレーム前〜現時点のフレームの間におけるグリップの平均速度ベクトルf2は、以下のように表される。
【0089】
【数2】
【0090】
本実施形態に係る方向転換識別手段は、グリップの方向転換点を検出するために、f1とf2との内積=f1・f2を計算する。そうすると、5フレーム前〜3フレーム前におけるグリップの速度ベクトルと、2フレーム前〜現時点におけるグリップの速度ベクトルとは、その方向が反転していることから、内積は、負の値をとることとなる。換言すれば、内積が負となる時点を検出することができれば、スイングのテイクバックからダウンスイングへと方向が転換される方向転換点を検出することができる。
【0091】
このようにして方向転換点を検出した後、上記したS31において、方向転換点の前の軌跡線と異なる種類の軌跡線を形成することによって、ユーザは、テイクバックの軌跡と、ダウンスイングの軌跡とを明瞭に区別して認識することが可能となる。識別可能とする手段としては、例えば軌跡線の色の変更(黄色から赤色等)や、線種の変更(実線から点線等)、軌跡線を点滅表示する等が考えられる。
【0092】
なお、この実施形態においては、理解の容易の観点から、平均速度ベクトルf1,f2を、連続する3フレームの速度ベクトルの平均をとることによって算出したが、これに限らず、任意の数のフレームの速度ベクトルの平均に基づいて、平均速度ベクトルf1,f2を算出してもよい。
【0093】
図23に、方向転換識別手段によってテイクバックとダウンスイングとを識別可能としたゴルフスイングの軌跡の一例を示す。このように、本発明に係る方向転換識別手段によれば、ユーザは、スイングの転換点となるポイントと、その前後の動きの軌跡を明確に把握することが可能となるため、より詳細な動作解析を行うことが可能となる。
【0094】
なお、上記した各実施形態においては、1つのパターンのゴルフスイングを表示手段(操作部13)に表示し、その動作解析を行った場合について述べた。しかしながら、これに限らず、動作解析装置10,30は、二以上の異なる動作を並べて表示し、これらの異なる動作を比較可能とするための動作比較手段をさらに備えていてもよい。以下、上記実施形態と同様に、ゴルフスイングの動作比較を実行可能な動作比較手段について、図24〜図26を参照して説明する。
【0095】
本実施形態に係る動作比較手段は、まず、二つのゴルフスイングを記憶した動画を並列表示し(S41)、前述した実施形態のいずれかの方法を用いて、それぞれのゴルフスイングの軌跡を形成する。図24に、二つのゴルフスイングの軌跡を形成し、それらを並列表示した図を示す。具体的には、第一の表示領域44に、第一の軌跡45が表示され、第二の表示領域46に第二の軌跡47が表示されている。
【0096】
次いで、二つの動画の時間軸を圧縮/伸張して調整し、二つの動画の時間軸を揃える(S42)。ここで、ゴルフスイングは、上記したように、アドレスの姿勢から、テイクバック、ダウンスイング、フィニッシュという一連の動作によって構成される。そして、これら各動作に要する時間は、人によって異なり、且つ、同じ人がスイングした場合であっても、スイング毎に異なるものである。したがって、二つのスイングを並列表示して比較する場合、各動作の始めの時点と終わりの時点とを揃えることによって、各スイングの軌道をより視覚的に比較検証し易くすることができる。
【0097】
その方法としては、二つの動画において、アドレス状態からテイクバックの終わりの時点までの時間と、ダウンスイングの始めの時点とフィニッシュまでの時間をそれぞれ計算し、一方の動画のフレームを間引く、またはフレーム間の時間を伸長させることによって、二つの動画間において各動作に要する時間を揃える処理を行うことが考えられる。なお、テイクバックの終わりからダウンスイングの始めへの転換点は、前述した実施形態に係る方法によって検出可能である。
【0098】
より具体的に説明すると、例えば第一の表示領域44に表示したゴルフスイングにおいては、アドレスからテイクバックの終わりまで1.4秒、ダウンスイングの始めからフィニッシュまで1.1秒を要したとする。また、第二の表示領域46に表示したゴルフスイングにおいては、アドレスからテイクバックの終わりまで1.8秒、ダウンスイングの始めからフィニッシュまで1.5秒を要したとする。この場合、第二の表示領域46に表示する動画において、アドレスからテイクバックの終わりまでの間の静止画フレームを、1.4/1.8の割合で間引きし、且つ、ダウンスイングの始めからフィニッシュまでの間の静止画フレームを、1.1/1.5の割合で間引きをする。この処理によって、二つのゴルフスイングのアドレスからフィニッシュまでの時間軸を揃えることができる。この処理により、二つのスイングを並列して動画再生した場合等において、二つのスイングの軌道をより視覚的に比較検証し易くすることができる。
【0099】
次いで、二つの動画の画像サイズを拡大/縮小し、各表示領域44,46におけるプレーヤーの位置や大きさを揃える処理を行う(S43)。これにより、ユーザは、二つのスイングをより比較検証し易くなる。
【0100】
次いで、第一の軌跡45の重心点48と、第二の軌跡47の重心点49とをそれぞれ計算する(S44)。各軌跡の重心点48,49は、軌跡を構成する各ポイントの平均値を求めることによって計算することができる。なお、重心点48,49を計算した後、その座標を図24に示すように表示してもよいし、表示をせずに記憶するのみであってもよい。
【0101】
次いで、各フレームにおける第一の軌跡45および第二の軌跡47のポイントと、それぞれの軌跡の重心点48,49との間の差分値を計算し、フレーム番号と当該差分値とを記録する(S45)。ここで参考データとして、図26にフレーム番号Nと差分値xに係るグラフを示す。なお、図26においては、第一の軌跡45と重心点48との差分値グラフを線50に、第二の軌跡47と重心点49との差分値グラフを線51にそれぞれ示す。
【0102】
次いで、S45によって得られたデータに基づいて、第一の軌跡45と第二の軌跡47との間の差を計算し、その差が大きくなっている軌跡部分を識別可能に表示する(S46)。具体的には、それぞれのフレーム番号Nにおいて線50と線51との差を計算すると、図26に示すように、その差が比較的に大きくなる軌跡部分52,53,54が検出される。換言すれば、第一の軌跡45と第二の軌跡47とは、軌跡部分52,53,54において、スイングの軌道が相対的に大きく異なっていることを意味している。そこで、第一の軌跡45または第二の軌跡47のうち、この軌跡部分52,53,54に相当する軌跡線に対して、例えば線色の変更や線種の変更、または点滅表示等をすることによって、ユーザがその部分を識別可能とすることができる。この構成によれば、例えばユーザがゴルフスイングを日々記録した場合に、そのスイングの軌道が変化した部分を詳細に把握・検証することが可能となる。これにより、さらに付加価値の高い動作解析装置を提供することができる。
【0103】
なお、本実施形態においては、二つのゴルフスイングを比較した場合について述べたが、これに限らず、三以上の動作を比較する構成であってもよい。
【0104】
また、本発明に係る動作解析装置の動作アルゴリズムが、ソフトウェアまたはハードウェアのいずれによっても実現可能であることは、当業者であれば容易に理解されるであろう。
【0105】
また、上記した各実施形態においては、ゴルフスイングを動作解析の対象とした場合について説明した。しかしながら本発明は、これに限定されるものではない。すなわち、本発明の概念は、動作解析の開始点における画像データと、予め記憶したレファレンスデータとを比較し、開始点における観測対象の形態を推定することによって、解析対象箇所の初期条件(サイズ、座標等)を決定し、以て動作解析を容易且つ迅速に実行可能とすることにある。したがって、ゴルフスイングに限らず、例えば野球のスイングや、舞踊、演技、武道等、プレーヤーの体の動きを把握・検証することに対してニーズのある、あらゆる分野のスポーツ・演技に適用可能であることは、当業者であれば容易に理解されるであろう。
【0106】
以上、図面を参照してこの発明の実施形態を説明したが、この発明は、図示した実施形態のものに限定されない。図示された実施形態に対して、この発明と同一の範囲内において、あるいは均等の範囲内において、種々の修正や変形を加えることが可能である。
【産業上の利用可能性】
【0107】
この発明は、スポーツにおいて、フォームのチェックが必要となる場合に、有効に利用される。
【符号の説明】
【0108】
10,30 動作解析装置、11 制御部、12 記憶部、13 操作部、14 I/F部、20,42,43,45,47 軌跡、31 静止画、32,32A,36,36a,36b,36c,37,37a,37b,37c,38,38a,38b,38c 領域、33,33A,35 プレーヤー、34,55 輪郭、39,40,41,48,49 点、44,46 表示領域、50,51 線、52,53,54 軌跡部分。
【特許請求の範囲】
【請求項1】
連続する複数の静止画から構成される動画の動作を解析する動作解析装置であって、
前記動画の入力を受け付ける動画受付手段と、
前記動画受付手段により受け付けた動画のうち、前記動画を構成する第一の静止画において、前記第一の静止画像上において、動作解析の対象となる解析対象箇所を指定する解析対象箇所指定手段と、
前記解析対象箇所から一定範囲内において、第一の特徴点を検索する第一の検索手段と、
前記動画を構成し、前記第一の静止画と異なる静止画である第二の静止画において、前記第一の特徴点に対応する第二の特徴点を検索する第二の検索手段と、
前記第一および第二の特徴点に基づいて、軌跡を作成する軌跡作成手段と、を備える、動作解析装置。
【請求項2】
前記解析対象箇所指定手段は、ユーザが前記解析対象箇所を任意に指定可能とするために、ユーザからの指定を受け付ける指定受付手段を有する、請求項1に記載の動作解析装置。
【請求項3】
前記解析箇所指定手段は、
前記第一の静止画から観測対象を認識する認識手段と、
前記認識手段によって認識された前記観測対象の画像データに基づいて、前記観測対象の形態を推定する形態推定手段と、を有し、
前記解析対象箇所は、前記形態推定手段による推定結果に基づいて指定される、請求項1に記載の動作解析装置。
【請求項4】
前記認識手段は、
前記観測対象を含む一定の領域を対象領域として画定する対象領域画定手段と、
前記対象領域の大きさを所定の画像サイズとなるように調整する対象領域正規化手段と、を含む、請求項3に記載の動作解析装置。
【請求項5】
前記認識手段は、前記第一の静止画における輝度勾配に基づいて、前記観測対象の輪郭を検出する、請求項3または4に記載の動作解析装置。
【請求項6】
前記観測対象に対応する比較対象の画像を、予め複数記憶するレファレンス画像記憶手段をさらに備え、
前記形態推定手段は、
前記認識手段によって認識された前記観測対象の画像データと、前記レファレンス画像記憶手段によって記憶された前記比較対象の画像データとを比較し、前記観測対象の画像データに形態が近似する前記比較対象の画像データを選択するレファレンス画像選択手段を含み、
前記解析対象箇所は、前記レファレンス画像選択手段によって選択された前記比較対象の画像データに基づいて指定される、請求項3〜5のいずれかに記載の動作解析装置。
【請求項7】
前記第一の検索手段は、前記一定範囲内において、複数の第一の特徴点を検索し、
前記第二の検索手段は、前記複数の第一の特徴点に対応する複数の第二の特徴点を検索し、
前記軌跡作成手段は、前記複数の第一の特徴点と前記複数の第二の特徴点との差をそれぞれ算出し、この算出した差の平均値を求めることにより、求めた平均値に基づいて、軌跡を作成する、請求項1〜6のいずれかに記載の動作解析装置。
【請求項8】
前記平均値は、前記第一および第二の特徴点に基づく点であって、前記動画を構成する静止画像上の所定の点における変化を示すものであり、
前記軌跡作成手段は、前記平均値を、連続する前記複数の静止画の隣り合う静止画像間においてそれぞれ算出し、この算出した平均値が示す前記所定の点を順に接続することにより、軌跡を作成する、請求項7に記載の動作解析装置。
【請求項9】
前記第一の静止画は、前記動画の先頭に位置する静止画と、前記動画の最後に位置する静止画とを含み、
前記第二の静止画は、前記第一の静止画と時系列的に後に隣り合う静止画と、前記第一の静止画より時系列的に前に隣り合う静止画とを含み、
前記第二の検索手段は、時系列的に後に隣り合う静止画において、前記第一の特徴点に対応する前記第二の特徴点を検索すると共に、時系列的に前に隣り合う静止画において、前記第一の特徴点に対応する前記第二の特徴点を検索する、請求項1〜8のいずれかに記載の動作解析装置。
【請求項10】
前記第二の検索手段は、前記動画の動作の速さを取得する取得手段を含み、前記取得手段により取得した速さに基づいて、前記第二の特徴点を検索する、請求項1〜9のいずれかに記載の動作解析装置。
【請求項11】
連続する前記複数の静止画は、一定間隔で構成されており、
前記取得手段は、隣り合う静止画像間において、静止画像の差の大小を取得することにより、前記動画の動作の速さを取得する、請求項10に記載の動作解析装置。
【請求項12】
前記軌跡作成手段は、前記軌跡の方向が転換された場合に、方向転換前の軌跡と方向転換後の軌跡とを識別可能とする方向転換識別手段を有する、請求項1〜11のいずれかに記載の動作解析装置。
【請求項13】
前記方向転換識別手段は、
時系列的に連続する静止画間における軌跡の速度ベクトルを計算し、特定の静止画における速度ベクトルと、当該特定の静止画と時系列的に後に隣り合う静止画における速度ベクトルとの内積が負となった場合に、前記軌跡の方向転換を検出する、請求項12に記載の動作解析装置。
【請求項14】
前記軌跡作成手段により作成された軌跡と、前記動画受付手段により受け付けた動画とを重ねて表示する表示手段を含む、請求項1〜13のいずれかに記載の動作解析装置。
【請求項1】
連続する複数の静止画から構成される動画の動作を解析する動作解析装置であって、
前記動画の入力を受け付ける動画受付手段と、
前記動画受付手段により受け付けた動画のうち、前記動画を構成する第一の静止画において、前記第一の静止画像上において、動作解析の対象となる解析対象箇所を指定する解析対象箇所指定手段と、
前記解析対象箇所から一定範囲内において、第一の特徴点を検索する第一の検索手段と、
前記動画を構成し、前記第一の静止画と異なる静止画である第二の静止画において、前記第一の特徴点に対応する第二の特徴点を検索する第二の検索手段と、
前記第一および第二の特徴点に基づいて、軌跡を作成する軌跡作成手段と、を備える、動作解析装置。
【請求項2】
前記解析対象箇所指定手段は、ユーザが前記解析対象箇所を任意に指定可能とするために、ユーザからの指定を受け付ける指定受付手段を有する、請求項1に記載の動作解析装置。
【請求項3】
前記解析箇所指定手段は、
前記第一の静止画から観測対象を認識する認識手段と、
前記認識手段によって認識された前記観測対象の画像データに基づいて、前記観測対象の形態を推定する形態推定手段と、を有し、
前記解析対象箇所は、前記形態推定手段による推定結果に基づいて指定される、請求項1に記載の動作解析装置。
【請求項4】
前記認識手段は、
前記観測対象を含む一定の領域を対象領域として画定する対象領域画定手段と、
前記対象領域の大きさを所定の画像サイズとなるように調整する対象領域正規化手段と、を含む、請求項3に記載の動作解析装置。
【請求項5】
前記認識手段は、前記第一の静止画における輝度勾配に基づいて、前記観測対象の輪郭を検出する、請求項3または4に記載の動作解析装置。
【請求項6】
前記観測対象に対応する比較対象の画像を、予め複数記憶するレファレンス画像記憶手段をさらに備え、
前記形態推定手段は、
前記認識手段によって認識された前記観測対象の画像データと、前記レファレンス画像記憶手段によって記憶された前記比較対象の画像データとを比較し、前記観測対象の画像データに形態が近似する前記比較対象の画像データを選択するレファレンス画像選択手段を含み、
前記解析対象箇所は、前記レファレンス画像選択手段によって選択された前記比較対象の画像データに基づいて指定される、請求項3〜5のいずれかに記載の動作解析装置。
【請求項7】
前記第一の検索手段は、前記一定範囲内において、複数の第一の特徴点を検索し、
前記第二の検索手段は、前記複数の第一の特徴点に対応する複数の第二の特徴点を検索し、
前記軌跡作成手段は、前記複数の第一の特徴点と前記複数の第二の特徴点との差をそれぞれ算出し、この算出した差の平均値を求めることにより、求めた平均値に基づいて、軌跡を作成する、請求項1〜6のいずれかに記載の動作解析装置。
【請求項8】
前記平均値は、前記第一および第二の特徴点に基づく点であって、前記動画を構成する静止画像上の所定の点における変化を示すものであり、
前記軌跡作成手段は、前記平均値を、連続する前記複数の静止画の隣り合う静止画像間においてそれぞれ算出し、この算出した平均値が示す前記所定の点を順に接続することにより、軌跡を作成する、請求項7に記載の動作解析装置。
【請求項9】
前記第一の静止画は、前記動画の先頭に位置する静止画と、前記動画の最後に位置する静止画とを含み、
前記第二の静止画は、前記第一の静止画と時系列的に後に隣り合う静止画と、前記第一の静止画より時系列的に前に隣り合う静止画とを含み、
前記第二の検索手段は、時系列的に後に隣り合う静止画において、前記第一の特徴点に対応する前記第二の特徴点を検索すると共に、時系列的に前に隣り合う静止画において、前記第一の特徴点に対応する前記第二の特徴点を検索する、請求項1〜8のいずれかに記載の動作解析装置。
【請求項10】
前記第二の検索手段は、前記動画の動作の速さを取得する取得手段を含み、前記取得手段により取得した速さに基づいて、前記第二の特徴点を検索する、請求項1〜9のいずれかに記載の動作解析装置。
【請求項11】
連続する前記複数の静止画は、一定間隔で構成されており、
前記取得手段は、隣り合う静止画像間において、静止画像の差の大小を取得することにより、前記動画の動作の速さを取得する、請求項10に記載の動作解析装置。
【請求項12】
前記軌跡作成手段は、前記軌跡の方向が転換された場合に、方向転換前の軌跡と方向転換後の軌跡とを識別可能とする方向転換識別手段を有する、請求項1〜11のいずれかに記載の動作解析装置。
【請求項13】
前記方向転換識別手段は、
時系列的に連続する静止画間における軌跡の速度ベクトルを計算し、特定の静止画における速度ベクトルと、当該特定の静止画と時系列的に後に隣り合う静止画における速度ベクトルとの内積が負となった場合に、前記軌跡の方向転換を検出する、請求項12に記載の動作解析装置。
【請求項14】
前記軌跡作成手段により作成された軌跡と、前記動画受付手段により受け付けた動画とを重ねて表示する表示手段を含む、請求項1〜13のいずれかに記載の動作解析装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【公開番号】特開2012−94130(P2012−94130A)
【公開日】平成24年5月17日(2012.5.17)
【国際特許分類】
【出願番号】特願2011−215122(P2011−215122)
【出願日】平成23年9月29日(2011.9.29)
【出願人】(501321394)株式会社レイトロン (14)
【Fターム(参考)】
【公開日】平成24年5月17日(2012.5.17)
【国際特許分類】
【出願日】平成23年9月29日(2011.9.29)
【出願人】(501321394)株式会社レイトロン (14)
【Fターム(参考)】
[ Back to top ]