説明

撮像装置及びプログラム

【課題】CMOS型イメージセンサ等を用いて、ローリングシャッター方式で撮像されたボール像が歪んでいても、ボールの運動を正確に解析することができるようにする。
【解決手段】撮像装置100は、ボール像が楕円形に歪んだ状態で含まれるフレームを、内領域A3とその内領域A3と内領域A3の外側の外領域A4とを有する楕円分離度フィルターによってフィルタリング処理することによって、分離度を算出する分離度算出手段7gと、内領域A3の中心位置、長径、短径及び傾斜角を変更しながら分離度算出手段7gによって算出される分離度が最大となる中心位置、長径、短径及び傾斜角をボール像の中心位置、長径、短径及び傾斜角として推定する推定手段7hと、推定手段7hによって推定されたボール像の中心位置の差分とフレーム間のフレーム数とフレームレートとから、ボールの速度を算出する速度算出手段7pと、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像手段によってローリングシャッター方式で撮像されたフレームからボールの運動を解析する撮像装置及びプログラムに関する。
【背景技術】
【0002】
従来、野球やテニス等のスポーツで用いるボールの速度を測定する装置としては、スピードガンが良く知られている。
このスピードガンは、例えば、ボールによる反射波のドップラー効果を測定して、ボールの速度を推定するようになっていることから、ボールの運動方向に沿ってスピードガンを設置する必要があるため、ボールとの衝突のリスクが高いという問題がある。さらに、運動するボールのどの時点での測定結果であるのかといった正確性の検証が困難であるといった問題もある。
【0003】
そこで、ボールとの衝突を回避する上で、当該ボールの運動方向に略直交する方向側から運動中のボールを撮像して、その画像を用いて、ボールの運動速度を測定する方法が考えられる(例えば、特許文献1参照)。特許文献1に記載の技術は、ボールの打撃がトリガセンサによって検出されたら、メカニカルシャッターが連続して開閉を行うとともに、閃光装置がメカニカルシャッターの開閉に同期して連続発光することによって、CCDカメラに多重露光し、複数のボール像を1つのフレームに撮影するものである。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2001−264016号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、特許文献1に記載の装置は、CCDカメラのほかに閃光装置及びトリガセンサなどを必要としているから、大掛かりなものであった。そこで、多重露光方式ではなく、静止画を高速で連続撮像することができるハイスピードカメラを利用すれば、閃光装置等を省略することができると考えられる。しかし、ハイスピードカメラのイメージセンサには、CCD型のイメージセンサではなく、高速で撮像処理が行えるCMOS型のイメージセンサが利用される。しかし、CMOS型のイメージセンサは、ローリングシャッター方式で撮像を行うものであって、水平ラインごとに順次、露光・電荷蓄積動作を行うものである。従って、高速で移動するボールを撮像すると、画像に含まれるボール像が歪んでしまう。ボール像を含む画像を用いてボールの運動を解析しても、正確な解析とならないという問題がある。
【0006】
そこで、本発明が解決しようとする課題は、CMOS型イメージセンサ等を用いて、ローリングシャッター方式で撮像されたボール像が歪んでいても、ボールの運動を正確に解析することができるようにすることである。
【課題を解決するための手段】
【0007】
以上の課題を解決するべく、本発明に係る撮像装置は、
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分とフレーム間のフレーム数とフレームレートとから、前記ボールの速度を算出する速度算出手段と、を備える。
【0008】
本発明に係る撮像装置は、
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分から、水平面を基準とした前記ボールの上下方向への射出角を算出する垂直射出角算出手段と、を備える。
【0009】
本発明に係る撮像装置は、
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の長径又は短径と前記撮像手段の水平画角と前記フレームの中心座標と前記フレームの垂直ライン数とから、前記撮像手段の撮像方向に直交する面を基準とした前記ボールの左右方向への射出角を算出する水平射出角算出手段と、を備える。
【0010】
本発明に係る撮像装置は、
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により撮像されることによってそのボール像が楕円形に歪んだ状態で含まれるフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された中心位置、長径、短径及び傾斜角によって規定される楕円とそれに接する水平な二本の接線との交点の位置を算出する第1の交点算出手段と、
前記推定手段によって推定された中心位置を通る水平線と前記楕円との交点を算出する第2の交点算出手段と、
前記第1の交点算出手段及び前記第2の交点算出手段によって算出された交点の位置と、前記撮像手段のローリングシャッターにおける水平ライン間の遅延時間と、前記ボールの実サイズとに基づき前記ボールの速度を算出する速度算出手段と、を備える。
【0011】
本発明に係るプログラムは、
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分とフレーム間のフレーム数とフレームレートとから、前記ボールの速度を算出する速度算出手段、
として機能させる。
【0012】
本発明に係るプログラムは、
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分から、水平面を基準とした前記ボールの上下方向への射出角を算出する垂直射出角算出手段、
として機能させる。
【0013】
本発明に係るプログラムは、
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の長径又は短径と前記撮像手段の水平画角と前記フレームの中心座標と前記フレームの垂直ライン数とから、前記撮像手段の撮像方向に直交する面を基準とした前記ボールの左右方向への射出角を算出する水平射出角算出手段、
として機能させる。
【0014】
本発明に係るプログラムは、
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により撮像されることによってそのボール像が楕円形に歪んだ状態で含まれるフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された中心位置、長径、短径及び傾斜角によって規定される楕円とそれに接する水平な二本の接線との交点の位置を算出する第1の交点算出手段、
前記推定手段によって推定された中心位置を通る水平線と前記楕円との交点を算出する第2の交点算出手段、
前記第1の交点算出手段及び前記第2の交点算出手段によって算出された交点の位置と、前記撮像手段のローリングシャッターにおける水平ライン間の遅延時間と、前記ボールの実サイズとに基づき前記ボールの速度を算出する速度算出手段、
として機能させる。
【発明の効果】
【0015】
本発明によれば、フレームに含まれるボール像が歪んでいても、ボールの速度、移動方向等の運動状態を正確に解析する。
【図面の簡単な説明】
【0016】
【図1】本発明の第1の実施の形態に係る撮像装置の使用状態を示した上面図である。
【図2】使用されるボールを示した図である。
【図3】撮像装置の概略構成を示すブロック図である。
【図4】撮像装置のコンピュータによって行われる処理のメインルーチンを示すフローチャートである。
【図5】静止したボールを撮像して得られたボール像の一例を示した図である。
【図6】運動するボールを撮像して得られたボール像の一例を示した図である。
【図7】撮像装置のコンピュータによって行われる処理のサブルーチンを示すフローチャートである。
【図8】撮像装置のコンピュータによって行われる処理のサブサブルーチンを示すフローチャートである。
【図9】打撃前のフレームを示した図面である。
【図10】フレームの中のボール像の状態を示した図面である。
【図11】フレームインデックスと差分との関係を示したグラフである。
【図12】撮像装置のコンピュータによって行われる処理のサブサブルーチンを示すフローチャートである。
【図13】フレームインデックスと差分との関係を示したグラフである。
【図14】撮像装置のコンピュータによって行われる処理のサブルーチンを示すフローチャートである。
【図15】撮像装置のコンピュータによって行われる処理のサブサブルーチンを示すフローチャートである。
【図16】撮像装置のコンピュータによって行われる処理のサブサブルーチンを示すフローチャートである。
【図17】円形分離度フィルターを説明するための説明図である。
【図18】撮像装置のコンピュータによって行われる処理のサブルーチンを示すフローチャートである。
【図19】撮像装置のコンピュータによって行われる処理のサブサブルーチンを示すフローチャートである。
【図20】ボール像の背景を平滑化する処理を説明するための説明図である。
【図21】楕円分離度フィルターを説明するための説明図である。
【図22】撮像装置のコンピュータによって行われる処理のサブルーチンを示すフローチャートである。
【図23】撮像装置のコンピュータによって行われる処理のサブサブルーチンを示すフローチャートである。
【図24】(a)歪みを補正する前のボール像と、(b)補正した後のボール像を示した図面である。
【図25】撮像装置のコンピュータによって行われる処理のサブサブルーチンを示すフローチャートである。
【図26】ボールの水平射出角の計算を説明するための説明図である。
【図27】本発明の第2の実施の形態に係る撮像装置の概略構成を示すブロック図である。
【図28】撮像装置のコンピュータによって行われる処理のメインルーチンを示すフローチャートである。
【図29】ボールの運動を解析するための原理を説明するための説明図である。
【発明を実施するための形態】
【0017】
以下に、本発明を実施するための形態について、図面を用いて説明する。但し、以下に述べる実施形態には、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の範囲を以下の実施形態及び図示例に限定するものではない。
【0018】
〔第1の実施の形態〕
図1は、本発明を適用した一実施形態の撮像装置100の使用状態を示した上面図である。図1に示すように、撮像装置100の撮像方向Dを略水平にし、撮像装置100の撮像範囲Eの周辺部において打撃者201が撮像方向Dに対してほぼ直交する方向Fに球状のボール202を打撃する。打撃時のボール202が撮像装置100の撮像範囲に入るようにし、ボール202が打撃前に静止した状態から打撃後に高速で移動する状態をそのボール202が画像に含まれるように撮像装置100で連続して撮像する。撮像装置100は、連続して撮像された複数の画像に基づいてボール202のスピード、打撃方向及び回転状態等を解析するものである。
【0019】
ボール202が鮮明に撮像されるようにボール202の色が白であり、背景が暗色であることが好ましい。また、ボール202の回転状態を容易に解析できるように、ボール202の表面にマーク若しくは模様又はこれらの両方が付されていることが好ましい。例えば、図2に示すように、直交する最大円周線203,204が白色のボール202に表面に付されている。
【0020】
図3は、撮像装置100の概略構成を示すブロック図である。この撮像装置100は、ボール運動解析装置であって、特にデジタルカメラである。撮像装置100は、レンズユニット1、レンズ駆動部2、電子撮像部3、ユニット回路4、撮像制御部5、画像生成部6、画像処理部7、操作入力部8、表示部9、リーダー・ライター10、バッファメモリ12、プログラムメモリ13及び中央制御部14等を備える。また、撮像装置100には、外部記憶媒体としての記憶部11が装着される。
【0021】
レンズ駆動部2、撮像制御部5、画像生成部6、画像処理部7、表示部9、リーダー・ライター10、バッファメモリ12、プログラムメモリ13及び中央制御部14は、バスライン15を介して接続されている。この撮像装置100のコンピュータは、画像処理部7、バッファメモリ12、中央制御部14及びバスライン15からなる。
【0022】
操作入力部8は、ユーザーにより操作されると、その操作に伴う操作信号を中央制御部14に出力する。操作入力部8は、例えば、撮像装置100の各部に設けられたシャッターボタン8a、モード選択ボタン8b及び方向操作ボタン8c等の操作ボタンと、表示部9の表示画面に設けられたタッチパネル8dと、を有する。シャッターボタン8aは、電子撮像部3による被写体の撮像を指示するためのものである。モード選択ボタン8bは、撮像モードを通常撮像モード、連続撮像モードやボール運動解析モード等に切り替えて設定するためのものである。方向操作ボタン8cは、表示部9の表示画面に表示されたカーソルを移動させるものである。タッチパネル8dは、そのタッチパネル8dに対する接触位置に応じて各種の指示を入力するためのものである。
【0023】
レンズユニット1は、フォーカス機能及びズーム機能を有し、複数のレンズからなる。レンズユニット1は、レンズユニット1の前にある被写体(主にボール202)及びその背景を電子撮像部3に結像する。
【0024】
レンズ駆動部2は、レンズユニット1の各レンズを光軸方向に駆動する。具体的には、レンズ駆動部2は、各レンズを光軸方向に移動させるフォーカスモータ等の駆動源と、駆動源を駆動するドライバとを備える(何れも図示略)。
【0025】
電子撮像部3は、レンズユニット1の後ろ側においてレンズユニット1の光軸上に配置されている。また、電子撮像部3は、例えばCMOS(Complementary Metal-oxideSemiconductor)等のイメージセンサから構成されている。電子撮像部3は、レンズユニット1によって結像された光学像を二次元の画像の信号に変換する。電子撮像部3は、高速で連続した撮像を行うことができる。つまり、電子撮像部3は、ボール202等の被写体が運動している際に、当該被写体を含む画像を連続して撮像して複数の画像をユニット回路4に順次出力する。電子撮像部3によって連続的に撮像される画像のフレームレートをFrate[fps]とする。また、電子撮像部3は、ローリングシャッター方式で撮像動作を行う。つまり、電子撮像部3のイメージセンサは、水平ラインごとに順次、露光・電荷蓄積動作を行う。電子撮像部3の垂直ライン数をSxとし、水平ライン数をSyとする。従って、高速運動する運動体が電子撮像部3によって撮像されると、撮像画像に含まれる運動体の像が歪む。そのような歪みをローリングシャッター歪みという。
【0026】
ユニット回路4は、電子撮像部3から出力される被写体の光学像に応じたアナログの撮像信号が入力され、入力された画像信号を保持するCDSと、その画像信号を増幅するゲイン調整アンプ(AGC)、そのゲイン調整アンプによって増幅された画像信号をデジタルデータの画像に変換するA/D変換器(ADC)等から構成されている。ユニット回路4は、デジタルの撮像を画像生成部6に出力する。
【0027】
撮像制御部5は、中央制御部14が設定するフレームレートに従ったタイミングで、電子撮像部3やユニット回路4を駆動させる制御を行う。
具体的には、撮像制御部5は、TG(Timing Generator)、電子撮像部3を駆動するドライバ等(何れも図示略)を備え、TGを介してドライバやユニット回路4の動作タイミングを制御する。即ち、中央制御部14が、プログラムメモリ13から読み出したプログラム13aに従ってシャッタースピードを設定すると、撮像制御部5のTGは、当該シャッタースピードに対応する電荷蓄積時間をシャッターパルスとしてドライバに出力し、ドライバからの駆動パルス信号に従って電子撮像部3をローリングシャッター方式で動作させて電荷蓄積時間(露光時間)を制御する。これにより、1フレームの画像が電子撮像部3によって撮像される。そのため、連続撮像の際には、中央制御部14がフレームレートを設定すると、撮像制御部5がそのフレームレートに従って電子撮像部3をローリングシャッター方式で繰り返し動作させることで、電子撮像部3が連続撮像を行う。
【0028】
このように構成されたレンズユニット1、電子撮像部3、ユニット回路4及び撮像制御部5は、被写体を撮像する撮像手段を構成している。
【0029】
画像生成部6は、ユニット回路4によって出力された画像に対してγ補正処理、ホワイトバランス処理などの各種画像処理を施す。画像生成部6は、中央制御部14の制御のもと、画像処理された画像をリーダー・ライター10に出力する。リーダー・ライター10は、画像処理された画像等を記憶部11に記録する。記憶部11は、不揮発性半導体メモリ又はハードディスクであり、画像等を記憶する。
【0030】
画像生成部6によって画像処理された画像がリーダー・ライター10によって記憶部11に記録されるのは、シャッターボタン8aが押下された際である。シャッターボタンが押下される前は、画像生成部6によって画像処理された画像がバッファメモリ12に一時格納され、表示部9がバッファメモリ12に一時格納された画像をビデオ信号に変換した後、ライブビュー画として表示画面に表示する。
【0031】
リーダー・ライター10は、記憶部11に記憶された画像等を読み出す。リーダー・ライター10によって読み出された画像等はバッファメモリ12に一時格納される。バッファメモリ12に一時格納された画像は、表示部9によってビデオ信号に変換されたり、或いは、画像処理部7によって画像処理されたりする。
【0032】
バッファメモリ12は、画像等を一時保存するバッファであるとともに、中央制御部14のワーキングメモリ等としても使用される。
プログラムメモリ13には、当該撮像装置100の機能に係るプログラム13aやデータが格納されている。このプログラム13aは、中央制御部14及び画像処理部7にとって読み取り可能なプログラムである。
【0033】
中央制御部14は、撮像装置100の各部を制御するCPU(図示略)を具備している。プログラム13aが中央制御部14を初期位置設定手段14a、撮像制御手段14b及び入力制御手段14c等として機能させ、中央制御部14がプログラム13aに従って撮像装置100の各部を制御する。中央制御部14のこれらの機能については後述する。
【0034】
画像処理部7は、画像の各画素の座標に関する演算、画像の各画素の画素値に関する演算その他の画像処理を行うプロセッサを具備する。画像処理部7は、プログラム13aに従って画像処理を行う。つまり、プログラム13aが画像処理部7を打撃時フレーム特定手段7a、第1の平滑化手段7b、円形分離度算出手段7c、推定手段7d、平均色算出手段7e、第2の平滑化手段7f、楕円分離度算出手段7g、推定手段7h、ずれ量算出手段7i、ずらし量算出手段7j、歪み補正手段7k、座標変換手段7m、回転角推定手段7n、速度算出手段7p、垂直射出角算出手段7s及びスピン速度算出手段7t、水平射出角算出手段7u等として機能させる。画像処理部7のこれらの機能については後述する。
【0035】
続いて、図4に示されたフローチャートを参照して、プログラム13aに従って中央制御部14及び画像処理部7が行う処理の流れについて説明する。なお、以下に説明する処理が中央制御部14及び画像処理部7によって実行される前に、図1に示したように撮像装置100をセッティングする。
【0036】
まず、中央制御部14がプログラム13aによって初期位置設定手段として機能させられることによって、その中央制御部14が画像の各画素の位置を表現する直交二次元座標系の中にボールの初期位置(xini,yini)を設定する(ステップS1)。具体的には、ユーザーが方向操作ボタン8cを操作することによってカーソルをライブビュー画(ライブビュー画は、電子撮像部3によって撮像されて表示部9に表示されている。)の中のボールに合わせて、中央制御部14がそのカーソルの位置を初期位置(xini,yini)に設定する。又は、ユーザーがライブビュー画の中のボールの位置においてタッチパネル8dにタッチしたら、中央制御部14がそのタッチ位置を初期位置(xini,yini)に設定することでもよい。又は、中央制御部14が初期位置(xini,yini)を設定した後、ユーザーが撮像装置100を移動させることによって、ライブビュー画像に表示された枠(枠の中心がボールの初期位置(xini,yini)である。)をボールの位置に合わせることでもよい。初期位置(xini,yini)の際には、ユーザーがライブビュー画の確認を行いやすいようなゲインがユニット回路4に設定されている。なお、後述のように複数の画像が連続的に撮像された後、最初のフレーム又は最初から幾つか後のフレームの画像が表示部9に表示された際に、ユーザーが十字キー41cの操作又はタッチパネル8dのタッチをするによって、画像処理部7がカーソルの位置又はタッチ位置をボールの初期位置(xini,yini)に設定してもよい。なお、電子撮像部3のマトリクス状の画素配列のうち水平ライン(水平方向の画素列)が直交二次元座標系のx方向と平行になり、垂直ライン(垂直方向の画素列)が直交時に原座標系のy方向と平行になる。
【0037】
次に、中央制御部14がプログラム13aによって撮像制御手段14bとして機能することで、その中央制御部14が連続撮像処理を行う(ステップS2)。具体的には、ユーザーがシャッターボタン8aを押下すると、中央制御部14がユニット回路4及び電子撮像部3の駆動タイミング及びフレームレートFrateを設定すると、撮像制御部5がその駆動タイミング・フレームレートに従って電子撮像部3をローリングシャッター方式で繰り返し動作させることで、電子撮像部3が高速で連続撮像を行う。電子撮像部3のシャッタースピードはできる限り速く、フレームレートFrateができる限り高いことが好ましい。
【0038】
連続撮像が行われている際に、打撃者201がボール202を打撃する。そのため、ボール202が静止した時からボール202が打撃されて移動する時まで、ボール像を含む複数の画像が電子撮像部3によって連続して撮像される。電子撮像部3によって撮像された画像が順次ユニット回路4及び画像生成部6を介してリーダー・ライター10に出力され、リーダー・ライター10がそれらの画像を順次記憶部11に記録する。また、画像処理部7は、連続撮像の際の撮像条件(例えば、レンズユニット1の水平画角A、レンズユニット1の垂直画角A、フレームレートFrate等)も記憶部11に記録する。なお、電子撮像部3によって撮像された連続画像がユニット回路4によって信号処理される際には、ユニット回路4のA/D変換器の前のアナログ段(ゲイン調整アンプ)のゲインができる限り高くされていることが好ましい。
【0039】
図5は、ボール202が打撃される前のフレームに含まれるボール像を示したものであり、図6は、ボール202が打撃された後のフレームに含まれるボール像である。図5に示すように、ボール202が静止していれば、ボール像が円形であり、ボール202が移動していれば、ボール像が歪んで楕円形となる。図6では、ボール202が撮像装置100の前を左から右へ移動して、電子撮像部3のイメージセンサが水平ラインごとに上から順に露光・電荷蓄積動作を行ったものとしている。
【0040】
なお、連続撮像の前に初期位置(xini、yini)の設定を行わずに、複数の画像が連続的に撮像された後、最初のフレーム又は最初から幾つか後のフレームが表示部9に表示された際に、ユーザーが方向操作ボタン8cによってカーソルをボール像の位置に合わせることによって(又は、ボール像の位置でタッチパネル8dのタッチをするによって)、中央制御部14がカーソルの位置又はタッチ位置をボールの初期位置(xini、yini)に設定してもよい。
【0041】
次に、中央制御部14がプログラム13aによって入力制御手段14cとして機能させられることで、その中央制御部14が操作入力部8を通じて入力されたデータをバッファメモリ12等に格納する。具体的には、ユーザーが操作入力部8を操作することで、各種の撮影条件(例えば、ボール202の大きさ、撮像距離(撮像距離とは、撮像方向Dに対して直交するととともに打撃前のボール202を通った物体面から撮像装置100(レンズユニット1や電子撮像部3)までの距離)を入力し、中央制御部14が入力された撮像条件をバッファメモリ12に格納する。
【0042】
次に、画像処理部7がプログラム13aによって打撃時フレーム特定手段7aとして機能させられることで、画像処理部7は、記憶部11に記録された複数の連続画像の中から、ボール202が打撃された時のフレームを特定する(ステップS3)。ボール202が打撃された時のフレームを特定する処理(ステップS3)について、図7に示すフローチャートを参照して具体的に説明する。
【0043】
図7に示すように、まず、画像処理部7は、打撃時のフレームの候補を特定し(ステップS11)、その後、その候補フレームの前後複数のフレームの中から、ボール202が打撃された時のフレームを特定し(ステップS12)、ボール打撃時のフレームを表示部9に出力してそのフレームを表示部9に表示させる(ステップS13)。
【0044】
図8は、打撃時のフレームの候補を特定する処理(ステップS11)を具体的に示したフローチャートである。図8に示すように、まず、画像処理部7は、中央制御部14によって設定された初期位置(xini、yini)を中心とした矩形状の領域W(図9の参照)を設定する(ステップS21)。ここで、図9は領域Wを説明するための図面であり、図9では、ボール202の打撃前のフレームが領域Wとともに示されている。領域Wのサイズ(x方向をwxとし、y方向をwyとする。)はボール像のサイズ以内であることが好ましい。なお、領域Wの形状は矩形でなくてもよい。
【0045】
次に、画像処理部7は、記憶部11に記録された複数の連続画像の中から最初からt番目のフレームとそのNフレーム前のフレームを読み出す(Nは2以上の整数で打撃物が領域Wを通過する時間とフレームレートとに基づく十分に大きい値であることが好ましい)。そして、t番目のフレームの領域WとNフレーム前のt−Nフレームの領域Wの差分を算出する(ステップS22,S23,S24)。具体的には、次式に示すように、画像処理部7は、N番目のフレームとその前のフレームとの間で同一画素の画素値の差分の絶対値の領域W内における総和を算出する。
【0046】
【数1】

【0047】
ここで、tはフレームインデックスであり、ft(x,y)はt番目のフレームの各画素の画素値であり、ft-1(x,y)はt−N番目のフレームの各画素の画素値であり、difW1(t)はt番目のフレームの領域Wとその前のフレームの領域Wの差分である。
【0048】
画像処理部7は、以上のような2つのフレーム間の領域Wの差分difW1(t)の計算をNフレームおきに行う(ステップS25:YES、ステップS23、ステップS24)。そして、以上のような差分difW1(t)の計算が画像処理部7によってNフレームおきに繰り返されて、最後のフレームにまで至ったら(ステップS25:YES)、画像処理部7は、差分difW1(t)が最も大きなフレームを打撃時のフレームの候補に特定する(ステップS26)。以下、このフレームのフレームインデックスをN1とする。なお、差分difW1(t)の計算がNフレームおきに行われたので、計算処理の負担の軽減が図れる。
【0049】
図10には、そのN1番目のフレーム、N1−N番目のフレーム、N1−2N番目のフレームの場合のボールの状態を示す。図11には、Nフレームおきの各フレームについて算出された差分を示す。図11において、横軸はフレームインデックスを示し、縦軸は差分difW1(t)を示す。図10に示すように、ボール202が打撃された時のフレームの前のN1−N番目のフレームでは、ボールが静止している状態であり、そのフレーム後のN1番目のフレームでは、ボール像が領域Wから外れて打撃物(ゴルフクラブのヘッド等)の像が領域Wを通過している。そのため、図11に示すように、N1番目のフレームでは、Nフレームおきの2つのフレーム間の領域Wの差分difW1(t)が最大値をとる。そこで、差分difW1(t)が最も大きなフレームを打撃時のフレームの候補に特定する。しかし、このN1−N番目のフレームからN1番目の候補フレームの間のどのフレームが、ボールが打撃されて動き出した時のフレームなのか判別できない。そこで、図12に示す処理が画像処理部7によって行われる。
【0050】
図12は、打撃時のフレームを特定する処理(ステップS12)を具体的に示したフローチャートである。
まず、画像処理部7は、図8に示すステップS26において特定したN1番目の候補フレームの2Nフレーム前のフレーム(N1−2N番目のフレーム)を記憶部11から読み出し(ステップS31)、そのフレームの領域Wをテンプレートとする(ステップS32)。
【0051】
そして、画像処理部7は、記憶部11から次のフレームを読み出し(ステップS33)、テンプレートとしたN1−2N番目のフレームの領域Wと次のフレームの領域Wの差分を算出する(ステップS34)。具体的には、次式に示すように、画像処理部7は、N1−2N番目のフレームとその次のフレームとの間で同一画素の画素値の差分の絶対値の領域W内における総和を算出する。
【0052】
【数2】

【0053】
ここで、ftmp(x,y)はテンプレートとしたN1−2N番目のフレーム中の各画素の画素値であり、difW2(t)はテンプレートとしたN1−2N番目のフレームの領域Wとt番目のフレームの領域Wの差分である。なお、図13には、1フレームおきの各フレームについて算出された差分を示し、図13において、横軸はフレームインデックスを示し、縦軸は差分difW2(t)を示す。
【0054】
画像処理部7は、差分difW2(t)の計算を1フレームごとに行う(ステップS35:NO、ステップS33、ステップS34)。画像処理部7は差分difW2(t)の計算をK回(但し、0<K<N)繰り返し行う(ステップS35:YES)。すなわち、確実にボールが移動していないN1−2N番目のフレームからN1−2N+K番目のフレームの期間の差分difW2(t)を取得し、最大となる差分difW2(t)に基づいて閾値thiを設定する(ステップS36)。例えば、閾値thiは、最大となる差分difW2(t)の2倍の値とする。
【0055】
その後も、画像処理部7は、ftmp(x,y)をテンプレートとしてN1−N番目のフレームからN1番目のフレームまでについての差分difW2(t)の計算を1フレームごとに行う(ステップS37、ステップS38、ステップS39、ステップS40:NO)。N1番目の候補フレームにまで至ったら(ステップS40:YES)、画像処理部7は、差分difW2(t)が閾値thi以上であって且つ最も差分difW2(t)が大きなフレームを打撃時のフレームに特定する(ステップS41)。閾値thi以上としたのは、ボールが打撃される前のフレームや打撃された後で領域W内にボールが無いフレームでのノイズ等による比較的大きな差分difW2(t)を排除するためである。以下、打撃時のフレームのフレームインデックスをN2とする。なお、画像処理部7は、差分difW2(t)が閾値thi以上の最初のフレームを打撃時のフレームに特定してもよい。
【0056】
以上のように、ボール202が打撃された時のフレームは、画像処理部7が行う画像処理によって特定される。そのため、ボール202が打撃されたことを検出するトリガセンサが不要となり、撮像装置100の構成がシンプルになる。また、ユニット回路4のISO感度(ゲイン)を上げて、連続撮像画像にノイズが発生しやすくても、差分difW1(t)や差分difW2(t)を利用して打撃時のフレームが検出されたので、ノイズの影響を受けにくい。
【0057】
図4に示すように、ボール202が打撃された時のフレームが特定されたら(ステップS3)、画像処理部7はボール202が打撃される前のボール像のサイズ及び中心位置を検出する(ステップS4)。
【0058】
図14は、ボール202が打撃される前のボール像のサイズ及び中心位置を算出する処理(ステップS4)を具体的に示したフローチャートである。図14に示すように、まず、画像処理部7は、ボール202が打撃される前のフレームの中の背景を平滑化(除去)し(ステップS41)、その後、背景が平滑化されたフレームの中のボール像の中心位置及び半径を算出し(ステップS42)、算出した中心位置及び半径を出力する(ステップS43)。
【0059】
図15は、背景の平滑化処理(ステップS41)を具体的に示したフローチャートである。背景の平滑化処理(ステップS41)は、プログラム13aによって第1の平滑化手段7bとして機能させられた画像処理部7によって行われる。
【0060】
図15に示すように、画像処理部7は、打撃時のN2番目のフレームよりも幾つか前のフレーム(以下、打撃前フレームという。)と、打撃時のN2番目のフレームよりも幾つか後のフレーム(以下、打撃後フレームという。)とを記憶部11から読み出す(ステップS51)。打撃前フレームから打撃時のフレームまでのフレーム数や、打撃時のフレームから打撃後フレームまでのフレーム数は、連続撮影時のフレームレートFrate及びレンズユニット1の画角に基づいて決定される。具体的には、打撃前フレームは、ボール202を打撃する打撃物が撮像範囲Eに入る直前のフレームであり、打撃後フレームは、打撃されたボール202が撮像範囲Eから外れていることが好ましい。従って、打撃前フレームには打撃物の像が含まれず、打撃後フレームにはボール像が含まれていない。
【0061】
次に、画像処理部7は、打撃前フレームをバイラテラルフィルターによってフィルタリングする(ステップS52)。バイラテラルフィルターは、画像に含まれるエッジを保持しつつ、その画像をぼかすものである。従って、フィルタリング処理後の出力フレームでは、ボール像のエッジが保持されつつ、ボール像や背景部分等の中のノイズが除去される。同様に、画像処理部7は、打撃後フレームをバイラテラルフィルターによってフィルタリングする(ステップS52)。
【0062】
次に、フィルタリング処理された打撃前フレーム及び打撃後フレームの色空間がRGB色空間等のようにHSV色空間以外であれば、画像処理部7は、フィルタリング処理された打撃前フレーム及び打撃後フレームの色空間をHSV色空間に変換する(ステップS53)。なお、色空間の変換処理は省略してもよい。
【0063】
次に、画像処理部7は、打撃前フレームと打撃後フレームの差分の絶対値を求める(ステップS54)。つまり、画像処理部7は、打撃前フレームと打撃後フレームとの間で同一画素の画素値の差分の絶対値を求める。これにより、打撃前フレームのボール像の周囲の背景部分は打撃後フレームの背景部分によって平滑化されるが、打撃前フレームのボール像は保持される。
【0064】
図16は、ボール像の中心位置及び半径を算出する処理(ステップS42)を具体的に示したフローチャートである。図16に示す処理では、プログラム13aが画像処理部7を円形分離度算出手段7cとして機能させることによって、画像処理部7が図17に示すような円形分離度フィルターを利用して各画素の分離度を算出するので、円形分離度フィルターについて具体的に説明する。
【0065】
図17に示すように、円形分離度フィルターは、座標(x,y)に中心を持つ半径rの円形状の内領域A1と、内領域A1と同心状の領域であって内領域A1の外側において内領域A1に隣接する半径rmaxの外領域A2と、から構成される。この円形分離度フィルターは、内領域A1と外領域A2の画素の分離度を算出するものである。分離度は、領域全体の画像特徴量(例えば、画素値(輝度値)、画素値の特定の色成分や色相等)の集合全体を領域A1,A2に分割した場合に、内領域A1と外領域A2との間で画像特徴量がどの程度分離しているかを示す量である。具体的には、分離度をηとした場合、次式によって分離度が求められる。
【0066】
【数3】

【0067】
分離度ηは、内領域A1と外領域A2の間の変動が領域A1,A2全体の変動に占める割合であって、最大1に正規化された値となっている。分離度ηは、0<η≦1の範囲の値をとる。内領域A1と外領域Aとの間で画像特徴量がより大きく分離するにつれて、分離度ηがより大きくなる。内領域A1と外領域Aとの間で画像特徴量が最も分離していると、分離度ηが最大値をとる。従って、円形分離度フィルターの半径rを最小値rminから最大値rmaxの範囲内で所定刻み幅(例えば、1〜数画素)で変化させるとともに、円形分離度フィルターの中心位置(x,y)を所定範囲(例えば、初期位置(xini、yini)を中心とした範囲)内で所定刻み幅(例えば、1〜数画素)で変化させて、最大の分離度ηをとる半径r及び中心位置(x,y)をボール像の半径及び中心位置として推定する。
【0068】
具体的には、図16に示すように、画像処理部7は、円形分離度フィルターの中心位置(x,y)及び半径rを初期値(例えば、初期位置(xini、yini)、最小値rmin)に設定する(ステップS61)。次に、画像処理部7は、背景が平滑化された打撃直前のフレーム(図15に示すステップS54の処理で得られたフレーム)を円形分離度フィルターによってフィルタリング処理することによって、内領域A1と外領域A2の各画素の分離度を算出する(ステップS62)。次に、画像処理部7は、画素ごとの分離度の分布に対して補間処理を行うことによって、画素間のサブピクセル単位で分離度を求める(ステップS63)。例えば、画像処理部7は、放物線近似法を利用したサブピクセル推定法によって分離度分布の補間を行う。その後、画像処理部7は、円形分離度フィルターの中心位置(x,y)及び半径rを所定幅だけずらしながら(ステップS65)、同様なフィルタリング処理及び補間処理を繰り返す(ステップS64:YES、ステップS63、ステップS62)。そして、そのような処理の繰り返しが終了したら(ステップS64:YES)、画像処理部7は最大の分離度を得た半径r及び中心位置(x,y)を打撃直前のボール像の半径と中心位置と推定する(ステップS65)。つまり、ステップS65では、画像処理部7は、プログラム13aによって、打撃直前のボール像の半径及び中心位置を推定する推定手段7dとして機能する。
【0069】
以上のように推定された半径をr1とし、中心位置の座標を(x1,y1)とする。画像処理部7が半径r1及び中心位置(x1,y1)をリーダー・ライター10に出力して、リーダー・ライター10が半径r1及び中心位置(x1,y1)を記憶部11に記録する。また、半径r1や中心位置(x1,y1)を数値や図面等で表す映像が、画像処理部7及び中央制御部14の指令によって表示部9に表示される(図14のステップS43参照)。
【0070】
以上のように、分離度は輝度値(画素値)の大きさにとらわれず、輝度の分散という正規化された値であるから、分離度フィルターの形状に適応したボール像の半径・中心位置が精度良く算出される。その上、分離度フィルターによるフィルタリング処理の前にボール像の背景が平滑化されたから、ボール像の周囲にあるノイズや紛らわしい像が除去されて、ボール像の半径・中心位置の検出精度がより高くなる。
【0071】
図4に示すように、ボール202が打撃される直前のボール像の半径r1及び中心位置(x1,y1)が検出されたら(ステップS4)、画像処理部7がプログラム13aによって平均色算出手段7eとして機能する(ステップS5)。具体的には、画像処理部7は、打撃直前のフレームについて中心位置(x1,y1)付近の複数の画素の平均色(以下、その平均色をaveBとする。)を算出する(ステップS5)。そして、画像処理部7は、算出した平均色aveBをバッファメモリ12等に記憶しておく。RGB色空間であれば、平均色は、中心位置(x1,y1)の複数の画素のR値(赤の輝度値)の平均値と、G値(緑の輝度値)の平均値と、B値(青の輝度値)の平均値とによって表される。
【0072】
次に、画像処理部7はボール202が打撃された後のボール像の長径、短径、中心位置及び傾斜角を検出する(ステップS6)。図6に示すように、打撃後のボール像が楕円形に歪んでおり、ボール像の傾斜角とはx方向の水平ラインを基準とした長径の傾斜角をいう。
【0073】
図18は、ボール202が打撃された後のボール像のサイズ、中心位置及び傾斜角を算出する処理(ステップS6)を具体的に示したフローチャートである。図18に示すように、まず、画像処理部7は、打撃後のフレーム(以下、そのフレームインデックスをTとする。)の中の背景を平滑化し(ステップS71)、その後、背景が平滑化されたフレームの中のボール像の中心位置、長径及び短径を算出し(ステップS72)、背景が平滑化されたフレームの中のボール像の水平ライン(x方向)に対する角度を算出する(ステップS73)。
【0074】
図19は、背景の平滑化処理(ステップS71)を具体的に示したフローチャートである。背景の平滑化処理(ステップS71)は、プログラム13aによって第2の平滑化手段7fとして機能させられた画像処理部7によって行われる。
【0075】
図19に示すように、フレームインデックスがN2よりも大きい打撃後のフレームを記憶部11から読み出すとともに、そのフレームの1つ前のフレーム(以下、そのフレームインデックスをT−1とする。)と1つ後のフレーム(以下、そのフレームインデックスをT+1とする。)も記憶部11から読み出す(ステップS81)。
【0076】
次に、図20に示すように、画像処理部7は、打撃後のフレームとその1つ前のフレームの差分の絶対値を算出する。つまり、画像処理部7は、打撃後のフレームとその1つ前のフレームとの間で同一画素の画素値の差分の絶対値を求める。更に、画像処理部7は、打撃後のフレームとその1つ後のフレームの差分の絶対値を算出する。つまり、画像処理部7は、打撃後のフレームとその1つ後のフレームとの間で同一画素の画素値の差分の絶対値を求める。そして、次式に示すように、画像処理部7は、それら求めた2つの差分の絶対値の積(但し、和でも良い。)を算出することで、打撃後のフレームの中のボール像を強調し、ボール像と背景との間のコントラストを高める(ステップS82)。
【0077】
【数4】

【0078】
ここで、fT(x,y)は打撃後のフレームの各画素の画素値であり、fT-1(x,y)はその1つ前のフレームの各画素の画素値であり、fT+1(x,y)はその1つ後のフレームであり、MdifT(x,y)は打撃後のフレームのボール像を強調した後の画像の各画素の画素値である。
【0079】
次に、画像処理部7は、打撃後のフレームの画素ごとの尤度を算出する(ステップS83)。尤度とは、画素の色(画素値)がボール像の色にどの程度尤もらしいかを示す量である。具体的には、次式に示すように、画像処理部7は、色空間における、先に求めた平均色aveBの点から打撃後のフレームの各画素の画素値の点までのベクトルの各次元の二乗和(L2ノルム)の逆数を各画素の尤度CdifT(x,y)として算出する。
【0080】
【数5】

【0081】
例えば、打撃後のフレームの色空間がRGB色空間であれば、C、CT1(x,y)はR値であり、C、CT2(x,y)はG値であり、C,CT3(x,y)はB値である。打撃後のフレームの画素の色(画素値)と平均色aveBが近くなるにつれて、尤度CdifT(x,y)が高くなる。
【0082】
次に、画像処理部7は、次式で示すように、ステップS82で算出した強調後のフレーム(MdifT(x,y)の分布)に、ステップS83で算出した尤度CdifT(x,y)の分布を乗ずる(ステップS84)。これにより、画像処理部7は、打撃後のフレームから背景を平滑化してボール像を強調した画像estImgTを算出する。
【0083】
【数6】

【0084】
画像estImgTが算出されたら、図18に示すように、画像処理部7は画像estImgTの中のボール像の中心位置、長径、短径及び傾斜角を算出する(ステップS72,ステップS73)。ステップS72,ステップS73の処理では、プログラム13aが画像処理部7を楕円分離度算出手段7gとして機能させることによって、画像処理部7が図21に示すような楕円分離度フィルターを利用して各画素の分離度を算出するので、楕円分離度フィルターについて具体的に説明する。
【0085】
楕円分離度フィルターは、座標(x,y)に中心を持つ長径L、短径Sの楕円形状の内領域A3と、内領域A3と同心状の領域であって内領域A3の外側において内領域A3に隣接する長径Lmax、短径Sminの外領域A4と、から構成される。内領域A3の外縁となる楕円と、外領域A4の外縁となる楕円は相似形である。また、長径L、長径Lmaxがx方向の水平ラインに対して傾斜しており、その傾斜角はθである。この楕円分離度フィルターは、形状こそ上述した円形分離度フィルターと異なるものの、円形分離度フィルターと同様に、内領域A3と外領域A4の画素の分離度を算出するものである。従って、円形分離度フィルターにおける分離度ηの算出式を楕円分離度フィルターにおける分離度の算出式に適用することができる。そのため、楕円分離度フィルターの長径Lを最小値Lminから最大値Lmaxの範囲内で所定刻み幅(例えば、1〜数画素)で変化させ、短径Sを最小値Sminから最大値Smaxの範囲内で所定刻み幅(例えば、1〜数画素)させ、楕円分離度フィルターの中心位置(x,y)を所定範囲内で所定刻み幅(例えば、1〜数画素)で変化させ、更に楕円分離度フィルターの傾斜角θを所定範囲内で所定刻み幅で変化させることで、最大の分離度ηをとる長径L、短径S、中心位置(x、y)及び傾斜角θをボール像の長径、短径、中心位置及び傾斜角として推定する。
【0086】
楕円分離度フィルターを用いてボール像の中心位置、長径及び短径を算出する処理(ステップS72)について具体的に説明する。
まず、画像処理部7は、楕円分離度フィルターの中心位置(x,y)、長径L、短径S及び傾斜角θを所定の初期値に設定する。なお、ボール202が移動する際のボール像の歪みが予めおおよそ特定されているので、その歪みに基づいて傾斜角θの初期値が設定される。
次に、画像処理部7は、画像estImgTを楕円分離度フィルターによってフィルタリング処理することによって、内領域A3と外領域A4の各画素の分離度を算出する。
次に、画像処理部7は、画素ごとの分離度の分布に対して補間処理を行うことによって、画素間のサブピクセル単位で分離度を算出する。
その後、画像処理部7は、傾斜角θを一定に保った状態で楕円分離度フィルターの中心位置(x,y)、長径L及び短径Sを所定幅だけずらしながら、同様なフィルタリング処理及び補間処理を繰り返す。傾斜角θを一定に保った状態としたので、処理の繰り返し回数が減り、計算処理の負担軽減が図れる。長径L及び短径Sを所定幅ずらす際に、長径Lと短径Sの比率を一定とすることが好ましい。そうすれば、内領域A3の外縁の楕円形状が外領域A4の外縁の楕円形状と相似形を保つ。但し、長径L及び短径Sを所定幅ずらす際に、長径L及び短径Sの比率が一定でなくてもよい。
【0087】
そして、以上のような分離度算出処理の繰り返しが終了したら、画像処理部7がプログラム13aによって推定手段7hとして機能させられる。推定手段7hとして機能する画像処理部7は、繰り返して算出された分離度のうち最大の分離度を得た長径L、短径S及び中心位置(x,y)を打撃後のボール像の長径、短径及び中心位置と推定する。
以下、以上のようにして推定された長径をL2、短径をS2、中心位置の座標を(x2,y2)とする。推定された長径L2、短径S2及び中心位置(x2,y2)は、画像処理部7及びリーダー・ライター10によって記憶部11に記録される。
【0088】
楕円分離度フィルターを用いてボール像の傾斜角を算出する処理(ステップS73)について具体的に説明する。
まず、画像処理部7は、楕円分離度フィルターの中心位置(x,y)、長径L及び短径Sを(x2,y2)、L2、S2に設定する。更に、画像処理部7は、傾斜角θを所定の初期値に設定する。
次に、画像処理部7は、画像estImgTを楕円分離度フィルターによってフィルタリング処理することによって、内領域A3と外領域A4の各画素の分離度を算出する。
次に、画像処理部7は、画素ごとの分離度の分布に対して補間処理を行うことによって、画素間のサブピクセル単位で分離度を算出する。
その後、画像処理部7は、楕円分離度フィルターの中心位置(x,y)、長径L及び短径Sを(x2,y2)、L2、S2に保った状態で楕円分離度フィルターの傾斜角θを所定幅だけずらしながら、同様なフィルタリング処理及び補間処理を繰り返す。中心位置(x,y)、長径L及び短径Sを一定に保った状態としたので、処理の繰り返し回数が減り、計算処理の負担軽減が図れる。
【0089】
そして、以上のような分離度算出処理の繰り返しが終了したら、画像処理部7がプログラム13aによって推定手段7hとして機能させられる。推定手段7hとして機能する画像処理部7は、繰り返して算出された分離度のうち最大の分離度を得た傾斜角θを打撃後のボール像の傾斜角と推定する。以下、このように推定された傾斜角をθ2とする。推定された傾斜角θ2は、画像処理部7及びリーダー・ライター10によって記憶部11に記録される。
【0090】
なお、上述の説明では、分離度の算出処理が、傾斜角θが固定されたステップS72の処理と、長径L、短径S及び中心座標(x,y)が固定されたステップS73の処理の2つに分かれている。それに対して、傾斜角θ、長径L、短径S及び中心座標(x,y)を固定せずに、画像処理部7は、楕円分離度フィルターの中心位置(x,y)、長径L、短径S及び傾斜角θを所定幅だけずらしながら、同様なフィルタリング処理及び補間処理を繰り返してもよい。その場合でも、画像処理部7は、最大の分離度を得た長径L、短径S、中心位置(x,y)及び傾斜角θを打撃後のボール像の長径、短径、中心位置及び傾斜角と推定する。
【0091】
画像処理部7は、打撃後のボール像の長径、短径、中心位置及び傾斜角の算出(図18参照)を、打撃時のN2番目のフレームの後の2以上のフレームに対して行う。特に、画像処理部7は、打撃後のボール像の長径、短径、中心位置及び傾斜角の算出を、打撃時のN2番目のフレームの後の続いた2以上のフレームに対して行う。勿論、N2番目のフレームの後の全てのフレームに対して、ボール像の長径、短径、中心位置及び傾斜角の算出を行ってもよい。
【0092】
以上のように、楕円分離度フィルターの領域A3,A4が楕円形であり、ボール像も楕円形に変形しているから、ボール像の長径・短径・中心位置・傾斜角を精度良く算出することができる。その上、分離度フィルターによるフィルタリング処理の前にボール像が強調されて、背景が平滑化されたから、ボール像の長径・短径・中心位置・傾斜角の検出精度がより高くなる。
【0093】
図4に示すように、次に、画像処理部7は、打撃後のフレームとその1つ前のフレーム(このフレームも打撃後のフレームである)に基づいて、これらのフレームの間のボール回転角を検出する(ステップS7)。
【0094】
図22は、ボール回転角を検出する処理(ステップS7)を具体的に示したフローチャートである。図22に示すように、画像処理部7は、打撃後のフレームについて楕円形に歪んだボール像の中心座標の差に基づいて、そのフレームの中のボール像を円形に補正する(ステップS91)。画像処理部7は、ボール像を円形に補正する処理(ステップS91)を、打撃時のN2番目のフレームの後の2以上のフレームに対して行う。特に、画像処理部7は、ボール像を円形に補正する処理を、打撃時のN2番目のフレームの後の続いた2以上のフレームに対して行う。勿論、N2番目のフレームの後の全てのフレームに対して、ボール像を円形に補正する処理を行ってもよい。
そして、画像処理部7は、打撃後の2つのフレームの中の円形に補正されたボール像に基づいて、ボールの回転角を推定する(ステップS92)。
【0095】
図23は、ボール像の楕円形歪みを円形に補正する処理(ステップS91)を示したフローチャートである。
図23に示すように、画像処理部7がプログラム13aによってずれ量算出手段7iとして機能させられることによって、その画像処理部7は、打撃後のフレームとその次のフレームとにおけるボール像の中心のx座標の差に基づいて、補正係数を算出する(ステップS101)。具体的には、画像処理部7は、次式から補正係数を算出する。
【0096】
【数7】

【0097】
ここで、T番目の打撃後フレームにおけるrsd(T)は補正係数である。x2(T)、x2(T+1)は、図18に示す処理によって算出されたものである。補正係数rsd(T)は、ローリングシャッター歪みによって発生したずれ量であって、打撃後のフレームの中の上下に隣り合う水平ライン間がx方向にどの程度ずれているかを示すずれ量である。
【0098】
次に、画像処理部7がプログラム13aによってずらし量算出手段7jとして機能させられることによって、その画像処理部7は、次式から、水平ラインのx方向へのずらし量を算出する(ステップS102)。
【0099】
【数8】

【0100】
yは最も上の水平ラインからの行数を示し、dx(y)はy行目の水平ラインのx方向へのずらし量である。
【0101】
次に、画像処理部7がプログラム13aによって歪み補正手段7kとして機能させられる。歪み補正手段7kとして機能する画像処理部7は、打撃後のフレームの各水平ラインをdx(y)だけx方向へずらすように、打撃後のフレームの各画素のx座標を座標変換する(ステップS103)。この際、画像処理部7は、バイリニア補間法、バイキュービック補間法その他の補間法によって座標変換前のフレームの各画素の間を補間処理しつつ、座標変換を行う。
【0102】
この結果、図24(a)に示すように楕円形に歪んだボール像が、図24(b)に示すように円形に補正される。
【0103】
図25は、ボール像が円形に補正された2つの連続したフレームからボール回転角を推定する処理(ステップS92)を具体的に示したフローチャートである。
【0104】
まず、画像処理部7がプログラム13aによって座標変換手段7mとして機能させられることによって、その画像処理部7は、ボール像が円形に補正されたフレームの中のボール像を、直交XYZ座標系で表された三次元球体モデルの表面に座標変換する(ステップS111)。この際、変換前のx座標と変換後のX座標が平行であり、変換前のy座標と変換後のY座標が平行であることが好ましい。同様に、画像処理部7は、その前のフレームについても円形に補正されたボール像を、直交XYZ座標系で表された三次元球体モデルの表面に座標変換する(ステップS112)。座標変換に際しては、バイリニア補間法、バイキュービック補間法その他の補間法によって座標変換前のボール像の各画素間を補間する。
【0105】
次に、画像処理部7はプログラム13aによって回転角推定手段7nとして機能させられることによって、画像処理部7が2つのフレーム間のボール像(三次元球体モデルに座標変換されたもの)の回転角を推定する。
具体的には、まず、画像処理部7は、次式に示す回転行列Irotを所定の初期値に設定する(ステップS113)。つまり、画像処理部7は、次式に示す回転角度θr、θy、θpを所定の初期値に設定する。
【0106】
【数9】

【0107】
ここで、θrはZ軸回りの回転角(ピッチ角)、θyはY軸回りの回転角(ヨー角)、θpはX軸回りの回転角(ロール角)を示す。
【0108】
次に、画像処理部7は、ステップS112で生成した三次元球体モデルの表面のボール像を回転させることで、そのボール像を次式に示すように回転行列Irotで座標変換する(ステップS114)。
【0109】
【数10】

【0110】
ここで、X、Y、Zは変換前の座標値であり、X、Y、Zは座標変換後の座標値である。なお、座標変換に際しては、バイリニア補間法、バイキュービック補間法その他の補間法によって座標変換前のボール像の各画素間を補間する。
【0111】
次に、画像処理部7は、ステップS112で生成した三次元球体モデルの表面のボール像と、ステップS114で生成した座標変換後のボール像との差分を算出する(ステップS115)。
【0112】
その後、画像処理部7は、回転行列Irotのピッチ角度θr、ヨー角度θy、ロール角度θpを所定幅だけずらしながら、同様な座標変換及び差分算出を繰り返す(ステップS116:YES、ステップS117、ステップS114、S115)。そして、そのような処理の繰り返しが終了したら(ステップS116:YES)、画像処理部7は最小の差分をとる回転角度θr、θy、θpを1フレーム当たりのボールの回転ピッチ角、回転ヨー角、回転ロール角に推定する(ステップS118)。以下、このように求められたT番目のフレームにおける回転ピッチ角、回転ヨー角、回転ロール角をθr2、θy2、θp2とする。
【0113】
画像処理部7は、回転ピッチ角、回転ヨー角、回転ロール角を推定する処理(ステップS92)を、打撃時のN2番目のフレームの後の少なくとも1つのフレームに対して行う。勿論、N2番目のフレームの後の全てのフレームに対して、回転ピッチ角、回転ヨー角、回転ロール角を推定する処理を行ってもよい。
【0114】
図4に示すように、打撃後における回転ピッチ角θr2、回転ヨー角θy2及び回転ロール角θp2が検出されたら(ステップS7)、画像処理部7は撮影条件や算出結果に基づいて打撃後のボール202の運動状態を算出する(ステップS8)。つまり、画像処理部7は、ボール202の速度、垂直射出角、水平射出角、バックスピン速度(オーバースピン速度)及びサイドスピン速度を算出する。
【0115】
具体的には、画像処理部7がプログラム13aによって速度算出手段7pとして機能させられることによって、その画像処理部7は、次式のように、打撃後の2つのフレームにおけるボール像の中心座標からボール202の速度を算出する。
【数11】

【0116】
ここで、(x,y)は打撃後の所定のフレームにおけるボール像の中心座標、(x,y)はその前のフレームにおけるボール像の中心座標、N3はこれらフレームのフレームインデックスの差の絶対値(つまり、これらフレーム間のフレーム数)、Vはx方向の速度[pixel/sec]、Frateはフレームレート、Vはy方向の速度[pixel/sec]である。中止座標(x,y),(x,y)は、図4に示すステップS6の処理で算出されたものである。続いた2つのフレームのボール像の中心座標からボール速度を算出するのであれば、N3の値は1である。打撃後のフレームごとにV及びVを算出してもよい。更に、各種撮影条件や実際のボールの直径やボール像の直径等に基づいて、速度V,Vを画像上の速度から実際の速度に換算してもよい。なお、(x,y)は、打撃前のフレームにおけるボール像の中心座標(図4に示すステップS4で算出されたもの)とし、N3は打撃時のフレームから、中心座標(x,y)を求めた際の打撃後のフレームまでのフレーム数としてもよい。
【0117】
また、画像処理部7がプログラム13aによって垂直射出角算出手段7sとして機能させられることによって、画像処理部7は、次式のように、打撃後の2つのフレームにおけるボール像の中心座標から垂直射出角を算出する。垂直射出角とは、撮像方向Dから見て、水平面を基準とした上下方向へのボールの移動角度である。
【数12】

【0118】
ここで、αは垂直射出角[rad]である。
【0119】
また、画像処理部7がプログラム13aによってスピン速度算出手段7tとして機能させられることによって、その画像処理部7が打撃後のボール202のスピン速度を算出する。具体的には、画像処理部7は、打撃後における回転ピッチ角θr2とフレームレートFrateとからバックスピン速度(オーバースピン速度)を算出し、打撃後における回転ヨー角θy2とFrateとからサイドスピン速度を算出する。
【数13】

【0120】
ここで、φはバックスピン速度[rad/sec]、ωはサイドスピン速度[rad/sec]である。
【0121】
また、画像処理部7は、打撃後の2つのフレームにおけるボール像の長径又は短径、の差分から水平射出角を算出する。水平射出角とは、上から見て、レンズユニット1の撮像方向Dに対して直交する鉛直面を基準とした左右方向へのボールの移動角度である。
【数14】

【0122】
ここで、βは水平射出角[rad]、(x,y)は打撃後の所定のフレームにおけるボール像の中心座標、(x,y)はその前のフレーム(但し、打撃後のフレームである。)におけるボール像の中心座標、(x,y)はフレーム(画像)の中心座標、Sxは垂直ライン数、Aは撮像装置100の撮像手段の水平画角、Lは前記所定のフレームにおいて座標(x,y)に中心を有するボール像の長径、Sは前記所定のフレームにおいて座標(x,y)に中心を有するボール像の短径、Lはその前のフレーム(但し、打撃後のフレームである。)において座標(x,y)に中心を有するボール像の長径、Sは前記所定のフレームにおいて座標(x,y)に中心を有するボール像の短径である。La、、L、Sは、図4に示すステップS6の処理で算出されたものである。
【0123】
図26を参照して、βの算定式について説明する。図26に示すように、撮像装置100の撮像手段(レンズユニット1、電子撮像部3)を基準として三次元座標系uvwを定め、その撮像手段を原点に定める。ここで、u方向は電子撮像部3の水平ラインに平行であり、v方向は電子撮像部3の垂直方向に平行であり、w方向は電子撮像部3の水平方向及び垂直方向に対して直交して、撮像方向Dに対して平行である。打撃後のボール202が位置Aにある時に撮像されたフレームのボール像の中心座標を(x,y)とし、それ以前(但し、打撃後である。)にボール202が位置Bにある時に撮像されたフレームのボール像の中心座標を(x,y)とする。位置A,Bはボール202の中心位置とし、位置A,Bのuvw座標はそれぞれ(u,v,wa),(u,v,w)である。撮像距離Dbcは、撮像装置100の撮像手段(レンズユニット1、電子撮像部3)の光軸に対して直交するとともに打撃前のボール202を通った物体面から、撮像装置100の撮像手段までの距離である。
【0124】
位置Aのボール202と撮像装置100の撮像手段とを結ぶ線が光軸を基準として成す角(水平角θHa、垂直角θVa)や、位置Bの202と撮像装置100の撮像手段とを結ぶ線が光軸を基準として成す角(水平角θHb、垂直角θVb)次式で表される。
【数15】

【0125】
ここで、Aは撮像装置100の撮像手段の水平画角、Aは撮像装置100の撮像手段の垂直画角である。
【0126】
位置Bの座標(u,v,w)は以下で近似することができる。
【数16】

【0127】
位置Aのボール202と撮像装置100の撮像手段とを結ぶ線と、位置Bを通ってu方向に対して平行な面との交点の座標(u,v,w)は以下で近似することができる。
【数17】

【0128】
位置Aの座標(u,v,w)は次式で表される。
【数18】

【0129】
ここで、Dは撮像装置100の撮像手段から位置Aまでの距離、Dは撮像装置100の撮像手段から座標(u,v,w)までの距離である。DとDの比は次式で表すことができる。
【数19】

【0130】
よって、水平射出角βは次式のようになる。
【数20】

【0131】
以上のような速度、垂直射出角、水平射出角、バックスピン速度及びサイドスピン速度の算出後、画像処理部7がボール202の速度、垂直射出角、水平射出角、バックスピン速度及びサイドスピン速度をリーダー・ライター10に出力して、リーダー・ライター10が速度、垂直射出角、水平射出角、バックスピン速度及びサイドスピン速度を記憶部11に記録する。また、算出された速度、垂直射出角、水平射出角、バックスピン速度及びサイドスピン速度を数値や図面等で表す映像が、画像処理部7及び中央制御部14の指令によって表示部9に表示される。
【0132】
以上のように本実施の形態によれば、楕円分離度フィルターによって楕円形状のボール像の長径・短径・中心位置・傾斜角を精度良く算出することができるから、ボール202の速度、垂直射出角及び水平射出角の計算精度も高い。
また、楕円形に歪んだボールの像を円形に補正したので、バックスピン速度及びサイドスピン速度をより正確に算出することができる。
【0133】
〔第2の実施の形態〕
図27は、本発明の第2実施形態に係る撮像装置100Aの概略構成を示すブロック図である。第2実施形態に係る撮像装置100Aと、第1実施形態に係る撮像装置100との間で互いに対応する部分には、同一の符号を付す。
【0134】
第2実施形態に係る撮像装置100Aと、第1実施形態に係る撮像装置100とは、プログラムメモリ13に格納されたプログラム13a,13bが相違するとともに、プログラム13a,13bによる中央制御部14及び画像処理部7の機能が相違する。
【0135】
第2実施形態に係る撮像装置100Aでは、プログラム13bが中央制御部14を入力制御手段14g及び撮像制御手段14bとして機能させる。撮像制御手段14bについては、第1実施形態と同様である。入力制御手段14gについては後に詳細に説明する。
【0136】
また、プログラム13bは、画像処理部7を平滑化手段7f、楕円分離度算出手段g、推定手段7h、第1の交点算出手段7v、第2の交点算出手段7w、速度算出手段7x及び垂直射出角算出手段7yとして機能させる。平滑化手段7f、楕円分離度算出手段g及び推定手段7hは、第1実施形態と同様である。第1の交点算出手段7v、第2の交点算出手段7w、速度算出手段7x及び垂直射出角算出手段7yについては後に詳細に説明する。
【0137】
図28に示されたフローチャートを参照して、プログラム13bに従って中央制御部14及び画像処理部7が行う処理の流れについて説明する。
まず、中央制御部14がプログラム13aによって入力制御手段14gとして機能することで、その中央制御部14が操作入力部8を通じて入力されたデータをバッファメモリ12等に格納する。具体的には、ユーザーが操作入力部8を操作することで、実際のボール202の直径又は半径を入力し、中央制御部14が入力された直径をバッファメモリ12に格納するか、入力された半径の2倍をバッファメモリ12に格納する(ステップS121)。なお、直径が予め記憶部11又はプログラムメモリ13等に記録されていてもよいし、プログラム13bに組み込まれていてもよい。
【0138】
次に、中央制御部14がプログラム13aによって撮像制御手段14bとして機能することで、その中央制御部14が連続撮像処理を行う。具体的には、ユーザーがシャッターボタン8aを押下すると、中央制御部14が撮像制御部5を通じて電子撮像部3の連続撮像を行わせる(ステップS122)。その際、打撃者がボール202を打撃する。連続撮像処理(ステップS122)は第1実施形態における連続撮像処理(ステップS2)と同様である。なお、打撃前のボール202近傍にトリガセンサが設けられ、打撃者がボール202を打撃したことがトリガセンサによって検出され、そのトリガ信号が中央制御部14に入力されたら、中央制御部14が撮像制御部5を通じて電子撮像部3の連続撮像を行わせてもよい。また、連続撮像ではなく、ボール202の打撃後に高速なシャッタースピードで1枚の静止画を撮像するものとしてもよい。
【0139】
次に、画像処理部7は、打撃後のフレームを記憶部11から読み出す(ステップS123)。
次に、画像処理部7がプログラム13bによって平滑化手段7f、楕円分離度算出手段7g及び推定手段7hとして機能させられ、画像処理部7は読み出したフレームの中のボール像の中心位置、長径、短径及び傾斜角を検出する(ステップS124)。ステップS124における処理は、第1実施形態におけるステップS6における処理と同様である。図29に示すように、ステップS124の処理において、最大の分離度をとる長径、短径、中心位置及び傾斜角をそれぞれL4、S4、(x4,y4)及びθ4とする。また、長径L4、短径S4、中心位置(x4,y4)及び傾斜角θ4から規定される楕円を最適楕円という。なお、ステップS124の処理の前に、第1実施形態の場合と同様に、画像処理部7が打撃時のフレームを特定してもよい(図4のステップS1及びステップS4、図8〜図10等参照)
【0140】
次に、画像処理部7は、そのフレームが撮像された時の水平方向(x方向)に沿ったボール202の速度を算出するとともに(ステップS125)、そのフレームが撮像された時の垂直方向(y方向)に沿ったボール202の速度を算出する(ステップS126)。図29を参照して、具体的に説明する。
【0141】
まず、画像処理部7がプログラム13bによって第1の交点算出手段7vとして機能させられることによって、画像処理部7は、最適楕円とそれに接する水平な接線H1との交点の座標(x5,y5)を算出するとともに、最適楕円とそれに接するもう一つの水平な接線H2との交点の座標(x6,y6)を算出する。
次に、画像処理部7がプログラム13bによって第2の交点算出手段7wとして機能させられることによって、その画像処理部7は、中心位置(x4,y4)を通る水平線H3と最適楕円との2つの交点の座標(x7,y7)、(x8,y8)を算出する。
【0142】
そして、画像処理部7がプログラム13bによって速度算出手段7xとして機能させられることによって、その画像処理部7は、次式に基づいて水平方向のボール202の速度を算出する。
【数21】

【0143】
ここで、Vは水平方向のボール速度[mm/sec]であり、Bsizeは実際のボールの直径[mm]であり、Ldは電子撮像部3のイメージセンサによって撮像される際に隣り合う水平ライン間の遅延時間[sec]である。x7とx8の差分の絶対値は、画像におけるボール像の直径と考えられる。また、「(y6−y5)×Ld」は、水平接線H1の露光・電荷蓄積時から水平接線H2の露光・電荷蓄積時までの時間である。
【0144】
仮に静止した円形ボールを撮像すれば、x5=x6である。よって、x5とx6の差分を「(y6−y5)×Ld」で除して得られた値は、画像上のボール像の速度と考えられる。従って、上の式によって水平方向のボール速度[mm/sec]が求まる。
【0145】
また、速度算出手段7xとして機能した画像処理部7は、次式に基づいて垂直方向のボール202の速度を算出する。
【数22】

【0146】
ここで、Vは垂直方向のボール速度[mm/sec]である。
仮に上方へ移動する円形ボールを撮像すれば、その円形ボールの像が上下に圧縮される。そのため、圧縮されたラインの量をライン間時間で除して得られた値が速度と考えられる。
【0147】
また、画像処理部7がプログラム13bによって垂直射出角算出手段7yとして機能させられることによって、画像処理部7は、次式に基づいて垂直射出角α[rad]を算出する。
【数23】

【0148】
そして、画像処理部7が算出した速度及び垂直射出角をリーダー・ライター10に出力して、リーダー・ライター10が速度及び垂直射出角を記憶部11に記録する。また、算出された速度及び垂直射出角を数値や図面等で表す映像が、画像処理部7及び中央制御部14の指令によって表示部9に表示される。
【0149】
本実施形態においては、打撃後の1つのフレームによってボール202の速度及び垂直射出角が算出されるので、計算処理の負担の軽減が図れる。また、楕円分離度フィルターによって楕円形状のボール像の長径・短径・中心位置・傾斜角を精度良く算出することができるから、ボール202の速度及び垂直射出角の計算精度も高い。
【0150】
〔変形例〕
なお、本発明を適用可能な実施形態は、上述した実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲で適宜変更可能である。
【0151】
例えば、撮像装置100,100Aの構成は、上記第1、第2の実施形態に例示したものは一例であり、これらに限られるものではない。
【0152】
また、第1、第2の実施形態にあっては、中央制御部14の制御下にて、画像処理部7がプログラム13a,13bを実行することによって各種手段7a〜7n、7p、7s〜7u,7v〜7y等の機能を実現したものした。しかし、これらに限られることではなく、中央制御部14がプログラムメモリ13に格納されたプログラム13,13bを実行するによってこれらの手段7a〜7n、7p、7s〜7u,7v〜7y等の機能を実現してもよい。
【0153】
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
【0154】
また、上述の説明では、記憶部11に記録された複数の連続画像(連続フレーム)は、撮像手段(レンズユニット1、電子撮像部3、ユニット回路4及び撮像制御部5)によって撮像されたものであった。それに対して、撮像装置100に組み込また撮像手段以外の撮像手段(例えば、外部のデジタルカメラ)等によって連続撮像された連続画像が記憶部11に記憶されており、それらの連続画像に対して画像処理部7が上述の処理を行ってもよい。
【0155】
〔付記〕
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
<請求項1>
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分とフレーム間のフレーム数とフレームレートとから、前記ボールの速度を算出する速度算出手段と、を備えることを特徴とする撮像装置。
<請求項2>
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分から、水平面を基準とした前記ボールの上下方向への射出角を算出する垂直射出角算出手段と、を備えることを特徴とする撮像装置。
<請求項3>
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の長径又は短径と前記撮像手段の水平画角と前記フレームの中心座標と前記フレームの垂直ライン数とから、前記撮像手段の撮像方向に直交する面を基準とした前記ボールの左右方向への射出角を算出する水平射出角算出手段と、を備えることを特徴とする撮像装置。
<請求項4>
前記推定手段は、前記内領域の傾斜角を一定にした状態で前記内領域の中心位置、長径及び短径を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径及び短径を前記ボール像の中心位置、長径及び短径として推定し、その推定した中心位置、長径及び短径に前記内領域の中心位置、長径及び短径を一定にした状態で前記内領域の傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる傾斜角を前記ボール像の傾斜角として推定することを特徴とする請求項1から3の何れか一項に記載の撮像装置。
<請求項5>
前記推定手段によって推定された中心位置のフレーム間における水平方向の差分から、隣り合う水平ラインの間にローリングシャッターによって生じる水平方向のずれ量を算出するずれ量算出手段と、
前記ずれ量に基づき前記フレームのボール像に生じた歪みを円形に補正する歪み補正手段と、
前記歪み補正手段によって補正されたボール像を三次元球体モデルの表面に座標変換する座標変換手段と、
前記座標変換手段によって座標変換されたボール像のフレーム間における回転角を推定する回転角推定手段と、
前記回転角推定手段によって推定された回転角とフレームレートとから、前記ボールのスピン速度を算出するスピン速度算出手段と、を備えることを特徴とする請求項1から4の何れか一項に記載の撮像装置。
<請求項6>
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により撮像されることによってそのボール像が楕円形に歪んだ状態で含まれるフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された中心位置、長径、短径及び傾斜角によって規定される楕円とそれに接する水平な二本の接線との交点の位置を算出する第1の交点算出手段と、
前記推定手段によって推定された中心位置を通る水平線と前記楕円との交点を算出する第2の交点算出手段と、
前記第1の交点算出手段及び前記第2の交点算出手段によって算出された交点の位置と、前記撮像手段のローリングシャッターにおける水平ライン間の遅延時間と、前記ボールの実サイズとに基づき前記ボールの速度を算出する速度算出手段と、を備えることを特徴とする撮像装置。
<請求項7>
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分とフレーム間のフレーム数とフレームレートとから、前記ボールの速度を算出する速度算出手段、
として機能させることを特徴とするプログラム。
<請求項8>
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分から、水平面を基準とした前記ボールの上下方向への射出角を算出する垂直射出角算出手段、
として機能させることを特徴とするプログラム。
<請求項9>
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の長径又は短径と前記撮像手段の水平画角と前記フレームの中心座標と前記フレームの垂直ライン数とから、前記撮像手段の撮像方向に直交する面を基準とした前記ボールの左右方向への射出角を算出する水平射出角算出手段、
として機能させることを特徴とするプログラム。
<請求項10>
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により撮像されることによってそのボール像が楕円形に歪んだ状態で含まれるフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された中心位置、長径、短径及び傾斜角によって規定される楕円とそれに接する水平な二本の接線との交点の位置を算出する第1の交点算出手段、
前記推定手段によって推定された中心位置を通る水平線と前記楕円との交点を算出する第2の交点算出手段、
前記第1の交点算出手段及び前記第2の交点算出手段によって算出された交点の位置と、前記撮像手段のローリングシャッターにおける水平ライン間の遅延時間と、前記ボールの実サイズとに基づき前記ボールの速度を算出する速度算出手段、
として機能させることを特徴とするプログラム。
【符号の説明】
【0156】
7 画像処理部
7g 楕円分離度算出手段
7h 推定手段
7i ずれ量算出手段
7k 歪み補正手段
7m 座標変換手段
7n 回転角推定手段
7p 速度算出手段
7s 垂直射出角算出手段
7t スピン速度算出手段
7u 水平射出角算出手段
7v 第1の交点算出手段
7w 第2の交点算出手段
7x 速度算出手段
7y 垂直射出角算出手段
13a、13b プログラム
14 中央制御部
100、100A 撮像装置

【特許請求の範囲】
【請求項1】
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分とフレーム間のフレーム数とフレームレートとから、前記ボールの速度を算出する速度算出手段と、を備えることを特徴とする撮像装置。
【請求項2】
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分から、水平面を基準とした前記ボールの上下方向への射出角を算出する垂直射出角算出手段と、を備えることを特徴とする撮像装置。
【請求項3】
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の長径又は短径と前記撮像手段の水平画角と前記フレームの中心座標と前記フレームの垂直ライン数とから、前記撮像手段の撮像方向に直交する面を基準とした前記ボールの左右方向への射出角を算出する水平射出角算出手段と、を備えることを特徴とする撮像装置。
【請求項4】
前記推定手段は、前記内領域の傾斜角を一定にした状態で前記内領域の中心位置、長径及び短径を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径及び短径を前記ボール像の中心位置、長径及び短径として推定し、その推定した中心位置、長径及び短径に前記内領域の中心位置、長径及び短径を一定にした状態で前記内領域の傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる傾斜角を前記ボール像の傾斜角として推定することを特徴とする請求項1から3の何れか一項に記載の撮像装置。
【請求項5】
前記推定手段によって推定された中心位置のフレーム間における水平方向の差分から、隣り合う水平ラインの間にローリングシャッターによって生じる水平方向のずれ量を算出するずれ量算出手段と、
前記ずれ量に基づき前記フレームのボール像に生じた歪みを円形に補正する歪み補正手段と、
前記歪み補正手段によって補正されたボール像を三次元球体モデルの表面に座標変換する座標変換手段と、
前記座標変換手段によって座標変換されたボール像のフレーム間における回転角を推定する回転角推定手段と、
前記回転角推定手段によって推定された回転角とフレームレートとから、前記ボールのスピン速度を算出するスピン速度算出手段と、を備えることを特徴とする請求項1から4の何れか一項に記載の撮像装置。
【請求項6】
被写体を撮像するローリングシャッター方式の撮像手段と、
前記撮像手段により撮像されることによってそのボール像が楕円形に歪んだ状態で含まれるフレームを取得する撮像制御手段と、
前記撮像制御手段により取得した前記フレームを水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段と、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段と、
前記推定手段によって推定された中心位置、長径、短径及び傾斜角によって規定される楕円とそれに接する水平な二本の接線との交点の位置を算出する第1の交点算出手段と、
前記推定手段によって推定された中心位置を通る水平線と前記楕円との交点を算出する第2の交点算出手段と、
前記第1の交点算出手段及び前記第2の交点算出手段によって算出された交点の位置と、前記撮像手段のローリングシャッターにおける水平ライン間の遅延時間と、前記ボールの実サイズとに基づき前記ボールの速度を算出する速度算出手段と、を備えることを特徴とする撮像装置。
【請求項7】
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分とフレーム間のフレーム数とフレームレートとから、前記ボールの速度を算出する速度算出手段、
として機能させることを特徴とするプログラム。
【請求項8】
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の中心位置の差分から、水平面を基準とした前記ボールの上下方向への射出角を算出する垂直射出角算出手段、
として機能させることを特徴とするプログラム。
【請求項9】
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により連続撮像されることによってそのボール像が楕円形に歪んだ状態で含まれる少なくとも2つのフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された少なくとも2つのフレームの前記ボール像の長径又は短径と前記撮像手段の水平画角と前記フレームの中心座標と前記フレームの垂直ライン数とから、前記撮像手段の撮像方向に直交する面を基準とした前記ボールの左右方向への射出角を算出する水平射出角算出手段、
として機能させることを特徴とするプログラム。
【請求項10】
コンピュータに、
移動するボールがローリングシャッター方式の撮像手段により撮像されることによってそのボール像が楕円形に歪んだ状態で含まれるフレームを、水平ラインに対して長径が傾斜した楕円形の内領域とその内領域と同心状であってその内領域の外側においてその内領域に隣接する外領域とを有する楕円分離度フィルターによってフィルタリング処理することによって、前記内領域と前記外領域の画素の分離度を算出する分離度算出手段、
前記内領域の中心位置、長径、短径及び傾斜角を変更しながら前記分離度算出手段によって算出される分離度が最大となる中心位置、長径、短径及び傾斜角を前記ボール像の中心位置、長径、短径及び傾斜角として推定する推定手段、
前記推定手段によって推定された中心位置、長径、短径及び傾斜角によって規定される楕円とそれに接する水平な二本の接線との交点の位置を算出する第1の交点算出手段、
前記推定手段によって推定された中心位置を通る水平線と前記楕円との交点を算出する第2の交点算出手段、
前記第1の交点算出手段及び前記第2の交点算出手段によって算出された交点の位置と、前記撮像手段のローリングシャッターにおける水平ライン間の遅延時間と、前記ボールの実サイズとに基づき前記ボールの速度を算出する速度算出手段、
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate


【公開番号】特開2013−36846(P2013−36846A)
【公開日】平成25年2月21日(2013.2.21)
【国際特許分類】
【出願番号】特願2011−172877(P2011−172877)
【出願日】平成23年8月8日(2011.8.8)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】