魚眼監視システム
【課題】歪曲円形画像からの切出場所を切り替えても、切り替え前後の画像の空間的な位置関係を把握できるようにする。
【解決手段】魚眼レンズを用いた撮影により得られた歪曲円形画像Sの一部分を切り出して、平面正則画像に変換してモニタに表示する。通常の監視状態では、点P0の近傍領域E0内の画像を切り出してモニタに表示しながら、画像をフレームごとに解析して動体検出を行う。動体60が検出されたときは、動体の中心点Pnの近傍領域En内の画像を切り出してモニタに表示する。表示の切替時には所定の移行期間を設け、点P0から点Pnへ向かう所定の移動経路に沿って切出位置を徐々に移動させるパンニングと、画像の倍率を徐々に変えるズーミングとを行う。パンニング速度は、魚眼レンズの光学的特性を示す仮想球面上での移動速度が所望の速度になるように設定する。その後、動体60を追跡しながら画面を移動する。
【解決手段】魚眼レンズを用いた撮影により得られた歪曲円形画像Sの一部分を切り出して、平面正則画像に変換してモニタに表示する。通常の監視状態では、点P0の近傍領域E0内の画像を切り出してモニタに表示しながら、画像をフレームごとに解析して動体検出を行う。動体60が検出されたときは、動体の中心点Pnの近傍領域En内の画像を切り出してモニタに表示する。表示の切替時には所定の移行期間を設け、点P0から点Pnへ向かう所定の移動経路に沿って切出位置を徐々に移動させるパンニングと、画像の倍率を徐々に変えるズーミングとを行う。パンニング速度は、魚眼レンズの光学的特性を示す仮想球面上での移動速度が所望の速度になるように設定する。その後、動体60を追跡しながら画面を移動する。
Notice: Undefined index: DEJ in /mnt/www/gzt_disp.php on line 298
【特許請求の範囲】
【請求項1】
魚眼レンズを用いた撮影により得られた歪曲円形画像の一部分を切り出して、平面正則画像に変換し、これを画面上に表示する魚眼監視システムであって、
装着した魚眼レンズによって、外界の画像を歪曲円形画像として撮影する魚眼レンズ付ビデオカメラと、
二次元XY座標系上の座標(x,y)で示される位置に配置された多数の画素の集合体によって構成され、前記二次元XY座標系の原点Oを中心とし半径Rをもった歪曲円形画像を、少なくとも1フレーム格納する歪曲円形画像用メモリと、
前記魚眼レンズ付ビデオカメラから1フレームごとの時系列データとして順次与えられる歪曲円形画像を、前記歪曲円形画像用メモリに格納する画像入力部と、
二次元UV座標系上の座標(u,v)で示される位置に配置された多数の画素の集合体によって構成される平面正則画像を格納する平面正則画像用メモリと、
前記平面正則画像用メモリに格納されている平面正則画像を読み出して出力する画像出力部と、
前記画像出力部から出力された平面正則画像を画面上に表示するモニタ装置と、
歪曲円形画像上の1点である切出中心点Pと、所定の平面傾斜角φと、所定の倍率mと、によって構成される実切出条件を、歪曲円形画像の一部から平面正則画像を切り出すための条件として決定する実切出条件決定部と、
前記歪曲円形画像用メモリに格納されている歪曲円形画像の前記切出中心点Pで示される切り出し位置から、前記平面傾斜角φで示される切り出し向きに、前記倍率mで示される切り出しサイズの画像を切り出し、これを平面正則画像に変換して、前記平面正則画像用メモリに格納する画像切出変換部と、
標準切出中心点P0と、標準平面傾斜角φ0と、標準倍率m0と、によって構成される標準切出条件を格納する標準切出条件格納部と、
前記歪曲円形画像用メモリに時系列で順次格納される歪曲円形画像を相互に比較して動体検出処理を行い、動体検出がなされた場合に、検出動体の切り出し位置を示す目標切出中心点Pnと、検出動体の切り出し向きを示す目標平面傾斜角φnと、検出動体の切り出しサイズを示す目標倍率mnと、によって構成される目標切出条件のうち、少なくとも目標切出中心点Pnを、前記実切出条件決定部に与える動体検出部と、
前記動体検出の後、検出動体を追跡する動体追跡処理を行い、追跡動体の切り出し位置を示す追跡切出中心点P(i)と、追跡動体の切り出し向きを示す追跡平面傾斜角φ(i)と、追跡動体の切り出しサイズを示す追跡倍率m(i)と、によって構成される追跡切出条件のうち、少なくとも追跡切出中心点P(i)を、追跡動体が消滅したとの消滅判断がなされるまで、継続して前記実切出条件決定部に与える動体追跡部と、
を備え、
前記実切出条件決定部が、前記動体検出がなされていない静的監視期間を担当する静的監視期間担当部と、前記動体検出がなされた後の所定の移行期間を担当する移行期間担当部と、前記移行期間が完了してから前記消滅判断がなされるまでの動的監視期間を担当する動的監視期間担当部と、を備え、前記静的監視期間担当部は、前記標準切出条件を実切出条件と定め、前記移行期間担当部は、前記標準切出条件から前記目標切出条件へ移行するように段階的に変わる実切出条件を定め、前記動的監視期間担当部は、前記追跡切出条件を実切出条件と定めることを特徴とする魚眼監視システム。
【請求項2】
請求項1に記載の魚眼監視システムにおいて、
歪曲円形画像が配置された二次元XY直交座標系を含む三次元XYZ直交座標系において、原点Oを中心として半径Rの仮想球面を定義し、原点Oに向かって当該仮想球面上の1点に入射した外光が、撮影に用いた魚眼レンズの光学作用によってXY平面上の1点に到達する場合に、当該仮想球面上の1点と当該XY平面上の1点とを相互に対応する点と定義し、切出中心点Pに対応する前記仮想球面上の点である対応点Qをとり、原点Oを起点として前記対応点Qを通るベクトルを視線ベクトルnと定義し、この視線ベクトルn上における、前記原点Oから「倍率mと半径Rとの積m・R」だけ離れた点Gを原点とし、前記点Gを通り前記視線ベクトルnに直交する平面上もしくは当該平面を湾曲させた曲面上に平面傾斜角φに応じた向きをもって配置された二次元UV座標系を定義したときに、
画像切出変換部が、前記二次元UV座標系上の座標(u,v)と前記二次元XY直交座標系上の座標(x,y)との対応関係を示す所定の対応関係式を用いて、座標(u,v)に対応する対応座標(x,y)を算出することにより、歪曲円形画像から切り出した画像を平面正則画像に変換する処理を行うことを特徴とする魚眼監視システム。
【請求項3】
請求項1または2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間前半のパンニング期間において、切出中心点Pが標準切出中心点P0から目標切出中心点Pnへと段階的に変わる実切出条件を定め、移行期間後半のズーミング期間において、倍率mが標準倍率m0から目標倍率mnへと段階的に変わる実切出条件を定めることを特徴とする魚眼監視システム。
【請求項4】
請求項1または2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間をパンニング期間およびズーミング期間に設定し、切出中心点Pが標準切出中心点P0から目標切出中心点Pnへと段階的に変わると同時に、倍率mが標準倍率m0から目標倍率mnへと段階的に変わる実切出条件を定めることを特徴とする魚眼監視システム。
【請求項5】
請求項2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間もしくは一部の期間をパンニング期間に設定し、前記パンニング期間に切出中心点Pを標準切出中心点P0から目標切出中心点Pnへと段階的に変化させる際に、前記標準切出中心点P0についての前記仮想球面上の対応点Q0と、前記目標切出中心点Pnについての前記仮想球面上の対応点Qnと、を定義したときに、切出中心点Pについての前記仮想球面上の対応点Qの前記仮想球面上での移動経路が、前記対応点Q0と前記対応点Qnとを前記仮想球面上で結ぶ最短経路となるようにすることを特徴とする魚眼監視システム。
【請求項6】
請求項5に記載の魚眼監視システムにおいて、
標準切出中心点P0が、二次元XY直交座標系の原点O上に設定されており、
移行期間担当部が、原点Oから目標切出中心点Pnへ向かって、歪曲円形画像の半径に沿って切出中心点Pを移動させることを特徴とする魚眼監視システム。
【請求項7】
請求項2に記載の魚眼監視システムにおいて、
標準切出中心点P0が、二次元XY直交座標系の原点O以外の位置に設定されており、
移行期間担当部が、移行期間の全期間もしくは一部の期間をパンニング期間に設定し、前記パンニング期間に切出中心点Pを標準切出中心点P0から目標切出中心点Pnへと段階的に変化させる際に、標準切出中心点P0から原点Oへ向かって、歪曲円形画像の半径に沿って切出中心点Pを移動させた後、原点Oから目標切出中心点Pnへ向かって、歪曲円形画像の半径に沿って切出中心点Pを移動させることを特徴とする魚眼監視システム。
【請求項8】
請求項5〜7のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、対応点Qの仮想球面上の運動が等速運動となるように、切出中心点Pの位置を変化させることを特徴とする魚眼監視システム。
【請求項9】
請求項5〜7のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、対応点Qの仮想球面上の運動が、パンニング期間の開始部分および終了部分の速度が中間部分の速度よりも遅くなるような不等速運動となるように、切出中心点Pの位置を変化させることを特徴とする魚眼監視システム。
【請求項10】
請求項5〜7のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、
対応点Qの仮想球面上の移動距離bと時間tとの関係を示す関数を格納する関数格納部と、
前記関数を用いて求まる「時間tにおける対応点Qの位置」に対応するXY平面上の点を、当該時間tにおける切出中心点Pとして出力する対応点変換部と、
を有することを特徴とする魚眼監視システム。
【請求項11】
請求項2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間もしくは一部の期間をパンニング期間に設定し、前記パンニング期間に切出中心点Pを標準切出中心点P0から目標切出中心点Pnへと段階的に変化させる際に、切出中心点Pについての仮想球面上の対応点Qが、予め設定された所定の球面移動経路上を、時間に関する関数として設定された所定の球面移動速度で移動するように、切出中心点Pの位置を決定することを特徴とする魚眼監視システム。
【請求項12】
請求項2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間もしくは一部の期間をズーミング期間に設定し、前記ズーミング期間の間、時間軸に沿って単調増加もしくは単調減少するように、倍率mを標準倍率m0から目標倍率mnへと変化させることを特徴とする魚眼監視システム。
【請求項13】
請求項12に記載の魚眼監視システムにおいて、
移行期間担当部が、ズーミング期間の間、倍率mを時間軸に沿って線形変化させることを特徴とする魚眼監視システム。
【請求項14】
請求項12に記載の魚眼監視システムにおいて、
移行期間担当部が、ズーミング期間の開始部分および終了部分の倍率変化速度が、中間部分の変化速度よりも遅くなるような不等速変化するように、倍率mを時間軸に沿って変化させることを特徴とする魚眼監視システム。
【請求項15】
請求項12に記載の魚眼監視システムにおいて、
移行期間担当部が、
倍率mと時間tとの関係を示す関数を格納する関数格納部と、
前記関数を用いて求まる時間tにおける倍率を、当該時間tにおける倍率mとして出力する倍率決定部と、
を有することを特徴とする魚眼監視システム。
【請求項16】
請求項2に記載の魚眼監視システムにおいて、
標準切出条件格納部には、撮影画像における実世界の鉛直軸方向を下方向とする向きに平面正則画像が切り出されるような標準平面傾斜角φ0が設定されており、
動体検出部が、前記鉛直軸方向を下方向とする向きに平面正則画像が切り出されるような目標平面傾斜角φnを設定し、
移行期間担当部が、前記鉛直軸方向を下方向とする向きに平面正則画像が切り出されるように、平面傾斜角φを標準平面傾斜角φ0から目標平面傾斜角φnへと変化させ、
動体追跡部が、前記鉛直軸方向を下方向とする向きに平面正則画像が切り出されるように、追跡平面傾斜角φ(i)を設定することを特徴とする魚眼監視システム。
【請求項17】
請求項16に記載の魚眼監視システムにおいて、
撮像面となるXY平面が鉛直面に一致し、Y軸が鉛直軸Wに対して角度ξをなす方向を向くように魚眼レンズ付ビデオカメラが設置されており、
二次元UV座標系の原点Gを通り、XY平面に平行かつ視線ベクトルnに直交する軸として与えられる回転基準軸Jと、二次元UV座標系のU軸とのなす角を平面傾斜角φと定義し、視線ベクトルnのXY平面上への正射影とY軸とのなす角を方位角αと定義し、U軸方向を平面正則画像の横方向と定義した場合に、常にφ=−α−ξとなる設定が行われることを特徴とする魚眼監視システム。
【請求項18】
請求項17に記載の魚眼監視システムにおいて、
標準切出中心点P0が、二次元XY直交座標系の原点O上に設定されており、
標準切出条件格納部には、V軸が撮影画像の原点Oの位置における実世界の鉛直軸に対応するように平面正則画像が切り出されるような切り出し向きを示す標準切出条件が設定されており、
動体検出部は、目標切出中心点Pnについての方位角をαnとしたときに、目標平面傾斜角φn=−αn−ξなる設定を行い、
移行期間担当部が、常に平面傾斜角φ=φnに設定することを特徴とする魚眼監視システム。
【請求項19】
請求項16に記載の魚眼監視システムにおいて、
撮像面となるXY平面が水平面に一致するように魚眼レンズ付ビデオカメラが設置されており、
二次元UV座標系の原点Gを通り、XY平面に平行かつ視線ベクトルnに直交する軸として与えられる回転基準軸Jと、二次元UV座標系のU軸とのなす角を平面傾斜角φと定義し、U軸方向を平面正則画像の横方向と定義した場合に、常にφ=0°となる設定が行われることを特徴とする魚眼監視システム。
【請求項20】
請求項2に記載の魚眼監視システムにおいて、
画像切出変換部が、平面正則画像を構成する1つの着目画素の座標(u,v)についての対応座標(x,y)を算出し、歪曲円形画像用メモリ内の前記対応座標(x,y)の近傍に配置された画素の画素値を読み出し、読み出した画素値に基づいて前記着目画素の画素値を決定する処理を、前記平面正則画像を構成する各画素について実行し、前記平面正則画像用メモリ内に各画素の画素値を書き込むことにより、平面正則画像に変換する処理を行うことを特徴とする魚眼監視システム。
【請求項21】
請求項20に記載の魚眼監視システムにおいて、
画像切出変換部が、座標(u,v)で示される位置に配置された着目画素の画素値を決定する際に、対応座標(x,y)で示される位置の近傍に配置された歪曲円形画像上の複数の参照画素の画素値に対する補間演算を行うことを特徴とする魚眼監視システム。
【請求項22】
請求項2に記載の魚眼監視システムにおいて、
画像切出変換部が、仮想球面上に、撮影に用いた魚眼レンズの投影方式に応じて、二次元XY直交座標系上の座標(xi,yi)で示される点Siに対応する球面上対応点Qiをとり、原点Oと前記球面上対応点Qiとを結ぶ直線と二次元UV座標系の配置面との交点Tiの前記二次元UV座標系上での座標を(ui,vi)としたときに、前記座標(xi,yi)が前記座標(ui,vi)に対応する対応座標として求まる対応関係式を用いることを特徴とする魚眼監視システム。
【請求項23】
請求項22に記載の魚眼監視システムにおいて、
画像切出変換部が、
歪曲円形画像用メモリに格納されている歪曲円形画像が、正射影方式の魚眼レンズによって撮影された正射影画像である場合には、座標(xp,yp)で示される切出中心点Pに対して、当該点Pを通りZ軸に平行な直線と仮想球面との交点として与えられる座標(xp,yp,zp)で示される点を球面上対応点Qとし、座標(xi,yi)で示される点Siに対して、当該点Siを通りZ軸に平行な直線と仮想球面との交点として与えられる座標(xi,yi,zi)で示される点を球面上対応点Qiとする正射影画像用対応関係式を用い、
歪曲円形画像用メモリに格納されている歪曲円形画像が、非正射影方式の魚眼レンズによって撮影された非正射影画像である場合には、前記正射影画像上の座標と前記非正射影画像上の座標との間の座標変換式を用いて前記正射影画像用対応関係式を補正することにより得られる非正射影画像用対応関係式を用いることを特徴とする魚眼監視システム。
【請求項24】
請求項23に記載の魚眼監視システムにおいて、
画像切出変換部が、視線ベクトルnのXY平面上への正射影とY軸とのなす角を方位角αとし、視線ベクトルnとZ軸正方向とのなす角を天頂角βとして、
A=cosφ cosα − sinφ sinα cosβ
B=−sinφ cosα − cosφ sinα cosβ
C=sinβ sinα
D=cosφ sinα + sinφ cosα cosβ
E=−sinφ sinα + cosφ cosα cosβ
F=−sinβ cosα
w=mR
との定義の下で、座標(u,v)と座標(x,y)との対応関係を示す正射影画像用対応関係式として、
x=R(uA+vB+wC)/√(u2+v2+w2)
y=R(uD+vE+wF)/√(u2+v2+w2)
なる式を用いることを特徴とする魚眼監視システム。
【請求項25】
請求項24に記載の魚眼監視システムにおいて、
画像切出変換部が、
歪曲円形画像用メモリに格納されている歪曲円形画像が、等距離射影方式の魚眼レンズによって撮影された等距離射影画像である場合には、正射影画像上の座標(xa,ya)を等距離射影画像上の座標(xb,yb)に変換する座標変換式
xb=xa(2R/πr) sin-1 (r/R)
yb=ya(2R/πr) sin-1 (r/R)
但し、r=√(xa2+ya2)
を用いて、正射影画像用対応関係式に対する補正を行うことを特徴とする魚眼監視システム。
【請求項26】
請求項1〜25のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、
歪曲円形画像用メモリに所定の初期時点で格納されていた画像を背景歪曲円形画像として保持する背景画像保持部と、
前記歪曲円形画像用メモリに時系列でフレームごとに順次格納される歪曲円形画像上の個々の画素の画素値を、前記背景歪曲円形画像上の対応する画素の画素値と比較し、両者の差がしきい値以上となる画素を着目画素として抽出する対応画素比較部と、
前記着目画素からなる連続領域であって、基準面積以上、かつ、縦幅および横幅がともに所定の基準寸法以上となる条件を満たす着目領域を探索する着目領域探索部と、
前記着目領域を含む歪曲円形画像が、基準のフレーム数以上、連続して得られた場合に、動体検出がなされた旨の判定を行い、最終着目領域に基づいて目標切出条件を生成する動体検出判定部と、
を有することを特徴とする魚眼監視システム。
【請求項27】
請求項26に記載の魚眼監視システムにおいて、
動体検出判定部が、同一の動体に起因して形成されたと予想される特定の着目領域を含む歪曲円形画像が、基準のフレーム数以上、連続して得られた場合に、動体検出がなされた旨の判定を行うようにし、互いに離隔した複数の着目領域が存在する場合には、より面積の大きい着目領域を前記特定の着目領域とする判定を行うことを特徴とする魚眼監視システム。
【請求項28】
請求項26または27に記載の魚眼監視システムにおいて、
動体検出判定部が、最終着目領域の重心位置を目標切出中心点Pnと設定し、最終着目領域の縦幅および横幅に基づいて目標倍率mnを設定することを特徴とする魚眼監視システム。
【請求項29】
請求項1〜28のいずれかに記載の魚眼監視システムにおいて、
動体追跡部が、
歪曲円形画像用メモリに格納されている第(i−1)番目のフレーム画像上において既に認識されている既知動体領域の情報を保持する既知動体領域保持部と、
歪曲円形画像用メモリに格納されている第i番目のフレーム画像から、前記既知動体領域の近傍に位置する複数通りの領域を候補領域として抽出する候補領域抽出部と、
前記既知動体領域と前記複数通りの候補領域とについて、それぞれ画像の特徴を示す特徴量を求める演算を行う特徴量演算部と、
前記特徴量演算部によって演算された、既知動体領域の特徴量と、複数通りの候補領域の特徴量と、をそれぞれ比較し、前記既知動体領域の特徴量に対する類似度が所定の基準以上、かつ、最も高い特徴量をもった候補領域を、前記第i番目のフレーム画像上の新動体領域と認識する新動体領域認識部と、
前記新動体領域認定部における認識が成功した場合には、前記新動体領域に基づいて前記第i番目のフレーム画像についての追跡切出条件を生成し、認識が失敗した場合には、追跡動体が消滅したとの消滅判断を行う動体追跡判定部と、
を有し、
前記既存動体領域保持部が、動体検出部から与えられた検出動体の領域情報を、最初の既知動体領域の情報として保持し、以後、前記新動体領域の情報を新たな既知動体領域の情報として保持することを特徴とする魚眼監視システム。
【請求項30】
請求項29に記載の魚眼監視システムにおいて、
動体追跡判定部が、第i番目のフレーム画像について認識された新動体領域の重心位置を追跡切出中心点P(i)と設定し、この新動体領域の縦幅および横幅に基づいて追跡倍率m(i)を設定することを特徴とする魚眼監視システム。
【請求項31】
請求項29または30に記載の魚眼監視システムにおいて、
特徴量演算部が、演算対象として与えられた領域を構成する画素の色ヒストグラムもしくはエッジ方向ヒストグラムを特徴量として求めることを特徴とする魚眼監視システム。
【請求項32】
請求項1〜31のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、動体追跡部による動体追跡処理が行われている間、新たな動体検出処理を休止することを特徴とする魚眼監視システム。
【請求項33】
請求項1〜31のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、動体追跡部による動体追跡処理が行われている間も動体検出処理を続行し、動体追跡処理の対象となっている旧動体とは異なる新動体の検出がなされた場合、この新動体についての目標切出条件を実切出条件決定部に与える処理を行い、
実切出条件決定部に新動体についての目標切出条件が与えられた場合、移行期間担当部が、前記旧動体についての追跡切出条件から前記新動体についての目標切出条件へ移行するように段階的に変わる実切出条件を定め、
動体追跡部が、前記新動体に対する追跡処理を行うことを特徴とする魚眼監視システム。
【請求項34】
請求項1〜31のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、動体追跡部による動体追跡処理が行われている間も動体検出処理を続行し、動体追跡処理の対象となっている旧動体とは異なり、かつ、旧動体よりも面積が大きいという条件を満たす別な動体の検出がなされた場合、当該条件を満たす新動体についての目標切出条件を実切出条件決定部に与える処理を行い、
実切出条件決定部に前記新動体についての目標切出条件が与えられた場合、移行期間担当部が、前記旧動体についての追跡切出条件から前記新動体についての目標切出条件へ移行するように段階的に変わる実切出条件を定め、
動体追跡部が、前記新動体に対する追跡処理を行うことを特徴とする魚眼監視システム。
【請求項35】
請求項33または34に記載の魚眼監視システムにおいて、
動体追跡部が、新動体に対する追跡処理を行うとともに、旧動体に対する追跡処理も併せて行い、新動体に基づいて追跡切出条件を設定し、旧動体よりも新動体が先に消滅した場合、動体検出部に代わって、前記旧動体についての目標切出条件を、実切出条件決定部に与え、
実切出条件決定部に前記旧動体についての目標切出条件が与えられた場合、移行期間担当部が、前記新動体についての追跡切出条件から前記旧動体についての目標切出条件へ移行するように段階的に変わる実切出条件を定め、
動体追跡部が、前記旧動体に対する追跡処理を続行することを特徴とする魚眼監視システム。
【請求項36】
請求項33〜35のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、旧動体から新動体へ交替する移行処理を行う際に、旧動体についての動的監視期間が所定の最小基準時間に満たない場合には、前記動的監視期間が前記最小基準時間に達するまで、待機時間をおいてから処理を開始することを特徴とする魚眼監視システム。
【請求項37】
請求項1〜36のいずれかに記載の魚眼監視システムにおいて、
ユーザの設定操作に基づいて、実切出条件決定部が決定すべき実切出条件および標準切出条件格納部に格納される標準切出条件を任意に設定する機能をもった手動条件設定部を更に備えることを特徴とする魚眼監視システム。
【請求項38】
請求項1〜37のいずれかに記載の魚眼監視システムにおける魚眼レンズ付ビデオカメラおよびモニタ装置を除く構成部分としてコンピュータを機能させるためのプログラム。
【請求項39】
請求項1〜37のいずれかに記載の魚眼監視システムにおける魚眼レンズ付ビデオカメラおよびモニタ装置を除く構成部分として機能する電子回路が組み込まれた半導体集積回路。
【請求項40】
魚眼レンズを用いた撮影により得られた歪曲円形画像の一部分を切り出して、平面正則画像に変換し、これを画面上に提示する画像提示システムであって、
二次元XY座標系上の座標(x,y)で示される位置に配置された多数の画素の集合体によって構成され、前記二次元XY座標系の原点Oを中心とし半径Rをもち、魚眼レンズを用いた撮影により得られた歪曲円形画像を格納する歪曲円形画像用メモリと、
二次元UV座標系上の座標(u,v)で示される位置に配置された多数の画素の集合体によって構成される平面正則画像を格納する平面正則画像用メモリと、
前記平面正則画像用メモリ内に格納されている平面正則画像を画面上に表示する画像表示装置と、
歪曲円形画像上の1点である切出中心点Pと、所定の平面傾斜角φと、所定の倍率mと、によって構成される実切出条件を、歪曲円形画像の一部から平面正則画像を切り出すための条件として決定する実切出条件決定部と、
前記実切出条件決定部から与えられた実切出条件に基づいて、前記歪曲円形画像用メモリに格納されている歪曲円形画像の前記切出中心点Pで示される切り出し位置から、前記平面傾斜角φで示される切り出し向きに、前記倍率mで示される切り出しサイズの画像を切り出し、これを平面正則画像に変換して、前記平面正則画像用メモリに格納する画像切出変換部と、
を備え、
前記実切出条件決定部が、現在の切出中心点P0を含む現切出条件から、目標となる切出中心点Pnを含む目標切出条件への変更を行う際に、前記画像切出変換部に対して与える切出中心点Pの位置を、点P0から点Pnへと段階的に移行させる処理を行うことを特徴とする画像提示システム。
【請求項41】
請求項40に記載の画像提示システムにおいて、
歪曲円形画像が配置された二次元XY直交座標系を含む三次元XYZ直交座標系において、原点Oを中心として半径Rの仮想球面を定義し、原点Oに向かって当該仮想球面上の1点に入射した外光が、撮影に用いた魚眼レンズの光学作用によってXY平面上の1点に到達する場合に、当該仮想球面上の1点と当該XY平面上の1点とを相互に対応する点と定義し、切出中心点Pに対応する前記仮想球面上の点である対応点Qをとり、原点Oを起点として前記対応点Qを通るベクトルを視線ベクトルnと定義し、この視線ベクトルn上における、前記原点Oから「倍率mと半径Rとの積m・R」だけ離れた点Gを原点とし、前記点Gを通り前記視線ベクトルnに直交する平面上もしくは当該平面を湾曲させた曲面上に平面傾斜角φに応じた向きをもって配置された二次元UV座標系を定義したときに、
画像切出変換部が、前記二次元UV座標系上の座標(u,v)と前記二次元XY直交座標系上の座標(x,y)との対応関係を示す所定の対応関係式を用いて、座標(u,v)に対応する対応座標(x,y)を算出することにより、歪曲円形画像から切り出した画像を平面正則画像に変換する処理を行うことを特徴とする画像提示システム。
【請求項42】
請求項41に記載の画像提示システムにおいて、
実切出条件決定部が、切出中心点Pについての仮想球面上の対応点Qが、予め設定された所定の球面移動経路上を、時間に関する関数として設定された所定の球面移動速度で移動するように、切出中心点Pの位置を決定することを特徴とする画像提示システム。
【請求項43】
請求項40〜42のいずれかに記載の画像提示システムにおいて、
実切出条件決定部が、切出中心点Pの位置を点P0から点Pnへと段階的に移行させる処理を行うとともに、倍率mの値を、現在の倍率m0から目標となる倍率mnへと段階的に移行させる処理を行うことを特徴とする画像提示システム。
【請求項44】
請求項43に記載の画像提示システムにおいて、
実切出条件決定部が、時間に関する関数として設定された所定の倍率変更速度で倍率mの値を移行させることを特徴とする画像提示システム。
【請求項1】
魚眼レンズを用いた撮影により得られた歪曲円形画像の一部分を切り出して、平面正則画像に変換し、これを画面上に表示する魚眼監視システムであって、
装着した魚眼レンズによって、外界の画像を歪曲円形画像として撮影する魚眼レンズ付ビデオカメラと、
二次元XY座標系上の座標(x,y)で示される位置に配置された多数の画素の集合体によって構成され、前記二次元XY座標系の原点Oを中心とし半径Rをもった歪曲円形画像を、少なくとも1フレーム格納する歪曲円形画像用メモリと、
前記魚眼レンズ付ビデオカメラから1フレームごとの時系列データとして順次与えられる歪曲円形画像を、前記歪曲円形画像用メモリに格納する画像入力部と、
二次元UV座標系上の座標(u,v)で示される位置に配置された多数の画素の集合体によって構成される平面正則画像を格納する平面正則画像用メモリと、
前記平面正則画像用メモリに格納されている平面正則画像を読み出して出力する画像出力部と、
前記画像出力部から出力された平面正則画像を画面上に表示するモニタ装置と、
歪曲円形画像上の1点である切出中心点Pと、所定の平面傾斜角φと、所定の倍率mと、によって構成される実切出条件を、歪曲円形画像の一部から平面正則画像を切り出すための条件として決定する実切出条件決定部と、
前記歪曲円形画像用メモリに格納されている歪曲円形画像の前記切出中心点Pで示される切り出し位置から、前記平面傾斜角φで示される切り出し向きに、前記倍率mで示される切り出しサイズの画像を切り出し、これを平面正則画像に変換して、前記平面正則画像用メモリに格納する画像切出変換部と、
標準切出中心点P0と、標準平面傾斜角φ0と、標準倍率m0と、によって構成される標準切出条件を格納する標準切出条件格納部と、
前記歪曲円形画像用メモリに時系列で順次格納される歪曲円形画像を相互に比較して動体検出処理を行い、動体検出がなされた場合に、検出動体の切り出し位置を示す目標切出中心点Pnと、検出動体の切り出し向きを示す目標平面傾斜角φnと、検出動体の切り出しサイズを示す目標倍率mnと、によって構成される目標切出条件のうち、少なくとも目標切出中心点Pnを、前記実切出条件決定部に与える動体検出部と、
前記動体検出の後、検出動体を追跡する動体追跡処理を行い、追跡動体の切り出し位置を示す追跡切出中心点P(i)と、追跡動体の切り出し向きを示す追跡平面傾斜角φ(i)と、追跡動体の切り出しサイズを示す追跡倍率m(i)と、によって構成される追跡切出条件のうち、少なくとも追跡切出中心点P(i)を、追跡動体が消滅したとの消滅判断がなされるまで、継続して前記実切出条件決定部に与える動体追跡部と、
を備え、
前記実切出条件決定部が、前記動体検出がなされていない静的監視期間を担当する静的監視期間担当部と、前記動体検出がなされた後の所定の移行期間を担当する移行期間担当部と、前記移行期間が完了してから前記消滅判断がなされるまでの動的監視期間を担当する動的監視期間担当部と、を備え、前記静的監視期間担当部は、前記標準切出条件を実切出条件と定め、前記移行期間担当部は、前記標準切出条件から前記目標切出条件へ移行するように段階的に変わる実切出条件を定め、前記動的監視期間担当部は、前記追跡切出条件を実切出条件と定めることを特徴とする魚眼監視システム。
【請求項2】
請求項1に記載の魚眼監視システムにおいて、
歪曲円形画像が配置された二次元XY直交座標系を含む三次元XYZ直交座標系において、原点Oを中心として半径Rの仮想球面を定義し、原点Oに向かって当該仮想球面上の1点に入射した外光が、撮影に用いた魚眼レンズの光学作用によってXY平面上の1点に到達する場合に、当該仮想球面上の1点と当該XY平面上の1点とを相互に対応する点と定義し、切出中心点Pに対応する前記仮想球面上の点である対応点Qをとり、原点Oを起点として前記対応点Qを通るベクトルを視線ベクトルnと定義し、この視線ベクトルn上における、前記原点Oから「倍率mと半径Rとの積m・R」だけ離れた点Gを原点とし、前記点Gを通り前記視線ベクトルnに直交する平面上もしくは当該平面を湾曲させた曲面上に平面傾斜角φに応じた向きをもって配置された二次元UV座標系を定義したときに、
画像切出変換部が、前記二次元UV座標系上の座標(u,v)と前記二次元XY直交座標系上の座標(x,y)との対応関係を示す所定の対応関係式を用いて、座標(u,v)に対応する対応座標(x,y)を算出することにより、歪曲円形画像から切り出した画像を平面正則画像に変換する処理を行うことを特徴とする魚眼監視システム。
【請求項3】
請求項1または2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間前半のパンニング期間において、切出中心点Pが標準切出中心点P0から目標切出中心点Pnへと段階的に変わる実切出条件を定め、移行期間後半のズーミング期間において、倍率mが標準倍率m0から目標倍率mnへと段階的に変わる実切出条件を定めることを特徴とする魚眼監視システム。
【請求項4】
請求項1または2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間をパンニング期間およびズーミング期間に設定し、切出中心点Pが標準切出中心点P0から目標切出中心点Pnへと段階的に変わると同時に、倍率mが標準倍率m0から目標倍率mnへと段階的に変わる実切出条件を定めることを特徴とする魚眼監視システム。
【請求項5】
請求項2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間もしくは一部の期間をパンニング期間に設定し、前記パンニング期間に切出中心点Pを標準切出中心点P0から目標切出中心点Pnへと段階的に変化させる際に、前記標準切出中心点P0についての前記仮想球面上の対応点Q0と、前記目標切出中心点Pnについての前記仮想球面上の対応点Qnと、を定義したときに、切出中心点Pについての前記仮想球面上の対応点Qの前記仮想球面上での移動経路が、前記対応点Q0と前記対応点Qnとを前記仮想球面上で結ぶ最短経路となるようにすることを特徴とする魚眼監視システム。
【請求項6】
請求項5に記載の魚眼監視システムにおいて、
標準切出中心点P0が、二次元XY直交座標系の原点O上に設定されており、
移行期間担当部が、原点Oから目標切出中心点Pnへ向かって、歪曲円形画像の半径に沿って切出中心点Pを移動させることを特徴とする魚眼監視システム。
【請求項7】
請求項2に記載の魚眼監視システムにおいて、
標準切出中心点P0が、二次元XY直交座標系の原点O以外の位置に設定されており、
移行期間担当部が、移行期間の全期間もしくは一部の期間をパンニング期間に設定し、前記パンニング期間に切出中心点Pを標準切出中心点P0から目標切出中心点Pnへと段階的に変化させる際に、標準切出中心点P0から原点Oへ向かって、歪曲円形画像の半径に沿って切出中心点Pを移動させた後、原点Oから目標切出中心点Pnへ向かって、歪曲円形画像の半径に沿って切出中心点Pを移動させることを特徴とする魚眼監視システム。
【請求項8】
請求項5〜7のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、対応点Qの仮想球面上の運動が等速運動となるように、切出中心点Pの位置を変化させることを特徴とする魚眼監視システム。
【請求項9】
請求項5〜7のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、対応点Qの仮想球面上の運動が、パンニング期間の開始部分および終了部分の速度が中間部分の速度よりも遅くなるような不等速運動となるように、切出中心点Pの位置を変化させることを特徴とする魚眼監視システム。
【請求項10】
請求項5〜7のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、
対応点Qの仮想球面上の移動距離bと時間tとの関係を示す関数を格納する関数格納部と、
前記関数を用いて求まる「時間tにおける対応点Qの位置」に対応するXY平面上の点を、当該時間tにおける切出中心点Pとして出力する対応点変換部と、
を有することを特徴とする魚眼監視システム。
【請求項11】
請求項2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間もしくは一部の期間をパンニング期間に設定し、前記パンニング期間に切出中心点Pを標準切出中心点P0から目標切出中心点Pnへと段階的に変化させる際に、切出中心点Pについての仮想球面上の対応点Qが、予め設定された所定の球面移動経路上を、時間に関する関数として設定された所定の球面移動速度で移動するように、切出中心点Pの位置を決定することを特徴とする魚眼監視システム。
【請求項12】
請求項2に記載の魚眼監視システムにおいて、
移行期間担当部が、移行期間の全期間もしくは一部の期間をズーミング期間に設定し、前記ズーミング期間の間、時間軸に沿って単調増加もしくは単調減少するように、倍率mを標準倍率m0から目標倍率mnへと変化させることを特徴とする魚眼監視システム。
【請求項13】
請求項12に記載の魚眼監視システムにおいて、
移行期間担当部が、ズーミング期間の間、倍率mを時間軸に沿って線形変化させることを特徴とする魚眼監視システム。
【請求項14】
請求項12に記載の魚眼監視システムにおいて、
移行期間担当部が、ズーミング期間の開始部分および終了部分の倍率変化速度が、中間部分の変化速度よりも遅くなるような不等速変化するように、倍率mを時間軸に沿って変化させることを特徴とする魚眼監視システム。
【請求項15】
請求項12に記載の魚眼監視システムにおいて、
移行期間担当部が、
倍率mと時間tとの関係を示す関数を格納する関数格納部と、
前記関数を用いて求まる時間tにおける倍率を、当該時間tにおける倍率mとして出力する倍率決定部と、
を有することを特徴とする魚眼監視システム。
【請求項16】
請求項2に記載の魚眼監視システムにおいて、
標準切出条件格納部には、撮影画像における実世界の鉛直軸方向を下方向とする向きに平面正則画像が切り出されるような標準平面傾斜角φ0が設定されており、
動体検出部が、前記鉛直軸方向を下方向とする向きに平面正則画像が切り出されるような目標平面傾斜角φnを設定し、
移行期間担当部が、前記鉛直軸方向を下方向とする向きに平面正則画像が切り出されるように、平面傾斜角φを標準平面傾斜角φ0から目標平面傾斜角φnへと変化させ、
動体追跡部が、前記鉛直軸方向を下方向とする向きに平面正則画像が切り出されるように、追跡平面傾斜角φ(i)を設定することを特徴とする魚眼監視システム。
【請求項17】
請求項16に記載の魚眼監視システムにおいて、
撮像面となるXY平面が鉛直面に一致し、Y軸が鉛直軸Wに対して角度ξをなす方向を向くように魚眼レンズ付ビデオカメラが設置されており、
二次元UV座標系の原点Gを通り、XY平面に平行かつ視線ベクトルnに直交する軸として与えられる回転基準軸Jと、二次元UV座標系のU軸とのなす角を平面傾斜角φと定義し、視線ベクトルnのXY平面上への正射影とY軸とのなす角を方位角αと定義し、U軸方向を平面正則画像の横方向と定義した場合に、常にφ=−α−ξとなる設定が行われることを特徴とする魚眼監視システム。
【請求項18】
請求項17に記載の魚眼監視システムにおいて、
標準切出中心点P0が、二次元XY直交座標系の原点O上に設定されており、
標準切出条件格納部には、V軸が撮影画像の原点Oの位置における実世界の鉛直軸に対応するように平面正則画像が切り出されるような切り出し向きを示す標準切出条件が設定されており、
動体検出部は、目標切出中心点Pnについての方位角をαnとしたときに、目標平面傾斜角φn=−αn−ξなる設定を行い、
移行期間担当部が、常に平面傾斜角φ=φnに設定することを特徴とする魚眼監視システム。
【請求項19】
請求項16に記載の魚眼監視システムにおいて、
撮像面となるXY平面が水平面に一致するように魚眼レンズ付ビデオカメラが設置されており、
二次元UV座標系の原点Gを通り、XY平面に平行かつ視線ベクトルnに直交する軸として与えられる回転基準軸Jと、二次元UV座標系のU軸とのなす角を平面傾斜角φと定義し、U軸方向を平面正則画像の横方向と定義した場合に、常にφ=0°となる設定が行われることを特徴とする魚眼監視システム。
【請求項20】
請求項2に記載の魚眼監視システムにおいて、
画像切出変換部が、平面正則画像を構成する1つの着目画素の座標(u,v)についての対応座標(x,y)を算出し、歪曲円形画像用メモリ内の前記対応座標(x,y)の近傍に配置された画素の画素値を読み出し、読み出した画素値に基づいて前記着目画素の画素値を決定する処理を、前記平面正則画像を構成する各画素について実行し、前記平面正則画像用メモリ内に各画素の画素値を書き込むことにより、平面正則画像に変換する処理を行うことを特徴とする魚眼監視システム。
【請求項21】
請求項20に記載の魚眼監視システムにおいて、
画像切出変換部が、座標(u,v)で示される位置に配置された着目画素の画素値を決定する際に、対応座標(x,y)で示される位置の近傍に配置された歪曲円形画像上の複数の参照画素の画素値に対する補間演算を行うことを特徴とする魚眼監視システム。
【請求項22】
請求項2に記載の魚眼監視システムにおいて、
画像切出変換部が、仮想球面上に、撮影に用いた魚眼レンズの投影方式に応じて、二次元XY直交座標系上の座標(xi,yi)で示される点Siに対応する球面上対応点Qiをとり、原点Oと前記球面上対応点Qiとを結ぶ直線と二次元UV座標系の配置面との交点Tiの前記二次元UV座標系上での座標を(ui,vi)としたときに、前記座標(xi,yi)が前記座標(ui,vi)に対応する対応座標として求まる対応関係式を用いることを特徴とする魚眼監視システム。
【請求項23】
請求項22に記載の魚眼監視システムにおいて、
画像切出変換部が、
歪曲円形画像用メモリに格納されている歪曲円形画像が、正射影方式の魚眼レンズによって撮影された正射影画像である場合には、座標(xp,yp)で示される切出中心点Pに対して、当該点Pを通りZ軸に平行な直線と仮想球面との交点として与えられる座標(xp,yp,zp)で示される点を球面上対応点Qとし、座標(xi,yi)で示される点Siに対して、当該点Siを通りZ軸に平行な直線と仮想球面との交点として与えられる座標(xi,yi,zi)で示される点を球面上対応点Qiとする正射影画像用対応関係式を用い、
歪曲円形画像用メモリに格納されている歪曲円形画像が、非正射影方式の魚眼レンズによって撮影された非正射影画像である場合には、前記正射影画像上の座標と前記非正射影画像上の座標との間の座標変換式を用いて前記正射影画像用対応関係式を補正することにより得られる非正射影画像用対応関係式を用いることを特徴とする魚眼監視システム。
【請求項24】
請求項23に記載の魚眼監視システムにおいて、
画像切出変換部が、視線ベクトルnのXY平面上への正射影とY軸とのなす角を方位角αとし、視線ベクトルnとZ軸正方向とのなす角を天頂角βとして、
A=cosφ cosα − sinφ sinα cosβ
B=−sinφ cosα − cosφ sinα cosβ
C=sinβ sinα
D=cosφ sinα + sinφ cosα cosβ
E=−sinφ sinα + cosφ cosα cosβ
F=−sinβ cosα
w=mR
との定義の下で、座標(u,v)と座標(x,y)との対応関係を示す正射影画像用対応関係式として、
x=R(uA+vB+wC)/√(u2+v2+w2)
y=R(uD+vE+wF)/√(u2+v2+w2)
なる式を用いることを特徴とする魚眼監視システム。
【請求項25】
請求項24に記載の魚眼監視システムにおいて、
画像切出変換部が、
歪曲円形画像用メモリに格納されている歪曲円形画像が、等距離射影方式の魚眼レンズによって撮影された等距離射影画像である場合には、正射影画像上の座標(xa,ya)を等距離射影画像上の座標(xb,yb)に変換する座標変換式
xb=xa(2R/πr) sin-1 (r/R)
yb=ya(2R/πr) sin-1 (r/R)
但し、r=√(xa2+ya2)
を用いて、正射影画像用対応関係式に対する補正を行うことを特徴とする魚眼監視システム。
【請求項26】
請求項1〜25のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、
歪曲円形画像用メモリに所定の初期時点で格納されていた画像を背景歪曲円形画像として保持する背景画像保持部と、
前記歪曲円形画像用メモリに時系列でフレームごとに順次格納される歪曲円形画像上の個々の画素の画素値を、前記背景歪曲円形画像上の対応する画素の画素値と比較し、両者の差がしきい値以上となる画素を着目画素として抽出する対応画素比較部と、
前記着目画素からなる連続領域であって、基準面積以上、かつ、縦幅および横幅がともに所定の基準寸法以上となる条件を満たす着目領域を探索する着目領域探索部と、
前記着目領域を含む歪曲円形画像が、基準のフレーム数以上、連続して得られた場合に、動体検出がなされた旨の判定を行い、最終着目領域に基づいて目標切出条件を生成する動体検出判定部と、
を有することを特徴とする魚眼監視システム。
【請求項27】
請求項26に記載の魚眼監視システムにおいて、
動体検出判定部が、同一の動体に起因して形成されたと予想される特定の着目領域を含む歪曲円形画像が、基準のフレーム数以上、連続して得られた場合に、動体検出がなされた旨の判定を行うようにし、互いに離隔した複数の着目領域が存在する場合には、より面積の大きい着目領域を前記特定の着目領域とする判定を行うことを特徴とする魚眼監視システム。
【請求項28】
請求項26または27に記載の魚眼監視システムにおいて、
動体検出判定部が、最終着目領域の重心位置を目標切出中心点Pnと設定し、最終着目領域の縦幅および横幅に基づいて目標倍率mnを設定することを特徴とする魚眼監視システム。
【請求項29】
請求項1〜28のいずれかに記載の魚眼監視システムにおいて、
動体追跡部が、
歪曲円形画像用メモリに格納されている第(i−1)番目のフレーム画像上において既に認識されている既知動体領域の情報を保持する既知動体領域保持部と、
歪曲円形画像用メモリに格納されている第i番目のフレーム画像から、前記既知動体領域の近傍に位置する複数通りの領域を候補領域として抽出する候補領域抽出部と、
前記既知動体領域と前記複数通りの候補領域とについて、それぞれ画像の特徴を示す特徴量を求める演算を行う特徴量演算部と、
前記特徴量演算部によって演算された、既知動体領域の特徴量と、複数通りの候補領域の特徴量と、をそれぞれ比較し、前記既知動体領域の特徴量に対する類似度が所定の基準以上、かつ、最も高い特徴量をもった候補領域を、前記第i番目のフレーム画像上の新動体領域と認識する新動体領域認識部と、
前記新動体領域認定部における認識が成功した場合には、前記新動体領域に基づいて前記第i番目のフレーム画像についての追跡切出条件を生成し、認識が失敗した場合には、追跡動体が消滅したとの消滅判断を行う動体追跡判定部と、
を有し、
前記既存動体領域保持部が、動体検出部から与えられた検出動体の領域情報を、最初の既知動体領域の情報として保持し、以後、前記新動体領域の情報を新たな既知動体領域の情報として保持することを特徴とする魚眼監視システム。
【請求項30】
請求項29に記載の魚眼監視システムにおいて、
動体追跡判定部が、第i番目のフレーム画像について認識された新動体領域の重心位置を追跡切出中心点P(i)と設定し、この新動体領域の縦幅および横幅に基づいて追跡倍率m(i)を設定することを特徴とする魚眼監視システム。
【請求項31】
請求項29または30に記載の魚眼監視システムにおいて、
特徴量演算部が、演算対象として与えられた領域を構成する画素の色ヒストグラムもしくはエッジ方向ヒストグラムを特徴量として求めることを特徴とする魚眼監視システム。
【請求項32】
請求項1〜31のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、動体追跡部による動体追跡処理が行われている間、新たな動体検出処理を休止することを特徴とする魚眼監視システム。
【請求項33】
請求項1〜31のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、動体追跡部による動体追跡処理が行われている間も動体検出処理を続行し、動体追跡処理の対象となっている旧動体とは異なる新動体の検出がなされた場合、この新動体についての目標切出条件を実切出条件決定部に与える処理を行い、
実切出条件決定部に新動体についての目標切出条件が与えられた場合、移行期間担当部が、前記旧動体についての追跡切出条件から前記新動体についての目標切出条件へ移行するように段階的に変わる実切出条件を定め、
動体追跡部が、前記新動体に対する追跡処理を行うことを特徴とする魚眼監視システム。
【請求項34】
請求項1〜31のいずれかに記載の魚眼監視システムにおいて、
動体検出部が、動体追跡部による動体追跡処理が行われている間も動体検出処理を続行し、動体追跡処理の対象となっている旧動体とは異なり、かつ、旧動体よりも面積が大きいという条件を満たす別な動体の検出がなされた場合、当該条件を満たす新動体についての目標切出条件を実切出条件決定部に与える処理を行い、
実切出条件決定部に前記新動体についての目標切出条件が与えられた場合、移行期間担当部が、前記旧動体についての追跡切出条件から前記新動体についての目標切出条件へ移行するように段階的に変わる実切出条件を定め、
動体追跡部が、前記新動体に対する追跡処理を行うことを特徴とする魚眼監視システム。
【請求項35】
請求項33または34に記載の魚眼監視システムにおいて、
動体追跡部が、新動体に対する追跡処理を行うとともに、旧動体に対する追跡処理も併せて行い、新動体に基づいて追跡切出条件を設定し、旧動体よりも新動体が先に消滅した場合、動体検出部に代わって、前記旧動体についての目標切出条件を、実切出条件決定部に与え、
実切出条件決定部に前記旧動体についての目標切出条件が与えられた場合、移行期間担当部が、前記新動体についての追跡切出条件から前記旧動体についての目標切出条件へ移行するように段階的に変わる実切出条件を定め、
動体追跡部が、前記旧動体に対する追跡処理を続行することを特徴とする魚眼監視システム。
【請求項36】
請求項33〜35のいずれかに記載の魚眼監視システムにおいて、
移行期間担当部が、旧動体から新動体へ交替する移行処理を行う際に、旧動体についての動的監視期間が所定の最小基準時間に満たない場合には、前記動的監視期間が前記最小基準時間に達するまで、待機時間をおいてから処理を開始することを特徴とする魚眼監視システム。
【請求項37】
請求項1〜36のいずれかに記載の魚眼監視システムにおいて、
ユーザの設定操作に基づいて、実切出条件決定部が決定すべき実切出条件および標準切出条件格納部に格納される標準切出条件を任意に設定する機能をもった手動条件設定部を更に備えることを特徴とする魚眼監視システム。
【請求項38】
請求項1〜37のいずれかに記載の魚眼監視システムにおける魚眼レンズ付ビデオカメラおよびモニタ装置を除く構成部分としてコンピュータを機能させるためのプログラム。
【請求項39】
請求項1〜37のいずれかに記載の魚眼監視システムにおける魚眼レンズ付ビデオカメラおよびモニタ装置を除く構成部分として機能する電子回路が組み込まれた半導体集積回路。
【請求項40】
魚眼レンズを用いた撮影により得られた歪曲円形画像の一部分を切り出して、平面正則画像に変換し、これを画面上に提示する画像提示システムであって、
二次元XY座標系上の座標(x,y)で示される位置に配置された多数の画素の集合体によって構成され、前記二次元XY座標系の原点Oを中心とし半径Rをもち、魚眼レンズを用いた撮影により得られた歪曲円形画像を格納する歪曲円形画像用メモリと、
二次元UV座標系上の座標(u,v)で示される位置に配置された多数の画素の集合体によって構成される平面正則画像を格納する平面正則画像用メモリと、
前記平面正則画像用メモリ内に格納されている平面正則画像を画面上に表示する画像表示装置と、
歪曲円形画像上の1点である切出中心点Pと、所定の平面傾斜角φと、所定の倍率mと、によって構成される実切出条件を、歪曲円形画像の一部から平面正則画像を切り出すための条件として決定する実切出条件決定部と、
前記実切出条件決定部から与えられた実切出条件に基づいて、前記歪曲円形画像用メモリに格納されている歪曲円形画像の前記切出中心点Pで示される切り出し位置から、前記平面傾斜角φで示される切り出し向きに、前記倍率mで示される切り出しサイズの画像を切り出し、これを平面正則画像に変換して、前記平面正則画像用メモリに格納する画像切出変換部と、
を備え、
前記実切出条件決定部が、現在の切出中心点P0を含む現切出条件から、目標となる切出中心点Pnを含む目標切出条件への変更を行う際に、前記画像切出変換部に対して与える切出中心点Pの位置を、点P0から点Pnへと段階的に移行させる処理を行うことを特徴とする画像提示システム。
【請求項41】
請求項40に記載の画像提示システムにおいて、
歪曲円形画像が配置された二次元XY直交座標系を含む三次元XYZ直交座標系において、原点Oを中心として半径Rの仮想球面を定義し、原点Oに向かって当該仮想球面上の1点に入射した外光が、撮影に用いた魚眼レンズの光学作用によってXY平面上の1点に到達する場合に、当該仮想球面上の1点と当該XY平面上の1点とを相互に対応する点と定義し、切出中心点Pに対応する前記仮想球面上の点である対応点Qをとり、原点Oを起点として前記対応点Qを通るベクトルを視線ベクトルnと定義し、この視線ベクトルn上における、前記原点Oから「倍率mと半径Rとの積m・R」だけ離れた点Gを原点とし、前記点Gを通り前記視線ベクトルnに直交する平面上もしくは当該平面を湾曲させた曲面上に平面傾斜角φに応じた向きをもって配置された二次元UV座標系を定義したときに、
画像切出変換部が、前記二次元UV座標系上の座標(u,v)と前記二次元XY直交座標系上の座標(x,y)との対応関係を示す所定の対応関係式を用いて、座標(u,v)に対応する対応座標(x,y)を算出することにより、歪曲円形画像から切り出した画像を平面正則画像に変換する処理を行うことを特徴とする画像提示システム。
【請求項42】
請求項41に記載の画像提示システムにおいて、
実切出条件決定部が、切出中心点Pについての仮想球面上の対応点Qが、予め設定された所定の球面移動経路上を、時間に関する関数として設定された所定の球面移動速度で移動するように、切出中心点Pの位置を決定することを特徴とする画像提示システム。
【請求項43】
請求項40〜42のいずれかに記載の画像提示システムにおいて、
実切出条件決定部が、切出中心点Pの位置を点P0から点Pnへと段階的に移行させる処理を行うとともに、倍率mの値を、現在の倍率m0から目標となる倍率mnへと段階的に移行させる処理を行うことを特徴とする画像提示システム。
【請求項44】
請求項43に記載の画像提示システムにおいて、
実切出条件決定部が、時間に関する関数として設定された所定の倍率変更速度で倍率mの値を移行させることを特徴とする画像提示システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図51】
【図52】
【図53】
【図54】
【図55】
【図56】
【図57】
【図58】
【図59】
【図60】
【図61】
【図62】
【図63】
【図22】
【図31】
【図48】
【図49】
【図50】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図51】
【図52】
【図53】
【図54】
【図55】
【図56】
【図57】
【図58】
【図59】
【図60】
【図61】
【図62】
【図63】
【図22】
【図31】
【図48】
【図49】
【図50】
【公開番号】特開2011−61511(P2011−61511A)
【公開日】平成23年3月24日(2011.3.24)
【国際特許分類】
【出願番号】特願2009−209213(P2009−209213)
【出願日】平成21年9月10日(2009.9.10)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
【公開日】平成23年3月24日(2011.3.24)
【国際特許分類】
【出願日】平成21年9月10日(2009.9.10)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
[ Back to top ]