情報処理装置、サーバシステム、画像処理システム及びプログラム
【課題】 撮像画像に対して切り出し範囲を設定し、設定した切り出し範囲の画像情報をサーバシステムに対して送信することでネットワークの帯域の圧迫等を抑止できる情報処理装置、サーバシステム、画像処理システム及びプログラム等を提供すること。
【解決手段】 情報処理装置(第1の処理装置100)は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、取得した撮像画像に対して、サーバシステム(第2の処理装置200)における画像処理対象領域に対応する切り出し範囲を設定する切り出し範囲設定部120と、撮像画像のうち、切り出し範囲設定部120により切り出し範囲に設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する通信部140と、を含む。
【解決手段】 情報処理装置(第1の処理装置100)は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、取得した撮像画像に対して、サーバシステム(第2の処理装置200)における画像処理対象領域に対応する切り出し範囲を設定する切り出し範囲設定部120と、撮像画像のうち、切り出し範囲設定部120により切り出し範囲に設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する通信部140と、を含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、サーバシステム、画像処理システム及びプログラム等に関する。
【背景技術】
【0002】
ウェアラブルカメラは、身体に装着したカメラによる動画像の撮影を行う。従来のウェアラブルカメラは内蔵の記憶装置に動画を記録し、それをパーソナルコンピュータなどにファイルとして移動し、動画データを得ていた。しかし、ウェアラブルカメラには手ぶれ補正はなく、ダイナミックな動きそのものを記録することに重点が置かれている。
【0003】
手ぶれ補正処理としては、例えば特許文献1に開示されているような電子手ぶれ補正の技術が知られている。また、従来型のカムコーダーでは、細かな手ぶれを補正する能力に加え、最近ではアクティブモードやダイナミックモードとして、歩行時のブレの補正まで出来る低周波、大振幅対応の機能が光学式、電子式共に導入されつつある。すなわち、従来の手ぶれ補正は、周波数の高い手ぶれ成分に加え、近年は歩行時の長周期ブレを補正するように構成されていた。
【0004】
また、従来のウェアラブルカメラにおいては、画像処理はスタンドアローンで実施されるものであった。ウェアラブルカメラでは、従来のカメラで意識的に行っていた水平出し(画面の左右傾き、ロール軸)や身体を動かした時の腕を使ったカメラポジションの移動の緩和などが実施できない。その為、超広角のレンズを用いて広い範囲を撮影した上でのトリミングか、スタビライザーやパンチルトロール可能な雲台により、撮影フレーミングの調整や、ブレ補正を行う必要がある。
【0005】
また、携帯電話のテレビ電話機能などは限られた帯域の中、低解像度の映像を圧縮した上で伝送することを行っていた。
【0006】
コンシューマー向けのウェアラブルカメラを導入するためにはこれらを融合した上で、更に見やすい、シーン認識機能などにより自動編集しやすい高画質の映像を撮るための画像安定制御の技術が必要になる。例えば、特許文献2では、ネットワークを介して処理画像とブレ補正のための情報をサーバに送信し、サーバでブレ補正を実施する例が開示されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平5−316404号公報
【特許文献2】特開2009−302762号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
携帯電話のテレビ電話機能等の動画像の伝送では、ネットワークの帯域が限られているため、画像の解像度を下げたり圧縮処理を行ったりしている。しかし、そのような処理は画質の劣化を招くことになる。
【0009】
また、ウェアラブルカメラにおいては、ブレ(傾きによるブレと並進によるブレを含む)が発生しやすいため、当該ブレを補正する処理を行うことが望ましい。特に、撮像した画像を大画面の表示装置に表示する際には、ユーザにとって見やすい映像を提供するためにもブレ補正処理は必要となる。
【0010】
特許文献2では、補正に必要な領域を削除すると補正漏れが生じることから、画像はすべてサーバに送付している。しかしながら、限られた通信帯域で大容量画像をそのまま送付することはネットワークインフラに多大な負荷を与えるため、好ましくない。
【0011】
本発明の幾つかの態様によれば、撮像画像に対して切り出し範囲を設定し、設定した切り出し範囲の画像情報をサーバシステムに対して送信することでネットワークの帯域の圧迫等を抑止できる情報処理装置、サーバシステム、画像処理システム及びプログラム等を提供することができる。
【0012】
また、本発明の幾つかの態様によれば、画像処理を行うサーバシステムに対して、ブレ補正処理に使用されるパラメータを付加した上で画像情報を送信することで、分散型等の画像処理を行う情報処理装置、サーバシステム、画像処理システム及びプログラム等を提供することができる。
【課題を解決するための手段】
【0013】
本発明の一態様は、撮像部から撮像画像を取得する撮像画像取得部と、サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部と、を含む情報処理装置に関係する。
【0014】
本発明の一態様では、撮像画像に対して切り出し範囲を設定し、切り出し範囲に設定された領域の画像情報をサーバシステムに対して送信する。よって、切り出し範囲を撮像画像よりも例えば狭い領域とすることで、ネットワークに対して送信される画像情報のデータサイズを小さくすることなどが可能になり、ネットワークの帯域を圧迫することによる影響等を抑止することができる。
【0015】
また、前記切り出し範囲設定部は、前記撮像画像において生じるブレを補正する際に用いられるブレ補正処理領域を内包する領域を、前記切り出し範囲として設定してもよい。
【0016】
これにより、ブレ補正処理領域を内包する領域をサーバシステムに対して送信することができるため、サーバシステムにおいてブレ補正処理を行うことが可能になる。
【0017】
また、前記撮像部の傾きブレ補正処理に使用される傾きブレ情報を取得する情報取得部を含み、前記切り出し範囲設定部は、前記傾きブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0018】
これにより、傾きブレを補正することが可能な切り出し範囲を設定することが可能になる。
【0019】
また、前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、前記情報取得部は、前記センサ情報に基づいて前記傾きブレ情報を取得し、前記切り出し範囲設定部は、前記傾きブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0020】
これにより、センサ情報を用いて傾きブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0021】
また、前記情報取得部は、前記撮像画像における被写体の被写体傾き情報に基づいて前記傾きブレ情報を取得し、前記切り出し範囲設定部は、前記傾きブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0022】
これにより、被写体の情報を用いて傾きブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0023】
また、前記通信部は、前記切り出し範囲に設定された領域の前記画像情報に、前記傾きブレ情報を付加して前記サーバシステムに対して送信してもよい。
【0024】
これにより、画像情報に付加して、切り出し範囲設定時のパラメータを送信することが可能になるため、サーバシステムにおける画像処理を容易にすることができる。
【0025】
また、前記撮像部の並進ブレ補正処理に使用される並進ブレ情報を取得する情報取得部を含み、前記切り出し範囲設定部は、前記並進ブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0026】
これにより、並進ブレを補正することが可能な切り出し範囲を設定することが可能になる。
【0027】
また、前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、前記並進ブレ情報取得部は、前記センサ情報に基づいて前記並進ブレ情報を取得し、前記切り出し範囲設定部は、前記並進ブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0028】
これにより、センサ情報を用いて並進ブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0029】
また、前記情報取得部は、前記撮像画像における被写体の被写体並進情報に基づいて前記並進ブレ情報を取得し、前記切り出し範囲設定部は、前記並進ブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0030】
これにより、被写体の情報を用いて並進ブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0031】
また、前記切り出し範囲設定部は、前記並進ブレ補正処理を行わない場合の第1の切り出し範囲に比べて、前記並進ブレ補正処理を行う場合の第2の切り出し範囲を、前記並進ブレ情報により特定される並進ブレ量に対応する分だけ広い領域に設定してもよい。
【0032】
これにより、並進ブレ補正処理を行う場合には、並進ブレ補正処理を行わない場合に比べて並進ブレ量だけ広い領域を設定することで、並進ブレに対応可能な切り出し範囲を設定することができる。
【0033】
また、前記通信部は、前記切り出し範囲に設定された領域の前記画像情報に、前記並進ブレ情報を付加して前記サーバシステムに対して送信してもよい。
【0034】
これにより、画像情報に付加して、切り出し範囲設定時のパラメータを送信することが可能になるため、サーバシステムにおける画像処理を容易にすることができる。
【0035】
また、前記切り出し範囲設定部は、前記撮像部の並進ブレが、高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するためのブレ判定情報を取得し、取得した前記ブレ判定情報により前記並進ブレが前記低周波ブレによるものであると判定された場合には、前記高周波ブレによるものであると判定された場合に比べて広い領域を前記切り出し範囲として設定してもよい。
【0036】
これにより、並進ブレが低周波ブレか高周波ブレかに応じて、適切な大きさの領域を切り出し範囲に設定することが可能になる。
【0037】
また、前記サーバシステムは、前記通信部から受信した前記画像情報に基づいて前記ブレ判定情報を生成し、前記切り出し範囲設定部は、前記サーバシステムが生成した前記ブレ判定情報を、前記ネットワークを介して受信してもよい。
【0038】
これにより、高周波ブレか低周波ブレかを判定するためのブレ判定情報をサーバシステムにおいて生成し、生成されたブレ判定情報を受信することで情報処理装置において切り出し範囲を設定することが可能になる。
【0039】
また、前記切り出し範囲設定部は、前記撮像画像において生じる歪みを補正する際に用いられる歪み補正処理領域を内包する領域を、前記切り出し範囲として設定してもよい。
【0040】
これにより、ブレだけでなく、歪みについても補正可能な切り出し範囲を設定することが可能になる。
【0041】
また、前記撮像画像の前記歪みは、前記撮像部の撮像素子におけるローリングシャッターによる歪みであってもよい。
【0042】
これにより、撮像素子におけるローリングシャッターによる歪みを補正可能な切り出し範囲を設定することが可能になる。
【0043】
また、前記撮像画像の前記歪みは、前記撮像部の撮像素子における歪曲収差による歪みであってもよい。
【0044】
これにより、撮像素子における歪曲収差による歪みを補正可能な切り出し範囲を設定することが可能になる。
【0045】
本発明の他の態様は、ネットワークを介して情報処理装置と通信を行う通信部と、画像処理を行う画像処理部と、を含み、前記通信部は、前記情報処理装置が、撮像部から取得した撮像画像に対して切り出し範囲を設定し、前記切り出し範囲に対応する領域の画像情報と、前記切り出し範囲の設定に用いられたパラメータとを、前記ネットワークを介して送信した場合に、送信された前記画像情報と前記パラメータとを受信し、前記画像処理部は、受信した前記パラメータに基づいて、受信した前記画像情報に対する補正処理を行うサーバシステムに関係する。
【0046】
本発明の他の態様では、上述してきた情報処理装置から、切り出し範囲に設定された領域の画像情報と、切り出し範囲の設定に用いられたパラメータを受信することで、画像情報に対して補正処理を行うことができるサーバシステムを実現することが可能になる。よって、情報処理装置とサーバシステムとが連携し、補正処理を行うことが可能になる。
【0047】
また、前記画像情報に基づいて、前記画像情報におけるブレが高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するための情報であるブレ判定情報を生成するブレ判定情報生成部を含み、前記通信部は、生成された前記ブレ判定情報を前記ネットワークを介して前記情報処理装置に対して送信してもよい。
【0048】
これにより、ブレ判定情報をサーバシステムにおいて生成することが可能になる。
【0049】
本発明の他の態様は、情報処理装置と、サーバシステムと、を含み、前記情報処理装置は、撮像部から撮像画像を取得する撮像画像取得部と、前記サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する第1の通信部と、を含み、前記サーバシステムは、前記撮像画像に対して前記情報処理装置が設定した前記切り出し範囲に対応する領域の画像情報を、前記情報処理装置からネットワークを介して受信するとともに、前記切り出し範囲の設定に用いられたパラメータを受信する第2の通信部と、前記パラメータに基づいて、前記画像情報に対する補正処理を行う画像処理部と、を含む画像処理システムに関係する。
【0050】
本発明の他の態様では、情報処理装置とサーバシステムとが連係して動作することにより画像補正処理を行うことが可能な画像処理システムを実現することができる。
【0051】
本発明の他の態様は、撮像部から撮像画像を取得する撮像画像取得部と、取得した前記撮像画像に対してブレ補正処理を行う際に用いられるパラメータを設定するパラメータ設定部と、前記撮像画像の画像情報及び前記パラメータを、ネットワークを介してサーバシステムに送信する通信部と、を含む情報処理装置に関係する。
【0052】
本発明の他の態様では、画像情報にパラメータを付加してサーバシステムに対して送信することにより、サーバシステムにおける画像処理を容易にする情報処理装置を実現することが可能になる。
【0053】
本発明の他の態様は、撮像部から撮像画像を取得する撮像画像取得部と、サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部として、コンピュータを機能させるプログラムに関係する。
【図面の簡単な説明】
【0054】
【図1】本実施形態のシステム構成例。
【図2】第1の実施形態の詳細なシステム構成例。
【図3】傾きブレ補正を行う場合の切り出し範囲の設定手法を説明する図。
【図4】並進ブレ補正を行う場合の切り出し範囲の設定手法を説明する図。
【図5】図5(A)〜図5(F)は情報処理装置及びサーバシステムにおける画像処理の流れを説明する図。
【図6】第2の実施形態の詳細なシステム構成例。
【図7】図7(A)〜図7(D)は並進ブレの特性に応じて切り出し範囲を変化させる手法を説明する図。
【図8】第3の実施形態の詳細なシステム構成例。
【図9】図9(A)〜図9(D)は被写体の情報を用いて切り出し範囲を変化させる手法を説明する図。
【図10】図10(A)は歪みがない場合の被写体と切り出し範囲の図、図10(B)はローリングシャッター歪みがある場合の被写体と切り出し範囲の図。
【図11】歪みにより情報の欠損が起こる例。
【図12】ローリングシャッター歪みを考慮した切り出し範囲の例。
【図13】図12の切り出し範囲に対して補正処理を行った画像の例。
【図14】歪曲収差による歪みを考慮した切り出し範囲の例。
【図15】ローリングシャッター歪み及び歪曲収差による歪みを考慮した切り出し範囲の例。
【図16】停車中の自動車を撮影した例。
【図17】走行中の自動車を撮影した場合の歪みを考慮した切り出し範囲の例。
【図18】図18(A)〜図18(E)は低周波ブレ及び高周波ブレを説明する図。
【図19】電子式ブレ補正の手法を説明する図。
【発明を実施するための形態】
【0055】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0056】
1.本実施形態の手法
まず、本実施形態の手法について説明する。電子式ブレ補正として、図19に示すような処理が知られている。これは表示画像に比べて大きい画像を取得しておき、取得した画像のうち適切な領域をトリミングする(例えばA1に示した領域をトリミングする)。そして、そのトリミング領域を被写体の動きに合わせて適切に設定することで、表示画像上では被写体が動いていないように見せるものである。
【0057】
ウェアラブルカメラのようにユーザが身につける撮像装置の場合には、手で把持するものに比べて、水平を保つことが難しく、ブレの程度も大きくなりやすい。そのため、見やすい自然な画像(動画像)を提供する上で、上述したブレ補正処理を行うことが重要になってくる。
【0058】
しかし、ウェアラブルカメラ(及びそれに付随するウェアラブルデバイス)は身につけるという特性上、小型化することが望ましく、そのため構成が簡素なものに限定されることが想定される。よって、電子式ブレ補正処理のような負荷のかかる処理をウェアラブルデバイス内で行うことが難しいケースも考えられる。
【0059】
1つの解決策として、図1に示したように、ウェアラブルカメラで取得した画像をネットワークに対して送信し、クラウドネットワーク等を用いて画像処理を行う手法が考えられる。このようにすれば、ウェアラブルデバイス(図1ではHMD)はネットワークとの通信を行う通信部を有すればよく、負荷のかかる処理を行う必要が無くなるため、構成を簡素にすることができる。
【0060】
ところが、処理を分散させる場合には新たな問題も生じる。ネットワークの帯域には制限があるため、ウェアラブルカメラで取得した画像を全てネットワークに送信した場合に、ネットワークの帯域を圧迫する可能性があるという問題である。
【0061】
そこで本出願人は以下の手法を提案する。図19に示したように、電子式ブレ補正を行うに当たっては表示画像よりも大きい画像が取得されている。そのうち、実際にユーザに対して提示されるのは、図19のA1に示した領域だけである。傾きブレの傾き角度や、並進ブレのブレ量の程度等の情報を用いることで、A1を含む領域は特定可能であるため、画像処理部(例えば画像処理クラウドネットワーク)での処理対象となる領域を撮像画像全体に比べ狭い領域に限定し、ネットワークに対して送信する画像情報のデータサイズを小さくすることは可能である。つまり、図5(B)を用いて後述するように、撮像画像(取得画像)F0に対して、表示に必要な領域はFFである。センサ情報等から得られる傾きの角度や並進ブレ量等を用いて、少なくともFFを含む領域であるF1(切り出し範囲)を設定し、F0ではなくF1をネットワークに対して送信する。このようにすることで、ネットワークの帯域を圧迫することによる影響を抑止することができる。また、ウェアラブルデバイスはブレ補正処理そのものではなく、ブレ補正処理に必要なおおまかな領域を特定し切り出すだけでよいため、処理の負荷は軽く、簡素な構成により実現可能となる。
【0062】
以下、第1〜第3の実施形態及び変形例について説明する。第1の実施形態では、撮像画像におけるブレを傾きブレと並進ブレに分けて、それぞれに基づいて、切り出し範囲を設定する手法について述べる。第2の実施形態では、並進ブレの周波数情報を用いて、並進ブレが高周波ブレか低周波ブレかという判断を行って、切り出し範囲の設定に利用する手法について述べる。第3の実施形態では、撮像画像内の被写体の情報を用いる手法について述べる。変形例では、傾きブレ及び並進ブレとは別に、画像の歪みを考慮した上で、歪みに基づいた切り出し範囲の設定手法について述べる。
【0063】
2.第1の実施形態
図1に本実施形態にかかる画像処理システムの第1の実施形態を示す。画像処理システムは、撮像装置と、第1の処理装置(狭義には情報処理装置)と、第2の処理装置(狭義にはサーバシステム)からなる。ここでは、第1の処理装置としてHMD(Head Mounted Display、頭部装着型表示装置)の例を示す。そして、撮像装置はHMDに取り付けられたカメラであり、第2の処理装置はクラウドネットワークであるものとする。ただし、第1の処理装置及び第2の処理装置は、HMD及びクラウドネットワークに限定されるものではない。なお、第1の処理装置として表示部を有するHMDの例を挙げているが、第2の処理装置における画像処理結果を、第1の処理装置を保有するユーザに対してフィードバックする必要がなければ、第1の処理装置はHMDのような表示部を有する装置でなくてもよい。
【0064】
図2を用いてシステム構成の詳細について説明する。撮像装置10は、撮像モジュール12と、基本画像処理エンジン14と、モーションセンサ16とを含む。撮像モジュール12は、結像のための光学系、光量調整のためのシャッターや絞り、NDフィルターなど、CCDや、CMOSなどの撮像素子で構成される。そして、基本画像処理エンジン14は、撮像モジュール12で取得された撮像画像に対して、映像信号としてのNTSCやデジタル画像伝送により出力するための映像処理を行う。撮像装置10は、デジタルビデオカメラやデジタルスチルカメラと同様の構成としてもよい。また、モーションセンサ16は撮像装置の動きに関する情報を取得する。例えば、モーションセンサ16は加速度センサや角速度センサ、地磁気センサ等であってもよい。
【0065】
撮像装置10からの動画ストリームは第1の処理装置100に入力される。第1の処理装置100は入力映像をデジタル変換し、コンピュータプログラムを実装した組み込み計算機で処理を実施するよう構成されていてもよい。第1の処理装置100は、撮像画像取得部110と、切り出し範囲設定部120と、画像切り出し部122と、情報取得部130と、通信部140と、センサ情報取得部150と、表示部160とを含む。
【0066】
撮像画像取得部110は、撮像装置10のからの動画ストリームを取得する。切り出し範囲設定部120は、撮像画像取得部110が取得した撮像画像に対して、切り出し範囲を設定する。切り出し範囲の詳細及び設定手法については後述する。画像切り出し部122は、切り出し範囲設定部120で設定された切り出し範囲に従って、撮像画像をトリミングし、通信部140に送る。情報取得部130は、ブレに関する情報を取得する。ブレに関する情報とは、例えば傾きブレ情報や並進ブレ情報等であり、本実施形態においては、センサ情報取得部150が取得したセンサ情報に基づいて取得される。通信部140は、画像切り出し部122で切り出された画像情報及び、切り出し範囲の設定の際に用いられたパラメータを、無線LANや有線LANなどのネットワーク層を介して第2の処理装置200に対して送信する。センサ情報取得部150は、撮像装置10に設けられたモーションセンサ16からのセンサ情報を取得する。表示部160は、種々の画像を表示する。本実施形態においては、第2の処理装置200において画像処理(ブレ補正処理)が行われた後の画像を、通信部140を介して取得し表示することになる。また第1の処理装置100は、処理や伝送待ちで画像信号やセンサ信号を一時的に記憶するバッファメモリを持つように構成してもよい。
【0067】
第1の処理装置100の通信部140から伝送された信号は、第2の処理装置200で処理される。第2の処理装置200は、通信部210と、画像/センサバッファ220と、画像処理部230とを含み、処理された動画ストリームはデータベース240に格納される。
【0068】
通信部210は、無線LANや有線LANなどのネットワーク層を介して第1の処理装置100との通信を行う。具体的には、切り出し範囲に応じてトリミングされた画像情報と、切り出し範囲設定時のパラメータ(例えばセンサ情報)とを受信する。また、画像処理部230において処理された画像情報を第1の処理装置100に対して送信する。画像/センサバッファ220は、通信部210が受信した画像情報及びセンサ情報(パラメータ)を保存するバッファである。画像処理部230は、画像処理としてブレ補正処理を行う。画像処理部230で行われる具体的な処理については、図5(D)〜図5(F)等を用いて後述する。なお、画像処理部230での処理後の画像は、第1の処理装置100に対して送信されるものとしたがこれに限定されるものではなく、例えばネットワーク上のストレージに保存されるようにしてもよい。また、第2の処理装置200は、プログラムとして実装されてもよく、またネットワーク上の分散処理システムなどで構成されてもよい。
【0069】
次に第1の処理装置100の切り出し範囲設定部120において行われる切り出し範囲の設定手法について説明する。切り出し範囲の設定は、傾きによるブレと、並進でのブレとの2つのブレに対応する必要があるが、ここでは傾きによるブレの補正から説明するものとする。
【0070】
本実施形態では、画像安定化の処理の例として第1の処理装置100は、加速度センサからの重力方向の情報を取得し、それに基づいて、第2の処理装置200で実施するカメラのロール軸周りの画像の水平出し補正を行う。
【0071】
電子式ブレ補正では、図19に示したように表示画像に対して大きい画像を取得しておき、取得画像のなかで表示画像として用いる領域を、撮像装置10と被写体との相対的な動きに基づいて決定することで、あたかも被写体が動いていない(ぶれていない)ように見せるものである。ここで表示画像として用いる領域の大きさは、当然表示画像の大きさに基づいて決定されるものであり、図3においては初期画像切り出し範囲として示したものに対応する。ここでは、傾きによるブレが発生していることを前提としているため、本来重力方向を基準として水平になっているはずの領域(初期画像切り出し範囲)が、傾いてしまっている(図3における「傾いた場合の画像切り出し範囲」に相当)。つまり、傾き補正処理を行うためには、「傾いた場合の画像切り出し範囲」を少なくとも含む領域を切り出し範囲に設定する必要がある。
【0072】
本実施形態においては、処理を簡単にするため、重力方向に対して水平になっている長方形を切り出し範囲に設定する。よって、「傾いた場合の画像切り出し範囲」を包含する長方形を切り出し範囲として設定すればよい。ここで、ネットワークの帯域を圧迫しないことを目的に切り出し範囲の設定を行うことに鑑みれば、ただ「傾いた場合の画像切り出し範囲」を包含する長方形を設定するのではなく、そのような条件を満たす長方形のうち最小のものを設定する必要がある。これが図3に示した最小切り出し範囲となる。
【0073】
傾きによるブレがρである場合を例にとって、最小切り出し範囲の設定手法について説明する。画像の表示範囲の中心を原点とし、図3に示すように頂点をA、Bとする。縦横の表示範囲のピクセル量を(U,V)ピクセルと定義すると、表示範囲の原点から頂点までの距離rは下式(1)に示す値となる。
【数1】
【0074】
傾きによるブレρ[deg]だけ、ロール軸周りに逆方向に画像切り出し範囲を回転させることで回転ブレを補正する。このとき、伝送する画像切り出し範囲は表示範囲に外接する方形を最小切り出し範囲(U'min,V'min)としてこの範囲以上の大きさの領域を切り出すことになる。A’及びB’の座標からU’min及びV’minは下式(2)及び(3)により求められる。
【数2】
【数3】
【0075】
画像の鉛直方向と、重力方向が一致している状態で安定していれば、大画面テレビでの視聴を行う時に不快なロール軸周りのブレがなく、安定して映像を視聴することが出来る。しかしながら、頭部装着型のウェアラブルカメラのように体動に応じてカメラも大きく動く場合には、映像酔いを起こしたりする。これを防ぐには、ロール軸周りのブレ補正を行う必要がある。
【0076】
図3に示すように基準位置からの重力センサのカメラ光軸周りのズレ角度をρとしているので、この画像のピクセル縦横比から決まる原点から頂点への直線がu軸となす角αが算出でき、これと、ρを用いることで傾いた撮像を行っている時に鉛直方向画像のv方向になるように画像切り出しを行う領域を上式(1)〜(3)に基づいて算出することが出来る。
【0077】
実際にはこれに並進のブレ、パンやチルト動作により生じる単調増加、減少の画像の移動が存在するので、第1の処理装置で切り出す画像のサイズは、これらを考慮したΔU、ΔVに応じて追加した範囲の映像を切り出す。
【0078】
続いて並進のブレ補正について説明する。並進のブレ補正は、一般的な電子ブレ補正を用いるが、その為に必要となる補正代としてΔU、ΔVをβ倍した領域を持つ画像切り出しを第1の処理装置100では行うことになる。ΔU、ΔVは加速度センサから出力される並進成分から算出されており、これを基に第1の処理装置100の実切り出し範囲を決定する。βの値は電子ブレ補正の安全率ともいえる倍率であり電子ブレ補正をぎりぎり行うβ=1から、挙動を安定化し、画像切れを防ぐためにβ=2程度の値を持つのが好ましい。この関係を図4に示す。
【0079】
以上のように、傾きによるブレ及び並進のブレに基づいて切り出された画像情報が、通信部140を介して第2の処理装置200に送信される。画像を切り出して転送することで、通信の伝送量を、すべての映像を最大のサイズで送信するよりも少ない容量にすることが可能になる。
【0080】
画像の切り出しは、基準画像のピクセルに対して単純に縦、横の配列座標に沿って方形に切り出すことが、画像処理の負荷を減らすことが出来るため望ましい。更に撮像モジュールがCMOSセンサの場合は、センサからの読み出しそれ自体を読み出し開始アドレス、終了アドレスを指定することで方形に切り取られた映像信号として取り出すことも出来るというメリットもある。
【0081】
ここで、切り出し位置データとして原点の位置Oの座標遷移やセンサで検出されたρの値、また、それに伴い算出されたA’、B'の座標データ、第1の処理装置100で切り出す座標の値、並進ブレの補正幅として付加したΔU,ΔVの値はパラメータ(メタデータ)として映像データと共に、第2の処理装置200に送られる。
【0082】
第2の処理装置200では、第1の処理装置100で切り出された画像とパラメータ(切り出し位置データ等)に基づいて、並進ブレ成分によるブレと回転切り出しを行う画像ピクセルの値を読み出し、最終的な切り出し画像のピクセル値を算出する。このとき、ピクセル値は補完を必要とするので、適宜ニアバイピクセル、バイキュービック処理などの画素補完技術を用いて、最終的な切り出し画像を生成する。このようにして生成された画像を連続的につなげると、傾きブレで不安定だった画像が垂直の安定した画像になる。
【0083】
また、時系列的に並んだ例えば数秒間の複数フレームを用いた低周波のブレを特徴点の移動などから画像処理で算出し、これを第1の処理装置100に通信部210を介して送り、原点位置の座標遷移にフィードバックしてもよい。
【0084】
更に第2の処理装置200で、切り出し範囲を並進移動させる電子手振れ補正を用いて細かなブレを補正してもよいし、フレーム内でぶれている画像を、デブラーフィルタを用いて先鋭化させてもよい。
【0085】
次に、第2の処理装置200の画像処理部230で行われる画像処理について説明する。具体的には、補正のための画像の切り出し手順に応じた画像の切り出し範囲の遷移について図5(A)〜図5(F)を用いて説明する。
【0086】
まず、図5(A)のF0は撮像素子の有効画素全体である。また、傾きの補正及び並進ブレ補正を行って最終的に表示・記録したいフレームは中央部のFFという方形で示す。
【0087】
まず、第1の処理装置100では、FFに外接し、かつ並進ブレの補正代を持ったフレーム(図5(B)のF1)を決定する。画像切り出し部122では、このF1を切り出して、パラメータを付加して第2の処理装置200に送信される。このことを表したのが図5(C)である。
【0088】
第2の処理装置200の画像処理部230では、F1に対して電子ブレ補正が行われF2が切り出される(図5(D))。この中で内接するρ回転したフレームFF(図5(E))が切り出され、これを回転することで最終的な画像FFF(図5(F))を出力することになる。
【0089】
以上の本実施形態では、図2に示したように、情報処理装置(広義には第1の処理装置100)は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、サーバシステム(広義には第2の処理装置200)における画像処理対象領域に対応する切り出し範囲を、撮像画像に対して設定する切り出し範囲設定部120と、撮像画像のうち切り出し範囲に設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する通信部140と、を含む。
【0090】
ここで、撮像画像は撮像素子によって結像される画像全体を指し、図5(A)のF0に相当する。切り出し範囲とは、切り出し範囲設定部120において設定される領域であり、図5(B)のF1に相当する。画像処理対象領域とは、サーバシステムの画像処理部230における処理の際に用いられる領域であり、図5(C)のF1に相当する。ここでは、切り出し範囲と画像処理対象領域とは一致するものとしたがこれに限定されるものではない。
【0091】
これにより、撮像画像に対して切り出し範囲を設定し、切り出し範囲として設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する情報処理装置を実現することが可能になる。よって、撮像画像を取得する情報処理装置(第1の処理装置100)と実際に画像処理を行うサーバシステム(第2の処理装置200)とを分散させて配置することが可能になる。また、情報処理装置とサーバシステムはネットワークで接続されるため、切り出し範囲を設定することにより、ネットワークに対して送信される情報の量を削減することが可能になり、ネットワークの帯域を圧迫することによる影響を抑止することも可能となる。
【0092】
また、切り出し範囲設定部120は、撮像画像において生じるブレを補正する際に用いられるブレ補正処理領域を内包する領域を切り出し範囲として設定してもよい。
【0093】
ここで、ブレ補正処理領域とは、図19におけるA1等の領域のことであり、図5(A)でいえばFFに相当する。なお図3における「傾いた場合の画像切り出し範囲」のことでもある。
【0094】
これにより、切り出し範囲はブレ補正領域を内包した領域とすることができる。電子式ブレ補正の原理より、ブレ補正領域を画像処理部230に送信することができればブレ補正処理を行えるのであるから、ブレ補正領域を内包した領域があれば、ブレ補正を行うことができる。ここで、切り出し範囲はブレ補正領域と一致してもよいが、処理を簡単にするために傾いていない長方形を設定したり、並進ブレによる補正代を用意したりすることで図5(B)のF1に示した領域のようになることは上述したとおりである。
【0095】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部の傾きブレ補正処理に使用される傾きブレ情報を取得する情報取得部130を含んでもよい。そして、切り出し範囲設定部120は傾きブレ情報に基づいて切り出し範囲を設定する。
【0096】
これにより、傾きによるブレに対応することが可能になる。通常の手に把持して使用するデジタルビデオカメラ等においては、ユーザは自然に重力方向に対して水平に撮影しようとする。そのため、ブレ補正処理が強くかからなくても映像を見た場合に、不自然に感じることは少ない。しかし、ウェアラブルカメラ(例えば頭部に装着される)においては、水平を保った撮影は困難であり、特に撮影した映像を大画面の表示装置に表示した場合等に視聴者に違和感を与えやすい。よって、傾きによるブレを補正することで、見る人にとって自然な映像を提供することが望ましい。
【0097】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部のモーションセンサ16からのセンサ情報を取得するセンサ情報取得部150を含んでもよい。そして情報取得部はセンサ情報に基づいて傾きブレ情報を取得し、切り出し範囲設定部120は、傾きブレ情報に基づいて切り出し範囲を設定する。
【0098】
これにより、モーションセンサ16のセンサ情報に基づいて切り出し範囲を設定することが可能になる。重力方向に対する傾きは加速度センサや角速度センサのセンサ値を用いることで容易に計測することができる。よって、画像処理等の手法を用いて傾きを検出する場合に比べて処理を簡単にすることが可能になる。
【0099】
また、情報処理装置の通信部140は、切り出し範囲に設定された領域の画像情報に、傾きブレ情報を付加して、サーバシステムに対して送信してもよい。
【0100】
これにより、サーバシステムにおける画像処理を容易に行うことが可能になる。図5(C)に示したように、第1の処理装置から送信される画像情報はF1に相当する切り出し範囲の領域となる。つまり、F1だけ送信されてもサーバシステムは必須部分と余剰部分とを判断しなければならず、例えば画像の被写体認識等の重い処理が必要となってしまう。その点、パラメータ(メタデータ)として傾きブレ情報(例えば回転角ρ)が同時に送信されれば、図5(E)のF2からFFを特定することは容易であるし、FFから図5(F)のFFFに変形することも容易である。
【0101】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部の並進ブレ補正処理に使用される並進ブレ情報を取得する情報取得部130を含んでもよい。そして、切り出し範囲設定部120は並進ブレ情報に基づいて切り出し範囲を設定する。
【0102】
これにより、並進ブレに対応することが可能になる。ユーザの手ぶれ(ウェアラブルカメラであれば装着している部位のブレ)により、並進方向におけるブレは必ずと言っていいほど発生してしまう。その場合、図3に示したように、回転によるブレしか考慮しないでいると、並進ブレの影響により必要な情報が欠損してしまう可能性が生じる。よって図4に示したように、並進ブレの補正のための補正代(図4におけるβΔUとβΔV)を用意しておくことが望ましい。
【0103】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部のモーションセンサ16からのセンサ情報を取得するセンサ情報取得部150を含んでもよい。そして情報取得部はセンサ情報に基づいて並進ブレ情報を取得し、切り出し範囲設定部120は、並進ブレ情報に基づいて切り出し範囲を設定する。
【0104】
これにより、モーションセンサ16のセンサ情報に基づいて切り出し範囲を設定することが可能になる。並進ブレは加速度センサや角速度センサのセンサ値を用いることで容易に計測することができる。よって、画像処理等の手法を用いて並進ブレを検出する場合に比べて処理を簡単にすることが可能になる。
【0105】
また、切り出し範囲設定部120は、並進ブレ補正処理を行わない場合の第1の切り出し範囲に比べて、並進ブレ補正処理を行う場合の第2の切り出し範囲を、並進ブレ情報により特定される並進ブレ量に対応する分だけ広い領域に設定してもよい。
【0106】
これにより、第1の切り出し範囲に対する第2の切り出し範囲の拡大幅を、並進ブレ情報に基づいて適切に設定することが可能になる。具体的には、並進ブレ情報から特定される並進ブレ量ΔUとΔVを求める。ΔU、ΔVをそのまま用いて拡大幅を決定してもよいが、本実施形態においては、βΔU及びβΔVを用いることで、補正代に柔軟性を持たせ、必要に応じた大きさの切り出し範囲を設定可能にしている。
【0107】
また、情報処理装置の通信部140は、切り出し範囲に設定された領域の画像情報に、並進ブレ情報を付加してサーバシステムに送信してもよい。
【0108】
これにより、サーバシステムにおける画像処理を容易に行うことが可能になる。傾きブレの場合と同様に、切り出し範囲に対応する領域の画像情報だけ送信されても、サーバシステムは必須部分と余剰部分とを判別することができない。そこで、並進ブレ量ΔU及びΔVを送信することで、図5(D)のF1からF2を容易に特定することが可能になる。なお、ΔU、ΔVだけでなく、パラメータβも同時に付加して送信することが望ましい。
【0109】
また、以上の本実施形態は、撮像部(撮像装置10)から取得した撮像画像に対して情報処理装置(第1の処理装置100)が設定した切り出し範囲に対応する領域の画像情報を、情報処理装置からネットワークを介して受信するとともに、切り出し範囲の設定に用いられたパラメータを受信する通信部210と、受信したパラメータに基づいて画像情報に対して補正処理を行う画像処理部230と、を含むサーバシステム(第2の処理装置200)に関係する。
【0110】
これにより、上述してきた情報処理装置と連動して動作するサーバシステムを実現することが可能になる。サーバシステムは、切り出し範囲に対応する領域の画像情報と、パラメータ(メタデータ)を用いて、画像情報に対してブレ補正処理を行う。このようなサーバシステムを実現することにより、情報処理装置側では、負荷のかかる画像処理を行う必要がなくなる。よって、情報処理装置の構成を簡素にすることが可能になり、特に情報処理装置がHMDのようなウェアラブルデバイスの場合には効果を発揮する。
【0111】
また、以上の本実施形態は、上述した情報処理装置とサーバシステムを含む画像処理システムに関係する。
【0112】
これにより、情報処理装置とサーバシステムとを連係して動作させ、情報処理装置側では切り出し範囲の設定のみを行い、負荷のかかる画像処理(ブレ補正処理)はサーバシステム側で行うような画像処理システムを実現することができる。ネットワーク送信の前処理として情報処理装置側で切り出し範囲に基づく切り出し処理を行うため、ネットワークに送信される情報の量を削減することができ、ネットワークの帯域を圧迫することを抑止できる。
【0113】
また、以上の本実施形態は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、取得した撮像画像に対してブレ補正処理を行う際に用いられるパラメータを設定するパラメータ設定部と、撮像画像の画像情報及びパラメータを、ネットワークを介してサーバシステムに送信する通信部140と、を含む情報処理装置に関係する。
【0114】
これにより、切り出し範囲の設定を行わずに、パラメータの送信を行う情報処理装置を実現することが可能になる。情報処理装置とサーバシステムの連動動作において、情報処理装置側で切り出し処理を行う場合について説明してきたが、情報処理装置では切り出しを行わず、パラメータの検出と送信のみを行うようにしてもよい。このようにすることで、上述してきた例に比べて、より情報処理装置側の処理負荷を軽くすることが可能になる。
【0115】
また、以上の本実施形態は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、サーバシステム(広義には第2の処理装置200)における画像処理対象領域に対応する切り出し範囲を、撮像画像に対して設定する切り出し範囲設定部120と、撮像画像のうち切り出し範囲に設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する通信部140としてコンピュータを機能させるプログラムに関係する。
【0116】
これにより、上述してきた情報処理装置で行われる処理を、プログラムによりソフトウェア的に実現することが可能になる。そして、上記プログラムは、情報記憶媒体に記録される。ここで、情報記憶媒体としては、DVDやCD等の光ディスク、光磁気ディスク、ハードディスク(HDD)、不揮発性メモリーやRAM等のメモリーなど、情報処理装置等によって読み取り可能な種々の記録媒体を想定できる。例えば、PC等の機器によって読み取り可能な種々の記録媒体にプログラムが記憶され、PC等の処理部(例えばCPU)において実行されるケースが考えられる。本実施形態においては、ウェアラブルカメラの使用が想定されているため、それに付随して用いられる情報処理装置も小型軽量のもの(例えば携帯電話等)が用いられることが考えられる。そのような場合には、本実施形態にかかるプログラムは、携帯電話(特にスマートフォン)上で実行されるアプリケーションとして実現されてもよい。
【0117】
3.第2の実施形態
次に、本発明の画像処理システムの第2の実施形態を、図6を用いて説明する。第1の実施形態と同様に、撮像装置10は、撮像モジュール12と基本画像処理エンジン14とモーションセンサ16からなる。
【0118】
撮像装置10からの動画ストリームは第1の処理装置100に入力される。第1の処理装置100の構成は、第1の実施形態と同様であるため、詳細な説明は省略する。
【0119】
傾きによるブレと、それとともに補正する必要がある並進ブレについて、第1実施形態では説明したが、並進のぶれに関して簡易的に伝送する画像のサイズを抑制する方法について図7(A)〜図7(D)で説明する。
【0120】
図7(A)に示すように、簡単のためにカメラ撮像範囲(外周の方形)、伝送範囲(太線の方形)、出力画像サイズ(内側の方形)として説明する。また、ぶれにより出力画像の範囲がずれることを表現するため、二点差線の枠を示す。
【0121】
まず、細かいブレ(高周波ブレ)が存在している場合は、被写体の撮像装置10に対する相対的な動きは小さいと考えられるため、図7(B)に示すように伝送範囲は小さくすることが出来る。それに対して、ストロークの大きなブレ(低周波ブレ)が存在する場合は、伝送範囲を図7(C)に示すように広げることで、ブレに対応する必要がある。また、低周波でストロークの長いブレを補正する際に、第2の処理装置200で補正を行うような場合は、図7(D)に示すように広い伝送範囲で画像を伝送しなくてはならない。
【0122】
このように、並進ブレの周波数等を考慮した上で伝送範囲を設定することにより、補正代を大幅に削減することができるため、通信装置で伝送する画像サイズを小さくすることが可能になる。
【0123】
並進ブレが高周波ブレであるか、低周波ブレであるかは、センサ情報取得部150で取得したセンサ情報に基づいて判定してもよいし、画像情報に対して画像処理を行うことで判定してもよい。一例としては図6に示したように、センサ情報取得部150からブレ判定情報を取得する。これは主に高周波ブレを検出するための情報である。それとともに、第2の処理装置200で取得された画像情報を用いて、ブレ判定情報生成部250においてブレ判定情報を生成してもよい。これは主に低周波ブレを検出するための情報である。低周波ブレは、並進ブレの周波数が低いため、短時間に得られた情報では検出が難しい。よって、例えばデータベース240に蓄積された複数の画像情報を用いて検出することが考えられる。ブレ判定情報生成部250で生成されたブレ判定情報は、通信部210及び通信部140を介して切り出し範囲設定部120に送信される。
【0124】
なお、この本実施形態の各構成は、当然、各種の変形、変更が可能である。ここでは、画像の伝送範囲を広げたり狭めたりすることで伝送する画像容量を抑えたが、第1の実施形態のように、切り出し中心をブレ量に対してずらすようにしてもよい。
【0125】
また、本実施形態における低周波ブレ、高周波ブレとは以下のようなものであるとする。図18(A)に示しように大きな体動(歩行)で生じる体全体の上下動や足の繰り出しで生じる左右の揺れ、また、呼吸による体動などおおむね1Hz以下の揺れを低周波成分とする。また、頭部の微細な動き、歩行時の着地で生じる瞬間的な揺れなどについては高周波成分とする。
【0126】
例えば、図18(A)のような運動では、センサ情報からは図18(B)のような波形が得られる。これは、図18(C)に示した歩行由来の低周波成分と、図18(D)に示した高周波成分の波形の合成である。図18(B)の波形をフーリエ変換したものが図18(E)となる。図18(E)における網掛けの部分が低周波成分に相当する。
【0127】
ジャイロセンサによる位置のずれ、回転のズレ、重力加速度センサによる水平からの傾きのブレ、画像の特徴量の移動ベクトルから算出されるブレなどから姿勢変動を検出することができるため、それらの情報から高周波、低周波の成分を抽出することが可能である。抽出した成分を用いて補正処理を実施する際には、サーバで行ってもよいし、端末側で行ってもよい。
【0128】
例えば、本実施形態において上述したものは、高周波のブレ情報をカメラ端末(第1の処理装置100)で算出し、電子手振れ補正のための画像切り出しに利用すると共に、サーバ側(第2の処理装置200)で低周波のブレ情報を算出し、この値をカメラ端末側にフィードバックすることで前記画像の切り出し範囲を拡張するものである。
【0129】
以上の本実施形態では、情報処理装置の切り出し範囲設定部120は、並進によるブレが高周波ブレによるものが低周波ブレによるものかを判別するブレ判定情報を取得する。そして、並進によるブレが低周波ブレによるものと判定された場合には、高周波ブレによるものと判定された場合に比べて、広い領域を切り出し範囲として設定してもよい。
【0130】
これにより、図7(B)、図7(C)に示したような処理が可能になる。低周波ブレでは、高周波ブレに比べて広い範囲に移動することが想定される。よって、並進ブレ補正の際の補正代は広く取っておく必要がある。
【0131】
また、サーバシステムは、通信部から受信した画像情報に基づいてブレ判定情報を生成してもよい。そして、切り出し範囲設定部120は、サーバシステムが生成したブレ判定情報を、ネットワークを介して受信する。
【0132】
これにより、情報処理装置で行われる切り出し範囲の設定の際に、サーバシステムからフィードバックされたブレ判定情報を用いることが可能になる。情報処理装置では構成を簡単にすることが求められるため、画像を蓄積するバッファ等は設けられない可能性がある。しかし、低周波ブレを検出するためには、比較的長い期間にわたって情報を集める必要があるため、情報処理装置において低周波ブレを検出することは容易ではない。そこで、サーバシステム側で画像情報を蓄積し、低周波ブレの検出はサーバシステム側で行うことが考えられる。そして、サーバシステムで生成されたブレ判定情報を情報処理装置に送信することで、情報処理装置における切り出し範囲の設定処理に用いる。
【0133】
また、以上の本実施形態は、図6に示したように、画像情報に基づいて並進ブレが高周波ブレによるものか低周波ブレによるものかを判定するブレ判定情報を生成するブレ判定情報生成部を含むサーバシステムに関係する。サーバシステムの通信部210は、生成されたブレ判定情報を情報処理装置に対して送信する。
【0134】
これにより、ブレ判定情報を生成するサーバシステムを実現することが可能になる。情報処理装置ではなくサーバシステムにおいてブレ判定情報を生成することの利点は上述したとおりである。
【0135】
4.第3の実施形態。
次に、本発明の画像処理システムの第3の実施形態を、図8を用いて説明する。撮像装置10は撮像モジュール12と基本画像処理エンジン14とモーションセンサ16とからなる、これは第1、第2の実施の形態と共通である、また、第2の処理装置200の構成も第1の実施形態と同様であるため、詳細な説明は省略する。
【0136】
第1の処理装置100は被写体認識部170を含み、その認識結果である被写体情報は情報取得部130に送られる。被写体認識部では、画像データから被写体を検出し、その被写体座標等を取得することになる。第1の処理装置100では、取得した被写体座標に基づいて、画像切り出し位置の追尾を行い、切り出し画角を制御する。
【0137】
また、本実施形態におけるセンサはモーションセンサに限定されるものではなく、RFIDを用いたアクティブレーダーや焦電センサなど、被写体を認識するためのセンサであってもよい。その場合、図8の例とは異なり、撮像画像ではなく,センサ情報に基づいて被写体情報を取得することになる。
【0138】
被写体認識部170からの被写体情報(画像内の被写体位置・姿勢データ等)の周期的な変動を抽出し、高周波ブレと低周波ブレを検出し、画像の画角に対する正規化した振幅量を求め、振幅量が小さく高周波のブレ成分のみの時は画像の切り出し範囲を小さくし、振幅量が大きいか、もしくは低周波成分が多い場合には画像の切り出し範囲を大きくする処理を行う。
【0139】
図9に顔を例とした伝送範囲の大きさについてカメラ撮像範囲(外周の方形)、伝送範囲(太線の方形)、出力画像サイズ(内側の方形)を用いて説明する。図9(A)は被写体が動いていない標準的な状態である。被写体の運動が小さい時は、高周波ブレであり、振幅が小さいため図9(B)に示すように伝送範囲を小さくする。被写体の運動が大きい時は低周波ブレの状態であるため、図9(C)に示すように伝送範囲を広げる。また、被写体が移動するような場合は、撮像装置10の運動も加味し、撮像装置10が被写体移動方向に追尾運動をした場合、被写体を追いかける方向の伝送範囲を広げるようにしても良い(図9(D))。
【0140】
以上の本実施形態では、情報取得部130は、撮像画像における被写体の被写体傾き情報に基づいて傾きブレ情報を取得してもよい。そして、切り出し範囲設定部120は、傾きブレ情報に基づいて切り出し範囲を設定する。
【0141】
これにより、被写体情報に基づいて傾きブレ情報を取得することが可能になる。被写体情報は例えば撮像画像に対して画像処理を行うことにより取得してもよいし、センサ等の情報に基づいて取得してもよい。サーバシステムの画像処理部230において行われるブレ補正処理が、被写体の画像上での動きを小さくするという目的で行われることに鑑みれば、被写体の情報に基づいて当該ブレ補正処理のパラメータ等を決定することは非常に有用であると考えられる。
【0142】
また、情報取得部130は、撮像画像における被写体の被写体並進情報に基づいて並進ブレ情報を取得してもよい。そして、切り出し範囲設定部120は、並進ブレ情報に基づいて切り出し範囲を設定する。
【0143】
これにより、傾きブレ補正だけでなく、並進ブレ補正についても被写体情報に基づいて処理を行うことが可能になる。被写体情報を用いることの利点は上述したとおりである。
【0144】
5.変形例
第1〜第3の実施形態においては、画像処理を行う対象は傾きによるブレ及び並進ブレであったが、それ以外に画像処理を行ってもよい。ここではローリングシャッターによる歪み及びレンズディストーションについて説明する。
【0145】
ウェアラブルカメラでは、端末価格を抑えるために撮像装置10として安価なCMOSセンサを用いることが考えられる。しかし、CMOSセンサを用いた場合には、ローリングシャッター歪みの影響により、切り出したトリミング結果に対して欠損が生じるという問題があった。具体例を図10(A)、図10(B)、図11に示す。図10(A)がローリングシャッターによる歪みが生じない場合の例であり、この場合には、適切な範囲をトリミング範囲(切り出し範囲)として設定することができる。しかし、ローリングシャッターによる歪みが生じた場合には、図10(B)に示したように、直立しているはずの被写体が斜め方向に歪んでしまうことがある。そのため、歪みを考慮せずに切り出し範囲を設定してしまうと、切り出した結果として図11のように被写体の一部に欠損が生じてしまうことになる。
【0146】
よって本例では、図12に示したようにローリングシャッターによる歪みを考慮した上で、長方形ではなく平行四辺形の領域を切り出し範囲として設定するものとする。このような領域でトリミングをした上で、ブレ補正及び歪み補正を行えば、図13に示したように、被写体が欠損することがなく、適切な画像を取得することができる。具体的には例えば、ジャイロセンサで計測した角速度と、AFからの主要被写体までの距離情報、及びレンズが書くから取得される歪み量を推定し、それらの情報に基づいて切り出し範囲を設定することが考えられる。
【0147】
次にレンズディストーションについて説明する。光学系では歪曲収差等の影響により画像に歪みが生じうる。特に画像周辺部ほど歪みは大きい。よって、レンズディストーションも考慮した上で、長方形ではなく図14に示したような形状の切り出し範囲を設定する必要がある。また、図15に示したようにローリングシャッターによる歪みとレンズディストーションの両方を考慮した切り出し範囲の設定も可能である。
【0148】
なお、上述した図10(B)等ではパンニングによる(つまり撮像装置10側が動くことによる)ローリングシャッター歪みについて述べていたが、被写体側が動く場合にも同様のことを考える必要がある。例えば、図16、図17のように、パンニングによるローリングシャッター歪みがなかったとしても、被写体が運動中であれば、そのことによるローリングシャッター歪みを考慮した上で、切り出し範囲の設定を行わなければならない。この場合、例えば被写体の動き認識やオプティカルフローの傾向から、ローリングシャッター歪みを考慮して切り出し範囲を変形することになる。
【0149】
以上の本実施形態では、切り出し範囲設定部120は、撮像画像において生じる歪みを補正する際に用いられる歪み補正処理領域を内包する領域を切り出し範囲として設定してもよい。
【0150】
これにより、ブレだけでなく歪みも考慮した上で切り出し範囲を設定することが可能になる。例えば図10(B)に示したように斜め方向への歪みが生じている場合には、長方形の領域を切り出し範囲に設定しても図11に示したように被写体の欠損が生じる。その場合には、平行四辺形等の歪みを考慮した切り出し範囲を設定することが望ましい。
【0151】
また、撮像画像の歪みは、ローリングシャッターによる歪みであってもよいし、歪曲収差による歪みであってもよい。
【0152】
これにより、ローリングシャッターによる歪み及び歪曲収差による歪みに対応することが可能になる。ローリングシャッターによる歪みには上述したように図10(B)のようなパンニングによるものと、図17のような被写体の運動によるものがあるが、どちらにも対応可能である。歪曲収差による歪みは、撮像光学系の設計等から歪みの度合いを推定することができるため、推定した歪み度合いに応じて切り出し範囲を設定すればよい。
【0153】
以上、本発明を適用した3つの実施の形態1〜3およびその変形例について説明したが、本発明は、各実施の形態1〜3やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜3や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜3や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0154】
10 撮像装置、12 撮像モジュール、14 基本画像処理エンジン、
16 モーションセンサ、100 第1の処理装置、110 撮像画像取得部、
120 切り出し範囲設定部、122 画像切り出し部、130 情報取得部、
140 通信部、150 センサ情報取得部、160 表示部、170 被写体認識部、
200 第2の処理装置、210 通信部、220 画像/センサバッファ、
230 画像処理部、240 データベース、250 ブレ判定情報生成部、
【技術分野】
【0001】
本発明は、情報処理装置、サーバシステム、画像処理システム及びプログラム等に関する。
【背景技術】
【0002】
ウェアラブルカメラは、身体に装着したカメラによる動画像の撮影を行う。従来のウェアラブルカメラは内蔵の記憶装置に動画を記録し、それをパーソナルコンピュータなどにファイルとして移動し、動画データを得ていた。しかし、ウェアラブルカメラには手ぶれ補正はなく、ダイナミックな動きそのものを記録することに重点が置かれている。
【0003】
手ぶれ補正処理としては、例えば特許文献1に開示されているような電子手ぶれ補正の技術が知られている。また、従来型のカムコーダーでは、細かな手ぶれを補正する能力に加え、最近ではアクティブモードやダイナミックモードとして、歩行時のブレの補正まで出来る低周波、大振幅対応の機能が光学式、電子式共に導入されつつある。すなわち、従来の手ぶれ補正は、周波数の高い手ぶれ成分に加え、近年は歩行時の長周期ブレを補正するように構成されていた。
【0004】
また、従来のウェアラブルカメラにおいては、画像処理はスタンドアローンで実施されるものであった。ウェアラブルカメラでは、従来のカメラで意識的に行っていた水平出し(画面の左右傾き、ロール軸)や身体を動かした時の腕を使ったカメラポジションの移動の緩和などが実施できない。その為、超広角のレンズを用いて広い範囲を撮影した上でのトリミングか、スタビライザーやパンチルトロール可能な雲台により、撮影フレーミングの調整や、ブレ補正を行う必要がある。
【0005】
また、携帯電話のテレビ電話機能などは限られた帯域の中、低解像度の映像を圧縮した上で伝送することを行っていた。
【0006】
コンシューマー向けのウェアラブルカメラを導入するためにはこれらを融合した上で、更に見やすい、シーン認識機能などにより自動編集しやすい高画質の映像を撮るための画像安定制御の技術が必要になる。例えば、特許文献2では、ネットワークを介して処理画像とブレ補正のための情報をサーバに送信し、サーバでブレ補正を実施する例が開示されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平5−316404号公報
【特許文献2】特開2009−302762号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
携帯電話のテレビ電話機能等の動画像の伝送では、ネットワークの帯域が限られているため、画像の解像度を下げたり圧縮処理を行ったりしている。しかし、そのような処理は画質の劣化を招くことになる。
【0009】
また、ウェアラブルカメラにおいては、ブレ(傾きによるブレと並進によるブレを含む)が発生しやすいため、当該ブレを補正する処理を行うことが望ましい。特に、撮像した画像を大画面の表示装置に表示する際には、ユーザにとって見やすい映像を提供するためにもブレ補正処理は必要となる。
【0010】
特許文献2では、補正に必要な領域を削除すると補正漏れが生じることから、画像はすべてサーバに送付している。しかしながら、限られた通信帯域で大容量画像をそのまま送付することはネットワークインフラに多大な負荷を与えるため、好ましくない。
【0011】
本発明の幾つかの態様によれば、撮像画像に対して切り出し範囲を設定し、設定した切り出し範囲の画像情報をサーバシステムに対して送信することでネットワークの帯域の圧迫等を抑止できる情報処理装置、サーバシステム、画像処理システム及びプログラム等を提供することができる。
【0012】
また、本発明の幾つかの態様によれば、画像処理を行うサーバシステムに対して、ブレ補正処理に使用されるパラメータを付加した上で画像情報を送信することで、分散型等の画像処理を行う情報処理装置、サーバシステム、画像処理システム及びプログラム等を提供することができる。
【課題を解決するための手段】
【0013】
本発明の一態様は、撮像部から撮像画像を取得する撮像画像取得部と、サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部と、を含む情報処理装置に関係する。
【0014】
本発明の一態様では、撮像画像に対して切り出し範囲を設定し、切り出し範囲に設定された領域の画像情報をサーバシステムに対して送信する。よって、切り出し範囲を撮像画像よりも例えば狭い領域とすることで、ネットワークに対して送信される画像情報のデータサイズを小さくすることなどが可能になり、ネットワークの帯域を圧迫することによる影響等を抑止することができる。
【0015】
また、前記切り出し範囲設定部は、前記撮像画像において生じるブレを補正する際に用いられるブレ補正処理領域を内包する領域を、前記切り出し範囲として設定してもよい。
【0016】
これにより、ブレ補正処理領域を内包する領域をサーバシステムに対して送信することができるため、サーバシステムにおいてブレ補正処理を行うことが可能になる。
【0017】
また、前記撮像部の傾きブレ補正処理に使用される傾きブレ情報を取得する情報取得部を含み、前記切り出し範囲設定部は、前記傾きブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0018】
これにより、傾きブレを補正することが可能な切り出し範囲を設定することが可能になる。
【0019】
また、前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、前記情報取得部は、前記センサ情報に基づいて前記傾きブレ情報を取得し、前記切り出し範囲設定部は、前記傾きブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0020】
これにより、センサ情報を用いて傾きブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0021】
また、前記情報取得部は、前記撮像画像における被写体の被写体傾き情報に基づいて前記傾きブレ情報を取得し、前記切り出し範囲設定部は、前記傾きブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0022】
これにより、被写体の情報を用いて傾きブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0023】
また、前記通信部は、前記切り出し範囲に設定された領域の前記画像情報に、前記傾きブレ情報を付加して前記サーバシステムに対して送信してもよい。
【0024】
これにより、画像情報に付加して、切り出し範囲設定時のパラメータを送信することが可能になるため、サーバシステムにおける画像処理を容易にすることができる。
【0025】
また、前記撮像部の並進ブレ補正処理に使用される並進ブレ情報を取得する情報取得部を含み、前記切り出し範囲設定部は、前記並進ブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0026】
これにより、並進ブレを補正することが可能な切り出し範囲を設定することが可能になる。
【0027】
また、前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、前記並進ブレ情報取得部は、前記センサ情報に基づいて前記並進ブレ情報を取得し、前記切り出し範囲設定部は、前記並進ブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0028】
これにより、センサ情報を用いて並進ブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0029】
また、前記情報取得部は、前記撮像画像における被写体の被写体並進情報に基づいて前記並進ブレ情報を取得し、前記切り出し範囲設定部は、前記並進ブレ情報に基づいて、前記切り出し範囲を設定してもよい。
【0030】
これにより、被写体の情報を用いて並進ブレ情報を取得し、切り出し範囲を設定することが可能になる。
【0031】
また、前記切り出し範囲設定部は、前記並進ブレ補正処理を行わない場合の第1の切り出し範囲に比べて、前記並進ブレ補正処理を行う場合の第2の切り出し範囲を、前記並進ブレ情報により特定される並進ブレ量に対応する分だけ広い領域に設定してもよい。
【0032】
これにより、並進ブレ補正処理を行う場合には、並進ブレ補正処理を行わない場合に比べて並進ブレ量だけ広い領域を設定することで、並進ブレに対応可能な切り出し範囲を設定することができる。
【0033】
また、前記通信部は、前記切り出し範囲に設定された領域の前記画像情報に、前記並進ブレ情報を付加して前記サーバシステムに対して送信してもよい。
【0034】
これにより、画像情報に付加して、切り出し範囲設定時のパラメータを送信することが可能になるため、サーバシステムにおける画像処理を容易にすることができる。
【0035】
また、前記切り出し範囲設定部は、前記撮像部の並進ブレが、高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するためのブレ判定情報を取得し、取得した前記ブレ判定情報により前記並進ブレが前記低周波ブレによるものであると判定された場合には、前記高周波ブレによるものであると判定された場合に比べて広い領域を前記切り出し範囲として設定してもよい。
【0036】
これにより、並進ブレが低周波ブレか高周波ブレかに応じて、適切な大きさの領域を切り出し範囲に設定することが可能になる。
【0037】
また、前記サーバシステムは、前記通信部から受信した前記画像情報に基づいて前記ブレ判定情報を生成し、前記切り出し範囲設定部は、前記サーバシステムが生成した前記ブレ判定情報を、前記ネットワークを介して受信してもよい。
【0038】
これにより、高周波ブレか低周波ブレかを判定するためのブレ判定情報をサーバシステムにおいて生成し、生成されたブレ判定情報を受信することで情報処理装置において切り出し範囲を設定することが可能になる。
【0039】
また、前記切り出し範囲設定部は、前記撮像画像において生じる歪みを補正する際に用いられる歪み補正処理領域を内包する領域を、前記切り出し範囲として設定してもよい。
【0040】
これにより、ブレだけでなく、歪みについても補正可能な切り出し範囲を設定することが可能になる。
【0041】
また、前記撮像画像の前記歪みは、前記撮像部の撮像素子におけるローリングシャッターによる歪みであってもよい。
【0042】
これにより、撮像素子におけるローリングシャッターによる歪みを補正可能な切り出し範囲を設定することが可能になる。
【0043】
また、前記撮像画像の前記歪みは、前記撮像部の撮像素子における歪曲収差による歪みであってもよい。
【0044】
これにより、撮像素子における歪曲収差による歪みを補正可能な切り出し範囲を設定することが可能になる。
【0045】
本発明の他の態様は、ネットワークを介して情報処理装置と通信を行う通信部と、画像処理を行う画像処理部と、を含み、前記通信部は、前記情報処理装置が、撮像部から取得した撮像画像に対して切り出し範囲を設定し、前記切り出し範囲に対応する領域の画像情報と、前記切り出し範囲の設定に用いられたパラメータとを、前記ネットワークを介して送信した場合に、送信された前記画像情報と前記パラメータとを受信し、前記画像処理部は、受信した前記パラメータに基づいて、受信した前記画像情報に対する補正処理を行うサーバシステムに関係する。
【0046】
本発明の他の態様では、上述してきた情報処理装置から、切り出し範囲に設定された領域の画像情報と、切り出し範囲の設定に用いられたパラメータを受信することで、画像情報に対して補正処理を行うことができるサーバシステムを実現することが可能になる。よって、情報処理装置とサーバシステムとが連携し、補正処理を行うことが可能になる。
【0047】
また、前記画像情報に基づいて、前記画像情報におけるブレが高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するための情報であるブレ判定情報を生成するブレ判定情報生成部を含み、前記通信部は、生成された前記ブレ判定情報を前記ネットワークを介して前記情報処理装置に対して送信してもよい。
【0048】
これにより、ブレ判定情報をサーバシステムにおいて生成することが可能になる。
【0049】
本発明の他の態様は、情報処理装置と、サーバシステムと、を含み、前記情報処理装置は、撮像部から撮像画像を取得する撮像画像取得部と、前記サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する第1の通信部と、を含み、前記サーバシステムは、前記撮像画像に対して前記情報処理装置が設定した前記切り出し範囲に対応する領域の画像情報を、前記情報処理装置からネットワークを介して受信するとともに、前記切り出し範囲の設定に用いられたパラメータを受信する第2の通信部と、前記パラメータに基づいて、前記画像情報に対する補正処理を行う画像処理部と、を含む画像処理システムに関係する。
【0050】
本発明の他の態様では、情報処理装置とサーバシステムとが連係して動作することにより画像補正処理を行うことが可能な画像処理システムを実現することができる。
【0051】
本発明の他の態様は、撮像部から撮像画像を取得する撮像画像取得部と、取得した前記撮像画像に対してブレ補正処理を行う際に用いられるパラメータを設定するパラメータ設定部と、前記撮像画像の画像情報及び前記パラメータを、ネットワークを介してサーバシステムに送信する通信部と、を含む情報処理装置に関係する。
【0052】
本発明の他の態様では、画像情報にパラメータを付加してサーバシステムに対して送信することにより、サーバシステムにおける画像処理を容易にする情報処理装置を実現することが可能になる。
【0053】
本発明の他の態様は、撮像部から撮像画像を取得する撮像画像取得部と、サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部として、コンピュータを機能させるプログラムに関係する。
【図面の簡単な説明】
【0054】
【図1】本実施形態のシステム構成例。
【図2】第1の実施形態の詳細なシステム構成例。
【図3】傾きブレ補正を行う場合の切り出し範囲の設定手法を説明する図。
【図4】並進ブレ補正を行う場合の切り出し範囲の設定手法を説明する図。
【図5】図5(A)〜図5(F)は情報処理装置及びサーバシステムにおける画像処理の流れを説明する図。
【図6】第2の実施形態の詳細なシステム構成例。
【図7】図7(A)〜図7(D)は並進ブレの特性に応じて切り出し範囲を変化させる手法を説明する図。
【図8】第3の実施形態の詳細なシステム構成例。
【図9】図9(A)〜図9(D)は被写体の情報を用いて切り出し範囲を変化させる手法を説明する図。
【図10】図10(A)は歪みがない場合の被写体と切り出し範囲の図、図10(B)はローリングシャッター歪みがある場合の被写体と切り出し範囲の図。
【図11】歪みにより情報の欠損が起こる例。
【図12】ローリングシャッター歪みを考慮した切り出し範囲の例。
【図13】図12の切り出し範囲に対して補正処理を行った画像の例。
【図14】歪曲収差による歪みを考慮した切り出し範囲の例。
【図15】ローリングシャッター歪み及び歪曲収差による歪みを考慮した切り出し範囲の例。
【図16】停車中の自動車を撮影した例。
【図17】走行中の自動車を撮影した場合の歪みを考慮した切り出し範囲の例。
【図18】図18(A)〜図18(E)は低周波ブレ及び高周波ブレを説明する図。
【図19】電子式ブレ補正の手法を説明する図。
【発明を実施するための形態】
【0055】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0056】
1.本実施形態の手法
まず、本実施形態の手法について説明する。電子式ブレ補正として、図19に示すような処理が知られている。これは表示画像に比べて大きい画像を取得しておき、取得した画像のうち適切な領域をトリミングする(例えばA1に示した領域をトリミングする)。そして、そのトリミング領域を被写体の動きに合わせて適切に設定することで、表示画像上では被写体が動いていないように見せるものである。
【0057】
ウェアラブルカメラのようにユーザが身につける撮像装置の場合には、手で把持するものに比べて、水平を保つことが難しく、ブレの程度も大きくなりやすい。そのため、見やすい自然な画像(動画像)を提供する上で、上述したブレ補正処理を行うことが重要になってくる。
【0058】
しかし、ウェアラブルカメラ(及びそれに付随するウェアラブルデバイス)は身につけるという特性上、小型化することが望ましく、そのため構成が簡素なものに限定されることが想定される。よって、電子式ブレ補正処理のような負荷のかかる処理をウェアラブルデバイス内で行うことが難しいケースも考えられる。
【0059】
1つの解決策として、図1に示したように、ウェアラブルカメラで取得した画像をネットワークに対して送信し、クラウドネットワーク等を用いて画像処理を行う手法が考えられる。このようにすれば、ウェアラブルデバイス(図1ではHMD)はネットワークとの通信を行う通信部を有すればよく、負荷のかかる処理を行う必要が無くなるため、構成を簡素にすることができる。
【0060】
ところが、処理を分散させる場合には新たな問題も生じる。ネットワークの帯域には制限があるため、ウェアラブルカメラで取得した画像を全てネットワークに送信した場合に、ネットワークの帯域を圧迫する可能性があるという問題である。
【0061】
そこで本出願人は以下の手法を提案する。図19に示したように、電子式ブレ補正を行うに当たっては表示画像よりも大きい画像が取得されている。そのうち、実際にユーザに対して提示されるのは、図19のA1に示した領域だけである。傾きブレの傾き角度や、並進ブレのブレ量の程度等の情報を用いることで、A1を含む領域は特定可能であるため、画像処理部(例えば画像処理クラウドネットワーク)での処理対象となる領域を撮像画像全体に比べ狭い領域に限定し、ネットワークに対して送信する画像情報のデータサイズを小さくすることは可能である。つまり、図5(B)を用いて後述するように、撮像画像(取得画像)F0に対して、表示に必要な領域はFFである。センサ情報等から得られる傾きの角度や並進ブレ量等を用いて、少なくともFFを含む領域であるF1(切り出し範囲)を設定し、F0ではなくF1をネットワークに対して送信する。このようにすることで、ネットワークの帯域を圧迫することによる影響を抑止することができる。また、ウェアラブルデバイスはブレ補正処理そのものではなく、ブレ補正処理に必要なおおまかな領域を特定し切り出すだけでよいため、処理の負荷は軽く、簡素な構成により実現可能となる。
【0062】
以下、第1〜第3の実施形態及び変形例について説明する。第1の実施形態では、撮像画像におけるブレを傾きブレと並進ブレに分けて、それぞれに基づいて、切り出し範囲を設定する手法について述べる。第2の実施形態では、並進ブレの周波数情報を用いて、並進ブレが高周波ブレか低周波ブレかという判断を行って、切り出し範囲の設定に利用する手法について述べる。第3の実施形態では、撮像画像内の被写体の情報を用いる手法について述べる。変形例では、傾きブレ及び並進ブレとは別に、画像の歪みを考慮した上で、歪みに基づいた切り出し範囲の設定手法について述べる。
【0063】
2.第1の実施形態
図1に本実施形態にかかる画像処理システムの第1の実施形態を示す。画像処理システムは、撮像装置と、第1の処理装置(狭義には情報処理装置)と、第2の処理装置(狭義にはサーバシステム)からなる。ここでは、第1の処理装置としてHMD(Head Mounted Display、頭部装着型表示装置)の例を示す。そして、撮像装置はHMDに取り付けられたカメラであり、第2の処理装置はクラウドネットワークであるものとする。ただし、第1の処理装置及び第2の処理装置は、HMD及びクラウドネットワークに限定されるものではない。なお、第1の処理装置として表示部を有するHMDの例を挙げているが、第2の処理装置における画像処理結果を、第1の処理装置を保有するユーザに対してフィードバックする必要がなければ、第1の処理装置はHMDのような表示部を有する装置でなくてもよい。
【0064】
図2を用いてシステム構成の詳細について説明する。撮像装置10は、撮像モジュール12と、基本画像処理エンジン14と、モーションセンサ16とを含む。撮像モジュール12は、結像のための光学系、光量調整のためのシャッターや絞り、NDフィルターなど、CCDや、CMOSなどの撮像素子で構成される。そして、基本画像処理エンジン14は、撮像モジュール12で取得された撮像画像に対して、映像信号としてのNTSCやデジタル画像伝送により出力するための映像処理を行う。撮像装置10は、デジタルビデオカメラやデジタルスチルカメラと同様の構成としてもよい。また、モーションセンサ16は撮像装置の動きに関する情報を取得する。例えば、モーションセンサ16は加速度センサや角速度センサ、地磁気センサ等であってもよい。
【0065】
撮像装置10からの動画ストリームは第1の処理装置100に入力される。第1の処理装置100は入力映像をデジタル変換し、コンピュータプログラムを実装した組み込み計算機で処理を実施するよう構成されていてもよい。第1の処理装置100は、撮像画像取得部110と、切り出し範囲設定部120と、画像切り出し部122と、情報取得部130と、通信部140と、センサ情報取得部150と、表示部160とを含む。
【0066】
撮像画像取得部110は、撮像装置10のからの動画ストリームを取得する。切り出し範囲設定部120は、撮像画像取得部110が取得した撮像画像に対して、切り出し範囲を設定する。切り出し範囲の詳細及び設定手法については後述する。画像切り出し部122は、切り出し範囲設定部120で設定された切り出し範囲に従って、撮像画像をトリミングし、通信部140に送る。情報取得部130は、ブレに関する情報を取得する。ブレに関する情報とは、例えば傾きブレ情報や並進ブレ情報等であり、本実施形態においては、センサ情報取得部150が取得したセンサ情報に基づいて取得される。通信部140は、画像切り出し部122で切り出された画像情報及び、切り出し範囲の設定の際に用いられたパラメータを、無線LANや有線LANなどのネットワーク層を介して第2の処理装置200に対して送信する。センサ情報取得部150は、撮像装置10に設けられたモーションセンサ16からのセンサ情報を取得する。表示部160は、種々の画像を表示する。本実施形態においては、第2の処理装置200において画像処理(ブレ補正処理)が行われた後の画像を、通信部140を介して取得し表示することになる。また第1の処理装置100は、処理や伝送待ちで画像信号やセンサ信号を一時的に記憶するバッファメモリを持つように構成してもよい。
【0067】
第1の処理装置100の通信部140から伝送された信号は、第2の処理装置200で処理される。第2の処理装置200は、通信部210と、画像/センサバッファ220と、画像処理部230とを含み、処理された動画ストリームはデータベース240に格納される。
【0068】
通信部210は、無線LANや有線LANなどのネットワーク層を介して第1の処理装置100との通信を行う。具体的には、切り出し範囲に応じてトリミングされた画像情報と、切り出し範囲設定時のパラメータ(例えばセンサ情報)とを受信する。また、画像処理部230において処理された画像情報を第1の処理装置100に対して送信する。画像/センサバッファ220は、通信部210が受信した画像情報及びセンサ情報(パラメータ)を保存するバッファである。画像処理部230は、画像処理としてブレ補正処理を行う。画像処理部230で行われる具体的な処理については、図5(D)〜図5(F)等を用いて後述する。なお、画像処理部230での処理後の画像は、第1の処理装置100に対して送信されるものとしたがこれに限定されるものではなく、例えばネットワーク上のストレージに保存されるようにしてもよい。また、第2の処理装置200は、プログラムとして実装されてもよく、またネットワーク上の分散処理システムなどで構成されてもよい。
【0069】
次に第1の処理装置100の切り出し範囲設定部120において行われる切り出し範囲の設定手法について説明する。切り出し範囲の設定は、傾きによるブレと、並進でのブレとの2つのブレに対応する必要があるが、ここでは傾きによるブレの補正から説明するものとする。
【0070】
本実施形態では、画像安定化の処理の例として第1の処理装置100は、加速度センサからの重力方向の情報を取得し、それに基づいて、第2の処理装置200で実施するカメラのロール軸周りの画像の水平出し補正を行う。
【0071】
電子式ブレ補正では、図19に示したように表示画像に対して大きい画像を取得しておき、取得画像のなかで表示画像として用いる領域を、撮像装置10と被写体との相対的な動きに基づいて決定することで、あたかも被写体が動いていない(ぶれていない)ように見せるものである。ここで表示画像として用いる領域の大きさは、当然表示画像の大きさに基づいて決定されるものであり、図3においては初期画像切り出し範囲として示したものに対応する。ここでは、傾きによるブレが発生していることを前提としているため、本来重力方向を基準として水平になっているはずの領域(初期画像切り出し範囲)が、傾いてしまっている(図3における「傾いた場合の画像切り出し範囲」に相当)。つまり、傾き補正処理を行うためには、「傾いた場合の画像切り出し範囲」を少なくとも含む領域を切り出し範囲に設定する必要がある。
【0072】
本実施形態においては、処理を簡単にするため、重力方向に対して水平になっている長方形を切り出し範囲に設定する。よって、「傾いた場合の画像切り出し範囲」を包含する長方形を切り出し範囲として設定すればよい。ここで、ネットワークの帯域を圧迫しないことを目的に切り出し範囲の設定を行うことに鑑みれば、ただ「傾いた場合の画像切り出し範囲」を包含する長方形を設定するのではなく、そのような条件を満たす長方形のうち最小のものを設定する必要がある。これが図3に示した最小切り出し範囲となる。
【0073】
傾きによるブレがρである場合を例にとって、最小切り出し範囲の設定手法について説明する。画像の表示範囲の中心を原点とし、図3に示すように頂点をA、Bとする。縦横の表示範囲のピクセル量を(U,V)ピクセルと定義すると、表示範囲の原点から頂点までの距離rは下式(1)に示す値となる。
【数1】
【0074】
傾きによるブレρ[deg]だけ、ロール軸周りに逆方向に画像切り出し範囲を回転させることで回転ブレを補正する。このとき、伝送する画像切り出し範囲は表示範囲に外接する方形を最小切り出し範囲(U'min,V'min)としてこの範囲以上の大きさの領域を切り出すことになる。A’及びB’の座標からU’min及びV’minは下式(2)及び(3)により求められる。
【数2】
【数3】
【0075】
画像の鉛直方向と、重力方向が一致している状態で安定していれば、大画面テレビでの視聴を行う時に不快なロール軸周りのブレがなく、安定して映像を視聴することが出来る。しかしながら、頭部装着型のウェアラブルカメラのように体動に応じてカメラも大きく動く場合には、映像酔いを起こしたりする。これを防ぐには、ロール軸周りのブレ補正を行う必要がある。
【0076】
図3に示すように基準位置からの重力センサのカメラ光軸周りのズレ角度をρとしているので、この画像のピクセル縦横比から決まる原点から頂点への直線がu軸となす角αが算出でき、これと、ρを用いることで傾いた撮像を行っている時に鉛直方向画像のv方向になるように画像切り出しを行う領域を上式(1)〜(3)に基づいて算出することが出来る。
【0077】
実際にはこれに並進のブレ、パンやチルト動作により生じる単調増加、減少の画像の移動が存在するので、第1の処理装置で切り出す画像のサイズは、これらを考慮したΔU、ΔVに応じて追加した範囲の映像を切り出す。
【0078】
続いて並進のブレ補正について説明する。並進のブレ補正は、一般的な電子ブレ補正を用いるが、その為に必要となる補正代としてΔU、ΔVをβ倍した領域を持つ画像切り出しを第1の処理装置100では行うことになる。ΔU、ΔVは加速度センサから出力される並進成分から算出されており、これを基に第1の処理装置100の実切り出し範囲を決定する。βの値は電子ブレ補正の安全率ともいえる倍率であり電子ブレ補正をぎりぎり行うβ=1から、挙動を安定化し、画像切れを防ぐためにβ=2程度の値を持つのが好ましい。この関係を図4に示す。
【0079】
以上のように、傾きによるブレ及び並進のブレに基づいて切り出された画像情報が、通信部140を介して第2の処理装置200に送信される。画像を切り出して転送することで、通信の伝送量を、すべての映像を最大のサイズで送信するよりも少ない容量にすることが可能になる。
【0080】
画像の切り出しは、基準画像のピクセルに対して単純に縦、横の配列座標に沿って方形に切り出すことが、画像処理の負荷を減らすことが出来るため望ましい。更に撮像モジュールがCMOSセンサの場合は、センサからの読み出しそれ自体を読み出し開始アドレス、終了アドレスを指定することで方形に切り取られた映像信号として取り出すことも出来るというメリットもある。
【0081】
ここで、切り出し位置データとして原点の位置Oの座標遷移やセンサで検出されたρの値、また、それに伴い算出されたA’、B'の座標データ、第1の処理装置100で切り出す座標の値、並進ブレの補正幅として付加したΔU,ΔVの値はパラメータ(メタデータ)として映像データと共に、第2の処理装置200に送られる。
【0082】
第2の処理装置200では、第1の処理装置100で切り出された画像とパラメータ(切り出し位置データ等)に基づいて、並進ブレ成分によるブレと回転切り出しを行う画像ピクセルの値を読み出し、最終的な切り出し画像のピクセル値を算出する。このとき、ピクセル値は補完を必要とするので、適宜ニアバイピクセル、バイキュービック処理などの画素補完技術を用いて、最終的な切り出し画像を生成する。このようにして生成された画像を連続的につなげると、傾きブレで不安定だった画像が垂直の安定した画像になる。
【0083】
また、時系列的に並んだ例えば数秒間の複数フレームを用いた低周波のブレを特徴点の移動などから画像処理で算出し、これを第1の処理装置100に通信部210を介して送り、原点位置の座標遷移にフィードバックしてもよい。
【0084】
更に第2の処理装置200で、切り出し範囲を並進移動させる電子手振れ補正を用いて細かなブレを補正してもよいし、フレーム内でぶれている画像を、デブラーフィルタを用いて先鋭化させてもよい。
【0085】
次に、第2の処理装置200の画像処理部230で行われる画像処理について説明する。具体的には、補正のための画像の切り出し手順に応じた画像の切り出し範囲の遷移について図5(A)〜図5(F)を用いて説明する。
【0086】
まず、図5(A)のF0は撮像素子の有効画素全体である。また、傾きの補正及び並進ブレ補正を行って最終的に表示・記録したいフレームは中央部のFFという方形で示す。
【0087】
まず、第1の処理装置100では、FFに外接し、かつ並進ブレの補正代を持ったフレーム(図5(B)のF1)を決定する。画像切り出し部122では、このF1を切り出して、パラメータを付加して第2の処理装置200に送信される。このことを表したのが図5(C)である。
【0088】
第2の処理装置200の画像処理部230では、F1に対して電子ブレ補正が行われF2が切り出される(図5(D))。この中で内接するρ回転したフレームFF(図5(E))が切り出され、これを回転することで最終的な画像FFF(図5(F))を出力することになる。
【0089】
以上の本実施形態では、図2に示したように、情報処理装置(広義には第1の処理装置100)は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、サーバシステム(広義には第2の処理装置200)における画像処理対象領域に対応する切り出し範囲を、撮像画像に対して設定する切り出し範囲設定部120と、撮像画像のうち切り出し範囲に設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する通信部140と、を含む。
【0090】
ここで、撮像画像は撮像素子によって結像される画像全体を指し、図5(A)のF0に相当する。切り出し範囲とは、切り出し範囲設定部120において設定される領域であり、図5(B)のF1に相当する。画像処理対象領域とは、サーバシステムの画像処理部230における処理の際に用いられる領域であり、図5(C)のF1に相当する。ここでは、切り出し範囲と画像処理対象領域とは一致するものとしたがこれに限定されるものではない。
【0091】
これにより、撮像画像に対して切り出し範囲を設定し、切り出し範囲として設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する情報処理装置を実現することが可能になる。よって、撮像画像を取得する情報処理装置(第1の処理装置100)と実際に画像処理を行うサーバシステム(第2の処理装置200)とを分散させて配置することが可能になる。また、情報処理装置とサーバシステムはネットワークで接続されるため、切り出し範囲を設定することにより、ネットワークに対して送信される情報の量を削減することが可能になり、ネットワークの帯域を圧迫することによる影響を抑止することも可能となる。
【0092】
また、切り出し範囲設定部120は、撮像画像において生じるブレを補正する際に用いられるブレ補正処理領域を内包する領域を切り出し範囲として設定してもよい。
【0093】
ここで、ブレ補正処理領域とは、図19におけるA1等の領域のことであり、図5(A)でいえばFFに相当する。なお図3における「傾いた場合の画像切り出し範囲」のことでもある。
【0094】
これにより、切り出し範囲はブレ補正領域を内包した領域とすることができる。電子式ブレ補正の原理より、ブレ補正領域を画像処理部230に送信することができればブレ補正処理を行えるのであるから、ブレ補正領域を内包した領域があれば、ブレ補正を行うことができる。ここで、切り出し範囲はブレ補正領域と一致してもよいが、処理を簡単にするために傾いていない長方形を設定したり、並進ブレによる補正代を用意したりすることで図5(B)のF1に示した領域のようになることは上述したとおりである。
【0095】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部の傾きブレ補正処理に使用される傾きブレ情報を取得する情報取得部130を含んでもよい。そして、切り出し範囲設定部120は傾きブレ情報に基づいて切り出し範囲を設定する。
【0096】
これにより、傾きによるブレに対応することが可能になる。通常の手に把持して使用するデジタルビデオカメラ等においては、ユーザは自然に重力方向に対して水平に撮影しようとする。そのため、ブレ補正処理が強くかからなくても映像を見た場合に、不自然に感じることは少ない。しかし、ウェアラブルカメラ(例えば頭部に装着される)においては、水平を保った撮影は困難であり、特に撮影した映像を大画面の表示装置に表示した場合等に視聴者に違和感を与えやすい。よって、傾きによるブレを補正することで、見る人にとって自然な映像を提供することが望ましい。
【0097】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部のモーションセンサ16からのセンサ情報を取得するセンサ情報取得部150を含んでもよい。そして情報取得部はセンサ情報に基づいて傾きブレ情報を取得し、切り出し範囲設定部120は、傾きブレ情報に基づいて切り出し範囲を設定する。
【0098】
これにより、モーションセンサ16のセンサ情報に基づいて切り出し範囲を設定することが可能になる。重力方向に対する傾きは加速度センサや角速度センサのセンサ値を用いることで容易に計測することができる。よって、画像処理等の手法を用いて傾きを検出する場合に比べて処理を簡単にすることが可能になる。
【0099】
また、情報処理装置の通信部140は、切り出し範囲に設定された領域の画像情報に、傾きブレ情報を付加して、サーバシステムに対して送信してもよい。
【0100】
これにより、サーバシステムにおける画像処理を容易に行うことが可能になる。図5(C)に示したように、第1の処理装置から送信される画像情報はF1に相当する切り出し範囲の領域となる。つまり、F1だけ送信されてもサーバシステムは必須部分と余剰部分とを判断しなければならず、例えば画像の被写体認識等の重い処理が必要となってしまう。その点、パラメータ(メタデータ)として傾きブレ情報(例えば回転角ρ)が同時に送信されれば、図5(E)のF2からFFを特定することは容易であるし、FFから図5(F)のFFFに変形することも容易である。
【0101】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部の並進ブレ補正処理に使用される並進ブレ情報を取得する情報取得部130を含んでもよい。そして、切り出し範囲設定部120は並進ブレ情報に基づいて切り出し範囲を設定する。
【0102】
これにより、並進ブレに対応することが可能になる。ユーザの手ぶれ(ウェアラブルカメラであれば装着している部位のブレ)により、並進方向におけるブレは必ずと言っていいほど発生してしまう。その場合、図3に示したように、回転によるブレしか考慮しないでいると、並進ブレの影響により必要な情報が欠損してしまう可能性が生じる。よって図4に示したように、並進ブレの補正のための補正代(図4におけるβΔUとβΔV)を用意しておくことが望ましい。
【0103】
また、情報処理装置(第1の処理装置100)は、図2に示したように、撮像部のモーションセンサ16からのセンサ情報を取得するセンサ情報取得部150を含んでもよい。そして情報取得部はセンサ情報に基づいて並進ブレ情報を取得し、切り出し範囲設定部120は、並進ブレ情報に基づいて切り出し範囲を設定する。
【0104】
これにより、モーションセンサ16のセンサ情報に基づいて切り出し範囲を設定することが可能になる。並進ブレは加速度センサや角速度センサのセンサ値を用いることで容易に計測することができる。よって、画像処理等の手法を用いて並進ブレを検出する場合に比べて処理を簡単にすることが可能になる。
【0105】
また、切り出し範囲設定部120は、並進ブレ補正処理を行わない場合の第1の切り出し範囲に比べて、並進ブレ補正処理を行う場合の第2の切り出し範囲を、並進ブレ情報により特定される並進ブレ量に対応する分だけ広い領域に設定してもよい。
【0106】
これにより、第1の切り出し範囲に対する第2の切り出し範囲の拡大幅を、並進ブレ情報に基づいて適切に設定することが可能になる。具体的には、並進ブレ情報から特定される並進ブレ量ΔUとΔVを求める。ΔU、ΔVをそのまま用いて拡大幅を決定してもよいが、本実施形態においては、βΔU及びβΔVを用いることで、補正代に柔軟性を持たせ、必要に応じた大きさの切り出し範囲を設定可能にしている。
【0107】
また、情報処理装置の通信部140は、切り出し範囲に設定された領域の画像情報に、並進ブレ情報を付加してサーバシステムに送信してもよい。
【0108】
これにより、サーバシステムにおける画像処理を容易に行うことが可能になる。傾きブレの場合と同様に、切り出し範囲に対応する領域の画像情報だけ送信されても、サーバシステムは必須部分と余剰部分とを判別することができない。そこで、並進ブレ量ΔU及びΔVを送信することで、図5(D)のF1からF2を容易に特定することが可能になる。なお、ΔU、ΔVだけでなく、パラメータβも同時に付加して送信することが望ましい。
【0109】
また、以上の本実施形態は、撮像部(撮像装置10)から取得した撮像画像に対して情報処理装置(第1の処理装置100)が設定した切り出し範囲に対応する領域の画像情報を、情報処理装置からネットワークを介して受信するとともに、切り出し範囲の設定に用いられたパラメータを受信する通信部210と、受信したパラメータに基づいて画像情報に対して補正処理を行う画像処理部230と、を含むサーバシステム(第2の処理装置200)に関係する。
【0110】
これにより、上述してきた情報処理装置と連動して動作するサーバシステムを実現することが可能になる。サーバシステムは、切り出し範囲に対応する領域の画像情報と、パラメータ(メタデータ)を用いて、画像情報に対してブレ補正処理を行う。このようなサーバシステムを実現することにより、情報処理装置側では、負荷のかかる画像処理を行う必要がなくなる。よって、情報処理装置の構成を簡素にすることが可能になり、特に情報処理装置がHMDのようなウェアラブルデバイスの場合には効果を発揮する。
【0111】
また、以上の本実施形態は、上述した情報処理装置とサーバシステムを含む画像処理システムに関係する。
【0112】
これにより、情報処理装置とサーバシステムとを連係して動作させ、情報処理装置側では切り出し範囲の設定のみを行い、負荷のかかる画像処理(ブレ補正処理)はサーバシステム側で行うような画像処理システムを実現することができる。ネットワーク送信の前処理として情報処理装置側で切り出し範囲に基づく切り出し処理を行うため、ネットワークに送信される情報の量を削減することができ、ネットワークの帯域を圧迫することを抑止できる。
【0113】
また、以上の本実施形態は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、取得した撮像画像に対してブレ補正処理を行う際に用いられるパラメータを設定するパラメータ設定部と、撮像画像の画像情報及びパラメータを、ネットワークを介してサーバシステムに送信する通信部140と、を含む情報処理装置に関係する。
【0114】
これにより、切り出し範囲の設定を行わずに、パラメータの送信を行う情報処理装置を実現することが可能になる。情報処理装置とサーバシステムの連動動作において、情報処理装置側で切り出し処理を行う場合について説明してきたが、情報処理装置では切り出しを行わず、パラメータの検出と送信のみを行うようにしてもよい。このようにすることで、上述してきた例に比べて、より情報処理装置側の処理負荷を軽くすることが可能になる。
【0115】
また、以上の本実施形態は、撮像部(撮像装置10)から撮像画像を取得する撮像画像取得部110と、サーバシステム(広義には第2の処理装置200)における画像処理対象領域に対応する切り出し範囲を、撮像画像に対して設定する切り出し範囲設定部120と、撮像画像のうち切り出し範囲に設定された領域の画像情報を、ネットワークを介してサーバシステムに送信する通信部140としてコンピュータを機能させるプログラムに関係する。
【0116】
これにより、上述してきた情報処理装置で行われる処理を、プログラムによりソフトウェア的に実現することが可能になる。そして、上記プログラムは、情報記憶媒体に記録される。ここで、情報記憶媒体としては、DVDやCD等の光ディスク、光磁気ディスク、ハードディスク(HDD)、不揮発性メモリーやRAM等のメモリーなど、情報処理装置等によって読み取り可能な種々の記録媒体を想定できる。例えば、PC等の機器によって読み取り可能な種々の記録媒体にプログラムが記憶され、PC等の処理部(例えばCPU)において実行されるケースが考えられる。本実施形態においては、ウェアラブルカメラの使用が想定されているため、それに付随して用いられる情報処理装置も小型軽量のもの(例えば携帯電話等)が用いられることが考えられる。そのような場合には、本実施形態にかかるプログラムは、携帯電話(特にスマートフォン)上で実行されるアプリケーションとして実現されてもよい。
【0117】
3.第2の実施形態
次に、本発明の画像処理システムの第2の実施形態を、図6を用いて説明する。第1の実施形態と同様に、撮像装置10は、撮像モジュール12と基本画像処理エンジン14とモーションセンサ16からなる。
【0118】
撮像装置10からの動画ストリームは第1の処理装置100に入力される。第1の処理装置100の構成は、第1の実施形態と同様であるため、詳細な説明は省略する。
【0119】
傾きによるブレと、それとともに補正する必要がある並進ブレについて、第1実施形態では説明したが、並進のぶれに関して簡易的に伝送する画像のサイズを抑制する方法について図7(A)〜図7(D)で説明する。
【0120】
図7(A)に示すように、簡単のためにカメラ撮像範囲(外周の方形)、伝送範囲(太線の方形)、出力画像サイズ(内側の方形)として説明する。また、ぶれにより出力画像の範囲がずれることを表現するため、二点差線の枠を示す。
【0121】
まず、細かいブレ(高周波ブレ)が存在している場合は、被写体の撮像装置10に対する相対的な動きは小さいと考えられるため、図7(B)に示すように伝送範囲は小さくすることが出来る。それに対して、ストロークの大きなブレ(低周波ブレ)が存在する場合は、伝送範囲を図7(C)に示すように広げることで、ブレに対応する必要がある。また、低周波でストロークの長いブレを補正する際に、第2の処理装置200で補正を行うような場合は、図7(D)に示すように広い伝送範囲で画像を伝送しなくてはならない。
【0122】
このように、並進ブレの周波数等を考慮した上で伝送範囲を設定することにより、補正代を大幅に削減することができるため、通信装置で伝送する画像サイズを小さくすることが可能になる。
【0123】
並進ブレが高周波ブレであるか、低周波ブレであるかは、センサ情報取得部150で取得したセンサ情報に基づいて判定してもよいし、画像情報に対して画像処理を行うことで判定してもよい。一例としては図6に示したように、センサ情報取得部150からブレ判定情報を取得する。これは主に高周波ブレを検出するための情報である。それとともに、第2の処理装置200で取得された画像情報を用いて、ブレ判定情報生成部250においてブレ判定情報を生成してもよい。これは主に低周波ブレを検出するための情報である。低周波ブレは、並進ブレの周波数が低いため、短時間に得られた情報では検出が難しい。よって、例えばデータベース240に蓄積された複数の画像情報を用いて検出することが考えられる。ブレ判定情報生成部250で生成されたブレ判定情報は、通信部210及び通信部140を介して切り出し範囲設定部120に送信される。
【0124】
なお、この本実施形態の各構成は、当然、各種の変形、変更が可能である。ここでは、画像の伝送範囲を広げたり狭めたりすることで伝送する画像容量を抑えたが、第1の実施形態のように、切り出し中心をブレ量に対してずらすようにしてもよい。
【0125】
また、本実施形態における低周波ブレ、高周波ブレとは以下のようなものであるとする。図18(A)に示しように大きな体動(歩行)で生じる体全体の上下動や足の繰り出しで生じる左右の揺れ、また、呼吸による体動などおおむね1Hz以下の揺れを低周波成分とする。また、頭部の微細な動き、歩行時の着地で生じる瞬間的な揺れなどについては高周波成分とする。
【0126】
例えば、図18(A)のような運動では、センサ情報からは図18(B)のような波形が得られる。これは、図18(C)に示した歩行由来の低周波成分と、図18(D)に示した高周波成分の波形の合成である。図18(B)の波形をフーリエ変換したものが図18(E)となる。図18(E)における網掛けの部分が低周波成分に相当する。
【0127】
ジャイロセンサによる位置のずれ、回転のズレ、重力加速度センサによる水平からの傾きのブレ、画像の特徴量の移動ベクトルから算出されるブレなどから姿勢変動を検出することができるため、それらの情報から高周波、低周波の成分を抽出することが可能である。抽出した成分を用いて補正処理を実施する際には、サーバで行ってもよいし、端末側で行ってもよい。
【0128】
例えば、本実施形態において上述したものは、高周波のブレ情報をカメラ端末(第1の処理装置100)で算出し、電子手振れ補正のための画像切り出しに利用すると共に、サーバ側(第2の処理装置200)で低周波のブレ情報を算出し、この値をカメラ端末側にフィードバックすることで前記画像の切り出し範囲を拡張するものである。
【0129】
以上の本実施形態では、情報処理装置の切り出し範囲設定部120は、並進によるブレが高周波ブレによるものが低周波ブレによるものかを判別するブレ判定情報を取得する。そして、並進によるブレが低周波ブレによるものと判定された場合には、高周波ブレによるものと判定された場合に比べて、広い領域を切り出し範囲として設定してもよい。
【0130】
これにより、図7(B)、図7(C)に示したような処理が可能になる。低周波ブレでは、高周波ブレに比べて広い範囲に移動することが想定される。よって、並進ブレ補正の際の補正代は広く取っておく必要がある。
【0131】
また、サーバシステムは、通信部から受信した画像情報に基づいてブレ判定情報を生成してもよい。そして、切り出し範囲設定部120は、サーバシステムが生成したブレ判定情報を、ネットワークを介して受信する。
【0132】
これにより、情報処理装置で行われる切り出し範囲の設定の際に、サーバシステムからフィードバックされたブレ判定情報を用いることが可能になる。情報処理装置では構成を簡単にすることが求められるため、画像を蓄積するバッファ等は設けられない可能性がある。しかし、低周波ブレを検出するためには、比較的長い期間にわたって情報を集める必要があるため、情報処理装置において低周波ブレを検出することは容易ではない。そこで、サーバシステム側で画像情報を蓄積し、低周波ブレの検出はサーバシステム側で行うことが考えられる。そして、サーバシステムで生成されたブレ判定情報を情報処理装置に送信することで、情報処理装置における切り出し範囲の設定処理に用いる。
【0133】
また、以上の本実施形態は、図6に示したように、画像情報に基づいて並進ブレが高周波ブレによるものか低周波ブレによるものかを判定するブレ判定情報を生成するブレ判定情報生成部を含むサーバシステムに関係する。サーバシステムの通信部210は、生成されたブレ判定情報を情報処理装置に対して送信する。
【0134】
これにより、ブレ判定情報を生成するサーバシステムを実現することが可能になる。情報処理装置ではなくサーバシステムにおいてブレ判定情報を生成することの利点は上述したとおりである。
【0135】
4.第3の実施形態。
次に、本発明の画像処理システムの第3の実施形態を、図8を用いて説明する。撮像装置10は撮像モジュール12と基本画像処理エンジン14とモーションセンサ16とからなる、これは第1、第2の実施の形態と共通である、また、第2の処理装置200の構成も第1の実施形態と同様であるため、詳細な説明は省略する。
【0136】
第1の処理装置100は被写体認識部170を含み、その認識結果である被写体情報は情報取得部130に送られる。被写体認識部では、画像データから被写体を検出し、その被写体座標等を取得することになる。第1の処理装置100では、取得した被写体座標に基づいて、画像切り出し位置の追尾を行い、切り出し画角を制御する。
【0137】
また、本実施形態におけるセンサはモーションセンサに限定されるものではなく、RFIDを用いたアクティブレーダーや焦電センサなど、被写体を認識するためのセンサであってもよい。その場合、図8の例とは異なり、撮像画像ではなく,センサ情報に基づいて被写体情報を取得することになる。
【0138】
被写体認識部170からの被写体情報(画像内の被写体位置・姿勢データ等)の周期的な変動を抽出し、高周波ブレと低周波ブレを検出し、画像の画角に対する正規化した振幅量を求め、振幅量が小さく高周波のブレ成分のみの時は画像の切り出し範囲を小さくし、振幅量が大きいか、もしくは低周波成分が多い場合には画像の切り出し範囲を大きくする処理を行う。
【0139】
図9に顔を例とした伝送範囲の大きさについてカメラ撮像範囲(外周の方形)、伝送範囲(太線の方形)、出力画像サイズ(内側の方形)を用いて説明する。図9(A)は被写体が動いていない標準的な状態である。被写体の運動が小さい時は、高周波ブレであり、振幅が小さいため図9(B)に示すように伝送範囲を小さくする。被写体の運動が大きい時は低周波ブレの状態であるため、図9(C)に示すように伝送範囲を広げる。また、被写体が移動するような場合は、撮像装置10の運動も加味し、撮像装置10が被写体移動方向に追尾運動をした場合、被写体を追いかける方向の伝送範囲を広げるようにしても良い(図9(D))。
【0140】
以上の本実施形態では、情報取得部130は、撮像画像における被写体の被写体傾き情報に基づいて傾きブレ情報を取得してもよい。そして、切り出し範囲設定部120は、傾きブレ情報に基づいて切り出し範囲を設定する。
【0141】
これにより、被写体情報に基づいて傾きブレ情報を取得することが可能になる。被写体情報は例えば撮像画像に対して画像処理を行うことにより取得してもよいし、センサ等の情報に基づいて取得してもよい。サーバシステムの画像処理部230において行われるブレ補正処理が、被写体の画像上での動きを小さくするという目的で行われることに鑑みれば、被写体の情報に基づいて当該ブレ補正処理のパラメータ等を決定することは非常に有用であると考えられる。
【0142】
また、情報取得部130は、撮像画像における被写体の被写体並進情報に基づいて並進ブレ情報を取得してもよい。そして、切り出し範囲設定部120は、並進ブレ情報に基づいて切り出し範囲を設定する。
【0143】
これにより、傾きブレ補正だけでなく、並進ブレ補正についても被写体情報に基づいて処理を行うことが可能になる。被写体情報を用いることの利点は上述したとおりである。
【0144】
5.変形例
第1〜第3の実施形態においては、画像処理を行う対象は傾きによるブレ及び並進ブレであったが、それ以外に画像処理を行ってもよい。ここではローリングシャッターによる歪み及びレンズディストーションについて説明する。
【0145】
ウェアラブルカメラでは、端末価格を抑えるために撮像装置10として安価なCMOSセンサを用いることが考えられる。しかし、CMOSセンサを用いた場合には、ローリングシャッター歪みの影響により、切り出したトリミング結果に対して欠損が生じるという問題があった。具体例を図10(A)、図10(B)、図11に示す。図10(A)がローリングシャッターによる歪みが生じない場合の例であり、この場合には、適切な範囲をトリミング範囲(切り出し範囲)として設定することができる。しかし、ローリングシャッターによる歪みが生じた場合には、図10(B)に示したように、直立しているはずの被写体が斜め方向に歪んでしまうことがある。そのため、歪みを考慮せずに切り出し範囲を設定してしまうと、切り出した結果として図11のように被写体の一部に欠損が生じてしまうことになる。
【0146】
よって本例では、図12に示したようにローリングシャッターによる歪みを考慮した上で、長方形ではなく平行四辺形の領域を切り出し範囲として設定するものとする。このような領域でトリミングをした上で、ブレ補正及び歪み補正を行えば、図13に示したように、被写体が欠損することがなく、適切な画像を取得することができる。具体的には例えば、ジャイロセンサで計測した角速度と、AFからの主要被写体までの距離情報、及びレンズが書くから取得される歪み量を推定し、それらの情報に基づいて切り出し範囲を設定することが考えられる。
【0147】
次にレンズディストーションについて説明する。光学系では歪曲収差等の影響により画像に歪みが生じうる。特に画像周辺部ほど歪みは大きい。よって、レンズディストーションも考慮した上で、長方形ではなく図14に示したような形状の切り出し範囲を設定する必要がある。また、図15に示したようにローリングシャッターによる歪みとレンズディストーションの両方を考慮した切り出し範囲の設定も可能である。
【0148】
なお、上述した図10(B)等ではパンニングによる(つまり撮像装置10側が動くことによる)ローリングシャッター歪みについて述べていたが、被写体側が動く場合にも同様のことを考える必要がある。例えば、図16、図17のように、パンニングによるローリングシャッター歪みがなかったとしても、被写体が運動中であれば、そのことによるローリングシャッター歪みを考慮した上で、切り出し範囲の設定を行わなければならない。この場合、例えば被写体の動き認識やオプティカルフローの傾向から、ローリングシャッター歪みを考慮して切り出し範囲を変形することになる。
【0149】
以上の本実施形態では、切り出し範囲設定部120は、撮像画像において生じる歪みを補正する際に用いられる歪み補正処理領域を内包する領域を切り出し範囲として設定してもよい。
【0150】
これにより、ブレだけでなく歪みも考慮した上で切り出し範囲を設定することが可能になる。例えば図10(B)に示したように斜め方向への歪みが生じている場合には、長方形の領域を切り出し範囲に設定しても図11に示したように被写体の欠損が生じる。その場合には、平行四辺形等の歪みを考慮した切り出し範囲を設定することが望ましい。
【0151】
また、撮像画像の歪みは、ローリングシャッターによる歪みであってもよいし、歪曲収差による歪みであってもよい。
【0152】
これにより、ローリングシャッターによる歪み及び歪曲収差による歪みに対応することが可能になる。ローリングシャッターによる歪みには上述したように図10(B)のようなパンニングによるものと、図17のような被写体の運動によるものがあるが、どちらにも対応可能である。歪曲収差による歪みは、撮像光学系の設計等から歪みの度合いを推定することができるため、推定した歪み度合いに応じて切り出し範囲を設定すればよい。
【0153】
以上、本発明を適用した3つの実施の形態1〜3およびその変形例について説明したが、本発明は、各実施の形態1〜3やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜3や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜3や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0154】
10 撮像装置、12 撮像モジュール、14 基本画像処理エンジン、
16 モーションセンサ、100 第1の処理装置、110 撮像画像取得部、
120 切り出し範囲設定部、122 画像切り出し部、130 情報取得部、
140 通信部、150 センサ情報取得部、160 表示部、170 被写体認識部、
200 第2の処理装置、210 通信部、220 画像/センサバッファ、
230 画像処理部、240 データベース、250 ブレ判定情報生成部、
【特許請求の範囲】
【請求項1】
撮像部から撮像画像を取得する撮像画像取得部と、
サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、
前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部と、
を含むことを特徴とする情報処理装置。
【請求項2】
請求項1において、
前記切り出し範囲設定部は、
前記撮像画像において生じるブレを補正する際に用いられるブレ補正処理領域を内包する領域を、前記切り出し範囲として設定することを特徴とする情報処理装置。
【請求項3】
請求項2において、
前記撮像部の傾きブレ補正処理に使用される傾きブレ情報を取得する情報取得部を含み、
前記切り出し範囲設定部は、
前記傾きブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項4】
請求項3において、
前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、
前記情報取得部は、
前記センサ情報に基づいて前記傾きブレ情報を取得し、
前記切り出し範囲設定部は、
前記傾きブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項5】
請求項3において、
前記情報取得部は、
前記撮像画像における被写体の被写体傾き情報に基づいて前記傾きブレ情報を取得し、
前記切り出し範囲設定部は、
前記傾きブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項6】
請求項3乃至5のいずれかにおいて、
前記通信部は、
前記切り出し範囲に設定された領域の前記画像情報に、前記傾きブレ情報を付加して前記サーバシステムに対して送信することを特徴とする情報処理装置。
【請求項7】
請求項2乃至6のいずれかにおいて、
前記撮像部の並進ブレ補正処理に使用される並進ブレ情報を取得する情報取得部を含み、
前記切り出し範囲設定部は、
前記並進ブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項8】
請求項7において、
前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、
前記並進ブレ情報取得部は、
前記センサ情報に基づいて前記並進ブレ情報を取得し、
前記切り出し範囲設定部は、
前記並進ブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項9】
請求項7において、
前記情報取得部は、
前記撮像画像における被写体の被写体並進情報に基づいて前記並進ブレ情報を取得し、
前記切り出し範囲設定部は、
前記並進ブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項10】
請求項7乃至9のいずれかにおいて、
前記切り出し範囲設定部は、
前記並進ブレ補正処理を行わない場合の第1の切り出し範囲に比べて、前記並進ブレ補正処理を行う場合の第2の切り出し範囲を、前記並進ブレ情報により特定される並進ブレ量に対応する分だけ広い領域に設定することを特徴とする情報処理装置。
【請求項11】
請求項10において、
前記通信部は、
前記切り出し範囲に設定された領域の前記画像情報に、前記並進ブレ情報を付加して前記サーバシステムに対して送信することを特徴とする情報処理装置。
【請求項12】
請求7乃至11のいずれかにおいて、
前記切り出し範囲設定部は、
前記撮像部の並進ブレが、高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するためのブレ判定情報を取得し、取得した前記ブレ判定情報により前記並進ブレが前記低周波ブレによるものであると判定された場合には、前記高周波ブレによるものであると判定された場合に比べて広い領域を前記切り出し範囲として設定することを特徴とする情報処理装置。
【請求項13】
請求項12において、
前記サーバシステムは、
前記通信部から受信した前記画像情報に基づいて前記ブレ判定情報を生成し、
前記切り出し範囲設定部は、
前記サーバシステムが生成した前記ブレ判定情報を、前記ネットワークを介して受信することを特徴とする情報処理装置。
【請求項14】
請求項1において、
前記切り出し範囲設定部は、
前記撮像画像において生じる歪みを補正する際に用いられる歪み補正処理領域を内包する領域を、前記切り出し範囲として設定することを特徴とする情報処理装置。
【請求項15】
請求項14において、
前記撮像画像の前記歪みは、
前記撮像部の撮像素子におけるローリングシャッターによる歪みであることを特徴とする情報処理装置。
【請求項16】
請求項14において、
前記撮像画像の前記歪みは、
前記撮像部の撮像素子における歪曲収差による歪みであることを特徴とする情報処理装置。
【請求項17】
ネットワークを介して情報処理装置と通信を行う通信部と、
画像処理を行う画像処理部と、
を含み、
前記通信部は、
前記情報処理装置が、撮像部から取得した撮像画像に対して切り出し範囲を設定し、前記切り出し範囲に対応する領域の画像情報と、前記切り出し範囲の設定に用いられたパラメータとを、前記ネットワークを介して送信した場合に、送信された前記画像情報と前記パラメータとを受信し、
前記画像処理部は、
受信した前記パラメータに基づいて、受信した前記画像情報に対する補正処理を行うことを特徴とするサーバシステム。
【請求項18】
請求項17において、
前記画像情報に基づいて、前記画像情報におけるブレが高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するための情報であるブレ判定情報を生成するブレ判定情報生成部を含み、
前記通信部は、
生成された前記ブレ判定情報を前記ネットワークを介して前記情報処理装置に対して送信することを特徴とするサーバシステム。
【請求項19】
情報処理装置と、
サーバシステムと、
を含み、
前記情報処理装置は、
撮像部から撮像画像を取得する撮像画像取得部と、
前記サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、
前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する第1の通信部と、
を含み、
前記サーバシステムは、
前記撮像画像に対して前記情報処理装置が設定した前記切り出し範囲に対応する領域の画像情報を、前記情報処理装置からネットワークを介して受信するとともに、前記切り出し範囲の設定に用いられたパラメータを受信する第2の通信部と、
前記パラメータに基づいて、前記画像情報に対する補正処理を行う画像処理部と、
を含むことを特徴とする画像処理システム。
【請求項20】
撮像部から撮像画像を取得する撮像画像取得部と、
取得した前記撮像画像に対してブレ補正処理を行う際に用いられるパラメータを設定するパラメータ設定部と、
前記撮像画像の画像情報及び前記パラメータを、ネットワークを介してサーバシステムに送信する通信部と、
を含むことを特徴とする情報処理装置。
【請求項21】
撮像部から撮像画像を取得する撮像画像取得部と、
サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、
前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部として、
コンピュータを機能させることを特徴とするプログラム。
【請求項1】
撮像部から撮像画像を取得する撮像画像取得部と、
サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、
前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部と、
を含むことを特徴とする情報処理装置。
【請求項2】
請求項1において、
前記切り出し範囲設定部は、
前記撮像画像において生じるブレを補正する際に用いられるブレ補正処理領域を内包する領域を、前記切り出し範囲として設定することを特徴とする情報処理装置。
【請求項3】
請求項2において、
前記撮像部の傾きブレ補正処理に使用される傾きブレ情報を取得する情報取得部を含み、
前記切り出し範囲設定部は、
前記傾きブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項4】
請求項3において、
前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、
前記情報取得部は、
前記センサ情報に基づいて前記傾きブレ情報を取得し、
前記切り出し範囲設定部は、
前記傾きブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項5】
請求項3において、
前記情報取得部は、
前記撮像画像における被写体の被写体傾き情報に基づいて前記傾きブレ情報を取得し、
前記切り出し範囲設定部は、
前記傾きブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項6】
請求項3乃至5のいずれかにおいて、
前記通信部は、
前記切り出し範囲に設定された領域の前記画像情報に、前記傾きブレ情報を付加して前記サーバシステムに対して送信することを特徴とする情報処理装置。
【請求項7】
請求項2乃至6のいずれかにおいて、
前記撮像部の並進ブレ補正処理に使用される並進ブレ情報を取得する情報取得部を含み、
前記切り出し範囲設定部は、
前記並進ブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項8】
請求項7において、
前記撮像部のモーションセンサからのセンサ情報を取得するセンサ情報取得部を含み、
前記並進ブレ情報取得部は、
前記センサ情報に基づいて前記並進ブレ情報を取得し、
前記切り出し範囲設定部は、
前記並進ブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項9】
請求項7において、
前記情報取得部は、
前記撮像画像における被写体の被写体並進情報に基づいて前記並進ブレ情報を取得し、
前記切り出し範囲設定部は、
前記並進ブレ情報に基づいて、前記切り出し範囲を設定することを特徴とする情報処理装置。
【請求項10】
請求項7乃至9のいずれかにおいて、
前記切り出し範囲設定部は、
前記並進ブレ補正処理を行わない場合の第1の切り出し範囲に比べて、前記並進ブレ補正処理を行う場合の第2の切り出し範囲を、前記並進ブレ情報により特定される並進ブレ量に対応する分だけ広い領域に設定することを特徴とする情報処理装置。
【請求項11】
請求項10において、
前記通信部は、
前記切り出し範囲に設定された領域の前記画像情報に、前記並進ブレ情報を付加して前記サーバシステムに対して送信することを特徴とする情報処理装置。
【請求項12】
請求7乃至11のいずれかにおいて、
前記切り出し範囲設定部は、
前記撮像部の並進ブレが、高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するためのブレ判定情報を取得し、取得した前記ブレ判定情報により前記並進ブレが前記低周波ブレによるものであると判定された場合には、前記高周波ブレによるものであると判定された場合に比べて広い領域を前記切り出し範囲として設定することを特徴とする情報処理装置。
【請求項13】
請求項12において、
前記サーバシステムは、
前記通信部から受信した前記画像情報に基づいて前記ブレ判定情報を生成し、
前記切り出し範囲設定部は、
前記サーバシステムが生成した前記ブレ判定情報を、前記ネットワークを介して受信することを特徴とする情報処理装置。
【請求項14】
請求項1において、
前記切り出し範囲設定部は、
前記撮像画像において生じる歪みを補正する際に用いられる歪み補正処理領域を内包する領域を、前記切り出し範囲として設定することを特徴とする情報処理装置。
【請求項15】
請求項14において、
前記撮像画像の前記歪みは、
前記撮像部の撮像素子におけるローリングシャッターによる歪みであることを特徴とする情報処理装置。
【請求項16】
請求項14において、
前記撮像画像の前記歪みは、
前記撮像部の撮像素子における歪曲収差による歪みであることを特徴とする情報処理装置。
【請求項17】
ネットワークを介して情報処理装置と通信を行う通信部と、
画像処理を行う画像処理部と、
を含み、
前記通信部は、
前記情報処理装置が、撮像部から取得した撮像画像に対して切り出し範囲を設定し、前記切り出し範囲に対応する領域の画像情報と、前記切り出し範囲の設定に用いられたパラメータとを、前記ネットワークを介して送信した場合に、送信された前記画像情報と前記パラメータとを受信し、
前記画像処理部は、
受信した前記パラメータに基づいて、受信した前記画像情報に対する補正処理を行うことを特徴とするサーバシステム。
【請求項18】
請求項17において、
前記画像情報に基づいて、前記画像情報におけるブレが高周波ブレによるものか、前記高周波ブレよりも低い周波数を有する低周波ブレによるものかを判定するための情報であるブレ判定情報を生成するブレ判定情報生成部を含み、
前記通信部は、
生成された前記ブレ判定情報を前記ネットワークを介して前記情報処理装置に対して送信することを特徴とするサーバシステム。
【請求項19】
情報処理装置と、
サーバシステムと、
を含み、
前記情報処理装置は、
撮像部から撮像画像を取得する撮像画像取得部と、
前記サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、
前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する第1の通信部と、
を含み、
前記サーバシステムは、
前記撮像画像に対して前記情報処理装置が設定した前記切り出し範囲に対応する領域の画像情報を、前記情報処理装置からネットワークを介して受信するとともに、前記切り出し範囲の設定に用いられたパラメータを受信する第2の通信部と、
前記パラメータに基づいて、前記画像情報に対する補正処理を行う画像処理部と、
を含むことを特徴とする画像処理システム。
【請求項20】
撮像部から撮像画像を取得する撮像画像取得部と、
取得した前記撮像画像に対してブレ補正処理を行う際に用いられるパラメータを設定するパラメータ設定部と、
前記撮像画像の画像情報及び前記パラメータを、ネットワークを介してサーバシステムに送信する通信部と、
を含むことを特徴とする情報処理装置。
【請求項21】
撮像部から撮像画像を取得する撮像画像取得部と、
サーバシステムにおける画像処理対象領域に対応する切り出し範囲を、取得した前記撮像画像に対して設定する切り出し範囲設定部と、
前記撮像画像のうち、前記切り出し範囲設定部により前記切り出し範囲に設定された領域の画像情報を、ネットワークを介して前記サーバシステムに送信する通信部として、
コンピュータを機能させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【公開番号】特開2013−5101(P2013−5101A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−132390(P2011−132390)
【出願日】平成23年6月14日(2011.6.14)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願日】平成23年6月14日(2011.6.14)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]