撮像装置、撮像方法および画像処理装置
【課題】高フレームレートの撮像画像データの画質改善を図る。
【解決手段】第1のイメージセンサから画素数の少ない高フレームレートの画像データを得る。第2のイメージセンサから画素数が多く低フレームレートの画像データを得る。高フレームレートの画像データに対して、所定画像領域毎に、低フレームレートの画像データの類似領域の画像データを、類似度に応じて加重加算して、高フレームレートの出力画像データを得る。例えば、高フレームレートの画像データが間引き読み出し等による折り返しが含まれた画像データである場合、偽色、ジャギーなどを低減できる。また、例えば、高フレームレートの画像データが画素数の少ないイメージセンサから出力された画像データである場合、解像度を向上できる。
【解決手段】第1のイメージセンサから画素数の少ない高フレームレートの画像データを得る。第2のイメージセンサから画素数が多く低フレームレートの画像データを得る。高フレームレートの画像データに対して、所定画像領域毎に、低フレームレートの画像データの類似領域の画像データを、類似度に応じて加重加算して、高フレームレートの出力画像データを得る。例えば、高フレームレートの画像データが間引き読み出し等による折り返しが含まれた画像データである場合、偽色、ジャギーなどを低減できる。また、例えば、高フレームレートの画像データが画素数の少ないイメージセンサから出力された画像データである場合、解像度を向上できる。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、撮像装置、撮像方法および画像処理装置に関する。特に、本技術は、2つのイメージセンサを持つ撮像装置、撮像方法および画像処理装置に関する。
【背景技術】
【0002】
撮像される画像の解像度を上げるためには、イメージセンサの1画素の大きさを小さくし、単位面積あたりの画素数を多くすることが有用である。しかし、単位時間当たりに読み出せる画素数は、伝送帯域の制限、あるいはイメージセンサのチップ面積、消費電力等により制限される。
【0003】
そのため、現状、以下の方式が広く用いられている。すなわち、時間制約の比較的ゆるい静止画撮像時(例えば、15fps)には、時間をかけて全画素の読み出しが行われる。一方、連続した画像の読み出しが必要なモニタリング時や動画撮像時(例えば、60fps)には、読み出し処理を行う画素数が減じられ、求められるフレームレートでの全画角での読み出しが行われる。
【0004】
この場合、読み出し画素を縦横方向に一定間隔で間引くこと、あるいは、イメージセンサ上で隣接する複数の同色画素を足し合わせること等で、読み出し処理を行う画素数が減じられる。例えば、特許文献1には、画素を間引いて読み出すための技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−252390号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
一枚のイメージセンサでカラー画像を得る場合には、複数の色を一定間隔で交互に配置する(例えばBayer配列)ことで、色毎の空間解像度を上げる工夫がなされている。しかし、ある一定間隔で読み出しを間引く場合はもちろんのことながら、隣接する同色画素を足し合わせる場合においても、足し合わせた後の空間サンプリング周波数を越えるような細かい柄の部分においては、以下のような不都合が生じる。すなわち、高周波成分の低周波側への折り返しが生じ、偽色の発生や斜め線が階段状にギザギザになる現象(ジャギー)が発生し、画像の品質の劣化につながる。
【0007】
本技術の目的は、高フレームレートの撮像画像データの画質改善を図ることにある。
【課題を解決するための手段】
【0008】
本技術の概念は、
第1の画素数の第1の画像データを出力する第1のイメージセンサと、
上記第1の画素数より多い第2の画素数の第2の画像データを出力する第2のイメージセンサと、
上記第1のイメージセンサから出力される上記第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
撮像装置にある。
【0009】
本技術においては、第1のイメージセンサおよび第2のイメージセンサが備えられている。第1のイメージセンサからは第1の画素数の第1の画像データが出力される。第2のイメージセンサからは、第1の画素数より多い第2の画素数の第2の画像データが出力される。この場合、第1のイメージセンサおよび第2のイメージセンサの光学系は、同一あるいは別個のいずれであってもよい。
【0010】
例えば、第1のイメージセンサおよび第2のイメージセンサとして、画素サイズが同一で同一の画素数を持つイメージセンサが使用される。この場合、例えば、第2のイメージセンサからは、例えば低フレームレートで、全画素の読み出しが行われて、第2の画像データが得られる。また、この場合、例えば、第1のイメージセンサからは、読み出す画素を縦横方向に一定間隔で間引くこと、あるいは、イメージセンサ上で隣接する複数の同色画素を足し合わせること等が行われ、例えば高フレームレートで全画角の読み出しが行われて、第1の画像データが得られる。
【0011】
また、例えば、第1のイメージセンサおよび第2のイメージセンサとして、画素サイズが異なり、異なる画素数を持つメージセンサが使用される。すなわち、第1のイメージセンサとして、第2のイメージセンサに比べて、画素サイズが大きく、画素数の少ないイメージセンサが使用される。この場合、例えば、第2のイメージセンサからは、例えば低フレームレートで、全画素の読み出しが行われて、第2の画像データが得られる。また、この場合、例えば、第1のイメージセンサからは、例えば高フレームレートで、全画素の読み出しが行われて、第1の画像データが得られる。
【0012】
画素数変換部により、第1のイメージセンサから出力される第1の画像データに基づいて第3の画素数の第3の画像データが生成される。この場合、第3の画素数が第1の画素数より多い場合、第1の画像データに対して画素数を拡大する拡大処理(拡大スケーリング処理)が施されて、第3の画像データが生成される。また、この画素数変換部により、第2のイメージセンサから出力される第2の画像データに基づいて第3の画素数の第4の画像データが生成される。この場合、第3の画素数が第2の画素数より少ない場合、第2の画像データに対して画素数を縮小する縮小処理(縮小スケーリング処理)が施されて、第4の画像データが生成される。
【0013】
類似度演算部により、第1の画像データおよび第2の画像データに基づいて、第1の画像データと第2の画像データによる画像の類似度が求められる。この場合、例えば、間引き処理部により、第2の画像データに基づいて第1の画素数の第6の画像データが生成される。そして、第1の画像データおよび第6の画像データに基づいて、第1の画像データの各フレームで、この第1の画像データによる画像の所定領域毎に、第2の画像データによる画像の類似領域との間の類似度が求められてもよい。
【0014】
この際、例えば、第1の画像データおよび第6の画像データに基づいて画像全体の動きベクトルが求められる。そして、この動きベクトルに基づいて、第1の画像データの所定領域毎の画像データに対応した第6の画像データの類似領域の画像データが求められる。そして、第1の画像データの所定領域毎の画像データと、対応する第6の画像データの類似領域の画像データに基づいて、第1の画像データの各フレームで、この第1の画像データによる画像の所定領域毎に、第2の画像データによる画像の類似領域との間の類似度が求められる。
【0015】
加重加算部により、第3の画像データに対して、所定画像領域毎に、第4の画像データの類似領域の画像データが、類似度演算部で求められた類似度に応じて加重加算され、第3の画素数の第5の画像データが得られる。この場合、類似度が高い程、加重加算される場合における第4の画像データの類似領域の画像データの割合が大きくされる。
【0016】
このように本技術においては、例えば、高フレームレートの画像データ(第3の画像データ)に対して、低フレームレートの画像データ(第4の画像データ)が類似度に応じて加重加算されて、高フレームレートの出力画像データ(第5の画像データ)が得られる。そのため、高フレームレートの撮像画像データの画質改善を図ることができる。例えば、高フレームレートの画像データが間引き読み出し等による折り返しが含まれた画像データである場合、偽色、ジャギーなどを低減できる。また、例えば、高フレームレートの画像データが画素数の少ないイメージセンサから出力された画像データである場合、解像度を向上できる。
【0017】
なお、本技術において、例えば、第1の動作モードおよび第2の動作モードを有し、第1の動作モードでは、第2のイメージセンサから出力される第2の画像データを出力し、第2の動作モードでは、加重加算部で得られる第5の画像データを出力する、ようにされる。この場合、第2の動作モードにおいては、画質改善された高フレームレートの撮像画像データを出力できる。
【発明の効果】
【0018】
本技術によれば、高フレームレートの撮像画像データの画質改善を図ることができる。
【図面の簡単な説明】
【0019】
【図1】本技術の実施の形態としてのカメラシステムの構成例を示すブロック図である。
【図2】カメラシステムの類似度演算部における類似度算出例を説明するための図である。
【図3】画像データSV1が60fpsで、画像データSV6が7.5fpsである場合における入力画像と参照画像の更新タイミングを示す図である。
【図4】カメラシステムの類似度演算部における類似度算出例を説明するための図である。
【図5】モニタリングモードにおけるカメラシステムの各ブロックの処理概要を示す図である。
【図6】静止画記録モードにおけるカメラシステムの各ブロックの処理概要を示す図である。
【図7】動画記録モードにおけるカメラシステムの各ブロックの処理概要を示す図である。
【図8】動画記録モードにおけるサブイメージセンサおよびメインイメージセンサの出力画像データの処理の流れを概略的に示す図である。
【図9】画像データSV1が60fpsで、画像データSV6が3.75fpsである場合における入力画像と参照画像の更新タイミングを示す図である。
【図10】本技術を適用したカメラシステムの他の構成例を示すブロック図である。
【発明を実施するための形態】
【0020】
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
【0021】
<1.実施の形態>
[カメラシステムの構成例]
図1は、本技術の実施の形態としてのカメラシステム100の構成例を示している。このカメラシステム100は、撮像部110と、拡大処理部120と、縮小処理部130と、類似領域加重加算部140と、セレクタ150と、間引き処理部160と、類似度演算部170を有している。
【0022】
撮像部110は、撮像レンズ111と、半透過ミラー112と、サブイメージセンサ(第1のイメージセンサ)113と、メインイメージセンサ(第2のイメージセンサ)114とを有している。この構成例は、サブイメージセンサ113およびメインイメージセンサ114の撮像面に被写体像を結像させるための撮像レンズ111が共通であり、双方のイメージセンサの光学系が同一とされている例である。この場合、双方のイメージセンサの受光面積は同じである。
【0023】
この場合、撮像レンズ111で捉えられた被写体からの光の一部は半透過ミラー112で反射してサブイメージセンサ113に供給され、このサブイメージセンサ113の撮像面に被写体像が結像される。また、この場合、撮像レンズ111で捉えられた被写体からの光の他部は半透過ミラー112を透過してメインイメージセンサ114に供給され、このメインイメージセンサ114の撮像面に被写体像が結像される。
【0024】
サブイメージセンサ113は、画素数が少なく高フレームレート(第1のフレームレート)、例えば、60fpsの画像データ(第1の画像データ)SV1を出力する。この画像データSV1の画素数を第1の画素数とするとき、この第1の画素数はサブイメージセンサ113からの読み出し画素数を意味する。
【0025】
一方、メインイメージセンサ114は、画素数が多く低フレームレート(第2のフレームレート)、例えば、7.5fpsの画像データ(第2の画像データ)SV2を出力する。この画像データSV2の画素数を第2の画素数とするとき、この第2の画素数はメインイメージセンサ114からの読み出し画素数を意味する。
【0026】
例えば、サブイメージセンサ113およびメインイメージセンサ114として、画素サイズが同一で、同一の画素数を持つイメージセンサが使用される。この場合、例えば、メインイメージセンサ114からは、低フレームレート(第2のフレームレート)で、全画素の読み出しが行われて、画像データ(第2の画像データ)SV2が得られる。この画像データSV2は、間引き処理等を行っていないため、偽色、ジャギーの少ない高品位な画像データである。
【0027】
また、この場合、例えば、サブイメージセンサ113からは、画像データ(第1の画像データ)SV1が得られる。この場合、読み出す画素を縦横方向に一定間隔で間引くこと、あるいは、イメージセンサ上で隣接する複数の同色画素を足し合わせること等が行われて、高フレームレート(第1のフレームレート)で全画角の読み出しが行われる。この画像データSV1は、画像データSV2に比べて偽色、ジャギー等が多い低品位な画像データである。
【0028】
また、例えば、サブイメージセンサ113およびメインイメージセンサ114として、画素サイズが異なり、異なる画素数を持つメージセンサが使用される。すなわち、サブイメージセンサ113として、メインイメージセンサ114に比べて、画素サイズが大きく、画素数の少ないイメージセンサが使用される。
【0029】
この場合、例えば、メインイメージセンサ114からは、低フレームレート(第2のフレームレート)で、全画素の読み出しが行われて、画像データ(第2の画像データ)SV2が得られる。この画像データSV2は、間引き処理等を行っていないため、偽色、ジャギーの少ない高品位な画像データである。
【0030】
また、この場合、例えば、サブイメージセンサ113からは、高フレームレート(第1のフレームレート)で、全画素の読み出しが行われて、画像データ(第1の画像データ)SV1が得られる。この画像データSV1は、サブイメージセンサ113の画素数が少ないことから低解像度の画像データであって、低品位な画像データである。
【0031】
拡大処理部120は、サブイメージセンサ113から出力される画像データSV1に対して、画素数を拡大する拡大処理(拡大スケーリング処理)を施し、出力画素数(第3の画素数)の画像データ(第3の画像データ)SV3を生成する。すなわち、縮小処理部130は、画像データSV2の画素数を、第1の画素数から第3の画素数に変換する。なお、画素数の拡大には等倍も含まれ、等倍の場合には第3の画素数は第1の画素数と等しくなる。この画像データSV3のフレームレートは、画像データSV1のフレームレートと同じく、高フレームレート(第1のフレームレート)である。この拡大処理部120は、画素数変換部を構成している。
【0032】
拡大処理部120は、画像データSV1の画素数が動画記録画素数に満たない場合に、必要に応じて、拡大処理を行う。拡大後の画素数(出力画素数)は、少なくとも動画記録画素数以上で、多くとも画像データSV2の画素数以下、つまりメインイメージセンサ114からの読み出し画素数以下の範囲で、自由に設定可能とされる。
【0033】
縮小処理部130は、メインイメージセンサ114から出力される画像データSV2に対して、画素数を縮小する縮小処理(縮小スケーリング処理)を施し、出力画素数(第3の画素数)の画像データ(第4の画像データ)SV4を生成する。すなわち、縮小処理部130は、画像データSV2の画素数を、上述の拡大処理部120で拡大(等倍もあり得る)された画素数(第3の画素数)と等しくなるように、変換する。この画像データSV4のフレームレートは、画像データSV2のフレームレートと同じく、低フレームレート(第2のフレームレート)である。この縮小処理部130は、画素数変換部を構成している。
【0034】
縮小処理部130は、間引き処理部160と異なり、適切な帯域制限フィルタを掛けた上で縮小処理を行うことで、折り返しの少ない画像データを生成する。メインイメージセンサ114の出力側の縮小処理は行わずに、サブイメージセンサ113の出力側の拡大処理で画サイズを最大にすることが理想的で、これにより画質の改善効果は高くなる。しかし、実際には、処理時間や回路規模、消費電力等の兼ね合いから、縮小後の画素数は、上述の拡大後の画素数と同様に、少なくとも動画記録画素数以上で、多くともメインイメージセンサ114からの読み出し画素数以下の範囲で、自由に設定可能とされる。
【0035】
間引き処理部160は、メインイメージセンサ114で得られる画像データSV2に間引き処理を施し、画像データSV1と同じ画素数で、低フレームレート(第2のフレームレート)の画像データ(第6の画像データ)SV6を生成する。
【0036】
類似度演算部170は、サブイメージセンサ113から出力される画像データSV1の各フレームで、この画像データSV1による画像の所定領域毎に、メインイメージセンサ114から出力される画像データSV2による画像の類似領域との間の類似度を求める。この類度演算部170は、画像データSV1と、画像データSV2、この実施の形態ではこの画像データSV2から間引き処理部160で生成される画像データSV6とに基づいて、類似度を求める。
【0037】
類似度演算部170における類似度算出例を説明する。図2(a)は、画像データSV1による画像を入力画像として示している。この入力画像は、画像データSV1の毎フレームで更新される。図2(b)は、画像データSV6による画像を参照画像として示している。この参照画像は、画像データSV1の複数フレームに一回更新される。
【0038】
図3は、画像データSV1が60fpsで、画像データSV6が7.5fpsである場合における入力画像と参照画像の更新タイミングを示している。この場合、参照画像は、8フレームに一回更新される。
【0039】
類似度演算部170は、画像データSV1の各フレームで、この画像データSV1による画像(入力画像)の所定領域毎に、画像データSV2(参照画像)による画像の類似領域との間の類似度を求める。この実施の形態においては、画像データSV2(参照画像)による画像の類似領域として、この画像データSV2が間引き処理されて得られた画像データSV6による画像の類似領域が参照される。類似度演算部170は、画像データSV1のあるフレームの類似度を求める際には、画像データSV1の当該フレームと、このフレームに対応する画像データSV6のフレームとを用いて、類似度を求める。
【0040】
例えば、図3に示す例の場合、画像データSV1の(1)〜(8)のフレームに対応する画像データSV6のフレームは(1)であり、画像データSV1の(9)〜(16)のフレームに対応する画像データSV6のフレームは(2)である。
【0041】
まず、類似度演算部170は、入力画像に対する参照画像の画像全体の動きベクトルを求める。次に、類似度演算部170は、入力画像の所定領域毎に、参照画像の類似領域との間の類似度を求める。ここで、所定領域は、例えば水平x画素、垂直y画素の矩形領域である。入力画像のある所定領域に対応した参照画像の類似領域位置は、当該所定領域を上述の動きベクトルで補正することで得ることができる。なお、図2(b)の破線位置は、入力画像の位置を示している。
【0042】
類似度演算部170は、入力画像のある所定領域における参照画像の類似領域との間の類似度を算出する際に、図2(c),(d)に示すように、所定領域および類似領域の対応する複数の画素のデータを用いて算出する。ここでは、図示のように、ベイヤ配列における9個の緑色画素データg1−g9が用いられる。
【0043】
まず、類似度演算部170は、所定領域および類似領域の双方において、特徴量1、特徴量2および特徴量3を算出する。特徴量1は、DC成分であり、g1−g9を加算平均して求める。特徴量2は、横方向の高周波成分(縦縞成分)であり、[−1×(g1+g4+g7)]+[+2×(g2+g5+g8)]+[−1×(g3+g6+g9)]のフィルタ演算を行って求める。特徴量3は、縦方向の高周波成分(横縞成分)であり、[−1×(g1+g2+g3)]+[+2×(g4+g5+g6)]+[−1×(g7+g8+g9)]のフィルタ演算を行って求める。
【0044】
次に、類似度演算部170は、所定領域および類似領域の双方で求めた特徴量1、特徴量2、特徴量3のそれぞれについて、差分をとり、例えば、図4に示すように、閾値の値で正規化する。そして、類似度演算部170は、この正規化後に1から引くことで、正規化された特徴量とする。
【0045】
次に、類似度演算部170は、正規化された各特徴量を、以下の(1)式のように合成して、類似度を算出する。なお、この(1)式において、α、β、γは、それぞれ、0〜1の範囲の重み係数である。
類似度
=α×(正規化特徴量1)+β×(正規化特徴量2)+γ×(正規化特徴量3)
・・・(1)
【0046】
図1に戻って、類似領域加重加算部140は、拡大処理部120で得られた画像データSV3と縮小処理部130で得られた画像データSV4との加重加算を行って、出力画素数(第3の画素数)の画像データSV5を得る。この場合、類似領域加重加算部140は、画像データSV3に対して、この画像データSV3による画像の所定領域毎に、画像データSV4の類似領域の画像データを、類似度演算部170で求められた類似度に応じて加重加算する。この場合、類似度が大きくなるほど、類似領域の画像データの重みが大きくされる。
【0047】
ここで、画像データSV3による画像の所定領域およびそれに対応した画像データSV4による画像の類似領域は、上述の類似度演算部170における画像データSV1による画像の所定領域およびそれに対応した類似領域に相当する。ただし、類似領域加重加算部140における各領域は、上述の拡大処理部120における画素数の拡大率に応じて、類似度演算部170における各領域より拡大したものとなる。
【0048】
セレクタ150は、拡大処理部120で得られた画像データSV3または類似領域加重加算部140で得られた画像データSV5を選択的に出力する。
【0049】
[カメラシステムの動作]
図1に示すカメラシステム100の動作を説明する。このカメラシステム100は、モニタリングモード、静止画記録モード、動画記録モードの3つの動作モードを有し、ユーザは自由に変更できる。各動作モードについて説明する。
【0050】
最初に、モニタリングモードについて説明する。このモニタリングモードでは、画質よりも消費電力を優先させるため、メインイメージセンサ114を休止状態にしつつ、サブイメージセンサ113からの高フレームレートの画像データをモニタ画像データ出力として出力する。
【0051】
図5は、モニタリングモードにおけるカメラシステム100の各ブロックの処理概要を示している。このモニタリングモードでは、実線で書かれた部分のみ動作し、点線で描かれた部分は休止状態となる。サブイメージセンサ113から高フレームレート(第1のフレームレート)の画像データSV1が出力される。この画像データSV1は、拡大処理部120に供給される。拡大処理部120では、画像データSV1に対して、必要に応じて画素数を拡大する拡大処理が施されて、出力画素数の画像データSV3が生成される。そして、この画像データSV3が、セレクタ150からモニタ画像データ出力として出力される。
【0052】
次に、静止画記録モードについて説明する。この静止画記録モードでは、フレームレートよりも画質を優先させる。図6は、静止画記録モードおけるカメラシステム100の各ブロックの処理概要を示している。この静止画記録モードでは、モニタリングモードで動作するブロックに加えて、メインイメージセンサ114を動作させる。
【0053】
サブイメージセンサ113から高フレームレート(第1のフレームレート)の画像データSV1が出力される。この画像データSV1は、拡大処理部120に供給される。拡大処理部120では、画像データSV1に対して、必要に応じて画素数を拡大する拡大処理が施されて、出力画素数の画像データSV3が生成される。そして、この画像データSV3が、セレクタ150からモニタ画像データ出力として出力される。また、メインイメージセンサ114から低フレームレートの画像データSV2が出力される。この画像データSV2は、静止画画像データ出力として出力される。
【0054】
次に、動画記録モードについて説明する。この動画記録モードでは、フレームレートと画質のどちらも重要な要因となる。図7は、動画記録モードおけるカメラシステム100の各ブロックの処理概要を示している。この動画記録モードでは、全てのブロックを動作させる。
【0055】
サブイメージセンサ113から高フレームレート(第1のフレームレート)の画像データSV1が出力される。この画像データSV1は、拡大処理部120に供給される。拡大処理部120では、画像データSV1に対して、必要に応じて画素数を拡大する拡大処理が施されて、出力画素数の画像データSV3が生成される。この画像データSV3は、類似領域加重加算部140に供給される。
【0056】
また、メインイメージセンサ114から低フレームレートの画像データSV2が出力される。この画像データSV2は、縮小処理部130に供給される。縮小処理部130では、画像データSV2に対して、画素数を縮小する縮小処理が施されて、出力画素数の画像データSV4が生成される。この場合、適切な帯域制限フィルタを掛けた上で縮小処理が行われ、折り返しの少ない画像データSV4が生成される。この画像データSV4は、類似領域加重加算部140に供給される。
【0057】
また、サブイメージセンサ113で得られる画像データSV1は、類似度演算部170に供給される。また、メインイメージセンサ114で得られる画像データSV2は、間引き処理部160に供給される。間引き処理部160では、画像データSV2に対して間引き処理が施され、画像データSV1と同じ画素数で、低フレームレート(第2のフレームレート)の画像データSV6が生成される。この画像データSV6は、類似度演算部170に供給される。
【0058】
類似度演算部170では、画像データSV1および画像データSV6に基づいて、画像データSV1の各フレームで、この画像データSV1による画像(入力画像)の所定領域毎に、画像データSV2(参照画像)による画像の類似領域との間の類似度が求められる。所定領域毎の類似度の情報および所定領域に対する類似領域の位置情報は、類似領域加重加算部140に供給される。
【0059】
類似領域加重加算部140では、画像データSV3に対して、この画像データSV3による画像の所定領域毎に、画像データSV4の類似領域の画像データが、類似度に応じて加重加算され、出力画素数の画像データSV5が得られる。なお、この類似領域加重加算部140では、画像データSV3による画像の所定領域に対応した、画像データSV4による画像の類似領域は、類似度演算部170から類似度の情報と共に供給される類似領域の位置情報に基づいて把握される。この画像データSV5は、セレクタ150からモニタおよび動画の画像データ出力として出力される。
【0060】
図8は、上述の動画記録モードにおける、サブイメージセンサ113の出力画像データSV1およびメインイメージセンサ114の出力画像データSV2を処理して画像出力SV5を得るための処理の流れを概略的に示している。
【0061】
上述したように、図1に示すカメラシステム100において、動画記録モード時には、類似領域加重加算部140で得られる画像データSV5がセレクタ150を通じて動画像画像出力として出力される(図7参照)。この画像データSV5は、高フレームレートの画像データ(第3の画像データ)SV3に対して、所定画像領域毎に、低フレームレートの画像データ(第4の画像データ)SV4の類似領域の画像データが類似度に応じて加重加算されて得られたものである。
【0062】
したがって、動画像画像出力として得られる高フレームレートの撮像画像データの画質改善を図ることができる。例えば、サブイメージセンサ113で得られる高フレームレートの画像データSV1が間引き読み出し等による折り返しが含まれた画像データである場合、偽色、ジャギーなどを低減できる。また、例えば、サブイメージセンサ113で得られる高フレームレートの画像データSV1が画素数の少ないイメージセンサから出力された画像データである場合、解像度を向上できる。
【0063】
また、図1に示すカメラシステム100において、モニタリングモード、静止画録画モード、動画記録モードの3つの動作モードを有している。モニタリングモードでは、サブイメージセンサ113のみの高フレーム低画質動作が行われる。静止画記録モードでは、メインイメージセンサ114とサブイメージセンサ113とが互いに独立した動作が行われる。動画記録モードでは、メインイメージセンサ114およびサブイメージセンサ113の出力の類似度に応じた重ね合わせを行なう画質改善動作が行われる。これらの動作モードを自由に変更できることから、画質とフレームレート、消費電力に応じた動作が可能になる。例えば、モニタリングモード時および静止画記録モード時には、不要なイメージセンサおよびその他の回路部分は休止状態とされる(図5、図6の破線部分参照)。そのため、消費電力の節約を図ることができる。
【0064】
また、図1に示すカメラシステム100において、類似度演算部170では、画像データSV1の各フレームで、この画像データSV1による画像の所定領域毎に、画像データSV2の画像データによる画像の類似領域との間の類似度が求められる。この場合、イメージセンサ113で得られる画像データSV1および間引き処理部160で生成された画像データSV6に基づいて、類似度が求められる。この画像データSV6は、画像データSV2に対して間引き処理が施されて得られたものであり、画像データSV1と同じ画素数を持つものとされる。そのため、画像データSV2を直接用いて類似度を求める場合と比べて、所定領域とそれに対応した類似領域のサイズが等しいことから、簡単な処理で、類似度を求めることが可能となる(図2、図4参照)。
【0065】
<2.変形例>
なお、上述実施の形態においては、メインイメージセンサ114で得られる画像データSV2のフレームレートが例えば7.5fpsであるものとして説明した。しかし、メインイメージセンサ114側のフレームレートは自由に変えられるものとしてもよい。その場合、低照度時や動きの少ない被写体の場合には、メインイメージセンサ114側のフレームレート(およびシャッタースピード)をさらに遅くすることで、より低ノイズの参照画像を元に画質改善を図ることができる。
【0066】
図9は、図3に対応した図であり、画像データSV1が60fpsで、画像データSV6が3.75fpsである場合における入力画像と参照画像の更新タイミングを示している。この場合、参照画像は、16フレームに一回更新される。また、この場合、画像データSV2の(1)〜(16)のフレームに対応する画像データSV6のフレームは(1)である。
【0067】
また、上述実施の形態においては、サブイメージセンサ113およびメインイメージセンサ114の撮像面に被写体像を結像させるための撮像レンズ111が共通であり、双方のイメージセンサの光学系が同一とされている例を示した。しかし、本技術は、サブイメージセンサ113およびメインイメージセンサ114の撮像面に被写体像を結像させるための撮像レンズが独立し、光学系が共通でない場合であっても適用可能である。
【0068】
図10は、その場合におけるカメラシステム100Aの構成例を示している。この図10において、図1と対応する部分には同一符号を付し、その詳細説明は省略する。このカメラシステム100Aは、サブイメージセンサ113およびメインイメージセンサ114にそれぞれ対応した撮像レンズ111sおよび撮像レンズ111mを有している。撮像レンズ111sで捉えられた被写体からの光はサブイメージセンサ113に供給され、このサブイメージセンサ113の撮像面に被写体像が結像される。また、撮像レンズ111mで捉えられた被写体からの光はメインイメージセンサ114に供給され、このメインイメージセンサ114の撮像面に被写体像が結像される。このカメラシステム100Aにおけるその他は、図1に示すカメラシステム100と同様に構成されている。
【0069】
また、本技術は、以下のような構成を取ることもできる。
(1)第1の画素数の第1の画像データを出力する第1のイメージセンサと、
上記第1の画素数より多い第2の画素数の第2の画像データを出力する第2のイメージセンサと、
上記第1のイメージセンサから出力される上記第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
撮像装置。
(2)第1の動作モードおよび第2の動作モードを有し、
上記第1の動作モードでは、上記第2のイメージセンサから出力される上記第2の画像データを出力し、
上記第2の動作モードでは、上記加重加算部で得られる上記第5の画像データを出力する
前記(1)に記載の撮像装置。
(3)上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第1の画素数の第6の画像データを生成する間引き処理部をさらに備え、
上記類似度演算部は、
上記第1のイメージセンサから出力される上記第1の画像データおよび上記間引き処理部で生成される上記第6の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似度を求める
前記(1)または(2)に記載の撮像装置。
(4)上記類似度演算部は、
上記第1の画像データおよび上記第6の画像データに基づいて画像全体の動きベクトルを求め、
上記求められた動きベクトルに基づいて、上記第1の画像データの所定領域毎の画像データに対応した上記第6の画像データの類似領域の画像データを求め、
上記第1の画像データの所定領域毎の画像データと、対応する上記第6の画像データの類似領域の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似領域との間の類似度を求める
前記(3)に記載の撮像装置。
(5)上記第1のイメージセンサおよび上記第2のイメージセンサは、光学系が同一とされている
前記(1)から(4)のいずれかに記載の撮像装置。
(6)第1のイメージセンサで得られる第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、第2のイメージセンサで得られる上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換ステップと、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算ステップと、
上記画素数変換ステップで生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算ステップで求められた類似度に応じて加重加算し、第5の画像データを得る加重加算ステップとを備える
撮像方法。
(7)第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
画像処理装置。
【符号の説明】
【0070】
100,100A・・・カメラシステム
110・・・撮像部
111,111s,111m・・・撮像レンズ
112・・・半透過ミラー
113・・・サブイメージセンサ(第1のイメージセンサ)
114・・・メインイメージセンサ(第2のイメージセンサ)
120・・・拡大処理部
130・・・縮小処理部
140・・・類似領域加重加算部
150・・・セレクタ
160・・・間引き処理部
170・・・類似度演算部
【技術分野】
【0001】
本技術は、撮像装置、撮像方法および画像処理装置に関する。特に、本技術は、2つのイメージセンサを持つ撮像装置、撮像方法および画像処理装置に関する。
【背景技術】
【0002】
撮像される画像の解像度を上げるためには、イメージセンサの1画素の大きさを小さくし、単位面積あたりの画素数を多くすることが有用である。しかし、単位時間当たりに読み出せる画素数は、伝送帯域の制限、あるいはイメージセンサのチップ面積、消費電力等により制限される。
【0003】
そのため、現状、以下の方式が広く用いられている。すなわち、時間制約の比較的ゆるい静止画撮像時(例えば、15fps)には、時間をかけて全画素の読み出しが行われる。一方、連続した画像の読み出しが必要なモニタリング時や動画撮像時(例えば、60fps)には、読み出し処理を行う画素数が減じられ、求められるフレームレートでの全画角での読み出しが行われる。
【0004】
この場合、読み出し画素を縦横方向に一定間隔で間引くこと、あるいは、イメージセンサ上で隣接する複数の同色画素を足し合わせること等で、読み出し処理を行う画素数が減じられる。例えば、特許文献1には、画素を間引いて読み出すための技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−252390号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
一枚のイメージセンサでカラー画像を得る場合には、複数の色を一定間隔で交互に配置する(例えばBayer配列)ことで、色毎の空間解像度を上げる工夫がなされている。しかし、ある一定間隔で読み出しを間引く場合はもちろんのことながら、隣接する同色画素を足し合わせる場合においても、足し合わせた後の空間サンプリング周波数を越えるような細かい柄の部分においては、以下のような不都合が生じる。すなわち、高周波成分の低周波側への折り返しが生じ、偽色の発生や斜め線が階段状にギザギザになる現象(ジャギー)が発生し、画像の品質の劣化につながる。
【0007】
本技術の目的は、高フレームレートの撮像画像データの画質改善を図ることにある。
【課題を解決するための手段】
【0008】
本技術の概念は、
第1の画素数の第1の画像データを出力する第1のイメージセンサと、
上記第1の画素数より多い第2の画素数の第2の画像データを出力する第2のイメージセンサと、
上記第1のイメージセンサから出力される上記第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
撮像装置にある。
【0009】
本技術においては、第1のイメージセンサおよび第2のイメージセンサが備えられている。第1のイメージセンサからは第1の画素数の第1の画像データが出力される。第2のイメージセンサからは、第1の画素数より多い第2の画素数の第2の画像データが出力される。この場合、第1のイメージセンサおよび第2のイメージセンサの光学系は、同一あるいは別個のいずれであってもよい。
【0010】
例えば、第1のイメージセンサおよび第2のイメージセンサとして、画素サイズが同一で同一の画素数を持つイメージセンサが使用される。この場合、例えば、第2のイメージセンサからは、例えば低フレームレートで、全画素の読み出しが行われて、第2の画像データが得られる。また、この場合、例えば、第1のイメージセンサからは、読み出す画素を縦横方向に一定間隔で間引くこと、あるいは、イメージセンサ上で隣接する複数の同色画素を足し合わせること等が行われ、例えば高フレームレートで全画角の読み出しが行われて、第1の画像データが得られる。
【0011】
また、例えば、第1のイメージセンサおよび第2のイメージセンサとして、画素サイズが異なり、異なる画素数を持つメージセンサが使用される。すなわち、第1のイメージセンサとして、第2のイメージセンサに比べて、画素サイズが大きく、画素数の少ないイメージセンサが使用される。この場合、例えば、第2のイメージセンサからは、例えば低フレームレートで、全画素の読み出しが行われて、第2の画像データが得られる。また、この場合、例えば、第1のイメージセンサからは、例えば高フレームレートで、全画素の読み出しが行われて、第1の画像データが得られる。
【0012】
画素数変換部により、第1のイメージセンサから出力される第1の画像データに基づいて第3の画素数の第3の画像データが生成される。この場合、第3の画素数が第1の画素数より多い場合、第1の画像データに対して画素数を拡大する拡大処理(拡大スケーリング処理)が施されて、第3の画像データが生成される。また、この画素数変換部により、第2のイメージセンサから出力される第2の画像データに基づいて第3の画素数の第4の画像データが生成される。この場合、第3の画素数が第2の画素数より少ない場合、第2の画像データに対して画素数を縮小する縮小処理(縮小スケーリング処理)が施されて、第4の画像データが生成される。
【0013】
類似度演算部により、第1の画像データおよび第2の画像データに基づいて、第1の画像データと第2の画像データによる画像の類似度が求められる。この場合、例えば、間引き処理部により、第2の画像データに基づいて第1の画素数の第6の画像データが生成される。そして、第1の画像データおよび第6の画像データに基づいて、第1の画像データの各フレームで、この第1の画像データによる画像の所定領域毎に、第2の画像データによる画像の類似領域との間の類似度が求められてもよい。
【0014】
この際、例えば、第1の画像データおよび第6の画像データに基づいて画像全体の動きベクトルが求められる。そして、この動きベクトルに基づいて、第1の画像データの所定領域毎の画像データに対応した第6の画像データの類似領域の画像データが求められる。そして、第1の画像データの所定領域毎の画像データと、対応する第6の画像データの類似領域の画像データに基づいて、第1の画像データの各フレームで、この第1の画像データによる画像の所定領域毎に、第2の画像データによる画像の類似領域との間の類似度が求められる。
【0015】
加重加算部により、第3の画像データに対して、所定画像領域毎に、第4の画像データの類似領域の画像データが、類似度演算部で求められた類似度に応じて加重加算され、第3の画素数の第5の画像データが得られる。この場合、類似度が高い程、加重加算される場合における第4の画像データの類似領域の画像データの割合が大きくされる。
【0016】
このように本技術においては、例えば、高フレームレートの画像データ(第3の画像データ)に対して、低フレームレートの画像データ(第4の画像データ)が類似度に応じて加重加算されて、高フレームレートの出力画像データ(第5の画像データ)が得られる。そのため、高フレームレートの撮像画像データの画質改善を図ることができる。例えば、高フレームレートの画像データが間引き読み出し等による折り返しが含まれた画像データである場合、偽色、ジャギーなどを低減できる。また、例えば、高フレームレートの画像データが画素数の少ないイメージセンサから出力された画像データである場合、解像度を向上できる。
【0017】
なお、本技術において、例えば、第1の動作モードおよび第2の動作モードを有し、第1の動作モードでは、第2のイメージセンサから出力される第2の画像データを出力し、第2の動作モードでは、加重加算部で得られる第5の画像データを出力する、ようにされる。この場合、第2の動作モードにおいては、画質改善された高フレームレートの撮像画像データを出力できる。
【発明の効果】
【0018】
本技術によれば、高フレームレートの撮像画像データの画質改善を図ることができる。
【図面の簡単な説明】
【0019】
【図1】本技術の実施の形態としてのカメラシステムの構成例を示すブロック図である。
【図2】カメラシステムの類似度演算部における類似度算出例を説明するための図である。
【図3】画像データSV1が60fpsで、画像データSV6が7.5fpsである場合における入力画像と参照画像の更新タイミングを示す図である。
【図4】カメラシステムの類似度演算部における類似度算出例を説明するための図である。
【図5】モニタリングモードにおけるカメラシステムの各ブロックの処理概要を示す図である。
【図6】静止画記録モードにおけるカメラシステムの各ブロックの処理概要を示す図である。
【図7】動画記録モードにおけるカメラシステムの各ブロックの処理概要を示す図である。
【図8】動画記録モードにおけるサブイメージセンサおよびメインイメージセンサの出力画像データの処理の流れを概略的に示す図である。
【図9】画像データSV1が60fpsで、画像データSV6が3.75fpsである場合における入力画像と参照画像の更新タイミングを示す図である。
【図10】本技術を適用したカメラシステムの他の構成例を示すブロック図である。
【発明を実施するための形態】
【0020】
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
【0021】
<1.実施の形態>
[カメラシステムの構成例]
図1は、本技術の実施の形態としてのカメラシステム100の構成例を示している。このカメラシステム100は、撮像部110と、拡大処理部120と、縮小処理部130と、類似領域加重加算部140と、セレクタ150と、間引き処理部160と、類似度演算部170を有している。
【0022】
撮像部110は、撮像レンズ111と、半透過ミラー112と、サブイメージセンサ(第1のイメージセンサ)113と、メインイメージセンサ(第2のイメージセンサ)114とを有している。この構成例は、サブイメージセンサ113およびメインイメージセンサ114の撮像面に被写体像を結像させるための撮像レンズ111が共通であり、双方のイメージセンサの光学系が同一とされている例である。この場合、双方のイメージセンサの受光面積は同じである。
【0023】
この場合、撮像レンズ111で捉えられた被写体からの光の一部は半透過ミラー112で反射してサブイメージセンサ113に供給され、このサブイメージセンサ113の撮像面に被写体像が結像される。また、この場合、撮像レンズ111で捉えられた被写体からの光の他部は半透過ミラー112を透過してメインイメージセンサ114に供給され、このメインイメージセンサ114の撮像面に被写体像が結像される。
【0024】
サブイメージセンサ113は、画素数が少なく高フレームレート(第1のフレームレート)、例えば、60fpsの画像データ(第1の画像データ)SV1を出力する。この画像データSV1の画素数を第1の画素数とするとき、この第1の画素数はサブイメージセンサ113からの読み出し画素数を意味する。
【0025】
一方、メインイメージセンサ114は、画素数が多く低フレームレート(第2のフレームレート)、例えば、7.5fpsの画像データ(第2の画像データ)SV2を出力する。この画像データSV2の画素数を第2の画素数とするとき、この第2の画素数はメインイメージセンサ114からの読み出し画素数を意味する。
【0026】
例えば、サブイメージセンサ113およびメインイメージセンサ114として、画素サイズが同一で、同一の画素数を持つイメージセンサが使用される。この場合、例えば、メインイメージセンサ114からは、低フレームレート(第2のフレームレート)で、全画素の読み出しが行われて、画像データ(第2の画像データ)SV2が得られる。この画像データSV2は、間引き処理等を行っていないため、偽色、ジャギーの少ない高品位な画像データである。
【0027】
また、この場合、例えば、サブイメージセンサ113からは、画像データ(第1の画像データ)SV1が得られる。この場合、読み出す画素を縦横方向に一定間隔で間引くこと、あるいは、イメージセンサ上で隣接する複数の同色画素を足し合わせること等が行われて、高フレームレート(第1のフレームレート)で全画角の読み出しが行われる。この画像データSV1は、画像データSV2に比べて偽色、ジャギー等が多い低品位な画像データである。
【0028】
また、例えば、サブイメージセンサ113およびメインイメージセンサ114として、画素サイズが異なり、異なる画素数を持つメージセンサが使用される。すなわち、サブイメージセンサ113として、メインイメージセンサ114に比べて、画素サイズが大きく、画素数の少ないイメージセンサが使用される。
【0029】
この場合、例えば、メインイメージセンサ114からは、低フレームレート(第2のフレームレート)で、全画素の読み出しが行われて、画像データ(第2の画像データ)SV2が得られる。この画像データSV2は、間引き処理等を行っていないため、偽色、ジャギーの少ない高品位な画像データである。
【0030】
また、この場合、例えば、サブイメージセンサ113からは、高フレームレート(第1のフレームレート)で、全画素の読み出しが行われて、画像データ(第1の画像データ)SV1が得られる。この画像データSV1は、サブイメージセンサ113の画素数が少ないことから低解像度の画像データであって、低品位な画像データである。
【0031】
拡大処理部120は、サブイメージセンサ113から出力される画像データSV1に対して、画素数を拡大する拡大処理(拡大スケーリング処理)を施し、出力画素数(第3の画素数)の画像データ(第3の画像データ)SV3を生成する。すなわち、縮小処理部130は、画像データSV2の画素数を、第1の画素数から第3の画素数に変換する。なお、画素数の拡大には等倍も含まれ、等倍の場合には第3の画素数は第1の画素数と等しくなる。この画像データSV3のフレームレートは、画像データSV1のフレームレートと同じく、高フレームレート(第1のフレームレート)である。この拡大処理部120は、画素数変換部を構成している。
【0032】
拡大処理部120は、画像データSV1の画素数が動画記録画素数に満たない場合に、必要に応じて、拡大処理を行う。拡大後の画素数(出力画素数)は、少なくとも動画記録画素数以上で、多くとも画像データSV2の画素数以下、つまりメインイメージセンサ114からの読み出し画素数以下の範囲で、自由に設定可能とされる。
【0033】
縮小処理部130は、メインイメージセンサ114から出力される画像データSV2に対して、画素数を縮小する縮小処理(縮小スケーリング処理)を施し、出力画素数(第3の画素数)の画像データ(第4の画像データ)SV4を生成する。すなわち、縮小処理部130は、画像データSV2の画素数を、上述の拡大処理部120で拡大(等倍もあり得る)された画素数(第3の画素数)と等しくなるように、変換する。この画像データSV4のフレームレートは、画像データSV2のフレームレートと同じく、低フレームレート(第2のフレームレート)である。この縮小処理部130は、画素数変換部を構成している。
【0034】
縮小処理部130は、間引き処理部160と異なり、適切な帯域制限フィルタを掛けた上で縮小処理を行うことで、折り返しの少ない画像データを生成する。メインイメージセンサ114の出力側の縮小処理は行わずに、サブイメージセンサ113の出力側の拡大処理で画サイズを最大にすることが理想的で、これにより画質の改善効果は高くなる。しかし、実際には、処理時間や回路規模、消費電力等の兼ね合いから、縮小後の画素数は、上述の拡大後の画素数と同様に、少なくとも動画記録画素数以上で、多くともメインイメージセンサ114からの読み出し画素数以下の範囲で、自由に設定可能とされる。
【0035】
間引き処理部160は、メインイメージセンサ114で得られる画像データSV2に間引き処理を施し、画像データSV1と同じ画素数で、低フレームレート(第2のフレームレート)の画像データ(第6の画像データ)SV6を生成する。
【0036】
類似度演算部170は、サブイメージセンサ113から出力される画像データSV1の各フレームで、この画像データSV1による画像の所定領域毎に、メインイメージセンサ114から出力される画像データSV2による画像の類似領域との間の類似度を求める。この類度演算部170は、画像データSV1と、画像データSV2、この実施の形態ではこの画像データSV2から間引き処理部160で生成される画像データSV6とに基づいて、類似度を求める。
【0037】
類似度演算部170における類似度算出例を説明する。図2(a)は、画像データSV1による画像を入力画像として示している。この入力画像は、画像データSV1の毎フレームで更新される。図2(b)は、画像データSV6による画像を参照画像として示している。この参照画像は、画像データSV1の複数フレームに一回更新される。
【0038】
図3は、画像データSV1が60fpsで、画像データSV6が7.5fpsである場合における入力画像と参照画像の更新タイミングを示している。この場合、参照画像は、8フレームに一回更新される。
【0039】
類似度演算部170は、画像データSV1の各フレームで、この画像データSV1による画像(入力画像)の所定領域毎に、画像データSV2(参照画像)による画像の類似領域との間の類似度を求める。この実施の形態においては、画像データSV2(参照画像)による画像の類似領域として、この画像データSV2が間引き処理されて得られた画像データSV6による画像の類似領域が参照される。類似度演算部170は、画像データSV1のあるフレームの類似度を求める際には、画像データSV1の当該フレームと、このフレームに対応する画像データSV6のフレームとを用いて、類似度を求める。
【0040】
例えば、図3に示す例の場合、画像データSV1の(1)〜(8)のフレームに対応する画像データSV6のフレームは(1)であり、画像データSV1の(9)〜(16)のフレームに対応する画像データSV6のフレームは(2)である。
【0041】
まず、類似度演算部170は、入力画像に対する参照画像の画像全体の動きベクトルを求める。次に、類似度演算部170は、入力画像の所定領域毎に、参照画像の類似領域との間の類似度を求める。ここで、所定領域は、例えば水平x画素、垂直y画素の矩形領域である。入力画像のある所定領域に対応した参照画像の類似領域位置は、当該所定領域を上述の動きベクトルで補正することで得ることができる。なお、図2(b)の破線位置は、入力画像の位置を示している。
【0042】
類似度演算部170は、入力画像のある所定領域における参照画像の類似領域との間の類似度を算出する際に、図2(c),(d)に示すように、所定領域および類似領域の対応する複数の画素のデータを用いて算出する。ここでは、図示のように、ベイヤ配列における9個の緑色画素データg1−g9が用いられる。
【0043】
まず、類似度演算部170は、所定領域および類似領域の双方において、特徴量1、特徴量2および特徴量3を算出する。特徴量1は、DC成分であり、g1−g9を加算平均して求める。特徴量2は、横方向の高周波成分(縦縞成分)であり、[−1×(g1+g4+g7)]+[+2×(g2+g5+g8)]+[−1×(g3+g6+g9)]のフィルタ演算を行って求める。特徴量3は、縦方向の高周波成分(横縞成分)であり、[−1×(g1+g2+g3)]+[+2×(g4+g5+g6)]+[−1×(g7+g8+g9)]のフィルタ演算を行って求める。
【0044】
次に、類似度演算部170は、所定領域および類似領域の双方で求めた特徴量1、特徴量2、特徴量3のそれぞれについて、差分をとり、例えば、図4に示すように、閾値の値で正規化する。そして、類似度演算部170は、この正規化後に1から引くことで、正規化された特徴量とする。
【0045】
次に、類似度演算部170は、正規化された各特徴量を、以下の(1)式のように合成して、類似度を算出する。なお、この(1)式において、α、β、γは、それぞれ、0〜1の範囲の重み係数である。
類似度
=α×(正規化特徴量1)+β×(正規化特徴量2)+γ×(正規化特徴量3)
・・・(1)
【0046】
図1に戻って、類似領域加重加算部140は、拡大処理部120で得られた画像データSV3と縮小処理部130で得られた画像データSV4との加重加算を行って、出力画素数(第3の画素数)の画像データSV5を得る。この場合、類似領域加重加算部140は、画像データSV3に対して、この画像データSV3による画像の所定領域毎に、画像データSV4の類似領域の画像データを、類似度演算部170で求められた類似度に応じて加重加算する。この場合、類似度が大きくなるほど、類似領域の画像データの重みが大きくされる。
【0047】
ここで、画像データSV3による画像の所定領域およびそれに対応した画像データSV4による画像の類似領域は、上述の類似度演算部170における画像データSV1による画像の所定領域およびそれに対応した類似領域に相当する。ただし、類似領域加重加算部140における各領域は、上述の拡大処理部120における画素数の拡大率に応じて、類似度演算部170における各領域より拡大したものとなる。
【0048】
セレクタ150は、拡大処理部120で得られた画像データSV3または類似領域加重加算部140で得られた画像データSV5を選択的に出力する。
【0049】
[カメラシステムの動作]
図1に示すカメラシステム100の動作を説明する。このカメラシステム100は、モニタリングモード、静止画記録モード、動画記録モードの3つの動作モードを有し、ユーザは自由に変更できる。各動作モードについて説明する。
【0050】
最初に、モニタリングモードについて説明する。このモニタリングモードでは、画質よりも消費電力を優先させるため、メインイメージセンサ114を休止状態にしつつ、サブイメージセンサ113からの高フレームレートの画像データをモニタ画像データ出力として出力する。
【0051】
図5は、モニタリングモードにおけるカメラシステム100の各ブロックの処理概要を示している。このモニタリングモードでは、実線で書かれた部分のみ動作し、点線で描かれた部分は休止状態となる。サブイメージセンサ113から高フレームレート(第1のフレームレート)の画像データSV1が出力される。この画像データSV1は、拡大処理部120に供給される。拡大処理部120では、画像データSV1に対して、必要に応じて画素数を拡大する拡大処理が施されて、出力画素数の画像データSV3が生成される。そして、この画像データSV3が、セレクタ150からモニタ画像データ出力として出力される。
【0052】
次に、静止画記録モードについて説明する。この静止画記録モードでは、フレームレートよりも画質を優先させる。図6は、静止画記録モードおけるカメラシステム100の各ブロックの処理概要を示している。この静止画記録モードでは、モニタリングモードで動作するブロックに加えて、メインイメージセンサ114を動作させる。
【0053】
サブイメージセンサ113から高フレームレート(第1のフレームレート)の画像データSV1が出力される。この画像データSV1は、拡大処理部120に供給される。拡大処理部120では、画像データSV1に対して、必要に応じて画素数を拡大する拡大処理が施されて、出力画素数の画像データSV3が生成される。そして、この画像データSV3が、セレクタ150からモニタ画像データ出力として出力される。また、メインイメージセンサ114から低フレームレートの画像データSV2が出力される。この画像データSV2は、静止画画像データ出力として出力される。
【0054】
次に、動画記録モードについて説明する。この動画記録モードでは、フレームレートと画質のどちらも重要な要因となる。図7は、動画記録モードおけるカメラシステム100の各ブロックの処理概要を示している。この動画記録モードでは、全てのブロックを動作させる。
【0055】
サブイメージセンサ113から高フレームレート(第1のフレームレート)の画像データSV1が出力される。この画像データSV1は、拡大処理部120に供給される。拡大処理部120では、画像データSV1に対して、必要に応じて画素数を拡大する拡大処理が施されて、出力画素数の画像データSV3が生成される。この画像データSV3は、類似領域加重加算部140に供給される。
【0056】
また、メインイメージセンサ114から低フレームレートの画像データSV2が出力される。この画像データSV2は、縮小処理部130に供給される。縮小処理部130では、画像データSV2に対して、画素数を縮小する縮小処理が施されて、出力画素数の画像データSV4が生成される。この場合、適切な帯域制限フィルタを掛けた上で縮小処理が行われ、折り返しの少ない画像データSV4が生成される。この画像データSV4は、類似領域加重加算部140に供給される。
【0057】
また、サブイメージセンサ113で得られる画像データSV1は、類似度演算部170に供給される。また、メインイメージセンサ114で得られる画像データSV2は、間引き処理部160に供給される。間引き処理部160では、画像データSV2に対して間引き処理が施され、画像データSV1と同じ画素数で、低フレームレート(第2のフレームレート)の画像データSV6が生成される。この画像データSV6は、類似度演算部170に供給される。
【0058】
類似度演算部170では、画像データSV1および画像データSV6に基づいて、画像データSV1の各フレームで、この画像データSV1による画像(入力画像)の所定領域毎に、画像データSV2(参照画像)による画像の類似領域との間の類似度が求められる。所定領域毎の類似度の情報および所定領域に対する類似領域の位置情報は、類似領域加重加算部140に供給される。
【0059】
類似領域加重加算部140では、画像データSV3に対して、この画像データSV3による画像の所定領域毎に、画像データSV4の類似領域の画像データが、類似度に応じて加重加算され、出力画素数の画像データSV5が得られる。なお、この類似領域加重加算部140では、画像データSV3による画像の所定領域に対応した、画像データSV4による画像の類似領域は、類似度演算部170から類似度の情報と共に供給される類似領域の位置情報に基づいて把握される。この画像データSV5は、セレクタ150からモニタおよび動画の画像データ出力として出力される。
【0060】
図8は、上述の動画記録モードにおける、サブイメージセンサ113の出力画像データSV1およびメインイメージセンサ114の出力画像データSV2を処理して画像出力SV5を得るための処理の流れを概略的に示している。
【0061】
上述したように、図1に示すカメラシステム100において、動画記録モード時には、類似領域加重加算部140で得られる画像データSV5がセレクタ150を通じて動画像画像出力として出力される(図7参照)。この画像データSV5は、高フレームレートの画像データ(第3の画像データ)SV3に対して、所定画像領域毎に、低フレームレートの画像データ(第4の画像データ)SV4の類似領域の画像データが類似度に応じて加重加算されて得られたものである。
【0062】
したがって、動画像画像出力として得られる高フレームレートの撮像画像データの画質改善を図ることができる。例えば、サブイメージセンサ113で得られる高フレームレートの画像データSV1が間引き読み出し等による折り返しが含まれた画像データである場合、偽色、ジャギーなどを低減できる。また、例えば、サブイメージセンサ113で得られる高フレームレートの画像データSV1が画素数の少ないイメージセンサから出力された画像データである場合、解像度を向上できる。
【0063】
また、図1に示すカメラシステム100において、モニタリングモード、静止画録画モード、動画記録モードの3つの動作モードを有している。モニタリングモードでは、サブイメージセンサ113のみの高フレーム低画質動作が行われる。静止画記録モードでは、メインイメージセンサ114とサブイメージセンサ113とが互いに独立した動作が行われる。動画記録モードでは、メインイメージセンサ114およびサブイメージセンサ113の出力の類似度に応じた重ね合わせを行なう画質改善動作が行われる。これらの動作モードを自由に変更できることから、画質とフレームレート、消費電力に応じた動作が可能になる。例えば、モニタリングモード時および静止画記録モード時には、不要なイメージセンサおよびその他の回路部分は休止状態とされる(図5、図6の破線部分参照)。そのため、消費電力の節約を図ることができる。
【0064】
また、図1に示すカメラシステム100において、類似度演算部170では、画像データSV1の各フレームで、この画像データSV1による画像の所定領域毎に、画像データSV2の画像データによる画像の類似領域との間の類似度が求められる。この場合、イメージセンサ113で得られる画像データSV1および間引き処理部160で生成された画像データSV6に基づいて、類似度が求められる。この画像データSV6は、画像データSV2に対して間引き処理が施されて得られたものであり、画像データSV1と同じ画素数を持つものとされる。そのため、画像データSV2を直接用いて類似度を求める場合と比べて、所定領域とそれに対応した類似領域のサイズが等しいことから、簡単な処理で、類似度を求めることが可能となる(図2、図4参照)。
【0065】
<2.変形例>
なお、上述実施の形態においては、メインイメージセンサ114で得られる画像データSV2のフレームレートが例えば7.5fpsであるものとして説明した。しかし、メインイメージセンサ114側のフレームレートは自由に変えられるものとしてもよい。その場合、低照度時や動きの少ない被写体の場合には、メインイメージセンサ114側のフレームレート(およびシャッタースピード)をさらに遅くすることで、より低ノイズの参照画像を元に画質改善を図ることができる。
【0066】
図9は、図3に対応した図であり、画像データSV1が60fpsで、画像データSV6が3.75fpsである場合における入力画像と参照画像の更新タイミングを示している。この場合、参照画像は、16フレームに一回更新される。また、この場合、画像データSV2の(1)〜(16)のフレームに対応する画像データSV6のフレームは(1)である。
【0067】
また、上述実施の形態においては、サブイメージセンサ113およびメインイメージセンサ114の撮像面に被写体像を結像させるための撮像レンズ111が共通であり、双方のイメージセンサの光学系が同一とされている例を示した。しかし、本技術は、サブイメージセンサ113およびメインイメージセンサ114の撮像面に被写体像を結像させるための撮像レンズが独立し、光学系が共通でない場合であっても適用可能である。
【0068】
図10は、その場合におけるカメラシステム100Aの構成例を示している。この図10において、図1と対応する部分には同一符号を付し、その詳細説明は省略する。このカメラシステム100Aは、サブイメージセンサ113およびメインイメージセンサ114にそれぞれ対応した撮像レンズ111sおよび撮像レンズ111mを有している。撮像レンズ111sで捉えられた被写体からの光はサブイメージセンサ113に供給され、このサブイメージセンサ113の撮像面に被写体像が結像される。また、撮像レンズ111mで捉えられた被写体からの光はメインイメージセンサ114に供給され、このメインイメージセンサ114の撮像面に被写体像が結像される。このカメラシステム100Aにおけるその他は、図1に示すカメラシステム100と同様に構成されている。
【0069】
また、本技術は、以下のような構成を取ることもできる。
(1)第1の画素数の第1の画像データを出力する第1のイメージセンサと、
上記第1の画素数より多い第2の画素数の第2の画像データを出力する第2のイメージセンサと、
上記第1のイメージセンサから出力される上記第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
撮像装置。
(2)第1の動作モードおよび第2の動作モードを有し、
上記第1の動作モードでは、上記第2のイメージセンサから出力される上記第2の画像データを出力し、
上記第2の動作モードでは、上記加重加算部で得られる上記第5の画像データを出力する
前記(1)に記載の撮像装置。
(3)上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第1の画素数の第6の画像データを生成する間引き処理部をさらに備え、
上記類似度演算部は、
上記第1のイメージセンサから出力される上記第1の画像データおよび上記間引き処理部で生成される上記第6の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似度を求める
前記(1)または(2)に記載の撮像装置。
(4)上記類似度演算部は、
上記第1の画像データおよび上記第6の画像データに基づいて画像全体の動きベクトルを求め、
上記求められた動きベクトルに基づいて、上記第1の画像データの所定領域毎の画像データに対応した上記第6の画像データの類似領域の画像データを求め、
上記第1の画像データの所定領域毎の画像データと、対応する上記第6の画像データの類似領域の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似領域との間の類似度を求める
前記(3)に記載の撮像装置。
(5)上記第1のイメージセンサおよび上記第2のイメージセンサは、光学系が同一とされている
前記(1)から(4)のいずれかに記載の撮像装置。
(6)第1のイメージセンサで得られる第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、第2のイメージセンサで得られる上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換ステップと、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算ステップと、
上記画素数変換ステップで生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算ステップで求められた類似度に応じて加重加算し、第5の画像データを得る加重加算ステップとを備える
撮像方法。
(7)第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
画像処理装置。
【符号の説明】
【0070】
100,100A・・・カメラシステム
110・・・撮像部
111,111s,111m・・・撮像レンズ
112・・・半透過ミラー
113・・・サブイメージセンサ(第1のイメージセンサ)
114・・・メインイメージセンサ(第2のイメージセンサ)
120・・・拡大処理部
130・・・縮小処理部
140・・・類似領域加重加算部
150・・・セレクタ
160・・・間引き処理部
170・・・類似度演算部
【特許請求の範囲】
【請求項1】
第1の画素数の第1の画像データを出力する第1のイメージセンサと、
上記第1の画素数より多い第2の画素数の第2の画像データを出力する第2のイメージセンサと、
上記第1のイメージセンサから出力される上記第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
撮像装置。
【請求項2】
第1の動作モードおよび第2の動作モードを有し、
上記第1の動作モードでは、上記第2のイメージセンサから出力される上記第2の画像データを出力し、
上記第2の動作モードでは、上記加重加算部で得られる上記第5の画像データを出力する
請求項1に記載の撮像装置。
【請求項3】
上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第1の画素数の第6の画像データを生成する間引き処理部をさらに備え、
上記類似度演算部は、
上記第1のイメージセンサから出力される上記第1の画像データおよび上記間引き処理部で生成される上記第6の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似度を求める
請求項1に記載の撮像装置。
【請求項4】
上記類似度演算部は、
上記第1の画像データおよび上記第6の画像データに基づいて画像全体の動きベクトルを求め、
上記求められた動きベクトルに基づいて、上記第1の画像データの所定領域毎の画像データに対応した上記第6の画像データの類似領域の画像データを求め、
上記第1の画像データの所定領域毎の画像データと、対応する上記第6の画像データの類似領域の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似領域との間の類似度を求める
請求項3に記載の撮像装置。
【請求項5】
上記第1のイメージセンサおよび上記第2のイメージセンサは、光学系が同一とされている
請求項1に記載の撮像装置。
【請求項6】
第1のイメージセンサで得られる第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、第2のイメージセンサで得られる上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換ステップと、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算ステップと、
上記画素数変換ステップで生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算ステップで求められた類似度に応じて加重加算し、第5の画像データを得る加重加算ステップとを備える
撮像方法。
【請求項7】
第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
画像処理装置。
【請求項1】
第1の画素数の第1の画像データを出力する第1のイメージセンサと、
上記第1の画素数より多い第2の画素数の第2の画像データを出力する第2のイメージセンサと、
上記第1のイメージセンサから出力される上記第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
撮像装置。
【請求項2】
第1の動作モードおよび第2の動作モードを有し、
上記第1の動作モードでは、上記第2のイメージセンサから出力される上記第2の画像データを出力し、
上記第2の動作モードでは、上記加重加算部で得られる上記第5の画像データを出力する
請求項1に記載の撮像装置。
【請求項3】
上記第2のイメージセンサから出力される上記第2の画像データに基づいて上記第1の画素数の第6の画像データを生成する間引き処理部をさらに備え、
上記類似度演算部は、
上記第1のイメージセンサから出力される上記第1の画像データおよび上記間引き処理部で生成される上記第6の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似度を求める
請求項1に記載の撮像装置。
【請求項4】
上記類似度演算部は、
上記第1の画像データおよび上記第6の画像データに基づいて画像全体の動きベクトルを求め、
上記求められた動きベクトルに基づいて、上記第1の画像データの所定領域毎の画像データに対応した上記第6の画像データの類似領域の画像データを求め、
上記第1の画像データの所定領域毎の画像データと、対応する上記第6の画像データの類似領域の画像データに基づいて、上記第1の画像データの各フレームで、該第1の画像データによる画像の所定領域毎に、上記第2の画像データによる画像の類似領域との間の類似度を求める
請求項3に記載の撮像装置。
【請求項5】
上記第1のイメージセンサおよび上記第2のイメージセンサは、光学系が同一とされている
請求項1に記載の撮像装置。
【請求項6】
第1のイメージセンサで得られる第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、第2のイメージセンサで得られる上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換ステップと、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算ステップと、
上記画素数変換ステップで生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算ステップで求められた類似度に応じて加重加算し、第5の画像データを得る加重加算ステップとを備える
撮像方法。
【請求項7】
第1の画素数の第1の画像データに基づいて第3の画素数の第3の画像データを生成し、上記第1の画素数より多い第2の画素数の第2の画像データに基づいて上記第3の画素数の第4の画像データを生成する画素数変換部と、
上記第1の画像データおよび上記第2の画像データに基づいて、上記第1の画像データと上記第2の画像データによる画像の類似度を求める類似度演算部と、
上記画素数変換部で生成された上記第3の画像データに対して、上記第4の画像データの類似領域の画像データを、上記類似度演算部で求められた類似度に応じて加重加算し、第5の画像データを得る加重加算部とを備える
画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2012−253531(P2012−253531A)
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願番号】特願2011−124055(P2011−124055)
【出願日】平成23年6月2日(2011.6.2)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願日】平成23年6月2日(2011.6.2)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]