画像処理装置
【課題】回路の変更を最小限に抑えつつ、ハニカム配列の撮像素子によって取得されたRAWデータに対応可能な画像処理装置を得る。
【解決手段】色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれる。演算式においては、各セルの信号値をパラメータとして設定可能である。色変換部21は、第1の画素を処理する場合には、第1のパラメータを設定し、第2の画素を処理する場合には、演算式内における各色のセルの信号値の位置が、第1の画素に関するそれと等しくなるような、第2のパラメータを設定する。
【解決手段】色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれる。演算式においては、各セルの信号値をパラメータとして設定可能である。色変換部21は、第1の画素を処理する場合には、第1のパラメータを設定し、第2の画素を処理する場合には、演算式内における各色のセルの信号値の位置が、第1の画素に関するそれと等しくなるような、第2のパラメータを設定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置に関し、特に、HD Photoにおけるエンコーダ及びデコーダに関する。
【背景技術】
【0002】
近年、JPEGよりも高画質で、JPEG2000よりも回路構成及び演算処理が簡素化された静止画ファイルフォーマットとして、マイクロソフト社よりHD Photoが提案されている。
【0003】
HD Photoにおけるエンコーダは、所定の周波数変換処理(PCT)を実行する周波数変換部と、ブロック歪みを軽減するための所定のプレフィルタ処理を実行するプレフィルタとを備えて構成されている。周波数変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数変換処理を実行する。プレフィルタは、周波数変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前にプレフィルタ処理を実行する。但し、プレフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0004】
また、HD Photoにおけるデコーダは、上記の周波数変換処理に対応する周波数逆変換処理を実行する周波数逆変換部と、上記のプレフィルタ処理に対応するポストフィルタ処理を実行するポストフィルタとを備えて構成されている。周波数逆変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数逆変換処理を実行する。ポストフィルタは、周波数逆変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後にポストフィルタ処理を実行する。但し、上記と同様に、ポストフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0005】
なお、HD Photoの詳細については、例えば下記非特許文献1に開示されている。また、HD Photoに関連するJPEG XRの詳細については、例えば下記非特許文献2に開示されている。
【0006】
【特許文献1】特開2005−333251号公報
【非特許文献1】"HD Photo -Photographic Still Image File Format", [online], 2006年11月7日, Microsoft Corporation, [2007年10月10日検索], インターネット<URL: http://www.microsoft.com/whdc/xps/hdphotodpk.mspx>
【非特許文献2】"Coding of Still Pictures -JBIG JPEG", [online], 19 December 2007, ISO/IEC JTC 1/SC 29/WG1 N 4392, [2008年3月4日検索], インターネット<URL: http://www.itscj.ipsj.or.jp/sc29/open/29view/29n9026t.doc>
【発明の開示】
【発明が解決しようとする課題】
【0007】
HD Photoにおけるエンコーダは、Bayer配列の撮像素子によって取得されたRAWデータには対応しているが、スーパーCCDハニカム(登録商標)のような、ハニカム配列の撮像素子によって取得されたRAWデータには対応していない。
【0008】
本発明はかかる事情に鑑みて成されたものであり、回路の変更を最小限に抑えつつ、ハニカム配列の撮像素子によって取得されたRAWデータに対応可能な画像処理装置を得ることを目的とする。
【課題を解決するための手段】
【0009】
本発明の第1の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を、所定の演算式に基づいて第2の色空間の信号に変換する色変換部を備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、前記演算式においては、各セルの信号値をパラメータとして設定可能であり、前記色変換部は、前記第1の画素を処理する場合には、第1のパラメータを設定し、前記第2の画素を処理する場合には、前記演算式内における各色のセルの信号値の位置が、前記第1の画素に関するそれと等しくなるような、第2のパラメータを設定することを特徴とするものである。
【0010】
第1の態様に係る画像処理装置によれば、演算式におけるパラメータの設定を変更するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。
【0011】
本発明の第2の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、前記第1の色空間の信号が前記色変換部に入力される前に、前記第1の色空間の信号を並び替える、並び替え処理部とを備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、前記並び替え処理部は、前記色変換部の処理対象が前記第1の画素である場合には、並び替え処理を実行せず、前記色変換部の処理対象が前記第2の画素である場合には、画素内における各色のセルの信号値の位置が前記第1の画素に関するそれと等しくなるように、並び替え処理を実行することを特徴とするものである。
【0012】
第2の態様に係る画像処理装置によれば、画素内における各色のセルの信号値の位置を並び替えるという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。
【0013】
本発明の第3の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、前記色変換部の前段に配置された選択部とを備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、前記色変換部は、第1の演算式に基づいて色変換処理を実行する第1の変換処理部と、各色のセルの信号値の位置が、等価的に前記第1の演算式におけるそれと等しくなるような、第2の演算式に基づいて、色変換処理を実行する第2の変換処理部とを有し、前記選択部は、前記色変換部の処理対象が前記第1の画素である場合には、前記第1の変換処理部を選択し、前記色変換部の処理対象が前記第2の画素である場合には、前記第2の変換処理部を選択することを特徴とするものである。
【0014】
第3の態様に係る画像処理装置によれば、色変換部内に第1の変換処理部及び第2の変換処理部を設け、処理対象に応じて一方を選択するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。
【0015】
本発明の第4の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部を備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部は、画素内における各色のセルの配置が単一の配置パターンとなるように画素を規定することを特徴とするものである。
【0016】
第4の態様に係る画像処理装置によれば、画素内における各色のセルの配置が単一の配置パターンとなるように画素を規定することにより、全ての画素において、各色のセルの配置パターンが同一となる。従って、パラメータの設定変更や、信号値の位置の並び替え等の処理を行うことなく、全ての画素に関して適切な色変換処理を実行することができる。
【0017】
本発明の第5の態様に係る画像処理装置は、第4の態様に係る画像処理装置において特に、画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、前記補完処理部は、前記不足のセルの近傍に位置するセルに関する信号値を用いた演算によって、前記不足のセルに関する信号値を補完することを特徴とするものである。
【0018】
第5の態様に係る画像処理装置によれば、演算によって高精度の補完を行うことにより、圧縮効率を上げることができる。
【0019】
本発明の第6の態様に係る画像処理装置は、第4の態様に係る画像処理装置において特に、画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、前記補完処理部は、所定値を用いて、前記不足のセルに関する信号値を補完することを特徴とするものである。
【0020】
第6の態様に係る画像処理装置によれば、演算を行わず、所定値を用いて補完を行うことにより、処理負荷の軽減を図ることができる。
【0021】
本発明の第7の態様に係る画像処理装置は、第1〜第6のいずれか一つの態様に係る画像処理装置において特に、前記色変換部からは、画素の規定に関する情報と、画素内における各色のセルの位置に関する情報とがヘッダ部に含まれた、第2の色空間の信号が出力されることを特徴とするものである。
【0022】
第7の態様に係る画像処理装置によれば、画素の規定に関する情報と、画素内における各色のセルの位置に関する情報とが、第2の色空間の信号のヘッダ部に含まれている。従って、第2の色空間の信号を第1の色空間の信号に逆変換する色逆変換部が、これらの情報を参照することによって、原画像を適切に再現することが可能となる。
【発明の効果】
【0023】
本発明によれば、回路の変更を最小限に抑えつつ、ハニカム配列の撮像素子によって取得されたRAWデータに対応可能な画像処理装置を得ることができる。
【発明を実施するための最良の形態】
【0024】
以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、異なる図面において同一の符号を付した要素は、同一又は相応する要素を示すものとする。以下では、本発明に係る画像処理装置をHD Photoにおけるエンコーダ及びデコーダに適用する例について説明する。
【0025】
<第1の実施の形態>
図1は、本発明の第1の実施の形態に係る画像処理装置1の構成を示すブロック図である。画像処理装置1は、エンコーダ2とデコーダ3とを備えて構成されている。エンコーダ2は、色変換部21、プレフィルタ22、周波数変換部23、量子化部24、予測部25、及び符号化部26を有している。デコーダ3は、色逆変換部31、ポストフィルタ32、周波数逆変換部33、逆量子化部34、逆予測部35、及び復号化部36を有している。
【0026】
符号化部26及び復号化部36は、メモリ4に接続されている。色変換部21はバッファメモリ11に接続されており、バッファメモリ11は撮像素子10に接続されている。但し、バッファメモリ11とメモリ4とを兼用しても良い。撮像素子10は、スーパーCCDハニカム(登録商標)等の、ハニカム配列のカラーフィルタが配置された撮像素子である。撮像素子10によって取得されたRAW画像の信号S1は、バッファメモリ11に入力され、一時的に保存される。
【0027】
図2は、ハニカム配列の撮像素子10によって取得されたRAW画像を示す図である。図2には、RAW画像の左上隅のみを抜き出して示している。図2に示した例では、偶数ラインにおいては、赤色(R)のカラーフィルタが配置された赤色セルと、青色(B)のカラーフィルタが配置された青色セルとが、交互に配列されている。また、奇数ラインにおいては、緑色(G)のカラーフィルタが配置された緑色セルが配列されている。奇数ラインは、偶数ラインに対して、セルピッチの1/2だけずれて配置されている。
【0028】
本実施の形態に係る画像処理装置1では、ハニカム配列における各緑色セル(G)を、Bayer配列における、赤色セルに隣接する緑色セル(Gr)と、青色セルに隣接する緑色セル(Gb)との一方に対応付ける。
【0029】
図3は、図2と同様のRAW画像を示す図である。左上の赤色セル(R)と右下の赤色セル(R)とによって挟まれる緑色セル(G)は、Bayer配列における緑色セル(Gr)に対応付けられており、左上の青色セル(B)と右下の青色セル(B)とによって挟まれる緑色セル(G)は、Bayer配列における緑色セル(Gb)に対応付けられている。これにより、RGrGbB色空間で表されたRAW画像が得られる。なお、上記とは逆に、右上の赤色セル(R)と左下の赤色セル(R)とによって挟まれる緑色セル(G)を緑色セル(Gr)に対応付け、右上の青色セル(B)と左下の青色セル(B)とによって挟まれる緑色セル(G)を緑色セル(Gb)に対応付けても良い。
【0030】
図1を参照して、色変換部21には、バッファメモリ11から読み出された信号S1が入力される。色変換部21は、RGrGbB色空間の信号S1を、YUVK色空間の画素信号S2に変換して出力する。色変換部21における色変換処理の詳細については後述する。
【0031】
プレフィルタ22には、色変換部21から画素信号S2が入力される。プレフィルタ22は、画素信号S2に対して所定のプレフィルタ処理を選択的に実行し、画素信号S3を出力する。
【0032】
周波数変換部23には、プレフィルタ22から画素信号S3が入力される。周波数変換部23は、画素信号S3に対して所定の周波数変換処理(PCT:HD Photo Core Transform)を実行し、周波数変換処理後の周波数データS4を出力する。HD Photoでは、周波数データS4に、ハイパス成分、ローパス成分、及び直流成分が含まれる。
【0033】
量子化部24には、周波数変換部23から周波数データS4が入力される。量子化部24は、周波数データS4を量子化し、量子化後の周波数データS5を出力する。
【0034】
予測部25には、量子化部24から周波数データS5が入力される。予測部25は、量子化部24から入力された周波数データS5の値と、過去に処理した特定の周波数データの値(予測値)との差分値を求め、周波数差分データS6として出力する。
【0035】
符号化部26には、予測部25から周波数差分データS6が入力される。符号化部26は、周波数差分データS6に対してエントロピー符号化を実行し、符号化データS7を出力する。符号化部26から出力された符号化データS7は、メモリ4に記憶される。なお、厳密には、HD Photoにおいては、周波数差分データS6のうち、上位ビットに相当するNormal Bitに対してのみエントロピー符号化が実行され、下位ビットに相当するFlex Bitに関しては、エントロピー符号化が実行されることなく、メモリ4に記憶される。
【0036】
復号化部36には、メモリ4から符号化データS7が入力される。復号化部36は、符号化データS7に対してエントロピー復号化を実行し、上記の周波数差分データS6に相当する周波数差分データS8を出力する。
【0037】
逆予測部35には、復号化部36から周波数差分データS8が入力される。逆予測部35は、周波数差分データS8に予測値を加算することにより、上記の周波数データS5に相当する周波数データS9を出力する。
【0038】
逆量子化部34には、逆予測部35から周波数データS9が入力される。逆量子化部34は、周波数データS9を逆量子化し、上記の周波数データS4に相当する周波数データS10を出力する。
【0039】
周波数逆変換部33には、逆量子化部34から周波数データS10が入力される。周波数逆変換部33は、周波数データS10に対して、上記の周波数変換処理に対応する周波数逆変換処理を実行し、上記の画素信号S3に相当する画素信号S11を出力する。
【0040】
ポストフィルタ32には、周波数逆変換部33から、画素信号S11が入力される。ポストフィルタ32は、画素信号S11に対して、上記のプレフィルタ処理に対応するポストフィルタ処理を選択的に実行し、上記の画素信号S2に相当する画素信号S12を出力する。
【0041】
色逆変換部31には、ポストフィルタ32から画素信号S12が入力される。色逆変換部31は、YUVK色空間の画素信号S12を、RGrGbB色空間の画素信号S13に変換し、外部の表示装置等に向けて出力する。
【0042】
以下、色変換部21における色変換処理について説明する。
【0043】
まず、色変換部21は、図3に示したRAW画像内に、色変換処理の処理単位となる画素を規定する。一つの画素内には、赤色セル(R)、青色セル(B)、緑色セル(Gr)、及び緑色セル(Gb)を、それぞれ一つずつ含める。
【0044】
図4は、画素の規定の第1の例を示す図である。各画素には、同一のセル行に属する赤色セル(R)及び青色セル(B)と、その下のセル行に属する緑色セル(Gr)及び緑色セル(Gb)とが含まれている。その結果、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22においては、左上が赤色セル(R)、右上が青色セル(B)、左下が緑色セル(Gr)、右下が緑色セル(Gb)となり、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32においては、左上が青色セル(B)、右上が赤色セル(R)、左下が緑色セル(Gb)、右下が緑色セル(Gr)となる。
【0045】
色変換部21は、左上の画素から順に、画素単位で色変換処理を実行する。つまり、画素G00→G01→G02→・・・→G10→G11→G12→・・・→G20→G21→G22→・・・→G30→G31→G32→・・・の順に、色変換処理を実行する。
【0046】
図5は、色変換部21の構成を概略的に示す図である。色変換部21は、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13とを有している。4個のレジスタは、左上がレジスタF1、右上がレジスタF2、左下がレジスタF3、右下がレジスタF4である。
【0047】
左上のレジスタF1には、画素内の左上のセルに関する信号値が入力され、右上のレジスタF2には、画素内の右上のセルに関する信号値が入力され、左下のレジスタF3には、画素内の左下のセルに関する信号値が入力され、右下のレジスタF4には、画素内の右下のセルに関する信号値が入力される。
【0048】
従って、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22を処理する場合には、レジスタF1には赤色セル(R)の信号値が入力され、レジスタF2には青色セル(B)の信号値が入力され、レジスタF3には緑色セル(Gr)の信号値が入力され、レジスタF4には緑色セル(Gb)の信号値が入力される。また、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32を処理する場合には、レジスタF1には青色セル(B)の信号値が入力され、レジスタF2には赤色セル(R)の信号値が入力され、レジスタF3には緑色セル(Gb)の信号値が入力され、レジスタF4には緑色セル(Gr)の信号値が入力される。
【0049】
図6は、演算部13が演算によって色変換処理を実行するための演算式を示す図である。図6に示すように、演算式は、パラメータP1〜P4を用いて記述されている。パラメータP1〜P4は、図5に示したレジスタF1〜F4に設定される。色変換部21は、図6に示した演算式に基づいて、K信号、V信号、U信号、及びY信号の各画素値を算出する。なお、図6に示した変換式において、“floor(x)”は、x以下の最大の整数を意味し、“ceiling(x)”は、x以上の最小の整数を意味する。また、“α”は、画素値の階調数の1/2を意味する。例えば、画素値が8bitで表される場合は、256階調であるため、“α”は128となる。
【0050】
図7は、レジスタF1〜F4へのパラメータP1〜P4の設定例を示す図である。色変換部21は、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22を処理する場合には、図7の(A)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP4,P3,P1,P2を設定する。また、色変換部21は、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32を処理する場合には、図7の(B)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP3,P4,P2,P1を設定する。
【0051】
図8は、HD Photoにおける、RGrGbB色空間からYUVK色空間への変換式を示す図である。レジスタF1〜F4へのパラメータP1〜P4の設定を図7の(A)及び(B)のように規定することにより、全ての画素G00〜G02,G10〜G12,G20〜G22,G30〜G32に関して、図8に示した変換式が実現される。
【0052】
図9は、画素の規定の第2の例を示す図である。各画素には、同一のセル列に属する赤色セル(R)及び青色セル(B)と、その隣のセル列に属する緑色セル(Gr)及び緑色セル(Gb)とが含まれている。その結果、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14においては、左上が赤色セル(R)、右上が緑色セル(Gr)、左下が青色セル(B)、右下が緑色セル(Gb)となり、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15においては、左上が青色セル(B)、右上が緑色セル(Gb)、左下が赤色セル(R)、右下が緑色セル(Gr)となる。
【0053】
色変換部21は、左上の画素から順に、画素単位で色変換処理を実行する。つまり、画素G00→G01→G02→G03→G04→G05→・・・→G10→G11→G12→G13→G14→G15→・・・の順に、色変換処理を実行する。
【0054】
図10は、レジスタF1〜F4へのパラメータP1〜P4の設定例を示す図である。色変換部21は、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14を処理する場合には、図10の(A)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP4,P1,P3,P2を設定する。また、色変換部21は、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15を処理する場合には、図10の(B)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP3,P2,P4,P1を設定する。レジスタF1〜F4へのパラメータP1〜P4の設定を図10の(A)及び(B)のように規定することにより、全ての画素G00〜G05,G10〜G15に関して、図8に示した変換式が実現される。
【0055】
本実施の形態において、色変換部21は、ハニカム配列における複数色のセルを含む画素を、RAW画像内に規定して、画素単位で色変換処理を実行する。ここで、色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素(例えば図4の画素G00)と、第1の配置パターンとは異なる第2の配置パターンである第2の画素(例えば図4の画素G10)とが含まれる。また、図6に示したように、演算式においては、各セルの信号値をパラメータP1〜P4として設定可能である。そして、色変換部21は、第1の画素を処理する場合には、第1のパラメータ(例えば図7の(A))を設定する。一方、第2の画素を処理する場合には、演算式内における各色のセルの信号値の位置が、第1の画素に関するそれと等しくなるような、第2のパラメータ(例えば図7の(B))を設定する。
【0056】
従って、本実施の形態によれば、演算式におけるパラメータP1〜P4の設定を変更するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0057】
<第2の実施の形態>
図11は、本発明の第2の実施の形態に係る画像処理装置1の構成の一部を示すブロック図である。バッファメモリ11と色変換部21との間に、並び替え処理部15が接続されている。並び替え処理部15は、バッファメモリ11から読み出した信号S1を選択的に並び替えて、信号S1aとして色変換部21に入力する。
【0058】
図12は、色変換部21が有するレジスタF1〜F4の第1の例を示す図である。この例では、レジスタF1には赤色セル(R)の信号値が入力され、レジスタF2には青色セル(B)の信号値が入力され、レジスタF3には緑色セル(Gr)の信号値が入力され、レジスタF4には緑色セル(Gb)の信号値が入力される。色変換部21が有する演算部13(図12には示さない)は、図8に示した演算式に基づいて、RGrGbB色空間からYUVK色空間への色変換処理を実行する。
【0059】
図4に示した例では、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22においては、左上が赤色セル(R)、右上が青色セル(B)、左下が緑色セル(Gr)、右下が緑色セル(Gb)となる。従って、画素内における各色の配置パターンと、図12に示したレジスタF1〜F4における各色の配置パターンとが一致するため、並び替え処理部15は、並び替え処理を実行することなく、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0060】
一方、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32においては、左上が青色セル(B)、右上が赤色セル(R)、左下が緑色セル(Gb)、右下が緑色セル(Gr)となる。従って、図12に示したレジスタF1〜F4における各色の配置パターンは、画素内における各色の配置パターンに対して左右が逆転している。そのため、並び替え処理部15は、画素内における各色のセルの信号値を左右反転した後に、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0061】
図13は、色変換部21が有するレジスタF1〜F4の第2の例を示す図である。この例では、レジスタF1には赤色セル(R)の信号値が入力され、レジスタF2には緑色セル(Gr)の信号値が入力され、レジスタF3には青色セル(B)の信号値が入力され、レジスタF4には緑色セル(Gb)の信号値が入力される。色変換部21が有する演算部13(図12には示さない)は、図8に示した演算式に基づいて、RGrGbB色空間からYUVK色空間への色変換処理を実行する。
【0062】
図9に示した例では、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14においては、左上が赤色セル(R)、右上が緑色セル(Gr)、左下が青色セル(B)、右下が緑色セル(Gb)となる。従って、画素内における各色の配置パターンと、図13に示したレジスタF1〜F4における各色の配置パターンとが一致するため、並び替え処理部15は、並び替え処理を実行することなく、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0063】
一方、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15においては、左上が青色セル(B)、右上が緑色セル(Gb)、左下が赤色セル(R)、右下が緑色セル(Gr)となる。従って、図13に示したレジスタF1〜F4における各色の配置パターンは、画素内における各色の配置パターンに対して上下が逆転している。そのため、並び替え処理部15は、画素内における各色のセルの信号値を上下反転した後に、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0064】
図14は、第2の実施の形態の変形例を示す図である。図14に示すように、並び替え処理部15は、撮像素子10とバッファメモリ11との間に接続されていても良い。
【0065】
本実施の形態に係る画像処理装置1は、色変換部21よりも前段に配置された並び替え処理部15を備える。また、色変換部21は、ハニカム配列における複数色のセルを含む画素を、RAW画像内に規定して、画素単位で色変換処理を実行する。ここで、色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素(例えば図4の画素G00)と、第1の配置パターンとは異なる第2の配置パターンである第2の画素(例えば図4の画素G10)とが含まる。そして、並び替え処理部15は、色変換部21の処理対象が第1の画素である場合には、並び替え処理を実行せず、色変換部21の処理対象が第2の画素である場合には、画素内における各色のセルの信号値の位置が第1の画素に関するそれと等しくなるように、並び替え処理を実行する。
【0066】
従って、本実施の形態によれば、画素内における各色のセルの信号値の位置を並び替えるという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0067】
<第3の実施の形態>
図15は、本発明の第3の実施の形態に係る画像処理装置1の構成の一部を示すブロック図である。色変換部21の前段に、選択部40が接続されている。また、色変換部21は、変換処理部41A,41Bを有している。選択部40は、変換処理部41A,41Bの一方を選択して、信号S1を入力する。
【0068】
図16は、変換処理部41Aの構成の第1の例を概略的に示す図である。図16の(A)に示すように、変換処理部41Aは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Aとを有している。図16の(B)には、演算部13Aが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF3の値Q3からレジスタF4の値Q4を減算することによって求まり、V信号の値は、レジスタF2の値Q2からレジスタF1の値Q1を減算することによって求まる。
【0069】
図17は、変換処理部41Bの構成の第1の例を概略的に示す図である。図17の(A)に示すように、変換処理部41Bは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Bとを有している。図17の(B)には、演算部13Bが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF4の値Q4からレジスタF3の値Q3を減算することによって求まり、V信号の値は、レジスタF1の値Q1からレジスタF2の値Q2を減算することによって求まる。
【0070】
図4に示した例において、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22を処理する場合には、選択部40は変換処理部41Aを選択する。これにより、レジスタF1の値Q1は赤色セル(R)の信号値となり、レジスタF2の値Q2は青色セル(B)の信号値となり、レジスタF3の値Q3は緑色セル(Gr)の信号値となり、レジスタF4の値Q4は緑色セル(Gb)の信号値となる。その結果、図16の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0071】
一方、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32を処理する場合には、選択部40は変換処理部41Bを選択する。これにより、レジスタF1の値Q1は青色セル(B)の信号値となり、レジスタF2の値Q2は赤色セル(R)の信号値となり、レジスタF3の値Q3は緑色セル(Gb)の信号値となり、レジスタF4の値Q4は緑色セル(Gr)の信号値となる。その結果、図17の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0072】
図18は、変換処理部41Aの構成の第2の例を概略的に示す図である。図18の(A)に示すように、変換処理部41Aは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Aとを有している。図18の(B)には、演算部13Aが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF2の値Q2からレジスタF4の値Q4を減算することによって求まり、V信号の値は、レジスタF3の値Q3からレジスタF1の値Q1を減算することによって求まる。
【0073】
図19は、変換処理部41Bの構成の第2の例を概略的に示す図である。図19の(A)に示すように、変換処理部41Bは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Bとを有している。図19の(B)には、演算部13Bが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF4の値Q4からレジスタF2の値Q2を減算することによって求まり、V信号の値は、レジスタF1の値Q1からレジスタF3の値Q3を減算することによって求まる。
【0074】
図9に示した例において、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14を処理する場合には、選択部40は変換処理部41Aを選択する。これにより、レジスタF1の値Q1は赤色セル(R)の信号値となり、レジスタF2の値Q2は緑色セル(Gr)の信号値となり、レジスタF3の値Q3は青色セル(B)の信号値となり、レジスタF4の値Q4は緑色セル(Gb)の信号値となる。その結果、図18の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0075】
一方、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15を処理する場合には、選択部40は変換処理部41Bを選択する。これにより、レジスタF1の値Q1は青色セル(B)の信号値となり、レジスタF2の値Q2は緑色セル(Gb)の信号値となり、レジスタF3の値Q3は赤色セル(R)の信号値となり、レジスタF4の値Q4は緑色セル(Gr)の信号値となる。その結果、図19の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0076】
本実施の形態に係る画像処理装置1は、色変換部21の前段に配置された選択部40を備える。また、色変換部21は、ハニカム配列における複数色のセルを含む画素を、RAW画像内に規定して、画素単位で色変換処理を実行する。ここで、色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素(例えば図4の画素G00)と、第1の配置パターンとは異なる第2の配置パターンである第2の画素(例えば図4の画素G10)とが含まれる。また、色変換部21は、第1の演算式(例えば図16の(B))に基づいて色変換処理を実行する変換処理部41Aと、第2の演算式(例えば図17の(B))に基づいて色変換処理を実行する変換処理部41Bとを有している。ここで、第2の演算式は、各色のセルの信号値の位置が、等価的に第1の演算式におけるそれと等しくなるような演算式である。そして、選択部40は、色変換部21の処理対象が第1の画素である場合には、変換処理部41Aを選択し、色変換部21の処理対象が第2の画素である場合には、変換処理部41Bを選択する。
【0077】
従って、本実施の形態によれば、色変換部21内に変換処理部41A及び変換処理部41Bを設け、処理対象に応じて一方を選択するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0078】
なお、変換処理部41Aと変換処理部41Bとは、一部の要素(例えば演算部13A,13B)を共有する構成とすることもできる。
【0079】
<第4の実施の形態>
図20は、画素の規定の第1の例を示す図である。各画素には、あるセル行に属する青色セル(B)と、その下のセル行に属する緑色セル(Gr)及び緑色セル(Gb)と、その下のセル行に属する赤色セル(R)とが含まれている。その結果、各画素において、上が青色セル(B)、左が緑色セル(Gr)、右が緑色セル(Gb)、下が赤色セル(R)となる。
【0080】
図21は、本発明の第4の実施の形態に係る画像処理装置1の構成の一部を示すブロック図である。バッファメモリ11と色変換部21との間に、補完処理部50が接続されている。補完処理部50は、画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完して、補完後の信号S1bを色変換部21に入力する。
【0081】
補完処理の第1の例として、補完処理部50は、不足のセルの近傍に位置するセルに関する信号値を用いた演算によって、不足のセルに関する信号値を補完する。
【0082】
図20を参照して、例えば、画素G20に関しては、緑色セル(Gr)に関する信号値が不足している。そこで、補完処理部50は、画素G20内の緑色セル(Gb)に関する信号値を、画素G20内の緑色セル(Gr)に関する信号値として補完する。
【0083】
また、例えば、画素G01に関しては、青色セル(B)に関する信号値、緑色セル(Gr)に関する信号値、及び緑色セル(Gb)に関する信号値が不足している。そこで、補完処理部50は、画素G10内の青色セル(B)に関する信号値と、画素G11内の青色セル(B)に関する信号値との平均値を算出し、その値を、画素G01内の青色セル(B)に関する信号値として補完する。また、補完処理部50は、画素G10内の緑色セル(Gb)に関する信号値を、画素G01内の緑色セル(Gr)に関する信号値として補完し、画素G11内の緑色セル(Gr)に関する信号値を、画素G01内の緑色セル(Gb)に関する信号値として補完する。
【0084】
また、例えば、画素G00に関しては、青色セル(B)に関する信号値、緑色セル(Gr)に関する信号値、及び緑色セル(Gb)に関する信号値が不足している。そこで、補完処理部50は、画素G10内の青色セル(B)に関する信号値を、画素G00内の青色セル(B)に関する信号値として補完する。また、補完処理部50は、画素G10内の緑色セル(Gr)に関する信号値を、画素G00内の緑色セル(Gr)及び緑色セル(Gb)に関する各信号値として補完する。
【0085】
補完処理の第2の例として、補完処理部50は、所定値を用いて、不足のセルに関する信号値を補完する。
【0086】
例えば、信号値が256階調で表される場合には、中間の第128階調の値を、全ての不足セルの信号値として補完する。
【0087】
また、例えば、各画素内の赤色セル(R)の信号値を、その画素内の全ての不足セルの信号値として補完する。
【0088】
図22は、画素の規定の第2の例を示す図である。各画素には、あるセル行に属する赤色セル(R)及び青色セル(B)と、その下のセル行に属する緑色セル(Gr)及び緑色セル(Gb)とが含まれている。その結果、各画素において、左上が赤色セル(R)、右上が青色セル(B)、左下が緑色セル(Gr)、右下が緑色セル(Gb)となる。不足セルの補完については、上記と同様である。
【0089】
図23は、画素の規定の第3の例を示す図である。各画素には、あるセル行に属する赤色セル(R)と、その下のセル行に属する緑色セル(Gr)と、その下のセル行に属する青色セル(B)と、その下のセル行に属する緑色セル(Gb)とが含まれている。その結果、各画素において、左上が赤色セル(R)、右上が緑色セル(Gr)、左下が青色セル(B)、右下が緑色セル(Gb)となる。不足セルの補完については、上記と同様である。
【0090】
本実施の形態に係る色変換部21は、画素内における各色のセルの配置が単一の配置パターンとなるように、RAW画像内に画素を規定する。従って、RAW画像内の全ての画素において、各色のセルの配置パターンが同一となる。従って、第1の実施の形態のようなパラメータの設定変更や、第2の実施の形態のような並び替え処理や、第3の実施の形態のような変換処理部41A,41Bの切り換え処理を行うことなく、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を、全ての画素に関して実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0091】
また、補完処理の第1の例によれば、演算によって高精度の補完を行うことにより、圧縮効率を上げることができる。
【0092】
また、補完処理の第2の例によれば、演算を行わず、所定値を用いて補完を行うことにより、処理負荷の軽減を図ることができる。
【0093】
<デコーダ3への情報の受け渡しについて>
図24は、色変換部21から出力される画素信号S2を示す図である。画素信号S2は、ヘッダ部Hとペイロード部Pとを有している。ヘッダ部Hには、色変換部21によるRAW画像内における画素の規定に関する情報、つまり、RAW画像内にどのようなパターン(切り出し方)で画素を規定したのかについての情報が、データD1として記述されている。また、ヘッダ部Hには、画素内における各色のセルの位置に関する情報、つまり、画素内のどの信号値がどの色に対応するのかについての情報が、データD2として記述されている。図1を参照して、色変換部21によって信号S2のヘッダ部Hに付加されたデータD1,D2は、信号S3〜S12に付随して、色逆変換部31に受け渡される。
【0094】
図25は、色逆変換部31が色逆変換処理を実行するための演算式を示す図である。色逆変換部31は、ポストフィルタ32から入力されたYUVK色空間の画素信号S12を、図25に示した演算式に基づいて、RGrGbB色空間の画素信号S13に変換する。また、色逆変換部31は、データD1,D2に基づいて、画素平面の適切な位置に適切な色を当てはめることにより、ハニカム配列のRAW画像を再現する。これにより、原画像を適切に再現することが可能となる。
【図面の簡単な説明】
【0095】
【図1】本発明の第1の実施の形態に係る画像処理装置の構成を示すブロック図である。
【図2】ハニカム配列の撮像素子によって取得されたRAW画像を示す図である。
【図3】図2と同様のRAW画像を示す図である。
【図4】画素の規定の第1の例を示す図である。
【図5】色変換部の構成を概略的に示す図である。
【図6】演算部が演算によって色変換処理を実行するための演算式を示す図である。
【図7】レジスタへのパラメータの設定例を示す図である。
【図8】HD Photoにおける、RGrGbB色空間からYUVK色空間への変換式を示す図である。
【図9】画素の規定の第2の例を示す図である。
【図10】レジスタへのパラメータの設定例を示す図である。
【図11】本発明の第2の実施の形態に係る画像処理装置の構成の一部を示すブロック図である。
【図12】色変換部が有するレジスタの第1の例を示す図である。
【図13】色変換部が有するレジスタの第2の例を示す図である。
【図14】第2の実施の形態の変形例を示す図である。
【図15】本発明の第3の実施の形態に係る画像処理装置の構成の一部を示すブロック図である。
【図16】変換処理部の構成の第1の例を概略的に示す図である。
【図17】変換処理部の構成の第1の例を概略的に示す図である。
【図18】変換処理部の構成の第2の例を概略的に示す図である。
【図19】変換処理部の構成の第2の例を概略的に示す図である。
【図20】画素の規定の第1の例を示す図である。
【図21】本発明の第4の実施の形態に係る画像処理装置の構成の一部を示すブロック図である。
【図22】画素の規定の第2の例を示す図である。
【図23】画素の規定の第3の例を示す図である。
【図24】色変換部から出力される画素信号を示す図である。
【図25】色逆変換部が色逆変換処理を実行するための演算式を示す図である。
【符号の説明】
【0096】
1 画像処理装置
2 エンコーダ
3 デコーダ
10 撮像素子
13,13A,13B 演算部
15 並び替え処理部
21 色変換部
31 色逆変換部
40 選択部
41A,41B 変換処理部
50 補完処理部
【技術分野】
【0001】
本発明は、画像処理装置に関し、特に、HD Photoにおけるエンコーダ及びデコーダに関する。
【背景技術】
【0002】
近年、JPEGよりも高画質で、JPEG2000よりも回路構成及び演算処理が簡素化された静止画ファイルフォーマットとして、マイクロソフト社よりHD Photoが提案されている。
【0003】
HD Photoにおけるエンコーダは、所定の周波数変換処理(PCT)を実行する周波数変換部と、ブロック歪みを軽減するための所定のプレフィルタ処理を実行するプレフィルタとを備えて構成されている。周波数変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数変換処理を実行する。プレフィルタは、周波数変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前にプレフィルタ処理を実行する。但し、プレフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0004】
また、HD Photoにおけるデコーダは、上記の周波数変換処理に対応する周波数逆変換処理を実行する周波数逆変換部と、上記のプレフィルタ処理に対応するポストフィルタ処理を実行するポストフィルタとを備えて構成されている。周波数逆変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数逆変換処理を実行する。ポストフィルタは、周波数逆変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後にポストフィルタ処理を実行する。但し、上記と同様に、ポストフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0005】
なお、HD Photoの詳細については、例えば下記非特許文献1に開示されている。また、HD Photoに関連するJPEG XRの詳細については、例えば下記非特許文献2に開示されている。
【0006】
【特許文献1】特開2005−333251号公報
【非特許文献1】"HD Photo -Photographic Still Image File Format", [online], 2006年11月7日, Microsoft Corporation, [2007年10月10日検索], インターネット<URL: http://www.microsoft.com/whdc/xps/hdphotodpk.mspx>
【非特許文献2】"Coding of Still Pictures -JBIG JPEG", [online], 19 December 2007, ISO/IEC JTC 1/SC 29/WG1 N 4392, [2008年3月4日検索], インターネット<URL: http://www.itscj.ipsj.or.jp/sc29/open/29view/29n9026t.doc>
【発明の開示】
【発明が解決しようとする課題】
【0007】
HD Photoにおけるエンコーダは、Bayer配列の撮像素子によって取得されたRAWデータには対応しているが、スーパーCCDハニカム(登録商標)のような、ハニカム配列の撮像素子によって取得されたRAWデータには対応していない。
【0008】
本発明はかかる事情に鑑みて成されたものであり、回路の変更を最小限に抑えつつ、ハニカム配列の撮像素子によって取得されたRAWデータに対応可能な画像処理装置を得ることを目的とする。
【課題を解決するための手段】
【0009】
本発明の第1の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を、所定の演算式に基づいて第2の色空間の信号に変換する色変換部を備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、前記演算式においては、各セルの信号値をパラメータとして設定可能であり、前記色変換部は、前記第1の画素を処理する場合には、第1のパラメータを設定し、前記第2の画素を処理する場合には、前記演算式内における各色のセルの信号値の位置が、前記第1の画素に関するそれと等しくなるような、第2のパラメータを設定することを特徴とするものである。
【0010】
第1の態様に係る画像処理装置によれば、演算式におけるパラメータの設定を変更するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。
【0011】
本発明の第2の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、前記第1の色空間の信号が前記色変換部に入力される前に、前記第1の色空間の信号を並び替える、並び替え処理部とを備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、前記並び替え処理部は、前記色変換部の処理対象が前記第1の画素である場合には、並び替え処理を実行せず、前記色変換部の処理対象が前記第2の画素である場合には、画素内における各色のセルの信号値の位置が前記第1の画素に関するそれと等しくなるように、並び替え処理を実行することを特徴とするものである。
【0012】
第2の態様に係る画像処理装置によれば、画素内における各色のセルの信号値の位置を並び替えるという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。
【0013】
本発明の第3の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、前記色変換部の前段に配置された選択部とを備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、前記色変換部は、第1の演算式に基づいて色変換処理を実行する第1の変換処理部と、各色のセルの信号値の位置が、等価的に前記第1の演算式におけるそれと等しくなるような、第2の演算式に基づいて、色変換処理を実行する第2の変換処理部とを有し、前記選択部は、前記色変換部の処理対象が前記第1の画素である場合には、前記第1の変換処理部を選択し、前記色変換部の処理対象が前記第2の画素である場合には、前記第2の変換処理部を選択することを特徴とするものである。
【0014】
第3の態様に係る画像処理装置によれば、色変換部内に第1の変換処理部及び第2の変換処理部を設け、処理対象に応じて一方を選択するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。
【0015】
本発明の第4の態様に係る画像処理装置は、ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部を備え、前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、前記色変換部は、画素内における各色のセルの配置が単一の配置パターンとなるように画素を規定することを特徴とするものである。
【0016】
第4の態様に係る画像処理装置によれば、画素内における各色のセルの配置が単一の配置パターンとなるように画素を規定することにより、全ての画素において、各色のセルの配置パターンが同一となる。従って、パラメータの設定変更や、信号値の位置の並び替え等の処理を行うことなく、全ての画素に関して適切な色変換処理を実行することができる。
【0017】
本発明の第5の態様に係る画像処理装置は、第4の態様に係る画像処理装置において特に、画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、前記補完処理部は、前記不足のセルの近傍に位置するセルに関する信号値を用いた演算によって、前記不足のセルに関する信号値を補完することを特徴とするものである。
【0018】
第5の態様に係る画像処理装置によれば、演算によって高精度の補完を行うことにより、圧縮効率を上げることができる。
【0019】
本発明の第6の態様に係る画像処理装置は、第4の態様に係る画像処理装置において特に、画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、前記補完処理部は、所定値を用いて、前記不足のセルに関する信号値を補完することを特徴とするものである。
【0020】
第6の態様に係る画像処理装置によれば、演算を行わず、所定値を用いて補完を行うことにより、処理負荷の軽減を図ることができる。
【0021】
本発明の第7の態様に係る画像処理装置は、第1〜第6のいずれか一つの態様に係る画像処理装置において特に、前記色変換部からは、画素の規定に関する情報と、画素内における各色のセルの位置に関する情報とがヘッダ部に含まれた、第2の色空間の信号が出力されることを特徴とするものである。
【0022】
第7の態様に係る画像処理装置によれば、画素の規定に関する情報と、画素内における各色のセルの位置に関する情報とが、第2の色空間の信号のヘッダ部に含まれている。従って、第2の色空間の信号を第1の色空間の信号に逆変換する色逆変換部が、これらの情報を参照することによって、原画像を適切に再現することが可能となる。
【発明の効果】
【0023】
本発明によれば、回路の変更を最小限に抑えつつ、ハニカム配列の撮像素子によって取得されたRAWデータに対応可能な画像処理装置を得ることができる。
【発明を実施するための最良の形態】
【0024】
以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、異なる図面において同一の符号を付した要素は、同一又は相応する要素を示すものとする。以下では、本発明に係る画像処理装置をHD Photoにおけるエンコーダ及びデコーダに適用する例について説明する。
【0025】
<第1の実施の形態>
図1は、本発明の第1の実施の形態に係る画像処理装置1の構成を示すブロック図である。画像処理装置1は、エンコーダ2とデコーダ3とを備えて構成されている。エンコーダ2は、色変換部21、プレフィルタ22、周波数変換部23、量子化部24、予測部25、及び符号化部26を有している。デコーダ3は、色逆変換部31、ポストフィルタ32、周波数逆変換部33、逆量子化部34、逆予測部35、及び復号化部36を有している。
【0026】
符号化部26及び復号化部36は、メモリ4に接続されている。色変換部21はバッファメモリ11に接続されており、バッファメモリ11は撮像素子10に接続されている。但し、バッファメモリ11とメモリ4とを兼用しても良い。撮像素子10は、スーパーCCDハニカム(登録商標)等の、ハニカム配列のカラーフィルタが配置された撮像素子である。撮像素子10によって取得されたRAW画像の信号S1は、バッファメモリ11に入力され、一時的に保存される。
【0027】
図2は、ハニカム配列の撮像素子10によって取得されたRAW画像を示す図である。図2には、RAW画像の左上隅のみを抜き出して示している。図2に示した例では、偶数ラインにおいては、赤色(R)のカラーフィルタが配置された赤色セルと、青色(B)のカラーフィルタが配置された青色セルとが、交互に配列されている。また、奇数ラインにおいては、緑色(G)のカラーフィルタが配置された緑色セルが配列されている。奇数ラインは、偶数ラインに対して、セルピッチの1/2だけずれて配置されている。
【0028】
本実施の形態に係る画像処理装置1では、ハニカム配列における各緑色セル(G)を、Bayer配列における、赤色セルに隣接する緑色セル(Gr)と、青色セルに隣接する緑色セル(Gb)との一方に対応付ける。
【0029】
図3は、図2と同様のRAW画像を示す図である。左上の赤色セル(R)と右下の赤色セル(R)とによって挟まれる緑色セル(G)は、Bayer配列における緑色セル(Gr)に対応付けられており、左上の青色セル(B)と右下の青色セル(B)とによって挟まれる緑色セル(G)は、Bayer配列における緑色セル(Gb)に対応付けられている。これにより、RGrGbB色空間で表されたRAW画像が得られる。なお、上記とは逆に、右上の赤色セル(R)と左下の赤色セル(R)とによって挟まれる緑色セル(G)を緑色セル(Gr)に対応付け、右上の青色セル(B)と左下の青色セル(B)とによって挟まれる緑色セル(G)を緑色セル(Gb)に対応付けても良い。
【0030】
図1を参照して、色変換部21には、バッファメモリ11から読み出された信号S1が入力される。色変換部21は、RGrGbB色空間の信号S1を、YUVK色空間の画素信号S2に変換して出力する。色変換部21における色変換処理の詳細については後述する。
【0031】
プレフィルタ22には、色変換部21から画素信号S2が入力される。プレフィルタ22は、画素信号S2に対して所定のプレフィルタ処理を選択的に実行し、画素信号S3を出力する。
【0032】
周波数変換部23には、プレフィルタ22から画素信号S3が入力される。周波数変換部23は、画素信号S3に対して所定の周波数変換処理(PCT:HD Photo Core Transform)を実行し、周波数変換処理後の周波数データS4を出力する。HD Photoでは、周波数データS4に、ハイパス成分、ローパス成分、及び直流成分が含まれる。
【0033】
量子化部24には、周波数変換部23から周波数データS4が入力される。量子化部24は、周波数データS4を量子化し、量子化後の周波数データS5を出力する。
【0034】
予測部25には、量子化部24から周波数データS5が入力される。予測部25は、量子化部24から入力された周波数データS5の値と、過去に処理した特定の周波数データの値(予測値)との差分値を求め、周波数差分データS6として出力する。
【0035】
符号化部26には、予測部25から周波数差分データS6が入力される。符号化部26は、周波数差分データS6に対してエントロピー符号化を実行し、符号化データS7を出力する。符号化部26から出力された符号化データS7は、メモリ4に記憶される。なお、厳密には、HD Photoにおいては、周波数差分データS6のうち、上位ビットに相当するNormal Bitに対してのみエントロピー符号化が実行され、下位ビットに相当するFlex Bitに関しては、エントロピー符号化が実行されることなく、メモリ4に記憶される。
【0036】
復号化部36には、メモリ4から符号化データS7が入力される。復号化部36は、符号化データS7に対してエントロピー復号化を実行し、上記の周波数差分データS6に相当する周波数差分データS8を出力する。
【0037】
逆予測部35には、復号化部36から周波数差分データS8が入力される。逆予測部35は、周波数差分データS8に予測値を加算することにより、上記の周波数データS5に相当する周波数データS9を出力する。
【0038】
逆量子化部34には、逆予測部35から周波数データS9が入力される。逆量子化部34は、周波数データS9を逆量子化し、上記の周波数データS4に相当する周波数データS10を出力する。
【0039】
周波数逆変換部33には、逆量子化部34から周波数データS10が入力される。周波数逆変換部33は、周波数データS10に対して、上記の周波数変換処理に対応する周波数逆変換処理を実行し、上記の画素信号S3に相当する画素信号S11を出力する。
【0040】
ポストフィルタ32には、周波数逆変換部33から、画素信号S11が入力される。ポストフィルタ32は、画素信号S11に対して、上記のプレフィルタ処理に対応するポストフィルタ処理を選択的に実行し、上記の画素信号S2に相当する画素信号S12を出力する。
【0041】
色逆変換部31には、ポストフィルタ32から画素信号S12が入力される。色逆変換部31は、YUVK色空間の画素信号S12を、RGrGbB色空間の画素信号S13に変換し、外部の表示装置等に向けて出力する。
【0042】
以下、色変換部21における色変換処理について説明する。
【0043】
まず、色変換部21は、図3に示したRAW画像内に、色変換処理の処理単位となる画素を規定する。一つの画素内には、赤色セル(R)、青色セル(B)、緑色セル(Gr)、及び緑色セル(Gb)を、それぞれ一つずつ含める。
【0044】
図4は、画素の規定の第1の例を示す図である。各画素には、同一のセル行に属する赤色セル(R)及び青色セル(B)と、その下のセル行に属する緑色セル(Gr)及び緑色セル(Gb)とが含まれている。その結果、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22においては、左上が赤色セル(R)、右上が青色セル(B)、左下が緑色セル(Gr)、右下が緑色セル(Gb)となり、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32においては、左上が青色セル(B)、右上が赤色セル(R)、左下が緑色セル(Gb)、右下が緑色セル(Gr)となる。
【0045】
色変換部21は、左上の画素から順に、画素単位で色変換処理を実行する。つまり、画素G00→G01→G02→・・・→G10→G11→G12→・・・→G20→G21→G22→・・・→G30→G31→G32→・・・の順に、色変換処理を実行する。
【0046】
図5は、色変換部21の構成を概略的に示す図である。色変換部21は、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13とを有している。4個のレジスタは、左上がレジスタF1、右上がレジスタF2、左下がレジスタF3、右下がレジスタF4である。
【0047】
左上のレジスタF1には、画素内の左上のセルに関する信号値が入力され、右上のレジスタF2には、画素内の右上のセルに関する信号値が入力され、左下のレジスタF3には、画素内の左下のセルに関する信号値が入力され、右下のレジスタF4には、画素内の右下のセルに関する信号値が入力される。
【0048】
従って、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22を処理する場合には、レジスタF1には赤色セル(R)の信号値が入力され、レジスタF2には青色セル(B)の信号値が入力され、レジスタF3には緑色セル(Gr)の信号値が入力され、レジスタF4には緑色セル(Gb)の信号値が入力される。また、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32を処理する場合には、レジスタF1には青色セル(B)の信号値が入力され、レジスタF2には赤色セル(R)の信号値が入力され、レジスタF3には緑色セル(Gb)の信号値が入力され、レジスタF4には緑色セル(Gr)の信号値が入力される。
【0049】
図6は、演算部13が演算によって色変換処理を実行するための演算式を示す図である。図6に示すように、演算式は、パラメータP1〜P4を用いて記述されている。パラメータP1〜P4は、図5に示したレジスタF1〜F4に設定される。色変換部21は、図6に示した演算式に基づいて、K信号、V信号、U信号、及びY信号の各画素値を算出する。なお、図6に示した変換式において、“floor(x)”は、x以下の最大の整数を意味し、“ceiling(x)”は、x以上の最小の整数を意味する。また、“α”は、画素値の階調数の1/2を意味する。例えば、画素値が8bitで表される場合は、256階調であるため、“α”は128となる。
【0050】
図7は、レジスタF1〜F4へのパラメータP1〜P4の設定例を示す図である。色変換部21は、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22を処理する場合には、図7の(A)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP4,P3,P1,P2を設定する。また、色変換部21は、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32を処理する場合には、図7の(B)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP3,P4,P2,P1を設定する。
【0051】
図8は、HD Photoにおける、RGrGbB色空間からYUVK色空間への変換式を示す図である。レジスタF1〜F4へのパラメータP1〜P4の設定を図7の(A)及び(B)のように規定することにより、全ての画素G00〜G02,G10〜G12,G20〜G22,G30〜G32に関して、図8に示した変換式が実現される。
【0052】
図9は、画素の規定の第2の例を示す図である。各画素には、同一のセル列に属する赤色セル(R)及び青色セル(B)と、その隣のセル列に属する緑色セル(Gr)及び緑色セル(Gb)とが含まれている。その結果、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14においては、左上が赤色セル(R)、右上が緑色セル(Gr)、左下が青色セル(B)、右下が緑色セル(Gb)となり、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15においては、左上が青色セル(B)、右上が緑色セル(Gb)、左下が赤色セル(R)、右下が緑色セル(Gr)となる。
【0053】
色変換部21は、左上の画素から順に、画素単位で色変換処理を実行する。つまり、画素G00→G01→G02→G03→G04→G05→・・・→G10→G11→G12→G13→G14→G15→・・・の順に、色変換処理を実行する。
【0054】
図10は、レジスタF1〜F4へのパラメータP1〜P4の設定例を示す図である。色変換部21は、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14を処理する場合には、図10の(A)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP4,P1,P3,P2を設定する。また、色変換部21は、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15を処理する場合には、図10の(B)に示すように、レジスタF1,F2,F3,F4に、それぞれパラメータP3,P2,P4,P1を設定する。レジスタF1〜F4へのパラメータP1〜P4の設定を図10の(A)及び(B)のように規定することにより、全ての画素G00〜G05,G10〜G15に関して、図8に示した変換式が実現される。
【0055】
本実施の形態において、色変換部21は、ハニカム配列における複数色のセルを含む画素を、RAW画像内に規定して、画素単位で色変換処理を実行する。ここで、色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素(例えば図4の画素G00)と、第1の配置パターンとは異なる第2の配置パターンである第2の画素(例えば図4の画素G10)とが含まれる。また、図6に示したように、演算式においては、各セルの信号値をパラメータP1〜P4として設定可能である。そして、色変換部21は、第1の画素を処理する場合には、第1のパラメータ(例えば図7の(A))を設定する。一方、第2の画素を処理する場合には、演算式内における各色のセルの信号値の位置が、第1の画素に関するそれと等しくなるような、第2のパラメータ(例えば図7の(B))を設定する。
【0056】
従って、本実施の形態によれば、演算式におけるパラメータP1〜P4の設定を変更するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0057】
<第2の実施の形態>
図11は、本発明の第2の実施の形態に係る画像処理装置1の構成の一部を示すブロック図である。バッファメモリ11と色変換部21との間に、並び替え処理部15が接続されている。並び替え処理部15は、バッファメモリ11から読み出した信号S1を選択的に並び替えて、信号S1aとして色変換部21に入力する。
【0058】
図12は、色変換部21が有するレジスタF1〜F4の第1の例を示す図である。この例では、レジスタF1には赤色セル(R)の信号値が入力され、レジスタF2には青色セル(B)の信号値が入力され、レジスタF3には緑色セル(Gr)の信号値が入力され、レジスタF4には緑色セル(Gb)の信号値が入力される。色変換部21が有する演算部13(図12には示さない)は、図8に示した演算式に基づいて、RGrGbB色空間からYUVK色空間への色変換処理を実行する。
【0059】
図4に示した例では、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22においては、左上が赤色セル(R)、右上が青色セル(B)、左下が緑色セル(Gr)、右下が緑色セル(Gb)となる。従って、画素内における各色の配置パターンと、図12に示したレジスタF1〜F4における各色の配置パターンとが一致するため、並び替え処理部15は、並び替え処理を実行することなく、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0060】
一方、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32においては、左上が青色セル(B)、右上が赤色セル(R)、左下が緑色セル(Gb)、右下が緑色セル(Gr)となる。従って、図12に示したレジスタF1〜F4における各色の配置パターンは、画素内における各色の配置パターンに対して左右が逆転している。そのため、並び替え処理部15は、画素内における各色のセルの信号値を左右反転した後に、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0061】
図13は、色変換部21が有するレジスタF1〜F4の第2の例を示す図である。この例では、レジスタF1には赤色セル(R)の信号値が入力され、レジスタF2には緑色セル(Gr)の信号値が入力され、レジスタF3には青色セル(B)の信号値が入力され、レジスタF4には緑色セル(Gb)の信号値が入力される。色変換部21が有する演算部13(図12には示さない)は、図8に示した演算式に基づいて、RGrGbB色空間からYUVK色空間への色変換処理を実行する。
【0062】
図9に示した例では、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14においては、左上が赤色セル(R)、右上が緑色セル(Gr)、左下が青色セル(B)、右下が緑色セル(Gb)となる。従って、画素内における各色の配置パターンと、図13に示したレジスタF1〜F4における各色の配置パターンとが一致するため、並び替え処理部15は、並び替え処理を実行することなく、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0063】
一方、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15においては、左上が青色セル(B)、右上が緑色セル(Gb)、左下が赤色セル(R)、右下が緑色セル(Gr)となる。従って、図13に示したレジスタF1〜F4における各色の配置パターンは、画素内における各色の配置パターンに対して上下が逆転している。そのため、並び替え処理部15は、画素内における各色のセルの信号値を上下反転した後に、各色のセルの信号値を、対応するレジスタF1〜F4に入力する。
【0064】
図14は、第2の実施の形態の変形例を示す図である。図14に示すように、並び替え処理部15は、撮像素子10とバッファメモリ11との間に接続されていても良い。
【0065】
本実施の形態に係る画像処理装置1は、色変換部21よりも前段に配置された並び替え処理部15を備える。また、色変換部21は、ハニカム配列における複数色のセルを含む画素を、RAW画像内に規定して、画素単位で色変換処理を実行する。ここで、色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素(例えば図4の画素G00)と、第1の配置パターンとは異なる第2の配置パターンである第2の画素(例えば図4の画素G10)とが含まる。そして、並び替え処理部15は、色変換部21の処理対象が第1の画素である場合には、並び替え処理を実行せず、色変換部21の処理対象が第2の画素である場合には、画素内における各色のセルの信号値の位置が第1の画素に関するそれと等しくなるように、並び替え処理を実行する。
【0066】
従って、本実施の形態によれば、画素内における各色のセルの信号値の位置を並び替えるという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0067】
<第3の実施の形態>
図15は、本発明の第3の実施の形態に係る画像処理装置1の構成の一部を示すブロック図である。色変換部21の前段に、選択部40が接続されている。また、色変換部21は、変換処理部41A,41Bを有している。選択部40は、変換処理部41A,41Bの一方を選択して、信号S1を入力する。
【0068】
図16は、変換処理部41Aの構成の第1の例を概略的に示す図である。図16の(A)に示すように、変換処理部41Aは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Aとを有している。図16の(B)には、演算部13Aが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF3の値Q3からレジスタF4の値Q4を減算することによって求まり、V信号の値は、レジスタF2の値Q2からレジスタF1の値Q1を減算することによって求まる。
【0069】
図17は、変換処理部41Bの構成の第1の例を概略的に示す図である。図17の(A)に示すように、変換処理部41Bは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Bとを有している。図17の(B)には、演算部13Bが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF4の値Q4からレジスタF3の値Q3を減算することによって求まり、V信号の値は、レジスタF1の値Q1からレジスタF2の値Q2を減算することによって求まる。
【0070】
図4に示した例において、偶数の画素行Y0,Y2に属する画素G00〜G02,G20〜G22を処理する場合には、選択部40は変換処理部41Aを選択する。これにより、レジスタF1の値Q1は赤色セル(R)の信号値となり、レジスタF2の値Q2は青色セル(B)の信号値となり、レジスタF3の値Q3は緑色セル(Gr)の信号値となり、レジスタF4の値Q4は緑色セル(Gb)の信号値となる。その結果、図16の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0071】
一方、奇数の画素行Y1,Y3に属する画素G10〜G12,G30〜G32を処理する場合には、選択部40は変換処理部41Bを選択する。これにより、レジスタF1の値Q1は青色セル(B)の信号値となり、レジスタF2の値Q2は赤色セル(R)の信号値となり、レジスタF3の値Q3は緑色セル(Gb)の信号値となり、レジスタF4の値Q4は緑色セル(Gr)の信号値となる。その結果、図17の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0072】
図18は、変換処理部41Aの構成の第2の例を概略的に示す図である。図18の(A)に示すように、変換処理部41Aは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Aとを有している。図18の(B)には、演算部13Aが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF2の値Q2からレジスタF4の値Q4を減算することによって求まり、V信号の値は、レジスタF3の値Q3からレジスタF1の値Q1を減算することによって求まる。
【0073】
図19は、変換処理部41Bの構成の第2の例を概略的に示す図である。図19の(A)に示すように、変換処理部41Bは、4個のレジスタF1〜F4と、これらのレジスタF1〜F4に接続された演算部13Bとを有している。図19の(B)には、演算部13Bが演算によって色変換処理を実行するための演算式を示している。例えば、K信号の値は、レジスタF4の値Q4からレジスタF2の値Q2を減算することによって求まり、V信号の値は、レジスタF1の値Q1からレジスタF3の値Q3を減算することによって求まる。
【0074】
図9に示した例において、偶数の画素列X0,X2,X4に属する画素G00,G10,G02,G12,G04,G14を処理する場合には、選択部40は変換処理部41Aを選択する。これにより、レジスタF1の値Q1は赤色セル(R)の信号値となり、レジスタF2の値Q2は緑色セル(Gr)の信号値となり、レジスタF3の値Q3は青色セル(B)の信号値となり、レジスタF4の値Q4は緑色セル(Gb)の信号値となる。その結果、図18の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0075】
一方、奇数の画素列X1,X3,X5に属する画素G01,G11,G03,G13,G05,G15を処理する場合には、選択部40は変換処理部41Bを選択する。これにより、レジスタF1の値Q1は青色セル(B)の信号値となり、レジスタF2の値Q2は緑色セル(Gb)の信号値となり、レジスタF3の値Q3は赤色セル(R)の信号値となり、レジスタF4の値Q4は緑色セル(Gr)の信号値となる。その結果、図19の(B)に示した演算式は、図8に示した演算式に等価的に等しくなる。
【0076】
本実施の形態に係る画像処理装置1は、色変換部21の前段に配置された選択部40を備える。また、色変換部21は、ハニカム配列における複数色のセルを含む画素を、RAW画像内に規定して、画素単位で色変換処理を実行する。ここで、色変換部21の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素(例えば図4の画素G00)と、第1の配置パターンとは異なる第2の配置パターンである第2の画素(例えば図4の画素G10)とが含まれる。また、色変換部21は、第1の演算式(例えば図16の(B))に基づいて色変換処理を実行する変換処理部41Aと、第2の演算式(例えば図17の(B))に基づいて色変換処理を実行する変換処理部41Bとを有している。ここで、第2の演算式は、各色のセルの信号値の位置が、等価的に第1の演算式におけるそれと等しくなるような演算式である。そして、選択部40は、色変換部21の処理対象が第1の画素である場合には、変換処理部41Aを選択し、色変換部21の処理対象が第2の画素である場合には、変換処理部41Bを選択する。
【0077】
従って、本実施の形態によれば、色変換部21内に変換処理部41A及び変換処理部41Bを設け、処理対象に応じて一方を選択するという簡易な手法によって、第1及び第2の画素の双方に関して、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0078】
なお、変換処理部41Aと変換処理部41Bとは、一部の要素(例えば演算部13A,13B)を共有する構成とすることもできる。
【0079】
<第4の実施の形態>
図20は、画素の規定の第1の例を示す図である。各画素には、あるセル行に属する青色セル(B)と、その下のセル行に属する緑色セル(Gr)及び緑色セル(Gb)と、その下のセル行に属する赤色セル(R)とが含まれている。その結果、各画素において、上が青色セル(B)、左が緑色セル(Gr)、右が緑色セル(Gb)、下が赤色セル(R)となる。
【0080】
図21は、本発明の第4の実施の形態に係る画像処理装置1の構成の一部を示すブロック図である。バッファメモリ11と色変換部21との間に、補完処理部50が接続されている。補完処理部50は、画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完して、補完後の信号S1bを色変換部21に入力する。
【0081】
補完処理の第1の例として、補完処理部50は、不足のセルの近傍に位置するセルに関する信号値を用いた演算によって、不足のセルに関する信号値を補完する。
【0082】
図20を参照して、例えば、画素G20に関しては、緑色セル(Gr)に関する信号値が不足している。そこで、補完処理部50は、画素G20内の緑色セル(Gb)に関する信号値を、画素G20内の緑色セル(Gr)に関する信号値として補完する。
【0083】
また、例えば、画素G01に関しては、青色セル(B)に関する信号値、緑色セル(Gr)に関する信号値、及び緑色セル(Gb)に関する信号値が不足している。そこで、補完処理部50は、画素G10内の青色セル(B)に関する信号値と、画素G11内の青色セル(B)に関する信号値との平均値を算出し、その値を、画素G01内の青色セル(B)に関する信号値として補完する。また、補完処理部50は、画素G10内の緑色セル(Gb)に関する信号値を、画素G01内の緑色セル(Gr)に関する信号値として補完し、画素G11内の緑色セル(Gr)に関する信号値を、画素G01内の緑色セル(Gb)に関する信号値として補完する。
【0084】
また、例えば、画素G00に関しては、青色セル(B)に関する信号値、緑色セル(Gr)に関する信号値、及び緑色セル(Gb)に関する信号値が不足している。そこで、補完処理部50は、画素G10内の青色セル(B)に関する信号値を、画素G00内の青色セル(B)に関する信号値として補完する。また、補完処理部50は、画素G10内の緑色セル(Gr)に関する信号値を、画素G00内の緑色セル(Gr)及び緑色セル(Gb)に関する各信号値として補完する。
【0085】
補完処理の第2の例として、補完処理部50は、所定値を用いて、不足のセルに関する信号値を補完する。
【0086】
例えば、信号値が256階調で表される場合には、中間の第128階調の値を、全ての不足セルの信号値として補完する。
【0087】
また、例えば、各画素内の赤色セル(R)の信号値を、その画素内の全ての不足セルの信号値として補完する。
【0088】
図22は、画素の規定の第2の例を示す図である。各画素には、あるセル行に属する赤色セル(R)及び青色セル(B)と、その下のセル行に属する緑色セル(Gr)及び緑色セル(Gb)とが含まれている。その結果、各画素において、左上が赤色セル(R)、右上が青色セル(B)、左下が緑色セル(Gr)、右下が緑色セル(Gb)となる。不足セルの補完については、上記と同様である。
【0089】
図23は、画素の規定の第3の例を示す図である。各画素には、あるセル行に属する赤色セル(R)と、その下のセル行に属する緑色セル(Gr)と、その下のセル行に属する青色セル(B)と、その下のセル行に属する緑色セル(Gb)とが含まれている。その結果、各画素において、左上が赤色セル(R)、右上が緑色セル(Gr)、左下が青色セル(B)、右下が緑色セル(Gb)となる。不足セルの補完については、上記と同様である。
【0090】
本実施の形態に係る色変換部21は、画素内における各色のセルの配置が単一の配置パターンとなるように、RAW画像内に画素を規定する。従って、RAW画像内の全ての画素において、各色のセルの配置パターンが同一となる。従って、第1の実施の形態のようなパラメータの設定変更や、第2の実施の形態のような並び替え処理や、第3の実施の形態のような変換処理部41A,41Bの切り換え処理を行うことなく、画素内における各色のセルの配置パターンの相違を考慮した適切な色変換処理を、全ての画素に関して実行することができる。その結果、符号化効率の劣化が生じる可能性を回避することができる。
【0091】
また、補完処理の第1の例によれば、演算によって高精度の補完を行うことにより、圧縮効率を上げることができる。
【0092】
また、補完処理の第2の例によれば、演算を行わず、所定値を用いて補完を行うことにより、処理負荷の軽減を図ることができる。
【0093】
<デコーダ3への情報の受け渡しについて>
図24は、色変換部21から出力される画素信号S2を示す図である。画素信号S2は、ヘッダ部Hとペイロード部Pとを有している。ヘッダ部Hには、色変換部21によるRAW画像内における画素の規定に関する情報、つまり、RAW画像内にどのようなパターン(切り出し方)で画素を規定したのかについての情報が、データD1として記述されている。また、ヘッダ部Hには、画素内における各色のセルの位置に関する情報、つまり、画素内のどの信号値がどの色に対応するのかについての情報が、データD2として記述されている。図1を参照して、色変換部21によって信号S2のヘッダ部Hに付加されたデータD1,D2は、信号S3〜S12に付随して、色逆変換部31に受け渡される。
【0094】
図25は、色逆変換部31が色逆変換処理を実行するための演算式を示す図である。色逆変換部31は、ポストフィルタ32から入力されたYUVK色空間の画素信号S12を、図25に示した演算式に基づいて、RGrGbB色空間の画素信号S13に変換する。また、色逆変換部31は、データD1,D2に基づいて、画素平面の適切な位置に適切な色を当てはめることにより、ハニカム配列のRAW画像を再現する。これにより、原画像を適切に再現することが可能となる。
【図面の簡単な説明】
【0095】
【図1】本発明の第1の実施の形態に係る画像処理装置の構成を示すブロック図である。
【図2】ハニカム配列の撮像素子によって取得されたRAW画像を示す図である。
【図3】図2と同様のRAW画像を示す図である。
【図4】画素の規定の第1の例を示す図である。
【図5】色変換部の構成を概略的に示す図である。
【図6】演算部が演算によって色変換処理を実行するための演算式を示す図である。
【図7】レジスタへのパラメータの設定例を示す図である。
【図8】HD Photoにおける、RGrGbB色空間からYUVK色空間への変換式を示す図である。
【図9】画素の規定の第2の例を示す図である。
【図10】レジスタへのパラメータの設定例を示す図である。
【図11】本発明の第2の実施の形態に係る画像処理装置の構成の一部を示すブロック図である。
【図12】色変換部が有するレジスタの第1の例を示す図である。
【図13】色変換部が有するレジスタの第2の例を示す図である。
【図14】第2の実施の形態の変形例を示す図である。
【図15】本発明の第3の実施の形態に係る画像処理装置の構成の一部を示すブロック図である。
【図16】変換処理部の構成の第1の例を概略的に示す図である。
【図17】変換処理部の構成の第1の例を概略的に示す図である。
【図18】変換処理部の構成の第2の例を概略的に示す図である。
【図19】変換処理部の構成の第2の例を概略的に示す図である。
【図20】画素の規定の第1の例を示す図である。
【図21】本発明の第4の実施の形態に係る画像処理装置の構成の一部を示すブロック図である。
【図22】画素の規定の第2の例を示す図である。
【図23】画素の規定の第3の例を示す図である。
【図24】色変換部から出力される画素信号を示す図である。
【図25】色逆変換部が色逆変換処理を実行するための演算式を示す図である。
【符号の説明】
【0096】
1 画像処理装置
2 エンコーダ
3 デコーダ
10 撮像素子
13,13A,13B 演算部
15 並び替え処理部
21 色変換部
31 色逆変換部
40 選択部
41A,41B 変換処理部
50 補完処理部
【特許請求の範囲】
【請求項1】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を、所定の演算式に基づいて第2の色空間の信号に変換する色変換部を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、
前記演算式においては、各セルの信号値をパラメータとして設定可能であり、
前記色変換部は、前記第1の画素を処理する場合には、第1のパラメータを設定し、前記第2の画素を処理する場合には、前記演算式内における各色のセルの信号値の位置が、前記第1の画素に関するそれと等しくなるような、第2のパラメータを設定する、画像処理装置。
【請求項2】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、
前記第1の色空間の信号が前記色変換部に入力される前に、前記第1の色空間の信号を並び替える、並び替え処理部と
を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、
前記並び替え処理部は、前記色変換部の処理対象が前記第1の画素である場合には、並び替え処理を実行せず、前記色変換部の処理対象が前記第2の画素である場合には、画素内における各色のセルの信号値の位置が前記第1の画素に関するそれと等しくなるように、並び替え処理を実行する、画像処理装置。
【請求項3】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、
前記色変換部の前段に配置された選択部と
を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、
前記色変換部は、
第1の演算式に基づいて色変換処理を実行する第1の変換処理部と、
各色のセルの信号値の位置が、等価的に前記第1の演算式におけるそれと等しくなるような、第2の演算式に基づいて、色変換処理を実行する第2の変換処理部と
を有し、
前記選択部は、前記色変換部の処理対象が前記第1の画素である場合には、前記第1の変換処理部を選択し、前記色変換部の処理対象が前記第2の画素である場合には、前記第2の変換処理部を選択する、画像処理装置。
【請求項4】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部は、画素内における各色のセルの配置が単一の配置パターンとなるように画素を規定する、画像処理装置。
【請求項5】
画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、
前記補完処理部は、前記不足のセルの近傍に位置するセルに関する信号値を用いた演算によって、前記不足のセルに関する信号値を補完する、請求項4に記載の画像処理装置。
【請求項6】
画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、
前記補完処理部は、所定値を用いて、前記不足のセルに関する信号値を補完する、請求項4に記載の画像処理装置。
【請求項7】
前記色変換部からは、画素の規定に関する情報と、画素内における各色のセルの位置に関する情報とがヘッダ部に含まれた、第2の色空間の信号が出力される、請求項1〜6のいずれか一つに記載の画像処理装置。
【請求項1】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を、所定の演算式に基づいて第2の色空間の信号に変換する色変換部を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、
前記演算式においては、各セルの信号値をパラメータとして設定可能であり、
前記色変換部は、前記第1の画素を処理する場合には、第1のパラメータを設定し、前記第2の画素を処理する場合には、前記演算式内における各色のセルの信号値の位置が、前記第1の画素に関するそれと等しくなるような、第2のパラメータを設定する、画像処理装置。
【請求項2】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、
前記第1の色空間の信号が前記色変換部に入力される前に、前記第1の色空間の信号を並び替える、並び替え処理部と
を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、
前記並び替え処理部は、前記色変換部の処理対象が前記第1の画素である場合には、並び替え処理を実行せず、前記色変換部の処理対象が前記第2の画素である場合には、画素内における各色のセルの信号値の位置が前記第1の画素に関するそれと等しくなるように、並び替え処理を実行する、画像処理装置。
【請求項3】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部と、
前記色変換部の前段に配置された選択部と
を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部の処理対象である画素には、画素内における各色のセルの配置が、第1の配置パターンである第1の画素と、第2の配置パターンである第2の画素とが含まれ、
前記色変換部は、
第1の演算式に基づいて色変換処理を実行する第1の変換処理部と、
各色のセルの信号値の位置が、等価的に前記第1の演算式におけるそれと等しくなるような、第2の演算式に基づいて、色変換処理を実行する第2の変換処理部と
を有し、
前記選択部は、前記色変換部の処理対象が前記第1の画素である場合には、前記第1の変換処理部を選択し、前記色変換部の処理対象が前記第2の画素である場合には、前記第2の変換処理部を選択する、画像処理装置。
【請求項4】
ハニカム配列の撮像素子によって取得された第1の色空間の信号を第2の色空間の信号に変換する色変換部を備え、
前記色変換部は、ハニカム配列における複数色のセルを含む画素を規定して、画素単位で色変換処理を実行し、
前記色変換部は、画素内における各色のセルの配置が単一の配置パターンとなるように画素を規定する、画像処理装置。
【請求項5】
画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、
前記補完処理部は、前記不足のセルの近傍に位置するセルに関する信号値を用いた演算によって、前記不足のセルに関する信号値を補完する、請求項4に記載の画像処理装置。
【請求項6】
画素平面の周縁部において一画素内のセル数が不足する画素を対象として、不足のセルに関する信号値を補完する補完処理部をさらに備え、
前記補完処理部は、所定値を用いて、前記不足のセルに関する信号値を補完する、請求項4に記載の画像処理装置。
【請求項7】
前記色変換部からは、画素の規定に関する情報と、画素内における各色のセルの位置に関する情報とがヘッダ部に含まれた、第2の色空間の信号が出力される、請求項1〜6のいずれか一つに記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【公開番号】特開2010−41612(P2010−41612A)
【公開日】平成22年2月18日(2010.2.18)
【国際特許分類】
【出願番号】特願2008−204739(P2008−204739)
【出願日】平成20年8月7日(2008.8.7)
【出願人】(591128453)株式会社メガチップス (322)
【Fターム(参考)】
【公開日】平成22年2月18日(2010.2.18)
【国際特許分類】
【出願日】平成20年8月7日(2008.8.7)
【出願人】(591128453)株式会社メガチップス (322)
【Fターム(参考)】
[ Back to top ]