説明

高ダイナミックレンジ画像データを復号化するための装置及び方法、表示用画像を処理可能なビューア、ならびに表示装置

【課題】高ダイナミックレンジ画像を記憶し、変換し、再生するための便利な枠組みを提供すること、
【解決手段】高ダイナミックレンジ画像データを復号化するための装置は、トーンマップ部16Aと高ダイナミックレンジ(HDR)画像部16Bとを含むデータ構造16を受信する入力部と、トーンマップ部16Aを復号化して第1の画像を生成するためのデコーダと、第1の画像をダウンサンプリングしてダウンサンプリングされた画像を生成し、第1の画像内における画素値とダウンサンプリングされた画像内における対応する画素値との比率を判定して、該比率に基づく補正(114)をHDR画像部16Bにより表現される画像データ内の対応する画素に対して行うように構成された補正システム部とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、高ダイナミックレンジ画像データを復号化するための装置及び方法、表示用画像を処理可能なビューア、ならびに表示装置に関する。
【背景技術】
【0002】
人間の視覚は、1:10,000までのコントラスト比を認識可能である。即ち、人は、あるシーンの幾つかの部分が、そのシーンの他の部分より10,000倍明るいシーンを取り入れ、そのシーンの最も明るい及び最も暗い部分双方の詳細を見ることができる。更に、人間の視覚は、更に6桁の大きさに渡って、その感度をより明るい又はより暗いシーンに順応させることができる。
【0003】
ほとんどの従来のデジタル画像フォーマット(所謂、24ビットフォーマット)は、画像の各画素の色及び輝度情報を記憶するために24ビットまで用いる。例えば、画素の赤、緑及び青(RGB)の各々の値は、1バイト(8ビット)で記憶し得る。そのようなフォーマットは、約2桁のオーダに渡る輝度変動しか表現できない(各バイトは、256の可能な値のうちの1つを記憶し得る)。デジタル画像(静止画像及び映像画像双方を含む)を表現するための多数の標準フォーマットが存在する。これらのフォーマットは、JPEG(Joint Photographic Experts Group)、MPEG(Motion Picture Experts Group)、AVI(Audio Video Interleave)、TIFF(Tagged Image File Format)、BMP(BitMap)、PNG(Portable Network Graphics)、GIF(Graphical Interchange Format)等を含む。そのようなフォーマットは、最も普通に利用可能なタイプの電子表示装置によって再生し得るもの以上の画像情報を保持しようとしないため、“出力指定標準”と呼ばれることがある。最近まで、コンピュータ表示装置、テレビ、デジタル映画映写機等の表示装置は、1:1000程度より良いコントラスト比を有する画像を正確に再生することが不可能であった。
【0004】
譲渡人及び他者によって開発される表示装置技術は、高ダイナミックレンジ(HDR)を有する画像を再生することが可能である。そのような表示装置は、従来の表示装置より現実の世界のシーンを更に忠実に表現する画像を再生し得る。将来利用可能になるこれらの表示装置及び他のHDR表示装置上でHDR画像を記憶し再生するためのフォーマットが必要である。
【0005】
デジタルデータとしてHDR画像を記憶するための多数のフォーマットが、提案されている。これらのフォーマットには様々な不利な点がある。多数のこれらのフォーマットは、専用のソフトウェアだけを利用して閲覧し得る膨大な大きさの画像ファイルを生じる。デジタルカメラの製造業者には、自社開発のRAWフォーマットを提供するものもある。これらのフォーマットは、データ記憶要求の点において、カメラ独特であり、また、過剰な傾向がある。
【発明の概要】
【発明が解決しようとする課題】
【0006】
高ダイナミックレンジ画像を記憶し、交換し、再生するための便利な枠組みが必要である。特に、既存の画像ビューア技術と下位互換性があるような枠組みが必要である。ハードウェアベースの画像デコーダを有するDVDプレーヤ等の従来の装置によって画像を再生する必要がある場合、特に下位互換性に対するニーズがある。
【課題を解決するための手段】
【0007】
本発明の第1の態様は、高ダイナミックレンジ画像データを復号化するための装置である。当該装置は、トーンマップ部と高ダイナミックレンジ(HDR)画像部とを含むデータ構造を受信する入力部と、前記トーンマップ部を復号化して第1の画像を生成するためのデコーダと、前記第1の画像をダウンサンプリングしてダウンサンプリングされた画像を生成し、前記第1の画像内における画素値と前記ダウンサンプリングされた画像内における対応する画素値との比率を判定して、該比率に基づく補正を前記HDR画像部により表現される画像データ内の対応する画素に対して行うように構成された補正システム部と、を備える。
【0008】
本発明の第2の態様は、表示用画像を処理可能なビューアである。当該ビューアは、トーンマップデータを復号化して第1の画像データを提供するためのデコーダと、前記第1の画像データをダウンサンプリングしてダウンサンプリングされた画像データを提供するための手段と、前記ダウンサンプリングされた画像データをアップサンプリングしてアップサンプリングされた画像データを提供するための手段と、前記アップサンプリングされた画像データと前記第1の画像データとの差に基づく比率画像データを補正して、補正された比率画像データを生成するための手段と、前記補正された比率画像データを前記第1の画像データに乗じることにより高ダイナミックレンジデータを提供するための手段と、前記高ダイナミックレンジデータを表示するための表示部と、を備える。
【0009】
本発明の第3の態様は、表示装置である。当該表示装置は、初期ダイナミックレンジを有する高ダイナミックレンジ画像を表現するとともに、トーンマップ部と高ダイナミックレンジ情報部とを含むデータ構造を格納するデータ格納部であって、前記トーンマップ部が、前記画像を表現するトーンマップ情報を含むとともに、前記初期ダイナミックレンジより小さい低ダイナミックレンジを有し、前記高ダイナミックレンジ情報部が、前記トーンマップ部の値と前記高ダイナミックレンジ画像の対応する値との比率を記述する情報を含む、前記データ構造を格納するデータ格納部と、前記トーンマップ部を復号化して第1の画像データを生成し、該第1の画像データを前記比率を記述する情報に応じて修正して前記データ構造から高ダイナミックレンジ画像を再構築することにより、前記高ダイナミックレンジ画像を表現する画像データを生成するように構成されたプロセッサと、前記高ダイナミックレンジ画像を表示するための表示部と、を備える。
【0010】
本発明の第4の態様は、トーンマップ部と高ダイナミックレンジ(HDR)画像部とを含むデータ構造から高ダイナミックレンジ画像データを復号化するための方法である。当該方法は、前記トーンマップ部を復号化して第1の画像を生成すること、前記第1の画像をダウンサンプリングしてダウンサンプリングされた画像を生成すること、前記第1の画像内における画素値と前記ダウンサンプリングされた画像内における対応する画素値との比率を判定すること、前記比率に基づく補正を前記HDR画像部により表現される画像データ内の対応する画素に対して行うこと、を備える。
【図面の簡単な説明】
【0011】
【図1】本発明の一般的な実施形態によるHDR画像ファイルを生成するための方法を示すデータフロー図。
【図2】本発明によるHDR画像の符号化及び復号化方法の全体像を与えるフローチャート。
【図3】本発明の1つの具体的な実施形態によるHDR画像ファイルを生成するための方法を示すデータフロー図。
【図4】圧縮及び/又はダウンサンプリングに起因するアーティファクトの補正を行う本発明の幾つかの実施形態による方法を示すフローチャート。
【図5】HDR画像の再構築時の圧縮及び/又はダウンサンプリングに起因するアーティファクトの補正を行う本発明の一実施形態による方法を示すフローチャート。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態について説明する。
本発明の一態様は、HDR画像を表現するためのデータ構造(HDRデータ構造)を提供する。好適な実施形態において、HDRデータ構造によって、標準画像閲覧ソフトウェアを用いて、標準ダイナミックレンジモードで画像を閲覧でき、また、HDRビューアや適切なHDR表示装置を用いて、同じ画像の高ダイナミックレンジバージョンを高ダイナミックレンジモードで閲覧し得る。
【0013】
図1は、HDRデータ構造16を生成し、また、HDRデータ構造16によって表される画像を閲覧するための本発明によるシステム10を示す。図2は、HDRデータ構造を生成するためのシステム10によって行われる方法30並びにHDRデータ構造16におけるデータからの画像を表示するための他の選択肢としての方法31A及び31Bを示す。
【0014】
システム10は、HDR原画像データ12に基づき、HDR画像データ構造16を生成するためのエンコーダ14を含む。データ構造16は、標準デコーダ18によって復号して標準ダイナミックレンジ画像19を提供し得る。本発明の幾つかの実施形態において、標準デコーダ18は、“従来の”ハードウェアデコーダ、又は適切な画像ビューアソフトウェア等のソフトウェアベースのデコーダを含む。データ構造16は、HDRデコーダ20によって復号して、再構築されたHDR画像21を生成し得る。
【0015】
方法30は、HDR画像データ12を取り込むことによって、ブロック32で始まる。HDR画像データ12は、画像の画素の輝度を直接又は間接的に指定する情報を含む。HDR画像データ12は、任意の適切なフォーマットであってよく、また、適切なHDRカメラを利用して取り込んだり(複数の露出を組み合わせることによって可能)、又は、コンピュータで直接描画したりできる。HDR画像データ12の供給源は、本発明を実施する上で重要ではない。
【0016】
また、方法30によって、HDR画像データ12に対応するトーンマップデータ15が得られる(ブロック34)。トーンマップデータ15は、HDR画像12の画像の類似点を表現するが、HDR画像データ12より小さいダイナミックレンジを有する。トーンマップデータ15は、ライン13によって示すように、HDR画像データ12から生成し得る。あるいは、いずれか他の方法では、HDR画像データ12と共通の供給源を有するデータから導出し得る。トーンマップデータ15がHDR画像データ12から導出されない場合、トーンマップデータ15及びHDR画像データ12が得られる順番(即ち、ブロック32及び34の順番)は、重要ではない。
【0017】
エンコーダ14は、データ構造16を生成する。データ構造16は、トーンマップデータ15に基づくトーンマップ部16Aと、HDR情報部16Bとを含み、HDR情報部16Bは、HDRデコーダ20によってトーンマップ部16Aからのデータと組み合わせて、HDR画像データ12又はそれに極めて近いものを再構築し得る情報を含む。方法30は、トーンマップデータ15(即ち、データ構造16のトーンマップ部16Aから再構築されたトーンマップデータ)とHDR画像データ12とを比較することによって、HDR情報部を生成する(ブロック36)。ブロック38において、方法30は、トーンマップ部16A及びHDR情報部16Bをデータ構造16に記憶する。
【0018】
本発明の好適な実施形態において、データ構造16には、標準デコーダによって読み出し低いダイナミックレンジ(LDR)画像を生成し得るフォーマットがある。標準デコーダ18は、復号化方法31Aを実現し得る。標準デコーダ18は、トーンマップ部16Aを検索し、トーンマップ部16Aによって表現された画像を表示することによって、標準LDR画像19を生成する(ブロック39)。標準デコーダは、HDR情報部16Bを無視し得る。
【0019】
また、データ構造16は、HDRデコーダ20によって読み出し得る。HDRデコーダ20は、復号化方法31Bを実現し、トーンマップ部16A及びHDR情報部16B双方からの情報に基づき、HDR画像21を生成する。方法31Bは、ブロック40において、データ構造16のトーンマップ部16A及びHDR情報部16Bからデータを検索する。ブロック42において、再構築されたHDR画像は、HDR情報部16BからのHDR情報によりトーンマップ部16Aから抽出されるトーンマップを修正することによって生成される。再構築されたHDR画像は、ブロック44において表示される。
【0020】
トーンマップ部16Aは、任意の適切なフォーマットであってよい。例えば、トーンマップ部16Aは、JPEG、MPEG、AVI、TIFF、BMP、GIF又はいずれか他の適切なフォーマットであってよい。トーンマップ部16Aは、HDR原画像12のものより小さいダイナミックレンジの画像における画素の輝度を直接又は間接的に指定する情報を含む。HDR画像データ12が、色画像を指定する場合、トーンマップ部16Aは、好適には、画像中の画素の色を指定する情報を含む。
【0021】
本発明の幾つかの実施形態において、データ構造16は、JPEGファイル交換フォーマット(JFIF)によりフォーマット化されたファイルを含む。そのような実施形態において、トーンマップ部16Aは、JFIFファイルの画像部に含み得る。また、HDR情報部16Bは、JFIFファイルの1つ又は複数のアプリケーション拡張子部及び/又はJFIFファイルの1つ又は複数のコメント部に記憶し得る。そのような実施形態において、任意の標準JPEGビューアは、データ構造16を開くことができ、また、HDRの原データ12又は再構築されたHDR画像21のものより小さいダイナミックレンジでトーンマップ部16Aに供給された画像を表示し得る。
【0022】
標準JPEGビューアは、サポートしないJFIFファイルのアプリケーション拡張子を無視する。従って、HDR情報部16Bの存在は、任意の標準JPEGビューアを用いたデータ構造16からの画像の閲覧に対して、ほとんど影響を及ぼさない。HDR情報16BがJFIFファイルのコメントフィールドにある場合、JFIFファイルのコメントフィールドを読もうとするアプリケーションもあることから、HDR情報16Bは、ASCIIテキストとして符号化するのが好ましい。そのようなアプリケーションは、コメントフィールドがテキストだけを含むと予想し、予想外のタイプのデータを含むコメントフィールドを開こうとする際に、不適切に動作することがある。バージョン1.2は、JFIFの1つのバージョンである。JFIFバージョン1.2は、ISO_DIS10918−1の付録Bに記載されており、本明細書において引用・参照する。
【0023】
本発明の幾つかの実施形態において、データ構造16は、MPEGフォーマットのファイルを含む。そのような実施形態において、トーンマップ部16Aは、MPEGファイルの画像部に含み得る。また、HDR情報部16Bは、MPEGファイルの1つ又は複数のアプリケーション拡張子及び/又はMPEGファイルの1つ又は複数のコメント部に記憶し得る。そのような実施形態において、任意の標準MPEGビューアは、データ構造16を開くことができ、また、HDRの原データ12又は再構築されたHDR画像21のものより小さいダイナミックレンジでトーンマップ部16Aに供給された画像を表示し得る。1つのHDR情報部16Bは、MPEG映像ファイルの各フレームに関連付け得る。あるいは、キーフレームを用いるMPEGのバージョンの場合、HDR情報部16Bは、キーフレームだけに関連付け得る。従来のMPEGキーフレーム補間手法は、キーフレーム間フレーム(即ち、キーフレーム間にあるフレーム)を生成するために用い得る。
【0024】
標準MPEGビューアは、サポートしないMPEGファイルのチャネルを無視する。従って、HDR情報部16Bの存在は、任意の標準MPEGビューアを用いたデータ構造16からの画像の閲覧に対して、ほとんど影響を及ぼさない。HDR情報16Bが、MPEGファイルのコメントフィールドにある場合、MPEGファイルのコメントフィールドを読もうとするアプリケーションもあることから、HDR情報16Bは、ASCIIテキストとして符号化するのが好ましい。そのようなアプリケーションは、コメントフィールドがテキストだけを含むと予想し、予想外のタイプのデータを含むコメントフィールドを開こうとする際に、不適切に動作することがある。
【0025】
トーンマップ部16Aは、何らかの適切な方法で、トーンマップデータ15から生成し得る。例えば、トーンマップ部16Aは、適切なトーンマッピング演算子を用いて生成し得る。トーンマッピング演算子は、好適には、以下の特性を有する。即ち、
・HDRの原入力(即ち、HDR原画像データ12)が、標準の動的な解像度(通常、24ビット)の出力領域に円滑にマッピングされる。
【0026】
・トーンマッピング演算子の出力の成分が、0又は255の値でクランプされない。
・色相が、各画素に対して維持される。
・トーンマッピング演算子が飽和値を変える場合、可逆的関数によって記述し得る軽度の変更のみを行う。
【0027】
本発明者らは、デュラン(Durand)及びドロシー(Dorsey)による“高ダイナミックレンジ画像の表示のための高速バイラテラルフィルタ処理”、グラフィックスに関するACM議事録、21、3、249−256(2002)に記載されたバイラテラルフィルタが適切なトーンマッピング演算子を提供することを確認している。トーンマップ部16Aは、JPEGエンコーダ又はMPEGエンコーダ等の適切なエンコーダを用いて、符号化し得る。
【0028】
トーンマップ部16Aは、何らかの適切な方法で、画素色値を表現し得る。例えば、画素色値は、RGB(赤、緑、青)値、CMYK(シアン、マゼンタ、黄、黒)値、YCbCr(輝度及びクロミナンス)値等として表現し得る。トーンマップ部16Aのデータは、任意の適切な圧縮方式を用いて圧縮し得る。例えば、トーンマップ部16Aのデータは、JPEG又はMPEG標準と互換性がある方式で圧縮し得る。
【0029】
本発明の幾つかの実施形態において、HDR情報部16Bは、個々の画素に対してトーンマップ部16Aによって指定された値と、同じ画素に対してHDR原画像12によって指定された値との間の比率を含む。そのような実施形態において、HDR情報16Bは、HDR原画像12によって指定された値をトーンマップ部16Aによって指定された対応する値で除算することによって生成し得る。この演算により生じるデータは、HDR情報部16Bとして記憶し得る。HDR情報部16Bのデータ値が表現される精度を選択して、許容可能な品質を再構築されたHDR画像に提供し得る。本発明の幾つかの実施形態において、HDR情報部16Bのデータ値の各々は、圧縮に先立って、1バイト(8ビット)によって表現される。
【0030】
本発明の幾つかの実施形態において、HDR情報部16Bは、再構築されたHDR画像21の画素の輝度と、対応する画素に対してトーンマップ情報16Aによって指定された輝度との間の関係を指定する。そのような実施形態において、HDR情報部16Bは、色情報を含む必要がない。
【0031】
HDR情報部16Bには、画像内の領域又は画素に対してHDR原画像12によって指定された輝度と、対応する領域又は画素に対してトーンマップ部16Aによって指定された輝度との比率を含み得る。そのような実施形態において、色情報は、トーンマップ部16Aによって保持される。そのような実施形態において、HDR部16Bは、階調画像と同じ構造を有し得る。例えば、HDRデータ構造16がJFIFファイルを含む場合、HDR部16Bは、JPEG階調画像として符号化し得る。HDRデータ構造16がMPEGファイルを含む場合、HDR部16Bは、MPEG階調画像として符号化し得る。
【0032】
図3は、本発明の一実施形態によるHDRエンコーダ50を示す。なお、ここでは、データ構造16のHDR部16Bを作るために用いられるHDR情報は、HDR画像12の画素値と、トーンマップ部16Aによって指定された対応する値との比率を含む。エンコーダ50は、HDR画像データ12を受信する。エンコーダ50は、破線13及びトーンマップ生成器17によって示すように、HDR画像データ12からトーンマップデータ15を抽出することによって、又は、破線13Aによって示すように、他の何らかの供給源からトーンマップデータ15を受信することによって、トーンマップデータ15を取得する。トーンマップ生成器17は、好適には、色又は輝度値をクリッピングせず、トーンマップデータ15における各画素に対して色及び輝度比率を維持する。
【0033】
例示した実施形態において、エンコーダ50は、標準エンコーダ52を含む。標準エンコーダは、トーンマップデータ15を符号化して、符号化されたトーンマップデータ15Aを生成する。符号化されたトーンマップデータ15Aは、標準ビューアで読み出し得る。例えば、標準エンコーダ52は、JPEG又はMPEGビューアによって読み出し得るJPEG又はMPEG符号化トーンマップデータとしてトーンマップデータ15を符号化するエンコーダを含み得る。符号化されたトーンマップデータは、HDRデータ構造16のトーンマップデータ部16Aに保存される。
【0034】
本発明の幾つかの実施形態において、エンコーダ50は、符号化されたトーンマップデータ15Aを外部の何らかの供給源から受信する。そのような実施形態において、エンコーダ50は、標準エンコーダ52を組み込む必要がない。
【0035】
符号化されたトーンマップデータ15Aは、デコーダ54によって復号され、再構築されたトーンマップデータ55を生成する。HDR画像データ12は、除算器56によって、再構築されたトーンマップデータ55で除算され、比率データ57を生成する。比率データ57は、オプションとして、データ圧縮器58によって圧縮され、HDR情報16Bを生成する。データ圧縮器58は、JPEG又はMPEGエンコーダを便宜的に含み得る。本発明の幾つかの実施形態において、同じJPEG又はMPEGエンコーダを用いて、HDRデータ構造16のトーンマップ部16A及びHDR情報部16B双方を符号化する。
【0036】
本発明の幾つかの実施形態において、比率データ57は、HDR画像データ12の値と、トーンマップデータ15(又はトーンマップ部16A)によって指定された対応する値との比率の何らかの関数を含む。例えば、比率データ57には、そのような比率の対数を指定する情報を含み得る。
【0037】
本発明の幾つかの他の実施形態において、トーンマップデータ15は、ライン53によって示すように、除算器56に直接供給される。そのような実施形態では、デコーダ54は必要ない。トーンマップ部16Aが、JPEG又はMPEG符号化等の不可逆(lossy)アルゴリズムを用いて符号化される場合、HDR情報部16Bを、トーンマップデータ15に基づかせる代わりに、再構築されたトーンマップデータ55に基づかせることが好ましい。再構築されたトーンマップデータ55にHDR情報部16Bを基づかせると、トーンマップ情報部16Aが、不可逆符号化(lossy encoding)処理によって符号化される場合、HDRデータ構造16からHDR画像データ12を更に正確に再構築できる。トーンマップデータ15よりもむしろトーンマップ情報部16Aを用いて、HDR画像21(図1)を再構築する。
【0038】
圧縮器58は、任意の数の形態をとり得る。本発明の幾つかの実施形態において、圧縮器58は、1つ又は複数の以下の動作を行う。即ち、
・比率データ57のダウンサンプリング。
・比率データ57の圧縮。
【0039】
圧縮には任意の適切な形態を用い得る。本発明の現在の好適な実施形態において、圧縮器58は、比率データ57をダウンサンプリングすると共にダウンサンプリングされた比率データを符号化する。比率データ57がダウンサンプリングされる場合、HDR情報部16Bは、比率データ57又はトーンマップデータ15の画像サイズより小さい画像サイズを有する(即ち、HDR情報部16Bは、比率データ57又はトーンマップデータ15が値を指定する数の画素より少ない数の画素に対する値を指定する)。そのような場合、HDR情報部16Bは、トーンマップデータ15より低い空間解像度を有する。
【0040】
比率データ57がダウンサンプリング又は他の不可逆圧縮手順を受ける本発明の実施形態において、HDR情報16Bには、HDR画像データ12を正確に再構築するために必要な全ての細目が欠如することがある。比率データ57の不可逆圧縮に起因する歪は、トーンマップ部16A及び/又はHDR情報部16Bに補正を適用することによって少なくとも部分的に補正し得る。
【0041】
図4は、トーンマップ部16A又はHDR情報部16Bのデータに補正を適用して、トーンマップ部16A及び/又はHDR情報部16Bの不可逆符号化に起因するアーティファクトを低減する方法60の作用を示すフローチャートである。方法60は、ブロック62及び64において、HDR画像データ90及びトーンマップデータ91を取り込む。HDR画像データ90及びトーンマップデータ91は、上述した方法を含む何らかの適切な方法で得られる。幾つかの実施形態において、トーンマップデータ91は、矢印65によって示すように、HDR画像データ90から抽出される。
【0042】
ブロック66において、トーンマップデータ91が、符号化され、符号化されたトーンマップデータ92を生成する。本発明の幾つかの実施形態において、符号化ブロック66は、JPEG又はMPEG符号化を含む。その後、ブロック68において、符号化されたトーンマップデータ92が復号されて、再構築されたトーンマップデータ94が生成される。再構築ブロック68は、ブロック66がJPEG又はMPEG符号化を含む場合、符号化されたトーンマップデータ92をJPEG又はMPEGデコーダ等の適切なデコーダに渡す。
【0043】
ブロック70は、入力として、HDR画像データ90からの値(第1値)及び再構築されたトーンマップデータ94からの対応する値(第2値)をとる関数を適用することによって、比率データ96を生成する。この関数は、第1値を第2値で除算する段階又はその逆の段階を含む。本発明の簡単な実施形態では、比率データ96は、下式によって与えられる画像中の各画素に対する値RIを含む。
【0044】
【数1】

上式において、(x,y)は、画素を特定する座標であり、Lは、画素のデータから画素の輝度を返す関数であり、HDR(x,y)は、座標(x,y)のHDR画像データ90の画素データであり、TM(x,y)は、座標(x,y)の画素に対する再構築されたトーンマップデータ94(又は、トーンマップデータ91)の画素データである。幾つかの実施形態において、比率データは、RIの対数、RIの平方根、又はRIの他の関数を記憶する。
【0045】
ブロック72及び74は、比率データ96を符号化する。本例の実施形態において、この符号化は、ブロック72において比率データ96をダウンサンプリングして、ダウンサンプリングされた比率データ98を生成すること、次に、そのダウンサンプリングされた比率データ98を圧縮して、符号化された比率データ100を生成すること、を含む。ブロック72で行われるダウンサンプリングの量は、HDR画像部16Bを小さくすること、及びHDRデータ構造16から再構築されたHDR画像に最も高い忠実度でHDR画像データ90を再生させること、の競合する目標に基づき選択し得る。本発明の幾つかの実施形態において、比率データ96は、ダウンサンプリングされた比率データ98が比率データ96よりも1/4乃至1/15の範囲だけ少ない画素を有するように、充分にダウンサンプリングされる。
【0046】
例えば、ダウンサンプリングは、e−(x^2/R^2)の重み付け公式に従うガウスのフィルタカーネル(Gaussian filter kernel)を用いて行ない得る。なお、式中、xは、入力画像の出力画素の中心からの距離であり、Rは、ダウンサンプリング半径である。ダウンサンプリング半径は、寄与する入力画素の重みの合計が出力画素の合計値のかなりの部分になる領域と定義し得る。
【0047】
任意の適切な形態のデータ圧縮がブロック74で行われる。本発明の幾つかの実施形態において、ブロック74では、JPEG符号化を行う。本発明の他の実施形態において、ブロック74では、MPEG符号化を行う。
【0048】
ブロック76において、再構築された比率データ102は、符号化された比率データ100を復号することによって生成される。再構築された比率データ102は、ブロック74及び76におけるデータ欠落のために、通常、比率データ96と同じではない。
【0049】
ブロック78において、再構築されたHDR画像データ104は、ブロック70で比率データに適用された関数の逆関数を再構築された比率データ102に適用することによって、そして、各画素に対して、再構築されたトーンマップデータ94の画素の輝度にその結果を乗ずることによって生成される。例えば、比率データ96が、式(1)において定義される値RIを記憶する場合、再構築されたHDR画像データ104は、再構築されたトーンマップデータ94の各画素の輝度に再構築された比率データ102からの対応するRIの値を乗ずることによって得ることができる。例えば、比率データが、自然対数値In(RI)を記憶する場合、再構築されたHDR画像データ104は、自然対数の底であるeを再構築された比率データ102の値で累乗することによって、そして、その結果に再構築されたトーンマップデータ94の各画素の輝度を乗ずることによって得ることができる。
【0050】
再構築された比率データ102が元の比率データ96と同じではないため、さらには、通常あまり重要ではないが、比率データ96の丸め誤差(rounding error)のために、再構築されたHDR画像データ104はHDR原画像データ90とは異なる。オプションとして、ブロック80は、再構築されたHDR画像データ104とHDR原画像データ90とを比較して、何らかの補正が必要かどうかを判断し、また、その補正をどのように行うかを決定する。補正は、トーンマップ部16Aのデータを補正することによって、及び/又はHDR情報部16Bのデータを補正することによって行ない得る。幾つかの方法は、単に、これら補正の一方又は他方を行う。
【0051】
ブロック82では、補正されたトーンマップデータ106を取得する。補正されたトーンマップデータ106は、HDR原画像データ90を再構築された比率データ102で除算することによって得ることができる。そして、補正されたトーンマップデータ106は、必要に応じて、ブロック83によって符号化され、ブロック84においてHDRデータ構造16のトーンマップデータ部16Aとして記憶される。この事前補正は、再構築された比率データ102が利用可能になった後は、いつでも実行し得る。多くの目的の場合、この事前補正は、従来の画像ビューアでトーンマップデータ部16Aを閲覧することによって見ることができる画像を大幅に劣化させることはない。この補正は、この補正が無い状態の場合より、トーンマップ部16Aによって表現された画像を若干鮮明にする傾向にある。再構築されたHDR画像データ104は、ブロック86においてHDRデータ構造16のHDR情報部16Bとして記憶し得る。
【0052】
トーンマップ部16Aに記憶されたトーンマップデータを変更することが望ましくない場合がある。例えば、符号化されたトーンマップデータ92は、例えば、DVDプレーヤのMPEGデコーダ等の特定のビューアで閲覧される際、最良の画像品質を提供するために最適化されている。そのような場合には、符号化されたトーンマップデータ92は、データ構造16のトーンマップ部16Aに記憶し、比率データ96は、HDRデータ構造16のHDR情報部16Bに記憶される。データ構造16から生成されたHDR画像の見た目に対する補正は、HDR画像の再構築時、HDR情報部16Bを補正することによって成し得る。例えば、HDR情報部16Bのデータは、HDR画像を処理可能なビューアによって補正する。
【0053】
図5は、HDR情報部16Bのデータに事後補正を適用して、HDR情報部16Bの不可逆符号化に起因するアーティファクトを低減する方法110の作用を示すフローチャートである。方法110は、HDR画像を処理可能なプロセッサ上で実行される。トーンマップデータ部16Aはブロック112において標準デコーダによって復号され、標準画像19が生成される。復号されたトーンマップ情報は、ブロック114においてHDR情報部16Bを補正するために用いられる。補正されたHDR情報はブロック116においてHDRデコーダによって復号され、再構築されたHDR画像21が生成される。
【0054】
簡単な事例では、トーンマップデータ部16Aによって表現されたフル解像度画像の空間周波数の内容が、比率データ96のものとほとんど同じである場合、補正された比率データは、以下の計算を実施することによって得ることができる。
【0055】
【数2】

上式において、RICORRECTEDは、補正されたHDR情報が基づくRIの補正された値である。RIは、比率データ96からの画素の比率であり、L(TM)は、トーンマップデータ91からの画素の輝度であり、L(TM)は、ブロック72で行われるのと同じ方法でダウンサンプリングされ、ダウンサンプリングされた比率データ98を生成するトーンマップデータの対応する画素の輝度である。TM及びTMが同じ解像度を有するように、トーンマップデータは、ダウンサンプリングされ、比率画像RIと同じように再度アップサンプリングし得る。
【0056】
比率データ96にある空間周波数は、全ての画像に対して、トーンマップデータ91にある空間周波数と同じではないことから、この単純な補正は、常に適切であるとは限らない。従って、比率データ96のRIの値と、L(TM)の対応する値との間の比率の分散を考慮する因子を補正関数に含むことが好ましい。この分散を考慮する1つの方法は、下式に基づき、補正された値RICORRECTEDを生成することである。
【0057】
【数3】

上式において、σは、比率データ96のRIの値と、L(TM)の対応する値との間の比率の分散の大きさである。本発明の幾つかの実施形態において、σは、下式に基づき演算される。
【0058】
【数4】

分散関数var(x)は、近傍領域にある画素xの最大値と最小値との間の差異を、それら近傍領域にあるxの平均値で除したもの、又は、近傍領域の中央に位置する画素のxの値で除したものと定義し得る。例えば、分散は、対象とする画素を中心にした画素のブロック全体で算出し得る。σを計算する対象である近傍領域のサイズは、好適には、ブロック72のダウンサンプリングのダウンサンプリング半径に等しい。
【0059】
ブロック114によって提供される事後補正は、アーティファクトをもたらし得るため、補正の大きさの選択は、控えめであることが望ましい。例えば、var(L(TM))が、補正のために求められる誤差より大きい場合、σは、ゼロに設定し得る。誤差の大きさは、ブロック80の比較によって決定され、データ構造16に記憶し得る。また、0<=σ<=1を保証することも望ましい。σが、σ>1である値を有すると、RICORRECTEDの値が高くて望ましくない値になることがある。
【0060】
ブロック82、83及び84の事前補正をオプションとして行い、また、HDR画像を閲覧する際、ブロック83の補正を行わせ得る本発明の実施形態において、事前補正が行われたかどうか示すフラグをデータ構造16に含むことが望ましい。フラグは、好適には、HDR画像をサポートしない標準表示装置によってそれを無視し得るコメントフィールド又はアプリケーション拡張子フィールドに供給される。
【0061】
HDR表示装置は、従来の表示装置の全色領域外にある色を描写することも可能である。HDR原画像データによって指定された色の高忠実度再生が可能なメカニズムを提供することが望ましい。強化された色を提供する1つの方法は、色情報を調整して、トーンマップ部16Aを符号化するために用いられるエンコーダ(例えば、JPEG又はMPEGエンコーダであってよい)によって効果的に操作し得る範囲外の原色成分を有する任意の色が、そのエンコーダによって操作し得る範囲に調整して戻されるようにすることである。比率データは、調整された色を正確に回復するように調整し得る。
【0062】
強化された色を提供する1つの方法は、画像に一括不飽和を適用し、その間、トーンマップ部16Aを生成することである。画像の全ての色が、トーンマップ部16Aを符号化するために用いられるJPEGエンコーダや他のエンコーダによって効果的に操作し得る範囲内にあることを保証するために、不飽和の量を選択し得る。この方法は、負の原色成分を有する色を操作できることから、上述した方法より好ましい。負の原色成分は、幾つかのHDRフォーマットで許容され、標準の全RGB領域外の色を表現するために必要なことがある。不飽和処理は、復号化時、HDRビューアによって戻すことができる。
【0063】
入力色飽和レベルは、以下のように定義し得る。
【0064】
【数5】

上式において、Sは、飽和レベルであり、R、G及びBは、それぞれ赤、緑及び青原色成分の値であり、Yは、全体輝度である。飽和レベルは、画像が原色成分に対する何らかの負の値を含む場合、1より大きい値を有する。
【0065】
飽和レベルがゼロである場合、画像の追加処理は、不要である。飽和レベルがゼロでない場合、飽和レベルは、下式により修正し得る。
【0066】
【数6】

上式において、α及びβは、パラメータであり、S’は、補正された飽和である。αパラメータは、符号化された色にどれくらいの飽和を維持するか示す。
【0067】
飽和レベルの変更は、画像の各画素の原色成分に対する新しい値を導出することによって達成し得る。このことは、幾つかの実施形態において、下式に基づき行われる。
【0068】
【数7】

及び
【0069】
【数8】

及び
【0070】
【数9】

上式において、R’、G’及びB’は、それぞれR、G及びBの調整された値である。
【0071】
尚、この変換によって、輝度Yは変わらない。変換前に最も小さかった原色成分は、変換後最も小さいままである。元の色値は、式(7)、(8)及び(9)を逆にすることによって回復し得る。例えば、ある画素に対して最も小さい値を有する原色成分が青であった場合、その画素の青チャネルに対する逆変換は、下式によって与えられる。
【0072】
【数10】

また、赤及び緑チャネルに対する逆変換は、それぞれ下式によって与えられる。
【0073】
【数11】

及び
【0074】
【数12】

<例>
多数のHDR画像を、上述したように、HDRデータ構造16に記憶する。原画像を、HDRデータ構造16から再構築されたHDR画像と比較する。1993年、マサチューセッツ州ケンブリッジ、MIT出版部、ワトソン(A.B.Watson)監修のデジタル画像と人間の視覚において、ダリー(S.Daly)“視覚差異予測子:画像忠実度の評価のためのアルゴリズム”に記載されているダリーの視覚差異予測子(VDP)を用いて、再構築されたHDR画像の何パーセントの画素が、通常の閲覧条件の下で、HDR原画像の対応する画素と異なるものであると人間によって知覚される可能性があるか(例えば、75%より大きい確率を有するか)を評価した。VDPは、画像間の差異をいつ知覚し得るかについての良好な予測子であることが分かった。
【0075】
最初の組の実験は、種々のトーンマッピング演算子を用いてトーンマップ部16Aを生成し、また、各トーンマップ演算子に対して、上述した補正方法のうちの1つに基づき、トーンマップ部16A又はHDR情報部16Bのいずれかを補正する段階を含む。トーンマップ部16A及びHDR情報16Bを、JPEG符号化を用いて、2つの品質レベル90及び100で各々符号化する。この組の実験結果を表1に示す。
【0076】
表1のVDP値は、多数の画像全体で平均される。トーンマッピング演算子の選択は、HDRデータ構造16から再構築し得るHDR画像の品質にかなりの影響を及ぼすことが分かる。これらの実験に用いられるトーンマッピング演算子のうち、バイラテラルフィルタは、平均的に最良の結果を提供し得る。
【0077】
本発明の或る実施例は、本発明の方法をプロセッサに行わせるソフトウェア命令を実行するコンピュータプロセッサを含む。例えばコンピュータシステムの1つ又は複数のプロセッサが、プロセッサが利用可能なプログラムメモリ中のソフトウェア命令を実行することによって、図1〜5のいずれかの方法を実現し得る。本発明は、プログラムプロダクトの形態でも提供し得る。このプログラムプロダクトには、コンピュータプロセッサによって実行されると、本発明の方法をデータプロセッサに実行させる命令を含む一組のコンピュータ判読可能信号を保持する任意の媒体を含み得る。本発明によるプログラムプロダクトは、多種多様な形態のいずれかであってよい。プログラムプロダクトには、例えば、フロッピー(R)ディスク、ハードディスクを含む磁気データ記憶媒体、CD_ROM、DVDを含む光学データ記憶媒体、ROM、フラッシュRAMを含む電子データ記憶媒体等の物理的な媒体、又は、デジタル又はアナログ通信リンク等の伝送タイプの媒体を含み得る。命令は、オプションとして、圧縮及び/又は暗号化フォーマットのコンピュータ判読可能信号であってよい。
【0078】
構成要素(例えば、ソフトウェアモジュール、プロセッサ、組立体、装置、回路等)が上記において言及される場合、他に規定されない限り、その構成要素についての言及(“手段”についての言及を含む)は、本発明の例示した代表的な実施形態における機能を実行する開示した構成と構造的には等価でない構成要素等、記載した構成要素の機能を実行する(即ち、機能的に等価な)任意の構成要素をその構成要素の等価物として含むものとして解釈される。
【0079】
上記実施形態は、当業者には理解し得るように、本発明の思想又は範囲から逸脱することなく、種々の変更及び修正が可能である。本発明の範囲は、添付の特許請求の範囲によって定義される内容に基づき解釈される。

【特許請求の範囲】
【請求項1】
高ダイナミックレンジ画像データを復号化するための装置であって、
トーンマップ部と高ダイナミックレンジ(HDR)画像部とを含むデータ構造を受信する入力部と、
前記トーンマップ部を復号化して第1の画像を生成するためのデコーダと、
前記第1の画像をダウンサンプリングしてダウンサンプリングされた画像を生成し、前記第1の画像内における画素値と前記ダウンサンプリングされた画像内における対応する画素値との比率を判定して、該比率に基づく補正を前記HDR画像部により表現される画像データ内の対応する画素に対して行うように構成された補正システム部と、
を備える装置。
【請求項2】
請求項1に記載の装置において、
前記デコーダがJPEGデコーダからなることを特徴とする装置。
【請求項3】
請求項1に記載の装置において、
前記デコーダがMPEGデコーダからなることを特徴とする装置。
【請求項4】
請求項1に記載の装置において、
前記補正システム部は、前記ダウンサンプリングされた画像をアップサンプリングすることによりアップサンプリングされた画像を生成し、該アップサンプリングされた画像によって前記第1の画像を分割することを含む処理により、前記第1の画像内における画素値と前記ダウンサンプリングされた画像内における対応する画素値との比率を判定するように構成されていることを特徴とする装置。
【請求項5】
請求項4に記載の装置において、
前記補正システム部は、前記比率の指数を演算することを含む処理によって前記比率に基づく補正を行うように構成されていることを特徴とする装置。
【請求項6】
請求項5に記載の装置において、
前記補正システム部は、前記比率の分散指数σを演算するように構成されており、ここで、σは、前記HDR画像部内で表現される画像データの分散と前記ダウンサンプリングされた画像内における輝度値の分散との比率であることを特徴とする装置。
【請求項7】
表示用画像を処理可能なビューアであって、
トーンマップデータを復号化して第1の画像データを提供するためのデコーダと、
前記第1の画像データをダウンサンプリングしてダウンサンプリングされた画像データを提供するための手段と、
前記ダウンサンプリングされた画像データをアップサンプリングしてアップサンプリングされた画像データを提供するための手段と、
前記アップサンプリングされた画像データと前記第1の画像データとの差に基づく比率画像データを補正して、補正された比率画像データを生成するための手段と、
前記補正された比率画像データを前記第1の画像データに乗じることにより高ダイナミックレンジデータを提供するための手段と、
前記高ダイナミックレンジデータを表示するための表示部と、
を備えるビューア。
【請求項8】
表示装置であって、
初期ダイナミックレンジを有する高ダイナミックレンジ画像を表現するとともに、トーンマップ部と高ダイナミックレンジ情報部とを含むデータ構造を格納するデータ格納部であって、前記トーンマップ部が、前記画像を表現するトーンマップ情報を含むとともに、前記初期ダイナミックレンジより小さい低ダイナミックレンジを有し、前記高ダイナミックレンジ情報部が、前記トーンマップ部の値と前記高ダイナミックレンジ画像の対応する値との比率を記述する情報を含む、前記データ構造を格納するデータ格納部と、
前記トーンマップ部を復号化して第1の画像データを生成し、該第1の画像データを前記比率を記述する情報に応じて修正して前記データ構造から高ダイナミックレンジ画像を再構築することにより、前記高ダイナミックレンジ画像を表現する画像データを生成するように構成されたプロセッサと、
前記高ダイナミックレンジ画像を表示するための表示部と、
を備える表示装置。
【請求項9】
トーンマップ部と高ダイナミックレンジ(HDR)画像部とを含むデータ構造から高ダイナミックレンジ画像データを復号化するための方法であって、
前記トーンマップ部を復号化して第1の画像を生成すること、
前記第1の画像をダウンサンプリングしてダウンサンプリングされた画像を生成すること、
前記第1の画像内における画素値と前記ダウンサンプリングされた画像内における対応する画素値との比率を判定すること、
前記比率に基づく補正を前記HDR画像部により表現される画像データ内の対応する画素に対して行うこと、
を備える方法。
【請求項10】
請求項9に記載の方法が、
前記ダウンサンプリングされた画像をアップサンプリングすることによりアップサンプリングされた画像を生成すること、
前記アップサンプリングされた画像によって前記第1の画像を分割することを含む処理により、前記第1の画像内における画素値と前記ダウンサンプリングされた画像内における対応する画素値との比率を判定すること、
を備える、方法。
【請求項11】
請求項10に記載の方法が、
前記比率の指数を演算することを含む処理によって、前記比率に基づく補正を行うことを備える、方法。
【請求項12】
請求項11に記載の方法が、
前記比率の分散指数σを演算することを備え、ここで、σは、前記HDR画像部内で表現される画像データの分散と前記ダウンサンプリングされた画像内における輝度値の分散との比率であることを特徴とする方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2011−193511(P2011−193511A)
【公開日】平成23年9月29日(2011.9.29)
【国際特許分類】
【出願番号】特願2011−103752(P2011−103752)
【出願日】平成23年5月6日(2011.5.6)
【分割の表示】特願2007−508683(P2007−508683)の分割
【原出願日】平成16年12月24日(2004.12.24)
【出願人】(507236292)ドルビー ラボラトリーズ ライセンシング コーポレイション (82)
【Fターム(参考)】