画像処理装置
【課題】環境光の強度と入力画像の特徴量とに基づく画像処理を行って、消費電流を抑制しつつ主観画質の劣化を回避する。
【解決手段】画像処理装置100aは、環境光の強度に基づいて自発光型デバイスのパネル輝度を制御するパネル輝度制御部101と、入力画像の見え方を補正するための階調変換関数を入力画像の特徴量及びパネル輝度に基づいて算出する算出部103,104,105,106と、前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部108とを具備する。
【解決手段】画像処理装置100aは、環境光の強度に基づいて自発光型デバイスのパネル輝度を制御するパネル輝度制御部101と、入力画像の見え方を補正するための階調変換関数を入力画像の特徴量及びパネル輝度に基づいて算出する算出部103,104,105,106と、前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部108とを具備する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像の処理に関する。
【背景技術】
【0002】
人間の視覚特性として、同一の色が環境光に応じて異なる見え方をすることが知られている。非特許文献1には、「色の見えモデル」に基づくカラーマネジメントの手法が開示されている。また、パネル輝度、階調値などを環境光に適応して制御することにより画像の見え方を一定にするための技術が提案されている。例えば特許文献1には、照明条件に基づいて算出された色の見え指標を用いて画像表示装置を制御する技術が記載されている。
【0003】
OLED(Organic Light Emitting Diode)ディスプレイなどの自発光型デバイスは、表示コンテンツ(例えば、表示画像の輝度値)に応じて消費電流が大きく変動する。特許文献2には、平均階調値に基づいてピーク輝度値を制御することにより、OLEDディスプレイの消費電流を抑制または一定化する技術が記載されている。また、特許文献3には、ピーク輝度値を抑制しつつ、暗部シーンに関してダイナミックレンジを拡大することにより階調感を向上させ、かつ、明部シーンに関して高頻度な階調におけるコントラスト感を優先して復元することにより主観的なコントラスト感の低下を回避しながら消費電力を削減する技術が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−300639号公報
【特許文献2】特開2007−147868号公報
【特許文献3】特開2009−300517号公報
【非特許文献】
【0005】
【非特許文献1】CIE Publication No.159, A colour appearance model for colour management systems: CIECAM02
【発明の概要】
【発明が解決しようとする課題】
【0006】
従来、環境光に基づいてパネル輝度、階調値などを制御して色の見え方を維持する技術と、画像の特徴量(例えば、APL(Average Picture Level))に基づいてピーク輝度値を制御して消費電流を抑制する技術とが知られている。しかしながら、両者を効果的に組み合わせるための方針は、明らかでない。これらの技術を単純に組み合わせて実行すると、消費電流の抑制を重視するあまり主観画質が大きく劣化したり、主観画質の維持を重視するあまり消費電流を十分に抑制できなかったりするおそれがある。
【0007】
従って、本発明は、消費電流を抑制しつつ主観画質の劣化を回避することを目的とする。
【課題を解決するための手段】
【0008】
本発明の一態様に係る画像処理装置は、環境光の強度に基づいて自発光型デバイスのパネル輝度を制御するパネル輝度制御部と、入力画像の見え方を補正するための階調変換関数を前記入力画像の特徴量及び前記パネル輝度に基づいて算出する算出部と、前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部とを具備する。
【0009】
本発明の他の態様に係る画像処理装置は、環境光の強度に基づいて自発光型デバイスのパネル輝度を制御し、前記パネル輝度に応じた階調変換を設定するパネル輝度制御部と、入力画像の特徴量及び前記パネル輝度に基づいて前記入力画像に割り当てるピーク輝度を算出し、入力階調値が前記ピーク輝度以下となるように補正するための階調補正関数を算出し、前記階調補正関数によって補正された入力階調値に対して前記パネル輝度に応じた階調変換を行うための階調変換関数を算出する算出部と、前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部とを具備する。
【発明の効果】
【0010】
本発明によれば、消費電流を抑制しつつ主観画質の劣化を回避できる。
【図面の簡単な説明】
【0011】
【図1】第1の実施形態に係る画像処理装置に対応する画像処理機能を備える携帯電話機を示すブロック図。
【図2】第1の実施形態に係る画像処理装置が行う処理を示すフローチャート。
【図3】図2のステップS006の処理を示すフローチャート。
【図4】図3のステップS108の処理を示すフローチャート。
【図5】図4のステップS203の処理を示すフローチャート。
【図6】理想的なパネル特性のダイナミックレンジの拡大処理の説明図。
【図7】APLとゲインとの対応関係を示すグラフ。
【図8】階調値のヒストグラム。
【図9】図8の部分ヒストグラム。
【図10】図8の部分ヒストグラム。
【図11】階調補正関数の生成処理の説明図。
【図12】階調補正関数の生成処理の説明図。
【図13】第1の実施形態に係る画像処理装置を示すブロック図。
【図14】第2の実施形態に係る画像処理装置を示すブロック図。
【図15】様々な環境下でのAPL(Average Picture Level)と修正済みゲインとの対応関係を示すグラフ。
【発明を実施するための形態】
【0012】
以下、図面を参照して、本発明の実施形態について説明する。
(第1の実施形態)
本発明の第1の実施形態に係る画像処理装置は、例えば携帯電話機などの情報処理装置に備えられるCPU(Central Processing Unit)などのプロセッサがプログラムを実行することにより実現される。以降の説明では、携帯電話機に搭載される制御部がプログラムを実行することによって、本実施形態に係る画像処理装置に対応する画像処理機能を実現する場合を仮定する。尚、本実施形態に係る画像処理装置の一部または全部を、デジタル回路などのハードウェアによって実現してもよい。
【0013】
図1に示すように、上記携帯電話機は、アンテナ10、無線部11、信号処理部12、マイクロホン13、スピーカ14、I/F(インタフェース)20、アンテナ30、チューナ31、表示部40、表示制御部41、入力部50、記憶部60、照度センサ70及び制御部100を有する。
【0014】
無線部11は、制御部100からの指示に従って、信号処理部12からのベースバンドの送信信号をRF(Radio Frequency)帯にアップコンバートし、このRF帯の送信信号をアンテナ10を介して送信する。アンテナ10から送信された信号は、移動通信網NWに収容される基地局BSによって受信される。また、無線部11は、基地局BSから送信されたRF帯の信号をアンテナ10を介して受信し、このRF帯の受信信号をベースバンドにダウンコンバートし、信号処理部12に入力する。その他、無線部11は、送信処理においてフィルタリング、電力増幅などを行ってもよいし、受信処理においてフィルタリング、低雑音増幅などを行ってもよい。
【0015】
信号処理部12は、制御部100からの指示に従って、送信データに基づいて搬送波を変調することによりベースバンドの送信信号を生成し、無線部11に入力する。音声通信を行う場合には、マイクロホン13に入力された音声信号を符号化することにより生成された音声データが上記送信データとして処理される。一方、ストリーミング配信によって動画像データを受信する場合には、符号化ストリームを受信するために配信元へ送信される制御データが上記送信データとして処理される。制御データは、制御部100から入力される。符号化ストリームには、動画像データが多重されている。
【0016】
また、信号処理部12は、無線部11からのベースバンドの受信信号を復調し、受信データを得る。音声通信が行われる場合には、信号処理部12は、上記受信データを復号して音声信号を生成し、スピーカ14から出力する。一方、ストリーミング配信によって動画像を受信する場合には、信号処理部12は受信データから符号化ストリームを抽出し、制御部100に入力する。
【0017】
インタフェース20は、リムーバブルメディアRMなどの記憶媒体を制御部100に物理的及び電気的に接続し、この記憶媒体と制御部100との間でのデータの交換に利用される。尚、リムーバブルメディアには、符号化ストリームが記憶されていてもよい。チューナ31は、アンテナ30を介して放送局BCからのテレビジョン放送信号を受信し、この放送信号から符号化ストリームを抽出する。チューナ31は、符号化ストリームを制御部100に入力する。
【0018】
表示部40は、例えばOLEDディスプレイなどの自発光型デバイスである。表示部40は、動画像、静止画像、Webブラウザ等のコンテンツを表示できる。尚、自発光型デバイスは、表示コンテンツ次第で消費電流が大きく変動する。表示制御部41は、制御部100からの指示に従って表示部40を駆動制御する。表示制御部41は、制御部100から入力される表示データに基づく画像を表示部40に表示させる。
【0019】
入力部50は、複数のキースイッチ(例えば、テンキー)、タッチパネルなどの入力デバイスを備える。入力部50は、この入力デバイスを介してユーザからの要求を受け付けるユーザインタフェースである。
【0020】
記憶部60は、半導体記憶媒体(例えば、RAM(Random Access Memory)、ROM(Read Only Memory)など)、磁気記憶媒体(例えば、ハードディスクなど)などの記憶媒体である。記憶部60は、制御部100の制御プログラムまたは制御データ、ユーザが作成した種々のデータ(例えば、電話帳データなど)を記憶する。また、記憶部60は、チューナ31によって受信された符号化ストリームや、リムーバブルメディアRMに符号化ストリームを記録するための制御データなどを記憶してもよい。
【0021】
照度センサ部70は、周辺照度を検出するための照度センサを含む。照度センサは、一般に、フォトトランジスタ、フォトダイオードなどの光電変換素子を含む。照度センサ部70は、周辺照度を(例えばルクス(Lx)換算の)定量的な値として制御部100に入力する。尚、照度センサ部70は、環境光の強度を示すその他の指標を検出するためのセンサ部に置き換えられてもよい。
【0022】
制御部100は、CPUなどのプロセッサを備える。制御部100は、図1の携帯電話機の各構成要素を統括制御する。具体的には、制御部100は、音声通信、テレビジョン放送の受信、ストリーミング配信されるコンテンツの受信などの一部または全部を制御する。また、制御部100は、テレビジョン放送の受信、ストリーミング配信、記憶部60の読み出しなどによって得られる符号化ストリームに多重されている動画像データを復号化する機能を備えてもよい。更に、制御部100は、本実施形態に係る画像処理装置に相当する画像処理機能100aを備える。画像処理機能100aは、制御部100に備えられるプロセッサが、記憶部60などに記憶されるプログラム、制御データなどに従って動作することにより実現される。以降の説明において、画像処理機能100a及び画像処理装置100aを同様の意味で使用する。
【0023】
図13に示すように、画像処理装置100aは、パネル輝度制御部101、パネル輝度制御パラメータ蓄積部102、ヒストグラム生成部103、APL算出部104、ピーク輝度制御部105、階調変換関数算出部106、階調変換LUT(Look-Up Table)記憶部107及び映像変換部108を有する。パネル輝度制御部101、ヒストグラム生成部103、APL算出部104、ピーク輝度制御部105、階調変換関数算出部106及び映像変換部108は、制御部100に備えられたプロセッサによって実現されるソフトウェアモジュールである。また、パネル輝度制御パラメータ蓄積部102及び階調変換LUT記憶部107は、記憶部60などのプロセッサからアクセス可能な記憶手段によって実現される。
【0024】
以下、画像処理装置100aが行う処理を図2を用いて説明する。尚、図2のフローチャートにおいて各ステップの実行順は例示に過ぎない。即ち、処理間の依存関係が無い限り、複数のステップの処理を並列的に実行してもよいし、図2と異なる順序で実行してもよい。
【0025】
ステップS001において、パネル輝度制御部101は、照度センサ部70から周辺照度を示すセンサ値Lx(t)を取得する。ステップS001は、周期的に実行されてよく、例えば画像処理装置100aが処理対象とする復号画像のフレームレート(15Hz、30Hzなど)に同期して実行されてもよいし、フレームレートの所定倍(例えば2倍)の周期で実行されてもよいし、フレームレートに関係なく固定の周期で実行されてもよい。
【0026】
次に、パネル輝度制御部101は、ステップS001において取得したセンサ値Lx(t)を用いて現時刻の環境照度Lx_tを算出する(ステップS002)。具体的には、パネル輝度制御部101は、センサ値Lx(t)をそのまま現時刻の環境照度Lx_tとして算出してもよいし、過去数周期分のセンサ値Lx(t)の平均値を現時刻の環境照度Lx_tとして算出してもよい。また、パネル輝度制御部101は、前回の周期において算出した環境照度Lx_tと現在の周期において取得したセンサ値Lx(t)との間の差分によって現時刻の環境照度Lx_tの算出手法を切り替えてもよい。即ち、パネル輝度制御部101は、差分が所定の閾値TH_lx未満であれば周辺環境光に大きな変動はないと考えられるので、過去数周期分のセンサ値Lx(t)の平均値を現時刻の環境照度Lx_tとして算出してもよい。一方、パネル輝度制御部101は、差分が閾値TH_lx以上であれば周辺環境光が大きく変動したと考えられるので、センサ値Lx(t)をそのまま現時刻の環境照度Lx_tとして算出してもよい。
【0027】
次に、パネル輝度制御部101は、ステップS002において算出した、現時刻の環境照度Lx_tに対応するパネル輝度制御パラメータをパネル輝度制御パラメータ蓄積部102から取得する(ステップS003)。パネル輝度制御パラメータは、環境照度Lx_tに適したパネル輝度PL(Lx)と、環境照度Lx_tに適した階調変換γ(Lx,x)との2つのパラメータを含む。ここで、xは入力階調値を意味し、画像を構成する画素の階調値が8ビットで表現されるならば、xは「0」から「255」までの256階調を取り得る。パネル輝度制御部101は、パネル輝度PL(Lx)をピーク輝度制御部105及び表示制御部41に入力する。また、パネル輝度制御部101は、階調変換γ(Lx,x)を階調変換関数算出部106に入力する。
【0028】
パネル輝度PL(Lx)は、現時刻の環境照度Lx_tにおいて必要な白輝度(cd/m2)を表示するために必要な表示部40(例えば、OLEDディスプレイ)へのパネル設定値を表す。一般に、人間に知覚される映像感を現時刻の環境照度Lx_tに関わらず維持するために、パネル輝度は環境照度Lx_tの増加に連動して増加するように設計される。一方、階調変換γ(Lx,x)は、入力階調値xが現時刻の環境照度Lx_tに関わらず同一の色として見えるように設計されたγ変換を意味している。具体的には、階調変換γ(Lx,x)は、バートルソン−ブレナマン効果などの環境光に応じた色の見え方の違いを補正するように設計されている。尚、バートルソン−ブレナマン効果とは、同一の映像を暗環境及び明環境で夫々視聴した場合にコントラスト感の相違が生じる現象を意味する。これらパネル輝度PL(Lx)及び階調変換γ(Lx,x)は、例えば非特許文献1に記載される手法によって事前設計され、照度Lxに対応付けられてパネル輝度制御パラメータ蓄積部102に蓄積されている。
【0029】
一方、ステップS004において、ヒストグラム生成部103は、画像処理装置100aに入力される復号画像(入力画像)のフレーム毎に、画素の階調値のヒストグラムを生成する。ヒストグラム生成部103は、生成したヒストグラムをAPL算出部104に入力する。画素信号はYUV形式、RGB形式またはその他の形式であってもよい。具体的には、ヒストグラム生成部103は、所定幅の階調範囲毎にその階調範囲に属する階調値を持つ画素の数をカウントする。ヒストグラム生成部103は、各階調範囲を代表する階調値(代表階調値)と、その階調範囲の頻度(画素のカウント数)とを対応付けるヒストグラムを生成する。例えば、階調幅が「32」である場合には、図8に示すようなヒストグラムが得られる。階調幅は、階調値の総数とヒストグラムの階級とによって決まる。例えば、階調幅(例えば「32」)は、階調値の総数(例えば「256」)をヒストグラムの階級(例えば「8」)を用いて除算した値である。図8において、横軸に沿って代表階調値が示されている。代表階調値は、各階調範囲に含まれる階調値の平均値であってもよいし、その他の値であってもよい。
【0030】
ヒストグラム生成部103は、画素信号の全ての要素に関してヒストグラムを生成する必要はない。例えば、画素信号がYUV形式であれば、ヒストグラム生成部103はY信号のみに関してヒストグラムを生成すればよい。また、画素信号がRGB形式であれば、ヒストグラム生成部103は明度のみに関してヒストグラムを生成すればよい。明度は、RGBの各成分のうち最も大きい階調値に等しい。
【0031】
階調幅を大きくするほどヒストグラムを生成するために必要なメモリ容量を削減できる。例えば、階調幅が「32」であれば、8ビットのうち上位3ビットによって代表階調値を表現できる(下位5ビットは例えば「00000」に固定できる)。一方、階調幅が「1」であれば、代表階調値を表現するために8ビットの全てが使用される。尚、ステップS004の処理は、前述のステップS001からステップS003までの処理とは独立して実行可能である。
【0032】
次に、APL算出部104は、ステップS004において生成されたヒストグラムから1フレームの入力画像の画面平均輝度(APL(Average Picture Level)ともいう)を算出する(ステップS005)。具体的には、APL算出部104は、次の数式(1)または数式(2)に従って、ヒストグラムからAPLを算出する。
【数1】
【0033】
【数2】
【0034】
数式(1)及び数式(2)において、h(i)は階調iにおけるヒストグラムを表している。尚、h(i)は階調iが代表階調値に一致する場合を除き零となる。数式(1)によれば、入力画像の各画素の階調値を代表階調値に変換した場合における階調値の算術平均を示すAPLが得られる。一方、数式(2)によれば、入力画像の各画素の階調値を代表階調値に変換し、更にγ変換(γ=2.2)を用いて正規化した場合における正規化値の算術平均を示すAPLが得られる。尚、APL算出部104は、例えば中央値などAPL以外の特徴量を画像特徴量として算出してもよい。画像特徴量は、入力画像が明部シーンまたは暗部シーンのいずれであるかを判定するために有用であることが望ましい。
【0035】
次に、ピーク輝度制御部105が入力画像に割り当てられるピーク輝度の制御を行い、階調変換関数算出部106が階調補正関数f(x)を算出する(ステップS006)。尚、ステップS006における処理の詳細は、図3を用いて後述する。
【0036】
次に、階調変換算出部106は、ステップS006において生成した階調補正関数f(x)と、ステップS003において取得された階調変換γ(Lx,x)とを用いて、次の数式(3)に従って、階調変換関数F(x)を生成する(ステップS007)。階調変換算出部106は、階調変換関数F(x)を階調変換LUT記憶部107に記憶させる。即ち、階調変換LUT記憶部107には、出力階調値F(x)が入力階調値xに対応付けられて記憶される。
【数3】
【0037】
次に、映像変換部108は、ステップS007において算出された階調変換関数F(x)を用いて、入力画像の各画素の階調値を変換し、階調変換画像を生成する(ステップS008)。映像変換部108は、階調変換画像を表示画像情報として表示制御部41に入力する。具体的には、映像変換部108は、入力画像の各画素の階調値に対応する変換階調値を階調変換LUT記憶部107から取得する。次に、表示制御部41は階調変換画像の表示タイミングに同期してステップS003において取得されたパネル設定値を表示部40に設定し(ステップS009)、図2の処理は終了する。
【0038】
以下、図3を用いて、図2のステップS006における処理の詳細を説明する。
ステップS101において、ピーク輝度制御部105は、ステップS004において算出されたAPLに応じたgainを算出する。gainは、ピーク輝度の制御及び理想的なパネル特性のダイナミックレンジの制御のための比率であるが、後述するようにステップS102において修正される。具体的には、ピーク輝度制御部105は、例えば図7に示すような、APLとgainとの対応関係に従って、APLに応じたgainを算出する。尚、図7の対応関係は例示に過ぎない。この対応関係は、図7のように線形関数を組み合わせて表現されてもよいし、ガウス分布によってモデル化された関数で表現されてもよい。ピーク制御部105は、上記対応関係をLUTとして用意(保持)し、このLUTを参照することによりgainを算出してもよいし、上記対応関係を示す関数をAPLに適用することによりgainを算出してもよい。ピーク輝度制御部105は、入力画像が暗部シーンに対応する(例えば、APLが低い)場合には、階調感向上のために1以上のgainを算出することが望ましい。一方、ピーク輝度制御部105は、入力画像が明部シーンに対応する(例えば、APLが高い)場合には、低消費電力化のために1未満のgainを算出することが望ましい。但し、ピーク輝度制御部105は、暗部シーンに関して階調感向上以外の目的のために1未満のgainを算出したり、明部シーンに関して低消費電力化以外の目的のために1以上のgainを算出したりしてもよい。
【0039】
次に、ピーク輝度制御部105は、ステップS003において取得されたパネル輝度PL(Lx)に基づいて、ステップS101において算出したgainを修正する(ステップS102)。
【0040】
以下、gainを修正することの技術的意義を説明する。
一般に、OLEDディスプレイなどの自発光型デバイスは、パネル輝度が異なれば同一の映像(階調値)を表示する際の消費電力が異なる。即ち、パネル輝度を抑制することにより白輝度の明るさ(cd/m2)を低下させるほど、消費電力を削減できる。ここで、ピーク輝度の抑制によってパネルの消費電力を一定割合だけ削減するように階調補正関数を算出したとする。パネル輝度が明るく設定されている場合、本来の消費電力量が相対的に大きいので、この階調補正関数の適用による消費電力の削減効果も相対的に大きくなる。一方、パネル輝度が暗く設定されている場合、本来の消費電力量が相対的に小さいので、この階調補正関数の適用による消費電力の削減効果も相対的に小さくなる。即ち、パネル輝度が暗く設定されている場合には、本来の消費電力量が小さく、ピーク輝度の抑制による消費電力の削減効果はあまり期待できない。
【0041】
また、人間の視覚特性として、光強度(cd/m2)の1/3乗に比例して明るさ感を知覚することが知られている。即ち、人間は、高い階調に比べて低い階調における明るさの変化に敏感である。ここで、ピーク輝度を一定割合だけ抑制するように階調補正関数を算出したとする。パネル輝度が明るく設定されている場合、この階調補正関数の適用による明るさ感の劣化は相対的に小さい。一方、パネル輝度が暗く設定されている場合、この階調補正関数の適用による明るさ感の劣化は相対的に大きい。
【0042】
以上のように、パネル輝度が高い(明るい)場合には、ピーク輝度の抑制は消費電力の削減の観点及び明るさ感の劣化の観点から望ましいと考えられる。一方、パネル輝度が低い(暗い)場合には、ピーク輝度の抑制は消費電力の削減の観点及び明るさ感の劣化の観点から必ずしも望ましくないと考えられる。故に、ピーク輝度制御部105は、ピーク輝度を効果的に制御するために、APLによって決まるgainをパネル輝度PL(Lx)の増加に対して単調減少する値gain_cに修正する。
具体的には、ピーク輝度制御部105は、次の数式(4)に従って、暗環境向けゲインgain_lを算出する。
【数4】
【0043】
数式(4)によれば、ステップS101において算出されたgain及び「1」のうち大きい方が暗環境向けゲインgain_lに代入される。尚、ピーク輝度制御部105は、数式(4)以外の手法で暗環境向けゲインgain_lを算出してもよい。ピーク輝度制御部105は、次の数式(5)に従って、修正済みゲインgain_cを算出する。
【数5】
【0044】
数式(5)において、PLにはステップS003において取得されたパネル輝度PL(Lx)が代入される。また、PL_hは明環境判定用の閾値を表し、PL_lは暗環境判定用の閾値を表す。尚、前述の通りパネル輝度は環境照度に連動して増加するように設計されているので、以降の説明において環境光の明暗をパネル輝度の明暗と同様の意味で使用する。即ち、明環境とはパネル輝度の高い環境の意味で使用され、暗環境とはパネル輝度の低い環境の意味で使用される。Cd(PL)は、パネル輝度PLを設定したときの白輝度を表す。尚、数式(5)において白輝度を用いて条件分岐を規定しているが、パネル輝度を用いて条件分岐を規定してもよい。即ち、「if(Cd(PL)<Cd(PL_l))」は「if(PL<PL_l)」に書き換えられてもよいし、「if(Cd(PL_h)<Cd(PL))」は「if(PL_h<PL)」に書き換えられてもよい。数式(5)は、暗環境、通常環境(暗環境及び明環境以外の環境)及び明環境における、修正済みゲインgain_cを夫々表す。具体的には、暗環境において、修正済みゲインgain_cは暗環境向けゲインgain_lとなる。明環境において、修正済みゲインgain_cはgain(即ち、修正なし)となる。通常環境において、修正済みゲインgain_cは、gain及びgain_lの線形内挿により算出される。図15は、数式(5)によって算出される、修正済みゲインgain_cとAPLとの対応関係を示している。図15は、左側から順に、暗環境、通常環境及び明環境の修正済みゲインgain_cを示している。尚、修正済みゲインgain_cは、数式(5)以外の手法で算出されてもよい。例えば、ピーク輝度制御部105は、ガウス分布などによりモデル化された関数に従って、修正済みゲインgain_cを算出してもよい。
【0045】
ピーク輝度制御部105は、修正済みゲインgain_cを用いて、ピーク輝度Ypeakを次の数式(6)に従って算出する。
【数6】
【0046】
数式(6)においてclip(a, b)は、aがb未満である場合にa、aがb以上である場合にbを夫々返すクリップ関数である。また、INT()は、整数への丸め関数である。即ち、修正済みゲインgain_cが「1」未満であれば、ピーク輝度Ypeakはgain_cと「255」との積を整数に丸めた値となる。一方、修正済みゲインgain_cが「1」以上であれば、ピーク輝度Ypeakは「255」となる。ピーク輝度制御部105は、修正済みゲインgain_c及びピーク輝度Ypeakを階調変換関数算出部106に入力する。
【0047】
次に、階調変換関数算出部106は、修正済みゲインgain_cが「1」未満であるか否かを判定する(ステップS103)。修正済みゲインgain_cが「1」未満であれば処理はステップS104に進み、そうでなければ処理はステップS106に進む。
【0048】
ステップS104において、階調変換関数算出部106は、表示部40の理想的な階調−明るさ特性G(y)を、次の数式(7)によって定義する。数式(7)の右辺は、8ビットの階調値yに対応する理想的な明るさを、表示部40が再現可能な最大の明るさを「1.0」として正規化している。階調変換関数算出部106は、例えばLUTの形式で数式(7)の右辺を保持してもよい。
【数7】
【0049】
即ち、階調変換関数算出部106は、数式(7)の右辺のダイナミックレンジを維持する。図6における2点鎖線は、この特性G(y)を示している。尚、階調変換関数算出部106は、階調−明るさ特性G(y)に代えて、均等色空間において定義されている明度に関する階調−明度特性GL*(y)を利用してもよい。階調−明度特性GL*(y)と、階調−明るさ特性G(y)との関係を、次の数式(8)に示す。階調変換関数算出部106は、例えばLUTの形式で数式(8)を保持してもよい。
【数8】
【0050】
階調変換関数算出部106は、次の数式(9)に示すように、表示部40の階調−明るさ特性g(y)に理想的な階調−明るさ特性G(y)を設定し(ステップS105)、処理はステップS108に進む。前述のように、理想的な階調−明るさ特性G(y)は数式(7)の右辺のダイナミックレンジを維持しているので、表示部40は入力階調yに対応する全ての明るさG(y)を再現できる。
【数9】
【0051】
尚、階調変換関数算出部106は、表示部40の階調−明るさ特性g(y)に代えて、階調−明度特性gL*(y)を、次の数式(10)に従って設定してもよい。
【数10】
【0052】
ステップS106において、階調変換関数算出部106は、表示部40の理想的な階調−明るさ特性G(y)を、次の数式(11)によって定義する。
【数11】
【0053】
即ち、階調変換関数算出部106は、数式(7)の右辺のダイナミックレンジを修正済みゲインgain_c倍に拡大している。図6における実線は、この特性G(y)を示している。尚、図6から明らかなように、この特性G(y)は表示部40が再現不可能な明るさ(「1.0」を超える明るさ)を含んでいる。
【0054】
尚、階調変換関数算出部106は、階調−明るさ特性G(y)に代えて、階調−明度特性GL*(y)を利用してもよい。階調変換関数算出部106は、次の数式(12)によって、階調−明度特性GL*(y)を定義できる。
【数12】
【0055】
階調変換関数算出部106は、次の数式(13)に示すように、表示部40の階調−明るさ特性g(y)に理想的な階調−明るさ特性G(y)を上限付きで設定し(ステップS107)、処理はステップS108に進む。前述のように、理想的な階調−明るさ特性G(y)は、数式(7)の右辺のダイナミックレンジを拡大しているので、表示部40が再現不可能な明るさを含む。
【数13】
【0056】
数式(13)によれば、yに対応する明るさG(y)が「1.0」未満であればG(y)、「1.0」以上であれば「1.0」が表示部40の階調−明るさ特性g(y)に夫々設定される。図6における破線は、この階調−明るさ特性g(y)を示している。尚、階調変換関数算出部106は、表示部40の階調−明るさ特性g(y)に代えて、階調−明度特性gL*(y)を次の数式(14)に従って設定してもよい。
【数14】
【0057】
ステップS108において、階調変換関数算出部106は、理想的な階調−明るさ特性G(y)、表示部40の階調−明るさ特性g(y)及びステップS004において生成されたヒストグラムを用いて階調補正関数f(x)を決定し、図3の処理は終了する。尚、階調−明るさ特性G(y)及び階調−明度特性GL*(y)は、いずれも理想的なパネル特性として参照されてもよい。また、階調−明るさ特性g(y)及び階調−明度特性gL*(y)は、いずれも表示部40のパネル特性として参照されてもよい。階調変換関数算出部106は、f(0)=0、f(255)=ピーク輝度Ypeakとして階調補正関数f(x)を初期化する。また、階調変換関数算出部106は、f(1)からf(254)までを、上記f(0)及びf(255)を用いた線形補間などによって初期化する。
【0058】
以下、図4を用いて、図3のステップS108における処理の詳細を説明する。
ステップS201において、階調変換関数算出部106は、入力階調Xtを選択する。例えば、階調変換関数算出部106は、ステップS004において生成されたヒストグラムの代表階調値を入力階調Xtとして順次選択する。例えば、階調変換関数算出部106は、「0」と「255」との中間である「128」を入力階調Xtとして最初に選択し(図11を参照)、「0」と「128」との中間である「64」または「128」と「256」の中間である「192」を入力階調Xtとして続けて選択する(図12を参照)。
【0059】
図4の処理によって、階調変換関数算出部106は、様々な入力階調Xtに関して、後述する評価値Eが最小となる出力階調Yを夫々導出する。そして、階調変換関数算出部106は、f(Xt)=Yを決定する。尚、入力階調Xtは処理負荷軽減の観点から離散値であることが望ましい。階調変換関数算出部106は、入力階調Xtとして選択されない入力階調に対応する出力階調を、決定済みの出力階調Yの線形補間などによって導出できる。勿論、階調変換関数算出部106は、全ての入力階調を入力階調Xtとして選択し、図4の処理を行ってもよい。
【0060】
次に、階調変換関数算出部106は、ステップS201において選択した入力階調Xtに関して部分ヒストグラムを生成する(ステップS202)。具体的には、階調変換関数算出部106は、入力階調Xtを挟む2つの処理済みの入力階調X0及びX1の間の範囲の部分ヒストグラムを生成する。部分ヒストグラムは、最小階調X0以上入力階調Xt未満の範囲の頻度と、入力階調Xt以上最大階調X1以下の範囲の頻度との2つを含む。例えば、入力階調Xt=「128」であれば、階調変換関数算出部106は、入力階調Xtを挟む2つの処理済みの入力階調X0=「0」及びX1=「255」の間の範囲の部分ヒストグラムを次の数式(15)に従って生成する(図10を参照)。また、入力階調Xt=「64」または「192」であれば、階調変換関数算出部106は、入力階調Xtを挟む2つの処理済みの入力階調X0=「0」または「128」及びX1=「128」または「256」の間の範囲の部分ヒストグラムを生成する(図9を参照)。
【数15】
【0061】
次に、階調変換関数算出部106は、ステップS202において算出した部分ヒストグラムなどに基づく評価値Eが最小となる出力階調Yを算出する(ステップS203)。ステップS203における処理の詳細は、図5を用いて後述する。次に、階調変換関数算出部106は、全ての入力階調Xtについて処理が完了したか否かを判定する(ステップS204)。全ての入力階調Xtについて処理が完了していれば図4の処理は終了し、そうでなければ処理はステップS201に戻る。
【0062】
以下、図5を用いて、図4のステップS203における処理の詳細を説明する。
ステップS301において、階調変換関数算出部106は、出力階調Y及び最小評価値Eminを例えば次の数式(16)に従って初期化し、処理はステップS302に進む。
【数16】
【0063】
尚、数式(16)において、MAX_VALはEminに関して十分に大きな値である。
ステップS302において、階調変換関数算出部106は、評価値E1及び評価値E2を例えば次の数式(17)に従って初期化する。
【数17】
【0064】
次に、階調変換関数算出部106は、評価値E1を算出する(ステップS303)。具体的には、階調変換関数算出部106は、次の数式(18)、数式(19)または数式(20)に従って、評価値E1を算出する。
【数18】
【0065】
数式(18)によれば、評価値E1は、入力階調Xtに対応する理想的な明るさG(Xt)と、出力階調Yに対応する表示部40の明るさg(Y)との差分絶対値に、ステップS202において生成した部分ヒストグラムの総和を乗じた値となる。
【数19】
【0066】
数式(19)によれば、評価値E1は、入力階調Xtに対応する理想的な明るさG(Xt)と、出力階調Yに対応する表示部40の明るさg(Y)との二乗誤差に、ステップS202において生成した部分ヒストグラムの総和を乗じた値となる。
【数20】
【0067】
数式(20)によれば、評価値E1は、入力階調Xtに対応する理想的な明度GL*(Xt)と、出力階調Yに対応する表示部40の明度gL*(y)との二乗誤差に、ステップS202において生成した部分ヒストグラムの総和を乗じた値となる。
【0068】
また、階調変換関数算出部106は、評価値E2を算出する(ステップS304)。尚、ステップS303とステップS304は逆順に行われてもよいし、並列して行われてもよい。具体的には、階調変換関数算出部106は、次の数式(21)に従って、入力階調Xtに関する勾配ΔG(X0,Xt)及びΔG(Xt,X1)を算出する。
【数21】
【0069】
数式(21)によれば、勾配ΔG(X0,Xt)は、入力階調Xtに対応する理想的な明るさG(Xt)から最小階調X0に対応する理想的な明るさG(X0)を減じた値となる。一方、数式(21)によれば、勾配ΔG(Xt,X1)は、最大階調X1に対応する理想的な明るさG(X1)から入力階調Xtに対応する理想的な明るさG(Xt)を減じた値となる。尚、数式(21)は、理想的な階調−明度特性GL*(x)に関して書き換えられてもよい。
【0070】
また、階調変換関数算出部106は、次の数式(22)に従って、入力階調Xtに関する勾配Δg(f(X0),Y)及びΔg(Y,f(X1))を算出する。
【数22】
【0071】
数式(22)によれば、勾配Δg(f(X0),Y)は、出力階調Yに対応する表示部40の明るさg(Y)から出力階調f(X0)に対応する表示部40の明るさg(f(X0))を減じた値となる。一方、数式(22)によれば、勾配Δg(Y,f(X1))は、出力階調f(X1)に対応する表示部40の明るさg(f(X1))から出力階調Yに対応する表示部40の明るさg(Y)を減じた値となる。尚、数式(22)は、表示部40の階調−明度特性gL*(x)に関して書き換えられてもよい。
【0072】
そして、階調変換関数算出部106は、以下の数式(23)、数式(24)または数式(25)に従って、評価値E2を算出する。
【数23】
【0073】
数式(23)によれば、評価値E2は、勾配ΔG(X0,Xt)と勾配Δg(f(X0),Y)の差分絶対値に最小階調X0以上入力階調Xt未満の範囲の頻度H(X0,Xt−1)を乗じた値と、勾配ΔG(Xt,X1)と勾配Δg(Y,f(X1))の差分絶対値に入力階調Xt以上最大階調X1未満の範囲の頻度H(Xt,X1)を乗じた値との和となる。
【数24】
【0074】
数式(24)によれば、評価値E2は、勾配ΔG(X0,Xt)と勾配Δg(f(X0),Y)の二乗誤差に最小階調X0以上入力階調Xt未満の範囲の頻度H(X0,Xt−1)を乗じた値と、勾配ΔG(Xt,X1)と勾配Δg(Y,f(X1))の二乗誤差に入力階調Xt以上最大階調X1未満の範囲の頻度H(Xt,X1)を乗じた値との和となる。
【数25】
【0075】
数式(25)によれば、評価値E2は、勾配ΔGL*(X0,Xt)と勾配ΔgL*(f(X0),Y)の二乗誤差に最小階調X0以上入力階調Xt未満の範囲の頻度H(X0,Xt−1)を乗じた値と、勾配ΔGL*(Xt,X1)と勾配ΔgL*(Y,f(X1))の二乗誤差に入力階調Xt以上最大階調X1未満の範囲の頻度H(Xt,X1)を乗じた値との和となる。
【0076】
次に、階調変換関数算出部106は、ステップS303において算出した評価値E1及びステップS304において算出した評価値E2を用いて、次の数式(26)に従って、評価値Eを算出する(ステップS305)。
【数26】
【0077】
数式(26)において、λは0以上1以下の重み係数である。
次に、階調変換関数算出部106は、ステップS305において算出した評価値Eとその時点における最小評価値Eminとを比較する(ステップS306)。評価値Eが最小評価値Emin未満であれば処理はステップS307に進み、そうでなければ処理はステップS309に進む。
【0078】
ステップS307において、階調変換関数算出部106は、最小評価値EminをステップS305において算出した評価値Eによって更新する。また、階調変換算出部106は、入力階調Xtに対応する出力階調f(Xt)をYに更新し(ステップS308)、処理はステップS309に進む。
【0079】
ステップS309において、階調変換関数算出部106は、全ての出力階調Yについて処理が完了したか否かを判定する(ステップS309)。全ての出力階調Yについて処理が完了していれば図5の処理は終了し、そうでなければ処理はステップS310に進む。例えば、出力階調Yの上限としてf(X1)またはこれに近い値が設定されてよい。ステップS310において、階調変換関数算出部106は、出力階調Yを更新(例えば「1」だけインクリメント)し、処理はステップS302に戻る。
【0080】
APLが小さく、修正済みゲインgain_cが1以上の暗部シーンにおいて、理想的なパネル特性のダイナミックレンジが修正済みゲインgain_cに基づいて拡大される。このダイナミックレンジが拡大された理想的なパネル特性と、ヒストグラムとに基づいて階調補正関数f(x)が算出される。階調変換関数F(x)は、入力階調値xに対応する補正階調値f(x)に、パネル輝度に応じた階調変換を適用する。故に、階調変換画像は、入力階調値xに上記階調変換を適用した場合に比べて、明るさ感は擬似的に増加する一方、階調つぶれは発生しないので、階調感が向上する。
【0081】
一方、APLが高く、修正済みゲインgain_cが1未満の明部シーンにおいて、ピーク輝度Ypeakが修正済みゲインgain_cに基づいて抑制される。この抑制されたピーク輝度Ypeakと、理想的なパネル特性と、ヒストグラムとに基づいて階調補正関数f(x)が算出される。具体的には、階調補正関数f(x)は、理想的なパネル特性が持つコントラスト感を高頻度な階調において優先的に復元する。階調変換関数F(x)は、入力階調値xに対応する補正階調値f(x)に、パネル輝度に応じた階調変換を適用する。故に、階調変換画像は、入力階調値xに上記階調変換を適用した場合に比べて、主観的なコントラスト感の低下を回避しつつ消費電力を削減できる。
【0082】
本実施形態に係る画像処理装置100aは、修正済みゲインgain_cを用いて、理想的なパネル特性のダイナミックレンジ及びピーク輝度Ypeakを制御する。この修正済みゲインgain_cは、APLによって決まるgainをパネル輝度の増加に対して単調減少する値に修正することによって算出される。結果的に、明環境(高パネル輝度)において明部シーンを表示する場合には、ピーク輝度Ypeakはより大きく抑制される。一方、暗環境(低パネル輝度)において暗部シーンを表示する場合には、理想的なパネル特性のダイナミックレンジはより大きく拡大される。即ち、高パネル輝度において明部シーンを表示する場合には、ピーク輝度Ypeakの大幅な抑制によって消費電力が効果的に削減される。一方、低パネル輝度において暗部シーンを表示する場合には理想的なパネル特性のダイナミックレンジの大幅な拡大によって高い階調感が維持される。また、任意のAPLに関して、パネル輝度が高くなるほど消費電力の削減が重視され、パネル輝度が低くなるほど階調感の向上が重視される。一方、任意のパネル輝度に関して、APLが高くなるほど消費電力の削減が重視され、APLが低くなるほど階調感の向上が重視される。従って、画像処理装置100aによれば、人間の視覚特性と自発光型デバイスの消費電流特性とに適う効果的な画像処理が実現できる。
【0083】
以上説明したように、本発明の第1の実施形態に係る画像処理装置は、環境光の強度にと入力画像の特徴量とに基づく画像処理を行う。具体的には、本実施形態に係る画像処理装置は、明環境及び明部シーンに関して消費電力の削減を重視し、暗環境及び暗部シーンに関して階調感の向上を重視する。従って、本実施形態に係る画像処理装置によれば、消費電流を抑制しつつ主観画質の劣化を回避できる。
【0084】
(第2の実施形態)
図14に示すように、本発明の第2の実施形態に係る画像処理装置100aは、パネル輝度制御部101、パネル輝度制御パラメータ蓄積部102、ヒストグラム生成部103、APL算出部104、階調変換関数算出部200、ピーク輝度ゲインパラメータ蓄積部201、階調変換LUT記憶部107及び映像変換部108を有する。以下の説明では、図14において図13と同一部分には同一符号を付して示し、異なる部分を中心に述べる。
【0085】
階調変換関数算出部200は、APL算出部104からAPLを入力され、パネル輝度制御部101から階調変換γ(Lx,x)及びパネル輝度PL(Lx)を入力される。ピーク輝度ゲインパラメータ蓄積部201は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cが記憶される2次元LUTを保持している。この2次元LUTは、予めオフラインで作成されてもよい。階調変換関数算出部200は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cをピーク輝度ゲインパラメータ蓄積部201から取得する。即ち、階調変換関数算出部200は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cを前述のピーク輝度制御部105よりも短時間で導出できる。階調変換算出部200は、この修正済みゲインgain_cを用いて階調変換関数F(x)を算出する。
【0086】
以上説明したように、本発明の第2の実施形態に係る画像処理装置は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cが記憶される2次元LUTを利用して、入力されるパネル輝度制御パラメータに応じた修正済みゲインgain_cを取得する。従って、本実施形態に係る画像処理装置によれば、修正済みゲインgain_cを第1の実施形態に比べて短時間で導出できるので、一連の画像処理を短時間で完了できる。
【0087】
尚、本発明は上記各実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また上記各実施形態に開示されている複数の構成要素を適宜組み合わせることによって種々の発明を形成できる。また例えば、各実施形態に示される全構成要素からいくつかの構成要素を削除した構成も考えられる。さらに、異なる実施形態に記載した構成要素を適宜組み合わせてもよい。
【0088】
例えば、上記各実施形態の処理を実現するプログラムを、コンピュータで読み取り可能な記憶媒体に格納して提供することも可能である。記憶媒体としては、磁気ディスク、光ディスク(CD−ROM、CD−R、DVD等)、光磁気ディスク(MO等)、半導体メモリなど、プログラムを記憶でき、かつ、コンピュータが読み取り可能な記憶媒体であれば、その記憶形式は何れの形態であってもよい。
【0089】
また、上記各実施形態の処理を実現するプログラムを、インターネットなどのネットワークに接続されたコンピュータ(サーバ)上に格納し、ネットワーク経由でコンピュータ(クライアント)にダウンロードさせてもよい。
【符号の説明】
【0090】
10・・・アンテナ
11・・・無線部
12・・・信号処理部
13・・・マイクロホン
14・・・スピーカ
20・・・I/F
30・・・アンテナ
31・・・チューナ
40・・・表示部
41・・・表示制御部
50・・・入力部
60・・・記憶部
70・・・照度センサ
100・・・制御部
100a・・・画像処理機能(画像処理装置)
101・・・パネル輝度制御部
102・・・パネル輝度制御パラメータ蓄積部
103・・・ヒストグラム生成部
104・・・APL算出部
105・・・ピーク輝度制御部
106・・・階調変換関数算出部
107・・・階調変換LUT記憶部
108・・・映像変換部
200・・・階調変換関数算出部
201・・・ピーク輝度ゲインパラメータ蓄積部
【技術分野】
【0001】
本発明は、画像の処理に関する。
【背景技術】
【0002】
人間の視覚特性として、同一の色が環境光に応じて異なる見え方をすることが知られている。非特許文献1には、「色の見えモデル」に基づくカラーマネジメントの手法が開示されている。また、パネル輝度、階調値などを環境光に適応して制御することにより画像の見え方を一定にするための技術が提案されている。例えば特許文献1には、照明条件に基づいて算出された色の見え指標を用いて画像表示装置を制御する技術が記載されている。
【0003】
OLED(Organic Light Emitting Diode)ディスプレイなどの自発光型デバイスは、表示コンテンツ(例えば、表示画像の輝度値)に応じて消費電流が大きく変動する。特許文献2には、平均階調値に基づいてピーク輝度値を制御することにより、OLEDディスプレイの消費電流を抑制または一定化する技術が記載されている。また、特許文献3には、ピーク輝度値を抑制しつつ、暗部シーンに関してダイナミックレンジを拡大することにより階調感を向上させ、かつ、明部シーンに関して高頻度な階調におけるコントラスト感を優先して復元することにより主観的なコントラスト感の低下を回避しながら消費電力を削減する技術が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−300639号公報
【特許文献2】特開2007−147868号公報
【特許文献3】特開2009−300517号公報
【非特許文献】
【0005】
【非特許文献1】CIE Publication No.159, A colour appearance model for colour management systems: CIECAM02
【発明の概要】
【発明が解決しようとする課題】
【0006】
従来、環境光に基づいてパネル輝度、階調値などを制御して色の見え方を維持する技術と、画像の特徴量(例えば、APL(Average Picture Level))に基づいてピーク輝度値を制御して消費電流を抑制する技術とが知られている。しかしながら、両者を効果的に組み合わせるための方針は、明らかでない。これらの技術を単純に組み合わせて実行すると、消費電流の抑制を重視するあまり主観画質が大きく劣化したり、主観画質の維持を重視するあまり消費電流を十分に抑制できなかったりするおそれがある。
【0007】
従って、本発明は、消費電流を抑制しつつ主観画質の劣化を回避することを目的とする。
【課題を解決するための手段】
【0008】
本発明の一態様に係る画像処理装置は、環境光の強度に基づいて自発光型デバイスのパネル輝度を制御するパネル輝度制御部と、入力画像の見え方を補正するための階調変換関数を前記入力画像の特徴量及び前記パネル輝度に基づいて算出する算出部と、前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部とを具備する。
【0009】
本発明の他の態様に係る画像処理装置は、環境光の強度に基づいて自発光型デバイスのパネル輝度を制御し、前記パネル輝度に応じた階調変換を設定するパネル輝度制御部と、入力画像の特徴量及び前記パネル輝度に基づいて前記入力画像に割り当てるピーク輝度を算出し、入力階調値が前記ピーク輝度以下となるように補正するための階調補正関数を算出し、前記階調補正関数によって補正された入力階調値に対して前記パネル輝度に応じた階調変換を行うための階調変換関数を算出する算出部と、前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部とを具備する。
【発明の効果】
【0010】
本発明によれば、消費電流を抑制しつつ主観画質の劣化を回避できる。
【図面の簡単な説明】
【0011】
【図1】第1の実施形態に係る画像処理装置に対応する画像処理機能を備える携帯電話機を示すブロック図。
【図2】第1の実施形態に係る画像処理装置が行う処理を示すフローチャート。
【図3】図2のステップS006の処理を示すフローチャート。
【図4】図3のステップS108の処理を示すフローチャート。
【図5】図4のステップS203の処理を示すフローチャート。
【図6】理想的なパネル特性のダイナミックレンジの拡大処理の説明図。
【図7】APLとゲインとの対応関係を示すグラフ。
【図8】階調値のヒストグラム。
【図9】図8の部分ヒストグラム。
【図10】図8の部分ヒストグラム。
【図11】階調補正関数の生成処理の説明図。
【図12】階調補正関数の生成処理の説明図。
【図13】第1の実施形態に係る画像処理装置を示すブロック図。
【図14】第2の実施形態に係る画像処理装置を示すブロック図。
【図15】様々な環境下でのAPL(Average Picture Level)と修正済みゲインとの対応関係を示すグラフ。
【発明を実施するための形態】
【0012】
以下、図面を参照して、本発明の実施形態について説明する。
(第1の実施形態)
本発明の第1の実施形態に係る画像処理装置は、例えば携帯電話機などの情報処理装置に備えられるCPU(Central Processing Unit)などのプロセッサがプログラムを実行することにより実現される。以降の説明では、携帯電話機に搭載される制御部がプログラムを実行することによって、本実施形態に係る画像処理装置に対応する画像処理機能を実現する場合を仮定する。尚、本実施形態に係る画像処理装置の一部または全部を、デジタル回路などのハードウェアによって実現してもよい。
【0013】
図1に示すように、上記携帯電話機は、アンテナ10、無線部11、信号処理部12、マイクロホン13、スピーカ14、I/F(インタフェース)20、アンテナ30、チューナ31、表示部40、表示制御部41、入力部50、記憶部60、照度センサ70及び制御部100を有する。
【0014】
無線部11は、制御部100からの指示に従って、信号処理部12からのベースバンドの送信信号をRF(Radio Frequency)帯にアップコンバートし、このRF帯の送信信号をアンテナ10を介して送信する。アンテナ10から送信された信号は、移動通信網NWに収容される基地局BSによって受信される。また、無線部11は、基地局BSから送信されたRF帯の信号をアンテナ10を介して受信し、このRF帯の受信信号をベースバンドにダウンコンバートし、信号処理部12に入力する。その他、無線部11は、送信処理においてフィルタリング、電力増幅などを行ってもよいし、受信処理においてフィルタリング、低雑音増幅などを行ってもよい。
【0015】
信号処理部12は、制御部100からの指示に従って、送信データに基づいて搬送波を変調することによりベースバンドの送信信号を生成し、無線部11に入力する。音声通信を行う場合には、マイクロホン13に入力された音声信号を符号化することにより生成された音声データが上記送信データとして処理される。一方、ストリーミング配信によって動画像データを受信する場合には、符号化ストリームを受信するために配信元へ送信される制御データが上記送信データとして処理される。制御データは、制御部100から入力される。符号化ストリームには、動画像データが多重されている。
【0016】
また、信号処理部12は、無線部11からのベースバンドの受信信号を復調し、受信データを得る。音声通信が行われる場合には、信号処理部12は、上記受信データを復号して音声信号を生成し、スピーカ14から出力する。一方、ストリーミング配信によって動画像を受信する場合には、信号処理部12は受信データから符号化ストリームを抽出し、制御部100に入力する。
【0017】
インタフェース20は、リムーバブルメディアRMなどの記憶媒体を制御部100に物理的及び電気的に接続し、この記憶媒体と制御部100との間でのデータの交換に利用される。尚、リムーバブルメディアには、符号化ストリームが記憶されていてもよい。チューナ31は、アンテナ30を介して放送局BCからのテレビジョン放送信号を受信し、この放送信号から符号化ストリームを抽出する。チューナ31は、符号化ストリームを制御部100に入力する。
【0018】
表示部40は、例えばOLEDディスプレイなどの自発光型デバイスである。表示部40は、動画像、静止画像、Webブラウザ等のコンテンツを表示できる。尚、自発光型デバイスは、表示コンテンツ次第で消費電流が大きく変動する。表示制御部41は、制御部100からの指示に従って表示部40を駆動制御する。表示制御部41は、制御部100から入力される表示データに基づく画像を表示部40に表示させる。
【0019】
入力部50は、複数のキースイッチ(例えば、テンキー)、タッチパネルなどの入力デバイスを備える。入力部50は、この入力デバイスを介してユーザからの要求を受け付けるユーザインタフェースである。
【0020】
記憶部60は、半導体記憶媒体(例えば、RAM(Random Access Memory)、ROM(Read Only Memory)など)、磁気記憶媒体(例えば、ハードディスクなど)などの記憶媒体である。記憶部60は、制御部100の制御プログラムまたは制御データ、ユーザが作成した種々のデータ(例えば、電話帳データなど)を記憶する。また、記憶部60は、チューナ31によって受信された符号化ストリームや、リムーバブルメディアRMに符号化ストリームを記録するための制御データなどを記憶してもよい。
【0021】
照度センサ部70は、周辺照度を検出するための照度センサを含む。照度センサは、一般に、フォトトランジスタ、フォトダイオードなどの光電変換素子を含む。照度センサ部70は、周辺照度を(例えばルクス(Lx)換算の)定量的な値として制御部100に入力する。尚、照度センサ部70は、環境光の強度を示すその他の指標を検出するためのセンサ部に置き換えられてもよい。
【0022】
制御部100は、CPUなどのプロセッサを備える。制御部100は、図1の携帯電話機の各構成要素を統括制御する。具体的には、制御部100は、音声通信、テレビジョン放送の受信、ストリーミング配信されるコンテンツの受信などの一部または全部を制御する。また、制御部100は、テレビジョン放送の受信、ストリーミング配信、記憶部60の読み出しなどによって得られる符号化ストリームに多重されている動画像データを復号化する機能を備えてもよい。更に、制御部100は、本実施形態に係る画像処理装置に相当する画像処理機能100aを備える。画像処理機能100aは、制御部100に備えられるプロセッサが、記憶部60などに記憶されるプログラム、制御データなどに従って動作することにより実現される。以降の説明において、画像処理機能100a及び画像処理装置100aを同様の意味で使用する。
【0023】
図13に示すように、画像処理装置100aは、パネル輝度制御部101、パネル輝度制御パラメータ蓄積部102、ヒストグラム生成部103、APL算出部104、ピーク輝度制御部105、階調変換関数算出部106、階調変換LUT(Look-Up Table)記憶部107及び映像変換部108を有する。パネル輝度制御部101、ヒストグラム生成部103、APL算出部104、ピーク輝度制御部105、階調変換関数算出部106及び映像変換部108は、制御部100に備えられたプロセッサによって実現されるソフトウェアモジュールである。また、パネル輝度制御パラメータ蓄積部102及び階調変換LUT記憶部107は、記憶部60などのプロセッサからアクセス可能な記憶手段によって実現される。
【0024】
以下、画像処理装置100aが行う処理を図2を用いて説明する。尚、図2のフローチャートにおいて各ステップの実行順は例示に過ぎない。即ち、処理間の依存関係が無い限り、複数のステップの処理を並列的に実行してもよいし、図2と異なる順序で実行してもよい。
【0025】
ステップS001において、パネル輝度制御部101は、照度センサ部70から周辺照度を示すセンサ値Lx(t)を取得する。ステップS001は、周期的に実行されてよく、例えば画像処理装置100aが処理対象とする復号画像のフレームレート(15Hz、30Hzなど)に同期して実行されてもよいし、フレームレートの所定倍(例えば2倍)の周期で実行されてもよいし、フレームレートに関係なく固定の周期で実行されてもよい。
【0026】
次に、パネル輝度制御部101は、ステップS001において取得したセンサ値Lx(t)を用いて現時刻の環境照度Lx_tを算出する(ステップS002)。具体的には、パネル輝度制御部101は、センサ値Lx(t)をそのまま現時刻の環境照度Lx_tとして算出してもよいし、過去数周期分のセンサ値Lx(t)の平均値を現時刻の環境照度Lx_tとして算出してもよい。また、パネル輝度制御部101は、前回の周期において算出した環境照度Lx_tと現在の周期において取得したセンサ値Lx(t)との間の差分によって現時刻の環境照度Lx_tの算出手法を切り替えてもよい。即ち、パネル輝度制御部101は、差分が所定の閾値TH_lx未満であれば周辺環境光に大きな変動はないと考えられるので、過去数周期分のセンサ値Lx(t)の平均値を現時刻の環境照度Lx_tとして算出してもよい。一方、パネル輝度制御部101は、差分が閾値TH_lx以上であれば周辺環境光が大きく変動したと考えられるので、センサ値Lx(t)をそのまま現時刻の環境照度Lx_tとして算出してもよい。
【0027】
次に、パネル輝度制御部101は、ステップS002において算出した、現時刻の環境照度Lx_tに対応するパネル輝度制御パラメータをパネル輝度制御パラメータ蓄積部102から取得する(ステップS003)。パネル輝度制御パラメータは、環境照度Lx_tに適したパネル輝度PL(Lx)と、環境照度Lx_tに適した階調変換γ(Lx,x)との2つのパラメータを含む。ここで、xは入力階調値を意味し、画像を構成する画素の階調値が8ビットで表現されるならば、xは「0」から「255」までの256階調を取り得る。パネル輝度制御部101は、パネル輝度PL(Lx)をピーク輝度制御部105及び表示制御部41に入力する。また、パネル輝度制御部101は、階調変換γ(Lx,x)を階調変換関数算出部106に入力する。
【0028】
パネル輝度PL(Lx)は、現時刻の環境照度Lx_tにおいて必要な白輝度(cd/m2)を表示するために必要な表示部40(例えば、OLEDディスプレイ)へのパネル設定値を表す。一般に、人間に知覚される映像感を現時刻の環境照度Lx_tに関わらず維持するために、パネル輝度は環境照度Lx_tの増加に連動して増加するように設計される。一方、階調変換γ(Lx,x)は、入力階調値xが現時刻の環境照度Lx_tに関わらず同一の色として見えるように設計されたγ変換を意味している。具体的には、階調変換γ(Lx,x)は、バートルソン−ブレナマン効果などの環境光に応じた色の見え方の違いを補正するように設計されている。尚、バートルソン−ブレナマン効果とは、同一の映像を暗環境及び明環境で夫々視聴した場合にコントラスト感の相違が生じる現象を意味する。これらパネル輝度PL(Lx)及び階調変換γ(Lx,x)は、例えば非特許文献1に記載される手法によって事前設計され、照度Lxに対応付けられてパネル輝度制御パラメータ蓄積部102に蓄積されている。
【0029】
一方、ステップS004において、ヒストグラム生成部103は、画像処理装置100aに入力される復号画像(入力画像)のフレーム毎に、画素の階調値のヒストグラムを生成する。ヒストグラム生成部103は、生成したヒストグラムをAPL算出部104に入力する。画素信号はYUV形式、RGB形式またはその他の形式であってもよい。具体的には、ヒストグラム生成部103は、所定幅の階調範囲毎にその階調範囲に属する階調値を持つ画素の数をカウントする。ヒストグラム生成部103は、各階調範囲を代表する階調値(代表階調値)と、その階調範囲の頻度(画素のカウント数)とを対応付けるヒストグラムを生成する。例えば、階調幅が「32」である場合には、図8に示すようなヒストグラムが得られる。階調幅は、階調値の総数とヒストグラムの階級とによって決まる。例えば、階調幅(例えば「32」)は、階調値の総数(例えば「256」)をヒストグラムの階級(例えば「8」)を用いて除算した値である。図8において、横軸に沿って代表階調値が示されている。代表階調値は、各階調範囲に含まれる階調値の平均値であってもよいし、その他の値であってもよい。
【0030】
ヒストグラム生成部103は、画素信号の全ての要素に関してヒストグラムを生成する必要はない。例えば、画素信号がYUV形式であれば、ヒストグラム生成部103はY信号のみに関してヒストグラムを生成すればよい。また、画素信号がRGB形式であれば、ヒストグラム生成部103は明度のみに関してヒストグラムを生成すればよい。明度は、RGBの各成分のうち最も大きい階調値に等しい。
【0031】
階調幅を大きくするほどヒストグラムを生成するために必要なメモリ容量を削減できる。例えば、階調幅が「32」であれば、8ビットのうち上位3ビットによって代表階調値を表現できる(下位5ビットは例えば「00000」に固定できる)。一方、階調幅が「1」であれば、代表階調値を表現するために8ビットの全てが使用される。尚、ステップS004の処理は、前述のステップS001からステップS003までの処理とは独立して実行可能である。
【0032】
次に、APL算出部104は、ステップS004において生成されたヒストグラムから1フレームの入力画像の画面平均輝度(APL(Average Picture Level)ともいう)を算出する(ステップS005)。具体的には、APL算出部104は、次の数式(1)または数式(2)に従って、ヒストグラムからAPLを算出する。
【数1】
【0033】
【数2】
【0034】
数式(1)及び数式(2)において、h(i)は階調iにおけるヒストグラムを表している。尚、h(i)は階調iが代表階調値に一致する場合を除き零となる。数式(1)によれば、入力画像の各画素の階調値を代表階調値に変換した場合における階調値の算術平均を示すAPLが得られる。一方、数式(2)によれば、入力画像の各画素の階調値を代表階調値に変換し、更にγ変換(γ=2.2)を用いて正規化した場合における正規化値の算術平均を示すAPLが得られる。尚、APL算出部104は、例えば中央値などAPL以外の特徴量を画像特徴量として算出してもよい。画像特徴量は、入力画像が明部シーンまたは暗部シーンのいずれであるかを判定するために有用であることが望ましい。
【0035】
次に、ピーク輝度制御部105が入力画像に割り当てられるピーク輝度の制御を行い、階調変換関数算出部106が階調補正関数f(x)を算出する(ステップS006)。尚、ステップS006における処理の詳細は、図3を用いて後述する。
【0036】
次に、階調変換算出部106は、ステップS006において生成した階調補正関数f(x)と、ステップS003において取得された階調変換γ(Lx,x)とを用いて、次の数式(3)に従って、階調変換関数F(x)を生成する(ステップS007)。階調変換算出部106は、階調変換関数F(x)を階調変換LUT記憶部107に記憶させる。即ち、階調変換LUT記憶部107には、出力階調値F(x)が入力階調値xに対応付けられて記憶される。
【数3】
【0037】
次に、映像変換部108は、ステップS007において算出された階調変換関数F(x)を用いて、入力画像の各画素の階調値を変換し、階調変換画像を生成する(ステップS008)。映像変換部108は、階調変換画像を表示画像情報として表示制御部41に入力する。具体的には、映像変換部108は、入力画像の各画素の階調値に対応する変換階調値を階調変換LUT記憶部107から取得する。次に、表示制御部41は階調変換画像の表示タイミングに同期してステップS003において取得されたパネル設定値を表示部40に設定し(ステップS009)、図2の処理は終了する。
【0038】
以下、図3を用いて、図2のステップS006における処理の詳細を説明する。
ステップS101において、ピーク輝度制御部105は、ステップS004において算出されたAPLに応じたgainを算出する。gainは、ピーク輝度の制御及び理想的なパネル特性のダイナミックレンジの制御のための比率であるが、後述するようにステップS102において修正される。具体的には、ピーク輝度制御部105は、例えば図7に示すような、APLとgainとの対応関係に従って、APLに応じたgainを算出する。尚、図7の対応関係は例示に過ぎない。この対応関係は、図7のように線形関数を組み合わせて表現されてもよいし、ガウス分布によってモデル化された関数で表現されてもよい。ピーク制御部105は、上記対応関係をLUTとして用意(保持)し、このLUTを参照することによりgainを算出してもよいし、上記対応関係を示す関数をAPLに適用することによりgainを算出してもよい。ピーク輝度制御部105は、入力画像が暗部シーンに対応する(例えば、APLが低い)場合には、階調感向上のために1以上のgainを算出することが望ましい。一方、ピーク輝度制御部105は、入力画像が明部シーンに対応する(例えば、APLが高い)場合には、低消費電力化のために1未満のgainを算出することが望ましい。但し、ピーク輝度制御部105は、暗部シーンに関して階調感向上以外の目的のために1未満のgainを算出したり、明部シーンに関して低消費電力化以外の目的のために1以上のgainを算出したりしてもよい。
【0039】
次に、ピーク輝度制御部105は、ステップS003において取得されたパネル輝度PL(Lx)に基づいて、ステップS101において算出したgainを修正する(ステップS102)。
【0040】
以下、gainを修正することの技術的意義を説明する。
一般に、OLEDディスプレイなどの自発光型デバイスは、パネル輝度が異なれば同一の映像(階調値)を表示する際の消費電力が異なる。即ち、パネル輝度を抑制することにより白輝度の明るさ(cd/m2)を低下させるほど、消費電力を削減できる。ここで、ピーク輝度の抑制によってパネルの消費電力を一定割合だけ削減するように階調補正関数を算出したとする。パネル輝度が明るく設定されている場合、本来の消費電力量が相対的に大きいので、この階調補正関数の適用による消費電力の削減効果も相対的に大きくなる。一方、パネル輝度が暗く設定されている場合、本来の消費電力量が相対的に小さいので、この階調補正関数の適用による消費電力の削減効果も相対的に小さくなる。即ち、パネル輝度が暗く設定されている場合には、本来の消費電力量が小さく、ピーク輝度の抑制による消費電力の削減効果はあまり期待できない。
【0041】
また、人間の視覚特性として、光強度(cd/m2)の1/3乗に比例して明るさ感を知覚することが知られている。即ち、人間は、高い階調に比べて低い階調における明るさの変化に敏感である。ここで、ピーク輝度を一定割合だけ抑制するように階調補正関数を算出したとする。パネル輝度が明るく設定されている場合、この階調補正関数の適用による明るさ感の劣化は相対的に小さい。一方、パネル輝度が暗く設定されている場合、この階調補正関数の適用による明るさ感の劣化は相対的に大きい。
【0042】
以上のように、パネル輝度が高い(明るい)場合には、ピーク輝度の抑制は消費電力の削減の観点及び明るさ感の劣化の観点から望ましいと考えられる。一方、パネル輝度が低い(暗い)場合には、ピーク輝度の抑制は消費電力の削減の観点及び明るさ感の劣化の観点から必ずしも望ましくないと考えられる。故に、ピーク輝度制御部105は、ピーク輝度を効果的に制御するために、APLによって決まるgainをパネル輝度PL(Lx)の増加に対して単調減少する値gain_cに修正する。
具体的には、ピーク輝度制御部105は、次の数式(4)に従って、暗環境向けゲインgain_lを算出する。
【数4】
【0043】
数式(4)によれば、ステップS101において算出されたgain及び「1」のうち大きい方が暗環境向けゲインgain_lに代入される。尚、ピーク輝度制御部105は、数式(4)以外の手法で暗環境向けゲインgain_lを算出してもよい。ピーク輝度制御部105は、次の数式(5)に従って、修正済みゲインgain_cを算出する。
【数5】
【0044】
数式(5)において、PLにはステップS003において取得されたパネル輝度PL(Lx)が代入される。また、PL_hは明環境判定用の閾値を表し、PL_lは暗環境判定用の閾値を表す。尚、前述の通りパネル輝度は環境照度に連動して増加するように設計されているので、以降の説明において環境光の明暗をパネル輝度の明暗と同様の意味で使用する。即ち、明環境とはパネル輝度の高い環境の意味で使用され、暗環境とはパネル輝度の低い環境の意味で使用される。Cd(PL)は、パネル輝度PLを設定したときの白輝度を表す。尚、数式(5)において白輝度を用いて条件分岐を規定しているが、パネル輝度を用いて条件分岐を規定してもよい。即ち、「if(Cd(PL)<Cd(PL_l))」は「if(PL<PL_l)」に書き換えられてもよいし、「if(Cd(PL_h)<Cd(PL))」は「if(PL_h<PL)」に書き換えられてもよい。数式(5)は、暗環境、通常環境(暗環境及び明環境以外の環境)及び明環境における、修正済みゲインgain_cを夫々表す。具体的には、暗環境において、修正済みゲインgain_cは暗環境向けゲインgain_lとなる。明環境において、修正済みゲインgain_cはgain(即ち、修正なし)となる。通常環境において、修正済みゲインgain_cは、gain及びgain_lの線形内挿により算出される。図15は、数式(5)によって算出される、修正済みゲインgain_cとAPLとの対応関係を示している。図15は、左側から順に、暗環境、通常環境及び明環境の修正済みゲインgain_cを示している。尚、修正済みゲインgain_cは、数式(5)以外の手法で算出されてもよい。例えば、ピーク輝度制御部105は、ガウス分布などによりモデル化された関数に従って、修正済みゲインgain_cを算出してもよい。
【0045】
ピーク輝度制御部105は、修正済みゲインgain_cを用いて、ピーク輝度Ypeakを次の数式(6)に従って算出する。
【数6】
【0046】
数式(6)においてclip(a, b)は、aがb未満である場合にa、aがb以上である場合にbを夫々返すクリップ関数である。また、INT()は、整数への丸め関数である。即ち、修正済みゲインgain_cが「1」未満であれば、ピーク輝度Ypeakはgain_cと「255」との積を整数に丸めた値となる。一方、修正済みゲインgain_cが「1」以上であれば、ピーク輝度Ypeakは「255」となる。ピーク輝度制御部105は、修正済みゲインgain_c及びピーク輝度Ypeakを階調変換関数算出部106に入力する。
【0047】
次に、階調変換関数算出部106は、修正済みゲインgain_cが「1」未満であるか否かを判定する(ステップS103)。修正済みゲインgain_cが「1」未満であれば処理はステップS104に進み、そうでなければ処理はステップS106に進む。
【0048】
ステップS104において、階調変換関数算出部106は、表示部40の理想的な階調−明るさ特性G(y)を、次の数式(7)によって定義する。数式(7)の右辺は、8ビットの階調値yに対応する理想的な明るさを、表示部40が再現可能な最大の明るさを「1.0」として正規化している。階調変換関数算出部106は、例えばLUTの形式で数式(7)の右辺を保持してもよい。
【数7】
【0049】
即ち、階調変換関数算出部106は、数式(7)の右辺のダイナミックレンジを維持する。図6における2点鎖線は、この特性G(y)を示している。尚、階調変換関数算出部106は、階調−明るさ特性G(y)に代えて、均等色空間において定義されている明度に関する階調−明度特性GL*(y)を利用してもよい。階調−明度特性GL*(y)と、階調−明るさ特性G(y)との関係を、次の数式(8)に示す。階調変換関数算出部106は、例えばLUTの形式で数式(8)を保持してもよい。
【数8】
【0050】
階調変換関数算出部106は、次の数式(9)に示すように、表示部40の階調−明るさ特性g(y)に理想的な階調−明るさ特性G(y)を設定し(ステップS105)、処理はステップS108に進む。前述のように、理想的な階調−明るさ特性G(y)は数式(7)の右辺のダイナミックレンジを維持しているので、表示部40は入力階調yに対応する全ての明るさG(y)を再現できる。
【数9】
【0051】
尚、階調変換関数算出部106は、表示部40の階調−明るさ特性g(y)に代えて、階調−明度特性gL*(y)を、次の数式(10)に従って設定してもよい。
【数10】
【0052】
ステップS106において、階調変換関数算出部106は、表示部40の理想的な階調−明るさ特性G(y)を、次の数式(11)によって定義する。
【数11】
【0053】
即ち、階調変換関数算出部106は、数式(7)の右辺のダイナミックレンジを修正済みゲインgain_c倍に拡大している。図6における実線は、この特性G(y)を示している。尚、図6から明らかなように、この特性G(y)は表示部40が再現不可能な明るさ(「1.0」を超える明るさ)を含んでいる。
【0054】
尚、階調変換関数算出部106は、階調−明るさ特性G(y)に代えて、階調−明度特性GL*(y)を利用してもよい。階調変換関数算出部106は、次の数式(12)によって、階調−明度特性GL*(y)を定義できる。
【数12】
【0055】
階調変換関数算出部106は、次の数式(13)に示すように、表示部40の階調−明るさ特性g(y)に理想的な階調−明るさ特性G(y)を上限付きで設定し(ステップS107)、処理はステップS108に進む。前述のように、理想的な階調−明るさ特性G(y)は、数式(7)の右辺のダイナミックレンジを拡大しているので、表示部40が再現不可能な明るさを含む。
【数13】
【0056】
数式(13)によれば、yに対応する明るさG(y)が「1.0」未満であればG(y)、「1.0」以上であれば「1.0」が表示部40の階調−明るさ特性g(y)に夫々設定される。図6における破線は、この階調−明るさ特性g(y)を示している。尚、階調変換関数算出部106は、表示部40の階調−明るさ特性g(y)に代えて、階調−明度特性gL*(y)を次の数式(14)に従って設定してもよい。
【数14】
【0057】
ステップS108において、階調変換関数算出部106は、理想的な階調−明るさ特性G(y)、表示部40の階調−明るさ特性g(y)及びステップS004において生成されたヒストグラムを用いて階調補正関数f(x)を決定し、図3の処理は終了する。尚、階調−明るさ特性G(y)及び階調−明度特性GL*(y)は、いずれも理想的なパネル特性として参照されてもよい。また、階調−明るさ特性g(y)及び階調−明度特性gL*(y)は、いずれも表示部40のパネル特性として参照されてもよい。階調変換関数算出部106は、f(0)=0、f(255)=ピーク輝度Ypeakとして階調補正関数f(x)を初期化する。また、階調変換関数算出部106は、f(1)からf(254)までを、上記f(0)及びf(255)を用いた線形補間などによって初期化する。
【0058】
以下、図4を用いて、図3のステップS108における処理の詳細を説明する。
ステップS201において、階調変換関数算出部106は、入力階調Xtを選択する。例えば、階調変換関数算出部106は、ステップS004において生成されたヒストグラムの代表階調値を入力階調Xtとして順次選択する。例えば、階調変換関数算出部106は、「0」と「255」との中間である「128」を入力階調Xtとして最初に選択し(図11を参照)、「0」と「128」との中間である「64」または「128」と「256」の中間である「192」を入力階調Xtとして続けて選択する(図12を参照)。
【0059】
図4の処理によって、階調変換関数算出部106は、様々な入力階調Xtに関して、後述する評価値Eが最小となる出力階調Yを夫々導出する。そして、階調変換関数算出部106は、f(Xt)=Yを決定する。尚、入力階調Xtは処理負荷軽減の観点から離散値であることが望ましい。階調変換関数算出部106は、入力階調Xtとして選択されない入力階調に対応する出力階調を、決定済みの出力階調Yの線形補間などによって導出できる。勿論、階調変換関数算出部106は、全ての入力階調を入力階調Xtとして選択し、図4の処理を行ってもよい。
【0060】
次に、階調変換関数算出部106は、ステップS201において選択した入力階調Xtに関して部分ヒストグラムを生成する(ステップS202)。具体的には、階調変換関数算出部106は、入力階調Xtを挟む2つの処理済みの入力階調X0及びX1の間の範囲の部分ヒストグラムを生成する。部分ヒストグラムは、最小階調X0以上入力階調Xt未満の範囲の頻度と、入力階調Xt以上最大階調X1以下の範囲の頻度との2つを含む。例えば、入力階調Xt=「128」であれば、階調変換関数算出部106は、入力階調Xtを挟む2つの処理済みの入力階調X0=「0」及びX1=「255」の間の範囲の部分ヒストグラムを次の数式(15)に従って生成する(図10を参照)。また、入力階調Xt=「64」または「192」であれば、階調変換関数算出部106は、入力階調Xtを挟む2つの処理済みの入力階調X0=「0」または「128」及びX1=「128」または「256」の間の範囲の部分ヒストグラムを生成する(図9を参照)。
【数15】
【0061】
次に、階調変換関数算出部106は、ステップS202において算出した部分ヒストグラムなどに基づく評価値Eが最小となる出力階調Yを算出する(ステップS203)。ステップS203における処理の詳細は、図5を用いて後述する。次に、階調変換関数算出部106は、全ての入力階調Xtについて処理が完了したか否かを判定する(ステップS204)。全ての入力階調Xtについて処理が完了していれば図4の処理は終了し、そうでなければ処理はステップS201に戻る。
【0062】
以下、図5を用いて、図4のステップS203における処理の詳細を説明する。
ステップS301において、階調変換関数算出部106は、出力階調Y及び最小評価値Eminを例えば次の数式(16)に従って初期化し、処理はステップS302に進む。
【数16】
【0063】
尚、数式(16)において、MAX_VALはEminに関して十分に大きな値である。
ステップS302において、階調変換関数算出部106は、評価値E1及び評価値E2を例えば次の数式(17)に従って初期化する。
【数17】
【0064】
次に、階調変換関数算出部106は、評価値E1を算出する(ステップS303)。具体的には、階調変換関数算出部106は、次の数式(18)、数式(19)または数式(20)に従って、評価値E1を算出する。
【数18】
【0065】
数式(18)によれば、評価値E1は、入力階調Xtに対応する理想的な明るさG(Xt)と、出力階調Yに対応する表示部40の明るさg(Y)との差分絶対値に、ステップS202において生成した部分ヒストグラムの総和を乗じた値となる。
【数19】
【0066】
数式(19)によれば、評価値E1は、入力階調Xtに対応する理想的な明るさG(Xt)と、出力階調Yに対応する表示部40の明るさg(Y)との二乗誤差に、ステップS202において生成した部分ヒストグラムの総和を乗じた値となる。
【数20】
【0067】
数式(20)によれば、評価値E1は、入力階調Xtに対応する理想的な明度GL*(Xt)と、出力階調Yに対応する表示部40の明度gL*(y)との二乗誤差に、ステップS202において生成した部分ヒストグラムの総和を乗じた値となる。
【0068】
また、階調変換関数算出部106は、評価値E2を算出する(ステップS304)。尚、ステップS303とステップS304は逆順に行われてもよいし、並列して行われてもよい。具体的には、階調変換関数算出部106は、次の数式(21)に従って、入力階調Xtに関する勾配ΔG(X0,Xt)及びΔG(Xt,X1)を算出する。
【数21】
【0069】
数式(21)によれば、勾配ΔG(X0,Xt)は、入力階調Xtに対応する理想的な明るさG(Xt)から最小階調X0に対応する理想的な明るさG(X0)を減じた値となる。一方、数式(21)によれば、勾配ΔG(Xt,X1)は、最大階調X1に対応する理想的な明るさG(X1)から入力階調Xtに対応する理想的な明るさG(Xt)を減じた値となる。尚、数式(21)は、理想的な階調−明度特性GL*(x)に関して書き換えられてもよい。
【0070】
また、階調変換関数算出部106は、次の数式(22)に従って、入力階調Xtに関する勾配Δg(f(X0),Y)及びΔg(Y,f(X1))を算出する。
【数22】
【0071】
数式(22)によれば、勾配Δg(f(X0),Y)は、出力階調Yに対応する表示部40の明るさg(Y)から出力階調f(X0)に対応する表示部40の明るさg(f(X0))を減じた値となる。一方、数式(22)によれば、勾配Δg(Y,f(X1))は、出力階調f(X1)に対応する表示部40の明るさg(f(X1))から出力階調Yに対応する表示部40の明るさg(Y)を減じた値となる。尚、数式(22)は、表示部40の階調−明度特性gL*(x)に関して書き換えられてもよい。
【0072】
そして、階調変換関数算出部106は、以下の数式(23)、数式(24)または数式(25)に従って、評価値E2を算出する。
【数23】
【0073】
数式(23)によれば、評価値E2は、勾配ΔG(X0,Xt)と勾配Δg(f(X0),Y)の差分絶対値に最小階調X0以上入力階調Xt未満の範囲の頻度H(X0,Xt−1)を乗じた値と、勾配ΔG(Xt,X1)と勾配Δg(Y,f(X1))の差分絶対値に入力階調Xt以上最大階調X1未満の範囲の頻度H(Xt,X1)を乗じた値との和となる。
【数24】
【0074】
数式(24)によれば、評価値E2は、勾配ΔG(X0,Xt)と勾配Δg(f(X0),Y)の二乗誤差に最小階調X0以上入力階調Xt未満の範囲の頻度H(X0,Xt−1)を乗じた値と、勾配ΔG(Xt,X1)と勾配Δg(Y,f(X1))の二乗誤差に入力階調Xt以上最大階調X1未満の範囲の頻度H(Xt,X1)を乗じた値との和となる。
【数25】
【0075】
数式(25)によれば、評価値E2は、勾配ΔGL*(X0,Xt)と勾配ΔgL*(f(X0),Y)の二乗誤差に最小階調X0以上入力階調Xt未満の範囲の頻度H(X0,Xt−1)を乗じた値と、勾配ΔGL*(Xt,X1)と勾配ΔgL*(Y,f(X1))の二乗誤差に入力階調Xt以上最大階調X1未満の範囲の頻度H(Xt,X1)を乗じた値との和となる。
【0076】
次に、階調変換関数算出部106は、ステップS303において算出した評価値E1及びステップS304において算出した評価値E2を用いて、次の数式(26)に従って、評価値Eを算出する(ステップS305)。
【数26】
【0077】
数式(26)において、λは0以上1以下の重み係数である。
次に、階調変換関数算出部106は、ステップS305において算出した評価値Eとその時点における最小評価値Eminとを比較する(ステップS306)。評価値Eが最小評価値Emin未満であれば処理はステップS307に進み、そうでなければ処理はステップS309に進む。
【0078】
ステップS307において、階調変換関数算出部106は、最小評価値EminをステップS305において算出した評価値Eによって更新する。また、階調変換算出部106は、入力階調Xtに対応する出力階調f(Xt)をYに更新し(ステップS308)、処理はステップS309に進む。
【0079】
ステップS309において、階調変換関数算出部106は、全ての出力階調Yについて処理が完了したか否かを判定する(ステップS309)。全ての出力階調Yについて処理が完了していれば図5の処理は終了し、そうでなければ処理はステップS310に進む。例えば、出力階調Yの上限としてf(X1)またはこれに近い値が設定されてよい。ステップS310において、階調変換関数算出部106は、出力階調Yを更新(例えば「1」だけインクリメント)し、処理はステップS302に戻る。
【0080】
APLが小さく、修正済みゲインgain_cが1以上の暗部シーンにおいて、理想的なパネル特性のダイナミックレンジが修正済みゲインgain_cに基づいて拡大される。このダイナミックレンジが拡大された理想的なパネル特性と、ヒストグラムとに基づいて階調補正関数f(x)が算出される。階調変換関数F(x)は、入力階調値xに対応する補正階調値f(x)に、パネル輝度に応じた階調変換を適用する。故に、階調変換画像は、入力階調値xに上記階調変換を適用した場合に比べて、明るさ感は擬似的に増加する一方、階調つぶれは発生しないので、階調感が向上する。
【0081】
一方、APLが高く、修正済みゲインgain_cが1未満の明部シーンにおいて、ピーク輝度Ypeakが修正済みゲインgain_cに基づいて抑制される。この抑制されたピーク輝度Ypeakと、理想的なパネル特性と、ヒストグラムとに基づいて階調補正関数f(x)が算出される。具体的には、階調補正関数f(x)は、理想的なパネル特性が持つコントラスト感を高頻度な階調において優先的に復元する。階調変換関数F(x)は、入力階調値xに対応する補正階調値f(x)に、パネル輝度に応じた階調変換を適用する。故に、階調変換画像は、入力階調値xに上記階調変換を適用した場合に比べて、主観的なコントラスト感の低下を回避しつつ消費電力を削減できる。
【0082】
本実施形態に係る画像処理装置100aは、修正済みゲインgain_cを用いて、理想的なパネル特性のダイナミックレンジ及びピーク輝度Ypeakを制御する。この修正済みゲインgain_cは、APLによって決まるgainをパネル輝度の増加に対して単調減少する値に修正することによって算出される。結果的に、明環境(高パネル輝度)において明部シーンを表示する場合には、ピーク輝度Ypeakはより大きく抑制される。一方、暗環境(低パネル輝度)において暗部シーンを表示する場合には、理想的なパネル特性のダイナミックレンジはより大きく拡大される。即ち、高パネル輝度において明部シーンを表示する場合には、ピーク輝度Ypeakの大幅な抑制によって消費電力が効果的に削減される。一方、低パネル輝度において暗部シーンを表示する場合には理想的なパネル特性のダイナミックレンジの大幅な拡大によって高い階調感が維持される。また、任意のAPLに関して、パネル輝度が高くなるほど消費電力の削減が重視され、パネル輝度が低くなるほど階調感の向上が重視される。一方、任意のパネル輝度に関して、APLが高くなるほど消費電力の削減が重視され、APLが低くなるほど階調感の向上が重視される。従って、画像処理装置100aによれば、人間の視覚特性と自発光型デバイスの消費電流特性とに適う効果的な画像処理が実現できる。
【0083】
以上説明したように、本発明の第1の実施形態に係る画像処理装置は、環境光の強度にと入力画像の特徴量とに基づく画像処理を行う。具体的には、本実施形態に係る画像処理装置は、明環境及び明部シーンに関して消費電力の削減を重視し、暗環境及び暗部シーンに関して階調感の向上を重視する。従って、本実施形態に係る画像処理装置によれば、消費電流を抑制しつつ主観画質の劣化を回避できる。
【0084】
(第2の実施形態)
図14に示すように、本発明の第2の実施形態に係る画像処理装置100aは、パネル輝度制御部101、パネル輝度制御パラメータ蓄積部102、ヒストグラム生成部103、APL算出部104、階調変換関数算出部200、ピーク輝度ゲインパラメータ蓄積部201、階調変換LUT記憶部107及び映像変換部108を有する。以下の説明では、図14において図13と同一部分には同一符号を付して示し、異なる部分を中心に述べる。
【0085】
階調変換関数算出部200は、APL算出部104からAPLを入力され、パネル輝度制御部101から階調変換γ(Lx,x)及びパネル輝度PL(Lx)を入力される。ピーク輝度ゲインパラメータ蓄積部201は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cが記憶される2次元LUTを保持している。この2次元LUTは、予めオフラインで作成されてもよい。階調変換関数算出部200は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cをピーク輝度ゲインパラメータ蓄積部201から取得する。即ち、階調変換関数算出部200は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cを前述のピーク輝度制御部105よりも短時間で導出できる。階調変換算出部200は、この修正済みゲインgain_cを用いて階調変換関数F(x)を算出する。
【0086】
以上説明したように、本発明の第2の実施形態に係る画像処理装置は、APL及びパネル輝度PL(Lx)に対応する修正済みゲインgain_cが記憶される2次元LUTを利用して、入力されるパネル輝度制御パラメータに応じた修正済みゲインgain_cを取得する。従って、本実施形態に係る画像処理装置によれば、修正済みゲインgain_cを第1の実施形態に比べて短時間で導出できるので、一連の画像処理を短時間で完了できる。
【0087】
尚、本発明は上記各実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また上記各実施形態に開示されている複数の構成要素を適宜組み合わせることによって種々の発明を形成できる。また例えば、各実施形態に示される全構成要素からいくつかの構成要素を削除した構成も考えられる。さらに、異なる実施形態に記載した構成要素を適宜組み合わせてもよい。
【0088】
例えば、上記各実施形態の処理を実現するプログラムを、コンピュータで読み取り可能な記憶媒体に格納して提供することも可能である。記憶媒体としては、磁気ディスク、光ディスク(CD−ROM、CD−R、DVD等)、光磁気ディスク(MO等)、半導体メモリなど、プログラムを記憶でき、かつ、コンピュータが読み取り可能な記憶媒体であれば、その記憶形式は何れの形態であってもよい。
【0089】
また、上記各実施形態の処理を実現するプログラムを、インターネットなどのネットワークに接続されたコンピュータ(サーバ)上に格納し、ネットワーク経由でコンピュータ(クライアント)にダウンロードさせてもよい。
【符号の説明】
【0090】
10・・・アンテナ
11・・・無線部
12・・・信号処理部
13・・・マイクロホン
14・・・スピーカ
20・・・I/F
30・・・アンテナ
31・・・チューナ
40・・・表示部
41・・・表示制御部
50・・・入力部
60・・・記憶部
70・・・照度センサ
100・・・制御部
100a・・・画像処理機能(画像処理装置)
101・・・パネル輝度制御部
102・・・パネル輝度制御パラメータ蓄積部
103・・・ヒストグラム生成部
104・・・APL算出部
105・・・ピーク輝度制御部
106・・・階調変換関数算出部
107・・・階調変換LUT記憶部
108・・・映像変換部
200・・・階調変換関数算出部
201・・・ピーク輝度ゲインパラメータ蓄積部
【特許請求の範囲】
【請求項1】
環境光の強度に基づいて自発光型デバイスのパネル輝度を制御するパネル輝度制御部と、
入力画像の見え方を補正するための階調変換関数を前記入力画像の特徴量及び前記パネル輝度に基づいて算出する算出部と、
前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部と
を具備する画像処理装置。
【請求項2】
前記パネル輝度制御部は、前記パネル輝度に応じた階調変換を設定し、
前記算出部は、前記入力画像の特徴量及び前記パネル輝度に基づいて階調補正関数を算出し、前記階調補正関数によって補正された入力階調値に対して前記パネル輝度に応じた階調変換を行うように前記階調変換関数を算出する、請求項1記載の画像処理装置。
【請求項3】
前記算出部は、前記入力画像の特徴量に対応する第1のゲインが前記パネル輝度に基づいて修正された第2のゲインを算出し、前記第2のゲインに基づいて前記階調補正関数を算出する、請求項2記載の画像処理装置。
【請求項4】
前記第2のゲインは、前記パネル輝度の増加に対して単調減少する値である、請求項3記載の画像処理装置。
【請求項5】
前記第2のゲインは、前記パネル輝度が第1の閾値未満であれば前記第1のゲイン以上の所定値であり、前記パネル輝度が前記第1の閾値以上かつ前記第2の閾値未満であれば前記第1のゲイン以上前記所定値以下の値であり、前記パネル輝度が前記第2の閾値以上でれば前記第1のゲインに等しい、請求項3記載の画像処理装置。
【請求項6】
前記所定値は、前記第1のゲインが1以上であれば前記第1のゲインに等しく、前記第1のゲインが1未満であれば1に等しい、請求項5記載の画像処理装置。
【請求項7】
前記入力画像の特徴量は、前記入力画像のシーンの明るさを示す指標であり、
前記第1のゲインは、前記入力画像の特徴量が示す前記入力画像のシーンの明るさの増加に対して単調減少する値である、
請求項3記載の画像処理装置。
【請求項8】
環境光の強度に基づいて自発光型デバイスのパネル輝度を制御し、前記パネル輝度に応じた階調変換を設定するパネル輝度制御部と、
入力画像の特徴量及び前記パネル輝度に基づいて前記入力画像に割り当てるピーク輝度を算出し、入力階調値が前記ピーク輝度以下となるように補正するための階調補正関数を算出し、前記階調補正関数によって補正された入力階調値に対して前記パネル輝度に応じた階調変換を行うための階調変換関数を算出する算出部と、
前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部と
を具備する画像処理装置。
【請求項9】
前記算出部は、前記入力画像の特徴量に対応する第1のゲインが前記パネル輝度に基づいて修正された第2のゲインを算出し、前記第2のゲインに基づいて前記ピーク輝度を算出する、請求項8記載の画像処理装置。
【請求項10】
前記第2のゲインは、前記パネル輝度の増加に対して単調減少する値である、請求項9記載の画像処理装置。
【請求項11】
前記第2のゲインは、前記パネル輝度が第1の閾値未満であれば前記第1のゲイン以上の所定値であり、前記パネル輝度が前記第1の閾値以上かつ前記第2の閾値未満であれば前記第1のゲイン以上前記所定値以下の値であり、前記パネル輝度が前記第2の閾値以上でれば前記第1のゲインに等しい、請求項9記載の画像処理装置。
【請求項12】
前記所定値は、前記第1のゲインが1以上であれば前記第1のゲインに等しく、前記第1のゲインが1未満であれば1に等しい、請求項11記載の画像処理装置。
【請求項13】
前記算出部は、前記第2のゲインが1以上であれば前記入力階調値の上限値を前記ピーク輝度として算出し、前記第2のゲインが1未満であれば前記入力階調値の上限値に前記第2のゲインを乗じた値を前記ピーク輝度として算出する、請求項9記載の画像処理装置。
【請求項14】
前記入力画像の特徴量は、前記入力画像のシーンの明るさを示す指標であり、
前記第1のゲインは、前記入力画像の特徴量が示す前記入力画像のシーンの明るさの増加に対して単調減少する値である、
請求項9記載の画像処理装置。
【請求項1】
環境光の強度に基づいて自発光型デバイスのパネル輝度を制御するパネル輝度制御部と、
入力画像の見え方を補正するための階調変換関数を前記入力画像の特徴量及び前記パネル輝度に基づいて算出する算出部と、
前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部と
を具備する画像処理装置。
【請求項2】
前記パネル輝度制御部は、前記パネル輝度に応じた階調変換を設定し、
前記算出部は、前記入力画像の特徴量及び前記パネル輝度に基づいて階調補正関数を算出し、前記階調補正関数によって補正された入力階調値に対して前記パネル輝度に応じた階調変換を行うように前記階調変換関数を算出する、請求項1記載の画像処理装置。
【請求項3】
前記算出部は、前記入力画像の特徴量に対応する第1のゲインが前記パネル輝度に基づいて修正された第2のゲインを算出し、前記第2のゲインに基づいて前記階調補正関数を算出する、請求項2記載の画像処理装置。
【請求項4】
前記第2のゲインは、前記パネル輝度の増加に対して単調減少する値である、請求項3記載の画像処理装置。
【請求項5】
前記第2のゲインは、前記パネル輝度が第1の閾値未満であれば前記第1のゲイン以上の所定値であり、前記パネル輝度が前記第1の閾値以上かつ前記第2の閾値未満であれば前記第1のゲイン以上前記所定値以下の値であり、前記パネル輝度が前記第2の閾値以上でれば前記第1のゲインに等しい、請求項3記載の画像処理装置。
【請求項6】
前記所定値は、前記第1のゲインが1以上であれば前記第1のゲインに等しく、前記第1のゲインが1未満であれば1に等しい、請求項5記載の画像処理装置。
【請求項7】
前記入力画像の特徴量は、前記入力画像のシーンの明るさを示す指標であり、
前記第1のゲインは、前記入力画像の特徴量が示す前記入力画像のシーンの明るさの増加に対して単調減少する値である、
請求項3記載の画像処理装置。
【請求項8】
環境光の強度に基づいて自発光型デバイスのパネル輝度を制御し、前記パネル輝度に応じた階調変換を設定するパネル輝度制御部と、
入力画像の特徴量及び前記パネル輝度に基づいて前記入力画像に割り当てるピーク輝度を算出し、入力階調値が前記ピーク輝度以下となるように補正するための階調補正関数を算出し、前記階調補正関数によって補正された入力階調値に対して前記パネル輝度に応じた階調変換を行うための階調変換関数を算出する算出部と、
前記入力画像に対して前記階調変換関数を適用して出力画像を得る変換部と
を具備する画像処理装置。
【請求項9】
前記算出部は、前記入力画像の特徴量に対応する第1のゲインが前記パネル輝度に基づいて修正された第2のゲインを算出し、前記第2のゲインに基づいて前記ピーク輝度を算出する、請求項8記載の画像処理装置。
【請求項10】
前記第2のゲインは、前記パネル輝度の増加に対して単調減少する値である、請求項9記載の画像処理装置。
【請求項11】
前記第2のゲインは、前記パネル輝度が第1の閾値未満であれば前記第1のゲイン以上の所定値であり、前記パネル輝度が前記第1の閾値以上かつ前記第2の閾値未満であれば前記第1のゲイン以上前記所定値以下の値であり、前記パネル輝度が前記第2の閾値以上でれば前記第1のゲインに等しい、請求項9記載の画像処理装置。
【請求項12】
前記所定値は、前記第1のゲインが1以上であれば前記第1のゲインに等しく、前記第1のゲインが1未満であれば1に等しい、請求項11記載の画像処理装置。
【請求項13】
前記算出部は、前記第2のゲインが1以上であれば前記入力階調値の上限値を前記ピーク輝度として算出し、前記第2のゲインが1未満であれば前記入力階調値の上限値に前記第2のゲインを乗じた値を前記ピーク輝度として算出する、請求項9記載の画像処理装置。
【請求項14】
前記入力画像の特徴量は、前記入力画像のシーンの明るさを示す指標であり、
前記第1のゲインは、前記入力画像の特徴量が示す前記入力画像のシーンの明るさの増加に対して単調減少する値である、
請求項9記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2011−227257(P2011−227257A)
【公開日】平成23年11月10日(2011.11.10)
【国際特許分類】
【出願番号】特願2010−96268(P2010−96268)
【出願日】平成22年4月19日(2010.4.19)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成23年11月10日(2011.11.10)
【国際特許分類】
【出願日】平成22年4月19日(2010.4.19)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]