説明

画像処理装置及び画像処理方法

【課題】露出の異なる複数の画像を所定の順序で表示させることで階調性を高めるHDR画像の再生時に一時停止指示が行われた場合に、HDR表現による画像を破綻無く表示すること。
【解決手段】画像処理装置102は、対象画像がHDR画像であるか否かを判定するHDR検出部104と、フレームメモリ部108へ書き込むデータを選択する書き込み選択部106と、フレームメモリ部108から読み出すデータを選択する読み出し選択部107を備える。操作部110によって一時停止の指示が行われた場合、CPU105は、HDR検出部110によって検出された動画データにて1つの画像を構成している複数のフレームの画像データを、フレームメモリ部108から繰り返し読み出して表示部109に出力させるように読み出し選択部106を制御する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば広ダイナミックレンジ技術を利用した画像処理装置及び画像処理方法に関し、複数のフレームの画像データで1枚の画像が構成される動画データを処理する技術に関する。
【背景技術】
【0002】
撮影条件を変えて露出を行った異なる複数の画像について、各画像の露出状態を考慮して合成することにより、合成後の画像の階調表現を豊かにする、HDR(High Dynamic Range)と称する技術が注目されている。
現在、HDR画像は主に映画、特殊効果、3D(三次元)映像作品、一部のハイエンド写真などで使用されている。一般的にHDR画像の合成はコンピュータなどの情報処理装置を用いて行われる。これに対して、露出の異なる複数の画像を所定の順序で表示することで、HDR表現を実現する手段も提案されている。この場合、複雑な演算処理を対象画像に施こさずに画像合成ができるので、簡単でリアルタイム性の高いHDR表示を行える。例えば図6は、露出の異なる複数(本例では3)フレームの画像データで1つの画像が構成される動画(以下、HDR動画という)を示す。図中のVSYNCは垂直同期信号を示し、FRAMEに示すH、M、Lは露出の異なる画像データ列を表す。つまりHは露出の高いフレーム、Mは露出が中間のフレーム、Lは露出の低いフレームをそれぞれ表している。またH,M,Lに続く数字は時間経過の順序を示しており、本例では1から順に3セット分のフレームがVSYNCに同期して表示される様子を示す。
【0003】
このような表示方法によるHDR動画の再生において、ユーザが特定のシーンで一時停止を装置に指示した場合、露出の偏った1つのフレームが表示されてしまう。つまり一時停止指示のタイミングによっては、白とびや黒つぶれした画像が表示される可能性があり、ユーザに不快感を与えてしまうという課題がある。そこで、動画再生中の一時停止において、破綻した見づらい静止画が表示されないように回避する方法が、例えば特許文献1に開示されており、プルダウン変換されたインタレース映像の再生中に一時停止する場合について述べられている。この例ではプログレッシブ映像への再変換を行わない構成において、フィールド間でブレを生じたポーズ画が表示されないように防いでいる。同一のフレームに属するトップフィールドとボトムフィールドが読み出されるようにメモリ制御を行い、それらを交互に読み出すことにより、ブレを生じたポーズ画が表示されないようにしている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−319481号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、従来の技術は、露出の異なる複数の画像を用いる場合に対応できないという課題がある。上述した技術では、同一フレームに属するトップフィールドとボトムフィールドを検出し、それらを交互に出力するのみであるため、HDR動画のように、露出の異なる複数の画像の合成には適用できない。また、映像ソースによって露出の異なる画像が何枚で1つの画像を構成しているかが異なる。このため、1画像の構成枚数を検出する手段が設けられていない場合、露出の異なる複数の画像を合成した静止画を破綻無く表示することが困難である。
そこで、本発明の目的は、HDR動画の画像処理装置において、画像再生の一時停止指示が行われた場合に、HDR表現による画像を破綻無く表示することである。
【課題を解決するための手段】
【0006】
上記課題を解決するために本発明に係る装置は、複数のフレームの画像データで1つの画像が構成される動画データを処理する画像処理装置であって、前記動画データの再生の一時停止を指示する操作手段と、前記複数のフレームの画像データを記憶するメモリ手段と、前記操作手段によって一時停止の指示が行われた場合、前記複数のフレームの画像データを前記メモリ手段からに順次に読み出して繰り返し出力するように制御する制御手段と、を備える。
【発明の効果】
【0007】
本発明によれば、ユーザが画像再生の一時停止を指示しても、HDR表現による画像を破綻無く表示できる。
【図面の簡単な説明】
【0008】
【図1】図2及び3と併せて本発明の第1実施形態を説明するために、装置の構成例を概略的に示したブロック図である。
【図2】HDR動画の一時停止処理を説明するフローチャートである。
【図3】HDR動画の一時停止処理を説明するタイミングチャートである。
【図4】図5と併せて本発明の第2実施形態を説明するために、装置の構成例を概略的に示したブロック図である。
【図5】HDR動画の印刷処理を説明するフローチャートである。
【図6】HDR動画の入力例を説明するタイミングチャートである。
【発明を実施するための形態】
【0009】
[第1実施形態]
以下、本発明の第1実施形態に係る画像処理装置について、添付図面を用いて説明する。図1は本実施形態を適用したシステム構成の一例として、画像送信装置及び画像処理装置を概略的に示したブロック図である。
本システム例では画像送信装置101としてビデオカメラが使用され、画像処理装置として、テレビジョン放送受信装置が使用される。画像送信装置101はHDR動画のデータや通常の動画データを画像処理装置102に送信する。本例では送信時に垂直同期信号VSYNC及び映像データ111とHDRSYNC信号112を画像送信装置101が画像処理装置102に送信する。このHDR SYNC信号112は、HDR動画が何枚で1つの画像(静止画)を構成しているかを示すとともに送信タイミングを示す信号であり、垂直同期信号VSYNCに同期して画像処理装置102に出力される。画像処理装置102はHDR SYNC信号112を受信して、該信号に応じた処理を行う。
【0010】
画像処理装置102は入力部103、HDR検出部104、CPU(中央演算処理装置)105、書き込み選択部106、読み出し選択部107、フレームメモリ部108、表示部109、操作部110を備える。入力部103は垂直同期信号VSYNC及び映像データ111、HDR SYNC信号112を受信する入力インタフェース部である。垂直同期信号VSYNC及び映像データ111は書き込み選択部106に送られ、HDR SYNC信号112はHDR検出部104に送られる。
HDR検出部104はHDR SYNC信号112を受け取り、対象の動画データがHDR動画のデータであるか否かを検出するとともに、HDR動画の場合に何枚のフレームで1つの画像を構成しているかを検出する。そしてHDR検出部104は検出結果をCPU105に通知する。
【0011】
CPU105はHDR検出部104からの検出結果、つまりHDR動画の場合に何枚で1つの画像を構成しているかを示す情報に従って、フレームメモリ部108に何枚分のフレームのメモリ領域を確保してデータを蓄積すべきかを決定する。例えば3フレームで1つの画像を構成しているHDR動画の場合、入出力のフレーム遅延が1フレーム分の時間であるとすると、合計で4フレーム分のフレームメモリ領域を確保する必要がある。CPU105は上述の決定に従い、書き込み選択部106及び読み出し選択部107に指令を出し、フレームメモリ部108の書き込み領域及び読み出し領域の選択を制御する。
書き込み選択部106はCPU105からの指令を受けて、入力部103からの映像データをフレームメモリ部108に書き込む。また読み出し選択部107はCPU105からの指令を受けて、フレームメモリ部108から映像データを読み出し、これを後段の表示部109に送信する。
【0012】
フレームメモリ部108は、上述したフレーム分(本例では4フレーム)だけメモリ領域を確保する。メモリ領域はフレーム毎に分割されており、図1の例では、フレームメモリ部108内に4フレーム分のデータを蓄積できるように0乃至3の数字を付したメモリ領域が使用される。例えば、ある時点においてフレームメモリ部108の「0」で示す領域が書き込み領域となり、「1」で示す領域が読み出し領域になる。次フレームのデータが入力された場合、「1」で示す領域が書き込み領域となり、「2」で示す領域が読み出し領域となる。このように、4フレーム分のメモリ領域を確保し、書き込み領域と読み出し領域を順次にずらしながら使用していくことにより、常に3フレーム分のデータを蓄積することができる。ここでは説明を簡単にするため、フレームメモリ部108にて4フレーム分のメモリ領域を確保する例を述べたが、ブランキング期間を考慮して「3フレーム+数ライン」分のメモリ領域を確保してもよい。
表示部109は、読み出し選択部107から読み出された映像データを処理して表示画面上に画像表示する。
【0013】
操作部110はユーザの操作指示を受け付けるインタフェース部である。例えば、画像再生の一時停止についてON/OFFの指示が操作部110からCPU105に通知されると、CPU105はデータの書き込み及び読み出しを制御する。再生の一時停止が指示された場合、書き込み領域が固定され、読み出し領域に対するデータの読み出し動作が3フレームを1組にして繰り返されるように制御が行われる。その詳細は後で説明する。なお図示は省略するが、画像処理装置102にはCPU105によって解釈及び実行されるプログラムや制御パラメータ等の記憶部が設けられている。
【0014】
次に、HDR動画の再生時における一時停止処理について、図2のフローチャートを用いて説明する。なお本処理はCPU105によって解釈及び実行されるプログラムに従って実現される。
S201にて処理が開始し、S202でHDR動画のデータが再生され、画像表示が行われる。次のS203にてユーザからの一時停止指示があったか否かが判定される。その結果、一時停止指示があった場合、S205へ進むが、当該指示がない場合にはS204に進み、処理が終了する。
【0015】
S205にて、HDR SYNC信号の1周期内で複数フレームの画像が繰り返し表示される。図3はその様子を示すタイミングチャートであり、図中、VSYNC INは入力されたVSYNCを示し、FRAME INは入力されたフレームのデータを示し、HDR SYNC INは入力されたHDR SYNCを示している。本例のHDR動画では、3フレームで1つの画像を構成しており、H,M,Lの意味は図6にて説明した通りである。H,M,Lに続く数字は、3フレームを1組として時系列に沿って付与した番号である。また、STOP SIGNALは操作部110による再生の一時停止信号であり、本例ではフレームM2の期間中に一時停止が指示され(ON指示)、フレームL4の期間中に一時停止の解除が指示される(OFF指示)。VSYNC OUT、FRAME OUTは表示部109への出力信号を示す。VSYNC OUTは出力されるVSYNCを示し、FRAME OUTは出力されるフレームのデータを示しており、VSYNC INやFRAME INに対して1フレーム分の遅延時間をもって出力される。
【0016】
STOP SIGNALに示すように、フレームM2の入力中に一時停止指示があった場合、出力フレームはH2、M2、L2の順に出力される。その後、HDR SYNCによる切り替わり時点でH3に移行せずに、再びH2、M2、L2のフレームが繰り返し出力される。すなわち、入力されたフレームL4がHDR SYNCによって切り替わる時点までの期間中、フレームH2、M2、L2がこの順序で繰り返し出力される。
【0017】
図2の206では、一時停止の解除指示があったか否かが判定される。その結果、解除指示がない場合、S205に戻って上述のように3フレームで1組の画像が繰り返し表示される。一方、一時停止の解除指示があった場合には、S207に進み、次のHDR SYNCから順次に画像表示が続行され、S202へ戻る。図3に示すように、フレームL4の入力時に一時停止の解除指示があると、フレームL4後のHDR SYNCに続くVSYNC OUTのタイミングで、フレームH5、M5、L5が出力される。
第1実施形態によれば、ユーザ操作により一時停止指示があったとしても、1つの画像を構成する複数のフレームの画像を繰り返し表示させることで、HDR表現による画像を破綻無く表示できる。
[第2実施形態]
【0018】
次に本発明の第2実施形態について図4及び5を用いて説明する。第1実施形態ではHDR動画の一時停止時の表示形態について述べたが、第2実施形態では、一時停止時に画像を印刷する場合を説明する。印刷の場合には、フレーム画像を所定の順序で表示する方法でHDR効果を得ることができないので、演算によってHDR画像を生成する必要がある。この時、印刷実行前のプレビュー表示では演算によって生成したHDR画像が表示される。
図4は第2実施形態を適用した場合の構成例を示した概略ブロック図である。以下では、図1に示した構成要素と同様の機能をもつ構成要素については第1実施形態の場合と同じ符号を用いることでそれらの説明を省略し、相違点を中心に説明する。
【0019】
画像処理装置401の合成選択部402はCPU105の指令を受けて、前記した一時停止処理によって繰り返し表示している3フレームの画像データを選択する。選択した3フレームの画像データは、HDR合成部403に転送される。HDR合成部403は3フレームの画像データを合成する演算を行い、1枚のHDR画像のデータを生成する。生成されたHDR画像のデータは表示選択部404及び印刷装置405に送られる。印刷装置405はデータを受信してHDR画像を印刷する。表示選択部404はCPU105からの指令を受けて、前記一時停止処理による画像表示時には、読み出し選択部107が読み出したフレームの画像データを選択して表示部109に出力し、画像を繰り返し表示させる。また表示選択部404は、印刷プレビュー表示時にはHDR合成部403からのHDR画像のデータを選択して表示部109に出力する。
【0020】
次に、HDR画像の再生時における印刷処理例について、図5のフローチャートを用いて説明する。なおS201乃至204の処理は第1実施形態の場合と同様であるため、それらの説明を省略する。
ユーザ操作による一時停止指示を受けた場合、S205に進む。ここでHDR SYNC内で3枚1組のフレームの画像が繰り返し表示される状態となる。この状態において次のS501では、ユーザ操作により印刷要求があったか否かが判定される。その結果、印刷要求がない場合はS506へ進むが、印刷要求があった場合、S502に進む。
【0021】
S502にてHDR合成部403は、合成選択部402が選択した3フレームの画像データを受け取り、HDR合成処理を行うことで印刷プレビュー画像のデータを生成する。プレビュー画像のデータが生成されると、S503にて表示部109がプレビュー画像を表示する。次のS504は、ユーザ操作により印刷の実行指示が行われたか否かの判定処理であり、印刷実行指示があった場合(S504でYes)、S505に進み、HDR合成部403が印刷装置405にデータを送り、印刷処理が行われる。また、印刷実行指示がない場合(S504でNo)、S506に進む。
【0022】
S506は、ユーザ操作により一時停止の解除指示が行われたか否かの判定処理である。一時停止の解除指示があった場合、S207に進み、次のHDR SYNCから順次に画像表示が続行され、S202へ戻る。また一時停止の解除指示がない場合、S205に戻ってHDR画像を構成する各フレームの画像が繰り返し表示される。
第2実施形態によれば、HDR合成処理を行った画像の印刷プレビュー表示を行うことにより、ユーザはその画像を確認しながら実際に印刷を行うかどうかを判断できる。
【符号の説明】
【0023】
102 画像処理装置
104 HDR検出部
105 CPU
106 書き込み選択部
107 読み出し選択部
108 フレームメモリ部
109 表示部
110 操作部
401 画像処理装置

【特許請求の範囲】
【請求項1】
複数のフレームの画像データで1つの画像が構成される動画データを処理する画像処理装置であって、
前記動画データの再生の一時停止を指示する操作手段と、
前記複数のフレームの画像データを記憶するメモリ手段と、
前記操作手段によって一時停止の指示が行われた場合、前記複数のフレームの画像データを前記メモリ手段からに順次に読み出して繰り返し出力するように制御する制御手段と、を備えることを特徴とする画像処理装置。
【請求項2】
複数のフレームの画像データで1つの画像が構成される動画データの入力を検出するとともに1つの画像を構成しているフレームの数を検出する検出手段と、
前記メモリ手段に書き込むフレームの画像データを選択する書き込み選択手段と、
前記メモリ手段から読み出すフレームの画像データを選択する読み出し選択手段と、を備え、
前記操作手段によって一時停止の指示が行われた場合、前記制御手段は前記書き込み選択手段及び読み出し選択手段を制御して、前記検出手段によって検出された動画データにて1つの画像を構成している複数のフレームの画像データを繰り返し出力させることを特徴とする、請求項1記載の画像処理装置。
【請求項3】
前記検出手段によって前記動画データが検出された場合、前記制御手段は前記書き込み手段を制御し、前記動画データにて1つの画像を構成する複数のフレームの画像データを、フレーム毎に前記メモリ手段のメモリ領域に記憶させることを特徴とする、請求項2に記載の画像処理装置。
【請求項4】
前記操作手段によって一時停止の指示が行われた後で印刷が指示された場合、前記検出手段によって検出された前記動画データにて1つの画像を構成している複数のフレームの画像データを選択する選択手段と、
前記選択手段によって選択された前記画像データを合成して出力する合成手段を備えることを特徴とする、請求項2又は3記載の画像処理装置。
【請求項5】
複数のフレームの画像データで1つの画像が構成される動画データを処理する画像処理方法であって、
前記動画データの再生を一時停止させる指示を受け付けるステップと、
前記複数のフレームの画像データをメモリに記憶するステップと、
前記一時停止の指示があった場合、前記複数のフレームの画像データを前記メモリから順次に読み出して繰り返し出力するステップと、を有することを特徴とする画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2011−97366(P2011−97366A)
【公開日】平成23年5月12日(2011.5.12)
【国際特許分類】
【出願番号】特願2009−249393(P2009−249393)
【出願日】平成21年10月29日(2009.10.29)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】