説明

画像処理装置及び画像処理プログラム

【課題】ユーザが、異なる画風に変更された動画像において動きがある領域を認識しやすい、画像処理装置及び画像処理プログラムを提供する。
【解決手段】動画像を表す動画像データを取得する動画像データ取得部10a、動画像データ取得部10aが取得した動画像データにより表される動画像を構成する複数の静止画像の各静止画像間において動きがある領域を、静止画像毎に注目領域として特定する注目領域特定部10b、注目領域特定部10bが注目領域を特定した静止画像それぞれに対して画風を絵画調に変更する画像処理を、注目領域特定部10bが特定した静止画像内の注目領域と他の領域とで異なる内容で行う画像処理部10c、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置及び画像処理プログラムに関する。
【背景技術】
【0002】
この種の技術として、例えば、特許文献1には、画像内で注目される領域(注目領域)を特定する画素値等を予め記憶し、これを用いることにより、デジタルカメラ等により取得される画像データにより表される画像から注目領域を特定し、特定した注目領域を他の領域より強調する画像処理装置が開示されている。
【0003】
また、特許文献2には、被写体の顔等の特徴を識別する被写体情報を予め記憶し、これを用いることにより、画像内で被写体が存在する被写体領域を注目領域として特定し、特定した注目領域を他の領域より強調する画像処理装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−031688号公報
【特許文献2】特開2004−21374号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1及び2では、予め記憶された画像内の注目領域を特定する所定の情報を用いて、静止画像内の注目領域を特定しているので、例えば、動画像を構成する静止画像について画像処理を施す場合、動画像において動きがある領域(動く被写体が写っている領域等)が正確に特定されず、動きがある領域とそれ以外の領域とを区別せずに、両者を同じ強度の画像処理(画風を変更する画像処理)を行うことになる。そのため、ユーザは、画風が変更された動画像において動きがある領域が認識しにくくなる。
【0006】
本発明は、このような点に鑑みてなされたものであり、ユーザが、異なる画風に変更された動画像において動きがある領域を認識しやすい、画像処理装置及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の第1の観点に係る画像処理装置は、
動画像を表す動画像データを取得する動画像データ取得手段と、
前記動画像データ取得手段が取得した前記動画像データにより表される動画像を構成する複数の静止画像の各静止画像間において動きがある領域を、前記静止画像毎に注目領域として特定する注目領域特定手段と、
前記注目領域特定手段が前記注目領域を特定した前記静止画像それぞれに対して画風を絵画調に変更する画像処理を、前記注目領域特定手段が特定した前記静止画像内の前記注目領域と他の領域とで異なる内容で行う画像処理手段と、
を備える。
【0008】
本発明の第2の観点に係る画像処理プログラムは、
コンピュータに、
動画像を表す動画像データを取得する動画像データ取得工程と、
前記動画像データ取得工程で取得した前記動画像データにより表される動画像を構成する複数の静止画像の各静止画像間において動きがある領域を、前記静止画像毎に注目領域として特定する注目領域特定工程と、
前記注目領域特定工程で前記注目領域を特定した前記静止画像それぞれに対して画風を絵画調に変更する画像処理を、前記注目領域特定工程で特定した前記静止画像内の前記注目領域と他の領域とで異なる内容で行う画像処理工程と、
行わせる。
【発明の効果】
【0009】
本発明によれば、ユーザは、異なる画風に変更された動画像において動きがある領域を認識しやすくなる。
【図面の簡単な説明】
【0010】
【図1】本発明の実施形態に係る画像処理装置の機能を示したブロック図である。
【図2】本発明の実施形態に係る画像処理装置のハードウェア構成を示したブロック図である。
【図3】本発明の実施形態に係る画像処理装置が行う画像処理を示したフローチャートである。
【図4】所定の大きさに区分けした画像処理対象の静止画像(a)と、その前の静止画像(b)とを示した図である。
【図5】所定の大きさに区分けしたブロック毎に対応付ける、注目領域又は他の領域を表す情報のイメージを示した図である。
【図6】画像処理対象の静止画像(a)と、その前に取得された静止画像(b)とを示した図である。
【図7】注目領域と他の領域とで異なる内容によって画像処理を行ったイメージを示した図である。
【発明を実施するための形態】
【0011】
本発明に係る実施形態を、図面を参照して以下に説明する。本実施形態では、本発明に係る画像処理装置1を、デジタルカメラによって実現した形態を説明する。画像処理装置1は、撮影モードとして一般的な静止画撮影モード及び動画撮影モードの他、絵画像モードを有する。
【0012】
絵画像モードは、ユーザにより、メニュー画面から絵画像モードを選択する操作が行われた時点から、予め設定されたフレームレートにより、画像を表すフレームデータ(以下、元画像データという)を順次取得し、取得した元画像データにより表される画像(元画像データは所定の画像データに適宜変更される。)を絵画調に変換する画像処理を行って絵画像データを生成し、これにより表される絵画像を表示画面にライブビュー表示する形態である。絵画調の画像(絵画像)とは、元の写真画像とは趣(画風)の異なる、油絵風、ちぎり絵風、水墨画風等の画像をいう。
【0013】
はじめに、図1を用いて画像処理装置1の構成を説明する。画像処理装置1は、制御部10と、記憶部20と、撮像部30と、入力部40と、表示部50と、読出書込部60と、を備える。
【0014】
制御部10は、画像処理装置1の各部の制御を行い、画像処理装置1全体の制御を行う。また、制御部10は、動画像データ取得部10a、注目領域特定部10b、画像処理部10cを備え、これらは、動画像データにより表される動画像において動きがある領域(注目領域)を特定し、特定した注目領域を他の領域とは異なる内容で画像処理を行う。ここで、動画像とは、複数の連続する静止画像により構成される画像をいう。
【0015】
記憶部20は、制御部10の制御のもと、制御部10が処理中に生成した各種データ、及び、読出書込部60が記録媒体100から読み出した記録画像データ等を適宜記憶する。
【0016】
撮像部30は、制御部10の制御のもと、所定のフレームレートにより画像を撮像する。撮像部30は、撮影した画像を表す撮像信号を生成し、生成した撮像信号をもとに、デジタルの元画像データ(1フレーム分の静止画像データ)を生成する。撮像部30は、生成した元画像データを制御部10に供給する。
【0017】
入力部40は、ユーザの操作入力を受け付ける操作部であり、受け付けた操作入力の内容に対応する操作入力データを制御部10に供給する。
【0018】
表示部50は、制御部10の制御のもと、撮像部30が撮影した画像、操作画面、及び、読出書込部60が記録媒体100から読み出した記録画像データによって表現される記録画像を表示する。
【0019】
読出書込部60は、制御部10の制御のもと、記録媒体100に記録された記録画像データを読み出し、制御部10に供給する。また、読出書込部60は、制御部10の制御のもと、画像データを記録媒体100に書き込む(記録する)。
【0020】
記録媒体100は、動画像データ又は静止画像データを記録画像データとして記憶する。
【0021】
次に、図2を用いて画像処理装置1のハードウェアの構成を説明する。画像処理装置1は、CPU(Central Processing Unit)11と、一次記憶装置12と、二次記憶装置21と、撮影装置31と、入力装置41と、駆動回路51と、表示パネル52と、読出書込装置61と、を備える。
【0022】
図1の制御部10は、CPU11と一次記憶装置12とによって実現される。CPU11は、二次記憶装置21から一次記憶装置12にロードされた画像処理プログラム21aに従って、画像処理装置1全体を制御し、また、特に、図1の制御部10が備える、動画像データ取得部10a、注目領域特定部10b、画像処理部10cが行う処理を実際に行う。制御部10は、その他、ASIC(Application Specific Integrated Circuit:特定用途向け集積回路)等を含んでも良い。この場合、ASIC等が、CPU11が行う処理の少なくとも一部を行う。
【0023】
一次記憶装置12は、RAM(Random Access Memory)等によって実現される。一次記憶装置12は、CPU11のワーキングメモリ等として機能し、CPU11が他の構成要素(例えば、撮影装置31等)から受け取るデータ、及び、CPU11が他の構成要素(例えば、駆動回路51等)に供給するデータは、一旦、一次記憶装置12の記憶領域に記録される。CPU11は、一次記憶装置12に記録されたデータを読み出し、読み出したデータを用いて演算(処理)を行い、演算結果(処理結果)のデータを随時一次記憶装置12に記録する。
【0024】
図1の記憶部20は、二次記憶装置21によって実現される。二次記憶装置21は、フラッシュメモリ又はハードディスク等によって構成される。また、二次記憶装置21は、画像処理プログラム21aを記憶している。CPU11は、二次記憶装置21が記憶している画像処理プログラム21aを一次記憶装置12にロードし、一次記憶装置12にロードした画像処理プログラム21aの指令に基づいて処理を行う。
【0025】
図1の撮像部30は、撮影装置31によって実現される。撮影装置31は、CCD(Charge Coupled Device)イメージセンサー又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサー等の撮像素子、AFE(Analog Front End)、DSP(Digital Signal Processor)等を備えるカメラ等によって構成される。
【0026】
撮影装置31は、撮影した画像を表す撮像信号を撮像素子によって生成し、生成した撮像信号に各種処理(AFE、DSP等によって行われる処理)を施して、デジタルの元画像データを生成する。なお、各種処理には、例えば、相関二重サンプリング(Correlated Double Sampling)の処理と、サンプリング後の撮像信号に施す自動利得調整(Automatic Gain Control)の処理と、自動利得調整後のアナログの撮像信号をデジタル信号に変換するアナログ・デジタル変換の処理と、輪郭強調、オートホワイトバランス、オートアイリス等の画質を向上させる処理とがある。
【0027】
元画像データは、撮像素子によって撮像された1フレーム分(1つの撮像画像分)の静止画像を表すデータである。撮影装置31は、元画像データを生成する毎に、一次記憶装置12に供給する。一次記憶装置12は、撮影装置31から受け取った元画像データを記憶する。CPU11は、一次記憶装置12が記憶する元画像データを用いて、後述の処理を行う。
【0028】
図1の入力部40は、入力装置41によって実現される。入力装置41は、撮影キー、再生キー、停止キー、メニューキー、画像変換モード選択キー、セットキー、電源キー等の複数の操作キーを含む、ユーザにより操作が行われるインターフェース装置である。ユーザがこれらのキーを操作すると、入力装置41は、各キーに応じた操作入力データを一次記憶装置12に供給する。一次記憶装置12は、入力装置41から供給される操作入力データを受け取り、受け取った操作入力データを記憶する。CPU11は、一次記憶装置12が記憶する操作入力データに従って、後述の処理を行う。
【0029】
図1の表示部50は、駆動回路51と、表示パネル52とによって実現される。CPU11は、各種画像データを用いて、表示用のデータ(例えば、RGB(RED−GREEN−BLUE)データ)を生成し、生成した表示用のデータを駆動回路51に供給する。駆動回路51は、受け取った表示用のデータに基づいて表示パネル52を駆動し、各種画像データによって表される各種画像を表示パネル52に表示させる。
【0030】
表示パネル52は、例えば、液晶表示パネル又は有機EL(Organic Electro-Luminescence:OEL)表示パネル等によって構成される。表示パネル52には、駆動回路51によって各種画像が表示される。
【0031】
なお、図1の入力部40と表示部50とを、タッチパネルによって実現してもよい。この場合、入力装置41及び表示パネル52は、タッチパネルによって構成される。タッチパネルは、所定の操作を受け付ける入力画面を表示すると共に、入力画面においてユーザが接触操作を行った位置に対応する操作入力データを一次記憶装置12に供給する。一次記憶装置12は、タッチパネルから供給される操作入力データを受け取り、受け取った操作入力データを記憶する。CPU11は、一次記憶装置12が記憶する操作入力データに従って、後述の処理を行う。
【0032】
図1の読出書込部60は、読出書込装置61によって実現される。読出書込装置61は、データの読み出しや書き込みを行うインターフェース装置である。読出書込装置61は、記録媒体100に記録された記録画像データ(静止画像データ又は動画像データ)を読み出し、読み出した記録画像データを一次記憶装置12に供給する。一次記憶装置12は、読出書込装置61から供給される記録画像データを受け取り、受け取った記録画像データを記憶する。CPU11は、一次記憶装置12が記憶する記録画像データを用いて後述の処理を行う。
【0033】
記録媒体100は、フラッシュメモリタイプのメモリーカード101等によって実現される。メモリーカード101としては、記録画像データを記録するSDメモリーカード等がある。
【0034】
次に、図3を用いて、画像処理装置1が行う画像処理を説明する。
【0035】
ユーザは、電源投入後に表示部50に表示されるメニュー画面から絵画像モードを選択する操作を、入力部40を用いて行う。また、この時、ユーザは、水彩画、カラースケッチ、パステル画、点描画、エアブラシ、油彩画、ゴシック様式の油絵等、絵画調の種類を選択する操作も行う。入力部40は、絵画像モード及び絵画調の種類の選択操作の入力に応じた操作入力データを制御部10に供給する。
【0036】
制御部10は、当該操作入力データを入力部40から受け取ることにより画像処理を開始する(図3の画像処理開始)。
【0037】
この画像処理では、動画像データ取得部10aは、予め設定されたフレームレートにより、撮像部30の駆動制御を行って撮像部30に画像を撮像させる。動画像データ取得部10aは、撮像部30により生成される元画像データをフレーム毎に順次取得し、取得した順に所定の記憶領域(例えば、図2に示す一時記憶装置12)に保持(一時記録)する。輪郭強調、オートホワイトバランス、オートアイリス等の画質を向上させる処理は、制御部10(動画像データ取得部10a)が行っても良い。この場合、制御部10(動画像データ取得部10a)が前記の処理を撮像部30から取得するデータを用いて行うことによって、元画像データを生成(取得)する。
【0038】
注目領域特定部10bは、動画像データ取得部10aが1フレーム分の元画像データを取得する毎に、当該元画像データにより表される静止画像内の注目領域を特定する処理を行う。注目領域特定部10bは、n=1を設定する(ステップS101)。nは、動画像データ取得部10aがフレーム毎に取得した元画像データの順番を示す。その後、注目領域特定部10bは、n=n+1とする(ステップS102)。つまり、ここで画像処理の対象となるのはn番目(2番目)の元画像データである。
【0039】
注目領域特定部10bは、n及びn−1番目の元画像データを取得する(ステップS103)。つまり、注目領域特定部10bは、動画像データ取得部10aがn番目(2番目)に取得した元画像データとn−1番目(1番目)に取得した元画像データとを所定の記憶領域(図2の一時記憶装置12)から取得する。
【0040】
注目領域特定部10bは、画像処理の対象となるn番目(2番目)の元画像データと、その前に取得したn−1番目(1番目)の元画像データとを用いて、これらのデータにより表される各静止画像を、図4に示すように所定の大きさのブロックに区分けする(ステップS104)。例えば、注目領域特定部10bは、1ブロックを8×8画素として、各静止画像をブロック毎に区分けする。なお、これ以降の処理では、元画像データは、所定の処理し易いデータ形式に適宜変更されるものとする。
【0041】
区分けされた各ブロックは、ブロックを一意に識別できる識別情報(例えば、ブロック番号)によって特定される。例えば、画像の左上隅のブロックのブロック番号を“1”とし、当該ブロックから右方向に、右上隅のブロックに向かってブロック毎にブロック番号を付していき、さらに、右上隅のブロックにブロック番号“m”を付した後は、画像の左上隅のブロックの1つ下にあるブロックにブロック番号“m+1”を付していく。このように、各静止画像において区分けされた各ブロックはブロック番号によって特定される。なお、区分けされるブロックの大きさは、適宜設定でき、均等に区分けされなくても良い。また、区分けされるブロックの大きさは、処理中においては不変である。
【0042】
注目領域特定部10bは、各静止画像の互いに対応するブロック毎に比較を行って、画像処理の対象であるn番目(2番目)の元画像データの動きベクトルをブロック毎に取得する(ステップS105)。つまり、注目領域特定部10bは、画像処理対象であるn番目(2番目)の元画像データと、その前に取得したn−1番目(1番目)の元画像データとを用いて、n番目(2番目)の元画像データにより表される静止画像(図4(a))と、n−1番目(1番目)の元画像データにより表される静止画像(図4(b))との比較を行って、n−1番目(1番目)の元画像データにより表される元画像からn番目(2番目)の元画像データにより表される元画像にかけての移動距離及び移動方向を表す動きベクトルをブロック毎に取得する。
【0043】
注目領域特定部10bは、n番目(2番目)の元画像データのブロック毎に取得した動きベクトルが、予め設定された動きベクトル閾値以上である(又は閾値を超える)ブロックを特定する(ステップS106)。この特定したブロックは、各静止画像間の被写体の移動距離等が一定基準を満たし、動きがある領域(動く被写体が写っている領域等)であるものとして扱われる。
【0044】
具体的に、注目領域特定部10bは、ブロック毎に取得した動きベクトルが動きベクトル閾値以上であるか(または閾値を超えるか)をブロック毎に判別する。ブロックの動きベクトルが動きベクトル閾値以上である(または閾値を超えた)場合、注目領域特定部10bは、当該ブロックは動きがある領域(注目領域)であると判別し、例えば、図5に示すように、n番目の元画像について、当該ブロック(ブロック番号)に、注目領域(動きのある領域)であることを表す情報“1”を対応付ける。一方、ブロックの動きベクトルが動きベクトル閾値未満である(または閾値以下である)場合、注目領域特定部10bは、当該ブロックは動きがない領域(注目領域以外の領域)であると判別し、当該ブロックに、注目領域以外の領域(動きがない領域)であることを表す情報“0”を対応付ける。これにより、注目領域特定部10bは、n番目(2番目)の元画像データにより表される静止画像において動く被写体200を含むブロック210の集合を特定することができる。
【0045】
その後、画像処理部10cは、絵画像モード選択時にユーザが入力部40を用いて選択した絵画調の種類に従って、n番目(2番目)の元画像データを絵画調に変換する画像処理を行う。例えば、ユーザにより水彩画が選択されている場合、画像処理部10cは、n番目(2番目)の元画像データが有する種々のパラメータを変更して水彩画風の絵画像を表す絵画像データを生成する。ここでパラメータは、画像を絵画調に変更する画像処理を行うときの画像処理の処理強度を規定する数値である。また、パラメータには、明るさ、コントラスト、色の濃さ、色合い、シャープネス等を表す各種パラメータがある。また、パラメータは、絵画調の種類(画像処理の種類)によって、それぞれ規定されている。なお、この絵画調に変換する画像処理としては、例えば、フォトショップ(登録商標)で使用される各種フィルタ等での処理がある。
【0046】
画像処理部10cは、注目領域特定部10bが注目領域として特定したブロックと他の領域(ブロック)とを、異なる処理強度によって、画像処理を行う(ステップS107)。画像処理の処理強度は、種々のパラメータの数値を上下して調節する。具体的に、画像処理部10cは、例えば、注目領域の画像部分に行う画像処理の処理強度を高くし、注目領域以外の領域の画像部分に行う画像処理の処理強度を低くする。つまり、画像処理部10cは、注目領域であることを表す情報“1”に対応付けられたブロックの画像部分を、予め設定された各種パラメータの数値(基準値)を上げて画像処理を行う。これにより、当該画像部分は、詳細に描画されて絵画調のタッチが細かく表される。一方、画像処理部10cは、例えば、注目領域以外の領域であることを表す情報“0”に対応付けられたブロックの画像部分を、予め設定された各種パラメータの数値(基準値)を下げて画像処理を行う。これにより、当該画像部分は、大まかに描画されて絵画調のタッチが荒く表される。
【0047】
このように、本実施形態では、各種のパラメータの数値が上がれば、画像処理の処理強度が大きくなり、これによって、絵画調のタッチが細かくなる。また、各種のパラメータの数値が下がれば、画像処理の処理強度が小さくなり、これによって、絵画調のタッチが荒くなる。なお、処理強度の大小、パラメータの数値、タッチの荒い細かいの関係は、これに限らない。また、これらの関係は、絵画調の種類によって異なり、予め設定されているものとする。ここでは、画像処理部10cは、処理強度を変化させ、注目領域を細かいタッチで表し、その他の領域を注目領域よりも荒いタッチで表すような画像処理を行う。なお、画像処理部10cは、このような例に限らず、処理強度を変化させ、注目領域とその他の領域とで、元画像から変換の度合いが異なるような画像処理を行う。
【0048】
画像処理部10cは、上記画像処理を全てのブロックを対象にして行うことにより、n番目(2番目)の元画像データを基に絵画像データを生成する。画像処理部10cは、生成された絵画像データを、所定の記憶領域(図2の一時記憶装置12等)に記録すると共に表示用のデータに変換して表示部50に供給する。画像処理部10cの制御のもと、表示部50(図2の表示パネル52)には、受け取った絵画像データにより表される絵画像が表示される。
【0049】
その後、制御部10が絵画像モードの撮影を終了したことを判定する(ステップS108;Yes)まで、動画像データ取得部10a、注目領域特定部10b、画像処理部10cは、上記と同様の処理(ステップS102乃至S107)を繰り返し行い、動画像データ取得部10aが撮像部30から1フレーム分の元画像データを順次取得する毎に、当該元画像データを基に1フレーム分の絵画像データを生成する処理を行う。
【0050】
また、画像処理部10cは、1フレーム分の絵画像データを生成する毎に、記憶領域(図2の一時記憶装置12)に記録すると共にこのデータを表示用のデータに変換して表示部50に供給する。これにより、表示部50(図2の表示パネル52)には、表示用のデータにより表される絵画像がライブビュー表示される。
【0051】
また、表示部50(図2の表示パネル52)にライブビュー表示されている絵画像をユーザが確認し、ユーザが撮影開始キーを操作することにより、画像処理部10cは、撮影開始を判断し、その操作時から順次フレーム毎に取得する絵画像データを記憶領域(図2の一時記憶装置12)に記録していき、ユーザが撮影終了キーを操作することにより、画像処理部10cは、操作時から記録された複数の連続する絵画像データにより構成される動画像データを、二次記憶装置21やメモリーカード101等に記録することができる。なお、ユーザが撮影開始キーと撮影終了キーの操作を行った時、動画像データ取得部10aが所定の記憶領域(図2の一次記憶装置12)に記録した複数の連続する元画像データにより構成される動画像データを記録することもできる。
【0052】
なお、動画像データ取得部10aが最初(1番目)に取得する元画像データについては、当該元画像データと比較できる画像データが存在しないため、本実施形態では、所定の画像処理を行うものとする。例えば、最初(1番目)に取得した元画像データについては、予め設定した画像内の中央領域を基に、当該元画像データにより表される静止画像内の中央領域とそれ以外の領域とに分け、中央領域に相当する画像部分を詳細に描画する画像処理を行い、それ以外の領域に相当する画像部分を大まかに描画する画像処理を行う。つまり、画像処理部10cは、静止画像内の中央領域に相当する画像部分の画像処理を、パラメータの数値を上げることにより、画像処理の処理強度を大きくして、絵画調のタッチを細かく表す。一方、画像処理部10cは、静止画像内の中央領域に相当する画像部分の画像処理を、パラメータの数値を下げることにより、画像処理の処理強度を小さくして、絵画調のタッチを荒く表す。
【0053】
本実施形態に係る画像処理装置1によれば、動画像データ(ここでは、連続して取得される元画像データの集合)により表される複数の静止画像のうち、例えば、画像処理対象の静止画像(例えば、図6(a))と、その前に取得された静止画像(例えば、図6(b))とを用いて、各静止画像間において動きがある領域を注目領域として特定し、静止画像の画風を変更する画像処理を、図7に示すように、特定した静止画像内の注目領域70と他の領域71とで異なる内容によって行う。これにより、ユーザは、絵画調に変換された動画像において動きがある領域を認識しやすい。また、異なる内容の画像処理によって、ユーザは、動きのある領域の特徴を認識し易い。
【0054】
また、本実施形態に係る画像処理装置1によれば、注目領域特定部10bは、各静止画像間の変化を表す被写体の移動距離等が一定基準を満たす領域を注目領域として特定するので、各静止画像間において被写体の移動距離等が一定基準を満たした領域(つまり、動きが大きい領域)のみを、注目領域として特定することができる。
【0055】
また、本実施形態に係る画像処理装置1によれば、注目領域特定部10bは、動画像データにより表される動画像を構成する複数の静止画像それぞれについて、静止画像を所定の大きさのブロックに区分けし、区分けしたブロック毎に、各静止画像の互いに対応するブロックの静止画像間の変化が一定基準を満たす領域(ブロック)を、注目領域として特定するので、注目領域とそれ以外の領域とをブロック単位で区別することができる。
【0056】
なお、本実施形態においては、説明の便宜上、ステップS102乃至S107の一通りの処理を行った後、次の元画像データを画像処理対象としているが、各ステップが進む毎に、順次、次の元画像データの画像処理を行っても良い。
【0057】
また、画像処理装置1が画像処理を行う動画像データは、1フレーム分の静止画像を表す静止画像データを複数組み合わせたもの(上記参照)、MPEG(Moving Picture Experts Group)等の映像圧縮方式により1フレーム分の基準画像(通常複数)を表す基準画像データと基準画像との差分を表す複数の差分データとを組み合わせたもの等が含まれる。
【0058】
例えば、上記実施形態において、画像処理装置1は、絵画像モードの撮影を行って、順次生成される絵画像データにより表される絵画像をライブビュー表示する例を説明したが、記憶部20や記録媒体100等に記憶された動画像データを用いて、上記実施形態と同様の画像処理(図3のステップS101乃至S107)を行うこともできる。この場合において、画像処理装置1(注目領域特定部10b)は、最初(1番目)の元画像データを、次(2番目)の元画像データと比較し、最初(1番目)の元画像データにより表される静止画像において所定基準以上の動きがある領域を、注目領域として特定する。これにより、最初(1番目)の元画像データにより表される静止画像の注目領域の画像部分とそれ以外の領域の画像部分とで異なる内容の画像処理を行う。なお、この場合の元画像データは、JPEG(Joint Photographic Experts Group)等のデータ形式であってもよい。この場合は、元画像データは上記処理において適宜処理し易いデータ形式に変換されるものとする。
【0059】
また、記憶部20や記録媒体100等に記憶された動画像データが、MPEG(Moving Picture Experts Group)等のデータ圧縮方式によるものである場合、このデータを用いて、動画像データが表す動画像を構成する各静止画像をデータ上で再現し、上記の処理を各静止画像について行う。
【0060】
また、その他の実施形態として、画像処理装置1は、動画像データにより表される動画像において、人間や動物の顔の像を検出し、動きがある顔の像の領域を注目領域として特定することもできる。
【0061】
具体的に、画像処理装置1において、動画像データ取得部10aは、動画像データを取得する。注目領域特定部10bは、所定の顔の特徴を表すテンプレート顔画像を用いて、最初(1番目)の元画像データにより表される静止画像において、例えば、1画素ずつ左右方向または上下方向にずらしながら、テンプレート顔画像と同じ領域の画像との比較を行っていく。注目領域特定部10bは、テンプレート顔画像と最も一致する画像(類似度が高い画像)を探索することにより、被写体の顔の像を検出する。この探索は、例えば、顔であるか否かを識別するのに有効な特徴量を抽出することによって行う。特徴量は、水平エッジ、垂直エッジ、右斜めエッジ、及び、左斜めエッジ等である。なお、この時、テンプレート顔画像を一定割合で縮小又は拡大し、縮小又は拡大後のテンプレート顔画像と最も一致する画像を探索することにより被写体の顔の像を検出しても良い。
【0062】
その後(2番目以降の元画像データ)の画像処理は、追跡処理により行う。つまり、1番目の画像から検出された被写体の顔の像をテンプレート画像として用いて、順次取得する元画像データにより表される画像と上記と同様のマッチング処理を行うことにより、順次、被写体の顔の像を検出することができる。
【0063】
そして、注目領域特定部10bは、画像処理の対象となる元画像データにより表される静止画像と、その前に取得した元画像データにより表される静止画像とを用いて、各静止画像において被写体の顔の像を検出し、各静止画像間において、所定基準以上の動きがある顔の像の領域(静止画像内で、顔の像が所定基準以上の距離を移動している領域)を、注目領域として特定する。これに基づいて、上記実施形態と同様、画像処理部10cが静止画像の画風を変更する画像処理を、特定した静止画像内の注目領域と他の領域とで異なる内容で行うことにより、ユーザは、絵画調に変換された動画像において動きがある顔の像の領域を認識しやすい。
【0064】
特に、この手法によれば、所定の範囲で分割したブロック単位で注目領域を特定した上記実施形態とは異なり、各静止画像内の顔の像の領域を注目領域として特定することができ、より絵画調に変換された動画像において動きがある顔自体、又は、顔の輪郭等が認識しやすくなる。顔は、ユーザに注目されやすく、絵画調に変換された動画像においてユーザの注目しやすい領域である顔を目立たせることができる。
【0065】
また、その他の実施形態として、画像処理装置1は、動画像データにより表される動画像として、合成画像を用いても良い。合成画像は、例えば、背景画像に前景画像を重畳させた画像であり、同じ背景画像内で前景画像のみが動いていく動画像をいう。この動画像データは、例えば、背景画像を表す静止画像データと、動く被写体像(前景画像)を表す静止画像データと、前景画像が背景画像で動く軌跡を表すデータと、を含む合成画像データ(ブレンディング画像データ)である。この場合、合成画像は、同じ背景画像内で前景画像が軌跡に従って動く、静止画像の連続となる。
【0066】
注目領域特定部10bは、連続する静止画像の各静止画像間において、軌跡に従って動く前景画像が所定基準以上の動きがある前景画像の領域を注目領域として特定し、画像処理部10cは、注目領域特定部10bによって特定された注目領域と他の領域とを処理強度を異ならせて画像処理を行う。
【0067】
特に、この手法によれば、所定の範囲で分割したブロック単位で注目領域を特定した上記実施形態とは異なり、各静止画像内の被写体像の領域を注目領域として特定することができ、より絵画調に変換された動画像において動きがある被写体像自体が認識しやすくなる。なお、合成画像データは、例えば、同じ背景画像内で前景画像のみが動いていく、複数の連続する合成画像を表すデータであってもよい。この場合には、この合成画像データによって表される合成画像は、上記実施形態と同様の処理によって、注目領域を特定し、特定した注目領域とそれ以外の領域とを区別して画像処理を行う。
【0068】
また、その他の実施形態として、画像処理装置1は、注目領域毎に、注目の度合いを表す値(注目度)をさらに特定しても良い。具体的に、注目領域特定部10bは、各静止画像間の注目領域の変化の大きさ、又は、静止画像内において注目領域が占める割合等について、一定の範囲毎に注目度(例えば注目度1〜5)を対応付けて記憶部20に記録された対応表を参照し、注目領域特定部10bが特定した注目領域の変化の大きさ、又は、静止画像内において注目領域が占める割合等に基づいて、注目領域毎に、注目領域の注目度を特定する。例えば、各静止画像間の注目領域の変化(例えば、被写体の移動距離等)が大きいほど、その注目領域の注目度は高くなる。また、静止画像内の注目領域が占める割合が大きいほど、その注目領域の注目度は高くなる。
【0069】
画像処理部10cは、注目領域特定部10bが注目領域毎に特定した、注目領域の注目度に応じて、画像処理の処理強度を変化させる。画像処理の処理強度は、上記実施形態と同様、種々のパラメータの数値を上下して調節する。具体的に、画像処理部10cは、注目領域の注目度が高いほど、予め設定された各種パラメータの数値(基準値)を上げて画像処理を行う。これにより、注目領域特定部10bが特定した注目領域の注目度に応じて、画像処理部10cは、静止画像それぞれに対して画風を変更する画像処理で異なる内容によって行うことができる。
【0070】
その他、画像処理部10cが行う、静止画像の画風を変更する画像処理について、本実施形態では、異なる処理強度(画像処理の内容)により画像処理を行っているが、それ以外の形態として、異なる画風(水彩画、カラースケッチ、パステル画、点描画、エアブラシ、油彩画、ゴシック様式の油絵等)により画像処理を行っても良い。例えば、画像処理部10cは、注目領域特定部10bにより特定された注目領域の画像部分を水彩画、それ以外の領域の画像部分を点描画として画像処理を行っても良い。このようにして、画像処理部10cが、注目領域と他の領域とに対して異なる種別(画像処理の内容)の画像処理を行うことによって、ユーザは、絵画調に変換された動画像において動きがある領域を認識しやすいだけでなく、ユーザに新たな印象を与えることができる。
【0071】
また、上記実施形態においては、画像処理装置の一例として、デジタルカメラを挙げたが、その他、デジタルフォトフレームやパーソナルコンピュータ、携帯電話等、画像処理機能を有する各種装置で実現することができる(特に記憶部20や記録媒体100等に記憶された動画像データを用いる場合。)。
【0072】
なお、上記実施形態の画像処理プログラムは、持ち運び可能な記録媒体等に記録されてもよい。持ち運び可能な記録媒体には、例えば、CD−ROM(Compact Disk Read Only Memory)又はDVD−ROM(Digital Versatile Disk Read Only Memory)等がある。また、画像処理プログラムは、持ち運び可能な記録媒体から各種の読取装置を介して画像処理装置にインストールされても良い。さらに、画像処理プログラムは、インターネット等のネットワークから図示しない通信部を介して画像処理装置にダウンロード及びインストールされても良い。また、画像処理プログラムは、画像処理装置と通信可能なサーバ等の記憶装置に格納されて、CPU等への指令を行っても良い。画像処理プログラムを記憶した読み取り可能な記録媒体(例えば、RAM、ROM(Read Only Memory)、CD−R、DVD−R、ハードディスク、又は、フラッシュメモリ)は、コンピュータが読み取り可能なプログラム製品となる。
【符号の説明】
【0073】
1・・・画像処理装置、10・・・制御部、10a・・・動画像データ取得部、10b・・・注目領域特定部、10c・・・画像処理部、11・・・CPU、12・・・一次記憶装置、20・・・記憶部、20a・・・プログラム記憶部、21・・・二次記憶装置、21a・・・画像処理プログラム、30・・・撮像部、31・・・撮影装置、40・・・入力部、41・・・入力装置、50・・・表示部、51・・・駆動回路、52・・・表示パネル、60・・・読出書込部、61・・・読出書込装置、70・・・注目領域、71・・・他の領域(注目領域以外の領域)、100・・・記録媒体、101・・・メモリーカード、200・・・動く被写体、210・・・ブロック

【特許請求の範囲】
【請求項1】
動画像を表す動画像データを取得する動画像データ取得手段と、
前記動画像データ取得手段が取得した前記動画像データにより表される動画像を構成する複数の静止画像の各静止画像間において動きがある領域を、前記静止画像毎に注目領域として特定する注目領域特定手段と、
前記注目領域特定手段が前記注目領域を特定した前記静止画像それぞれに対して画風を絵画調に変更する画像処理を、前記注目領域特定手段が特定した前記静止画像内の前記注目領域と他の領域とで異なる内容で行う画像処理手段と、
を備える画像処理装置。
【請求項2】
前記画像処理手段は、前記注目領域特定手段が特定した前記静止画像内の前記注目領域と前記他の領域とに対して異なる処理強度の前記画像処理を行う、ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記画像処理手段は、前記注目領域特定手段が特定した前記静止画像内の前記注目領域と前記他の領域とに対して異なる種別の前記画像処理を行う、ことを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記動きがある領域は、顔の像の領域を含み、
前記注目領域特定手段は、前記顔の像の領域を、前記注目領域として特定する、
ことを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
【請求項5】
前記動画像は、前記静止画像に動く被写体像を重畳させた画像であり、
前記動きがある領域は、前記動く被写体像を含み、
前記注目領域特定手段は、前記動く被写体像を、前記注目領域として特定する、
ことを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
【請求項6】
前記注目領域特定手段は、前記各静止画像間の前記注目領域における前記動きの大きさ、又は、前記静止画像内の前記注目領域が占める割合に応じて変化する値を前記注目領域毎にさらに特定し、
前記画像処理手段は、前記注目領域特定手段が特定した前記値に応じて、前記画像処理の内容を変化させる、
ことを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。
【請求項7】
コンピュータに、
動画像を表す動画像データを取得する動画像データ取得工程と、
前記動画像データ取得工程で取得した前記動画像データにより表される動画像を構成する複数の静止画像の各静止画像間において動きがある領域を、前記静止画像毎に注目領域として特定する注目領域特定工程と、
前記注目領域特定工程で前記注目領域を特定した前記静止画像それぞれに対して画風を絵画調に変更する画像処理を、前記注目領域特定工程で特定した前記静止画像内の前記注目領域と他の領域とで異なる内容で行う画像処理工程と、
行わせる画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2011−170402(P2011−170402A)
【公開日】平成23年9月1日(2011.9.1)
【国際特許分類】
【出願番号】特願2010−30910(P2010−30910)
【出願日】平成22年2月16日(2010.2.16)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】