画像処理装置
【課題】動画から抽出されるフレーム画像と、静止画像とが混在する画像一覧であって、フレーム画像と静止画像との間で視覚的な統一感が確保されている画像一覧を出力させることができる画像処理装置を提供すること。
【解決手段】動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する画像一覧20を印刷出力する場合、各インデックス画像21a,21b,21c,22の大きさが基準特徴量BSSpと一致するように補正され、各インデックス画像21a,21b,21c,22の色が基準特徴量BCSpと一致するように補正されて印刷出力されるので、各インデックス画像21a,21b,21c,22間で視覚的な統一感が確保されている画像一覧20を出力させることができる。
【解決手段】動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する画像一覧20を印刷出力する場合、各インデックス画像21a,21b,21c,22の大きさが基準特徴量BSSpと一致するように補正され、各インデックス画像21a,21b,21c,22の色が基準特徴量BCSpと一致するように補正されて印刷出力されるので、各インデックス画像21a,21b,21c,22間で視覚的な統一感が確保されている画像一覧20を出力させることができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置に関するものである。
【背景技術】
【0002】
近年では、デジタルカメラを用いて動画と静止画とを撮影できるため、撮影シーンに応じて、動画と静止画とを使い分けて撮影するシーンが存在している。例えば、運動会など動きのあるシーンでは動画で撮影し、集合写真などの動きのないシーンでは静止画で撮影されている。
【0003】
また、かかるデジタルカメラで撮影した動画をフレーム単位で抽出したフレーム画像と静止画像とが混在した画像一覧を、印刷出力したり、ディスプレイに表示する装置も提案されている。例えば、次の特許文献1には、フレーム画像と静止画像とを区別可能な態様でディスプレイ7に表示するプリントシステムが記載されている。
【特許文献1】特開2005−130254号公報(段落第「0036」、図9)
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した特許文献1に記載されているプリントシステムでは、ディスプレイ7に表示するフレーム画像と、静止画とを含む画像一覧が、視覚的に統一感に欠けるものとなっていた。具体的には、デジタルカメラの動画像を構成するフレーム画像は、前記デジタルカメラのメイン機能である静止画像に比べ、画像サイズが小さいものであった。また、動画は時間が継続するため、撮影した時間において撮影条件を改善するためのフラッシュ撮影や、ISO感度、F値、ホワイトバランス等の調整方法が静止画像と異なる。例えば、撮影しながら屋内から屋外へ移動するなど、撮影継続中に撮影条件が変化すると、ホワイトトバランス等が適応するまでの期間において動画は色かぶりするため、そのフレーム画像は静止画像に比べて色かぶりしている傾向にあった。その結果、フレーム画像と、静止画像とが混在する画像一覧では、フレーム画像と、静止画像との間において、視覚的な統一感に欠け、画像一覧が見難いという問題点があった。
【0005】
本発明は、上記の問題点を解決するためになされたものであり、動画から抽出されるフレーム画像と、静止画像とが混在する画像一覧であって、フレーム画像と静止画像との間で視覚的な統一感が確保されている画像一覧を出力させることができる画像処理装置を提供することを目的としている。
【課題を解決するための手段】
【0006】
この目的を達成するために、請求項1記載の画像処理装置は、1以上の静止画像ファイルと、1以上の動画像ファイルとを取得する取得手段と、その取得手段によって取得された動画像ファイルから1以上のフレーム画像を抽出する抽出手段と、その抽出手段によって抽出された1以上のフレーム画像の各々のフレーム画像と、前記取得手段によって取得された1以上の静止画像ファイルの各々の静止画像との画像特徴をあらわす特徴量を算出する画像特徴量算出手段と、その画像特徴量算出手段によって算出された1以上のフレーム画像に対応する特徴量と、1以上の静止画像に対応する特徴量との、少なくとも一方から基準となる基準特徴量を算出する基準特徴量算出手段と、前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段によって算出された基準特徴量に一致させるように画像を補正する画像補正手段と、その画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、同一出力面上に出力させる出力制御手段とを備えている。
【0007】
請求項2記載の画像処理装置は、請求項1に記載の画像処理装置において、前記取得手段によって取得される静止画像ファイルと、動画像ファイルとを区別する区別手段を備え、前記基準特徴量算出手段は、前記区別手段によって動画像ファイルと区別された静止画像ファイルが示す前記1以上の静止画像に対応する特徴量から基準特徴量を算出し、前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量を、前記基準特徴量に一致させるように画像補正する。
【0008】
請求項3記載の画像処理装置は、請求項1又は2に記載の画像処理装置において、前記画像特徴量算出手段は、前記特徴量として、画像の色に関する情報を示す色情報と画像の大きさに関する情報を示すサイズ情報とのうち、少なくとも一方を算出し、前記基準特徴量算出手段は、上記画像特徴量算出手段によって得られた特徴量から基準となる基準特徴量を算出し、前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段で算出された基準特徴量に一致させるように画像補正する。
【0009】
請求項4記載の画像処理装置は、請求項3記載の画像処理装置において、前記色情報は、輝度を示す輝度情報、彩度を示す彩度情報、色相を示す色相情報のうち、何れか一以上である。
【0010】
請求項5記載の画像処理装置は、請求項3記載の画像処理装置において、前記サイズ情報は、画像の幅を示す幅情報、画像の高さを示す高さ情報、画像のアスペクト比を示すアスペクト比情報である。
【0011】
請求項6記載の画像処理装置は、請求項1から5のいずれかに記載の画像処理装置において、記録用紙に画像を記録する記録手段を備え、前記出力制御手段は、前記画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、前記記録手段によって前記記録用紙の同一紙面上に記録させる。
【発明の効果】
【0012】
請求項1記載の画像処理装置によれば、各フレーム画像の画像特徴をあらわす特徴量と、各静止画像の画像特徴をあらわす特徴量とが画像特徴量算出手段によって算出され、その算出された少なくとも何れか一方の特徴量から基準となる基準特徴量が基準特徴量算出手段によって算出される。そして、各フレーム画像の特徴量と、各静止画像の特徴量とが、画像補正手段によって基準特徴量に一致するように補正され、その補正された各フレーム画像と、各静止画像とが出力制御手段によって同一出力面上に出力される。よって、各フレーム画像と、各静止画像とは、その特徴量が基準特徴量に一致した状態で同一出力面上に出力される。従って、フレーム画像と、静止画像とが混在する画像一覧であって、フレーム画像と静止画像との間で視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0013】
請求項2記載の画像処理装置によれば、請求項1に記載の画像処理装置の奏する効果に加え、基準特徴量算出手段は、区別手段によって動画像ファイルと区別された静止画像ファイルが示す前記1以上の静止画像に対応する特徴量から基準特徴量を算出し、画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量を、前記基準特徴量に一致させるように画像補正する。よって、フレーム画像は静止画像に比べサイズが小さかったり、色かぶりしている傾向にあるものの、フレーム画像の特徴量を、静止画像の特徴量に一致させることで、かかるサイズの不一致や色かぶりが解消される。よって、フレーム画像と、静止画との間で、視覚的な統一感が高品質に確保されている画像一覧を出力させることができるという効果がある。
【0014】
請求項3記載の画像処理装置によれば、請求項1又は2に記載の画像処理装置の奏する効果に加え、画像の色に関する情報を示す色情報と画像の大きさに関する情報を示すサイズ情報とのうち少なくとも一方が、各フレーム画像の特徴量と、各静止画像の特徴量として算出され、その少なくとも一方の特徴量が互いに一致するように補正される。よって、フレーム画像と、静止画との間で色、または、大きさの少なくとも一方に関して、視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0015】
請求項4記載の画像処理装置によれば、請求項3に記載の画像処理装置の奏する効果に加え、色情報は、輝度を示す輝度情報、彩度を示す彩度情報、色相を示す色相情報のうち、何れか一以上であるので、フレーム画像と、静止画との間で輝度、彩度、色相のうち、いずれか一以上に関して、視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0016】
請求項5記載の画像処理装置によれば、請求項3に記載の画像処理装置の奏する効果に加え、サイズ情報は、画像の幅を示す幅情報、画像の高さを示す高さ情報、画像のアスペクト比を示すアスペクト比情報であるので、フレーム画像と、静止画との間で、その大きさに関して、より高精度に視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0017】
請求項6記載の画像処理装置によれば、請求項1から5のいずれかに記載の画像処理装置の奏する効果に加え、出力制御手段は、画像補正手段によって補正されたフレーム画像と、静止画像とを記録手段によって記録用紙の同一紙面上に記録させるので、フレーム画像と、静止画との間で、視覚的な統一感が確保されている画像一覧が記録された記録用紙を出力させることができるという効果がある。
【発明を実施するための最良の形態】
【0018】
以下、本発明の好ましい実施形態について、添付図面を参照して説明する。図1は、本発明の画像処理装置の一実施形態としての多機能周辺装置(以下、「MFP(Multi Function Peripheral)」と称す)1の外観構成を示した斜視図である。MFP1は、特に、動画から抽出されるフレーム画像と、静止画像とが混在する画像一覧であって、フレーム画像と静止画像との間で視覚的な統一感が確保されている画像一覧を出力させることができる装置である。
【0019】
このMFP1は、フォトキャプチャー機能、コピー機能、スキャナ機能、メディアキャプチャ機能などの各種機能を有する多機能周辺装置である。メディアキャプチャ機能では、後述するスロット部6に装着されたメディアカードから画像ファイルを読み出して印刷出力する処理、メディアカードから読み出した画像ファイルに対応した画像をLCD5に表示出力する処理、スキャナ機能により読み取られた画像データをメディアカードに保存する処理などを実行できる。
【0020】
MFP1の上部には、原稿を読み取るためのスキャナ2が配置されている。また、筐体内部には記録用紙に画像を印刷する装置として、所謂インクジェットプリンタで構成されたプリンタ3が内蔵されている。
【0021】
また、MFP1の前面には、スロット部6が設けられている。このスロット部6には、コンパクトフラッシュ(登録商標)、SDメモリカードなどの各種メディアカードを直接挿入できるカードスロットが設けられている。
【0022】
また、原稿カバー体の前方には、操作パネルが設けられており、複数のキーやタッチパネルで構成される操作部4、およびLCD5を具備する。MFP1は、LCD5に操作手順や実行中の処理の状態を表示させると共に、操作部4の操作に対応する情報を表示させる。
【0023】
図2を参照して、MFP1の電気的構成について説明する。図2は、MFP1の電気的構成を示すブロック図である。MFP1は、CPU11、ROM12、RAM13、EEPROM14、スキャナ2、プリンタ3、操作部4、LCD5、スロット部6を主に有している。
【0024】
このうち、CPU11、ROM12、RAM13、EEPROM14は、バスライン26を介して互いに接続されている。また、スキャナ2、プリンタ3、操作部4、LCD5、スロット部6、バスライン26は、入出力ポート27を介して互いに接続されている。
【0025】
CPU11は、ROM12、RAM13やEEPROM14に記憶される固定値やプログラムに従って、MFP1が有している各機能の制御や、入出力ポート27と接続された各部を制御するものである。
【0026】
ROM12は、CPU11によって実行される制御プログラム12aを記憶すると共に、電源遮断後も内容を保持可能な不揮発性のメモリである。制御プログラム12aは、後述する図7〜図11にフローチャートで示す処理を実行するためのプログラムを含んでいる。
【0027】
ROM12には、さらに横方向画像配置数記憶領域12b、1ページ画像配置数記憶領域12cが設けられている。
【0028】
横方向画像配置数記憶領域12bは、「横方向の配置枚数」を記憶する領域である。「横方向の配置枚数」は、画像一覧において、横一列に並べて配置可能なインデックス画像の数を示す値である。なお、本実施形態のMFP1には、予め印刷用紙サイズ(L版、A4、Letterなど)、および印刷モード(高精細、普通、高速など)に応じて、複数種類の「横方向の配置枚数」が記憶されており、後述する配置印刷処理(図10,図11参照)では、この中から適した値を読み出して用いるものとして説明する。
【0029】
1ページ画像配置数記憶領域12cは、「1ページ内画像配置数」を記憶する領域である。「1ページ内画像配置数」は、1ページ分の記録用紙に形成する画像一覧に、最大で何個分のインデックス画像を配置可能であるかを示す値である。なお、本実施形態においては、予め印刷用紙サイズおよび印刷モードに応じて、複数種類の「1ページ内画像配置数」が記憶されており、後述する配置印刷処理(図10,図11参照)では、この中から適した値を読み出して用いるものとして説明する。
【0030】
RAM13は、MFP1の各操作の実行時に各種のデータを一時的に記憶するためのメモリであり、抽出フレーム数記憶領域13a、処理ファイル数記憶領域13b、処理画像総数記憶領域13c、生成ページ数記憶領域13d、グループ情報記憶領域13g、ファイル情報記憶領域13h、配置情報記憶領域13i、フレーム画像情報記憶領域13j、デコードデータ記憶領域13k、カウンタ記憶領域13m、識別画像記憶領域13nが設けられている。
【0031】
ここで、本実施形態で用いる用語の意味を説明する。本実施形態において、「動画像」とは、多数のフレーム画像を切り替え表示することにより再生される画像を意味している。「動画像ファイル」は、動画像を再生するためのファイルであって、例えば、AVI動画ファイル、クイックタイム動画ファイルなどで構成される。ただし、動画像を再生可能な情報であれば、どのような形式のファイルであっても差し支えない。また、本実施形態において、「フレーム画像情報」は、動画像を構成する1のフレーム画像に対応した情報を意味している。
【0032】
抽出フレーム数記憶領域13aは、「フレーム画像抽出枚数」を記憶する領域である。「フレーム画像抽出枚数」は、1の動画像ファイル当たり、何枚分のフレーム画像に対応したフレーム画像情報を抽出するかを示す値である。例えば、「フレーム画像抽出枚数」として「5」が記憶されている場合、MFP1は、メディアカードに格納された動画像ファイルの各々について、1の動画像ファイル当たり、5枚のフレーム画像に対応したフレーム画像情報を抽出し、その抽出したフレーム画像情報に基づいて、1の動画像ファイル当たり、5個のインデックス画像を、画像一覧に配置する。
【0033】
本実施形態のMFP1は、ユーザが操作部4から入力した任意の値を「フレーム画像抽出枚数」として、抽出フレーム数記憶領域13aに記憶するものとして説明するが、「フレーム画像抽出枚数」が予めROM12などに記憶されていたり、動画像ファイルのサイズが大であるほど、「フレーム画像抽出枚数」が大となるように予め定められた関係に従って、「フレーム画像抽出枚数」が自動的に決定されても良い。
【0034】
処理ファイル数記憶領域13bは、「総処理ファイル数」を記憶する領域である。「総処理ファイル数」は、メディアカードに格納される静止画像ファイルと動画像ファイルの合計を示す値である。
【0035】
処理画像総数記憶領域13cは、「処理画像総数」を記憶する領域である。「処理画像総数」は、画像一覧内に形成するインデックス画像の総数を示す値である。生成ページ数記憶領域13dは、「生成ページ数」を記憶する領域である。「生成ページ数」は、後述する配置印刷処理(図10、図11)の実行により出力する画像一覧の総ページ数を示す値である。
【0036】
グループ情報記憶領域13g、ファイル情報記憶領域13h、配置情報記憶領域13iについては、図4から図6を参照して後述する。
【0037】
フレーム画像情報記憶領域13jは、動画像ファイルから抽出されるフレーム画像情報を格納する領域である。デコードデータ記憶領域13kは、フレーム画像情報をデコード処理した結果、または、静止画像ファイルをデコード処理した結果を記憶する領域である。カウンタ記憶領域13mは、各種カウンタを記憶する領域である。
【0038】
基準特徴量記憶領域13nは、一以上の静止画像の特徴量(画像サイズ、画像の色)から基準として算出された基準特徴量を格納する領域である。この基準特徴量に基づいて、画像一覧として出力される各インデックス画像が補正されるので、画像一覧に含まれる各インクデックス画像が視覚的に統一される。
【0039】
図3(a)は、MFP1が、1ページの記録用紙に印刷出力する画像一覧20の一例を示す図である。MFP1は、メディアカードに静止画像ファイルと動画像ファイルとが混在している場合、図3(a)に示すように、フレーム画像情報に対応するインデックス画像21a,21b,21cと、静止画像ファイルに対応するインデックス画像22とが混在した画像一覧20を出力する。よって、ユーザは、動画像ファイルの内容を示すインデックス画像21a,21b,21cと、静止画像ファイルの内容を示すインデックス画像22とを、1ページの画像一覧20によって、一度に視認することができ、利便性が高い。
【0040】
一方、図3(b)は、本願発明とは異なる装置によって1ページの記録用紙に印刷出力する画像一覧200を示す図である。両者は、同じ動画像ファイルから抽出したインデックス画像21a,21b,21cおよび同じ静止画像ファイルから抽出したインデックス画像22を1ページの記録用紙に印刷出力したものである。
【0041】
よって、図3(b)に示す画像一覧200にも、図3(a)に示す画像一覧20と同様に、第1の動画像ファイルから抽出される3つのインデックス画像21aと、第2の動画像ファイルから抽出される2つのインデックス画像21bと、第3の動画像ファイルから抽出される3つのインデックス画像21cと、3つの静止画像ファイルから抽出される3つのインデックス画像22とが含まれている。
【0042】
しかし、図3(b)に示す画像一覧200では、動画像ファイルから抽出された各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されたインデックス画像22とでは、その大きさ(サイズ)が異なり、また、各インデックス画像の色が同じ色に統一されていない(図3(b)に示す各インデックス画像21a,21b,21c内のハッチング模様や散点模様は、各インデックス画像21a,21b,21cの各々が別々の色かぶりをしている状態を示している。)これは、動画ではフラッシュ撮影、ISO感度、F値、ホワイトバランス等の調整方法が異なる等の理由により、動画像ファイルから抽出される各インデックス画像21a,21b,21cは、静止画像に比べて色かぶりする傾向にあるためである。
【0043】
その結果、図3(b)の画像一覧200に示すように、動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する場合には、両者の間で、視覚的な統一感に欠け、画像一覧200が見難いものになっていた。
【0044】
一方、図3(a)に示す画像一覧20では、動画像ファイルから抽出された各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されたインデックス画像22とが、全て、同じ大きさ(サイズ)であって、各インデックス画像の色が同じ色に統一されている。
【0045】
即ち、MFP1は、動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する画像一覧20を印刷出力する場合、後述する方法で各インデックス画像21a,21b,21c,22を補正し、各インデックス画像21a,21b,21c,22間で視覚的な統一感が確保されている画像一覧20を出力させることができる。
【0046】
また、MFP1は、インデックス画像21a,21b,21c,22を含む画像群が、撮影日時に従った順序で配列されるように、インデックス画像21a,21b,21c,22の各々について配置順序を決定し、その決定した配置順序でインデックス画像21a,21b,21c,22を配列した画像一覧20を出力する。
【0047】
図3(a)に示す画像一覧20はその一例であるが、例えば、画像一覧20の上段から下段へ向かうにつれて、且つ、左側から右側へ向かうにつれて撮影日時が新しくなるような順序で、インデックス画像21a,21b,21c,22が配列するように配置順序を決定する。
【0048】
詳細な説明は後述するが、MFP1は、静止画像ファイルに基づくインデックス画像22であるか、動画像ファイルに基づくインデックス画像21a,21b,21cであるかに関わらず、撮影日時のみを条件としてソートした配置順序を決定し、その配置順序でインデックス画像21a,21b,21c,22を配列した画像一覧20を出力する。よって、例えば、動画像で撮影したか、静止画像で撮影したかをユーザが覚えていない場合であっても、撮影日時がかなり古いものであるのか、あるいは最近のものであるのかなど、撮影日時を手がかりに、目的とする画像を迅速に探し当てることができる。
【0049】
また、詳細は後述するが、本実施形態のMFP1は、インデックス画像21a,21b,21c,22を撮影日毎のグループに分類し、グループ毎に画像一覧20を出力するように構成されている。よって、例えば、画像一覧20のヘッダ部分に、グループの撮影日23が印刷されても良い。
【0050】
図4は、ファイル情報記憶領域13hの構成を模式的に示す図である。図4に示すように、ファイル情報記憶領域13hには、ファイルIDを記憶するファイルID記憶領域201、ファイル名を記憶するファイル名記憶領域202、ファイル種類を記憶するファイル種類記憶領域203、抽出フレーム数を記憶する抽出フレーム数記憶領域204、総フレーム数を記憶する総フレーム数記憶領域205、fps情報を記憶するfps情報記憶領域206、ファイル日付情報を記憶するファイル日付情報記憶領域207、ファイル時間情報を記憶するファイル時間情報記憶領域208、ファイル識別情報記憶領域209が設けられ、ファイル名、ファイル種類、抽出フレーム数、fps情報、ファイル日付情報、ファイル時間情報、ファイル識別情報からなるファイル情報200を、そのファイル情報200を管理するファイルIDに対応付けて記憶する。MFP1は、画像一覧20(図3参照)におけるインデックス画像21a,21b,21c,22の配置順序を決定するための準備処理として、メディアカード内に格納された静止画像ファイルまたは動画像ファイルの各々についてファイル情報200を作成し、ファイル情報記憶領域13hに格納する。
【0051】
ファイルID記憶領域201は、ファイルIDを記憶する領域である。ファイル名記憶領域202は、静止画像ファイルまたは動画像ファイルのファイル名を格納する領域である。図4に示すように、各ファイル名には、拡張子が付加されている。例えば、画像ファイルがJPEGファイルである場合は拡張子「jpg」が付加され、AVI動画ファイルである場合は拡張子「avi」が付加され、クイックタイム動画ファイルである場合は拡張子「mov」が付加される。
【0052】
ファイル種類記憶領域203は、各画像ファイルの種類(フォーマット)を示す値を格納する領域である。画像ファイルの種類は、例えば、ファイル名に付加された拡張子に基づいて判定することができる。本実施形態では、画像ファイルの形式がJPEGファイル(拡張子jpg)である場合、JPEGファイルであることを示す値「0」をファイル種類記憶領域203に格納し、画像ファイルの形式がAVI動画ファイル(拡張子avi)である場合、値「1」をファイル種類記憶領域203に格納し、画像ファイルの形式がクイックタイム動画ファイル(拡張子mov)である場合、値「2」をファイル種類記憶領域203に格納する。
【0053】
なお、各画像ファイルの先頭から数バイト分に格納されている情報に基づいて画像ファイルの種類を判定することもできる。例えば、先頭から2バイトが「0xFFD8」であればJPEGファイルであると判定できるし、先頭から2バイトが「0x424D」であれば、ビットマップデータであると判定することができる。これらの情報に基づいて、画像ファイルの種類を判定しても差し支えない。
【0054】
抽出フレーム数記憶領域204は、何枚分のフレーム画像に対応したフレーム画像情報を、画像ファイルから抽出するかを示す値を記憶する領域である。静止画像ファイルの場合、抽出フレーム数記憶領域204には「1」が格納される。一方、動画像ファイルの場合、抽出フレーム数記憶領域204には、「2」以上の値が格納される。
【0055】
総フレーム数記憶領域205は、各画像ファイルの総フレーム数を格納する領域である。動画像ファイルの場合は動画像ファイルに含まれる総フレーム数が格納され、静止画像である場合は常に1が格納される。
【0056】
fps情報記憶領域206は、各画像ファイルのfps(Frame Per Second)情報を格納する領域である。静止画像ファイルである場合には「0」が格納される。一方、動画像ファイルである場合には、例えば、1秒間に60フレーム画像が存在することを示す「60」や、1秒間に30フレーム画像が存在することを示す「30」が、このfps情報記憶領域206に格納される。
【0057】
ファイル日付情報記憶領域207は、各画像ファイルの撮影日を表すファイル日付情報を格納する領域である。例えば、撮影日「2008年1月15日」は、ファイル日付情報「20080115」として表すものとする。
【0058】
ファイル時間情報記憶領域208は、各画像ファイルの撮影時間を表すファイル時間情報を格納する領域である。例えば、撮影時間「12時50分45秒」は、ファイル時間情報「125045」として表すものとする。画像ファイルが動画像ファイルの場合は、撮影開始時間を表す情報が、ファイル時間情報として格納される。なお、ファイル日付情報およびファイル時間情報が、特許請求の範囲に記載の撮影日時情報に相当する。
【0059】
以降の説明では、各画像ファイルのヘッダに記述された情報を読み出してくることにより、総フレーム数、fps情報、ファイル日付情報およびファイル時間情報を取得するものとするが、他の手段により、これらの情報を取得しても良い。
【0060】
ファイル付加情報記憶領域209は、各画像ファイルのその他の固有情報を格納する領域である。
【0061】
本実施形態のMFP1は、ファイル情報記憶領域13hに格納された各画像ファイルの固有情報に基づいて、撮影日時に従った順序でインデックス画像が配列されるように、インデックス画像の配置順序を決定する。決定した配置順序を示す情報は、図5に示す配置情報記憶領域13iに格納する。
【0062】
図5は、配置情報記憶領域13iの構成を模式的に示す図である。図5に示すように、配置情報記憶領域13iは、ファイルID、グループNo、抽出フレーム番号、画像日付情報、画像時間情報、画像識別情報からなる配置情報300と、その配置情報300に対応する配置順序とを記憶する。
【0063】
図5に示すように、配置情報記憶領域13iには、配置順序記憶領域301、ファイルID記憶領域302、グループNo記憶領域303、抽出フレーム番号記憶領域304、画像日付情報記憶領域305、画像時間情報記憶領域306、画像識別情報記憶領域307が設けられる。
【0064】
配置情報記憶領域301は、配置順序を記憶する領域である。後述する配置印刷処理(図10,図11参照)では、配置順序に従った順序で、配置情報300が読み出され、各配置情報300で特定されるフレーム画像または静止画像のインデックス画像が、配置順序に従った順序で、画像一覧20に配列される。
【0065】
ファイルID記憶領域302は、ファイルIDを記憶する領域である。図4を参照して説明したように、ファイル情報記憶領域13hには、ファイルIDとファイル名とが1対1で対応付けて記憶されているので、ファイルIDから、1の画像ファイルを特定することができる。
【0066】
グループNo記憶領域303は、グループNoを記憶する領域である。なお、グループNoについては、図6を参照して後述する。
【0067】
抽出フレーム番号記憶領域304は、抽出フレーム番号を記憶する領域である。上述したように、1の動画像ファイルについて複数のフレーム画像情報が抽出される。よって、先頭から数えて何番目のフレーム画像情報であるかを示す情報が、「抽出フレーム番号」として、抽出フレーム番号記憶領域304に格納される。
【0068】
ここで、「抽出フレーム番号」は、「総フレーム数記憶領域205」に記憶された動画像ファイルの総フレーム数と、「抽出フレーム数記憶領域13a」に記憶された抽出フレーム数と、動画像のうち何枚目に抽出されるかを表すフレーム画像抽出数カウンタ値を用いて、例えば、下記のように算出することができる。
(抽出フレーム番号)=[(フレーム画像抽出数カウンタ値−1)×(総フレーム数)÷(抽出フレーム数)]
ここで[]はガウス記号を表し、[a]はaを超えない最大の整数を表す。
【0069】
画像日付情報記憶領域305は、ファイルID記憶領域302に格納されたファイルIDで特定される画像ファイルの撮影日を表す画像日付情報が格納される領域である。画像時間情報記憶領域306は、撮影時間を表す画像時間情報が格納される領域である。静止画像ファイルについては、ファイル情報記憶領域13hの対応する領域に格納されたファイル時間情報が、この画像時間情報記憶領域306にコピーされる。
【0070】
一方、動画像ファイルについては、その動画像ファイルから複数のフレーム画像情報が抽出されるので、フレーム画像情報毎に、撮影時間を表す画像時間情報を取得し、画像時間情報記憶領域306に記憶する。なお、フレーム画像情報毎の画像時間情報を算出する具体的演算例については、図7に示すフローチャートを参照して後述する。
【0071】
画像特徴記憶領域307は、静止画像の特徴量が格納される領域である。本実施形態では、静止画像の特徴量として、各静止画像の大きさと、画像の色とが算出され、記憶される。この画像特徴記憶領域307に記憶されている静止画像の全部の特徴量から上述した基準特徴量が算出される。
【0072】
後述する配置印刷処理(図10,図11参照)では、この配置情報記憶領域13iに記憶された配置情報300に基づいて、動画像ファイルから抽出された各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されたインデックス画像22とが、全て、同じ大きさ(サイズ)であって、各インデックス画像の色が同じ色に統一されている画像一覧20を印刷出力すると共に、インデックス画像が撮影日時に従った順序で配列された画像一覧20を印刷出力する。
【0073】
さらに、本実施形態のMFP1は、インデックス画像を撮影日毎のグループに分類し、グループ毎に画像一覧20を印刷出力する。例えば、「2008年1月15日」に撮影した画像ファイルと、「2008年1月20日」に撮影した画像ファイルとがメディアカードに格納されているのであれば、「2008年1月15日」に撮影された画像ファイルのインデックス画像からなる画像一覧20と、「2008年1月20日」に撮影された画像ファイルのインデックス画像からなる画像一覧20とを印刷出力するように構成されている。
【0074】
図6は、グループ情報記憶領域13gの構成の一例を示す図である。図6に示すように、グループ情報記憶領域13gには、グループ数記憶領域401と、グループ単位情報記憶領域402と、グループNo記憶領域403とが設けられている。
【0075】
グループ数記憶領域401は、インデックス画像を分類するために生成されたグループ数を記憶する領域である。図6に示す例では、インデックス画像を分類するために「10」のグループが生成されたことを示している。
【0076】
グループ単位情報記憶領域402は、グループ毎の情報を記憶する領域である。グループ単位情報記憶領域402には、グループNoを記憶する記憶領域403と、そのグループNoで特定されるグループに分類されるインデックス画像の数を記憶するグループ画像数記憶領域404とが設けられる。図6に示す例では、グループNoが「1」のグループに、「10」個のインデックス画像が分類されることを示している。
【0077】
本実施形態のMFP1によれば、グループ毎の画像一覧20を出力することにより、ユーザはグループ毎(撮影日毎)に画像一覧20を視認することができるから、ユーザは撮影日ごとのグループに分類された閲覧性の良い画像一覧を得ることができる。
【0078】
次に、図7乃至図12を参照して、図3(a)に示すような画像一覧20を出力させる処理について説明する。この処理を大略すると、まず、インデックス画像の配置順序を決定する配置順決定処理を実行する(S100)。次に、各インデックス画像を補正するための基準特徴量を算出する基準特徴量算出処理(S150)を実行する。そして、決定した配置順序に従い、視覚的に統一されたインデックス画像を含む画像一覧20を出力する配置印刷処理(S200)を実行する。以下、各処理について詳細に説明する。
【0079】
図7は、MFP1で実行される配置順決定処理(S100)を示すフローチャートである。図7に示す配置順決定処理(S100)は、スロット部6にメディアカードが装着され、ユーザにより画像一覧20の印刷出力の実行指示が入力されると実行される。
【0080】
この配置順決定処理(S100)は、動画像ファイルから抽出するフレーム画像情報と、メディアカードから読み出される静止画像ファイルとの各々について、各画像情報の撮影日時を表す画像日付情報および画像時間情報を取得し、その取得した画像日付情報および画像時間情報を条件として、インデックス画像の配置順序を決定する処理である。
【0081】
まず、ユーザが操作部4から入力した値を、「フレーム画像抽出枚数」として抽出フレーム数記憶領域13aに記憶する(S101)。次に、メディアカード内に格納された静止画像ファイルと動画像ファイルとの合計を示す「総処理ファイル数」を算出し、処理ファイル数記憶領域13bに記憶する(S102)。
【0082】
次に、処理ファイル数カウンタ、処理画像数カウンタ、フレーム画像抽出枚数カウンタ、動画像ファイル数カウンタを、それぞれ0で初期化する(S103)。なお、これらのカウンタは、カウンタ記憶領域13m(図2参照)に設けられている。
【0083】
次に、メディアカードに格納された画像ファイルのうち、1の画像ファイルを処理対象として選択し、その画像ファイルのファイル名、画像ファイルの種類を取得する。そして取得したファイル名および画像ファイルの種類を示す値を、処理ファイル数カウンタ値のファイルIDに対応した、ファイル名記憶領域202、ファイル種類記憶領域203(図4参照)へ、それぞれ記憶する(S104)。
【0084】
そして、選択した画像ファイルが動画像ファイルであるか静止画像ファイルであるかを判断する(S105)。動画像ファイルであると判断した場合(S105:動画像)、その動画像ファイルのファイル日付情報、ファイル時間情報、およびfpsを表すfps情報を、その動画像ファイルのヘッダから取得する(S106)。
【0085】
そして、処理画像数カウンタ値の配置順序に対応したファイル日付情報記憶領域207へファイル日付情報を記憶し、ファイル時間情報記憶領域208へファイル時間情報を記憶し、fps情報記憶領域206へfps情報を記憶する(S107)。
【0086】
次に処理画像数カウンタ値の配置順序に対応した配置情報記憶領域13i(図5参照)のファイルID記憶領域302へ、現時点における処理ファイル数カウンタの値を記憶する。また、現時点におけるフレーム画像抽出枚数カウンタの値から抽出フレーム番号を算出し、処理画像数カウンタ値の配置順序に対応した抽出フレーム番号記憶領域304へ記憶する(S108)。
【0087】
次に、フレーム画像情報の時間情報を算出し、算出した時間情報を、画像時間情報として、配置順序に対応する画像時間情報記憶領域306へ記憶する(S109)。具体的には、まず、動画像ファイルの撮影開始時間を表すファイル時間情報をVideoTime、fps情報をFPS、フレーム画像情報の撮影時間を表す画像時間情報をFrameTime、処理対象のフレーム画像情報を特定する抽出フレーム番号をNとする。
【0088】
そして、ファイル時間情報VideoTimeを、以下のように、動画像時間情報VT_Hour、動画像分情報VT_Minute、動画像秒情報VT_Secondに分解する。
【0089】
VT_Hour=[VideoTime/10000]
VT_Minute=[(VideoTime−VT_Hour×10000)/100]
VT_Second=VideoTime−(VT_Hour×10000+VT_Minute×100)
次に、フレーム時情報Frame_Hour、フレーム分情報Frame_Minute、フレーム秒情報Frame_Secondを、例えば、下記の数式1のように算出する。
(数式1)
ここでCal_Second,Cal_Minute,Cal_Hourは上記情報を求めるための一時変数とする。
また、A mod BはAをBで割った時の剰余を表す
Cal_Second=VT_Second+[N/FPS]
Cal_Minute=VT_Minute+[Cal_Second/60]
Cal_Hour=VT_Hour+[Cal_Minute/60]
Frame_second=Cal_Second mod 60
Frame_Minute=Cal_Minute mod 60
Frame_Hour=Cal_Hour mod 24
以上を、例えば、下記の数式2を用いて結合し、フレーム画像情報の撮影時間を表す画像時間情報FrameTimeを算出する。
(数式2)
FrameTime=Frame_Hour×10000+Frame_Minute×100+Frame_Second
同様にして、動画像ファイルのファイル日付情報をVideoDate、抽出するフレーム画像情報の画像日付情報をFrameDateとすると、まずVideoDateを動画像年情報VD_Year、動画像月情報VD_Month、動画像日情報VD_Dayに、例えば、下記の数式3を用いて分解する。
(数式3)
VD_Year=[VideoDate/10000]
VD_Month=[(VideoDate−VD_Year×10000)/100 ]
VD_Day=VideoDate−(VD_Year×10000+VD_Month×100)
次に、画像日付算出処理を実行する(S110)。画像日付算出処理は、フレーム年情報Frame_Year、フレーム月情報Frame_Month、フレーム日情報Frame_Dayを算出する処理である。
【0090】
図8は、画像日付算出処理(S110)を示すフローチャートである。なお、図8のフローチャートに示す変数Mは、現日付からM日進めることを意味する変数である。
【0091】
まず、フレーム年情報Frame_Year、フレーム月情報Frame_Month、フレーム日情報Frame_Dayに、それぞれ、動画像年情報VD_Year、動画像月情報VD_Month、動画像日情報VD_Dayを代入する(S1201)。次に、変数Mに、[Cal_Hour/24]を代入する(S1202)。次にMが0であるかを判断し(S1203)、肯定されると(S1203:Yes)、本処理を終了する。
【0092】
一方、否定されると(S1203:No)、フレーム日情報Frame_Dayを判断する(S1204)。「1以上27以下」と判断されると(S1204:1以上27以下)、Frame_Dayに「1」を加算する(S1205)。
【0093】
一方、S1204の判断において、「28または29」と判断されると(S1204:28or29)、Frame_Monthが「2」であるか否かを判断する(S1206)。否定される場合(S1206;No)、S1205の処理に移行する。
【0094】
一方、肯定されると(S1206:Yes)、次に、Frame_Dayが「28」であるかを判断する(S1208)。否定される場合(S1208:No)、Frame_Dayに「1」を代入し、Frame_Monthに「1」を加算する(S1210)。
【0095】
一方、S1208の判断が肯定されると(S1208:Yes)、Frame_Yearで示される年がうるう年か否かを判断する(S1209)。肯定される場合(S1209:Yes)、S1205の処理に進む。否定される場合(S1209:No)、S1210の処理に進む。
【0096】
次に、S1204の判断において、「30」と判断されると(S1204:30)、次に、Frame_Monthが4,6,9,11のいずれかであるかを判断する(S1211)。肯定される場合(S1211:Yes)、S1210の処理に進む。
【0097】
一方、否定される場合(S1211:No)、Frame_Dayに「1」を加算する(S1216)。次に、S1204の判断において、「31」と判断されると(S1204:31)、次に、Frame_Yearが12であるかを判断する(S1215)。否定される場合(S1215:No)、S1216の処理に進む。
【0098】
一方、肯定される場合(S1215:Yes)、Frame_Dayに「1」を代入し、Frame_Monthに「1」を代入し、Frame_Yearに「1」を加算する(S1217)。
【0099】
S1205,S1210,S1216,S1217の処理の後は、変数Mから「1」減算し(S1212)、S1203に戻る。そして、S1203の判断が肯定されると(S1203:Yes)、本処理を終了する。
【0100】
図7に戻り説明する。図8に示す処理で算出した値を、例えば下記の数式5を用いて結合し、フレーム画像情報の撮影日付を表す画像日付情報FrameDateを算出する。算出された画像日付情報は画像日付情報記憶領域305へ記憶する(S111)。
(数式5)
FrameDate=Frame_Year×10000+Frame_Month×100+Frame_Day
次に、処理画像数カウンタ、およびフレーム画像抽出枚数カウンタに、それぞれ「1」を加算する(S113)。
【0101】
次に、フレーム画像抽出枚数カウンタの値が、フレーム画像抽出枚数、すなわち、その動画像ファイルから抽出するフレーム画像情報の数以上となったか否かを判断する(S114)。S114の判断が否定される場合(S114:No)、S108に戻り処理を繰り返す。
【0102】
一方、S114の判断が肯定される場合(S114:Yes)、次にフレーム画像抽出枚数カウンタを0で初期化し(S115)、処理ファイル数カウンタに1を加算する(S122)。そして、処理ファイル数カウンタの値が、メディアカードに格納される静止画像ファイルと動画像ファイルの合計を示す「総処理ファイル数」以上となったか否かを判断する(S123)。S123の判断が否定される場合(S123:No)、S104の処理に戻り、次の画像ファイルを処理対象として選択し、処理を繰り返す。
【0103】
続いて、処理対象の画像ファイルが静止画像ファイルであると判断された場合(S105:静止画像)について説明する。静止画像ファイルである場合、処理画像数カウンタ値の配置順序に対応したファイルID記憶領域302へ、現時点における処理ファイル数カウンタの値を記憶する。また、処理画像数カウンタ値の配置順序に対応した抽出フレーム番号記憶領域304へ「0」を記憶する(S115a)。
【0104】
次に、処理対象の静止画像ファイルのファイル日付情報およびファイル時間情報を取得する。そして、ファイル情報記憶領域13hのうち、処理ファイル数カウンタ値のファイルIDに対応したファイル日付情報記憶領域207(図4参照)へ、ファイル日付情報を記憶し、同ファイルIDに対応したファイル時間情報記憶領域208へ、ファイル時間情報を記憶する(S117)。なお、fps情報記憶領域206には「0」を記憶する。
【0105】
そして、配置情報記憶領域13i(図5参照)のうち、処理画像数カウンタ値の配置順序に対応する画像日付情報記憶領域305へ、処理対象の静止画像ファイルのファイル日付情報を記憶する。また、同配置順序に対応する画像時間情報記憶領域306へ、処理対象の静止画像ファイルのファイル時間情報を記憶する(S119)。そして、処理画像数カウンタに1を加算し(S121)、S123の処理に移行する。
【0106】
このように、S101からS123の処理によれば、配置情報記憶領域13iに、ファイルID、抽出フレーム番号、画像日付情報、画像時間情報、ファイル識別情報が格納されることとなるが、この時点では、まだインデックス画像の配置順序は未決定である。図9を参照して後述するS124以降の処理において、画像日付情報と画像時間情報とを条件として、配置情報をソートすることにより、撮影日時に従った配置順序が決定される。
【0107】
図9は、図7に示す配置順決定処理(S100)の続きの部分を示すフローチャートであり、特に、画像日付情報に基づいて、画像一覧20に配置するインデックス画像を分類する処理、および配置情報記憶領域13iに記憶された配置情報(図5参照)を、撮影日時に従った配置順序にソートする処理の部分を示している。
【0108】
図9に示すように、まず、現時点における処理画像数カウンタの値を「処理画像総数」として、処理画像総数記憶領域13c(図2参照)に記憶する(S124)。そして、処理画像数カウンタを「0」で初期化する(S125)。ここで処理画像数カウンタはカウンタ記憶領域13m(図2参照)に設けられるカウンタである。
【0109】
次に、配置情報記憶領域13i(図5参照)の画像日付情報記憶領域305に記憶された、画像日付情報に従って、グループNoを決定する(S126)。具体的には、処理画像数カウンタの値の配置順序に対応する、画像日付情報記憶領域305の値が、既に存在するグループの値と同一の場合は、その該当するグループNoを、この画像情報のグループNoに決定し、そうでない場合は新規のグループNoをこの画像情報のグループNoとして決定する。ただしNoの初期値は1であり、新規のグループNoはそれまでで最大のグループNo+1とする。
【0110】
このようにすれば、撮影日が同日であるフレーム画像情報または静止画像ファイルに対応するインデックス画像を同一グループに分類される一方で、撮影日が異なるフレーム画像情報または静止画像ファイルに対応するインデックス画像は互いに別グループに分類されることとなる。
【0111】
そして、処理画像数カウンタの値の配置順序に対応する、グループNo記憶領域303(図5参照)へ、決定したグループNoを記憶する(S127)。次に、処理画像数カウンタに「1」を加算し(S128)、処理画像数カウンタの値が、処理画像総数に記憶された値以上となったかを判断する(S129)。そして、S129の判断が否定される場合(S129:No)、S126から処理を繰り返す。
【0112】
一方、S129の判断が肯定される場合(S129:Yes)、グループNoの最大値を、グループ数記憶領域401(図6参照)に記憶する(S130)。そして、グループNoの小さい順に、配置情報をソートする(S131)。なお、S131の処理においては、グループNoの小さい順に配置情報をソートすることができれば良いので、ソートアルゴリズムは特に限定するものではなく、例えば、クイックソート法やバブルソート法を用いることが可能である。
【0113】
なお、図5に示す配置情報記憶領域13iは、配置情報記憶領域13iに記憶された配置情報が、グループNoの小さい順にソートされた状態を模式的に図示している。
【0114】
図9に戻り説明する。次に、同一グループNoに含まれることとなるインデックス画像数を算出し(S132)、グループNoと対応付けてグループ画像数記憶領域404へ記憶する(S133)。次に、グループカウンタを1で初期化する(S134)。このグループカウンタは、カウンタ記憶領域13m(図2参照)に設けられるカウンタである。
【0115】
次に、画像時間情報の小さい順に配置情報をソートする(S135)。このソートはグループ単位で行う。これにより、配置情報で特定されるインデックス画像の各々について、対応する配置順序が決定する。
【0116】
すなわち、同一グループに分類されたインデックス画像内で、画像時間情報(撮影時情報)に従った配置順序を決定する。後述する配置印刷処理(S200)では、グループ毎に画像一覧20が印刷出力されるが、同一グループ内のインデックス画像は、画像時間情報が小さい順に配列されているから、1グループ内に多数のインデックス画像が含まれる場合であっても、ユーザは撮影時間順に整列した閲覧性の良い画像一覧を得ることができる。
【0117】
なお、画像時間情報が同一である場合は、元々の配置順序を変更しないことが好ましいので、S135の処理では、バブルソートなど単純なソートアルゴリズムが好適に用いられる。
【0118】
次に、グループカウンタに1を加算し(S136)、グループカウンタの値がグループ数記憶領域401(図6参照)の値より大となったかを判断する(S137)。S137の判断が否定される場合(S137:No)、S135に戻り処理を繰り返す。一方、全てのグループについての処理を終了し、S137の判断が肯定されると(S137:Yes)、配置順決定処理(S100)を終了する。
【0119】
図10は、MFP1で実行される基準特徴量算出処理(S150)を示すフローチャートである。図10に示す基準特徴量算出処理(S150)は、上述した配置順決定処理(S100)の後に実行される処理であり、各インデックス画像を補正するための基準となる基準特徴量を、各静止画像の特徴量から算出する処理である。
【0120】
まず、配置順序カウンタを「0」で初期化し(S151)、次に、配置順序カウンタに対応したファイルID、抽出フレーム番号を配置情報記憶領域109から読み出す(S152)。そして、読み出したファイルIDに対応する画像ファイルが、動画像ファイルであるか静止画像ファイルであるかを判定する(S153)。尚、この判定はS105で既に一度判定がなされているため、その際の判定情報をファイル種類判定領域203から読み出してきて判定する。
【0121】
S153の判定において、静止画像ファイルと判定される場合(S153:静止画像)、静止画像ファイルをデコード処理する(S154)。
【0122】
そして、静止画像ファイルの大きさの画像特徴量SSpを算出し、その算出した画像特徴量SSpを配置順序カウンタに対応する画像特徴量記憶領域307に記憶する(S155)。ここで、大きさの画像特徴量SSpは、画像の幅(Width)、画像の高さ(Height)、アスペクト比(Aspect Ratio)で構成されており、画像の幅(Width)は画像の横方向のピクセル数、画像の高さ(Height)は画像の縦方向のピクセル数、アスペクト比(Aspect Ratio)は画像の高さ(Height)/画像の高さ(Height)から算出され、画像特徴量記憶領域307に記憶される。
【0123】
次に、静止画像ファイルの色の画像特徴量CSpを算出し、色の画像特徴量CSpを配置順序カウンタに対応する画像特徴量記憶領域307に記憶する(S156)。ここで、色の画像特徴CSpは、各静止画像の色相値(H_R,H_G,H_B)、輝度値(S)、彩度値(V)であり、色相値(H_R,H_G,H_B)は、各静止画像のRGB空間における所定値以上の明るさの画素のRGBの平均値、輝度値(S)はHSV空間における輝度値の平均値、彩度値(V)は画像のHSV空間における彩度の平均値から算出されて、画像特徴量記憶領域307に記憶される。
【0124】
尚、S153の判定において、動画像と判定された場合には、対応する画像特徴量記憶領域307に0(ゼロ)を記憶して(S157)、S158の処理に移行する。
【0125】
こうして、静止画像ファイルについて、大きさの画像特徴量SSpと、色の画像特徴CSpとを算出し、画像特徴量記憶領域307に記憶すると、S158において配置順序カウンタに「1」を換算し(S158)、全て配置ファイルの処理を終了したか判定し(S159)、終了していなければ(S159:No)、S152からの処理を繰り返し、終了していれば(S159:Yes)、S160の処理に移行する。
【0126】
このS160では、S155で画像特徴量記憶領域307に記憶された値が0(ゼロ)でないものを対象として、前記画像記憶手段領域307に記憶された画像特徴量SSpから基準特徴量BSSpを算出し、その算出した基準特徴量BSSpを基準特徴量記憶領域114に記憶する(S160)。
【0127】
基準特徴量BSSpは、画像特徴量記憶領域307に記憶されている画像特徴量SSpの基準となる特徴量であり、画像の幅(Width)に関する基準特徴量BWidthは、最も値が大きな幅(Width)、アスペクト比(Aspect Ratio)に関する基準特徴量BAspectRatioは、最も頻度が多いアスペクト比(Aspect Ratio)、画像の高さ(Height)に関する基準特徴量BHeightは、画像の幅(Width)に関する基準特徴量BWidth/アスペクト比(Aspect Ratio)に関する基準特徴量BAspectRatioとする。
【0128】
こうして、各静止画像ファイルの画像特徴量SSpから基準特徴量BSSp量が設定される。尚、基準特徴量BWidth、基準特徴量BAspectRatio、は全ての画像の幅(Width)、アスペクト比(Aspect Ratio)の平均値としても良い。
【0129】
そして、次に、画像特徴量記憶領域307に記憶された値が0(ゼロ)でないもの対象として、前記画像記憶手段領域307に記憶された色の画像特徴量CSpから基準特徴量BCSpを算出し、その算出した基準特徴量BCSpを基準特徴量記憶領域114に記憶して(S161)、本処理を終了する。
【0130】
基準特徴量BCSpは、画像特徴量記憶領域307に記憶されている色の画像特徴量CSpの基準であり、本実施形態では、色相値(H_R)に関する基準特徴量BH_Rは、各画像の色相値(H_R)の平均値、色相値(H_G)に関する基準特徴量BH_Gは、各画像の色相値(H_G)の平均値、色相値(H_B)に関する基準特徴量BH_Bは、各画像の色相値(H_B)の平均値、彩度値(S)に関する基準特徴量BSは、各画像の彩度値(S)の平均値、輝度値(V)に関する基準特徴量BVは、各画像の画像の輝度値(V)の平均値として算出され、基準特徴量記憶領域114に記憶される。
【0131】
そして、このS160で算出した基準特徴量BSSpと、S161で算出した基準特徴量BCSpとを利用して、次の配置印刷処理(S200)において、1ページの記録用紙に印刷出力される各インデックス画像を補正することで、各インデックス画像の大きさ、色を視覚的に統一させることができる。
【0132】
図11は、配置印刷処理(S200)を示すフローチャートである。図11に示す配置印刷処理(S200)は、図7から図9を参照して説明した配置順決定処理(S100)に続けて実行される処理であり、画像一覧20を記録用紙に印刷出力する処理である。
【0133】
まず、画像一覧20に配列される横一列分のインデックス画像の数を示す「横方向の配置枚数」を、横方向画像配置数記憶領域12bから読み出す(S201)。次に、1ページ分の画像一覧20に配置可能なインデックス画像の数を示す「1ページ内画像配置数」を、1ページ画像配置数記憶領域12cから読み出す(S202)。
【0134】
次に、グループカウンタを1で初期化する(S203)。以降の処理では、このグループカウンタは、処理対象のグループのグループNoを示すカウンタとして機能する。次に、ページカウンタを1で初期化する(S204)。以降の処理では、このページカウンタは、処理対象のグループのうち、何ページ目の画像一覧20を処理対象としているのかを示すカウンタとして機能する。ページカウンタはカウンタ記憶領域13m(図2参照)に設けられるカウンタである。
【0135】
次に、グループカウンタ値のグループNoに対応するグループ画像数を、グループ画像数記憶領域404から読み出す(S205)。すなわち、そのグループNoのグループに分類されたインデックス画像の数を取得する。そして、読み出した「グループ画像数」と「1ページ内画像配置数」とから、処理対象のグループについて、何ページ分の画像一覧20を印刷出力するかを示す「生成ページ数」を算出し、生成ページ数記憶領域13d(図2参照)へ記憶する(S206)。本実施形態では、「生成ページ数」は、例えば下記の数式6を用いて算出する。
(数式6)
(生成ページ数)=[(グループ画像数)/(1ページ内画像配置数)]+1
次に、レイアウト画像カウンタを0で初期化し(S207)、1ページの記録用紙内に配置する画像の枚数layout_noを算出する(S208)。本実施形態においては、layout_noは、例えば下記の数式7を用いて算出する。
(数式7)
(ページカウンタ値)<生成ページ数 の時
layout_no=(1ページ内画像配置数)
(ページカウンタ値)≧生成ページ数 の時
layout_no=(グループ画像数)−{(1ページ内画像配置数)×(ページカウンタ値)}
次に、配置順序に対応したファイルID、抽出フレーム番号、ファイル識別情報を配置情報記憶領域13iから読み出す(S209)。そして、読み出したファイルIDに対応する画像ファイルが、動画像ファイルであるか静止画像ファイルであるかを判定する(S210)。
【0136】
S210の判定において、動画像ファイルと判定される場合(S210:動画像)、次に、動画像ファイルから上記抽出フレーム番号で特定される1フレーム画像分のフレーム画像情報を抽出する(S211)。
【0137】
次に、抽出したフレーム画像情報をデコード処理し、デコードデータ記憶領域13kへ格納する(S212)。そして、図10に示すS160,S161で、基準特徴量記憶領域114に記憶された基準特徴量BSSpと,基準特徴量BCSpとを用いて、フレーム画像情報の特徴量がそれぞれの基準特徴量に一致するように補正する(S212a)。具体的には、この補正は、拡大縮小処理、トリミング処理、色相変換処理、輝度変換処理、彩度変換処理の順番で行う。
【0138】
まずは、拡大縮小処理を行う。この処理では拡大縮小率をSizeRateとし、そのSizeRateを下記式で算出する。
【0139】
【数1】
【0140】
【数2】
そして、算出された拡大縮小率SizeRateにより処理対象となるフレーム画像情報の拡大縮小処理を行う。尚、拡大縮小はバイリニアやバイキュービックなどの画像補間により行うことができる。そして、この拡大縮小後の画像の幅をWidth’、拡大縮小後の画像の高さをHeight’とする。
【0141】
次に、トリミング処理を行う。この処理では、、拡大縮小後の画像の幅Width’と拡大縮小後の画像の高さHeight’が、それぞれ、画像の幅に関する基準特徴量BWidth、画像の高さに関する基準特徴量BHeightとなるように画像のトリミングを行う。トリミング前の画像をO(x,y)、トリミング後の画像をP(x,y)とすると、下記の式によってトリミング後の画像を求めることができる。但し、x,yは座標値を表す。
【0142】
【数3】
上述した拡大縮小処理、トリミング処理によって、フレーム画像情報を基準特徴量BSSpと一致させることができるので、各フレーム画像情報に対応するインデックス画像の大きさを統一させることができる。
【0143】
次に、色相変換処理を行う。この処理では、補正対象画像OのRGB空間における各画素値をO(x,y)R,O(x,y)G,O(x,y)Bとして、色相補正後の画素値O’(x,y)R, O’(x,y)G, O’(x,y)Bを下記の式で求める。但し、x,yは画像の座標値とする。
また、フレーム画像情報の画像全体の輝度値(V)の平均値をAveVとする。
【0144】
O'(x,y)R = O(x,y)R+H_R×AveV÷BV
O'(x,y)G = O(x,y)G+H_G×AveV÷BV
O'(x,y)B = O(x,y)B+H_B×AveV÷BV
次に、輝度変換処理を行う。この処理では、色相変換処理で求めた色相補正後の画素値O’(x,y)R, O’(x,y)G, O’(x,y)Bを、HSV空間へ変換してO’(x,y)H, O’(x,y)S, O’(x,y)Vとする。
【0145】
そして、その変換したO’(x,y)H, O’(x,y)S, O’(x,y)から輝度補正後の画素値O’’(x,y)H, O’’(x,y)S, O’’(x,y)Vを下記の式で求める。
【0146】
O''(x,y)H = O'(x,y)H
O''(x,y)S = O'(x,y)S
O''(x,y)V = O'(x,y)V×BV÷AveV
最後に、彩度変換処理を行う。この処理では、輝度補正後の画素値O’’’(x,y)H, O’’’(x,y)S, O’’’(x,y)Vから、彩度変換後の画素値O’’’(x,y)H, O’’’(x,y)S, O’’’(x,y)Vを下記の式で求める。
また、フレーム画像情報の画像全体の彩度値(S)の平均値をAveSとする。
【0147】
O'''(x,y)H = O''(x,y)H
O'''(x,y)S = O''(x,y)S×BS÷AveS
O'''(x,y)V = O''(x,y)V
上述した色相、輝度、彩度変換処理によって、フレーム画像情報の特徴を基準特徴量BCSpと一致させることができるので、各フレーム画像情報に対応するインデックス画像の色を統一させることができる。
【0148】
そして、上述したように補正したフレーム画像情報をRAM13(図2参照)に設けられた配置用バッファの所定位置に配置する(S213)。
【0149】
一方、S210の判定において、静止画像ファイルと判定される場合(S210:静止画像)、配置順序に対応したファイルIDで特定される静止画像ファイルをデコード処理して、デコードデータ記憶領域13kへ格納する(S214)。そして、上述したS212aで説明したのと同様に、基準特徴量記憶領域114に記憶された基準特徴量BSSp,BCSpを用いて、静止画像ファイルを補正する(S214a)。このS214aの補正によって、静止画像ファイルを基準特徴量BSSp、基準特徴量BCSpと一致させることができるので、各静止画像ファイルに対応するインデックス画像の大きさ、色を統一させることができ、ひいては、フレーム画像情報と、静止画像ファイルとの間で、画像の大きさ、色を統一させることができる。
【0150】
そして、上述したように補正した静止画像ファイルをRAM13(図2参照)に設けられた配置用バッファの所定位置に配置する(S215)。
【0151】
このようにして、補正されたフレーム画像情報または補正された静止画像ファイルのいずれかを配置用バッファに配置する処理を実行した後、次に、横方向に配置できる画像数の上限である「横方向の配置枚数」回分、処理を行ったか否かを判断する(S216)。S216の判断が否定される場合(S216:No)、次のデータの配置位置を示す横方向位置を更新する(S220)。
【0152】
そして、レイアウト画像カウンタに「1」を加算し(S221)、レイアウト画像カウンタの値が、現在の処理対象の記録用紙に配置するインデックス画像の数「layout_no」以上となったか否かを判断する(S222)。S222の判断が否定される場合(S222:No)、S209の処理に戻り、次の配置順序に対応した配置情報を処理する。
【0153】
このようにして、処理を繰り返すことにより、メディアカードに格納される動画像ファイルの各々から、抽出フレーム数(特許請求の範囲に記載の所定枚数に相当)のフレーム画像に相当するフレーム画像情報が抽出され、配置バッファに配置される。また、メディアカードに格納される静止画像ファイルが抽出され、配置バッファに配置される。
【0154】
このようにして処理を繰り返す内に、「横方向の配置枚数」回分の配置処理が実行されると、S216の判断が肯定されるので(S216:Yes)、次に、配置用バッファのデータをプリンタ3(図2参照)へ渡す(S217)。これにより、配置用バッファに配置された、横一列分のインデックス画像に対応したデータが、プリンタ3による印刷処理にかけられ、画像一覧20を出力することができる。
【0155】
そして、次の処理対象のインデックス画像の横方向配置位置を示す横方向位置を初期化し(S218)、また、縦方向配置位置を示す縦方向位置を更新する(S219)。すなわち、画像一覧20における次の列の左端から、次のインデックス画像が配列されるように、次の配置位置が決定される。そして、上述したS221、S222の処理を実行する。
【0156】
このようにして処理をしたインデックス画像の数が、処理対象の記録用紙に配置するインデックス画像数layout_noに到達すると、S222の判断が肯定されるので(S222:Yes)、図11に示す次の処理に移行する。
【0157】
図11は、図10に示す配置印刷処理(S200)の続きを示すフローチャートであって、S222の判断が肯定される場合に実行される。
【0158】
まず、配置用バッファに、未だ印刷処理を行っていないデータが存在するかを判断する(S223)。S223の判断が肯定される場合(S223:Yes)、その残りのデータをプリンタ3に渡し(S224)、プリンタ3にて印刷出力させ、S225の処理に移行する。ただし配置用バッファに画像が配置されない領域については白地出力とする。一方、S223の判断が否定される場合(S223:No)、S224の判断をスキップし、S225の処理に移行する。
【0159】
そして、1ページ分のデータ出力が完了したことを示す印刷完了命令をプリンタ3に渡す(S225)。そして、ページカウンタに「1」を加算する(S226)。次に、配置用バッファにおける次のデータの配置位置を示す横方向位置および縦方向位置を初期化する(S227)。そして、ページカウンタの値が、現在の処理対象のグループについて、何ページ分の画像一覧20を印刷出力するかを示す「生成ページ数」より大となったかを判断する(S228)。S228の判断が否定される場合(S228:No)、図10に示すS207の処理に戻り、同グループについて、次ページの処理を開始する。
【0160】
一方、S228の判断が肯定される場合(S228:Yes)、グループカウンタに1を加算する(S229)。そして、グループカウンタの値が、グループ数記憶領域401に記憶された値より大となったか否かを判断する(S230)。S230の判断が否定される場合(S230:No)、S204に戻り、処理を繰り返す。すなわち、次のグループNoで特定されるグループを処理対象として処理を繰り返す。
【0161】
一方、S228の判断が肯定される場合(S228:Yes)、配置印刷処理(S200)を終了する。
【0162】
このように、このMFP1によれば、図3(a)を参照して説明したように、動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する画像一覧20を印刷出力する場合、各インデックス画像21a,21b,21c,22の大きさが基準特徴量BSSpと一致するように補正され、各インデックス画像21a,21b,21c,22の色が基準特徴量BCSpと一致するように補正されて印刷出力されるので、各インデックス画像21a,21b,21c,22間で視覚的な統一感が確保されている画像一覧20を出力させることができる。また、ファイル時間情報(すなわち、静止画像ファイルまたはフレーム画像情報の撮影時間)に従った配置順序でインデックス画像が配列された画像一覧20を出力することができる。
【0163】
以上、実施形態に基づき本発明を説明したが、本発明は上述した実施形態に何ら限定されるものではなく、本発明の趣旨を逸脱しない範囲内で種々の改良変更が可能であることは容易に推察できるものである。
【0164】
例えば、本実施形態では、画像一覧20を記録用紙に印刷出力するものとして説明したが、LCD5など表示装置に画像一覧20を表示出力する場合にも、本発明を適用できる。
【0165】
また、本発明を、例えば、パーソナルコンピュータに適用し、PCのモニターに、画像一覧20を表示出力する場合、あるいは、パーソナルコンピュータからプリンタを制御して画像一覧を印刷出力する場合にも、本発明を適用できる。
【0166】
また、上記実施形態では、全グループについて画像一覧20が出力されるものとして説明したが、例えば、ユーザにより選択されたグループについてのみ画像一覧20を出力するように構成しても良い。
【0167】
また、上述した実施形態では、動画像ファイルおよび静止画像ファイルは、共に撮影により生成された画像ファイルであるものとして説明したが、動画像ファイルおよび静止画像ファイルは、撮影以外の方法で生成されるものであっても、本発明を適用可能である。その場合は、撮影日時に代えて、ファイルの作成日時を表すファイルの生成日時情報や、ファイルの更新日時情報など、他の条件を元に、インデックス画像の配置順序を決定するように構成されても良い。
【0168】
また、上述した実施形態では、メディアカード内に、静止画像ファイルと動画像ファイルとが混在している場合について説明したが、メディアカード内に動画像ファイルのみが格納されている場合にも本発明は適用可能である。
【0169】
また、上述した実施形態では、着脱可能なメディアカード内に記憶されている画像情報を処理対象としていたが、MFP1の内部メモリに格納された画像情報を処理対象とする場合にも、本発明は適用可能である。
【0170】
また、上述した実施形態では、各インデックス画像の大きさを統一するために各インデックス画像の大きさを基準特徴量BSSpに一致させ、且つ、各インデックス画像の色をを統一するために各インデックス画像の色を基準特徴量BCSpに一致させる場合について説明したが、基準特徴量BSSpと、基準特徴量BCSpとのいずれか一方にだけ一致するように補正するように構成しても良い。
【0171】
また、上述した実施形態では、図11に示すS212a、S214aの処理において、色相、輝度、彩度の全てについて変換する場合について説明したが、いずれか一以上変換するように構成しても良い。
【0172】
また、上述した実施形態では、図10に示すS155,S156において静止画像ファイルに対応する静止画像についてのみ、画像特徴量SSp,CSpを算出する場合について説明したが、フレーム画像情報についても画像特徴量SSp,CSpを算出し、S160と、S161において、両者(静止画像および動画像)の画像特徴量SSp,CSpから各基準特徴量を算出するように構成しても良い。
【図面の簡単な説明】
【0173】
【図1】本発明の画像処理装置の実施形態であるMFPの外観構成を示した斜視図である。
【図2】MFPの電気的構成を示すブロック図である。
【図3】MFPが印刷出力する画像一覧の一例を示す図である。
【図4】ファイル情報記憶領域の構成を模式的に示す図である。
【図5】配置情報記憶領域の構成を模式的に示す図である。
【図6】グループ情報記憶領域の構成の一例を示す図である。
【図7】配置順決定処理を示すフローチャートである。
【図8】画像日付算出処理を示すフローチャートである。
【図9】図7に示す配置順決定処理の続きの部分を示すフローチャートである。
【図10】基準特徴量算出処理を示すフローチャートである。
【図11】配置印刷処理を示すフローチャートである。
【図12】図10に示す配置印刷処理の続きを示すフローチャートである。
【符号の説明】
【0174】
1 MFP(画像処理装置の一例)
3 プリンタ(記録手段の一部)
6 スロット部(取得手段の一部)
20 画像一覧
21a,21b,21c インデックス画像(フレーム画像の一例)
22 インデックス画像(静止画像の一例)
S153 区別手段の一部
S211 抽出手段の一部
S225 出力制御手段の一部
S155 画像特徴量算出手段の一部
S160,S161 基準特徴量算出手段の一部
S212a,S214a 画像補正手段の一部
【技術分野】
【0001】
本発明は、画像処理装置に関するものである。
【背景技術】
【0002】
近年では、デジタルカメラを用いて動画と静止画とを撮影できるため、撮影シーンに応じて、動画と静止画とを使い分けて撮影するシーンが存在している。例えば、運動会など動きのあるシーンでは動画で撮影し、集合写真などの動きのないシーンでは静止画で撮影されている。
【0003】
また、かかるデジタルカメラで撮影した動画をフレーム単位で抽出したフレーム画像と静止画像とが混在した画像一覧を、印刷出力したり、ディスプレイに表示する装置も提案されている。例えば、次の特許文献1には、フレーム画像と静止画像とを区別可能な態様でディスプレイ7に表示するプリントシステムが記載されている。
【特許文献1】特開2005−130254号公報(段落第「0036」、図9)
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した特許文献1に記載されているプリントシステムでは、ディスプレイ7に表示するフレーム画像と、静止画とを含む画像一覧が、視覚的に統一感に欠けるものとなっていた。具体的には、デジタルカメラの動画像を構成するフレーム画像は、前記デジタルカメラのメイン機能である静止画像に比べ、画像サイズが小さいものであった。また、動画は時間が継続するため、撮影した時間において撮影条件を改善するためのフラッシュ撮影や、ISO感度、F値、ホワイトバランス等の調整方法が静止画像と異なる。例えば、撮影しながら屋内から屋外へ移動するなど、撮影継続中に撮影条件が変化すると、ホワイトトバランス等が適応するまでの期間において動画は色かぶりするため、そのフレーム画像は静止画像に比べて色かぶりしている傾向にあった。その結果、フレーム画像と、静止画像とが混在する画像一覧では、フレーム画像と、静止画像との間において、視覚的な統一感に欠け、画像一覧が見難いという問題点があった。
【0005】
本発明は、上記の問題点を解決するためになされたものであり、動画から抽出されるフレーム画像と、静止画像とが混在する画像一覧であって、フレーム画像と静止画像との間で視覚的な統一感が確保されている画像一覧を出力させることができる画像処理装置を提供することを目的としている。
【課題を解決するための手段】
【0006】
この目的を達成するために、請求項1記載の画像処理装置は、1以上の静止画像ファイルと、1以上の動画像ファイルとを取得する取得手段と、その取得手段によって取得された動画像ファイルから1以上のフレーム画像を抽出する抽出手段と、その抽出手段によって抽出された1以上のフレーム画像の各々のフレーム画像と、前記取得手段によって取得された1以上の静止画像ファイルの各々の静止画像との画像特徴をあらわす特徴量を算出する画像特徴量算出手段と、その画像特徴量算出手段によって算出された1以上のフレーム画像に対応する特徴量と、1以上の静止画像に対応する特徴量との、少なくとも一方から基準となる基準特徴量を算出する基準特徴量算出手段と、前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段によって算出された基準特徴量に一致させるように画像を補正する画像補正手段と、その画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、同一出力面上に出力させる出力制御手段とを備えている。
【0007】
請求項2記載の画像処理装置は、請求項1に記載の画像処理装置において、前記取得手段によって取得される静止画像ファイルと、動画像ファイルとを区別する区別手段を備え、前記基準特徴量算出手段は、前記区別手段によって動画像ファイルと区別された静止画像ファイルが示す前記1以上の静止画像に対応する特徴量から基準特徴量を算出し、前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量を、前記基準特徴量に一致させるように画像補正する。
【0008】
請求項3記載の画像処理装置は、請求項1又は2に記載の画像処理装置において、前記画像特徴量算出手段は、前記特徴量として、画像の色に関する情報を示す色情報と画像の大きさに関する情報を示すサイズ情報とのうち、少なくとも一方を算出し、前記基準特徴量算出手段は、上記画像特徴量算出手段によって得られた特徴量から基準となる基準特徴量を算出し、前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段で算出された基準特徴量に一致させるように画像補正する。
【0009】
請求項4記載の画像処理装置は、請求項3記載の画像処理装置において、前記色情報は、輝度を示す輝度情報、彩度を示す彩度情報、色相を示す色相情報のうち、何れか一以上である。
【0010】
請求項5記載の画像処理装置は、請求項3記載の画像処理装置において、前記サイズ情報は、画像の幅を示す幅情報、画像の高さを示す高さ情報、画像のアスペクト比を示すアスペクト比情報である。
【0011】
請求項6記載の画像処理装置は、請求項1から5のいずれかに記載の画像処理装置において、記録用紙に画像を記録する記録手段を備え、前記出力制御手段は、前記画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、前記記録手段によって前記記録用紙の同一紙面上に記録させる。
【発明の効果】
【0012】
請求項1記載の画像処理装置によれば、各フレーム画像の画像特徴をあらわす特徴量と、各静止画像の画像特徴をあらわす特徴量とが画像特徴量算出手段によって算出され、その算出された少なくとも何れか一方の特徴量から基準となる基準特徴量が基準特徴量算出手段によって算出される。そして、各フレーム画像の特徴量と、各静止画像の特徴量とが、画像補正手段によって基準特徴量に一致するように補正され、その補正された各フレーム画像と、各静止画像とが出力制御手段によって同一出力面上に出力される。よって、各フレーム画像と、各静止画像とは、その特徴量が基準特徴量に一致した状態で同一出力面上に出力される。従って、フレーム画像と、静止画像とが混在する画像一覧であって、フレーム画像と静止画像との間で視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0013】
請求項2記載の画像処理装置によれば、請求項1に記載の画像処理装置の奏する効果に加え、基準特徴量算出手段は、区別手段によって動画像ファイルと区別された静止画像ファイルが示す前記1以上の静止画像に対応する特徴量から基準特徴量を算出し、画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量を、前記基準特徴量に一致させるように画像補正する。よって、フレーム画像は静止画像に比べサイズが小さかったり、色かぶりしている傾向にあるものの、フレーム画像の特徴量を、静止画像の特徴量に一致させることで、かかるサイズの不一致や色かぶりが解消される。よって、フレーム画像と、静止画との間で、視覚的な統一感が高品質に確保されている画像一覧を出力させることができるという効果がある。
【0014】
請求項3記載の画像処理装置によれば、請求項1又は2に記載の画像処理装置の奏する効果に加え、画像の色に関する情報を示す色情報と画像の大きさに関する情報を示すサイズ情報とのうち少なくとも一方が、各フレーム画像の特徴量と、各静止画像の特徴量として算出され、その少なくとも一方の特徴量が互いに一致するように補正される。よって、フレーム画像と、静止画との間で色、または、大きさの少なくとも一方に関して、視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0015】
請求項4記載の画像処理装置によれば、請求項3に記載の画像処理装置の奏する効果に加え、色情報は、輝度を示す輝度情報、彩度を示す彩度情報、色相を示す色相情報のうち、何れか一以上であるので、フレーム画像と、静止画との間で輝度、彩度、色相のうち、いずれか一以上に関して、視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0016】
請求項5記載の画像処理装置によれば、請求項3に記載の画像処理装置の奏する効果に加え、サイズ情報は、画像の幅を示す幅情報、画像の高さを示す高さ情報、画像のアスペクト比を示すアスペクト比情報であるので、フレーム画像と、静止画との間で、その大きさに関して、より高精度に視覚的な統一感が確保されている画像一覧を出力させることができるという効果がある。
【0017】
請求項6記載の画像処理装置によれば、請求項1から5のいずれかに記載の画像処理装置の奏する効果に加え、出力制御手段は、画像補正手段によって補正されたフレーム画像と、静止画像とを記録手段によって記録用紙の同一紙面上に記録させるので、フレーム画像と、静止画との間で、視覚的な統一感が確保されている画像一覧が記録された記録用紙を出力させることができるという効果がある。
【発明を実施するための最良の形態】
【0018】
以下、本発明の好ましい実施形態について、添付図面を参照して説明する。図1は、本発明の画像処理装置の一実施形態としての多機能周辺装置(以下、「MFP(Multi Function Peripheral)」と称す)1の外観構成を示した斜視図である。MFP1は、特に、動画から抽出されるフレーム画像と、静止画像とが混在する画像一覧であって、フレーム画像と静止画像との間で視覚的な統一感が確保されている画像一覧を出力させることができる装置である。
【0019】
このMFP1は、フォトキャプチャー機能、コピー機能、スキャナ機能、メディアキャプチャ機能などの各種機能を有する多機能周辺装置である。メディアキャプチャ機能では、後述するスロット部6に装着されたメディアカードから画像ファイルを読み出して印刷出力する処理、メディアカードから読み出した画像ファイルに対応した画像をLCD5に表示出力する処理、スキャナ機能により読み取られた画像データをメディアカードに保存する処理などを実行できる。
【0020】
MFP1の上部には、原稿を読み取るためのスキャナ2が配置されている。また、筐体内部には記録用紙に画像を印刷する装置として、所謂インクジェットプリンタで構成されたプリンタ3が内蔵されている。
【0021】
また、MFP1の前面には、スロット部6が設けられている。このスロット部6には、コンパクトフラッシュ(登録商標)、SDメモリカードなどの各種メディアカードを直接挿入できるカードスロットが設けられている。
【0022】
また、原稿カバー体の前方には、操作パネルが設けられており、複数のキーやタッチパネルで構成される操作部4、およびLCD5を具備する。MFP1は、LCD5に操作手順や実行中の処理の状態を表示させると共に、操作部4の操作に対応する情報を表示させる。
【0023】
図2を参照して、MFP1の電気的構成について説明する。図2は、MFP1の電気的構成を示すブロック図である。MFP1は、CPU11、ROM12、RAM13、EEPROM14、スキャナ2、プリンタ3、操作部4、LCD5、スロット部6を主に有している。
【0024】
このうち、CPU11、ROM12、RAM13、EEPROM14は、バスライン26を介して互いに接続されている。また、スキャナ2、プリンタ3、操作部4、LCD5、スロット部6、バスライン26は、入出力ポート27を介して互いに接続されている。
【0025】
CPU11は、ROM12、RAM13やEEPROM14に記憶される固定値やプログラムに従って、MFP1が有している各機能の制御や、入出力ポート27と接続された各部を制御するものである。
【0026】
ROM12は、CPU11によって実行される制御プログラム12aを記憶すると共に、電源遮断後も内容を保持可能な不揮発性のメモリである。制御プログラム12aは、後述する図7〜図11にフローチャートで示す処理を実行するためのプログラムを含んでいる。
【0027】
ROM12には、さらに横方向画像配置数記憶領域12b、1ページ画像配置数記憶領域12cが設けられている。
【0028】
横方向画像配置数記憶領域12bは、「横方向の配置枚数」を記憶する領域である。「横方向の配置枚数」は、画像一覧において、横一列に並べて配置可能なインデックス画像の数を示す値である。なお、本実施形態のMFP1には、予め印刷用紙サイズ(L版、A4、Letterなど)、および印刷モード(高精細、普通、高速など)に応じて、複数種類の「横方向の配置枚数」が記憶されており、後述する配置印刷処理(図10,図11参照)では、この中から適した値を読み出して用いるものとして説明する。
【0029】
1ページ画像配置数記憶領域12cは、「1ページ内画像配置数」を記憶する領域である。「1ページ内画像配置数」は、1ページ分の記録用紙に形成する画像一覧に、最大で何個分のインデックス画像を配置可能であるかを示す値である。なお、本実施形態においては、予め印刷用紙サイズおよび印刷モードに応じて、複数種類の「1ページ内画像配置数」が記憶されており、後述する配置印刷処理(図10,図11参照)では、この中から適した値を読み出して用いるものとして説明する。
【0030】
RAM13は、MFP1の各操作の実行時に各種のデータを一時的に記憶するためのメモリであり、抽出フレーム数記憶領域13a、処理ファイル数記憶領域13b、処理画像総数記憶領域13c、生成ページ数記憶領域13d、グループ情報記憶領域13g、ファイル情報記憶領域13h、配置情報記憶領域13i、フレーム画像情報記憶領域13j、デコードデータ記憶領域13k、カウンタ記憶領域13m、識別画像記憶領域13nが設けられている。
【0031】
ここで、本実施形態で用いる用語の意味を説明する。本実施形態において、「動画像」とは、多数のフレーム画像を切り替え表示することにより再生される画像を意味している。「動画像ファイル」は、動画像を再生するためのファイルであって、例えば、AVI動画ファイル、クイックタイム動画ファイルなどで構成される。ただし、動画像を再生可能な情報であれば、どのような形式のファイルであっても差し支えない。また、本実施形態において、「フレーム画像情報」は、動画像を構成する1のフレーム画像に対応した情報を意味している。
【0032】
抽出フレーム数記憶領域13aは、「フレーム画像抽出枚数」を記憶する領域である。「フレーム画像抽出枚数」は、1の動画像ファイル当たり、何枚分のフレーム画像に対応したフレーム画像情報を抽出するかを示す値である。例えば、「フレーム画像抽出枚数」として「5」が記憶されている場合、MFP1は、メディアカードに格納された動画像ファイルの各々について、1の動画像ファイル当たり、5枚のフレーム画像に対応したフレーム画像情報を抽出し、その抽出したフレーム画像情報に基づいて、1の動画像ファイル当たり、5個のインデックス画像を、画像一覧に配置する。
【0033】
本実施形態のMFP1は、ユーザが操作部4から入力した任意の値を「フレーム画像抽出枚数」として、抽出フレーム数記憶領域13aに記憶するものとして説明するが、「フレーム画像抽出枚数」が予めROM12などに記憶されていたり、動画像ファイルのサイズが大であるほど、「フレーム画像抽出枚数」が大となるように予め定められた関係に従って、「フレーム画像抽出枚数」が自動的に決定されても良い。
【0034】
処理ファイル数記憶領域13bは、「総処理ファイル数」を記憶する領域である。「総処理ファイル数」は、メディアカードに格納される静止画像ファイルと動画像ファイルの合計を示す値である。
【0035】
処理画像総数記憶領域13cは、「処理画像総数」を記憶する領域である。「処理画像総数」は、画像一覧内に形成するインデックス画像の総数を示す値である。生成ページ数記憶領域13dは、「生成ページ数」を記憶する領域である。「生成ページ数」は、後述する配置印刷処理(図10、図11)の実行により出力する画像一覧の総ページ数を示す値である。
【0036】
グループ情報記憶領域13g、ファイル情報記憶領域13h、配置情報記憶領域13iについては、図4から図6を参照して後述する。
【0037】
フレーム画像情報記憶領域13jは、動画像ファイルから抽出されるフレーム画像情報を格納する領域である。デコードデータ記憶領域13kは、フレーム画像情報をデコード処理した結果、または、静止画像ファイルをデコード処理した結果を記憶する領域である。カウンタ記憶領域13mは、各種カウンタを記憶する領域である。
【0038】
基準特徴量記憶領域13nは、一以上の静止画像の特徴量(画像サイズ、画像の色)から基準として算出された基準特徴量を格納する領域である。この基準特徴量に基づいて、画像一覧として出力される各インデックス画像が補正されるので、画像一覧に含まれる各インクデックス画像が視覚的に統一される。
【0039】
図3(a)は、MFP1が、1ページの記録用紙に印刷出力する画像一覧20の一例を示す図である。MFP1は、メディアカードに静止画像ファイルと動画像ファイルとが混在している場合、図3(a)に示すように、フレーム画像情報に対応するインデックス画像21a,21b,21cと、静止画像ファイルに対応するインデックス画像22とが混在した画像一覧20を出力する。よって、ユーザは、動画像ファイルの内容を示すインデックス画像21a,21b,21cと、静止画像ファイルの内容を示すインデックス画像22とを、1ページの画像一覧20によって、一度に視認することができ、利便性が高い。
【0040】
一方、図3(b)は、本願発明とは異なる装置によって1ページの記録用紙に印刷出力する画像一覧200を示す図である。両者は、同じ動画像ファイルから抽出したインデックス画像21a,21b,21cおよび同じ静止画像ファイルから抽出したインデックス画像22を1ページの記録用紙に印刷出力したものである。
【0041】
よって、図3(b)に示す画像一覧200にも、図3(a)に示す画像一覧20と同様に、第1の動画像ファイルから抽出される3つのインデックス画像21aと、第2の動画像ファイルから抽出される2つのインデックス画像21bと、第3の動画像ファイルから抽出される3つのインデックス画像21cと、3つの静止画像ファイルから抽出される3つのインデックス画像22とが含まれている。
【0042】
しかし、図3(b)に示す画像一覧200では、動画像ファイルから抽出された各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されたインデックス画像22とでは、その大きさ(サイズ)が異なり、また、各インデックス画像の色が同じ色に統一されていない(図3(b)に示す各インデックス画像21a,21b,21c内のハッチング模様や散点模様は、各インデックス画像21a,21b,21cの各々が別々の色かぶりをしている状態を示している。)これは、動画ではフラッシュ撮影、ISO感度、F値、ホワイトバランス等の調整方法が異なる等の理由により、動画像ファイルから抽出される各インデックス画像21a,21b,21cは、静止画像に比べて色かぶりする傾向にあるためである。
【0043】
その結果、図3(b)の画像一覧200に示すように、動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する場合には、両者の間で、視覚的な統一感に欠け、画像一覧200が見難いものになっていた。
【0044】
一方、図3(a)に示す画像一覧20では、動画像ファイルから抽出された各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されたインデックス画像22とが、全て、同じ大きさ(サイズ)であって、各インデックス画像の色が同じ色に統一されている。
【0045】
即ち、MFP1は、動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する画像一覧20を印刷出力する場合、後述する方法で各インデックス画像21a,21b,21c,22を補正し、各インデックス画像21a,21b,21c,22間で視覚的な統一感が確保されている画像一覧20を出力させることができる。
【0046】
また、MFP1は、インデックス画像21a,21b,21c,22を含む画像群が、撮影日時に従った順序で配列されるように、インデックス画像21a,21b,21c,22の各々について配置順序を決定し、その決定した配置順序でインデックス画像21a,21b,21c,22を配列した画像一覧20を出力する。
【0047】
図3(a)に示す画像一覧20はその一例であるが、例えば、画像一覧20の上段から下段へ向かうにつれて、且つ、左側から右側へ向かうにつれて撮影日時が新しくなるような順序で、インデックス画像21a,21b,21c,22が配列するように配置順序を決定する。
【0048】
詳細な説明は後述するが、MFP1は、静止画像ファイルに基づくインデックス画像22であるか、動画像ファイルに基づくインデックス画像21a,21b,21cであるかに関わらず、撮影日時のみを条件としてソートした配置順序を決定し、その配置順序でインデックス画像21a,21b,21c,22を配列した画像一覧20を出力する。よって、例えば、動画像で撮影したか、静止画像で撮影したかをユーザが覚えていない場合であっても、撮影日時がかなり古いものであるのか、あるいは最近のものであるのかなど、撮影日時を手がかりに、目的とする画像を迅速に探し当てることができる。
【0049】
また、詳細は後述するが、本実施形態のMFP1は、インデックス画像21a,21b,21c,22を撮影日毎のグループに分類し、グループ毎に画像一覧20を出力するように構成されている。よって、例えば、画像一覧20のヘッダ部分に、グループの撮影日23が印刷されても良い。
【0050】
図4は、ファイル情報記憶領域13hの構成を模式的に示す図である。図4に示すように、ファイル情報記憶領域13hには、ファイルIDを記憶するファイルID記憶領域201、ファイル名を記憶するファイル名記憶領域202、ファイル種類を記憶するファイル種類記憶領域203、抽出フレーム数を記憶する抽出フレーム数記憶領域204、総フレーム数を記憶する総フレーム数記憶領域205、fps情報を記憶するfps情報記憶領域206、ファイル日付情報を記憶するファイル日付情報記憶領域207、ファイル時間情報を記憶するファイル時間情報記憶領域208、ファイル識別情報記憶領域209が設けられ、ファイル名、ファイル種類、抽出フレーム数、fps情報、ファイル日付情報、ファイル時間情報、ファイル識別情報からなるファイル情報200を、そのファイル情報200を管理するファイルIDに対応付けて記憶する。MFP1は、画像一覧20(図3参照)におけるインデックス画像21a,21b,21c,22の配置順序を決定するための準備処理として、メディアカード内に格納された静止画像ファイルまたは動画像ファイルの各々についてファイル情報200を作成し、ファイル情報記憶領域13hに格納する。
【0051】
ファイルID記憶領域201は、ファイルIDを記憶する領域である。ファイル名記憶領域202は、静止画像ファイルまたは動画像ファイルのファイル名を格納する領域である。図4に示すように、各ファイル名には、拡張子が付加されている。例えば、画像ファイルがJPEGファイルである場合は拡張子「jpg」が付加され、AVI動画ファイルである場合は拡張子「avi」が付加され、クイックタイム動画ファイルである場合は拡張子「mov」が付加される。
【0052】
ファイル種類記憶領域203は、各画像ファイルの種類(フォーマット)を示す値を格納する領域である。画像ファイルの種類は、例えば、ファイル名に付加された拡張子に基づいて判定することができる。本実施形態では、画像ファイルの形式がJPEGファイル(拡張子jpg)である場合、JPEGファイルであることを示す値「0」をファイル種類記憶領域203に格納し、画像ファイルの形式がAVI動画ファイル(拡張子avi)である場合、値「1」をファイル種類記憶領域203に格納し、画像ファイルの形式がクイックタイム動画ファイル(拡張子mov)である場合、値「2」をファイル種類記憶領域203に格納する。
【0053】
なお、各画像ファイルの先頭から数バイト分に格納されている情報に基づいて画像ファイルの種類を判定することもできる。例えば、先頭から2バイトが「0xFFD8」であればJPEGファイルであると判定できるし、先頭から2バイトが「0x424D」であれば、ビットマップデータであると判定することができる。これらの情報に基づいて、画像ファイルの種類を判定しても差し支えない。
【0054】
抽出フレーム数記憶領域204は、何枚分のフレーム画像に対応したフレーム画像情報を、画像ファイルから抽出するかを示す値を記憶する領域である。静止画像ファイルの場合、抽出フレーム数記憶領域204には「1」が格納される。一方、動画像ファイルの場合、抽出フレーム数記憶領域204には、「2」以上の値が格納される。
【0055】
総フレーム数記憶領域205は、各画像ファイルの総フレーム数を格納する領域である。動画像ファイルの場合は動画像ファイルに含まれる総フレーム数が格納され、静止画像である場合は常に1が格納される。
【0056】
fps情報記憶領域206は、各画像ファイルのfps(Frame Per Second)情報を格納する領域である。静止画像ファイルである場合には「0」が格納される。一方、動画像ファイルである場合には、例えば、1秒間に60フレーム画像が存在することを示す「60」や、1秒間に30フレーム画像が存在することを示す「30」が、このfps情報記憶領域206に格納される。
【0057】
ファイル日付情報記憶領域207は、各画像ファイルの撮影日を表すファイル日付情報を格納する領域である。例えば、撮影日「2008年1月15日」は、ファイル日付情報「20080115」として表すものとする。
【0058】
ファイル時間情報記憶領域208は、各画像ファイルの撮影時間を表すファイル時間情報を格納する領域である。例えば、撮影時間「12時50分45秒」は、ファイル時間情報「125045」として表すものとする。画像ファイルが動画像ファイルの場合は、撮影開始時間を表す情報が、ファイル時間情報として格納される。なお、ファイル日付情報およびファイル時間情報が、特許請求の範囲に記載の撮影日時情報に相当する。
【0059】
以降の説明では、各画像ファイルのヘッダに記述された情報を読み出してくることにより、総フレーム数、fps情報、ファイル日付情報およびファイル時間情報を取得するものとするが、他の手段により、これらの情報を取得しても良い。
【0060】
ファイル付加情報記憶領域209は、各画像ファイルのその他の固有情報を格納する領域である。
【0061】
本実施形態のMFP1は、ファイル情報記憶領域13hに格納された各画像ファイルの固有情報に基づいて、撮影日時に従った順序でインデックス画像が配列されるように、インデックス画像の配置順序を決定する。決定した配置順序を示す情報は、図5に示す配置情報記憶領域13iに格納する。
【0062】
図5は、配置情報記憶領域13iの構成を模式的に示す図である。図5に示すように、配置情報記憶領域13iは、ファイルID、グループNo、抽出フレーム番号、画像日付情報、画像時間情報、画像識別情報からなる配置情報300と、その配置情報300に対応する配置順序とを記憶する。
【0063】
図5に示すように、配置情報記憶領域13iには、配置順序記憶領域301、ファイルID記憶領域302、グループNo記憶領域303、抽出フレーム番号記憶領域304、画像日付情報記憶領域305、画像時間情報記憶領域306、画像識別情報記憶領域307が設けられる。
【0064】
配置情報記憶領域301は、配置順序を記憶する領域である。後述する配置印刷処理(図10,図11参照)では、配置順序に従った順序で、配置情報300が読み出され、各配置情報300で特定されるフレーム画像または静止画像のインデックス画像が、配置順序に従った順序で、画像一覧20に配列される。
【0065】
ファイルID記憶領域302は、ファイルIDを記憶する領域である。図4を参照して説明したように、ファイル情報記憶領域13hには、ファイルIDとファイル名とが1対1で対応付けて記憶されているので、ファイルIDから、1の画像ファイルを特定することができる。
【0066】
グループNo記憶領域303は、グループNoを記憶する領域である。なお、グループNoについては、図6を参照して後述する。
【0067】
抽出フレーム番号記憶領域304は、抽出フレーム番号を記憶する領域である。上述したように、1の動画像ファイルについて複数のフレーム画像情報が抽出される。よって、先頭から数えて何番目のフレーム画像情報であるかを示す情報が、「抽出フレーム番号」として、抽出フレーム番号記憶領域304に格納される。
【0068】
ここで、「抽出フレーム番号」は、「総フレーム数記憶領域205」に記憶された動画像ファイルの総フレーム数と、「抽出フレーム数記憶領域13a」に記憶された抽出フレーム数と、動画像のうち何枚目に抽出されるかを表すフレーム画像抽出数カウンタ値を用いて、例えば、下記のように算出することができる。
(抽出フレーム番号)=[(フレーム画像抽出数カウンタ値−1)×(総フレーム数)÷(抽出フレーム数)]
ここで[]はガウス記号を表し、[a]はaを超えない最大の整数を表す。
【0069】
画像日付情報記憶領域305は、ファイルID記憶領域302に格納されたファイルIDで特定される画像ファイルの撮影日を表す画像日付情報が格納される領域である。画像時間情報記憶領域306は、撮影時間を表す画像時間情報が格納される領域である。静止画像ファイルについては、ファイル情報記憶領域13hの対応する領域に格納されたファイル時間情報が、この画像時間情報記憶領域306にコピーされる。
【0070】
一方、動画像ファイルについては、その動画像ファイルから複数のフレーム画像情報が抽出されるので、フレーム画像情報毎に、撮影時間を表す画像時間情報を取得し、画像時間情報記憶領域306に記憶する。なお、フレーム画像情報毎の画像時間情報を算出する具体的演算例については、図7に示すフローチャートを参照して後述する。
【0071】
画像特徴記憶領域307は、静止画像の特徴量が格納される領域である。本実施形態では、静止画像の特徴量として、各静止画像の大きさと、画像の色とが算出され、記憶される。この画像特徴記憶領域307に記憶されている静止画像の全部の特徴量から上述した基準特徴量が算出される。
【0072】
後述する配置印刷処理(図10,図11参照)では、この配置情報記憶領域13iに記憶された配置情報300に基づいて、動画像ファイルから抽出された各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されたインデックス画像22とが、全て、同じ大きさ(サイズ)であって、各インデックス画像の色が同じ色に統一されている画像一覧20を印刷出力すると共に、インデックス画像が撮影日時に従った順序で配列された画像一覧20を印刷出力する。
【0073】
さらに、本実施形態のMFP1は、インデックス画像を撮影日毎のグループに分類し、グループ毎に画像一覧20を印刷出力する。例えば、「2008年1月15日」に撮影した画像ファイルと、「2008年1月20日」に撮影した画像ファイルとがメディアカードに格納されているのであれば、「2008年1月15日」に撮影された画像ファイルのインデックス画像からなる画像一覧20と、「2008年1月20日」に撮影された画像ファイルのインデックス画像からなる画像一覧20とを印刷出力するように構成されている。
【0074】
図6は、グループ情報記憶領域13gの構成の一例を示す図である。図6に示すように、グループ情報記憶領域13gには、グループ数記憶領域401と、グループ単位情報記憶領域402と、グループNo記憶領域403とが設けられている。
【0075】
グループ数記憶領域401は、インデックス画像を分類するために生成されたグループ数を記憶する領域である。図6に示す例では、インデックス画像を分類するために「10」のグループが生成されたことを示している。
【0076】
グループ単位情報記憶領域402は、グループ毎の情報を記憶する領域である。グループ単位情報記憶領域402には、グループNoを記憶する記憶領域403と、そのグループNoで特定されるグループに分類されるインデックス画像の数を記憶するグループ画像数記憶領域404とが設けられる。図6に示す例では、グループNoが「1」のグループに、「10」個のインデックス画像が分類されることを示している。
【0077】
本実施形態のMFP1によれば、グループ毎の画像一覧20を出力することにより、ユーザはグループ毎(撮影日毎)に画像一覧20を視認することができるから、ユーザは撮影日ごとのグループに分類された閲覧性の良い画像一覧を得ることができる。
【0078】
次に、図7乃至図12を参照して、図3(a)に示すような画像一覧20を出力させる処理について説明する。この処理を大略すると、まず、インデックス画像の配置順序を決定する配置順決定処理を実行する(S100)。次に、各インデックス画像を補正するための基準特徴量を算出する基準特徴量算出処理(S150)を実行する。そして、決定した配置順序に従い、視覚的に統一されたインデックス画像を含む画像一覧20を出力する配置印刷処理(S200)を実行する。以下、各処理について詳細に説明する。
【0079】
図7は、MFP1で実行される配置順決定処理(S100)を示すフローチャートである。図7に示す配置順決定処理(S100)は、スロット部6にメディアカードが装着され、ユーザにより画像一覧20の印刷出力の実行指示が入力されると実行される。
【0080】
この配置順決定処理(S100)は、動画像ファイルから抽出するフレーム画像情報と、メディアカードから読み出される静止画像ファイルとの各々について、各画像情報の撮影日時を表す画像日付情報および画像時間情報を取得し、その取得した画像日付情報および画像時間情報を条件として、インデックス画像の配置順序を決定する処理である。
【0081】
まず、ユーザが操作部4から入力した値を、「フレーム画像抽出枚数」として抽出フレーム数記憶領域13aに記憶する(S101)。次に、メディアカード内に格納された静止画像ファイルと動画像ファイルとの合計を示す「総処理ファイル数」を算出し、処理ファイル数記憶領域13bに記憶する(S102)。
【0082】
次に、処理ファイル数カウンタ、処理画像数カウンタ、フレーム画像抽出枚数カウンタ、動画像ファイル数カウンタを、それぞれ0で初期化する(S103)。なお、これらのカウンタは、カウンタ記憶領域13m(図2参照)に設けられている。
【0083】
次に、メディアカードに格納された画像ファイルのうち、1の画像ファイルを処理対象として選択し、その画像ファイルのファイル名、画像ファイルの種類を取得する。そして取得したファイル名および画像ファイルの種類を示す値を、処理ファイル数カウンタ値のファイルIDに対応した、ファイル名記憶領域202、ファイル種類記憶領域203(図4参照)へ、それぞれ記憶する(S104)。
【0084】
そして、選択した画像ファイルが動画像ファイルであるか静止画像ファイルであるかを判断する(S105)。動画像ファイルであると判断した場合(S105:動画像)、その動画像ファイルのファイル日付情報、ファイル時間情報、およびfpsを表すfps情報を、その動画像ファイルのヘッダから取得する(S106)。
【0085】
そして、処理画像数カウンタ値の配置順序に対応したファイル日付情報記憶領域207へファイル日付情報を記憶し、ファイル時間情報記憶領域208へファイル時間情報を記憶し、fps情報記憶領域206へfps情報を記憶する(S107)。
【0086】
次に処理画像数カウンタ値の配置順序に対応した配置情報記憶領域13i(図5参照)のファイルID記憶領域302へ、現時点における処理ファイル数カウンタの値を記憶する。また、現時点におけるフレーム画像抽出枚数カウンタの値から抽出フレーム番号を算出し、処理画像数カウンタ値の配置順序に対応した抽出フレーム番号記憶領域304へ記憶する(S108)。
【0087】
次に、フレーム画像情報の時間情報を算出し、算出した時間情報を、画像時間情報として、配置順序に対応する画像時間情報記憶領域306へ記憶する(S109)。具体的には、まず、動画像ファイルの撮影開始時間を表すファイル時間情報をVideoTime、fps情報をFPS、フレーム画像情報の撮影時間を表す画像時間情報をFrameTime、処理対象のフレーム画像情報を特定する抽出フレーム番号をNとする。
【0088】
そして、ファイル時間情報VideoTimeを、以下のように、動画像時間情報VT_Hour、動画像分情報VT_Minute、動画像秒情報VT_Secondに分解する。
【0089】
VT_Hour=[VideoTime/10000]
VT_Minute=[(VideoTime−VT_Hour×10000)/100]
VT_Second=VideoTime−(VT_Hour×10000+VT_Minute×100)
次に、フレーム時情報Frame_Hour、フレーム分情報Frame_Minute、フレーム秒情報Frame_Secondを、例えば、下記の数式1のように算出する。
(数式1)
ここでCal_Second,Cal_Minute,Cal_Hourは上記情報を求めるための一時変数とする。
また、A mod BはAをBで割った時の剰余を表す
Cal_Second=VT_Second+[N/FPS]
Cal_Minute=VT_Minute+[Cal_Second/60]
Cal_Hour=VT_Hour+[Cal_Minute/60]
Frame_second=Cal_Second mod 60
Frame_Minute=Cal_Minute mod 60
Frame_Hour=Cal_Hour mod 24
以上を、例えば、下記の数式2を用いて結合し、フレーム画像情報の撮影時間を表す画像時間情報FrameTimeを算出する。
(数式2)
FrameTime=Frame_Hour×10000+Frame_Minute×100+Frame_Second
同様にして、動画像ファイルのファイル日付情報をVideoDate、抽出するフレーム画像情報の画像日付情報をFrameDateとすると、まずVideoDateを動画像年情報VD_Year、動画像月情報VD_Month、動画像日情報VD_Dayに、例えば、下記の数式3を用いて分解する。
(数式3)
VD_Year=[VideoDate/10000]
VD_Month=[(VideoDate−VD_Year×10000)/100 ]
VD_Day=VideoDate−(VD_Year×10000+VD_Month×100)
次に、画像日付算出処理を実行する(S110)。画像日付算出処理は、フレーム年情報Frame_Year、フレーム月情報Frame_Month、フレーム日情報Frame_Dayを算出する処理である。
【0090】
図8は、画像日付算出処理(S110)を示すフローチャートである。なお、図8のフローチャートに示す変数Mは、現日付からM日進めることを意味する変数である。
【0091】
まず、フレーム年情報Frame_Year、フレーム月情報Frame_Month、フレーム日情報Frame_Dayに、それぞれ、動画像年情報VD_Year、動画像月情報VD_Month、動画像日情報VD_Dayを代入する(S1201)。次に、変数Mに、[Cal_Hour/24]を代入する(S1202)。次にMが0であるかを判断し(S1203)、肯定されると(S1203:Yes)、本処理を終了する。
【0092】
一方、否定されると(S1203:No)、フレーム日情報Frame_Dayを判断する(S1204)。「1以上27以下」と判断されると(S1204:1以上27以下)、Frame_Dayに「1」を加算する(S1205)。
【0093】
一方、S1204の判断において、「28または29」と判断されると(S1204:28or29)、Frame_Monthが「2」であるか否かを判断する(S1206)。否定される場合(S1206;No)、S1205の処理に移行する。
【0094】
一方、肯定されると(S1206:Yes)、次に、Frame_Dayが「28」であるかを判断する(S1208)。否定される場合(S1208:No)、Frame_Dayに「1」を代入し、Frame_Monthに「1」を加算する(S1210)。
【0095】
一方、S1208の判断が肯定されると(S1208:Yes)、Frame_Yearで示される年がうるう年か否かを判断する(S1209)。肯定される場合(S1209:Yes)、S1205の処理に進む。否定される場合(S1209:No)、S1210の処理に進む。
【0096】
次に、S1204の判断において、「30」と判断されると(S1204:30)、次に、Frame_Monthが4,6,9,11のいずれかであるかを判断する(S1211)。肯定される場合(S1211:Yes)、S1210の処理に進む。
【0097】
一方、否定される場合(S1211:No)、Frame_Dayに「1」を加算する(S1216)。次に、S1204の判断において、「31」と判断されると(S1204:31)、次に、Frame_Yearが12であるかを判断する(S1215)。否定される場合(S1215:No)、S1216の処理に進む。
【0098】
一方、肯定される場合(S1215:Yes)、Frame_Dayに「1」を代入し、Frame_Monthに「1」を代入し、Frame_Yearに「1」を加算する(S1217)。
【0099】
S1205,S1210,S1216,S1217の処理の後は、変数Mから「1」減算し(S1212)、S1203に戻る。そして、S1203の判断が肯定されると(S1203:Yes)、本処理を終了する。
【0100】
図7に戻り説明する。図8に示す処理で算出した値を、例えば下記の数式5を用いて結合し、フレーム画像情報の撮影日付を表す画像日付情報FrameDateを算出する。算出された画像日付情報は画像日付情報記憶領域305へ記憶する(S111)。
(数式5)
FrameDate=Frame_Year×10000+Frame_Month×100+Frame_Day
次に、処理画像数カウンタ、およびフレーム画像抽出枚数カウンタに、それぞれ「1」を加算する(S113)。
【0101】
次に、フレーム画像抽出枚数カウンタの値が、フレーム画像抽出枚数、すなわち、その動画像ファイルから抽出するフレーム画像情報の数以上となったか否かを判断する(S114)。S114の判断が否定される場合(S114:No)、S108に戻り処理を繰り返す。
【0102】
一方、S114の判断が肯定される場合(S114:Yes)、次にフレーム画像抽出枚数カウンタを0で初期化し(S115)、処理ファイル数カウンタに1を加算する(S122)。そして、処理ファイル数カウンタの値が、メディアカードに格納される静止画像ファイルと動画像ファイルの合計を示す「総処理ファイル数」以上となったか否かを判断する(S123)。S123の判断が否定される場合(S123:No)、S104の処理に戻り、次の画像ファイルを処理対象として選択し、処理を繰り返す。
【0103】
続いて、処理対象の画像ファイルが静止画像ファイルであると判断された場合(S105:静止画像)について説明する。静止画像ファイルである場合、処理画像数カウンタ値の配置順序に対応したファイルID記憶領域302へ、現時点における処理ファイル数カウンタの値を記憶する。また、処理画像数カウンタ値の配置順序に対応した抽出フレーム番号記憶領域304へ「0」を記憶する(S115a)。
【0104】
次に、処理対象の静止画像ファイルのファイル日付情報およびファイル時間情報を取得する。そして、ファイル情報記憶領域13hのうち、処理ファイル数カウンタ値のファイルIDに対応したファイル日付情報記憶領域207(図4参照)へ、ファイル日付情報を記憶し、同ファイルIDに対応したファイル時間情報記憶領域208へ、ファイル時間情報を記憶する(S117)。なお、fps情報記憶領域206には「0」を記憶する。
【0105】
そして、配置情報記憶領域13i(図5参照)のうち、処理画像数カウンタ値の配置順序に対応する画像日付情報記憶領域305へ、処理対象の静止画像ファイルのファイル日付情報を記憶する。また、同配置順序に対応する画像時間情報記憶領域306へ、処理対象の静止画像ファイルのファイル時間情報を記憶する(S119)。そして、処理画像数カウンタに1を加算し(S121)、S123の処理に移行する。
【0106】
このように、S101からS123の処理によれば、配置情報記憶領域13iに、ファイルID、抽出フレーム番号、画像日付情報、画像時間情報、ファイル識別情報が格納されることとなるが、この時点では、まだインデックス画像の配置順序は未決定である。図9を参照して後述するS124以降の処理において、画像日付情報と画像時間情報とを条件として、配置情報をソートすることにより、撮影日時に従った配置順序が決定される。
【0107】
図9は、図7に示す配置順決定処理(S100)の続きの部分を示すフローチャートであり、特に、画像日付情報に基づいて、画像一覧20に配置するインデックス画像を分類する処理、および配置情報記憶領域13iに記憶された配置情報(図5参照)を、撮影日時に従った配置順序にソートする処理の部分を示している。
【0108】
図9に示すように、まず、現時点における処理画像数カウンタの値を「処理画像総数」として、処理画像総数記憶領域13c(図2参照)に記憶する(S124)。そして、処理画像数カウンタを「0」で初期化する(S125)。ここで処理画像数カウンタはカウンタ記憶領域13m(図2参照)に設けられるカウンタである。
【0109】
次に、配置情報記憶領域13i(図5参照)の画像日付情報記憶領域305に記憶された、画像日付情報に従って、グループNoを決定する(S126)。具体的には、処理画像数カウンタの値の配置順序に対応する、画像日付情報記憶領域305の値が、既に存在するグループの値と同一の場合は、その該当するグループNoを、この画像情報のグループNoに決定し、そうでない場合は新規のグループNoをこの画像情報のグループNoとして決定する。ただしNoの初期値は1であり、新規のグループNoはそれまでで最大のグループNo+1とする。
【0110】
このようにすれば、撮影日が同日であるフレーム画像情報または静止画像ファイルに対応するインデックス画像を同一グループに分類される一方で、撮影日が異なるフレーム画像情報または静止画像ファイルに対応するインデックス画像は互いに別グループに分類されることとなる。
【0111】
そして、処理画像数カウンタの値の配置順序に対応する、グループNo記憶領域303(図5参照)へ、決定したグループNoを記憶する(S127)。次に、処理画像数カウンタに「1」を加算し(S128)、処理画像数カウンタの値が、処理画像総数に記憶された値以上となったかを判断する(S129)。そして、S129の判断が否定される場合(S129:No)、S126から処理を繰り返す。
【0112】
一方、S129の判断が肯定される場合(S129:Yes)、グループNoの最大値を、グループ数記憶領域401(図6参照)に記憶する(S130)。そして、グループNoの小さい順に、配置情報をソートする(S131)。なお、S131の処理においては、グループNoの小さい順に配置情報をソートすることができれば良いので、ソートアルゴリズムは特に限定するものではなく、例えば、クイックソート法やバブルソート法を用いることが可能である。
【0113】
なお、図5に示す配置情報記憶領域13iは、配置情報記憶領域13iに記憶された配置情報が、グループNoの小さい順にソートされた状態を模式的に図示している。
【0114】
図9に戻り説明する。次に、同一グループNoに含まれることとなるインデックス画像数を算出し(S132)、グループNoと対応付けてグループ画像数記憶領域404へ記憶する(S133)。次に、グループカウンタを1で初期化する(S134)。このグループカウンタは、カウンタ記憶領域13m(図2参照)に設けられるカウンタである。
【0115】
次に、画像時間情報の小さい順に配置情報をソートする(S135)。このソートはグループ単位で行う。これにより、配置情報で特定されるインデックス画像の各々について、対応する配置順序が決定する。
【0116】
すなわち、同一グループに分類されたインデックス画像内で、画像時間情報(撮影時情報)に従った配置順序を決定する。後述する配置印刷処理(S200)では、グループ毎に画像一覧20が印刷出力されるが、同一グループ内のインデックス画像は、画像時間情報が小さい順に配列されているから、1グループ内に多数のインデックス画像が含まれる場合であっても、ユーザは撮影時間順に整列した閲覧性の良い画像一覧を得ることができる。
【0117】
なお、画像時間情報が同一である場合は、元々の配置順序を変更しないことが好ましいので、S135の処理では、バブルソートなど単純なソートアルゴリズムが好適に用いられる。
【0118】
次に、グループカウンタに1を加算し(S136)、グループカウンタの値がグループ数記憶領域401(図6参照)の値より大となったかを判断する(S137)。S137の判断が否定される場合(S137:No)、S135に戻り処理を繰り返す。一方、全てのグループについての処理を終了し、S137の判断が肯定されると(S137:Yes)、配置順決定処理(S100)を終了する。
【0119】
図10は、MFP1で実行される基準特徴量算出処理(S150)を示すフローチャートである。図10に示す基準特徴量算出処理(S150)は、上述した配置順決定処理(S100)の後に実行される処理であり、各インデックス画像を補正するための基準となる基準特徴量を、各静止画像の特徴量から算出する処理である。
【0120】
まず、配置順序カウンタを「0」で初期化し(S151)、次に、配置順序カウンタに対応したファイルID、抽出フレーム番号を配置情報記憶領域109から読み出す(S152)。そして、読み出したファイルIDに対応する画像ファイルが、動画像ファイルであるか静止画像ファイルであるかを判定する(S153)。尚、この判定はS105で既に一度判定がなされているため、その際の判定情報をファイル種類判定領域203から読み出してきて判定する。
【0121】
S153の判定において、静止画像ファイルと判定される場合(S153:静止画像)、静止画像ファイルをデコード処理する(S154)。
【0122】
そして、静止画像ファイルの大きさの画像特徴量SSpを算出し、その算出した画像特徴量SSpを配置順序カウンタに対応する画像特徴量記憶領域307に記憶する(S155)。ここで、大きさの画像特徴量SSpは、画像の幅(Width)、画像の高さ(Height)、アスペクト比(Aspect Ratio)で構成されており、画像の幅(Width)は画像の横方向のピクセル数、画像の高さ(Height)は画像の縦方向のピクセル数、アスペクト比(Aspect Ratio)は画像の高さ(Height)/画像の高さ(Height)から算出され、画像特徴量記憶領域307に記憶される。
【0123】
次に、静止画像ファイルの色の画像特徴量CSpを算出し、色の画像特徴量CSpを配置順序カウンタに対応する画像特徴量記憶領域307に記憶する(S156)。ここで、色の画像特徴CSpは、各静止画像の色相値(H_R,H_G,H_B)、輝度値(S)、彩度値(V)であり、色相値(H_R,H_G,H_B)は、各静止画像のRGB空間における所定値以上の明るさの画素のRGBの平均値、輝度値(S)はHSV空間における輝度値の平均値、彩度値(V)は画像のHSV空間における彩度の平均値から算出されて、画像特徴量記憶領域307に記憶される。
【0124】
尚、S153の判定において、動画像と判定された場合には、対応する画像特徴量記憶領域307に0(ゼロ)を記憶して(S157)、S158の処理に移行する。
【0125】
こうして、静止画像ファイルについて、大きさの画像特徴量SSpと、色の画像特徴CSpとを算出し、画像特徴量記憶領域307に記憶すると、S158において配置順序カウンタに「1」を換算し(S158)、全て配置ファイルの処理を終了したか判定し(S159)、終了していなければ(S159:No)、S152からの処理を繰り返し、終了していれば(S159:Yes)、S160の処理に移行する。
【0126】
このS160では、S155で画像特徴量記憶領域307に記憶された値が0(ゼロ)でないものを対象として、前記画像記憶手段領域307に記憶された画像特徴量SSpから基準特徴量BSSpを算出し、その算出した基準特徴量BSSpを基準特徴量記憶領域114に記憶する(S160)。
【0127】
基準特徴量BSSpは、画像特徴量記憶領域307に記憶されている画像特徴量SSpの基準となる特徴量であり、画像の幅(Width)に関する基準特徴量BWidthは、最も値が大きな幅(Width)、アスペクト比(Aspect Ratio)に関する基準特徴量BAspectRatioは、最も頻度が多いアスペクト比(Aspect Ratio)、画像の高さ(Height)に関する基準特徴量BHeightは、画像の幅(Width)に関する基準特徴量BWidth/アスペクト比(Aspect Ratio)に関する基準特徴量BAspectRatioとする。
【0128】
こうして、各静止画像ファイルの画像特徴量SSpから基準特徴量BSSp量が設定される。尚、基準特徴量BWidth、基準特徴量BAspectRatio、は全ての画像の幅(Width)、アスペクト比(Aspect Ratio)の平均値としても良い。
【0129】
そして、次に、画像特徴量記憶領域307に記憶された値が0(ゼロ)でないもの対象として、前記画像記憶手段領域307に記憶された色の画像特徴量CSpから基準特徴量BCSpを算出し、その算出した基準特徴量BCSpを基準特徴量記憶領域114に記憶して(S161)、本処理を終了する。
【0130】
基準特徴量BCSpは、画像特徴量記憶領域307に記憶されている色の画像特徴量CSpの基準であり、本実施形態では、色相値(H_R)に関する基準特徴量BH_Rは、各画像の色相値(H_R)の平均値、色相値(H_G)に関する基準特徴量BH_Gは、各画像の色相値(H_G)の平均値、色相値(H_B)に関する基準特徴量BH_Bは、各画像の色相値(H_B)の平均値、彩度値(S)に関する基準特徴量BSは、各画像の彩度値(S)の平均値、輝度値(V)に関する基準特徴量BVは、各画像の画像の輝度値(V)の平均値として算出され、基準特徴量記憶領域114に記憶される。
【0131】
そして、このS160で算出した基準特徴量BSSpと、S161で算出した基準特徴量BCSpとを利用して、次の配置印刷処理(S200)において、1ページの記録用紙に印刷出力される各インデックス画像を補正することで、各インデックス画像の大きさ、色を視覚的に統一させることができる。
【0132】
図11は、配置印刷処理(S200)を示すフローチャートである。図11に示す配置印刷処理(S200)は、図7から図9を参照して説明した配置順決定処理(S100)に続けて実行される処理であり、画像一覧20を記録用紙に印刷出力する処理である。
【0133】
まず、画像一覧20に配列される横一列分のインデックス画像の数を示す「横方向の配置枚数」を、横方向画像配置数記憶領域12bから読み出す(S201)。次に、1ページ分の画像一覧20に配置可能なインデックス画像の数を示す「1ページ内画像配置数」を、1ページ画像配置数記憶領域12cから読み出す(S202)。
【0134】
次に、グループカウンタを1で初期化する(S203)。以降の処理では、このグループカウンタは、処理対象のグループのグループNoを示すカウンタとして機能する。次に、ページカウンタを1で初期化する(S204)。以降の処理では、このページカウンタは、処理対象のグループのうち、何ページ目の画像一覧20を処理対象としているのかを示すカウンタとして機能する。ページカウンタはカウンタ記憶領域13m(図2参照)に設けられるカウンタである。
【0135】
次に、グループカウンタ値のグループNoに対応するグループ画像数を、グループ画像数記憶領域404から読み出す(S205)。すなわち、そのグループNoのグループに分類されたインデックス画像の数を取得する。そして、読み出した「グループ画像数」と「1ページ内画像配置数」とから、処理対象のグループについて、何ページ分の画像一覧20を印刷出力するかを示す「生成ページ数」を算出し、生成ページ数記憶領域13d(図2参照)へ記憶する(S206)。本実施形態では、「生成ページ数」は、例えば下記の数式6を用いて算出する。
(数式6)
(生成ページ数)=[(グループ画像数)/(1ページ内画像配置数)]+1
次に、レイアウト画像カウンタを0で初期化し(S207)、1ページの記録用紙内に配置する画像の枚数layout_noを算出する(S208)。本実施形態においては、layout_noは、例えば下記の数式7を用いて算出する。
(数式7)
(ページカウンタ値)<生成ページ数 の時
layout_no=(1ページ内画像配置数)
(ページカウンタ値)≧生成ページ数 の時
layout_no=(グループ画像数)−{(1ページ内画像配置数)×(ページカウンタ値)}
次に、配置順序に対応したファイルID、抽出フレーム番号、ファイル識別情報を配置情報記憶領域13iから読み出す(S209)。そして、読み出したファイルIDに対応する画像ファイルが、動画像ファイルであるか静止画像ファイルであるかを判定する(S210)。
【0136】
S210の判定において、動画像ファイルと判定される場合(S210:動画像)、次に、動画像ファイルから上記抽出フレーム番号で特定される1フレーム画像分のフレーム画像情報を抽出する(S211)。
【0137】
次に、抽出したフレーム画像情報をデコード処理し、デコードデータ記憶領域13kへ格納する(S212)。そして、図10に示すS160,S161で、基準特徴量記憶領域114に記憶された基準特徴量BSSpと,基準特徴量BCSpとを用いて、フレーム画像情報の特徴量がそれぞれの基準特徴量に一致するように補正する(S212a)。具体的には、この補正は、拡大縮小処理、トリミング処理、色相変換処理、輝度変換処理、彩度変換処理の順番で行う。
【0138】
まずは、拡大縮小処理を行う。この処理では拡大縮小率をSizeRateとし、そのSizeRateを下記式で算出する。
【0139】
【数1】
【0140】
【数2】
そして、算出された拡大縮小率SizeRateにより処理対象となるフレーム画像情報の拡大縮小処理を行う。尚、拡大縮小はバイリニアやバイキュービックなどの画像補間により行うことができる。そして、この拡大縮小後の画像の幅をWidth’、拡大縮小後の画像の高さをHeight’とする。
【0141】
次に、トリミング処理を行う。この処理では、、拡大縮小後の画像の幅Width’と拡大縮小後の画像の高さHeight’が、それぞれ、画像の幅に関する基準特徴量BWidth、画像の高さに関する基準特徴量BHeightとなるように画像のトリミングを行う。トリミング前の画像をO(x,y)、トリミング後の画像をP(x,y)とすると、下記の式によってトリミング後の画像を求めることができる。但し、x,yは座標値を表す。
【0142】
【数3】
上述した拡大縮小処理、トリミング処理によって、フレーム画像情報を基準特徴量BSSpと一致させることができるので、各フレーム画像情報に対応するインデックス画像の大きさを統一させることができる。
【0143】
次に、色相変換処理を行う。この処理では、補正対象画像OのRGB空間における各画素値をO(x,y)R,O(x,y)G,O(x,y)Bとして、色相補正後の画素値O’(x,y)R, O’(x,y)G, O’(x,y)Bを下記の式で求める。但し、x,yは画像の座標値とする。
また、フレーム画像情報の画像全体の輝度値(V)の平均値をAveVとする。
【0144】
O'(x,y)R = O(x,y)R+H_R×AveV÷BV
O'(x,y)G = O(x,y)G+H_G×AveV÷BV
O'(x,y)B = O(x,y)B+H_B×AveV÷BV
次に、輝度変換処理を行う。この処理では、色相変換処理で求めた色相補正後の画素値O’(x,y)R, O’(x,y)G, O’(x,y)Bを、HSV空間へ変換してO’(x,y)H, O’(x,y)S, O’(x,y)Vとする。
【0145】
そして、その変換したO’(x,y)H, O’(x,y)S, O’(x,y)から輝度補正後の画素値O’’(x,y)H, O’’(x,y)S, O’’(x,y)Vを下記の式で求める。
【0146】
O''(x,y)H = O'(x,y)H
O''(x,y)S = O'(x,y)S
O''(x,y)V = O'(x,y)V×BV÷AveV
最後に、彩度変換処理を行う。この処理では、輝度補正後の画素値O’’’(x,y)H, O’’’(x,y)S, O’’’(x,y)Vから、彩度変換後の画素値O’’’(x,y)H, O’’’(x,y)S, O’’’(x,y)Vを下記の式で求める。
また、フレーム画像情報の画像全体の彩度値(S)の平均値をAveSとする。
【0147】
O'''(x,y)H = O''(x,y)H
O'''(x,y)S = O''(x,y)S×BS÷AveS
O'''(x,y)V = O''(x,y)V
上述した色相、輝度、彩度変換処理によって、フレーム画像情報の特徴を基準特徴量BCSpと一致させることができるので、各フレーム画像情報に対応するインデックス画像の色を統一させることができる。
【0148】
そして、上述したように補正したフレーム画像情報をRAM13(図2参照)に設けられた配置用バッファの所定位置に配置する(S213)。
【0149】
一方、S210の判定において、静止画像ファイルと判定される場合(S210:静止画像)、配置順序に対応したファイルIDで特定される静止画像ファイルをデコード処理して、デコードデータ記憶領域13kへ格納する(S214)。そして、上述したS212aで説明したのと同様に、基準特徴量記憶領域114に記憶された基準特徴量BSSp,BCSpを用いて、静止画像ファイルを補正する(S214a)。このS214aの補正によって、静止画像ファイルを基準特徴量BSSp、基準特徴量BCSpと一致させることができるので、各静止画像ファイルに対応するインデックス画像の大きさ、色を統一させることができ、ひいては、フレーム画像情報と、静止画像ファイルとの間で、画像の大きさ、色を統一させることができる。
【0150】
そして、上述したように補正した静止画像ファイルをRAM13(図2参照)に設けられた配置用バッファの所定位置に配置する(S215)。
【0151】
このようにして、補正されたフレーム画像情報または補正された静止画像ファイルのいずれかを配置用バッファに配置する処理を実行した後、次に、横方向に配置できる画像数の上限である「横方向の配置枚数」回分、処理を行ったか否かを判断する(S216)。S216の判断が否定される場合(S216:No)、次のデータの配置位置を示す横方向位置を更新する(S220)。
【0152】
そして、レイアウト画像カウンタに「1」を加算し(S221)、レイアウト画像カウンタの値が、現在の処理対象の記録用紙に配置するインデックス画像の数「layout_no」以上となったか否かを判断する(S222)。S222の判断が否定される場合(S222:No)、S209の処理に戻り、次の配置順序に対応した配置情報を処理する。
【0153】
このようにして、処理を繰り返すことにより、メディアカードに格納される動画像ファイルの各々から、抽出フレーム数(特許請求の範囲に記載の所定枚数に相当)のフレーム画像に相当するフレーム画像情報が抽出され、配置バッファに配置される。また、メディアカードに格納される静止画像ファイルが抽出され、配置バッファに配置される。
【0154】
このようにして処理を繰り返す内に、「横方向の配置枚数」回分の配置処理が実行されると、S216の判断が肯定されるので(S216:Yes)、次に、配置用バッファのデータをプリンタ3(図2参照)へ渡す(S217)。これにより、配置用バッファに配置された、横一列分のインデックス画像に対応したデータが、プリンタ3による印刷処理にかけられ、画像一覧20を出力することができる。
【0155】
そして、次の処理対象のインデックス画像の横方向配置位置を示す横方向位置を初期化し(S218)、また、縦方向配置位置を示す縦方向位置を更新する(S219)。すなわち、画像一覧20における次の列の左端から、次のインデックス画像が配列されるように、次の配置位置が決定される。そして、上述したS221、S222の処理を実行する。
【0156】
このようにして処理をしたインデックス画像の数が、処理対象の記録用紙に配置するインデックス画像数layout_noに到達すると、S222の判断が肯定されるので(S222:Yes)、図11に示す次の処理に移行する。
【0157】
図11は、図10に示す配置印刷処理(S200)の続きを示すフローチャートであって、S222の判断が肯定される場合に実行される。
【0158】
まず、配置用バッファに、未だ印刷処理を行っていないデータが存在するかを判断する(S223)。S223の判断が肯定される場合(S223:Yes)、その残りのデータをプリンタ3に渡し(S224)、プリンタ3にて印刷出力させ、S225の処理に移行する。ただし配置用バッファに画像が配置されない領域については白地出力とする。一方、S223の判断が否定される場合(S223:No)、S224の判断をスキップし、S225の処理に移行する。
【0159】
そして、1ページ分のデータ出力が完了したことを示す印刷完了命令をプリンタ3に渡す(S225)。そして、ページカウンタに「1」を加算する(S226)。次に、配置用バッファにおける次のデータの配置位置を示す横方向位置および縦方向位置を初期化する(S227)。そして、ページカウンタの値が、現在の処理対象のグループについて、何ページ分の画像一覧20を印刷出力するかを示す「生成ページ数」より大となったかを判断する(S228)。S228の判断が否定される場合(S228:No)、図10に示すS207の処理に戻り、同グループについて、次ページの処理を開始する。
【0160】
一方、S228の判断が肯定される場合(S228:Yes)、グループカウンタに1を加算する(S229)。そして、グループカウンタの値が、グループ数記憶領域401に記憶された値より大となったか否かを判断する(S230)。S230の判断が否定される場合(S230:No)、S204に戻り、処理を繰り返す。すなわち、次のグループNoで特定されるグループを処理対象として処理を繰り返す。
【0161】
一方、S228の判断が肯定される場合(S228:Yes)、配置印刷処理(S200)を終了する。
【0162】
このように、このMFP1によれば、図3(a)を参照して説明したように、動画像ファイルから抽出される各インデックス画像21a,21b,21cと、静止画像ファイルから抽出されるインデックス画像22とが混在する画像一覧20を印刷出力する場合、各インデックス画像21a,21b,21c,22の大きさが基準特徴量BSSpと一致するように補正され、各インデックス画像21a,21b,21c,22の色が基準特徴量BCSpと一致するように補正されて印刷出力されるので、各インデックス画像21a,21b,21c,22間で視覚的な統一感が確保されている画像一覧20を出力させることができる。また、ファイル時間情報(すなわち、静止画像ファイルまたはフレーム画像情報の撮影時間)に従った配置順序でインデックス画像が配列された画像一覧20を出力することができる。
【0163】
以上、実施形態に基づき本発明を説明したが、本発明は上述した実施形態に何ら限定されるものではなく、本発明の趣旨を逸脱しない範囲内で種々の改良変更が可能であることは容易に推察できるものである。
【0164】
例えば、本実施形態では、画像一覧20を記録用紙に印刷出力するものとして説明したが、LCD5など表示装置に画像一覧20を表示出力する場合にも、本発明を適用できる。
【0165】
また、本発明を、例えば、パーソナルコンピュータに適用し、PCのモニターに、画像一覧20を表示出力する場合、あるいは、パーソナルコンピュータからプリンタを制御して画像一覧を印刷出力する場合にも、本発明を適用できる。
【0166】
また、上記実施形態では、全グループについて画像一覧20が出力されるものとして説明したが、例えば、ユーザにより選択されたグループについてのみ画像一覧20を出力するように構成しても良い。
【0167】
また、上述した実施形態では、動画像ファイルおよび静止画像ファイルは、共に撮影により生成された画像ファイルであるものとして説明したが、動画像ファイルおよび静止画像ファイルは、撮影以外の方法で生成されるものであっても、本発明を適用可能である。その場合は、撮影日時に代えて、ファイルの作成日時を表すファイルの生成日時情報や、ファイルの更新日時情報など、他の条件を元に、インデックス画像の配置順序を決定するように構成されても良い。
【0168】
また、上述した実施形態では、メディアカード内に、静止画像ファイルと動画像ファイルとが混在している場合について説明したが、メディアカード内に動画像ファイルのみが格納されている場合にも本発明は適用可能である。
【0169】
また、上述した実施形態では、着脱可能なメディアカード内に記憶されている画像情報を処理対象としていたが、MFP1の内部メモリに格納された画像情報を処理対象とする場合にも、本発明は適用可能である。
【0170】
また、上述した実施形態では、各インデックス画像の大きさを統一するために各インデックス画像の大きさを基準特徴量BSSpに一致させ、且つ、各インデックス画像の色をを統一するために各インデックス画像の色を基準特徴量BCSpに一致させる場合について説明したが、基準特徴量BSSpと、基準特徴量BCSpとのいずれか一方にだけ一致するように補正するように構成しても良い。
【0171】
また、上述した実施形態では、図11に示すS212a、S214aの処理において、色相、輝度、彩度の全てについて変換する場合について説明したが、いずれか一以上変換するように構成しても良い。
【0172】
また、上述した実施形態では、図10に示すS155,S156において静止画像ファイルに対応する静止画像についてのみ、画像特徴量SSp,CSpを算出する場合について説明したが、フレーム画像情報についても画像特徴量SSp,CSpを算出し、S160と、S161において、両者(静止画像および動画像)の画像特徴量SSp,CSpから各基準特徴量を算出するように構成しても良い。
【図面の簡単な説明】
【0173】
【図1】本発明の画像処理装置の実施形態であるMFPの外観構成を示した斜視図である。
【図2】MFPの電気的構成を示すブロック図である。
【図3】MFPが印刷出力する画像一覧の一例を示す図である。
【図4】ファイル情報記憶領域の構成を模式的に示す図である。
【図5】配置情報記憶領域の構成を模式的に示す図である。
【図6】グループ情報記憶領域の構成の一例を示す図である。
【図7】配置順決定処理を示すフローチャートである。
【図8】画像日付算出処理を示すフローチャートである。
【図9】図7に示す配置順決定処理の続きの部分を示すフローチャートである。
【図10】基準特徴量算出処理を示すフローチャートである。
【図11】配置印刷処理を示すフローチャートである。
【図12】図10に示す配置印刷処理の続きを示すフローチャートである。
【符号の説明】
【0174】
1 MFP(画像処理装置の一例)
3 プリンタ(記録手段の一部)
6 スロット部(取得手段の一部)
20 画像一覧
21a,21b,21c インデックス画像(フレーム画像の一例)
22 インデックス画像(静止画像の一例)
S153 区別手段の一部
S211 抽出手段の一部
S225 出力制御手段の一部
S155 画像特徴量算出手段の一部
S160,S161 基準特徴量算出手段の一部
S212a,S214a 画像補正手段の一部
【特許請求の範囲】
【請求項1】
1以上の静止画像ファイルと、1以上の動画像ファイルとを取得する取得手段と、
その取得手段によって取得された動画像ファイルから1以上のフレーム画像を抽出する抽出手段と、
その抽出手段によって抽出された1以上のフレーム画像の各々のフレーム画像と、前記取得手段によって取得された1以上の静止画像ファイルの各々の静止画像との画像特徴をあらわす特徴量を算出する画像特徴量算出手段と、
その画像特徴量算出手段によって算出された1以上のフレーム画像に対応する特徴量と、1以上の静止画像に対応する特徴量との、少なくとも一方から基準となる基準特徴量を算出する基準特徴量算出手段と、
前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段によって算出された基準特徴量に一致させるように画像を補正する画像補正手段と、
その画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、同一出力面上に出力させる出力制御手段とを備えていることを特徴とする画像処理装置。
【請求項2】
前記取得手段によって取得される静止画像ファイルと、動画像ファイルとを区別する区別手段を備え、
前記基準特徴量算出手段は、前記区別手段によって動画像ファイルと区別された静止画像ファイルが示す前記1以上の静止画像に対応する特徴量から基準特徴量を算出し、
前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量を、前記基準特徴量に一致させるように画像補正することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記画像特徴量算出手段は、前記特徴量として、画像の色に関する情報を示す色情報と画像の大きさに関する情報を示すサイズ情報とのうち、少なくとも一方を算出し、
前記基準特徴量算出手段は、上記画像特徴量算出手段によって得られた特徴量から基準となる基準特徴量を算出し、
前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段で算出された基準特徴量に一致させるように画像補正すること特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記色情報は、輝度を示す輝度情報、彩度を示す彩度情報、色相を示す色相情報のうち、何れか一以上であることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記サイズ情報は、画像の幅を示す幅情報、画像の高さを示す高さ情報、画像のアスペクト比を示すアスペクト比情報であることを特徴とする請求項3に記載の画像処理装置。
【請求項6】
記録用紙に画像を記録する記録手段を備え、
前記出力制御手段は、前記画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、前記記録手段によって前記記録用紙の同一紙面上に記録させることを特徴とする請求項1から5のいずれかに記載の画像処理装置。
【請求項1】
1以上の静止画像ファイルと、1以上の動画像ファイルとを取得する取得手段と、
その取得手段によって取得された動画像ファイルから1以上のフレーム画像を抽出する抽出手段と、
その抽出手段によって抽出された1以上のフレーム画像の各々のフレーム画像と、前記取得手段によって取得された1以上の静止画像ファイルの各々の静止画像との画像特徴をあらわす特徴量を算出する画像特徴量算出手段と、
その画像特徴量算出手段によって算出された1以上のフレーム画像に対応する特徴量と、1以上の静止画像に対応する特徴量との、少なくとも一方から基準となる基準特徴量を算出する基準特徴量算出手段と、
前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段によって算出された基準特徴量に一致させるように画像を補正する画像補正手段と、
その画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、同一出力面上に出力させる出力制御手段とを備えていることを特徴とする画像処理装置。
【請求項2】
前記取得手段によって取得される静止画像ファイルと、動画像ファイルとを区別する区別手段を備え、
前記基準特徴量算出手段は、前記区別手段によって動画像ファイルと区別された静止画像ファイルが示す前記1以上の静止画像に対応する特徴量から基準特徴量を算出し、
前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量を、前記基準特徴量に一致させるように画像補正することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記画像特徴量算出手段は、前記特徴量として、画像の色に関する情報を示す色情報と画像の大きさに関する情報を示すサイズ情報とのうち、少なくとも一方を算出し、
前記基準特徴量算出手段は、上記画像特徴量算出手段によって得られた特徴量から基準となる基準特徴量を算出し、
前記画像補正手段は、前記1以上のフレーム画像の各々のフレーム画像の特徴量と、前記1以上の静止画像の各々の静止画像の特徴量とを、前記基準特徴量算出手段で算出された基準特徴量に一致させるように画像補正すること特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記色情報は、輝度を示す輝度情報、彩度を示す彩度情報、色相を示す色相情報のうち、何れか一以上であることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記サイズ情報は、画像の幅を示す幅情報、画像の高さを示す高さ情報、画像のアスペクト比を示すアスペクト比情報であることを特徴とする請求項3に記載の画像処理装置。
【請求項6】
記録用紙に画像を記録する記録手段を備え、
前記出力制御手段は、前記画像補正手段によって補正された前記フレーム画像と、前記静止画像とを、前記記録手段によって前記記録用紙の同一紙面上に記録させることを特徴とする請求項1から5のいずれかに記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2009−246897(P2009−246897A)
【公開日】平成21年10月22日(2009.10.22)
【国際特許分類】
【出願番号】特願2008−94232(P2008−94232)
【出願日】平成20年3月31日(2008.3.31)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】
【公開日】平成21年10月22日(2009.10.22)
【国際特許分類】
【出願日】平成20年3月31日(2008.3.31)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】
[ Back to top ]