画像処理回路のシミュレーション装置、画像処理回路のシミュレーション方法、画像処理回路の設計方法、及び画像処理回路のシミュレーションプログラム
【課題】目視による動画像に対する画像処理結果の効果の定性的及び定量的な評価を容易化できる画像処理回路のシミュレーション装置等を提供する。
【解決手段】複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション装置1は、画像処理回路に対応する機能を具備する画像処理モジュールと、画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行手段63と、モジュール実行手段63で実行された画像処理モジュールによる画像処理が行われた画像データに対してグループ化を実行する結果グループ化実行手段66と、当該フレームより前の1又は複数のフレームの各フレーム画像に対して画像処理が行われた過去フレーム処理後画像データに対する所与の演算結果を記憶する記憶手段とを含む。
【解決手段】複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション装置1は、画像処理回路に対応する機能を具備する画像処理モジュールと、画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行手段63と、モジュール実行手段63で実行された画像処理モジュールによる画像処理が行われた画像データに対してグループ化を実行する結果グループ化実行手段66と、当該フレームより前の1又は複数のフレームの各フレーム画像に対して画像処理が行われた過去フレーム処理後画像データに対する所与の演算結果を記憶する記憶手段とを含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理回路のシミュレーション装置、画像処理回路のシミュレーション方法、画像処理回路の設計方法、及び画像処理回路シミュレーションプログラム等に関する。
【背景技術】
【0002】
従来、複数の機能を実行できるソフトウェアシステムの機能評価、デバッグのために、種々の機能を実行させた結果をシミュレーションするプログラムが知られている。
例えば、特許文献1に記載のテストシーケンサーでは、管理モジュール及び実行モジュールを含んで構成され、テスト対象となるテストエグゼクティブに新たな機能を追加したり、機能の修正を行ったりしたときに、他の機能と干渉するかしないかを簡単にチェックできるものが提案されている。
【0003】
また、特許文献2に記載のソフトウェアテスト装置では、検証対象となるソフトウェアへの入力及び出力にインターフェースして、動作手順、設定内容等に応じた出力群を受け取って評価するものが提案されている。
また、特許文献3に記載のソフトウェアコンポーネントシステムでは、ソフトウェアコンポーネントの実行において、他のソフトウェアコンポーネントを実行する前の状態を表す事前条件定義情報、後の状態を表す事後条件定義情報をデータベース上に格納しておき、ソフトウェアコンポーネントのテストを正確に行うものが提案されている。
【0004】
さらに、特許文献4に記載の画質評価装置では、画像を取り込んで数値化した画像を微分し、ムラの輪郭部を顕在化して、階調値毎の面積を利用して求めた画質指数により、検査画面の画質を定量的に評価するものが提案されている。
さらに、特許文献5に記載の画質評価方法では、粒状性テストパターンを用いて、例えばコントラスト強度を判定して、装置間の画質の比較や経時的な画質の比較を行うものが提案されている。
さらに、特許文献6に記載の画質評価装置では、階調が連続的に変化するグラデーション画像を用いて、画像を定量的に評価するものが提案されている。
さらにまた、特許文献7に記載の画像処理装置では、対象物から検出した画像におけるベクトル成分のヒストグラムを計測することで、画像の統計的性質を評価するものが提案されている。
【0005】
ところで、プロジェクタ、FPD(Flat Panel Display)等の画像表示装置においては、入力画像データに対して画像処理を行って適切な表示画像の形成を行っているが、近年画像処理回路に要求される機能が拡大している。
そこで、色変換、解像度変換、ガンマ変換等の種々の画像処理を、画像処理単位でチップ化した部分画像処理回路を組み合わせ、多機能の画像処理を行うことのできる画像処理回路を形成することが行われている。
そして、従来は、このような画像処理回路を設計するに際しては、部分画像処理回路を試作し、実際に組み合わせて画像処理回路を形成してこれを評価するという手法を採用していた。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−53924号公報
【特許文献2】特開2006−48310号公報
【特許文献3】特開2006−91944号公報
【特許文献4】特開2000−215310号公報
【特許文献5】特開2000−278722号公報
【特許文献6】特開2003−16443号公報
【特許文献7】特開2003−196666号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、このような部分画像処理回路の試作は、エラー検証に時間がかかるばかりでなく、試作コストが嵩むという問題がある。
また、実際に画像処理回路に組み込んで検証を行っても、機能拡大に伴い画像処理回路に組み込まれる部分画像処理回路も多数あり、画像処理におけるパラメーターの設定が効果的であるか否かを判断することが非常に困難であるという問題がある。
さらに、画像処理後毎のパラメーターを組み合わせたときに初めて露見するエラーもあり、これを検証することは非常に困難である。
また、一般に画像表示装置によって形成される動画像を構成する各フレームの表示画像は多数の画素から構成されているが、部分画像処理回路によって処理された結果を各画素について評価するのは難しく、前述した特許文献1乃至7を、画像処理装置による画像処理後の画像の画質の評価に適用することはできない。
さらに、特許文献1乃至7に開示された技術は、静止画に対する処理である。そのため、これらの技術をそのまま動画に適用したとしても静止画と同様の効果が得られるとは限らず、動画に適用した場合の効果が不明である。
【0008】
本発明は、以上のような技術的課題に鑑みてなされたものであり、その目的の1つは、目視による動画像に対する画像処理結果の効果の定性的及び定量的な評価を容易化できる画像処理回路のシミュレーション装置、画像処理回路のシミュレーション方法、画像処理回路の設計方法、及び画像処理回路のシミュレーションプログラム等を提供することにある。
【課題を解決するための手段】
【0009】
(1)本発明の一態様は、複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション装置が、前記画像処理回路に対応する機能を具備する画像処理モジュールと、前記画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行手段と、前記モジュール実行手段で実行された画像処理モジュールによる前記画像処理が行われた画像データに対してグループ化を実行する結果グループ化実行手段と、当該フレームより前の1又は複数のフレームの各フレーム画像に対して前記画像処理が行われた過去フレーム処理後画像データに対する所与の演算結果を記憶する記憶手段とを含み、前記結果グループ化実行手段は、前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行する。
【0010】
本態様によれば、複数のフレーム画像により構成される動画像に対する画像処理モジュールによる画像処理後の画像データをグループ化するようにしたので、画像処理の目視による効果の定性的及び定量的な評価が容易となり、結果画像の検証をより効率化できるようになる。さらに、本態様によれば、画像処理に適用されるパラメーターの変更による効果を、容易に把握できるという効果が得られる。
【0011】
(2)本発明の他の態様に係るシミュレーション装置では、前記結果グループ化実行手段は、前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記記憶手段の少なくとも一部の記憶内容をクリアする。
【0012】
本態様によれば、連続するフレーム画像に対する画像処理の効果が異なると判断されて別グループに振り分けられる場合であっても、過去フレームにおける効果を参照することができるので、目視による残像効果を考慮した評価が可能となる。
【0013】
(3)本発明の他の態様に係るシミュレーション装置では、前記結果グループ化実行手段は、前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記現フレーム処理後画像データに対する前記演算結果と、前記記憶手段に記憶される少なくとも1フレーム分の前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行する。
【0014】
本態様によれば、現フレーム処理後画像データをグループ化する際に、少なくとも1フレーム分の過去フレーム処理後画像データに対する演算結果を参照するようにしたので、目視による動画像に対する画像処理結果の効果の定性的及び定量的な評価を容易化できるようになる。
【0015】
(4)本発明の他の態様に係るシミュレーション装置では、前記結果グループ化実行手段は、入力フレーム画像データと該入力フレーム画像データに対して前記画像処理モジュールによる画像処理が行われた処理後画像データとの差分情報に基づいて前記グループ化を実行する。
【0016】
本態様によれば、入力フレーム画像と画像処理後の結果フレーム画像との差分情報に基づいてグループ化するようにしたので、動画像に対する画像処理の目視の効果に対応したグループ化を、簡素な演算処理で実現できるようになる。
【0017】
(5)本発明の他の態様に係るシミュレーション装置では、前記画像処理モジュールの画像処理結果のグループ化条件を設定する結果グループ化条件設定手段を含み、前記結果グループ化実行手段は、前記結果グループ化条件設定手段によって設定された前記グループ化条件に基づいて、入力フレーム画像の画像処理後の画像データ毎にグループ化を実行する。
【0018】
本態様によれば、グループ化条件を設定できるようにしたので、所望の画像処理の目視による効果の定性的及び定量的な評価が容易となり、結果フレーム画像の検証をより効率化できるようになる。
【0019】
(6)本発明の他の態様に係るシミュレーション装置では、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果のフレーム数は、設定可能に構成されている。
【0020】
本態様によれば、過去フレームを参照する度合いを可変に設定でき、動画に応じた最適な検証の効率化に寄与できるようになる。
【0021】
(7)本発明の他の態様に係るシミュレーション装置では、前記画像処理回路を構成する複数の部分画像処理回路のそれぞれに対応する機能を具備する複数の画像処理モジュールと、前記複数の画像処理モジュールのうち、実行する画像処理モジュールを選択するモジュール選択手段とを含み、前記モジュール実行手段が、前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力されるフレーム画像の画像データの画像処理を行い、前記結果グループ化実行手段が、前記モジュール実行手段で実行された複数の画像処理モジュールによる画像処理が行われた画像データに対してグループ化を実行する。
【0022】
本態様によれば、前述の効果に加えて、複数の画像処理が組み合わされる場合に、複数の画像処理モジュールによる画像処理が行われた画像データについてグループ化するようにしたので、定性的及び定量的な画像処理の目視の効果を解析でき、各画像処理に適用されるパラメーターの最適な組み合わせを容易に見つけ出すことができるようになる。
【0023】
(8)本発明の他の態様に係るシミュレーション装置では、前記モジュール選択手段で選択された画像処理モジュールの実行手順を設定するモジュール実行手順設定手段を含み、前記モジュール実行手段が、前記モジュール実行手順設定手段で設定された実行手順に従って、前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力フレーム画像の画像データの画像処理を行う。
【0024】
本態様によれば、画像処理の順序を簡単に変更して複数の画像処理を組み合わせて得られる画像処理後の画像データをグループ化するようにしたので、所望の画像処理結果が得られる画像処理モジュールの選択、及び実行手順を容易に見つけることができ、エラー検証時間を短縮化でき、画像処理回路の製造コストの削減が可能となる。また、本態様によれば、画像処理回路を構成する部分画像処理回路の種類が増えたとしても、それぞれの実行順序や最適なパラメーターの選択が、確実、かつ、容易に行うことができ、これらのパラメーターの組み合わせに依存して露見するエラーの検証も容易化できる。
【0025】
(9)本発明の他の態様に係るシミュレーション装置では、前記複数の画像処理モジュールは、少なくとも、解像度変換モジュール、色変換モジュール、及びガンマ特性変換モジュールを含む。
【0026】
本態様によれば、種々ある画像処理のうち、解像度変換、色変換、ガンマ特性変換は、色変換処理、シャープネス処理、コントラスト処理を、各画像処理を実行するモジュール中に含むため、これらの画像処理の順番によって画像処理後の結果フレーム画像の画質に差が出る場合でも、最適な結果フレーム画像を得ることのできる画像処理モジュールの組み合わせを見出すことができるようになる。
【0027】
(10)本発明の他の態様は、複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション方法が、前記画像処理回路に対応する機能を具備する画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行ステップと、前記モジュール実行ステップにおいて実行された画像処理モジュールによる前記画像処理が行われた各フレーム画像の画像データに対してグループ化を実行する結果グループ化実行ステップとを含み、前記結果グループ化実行ステップは、前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行する。
【0028】
本態様によれば、複数のフレーム画像により構成される動画像に対する画像処理モジュールによる画像処理後の画像データをグループ化するようにしたので、画像処理の目視による効果の定性的及び定量的な評価が容易となり、結果画像の検証をより効率化できるようになる。さらに、本態様によれば、画像処理に適用されるパラメーターの変更による効果を、容易に把握できるという効果が得られる。
【0029】
(11)本発明の他の態様は、画像処理回路の設計方法が、上記記載の画像処理回路のシミュレーション方法を実施して、画像処理モジュールの組み合わせを求めた後、前記画像処理回路における部分画像処理回路の組み合わせを決定する。
【0030】
本態様によれば、画像処理の順序を簡単に変更して複数の画像処理を組み合わせて得られる画像処理の結果をグループ化するようにしたので、所望の画像処理結果が得られる画像処理モジュールの選択、及び実行手順を容易に見つけることができ、エラー検証時間を短縮化でき、画像処理回路の製造コストの削減が可能となる。また、本態様によれば、画像処理回路を構成する部分画像処理回路の種類が増えたとしても、それぞれの実行順序や最適なパラメーターの選択が、確実、かつ、容易に行うことができ、これらのパラメーターの組み合わせに依存して露見するエラーの検証も容易化できる。
【0031】
(12)本発明の他の態様は、画像処理回路のシミュレーションプログラムが、上記記載の画像処理回路のシミュレーション方法を、コンピューターに実行させる。
【0032】
本態様によれば、目視による動画像に対する画像処理結果の効果の定性的及び定量的な評価を容易化できる画像処理回路のシミュレーションプログラムを提供できるようになる。
【図面の簡単な説明】
【0033】
【図1】本発明の実施の一形態に係るシミュレーション装置の構成例のブロック図。
【図2】図1のディスプレイ上に表示される画面の一例を示す図。
【図3】メモリー上に書き込まれる画像処理モジュールの選択及び実行手順の説明図。
【図4】ディスプレイ上に表示される結果グループ化条件設定画面の一例を示す図。
【図5】本実施形態におけるシミュレーション装置の処理例のフローチャート。
【図6】本実施形態における結果グループ化条件設定処理の処理例のフローチャート。
【図7】本実施形態における結果グループ化処理の処理例のフローチャート。
【図8】図8(A)、図8(B)は結果グループ化実行手段により参照されるFIFOバッファーの説明図。
【図9】図9(A)〜図9(E)はパラメーターファイルの一例を示す図。
【図10】図10(A)〜図10(C)は図9(A)〜図9(E)のパラメーターの説明図。
【図11】本実施形態の動作例の説明図。
【発明を実施するための形態】
【0034】
以下、本発明の実施の形態について図面を用いて詳細に説明する。なお、以下に説明する実施の形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また以下で説明される構成のすべてが本発明の課題を解決するのに必須の構成要件であるとは限らない。
【0035】
図1に、本発明の実施の一形態に係るシミュレーション装置の構成例のブロック図を示す。
【0036】
シミュレーション装置1は、演算処理装置2及びメモリー3を備えたコンピューターとして構成される。即ち、演算処理装置2が、メモリー3に蓄積されたプログラムを読み出してメモリー3に蓄積されたプログラム及びデータを用いて処理を実行することで、画像処理回路の動作のシミュレーションを実現する。或いは、演算処理装置2が、専用のハードウェア回路により、メモリー3に蓄積されたデータに対する演算処理を行うことで、画像処理回路の動作のシミュレーションを実現する。ここで、画像処理回路は、複数のフレーム画像により構成される動画像が入力され、各フレーム画像に対して画像処理を行う。このシミュレーション装置1は、複数の部分画像処理回路を組み合わせて構成される画像処理回路の動作をシミュレーションすることができる。
メモリー3内には、本実施形態に係る画像処理回路シミュレーションを実行するためのプログラム、及び、複数の画像処理モジュールが格納されている。各画像処理モジュールは、コンピューター上で実行可能なソフトウェア(プログラム)であり、各部分画像処理回路に対応する機能を具備している。
シミュレーション装置1の入力側には、図示を略したが、スキャナー、デジタルカメラ、ハードディスク装置等の画像データ出力装置が接続され、各機器から画像処理結果後の画像を評価するための評価用の入力フレーム画像データVIDEOが入力されるようになっている。
【0037】
一方、シミュレーション装置1の出力側には、記録媒体としてのハードディスク装置4及び画像表示装置としてのディスプレイ5が接続されている。
ハードディスク装置4には、シミュレーション装置1で選択した画像処理モジュールや、その実行手順、及び各画像処理モジュールで画像処理を行った結果データ(結果フレーム画像データ(処理後フレーム画像データ)等)が記憶される。
また、ディスプレイ5には、画像処理モジュールの画像処理を行って得られた結果フレーム画像データに基づいて、結果フレーム画像が表示画像として形成される。
【0038】
演算処理装置2は、モジュール管理手段6、出力手段7、及び書込手段8を備えて構成され、これらの各機能的手段6〜8は、演算処理装置2のOS(Operating System)上で実行されるプログラム群として構成されている。
【0039】
図2に、図1のディスプレイ5上に表示される画面の一例を示す。
【0040】
モジュール管理手段6、出力手段7、及び書込手段8は、メモリー3に格納されていて、シミュレーション装置1の起動中、ディスプレイ5上に表示された所定のアイコンを選択すると起動するようになっている。そして、図2に示されるような画面G1を表示させることにより、操作者に入力を促し、この操作者の入力に基づく選択結果により、画像処理モジュールの選択、画像処理モジュールに適用されるパラメーターの選択及び実行手順の設定を行う。
【0041】
画面G1においてデフォルトで表示されるモジュール名は、メモリー3に予め格納された画像処理モジュールを読み出して表示している。新たな画像処理モジュールを読み出すには、画面G1上の右下の読出ボタンG8をクリックし、選択画面上で選択することにより、新たな画像処理モジュールを読み出すことができるようになっている。
なお、画像処理モジュールは、画像処理の対象となる画像表示装置で行う画像処理すべてを網羅することが望ましいが、特に、RGB色空間からYuv色空間への変換処理、及び色空間変換処理の逆変換処理や、ガンマ特性変換、高解像度から低解像度の変換処理等が例示できる。
これらの画像処理は、モジュール内処理でシャープネス処理、コントラスト処理、色変換処理を行う点で共通しており、画像処理の順番によっては、画像処理の結果フレーム画像において、お互いの処理が干渉しあい、部分的な欠点や画像全体の色ムラが強調されるといった現象が生じることがある。
【0042】
モジュール管理手段6は、画像処理モジュールの選択と、選択された画像処理モジュールの実行手順の設定、画像処理モジュールの実行、画像処理結果である画像処理モジュールによる画像処理が行われた後の画像データのグループ化の条件(グループ化条件、結果グループ化条件)の設定、及び画像処理結果のグループ化を行う部分であり、モジュール選択手段61、モジュール実行手順設定手段62、モジュール実行手段63、パラメーター選択手段64、結果グループ化条件設定手段65、及び結果グループ化実行手段66を備えて構成される。ここで、画像データ(画像処理結果)のグループ化とは、複数のグループのいずれかに当該画像処理結果を振り分ける動作をいう。
【0043】
モジュール選択手段61は、画像処理モジュールの選択を行う部分であり、図2に示されるように、ディスプレイ5上に操作者の選択を促す画面G1を表示させ、操作者が画面G1上で選択した画像処理モジュールを、実行する画像処理モジュールとして選択する。
【0044】
まず、操作者によるキーボード等の入力デバイスを介して、テキストフィールドB1に入力動画ファイル名、テキストフィールドB2に出力動画ファイル名の入力が受け付けられる。図2では、入力動画ファイル名“in.avi”で指定された動画ファイルには、それぞれがフレーム番号により特定可能な複数のフレーム画像により構成された動画データ(複数のフレーム画像データ)が格納されている。そして、画像処理が行われたフレーム画像データが、出力動画ファイル名“out.avi”の出力ファイル又はこのファイル名にグループ化条件等を付加したファイル名の出力ファイルに格納される。
その後、操作者による画面G1での画像処理モジュールの選択が、画面G1の左側に表示されたチェックボックスG2を、キーボード、マウス等の入力デバイスでチェックすることにより行われる。
また、チェックボックスG2の右側のボックスG3は、結果フレーム画像データの出力、結果フレーム画像の表示出力の有無を設定するものであり、このボックスG3をマウスクリックすると、例えば、ボックスG3が白、青、赤等に変化し、白の場合(図2中白のボックス)には、結果フレーム画像及び結果フレーム画像データ(結果データ)を出力せず、青の場合(図2中右下がり斜線のボックス)には、結果フレーム画像をディスプレイ5に表示せず、結果フレーム画像データのみをハードディスク装置4に出力し、赤の場合(図2中左下がり斜線のボックス)には、結果フレーム画像をディスプレイ5上に表示し、かつ結果フレーム画像データをハードディスク装置4に出力するといった設定を行うことができるようになっている。
【0045】
モジュール実行手順設定手段62は、モジュール選択手段61で選択された画像処理モジュールの実行手順を設定する部分である。このモジュール実行手順設定手段62は、図2に示される画面G1上で操作対象となる画像処理モジュールを操作者に選択させる。操作者に選択された画像処理モジュールは、画面G1上では矩形G4に囲まれた状態で表示される。操作者は、画面G1の下部にある実行手順変更ボタンG5、G6をマウスクリックすることにより、選択された画像処理モジュールを上下させて画像処理モジュールの順序を変更することで実行手順を変更できるようになっている。そして、このようにして設定された画像処理モジュールの選択及び実行手順は、メモリー3上に書き込まれる。
【0046】
図3に、メモリー3上に書き込まれる画像処理モジュールの選択及び実行手順の説明図を示す。
【0047】
メモリー3上への書き込みは、例えば、図3に示されるように、テーブルT1として書き込まれる。このテーブルT1は、選択されたモジュール名、実行の有無、画像出力の有無、フレーム画像データ出力(データ出力)の有無が記録され、それに付随して各画像処理モジュールで用いるパラメーター名が記録される。
なお、パラメーターとは、各画像処理モジュールの実行時の動作パラメーター値であり、例えば、曲線ガンマ値変換モジュールであればγ=2.2等の値が格納されている。このパラメーターは、モジュール管理手段6とともに、メモリー3に格納されている。
【0048】
モジュール実行手段63は、モジュール選択手段61により選択された画像処理モジュールを、モジュール実行手順設定手段62により設定された実行手順に基づいて順次実行していく部分であり、入力フレーム画像データVIDEOを構成する各フレーム画像データに対して、それぞれ、選択された画像処理モジュールによる画像処理を順次実行する。
【0049】
具体的には、モジュール実行手段63は、前述した図3に示されるテーブルT1の上位から画像処理モジュールを実行していき、その際、テーブルT1中の実行の有無及びパラメーターを参照しながら、メモリー3中に格納された画像処理モジュールを検索し、検索された画像処理モジュールによる画像処理を行う。本実施形態では、画像処理モジュールの実行は、図2における実行ボタンG7をクリックすることにより行われ、操作者が実行ボタンG7を1回クリックする毎に、1つの画像処理モジュールが実行される。
このモジュール実行手段63による画像処理後の結果フレーム画像データは、出力手段7に出力される。
【0050】
パラメーター選択手段64は、モジュール実行手段63で実行される画像処理モジュールのパラメーターの選択を行う部分であり、図2に示されるように、ディスプレイ5上に操作者の選択を促す画面G1を表示させ、操作者が画面G1上で選択したパラメーターファイルを、選択した画像処理モジュールのパラメーターとして選択する。
【0051】
結果グループ化条件設定手段65は、モジュール実行手段63により実行された一連の画像処理モジュールによる画像処理後の結果フレーム画像データ(処理後フレーム画像データ、画像処理結果)をグループ化するための条件を設定する部分であり、図2に示される画面G1において、操作者が、結果グループ化条件設定ボタンG9をマウスクリックすることにより、ディスプレイ5上に結果グループ化条件設定画面G20が表示される。
【0052】
本実施形態では、複数のフレーム画像により構成される動画像が入力され、各フレーム画像のフレーム画像データに対する一連の画像処理モジュールによる画像処理が行われた結果フレーム画像データを例えば過去の数フレーム数分だけ参照した指定演算結果をグループ化することで処理結果の解析処理を実現し、処理結果の目視による効果の定性的及び定量的な評価が容易となる上に、画像処理の検証を効率化できるようになる。本実施形態では、一連の画像処理モジュールの処理結果を解析するために、各フレーム画像について、元の入力フレーム画像と該入力フレーム画像に対する一連の画像処理モジュールの処理結果の結果フレーム画像データとの差分情報を求め、各フレームにおける差分情報を過去の数フレーム分を集計して、その結果に基づきグループ化する。そのため、本実施形態では、書込手段8がFIFOバッファー82(広義には、記憶手段)を備え、過去の少なくとも1フレーム分の差分情報を保存することができるようになっている。このFIFOバッファー82には、同じグループに属する連続する複数フレーム分の差分情報が保存され、異なるグループに属すると判断されたときに過去の一部又は全部のフレームにおける差分情報がクリアされる。
【0053】
図4に、ディスプレイ5上に表示される結果グループ化条件設定画面G20の一例を示す。
【0054】
この結果グループ化条件設定画面G20は、操作者に結果グループ化条件の設定を促し、結果グループ化条件設定手段65は、この操作者の入力に基づく設定結果により、結果グループ化条件の設定を行う。
結果グループ化条件設定画面G20での設定は、予め設けられた複数種類の演算方法からいずれか1つを指定するラジオボタンG21、差分情報の演算対象となる画素を指定するラジオボタンG22、差分情報の集計方法を指定するラジオボタンG23をマウスクリックすることで行われ、テキストフィールドG24で、集計結果をグループ化する範囲(グループ化する際の刻み情報)が指定される。このテキストフィールドG24は、例えばコンボボックスで構成されていてもよい。また、テキストフィールドG25には、各フレームの指定演算結果を保存しておく過去フレーム数が指定され、テキストフィールドG26には、目視による残像効果を評価するため、FIFOバッファー82にクリアせずに差分指定演算結果を保存しておく過去フレーム数が指定される。
【0055】
ラジオボタンG21では、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間におけるL*の差分ΔL、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間におけるu*の差分Δu、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間におけるv*の差分Δv、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間における色差ΔEuv、又は元の入力フレーム画像と画像処理後の結果フレーム画像との間のエッジ値の差分ΔEdgeのいずれかを指定できるようになっている。なお、ラジオボタンG21では、CIELUV色空間以外の色空間の差分情報を指定できるようになっていてもよい。
【0056】
ラジオボタンG22では、ラジオボタンG21で指定された演算方法を、入力フレーム画像を構成する各画素とこれに対応する画像処理後の出力画像を構成する各画素との間で行うか、入力フレーム画像を構成する画素のうち所与のサンプリング画素とこれに対応する画像処理後の出力画像を構成するサンプリング画素との間で行うかを指定できるようになっている。なお、ラジオボタンG22では、ラジオボタンG21で指定された演算方法を、これら以外の画素間で演算するように指定できるようになっていてもよい。
【0057】
ラジオボタンG23では、ラジオボタンG21、G22で指定された各フレーム画像間及び過去フレーム数分の演算結果のうち最大値を取得するか、ラジオボタンG21、G22で指定された各フレーム画像間及び過去フレーム数分の演算結果の平均値を取得するかを指定できるようになっている。なお、ラジオボタンG23では、ラジオボタンG21、G22で指定された各フレーム画像間及び過去フレーム数分の演算結果を別の方法で集計できるようにしてもよい。
【0058】
テキストフィールドG24では、ラジオボタンG21、G22で指定された演算結果をラジオボタンG23で指定された集計方法で取得した値を、どのグループにグループ化するかを指定できるようになっている。例えば、テキストフィールドG24に「1.0」が指定されると、取得した値に応じて、一連の画像処理モジュールにより処理結果が、「0.0」〜「1.0」、「1.0」〜「2.0」、「2.0」〜「3.0」、・・・のいずれかにグループ化される。例えば、テキストフィールドG24に「1.0」が指定され、取得した値が「5.5」のとき、「5.0」〜「6.0」のグループにグループ化されることになる。
【0059】
FIFOバッファー82に保存される過去フレーム数は、外部から設定可能に構成されている。そして、テキストフィールドG25では、グループ化する際に参照する過去フレーム数が指定されると、ラジオボタンG21、G23で指定された演算方法により入力フレーム画像と画像処理後の結果フレーム画像の各画素間で求められた演算結果を、指定された過去フレーム数分の中で集計して、グループ化が行われる。例えば、ラジオボタンG21で差分ΔLが指定され、ラジオボタンG23で集計方法として「最大」が指定され、テキストフィールドG25で過去フレーム数が「100」が指定されると、当該フレームのフレーム画像と画像処理後の結果フレーム画像との間で画素毎に求めた差分ΔLの最大値を1フレーム分の演算結果として求め、これを過去の100フレーム数分の中での最大値が抽出される。そして、この最大値に基づいてグループ化される。
上記のような集計を行うため、異なるグループ間で過去フレームの演算結果を参照しないように、過去フレームの演算結果がグリアされる。しかしながら、人間の目視による残像効果を反映させるため、敢えて過去の残像フレーム数分の演算結果を残しておき、これらを参照させて集計するようにしている。テキストフィールドG26には、この残像フレーム数が指定される。
【0060】
なお、図4の結果グループ化条件設定画面G20において、ボタンG27をマウスクリックすることで、ラジオボタンG21〜G23、テキストフィールドG24〜G26で指定された方法が結果グループ化条件として設定され、結果グループ化条件設定処理が終了する。一方、結果グループ化条件設定画面G20において、ボタンG28をマウスクリックすることで、ラジオボタンG21〜G23、テキストフィールドG24〜G26で指定された方法が結果グループ化条件として設定されることなく、結果グループ化条件設定処理が終了する。
【0061】
図1において、出力手段7は、モジュール実行手段63における画像処理モジュールによる入力フレーム画像データVIDEOの画像処理の結果や、グループ化された結果を出力する部分であり、結果表示部71及び結果書込部72を備える。
結果表示部71は、画像処理モジュールによる入力フレーム画像データVIDEOの画像処理結果を、ディスプレイ5上に表示する部分であり、表示するかしないかは、図3におけるテーブルT1の画像出力の有無の欄に基づいて判断する。
結果書込部72は、画像処理モジュールによる入力フレーム画像データVIDEOの画像処理結果を、同一グループの連続する結果フレーム画像データを1つの動画ファイルとしてハードディスク装置4に書き込む部分であり、書き込むか否かは、図3におけるテーブルT1のデータ出力の有無の欄に基づいて判断する。また、結果書込部72は、結果グループ化実行手段66によりグループ化された処理結果を、ハードディスク装置4に書き込む部分でもある。
【0062】
書込手段8は、モジュール管理手段6で設定された画像処理モジュールの実行手順や結果グループ化条件設定手段65により設定された結果グループ化条件をハードディスク装置4に書き込む部分であり、結果グループ化条件書込手段81を備える。書込手段8は、操作者が画面G1の右下の書込ボタンG10をマウス等でクリックすることにより、図2に示される画面G1上で設定した画像処理モジュールの実行手順をテーブルT1としてハードディスク装置4に書き込む。或いは、書込手段8の結果グループ化条件書込手段81は、操作者が画面G1の右下の書込ボタンG10をマウス等でクリックすることにより、図3に示される結果グループ化条件設定画面G20上で設定した結果グループ化条件をハードディスク装置4に書き込む。
また書込手段8は、上記のように記憶手段としてのFIFOバッファー82を備え、過去の複数フレーム分の結果フレーム画像データに対する上記の演算結果とが蓄積され、結果グループ化実行手段66等により適宜参照されるように構成される。
【0063】
次に、本実施形態の作用について説明する。
図5に、本実施形態におけるシミュレーション装置1の処理例のフローチャートを示す。例えば演算処理装置2は、メモリー3に記憶された図4に示す処理例に対応したプログラムを読み込み該プログラムに対応した処理を実行することで、図4に示す処理を行うことができる。この場合、演算処理装置2を構成する各手段の機能は、メモリー3から読み込んだプログラムを実行する演算処理装置2により実現される。
【0064】
モジュール管理手段6は、起動すると、図2に示される画面G1をディスプレイ5上に表示させ、操作者に画像処理モジュールの選択と、選択した画像処理モジュールが実行する画像処理に適用されるパラメーターの選択とを促す。
操作者がマウス等でチェックボックスG2をクリックして実行する画像処理モジュールを選択すると、モジュール選択手段61は、テーブルT1の選択された画像処理モジュールの実行を「有」として、実行する画像処理モジュールの選択を行う(ステップS1)。
続いて、操作者がマウス等で読出ボタンG8をクリックして画像処理モジュール毎に画像処理に適用されるパラメーターが記録されているパラメーターファイルを選択すると、パラメーター選択手段64は、画像処理モジュール毎に、対応するパラメーターファイルの選択を行う(ステップS2)。パラメーター選択手段64は、画面G1において画像処理モジュール毎にパラメーターの選択を促し、パラメーターが設定されたパラメーターファイルを画像処理モジュール毎に操作者が選択すると、画像処理モジュール毎に選択したパラメーターを設定していく。
【0065】
次に、モジュール実行手順設定手段62は、矩形G4によって操作者が選択した画像処理モジュールについて実行手順変更ボタンG5、G6を押して変更した実行手順に従って、テーブルT1内の実行手順を変更し、選択した画像処理モジュールの実行手順を設定する(ステップS3)。
そして、モジュール実行手順設定手段62は、図2の画面G1上で操作者がマウス等をクリックして設定したボックスG3の状態に基づいて、テーブルT1の結果フレーム画像の出力の有無、及び結果フレーム画像データの出力の有無を設定する(ステップS4)。
なお、本実施形態では、モジュール実行手順設定手段62による実行手順の設定を先に、結果フレーム画像又は結果フレーム画像データの出力の有無の設定を後に行っていたが、これに限らず先に結果フレーム画像又は結果フレーム画像データの出力設定を先に行ってもよい。
【0066】
以上のように画像処理モジュール及びこれに対応するパラメーターファイルの選択及び実行手順の設定が終了したら、書込手段8は、操作者が画面G1上の書込ボタンG10をクリックするか否かを監視し(ステップS5)、クリックされた画面G1上で設定されたテーブルT1をハードディスク装置4に書き込み記録保存する(ステップS6)。
なお、操作者による実行手順の書き込みは、本実施形態ではこのタイミングで行っているが、実際には、モジュール実行手段63によるすべての画像処理モジュールの実行処理後、又はモジュール実行手段63の実行中のいずれのタイミングでも可能とすることができる。
【0067】
次に、結果グループ化条件設定手段65は、操作者が画面G1上の結果グループ化条件設定ボタンG9をクリックすることで開始される結果グループ化条件設定処理を行う(ステップS7)。
なお、操作者による結果グループ条件設定処理は、本実施形態ではこのタイミングで行っているが、実際には、モジュール実行手段63によるすべての画像処理モジュールの実行処理前、又はモジュール実行手段63の実行中のいずれのタイミングでも可能とすることができる。
【0068】
図6に、本実施形態における結果グループ化条件設定処理の処理例のフローチャートを示す。例えば演算処理装置2は、メモリー3に記憶された図6に示す処理例に対応したプログラムを読み込み該プログラムに対応した処理を実行することで、図6に示す処理を行うことができる。図6の処理は、結果グループ化条件設定手段65により実行される。
【0069】
結果グループ化条件設定手段65は、操作者が画面G1上の結果グループ化条件設定ボタンG9をクリックするか否かを監視し(ステップS20)、クリックされるとディスプレイ5上に図4に示される結果グループ化条件設定画面G20を表示させ、結果グループ化条件の設定を促す。
【0070】
結果グループ化条件設定手段65は、図4に示されるような結果グループ化条件設定画面G20において、操作者がラジオボタンG21〜G23やテキストフィールドG24〜G26で選択し、ボタンG27をクリックすることで、ラジオボタンG21〜G23及びテキストフィールドG24〜G26で設定した結果グループ化条件を設定する(ステップS21)。
【0071】
以上のように結果グループ化条件の設定が終了したら、結果グループ化条件書込手段81は、操作者が画面G1上の書込ボタンG10又は図示しない専用の書込ボタンをクリックするか否かを監視し(ステップS22)、クリックされた結果グループ化条件設定画面G20上で設定された結果グループ化条件に対応する結果グループ化条件設定情報をハードディスク装置4に書き込み記録保存する(ステップS23)。
【0072】
次に、図5に示すように、モジュール実行手段63は、テーブルT1で設定された順番に従って選択された画像処理モジュールを実行する。
まず、モジュール実行手段63は、テーブルT1の第1行目の記載に基づいて、入力フレーム画像データVIDEOの読み込みを行う(ステップS8)。
続いて、モジュール実行手段63は、テーブルT1の第3行目(第2行目は実行せず)に記載されたパラメーターファイル名に基づいて、パラメーターを読み出し(ステップS9)、同行の画像処理モジュール名に基づいて、メモリー3内を検索して該当する画像処理モジュールを取得する(ステップS10)。
モジュール実行手段63は、検索した画像処理モジュールを実行し、入力フレーム画像データVIDEOに画像処理を施す(ステップS11)。
【0073】
画像処理モジュールによる画像処理が終了したら、出力手段7の結果表示部71は、当該画像処理モジュールのテーブルT1の結果画像出力の有無を判定し(ステップS12)、「有」が設定されていたら、ディスプレイ5上に画像処理の結果フレーム画像を表示する(ステップS13)。
また、出力手段7の結果書込部72は、同様に、テーブルT1のデータ出力の有無を判定し(ステップS14)、「有」に設定されていたら、結果フレーム画像データをハードディスク装置4に書き込み、記憶保存する(ステップS15)。
【0074】
続いて、モジュール実行手段63による画像処理モジュールの実行が終了すると、結果グループ化実行手段66は、結果グループ化処理を行う(ステップS16)。
なお、操作者による結果グループ化処理は、本実施形態ではこのタイミングで行っているが、実際には、各画像処理モジュールの実行後であれば、結果表示処理中又は結果保存処理中のいずれのタイミングでも可能とすることができる。
【0075】
図7に、本実施形態における結果グループ化処理の処理例のフローチャートを示す。例えば演算処理装置2は、メモリー3に記憶された図7に示す処理例に対応したプログラムを読み込み、該プログラムに対応した処理を実行することで図7に示す処理を行うことができる。図7の処理は、結果グループ化実行手段66により実行される。
図8(A)、図8(B)に、結果グループ化実行手段66により参照されるFIFOバッファー82の説明図を示す。
【0076】
結果グループ化実行手段66は、モジュール実行手段63による画像処理モジュールの実行状況を監視しており、モジュール実行手段63による画像処理モジュールの実行が全画素について終了したか否かを判定する(ステップS30)。
モジュール実行手段63による画像処理モジュールの実行が全画素について終了していないとき(ステップS30:N)、結果グループ化実行手段66は、結果グループ化条件設定手段65により設定された結果グループ化条件のうち演算方法とその演算対象の指定画素の情報に従って、入力フレーム画像の画素値と結果フレーム画像の画素値に対して指定された演算を行う(ステップS31)。結果グループ化実行手段66は、入力フレーム画像の画素値と結果フレーム画像の画素値とを用いて、図4の結果グループ化条件設定画面G20上のラジオボタンG21、G22で指定されるように入力フレーム画像と結果フレーム画像との差分情報を公知の演算方法により求める。
【0077】
次に、結果グループ化実行手段66により求められた演算結果は、結果書込部72によりハードディスク装置4に書き込まれて保存され(ステップS32)、再び、結果グループ化実行手段66が、モジュール実行手段63による画像処理モジュールの実行状況の監視を継続する(ステップS30)。
【0078】
モジュール実行手段63による画像処理モジュールの実行が全画素について終了したとき(ステップS30:Y)、結果グループ化実行手段66は、1フレーム分の指定演算の演算結果を指定された集計方法で集計した結果を算出する(ステップS33)。例えば、指定された集計方法が平均の場合には、各画素間での指定演算結果の合計値を1フレーム画像の全画素数で除算して求める。或いは、例えば、指定された集計方法が最大の場合には、各画素間での指定演算結果の最大値を抽出する。結果グループ化実行手段66は、このように求められた集計結果は、FIFOバッファー82に追加保存する(ステップS34)。
【0079】
続いて、結果グループ化実行手段66は、FIFOバッファー82に保存された過去の1又は複数フレーム数分の集計結果を、指定された集計方法で更に平均値又は最大値を求め、過去フレーム分集計値をして求める(ステップS35)。例えば、当該フレームが第M(Mは自然数)のフレームとし、FIFOバッファー82がL(Lは2以上の整数)フレーム数分の集計結果を保存するものとすると、結果グループ化実行手段66は、例えば第Mのフレーム〜第(M−(L−1))フレームの集計結果を参照して、これらの平均値又は最大値を過去フレーム分集計値として求める。そして、結果グループ化実行手段66は、図4のテキストフィールドG24で指定された集計結果範囲で、「0」を基準に、ステップS35で求めた過去フレーム分集計値に基づいて当該フレームのグループ化を行う(ステップS36)。
【0080】
ステップS36によるグループ化の結果、前フレームと同じグループであるとき(ステップS37:Y)、結果グループ化実行手段66は、当該フレームの結果フレーム画像データを前のフレームと連結して動画ファイルとして追加保存して(ステップS40)、ステップS30に戻る。例えばシーンチェンジ後は、画像処理の結果が急変する可能性があり、別のグループに振り分けられる。或いは、突飛なノイズ等は、FIFOバッファー82を用いた集計により、考慮される同一グループに振り分けられるようにすることができる。なお、動画ファイルとして追加保存するのに加えて、グループ化の結果、振り分けられたグループ名と当該フレーム画像のフレーム番号等の識別情報を関連付けて保存することが望ましい。
【0081】
ステップS37において、ステップS36によるグループ化の結果、前フレームと同じグループではないとき(ステップS37:N)、結果グループ化実行手段66は、新規に当該フレームの結果フレーム画像が振り分けられたグループの動画ファイルを作成し(ステップS38)、FIFOバッファー82の記憶内容をクリアし(ステップS39)、当該フレームの結果フレーム画像データを新規作成した動画ファイルに保存し(ステップS40)、ステップS30に戻る。なお、ステップS38では、図4のテキストフィールドG26で指定された直近の残像フレーム数分の記憶内容を残して、残りのフレームの集計結果をFIFOバッファー82からクリアする。例えば、図8(B)に示すように、当該フレームが第Mのフレーム、残像フレーム数分として「3」が指定されているとすると、ステップS38では、第(M−1)のフレーム〜第(M−3)のフレームの集計結果を残して、残りのフレームの集計結果がFIFOバッファー82からクリアされる。
【0082】
ところで、結果グループ化実行手段66により実行される結果グループ化処理としては、一連の画像処理結果を、予め設けられた複数のグループのうちのいずれかに振り分けて保存させたりしてもよいし、単に、フレーム番号と振り分け先のグループとを関連付けて保存するようにしてもよい。
【0083】
以降、図5に示すように、モジュール実行手段63は、次に実行すべき画像処理モジュールがあるか否かをテーブルT1から判定し(ステップS17)、あればステップS9からを繰り返し、モジュール実行手段63は、次の入力フレーム画像があるか否かを判定し(ステップS18)、あればステップS8からの処理を繰り返し、なければシミュレーションを終了する(エンド)。
【0084】
以上のように、結果グループ化実行手段66は、当該フレームのフレーム画像に対して画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、FIFOバッファー82に記憶される当該フレームより過去の1又は複数の過去フレーム画像に対する過去フレーム処理後画像データに対する所与の演算結果とを用いて、現フレーム処理後画像データに対してグループ化を実行することができる。
また、結果グループ化実行手段66は、現フレーム処理後画像データを、FIFOバッファー82に記憶される過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、FIFOバッファー82の少なくとも一部の記憶内容をクリアする。これにより、目の残像による影響を考慮したシミュレーションを可能となる。
【0085】
ここで、本実施形態の動作例について説明する。
【0086】
図9(A)〜図9(E)に、パラメーターファイルの一例を示す。図9(A)〜図9(E)は、画像処理モジュールが色変換処理(画像処理)を行う場合に、RGBのうちR成分の色変換処理に適用されるパラメーターファイルの一例を模式的に表す。
図10(A)〜図10(C)に、図9(A)〜図9(E)のパラメーターの説明図を示す。図10(A)は、図9(A)のパラメーターの説明図を表し、図10(B)は、図9(D)のパラメーターの説明図を表し、図10(C)は、図9(E)のパラメーターの説明図を表す。
図11に、本実施形態の動作例の説明図を示す。
【0087】
図9(A)〜図9(E)のそれぞれには、R成分の画素値xに対する補正量yが離散的に設定され、画像処理モジュールは、設定されない画素値に対しては、公知の補間処理によって補正量を求めることができるようになっている。従って、例えば図10(A)〜図10(C)は、補正前後の画素値が等しくなる基準線P1〜P3を基準にすると、それぞれ異なる色変換処理を行う。
【0088】
本実施形態では、例えば動画像を構成する複数のフレーム画像IMGin1〜IMGin6・・・の各フレーム画像毎に、前述の色変換処理を含む1又は複数の画像処理の実行順序を変更しながら、各画像処理のパラメーターを複数の種類設定することで、複数の結果フレーム画像が得られる。そして、図11に示すように、結果フレーム画像毎に対応する入力フレーム画像との差分情報を演算して数値化し、演算結果をグループ化して、例えば画像処理結果が異なる結果フレーム画像IMGO1〜IMGO6・・・をそれぞれ別のグループにグループ化することで、目視による画像処理結果の効果の定性的及び定量的な評価を容易化できるようになる。
【0089】
このようにして、それぞれが適用されるパラメーターを異ならせることが可能な画像処理モジュールの組み合わせを種々シミュレーションして、最適な画像処理結果となるような画像処理モジュールの選択、及び実行手順を求め、部分画像処理回路を実装する画像処理回路の設計を行う。
具体的には、画像処理モジュールの実行手順と同じような画像処理手順となるように、画像処理回路における部分画像処理回路に実装レイアウトを設計すればよい。
【0090】
なお、画像処理による画質の劣化は、局所的に生じるものばかりではなく、フレーム画像の画面全体に生じる色ムラや、高解像度から低解像度への変換時に生じるジャギーやブロックノイズ、画面全体のぼやけとして現れることがあり、これらの画質劣化は、目視の比較により評価することができる。
【0091】
また、画像処理モジュールの組み合わせを、画面G1上で操作者が自由に設定できるため、多数ある画像処理モジュールの選択と、画像処理の順番を簡単に変更してシミュレーションを行うことができるため、最適な画像処理モジュールの組み合わせを容易にかつ短時間で見出しやすくなる。
さらに、結果書込部72がハードディスク装置4に結果画像データを書き込むことが可能となっているため、入力フレーム画像データVIDEOとの比較評価を、コンピューター上で公知の評価ソフトウェアを実行することにより、行うことも可能である。比較評価の方法としては、例えば、各画素の輝度、色ムラ等を数値化して対比し、統計的処理を行って一定の閾値を超えるような変化をしていれば、画質劣化とみなし、それを超えなければ画質劣化はないと判定するような方法を採用することができる。
【0092】
なお、本実施形態における画像処理モジュールが実行する画像処理として、例えばフレーム画像の画面全体に一律にガンマ曲線を異ならせる色変換処理を例に説明したが、本発明はこれに限定されるものではない。例えば、画像処理モジュールが実行する画像処理として、フレーム画像の画面を分割した領域毎にガンマ曲線を異ならせる色ムラ補正処理を採用し、光学系の色ムラを補正する目標画像を入力フレーム画像とし、結果フレーム画像のサンプリング画素間のΔEuvの最大値が小さくなるようなパラメーターの組み合わせを求め、色ムラ補正の効果が得られる画像処理モジュールの組み合わせを見つけるようにしてもよい。
或いは、例えば、画像処理モジュールが実行する画像処理として、3次元ルックアップテーブル変換処理を採用し、グラデーション画像の入力フレーム画像に対して結果フレーム画像の各画素のエッジ値を求め、その最大値が小さくなるようなパラメーターの組み合わせを求め、コントラスト強調やエッジ強調の際に擬似輪郭の発生を低減できる画像処理モジュールの組み合わせを見つけるようにしてもよい。
【0093】
なお、本実施形態では、結果グループ化条件の設定処理を、図4に示すように、元の入力フレーム画像データと該入力フレーム画像データに対して画像処理モジュールによる画像処理が行われた結果フレーム画像データとの差分情報を演算する演算方法、この差分情報の演算対象となる画素の指定方法、上記の差分情報の集計方法、及び上記の差分情報をグループ化する範囲の指定方法を例に説明したが、本発明はこれに限定されるものではない。例えば、元の入力フレーム画像データと結果フレーム画像データとの差分情報を演算する演算方法、この差分情報の演算対象となる画素の指定方法、上記の差分情報の集計方法、及び上記の差分情報をグループ化する範囲の指定方法うち、少なくとも1つを、結果グループ化条件の設定処理において設定するようにしてもよい。
【0094】
また、本実施形態では、差分情報を演算する演算方法として、差分情報の演算対象となる画素間の明度の差分、画素間の彩度及び色相の差分、画素間の色差、及び入力フレーム画像データと画像処理後のフレーム画像データとに基づくエッジ値の差分を例に説明したが、本発明はこれに限定されるものではない。差分情報を演算する演算方法として、例えば差分情報の演算対象となる画素間の明度の差分、画素間の彩度及び色相の差分、画素間の色差、及び入力フレーム画像データと画像処理後のフレーム画像データとに基づくエッジ値の差分の少なくとも1つを含んでいればよい。
【0095】
また、本実施形態では、現フレーム処理後画像データを、FIFOバッファー82に記憶される過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、現フレーム処理後画像データに対する演算結果と、FIFOバッファー82に記憶される少なくとも1フレーム分の過去フレーム処理後画像データに対する演算結果とを用いて、現フレーム処理後画像データに対してグループ化を実行するようにしてもよい。
さらに、本実施形態では、FIFOバッファー82を書込手段8に内蔵させているモノとして説明したが、本発明はこれに限定されるものではなく、FIFOバッファー82が書込手段8の外部に設けられていてもよい。
さらにまた、本実施形態では、FIFOバッファー82を用いて複数の過去フレームの指定演算結果を参照して、当該フレームの指定演算結果に基づきグループ化を行っていたが、本発明はこれに限定されるものではない。例えば、直前のフレームの指定演算結果のみを参照して当該フレームの指定演算結果に基づきグループ化を行ってもよい。この場合、シーンチェンジを抽出できたり、意図しない画像処理後の画像変化を抽出できるようになる。なお、直前のフレームの指定演算結果のみを参照して当該フレームの指定演算結果に基づくグループ化は、上記のFIFOバッファー82を用いて複数の過去フレームの指定演算結果を参照した当該フレームの指定演算結果に基づくグループ化に代えて、或いは上記のFIFOバッファー82を用いて複数の過去フレームの指定演算結果を参照した当該フレームの指定演算結果に基づくグループ化と同時に行ってもよい。
【0096】
以上説明したように、本実施形態によれば、画像処理の順序を簡単に変更して複数の画像処理の組み合わせを簡単にシミュレーションできるようにしたので、所望の画像処理結果が得られる画像処理モジュールの選択、及び実行手順を容易に見つけることができ、これに対応した画像処理回路の提供ができるようになる。その結果、エラー検証時間を短縮化でき、画像処理回路の製造コストの削減が可能となる。
また、画像処理回路を構成する部分画像処理回路の種類が増えたとしても、それぞれの実行順序や最適なパラメーターの選択が、確実、かつ、容易に行うことができ、これらのパラメーターの組み合わせに依存して露見するエラーの検証も容易化できる。なお、画素数が増大したとしても、画像処理の実行順序や最適なパラメーターの選択が、確実、かつ、容易にできることには変わりない。
【0097】
さらに、一連の画像処理後の結果フレーム画像をグループ化することにより、目視による効果の定性的及び定量的な評価が容易となり、結果フレーム画像の検証をより効率化できるようになる。
また、一連の画像処理の追加及び削除、各画像処理に適用されるパラメーターの変更があったとしても上記の評価が容易となり、拡張性に富む画像処理の評価が可能となる。
さらに、多種多様なフレーム画像に対して画像処理を行い、その画像処理結果をグループ化することで、各画像処理に適用されるパラメーターの変更による効果を、容易に把握できるという効果が得られる。
さらに、映像によっては、ディスプレイの特性に合わせて、フレーム毎に画素を明滅させたり、色を変えたりする等、目では捉えきれない連続フレームゆえの効果のための処理をしている場合がある。本実施形態では、FIFOバッファー82を用いて過去のフレームの処理結果の集計値を参照するようにしたので、目に捉えられないフレーム毎の影響を抑えたり、残像等の目で捉えられる連続したフレーム効果をシミュレートしたりすることができる。
【符号の説明】
【0098】
1…シミュレーション装置、 2…演算処理装置、 3…メモリー、
4…ハードディスク装置、 5…ディスプレイ、 6…モジュール管理手段、
7…出力手段、 8…書込手段、 61…モジュール選択手段、
62…モジュール実行手順設定手段、 63…モジュール実行手段、
64…パラメーター選択手段、 65…結果グループ化条件設定手段、
66…結果グループ化実行手段、 71…結果表示部、 72…結果書込部、
81…結果グループ化条件書込手段、 82…FIFOバッファー、
B1,B2,G24〜G26…テキストフィールド、 G1…画面、
G2…チェックボックス、 G3,G27,G28…ボタン、 G4…矩形、
G5,G6…実行手順変更ボタン、 G7…実行ボタン、 G8…読出ボタン、
G9…結果グループ化条件設定ボタン、 G10…書込ボタン、
G20…結果グループ化条件設定画面、 G21,G22,G23…ラジオボタン、
P1〜P3…基準線、 T1…テーブル、 VIDEO…入力フレーム画像データ
【技術分野】
【0001】
本発明は、画像処理回路のシミュレーション装置、画像処理回路のシミュレーション方法、画像処理回路の設計方法、及び画像処理回路シミュレーションプログラム等に関する。
【背景技術】
【0002】
従来、複数の機能を実行できるソフトウェアシステムの機能評価、デバッグのために、種々の機能を実行させた結果をシミュレーションするプログラムが知られている。
例えば、特許文献1に記載のテストシーケンサーでは、管理モジュール及び実行モジュールを含んで構成され、テスト対象となるテストエグゼクティブに新たな機能を追加したり、機能の修正を行ったりしたときに、他の機能と干渉するかしないかを簡単にチェックできるものが提案されている。
【0003】
また、特許文献2に記載のソフトウェアテスト装置では、検証対象となるソフトウェアへの入力及び出力にインターフェースして、動作手順、設定内容等に応じた出力群を受け取って評価するものが提案されている。
また、特許文献3に記載のソフトウェアコンポーネントシステムでは、ソフトウェアコンポーネントの実行において、他のソフトウェアコンポーネントを実行する前の状態を表す事前条件定義情報、後の状態を表す事後条件定義情報をデータベース上に格納しておき、ソフトウェアコンポーネントのテストを正確に行うものが提案されている。
【0004】
さらに、特許文献4に記載の画質評価装置では、画像を取り込んで数値化した画像を微分し、ムラの輪郭部を顕在化して、階調値毎の面積を利用して求めた画質指数により、検査画面の画質を定量的に評価するものが提案されている。
さらに、特許文献5に記載の画質評価方法では、粒状性テストパターンを用いて、例えばコントラスト強度を判定して、装置間の画質の比較や経時的な画質の比較を行うものが提案されている。
さらに、特許文献6に記載の画質評価装置では、階調が連続的に変化するグラデーション画像を用いて、画像を定量的に評価するものが提案されている。
さらにまた、特許文献7に記載の画像処理装置では、対象物から検出した画像におけるベクトル成分のヒストグラムを計測することで、画像の統計的性質を評価するものが提案されている。
【0005】
ところで、プロジェクタ、FPD(Flat Panel Display)等の画像表示装置においては、入力画像データに対して画像処理を行って適切な表示画像の形成を行っているが、近年画像処理回路に要求される機能が拡大している。
そこで、色変換、解像度変換、ガンマ変換等の種々の画像処理を、画像処理単位でチップ化した部分画像処理回路を組み合わせ、多機能の画像処理を行うことのできる画像処理回路を形成することが行われている。
そして、従来は、このような画像処理回路を設計するに際しては、部分画像処理回路を試作し、実際に組み合わせて画像処理回路を形成してこれを評価するという手法を採用していた。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−53924号公報
【特許文献2】特開2006−48310号公報
【特許文献3】特開2006−91944号公報
【特許文献4】特開2000−215310号公報
【特許文献5】特開2000−278722号公報
【特許文献6】特開2003−16443号公報
【特許文献7】特開2003−196666号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、このような部分画像処理回路の試作は、エラー検証に時間がかかるばかりでなく、試作コストが嵩むという問題がある。
また、実際に画像処理回路に組み込んで検証を行っても、機能拡大に伴い画像処理回路に組み込まれる部分画像処理回路も多数あり、画像処理におけるパラメーターの設定が効果的であるか否かを判断することが非常に困難であるという問題がある。
さらに、画像処理後毎のパラメーターを組み合わせたときに初めて露見するエラーもあり、これを検証することは非常に困難である。
また、一般に画像表示装置によって形成される動画像を構成する各フレームの表示画像は多数の画素から構成されているが、部分画像処理回路によって処理された結果を各画素について評価するのは難しく、前述した特許文献1乃至7を、画像処理装置による画像処理後の画像の画質の評価に適用することはできない。
さらに、特許文献1乃至7に開示された技術は、静止画に対する処理である。そのため、これらの技術をそのまま動画に適用したとしても静止画と同様の効果が得られるとは限らず、動画に適用した場合の効果が不明である。
【0008】
本発明は、以上のような技術的課題に鑑みてなされたものであり、その目的の1つは、目視による動画像に対する画像処理結果の効果の定性的及び定量的な評価を容易化できる画像処理回路のシミュレーション装置、画像処理回路のシミュレーション方法、画像処理回路の設計方法、及び画像処理回路のシミュレーションプログラム等を提供することにある。
【課題を解決するための手段】
【0009】
(1)本発明の一態様は、複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション装置が、前記画像処理回路に対応する機能を具備する画像処理モジュールと、前記画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行手段と、前記モジュール実行手段で実行された画像処理モジュールによる前記画像処理が行われた画像データに対してグループ化を実行する結果グループ化実行手段と、当該フレームより前の1又は複数のフレームの各フレーム画像に対して前記画像処理が行われた過去フレーム処理後画像データに対する所与の演算結果を記憶する記憶手段とを含み、前記結果グループ化実行手段は、前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行する。
【0010】
本態様によれば、複数のフレーム画像により構成される動画像に対する画像処理モジュールによる画像処理後の画像データをグループ化するようにしたので、画像処理の目視による効果の定性的及び定量的な評価が容易となり、結果画像の検証をより効率化できるようになる。さらに、本態様によれば、画像処理に適用されるパラメーターの変更による効果を、容易に把握できるという効果が得られる。
【0011】
(2)本発明の他の態様に係るシミュレーション装置では、前記結果グループ化実行手段は、前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記記憶手段の少なくとも一部の記憶内容をクリアする。
【0012】
本態様によれば、連続するフレーム画像に対する画像処理の効果が異なると判断されて別グループに振り分けられる場合であっても、過去フレームにおける効果を参照することができるので、目視による残像効果を考慮した評価が可能となる。
【0013】
(3)本発明の他の態様に係るシミュレーション装置では、前記結果グループ化実行手段は、前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記現フレーム処理後画像データに対する前記演算結果と、前記記憶手段に記憶される少なくとも1フレーム分の前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行する。
【0014】
本態様によれば、現フレーム処理後画像データをグループ化する際に、少なくとも1フレーム分の過去フレーム処理後画像データに対する演算結果を参照するようにしたので、目視による動画像に対する画像処理結果の効果の定性的及び定量的な評価を容易化できるようになる。
【0015】
(4)本発明の他の態様に係るシミュレーション装置では、前記結果グループ化実行手段は、入力フレーム画像データと該入力フレーム画像データに対して前記画像処理モジュールによる画像処理が行われた処理後画像データとの差分情報に基づいて前記グループ化を実行する。
【0016】
本態様によれば、入力フレーム画像と画像処理後の結果フレーム画像との差分情報に基づいてグループ化するようにしたので、動画像に対する画像処理の目視の効果に対応したグループ化を、簡素な演算処理で実現できるようになる。
【0017】
(5)本発明の他の態様に係るシミュレーション装置では、前記画像処理モジュールの画像処理結果のグループ化条件を設定する結果グループ化条件設定手段を含み、前記結果グループ化実行手段は、前記結果グループ化条件設定手段によって設定された前記グループ化条件に基づいて、入力フレーム画像の画像処理後の画像データ毎にグループ化を実行する。
【0018】
本態様によれば、グループ化条件を設定できるようにしたので、所望の画像処理の目視による効果の定性的及び定量的な評価が容易となり、結果フレーム画像の検証をより効率化できるようになる。
【0019】
(6)本発明の他の態様に係るシミュレーション装置では、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果のフレーム数は、設定可能に構成されている。
【0020】
本態様によれば、過去フレームを参照する度合いを可変に設定でき、動画に応じた最適な検証の効率化に寄与できるようになる。
【0021】
(7)本発明の他の態様に係るシミュレーション装置では、前記画像処理回路を構成する複数の部分画像処理回路のそれぞれに対応する機能を具備する複数の画像処理モジュールと、前記複数の画像処理モジュールのうち、実行する画像処理モジュールを選択するモジュール選択手段とを含み、前記モジュール実行手段が、前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力されるフレーム画像の画像データの画像処理を行い、前記結果グループ化実行手段が、前記モジュール実行手段で実行された複数の画像処理モジュールによる画像処理が行われた画像データに対してグループ化を実行する。
【0022】
本態様によれば、前述の効果に加えて、複数の画像処理が組み合わされる場合に、複数の画像処理モジュールによる画像処理が行われた画像データについてグループ化するようにしたので、定性的及び定量的な画像処理の目視の効果を解析でき、各画像処理に適用されるパラメーターの最適な組み合わせを容易に見つけ出すことができるようになる。
【0023】
(8)本発明の他の態様に係るシミュレーション装置では、前記モジュール選択手段で選択された画像処理モジュールの実行手順を設定するモジュール実行手順設定手段を含み、前記モジュール実行手段が、前記モジュール実行手順設定手段で設定された実行手順に従って、前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力フレーム画像の画像データの画像処理を行う。
【0024】
本態様によれば、画像処理の順序を簡単に変更して複数の画像処理を組み合わせて得られる画像処理後の画像データをグループ化するようにしたので、所望の画像処理結果が得られる画像処理モジュールの選択、及び実行手順を容易に見つけることができ、エラー検証時間を短縮化でき、画像処理回路の製造コストの削減が可能となる。また、本態様によれば、画像処理回路を構成する部分画像処理回路の種類が増えたとしても、それぞれの実行順序や最適なパラメーターの選択が、確実、かつ、容易に行うことができ、これらのパラメーターの組み合わせに依存して露見するエラーの検証も容易化できる。
【0025】
(9)本発明の他の態様に係るシミュレーション装置では、前記複数の画像処理モジュールは、少なくとも、解像度変換モジュール、色変換モジュール、及びガンマ特性変換モジュールを含む。
【0026】
本態様によれば、種々ある画像処理のうち、解像度変換、色変換、ガンマ特性変換は、色変換処理、シャープネス処理、コントラスト処理を、各画像処理を実行するモジュール中に含むため、これらの画像処理の順番によって画像処理後の結果フレーム画像の画質に差が出る場合でも、最適な結果フレーム画像を得ることのできる画像処理モジュールの組み合わせを見出すことができるようになる。
【0027】
(10)本発明の他の態様は、複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション方法が、前記画像処理回路に対応する機能を具備する画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行ステップと、前記モジュール実行ステップにおいて実行された画像処理モジュールによる前記画像処理が行われた各フレーム画像の画像データに対してグループ化を実行する結果グループ化実行ステップとを含み、前記結果グループ化実行ステップは、前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行する。
【0028】
本態様によれば、複数のフレーム画像により構成される動画像に対する画像処理モジュールによる画像処理後の画像データをグループ化するようにしたので、画像処理の目視による効果の定性的及び定量的な評価が容易となり、結果画像の検証をより効率化できるようになる。さらに、本態様によれば、画像処理に適用されるパラメーターの変更による効果を、容易に把握できるという効果が得られる。
【0029】
(11)本発明の他の態様は、画像処理回路の設計方法が、上記記載の画像処理回路のシミュレーション方法を実施して、画像処理モジュールの組み合わせを求めた後、前記画像処理回路における部分画像処理回路の組み合わせを決定する。
【0030】
本態様によれば、画像処理の順序を簡単に変更して複数の画像処理を組み合わせて得られる画像処理の結果をグループ化するようにしたので、所望の画像処理結果が得られる画像処理モジュールの選択、及び実行手順を容易に見つけることができ、エラー検証時間を短縮化でき、画像処理回路の製造コストの削減が可能となる。また、本態様によれば、画像処理回路を構成する部分画像処理回路の種類が増えたとしても、それぞれの実行順序や最適なパラメーターの選択が、確実、かつ、容易に行うことができ、これらのパラメーターの組み合わせに依存して露見するエラーの検証も容易化できる。
【0031】
(12)本発明の他の態様は、画像処理回路のシミュレーションプログラムが、上記記載の画像処理回路のシミュレーション方法を、コンピューターに実行させる。
【0032】
本態様によれば、目視による動画像に対する画像処理結果の効果の定性的及び定量的な評価を容易化できる画像処理回路のシミュレーションプログラムを提供できるようになる。
【図面の簡単な説明】
【0033】
【図1】本発明の実施の一形態に係るシミュレーション装置の構成例のブロック図。
【図2】図1のディスプレイ上に表示される画面の一例を示す図。
【図3】メモリー上に書き込まれる画像処理モジュールの選択及び実行手順の説明図。
【図4】ディスプレイ上に表示される結果グループ化条件設定画面の一例を示す図。
【図5】本実施形態におけるシミュレーション装置の処理例のフローチャート。
【図6】本実施形態における結果グループ化条件設定処理の処理例のフローチャート。
【図7】本実施形態における結果グループ化処理の処理例のフローチャート。
【図8】図8(A)、図8(B)は結果グループ化実行手段により参照されるFIFOバッファーの説明図。
【図9】図9(A)〜図9(E)はパラメーターファイルの一例を示す図。
【図10】図10(A)〜図10(C)は図9(A)〜図9(E)のパラメーターの説明図。
【図11】本実施形態の動作例の説明図。
【発明を実施するための形態】
【0034】
以下、本発明の実施の形態について図面を用いて詳細に説明する。なお、以下に説明する実施の形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また以下で説明される構成のすべてが本発明の課題を解決するのに必須の構成要件であるとは限らない。
【0035】
図1に、本発明の実施の一形態に係るシミュレーション装置の構成例のブロック図を示す。
【0036】
シミュレーション装置1は、演算処理装置2及びメモリー3を備えたコンピューターとして構成される。即ち、演算処理装置2が、メモリー3に蓄積されたプログラムを読み出してメモリー3に蓄積されたプログラム及びデータを用いて処理を実行することで、画像処理回路の動作のシミュレーションを実現する。或いは、演算処理装置2が、専用のハードウェア回路により、メモリー3に蓄積されたデータに対する演算処理を行うことで、画像処理回路の動作のシミュレーションを実現する。ここで、画像処理回路は、複数のフレーム画像により構成される動画像が入力され、各フレーム画像に対して画像処理を行う。このシミュレーション装置1は、複数の部分画像処理回路を組み合わせて構成される画像処理回路の動作をシミュレーションすることができる。
メモリー3内には、本実施形態に係る画像処理回路シミュレーションを実行するためのプログラム、及び、複数の画像処理モジュールが格納されている。各画像処理モジュールは、コンピューター上で実行可能なソフトウェア(プログラム)であり、各部分画像処理回路に対応する機能を具備している。
シミュレーション装置1の入力側には、図示を略したが、スキャナー、デジタルカメラ、ハードディスク装置等の画像データ出力装置が接続され、各機器から画像処理結果後の画像を評価するための評価用の入力フレーム画像データVIDEOが入力されるようになっている。
【0037】
一方、シミュレーション装置1の出力側には、記録媒体としてのハードディスク装置4及び画像表示装置としてのディスプレイ5が接続されている。
ハードディスク装置4には、シミュレーション装置1で選択した画像処理モジュールや、その実行手順、及び各画像処理モジュールで画像処理を行った結果データ(結果フレーム画像データ(処理後フレーム画像データ)等)が記憶される。
また、ディスプレイ5には、画像処理モジュールの画像処理を行って得られた結果フレーム画像データに基づいて、結果フレーム画像が表示画像として形成される。
【0038】
演算処理装置2は、モジュール管理手段6、出力手段7、及び書込手段8を備えて構成され、これらの各機能的手段6〜8は、演算処理装置2のOS(Operating System)上で実行されるプログラム群として構成されている。
【0039】
図2に、図1のディスプレイ5上に表示される画面の一例を示す。
【0040】
モジュール管理手段6、出力手段7、及び書込手段8は、メモリー3に格納されていて、シミュレーション装置1の起動中、ディスプレイ5上に表示された所定のアイコンを選択すると起動するようになっている。そして、図2に示されるような画面G1を表示させることにより、操作者に入力を促し、この操作者の入力に基づく選択結果により、画像処理モジュールの選択、画像処理モジュールに適用されるパラメーターの選択及び実行手順の設定を行う。
【0041】
画面G1においてデフォルトで表示されるモジュール名は、メモリー3に予め格納された画像処理モジュールを読み出して表示している。新たな画像処理モジュールを読み出すには、画面G1上の右下の読出ボタンG8をクリックし、選択画面上で選択することにより、新たな画像処理モジュールを読み出すことができるようになっている。
なお、画像処理モジュールは、画像処理の対象となる画像表示装置で行う画像処理すべてを網羅することが望ましいが、特に、RGB色空間からYuv色空間への変換処理、及び色空間変換処理の逆変換処理や、ガンマ特性変換、高解像度から低解像度の変換処理等が例示できる。
これらの画像処理は、モジュール内処理でシャープネス処理、コントラスト処理、色変換処理を行う点で共通しており、画像処理の順番によっては、画像処理の結果フレーム画像において、お互いの処理が干渉しあい、部分的な欠点や画像全体の色ムラが強調されるといった現象が生じることがある。
【0042】
モジュール管理手段6は、画像処理モジュールの選択と、選択された画像処理モジュールの実行手順の設定、画像処理モジュールの実行、画像処理結果である画像処理モジュールによる画像処理が行われた後の画像データのグループ化の条件(グループ化条件、結果グループ化条件)の設定、及び画像処理結果のグループ化を行う部分であり、モジュール選択手段61、モジュール実行手順設定手段62、モジュール実行手段63、パラメーター選択手段64、結果グループ化条件設定手段65、及び結果グループ化実行手段66を備えて構成される。ここで、画像データ(画像処理結果)のグループ化とは、複数のグループのいずれかに当該画像処理結果を振り分ける動作をいう。
【0043】
モジュール選択手段61は、画像処理モジュールの選択を行う部分であり、図2に示されるように、ディスプレイ5上に操作者の選択を促す画面G1を表示させ、操作者が画面G1上で選択した画像処理モジュールを、実行する画像処理モジュールとして選択する。
【0044】
まず、操作者によるキーボード等の入力デバイスを介して、テキストフィールドB1に入力動画ファイル名、テキストフィールドB2に出力動画ファイル名の入力が受け付けられる。図2では、入力動画ファイル名“in.avi”で指定された動画ファイルには、それぞれがフレーム番号により特定可能な複数のフレーム画像により構成された動画データ(複数のフレーム画像データ)が格納されている。そして、画像処理が行われたフレーム画像データが、出力動画ファイル名“out.avi”の出力ファイル又はこのファイル名にグループ化条件等を付加したファイル名の出力ファイルに格納される。
その後、操作者による画面G1での画像処理モジュールの選択が、画面G1の左側に表示されたチェックボックスG2を、キーボード、マウス等の入力デバイスでチェックすることにより行われる。
また、チェックボックスG2の右側のボックスG3は、結果フレーム画像データの出力、結果フレーム画像の表示出力の有無を設定するものであり、このボックスG3をマウスクリックすると、例えば、ボックスG3が白、青、赤等に変化し、白の場合(図2中白のボックス)には、結果フレーム画像及び結果フレーム画像データ(結果データ)を出力せず、青の場合(図2中右下がり斜線のボックス)には、結果フレーム画像をディスプレイ5に表示せず、結果フレーム画像データのみをハードディスク装置4に出力し、赤の場合(図2中左下がり斜線のボックス)には、結果フレーム画像をディスプレイ5上に表示し、かつ結果フレーム画像データをハードディスク装置4に出力するといった設定を行うことができるようになっている。
【0045】
モジュール実行手順設定手段62は、モジュール選択手段61で選択された画像処理モジュールの実行手順を設定する部分である。このモジュール実行手順設定手段62は、図2に示される画面G1上で操作対象となる画像処理モジュールを操作者に選択させる。操作者に選択された画像処理モジュールは、画面G1上では矩形G4に囲まれた状態で表示される。操作者は、画面G1の下部にある実行手順変更ボタンG5、G6をマウスクリックすることにより、選択された画像処理モジュールを上下させて画像処理モジュールの順序を変更することで実行手順を変更できるようになっている。そして、このようにして設定された画像処理モジュールの選択及び実行手順は、メモリー3上に書き込まれる。
【0046】
図3に、メモリー3上に書き込まれる画像処理モジュールの選択及び実行手順の説明図を示す。
【0047】
メモリー3上への書き込みは、例えば、図3に示されるように、テーブルT1として書き込まれる。このテーブルT1は、選択されたモジュール名、実行の有無、画像出力の有無、フレーム画像データ出力(データ出力)の有無が記録され、それに付随して各画像処理モジュールで用いるパラメーター名が記録される。
なお、パラメーターとは、各画像処理モジュールの実行時の動作パラメーター値であり、例えば、曲線ガンマ値変換モジュールであればγ=2.2等の値が格納されている。このパラメーターは、モジュール管理手段6とともに、メモリー3に格納されている。
【0048】
モジュール実行手段63は、モジュール選択手段61により選択された画像処理モジュールを、モジュール実行手順設定手段62により設定された実行手順に基づいて順次実行していく部分であり、入力フレーム画像データVIDEOを構成する各フレーム画像データに対して、それぞれ、選択された画像処理モジュールによる画像処理を順次実行する。
【0049】
具体的には、モジュール実行手段63は、前述した図3に示されるテーブルT1の上位から画像処理モジュールを実行していき、その際、テーブルT1中の実行の有無及びパラメーターを参照しながら、メモリー3中に格納された画像処理モジュールを検索し、検索された画像処理モジュールによる画像処理を行う。本実施形態では、画像処理モジュールの実行は、図2における実行ボタンG7をクリックすることにより行われ、操作者が実行ボタンG7を1回クリックする毎に、1つの画像処理モジュールが実行される。
このモジュール実行手段63による画像処理後の結果フレーム画像データは、出力手段7に出力される。
【0050】
パラメーター選択手段64は、モジュール実行手段63で実行される画像処理モジュールのパラメーターの選択を行う部分であり、図2に示されるように、ディスプレイ5上に操作者の選択を促す画面G1を表示させ、操作者が画面G1上で選択したパラメーターファイルを、選択した画像処理モジュールのパラメーターとして選択する。
【0051】
結果グループ化条件設定手段65は、モジュール実行手段63により実行された一連の画像処理モジュールによる画像処理後の結果フレーム画像データ(処理後フレーム画像データ、画像処理結果)をグループ化するための条件を設定する部分であり、図2に示される画面G1において、操作者が、結果グループ化条件設定ボタンG9をマウスクリックすることにより、ディスプレイ5上に結果グループ化条件設定画面G20が表示される。
【0052】
本実施形態では、複数のフレーム画像により構成される動画像が入力され、各フレーム画像のフレーム画像データに対する一連の画像処理モジュールによる画像処理が行われた結果フレーム画像データを例えば過去の数フレーム数分だけ参照した指定演算結果をグループ化することで処理結果の解析処理を実現し、処理結果の目視による効果の定性的及び定量的な評価が容易となる上に、画像処理の検証を効率化できるようになる。本実施形態では、一連の画像処理モジュールの処理結果を解析するために、各フレーム画像について、元の入力フレーム画像と該入力フレーム画像に対する一連の画像処理モジュールの処理結果の結果フレーム画像データとの差分情報を求め、各フレームにおける差分情報を過去の数フレーム分を集計して、その結果に基づきグループ化する。そのため、本実施形態では、書込手段8がFIFOバッファー82(広義には、記憶手段)を備え、過去の少なくとも1フレーム分の差分情報を保存することができるようになっている。このFIFOバッファー82には、同じグループに属する連続する複数フレーム分の差分情報が保存され、異なるグループに属すると判断されたときに過去の一部又は全部のフレームにおける差分情報がクリアされる。
【0053】
図4に、ディスプレイ5上に表示される結果グループ化条件設定画面G20の一例を示す。
【0054】
この結果グループ化条件設定画面G20は、操作者に結果グループ化条件の設定を促し、結果グループ化条件設定手段65は、この操作者の入力に基づく設定結果により、結果グループ化条件の設定を行う。
結果グループ化条件設定画面G20での設定は、予め設けられた複数種類の演算方法からいずれか1つを指定するラジオボタンG21、差分情報の演算対象となる画素を指定するラジオボタンG22、差分情報の集計方法を指定するラジオボタンG23をマウスクリックすることで行われ、テキストフィールドG24で、集計結果をグループ化する範囲(グループ化する際の刻み情報)が指定される。このテキストフィールドG24は、例えばコンボボックスで構成されていてもよい。また、テキストフィールドG25には、各フレームの指定演算結果を保存しておく過去フレーム数が指定され、テキストフィールドG26には、目視による残像効果を評価するため、FIFOバッファー82にクリアせずに差分指定演算結果を保存しておく過去フレーム数が指定される。
【0055】
ラジオボタンG21では、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間におけるL*の差分ΔL、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間におけるu*の差分Δu、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間におけるv*の差分Δv、元の入力フレーム画像と画像処理後の結果フレーム画像との間のCIELUV色空間における色差ΔEuv、又は元の入力フレーム画像と画像処理後の結果フレーム画像との間のエッジ値の差分ΔEdgeのいずれかを指定できるようになっている。なお、ラジオボタンG21では、CIELUV色空間以外の色空間の差分情報を指定できるようになっていてもよい。
【0056】
ラジオボタンG22では、ラジオボタンG21で指定された演算方法を、入力フレーム画像を構成する各画素とこれに対応する画像処理後の出力画像を構成する各画素との間で行うか、入力フレーム画像を構成する画素のうち所与のサンプリング画素とこれに対応する画像処理後の出力画像を構成するサンプリング画素との間で行うかを指定できるようになっている。なお、ラジオボタンG22では、ラジオボタンG21で指定された演算方法を、これら以外の画素間で演算するように指定できるようになっていてもよい。
【0057】
ラジオボタンG23では、ラジオボタンG21、G22で指定された各フレーム画像間及び過去フレーム数分の演算結果のうち最大値を取得するか、ラジオボタンG21、G22で指定された各フレーム画像間及び過去フレーム数分の演算結果の平均値を取得するかを指定できるようになっている。なお、ラジオボタンG23では、ラジオボタンG21、G22で指定された各フレーム画像間及び過去フレーム数分の演算結果を別の方法で集計できるようにしてもよい。
【0058】
テキストフィールドG24では、ラジオボタンG21、G22で指定された演算結果をラジオボタンG23で指定された集計方法で取得した値を、どのグループにグループ化するかを指定できるようになっている。例えば、テキストフィールドG24に「1.0」が指定されると、取得した値に応じて、一連の画像処理モジュールにより処理結果が、「0.0」〜「1.0」、「1.0」〜「2.0」、「2.0」〜「3.0」、・・・のいずれかにグループ化される。例えば、テキストフィールドG24に「1.0」が指定され、取得した値が「5.5」のとき、「5.0」〜「6.0」のグループにグループ化されることになる。
【0059】
FIFOバッファー82に保存される過去フレーム数は、外部から設定可能に構成されている。そして、テキストフィールドG25では、グループ化する際に参照する過去フレーム数が指定されると、ラジオボタンG21、G23で指定された演算方法により入力フレーム画像と画像処理後の結果フレーム画像の各画素間で求められた演算結果を、指定された過去フレーム数分の中で集計して、グループ化が行われる。例えば、ラジオボタンG21で差分ΔLが指定され、ラジオボタンG23で集計方法として「最大」が指定され、テキストフィールドG25で過去フレーム数が「100」が指定されると、当該フレームのフレーム画像と画像処理後の結果フレーム画像との間で画素毎に求めた差分ΔLの最大値を1フレーム分の演算結果として求め、これを過去の100フレーム数分の中での最大値が抽出される。そして、この最大値に基づいてグループ化される。
上記のような集計を行うため、異なるグループ間で過去フレームの演算結果を参照しないように、過去フレームの演算結果がグリアされる。しかしながら、人間の目視による残像効果を反映させるため、敢えて過去の残像フレーム数分の演算結果を残しておき、これらを参照させて集計するようにしている。テキストフィールドG26には、この残像フレーム数が指定される。
【0060】
なお、図4の結果グループ化条件設定画面G20において、ボタンG27をマウスクリックすることで、ラジオボタンG21〜G23、テキストフィールドG24〜G26で指定された方法が結果グループ化条件として設定され、結果グループ化条件設定処理が終了する。一方、結果グループ化条件設定画面G20において、ボタンG28をマウスクリックすることで、ラジオボタンG21〜G23、テキストフィールドG24〜G26で指定された方法が結果グループ化条件として設定されることなく、結果グループ化条件設定処理が終了する。
【0061】
図1において、出力手段7は、モジュール実行手段63における画像処理モジュールによる入力フレーム画像データVIDEOの画像処理の結果や、グループ化された結果を出力する部分であり、結果表示部71及び結果書込部72を備える。
結果表示部71は、画像処理モジュールによる入力フレーム画像データVIDEOの画像処理結果を、ディスプレイ5上に表示する部分であり、表示するかしないかは、図3におけるテーブルT1の画像出力の有無の欄に基づいて判断する。
結果書込部72は、画像処理モジュールによる入力フレーム画像データVIDEOの画像処理結果を、同一グループの連続する結果フレーム画像データを1つの動画ファイルとしてハードディスク装置4に書き込む部分であり、書き込むか否かは、図3におけるテーブルT1のデータ出力の有無の欄に基づいて判断する。また、結果書込部72は、結果グループ化実行手段66によりグループ化された処理結果を、ハードディスク装置4に書き込む部分でもある。
【0062】
書込手段8は、モジュール管理手段6で設定された画像処理モジュールの実行手順や結果グループ化条件設定手段65により設定された結果グループ化条件をハードディスク装置4に書き込む部分であり、結果グループ化条件書込手段81を備える。書込手段8は、操作者が画面G1の右下の書込ボタンG10をマウス等でクリックすることにより、図2に示される画面G1上で設定した画像処理モジュールの実行手順をテーブルT1としてハードディスク装置4に書き込む。或いは、書込手段8の結果グループ化条件書込手段81は、操作者が画面G1の右下の書込ボタンG10をマウス等でクリックすることにより、図3に示される結果グループ化条件設定画面G20上で設定した結果グループ化条件をハードディスク装置4に書き込む。
また書込手段8は、上記のように記憶手段としてのFIFOバッファー82を備え、過去の複数フレーム分の結果フレーム画像データに対する上記の演算結果とが蓄積され、結果グループ化実行手段66等により適宜参照されるように構成される。
【0063】
次に、本実施形態の作用について説明する。
図5に、本実施形態におけるシミュレーション装置1の処理例のフローチャートを示す。例えば演算処理装置2は、メモリー3に記憶された図4に示す処理例に対応したプログラムを読み込み該プログラムに対応した処理を実行することで、図4に示す処理を行うことができる。この場合、演算処理装置2を構成する各手段の機能は、メモリー3から読み込んだプログラムを実行する演算処理装置2により実現される。
【0064】
モジュール管理手段6は、起動すると、図2に示される画面G1をディスプレイ5上に表示させ、操作者に画像処理モジュールの選択と、選択した画像処理モジュールが実行する画像処理に適用されるパラメーターの選択とを促す。
操作者がマウス等でチェックボックスG2をクリックして実行する画像処理モジュールを選択すると、モジュール選択手段61は、テーブルT1の選択された画像処理モジュールの実行を「有」として、実行する画像処理モジュールの選択を行う(ステップS1)。
続いて、操作者がマウス等で読出ボタンG8をクリックして画像処理モジュール毎に画像処理に適用されるパラメーターが記録されているパラメーターファイルを選択すると、パラメーター選択手段64は、画像処理モジュール毎に、対応するパラメーターファイルの選択を行う(ステップS2)。パラメーター選択手段64は、画面G1において画像処理モジュール毎にパラメーターの選択を促し、パラメーターが設定されたパラメーターファイルを画像処理モジュール毎に操作者が選択すると、画像処理モジュール毎に選択したパラメーターを設定していく。
【0065】
次に、モジュール実行手順設定手段62は、矩形G4によって操作者が選択した画像処理モジュールについて実行手順変更ボタンG5、G6を押して変更した実行手順に従って、テーブルT1内の実行手順を変更し、選択した画像処理モジュールの実行手順を設定する(ステップS3)。
そして、モジュール実行手順設定手段62は、図2の画面G1上で操作者がマウス等をクリックして設定したボックスG3の状態に基づいて、テーブルT1の結果フレーム画像の出力の有無、及び結果フレーム画像データの出力の有無を設定する(ステップS4)。
なお、本実施形態では、モジュール実行手順設定手段62による実行手順の設定を先に、結果フレーム画像又は結果フレーム画像データの出力の有無の設定を後に行っていたが、これに限らず先に結果フレーム画像又は結果フレーム画像データの出力設定を先に行ってもよい。
【0066】
以上のように画像処理モジュール及びこれに対応するパラメーターファイルの選択及び実行手順の設定が終了したら、書込手段8は、操作者が画面G1上の書込ボタンG10をクリックするか否かを監視し(ステップS5)、クリックされた画面G1上で設定されたテーブルT1をハードディスク装置4に書き込み記録保存する(ステップS6)。
なお、操作者による実行手順の書き込みは、本実施形態ではこのタイミングで行っているが、実際には、モジュール実行手段63によるすべての画像処理モジュールの実行処理後、又はモジュール実行手段63の実行中のいずれのタイミングでも可能とすることができる。
【0067】
次に、結果グループ化条件設定手段65は、操作者が画面G1上の結果グループ化条件設定ボタンG9をクリックすることで開始される結果グループ化条件設定処理を行う(ステップS7)。
なお、操作者による結果グループ条件設定処理は、本実施形態ではこのタイミングで行っているが、実際には、モジュール実行手段63によるすべての画像処理モジュールの実行処理前、又はモジュール実行手段63の実行中のいずれのタイミングでも可能とすることができる。
【0068】
図6に、本実施形態における結果グループ化条件設定処理の処理例のフローチャートを示す。例えば演算処理装置2は、メモリー3に記憶された図6に示す処理例に対応したプログラムを読み込み該プログラムに対応した処理を実行することで、図6に示す処理を行うことができる。図6の処理は、結果グループ化条件設定手段65により実行される。
【0069】
結果グループ化条件設定手段65は、操作者が画面G1上の結果グループ化条件設定ボタンG9をクリックするか否かを監視し(ステップS20)、クリックされるとディスプレイ5上に図4に示される結果グループ化条件設定画面G20を表示させ、結果グループ化条件の設定を促す。
【0070】
結果グループ化条件設定手段65は、図4に示されるような結果グループ化条件設定画面G20において、操作者がラジオボタンG21〜G23やテキストフィールドG24〜G26で選択し、ボタンG27をクリックすることで、ラジオボタンG21〜G23及びテキストフィールドG24〜G26で設定した結果グループ化条件を設定する(ステップS21)。
【0071】
以上のように結果グループ化条件の設定が終了したら、結果グループ化条件書込手段81は、操作者が画面G1上の書込ボタンG10又は図示しない専用の書込ボタンをクリックするか否かを監視し(ステップS22)、クリックされた結果グループ化条件設定画面G20上で設定された結果グループ化条件に対応する結果グループ化条件設定情報をハードディスク装置4に書き込み記録保存する(ステップS23)。
【0072】
次に、図5に示すように、モジュール実行手段63は、テーブルT1で設定された順番に従って選択された画像処理モジュールを実行する。
まず、モジュール実行手段63は、テーブルT1の第1行目の記載に基づいて、入力フレーム画像データVIDEOの読み込みを行う(ステップS8)。
続いて、モジュール実行手段63は、テーブルT1の第3行目(第2行目は実行せず)に記載されたパラメーターファイル名に基づいて、パラメーターを読み出し(ステップS9)、同行の画像処理モジュール名に基づいて、メモリー3内を検索して該当する画像処理モジュールを取得する(ステップS10)。
モジュール実行手段63は、検索した画像処理モジュールを実行し、入力フレーム画像データVIDEOに画像処理を施す(ステップS11)。
【0073】
画像処理モジュールによる画像処理が終了したら、出力手段7の結果表示部71は、当該画像処理モジュールのテーブルT1の結果画像出力の有無を判定し(ステップS12)、「有」が設定されていたら、ディスプレイ5上に画像処理の結果フレーム画像を表示する(ステップS13)。
また、出力手段7の結果書込部72は、同様に、テーブルT1のデータ出力の有無を判定し(ステップS14)、「有」に設定されていたら、結果フレーム画像データをハードディスク装置4に書き込み、記憶保存する(ステップS15)。
【0074】
続いて、モジュール実行手段63による画像処理モジュールの実行が終了すると、結果グループ化実行手段66は、結果グループ化処理を行う(ステップS16)。
なお、操作者による結果グループ化処理は、本実施形態ではこのタイミングで行っているが、実際には、各画像処理モジュールの実行後であれば、結果表示処理中又は結果保存処理中のいずれのタイミングでも可能とすることができる。
【0075】
図7に、本実施形態における結果グループ化処理の処理例のフローチャートを示す。例えば演算処理装置2は、メモリー3に記憶された図7に示す処理例に対応したプログラムを読み込み、該プログラムに対応した処理を実行することで図7に示す処理を行うことができる。図7の処理は、結果グループ化実行手段66により実行される。
図8(A)、図8(B)に、結果グループ化実行手段66により参照されるFIFOバッファー82の説明図を示す。
【0076】
結果グループ化実行手段66は、モジュール実行手段63による画像処理モジュールの実行状況を監視しており、モジュール実行手段63による画像処理モジュールの実行が全画素について終了したか否かを判定する(ステップS30)。
モジュール実行手段63による画像処理モジュールの実行が全画素について終了していないとき(ステップS30:N)、結果グループ化実行手段66は、結果グループ化条件設定手段65により設定された結果グループ化条件のうち演算方法とその演算対象の指定画素の情報に従って、入力フレーム画像の画素値と結果フレーム画像の画素値に対して指定された演算を行う(ステップS31)。結果グループ化実行手段66は、入力フレーム画像の画素値と結果フレーム画像の画素値とを用いて、図4の結果グループ化条件設定画面G20上のラジオボタンG21、G22で指定されるように入力フレーム画像と結果フレーム画像との差分情報を公知の演算方法により求める。
【0077】
次に、結果グループ化実行手段66により求められた演算結果は、結果書込部72によりハードディスク装置4に書き込まれて保存され(ステップS32)、再び、結果グループ化実行手段66が、モジュール実行手段63による画像処理モジュールの実行状況の監視を継続する(ステップS30)。
【0078】
モジュール実行手段63による画像処理モジュールの実行が全画素について終了したとき(ステップS30:Y)、結果グループ化実行手段66は、1フレーム分の指定演算の演算結果を指定された集計方法で集計した結果を算出する(ステップS33)。例えば、指定された集計方法が平均の場合には、各画素間での指定演算結果の合計値を1フレーム画像の全画素数で除算して求める。或いは、例えば、指定された集計方法が最大の場合には、各画素間での指定演算結果の最大値を抽出する。結果グループ化実行手段66は、このように求められた集計結果は、FIFOバッファー82に追加保存する(ステップS34)。
【0079】
続いて、結果グループ化実行手段66は、FIFOバッファー82に保存された過去の1又は複数フレーム数分の集計結果を、指定された集計方法で更に平均値又は最大値を求め、過去フレーム分集計値をして求める(ステップS35)。例えば、当該フレームが第M(Mは自然数)のフレームとし、FIFOバッファー82がL(Lは2以上の整数)フレーム数分の集計結果を保存するものとすると、結果グループ化実行手段66は、例えば第Mのフレーム〜第(M−(L−1))フレームの集計結果を参照して、これらの平均値又は最大値を過去フレーム分集計値として求める。そして、結果グループ化実行手段66は、図4のテキストフィールドG24で指定された集計結果範囲で、「0」を基準に、ステップS35で求めた過去フレーム分集計値に基づいて当該フレームのグループ化を行う(ステップS36)。
【0080】
ステップS36によるグループ化の結果、前フレームと同じグループであるとき(ステップS37:Y)、結果グループ化実行手段66は、当該フレームの結果フレーム画像データを前のフレームと連結して動画ファイルとして追加保存して(ステップS40)、ステップS30に戻る。例えばシーンチェンジ後は、画像処理の結果が急変する可能性があり、別のグループに振り分けられる。或いは、突飛なノイズ等は、FIFOバッファー82を用いた集計により、考慮される同一グループに振り分けられるようにすることができる。なお、動画ファイルとして追加保存するのに加えて、グループ化の結果、振り分けられたグループ名と当該フレーム画像のフレーム番号等の識別情報を関連付けて保存することが望ましい。
【0081】
ステップS37において、ステップS36によるグループ化の結果、前フレームと同じグループではないとき(ステップS37:N)、結果グループ化実行手段66は、新規に当該フレームの結果フレーム画像が振り分けられたグループの動画ファイルを作成し(ステップS38)、FIFOバッファー82の記憶内容をクリアし(ステップS39)、当該フレームの結果フレーム画像データを新規作成した動画ファイルに保存し(ステップS40)、ステップS30に戻る。なお、ステップS38では、図4のテキストフィールドG26で指定された直近の残像フレーム数分の記憶内容を残して、残りのフレームの集計結果をFIFOバッファー82からクリアする。例えば、図8(B)に示すように、当該フレームが第Mのフレーム、残像フレーム数分として「3」が指定されているとすると、ステップS38では、第(M−1)のフレーム〜第(M−3)のフレームの集計結果を残して、残りのフレームの集計結果がFIFOバッファー82からクリアされる。
【0082】
ところで、結果グループ化実行手段66により実行される結果グループ化処理としては、一連の画像処理結果を、予め設けられた複数のグループのうちのいずれかに振り分けて保存させたりしてもよいし、単に、フレーム番号と振り分け先のグループとを関連付けて保存するようにしてもよい。
【0083】
以降、図5に示すように、モジュール実行手段63は、次に実行すべき画像処理モジュールがあるか否かをテーブルT1から判定し(ステップS17)、あればステップS9からを繰り返し、モジュール実行手段63は、次の入力フレーム画像があるか否かを判定し(ステップS18)、あればステップS8からの処理を繰り返し、なければシミュレーションを終了する(エンド)。
【0084】
以上のように、結果グループ化実行手段66は、当該フレームのフレーム画像に対して画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、FIFOバッファー82に記憶される当該フレームより過去の1又は複数の過去フレーム画像に対する過去フレーム処理後画像データに対する所与の演算結果とを用いて、現フレーム処理後画像データに対してグループ化を実行することができる。
また、結果グループ化実行手段66は、現フレーム処理後画像データを、FIFOバッファー82に記憶される過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、FIFOバッファー82の少なくとも一部の記憶内容をクリアする。これにより、目の残像による影響を考慮したシミュレーションを可能となる。
【0085】
ここで、本実施形態の動作例について説明する。
【0086】
図9(A)〜図9(E)に、パラメーターファイルの一例を示す。図9(A)〜図9(E)は、画像処理モジュールが色変換処理(画像処理)を行う場合に、RGBのうちR成分の色変換処理に適用されるパラメーターファイルの一例を模式的に表す。
図10(A)〜図10(C)に、図9(A)〜図9(E)のパラメーターの説明図を示す。図10(A)は、図9(A)のパラメーターの説明図を表し、図10(B)は、図9(D)のパラメーターの説明図を表し、図10(C)は、図9(E)のパラメーターの説明図を表す。
図11に、本実施形態の動作例の説明図を示す。
【0087】
図9(A)〜図9(E)のそれぞれには、R成分の画素値xに対する補正量yが離散的に設定され、画像処理モジュールは、設定されない画素値に対しては、公知の補間処理によって補正量を求めることができるようになっている。従って、例えば図10(A)〜図10(C)は、補正前後の画素値が等しくなる基準線P1〜P3を基準にすると、それぞれ異なる色変換処理を行う。
【0088】
本実施形態では、例えば動画像を構成する複数のフレーム画像IMGin1〜IMGin6・・・の各フレーム画像毎に、前述の色変換処理を含む1又は複数の画像処理の実行順序を変更しながら、各画像処理のパラメーターを複数の種類設定することで、複数の結果フレーム画像が得られる。そして、図11に示すように、結果フレーム画像毎に対応する入力フレーム画像との差分情報を演算して数値化し、演算結果をグループ化して、例えば画像処理結果が異なる結果フレーム画像IMGO1〜IMGO6・・・をそれぞれ別のグループにグループ化することで、目視による画像処理結果の効果の定性的及び定量的な評価を容易化できるようになる。
【0089】
このようにして、それぞれが適用されるパラメーターを異ならせることが可能な画像処理モジュールの組み合わせを種々シミュレーションして、最適な画像処理結果となるような画像処理モジュールの選択、及び実行手順を求め、部分画像処理回路を実装する画像処理回路の設計を行う。
具体的には、画像処理モジュールの実行手順と同じような画像処理手順となるように、画像処理回路における部分画像処理回路に実装レイアウトを設計すればよい。
【0090】
なお、画像処理による画質の劣化は、局所的に生じるものばかりではなく、フレーム画像の画面全体に生じる色ムラや、高解像度から低解像度への変換時に生じるジャギーやブロックノイズ、画面全体のぼやけとして現れることがあり、これらの画質劣化は、目視の比較により評価することができる。
【0091】
また、画像処理モジュールの組み合わせを、画面G1上で操作者が自由に設定できるため、多数ある画像処理モジュールの選択と、画像処理の順番を簡単に変更してシミュレーションを行うことができるため、最適な画像処理モジュールの組み合わせを容易にかつ短時間で見出しやすくなる。
さらに、結果書込部72がハードディスク装置4に結果画像データを書き込むことが可能となっているため、入力フレーム画像データVIDEOとの比較評価を、コンピューター上で公知の評価ソフトウェアを実行することにより、行うことも可能である。比較評価の方法としては、例えば、各画素の輝度、色ムラ等を数値化して対比し、統計的処理を行って一定の閾値を超えるような変化をしていれば、画質劣化とみなし、それを超えなければ画質劣化はないと判定するような方法を採用することができる。
【0092】
なお、本実施形態における画像処理モジュールが実行する画像処理として、例えばフレーム画像の画面全体に一律にガンマ曲線を異ならせる色変換処理を例に説明したが、本発明はこれに限定されるものではない。例えば、画像処理モジュールが実行する画像処理として、フレーム画像の画面を分割した領域毎にガンマ曲線を異ならせる色ムラ補正処理を採用し、光学系の色ムラを補正する目標画像を入力フレーム画像とし、結果フレーム画像のサンプリング画素間のΔEuvの最大値が小さくなるようなパラメーターの組み合わせを求め、色ムラ補正の効果が得られる画像処理モジュールの組み合わせを見つけるようにしてもよい。
或いは、例えば、画像処理モジュールが実行する画像処理として、3次元ルックアップテーブル変換処理を採用し、グラデーション画像の入力フレーム画像に対して結果フレーム画像の各画素のエッジ値を求め、その最大値が小さくなるようなパラメーターの組み合わせを求め、コントラスト強調やエッジ強調の際に擬似輪郭の発生を低減できる画像処理モジュールの組み合わせを見つけるようにしてもよい。
【0093】
なお、本実施形態では、結果グループ化条件の設定処理を、図4に示すように、元の入力フレーム画像データと該入力フレーム画像データに対して画像処理モジュールによる画像処理が行われた結果フレーム画像データとの差分情報を演算する演算方法、この差分情報の演算対象となる画素の指定方法、上記の差分情報の集計方法、及び上記の差分情報をグループ化する範囲の指定方法を例に説明したが、本発明はこれに限定されるものではない。例えば、元の入力フレーム画像データと結果フレーム画像データとの差分情報を演算する演算方法、この差分情報の演算対象となる画素の指定方法、上記の差分情報の集計方法、及び上記の差分情報をグループ化する範囲の指定方法うち、少なくとも1つを、結果グループ化条件の設定処理において設定するようにしてもよい。
【0094】
また、本実施形態では、差分情報を演算する演算方法として、差分情報の演算対象となる画素間の明度の差分、画素間の彩度及び色相の差分、画素間の色差、及び入力フレーム画像データと画像処理後のフレーム画像データとに基づくエッジ値の差分を例に説明したが、本発明はこれに限定されるものではない。差分情報を演算する演算方法として、例えば差分情報の演算対象となる画素間の明度の差分、画素間の彩度及び色相の差分、画素間の色差、及び入力フレーム画像データと画像処理後のフレーム画像データとに基づくエッジ値の差分の少なくとも1つを含んでいればよい。
【0095】
また、本実施形態では、現フレーム処理後画像データを、FIFOバッファー82に記憶される過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、現フレーム処理後画像データに対する演算結果と、FIFOバッファー82に記憶される少なくとも1フレーム分の過去フレーム処理後画像データに対する演算結果とを用いて、現フレーム処理後画像データに対してグループ化を実行するようにしてもよい。
さらに、本実施形態では、FIFOバッファー82を書込手段8に内蔵させているモノとして説明したが、本発明はこれに限定されるものではなく、FIFOバッファー82が書込手段8の外部に設けられていてもよい。
さらにまた、本実施形態では、FIFOバッファー82を用いて複数の過去フレームの指定演算結果を参照して、当該フレームの指定演算結果に基づきグループ化を行っていたが、本発明はこれに限定されるものではない。例えば、直前のフレームの指定演算結果のみを参照して当該フレームの指定演算結果に基づきグループ化を行ってもよい。この場合、シーンチェンジを抽出できたり、意図しない画像処理後の画像変化を抽出できるようになる。なお、直前のフレームの指定演算結果のみを参照して当該フレームの指定演算結果に基づくグループ化は、上記のFIFOバッファー82を用いて複数の過去フレームの指定演算結果を参照した当該フレームの指定演算結果に基づくグループ化に代えて、或いは上記のFIFOバッファー82を用いて複数の過去フレームの指定演算結果を参照した当該フレームの指定演算結果に基づくグループ化と同時に行ってもよい。
【0096】
以上説明したように、本実施形態によれば、画像処理の順序を簡単に変更して複数の画像処理の組み合わせを簡単にシミュレーションできるようにしたので、所望の画像処理結果が得られる画像処理モジュールの選択、及び実行手順を容易に見つけることができ、これに対応した画像処理回路の提供ができるようになる。その結果、エラー検証時間を短縮化でき、画像処理回路の製造コストの削減が可能となる。
また、画像処理回路を構成する部分画像処理回路の種類が増えたとしても、それぞれの実行順序や最適なパラメーターの選択が、確実、かつ、容易に行うことができ、これらのパラメーターの組み合わせに依存して露見するエラーの検証も容易化できる。なお、画素数が増大したとしても、画像処理の実行順序や最適なパラメーターの選択が、確実、かつ、容易にできることには変わりない。
【0097】
さらに、一連の画像処理後の結果フレーム画像をグループ化することにより、目視による効果の定性的及び定量的な評価が容易となり、結果フレーム画像の検証をより効率化できるようになる。
また、一連の画像処理の追加及び削除、各画像処理に適用されるパラメーターの変更があったとしても上記の評価が容易となり、拡張性に富む画像処理の評価が可能となる。
さらに、多種多様なフレーム画像に対して画像処理を行い、その画像処理結果をグループ化することで、各画像処理に適用されるパラメーターの変更による効果を、容易に把握できるという効果が得られる。
さらに、映像によっては、ディスプレイの特性に合わせて、フレーム毎に画素を明滅させたり、色を変えたりする等、目では捉えきれない連続フレームゆえの効果のための処理をしている場合がある。本実施形態では、FIFOバッファー82を用いて過去のフレームの処理結果の集計値を参照するようにしたので、目に捉えられないフレーム毎の影響を抑えたり、残像等の目で捉えられる連続したフレーム効果をシミュレートしたりすることができる。
【符号の説明】
【0098】
1…シミュレーション装置、 2…演算処理装置、 3…メモリー、
4…ハードディスク装置、 5…ディスプレイ、 6…モジュール管理手段、
7…出力手段、 8…書込手段、 61…モジュール選択手段、
62…モジュール実行手順設定手段、 63…モジュール実行手段、
64…パラメーター選択手段、 65…結果グループ化条件設定手段、
66…結果グループ化実行手段、 71…結果表示部、 72…結果書込部、
81…結果グループ化条件書込手段、 82…FIFOバッファー、
B1,B2,G24〜G26…テキストフィールド、 G1…画面、
G2…チェックボックス、 G3,G27,G28…ボタン、 G4…矩形、
G5,G6…実行手順変更ボタン、 G7…実行ボタン、 G8…読出ボタン、
G9…結果グループ化条件設定ボタン、 G10…書込ボタン、
G20…結果グループ化条件設定画面、 G21,G22,G23…ラジオボタン、
P1〜P3…基準線、 T1…テーブル、 VIDEO…入力フレーム画像データ
【特許請求の範囲】
【請求項1】
複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション装置であって、
前記画像処理回路に対応する機能を具備する画像処理モジュールと、
前記画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行手段と、
前記モジュール実行手段で実行された画像処理モジュールによる前記画像処理が行われた画像データに対してグループ化を実行する結果グループ化実行手段と、
当該フレームより前の1又は複数のフレームの各フレーム画像に対して前記画像処理が行われた過去フレーム処理後画像データに対する所与の演算結果を記憶する記憶手段とを含み、
前記結果グループ化実行手段は、
前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項2】
請求項1において、
前記結果グループ化実行手段は、
前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記記憶手段の少なくとも一部の記憶内容をクリアすることを特徴とする画像処理回路のシミュレーション装置。
【請求項3】
請求項1において、
前記結果グループ化実行手段は、
前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記現フレーム処理後画像データに対する前記演算結果と、前記記憶手段に記憶される少なくとも1フレーム分の前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項4】
請求項1乃至3のいずれかにおいて、
前記結果グループ化実行手段は、
入力フレーム画像データと該入力フレーム画像データに対して前記画像処理モジュールによる画像処理が行われた処理後画像データとの差分情報に基づいて前記グループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項5】
請求項1乃至4のいずれかにおいて、
前記画像処理モジュールの画像処理結果のグループ化条件を設定する結果グループ化条件設定手段を含み、
前記結果グループ化実行手段は、
前記結果グループ化条件設定手段によって設定された前記グループ化条件に基づいて、入力フレーム画像の画像処理後の画像データ毎にグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項6】
請求項1乃至5のいずれかにおいて、
前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果のフレーム数は、設定可能に構成されていることを特徴とする画像処理回路のシミュレーション装置。
【請求項7】
請求項1乃至6のいずれかにおいて、
前記画像処理回路を構成する複数の部分画像処理回路のそれぞれに対応する機能を具備する複数の画像処理モジュールと、
前記複数の画像処理モジュールのうち、実行する画像処理モジュールを選択するモジュール選択手段とを含み、
前記モジュール実行手段が、
前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力されるフレーム画像の画像データの画像処理を行い、
前記結果グループ化実行手段が、
前記モジュール実行手段で実行された複数の画像処理モジュールによる画像処理が行われた画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項8】
請求項7において、
前記モジュール選択手段で選択された画像処理モジュールの実行手順を設定するモジュール実行手順設定手段を含み、
前記モジュール実行手段が、
前記モジュール実行手順設定手段で設定された実行手順に従って、前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力フレーム画像の画像データの画像処理を行うことを特徴とする画像処理回路のシミュレーション装置。
【請求項9】
請求項7又は8において、
前記複数の画像処理モジュールは、少なくとも、解像度変換モジュール、色変換モジュール、及びガンマ特性変換モジュールを含むことを特徴とする画像処理回路のシミュレーション装置。
【請求項10】
複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション方法であって、
前記画像処理回路に対応する機能を具備する画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行ステップと、
前記モジュール実行ステップにおいて実行された画像処理モジュールによる前記画像処理が行われた各フレーム画像の画像データに対してグループ化を実行する結果グループ化実行ステップとを含み、
前記結果グループ化実行ステップは、
前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション方法。
【請求項11】
画像処理回路の設計方法であって、
請求項10記載の画像処理回路のシミュレーション方法を実施して、画像処理モジュールの組み合わせを求めた後、
前記画像処理回路における部分画像処理回路の組み合わせを決定することを特徴とする画像処理回路の設計方法。
【請求項12】
請求項10記載の画像処理回路のシミュレーション方法を、コンピューターに実行させることを特徴とする画像処理回路のシミュレーションプログラム。
【請求項1】
複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション装置であって、
前記画像処理回路に対応する機能を具備する画像処理モジュールと、
前記画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行手段と、
前記モジュール実行手段で実行された画像処理モジュールによる前記画像処理が行われた画像データに対してグループ化を実行する結果グループ化実行手段と、
当該フレームより前の1又は複数のフレームの各フレーム画像に対して前記画像処理が行われた過去フレーム処理後画像データに対する所与の演算結果を記憶する記憶手段とを含み、
前記結果グループ化実行手段は、
前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項2】
請求項1において、
前記結果グループ化実行手段は、
前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記記憶手段の少なくとも一部の記憶内容をクリアすることを特徴とする画像処理回路のシミュレーション装置。
【請求項3】
請求項1において、
前記結果グループ化実行手段は、
前記現フレーム処理後画像データを、前記記憶手段に記憶される前記過去フレーム処理後画像データが振り分けられたグループと異なるグループに振り分けるとき、前記現フレーム処理後画像データに対する前記演算結果と、前記記憶手段に記憶される少なくとも1フレーム分の前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項4】
請求項1乃至3のいずれかにおいて、
前記結果グループ化実行手段は、
入力フレーム画像データと該入力フレーム画像データに対して前記画像処理モジュールによる画像処理が行われた処理後画像データとの差分情報に基づいて前記グループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項5】
請求項1乃至4のいずれかにおいて、
前記画像処理モジュールの画像処理結果のグループ化条件を設定する結果グループ化条件設定手段を含み、
前記結果グループ化実行手段は、
前記結果グループ化条件設定手段によって設定された前記グループ化条件に基づいて、入力フレーム画像の画像処理後の画像データ毎にグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項6】
請求項1乃至5のいずれかにおいて、
前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果のフレーム数は、設定可能に構成されていることを特徴とする画像処理回路のシミュレーション装置。
【請求項7】
請求項1乃至6のいずれかにおいて、
前記画像処理回路を構成する複数の部分画像処理回路のそれぞれに対応する機能を具備する複数の画像処理モジュールと、
前記複数の画像処理モジュールのうち、実行する画像処理モジュールを選択するモジュール選択手段とを含み、
前記モジュール実行手段が、
前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力されるフレーム画像の画像データの画像処理を行い、
前記結果グループ化実行手段が、
前記モジュール実行手段で実行された複数の画像処理モジュールによる画像処理が行われた画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション装置。
【請求項8】
請求項7において、
前記モジュール選択手段で選択された画像処理モジュールの実行手順を設定するモジュール実行手順設定手段を含み、
前記モジュール実行手段が、
前記モジュール実行手順設定手段で設定された実行手順に従って、前記モジュール選択手段で選択された画像処理モジュールを順次実行し、入力フレーム画像の画像データの画像処理を行うことを特徴とする画像処理回路のシミュレーション装置。
【請求項9】
請求項7又は8において、
前記複数の画像処理モジュールは、少なくとも、解像度変換モジュール、色変換モジュール、及びガンマ特性変換モジュールを含むことを特徴とする画像処理回路のシミュレーション装置。
【請求項10】
複数のフレーム画像により構成される動画像に対して画像処理を行う画像処理回路の動作をシミュレーションする画像処理回路のシミュレーション方法であって、
前記画像処理回路に対応する機能を具備する画像処理モジュールを実行し、各フレーム画像に対して前記画像処理を行うモジュール実行ステップと、
前記モジュール実行ステップにおいて実行された画像処理モジュールによる前記画像処理が行われた各フレーム画像の画像データに対してグループ化を実行する結果グループ化実行ステップとを含み、
前記結果グループ化実行ステップは、
前記当該フレームのフレーム画像に対して前記画像処理が行われた現フレーム処理後画像データに対する所与の演算結果と、前記記憶手段に記憶される前記過去フレーム処理後画像データに対する前記演算結果とを用いて、前記現フレーム処理後画像データに対してグループ化を実行することを特徴とする画像処理回路のシミュレーション方法。
【請求項11】
画像処理回路の設計方法であって、
請求項10記載の画像処理回路のシミュレーション方法を実施して、画像処理モジュールの組み合わせを求めた後、
前記画像処理回路における部分画像処理回路の組み合わせを決定することを特徴とする画像処理回路の設計方法。
【請求項12】
請求項10記載の画像処理回路のシミュレーション方法を、コンピューターに実行させることを特徴とする画像処理回路のシミュレーションプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−35873(P2011−35873A)
【公開日】平成23年2月17日(2011.2.17)
【国際特許分類】
【出願番号】特願2009−183137(P2009−183137)
【出願日】平成21年8月6日(2009.8.6)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】
【公開日】平成23年2月17日(2011.2.17)
【国際特許分類】
【出願日】平成21年8月6日(2009.8.6)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】
[ Back to top ]