説明

情報処理装置と情報処理方法およびプログラム

【課題】処理対象のデータを用いた情報処理を効率よく行うことができるようにする。
【解決手段】第2フィルタ処理部205は、処理単位毎のデータを順に用いて情報処理を行い、情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る。データ補充部204は、第2フィルタ処理部205に供給される処理単位毎のデータにおいて、次に情報処理が行われる処理単位のデータの情報処理結果を得るために所定数に含まれるデータを抽出して補充データとして保持し、この保持した補充データと次に情報処理が行われる処理単位のデータを順に第2フィルタ処理部205に供給して情報処理を行わせる。このように補充データの保持および供給を行うことで、処理単位の入力に対する第2フィルタ処理部205から出力の割合を高めることが可能となり、メモリ帯域の削減、処理時間の短縮、消費電力の削減を図ることができる。

【発明の詳細な説明】
【技術分野】
【0001】
この技術は、情報処理装置と情報処理方法およびプログラムに関する。詳しくは、処理対象のデータを用いた情報処理を効率よく行えるようにする。
【背景技術】
【0002】
従来、処理対象のデータの情報処理例えば画像データのフィルタ処理では、処理性能を低下させることなく、処理に必要なメモリの容量および処理にかかる時間を削減するため、画像をストライプ状に分割して、分割画像領域毎にフィルタ処理が行われている。例えば特許文献1では、画像をストライプ状に分割して、分割画像領域毎に2次元フィルタ処理が行われている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2002−304624号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、フィルタ処理では1つ画素のフィルタ処理結果を得るためにタップ数分の画素データが必要である。したがって、分割画像領域のフィルタ処理結果を得るためには、画素データが記憶されているメモリから分割画像領域よりも広い領域の画素データを読み出す必要がある。また、多段のフィルタ処理を行う場合には、前段のフィルタからタップ数分の画素データが出力された後でないと、フィルタ処理結果を出力することができない。したがって、後段のフィルタでは、タップ数分の画素データが前段のフィルタから出力されるまで待ち時間を生じてしまう。
【0005】
特許文献1では、処理単位を横にずらす場合、横方向にデータの補充を行うので、処理の順番は縦方向の後に横方向の順、処理単位を縦にずらす場合は、縦方向にデータの補充を行うので、横方向の後に縦方向の順となる。しかし、何れの場合でも大きな内部メモリを必要とする部分が前段になり、入力データに比例した内部メモリが必要となる。したがって、大きな内部メモリを設けていない場合、特に撮像装置でよく使われる縮小では小さい出力サイズしか対応できないため、大きな出力サイズに対応するためには一連のフィルタ処理を繰り返さなければならない。
【0006】
そこで、この技術では、処理対象のデータを用いた情報処理を効率よく行うことができる情報処理装置と情報処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
この技術の第1の側面は、処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る情報処理部と、前記情報処理部に供給される処理単位毎のデータにおいて、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて前記情報処理を前記情報処理部で行わせるデータ補充部とを備える情報処理装置にある。
【0008】
この技術においては、処理単位毎のデータを順に用いて情報処理を行い、例えば処理単位毎の画像データを順に用いてフィルタ処理を行い、画像データのフィルタ処理では処理対象の画素位置を基準とした所定数の処理順の画素データが用いられる。ここで、処理単位毎の画像データにおいて、次に処理が行われる処理単位の画像データの情報処理結果を得るために所定数に含まれる画素データが抽出されて、補充データとして保持される。また、補充データと次に情報処理が行われる処理単位の画像データを順に用いて情報処理が行われた場合に、処理単位分の情報処理結果が得られるように補充データの抽出が行われる。画像データのフィルタ処理を多段で行う場合、例えば第1のフィルタ処理部から出力された処理結果から補充データを抽出して、この補充データを次の処理単位の処理結果が第1のフィルタ処理部から出力されるまでの期間を利用して次段の第2のフィルタ処理部に出力する。
【0009】
また、処理単位で画像データが読み出されるメモリでは、最初の処理単位のデータが、無効データの後に補充データが設けられるように、情報処理を行う画像データが処理単位の位置に対してずらして記憶される。また、補充データは、補充データが次の処理単位のフィルタ処理に用いられたのち、新たな画素データが補充データとして上書きされる。
【0010】
この技術の第2の側面は、処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る情報処理工程と、前記情報処理工程で用いる処理単位毎のデータにおいて、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて前記情報処理工程で前記情報処理を行わせるデータ補充工程とを含む情報処理方法にある。
【0011】
この技術の第3の側面は、情報処理をコンピュータで実行させるプログラムであって、処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る情報処理手順と、前記情報処理手順で用いる処理単位毎のデータにおいて、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて前記情報処理工程で前記情報処理を行わせるデータ補充手順とを前記コンピュータで実行させるプログラムにある。
【0012】
なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶メディア、通信メディア、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶メディア、あるいは、ネットワークなどの通信メディアによって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
【発明の効果】
【0013】
この技術によれば、処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータが用いられる。また、次に情報処理が行われる処理単位のデータの情報処理結果を得るために所定数に含まれるデータが補充データとして保持されて、この保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて情報処理が行われる。したがって、処理対象のデータを用いた情報処理を効率よく行うことができるようになる。
【図面の簡単な説明】
【0014】
【図1】撮像装置の構成を示す図である。
【図2】カメラ信号処理部の第1の構成を示す図である。
【図3】データ補充部の構成を示す図である。
【図4】データ補充部における入力制御部の動作を示すフローチャートである。
【図5】データ補充部における出力制御部の動作を示すフローチャートである。
【図6】5×5画素の領域の画素データを用いたフィルタ処理を説明するための図である。
【図7】画素データを保持する画素位置を示した図である。
【図8】処理対象画像を複数の処理単位に分割した図である。
【図9】処理対象画像と処理単位を例示した図である。
【図10】最初の処理単位BL1の処理動作を示す図である。
【図11】2番目の処理単位BL2の処理動作を示す図である。
【図12】3番目の処理単位BL3の処理動作を示す図である。
【図13】最後の処理単位BL4の処理動作を示す図である。
【図14】最後の処理単位BL4の第1フィルタ処理結果が保持されている場合の処理動作を示す図である。
【図15】従来のカメラ信号処理部の構成を示す図である。
【図16】従来の処理動作を示す図である。
【図17】画素データの入力と情報処理後の画素データの出力タイミングを示す図である。
【図18】処理単位をずらす向きと補充データを入力する領域および補充データとして出力する領域の関係を示す図である。
【図19】カメラ信号処理部の第2の構成を示す図である。
【図20】処理単位の位置と画像の関係を示す図である。
【図21】処理対象画像のサイズを示す図である。
【図22】最初の処理単位BR1の処理動作を示す図である。
【図23】2番目の処理単位BR2の処理動作を示す図である。
【図24】3番目の処理単位BR3の処理動作を示す図である。
【図25】最後の処理単位BR4の処理動作を示す図である。
【図26】処理単位を2倍である8画素幅とした場合の最初の処理単位の処理動作を示す図である。
【図27】処理単位を2倍である8画素幅とした場合の2番目の処理単位の処理動作を示す図である。
【図28】従来のカメラ信号処理部の構成を示す図である。
【図29】従来の処理単位の位置と画像の関係を示す図である。
【図30】従来の処理動作を示す図である。
【図31】画素データの入力とフィルタ処理後の画素データの出力タイミングを示す図である。
【図32】データ補充部の前段に縦方向のみのフィルタ処理を行うフィルタ処理部を設けた場合の処理動作を示す図である。
【図33】第1の構成の動作と第2の構成の動作を組み合わせた動作を示す図である。
【図34】フィルタ処理動作を示す図である。
【図35】従来のフィルタ処理順序の制約を説明するための図である。
【発明を実施するための形態】
【0015】
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.撮像装置の構成
2.カメラ信号処理部の第1の構成
3.データ補充部の構成と動作
4.第1の構成の動作
5.カメラ信号処理部の第2の構成
6.第2の構成の動作
7.第1の構成の動作と第2の構成の動作を組み合わせた動作
【0016】
<1.撮像装置の構成>
図1は、本技術の情報処理装置を適用した撮像装置の構成を例示している。撮像装置10は、撮像レンズ部11、撮像部12、カメラ信号処理部20、揮発性メモリ31、リサイズ処理部32、符号化/復号部33を備えている。さらに、撮像装置10は、表示インタフェース(I/F)41、表示部42、メディアインタフェース(I/F)43、記録メディア44、入力インタフェース(I/F)45、入力部46、制御部51、不揮発性メモリ52、バス53を備えている。バス53にはカメラ信号処理部20や揮発性メモリ31、リサイズ処理部32、符号化/復号部33、表示インタフェース41、メディアインタフェース43、入力インタフェース45、制御部51等が接続されている。
【0017】
撮像レンズ部11は、被写体光を撮像部12に導くための撮像光学系として機能するものである。撮像レンズ部11は、撮像部12の撮像面上に結像される光学像の焦点の調節を行うためのフォーカスレンズや、光学像の変倍を行うためのズームレンズ等が含まれている。
【0018】
撮像部12は、CMOS(Complementary Metal-Oxide Semiconductor )やCCD(Charge Coupled Device)等の固体撮像素子を用いて構成されている。撮像部12は、光電変換を行い、撮像レンズ部11によって受光面に結像された光学像に応じた撮像信号を生成してカメラ信号処理部20に出力する。
【0019】
カメラ信号処理部20は、揮発性メモリ31をワーキングメモリとして利用して、撮像信号の前処理や現像処理を行う。さらに、本技術の情報処理装置(情報処理方法)がカメラ信号処理部20に適用されて、処理対象のデータを基準とした所定数の処理順のデータを用いた情報処理、例えばタップ数分のデータを用いてフィルタ処理等を行う。なお、カメラ信号処理部20の詳細については後述する。
【0020】
揮発性メモリ31は、撮像装置10で種々の信号処理を行うためのワーキングメモリとして用いられる。また、揮発性メモリ31は、撮像装置10で所望の動作を行うための種々の情報の一時記憶領域等としても用いられる。
【0021】
リサイズ処理部32は、揮発性メモリ31に記憶されているカメラ信号処理後の画像データを読み出して、所望の解像度(画素数)の画像に変換する。例えば、リサイズ処理部32は、カメラ信号処理が行われた画像データを表示部42の表示解像度に対応した画像データに変換する。また、リサイズ処理部32は、ユーザにより指示された解像度に変換して、記録メディア44に記録できるようにする。また、画像の一部領域を切り出してこの解像度の変換処理を実行して、電子ズームや再生ズームの処理が行われた画像データを生成する。
【0022】
符号化/復号部33は、画像データのデータ圧縮処理を行い、得られた符号化データを揮発性メモリ31に記憶させる。また、符号化/復号部33は、符号化データを記録メディア44に記憶させる。また、記録メディア44に記録されていた符号化データや揮発性メモリ31に記憶されている符号化データの復号処理を行い、得られた画像データを揮発性メモリ31や、表示インタフェース41を介して表示部42等に出力する。なお、符号化/復号処理は、静止画にあってはJPEG(Joint Photographic Coding Experts Group )の手法が適用される。また、動画にあっては、ISO/IEC JTC1/SC29WG11のMPEG1(Motion Picture Experts Group 1)、MPEG2(Motion Picture Experts Group 2)、MPEG4(Motion Picture Experts Group 4)、ITU−TのH.263,H.264/MPEG4−AVC(Advanced Video Coding)等、動きベクトルを用いたデータ圧縮手法が適用される。
【0023】
表示インタフェース41は、揮発性メモリ31から読み出されたリサイズ処理後の画像データ等を表示部42に供給する。また、表示インタフェース41は、撮像装置10に搭載される機能を選択するためのメニュー表示や撮像装置10の設定状態を示す設定状態表示等を行うために例えば制御部51で生成された表示制御信号を表示部42に供給する。
【0024】
表示部42は、液晶や有機EL等の平面表示素子を用いて構成されている。表示部42は、表示インタフェース41を介して供給された画像データに基づき、撮像動作時のモニタ画像や揮発性メモリ31に記憶されている画像、記録メディア44に記録されている画像等の表示や、メニュー表示、設定状態表示等を行う。
【0025】
メディアインタフェース43は、記録メディア44に対してデータの記録や記録されているデータの読み出しを行うためのインタフェースである。記録メディア44は、半導体メモリカードまたは磁気や光を用いて記録再生を行うディスク状記録メディア等が用いられる。
【0026】
入力インタフェース45には入力部46が接続されている。入力部46は、操作スイッチやタッチパネル等で構成されており、ユーザ操作に応じた操作信号を生成して入力インタフェース45を介して制御部51に出力する。
【0027】
制御部51は、CPU(Central Processing Unit)等用いて構成されている。制御部51は、例えば不揮発性メモリ52に記憶されているプログラムを実行して、撮像装置10の動作がユーザ操作に応じた動作となるように制御信号を生成して、バス53を介して各部に供給する。なお、プログラムは、事前に撮像装置10にインストールされて提供される。また、事前のインストールによる提供に代えて、インターネット等のネットワークを介したインストールによる提供を行ってもよく、記録メディアを利用して提供してもよい。
【0028】
<2.カメラ信号処理部の第1の構成>
図2は、カメラ信号処理部の第1の構成を示している。カメラ信号処理部20naは、前処理部201、現像部202、第1フィルタ処理部203、データ補充部204、第2フィルタ処理部205を有している。
【0029】
前処理部201は、撮像部12から供給された撮像信号のアナログ増幅処理やA/D変換処理等の前処理を行い、前処理が行われた画像データ(現像前画像データ))を揮発性メモリ31に記憶させる。現像部202は、現像前画像データを読み出して、デモザイク処理や明るさ補正や色補正およびホワイトバランス調整等の補正処理を現像処理として行い、現像後画像データを揮発性メモリ31に記憶させる。
【0030】
カメラ信号処理部20naでは、第1フィルタ処理部203と第2フィルタ処理部205とで多段のフィルタ処理が行われる。第1フィルタ処理部203は、例えばノイズ除去部であり、現像後画像データを処理単位毎に読み出して帯域制限等を行い、画像データのノイズ成分を除去する。第2フィルタ処理部205は、例えばボケ補正部であり、ノイズ除去後の画像データを用いて、画像のディテールや輪郭部分等を強調するフィルタ処理を行い、画像のボケを補正する。ノイズ除去およびボケ補正が行われた画像データ(リサイズ前画像データ)は、揮発性メモリ31に記憶される。
【0031】
データ補充部204は、第1フィルタ処理部203でフィルタ処理が行われた画像データであって、その後、第2フィルタ処理部205で処理単位毎にフィルタ処理を行うときに用いられる画像データを補充データとして、揮発性メモリ31に記憶させる。また、データ補充部204は、第2フィルタ処理部205で処理単位毎にフィルタ処理を行う際に必要とされる画素データを、補充データとして揮発性メモリ31から読み出して第2フィルタ処理部205に出力する。また、データ補充部204は、第2フィルタ処理部205の出力が例えば処理単位のデータ数となるように、画素データを保持して補充データとする。
【0032】
リサイズ処理部32は、揮発性メモリ31に記憶されているリサイズ前画像データを読み出して、所望の解像度(画素数)の画像に変換する処理等を行う。リサイズ処理部32は、リサイズ後の画像データ(圧縮前画像データ)を揮発性メモリ31に記憶させる。符号化/復号部33は、圧縮前画像データの符号化処理を行い、得られた符号化データを揮発性メモリ31に記憶させる。
【0033】
<3.データ補充部の構成と動作>
図3は、データ補充部の構成を示している。データ補充部204は、入力制御部204aと出力制御部204bを備えている。入力制御部204aは、第1フィルタ処理部203から供給されたデータを出力制御部204bと第2フィルタ処理部205に出力する。また、入力制御部204aは、第2フィルタ処理部205で処理単位毎にフィルタ処理を行うときに必要となる補充データを揮発性メモリ31から読み出して、第2フィルタ処理部に出力する。出力制御部204bは、第2フィルタ処理部205で次の処理単位のフィルタ処理を行うときに必要となる画素データを抽出して補充データとして、揮発性メモリ31に記憶させる。
【0034】
図4は、データ補充部における入力制御部の動作を示すフローチャートである。ステップST11で入力制御部204aは、次のラインの入力データがあるか判別する。入力制御部204aは、次のラインの入力データがある場合にステップST12に進み、次のラインの入力データがない場合に1処理単位の動作を終了する。
【0035】
ステップST12で入力制御部204aは、補充データがあるか判別する。入力制御部204aは、フィルタ処理する処理単位の領域に対して補充データが揮発性メモリ31に記憶されている場合にステップST13に進み、記憶されていない場合にステップST15に進む。
【0036】
ステップST13で入力制御部204aは、1ライン分の補充データの読み出しが終了したか判別する。入力制御部204aは、1ライン分の補充データの読み出しが終了していない場合にはステップST14に進み、終了している場合にはステップST15に進む。
【0037】
ステップST14で入力制御部204aは、補充データの読み出しを行ってステップST13に戻る。
【0038】
ステップST15で入力制御部204aは、1ライン分の入力データの読み出しが終了したか判別する。入力制御部204aは、1ライン分の入力データの読み出しが終了していない場合にはステップST16に進み、1ライン分の入力データの読み出しが終了した場合にはステップST11に戻る。
【0039】
ステップST16で入力制御部204aは、入力データの読み出しを行ってステップST15に戻る。
【0040】
図5は、データ補充部における出力制御部の動作を示すフローチャートである。ステップST21で出力制御部204bは、補充データを含む入力データがあるか判別する。出力制御部204bは、第2フィルタ処理部でフィルタ処理を行う際に必要とされる画素データいわゆる糊代領域の画素データを含む入力データがある場合にステップST22に進み、補充データを含む入力データがない場合に処理を終了する。
【0041】
ステップST22で出力制御部204bは、保持すべきデータ位置か判別する。出力制御部204bは、入力データが糊代領域の位置のデータである場合にステップST23に進み、糊代領域でない位置のデータである場合にステップST21に戻る。
【0042】
ステップST23で出力制御部204bは、データの保持を行う。出力制御部204bは、糊代領域の位置の入力データを補充データとして揮発性メモリ31に保持させてステップST21に戻る。
【0043】
このような処理を入力制御部204aと出力制御部204bで行うと、処理単位の入力データに糊代領域の補充データがライン毎に加えられて、第2フィルタ処理部に出力される。また、入力データにおいて、次の処理単位で糊代領域の位置となる画素データが補充データとして揮発性メモリ31に記憶される。
【0044】
<4.第1の構成の動作>
図6は、5×5画素の領域の画素データを用いたフィルタ処理を説明するための図である。図6の(A)に示すように、5×5画素の領域を画素単位で順次移動して、各領域の位置毎に画素データを読み出してフィルタ演算を行うと、繰り返して画素データの読み出しを行う画素が多い。例えば点線で示す領域の次に実線で示す領域の画素データを読み出してフィルタ演算を行う場合、重複する領域の画素データの読み出しが繰り返される。このため、読み出した画素データを保持しておき、保持された画素データを再利用すれば、画素データの読み出しを行う画素を少なくできる。図6の(B)は、5×5画素の領域を画素単位で右方向に順次移動する場合を示しており、24画素分の画素データは例えば内部メモリに記憶されていることから右下隅の1画素分の画素データを読み出すだけで、フィルタ処理を行うことができる。
【0045】
ところで、読み出した画素データを保持しておく場合、処理画像の横幅や縦幅が大きいと、保持しておかなければならない画素データが増加して、容量の大きい内部メモリ等が必要となる。図7は、画素データを保持する画素位置を示している。例えば、5×5画素の領域を横方向に移動させる場合、図7の(A)に示す画素位置の画素データを保持しておき、太線で示す24画素の画素データがフィルタ演算で再利用される。また、例えば、5×5画素の領域を縦方向に移動させる場合には、図7の(B)に示す画素位置の画素データを保持しておき、太線で示す24画素の画素データがフィルタ演算で再利用される。なお、5×5画素の領域が1画素分移動される場合、フィルタ演算に用いた5×5画素の領域において、左上隅の画素データを削除して、読み出した右下隅の画素データを新たに保持する。
【0046】
このように、読み出した画素データを保持しておく場合、画像全体の横幅や縦幅が大きいと容量の大きい内部メモリ等が必要となる。したがって、図8に示すように、領域の移動方向に応じて処理対象画像を複数の処理単位に分割して、処理単位毎に処理を行う。例えば、領域を横方向に移動させる場合、処理対象画像を図8の(A)に示すように処理単位の横幅が短くなるように分割する。また、領域を縦方向に移動させる場合、処理対象画像を図8の(B)に示すように処理単位の縦幅が短くなるように分割する。さらに、フィルタ演算では、タップ数分の画素データが必要となる。したがって、処理単位間で連続したフィルタ処理を行うことができるように、画像の分割ではタップ数に比例した重複部分(糊代領域)を設けて分割が行われる。
【0047】
以下、処理単位が縦長の領域の場合についてフィルタ処理を行う場合について説明する。また、縦長の領域では、縦方向のサイズを画像全体の縦方向の画素数とする。また、画像サイズは説明を簡単とするため、例えば図9に示すように20画素×7画素とする。また、第1フィルタ処理部203と第2フィルタ処理部205のタップ数を例えば5タップとして、処理単位をBL1〜BL4とする。
【0048】
図10は最初の処理単位BL1の処理動作を示している。第1フィルタ処理部203に対して例えば最初のラインの画素データすなわち画素位置「1」〜「6」の画素データを入力する。この場合、第1フィルタ処理部203は、5タップでフィルタ処理を行い、画素位置「1」〜「4」の第1フィルタ処理後の画素データを出力する。なお、画素位置「1」は、画像端の位置であることから、第1フィルタ処理部203は画素リピートを行い、不足する画素データ分だけ画像端の画素データを繰り返してフィルタ演算を行う。
【0049】
データ補充部204は、図4に示す入力制御動作と図5に示す出力制御動作を行う。ここで、最初の処理単位BL1では、揮発性メモリ31に補充データが記憶されていない。したがって、データ補充部204は、最初のラインの画素位置「1」〜「4」の第1フィルタ処理後の画素データを第2フィルタ処理部205に出力する。
【0050】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「1」〜「4」の第1フィルタ処理後の画素データを用いて第2フィルタ処理を行い、画素位置「1」「2」の第1および第2フィルタ処理が行われた画素データを出力する。
【0051】
ここで、次の処理単位BL2で、第2フィルタ処理部205から画素位置「3」以降の第1,2のフィルタ処理後の画素データを出力するためには、第2フィルタ処理部205に対して、画素位置「1」以降の第1フィルタ処理後の画素データを入力する必要がある。また、画素位置「1」からの第1フィルタ処理後の画素データは、最初の処理単位BL1に対する第1フィルタ処理部203のフィルタ処理で生成されている。したがって、データ補充部204は、画素位置「1」〜「4」の第1フィルタ処理後の画素データを揮発性メモリ31に記憶させる。
【0052】
第1フィルタ処理部203とデータ補充部204と第2フィルタ処理部205は、最初の処理単位BL1の1ライン目の処理が終了すると2ライン目の処理を行う。第1フィルタ処理部203は、2ライン目の画素位置「101」〜「106」の画素データを用いてフィルタ処理を行い、画素位置「101」〜「104」の第1フィルタ処理後の画素データを出力する。なお、画素位置「101」は、画像端の位置であることから、第1フィルタ処理部203は画素リピートを行い、不足する画素データ分だけ画像端の画素データを繰り返してフィルタ演算を行う。
【0053】
データ補充部204は、最初の処理単位BL1では、揮発性メモリ31に補充データが記憶されていないので、2ライン目の画素位置「101」〜「104」の第1フィルタ処理後の画素データを第2フィルタ処理部205に出力する。
【0054】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「101」〜「104」の第1フィルタ処理後の画素データを用いてフィルタ処理を行い、画素位置「101」「102」の第1および第2フィルタ処理が行われた画素データを出力する。
【0055】
次の処理単位BL2で第2フィルタ処理部205から画素位置「103」以降の第1,2のフィルタ処理後の画素データを出力するためには、第2フィルタ処理部205に対して、画素位置「101」からの第1フィルタ処理後の画素データを入力する必要がある。また、画素位置「101」からの第1フィルタ処理後の画素データは、最初の処理単位BL1に対する第1フィルタ処理部203のフィルタ処理で生成されている。したがって、データ補充部204は、画素位置「101」〜「104」の第1フィルタ処理後の画素データを揮発性メモリ31に記憶させる。
【0056】
以下、処理単位BL1の各ラインについて同様な処理を行い、第2フィルタ処理部205は、画素位置「201」「202」・・・「601」「602」の第1および第2フィルタ処理が行われた画素データを出力する。また、データ補充部204は、画素位置「201」〜「204」・・・「601」〜「604」の第1フィルタ処理が行われた画素データを揮発性メモリ31に記憶する。
【0057】
図11は2番目の処理単位BL2の処理動作を示している。第1フィルタ処理部203に対して例えば最初のラインである画素位置「3」〜「12」の画素データを入力すると、第1フィルタ処理部203は、5タップでフィルタ処理を行い、画素位置「5」〜「10」の第1フィルタ処理後の画素データを出力する。
【0058】
データ補充部204は、最初の処理単位BL1の処理を行うことにより、最初のラインの画素位置「1」〜「4」の第1フィルタ処理後の画素データを揮発性メモリ31に記憶している。したがって、データ補充部204は、揮発性メモリ31から画素位置「1」〜「4」の第1フィルタ処理後の画素データを、補充データとして読み出して第2フィルタ処理部205に出力する。その後、データ補充部204は、画素位置「5」〜「10」の第1フィルタ処理後の画素データを第2フィルタ処理部205に出力する。なお、図11では、補充データの画素位置を白抜き文字で示している。
【0059】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「1」〜「10」の第1フィルタ処理後の画素データを用いて第2フィルタ処理を行い、画素位置「3」〜「8」の第1および第2フィルタ処理が行われた画素データを出力する。ここで、補充データは4画素、処理単位のデータは6画素であり、合計10画素の画素データを用いて5タップでフィルタ処理を行うことから、第2フィルタ処理部205の出力は処理単位のデータ数となる。
【0060】
このように、データ補充部204は、第1フィルタ処理部203から出力された画素データを第2フィルタ処理部205に供給する前に、最初の処理単位BL1で生成された第1フィルタ処理後の画素データを揮発性メモリ31から読み出して補充する。したがって第2フィルタ処理部205は、最初の処理単位BL1の出力に対して連続した画素位置の第1および第2フィルタ処理後の画素データを出力することができる。
【0061】
また、次の処理単位BL3で第2フィルタ処理部205から画素位置「9」以降の第1,2のフィルタ処理後の画素データを出力するためには、第2フィルタ処理部205に対して、画素位置「7」からの第1フィルタ処理後の画素データを入力する必要がある。また、画素位置「7」からの第1フィルタ処理後の画素データは、2番目の処理単位BL2に対する第1フィルタ処理部203のフィルタ処理で生成されている。したがって、データ補充部204は、画素位置「7」〜「10」の第1フィルタ処理後の画素データを揮発性メモリ31に記憶させる。
【0062】
第1フィルタ処理部203とデータ補充部204と第2フィルタ処理部205は、2番目の処理単位BL2の1ライン目の処理が終了すると2ライン目の処理を行う。第1フィルタ処理部203は、2ライン目の画素位置「103」〜「112」の画素データを用いてフィルタ処理を行い、画素位置「105」〜「110」の第1フィルタ処理後の画素データを出力する。
【0063】
データ補充部204は、揮発性メモリ31に記憶されている2ライン目の画素位置「101」〜「104」の第1フィルタ処理後の画素データを読み出して、補充データとして第2フィルタ処理部205に出力する。その後、データ補充部204は、第1フィルタ処理部203から供給された画素位置「105」〜「110」の第1フィルタ処理後の画素データを第2フィルタ処理部205に出力する。
【0064】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「101」〜「110」の第1フィルタ処理後の画素データを用いてフィルタ処理を行い、画素位置「103」〜「108」の第1および第2フィルタ処理が行われた画素データを出力する。
【0065】
次の処理単位BL3で第2フィルタ処理部205から画素位置「109」以降の第1,2のフィルタ処理後の画素データを出力するためには、第2フィルタ処理部205に対して、画素位置「107」からの第1フィルタ処理後の画素データを入力する必要がある。また、画素位置「107」からの第1フィルタ処理後の画素データは、2番目の処理単位BL2に対する第1フィルタ処理部203のフィルタ処理で生成されている。したがって、データ補充部204は、画素位置「107」〜「110」の第1フィルタ処理後の画素データを揮発性メモリ31に記憶させる。
【0066】
以下、処理単位BL2の各ラインについて同様な処理を行い、第2フィルタ処理部205は、画素位置「203」〜「208」・・・「603」〜「608」の第1および第2フィルタ処理が行われた画素データを出力する。また、データ補充部204は、画素位置「207」〜「210」・・・「607」〜「610」の第1フィルタ処理が行われた画素データを揮発性メモリ31に記憶させる。
【0067】
図12は3番目の処理単位BL3の処理動作を示している。3番目の処理単位BL3についても2番目の処理単位BL2と同様に処理を行う。3番目の処理単位BL3についてフィルタ処理を行った場合、揮発性メモリ31に記憶されている画素位置「7」〜「10」「107」〜「110」・・・「607」〜「610」の第1フィルタ処理後の画素データが、補充データとして読み出されて第2フィルタ処理部205に供給される。また、第2フィルタ処理部205には、第1フィルタ処理部203からの画素位置「11」〜「16」「111」〜「116」・・・「611」〜「616」の第1フィルタ処理後の画素データが供給される。したがって、第2フィルタ処理部205から画素位置「9」〜「14」「109」〜「114」・・・「609」〜「614」の第1および第2フィルタ処理後の画素データが出力される。
【0068】
また、データ補充部204によって、画素位置「13」〜「16」「113」〜「116」・・・「613」〜「616」の第1フィルタ処理後の画素データが揮発性メモリ31に記憶される。なお、図12では、補充データの画素位置を白抜き文字で示している。
【0069】
図13は最後の処理単位BL4の処理動作を示している。第1フィルタ処理部203に対して最初のラインの画素位置「15」〜「20」の画素データを入力すると、第1フィルタ処理部203は、5タップでフィルタ処理を行い、画素位置「17」〜「20」の第1フィルタ処理後の画素データを出力する。なお、画素位置「20」は、画像端の位置であることから、第1フィルタ処理部203は画素リピートを行う。なお、図13では、補充データの画素位置を白抜き文字で示している。
【0070】
データ補充部204は、3番目の処理単位BL3の処理を行うことにより、最初のラインの画素位置「13」〜「16」の第1フィルタ処理後の画素データを揮発性メモリ31に記憶している。したがって、データ補充部204は、揮発性メモリ31から画素位置「13」〜「16」の第1フィルタ処理後の画素データを読み出して、補充データとして第2フィルタ処理部205に出力する。その後、データ補充部204は、画素位置「17」〜「20」の第1フィルタ処理後の画素データを第2フィルタ処理部205に出力する。
【0071】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「13」〜「20」の第1フィルタ処理後の画素データを用いて第2フィルタ処理を行い、画素位置「15」〜「20」の第1および第2フィルタ処理が行われた画素データを出力する。なお画像端では画素リピートを行う。
【0072】
第1フィルタ処理部203とデータ補充部204と第2フィルタ処理部205は、最後の処理単位BL4の1ライン目の処理が終了すると2ライン目の処理を行う。第1フィルタ処理部203は、2ライン目の画素位置「115」〜「120」の画素データを用いてフィルタ処理を行い、画素位置「117」〜「120」の第1フィルタ処理後の画素データを出力する。なお、画素位置「120」は、画像端の位置であることから、第1フィルタ処理部203は画素リピートを行う。
【0073】
データ補充部204は、3番目の処理単位BL3の処理を行うことにより、2番目のラインの画素位置「113」〜「116」の第1フィルタ処理後の画素データを揮発性メモリ31に記憶している。したがって、データ補充部204は、揮発性メモリ31から画素位置「113」〜「116」の第1フィルタ処理後の画素データを読み出して、補充データとして第2フィルタ処理部205に出力する。その後、データ補充部204は、画素位置「117」〜「120」の第1フィルタ処理後の画素データを第2フィルタ処理部205に出力する。
【0074】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「113」〜「120」の第1フィルタ処理後の画素データを用いてフィルタ処理を行い、画素位置「115」〜「120」の第1および第2フィルタ処理が行われた画素データを出力する。
【0075】
以下、処理単位BL4の各ラインについて同様な処理を行い、第2フィルタ処理部205は、画素位置「215」〜「220」・・・「615」〜「620」の第1および第2フィルタ処理が行われた画素データを出力する。
【0076】
このように、画素データを保持して、次の処理単位の補充データとして再利用することで、効率よく情報処理を行うことができる。また、補充データのデータ数を調整することで、第2フィルタ処理部205の出力を、処理単位のデータ数とすることができる。
【0077】
図14は最後の処理単位BL4の第1フィルタ処理結果が保持されている場合の処理動作を示している。揮発性メモリ31に処理単位BL4の各ラインの第1フィルタ処理後の画素データが記憶されている場合、データ補充部204は、保持している画素データを第2フィルタ処理部205に出力する。例えば、最後の処理単位BL4が画素位置「13」〜「16」「113」〜「116」・・・「613」〜「616」の領域である場合、3番目の処理単位BL3の処理を行うことにより、処理単位BL4の第1フィルタ処理結果が揮発性メモリ31に記憶している。
【0078】
したがって、データ補充部204は、揮発性メモリ31から画素位置「13」〜「16」の第1フィルタ処理後の画素データを読み出して第2フィルタ処理部205に出力する。
【0079】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「13」〜「16」の第1フィルタ処理後の画素データを用いて第2フィルタ処理を行い、画素位置「15」〜「16」の第1および第2フィルタ処理が行われた画素データを出力する。
【0080】
データ補充部204と第2フィルタ処理部205は、最後の処理単位BL4の1ライン目の処理が終了すると2ライン目の処理を行う。データ補充部204は、揮発性メモリ31から画素位置「113」〜「116」の第1フィルタ処理後の画素データを読み出して第2フィルタ処理部205に出力する。
【0081】
第2フィルタ処理部205は、データ補充部204から供給された画素位置「113」〜「116」の第1フィルタ処理後の画素データを用いてフィルタ処理を行い、画素位置「115」「116」の第1および第2フィルタ処理が行われた画素データを出力する。
【0082】
以下、処理単位BL4の各ラインについて同様な処理を行い、第2フィルタ処理部205は、画素位置「215」「226」・・・「615」「626」の第1および第2フィルタ処理が行われた画素データを出力する。
【0083】
ここで、本技術の優位性を明確とするため、従来の動作を簡単に説明する。図15は、従来のカメラ信号処理部20paの構成を例示しており、第1フィルタ処理部203は、フィルタ処理後の画像データを第2フィルタ処理部205に供給する。第2フィルタ処理部205は第1フィルタ処理部203から供給された画像データのフィルタ処理を行って出力する。
【0084】
図16は、従来の処理動作を示している。第1フィルタ処理部203は、例えば点線で示す処理単位BM1の最初のラインの画素位置「1」〜「10」の画素データを用いてフィルタ処理を行い、画素位置「3」〜「8」の第1フィルタ処理後の画素データを第2フィルタ処理部205に出力する。
【0085】
第2フィルタ処理部205は、第1フィルタ処理部203から供給された画素位置「3」〜「8」の画素データを用いて第2フィルタ処理を行い、画素位置「5」〜「6」の第1および第2フィルタ処理が行われた画素データを出力する。
【0086】
以下同様に処理を行い、第1フィルタ処理部203は、処理単位BM1の各ラインの画素位置「101」〜「110」・・・「601」〜「610」の画素データを用いて第1フィルタ処理を行い、画素位置「103」〜「108」・・・「603」〜「608」の第1フィルタ処理後の画素データを生成する。また、第2フィルタ処理部205は、第1フィルタ処理部203から供給された画素位置「103」〜「108」・・・「603」〜「608」の画素データを用いてフィルタ処理を行い、画素位置「105」「106」・・・「605」「606」の第1,2フィルタ処理後の画素データを生成する。
【0087】
処理単位BM1の処理が終了すると一点鎖線で示す処理単位BM2の処理を同様に行う。第1フィルタ処理部203は、処理単位BM2の最初のラインの画素位置「3」〜「12」の画素データを用いて第1フィルタ処理を行い、画素位置「5」〜「10」の第1フィルタ処理が行われた画素データを生成して第2フィルタ処理部205に出力する。
【0088】
第2フィルタ処理部205は、第1フィルタ処理部203から供給された画素位置「5」〜「10」の画素データを用いて第2フィルタ処理を行い、画素位置「7」〜「8」の第1および第2フィルタ処理が行われた画素データを出力する。以下同様に各ラインについて処理を行うと、第2フィルタ処理部205からは、画素位置「7」「8」「107」「108」・・・「607」「608」の第1および第2フィルタ処理が行われた画素データが出力される。なた、処理単位を順次右方向に移動させて同様な処理を行うことで、第2フィルタ処理部205から第1および第2フィルタ処理が行われた画素データが出力される。
【0089】
表1は、本技術と従来の情報処理の処理効率を示している。例えば画素データの読み込みや書き出しを行った画素数に対して、第2フィルタ処理部205から出力される第1および第2フィルタ処理後の画素数の割合を処理効率とする。この場合、従来の処理では、第1フィルタ処理部203に10画素分の画素データを入力して第2フィルタ処理部205から2画素分の画素データが出力されることから、処理効率は「2/10=20%」となる。また、本技術において例えば処理単位BL2については、第1フィルタ処理部203に10画素分の画素データを入力して第2フィルタ処理部205から6画素分の画素データが出力される。また、4画素分の画素データが揮発性メモリ31に書き込まれて、揮発性メモリ31に既に記憶されている4画素分の画素データの読み出しが行われる。したがって、処理効率は「6/(10+4+4)=33.3%」となる。すなわち、本技術によれば処理効率を高めることができる。
【0090】
【表1】

【0091】
さらに、データ補充部204にメモリを設けて補充データを保持しておくようにすれば、表2に示すように、外部メモリに画素データを書き出したり、外部メモリから画素データを読み出す必要がない。したがって、処理効率を「6/10=60%」とすることができる。
【0092】
【表2】

【0093】
このように、本技術によれば、次の処理単位での処理で必要とされる画素データを補充データとして保持して、この補充データを次の処理単位で用いてフィルタ処理が行われるので、第2フィルタ処理部205から出力されるフィルタ処理結果を増加させることができる。
【0094】
また、本技術によれば、従来の方法に比べて高速に情報処理結果を得ることができる。図17は、画素データの入力と情報処理後の画素データの出力タイミングを示している。なお、図17の(A)はデータ補充部204を設けた本技術のタイミング、図17の(B)は、データ補充部204を設けていない従来のタイミングを示している。
【0095】
図17の(A)に示すように、処理単位BL2の例えば最初のラインの画素データが第1フィルタ処理部203に入力される場合、第1フィルタ処理部203からフィルタ処理後の画素データが出力されるまでの期間を利用して、揮発性メモリ31から補充データが読み出されて第2フィルタ処理部205に出力される。したがって、第1フィルタ処理部203からフィルタ処理後の画素データがタップ数だけ出力される前に、第2フィルタ処理部205から、第1および第2フィルタ処理が行われた画素データを出力することができる。これに対して、データ補充部204を設けていない場合は、図17の(B)に示すように、第1フィルタ処理部203からフィルタ処理後の画素データがタップ数だけ出力されていないと、第2フィルタ処理部205から、第1,2フィルタ処理後の画素データが出力されない。すなわち、本技術によれば、従来に比べて第1および第2フィルタ処理が行われた画素データを、早いタイミングでより多く出力することができるので、処理時間の短縮や消費電力の削減を図ることができる。
【0096】
また、補充データは、第1フィルタ処理部203からフィルタ処理後の画素データが出力されていない期間を利用して挿入されるため、保持用のメモリはレジスタなど高速のメモリである必要がない。また、データ補充部204はフィルタ処理部と別個に設けられていることから、フィルタ処理部が変更されてもデータ補充部204を使いまわすことが可能であり、フィルタ処理部の内部構成を変更する必要もない。
【0097】
さらに、図17の(A)からも明らかなように、補充データは、次の処理単位のフィルタ処理に用いられたのち、新たな補充データに更新される。すなわち、読み出される補充データのメモリ領域と新たに補充データとして書き込む画素データのメモリ領域を個々に設ける必要がないことから、再利用する画素データすなわち補充データを一時保持するために多くのメモリ領域を設ける必要がない。
【0098】
図18は処理単位をずらす向きと補充データを入力する領域および補充データとして出力する領域の関係を示している。図18の(A)は処理単位を矢印で示す右方向に移動させる場合を例示している。処理単位を右方向に移動させる場合、処理単位の右端から所定画素分の領域(黒色領域)の画素データを補充データとして保持して、次の処理単位では保持している補充データを処理単位の左端側に連結させる。図18の(B)は処理単位を矢印で示す左方向に移動させる場合を例示している。処理単位を左方向に移動させる場合、処理単位の左端から所定画素分の領域の画素データを補充データとして保持して、次の処理単位では保持している補充データを処理単位の右端側に連結させる。図18の(C)は処理単位を矢印で示す下方向に移動させる場合を例示している。処理単位を下方向に移動させる場合、処理単位の下端から所定画素分の領域の画素データを補充データとして保持して、次の処理単位では保持している補充データを処理単位の上端側に連結させる。図18の(D)は処理単位を矢印で示す上方向に移動させる場合を例示している。処理単位を上方向に移動させる場合、処理単位の上端から所定画素分の領域の画素データを補充データとして保持して、次の処理単位では保持している補充データを処理単位の下端側に連結させる。このように、処理単位の移動方向に応じて補充データを設定すれば、処理単位の移動方向に係らず、上述のように早いタイミングでより多くのフィルタ出力結果を得ることができる。
【0099】
<5.カメラ信号処理部の第2の構成>
図19は、カメラ信号処理部の第2の構成を示している。カメラ信号処理部20nbは、前処理部201、現像部202、データ補充部206、フィルタ処理部207を有している。
【0100】
前処理部201は、撮像部12から供給された撮像信号のアナログ増幅処理やA/D変換処理等の前処理を行い、前処理が行われた画像データ(現像前画像データ)を揮発性メモリ31に記憶させる。現像部202は、現像前画像データを読み出して、デモザイク処理や明るさ補正や色補正およびホワイトバランス調整等の補正処理を現像処理として行い、現像後画像データを揮発性メモリ31に記憶させる。
【0101】
データ補充部206は、データ補充部204と同様に構成されており、揮発性メモリ31から読み出された現像後画像データをフィルタ処理部207に出力する。また、読み出された画像データの一部を補充データとして揮発性メモリ31に記憶させる。また、データ補充部206は、次の処理単位のフィルタ処理を行う場合、揮発性メモリ31に記憶した補充データをフィルタ処理部207に出力したのち、処理単位の現像後画像データをフィルタ処理部207に出力する。
【0102】
フィルタ処理部207は、例えばノイズ除去部であり、データ補充部206から供給された画像データの帯域制限等を行い、画像データのノイズ成分を除去して、ノイズ除去が行われた画像データ(リサイズ前画像データ)を揮発性メモリ31に記憶させる。
【0103】
リサイズ処理部32は、揮発性メモリ31に記憶されているリサイズ前画像データを読み出して、所望の解像度(画素数)の画像に変換する処理等を行う。リサイズ処理部32は、リサイズ後の画像データ(圧縮前画像データ)を揮発性メモリ31に記憶させる。符号化/復号部33は、圧縮前画像データの符号化処理を行い、得られた符号化データを揮発性メモリ31に記憶させる。
【0104】
<6.第2の構成の動作>
カメラ信号処理部20nbは、符号化処理やメモリアクセス等に基づく処理単位で、揮発性メモリ31から現像後画像データを読み出してフィルタ処理を行う場合、読み出し回数を削減できるように処理単位の位置を調整する。具体的には、処理する画像データを、次にフィルタ処理が行われる処理単位のフィルタ処理結果を得るために必要とされる画素データ分だけ、処理単位の移動方向と逆方向に移動させる。また、最初の処理単位では、次の処理単位分のフィルタ処理結果を得るために必要とされる画素データの前に無効データを設けて処理単位のデータとする。また、次の処理単位分のフィルタ処理結果を得るために必要とされる画素データを補充データとして用いる。さらに、補充データを用いてフィルタ処理が行われたとき、処理単位分のフィルタ処理結果が得られるように、処理する画像データを移動させる。
【0105】
図20は、処理単位の位置と画像の関係を示している。処理単位で画像データの読み出しを行う場合、画像のない領域(斜線部で示す領域)には無効データを設定する。
【0106】
図20の(A)は、処理単位に対して現像後画像データを予めずらして記憶させた場合を示している。図20の(B)は、処理単位で読み出された画像データを示している。横線の領域は、画素データが補充データとして用いられる画素位置を示している。図20の(C)は、前回の処理単位で保持された補充データと、次の処理単位で読み出された画像データとを用いてフィルタ処理を行うことにより得られた画像データを示している。なお、図20の場合には、8処理単位分の画素データの読み出しが行われている。
【0107】
以下、処理単位に対して画像の位置を調整して、補充データを用いた情報処理を行う場合の動作について説明する。なお、画像サイズは説明を簡単とするため、例えば図21に示すように12画素×7画素とする。また、処理単位は4画素幅、フィルタ処理部207のタップ数を3タップとする。
【0108】
図22は、最初の処理単位BR1の処理動作を示している。データ補充部206、処理単位BR1の最初のラインについて無効データを除外して、画素位置「1」の画素データを揮発性メモリ31に記憶する。同様に2ライン目以降についても、無効データを除外して、各画素位置「101」・・・「601」の画素データを揮発性メモリ31に記憶させる。
【0109】
図23は、2番目の処理単位BR2の処理動作を示している。データ補充部206は、最初のラインの補充データ、すなわち画素位置「1」の画素データをフィルタ処理部207に出力したのち、処理単位BR2の各画素位置「2」〜「5」の画素データをフィルタ処理部207に出力する。なお、図23では、補充データの画素位置を白抜き文字で示している。また、図24〜図27も同様である。
【0110】
フィルタ処理部207は、画素位置「1」〜「5」の画素データを用いて3タップでフィルタ処理を行い、画素位置「1」〜「4」のフィルタ処理後の画素データを出力する。なお、画素位置「1」は画像端であるから画素リピートを行う。
【0111】
次の処理単位BR3でフィルタ処理部207から画素位置「5」以降のフィルタ処理が行われた画素データを出力するためには、フィルタ処理部207に対して、画素位置「4」からの画素データを入力する必要がある。また、画素位置「4」からの画素データは、2番目の処理単位BR2の処理で読み出されている。したがって、データ補充部206は、画素位置「4」「5」の画素データを揮発性メモリ31に記憶させる。
【0112】
データ補充部206とフィルタ処理部207は、2番目の処理単位BR2の1ライン目の処理が終了すると2ライン目の処理を行う。
【0113】
データ補充部206は、揮発性メモリ31に記憶されている2ライン目の画素位置「101」の画素データを補充データとしてフィルタ処理部207に出力する。その後、データ補充部206は、処理単位BR2の各画素位置「102」〜「105」の画素データをフィルタ処理部207に出力する。
【0114】
フィルタ処理部207は、画素位置「101」〜「105」の画素データを用いて3タップでフィルタ処理を行い、画素位置「101」〜「104」のフィルタ処理後の画素データを出力する。なお、画素位置「101」は画像端であるから画素リピートを行う。
【0115】
次の処理単位BR3でフィルタ処理部207から画素位置「105」以降のフィルタ処理が行われた画素データを出力するためには、フィルタ処理部207に対して、画素位置「104」からの画素データを入力する必要がある。また、画素位置「104」からの画素データは、2番目の処理単位BR2の処理で読み出されている。したがって、データ補充部206は、画素位置「104」「105」の画素データを揮発性メモリ31に記憶させる。
【0116】
以下、処理単位BL2の各ラインについて同様な処理を行い、フィルタ処理部207は、画素位置「201」〜「204」・・・「601」〜「604」のフィルタ処理が行われた画素データを出力する。また、データ補充部204は、画素位置「204」「205」・・・「604」「605」の画素データを揮発性メモリ31に記憶させる。
【0117】
図24は、3番目の処理単位BR3の処理動作を示している。データ補充部206は、最初のラインの補充データ、すなわち画素位置「4」「5」の画素データをフィルタ処理部207に出力したのち、処理単位BR3の各画素位置「6」〜「9」の画素データをフィルタ処理部207に出力する。
【0118】
フィルタ処理部207は、画素位置「4」〜「9」の画素データを用いて3タップでフィルタ処理を行い、画素位置「5」〜「8」のフィルタ処理後の画素データを出力する。
【0119】
次の処理単位BR4でフィルタ処理部207から画素位置「9」以降のフィルタ処理が行われた画素データを出力するためには、フィルタ処理部207に対して、画素位置「8」からの画素データを入力する必要がある。また、画素位置「8」からの画素データは、3番目の処理単位BR3の処理で読み出されている。したがって、データ補充部206は、画素位置「8」「9」の画素データを揮発性メモリ31に記憶させる。
【0120】
データ補充部206とフィルタ処理部207は、3番目の処理単位BR3の1ライン目の処理が終了すると2ライン目の処理を行う。
【0121】
データ補充部206は、揮発性メモリ31に記憶されている2ライン目の画素位置「104」「105」の画素データを補充データとしてフィルタ処理部207に出力する。その後、データ補充部206は、処理単位BR3の各画素位置「106」〜「109」の画素データをフィルタ処理部207に出力する。
【0122】
フィルタ処理部207は、画素位置「104」〜「109」の画素データを用いて3タップでフィルタ処理を行い、画素位置「105」〜「108」のフィルタ処理後の画素データを出力する。すなわち、フィルタ処理部207は、2画素分の補充データと4画素分の読み出し画素データを用いて3タップでフィルタ処理を行うことから、処理単位と等しい4画素分のフィルタ結果を出力できる。
【0123】
次の処理単位BR4でフィルタ処理部207から画素位置「109」以降のフィルタ処理が行われた画素データを出力するためには、フィルタ処理部207に対して、画素位置「108」からの画素データを入力する必要がある。また、画素位置「108」からの画素データは、3番目の処理単位BR3の処理で読み出されている。したがって、データ補充部206は、画素位置「108」「109」の画素データを揮発性メモリ31に記憶させる。
【0124】
以下、処理単位BL3の各ラインについて同様な処理を行い、フィルタ処理部207は、画素位置「205」〜「208」・・・「605」〜「608」のフィルタ処理が行われた画素データを出力する。また、データ補充部204は、画素位置「208」「209」・・・「608」「609」の画素データを揮発性メモリ31に記憶させる。
【0125】
図25は、最後の処理単位BR4の処理動作を示している。データ補充部206は、最初のラインの補充データ、すなわち画素位置「8」「9」の画素データをフィルタ処理部207に出力したのち、処理単位BR4の各画素位置「10」〜「12」の画素データをフィルタ処理部207に出力する。
【0126】
フィルタ処理部207は、画素位置「8」〜「12」の画素データを用いて3タップでフィルタ処理を行い、画素位置「9」〜「12」のフィルタ処理後の画素データを出力する。なお、画素位置「12」は、画像端の位置であることから、フィルタ処理部207は画素リピートを行う。
【0127】
データ補充部206とフィルタ処理部207は、処理単位BR4の1ライン目の処理が終了すると2ライン目の処理を行う。
【0128】
データ補充部206は、揮発性メモリ31に記憶されている2ライン目の画素位置「108」「109」の画素データを補充データとしてフィルタ処理部207に出力する。その後、データ補充部206は、処理単位BR3の各画素位置「110」〜「112」の画素データをフィルタ処理部207に出力する。
【0129】
フィルタ処理部207は、画素位置「108」〜「112」の画素データを用いて3タップでフィルタ処理を行い、画素位置「109」〜「112」のフィルタ処理後の画素データを出力する。
【0130】
以下、処理単位BL4の各ラインについて同様な処理を行い、フィルタ処理部207は、画素位置「209」〜「212」・・・「609」〜「612」のフィルタ処理が行われた画素データを出力する。
【0131】
このように、画素データの読み出しや、画素データの保持および補充データの供給を行えば、処理単位の読み出し回数を少なくしても、処理結果を得ることができる。また、保持する画素データのデータ数を調整することで、処理結果を処理単位で出力することができる。
【0132】
図26,図27は、処理単位を2倍である8画素幅とした場合を示している。この場合、最初の処理単位の処理では、図26に示すように、フィルタ処理部207から画素位置「1」〜「4」・・・「601」〜「604」のフィルタ処理後の画素データが出力される。また、データ補充部206は、画素位置「4」「5」「104」「105」・・・「604」「605」の画素データを揮発性メモリ31に記憶する。
【0133】
次に、2番目の処理単位の処理では、図27に示すように、画素位置「4」「5」「104」「105」・・・「604」「605」の画素データと2番目の処理単位の画素データを用いてフィルタ処理が行われる。したがって、フィルタ処理部207から画素位置「5」〜「12」・・・「605」〜「612」のフィルタ処理後の画素データが出力される。
【0134】
また、図21に示すように、揮発性メモリ31に対して画像を記憶する際に、記憶位置を移動させて、画像のない部分は無効データを設ける。このように画像を記憶すれば、揮発性メモリ31から処理単位で画像データを読み出してデータ補充部206に供給するだけで、次の処理単位の情報処理で必要とされる補充データを、容易に保持させることができる。
【0135】
ここで、本技術の優位性を明確とするため、従来の動作を簡単に説明する。図28は、従来のカメラ信号処理部20pbを例示しており、フィルタ処理部207は、揮発性メモリ31から読み出された現像後画像データを順次用いてフィルタ処理を行って出力する。
【0136】
図29は、従来の処理単位の位置と画像の関係を示している。処理単位は、図29の(A)に示すように、画像の開始位置と処理単位の開始位置が一致するように設定されている。図29の(B)は、フィルタ処理部207からの出力を処理単位とするために読み出された画像データを示している。なお、クロスハッチング領域は、フィルタ処理に用いられない画素データの画素位置を示している。図29の(C)は、フィルタ処理部207からの出力を示している。
【0137】
このように、フィルタ処理部207から最初の処理単位分の画像データを出力させるためには、タップ数に応じた余分のデータが必要されるので、2処理単位分の画像データを読み出す必要がある。また、フィルタ処理部207から2番目の処理単位分の画像データを出力させるためには、タップ数に応じた余分のデータが左右両側に必要されるので、3処理単位分の画像データを読み出す必要がある。以下同様に、フィルタ処理部207から読み出し単位分の画像データを出力させるためには、タップ数に応じた余分のデータを含む読み出し単位分の画像データを追加して読み出す必要がある。なお、図20では、8処理単位分の画素データの読み出しが必要であるが、図29では、19処理単位分の画素データの読み出しが必要となる。
【0138】
図30は、処理単位を4画素幅、フィルタ処理部207のタップ数を3タップとした場合の従来の処理動作を示している。例えば点線で示す2処理単位分の領域の画像データすなわち画素位置「1」〜「8」の画素データを読み出してフィルタ処理部207に供給することで、フィルタ処理部207から画素位置「1」〜「4」のフィルタ処理後の画素データを出力することができる。同様に、画素位置「101」〜「108」・・・「601」〜「608」の画素データをフィルタ処理部207に供給することで、フィルタ処理部207から画素位置「101」〜「104」・・・「601」〜「604」のフィルタ処理後の画素データを出力できる。
【0139】
次に、一点鎖線で示す3処理単位分の領域の画像データすなわち画素位置「1」〜「12」の画素データを読み出してフィルタ処理部207に供給することで、フィルタ処理部207から画素位置「5」〜「8」のフィルタ処理後の画素データを出力できる。同様に、画素位置「101」〜「112」・・・「601」〜「612」の画素データを読み出してフィルタ処理部207に供給することで、フィルタ処理部207から画素位置「105」〜「108」・・・「605」〜「608」のフィルタ処理後の画素データを出力できる。
【0140】
表3は、本技術と従来のフィルタ処理の処理効率を示している。例えば画素データの読み込みや書き出しを行った画素数に対して、フィルタ処理部207から出力されるフィルタ処理後の画素数の割合を処理効率とする。ここで、2回目の処理単位のフィルタ処理結果を得る場合、従来のフィルタ処理では、フィルタ処理部207に12画素分の画素データを入力して4画素分の画素データが出力されることから、処理効率は「4/10=33.3%」となる。また、本技術では2画素分の補充データと処理単位の4画素分の画素データをフィルタ処理部207に供給することで4画素分の画素データが出力される。また、2画素分の画素データが補充データとして揮発性メモリ31に書き込まれる。したがって、処理効率は「4/(4+2+2)=50%」となる。すなわち、本技術によれば処理効率を高めることができる。
【0141】
【表3】

【0142】
さらに、データ補充部204に内部メモリを設けて補充データを保持させるようにすれば、外部メモリに補充データを書き出したり、外部メモリから補充データを読み出す必要がない。したがって、表4に示すように、処理効率を「4/4=100%」とすることができる。
【0143】
【表4】

【0144】
このように、本技術の第2の構成によれば、処理単位の画像データの読み出し回数を削減できる。したがって、メモリ帯域の削減、処理時間の短縮、消費電力の削減を図ることができる。さらに、1つのフィルタ処理部で処理を行う場合は、図26や図27を用いて説明したように、入力と出力の両方をメモリ等における処理単位の倍数にすることが可能であることから、メモリ帯域や処理時間を更に削減できる。
【0145】
また、本技術によれば、従来の方法に比べて高速にフィルタ処理結果を得ることができる。
【0146】
図31は、画素データの入力とフィルタ処理後の画素データの出力タイミングを示している。なお、図31の(A)はデータ補充部206を設けた本技術のタイミング、図31の(B)は、データ補充部206を設けていない従来のタイミングを示している。また、図31では3回目の処理単位のフィルタ出力結果を得る場合を示している。
【0147】
図31の(A)に示すように、例えば画素位置「6」〜「9」の処理単位の画素データの読み出しが行われる前に、データ補充部206によって、揮発性メモリ31から画素位置「4」「5」の画素データが補充データとしてフィルタ処理部207に供給される。したがって、3回目の処理単位の画素データがフィルタ処理部207に供給されてタップ数となる前に、フィルタ処理部207からフィルタ処理が行われた画素データを出力することができる。これに対して、データ補充部206を設けていない従来の構成では、図31の(B)に示すように、画素位置「1」〜「4」の処理単位の画素データが読み出されたのち、画素位置「5」〜「8」の処理単位の画素データの読み出しが行われる。したがって、画素位置「4」〜「6」の画素データがフィルタ処理部207に入力されないと、画素位置「5」のフィルタ結果を出力することができない。すなわち、本技術によれば、従来に比べてフィルタ処理が行われた画素データを、早いタイミングで出力することができる。
【0148】
また、図31の(A)からも明らかなように、補充データは、次の処理単位のフィルタ処理に用いられたのち、新たな補充データに更新される。すなわち、読み出される補充データのメモリ領域と新たに補充データとして書き込む画素データのメモリ領域を個々に設ける必要がないことから、再利用する画素データすなわち補充データを一時保持するために多くのメモリ領域を設ける必要がない。
【0149】
図32は、データ補充部206の前段に縦方向のみのフィルタ処理を行うフィルタ処理部209を設けた場合の処理動作を示している。画素データの補充は横方向に対して行われるため横に余分な画素データが必要なければ、縦方向のフィルタ処理部209とデータ補充部206の入力の横幅は一致する。したがって、縦方向のみのフィルタ処理を行うフィルタ処理部209を設けても、上述のように縦方向のみのフィルタ処理を行うフィルタ処理部を設けていない場合と同様に処理することができる。
【0150】
<7.第1の構成の動作と第2の構成の動作を組み合わせた動作>
上述の第1の構成の動作と第2の構成の動作は、組み合わせて行うこともできる。図33は、第1の構成の動作と第2の構成の動作を組み合わせた場合を示している。
【0151】
データ補充部206は、処理単位で読み出した画像データをフィルタ処理部207(第1フィルタ処理部203に相当)に供給する。また、データ補充部206は、処理単位で読み出した画像データをフィルタ処理部207に供給する前に、補充データをフィルタ処理部207に供給する。また、データ補充部206は、読み出した画像データの一部を補充データとして保持させる。
【0152】
フィルタ処理部207は、データ補充部206から供給された画像データのフィルタ処理を行い、フィルタ処理後の画像データをデータ補充部204に出力する。
【0153】
データ補充部204は、保持している補充データを第2フィルタ処理部205に供給したのち、フィルタ処理部207でフィルタ処理が行われた画像データを第2フィルタ処理部205に出力する。また、データ補充部204は、フィルタ処理部207でフィルタ処理が行われた画像データを補充データとして保持する。
【0154】
第2フィルタ処理部205は、データ補充部204から供給された画像データのフィルタ処理を行い、フィルタ処理後の画像データを出力する。
【0155】
このような処理を行えば、フィルタ処理の空き時間を少なくすることができ、また入出力とも所定単位(図33では4画素単位)とすることができる。したがって、メモリ帯域の削減、処理時間の短縮、消費電力の削減等を図ることができる。
【0156】
なお、上述の実施形態ではフィルタ処理として図34の(A)に示すノイズ除去や図34の(B)に示すボケ補正を行う場合を例示したが、図34の(C)に示す歪補正処理や図34の(D)に示すリサイズ処理等を行うようにしてもよい。
【0157】
また、垂直フィルタ処理に横幅の制約がある場合、従来技術では、縮小処理において、水平フィルタ処理を優先して行うことが望ましい。例えば、図35に示すように、垂直フィルタ処理部の横幅が500画素まである場合、図35の(A)に示すように、例えば(1/2)倍に縮小で垂直フィルタ処理を先に行うと、処理できる画像の横幅は500ピクセルの画像までとなる。しかし、図35の(B)に示すように、(1/2)倍の縮小で水平フィルタ処理を先に行うと、画像の横幅が(1/2)倍されてから垂直フィルタ処理が行われるので、1000ピクセルまでの画像を処理できる。しかし、本技術によれば、補充データを保持しておくだけでよいことから、水平フィルタ処理と垂直フィルタ処理の順番に特に制限を設ける必要がないため、自由度の高いフィルタ処理を行うことができる。
【0158】
また、上述の実施形態では画像データのフィルタ処理を行う場合について説明したが、処理対象データの周囲のデータを用いてフィルタ処理を行うデータであれば、画像データに限らず他のデータであってもよい。例えば音声データのフィルタ処理を行う場合にも適用できる。さらに、情報処理はフィルタ処理に限られない。例えば、注目するデータの周囲の一定範囲のデータの順番を入れ替える情報処理を行う暗号化や暗号復号化処理等の場合にも適用できる。
【0159】
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
【0160】
例えば、プログラムは記録メディアとしてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリカード等のリムーバブル記録メディアに、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録メディアは、いわゆるパッケージソフトウェアとして提供することができる。
【0161】
また、プログラムは、リムーバブル記録メディアからコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録メディアにインストールすることができる。
【0162】
本技術は、上述した実施形態に限定して解釈されるべきではない。この技術の実施形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
【0163】
なお、本技術は以下のような構成も取ることができる。
(1) 処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る情報処理部と、
前記情報処理部に供給される処理単位毎のデータにおいて、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて前記情報処理を前記情報処理部で行わせるデータ補充部と
を備える情報処理装置。
(2) 前記データ補充部は、前記補充データと次に情報処理が行われる処理単位のデータを順に用いて情報処理が前記情報処理部で行われた場合に、前記処理単位分の情報処理結果が得られるように、前記補充データの抽出を行う
(1)に記載の情報処理装置。
(3) 第1の情報処理部と第2の情報処理部を設け、
前記第2の情報処理部は、前記第1の情報処理部の情報処理結果を用いて情報処理を行うものとし、
前記データ補充部は、前記第1の情報処理部から出力される情報処理結果から、次に前記第2の情報処理部で情報処理が行われるデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データを前記第1の情報処理部から次の処理単位のデータの情報処理結果が出力されるまでの期間を利用して前記第2の情報処理部に出力する
(1)または(2)に記載の情報処理装置。
(4) 処理するデータを、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータ分だけ、処理単位の移動方向と逆方向に移動させて、最初の処理単位では前記所定数に含まれるデータの前に無効データを設けた
(1)乃至(3)の何れかに記載の情報処理装置。
(5) 処理単位でデータが読み出されるメモリを有し、
前記メモリでは、最初の処理単位のデータが、無効データの後に前記補充データが設けられるように、情報処理を行うデータの位置をずらして記憶する
(1)乃至(4)の何れかに記載の情報処理装置。
(6) 前記データ補充部は、補充データが次の処理単位の情報処理に用いられたのち、新たな画素データを補充データとして上書きする
(1)乃至(5)の何れかに記載の情報処理装置。
(7) 前記データは画像データである
(1)乃至(6)の何れかに記載の情報処理装置。
【産業上の利用可能性】
【0164】
本技術の情報処理装置と情報処理方法およびプログラムでは、処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータが用いられる。また、次に情報処理が行われる処理単位のデータの情報処理結果を得るために所定数に含まれるデータが補充データとして保持されて、この保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて情報処理が行われる。したがって、処理対象のデータを用いた情報処理を効率よく行うことができるようになる。
【0165】
このため、処理対象のデータの周囲の一定範囲のデータを用いて情報処理を行う電子機器、例えばデジタルスチルカメラ、デジタルビデオカメラ、コンピュータ装置、ゲーム機、テレビジョン装置、電話機、PDA、画像再生装置、画像記録装置、ナビゲーション装置、携帯通信端末装置、プリンター、電子書籍再生装置、通信装置などの種々の電子機器に適用できる。
【符号の説明】
【0166】
10・・・撮像装置、11・・・撮像レンズ部、12・・・撮像部、20,20na,20nb,20pa,20pb・・・カメラ信号処理部、31・・・揮発性メモリ、32・・・リサイズ処理部、33・・・符号化/復号部、41・・・表示インタフェース(I/F)、42・・・表示部、43・・・メディアインタフェース(I/F)、44・・・記録メディア、45・・・入力インタフェース(I/F)、46・・・入力部、51・・・制御部、52・・・不揮発性メモリ、53・・・バス、201・・・前処理部、202・・・現像部、203・・・第1フィルタ処理部、204,206・・・データ補充部、204a・・・入力制御部、204b・・・出力制御部、205・・・第2フィルタ処理部、207,209・・・フィルタ処理部

【特許請求の範囲】
【請求項1】
処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る情報処理部と、
前記情報処理部に供給される処理単位毎のデータにおいて、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて前記情報処理を前記情報処理部で行わせるデータ補充部と
を備える情報処理装置。
【請求項2】
前記データ補充部は、前記補充データと次に情報処理が行われる処理単位のデータを順に用いて情報処理が前記情報処理部で行われた場合に、前記処理単位分の情報処理結果が得られるように、前記補充データの抽出を行う
請求項1記載の情報処理装置。
【請求項3】
第1の情報処理部と第2の情報処理部を設け、
前記第2の情報処理部は、前記第1の情報処理部の情報処理結果を用いて情報処理を行うものとし、
前記データ補充部は、前記第1の情報処理部から出力される情報処理結果から、次に前記第2の情報処理部で情報処理が行われるデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データを前記第1の情報処理部から次の処理単位のデータの情報処理結果が出力されるまでの期間を利用して前記第2の情報処理部に出力する
請求項1記載の情報処理装置。
【請求項4】
処理するデータを、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータ分だけ、処理単位の移動方向と逆方向に移動させて、最初の処理単位では前記所定数に含まれるデータの前に無効データを設けた
請求項1記載の情報処理装置。
【請求項5】
処理単位でデータが読み出されるメモリを有し、
前記メモリでは、最初の処理単位のデータが、無効データの後に前記補充データが設けられるように、情報処理を行うデータの位置をずらして記憶する
請求項4記載の情報処理装置。
【請求項6】
前記データ補充部は、補充データが次の処理単位の情報処理に用いられたのち、新たな補充データに更新する
請求項1記載の情報処理装置。
【請求項7】
前記データは画像データである
請求項1記載の情報処理装置。
【請求項8】
処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る情報処理工程と、
前記情報処理工程で用いる処理単位毎のデータにおいて、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて前記情報処理工程で前記情報処理を行わせるデータ補充工程と
を含む情報処理方法。
【請求項9】
情報処理をコンピュータで実行させるプログラムであって、
処理単位毎のデータを順に用いて情報処理を行い、該データの情報処理では処理対象のデータを基準とした所定数の処理順のデータを用いて情報処理結果を得る情報処理手順と、
前記情報処理手順で用いる処理単位毎のデータにおいて、次に前記情報処理が行われる処理単位のデータの情報処理結果を得るために前記所定数に含まれるデータを抽出して補充データとして保持し、該保持した補充データと次に情報処理が行われる処理単位のデータを順に用いて前記情報処理工程で前記情報処理を行わせるデータ補充手順と
を前記コンピュータで実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate

【図32】
image rotate

【図33】
image rotate

【図34】
image rotate

【図35】
image rotate