画像処理装置および画像処理方法
【課題】 表示される画像を収差補正するにあたり、当該画像に白色細線が含まれていた場合でも、偽色の発生を抑制できるようにする。
【解決手段】 画像処理装置であって、画像を処理する際の注目画素が、前記画像に含まれる輝度の高い細線を構成する白色細線画素であるか否かを判断する手段(702)と、白色細線画素であると判断された場合に、前記注目画素に対して平滑化処理を行う手段(702)と、色収差に起因する結像位置のずれ量を示す情報を示す情報に基づいて、前記平滑化処理された注目画素の位置を変換する手段(706)と、変換された注目画素を補間処理し、所定の表示位置における色情報を再構成する手段(707)とを備える。
【解決手段】 画像処理装置であって、画像を処理する際の注目画素が、前記画像に含まれる輝度の高い細線を構成する白色細線画素であるか否かを判断する手段(702)と、白色細線画素であると判断された場合に、前記注目画素に対して平滑化処理を行う手段(702)と、色収差に起因する結像位置のずれ量を示す情報を示す情報に基づいて、前記平滑化処理された注目画素の位置を変換する手段(706)と、変換された注目画素を補間処理し、所定の表示位置における色情報を再構成する手段(707)とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示光学系において生じる色収差を補正するための画像処理技術に関するものである。
【背景技術】
【0002】
従来より、現実世界と仮想世界をリアルタイムかつシームレスに融合させる技術として複合現実感、いわゆるMR(Mixed Reality)技術が知られている。更に、当該MR技術の1つとして、ビデオシースルー型HMD(Head Mounted Display、以下HMD)を利用する技術が知られている。HMDの場合、その装着者の瞳位置から観察される被写体と略一致する被写体をビデオカメラなどで撮像し、当該撮像画像にCG(Computer Graphics)を重畳表示する。これにより、HMD装着者は、複合現実画像を観察することが可能となる。
【0003】
このようにHMDでは、CCD等の電荷結合素子により被写体を撮像して該被写体のデジタル画像データを得るとともに、CG画像を重畳したMR画像(複合現実画像)を液晶等の表示デバイスを介して装着者に表示する構成となっている。このため、撮像及び表示のための光学系(撮像光学系及び表示光学系)において生じる収差を補正することが重要となってくる。レンズの歪曲収差に起因して、表示される画像が樽型の画像や糸巻き型の画像となったり、レンズの倍率色収差に起因して、被写体の境界部分に赤や青や緑の色にじみが生じたりするなど、画像の品質に影響を与えるおそれがあるからである。
【0004】
一般に、撮像光学系及び表示光学系において生じる収差に対する補正については、光学的補正によるアプローチと、信号処理を用いた電子的補正によるアプローチとが挙げられる。このうち、HMDのように頭部に装着する装置では、小型化・軽量化することが不可欠であるため、サイズや重量の増大が不可避な光学的補正によるアプローチよりも、信号処理を用いた電子的補正によるアプローチが選択される。電子的補正によるアプローチを選択した場合、更に、廉価なレンズの採用やレンズ枚数の削減によるコスト低減効果が得られるという利点もあるからである。
【0005】
このような信号処理を用いた電子的補正では、通常、2つのプロセスにより収差補正が実現される。第1のプロセスは、理想的な光学系で得られる結像位置と実際の収差の影響を受けた結像位置との対応関係に基づいて、歪んだ画像の各画素を理想的な位置へと座標変換する座標変換プロセスである。また、第2のプロセスは、座標変換された各画素に基づいて格子上に各画素の色情報を再構成する補間プロセスである。
【0006】
このうち、座標変換プロセスでは、画素毎に座標変換処理を行うことで、画像の歪みである歪曲収差の補正を実現し、画素を構成する色毎に座標変換処理を行うことで、色ずれである倍率色収差の補正を実現する。
【0007】
ここで、座標変換プロセスにより収差が補正された各画素は、撮像系であるか表示系であるかによらず、最終的に、規定する格子点上に存在していなければならない。このため、画素補間プロセスでは、座標変換プロセスによって格子点上にない画素が生じた場合に、当該画素の色情報を格子点上に再構成する処理を行う。具体的には、一般的な解像度変換手法で用いられる線形補間や高次の双三次補間(バイキュービック)を使用し、当該画素と近傍の格子点との位置関係(距離)によって重み付けを行い、各格子点上の色情報を算出する。
【0008】
このような信号処理を用いた収差補正については、従来より、種々の提案がなされている。例えば、下記特許文献1では、画素補間プロセスに対して、キュービック・コンボリューション(BiCubic)を使用することで、より高画質な収差補正を実現する構成が提案されている。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2005−11269号公報
【特許文献2】特開平5−328106号号公報
【特許文献3】特開2003−102025号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、信号処理を用いた従来の収差補正には、以下のような問題点がある。すなわち、表示光学系の収差補正では、原画像に高輝度の白色細線が含まれていた場合、補間プロセスを実行することによって、偽色が発生する。当該偽色は、自然画像では目立たない一方が、ワイヤーフレーム等のCG(Computer Graphics)やOSD(On Screen Display)機能によって人為的に作られた画像では、その発生が顕著になるという特性がある。また、本来画素が存在しない位置にある画素を、格子点との位置関係に合わせて再構成することで発生することから、偽色は収差補正の量によらず発生し、また、画像の周辺部のみならず中央部においても発生する。このようなことから、収差補正における偽色の発生を抑制することは、HMD等における表示において特に重要な課題であるといえる。
【0011】
なお、偽色の発生を抑制するための技術としては、例えば、上記特許文献2や特許文献3に、モアレ除去や撮像系で発生する偽色の発生をローパスフィルタを用いて抑制する構成が開示されている。しかしながら、上記特許文献2及び3に開示された当該構成は、いずれも、エッジ部の保存を目的として処理する技術であるため、上記補間プロセスに適用した場合、白色細線において発生する偽色をかえって助長させてしまう結果となる。
【0012】
本発明は上記課題に鑑みなされたものであり、表示される画像を収差補正するにあたり、当該画像に白色細線が含まれていた場合でも、偽色の発生を抑制できるようにすることを目的とする。
【課題を解決するための手段】
【0013】
上記の目的を達成するために本発明に係る画像処理装置は以下のような構成を備える。即ち、
表示される画像を処理する画像処理装置であって、
前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断手段と、
前記判断手段において白色細線画素であると判断された場合には、前記注目画素に対して平滑化処理を行うよう動作し、前記判断手段において白色細線画素でないと判断された場合には、前記注目画素に対して平滑化処理を行わないよう動作することで、該注目画素の色情報を算出する算出手段と、
前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記算出手段により色情報が算出された前記注目画素の位置を変換する変換手段と、
前記変換手段により変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間手段とを備える。
【発明の効果】
【0014】
本発明によれば、表示される画像を収差補正するにあたり、当該画像に白色細線が含まれていた場合でも、偽色の発生を抑制することができるようになる。
【図面の簡単な説明】
【0015】
【図1】第1の実施形態に画像処理方法が実行されるMRシステムのシステム構成を示す図である。
【図2】MRシステムの機能構成を示す図である。
【図3】MRシステムを構成する画像合成装置のハードウェア構成を示す図である。
【図4】MRシステムを構成するHMDのハードウェア構成を示す図である。
【図5】歪曲収差並びに倍率色収差を説明する図である。
【図6】表示光学系の一構成例を示す図である。
【図7】HMDの表示系収差補正部の機能構成を示す図である。
【図8】表示系収差補正部における収差補正処理の流れを示す図である。
【図9】表示系収差補正部を構成する適応的平滑化処理部の機能ブロック図である。
【図10】表示系収差補正部において用いられる各種マトリックスを示す図である。
【図11】適応的平滑化処理における白色細線検出処理の流れを示す。
【図12】適応的平滑化処理における平滑化処理の流れを示す図である。
【図13】表示系収差補正部において座標変換処理を実行する際に用いられる収差補正テーブルの一例を示す図である。
【図14】座標変換処理の流れを示す図である。
【図15】座標変換処理の一例である三次補間の概念を示す模式図である。
【図16】表示系収差補正部における補間処理の流れを示す図である。
【図17A】偽色発生のメカニズムと表示系収差補正部における収差補正処理による偽色抑制の効果を説明するための模式図である。
【図17B】偽色発生のメカニズムと表示系収差補正部における収差補正処理による偽色抑制の効果を説明するための模式図である。
【図18】第2の実施形態に係る画像処理方法が実行される表示系収差補正部による適応的平滑化処理における白色細線検出処理の流れを示す図である。
【図19】適応的平滑化処理における平滑化処理の流れを示す図である。
【図20】第3の実施形態に係る画像処理方法が実行される表示系収差補正部の機能構成を示す図である。
【図21】表示系収差補正部における収差補正処理の流れを示す図である。
【図22】表示系収差補正部による適応的補間処理において用いられる補間曲線の例を示す図である。
【図23】表示系収差補正部における適応的補間処理の流れを示す図である。
【図24】第4の実施形態に係る画像処理方法が実行される表示系収差補正部の機能構成を示す図である。
【図25】表示系収差補正部における収差補正処理の流れを示す図である。
【図26】表示系収差補正部による適応的補間処理において用いられる補間曲線の例を示す図である。
【図27】表示系収差補正部における適応的補間処理の流れを示す図である。
【発明を実施するための形態】
【0016】
以下、図面を参照しながら、本発明の各実施形態について説明する。
【0017】
[第1の実施形態]
<1.MRシステムのシステム構成>
図1は、本発明の第1の実施形態にかかる画像処理方法が実行されるMRシステム100のシステム構成を示す図である。
【0018】
現実世界と仮想世界をリアルタイムかつシームレスに融合させる技術である複合現実感、いわゆるMR技術では、撮像機能付表示装置が利用される。なお、以下では、撮像機能付表示装置をHMDと略すこととする。ただし、撮像機能付表示装置は、双眼鏡のような手持ちタイプのものでもよく、頭部装着型のものに限られるものではない。
【0019】
HMDでは、撮像ユニットにおいて取得した装着者の視点による現実空間の撮像画像に、装着者の位置、方向などの三次元位置姿勢情報に基づいて生成したCG画像を重畳し、表示ユニットに表示するよう構成されている。当該構成により、HMD装着者は、観察している現実空間内に、CGで描画されたオブジェクトがあたかも存在しているかのような複合現実感を体感することができる。
【0020】
図1に示すように、当該HMDを利用したMRシステム100は、通常、HMD101のほか、コントローラ102と、画像合成装置103とにより構成することができる。
【0021】
このうち、HMD101は、上述したように装着者の観察している現実空間の画像を取得するための撮像ユニットを備える。また、撮像ユニットにおいて撮像した現実空間の撮像画像や、画像合成装置103からの出力画像、または画像合成装置103で生成したCG画像を現実空間の撮像画像に重畳した合成画像などを、表示画像として装着者に提供するための表示ユニットを有する。更に、HMD101は、コントローラ102と通信を行う機能を備える。なお、HMD101は、コントローラ102からの電源供給を受けて駆動するように構成してもよいし、バッテリーで駆動するように構成してもよい。
【0022】
一方、コントローラ102と接続された画像合成装置103は、CG画像を生成するCG描画部と、現実空間の撮像画像とCG画像とを合成する画像合成部とを備える。
【0023】
画像合成装置103はコントローラ102を介して、HMD101と通信を行うよう構成され、画像合成部において合成された合成画像は、コントローラ102を介してHMD101に送信され、表示ユニットにおいて表示される。
【0024】
一方、コントローラ102(画像処理装置)には、画像の解像度を変換する機能や色空間を変換する機能に加え、本実施形態にかかる画像処理方法による表示光学系の収差補正処理機能を含む各種画像処理機能ならびに伝送フォーマット変換機能が配されている。
【0025】
なお、図1のMRシステムでは、画像合成装置103とコントローラ102とを別々のハードウェアとして構成しているが、本発明はこのような構成に限定されるものではない。例えば、コントローラ102が有する機能と画像合成装置103が有する機能とを統合し、専用の画像合成装置を構成するようにしてもよい。
【0026】
また、図1のMRシステムでは、各々の装置を有線で接続することとしているが、本発明はこれに限定されず、これらの一部またはすべてを無線で接続するように構成してもよい。
【0027】
あるいは、コントローラ102の機能の一部または全部をHMD101側に取り込むように構成してもよい。なお、以下のMRシステムでは、コントローラ102とHMD101がそれぞれ有する機能を組み合わせたものを改めてHMD101(画像処理装置)と表記して説明を行うこととする。
【0028】
<2.MRシステムの機能構成>
図2は、第1の実施形態にかかる画像処理方法が実行されるMRシステム200の機能構成を示す図である。
【0029】
図2において、201は、ビデオシースルー型のHMDである。HMD201は、現実空間を撮像する撮像ユニット203と、CG画像が重畳されたMR画像を表示する表示ユニット208と備える。また、CG画像の生成、合成を行う画像合成装置211との間で通信を行うためのI/F206と、HMD201の位置姿勢情報を出力する三次元位置姿勢センサ205と、撮像系収差補正部204と表示系収差補正部207とを備える。以下、HMD201の各部について説明する。
【0030】
撮像ユニット203は、HMD装着者の視線位置と略一致する現実空間を撮像する。撮像ユニット203は、ステレオ画像の生成が可能な右目用、左目用の二組の撮像素子と撮像光学系および信号処理回路とから構成される。
【0031】
撮像系収差補正部204は、撮像光学系で生じる収差を補正する。なお、収差補正の処理の内容は撮像系、表示系ともに基本的には同じである。
【0032】
三次元位置姿勢センサ205は、HMD装着者の位置姿勢情報を得るためのセンサであり、後述する位置姿勢情報生成部213で用いられる情報を生成する。三次元位置姿勢センサ205としては、例えば、磁気センサやジャイロセンサ(加速度、角速度)が使用される。なお、三次元位置姿勢センサ205は、撮像画像のみから位置姿勢情報を取得するMRシステムの場合にあっては、必ずしも搭載が必須のデバイスではない。
【0033】
206は、撮像ユニット203で撮像された撮像画像を画像合成装置211に伝送し、また合成されたMR画像をHMD201へ伝送するためのI/Fである。I/F206は、HMD201と画像合成装置211との間のデータ通信を行う際に、インターフェースとして機能するものである。なお、これについては、画像合成装置211側に設けられているI/F212についても同様である。ただし、I/F206、212のいずれも、リアルタイム性が求められるため、大容量の伝送が可能な通信規格が採用されることが望ましい。有線系であれば、USBやIEEE1394のメタル線、GigabitEthernet(登録商標)等の光ファイバを使用するのが望ましい。また、無線系であれば、IEEE802.11のワイヤレスLAN、IEEE802.15のワイヤレスPAN規格等に準拠した高速無線通信を使用するのが望ましい。なお、本実施形態では、有線系であれば光ファイバを、無線系であればUWB(Ultra Wide Band)を使用することとする。光ファイバの伝送帯域は数Gbps、UWBは数百Mbpsである。
【0034】
表示系収差補正部207は、表示光学系で生じる収差を補正する。なお、表示系収差補正部207の詳細は後述する。
【0035】
表示ユニット208は、合成されたMR画像を表示する。撮像ユニット203と同様に、右目用、左目用の二組の表示デバイスと表示光学系とから構成される。表示デバイスとしては、例えば、小型の液晶ディスプレイやMEMS(Micro Electro Mechanical System)による網膜スキャンタイプのデバイスが使用可能である。なお、表示光学系の構成については後述する。
【0036】
一方、画像合成装置211は、HMD201から受け取った撮像画像に基づいて位置姿勢情報を生成したり、位置姿勢情報に基づいてCG画像を生成し、撮像画像と合成を行ったりする。画像合成装置211は、パソコンやワークステーション等の高性能な演算処理機能やグラフィック表示機能を有する装置により構成される。以下、画像合成装置211の各部について説明する。
【0037】
212は、画像処理装置側のI/Fである。I/F212の機能は、HMD201内のI/F206と同じであるため、ここでは説明は省略する。
【0038】
213は、受け取った撮像画像から、HMD装着者の位置姿勢を示す位置姿勢情報を生成する位置姿勢情報生成部である。撮像画像からマーカやマーカの代わりとなる特徴点を抽出することにより位置姿勢情報を生成する。なお、位置姿勢情報生成部213は、不図示の客観視点による撮像画像や、HMD201に取り付けられた三次元位置姿勢センサ205による情報を補足的に使用する構成となっており、撮像画像中にマーカや特徴点がない場合にも対応することが可能である。
【0039】
214は、コンテンツDB215に保持されているそれぞれの仮想物体に係るデータを用いて、それぞれの仮想物体を仮想空間中に配置した仮想空間を形成するCG画像描画部である。CG画像描画部214では、形成した仮想空間においてHMD装着者の視点から見た場合の仮想画像(CG画像)を生成する。なお、所定の位置姿勢のHMD装着者の視点から見た場合の仮想空間の画像を生成する処理については周知であるので、ここでは詳細な説明は省略する。
【0040】
215は、仮想画像のコンテンツを納めたコンテンツDBであり、仮想空間を構成する各仮想物体に係るデータを保持するDB(データベース)である。仮想物体に係るデータには、例えば、仮想物体の配置・位置姿勢や、その動作則を示すデータが含まれる。また、仮想物体がポリゴンにより構成されている場合には、各ポリゴンの法線ベクトルデータやその色データ、ポリゴンを構成する各頂点の位置データ等が含まれる。また、仮想物体にテクスチャマッピングを施す場合には、テクスチャデータも含まれる。
【0041】
216は、撮像画像とCG画像とを合成し、MR画像を生成するMR画像合成部である。ここで生成したMR画像は、I/F212を介してHMD201に送られ、HMD201の表示ユニット208にて表示される。
【0042】
以上のような機能構成のもと、撮像ユニット203で撮像された撮像画像は、以下のような流れにより処理される。すなわち、撮像系収差補正部204において撮像光学系の収差が補正され、画像処理装置202へと送信される。そして、画像処理装置202において、受け取った撮像画像中のマーカや特徴量に基づいて、HMD201の位置姿勢情報が算出される。その後、算出された位置姿勢情報に基づいて生成されたCG画像が、撮像画像に重畳され、合成画像であるMR画像が生成される。生成されたMR画像は、I/F212を介してHMD201へと送られる。
【0043】
HMD201では、撮像光学系と同様に、表示系収差補正部207において表示光学系の収差が補正された後、表示ユニット208に表示される。このような処理の流れにより、収差の補正されたMR画像がHMD装着者の瞳に導かれることとなる。
【0044】
<3.画像合成装置のハードウェア構成>
次に、画像合成装置211のハードウェア構成について説明する。図3は、画像合成装置211のハードウェア構成を示すブロック図である。図3において、301はCPUであり、RAM302やROM303に格納されているプログラムやデータに基づいて処理を実行することにより、コンピュータ全体の制御を行うと共に、画像合成装置211が有する各種機能を実現する。
【0045】
RAM302は、外部記憶装置306からロードされたプログラムやデータ、I/F307を介して外部(本実施形態の場合、HMD201)から受信したデータ等を一時的に記憶するエリアを提供する。また、CPU301が各種の処理を実行する際に用いるワークエリアも提供する。なお、RAM302は、これらのエリアを適宜提供することができる。ROM303は、コンピュータの設定データやブートプログラム(BIOS)等を格納する。
【0046】
304は操作部であり、キーボードやマウスなどにより構成されている。コンピュータの使用者は、操作部304を操作することにより、CPU301に対して各種の指示を入力する。305は表示部であり、CRTや液晶画面等により構成される。CPU301や不図示のグラフィックスボードによる処理結果は、画像や文字として、表示部305に表示される。
【0047】
306は外部記憶装置であり、ハードディスクドライブ装置に代表される大容量情報記憶装置により構成される。外部記憶装置306には、OS(オペレーティングシステム)や、各種処理をCPU301に実行させるためのプログラムやデータが保存されている。これらのプログラムやデータは、CPU301による制御に従って適宜RAM302にロードされ、CPU301によって実行される。
【0048】
307はI/Fであり、図2に示したI/F212に対応する。I/F307は、HMD201とのデータ通信を行うためのインターフェースとして機能する。308は上記各部を繋ぐバスである。
【0049】
<4.HMDのハードウェア構成>
次に、HMD201のハードウェア構成について説明する。図4は、HMD201のハードウェア構成を示すブロック図である。図4において、401は撮像ユニットであり、図2の撮像ユニット203に対応する。402は表示ユニットであり、図2の表示ユニット208に対応する。403はRAMであり、CPU406が各種処理を行うために用いるワークエリアや、I/F206を介して外部(ここでは画像処理装置202)から受信したデータを一時的に記憶するためのエリアを提供する。
【0050】
404はROMであり、HMD201が行う後述の各種処理をCPU406に実行させるためのプログラムやデータが格納されている。405は三次元位置姿勢センサであり、図2の三次元位置姿勢センサ205に対応する。406はCPUであり、HMD201の初期設定を行ったり、各種デバイスの制御を行うプログラムを実行する。407はI/Fであり、図2のI/F206に対応する。
【0051】
408は収差補正LSIであり、図2の撮像系収差補正部204および表示系収差補正部207に対応する。ここでは専用集積回路であるASICを想定しているが、信号処理プロセッサであるDSPによってソフト的に機能を記述することで実現してもよい。409は上記各部を繋ぐバスである。
【0052】
<5.歪曲収差及び倍率色収差についての説明>
次に、歪曲収差及び倍率色収差について説明する。図5は、歪曲収差及び倍率色収差を説明するための図である。図5(A)は歪曲のない状態を、図5(B)は歪曲した状態を、図5(C)は歪曲に加えて倍率色収差が生じた状態をそれぞれ示している。
【0053】
図5(C)では、RGB三原色のうち、Greenを実線で、Redを破線で、Blueを一点鎖線で表している。このように、色毎に収差が生じるのは、Red、Green、Blueの各波長によってレンズでの屈折率が異なるためである。撮像光学系ではGreenの像に対して、Redの像は外側に、Blueの像は内側に結ばれる現象が起こり、白黒の被写体であってもその像のエッジには色にじみ(色ずれ)が生じる。また、カラー画像の被写体の場合も境界領域等の色味が変わるエッジ部分においては同様の色にじみが生じる。
【0054】
実レンズにおける結像においては、図5(A)のような図形を撮像した場合に、図5(C)のように画像が歪み、また、色によって結像位置(倍率)が異なる現象が生じる。一般に、単色における画像の歪みは「歪曲収差」と呼ばれ、色の違いによる倍率の差は「倍率色収差」と呼ばれている。
【0055】
光の屈折は波長が短いほど顕著で、凸レンズをイメージした撮像光学系では外側に赤色がずれるが、拡大光学系である表示光学系では、逆に青色が外側にずれることになる。電子的な収差補正処理では、ずれる方向と逆方向にずらすように補正を行うこととなる。例えば、表示光学系の収差補正であれば、青色を内側に、赤色を外側に配置するように画像を形成することで表示光学系の収差と相殺され、各色の色ずれが生じることのない好ましい画像が、瞳位置において提供されることとなる。
【0056】
<6.表示ユニットの光学系の説明>
次に、HMD201の表示ユニット402の光学系について説明する。図6は表示光学系の一例を示す図である。図6において、601は表示パネルである。表示パネル601は、TFT液晶や有機ELのデバイスにより構成されており、TFT液晶の場合にあっては、不図示のバックライトを光源とした光が各色のフィルタを経由して照射されることとなる。一方、有機ELデバイスの場合には、自発光であるためバックライトは不要となる。HMD装着者に提示されるカラー画像は、表示パネル601上に形成される。
【0057】
602は、小型の表示パネル601からの光線を拡大し瞳に導くための自由曲面プリズムである。自由曲面プリズムの場合、単なるレンズを用いた場合と比べて、表示パネル601の薄型、小型化を実現することができる。
【0058】
603は、表示パネルで形成した画像の結像点である。この結像位置に瞳を配置させることで、HMD装着者は、表示パネル601の画像を、拡大された大画面の表示画像として観察することができる。
【0059】
一般に表示光学系で生じる各種収差は複数のレンズ群によってその影響を抑えることができるが、小型のHMDの実現には表示光学系の簡略化および小型・軽量化が欠かせない。そのため、上述したように、HMD201では、各種収差を電子的に補正することとしている。
【0060】
<7.表示系収差補正部の機能構成>
次に、HMD201の表示系収差補正部207の機能構成について説明する。図7は、表示系収差補正部207の機能構成を示すブロック図である。図7において、701は、RGBの色成分を持つ画素からなる画像データを格納するバッファである。702は、バッファ701に格納された画像を読み出し、平滑化対象となる画素を検出し、検出された画素に対して平滑化処理を行う適応的平滑化処理部である。なお、適応的平滑化処理部702の詳細については後述する。
【0061】
703は、適応的平滑化処理部702より出力された画像について、RGBの色成分に分離する色分離部である。704は収差補正テーブルであり、「注目画素」(処理を実行しようとしている画素)についての変換後の座標値を算出するための補正値を格納する。収差補正テーブル704には、容量削減のため、特定色の変換後の座標値と、特定色を除く他色についての、当該特定色を基準とした場合の差分値とが格納されているものとする。なお、収差補正テーブル704のテーブル構成および格納されている値についての詳細は後述する。
【0062】
705は、各色の補正値を選択する補正値選択部であり、注目画素の座標値に対応する変換座標を算出するための補正値を収差補正テーブル704から読み出す。
【0063】
706は、補正値選択部705で選択された補正値に基づいて、注目画素の各色成分の変換後の座標値を算出する座標算出部である。座標算出部706では、各種補間式を用いた補間演算によって変換後の座標値を算出する。なお、座標算出部706における処理の詳細は後述する。
【0064】
707は、変換後の注目画素の色情報を、該注目画素の近傍の補間位置に再構成する補間処理を行う補間処理部である。ここでは、それぞれGreen、Red、Blueの各色について補間位置における輝度値を算出する。なお、ここでいう「補間位置」とは表示パネル上の表示画素(格子点上)の位置を指すものとする。入力画像と出力画像の画像サイズの変換、すなわち解像度変換を行う場合には、補間処理部707において併せて当該処理を実施するものとする。なお、補間処理部707における処理の詳細は後述する。
【0065】
708は、補間処理後の各色の画像に対して、適応的平滑化処理部702における平滑化処理によって鈍った白色細線を先鋭化する適応的先鋭化処理部である。適応的先鋭化処理部708では、平滑化対象となった画素か否かの判断を行い、平滑化対象となった画素であると判断された画素に対して、先鋭化処理を行う。なお、適応的先鋭化処理部708における先鋭化処理の概要については後述する。
【0066】
709は、それぞれの色成分毎に求められた新たな輝度値をもとに、表示画素における各色成分の輝度値を結合する色結合部である。色結合部709では、例えば、各色8ビットの入力データが存在する場合、変換後の画素を結合することにより、各色8ビットの入力に対して、合計24ビットの画素データを出力する。
【0067】
なお、図7では不図示であるが、表示系収差補正部207には、入力された画像データを、収差補正処理が可能な画像フォーマットに変換する前処理部が備えられていてもよい。画像フォーマット変換としては、例えば、入力画像の各画素の画素情報が、座標値と輝度値と色差値とで構成される場合にあっては、当該画素情報を座標値と輝度値と各色成分(例えばRGBの各色)とに構成し直す処理を行う。また、画像の色味の補正や輝度値の調整、および、その後の画像フォーマットへの変換等を行う後処理部が、必要に応じて表示系収差補正部207に追加されてもよい。
【0068】
以上の機能構成のもと、表示系収差補正部207では、入力されたRGBの各プレーン画像に対して、適応的平滑化処理部702で検出された白色細線への平滑化処理を実施する。そして、平滑化処理された画像に対して、座標変換処理と補間処理とを施すことによって表示光学系の収差を打ち消す補正を行う。更に、収差補正された画像に対して、必要に応じてエッジの先鋭化を実現する先鋭化処理を施し、白色細線のエッジが鈍りを解消する。更に、先鋭化処理された各色画像プレーンを結合し、カラー画像として表示する。
【0069】
表示系収差補正部207ではこのような流れにより処理を行うことで、白色細線に生じる偽色を抑制した画像を表示することが可能となる。なお、偽色抑制の実現において、適応的先鋭化処理部708による先鋭化処理は必須の処理ではなく、よりメリハリの効いた好ましい画像の提供を目的とした処理である。
【0070】
<8.表示系収差補正部による収差補正処理の流れ>
次に、表示系収差補正部207における収差補正処理の流れについて説明する。図8は、表示系収差補正部207における収差補正処理の流れを示すフローチャートである。ステップS801では、収差補正を行うにあたり前処理を行うか否かを判断する。ここでいう前処理とは、例えば、色収差補正が適用できる画像フォーマットへの変換処理などである。前処理を行う場合にはステップS802へ進み、行わない場合にはステップS803へ進む。ステップS802では、前処理として、色収差補正が適用できる画像フォーマットへの変換処理等を実施する。
【0071】
ステップS803では、平滑化対象となる白色細線を検出し、検出された白色細線に対する平滑化処理を実施する。なお、適応的平滑化処理の詳細については別フローを用いて後述する。
【0072】
ステップS804では、平滑化処理された画像について、RGBの三原色で構成される各画素の色情報を各色プレーン(色成分)ごとに分離する。なお、ここではRGBの三原色により分離することとしているが、収差補正テーブル自体が他の色成分の位置ずれ量を示す補正値からなる場合には、RGB以外の色により分離するように構成してもよい(例えば補色系のCMYK等)。
【0073】
ステップS805では、各画素の色ごとにどの位置に結像点がずれるのか、あるいは、理想的な結像点へ導くためには、どこに画素を配置すれば良いのか、を示す変換後の座標値を算出する。なお、座標変換処理の詳細については別フローを用いて後述する。
【0074】
ステップS806では、ステップS805で得られた座標変換された注目画素の画素情報と参照画素の画素情報とに基づいて、新たな構成位置(「補間位置」)において、各色成分の輝度値を再構成する補間処理を行う。なお、「参照画素」とは、座標変換された注目画素が、表示パネル上の表示位置(格子点上)にない画素(つまり、補間処理が必要な「補間画素」)であった場合に、当該補間画素の近傍にある画素であって、表示パネル上の表示位置にある画素を指すものとする。つまり、補間画素の各色成分の輝度値は、参照画素の位置において(補間位置において)、再構成されることとなる。なお、補間処理の詳細についても別フローを用いて後述する。
【0075】
ステップS807では、補間処理が行われた画像のうち、平滑化処理によって鈍った白色細線を先鋭化すべく、平滑化対象となった画素を対象として先鋭化処理を実施する。具体的には、平滑化対象となった画素を対象として、後述するラプラシアンフィルタなどのフィルタによるマトリクス演算を行う。なお、白色細線の検出処理は、座標変換処理前の画像に対して行われているため、座標変換処理後の画像における平滑化対象となった画素か否かの判断は、白色細線の検出処理結果と座標変換処理に用いた補正値とに基づいて行われるものとする。
【0076】
ステップS808では、色成分毎に座標変換処理、補間処理を行った各画素の色情報に基づいて、新たな画素の色情報を再結合する色結合処理を実施する。
【0077】
ステップS807では、収差補正処理後に、色補正や画像フォーマット変換等の後処理を行うか否かを判断する。後処理を行うと判断した場合にはステップS810へ進み、行わないと判断した場合には収差補正処理を終了する。ステップS810では、収差補正処理された画像に対して後処理を実施する。
【0078】
<9.適応的平滑化処理及び適応的先鋭化処理についての説明>
次に、表示系収差補正部207において実行される適応的平滑化処理(ステップS803)及び適応的先鋭化処理(ステップS807)の詳細について説明する。
【0079】
<9.1 適応的平滑化処理部及び適応的先鋭化処理部の機能構成>
はじめに、適応的平滑化処理を実行する適応的平滑化処理部702及び適応的先鋭化処理を実行する適応的先鋭化処理部708の機能構成について説明する。図9は、適応的平滑化処理部702の機能ブロック図である。
【0080】
図9において、901は、表示される画像中に含まれる白色細線を検出する白色細線検出部である。表示画像を格納しているバッファ701から白色細線検出に必要な領域を読みだし、後述する参照マトリクスを用いて、注目画素が白色細線を形成する画素の一部であるか否かを判断する白色細線検出処理を実施する。検出結果は後段の適応的先鋭化処理(ステップS803)において使用される。なお、白色細線検出処理の詳細は後述する。
【0081】
902は、タイミング調整用のバッファである。903は平滑化を実施する平滑化フィルタである。平滑化フィルタ903は、M行×N列のマトリクスにより構成されており、当該平滑化フィルタ903により、注目画素に対して指定された係数による重み付けが行われることにより、平滑化処理が実現される。
【0082】
904は、平滑化処理を制御する制御部である。平滑化の度合いを平滑化フィルタの形状、サイズ、係数を変更することによって制御する。
【0083】
905は、白色細線の検出結果に基づき、平滑化フィルタ903からの出力(平滑化処理された画素)とタイミング調整用バッファ902からの出力(平滑化処理がされていない画素)とを選択するセレクタである。
【0084】
一方、適応的先鋭化処理部708も、適応的平滑化処理部702と基本的に同様の機能構成を有する。ただし、適応的先鋭化処理部708では、平滑化フィルタ903の代わりに、先鋭化フィルタが用いられる。また、先鋭化フィルタによる先鋭化対象となる画素は、適応的平滑化処理部702より送信された白色細線の検出結果と座標変換処理に用いた補正値とにより導き出される画素である。
【0085】
<9.2 適応的平滑化処理及び適応的先鋭化処理において用いられるマトリックス>
次に、適応的平滑化処理及び適応的先鋭化処理において用いられるマトリックスについて説明する。図10は、適応的平滑化処理で使用される参照マトリクス及び平滑化フィルタ、及び、適応的先鋭化処理で使用される先鋭化フィルタの構成を示した図である。
【0086】
図10(a)は、白色細線検出用の参照マトリクスの一例を示している。ここでは参照マトリクスを3行×5列のマトリクスとして示しているが、参照マトリクスは、このサイズに限られるものではない。白色細線検出部901では、参照マトリクス中央の注目画素が白色細線の一部を構成する白色細線画素であるのか、白色細線を構成しない非該当画素であるのかを、当該参照マトリクス内の画素の値に基づいて判断する。つまり、「白色細線画素」とは、平滑化処理の対象となる画素(及び先鋭化処理の対象となる画素)を指す。
【0087】
なお、白色細線が3画素の幅で構成されている場合、白色細線の外側の画素が白色画素ではないことを判断するためには、3画素より広い領域を参照する必要がある。つまり、上記参照マトリクスの場合、縦線では3画素の幅まで、横線では1画素の幅まで検出することが可能である。参照マトリクスのサイズ及び形状は検出したい白色細線の線幅によって、制御部904によって任意に変更されるものとする。
【0088】
図10(b)は、平滑化フィルタ903のマトリクスの一例を示している。図10(b)に示すマトリクスによれば、注目画素の輝度値を2倍した値とその周囲8画素の輝度値との和を10で割った値を新たに注目画素の輝度値とする平滑化処理が行われる。なお、ここで示したフィルタ係数(重み付け係数)は一例であり、この値に限られるものではない。より平滑化の効果を強めたい場合には、注目画素の重み付け係数の値を周囲の係数と比べて相対的に小さくすればよい。逆に平滑化の効果を弱めたい場合には、注目画素の重み付け係数の値を周囲の係数と比べて相対的に大きくすればよい。また、参照マトリクスのサイズを大きくすることで平滑化の度合いを強めることも可能である。さらには、新たに算出された平滑化処理後の輝度値が元の輝度値と比べてある閾値以上の差がない場合には、元の輝度値を採用するといった処理が加えられてもよい。
【0089】
図10(c)は、先鋭化フィルタのマトリクスの一例を示している。図10(c)に示すマトリクスによれば、注目画素の輝度値を10倍した値からその周囲8画素の輝度値の和を引いた値を2で割った値を、新たに注目画素の輝度値とする先鋭化処理が行われる。なお、ここで示したフィルタ係数(重み付け係数)は一例であり、この値に限られるものではない。例えば、ラプラシアンフィルタのように、注目画素の対角画素のみを参照するようにしてもよい。
【0090】
<9.3 適応的平滑化処理における白色細線検出処理の流れ>
次に、適応的平滑化処理(ステップS803)における白色細線検出処理の流れについて説明する。図11は、白色細線検出処理の流れを示すフローチャートである。上述した参照マトリクスを利用して、注目画素が白色細線の一部を構成する白色細線画素であるか否かを判断する。
【0091】
ステップS1101では、参照マトリクス内の各画素の輝度値を取得する。ステップS1102では、参照マトリクス内の注目画素が白色であるのか否かを判断する。白色であるか否かの判断は、RGBの各輝度値がそれぞれ任意の閾値以上であるか否かを判断することによって行う。例えば、各色8ビットデータの場合、192以上の値を各色成分が持っていれば白色と判断する。注目画素が白色であると判断された場合には、ステップS1103へ進み、注目画素が白色でないと判断された場合にはステップS1106へ進む。
【0092】
ステップS1103では、参照マトリクス内の注目画素以外の画素に、注目画素と同一の輝度値を持つ画素が存在するか否かを判断する。これは、注目画素が白色細線の一部を構成する画素であるなら、マトリクス内に同一またはほぼ同一の輝度値を持つ画素が存在するはずだからである。同一輝度値を持つ画素が存在すると判断された場合にはステップS1104へ、存在しない、すなわち注目画素が白色の孤立画素であると判断された場合にはステップS1106へ進む。
【0093】
ステップS1104では、参照マトリクス内に任意の閾値以下の値を持つ輝度値の低い画素が存在するか否かを判断する。例えば、各色8ビットデータの場合、各色成分が96より小さい輝度値を持っているのであれば、白色細線とその周辺とでコントラストの差が大きいと判断することができる。コントラストが大きい場合、収差補正による補間処理時に偽色が目立ちやすくなることから、平滑化処理が必要であると判断することができる。逆に白色細線の外周(背景部分)の輝度値が相対的に大きい場合には、補間処理時の偽色が目立ちにくい。このため、平滑化処理が不要と判断することができる。そこで、任意の閾値以下の輝度値を持つ画素が存在する場合にはステップS1105へ進み、存在しない場合にはステップS1106へ進む。
【0094】
ステップS1105では、ステップS1102からステップS1104までの条件を満たしていることを受けて、注目画素が白色細線の一部を構成する白色細線画素(平滑化対象となる画素)であると判断し、白色細線検出処理を終了する。
【0095】
一方、ステップS1106では、ステップS1102からステップS1104までの条件の何れかを満たしていないことを受けて、平滑化対象とならない非該当画素であると判断し、白色細線検出処理を終了する。
【0096】
<9.4 適応的平滑化処理における平滑化処理の流れ>
次に、適応的平滑化処理(ステップS803)における平滑化処理の流れについて説明する。図12は、平滑化処理の流れを示すフローチャートである。ステップS1201では、平滑化処理におけるフィルタ演算の際の平滑化フィルタ903のマトリクス内の各画素の輝度値を取得する。
【0097】
ステップS1202では、図11のフローチャートで説明した白色細線検出処理の検出結果を把握する。ステップS1203では、平滑化フィルタ903のマトリクス内に白色細線の一部を構成する白色細線画素が存在するか否かを判断する。存在する場合にはステップS1204へ進み、存在しない場合には平滑化処理を終了する。
【0098】
ステップS1204では、平滑化フィルタ903のマトリクス内に白色細線の一部を構成する白色細線画素が含まれることを受けて、フィルタ演算を実施する。
【0099】
<10.座標変換処理及び補間処理についての説明>
次に、表示系収差補正部207において実行される座標変換処理(ステップS805)及び補間処理(ステップS806)について説明する。
【0100】
<10.1 収差補正テーブルの説明>
はじめに、座標変換処理に用いられる収差補正テーブル704について説明する。図13は、収差補正テーブル704の一例を示す図である。図13に示すように、収差補正テーブル704には、特定の画素の変換前座標と、変換後座標(または変換後座標との差分値)とが格納されている。注目画素に基づいて特定の画素のX−Y座標を指定することで、基準色(本実施形態ではG)は変換後座標を、基準色以外の他色(RとB)については基準色についての変換後座標との差分値を得ることができる。つまり、Rの変換後座標は、格納されている差分値1301(Gx―Rx)とGの変換後座標Gxとから求めることができる。また、Bの変換後座標は、格納されている差分値1302(Bx―Gx)と、Gの変換後座標Gxとから求めることができる。
【0101】
なお、本実施形態では座標変換前の座標についても収差補正テーブルとして構成することとしたが、本発明はこれに限定されず、座標変換前の座標をメモリアクセス時のアドレスと対応づけるようにしてもよい。このように構成することにより、変換前座標をメモリ領域内に確保する必要がなくなり、メモリサイズをさらに削減することが可能となる。
【0102】
<10.2 座標変換処理の流れ>
図14は、座標変換処理の流れを示すフローチャートである。二次元の座標系における表示中心座標(x0,y0)を原点としてレンズの歪曲収差情報、色収差情報および解像度情報に基づいて、二次元座標系における各画素における位置ずれ量を求める。そして、該位置ずれ量に基づいてx軸方向、y軸方向に各画素を座標変換する。
【0103】
なお、本実施形態では収差補正テーブルのサイズを削減するため、変換前座標と変換後座標との関係は、画像内の画素すべてに対して保持するのではなく、サンプリングされた代表点のみを持ち、間の画素については補間演算によって求めるものとする。
【0104】
ステップS1401では、注目画素の座標を指定する。ステップS1402では、注目画素に対応する収差補正テーブル内の特定の画素の座標を指定する。ここでは注目画素に対応する収差補正テーブル内の特定の画素の座標の指定を、ステップS1401の後に行うこととしているが、本発明はこれに限定されない。例えば、ステップS1401の前に行うよう、ステップS1401とS1402の順番を入れ替えるようにしてもよい。
【0105】
ステップS1403では、注目画素の座標変換後の座標値を得るために必要な補正値を収差補正テーブルから取得する。ステップS1404では、ステップS1403において収差補正テーブルより取得された補正値を用いて、注目画素についての変換後の座標値を取得する。具体的には、歪曲収差であれば画素の位置ずれ量、また、色収差であれば各色成分の変換後の座標を算出するための色成分ごとの位置ずれ量を用いて、注目画素についての変換後の座標値を取得する。なお、格納されている収差補正テーブルで示される変換前座標はサンプリングされた代表値のため、その間の値は補間演算によって求めることとする。この補間演算には、線形補間の他、三次の補間曲線や補間曲面およびスプライン曲線や近似多項式などを用いるものとするが、特にそのような補間式に限定されるものではない。
【0106】
ステップS1405では、全画素に対して上記座標変換処理を実行したかどうかを判断する。全画素に対して処理が終了したと判断された場合には、座標変換処理を終了する。一方、全画素に対して上記座標変換処理を実行していないと判断された場合には、ステップS1401に戻り、対応する画素の収差を補正するための座標変換処理を継続する。
【0107】
<10.3 補間処理の概要>
次に補間処理について説明する。はじめに補間処理の概要について説明する。図15は、三次補間処理の概念を示す模式図である。収差補正における補間処理では、座標変換後の注目画素の色情報を補間位置に再構成する補間処理として、三次補間式を使用することで画像の高画質化を実現している。ここでは一般的な三次補間処理の概念について説明する。なお、補間処理は線形補間を用いても、あるいは、より高次の補間式を用いてもよい。
【0108】
座標変換した注目画素の画素位置と各色成分の輝度値とに基づいて、二次元座標系における補間位置の画素情報(RGBの各輝度値)を補間演算によって求めるのが補間処理である。図15の例では、補間演算において補間画素1501のx座標sxとy座標syとを指定し、まず参照画素と補間画素との間の正規化された距離pxとpyを求める。そして、求めた距離pxとpyを用いて、xとyの各座標について重み係数を求める。求める際に使用する三次関数が上記各三次式による補間曲線となり、バイキュービックであれば式(1)および式(2)が、ラグランジュであれば(3)および(4)が該当する三次補間式となる。
【0109】
バイキュービック補間曲線(周囲16点から双三次補間)
【0110】
【数1】
【0111】
ラグランジュ補間曲線(周囲16点から双三次補間)
【0112】
【数2】
【0113】
x、yそれぞれの座標に対して上記三次補間式にpxとpyの値を代入することで、参照画素の重み係数を算出する。なお、pxとpyは正規化されているものとする。通常の解像度変換であれば格子が正方形で一定の値となるが、座標変換によって変換された各補間画素は正方形を構成しないため、ここでは参照画素の間隔を1として正規化を行っている。以後は説明を簡略化するため、参照画素は正規化された軸上に存在するものとする。
【0114】
図15では補間画素1501の周囲の点線で囲まれた部分が正規化された1の領域となる。すなわちyとy+1の軸およびxとx+1の軸上に存在する4つの参照画素と補間画素との距離px、pyはともに1よりも小さくなる。逆にその周りの12画素は1と2との間の値をとる。最近傍4画素の重み係数の演算の際に使用する三次補間式は、バイキュービックであれば(1)に、ラグランジュであれば(3)となる。外周12画素の重み係数の演算の際に使用する三次補間式は、バイキュービックであれば(2)に、ラグランジュであれば(4)となる。これらの重み係数をx方向、y方向それぞれに求めた後、参照画素の輝度値とこれらxとyの重み係数とを掛け合わせ、周辺16画素の輝度値に加算した値が補間位置における新たな輝度値となる。
【0115】
なお、実際の処理では、最近傍4画素すべてが正規化された格子内または格子上に存在するわけではなく、逆に周辺12画素が正規化された1以上の値をとるとは限られず、いずれも収差補正量によって変化する。
【0116】
<10.4 補間処理の流れ>
次に補間処理の流れについて説明する。図16は、補間処理の流れを示すフローチャートである。ここでは上記三次補間式を使用した補間処理について説明する。
【0117】
ステップS1601では、新たに補間を行う補間画素の位置について、座標の指定を行う。ステップ1602では、補間画素の近傍16点の参照画素を指定する。
【0118】
ステップS1603では、参照画素である近傍16画素のそれぞれの座標を取得する。この座標は正規化された値である。ステップS1604では、補間画素と各参照画素との距離を算出する。なお、当該距離は代表点の間隔で正規化された値として準備する。なお、本実施形態では、二次元空間を対象としているため、x座標、y座標それぞれの値を求める。
【0119】
ステップS1605では、補間曲線または補間直線にステップS1604で算出した距離を代入することで各参照画素の重み係数を求める。ここでは三次補間式の採用を想定しているが、線形補間(バイリニア)アルゴリズムを採用しても構わない。ステップS1606では、各参照画素の値とx、y座標における重み係数の積とを加算し、補間位置の輝度値を演算する。
【0120】
ステップS1607では、全画素に対して上記処理を実行したか否かを判断する。全画素に対して上記処理を実行したと判断された場合には補間処理を終了する。一方、上記処理を実行していない画素があると判断された場合には、ステップS1601に戻り、当該画素について上記処理を実行する。
【0121】
<11.表示系収差補間部による収差補正処理の効果>
次に、表示系収差補正部207における収差補正処理による偽色発生抑制の効果について説明する。なお、説明に際しては、はじめに、画像に含まれる白色細線を収差補正処理した場合の、偽色発生のメカニズムについて説明する。
【0122】
図17A、図17Bは、偽色発生のメカニズムと表示系収差補正部207における収差補正処理による偽色発生抑制の効果を説明するための模式図である。ここでは、説明を簡略化するため、線幅が一画素で構成される白色細線について説明する。なお、線幅が複数画素で構成される場合においても同様のメカニズムに従って偽色が発生するため、表示系収差補正部207における収差補正処理による偽色発生抑制の効果についての説明は同様である。
【0123】
図17Aの(a)は、収差補正前の白色細線の例を、図17Aの(b)は、収差補正を実現する補間処理によって再現された白色細線の例を示している。図17Aの(b)は単色(R、G、Bの何れか)の線を示している。図17Aの(c)は、図17Aの(b)で示される単色の白色細線が各色重なることで発生する偽色のパターンの例を示している。
【0124】
図17Bの(d)は、表示系収差補正部207において、平滑化処理を適用した収差補正前の白色細線の例を、図17Bの(e)は、平滑化処理が適用された後の補間処理によって再現された白色細線の例を示している。また、図17Bの(f)は、図17Bの(e)で示される単色の白色細線が各色重なっても偽色の発生が抑制されるパターンを示している。更に、図17Bの(g)は、図17Bの(e)に対して先鋭化処理を適用した場合の単色の白色細線の例を示している。
【0125】
色収差の補正においては、画像を構成するRGB各色の単色画像プレーン毎に、座標変換処理と補間処理とを行っている。偽色は、補間処理された画素が複数の画素で表現される場合と単画素で表現される場合とで、局所的な輝度差が生じることに起因して発生する。
【0126】
図17Aの(a)は、収差補正前の原画像中の白色細線の例である。ここでは、単一の輝度でかつ、単画素によって白色細線が構成されているものとする。
【0127】
図17Aの(b)は、図17Aの(a)で示される白色細線に対して、座標変換処理及び補間処理を行うことにより再現された白色細線を示している。収差の影響をキャンセルする逆補正を適用したため、直線が曲線や斜め線として再構成される。補間処理により再構成された線は、(b)に示すように単一画素で構成される箇所と複数画素で構成される箇所とが交互に繰り返されることとなる。
【0128】
ここで、単一画素で構成される場合と、複数画素で構成される場合とでは、全体的な輝度値は保存されるものの、局所的には画素毎に輝度値が異なることとなる。つまり、原画像では一様な白色細線を表現していても、補間処理後の画像では、輝度値の強弱が生じ、ユーザが視認する表示画像上では輝度ムラとなってあらわれることになる。収差補正時の画素の構成に一般的な補間処理を適用した場合、このような輝度ムラが発生する。
【0129】
補間処理を適用した画像では、単一画素で表現されることは稀であるが、複数の画素によって構成される際にも、一つの画素の値が大きく、表示される複数の輝度値に対して支配的な場合には、その画素を単一画素と見なすことができる。
【0130】
図17Aの(c)は、収差補正を適用して表示光学系により白色細線を再構成した場合に生じる偽色パターンの例を示しており、白色細線上にRGBの各色が周期的に現れることを示している。
【0131】
更に、図17Aの(a)の白色細線に対して収差補正を行った場合、RGBの色成分毎に座標変換処理と補間処理とによって画素を生成するため、図17Aの(b)で示したようにRGB各色の白色細線がそれぞれに固有の輝度ムラを持つこととなる。これらの各色細線を結合・合成して白色細線を再構成すると、更に、色毎の強弱(輝度ムラ)がずれることで、周期的な偽色が白色細線上に現れることとなる。例えば、白色細線上のある一点において、RとGが複数の画素で構成され、Bが単画素で構成されていた場合、輝度値を比較すると、Bの輝度がRとGと比べて高いため、合成された画素には、白色細線上にBの色が強く現れることになる。
【0132】
このような偽色の発生は、補間処理を行った画像において生じるものであり、表示光学系の収差補正の量には関係なく発生し、また、画像の外周部のみならず中央部においても発生する。
【0133】
一方、図17Bの(d)は、収差補正前の原画像中の白色細線に平滑化処理を適用した例を示している。単一の輝度でかつ、単画素によって線が構成されている白色細線が、平滑化処理によって元の白色細線部分の輝度値が低下し、白色細線に隣接する画素にも輝度値が振り分けられることとなる。
【0134】
図17Bの(e)は、補間処理された単色の白色細線の例を示している。偽色は、補間処理によって再構成された白色細線上の局所的な画素の値の強弱に起因して発生するため、この画素値の強弱を低減させることにより、偽色の発生を目立たなくすることが可能である。
【0135】
つまり、平滑化フィルタによる平滑化処理を適用し、単一画素で表現される画素の輝度値を下げると共に、白色細線の周辺画素へも輝度値を分配することで、全体的な輝度値を保存しつつ、各色の輝度ムラを低減させることが可能となる。この結果、結合・合成された白色細線においても偽色の発生が抑制されることとなる。なお、本実施形態における平滑化処理は、色毎に独立して適用されるものとする。
【0136】
図17Bの(f)は、単色の白色細線が各色成分が重なっても偽色の発生が抑制されるパターンを示している。色成分毎に平滑化処理を適用して白色細線を再構成した場合、白色細線の最高輝度値は多少低下するものの、輝度ムラの発生が抑えられた偽色の少ない白色細線を表示画像として生成することが可能となる。
【0137】
なお、平滑化対象となる白色細線画素の検出に際しては、注目画素が白色であって、かつ、当該白色である画素に隣接する画素が低輝度の画素のみを白色細線画素とした。つまり、注目画素が白色であっても、隣接する画素の輝度値が比較的大きな値の場合には、非該当画素とした。これは、注目画素に隣接する画素の輝度値が比較的大きな値の場合、偽色の発生が目立たないからである。
【0138】
このような平滑化対象となる白色細線画素は、一般的には自然画像に存在しない画像要素であって、MRやVR用途で人為的に生成されたCG画像やアノテーション目的に挿入された文字やアイコンを表示した画像に含まれる。また、細線が白色ではない場合、例えば緑色や赤色の線であれば周期的な輝度ムラは生じるものの偽色は発生しないため、非該当画素とした。
【0139】
図17Bの(g)は、平滑化処理が適用された白色細線に対して、先鋭化処理を施した例を示している。平滑化処理の適用のみでは全体的な輝度はほぼ保存されるものの、人間の目にはエッジ部分が鈍った線として見える。そこで、白色細線を構成する画素に対して、先鋭化処理を適用し、下がった輝度値を上げることで、線自体は太く視認されるものの、白色が白色として視認される先鋭度の高い白色細線を表示画像として提供することが可能となる。
【0140】
以上説明してきたように、本実施形態では、表示光学系によって生じる色収差を信号処理によって補正する際に、注目画素が、表示画像に含まれる白色細線画素であるか否かを判断する構成とした。そして、白色細線画素と判断された注目画素について、補間処理前に平滑化処理を行う構成とした。これにより、補間処理時に生じる偽色の発生を抑制することが可能となった。
【0141】
更に、本実施形態では、平滑化対象となった画素に対して、先鋭化処理を適用し、白色細線の先鋭度を上げる構成とした。これにより、エッジの保存された視認性の高い白色細線を表示させることが可能となった。
【0142】
このように、本実施形態では、白色細線検出処理、平滑化処理および先鋭化処理という比較的処理負荷の小さな処理を組み合わせによって表示画質の向上を実現した。このため高画質化と処理の高速化および装置の小型化が実現されうるバランスの取れた色収差補正機能を提供することが可能となる。
【0143】
[第2の実施形態]
本発明の第2の実施形態について説明する。本実施形態にかかる画像処理方法は、第1の実施形態に係る画像処理方法が、白色細線画素と判断されたすべての画素に対して平滑化処理を適用していたのに対して、白色細線画素の中央部を除く外周画素に対してのみ、平滑化処理を適用する点に特徴がある。当該画像処理方法の場合、白色細線の線幅が2画素以内であれば効果は変わらないが、3画素以上の線幅を持つ場合、白色細線の中央部の輝度値が低下することを抑制することができるという効果がある。以下、当該点を中心に本実施形態に係る画像処理方法について説明する。
【0144】
<1.適応的平滑化処理における白色細線検出処理の流れ>
図18は、適応的平滑化処理における白色細線検出処理の流れを示すフローチャートである。ステップS1801では、参照マトリクス内の各画素の輝度値を取得する。ステップS1802では、注目画素が白色であるか否かを判断する。なお、当該処理内容は図11のステップS1102と同様である。注目画素が白色である場合には、ステップS1803へ進み、注目画素が白色でない場合にはステップS1808へ進む。
【0145】
ステップS1803では、参照マトリクス内の注目画素以外の画素に、注目画素と同一の輝度値を持つ画素が存在するか否かを判断する。なお、当該処理内容は、図11のステップS1103と同様である。同一輝度値を持つ画素が存在すると判断された場合にはステップS1804へ進み、存在しない、すなわち注目画素が孤立画素であると判断された場合はステップS1808へ進む。
【0146】
ステップS1804では、参照マトリクス内に任意の閾値以下の輝度値の低い画素が存在するか否かを判断する。この処理内容は、図11のステップS1104と同様である。任意の閾値以下の輝度値を持つ画素が存在する場合には、ステップS1805へ進み、存在しない場合にはステップS1808へ進む。
【0147】
ステップS1805では、注目画素の外周画素も白色であるか否かを判断する。注目画素のみならず、その外周画素も白色である場合には、該注目画素が白色細線の中央部に位置する画素であると判断することができる。外周画素も白色であると判断された場合には、ステップS1806へ進み、一部でも白色でない画素が含まれる場合には、ステップS1807へ進む。
【0148】
ステップS1806では、注目画素が白色細線の一部を構成する画素であって、かつ、白色細線の外周部に位置しない中央部の画素(平滑化対象とならない「白色細線中央画素」)であると判断し、処理を終了する。
【0149】
ステップS1807では、注目画素が白色細線の外周部にあたる画素(平滑化処理の対象となる「白色細線外周画素」)であると判断し処理を終了する。
【0150】
ステップS1808では、ステップS1802からステップS1804までの条件の何れかを満たしていないことから、平滑化対象とならない非該当画素であると判断し処理を終了する。
【0151】
<2.適応的平滑化処理における平滑化処理の流れ>
次に、適応的平滑化処理における平滑化処理の流れについて説明する。図19は、適応的平滑化処理における平滑化処理の流れを示すフローチャートである。ステップS1901及びステップS1902における処理内容は、図12のステップS1201及びステップS1202における処理内容と同様であるため、ここでは説明を省略する。
【0152】
ステップS1903では、注目画素が白色細線を構成する画素の一部で、かつ、非該当画素と隣接する白色細線の外周画素であるか(つまり、平滑化処理の対象となる白色細線外周画素であるか)否かを判断する。白色細線外周画素であると判断された場合には、ステップS1904へ進み、白色細線外周画素でないと判断された場合(つまり、白色細線中央画素または非該当画素であると判断された場合)には処理を終了する。
【0153】
ステップS1904では、上述したフィルタ演算を実施することで、注目画素を平滑化し、処理を終了する。
【0154】
このように、第1の実施形態では平滑化処理と先鋭化処理とを組み合わせて白色細線を再構成していたのに対して、本実施形態によれば、白色細線外周画素のみに平滑化処理を適用することで、先鋭化処理を行わない構成とすることが可能となる。この場合、先鋭度は多少落ちるものの、上記第1の実施形態と同様、白色細線の輝度値(白色細線の中央部のピークの輝度値)を保持したまま、偽色発生を抑制することが可能となる。
【0155】
なお、本実施形態の場合、適用可能な白色細線の幅は限られるが、適応的先鋭化処理を省くことができるため、第1の実施形態に比べ、処理負荷を低減させることが可能となる。なお、線幅に合わせて第1の実施形態で説明した画像処理方法と本実施形態で説明した画像処理方法とを組み合わせるように構成してもよい。
【0156】
[第3の実施形態]
本発明の第3の実施形態について説明する。上記第1の実施形態では平滑化処理とその後の補間処理とを別プロセスとして実現していた。これに対して、本実施形態に係る画像処理方法では、平滑化対象となる白色細線画素について補間処理を行う際に、平滑化効果の高い補間曲線を採用する構成とし、同一プロセス上で画素の平滑化と補間とを実現している点に特徴がある。以下、この点を中心に本実施形態に係る画像処理方法について詳細に説明する。
【0157】
<1.表示系収差補正部の機能構成>
はじめに、本実施形態に係る画像処理方法を実現する表示系収差補正部について説明する。図20は、本実施形態に係る画像処理方法を実現する表示系収差補正部2000の機能構成を示すブロック図である。図20に示す、バッファ2001、色分離部2003、収差補正テーブル2004、補正値選択部2005は、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックと同じである。また、図20に示す、座標算出部2006、適応的先鋭化処理部2008、および色結合部2009の各機能ブロックについても、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックと同じである。このため、ここではこれらの機能ブロックについての説明は省略する。
【0158】
2002は、表示画像中に含まれる白色細線を検出する白色細線検出部である。白色細線検出部2002では、表示画像を格納しているバッファ2001から白色細線検出に必要な領域を読みだし、前述した参照マトリクスを用いて、注目画素が白色細線の一部を構成する白色細線画素であるか否かを判断する。
【0159】
2007は、変換後の注目画素の色情報を注目画素近傍の補間位置に再構成する補間処理を行う適応的補間処理部である。適応的補間処理部2007では、白色細線検出部2002における検出結果に基づき、注目画素が白色細線画素である場合には、補間式として平滑化効果の高いものを選択したうえで、補間処理を実施する。なお、補間処理の詳細については後述する。
【0160】
以上の構成により、偽色の発生を抑制する平滑化の効果が、補間処理の段階で実現されることとなり、表示系収差補正部2000を実現するための処理回路の規模を縮小することが可能となる。
【0161】
<2.表示系収差補正部による収差補正処理の流れ>
次に、表示系収差補正部2000による収差補正処理の流れについて説明する。図21は、表示系収差補正部2000による収差補正処理の流れを示すフローチャートである。ステップS2101、2102、2104、2105、および2107から2110までの処理内容は、上記第1の実施形態において図8を用いて説明した対応するステップの処理内容と同じであるため、ここでは説明は省略する。
【0162】
ステップS2103では、平滑化効果のある補間処理を行う対象となる画素として、白色細線の一部を構成する白色細線画素を検出する。処理の内容は第1の実施形態において図11を用いて説明した処理内容とほぼ同じである。なお、上記第1の実施形態における白色細線検出処理では、白色細線を構成する画素の一部であるか、非該当画素であるかを判断していたが、ここでは、当該判断に加えて白色細線に隣接する非該当画素(「白色細線隣接画素」)であるか否かについても判断する。
【0163】
ステップS2106では、ステップS2105で得られた座標変換された注目画素の画素情報と参照画素の画素情報とに基づいて、新たな構成位置(補間位置)において、各色成分の輝度値を再構成する補間処理を行う。その際、注目画素がステップS2103で白色細線画素であると判断されていた場合には、平滑化効果を有する補間曲線を適用する。なお、適応的補間処理の詳細については以下に説明する。
【0164】
<3.適応的補間処理についての説明>
次に、表示系収差補正部2000において実行される適応的補間処理(ステップS2106)について説明する。
【0165】
<3.1 補間曲線の説明>
はじめに、適応的補間処理(ステップS2106)において用いられる補間曲線について説明する。図22は、適応的補間処理(ステップS2106)において用いられる補間曲線の一例を示す図である。図22において、2201(一点鎖線)は、バイキュービックのフィルタ形状を示す補間曲線である。同様に、2202(細い実線)はラグランジェ補間曲線を、2203(点線)はバイリニア直線を、2204(実線)はB−SPLINE曲線(実線)をそれぞれ示している。軸上の数値は画素間隔で正規化した値である。なお、周囲の参照画素と補間画素との関係式であるバイキュービックとラグランジェに関しては上述したとおりである。
【0166】
補間処理を実現するフィルタ形状として、線形補間(一次補間)であるバイリニアよりも0と1の間においてより大きな値となる(上側に曲線が位置する)曲線は、先鋭化の効果が高い。一般に線形補間であるバイリニアを使用すると補間画素は周辺4画素の加算平均となるため、エッジ成分が失われた鈍い画像になることが知られている。逆にバイキュービックでは、周辺16画素に重み付けを行った3次の演算を行い、エッジ成分を残した高画質な画像を得ることができる。
【0167】
つまり、先鋭化の効果でいえば、バイキュービック2201が最も高く、次いでラグランジェ2202、バイリニア2203、B−SPLINE曲線2204の順番となる。反対に平滑化の効果でいえば、その順番は逆となる。
【0168】
通常の補間処理では高画質化を実現するためバイキュービック2201を使用し、平滑化の効果を得たい場合には、平滑化の度合いに応じて図に示した他の補間式、補間曲線・直線を採用する。なお、白色細線を構成する画素の一部と判断された白色細線画素についての補間処理においては、その参照マトリクス内に含まれる白色の画素の数によって平滑化の効果の異なる補間曲線を選択し、補間画素を生成する。
【0169】
例えば、参照マトリクス内の補間位置の近傍4画素すべてが白色細線画素である場合には、当該補間画素は白色細線中央画素であることが想定されるため、平滑化効果を有するラグランジェ曲線を選択する。
【0170】
<3.2 適応的補間処理の流れ>
次に、適応的補間処理(ステップS2106)の詳細な処理の流れについて説明する。図23は、適応的補間処理の詳細な処理の流れを示すフローチャートである。なお、ここでは通常使用の補間曲線としてバイキュービックを用いるものとする。
【0171】
ステップS2301から2304までの処理内容は、上記第1の実施形態において図17を用いて説明した対応するステップの処理内容と同じであるため、ここでは説明は省略する。
【0172】
ステップS2305では、参照マトリクス内に含まれる注目画素が白色細線の一部を構成する白色細線画素であるかどうかを判断し、白色細線検出処理の検出結果を把握する。
【0173】
ステップS2306では、補間位置の近傍4画素に白色細線を構成する白色細線画素が含まれるか否かを判断する。含まれると判断された場合にはステップS2307に進み、含まれないと判断された場合にはステップS2310に進む。
【0174】
ステップS2307では、さらに当該近傍4画素内に白色細線隣接画素が含まれるか否かを判断する。含まれると判断された場合にはステップS2309に進み、含まれないと判断された場合にはステップS2308に進む。
【0175】
ステップS2308では、平滑化効果を有する補間処理を行う。通常の補間処理が前述したバイキュービックで行われるのに対して、ここでは、例えばラグランジェや線形補間による補間処理を行う。
【0176】
ステップS2309では、強度の平滑化効果を有する補間処理を行う。例えば、前述したB−SPLINE曲線による補間処理を行う。
【0177】
ステップS2310では、通常の補間処理を行う。ここでは、バイキュービックによる補間処理を行う。
【0178】
ステップS2311では、全画素に対して上記処理を実行したか否かを判断する。全画素に対して上記処理を実行したと判断された場合には、処理を終了する。上記処理を実行していない画素があると判断された場合には、ステップS2301に戻り、対応する画素について上記処理を実行する。
【0179】
以上の説明から明らかなように、本実施形態では、補間処理時に平滑化効果の高い補間曲線に選択的に切り替える構成とした。これにより、平滑化と補間処理とを同一プロセス上で実現することが可能となった。また、本実施形態のように同一プロセス上で実現する構成とすることで、同じ三次補間式を採用した場合に、係数の変更のみで切り替えが可能となるため、比較的容易に収差補正機能を実現することが可能となる。このため、上記第1及び第2の実施形態と比較して、ハードウェア構成の回路規模を低減させることが可能となる。
【0180】
[第4の実施形態]
本発明の第4の実施形態について説明する。上記第3の実施形態では、平滑化処理とその後の補間処理とを同一プロセスで実現する構成とした。これに対して、本実施形態に係る画像処理方法では、白色細線画素に対する補間処理時に、先鋭化効果の高い補間曲線を採用することで、同一プロセス上で先鋭化処理と補間処理とを実現している点に特徴がある。以下、この点を中心に本実施形態に係る画像処理方法について詳細を説明する。
【0181】
<1.表示系収差補正部の機能構成>
はじめに、本実施形態に係る画像処理方法を実現する表示系収差補正部について説明する。図24は、本実施形態に係る画像処理方法を実現する表示系収差補正部2400の機能構成を示すブロック図である。なお、図24に示す、バッファ2401、適応的平滑化処理部2402、色分離部2403、収差補正テーブル2404の処理内容は、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックの処理内容と同じである。また、補正値選択部2405、座標算出部2406、および色結合部2408の各機能ブロックの処理内容についても、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックの処理内容と同じである。したがって、ここでは、これらの機能ブロックについての説明は省略する。
【0182】
2407は、変換後の注目画素の色情報を注目画素近傍の補間位置に再構成する補間処理を行う適応的補間処理部である。適応的補間処理部2407では、白色細線検出部の検出結果に基づき、注目画素が白色細線画素である場合には、補間処理時に採用する補間式として先鋭化効果の高いものを選択したうえで、補間処理を実施する。
【0183】
このような構成とすることにより、偽色の発生を抑制する平滑化処理を行ったあとに実現されるべき先鋭化処理が、補間処理の段階で実現されることとなり、表示系収差補正部2400を実現するための処理回路の規模を縮小することが可能となる。
【0184】
<2.表示系収差補正部による収差補正処理の流れ>
次に、表示系収差補正部2400による収差補正処理の流れについて説明する。図25は、表示系収差補正部2400による収差補正処理の流れを示すフローチャートである。ステップS2501から2505、および2507から2509までの処理内容は、上記第1の実施形態において図8を用いて説明した対応するステップの処理内容と同じであるため、ここでは説明は省略する。なお、ステップS2503における適応的平滑化処理では、上記第3の実施形態の白色細線検出処理で説明した白色細線隣接画素であるか否かの判断も行うものとする。
【0185】
ステップS2506では、ステップS2505で得られた座標変換された注目画素の画素情報と参照画素の画素情報とに基づいて、新たな構成位置(補間位置)において、各色成分の輝度値を再構成する補間処理を行う。その際、注目画素がステップS2503で白色細線画素であると判断されていた場合には、先鋭化効果の高い補間曲線を適用する。
【0186】
<3.適応的補間処理についての説明>
次に、表示系収差補正部2400において実行される適応的補間処理(ステップS2506)について説明する。
【0187】
<3.1 補間曲線の説明>
はじめに、適応的補間処理(ステップS2506)において用いられる補間曲線について説明する。図26は、適応的補間処理(ステップS2506)において用いられる補間曲線の一例を示す図である。図26において、2601(一点鎖線)は、バイキュービックのフィルタ形状を示す補間曲線である。同様に、2602(点線)はバイリニア直線を、2603と2604(共に実線)は先鋭化効果の高い曲線をそれぞれ示している。軸上の数値は画素間隔で正規化した値であるのは、上記第3の実施形態と同様である。周囲の参照画素と補間画素との関係式であるバイキュービックとラグランジェに関しては上述したとおりである。ここでは先鋭化効果の高い曲線の式を示す。
【0188】
中程度の先鋭度を示す先鋭化曲線2603
【0189】
【数3】
【0190】
強度の先鋭度を示す先鋭化曲線2604
【0191】
【数4】
【0192】
なお、ここで示した先鋭化効果の高い補間曲線は、バイキュービックよりも先鋭化効果が高くなるように計算した独自の曲線である。ここで示した曲線以外でも、先に説明したように、バイキュービックと比較して、0と1の間においてより大きな値となる(上側に曲線が位置する)曲線であれば、いかなる曲線であっても構わない。
【0193】
先鋭化効果は、強度の先鋭化曲線2604が最も高く、次いで中程度の先鋭化曲線2603、バイキュービック2601、バイリニア2602の順番となる。
【0194】
通常の補間処理では高画質化を実現するため、バイキュービック2601を使用し、先鋭化の効果を得たい場合には、平滑化処理の度合いに応じて図26に示した他の補間式、補間曲線を採用する。
【0195】
白色細線の一部を構成する画素と判断された白色細線画素についての補間処理においては、その参照マトリクス内に含まれる白色の画素の数に応じて、先鋭化の効果の異なる補間曲線を選択し、補間処理を実施する。例えば、参照マトリクス内の補間画素の近傍4画素すべてが白色細線画素である場合には、当該補間画素は白色細線中央画素であることが想定されるため、先鋭化効果を有する先鋭化曲線2603を選択する。
【0196】
<3.2 適応的補間処理の流れ>
次に、適応的補間処理(ステップS2506)の詳細な処理の流れについて説明する。図27は、適応的補間処理の流れを示すフローチャートである。なお、ここでは通常の補間曲線としてバイキュービックを用いるものとする。
【0197】
ステップS2701からS2707までの処理内容は、上記第3の実施形態において図23を用いて説明した各ステップの処理内容と同じであるため、ここでは説明は省略する。
【0198】
ステップS2708では、先鋭化効果を有する補間処理を行う。通常の補間処理としてバイキュービックが用いられていた場合には、ここでは、例えば、先鋭化曲線2603を用いた補間処理を行う。
【0199】
ステップS2309では、強度の先鋭化効果を有する補間処理を行う。具体的には、先鋭化曲線2604を用いた補間処理を行う。ステップS2310では、通常の補間処理を行う。ここではバイキュービックを用いて補間処理を行う。
【0200】
ステップS2711では、全画素に対して上記処理を実行したか否かを判断する。全画素に対して上記処理を実行したと判断された場合には、処理を終了する。一方、上記処理を実行していない画素があると判断された場合には、ステップS2701に戻り、対応する画素に対して上記処理を実行する。
【0201】
以上の説明から明らかなように、本実施形態では、補間処理時に先鋭化効果の高い補間曲線に選択的に切り替える構成とした。これにより、先鋭化処理と補間処理とを同一プロセス上で実現することが可能となった。また、本実施形態のように、同一プロセスで実現する構成とすることで、同じ三次補間式を採用した場合に、係数の変更のみで実現できるため、上記第3の実施形態と同様、ハードウェア構成の回路規模を低減することが可能となる。
【0202】
[第5の実施形態]
上記第1から第4の実施形態では、本発明に係る画像処理方法を、MRシステムにおいてHMDに表示される全ての画像に対して適用する場合について説明した。
【0203】
しかしながら、画像処理装置202が生成した表示画像中に、CG画像により構成されたワイヤーフレームや文字等が含まれるかどうかは、予め白色細線を生成する画像処理装置202側で把握することができる。そこで、白色細線およびそれに類する白色画素を含む画像が生成されたか否かについての情報を、画像処理装置202からHMD201へと送信し、適応的平滑化処理の適用を切り換えるように構成してもよい。
【0204】
また、HMD201内部でOSD等によって警告表示や情報表示のための文字を表示することが可能である場合、それらの表示の有無をHMD201で判断し、適応的平滑化処理の適用を切り換えるように構成してもよい。
【0205】
また、上記第1から第4まで実施形態では、表示光学系のバリエーションについては特に言及しなかった。しかしながら、レンズ、プリズムなどの光学部材として、上下または左右非対称系のものを採用した表示光学系であってもよいし、また、複数レンズの組み合わせや結像面を複数回生成する表示光学系であってもよい。
【0206】
また、上記第1から第4の実施形態では、座標変換処理としてアドレス変換を例に説明を行ったが、従来技術で説明した解像度変換手法や近似多項式を用いた数値演算による座標変換処理を採用してもよい。
【0207】
また、上記第1から第4の実施形態では、接眼の拡大光学系を採用するHMDにおいて収差補正を行う場合について説明を行った。しかしながら、収差補正の適用先は、HMDに限定されるものではなく、表示光学系を有しその収差の補正が必要な、デジタルカメラやカメラ付きの携帯電話およびデジタルビデオカメラ、背面投射型のテレビやカメラ等に搭載されるEVF等であってもよい。
【0208】
また、上記第1から第4の実施形態で説明した構成は、互いに組み合わせて使用してもよいことは言うまでもない。さらには、上記各実施形態における様々な技術を適宜組み合わせて新たなシステムを構成することは当業者であれば容易に相当し得るものである。したがって、このような様々な組み合わせによるシステムもまた、本発明の範疇に属するものである。
【0209】
[他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【技術分野】
【0001】
本発明は、表示光学系において生じる色収差を補正するための画像処理技術に関するものである。
【背景技術】
【0002】
従来より、現実世界と仮想世界をリアルタイムかつシームレスに融合させる技術として複合現実感、いわゆるMR(Mixed Reality)技術が知られている。更に、当該MR技術の1つとして、ビデオシースルー型HMD(Head Mounted Display、以下HMD)を利用する技術が知られている。HMDの場合、その装着者の瞳位置から観察される被写体と略一致する被写体をビデオカメラなどで撮像し、当該撮像画像にCG(Computer Graphics)を重畳表示する。これにより、HMD装着者は、複合現実画像を観察することが可能となる。
【0003】
このようにHMDでは、CCD等の電荷結合素子により被写体を撮像して該被写体のデジタル画像データを得るとともに、CG画像を重畳したMR画像(複合現実画像)を液晶等の表示デバイスを介して装着者に表示する構成となっている。このため、撮像及び表示のための光学系(撮像光学系及び表示光学系)において生じる収差を補正することが重要となってくる。レンズの歪曲収差に起因して、表示される画像が樽型の画像や糸巻き型の画像となったり、レンズの倍率色収差に起因して、被写体の境界部分に赤や青や緑の色にじみが生じたりするなど、画像の品質に影響を与えるおそれがあるからである。
【0004】
一般に、撮像光学系及び表示光学系において生じる収差に対する補正については、光学的補正によるアプローチと、信号処理を用いた電子的補正によるアプローチとが挙げられる。このうち、HMDのように頭部に装着する装置では、小型化・軽量化することが不可欠であるため、サイズや重量の増大が不可避な光学的補正によるアプローチよりも、信号処理を用いた電子的補正によるアプローチが選択される。電子的補正によるアプローチを選択した場合、更に、廉価なレンズの採用やレンズ枚数の削減によるコスト低減効果が得られるという利点もあるからである。
【0005】
このような信号処理を用いた電子的補正では、通常、2つのプロセスにより収差補正が実現される。第1のプロセスは、理想的な光学系で得られる結像位置と実際の収差の影響を受けた結像位置との対応関係に基づいて、歪んだ画像の各画素を理想的な位置へと座標変換する座標変換プロセスである。また、第2のプロセスは、座標変換された各画素に基づいて格子上に各画素の色情報を再構成する補間プロセスである。
【0006】
このうち、座標変換プロセスでは、画素毎に座標変換処理を行うことで、画像の歪みである歪曲収差の補正を実現し、画素を構成する色毎に座標変換処理を行うことで、色ずれである倍率色収差の補正を実現する。
【0007】
ここで、座標変換プロセスにより収差が補正された各画素は、撮像系であるか表示系であるかによらず、最終的に、規定する格子点上に存在していなければならない。このため、画素補間プロセスでは、座標変換プロセスによって格子点上にない画素が生じた場合に、当該画素の色情報を格子点上に再構成する処理を行う。具体的には、一般的な解像度変換手法で用いられる線形補間や高次の双三次補間(バイキュービック)を使用し、当該画素と近傍の格子点との位置関係(距離)によって重み付けを行い、各格子点上の色情報を算出する。
【0008】
このような信号処理を用いた収差補正については、従来より、種々の提案がなされている。例えば、下記特許文献1では、画素補間プロセスに対して、キュービック・コンボリューション(BiCubic)を使用することで、より高画質な収差補正を実現する構成が提案されている。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2005−11269号公報
【特許文献2】特開平5−328106号号公報
【特許文献3】特開2003−102025号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、信号処理を用いた従来の収差補正には、以下のような問題点がある。すなわち、表示光学系の収差補正では、原画像に高輝度の白色細線が含まれていた場合、補間プロセスを実行することによって、偽色が発生する。当該偽色は、自然画像では目立たない一方が、ワイヤーフレーム等のCG(Computer Graphics)やOSD(On Screen Display)機能によって人為的に作られた画像では、その発生が顕著になるという特性がある。また、本来画素が存在しない位置にある画素を、格子点との位置関係に合わせて再構成することで発生することから、偽色は収差補正の量によらず発生し、また、画像の周辺部のみならず中央部においても発生する。このようなことから、収差補正における偽色の発生を抑制することは、HMD等における表示において特に重要な課題であるといえる。
【0011】
なお、偽色の発生を抑制するための技術としては、例えば、上記特許文献2や特許文献3に、モアレ除去や撮像系で発生する偽色の発生をローパスフィルタを用いて抑制する構成が開示されている。しかしながら、上記特許文献2及び3に開示された当該構成は、いずれも、エッジ部の保存を目的として処理する技術であるため、上記補間プロセスに適用した場合、白色細線において発生する偽色をかえって助長させてしまう結果となる。
【0012】
本発明は上記課題に鑑みなされたものであり、表示される画像を収差補正するにあたり、当該画像に白色細線が含まれていた場合でも、偽色の発生を抑制できるようにすることを目的とする。
【課題を解決するための手段】
【0013】
上記の目的を達成するために本発明に係る画像処理装置は以下のような構成を備える。即ち、
表示される画像を処理する画像処理装置であって、
前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断手段と、
前記判断手段において白色細線画素であると判断された場合には、前記注目画素に対して平滑化処理を行うよう動作し、前記判断手段において白色細線画素でないと判断された場合には、前記注目画素に対して平滑化処理を行わないよう動作することで、該注目画素の色情報を算出する算出手段と、
前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記算出手段により色情報が算出された前記注目画素の位置を変換する変換手段と、
前記変換手段により変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間手段とを備える。
【発明の効果】
【0014】
本発明によれば、表示される画像を収差補正するにあたり、当該画像に白色細線が含まれていた場合でも、偽色の発生を抑制することができるようになる。
【図面の簡単な説明】
【0015】
【図1】第1の実施形態に画像処理方法が実行されるMRシステムのシステム構成を示す図である。
【図2】MRシステムの機能構成を示す図である。
【図3】MRシステムを構成する画像合成装置のハードウェア構成を示す図である。
【図4】MRシステムを構成するHMDのハードウェア構成を示す図である。
【図5】歪曲収差並びに倍率色収差を説明する図である。
【図6】表示光学系の一構成例を示す図である。
【図7】HMDの表示系収差補正部の機能構成を示す図である。
【図8】表示系収差補正部における収差補正処理の流れを示す図である。
【図9】表示系収差補正部を構成する適応的平滑化処理部の機能ブロック図である。
【図10】表示系収差補正部において用いられる各種マトリックスを示す図である。
【図11】適応的平滑化処理における白色細線検出処理の流れを示す。
【図12】適応的平滑化処理における平滑化処理の流れを示す図である。
【図13】表示系収差補正部において座標変換処理を実行する際に用いられる収差補正テーブルの一例を示す図である。
【図14】座標変換処理の流れを示す図である。
【図15】座標変換処理の一例である三次補間の概念を示す模式図である。
【図16】表示系収差補正部における補間処理の流れを示す図である。
【図17A】偽色発生のメカニズムと表示系収差補正部における収差補正処理による偽色抑制の効果を説明するための模式図である。
【図17B】偽色発生のメカニズムと表示系収差補正部における収差補正処理による偽色抑制の効果を説明するための模式図である。
【図18】第2の実施形態に係る画像処理方法が実行される表示系収差補正部による適応的平滑化処理における白色細線検出処理の流れを示す図である。
【図19】適応的平滑化処理における平滑化処理の流れを示す図である。
【図20】第3の実施形態に係る画像処理方法が実行される表示系収差補正部の機能構成を示す図である。
【図21】表示系収差補正部における収差補正処理の流れを示す図である。
【図22】表示系収差補正部による適応的補間処理において用いられる補間曲線の例を示す図である。
【図23】表示系収差補正部における適応的補間処理の流れを示す図である。
【図24】第4の実施形態に係る画像処理方法が実行される表示系収差補正部の機能構成を示す図である。
【図25】表示系収差補正部における収差補正処理の流れを示す図である。
【図26】表示系収差補正部による適応的補間処理において用いられる補間曲線の例を示す図である。
【図27】表示系収差補正部における適応的補間処理の流れを示す図である。
【発明を実施するための形態】
【0016】
以下、図面を参照しながら、本発明の各実施形態について説明する。
【0017】
[第1の実施形態]
<1.MRシステムのシステム構成>
図1は、本発明の第1の実施形態にかかる画像処理方法が実行されるMRシステム100のシステム構成を示す図である。
【0018】
現実世界と仮想世界をリアルタイムかつシームレスに融合させる技術である複合現実感、いわゆるMR技術では、撮像機能付表示装置が利用される。なお、以下では、撮像機能付表示装置をHMDと略すこととする。ただし、撮像機能付表示装置は、双眼鏡のような手持ちタイプのものでもよく、頭部装着型のものに限られるものではない。
【0019】
HMDでは、撮像ユニットにおいて取得した装着者の視点による現実空間の撮像画像に、装着者の位置、方向などの三次元位置姿勢情報に基づいて生成したCG画像を重畳し、表示ユニットに表示するよう構成されている。当該構成により、HMD装着者は、観察している現実空間内に、CGで描画されたオブジェクトがあたかも存在しているかのような複合現実感を体感することができる。
【0020】
図1に示すように、当該HMDを利用したMRシステム100は、通常、HMD101のほか、コントローラ102と、画像合成装置103とにより構成することができる。
【0021】
このうち、HMD101は、上述したように装着者の観察している現実空間の画像を取得するための撮像ユニットを備える。また、撮像ユニットにおいて撮像した現実空間の撮像画像や、画像合成装置103からの出力画像、または画像合成装置103で生成したCG画像を現実空間の撮像画像に重畳した合成画像などを、表示画像として装着者に提供するための表示ユニットを有する。更に、HMD101は、コントローラ102と通信を行う機能を備える。なお、HMD101は、コントローラ102からの電源供給を受けて駆動するように構成してもよいし、バッテリーで駆動するように構成してもよい。
【0022】
一方、コントローラ102と接続された画像合成装置103は、CG画像を生成するCG描画部と、現実空間の撮像画像とCG画像とを合成する画像合成部とを備える。
【0023】
画像合成装置103はコントローラ102を介して、HMD101と通信を行うよう構成され、画像合成部において合成された合成画像は、コントローラ102を介してHMD101に送信され、表示ユニットにおいて表示される。
【0024】
一方、コントローラ102(画像処理装置)には、画像の解像度を変換する機能や色空間を変換する機能に加え、本実施形態にかかる画像処理方法による表示光学系の収差補正処理機能を含む各種画像処理機能ならびに伝送フォーマット変換機能が配されている。
【0025】
なお、図1のMRシステムでは、画像合成装置103とコントローラ102とを別々のハードウェアとして構成しているが、本発明はこのような構成に限定されるものではない。例えば、コントローラ102が有する機能と画像合成装置103が有する機能とを統合し、専用の画像合成装置を構成するようにしてもよい。
【0026】
また、図1のMRシステムでは、各々の装置を有線で接続することとしているが、本発明はこれに限定されず、これらの一部またはすべてを無線で接続するように構成してもよい。
【0027】
あるいは、コントローラ102の機能の一部または全部をHMD101側に取り込むように構成してもよい。なお、以下のMRシステムでは、コントローラ102とHMD101がそれぞれ有する機能を組み合わせたものを改めてHMD101(画像処理装置)と表記して説明を行うこととする。
【0028】
<2.MRシステムの機能構成>
図2は、第1の実施形態にかかる画像処理方法が実行されるMRシステム200の機能構成を示す図である。
【0029】
図2において、201は、ビデオシースルー型のHMDである。HMD201は、現実空間を撮像する撮像ユニット203と、CG画像が重畳されたMR画像を表示する表示ユニット208と備える。また、CG画像の生成、合成を行う画像合成装置211との間で通信を行うためのI/F206と、HMD201の位置姿勢情報を出力する三次元位置姿勢センサ205と、撮像系収差補正部204と表示系収差補正部207とを備える。以下、HMD201の各部について説明する。
【0030】
撮像ユニット203は、HMD装着者の視線位置と略一致する現実空間を撮像する。撮像ユニット203は、ステレオ画像の生成が可能な右目用、左目用の二組の撮像素子と撮像光学系および信号処理回路とから構成される。
【0031】
撮像系収差補正部204は、撮像光学系で生じる収差を補正する。なお、収差補正の処理の内容は撮像系、表示系ともに基本的には同じである。
【0032】
三次元位置姿勢センサ205は、HMD装着者の位置姿勢情報を得るためのセンサであり、後述する位置姿勢情報生成部213で用いられる情報を生成する。三次元位置姿勢センサ205としては、例えば、磁気センサやジャイロセンサ(加速度、角速度)が使用される。なお、三次元位置姿勢センサ205は、撮像画像のみから位置姿勢情報を取得するMRシステムの場合にあっては、必ずしも搭載が必須のデバイスではない。
【0033】
206は、撮像ユニット203で撮像された撮像画像を画像合成装置211に伝送し、また合成されたMR画像をHMD201へ伝送するためのI/Fである。I/F206は、HMD201と画像合成装置211との間のデータ通信を行う際に、インターフェースとして機能するものである。なお、これについては、画像合成装置211側に設けられているI/F212についても同様である。ただし、I/F206、212のいずれも、リアルタイム性が求められるため、大容量の伝送が可能な通信規格が採用されることが望ましい。有線系であれば、USBやIEEE1394のメタル線、GigabitEthernet(登録商標)等の光ファイバを使用するのが望ましい。また、無線系であれば、IEEE802.11のワイヤレスLAN、IEEE802.15のワイヤレスPAN規格等に準拠した高速無線通信を使用するのが望ましい。なお、本実施形態では、有線系であれば光ファイバを、無線系であればUWB(Ultra Wide Band)を使用することとする。光ファイバの伝送帯域は数Gbps、UWBは数百Mbpsである。
【0034】
表示系収差補正部207は、表示光学系で生じる収差を補正する。なお、表示系収差補正部207の詳細は後述する。
【0035】
表示ユニット208は、合成されたMR画像を表示する。撮像ユニット203と同様に、右目用、左目用の二組の表示デバイスと表示光学系とから構成される。表示デバイスとしては、例えば、小型の液晶ディスプレイやMEMS(Micro Electro Mechanical System)による網膜スキャンタイプのデバイスが使用可能である。なお、表示光学系の構成については後述する。
【0036】
一方、画像合成装置211は、HMD201から受け取った撮像画像に基づいて位置姿勢情報を生成したり、位置姿勢情報に基づいてCG画像を生成し、撮像画像と合成を行ったりする。画像合成装置211は、パソコンやワークステーション等の高性能な演算処理機能やグラフィック表示機能を有する装置により構成される。以下、画像合成装置211の各部について説明する。
【0037】
212は、画像処理装置側のI/Fである。I/F212の機能は、HMD201内のI/F206と同じであるため、ここでは説明は省略する。
【0038】
213は、受け取った撮像画像から、HMD装着者の位置姿勢を示す位置姿勢情報を生成する位置姿勢情報生成部である。撮像画像からマーカやマーカの代わりとなる特徴点を抽出することにより位置姿勢情報を生成する。なお、位置姿勢情報生成部213は、不図示の客観視点による撮像画像や、HMD201に取り付けられた三次元位置姿勢センサ205による情報を補足的に使用する構成となっており、撮像画像中にマーカや特徴点がない場合にも対応することが可能である。
【0039】
214は、コンテンツDB215に保持されているそれぞれの仮想物体に係るデータを用いて、それぞれの仮想物体を仮想空間中に配置した仮想空間を形成するCG画像描画部である。CG画像描画部214では、形成した仮想空間においてHMD装着者の視点から見た場合の仮想画像(CG画像)を生成する。なお、所定の位置姿勢のHMD装着者の視点から見た場合の仮想空間の画像を生成する処理については周知であるので、ここでは詳細な説明は省略する。
【0040】
215は、仮想画像のコンテンツを納めたコンテンツDBであり、仮想空間を構成する各仮想物体に係るデータを保持するDB(データベース)である。仮想物体に係るデータには、例えば、仮想物体の配置・位置姿勢や、その動作則を示すデータが含まれる。また、仮想物体がポリゴンにより構成されている場合には、各ポリゴンの法線ベクトルデータやその色データ、ポリゴンを構成する各頂点の位置データ等が含まれる。また、仮想物体にテクスチャマッピングを施す場合には、テクスチャデータも含まれる。
【0041】
216は、撮像画像とCG画像とを合成し、MR画像を生成するMR画像合成部である。ここで生成したMR画像は、I/F212を介してHMD201に送られ、HMD201の表示ユニット208にて表示される。
【0042】
以上のような機能構成のもと、撮像ユニット203で撮像された撮像画像は、以下のような流れにより処理される。すなわち、撮像系収差補正部204において撮像光学系の収差が補正され、画像処理装置202へと送信される。そして、画像処理装置202において、受け取った撮像画像中のマーカや特徴量に基づいて、HMD201の位置姿勢情報が算出される。その後、算出された位置姿勢情報に基づいて生成されたCG画像が、撮像画像に重畳され、合成画像であるMR画像が生成される。生成されたMR画像は、I/F212を介してHMD201へと送られる。
【0043】
HMD201では、撮像光学系と同様に、表示系収差補正部207において表示光学系の収差が補正された後、表示ユニット208に表示される。このような処理の流れにより、収差の補正されたMR画像がHMD装着者の瞳に導かれることとなる。
【0044】
<3.画像合成装置のハードウェア構成>
次に、画像合成装置211のハードウェア構成について説明する。図3は、画像合成装置211のハードウェア構成を示すブロック図である。図3において、301はCPUであり、RAM302やROM303に格納されているプログラムやデータに基づいて処理を実行することにより、コンピュータ全体の制御を行うと共に、画像合成装置211が有する各種機能を実現する。
【0045】
RAM302は、外部記憶装置306からロードされたプログラムやデータ、I/F307を介して外部(本実施形態の場合、HMD201)から受信したデータ等を一時的に記憶するエリアを提供する。また、CPU301が各種の処理を実行する際に用いるワークエリアも提供する。なお、RAM302は、これらのエリアを適宜提供することができる。ROM303は、コンピュータの設定データやブートプログラム(BIOS)等を格納する。
【0046】
304は操作部であり、キーボードやマウスなどにより構成されている。コンピュータの使用者は、操作部304を操作することにより、CPU301に対して各種の指示を入力する。305は表示部であり、CRTや液晶画面等により構成される。CPU301や不図示のグラフィックスボードによる処理結果は、画像や文字として、表示部305に表示される。
【0047】
306は外部記憶装置であり、ハードディスクドライブ装置に代表される大容量情報記憶装置により構成される。外部記憶装置306には、OS(オペレーティングシステム)や、各種処理をCPU301に実行させるためのプログラムやデータが保存されている。これらのプログラムやデータは、CPU301による制御に従って適宜RAM302にロードされ、CPU301によって実行される。
【0048】
307はI/Fであり、図2に示したI/F212に対応する。I/F307は、HMD201とのデータ通信を行うためのインターフェースとして機能する。308は上記各部を繋ぐバスである。
【0049】
<4.HMDのハードウェア構成>
次に、HMD201のハードウェア構成について説明する。図4は、HMD201のハードウェア構成を示すブロック図である。図4において、401は撮像ユニットであり、図2の撮像ユニット203に対応する。402は表示ユニットであり、図2の表示ユニット208に対応する。403はRAMであり、CPU406が各種処理を行うために用いるワークエリアや、I/F206を介して外部(ここでは画像処理装置202)から受信したデータを一時的に記憶するためのエリアを提供する。
【0050】
404はROMであり、HMD201が行う後述の各種処理をCPU406に実行させるためのプログラムやデータが格納されている。405は三次元位置姿勢センサであり、図2の三次元位置姿勢センサ205に対応する。406はCPUであり、HMD201の初期設定を行ったり、各種デバイスの制御を行うプログラムを実行する。407はI/Fであり、図2のI/F206に対応する。
【0051】
408は収差補正LSIであり、図2の撮像系収差補正部204および表示系収差補正部207に対応する。ここでは専用集積回路であるASICを想定しているが、信号処理プロセッサであるDSPによってソフト的に機能を記述することで実現してもよい。409は上記各部を繋ぐバスである。
【0052】
<5.歪曲収差及び倍率色収差についての説明>
次に、歪曲収差及び倍率色収差について説明する。図5は、歪曲収差及び倍率色収差を説明するための図である。図5(A)は歪曲のない状態を、図5(B)は歪曲した状態を、図5(C)は歪曲に加えて倍率色収差が生じた状態をそれぞれ示している。
【0053】
図5(C)では、RGB三原色のうち、Greenを実線で、Redを破線で、Blueを一点鎖線で表している。このように、色毎に収差が生じるのは、Red、Green、Blueの各波長によってレンズでの屈折率が異なるためである。撮像光学系ではGreenの像に対して、Redの像は外側に、Blueの像は内側に結ばれる現象が起こり、白黒の被写体であってもその像のエッジには色にじみ(色ずれ)が生じる。また、カラー画像の被写体の場合も境界領域等の色味が変わるエッジ部分においては同様の色にじみが生じる。
【0054】
実レンズにおける結像においては、図5(A)のような図形を撮像した場合に、図5(C)のように画像が歪み、また、色によって結像位置(倍率)が異なる現象が生じる。一般に、単色における画像の歪みは「歪曲収差」と呼ばれ、色の違いによる倍率の差は「倍率色収差」と呼ばれている。
【0055】
光の屈折は波長が短いほど顕著で、凸レンズをイメージした撮像光学系では外側に赤色がずれるが、拡大光学系である表示光学系では、逆に青色が外側にずれることになる。電子的な収差補正処理では、ずれる方向と逆方向にずらすように補正を行うこととなる。例えば、表示光学系の収差補正であれば、青色を内側に、赤色を外側に配置するように画像を形成することで表示光学系の収差と相殺され、各色の色ずれが生じることのない好ましい画像が、瞳位置において提供されることとなる。
【0056】
<6.表示ユニットの光学系の説明>
次に、HMD201の表示ユニット402の光学系について説明する。図6は表示光学系の一例を示す図である。図6において、601は表示パネルである。表示パネル601は、TFT液晶や有機ELのデバイスにより構成されており、TFT液晶の場合にあっては、不図示のバックライトを光源とした光が各色のフィルタを経由して照射されることとなる。一方、有機ELデバイスの場合には、自発光であるためバックライトは不要となる。HMD装着者に提示されるカラー画像は、表示パネル601上に形成される。
【0057】
602は、小型の表示パネル601からの光線を拡大し瞳に導くための自由曲面プリズムである。自由曲面プリズムの場合、単なるレンズを用いた場合と比べて、表示パネル601の薄型、小型化を実現することができる。
【0058】
603は、表示パネルで形成した画像の結像点である。この結像位置に瞳を配置させることで、HMD装着者は、表示パネル601の画像を、拡大された大画面の表示画像として観察することができる。
【0059】
一般に表示光学系で生じる各種収差は複数のレンズ群によってその影響を抑えることができるが、小型のHMDの実現には表示光学系の簡略化および小型・軽量化が欠かせない。そのため、上述したように、HMD201では、各種収差を電子的に補正することとしている。
【0060】
<7.表示系収差補正部の機能構成>
次に、HMD201の表示系収差補正部207の機能構成について説明する。図7は、表示系収差補正部207の機能構成を示すブロック図である。図7において、701は、RGBの色成分を持つ画素からなる画像データを格納するバッファである。702は、バッファ701に格納された画像を読み出し、平滑化対象となる画素を検出し、検出された画素に対して平滑化処理を行う適応的平滑化処理部である。なお、適応的平滑化処理部702の詳細については後述する。
【0061】
703は、適応的平滑化処理部702より出力された画像について、RGBの色成分に分離する色分離部である。704は収差補正テーブルであり、「注目画素」(処理を実行しようとしている画素)についての変換後の座標値を算出するための補正値を格納する。収差補正テーブル704には、容量削減のため、特定色の変換後の座標値と、特定色を除く他色についての、当該特定色を基準とした場合の差分値とが格納されているものとする。なお、収差補正テーブル704のテーブル構成および格納されている値についての詳細は後述する。
【0062】
705は、各色の補正値を選択する補正値選択部であり、注目画素の座標値に対応する変換座標を算出するための補正値を収差補正テーブル704から読み出す。
【0063】
706は、補正値選択部705で選択された補正値に基づいて、注目画素の各色成分の変換後の座標値を算出する座標算出部である。座標算出部706では、各種補間式を用いた補間演算によって変換後の座標値を算出する。なお、座標算出部706における処理の詳細は後述する。
【0064】
707は、変換後の注目画素の色情報を、該注目画素の近傍の補間位置に再構成する補間処理を行う補間処理部である。ここでは、それぞれGreen、Red、Blueの各色について補間位置における輝度値を算出する。なお、ここでいう「補間位置」とは表示パネル上の表示画素(格子点上)の位置を指すものとする。入力画像と出力画像の画像サイズの変換、すなわち解像度変換を行う場合には、補間処理部707において併せて当該処理を実施するものとする。なお、補間処理部707における処理の詳細は後述する。
【0065】
708は、補間処理後の各色の画像に対して、適応的平滑化処理部702における平滑化処理によって鈍った白色細線を先鋭化する適応的先鋭化処理部である。適応的先鋭化処理部708では、平滑化対象となった画素か否かの判断を行い、平滑化対象となった画素であると判断された画素に対して、先鋭化処理を行う。なお、適応的先鋭化処理部708における先鋭化処理の概要については後述する。
【0066】
709は、それぞれの色成分毎に求められた新たな輝度値をもとに、表示画素における各色成分の輝度値を結合する色結合部である。色結合部709では、例えば、各色8ビットの入力データが存在する場合、変換後の画素を結合することにより、各色8ビットの入力に対して、合計24ビットの画素データを出力する。
【0067】
なお、図7では不図示であるが、表示系収差補正部207には、入力された画像データを、収差補正処理が可能な画像フォーマットに変換する前処理部が備えられていてもよい。画像フォーマット変換としては、例えば、入力画像の各画素の画素情報が、座標値と輝度値と色差値とで構成される場合にあっては、当該画素情報を座標値と輝度値と各色成分(例えばRGBの各色)とに構成し直す処理を行う。また、画像の色味の補正や輝度値の調整、および、その後の画像フォーマットへの変換等を行う後処理部が、必要に応じて表示系収差補正部207に追加されてもよい。
【0068】
以上の機能構成のもと、表示系収差補正部207では、入力されたRGBの各プレーン画像に対して、適応的平滑化処理部702で検出された白色細線への平滑化処理を実施する。そして、平滑化処理された画像に対して、座標変換処理と補間処理とを施すことによって表示光学系の収差を打ち消す補正を行う。更に、収差補正された画像に対して、必要に応じてエッジの先鋭化を実現する先鋭化処理を施し、白色細線のエッジが鈍りを解消する。更に、先鋭化処理された各色画像プレーンを結合し、カラー画像として表示する。
【0069】
表示系収差補正部207ではこのような流れにより処理を行うことで、白色細線に生じる偽色を抑制した画像を表示することが可能となる。なお、偽色抑制の実現において、適応的先鋭化処理部708による先鋭化処理は必須の処理ではなく、よりメリハリの効いた好ましい画像の提供を目的とした処理である。
【0070】
<8.表示系収差補正部による収差補正処理の流れ>
次に、表示系収差補正部207における収差補正処理の流れについて説明する。図8は、表示系収差補正部207における収差補正処理の流れを示すフローチャートである。ステップS801では、収差補正を行うにあたり前処理を行うか否かを判断する。ここでいう前処理とは、例えば、色収差補正が適用できる画像フォーマットへの変換処理などである。前処理を行う場合にはステップS802へ進み、行わない場合にはステップS803へ進む。ステップS802では、前処理として、色収差補正が適用できる画像フォーマットへの変換処理等を実施する。
【0071】
ステップS803では、平滑化対象となる白色細線を検出し、検出された白色細線に対する平滑化処理を実施する。なお、適応的平滑化処理の詳細については別フローを用いて後述する。
【0072】
ステップS804では、平滑化処理された画像について、RGBの三原色で構成される各画素の色情報を各色プレーン(色成分)ごとに分離する。なお、ここではRGBの三原色により分離することとしているが、収差補正テーブル自体が他の色成分の位置ずれ量を示す補正値からなる場合には、RGB以外の色により分離するように構成してもよい(例えば補色系のCMYK等)。
【0073】
ステップS805では、各画素の色ごとにどの位置に結像点がずれるのか、あるいは、理想的な結像点へ導くためには、どこに画素を配置すれば良いのか、を示す変換後の座標値を算出する。なお、座標変換処理の詳細については別フローを用いて後述する。
【0074】
ステップS806では、ステップS805で得られた座標変換された注目画素の画素情報と参照画素の画素情報とに基づいて、新たな構成位置(「補間位置」)において、各色成分の輝度値を再構成する補間処理を行う。なお、「参照画素」とは、座標変換された注目画素が、表示パネル上の表示位置(格子点上)にない画素(つまり、補間処理が必要な「補間画素」)であった場合に、当該補間画素の近傍にある画素であって、表示パネル上の表示位置にある画素を指すものとする。つまり、補間画素の各色成分の輝度値は、参照画素の位置において(補間位置において)、再構成されることとなる。なお、補間処理の詳細についても別フローを用いて後述する。
【0075】
ステップS807では、補間処理が行われた画像のうち、平滑化処理によって鈍った白色細線を先鋭化すべく、平滑化対象となった画素を対象として先鋭化処理を実施する。具体的には、平滑化対象となった画素を対象として、後述するラプラシアンフィルタなどのフィルタによるマトリクス演算を行う。なお、白色細線の検出処理は、座標変換処理前の画像に対して行われているため、座標変換処理後の画像における平滑化対象となった画素か否かの判断は、白色細線の検出処理結果と座標変換処理に用いた補正値とに基づいて行われるものとする。
【0076】
ステップS808では、色成分毎に座標変換処理、補間処理を行った各画素の色情報に基づいて、新たな画素の色情報を再結合する色結合処理を実施する。
【0077】
ステップS807では、収差補正処理後に、色補正や画像フォーマット変換等の後処理を行うか否かを判断する。後処理を行うと判断した場合にはステップS810へ進み、行わないと判断した場合には収差補正処理を終了する。ステップS810では、収差補正処理された画像に対して後処理を実施する。
【0078】
<9.適応的平滑化処理及び適応的先鋭化処理についての説明>
次に、表示系収差補正部207において実行される適応的平滑化処理(ステップS803)及び適応的先鋭化処理(ステップS807)の詳細について説明する。
【0079】
<9.1 適応的平滑化処理部及び適応的先鋭化処理部の機能構成>
はじめに、適応的平滑化処理を実行する適応的平滑化処理部702及び適応的先鋭化処理を実行する適応的先鋭化処理部708の機能構成について説明する。図9は、適応的平滑化処理部702の機能ブロック図である。
【0080】
図9において、901は、表示される画像中に含まれる白色細線を検出する白色細線検出部である。表示画像を格納しているバッファ701から白色細線検出に必要な領域を読みだし、後述する参照マトリクスを用いて、注目画素が白色細線を形成する画素の一部であるか否かを判断する白色細線検出処理を実施する。検出結果は後段の適応的先鋭化処理(ステップS803)において使用される。なお、白色細線検出処理の詳細は後述する。
【0081】
902は、タイミング調整用のバッファである。903は平滑化を実施する平滑化フィルタである。平滑化フィルタ903は、M行×N列のマトリクスにより構成されており、当該平滑化フィルタ903により、注目画素に対して指定された係数による重み付けが行われることにより、平滑化処理が実現される。
【0082】
904は、平滑化処理を制御する制御部である。平滑化の度合いを平滑化フィルタの形状、サイズ、係数を変更することによって制御する。
【0083】
905は、白色細線の検出結果に基づき、平滑化フィルタ903からの出力(平滑化処理された画素)とタイミング調整用バッファ902からの出力(平滑化処理がされていない画素)とを選択するセレクタである。
【0084】
一方、適応的先鋭化処理部708も、適応的平滑化処理部702と基本的に同様の機能構成を有する。ただし、適応的先鋭化処理部708では、平滑化フィルタ903の代わりに、先鋭化フィルタが用いられる。また、先鋭化フィルタによる先鋭化対象となる画素は、適応的平滑化処理部702より送信された白色細線の検出結果と座標変換処理に用いた補正値とにより導き出される画素である。
【0085】
<9.2 適応的平滑化処理及び適応的先鋭化処理において用いられるマトリックス>
次に、適応的平滑化処理及び適応的先鋭化処理において用いられるマトリックスについて説明する。図10は、適応的平滑化処理で使用される参照マトリクス及び平滑化フィルタ、及び、適応的先鋭化処理で使用される先鋭化フィルタの構成を示した図である。
【0086】
図10(a)は、白色細線検出用の参照マトリクスの一例を示している。ここでは参照マトリクスを3行×5列のマトリクスとして示しているが、参照マトリクスは、このサイズに限られるものではない。白色細線検出部901では、参照マトリクス中央の注目画素が白色細線の一部を構成する白色細線画素であるのか、白色細線を構成しない非該当画素であるのかを、当該参照マトリクス内の画素の値に基づいて判断する。つまり、「白色細線画素」とは、平滑化処理の対象となる画素(及び先鋭化処理の対象となる画素)を指す。
【0087】
なお、白色細線が3画素の幅で構成されている場合、白色細線の外側の画素が白色画素ではないことを判断するためには、3画素より広い領域を参照する必要がある。つまり、上記参照マトリクスの場合、縦線では3画素の幅まで、横線では1画素の幅まで検出することが可能である。参照マトリクスのサイズ及び形状は検出したい白色細線の線幅によって、制御部904によって任意に変更されるものとする。
【0088】
図10(b)は、平滑化フィルタ903のマトリクスの一例を示している。図10(b)に示すマトリクスによれば、注目画素の輝度値を2倍した値とその周囲8画素の輝度値との和を10で割った値を新たに注目画素の輝度値とする平滑化処理が行われる。なお、ここで示したフィルタ係数(重み付け係数)は一例であり、この値に限られるものではない。より平滑化の効果を強めたい場合には、注目画素の重み付け係数の値を周囲の係数と比べて相対的に小さくすればよい。逆に平滑化の効果を弱めたい場合には、注目画素の重み付け係数の値を周囲の係数と比べて相対的に大きくすればよい。また、参照マトリクスのサイズを大きくすることで平滑化の度合いを強めることも可能である。さらには、新たに算出された平滑化処理後の輝度値が元の輝度値と比べてある閾値以上の差がない場合には、元の輝度値を採用するといった処理が加えられてもよい。
【0089】
図10(c)は、先鋭化フィルタのマトリクスの一例を示している。図10(c)に示すマトリクスによれば、注目画素の輝度値を10倍した値からその周囲8画素の輝度値の和を引いた値を2で割った値を、新たに注目画素の輝度値とする先鋭化処理が行われる。なお、ここで示したフィルタ係数(重み付け係数)は一例であり、この値に限られるものではない。例えば、ラプラシアンフィルタのように、注目画素の対角画素のみを参照するようにしてもよい。
【0090】
<9.3 適応的平滑化処理における白色細線検出処理の流れ>
次に、適応的平滑化処理(ステップS803)における白色細線検出処理の流れについて説明する。図11は、白色細線検出処理の流れを示すフローチャートである。上述した参照マトリクスを利用して、注目画素が白色細線の一部を構成する白色細線画素であるか否かを判断する。
【0091】
ステップS1101では、参照マトリクス内の各画素の輝度値を取得する。ステップS1102では、参照マトリクス内の注目画素が白色であるのか否かを判断する。白色であるか否かの判断は、RGBの各輝度値がそれぞれ任意の閾値以上であるか否かを判断することによって行う。例えば、各色8ビットデータの場合、192以上の値を各色成分が持っていれば白色と判断する。注目画素が白色であると判断された場合には、ステップS1103へ進み、注目画素が白色でないと判断された場合にはステップS1106へ進む。
【0092】
ステップS1103では、参照マトリクス内の注目画素以外の画素に、注目画素と同一の輝度値を持つ画素が存在するか否かを判断する。これは、注目画素が白色細線の一部を構成する画素であるなら、マトリクス内に同一またはほぼ同一の輝度値を持つ画素が存在するはずだからである。同一輝度値を持つ画素が存在すると判断された場合にはステップS1104へ、存在しない、すなわち注目画素が白色の孤立画素であると判断された場合にはステップS1106へ進む。
【0093】
ステップS1104では、参照マトリクス内に任意の閾値以下の値を持つ輝度値の低い画素が存在するか否かを判断する。例えば、各色8ビットデータの場合、各色成分が96より小さい輝度値を持っているのであれば、白色細線とその周辺とでコントラストの差が大きいと判断することができる。コントラストが大きい場合、収差補正による補間処理時に偽色が目立ちやすくなることから、平滑化処理が必要であると判断することができる。逆に白色細線の外周(背景部分)の輝度値が相対的に大きい場合には、補間処理時の偽色が目立ちにくい。このため、平滑化処理が不要と判断することができる。そこで、任意の閾値以下の輝度値を持つ画素が存在する場合にはステップS1105へ進み、存在しない場合にはステップS1106へ進む。
【0094】
ステップS1105では、ステップS1102からステップS1104までの条件を満たしていることを受けて、注目画素が白色細線の一部を構成する白色細線画素(平滑化対象となる画素)であると判断し、白色細線検出処理を終了する。
【0095】
一方、ステップS1106では、ステップS1102からステップS1104までの条件の何れかを満たしていないことを受けて、平滑化対象とならない非該当画素であると判断し、白色細線検出処理を終了する。
【0096】
<9.4 適応的平滑化処理における平滑化処理の流れ>
次に、適応的平滑化処理(ステップS803)における平滑化処理の流れについて説明する。図12は、平滑化処理の流れを示すフローチャートである。ステップS1201では、平滑化処理におけるフィルタ演算の際の平滑化フィルタ903のマトリクス内の各画素の輝度値を取得する。
【0097】
ステップS1202では、図11のフローチャートで説明した白色細線検出処理の検出結果を把握する。ステップS1203では、平滑化フィルタ903のマトリクス内に白色細線の一部を構成する白色細線画素が存在するか否かを判断する。存在する場合にはステップS1204へ進み、存在しない場合には平滑化処理を終了する。
【0098】
ステップS1204では、平滑化フィルタ903のマトリクス内に白色細線の一部を構成する白色細線画素が含まれることを受けて、フィルタ演算を実施する。
【0099】
<10.座標変換処理及び補間処理についての説明>
次に、表示系収差補正部207において実行される座標変換処理(ステップS805)及び補間処理(ステップS806)について説明する。
【0100】
<10.1 収差補正テーブルの説明>
はじめに、座標変換処理に用いられる収差補正テーブル704について説明する。図13は、収差補正テーブル704の一例を示す図である。図13に示すように、収差補正テーブル704には、特定の画素の変換前座標と、変換後座標(または変換後座標との差分値)とが格納されている。注目画素に基づいて特定の画素のX−Y座標を指定することで、基準色(本実施形態ではG)は変換後座標を、基準色以外の他色(RとB)については基準色についての変換後座標との差分値を得ることができる。つまり、Rの変換後座標は、格納されている差分値1301(Gx―Rx)とGの変換後座標Gxとから求めることができる。また、Bの変換後座標は、格納されている差分値1302(Bx―Gx)と、Gの変換後座標Gxとから求めることができる。
【0101】
なお、本実施形態では座標変換前の座標についても収差補正テーブルとして構成することとしたが、本発明はこれに限定されず、座標変換前の座標をメモリアクセス時のアドレスと対応づけるようにしてもよい。このように構成することにより、変換前座標をメモリ領域内に確保する必要がなくなり、メモリサイズをさらに削減することが可能となる。
【0102】
<10.2 座標変換処理の流れ>
図14は、座標変換処理の流れを示すフローチャートである。二次元の座標系における表示中心座標(x0,y0)を原点としてレンズの歪曲収差情報、色収差情報および解像度情報に基づいて、二次元座標系における各画素における位置ずれ量を求める。そして、該位置ずれ量に基づいてx軸方向、y軸方向に各画素を座標変換する。
【0103】
なお、本実施形態では収差補正テーブルのサイズを削減するため、変換前座標と変換後座標との関係は、画像内の画素すべてに対して保持するのではなく、サンプリングされた代表点のみを持ち、間の画素については補間演算によって求めるものとする。
【0104】
ステップS1401では、注目画素の座標を指定する。ステップS1402では、注目画素に対応する収差補正テーブル内の特定の画素の座標を指定する。ここでは注目画素に対応する収差補正テーブル内の特定の画素の座標の指定を、ステップS1401の後に行うこととしているが、本発明はこれに限定されない。例えば、ステップS1401の前に行うよう、ステップS1401とS1402の順番を入れ替えるようにしてもよい。
【0105】
ステップS1403では、注目画素の座標変換後の座標値を得るために必要な補正値を収差補正テーブルから取得する。ステップS1404では、ステップS1403において収差補正テーブルより取得された補正値を用いて、注目画素についての変換後の座標値を取得する。具体的には、歪曲収差であれば画素の位置ずれ量、また、色収差であれば各色成分の変換後の座標を算出するための色成分ごとの位置ずれ量を用いて、注目画素についての変換後の座標値を取得する。なお、格納されている収差補正テーブルで示される変換前座標はサンプリングされた代表値のため、その間の値は補間演算によって求めることとする。この補間演算には、線形補間の他、三次の補間曲線や補間曲面およびスプライン曲線や近似多項式などを用いるものとするが、特にそのような補間式に限定されるものではない。
【0106】
ステップS1405では、全画素に対して上記座標変換処理を実行したかどうかを判断する。全画素に対して処理が終了したと判断された場合には、座標変換処理を終了する。一方、全画素に対して上記座標変換処理を実行していないと判断された場合には、ステップS1401に戻り、対応する画素の収差を補正するための座標変換処理を継続する。
【0107】
<10.3 補間処理の概要>
次に補間処理について説明する。はじめに補間処理の概要について説明する。図15は、三次補間処理の概念を示す模式図である。収差補正における補間処理では、座標変換後の注目画素の色情報を補間位置に再構成する補間処理として、三次補間式を使用することで画像の高画質化を実現している。ここでは一般的な三次補間処理の概念について説明する。なお、補間処理は線形補間を用いても、あるいは、より高次の補間式を用いてもよい。
【0108】
座標変換した注目画素の画素位置と各色成分の輝度値とに基づいて、二次元座標系における補間位置の画素情報(RGBの各輝度値)を補間演算によって求めるのが補間処理である。図15の例では、補間演算において補間画素1501のx座標sxとy座標syとを指定し、まず参照画素と補間画素との間の正規化された距離pxとpyを求める。そして、求めた距離pxとpyを用いて、xとyの各座標について重み係数を求める。求める際に使用する三次関数が上記各三次式による補間曲線となり、バイキュービックであれば式(1)および式(2)が、ラグランジュであれば(3)および(4)が該当する三次補間式となる。
【0109】
バイキュービック補間曲線(周囲16点から双三次補間)
【0110】
【数1】
【0111】
ラグランジュ補間曲線(周囲16点から双三次補間)
【0112】
【数2】
【0113】
x、yそれぞれの座標に対して上記三次補間式にpxとpyの値を代入することで、参照画素の重み係数を算出する。なお、pxとpyは正規化されているものとする。通常の解像度変換であれば格子が正方形で一定の値となるが、座標変換によって変換された各補間画素は正方形を構成しないため、ここでは参照画素の間隔を1として正規化を行っている。以後は説明を簡略化するため、参照画素は正規化された軸上に存在するものとする。
【0114】
図15では補間画素1501の周囲の点線で囲まれた部分が正規化された1の領域となる。すなわちyとy+1の軸およびxとx+1の軸上に存在する4つの参照画素と補間画素との距離px、pyはともに1よりも小さくなる。逆にその周りの12画素は1と2との間の値をとる。最近傍4画素の重み係数の演算の際に使用する三次補間式は、バイキュービックであれば(1)に、ラグランジュであれば(3)となる。外周12画素の重み係数の演算の際に使用する三次補間式は、バイキュービックであれば(2)に、ラグランジュであれば(4)となる。これらの重み係数をx方向、y方向それぞれに求めた後、参照画素の輝度値とこれらxとyの重み係数とを掛け合わせ、周辺16画素の輝度値に加算した値が補間位置における新たな輝度値となる。
【0115】
なお、実際の処理では、最近傍4画素すべてが正規化された格子内または格子上に存在するわけではなく、逆に周辺12画素が正規化された1以上の値をとるとは限られず、いずれも収差補正量によって変化する。
【0116】
<10.4 補間処理の流れ>
次に補間処理の流れについて説明する。図16は、補間処理の流れを示すフローチャートである。ここでは上記三次補間式を使用した補間処理について説明する。
【0117】
ステップS1601では、新たに補間を行う補間画素の位置について、座標の指定を行う。ステップ1602では、補間画素の近傍16点の参照画素を指定する。
【0118】
ステップS1603では、参照画素である近傍16画素のそれぞれの座標を取得する。この座標は正規化された値である。ステップS1604では、補間画素と各参照画素との距離を算出する。なお、当該距離は代表点の間隔で正規化された値として準備する。なお、本実施形態では、二次元空間を対象としているため、x座標、y座標それぞれの値を求める。
【0119】
ステップS1605では、補間曲線または補間直線にステップS1604で算出した距離を代入することで各参照画素の重み係数を求める。ここでは三次補間式の採用を想定しているが、線形補間(バイリニア)アルゴリズムを採用しても構わない。ステップS1606では、各参照画素の値とx、y座標における重み係数の積とを加算し、補間位置の輝度値を演算する。
【0120】
ステップS1607では、全画素に対して上記処理を実行したか否かを判断する。全画素に対して上記処理を実行したと判断された場合には補間処理を終了する。一方、上記処理を実行していない画素があると判断された場合には、ステップS1601に戻り、当該画素について上記処理を実行する。
【0121】
<11.表示系収差補間部による収差補正処理の効果>
次に、表示系収差補正部207における収差補正処理による偽色発生抑制の効果について説明する。なお、説明に際しては、はじめに、画像に含まれる白色細線を収差補正処理した場合の、偽色発生のメカニズムについて説明する。
【0122】
図17A、図17Bは、偽色発生のメカニズムと表示系収差補正部207における収差補正処理による偽色発生抑制の効果を説明するための模式図である。ここでは、説明を簡略化するため、線幅が一画素で構成される白色細線について説明する。なお、線幅が複数画素で構成される場合においても同様のメカニズムに従って偽色が発生するため、表示系収差補正部207における収差補正処理による偽色発生抑制の効果についての説明は同様である。
【0123】
図17Aの(a)は、収差補正前の白色細線の例を、図17Aの(b)は、収差補正を実現する補間処理によって再現された白色細線の例を示している。図17Aの(b)は単色(R、G、Bの何れか)の線を示している。図17Aの(c)は、図17Aの(b)で示される単色の白色細線が各色重なることで発生する偽色のパターンの例を示している。
【0124】
図17Bの(d)は、表示系収差補正部207において、平滑化処理を適用した収差補正前の白色細線の例を、図17Bの(e)は、平滑化処理が適用された後の補間処理によって再現された白色細線の例を示している。また、図17Bの(f)は、図17Bの(e)で示される単色の白色細線が各色重なっても偽色の発生が抑制されるパターンを示している。更に、図17Bの(g)は、図17Bの(e)に対して先鋭化処理を適用した場合の単色の白色細線の例を示している。
【0125】
色収差の補正においては、画像を構成するRGB各色の単色画像プレーン毎に、座標変換処理と補間処理とを行っている。偽色は、補間処理された画素が複数の画素で表現される場合と単画素で表現される場合とで、局所的な輝度差が生じることに起因して発生する。
【0126】
図17Aの(a)は、収差補正前の原画像中の白色細線の例である。ここでは、単一の輝度でかつ、単画素によって白色細線が構成されているものとする。
【0127】
図17Aの(b)は、図17Aの(a)で示される白色細線に対して、座標変換処理及び補間処理を行うことにより再現された白色細線を示している。収差の影響をキャンセルする逆補正を適用したため、直線が曲線や斜め線として再構成される。補間処理により再構成された線は、(b)に示すように単一画素で構成される箇所と複数画素で構成される箇所とが交互に繰り返されることとなる。
【0128】
ここで、単一画素で構成される場合と、複数画素で構成される場合とでは、全体的な輝度値は保存されるものの、局所的には画素毎に輝度値が異なることとなる。つまり、原画像では一様な白色細線を表現していても、補間処理後の画像では、輝度値の強弱が生じ、ユーザが視認する表示画像上では輝度ムラとなってあらわれることになる。収差補正時の画素の構成に一般的な補間処理を適用した場合、このような輝度ムラが発生する。
【0129】
補間処理を適用した画像では、単一画素で表現されることは稀であるが、複数の画素によって構成される際にも、一つの画素の値が大きく、表示される複数の輝度値に対して支配的な場合には、その画素を単一画素と見なすことができる。
【0130】
図17Aの(c)は、収差補正を適用して表示光学系により白色細線を再構成した場合に生じる偽色パターンの例を示しており、白色細線上にRGBの各色が周期的に現れることを示している。
【0131】
更に、図17Aの(a)の白色細線に対して収差補正を行った場合、RGBの色成分毎に座標変換処理と補間処理とによって画素を生成するため、図17Aの(b)で示したようにRGB各色の白色細線がそれぞれに固有の輝度ムラを持つこととなる。これらの各色細線を結合・合成して白色細線を再構成すると、更に、色毎の強弱(輝度ムラ)がずれることで、周期的な偽色が白色細線上に現れることとなる。例えば、白色細線上のある一点において、RとGが複数の画素で構成され、Bが単画素で構成されていた場合、輝度値を比較すると、Bの輝度がRとGと比べて高いため、合成された画素には、白色細線上にBの色が強く現れることになる。
【0132】
このような偽色の発生は、補間処理を行った画像において生じるものであり、表示光学系の収差補正の量には関係なく発生し、また、画像の外周部のみならず中央部においても発生する。
【0133】
一方、図17Bの(d)は、収差補正前の原画像中の白色細線に平滑化処理を適用した例を示している。単一の輝度でかつ、単画素によって線が構成されている白色細線が、平滑化処理によって元の白色細線部分の輝度値が低下し、白色細線に隣接する画素にも輝度値が振り分けられることとなる。
【0134】
図17Bの(e)は、補間処理された単色の白色細線の例を示している。偽色は、補間処理によって再構成された白色細線上の局所的な画素の値の強弱に起因して発生するため、この画素値の強弱を低減させることにより、偽色の発生を目立たなくすることが可能である。
【0135】
つまり、平滑化フィルタによる平滑化処理を適用し、単一画素で表現される画素の輝度値を下げると共に、白色細線の周辺画素へも輝度値を分配することで、全体的な輝度値を保存しつつ、各色の輝度ムラを低減させることが可能となる。この結果、結合・合成された白色細線においても偽色の発生が抑制されることとなる。なお、本実施形態における平滑化処理は、色毎に独立して適用されるものとする。
【0136】
図17Bの(f)は、単色の白色細線が各色成分が重なっても偽色の発生が抑制されるパターンを示している。色成分毎に平滑化処理を適用して白色細線を再構成した場合、白色細線の最高輝度値は多少低下するものの、輝度ムラの発生が抑えられた偽色の少ない白色細線を表示画像として生成することが可能となる。
【0137】
なお、平滑化対象となる白色細線画素の検出に際しては、注目画素が白色であって、かつ、当該白色である画素に隣接する画素が低輝度の画素のみを白色細線画素とした。つまり、注目画素が白色であっても、隣接する画素の輝度値が比較的大きな値の場合には、非該当画素とした。これは、注目画素に隣接する画素の輝度値が比較的大きな値の場合、偽色の発生が目立たないからである。
【0138】
このような平滑化対象となる白色細線画素は、一般的には自然画像に存在しない画像要素であって、MRやVR用途で人為的に生成されたCG画像やアノテーション目的に挿入された文字やアイコンを表示した画像に含まれる。また、細線が白色ではない場合、例えば緑色や赤色の線であれば周期的な輝度ムラは生じるものの偽色は発生しないため、非該当画素とした。
【0139】
図17Bの(g)は、平滑化処理が適用された白色細線に対して、先鋭化処理を施した例を示している。平滑化処理の適用のみでは全体的な輝度はほぼ保存されるものの、人間の目にはエッジ部分が鈍った線として見える。そこで、白色細線を構成する画素に対して、先鋭化処理を適用し、下がった輝度値を上げることで、線自体は太く視認されるものの、白色が白色として視認される先鋭度の高い白色細線を表示画像として提供することが可能となる。
【0140】
以上説明してきたように、本実施形態では、表示光学系によって生じる色収差を信号処理によって補正する際に、注目画素が、表示画像に含まれる白色細線画素であるか否かを判断する構成とした。そして、白色細線画素と判断された注目画素について、補間処理前に平滑化処理を行う構成とした。これにより、補間処理時に生じる偽色の発生を抑制することが可能となった。
【0141】
更に、本実施形態では、平滑化対象となった画素に対して、先鋭化処理を適用し、白色細線の先鋭度を上げる構成とした。これにより、エッジの保存された視認性の高い白色細線を表示させることが可能となった。
【0142】
このように、本実施形態では、白色細線検出処理、平滑化処理および先鋭化処理という比較的処理負荷の小さな処理を組み合わせによって表示画質の向上を実現した。このため高画質化と処理の高速化および装置の小型化が実現されうるバランスの取れた色収差補正機能を提供することが可能となる。
【0143】
[第2の実施形態]
本発明の第2の実施形態について説明する。本実施形態にかかる画像処理方法は、第1の実施形態に係る画像処理方法が、白色細線画素と判断されたすべての画素に対して平滑化処理を適用していたのに対して、白色細線画素の中央部を除く外周画素に対してのみ、平滑化処理を適用する点に特徴がある。当該画像処理方法の場合、白色細線の線幅が2画素以内であれば効果は変わらないが、3画素以上の線幅を持つ場合、白色細線の中央部の輝度値が低下することを抑制することができるという効果がある。以下、当該点を中心に本実施形態に係る画像処理方法について説明する。
【0144】
<1.適応的平滑化処理における白色細線検出処理の流れ>
図18は、適応的平滑化処理における白色細線検出処理の流れを示すフローチャートである。ステップS1801では、参照マトリクス内の各画素の輝度値を取得する。ステップS1802では、注目画素が白色であるか否かを判断する。なお、当該処理内容は図11のステップS1102と同様である。注目画素が白色である場合には、ステップS1803へ進み、注目画素が白色でない場合にはステップS1808へ進む。
【0145】
ステップS1803では、参照マトリクス内の注目画素以外の画素に、注目画素と同一の輝度値を持つ画素が存在するか否かを判断する。なお、当該処理内容は、図11のステップS1103と同様である。同一輝度値を持つ画素が存在すると判断された場合にはステップS1804へ進み、存在しない、すなわち注目画素が孤立画素であると判断された場合はステップS1808へ進む。
【0146】
ステップS1804では、参照マトリクス内に任意の閾値以下の輝度値の低い画素が存在するか否かを判断する。この処理内容は、図11のステップS1104と同様である。任意の閾値以下の輝度値を持つ画素が存在する場合には、ステップS1805へ進み、存在しない場合にはステップS1808へ進む。
【0147】
ステップS1805では、注目画素の外周画素も白色であるか否かを判断する。注目画素のみならず、その外周画素も白色である場合には、該注目画素が白色細線の中央部に位置する画素であると判断することができる。外周画素も白色であると判断された場合には、ステップS1806へ進み、一部でも白色でない画素が含まれる場合には、ステップS1807へ進む。
【0148】
ステップS1806では、注目画素が白色細線の一部を構成する画素であって、かつ、白色細線の外周部に位置しない中央部の画素(平滑化対象とならない「白色細線中央画素」)であると判断し、処理を終了する。
【0149】
ステップS1807では、注目画素が白色細線の外周部にあたる画素(平滑化処理の対象となる「白色細線外周画素」)であると判断し処理を終了する。
【0150】
ステップS1808では、ステップS1802からステップS1804までの条件の何れかを満たしていないことから、平滑化対象とならない非該当画素であると判断し処理を終了する。
【0151】
<2.適応的平滑化処理における平滑化処理の流れ>
次に、適応的平滑化処理における平滑化処理の流れについて説明する。図19は、適応的平滑化処理における平滑化処理の流れを示すフローチャートである。ステップS1901及びステップS1902における処理内容は、図12のステップS1201及びステップS1202における処理内容と同様であるため、ここでは説明を省略する。
【0152】
ステップS1903では、注目画素が白色細線を構成する画素の一部で、かつ、非該当画素と隣接する白色細線の外周画素であるか(つまり、平滑化処理の対象となる白色細線外周画素であるか)否かを判断する。白色細線外周画素であると判断された場合には、ステップS1904へ進み、白色細線外周画素でないと判断された場合(つまり、白色細線中央画素または非該当画素であると判断された場合)には処理を終了する。
【0153】
ステップS1904では、上述したフィルタ演算を実施することで、注目画素を平滑化し、処理を終了する。
【0154】
このように、第1の実施形態では平滑化処理と先鋭化処理とを組み合わせて白色細線を再構成していたのに対して、本実施形態によれば、白色細線外周画素のみに平滑化処理を適用することで、先鋭化処理を行わない構成とすることが可能となる。この場合、先鋭度は多少落ちるものの、上記第1の実施形態と同様、白色細線の輝度値(白色細線の中央部のピークの輝度値)を保持したまま、偽色発生を抑制することが可能となる。
【0155】
なお、本実施形態の場合、適用可能な白色細線の幅は限られるが、適応的先鋭化処理を省くことができるため、第1の実施形態に比べ、処理負荷を低減させることが可能となる。なお、線幅に合わせて第1の実施形態で説明した画像処理方法と本実施形態で説明した画像処理方法とを組み合わせるように構成してもよい。
【0156】
[第3の実施形態]
本発明の第3の実施形態について説明する。上記第1の実施形態では平滑化処理とその後の補間処理とを別プロセスとして実現していた。これに対して、本実施形態に係る画像処理方法では、平滑化対象となる白色細線画素について補間処理を行う際に、平滑化効果の高い補間曲線を採用する構成とし、同一プロセス上で画素の平滑化と補間とを実現している点に特徴がある。以下、この点を中心に本実施形態に係る画像処理方法について詳細に説明する。
【0157】
<1.表示系収差補正部の機能構成>
はじめに、本実施形態に係る画像処理方法を実現する表示系収差補正部について説明する。図20は、本実施形態に係る画像処理方法を実現する表示系収差補正部2000の機能構成を示すブロック図である。図20に示す、バッファ2001、色分離部2003、収差補正テーブル2004、補正値選択部2005は、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックと同じである。また、図20に示す、座標算出部2006、適応的先鋭化処理部2008、および色結合部2009の各機能ブロックについても、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックと同じである。このため、ここではこれらの機能ブロックについての説明は省略する。
【0158】
2002は、表示画像中に含まれる白色細線を検出する白色細線検出部である。白色細線検出部2002では、表示画像を格納しているバッファ2001から白色細線検出に必要な領域を読みだし、前述した参照マトリクスを用いて、注目画素が白色細線の一部を構成する白色細線画素であるか否かを判断する。
【0159】
2007は、変換後の注目画素の色情報を注目画素近傍の補間位置に再構成する補間処理を行う適応的補間処理部である。適応的補間処理部2007では、白色細線検出部2002における検出結果に基づき、注目画素が白色細線画素である場合には、補間式として平滑化効果の高いものを選択したうえで、補間処理を実施する。なお、補間処理の詳細については後述する。
【0160】
以上の構成により、偽色の発生を抑制する平滑化の効果が、補間処理の段階で実現されることとなり、表示系収差補正部2000を実現するための処理回路の規模を縮小することが可能となる。
【0161】
<2.表示系収差補正部による収差補正処理の流れ>
次に、表示系収差補正部2000による収差補正処理の流れについて説明する。図21は、表示系収差補正部2000による収差補正処理の流れを示すフローチャートである。ステップS2101、2102、2104、2105、および2107から2110までの処理内容は、上記第1の実施形態において図8を用いて説明した対応するステップの処理内容と同じであるため、ここでは説明は省略する。
【0162】
ステップS2103では、平滑化効果のある補間処理を行う対象となる画素として、白色細線の一部を構成する白色細線画素を検出する。処理の内容は第1の実施形態において図11を用いて説明した処理内容とほぼ同じである。なお、上記第1の実施形態における白色細線検出処理では、白色細線を構成する画素の一部であるか、非該当画素であるかを判断していたが、ここでは、当該判断に加えて白色細線に隣接する非該当画素(「白色細線隣接画素」)であるか否かについても判断する。
【0163】
ステップS2106では、ステップS2105で得られた座標変換された注目画素の画素情報と参照画素の画素情報とに基づいて、新たな構成位置(補間位置)において、各色成分の輝度値を再構成する補間処理を行う。その際、注目画素がステップS2103で白色細線画素であると判断されていた場合には、平滑化効果を有する補間曲線を適用する。なお、適応的補間処理の詳細については以下に説明する。
【0164】
<3.適応的補間処理についての説明>
次に、表示系収差補正部2000において実行される適応的補間処理(ステップS2106)について説明する。
【0165】
<3.1 補間曲線の説明>
はじめに、適応的補間処理(ステップS2106)において用いられる補間曲線について説明する。図22は、適応的補間処理(ステップS2106)において用いられる補間曲線の一例を示す図である。図22において、2201(一点鎖線)は、バイキュービックのフィルタ形状を示す補間曲線である。同様に、2202(細い実線)はラグランジェ補間曲線を、2203(点線)はバイリニア直線を、2204(実線)はB−SPLINE曲線(実線)をそれぞれ示している。軸上の数値は画素間隔で正規化した値である。なお、周囲の参照画素と補間画素との関係式であるバイキュービックとラグランジェに関しては上述したとおりである。
【0166】
補間処理を実現するフィルタ形状として、線形補間(一次補間)であるバイリニアよりも0と1の間においてより大きな値となる(上側に曲線が位置する)曲線は、先鋭化の効果が高い。一般に線形補間であるバイリニアを使用すると補間画素は周辺4画素の加算平均となるため、エッジ成分が失われた鈍い画像になることが知られている。逆にバイキュービックでは、周辺16画素に重み付けを行った3次の演算を行い、エッジ成分を残した高画質な画像を得ることができる。
【0167】
つまり、先鋭化の効果でいえば、バイキュービック2201が最も高く、次いでラグランジェ2202、バイリニア2203、B−SPLINE曲線2204の順番となる。反対に平滑化の効果でいえば、その順番は逆となる。
【0168】
通常の補間処理では高画質化を実現するためバイキュービック2201を使用し、平滑化の効果を得たい場合には、平滑化の度合いに応じて図に示した他の補間式、補間曲線・直線を採用する。なお、白色細線を構成する画素の一部と判断された白色細線画素についての補間処理においては、その参照マトリクス内に含まれる白色の画素の数によって平滑化の効果の異なる補間曲線を選択し、補間画素を生成する。
【0169】
例えば、参照マトリクス内の補間位置の近傍4画素すべてが白色細線画素である場合には、当該補間画素は白色細線中央画素であることが想定されるため、平滑化効果を有するラグランジェ曲線を選択する。
【0170】
<3.2 適応的補間処理の流れ>
次に、適応的補間処理(ステップS2106)の詳細な処理の流れについて説明する。図23は、適応的補間処理の詳細な処理の流れを示すフローチャートである。なお、ここでは通常使用の補間曲線としてバイキュービックを用いるものとする。
【0171】
ステップS2301から2304までの処理内容は、上記第1の実施形態において図17を用いて説明した対応するステップの処理内容と同じであるため、ここでは説明は省略する。
【0172】
ステップS2305では、参照マトリクス内に含まれる注目画素が白色細線の一部を構成する白色細線画素であるかどうかを判断し、白色細線検出処理の検出結果を把握する。
【0173】
ステップS2306では、補間位置の近傍4画素に白色細線を構成する白色細線画素が含まれるか否かを判断する。含まれると判断された場合にはステップS2307に進み、含まれないと判断された場合にはステップS2310に進む。
【0174】
ステップS2307では、さらに当該近傍4画素内に白色細線隣接画素が含まれるか否かを判断する。含まれると判断された場合にはステップS2309に進み、含まれないと判断された場合にはステップS2308に進む。
【0175】
ステップS2308では、平滑化効果を有する補間処理を行う。通常の補間処理が前述したバイキュービックで行われるのに対して、ここでは、例えばラグランジェや線形補間による補間処理を行う。
【0176】
ステップS2309では、強度の平滑化効果を有する補間処理を行う。例えば、前述したB−SPLINE曲線による補間処理を行う。
【0177】
ステップS2310では、通常の補間処理を行う。ここでは、バイキュービックによる補間処理を行う。
【0178】
ステップS2311では、全画素に対して上記処理を実行したか否かを判断する。全画素に対して上記処理を実行したと判断された場合には、処理を終了する。上記処理を実行していない画素があると判断された場合には、ステップS2301に戻り、対応する画素について上記処理を実行する。
【0179】
以上の説明から明らかなように、本実施形態では、補間処理時に平滑化効果の高い補間曲線に選択的に切り替える構成とした。これにより、平滑化と補間処理とを同一プロセス上で実現することが可能となった。また、本実施形態のように同一プロセス上で実現する構成とすることで、同じ三次補間式を採用した場合に、係数の変更のみで切り替えが可能となるため、比較的容易に収差補正機能を実現することが可能となる。このため、上記第1及び第2の実施形態と比較して、ハードウェア構成の回路規模を低減させることが可能となる。
【0180】
[第4の実施形態]
本発明の第4の実施形態について説明する。上記第3の実施形態では、平滑化処理とその後の補間処理とを同一プロセスで実現する構成とした。これに対して、本実施形態に係る画像処理方法では、白色細線画素に対する補間処理時に、先鋭化効果の高い補間曲線を採用することで、同一プロセス上で先鋭化処理と補間処理とを実現している点に特徴がある。以下、この点を中心に本実施形態に係る画像処理方法について詳細を説明する。
【0181】
<1.表示系収差補正部の機能構成>
はじめに、本実施形態に係る画像処理方法を実現する表示系収差補正部について説明する。図24は、本実施形態に係る画像処理方法を実現する表示系収差補正部2400の機能構成を示すブロック図である。なお、図24に示す、バッファ2401、適応的平滑化処理部2402、色分離部2403、収差補正テーブル2404の処理内容は、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックの処理内容と同じである。また、補正値選択部2405、座標算出部2406、および色結合部2408の各機能ブロックの処理内容についても、上記第1の実施形態において図7を用いて説明した対応する各機能ブロックの処理内容と同じである。したがって、ここでは、これらの機能ブロックについての説明は省略する。
【0182】
2407は、変換後の注目画素の色情報を注目画素近傍の補間位置に再構成する補間処理を行う適応的補間処理部である。適応的補間処理部2407では、白色細線検出部の検出結果に基づき、注目画素が白色細線画素である場合には、補間処理時に採用する補間式として先鋭化効果の高いものを選択したうえで、補間処理を実施する。
【0183】
このような構成とすることにより、偽色の発生を抑制する平滑化処理を行ったあとに実現されるべき先鋭化処理が、補間処理の段階で実現されることとなり、表示系収差補正部2400を実現するための処理回路の規模を縮小することが可能となる。
【0184】
<2.表示系収差補正部による収差補正処理の流れ>
次に、表示系収差補正部2400による収差補正処理の流れについて説明する。図25は、表示系収差補正部2400による収差補正処理の流れを示すフローチャートである。ステップS2501から2505、および2507から2509までの処理内容は、上記第1の実施形態において図8を用いて説明した対応するステップの処理内容と同じであるため、ここでは説明は省略する。なお、ステップS2503における適応的平滑化処理では、上記第3の実施形態の白色細線検出処理で説明した白色細線隣接画素であるか否かの判断も行うものとする。
【0185】
ステップS2506では、ステップS2505で得られた座標変換された注目画素の画素情報と参照画素の画素情報とに基づいて、新たな構成位置(補間位置)において、各色成分の輝度値を再構成する補間処理を行う。その際、注目画素がステップS2503で白色細線画素であると判断されていた場合には、先鋭化効果の高い補間曲線を適用する。
【0186】
<3.適応的補間処理についての説明>
次に、表示系収差補正部2400において実行される適応的補間処理(ステップS2506)について説明する。
【0187】
<3.1 補間曲線の説明>
はじめに、適応的補間処理(ステップS2506)において用いられる補間曲線について説明する。図26は、適応的補間処理(ステップS2506)において用いられる補間曲線の一例を示す図である。図26において、2601(一点鎖線)は、バイキュービックのフィルタ形状を示す補間曲線である。同様に、2602(点線)はバイリニア直線を、2603と2604(共に実線)は先鋭化効果の高い曲線をそれぞれ示している。軸上の数値は画素間隔で正規化した値であるのは、上記第3の実施形態と同様である。周囲の参照画素と補間画素との関係式であるバイキュービックとラグランジェに関しては上述したとおりである。ここでは先鋭化効果の高い曲線の式を示す。
【0188】
中程度の先鋭度を示す先鋭化曲線2603
【0189】
【数3】
【0190】
強度の先鋭度を示す先鋭化曲線2604
【0191】
【数4】
【0192】
なお、ここで示した先鋭化効果の高い補間曲線は、バイキュービックよりも先鋭化効果が高くなるように計算した独自の曲線である。ここで示した曲線以外でも、先に説明したように、バイキュービックと比較して、0と1の間においてより大きな値となる(上側に曲線が位置する)曲線であれば、いかなる曲線であっても構わない。
【0193】
先鋭化効果は、強度の先鋭化曲線2604が最も高く、次いで中程度の先鋭化曲線2603、バイキュービック2601、バイリニア2602の順番となる。
【0194】
通常の補間処理では高画質化を実現するため、バイキュービック2601を使用し、先鋭化の効果を得たい場合には、平滑化処理の度合いに応じて図26に示した他の補間式、補間曲線を採用する。
【0195】
白色細線の一部を構成する画素と判断された白色細線画素についての補間処理においては、その参照マトリクス内に含まれる白色の画素の数に応じて、先鋭化の効果の異なる補間曲線を選択し、補間処理を実施する。例えば、参照マトリクス内の補間画素の近傍4画素すべてが白色細線画素である場合には、当該補間画素は白色細線中央画素であることが想定されるため、先鋭化効果を有する先鋭化曲線2603を選択する。
【0196】
<3.2 適応的補間処理の流れ>
次に、適応的補間処理(ステップS2506)の詳細な処理の流れについて説明する。図27は、適応的補間処理の流れを示すフローチャートである。なお、ここでは通常の補間曲線としてバイキュービックを用いるものとする。
【0197】
ステップS2701からS2707までの処理内容は、上記第3の実施形態において図23を用いて説明した各ステップの処理内容と同じであるため、ここでは説明は省略する。
【0198】
ステップS2708では、先鋭化効果を有する補間処理を行う。通常の補間処理としてバイキュービックが用いられていた場合には、ここでは、例えば、先鋭化曲線2603を用いた補間処理を行う。
【0199】
ステップS2309では、強度の先鋭化効果を有する補間処理を行う。具体的には、先鋭化曲線2604を用いた補間処理を行う。ステップS2310では、通常の補間処理を行う。ここではバイキュービックを用いて補間処理を行う。
【0200】
ステップS2711では、全画素に対して上記処理を実行したか否かを判断する。全画素に対して上記処理を実行したと判断された場合には、処理を終了する。一方、上記処理を実行していない画素があると判断された場合には、ステップS2701に戻り、対応する画素に対して上記処理を実行する。
【0201】
以上の説明から明らかなように、本実施形態では、補間処理時に先鋭化効果の高い補間曲線に選択的に切り替える構成とした。これにより、先鋭化処理と補間処理とを同一プロセス上で実現することが可能となった。また、本実施形態のように、同一プロセスで実現する構成とすることで、同じ三次補間式を採用した場合に、係数の変更のみで実現できるため、上記第3の実施形態と同様、ハードウェア構成の回路規模を低減することが可能となる。
【0202】
[第5の実施形態]
上記第1から第4の実施形態では、本発明に係る画像処理方法を、MRシステムにおいてHMDに表示される全ての画像に対して適用する場合について説明した。
【0203】
しかしながら、画像処理装置202が生成した表示画像中に、CG画像により構成されたワイヤーフレームや文字等が含まれるかどうかは、予め白色細線を生成する画像処理装置202側で把握することができる。そこで、白色細線およびそれに類する白色画素を含む画像が生成されたか否かについての情報を、画像処理装置202からHMD201へと送信し、適応的平滑化処理の適用を切り換えるように構成してもよい。
【0204】
また、HMD201内部でOSD等によって警告表示や情報表示のための文字を表示することが可能である場合、それらの表示の有無をHMD201で判断し、適応的平滑化処理の適用を切り換えるように構成してもよい。
【0205】
また、上記第1から第4まで実施形態では、表示光学系のバリエーションについては特に言及しなかった。しかしながら、レンズ、プリズムなどの光学部材として、上下または左右非対称系のものを採用した表示光学系であってもよいし、また、複数レンズの組み合わせや結像面を複数回生成する表示光学系であってもよい。
【0206】
また、上記第1から第4の実施形態では、座標変換処理としてアドレス変換を例に説明を行ったが、従来技術で説明した解像度変換手法や近似多項式を用いた数値演算による座標変換処理を採用してもよい。
【0207】
また、上記第1から第4の実施形態では、接眼の拡大光学系を採用するHMDにおいて収差補正を行う場合について説明を行った。しかしながら、収差補正の適用先は、HMDに限定されるものではなく、表示光学系を有しその収差の補正が必要な、デジタルカメラやカメラ付きの携帯電話およびデジタルビデオカメラ、背面投射型のテレビやカメラ等に搭載されるEVF等であってもよい。
【0208】
また、上記第1から第4の実施形態で説明した構成は、互いに組み合わせて使用してもよいことは言うまでもない。さらには、上記各実施形態における様々な技術を適宜組み合わせて新たなシステムを構成することは当業者であれば容易に相当し得るものである。したがって、このような様々な組み合わせによるシステムもまた、本発明の範疇に属するものである。
【0209】
[他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【特許請求の範囲】
【請求項1】
表示される画像を処理する画像処理装置であって、
前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断手段と、
前記判断手段において白色細線画素であると判断された場合には、前記注目画素に対して平滑化処理を行うよう動作し、前記判断手段において白色細線画素でないと判断された場合には、前記注目画素に対して平滑化処理を行わないよう動作することで、該注目画素の色情報を算出する算出手段と、
前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記算出手段により色情報が算出された前記注目画素の位置を変換する変換手段と、
前記変換手段により変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間手段と
を備えることを特徴とする画像処理装置。
【請求項2】
前記補間手段により補間処理された前記注目画素のうち、前記判断手段において白色細線画素であると判断された注目画素に対して、先鋭化処理を行う先鋭化処理手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記補間手段は、前記判断手段において白色細線画素であると判断された注目画素と、白色細線画素でないと判断された注目画素とで、先鋭化効果の異なる補間曲線を用いて、前記補間処理を行うことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記判断手段において白色細線画素であると判断された場合に前記補間処理において用いられる補間曲線は、前記判断手段において白色細線画素でないと判断された場合に前記補間処理において用いられる補間曲線と比べて、先鋭化効果の高い補間曲線であることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記算出手段は、前記判断手段において白色細線画素であると判断された場合であって、前記注目画素が、前記白色細線の外周部を構成する画素である白色細線外周画素である場合に、前記平滑化処理を行うことを特徴とする請求項1に記載の画像処理装置。
【請求項6】
表示される画像を処理する画像処理装置であって、
前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅より細い白色細線を構成する白色細線画素であるか否かを判断する判断手段と、
前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記注目画素の位置を変換する変換手段と、
前記変換手段により変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間手段と、を備え、
前記補間手段は、前記注目画素が、前記判断手段において白色細線画素であると判断された場合と、白色細線画素でないと判断された場合とで、平滑化効果の異なる補間曲線を用いて前記補間処理を行うことを特徴とする画像処理装置。
【請求項7】
前記判断手段において白色細線画素であると判断された場合に前記補間処理において用いられる補間曲線は、前記判断手段において白色細線画素でないと判断された場合に前記補間処理において用いられる補間曲線と比べて、平滑化効果の高い補間曲線であることを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記補間手段により補間処理された前記注目画素のうち、前記判断手段において白色細線画素であると判断された注目画素に対して、先鋭化処理を行う先鋭化処理手段を更に備えることを特徴とする請求項7に記載の画像処理装置。
【請求項9】
前記判断手段は、前記注目画素が所定の輝度値より高い画素であって、該注目画素の周辺に、該注目画素と同一の輝度値を有する画素が存在し、かつ、該注目画素の周辺に所定の閾値以下の輝度値を有する画素が存在する場合に、前記白色細線画素であると判断することを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
【請求項10】
表示される画像を処理する画像処理装置における画像処理方法であって、
判断手段が、前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断工程と、
算出手段が、前記判断工程において白色細線画素であると判断された場合には、前記注目画素に対して平滑化処理を行うよう動作し、前記判断工程において白色細線画素でないと判断された場合には、前記注目画素に対して平滑化処理を行わないよう動作することで、該注目画素の色情報を算出する算出工程と、
変換手段が、前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記算出工程において色情報が算出された前記注目画素の位置を変換する変換工程と、
補間手段が、前記変換工程において変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間工程と
を備えることを特徴とする画像処理方法。
【請求項11】
表示される画像を処理する画像処理装置における画像処理方法であって、
判断手段が、前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断工程と、
変換手段が、前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記注目画素の位置を変換する変換工程と、
補間手段が、前記変換工程において変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間工程と、を備え、
前記補間工程は、前記注目画素が、前記判断工程において白色細線画素であると判断された場合と、白色細線画素でないと判断された場合とで、平滑化効果の異なる補間曲線を用いて前記補間処理を行うことを特徴とする画像処理方法。
【請求項12】
請求項10または11に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
【請求項13】
請求項10または11に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶した記憶媒体。
【請求項1】
表示される画像を処理する画像処理装置であって、
前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断手段と、
前記判断手段において白色細線画素であると判断された場合には、前記注目画素に対して平滑化処理を行うよう動作し、前記判断手段において白色細線画素でないと判断された場合には、前記注目画素に対して平滑化処理を行わないよう動作することで、該注目画素の色情報を算出する算出手段と、
前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記算出手段により色情報が算出された前記注目画素の位置を変換する変換手段と、
前記変換手段により変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間手段と
を備えることを特徴とする画像処理装置。
【請求項2】
前記補間手段により補間処理された前記注目画素のうち、前記判断手段において白色細線画素であると判断された注目画素に対して、先鋭化処理を行う先鋭化処理手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記補間手段は、前記判断手段において白色細線画素であると判断された注目画素と、白色細線画素でないと判断された注目画素とで、先鋭化効果の異なる補間曲線を用いて、前記補間処理を行うことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記判断手段において白色細線画素であると判断された場合に前記補間処理において用いられる補間曲線は、前記判断手段において白色細線画素でないと判断された場合に前記補間処理において用いられる補間曲線と比べて、先鋭化効果の高い補間曲線であることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記算出手段は、前記判断手段において白色細線画素であると判断された場合であって、前記注目画素が、前記白色細線の外周部を構成する画素である白色細線外周画素である場合に、前記平滑化処理を行うことを特徴とする請求項1に記載の画像処理装置。
【請求項6】
表示される画像を処理する画像処理装置であって、
前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅より細い白色細線を構成する白色細線画素であるか否かを判断する判断手段と、
前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記注目画素の位置を変換する変換手段と、
前記変換手段により変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間手段と、を備え、
前記補間手段は、前記注目画素が、前記判断手段において白色細線画素であると判断された場合と、白色細線画素でないと判断された場合とで、平滑化効果の異なる補間曲線を用いて前記補間処理を行うことを特徴とする画像処理装置。
【請求項7】
前記判断手段において白色細線画素であると判断された場合に前記補間処理において用いられる補間曲線は、前記判断手段において白色細線画素でないと判断された場合に前記補間処理において用いられる補間曲線と比べて、平滑化効果の高い補間曲線であることを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記補間手段により補間処理された前記注目画素のうち、前記判断手段において白色細線画素であると判断された注目画素に対して、先鋭化処理を行う先鋭化処理手段を更に備えることを特徴とする請求項7に記載の画像処理装置。
【請求項9】
前記判断手段は、前記注目画素が所定の輝度値より高い画素であって、該注目画素の周辺に、該注目画素と同一の輝度値を有する画素が存在し、かつ、該注目画素の周辺に所定の閾値以下の輝度値を有する画素が存在する場合に、前記白色細線画素であると判断することを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
【請求項10】
表示される画像を処理する画像処理装置における画像処理方法であって、
判断手段が、前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断工程と、
算出手段が、前記判断工程において白色細線画素であると判断された場合には、前記注目画素に対して平滑化処理を行うよう動作し、前記判断工程において白色細線画素でないと判断された場合には、前記注目画素に対して平滑化処理を行わないよう動作することで、該注目画素の色情報を算出する算出工程と、
変換手段が、前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記算出工程において色情報が算出された前記注目画素の位置を変換する変換工程と、
補間手段が、前記変換工程において変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間工程と
を備えることを特徴とする画像処理方法。
【請求項11】
表示される画像を処理する画像処理装置における画像処理方法であって、
判断手段が、前記画像を処理する際の注目画素が、前記画像に含まれる、所定の輝度値より高く所定の幅よりも細い白色細線を構成する白色細線画素であるか否かを判断する判断工程と、
変換手段が、前記画像を表示するための表示光学系において生じる色収差に起因する結像位置のずれ量を示す情報に基づいて、前記注目画素の位置を変換する変換工程と、
補間手段が、前記変換工程において変換された前記注目画素の色情報を、該注目画素の近傍の画素であって、前記表示光学系において画像を表示する際の表示位置に対応する画素の色情報により再現することで、該注目画素の補間処理を行う補間工程と、を備え、
前記補間工程は、前記注目画素が、前記判断工程において白色細線画素であると判断された場合と、白色細線画素でないと判断された場合とで、平滑化効果の異なる補間曲線を用いて前記補間処理を行うことを特徴とする画像処理方法。
【請求項12】
請求項10または11に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
【請求項13】
請求項10または11に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶した記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図17A】
【図17B】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図17A】
【図17B】
【公開番号】特開2011−139158(P2011−139158A)
【公開日】平成23年7月14日(2011.7.14)
【国際特許分類】
【出願番号】特願2009−296368(P2009−296368)
【出願日】平成21年12月25日(2009.12.25)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成23年7月14日(2011.7.14)
【国際特許分類】
【出願日】平成21年12月25日(2009.12.25)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]