撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置
【課題】 撮像素子で撮像した撮像画像にシェーディング(画像ムラ)が発生する不都合を防止する。
【解決手段】 撮像素子の受光面に設けられるR(赤色)、G(緑色)、B(青色)の各フィルタ部を二次元配列してなるカラーフィルタに対して、上記受光面の略中央、及び該受光面の周辺部に相当する位置に、それぞれ複数の赤外線透過フィルタ部を設ける。そして、この赤外線透過フィルタ部が設けられた画素からの撮像データに基づいて、撮像素子の受光面の各部の赤外線成分量を検出し、この検出量に対応する赤外線成分を、対応する上記RGBの各フィルタ部を介して得られた撮像データから除去する。これにより、撮像素子の受光面の各画素毎に最適な量の赤外線成分を除去することができ、撮像画像にシェーディング(画像ムラ)が発生する不都合を防止することができる。
【解決手段】 撮像素子の受光面に設けられるR(赤色)、G(緑色)、B(青色)の各フィルタ部を二次元配列してなるカラーフィルタに対して、上記受光面の略中央、及び該受光面の周辺部に相当する位置に、それぞれ複数の赤外線透過フィルタ部を設ける。そして、この赤外線透過フィルタ部が設けられた画素からの撮像データに基づいて、撮像素子の受光面の各部の赤外線成分量を検出し、この検出量に対応する赤外線成分を、対応する上記RGBの各フィルタ部を介して得られた撮像データから除去する。これにより、撮像素子の受光面の各画素毎に最適な量の赤外線成分を除去することができ、撮像画像にシェーディング(画像ムラ)が発生する不都合を防止することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像素子を用いて被写体の撮像を行う静止画撮像装置、動画撮像装置や、撮像素子を用いて被写体の撮像を行うカメラ機能を備えた携帯電話機、PHS電話機(PHS:Personal Handyphone System)、PDA装置(PDA:Personal Digital Assistant)、携帯ゲーム機、ノート型のパーソナルコンピュータ装置等に適用して好適な撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置に関する。
特には、撮像素子の受光面に設けられるR(赤色)、G(緑色)、B(青色)の各フィルタ部を二次元配列してなるカラーフィルタに対して、上記受光面の略中央、及び該受光面の周辺部に相当する位置に、それぞれ複数の赤外線透過フィルタ部を設ける。そして、この赤外線透過フィルタ部が設けられた画素からの撮像データに基づいて、撮像素子の受光面の各部の赤外線成分量を検出し、この検出量に対応する赤外線成分を、対応する上記RGBの各フィルタ部を介して得られた撮像データから除去することで、撮像素子の受光面の各画素毎に最適な赤外線成分除去処理を可能とした撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置に関する。
【背景技術】
【0002】
今日において、主に携帯電話機等の携帯端末装置に設けられる小型のカメラモジュールが知られている。このカメラモジュールは、図7に示すようにカメラモジュールの筐体100の最前面に設けられたレンズ部101と基板102上に設けられた撮像素子103との間に、絞り部104(アパーチャ部)及び赤外線カットフィルタ105を順に設けて形成されている。
【0003】
撮像素子103としては、CMOS撮像素子(CMOS:Complementary Metal Oxide Semiconductor)やCCD撮像素子(CCD :Charge Coupled Devices)等の半導体撮像素子が設けられているが、この撮像素子103上の各画素は、図8(a)に示すように、人間の目で認識可能な可視光よりも波長が長い赤外光領域まで、非常に広域の波長感度特性を有している。
【0004】
このため、一般的には、撮像素子103の受光面に対して、図8(b)に示すように、人間の目の感度に対応する撮像光の赤色成分(R)、緑色成分(G)、及び青色成分(B)をそれぞれ抽出するカラーフィルタ106が設けられている。
【0005】
このカラーフィルタ106は、図9に太線で囲んで示す4つの色フィルタ部を一塊りとするフィルタ部を有している。この一塊りのフィルタ部は、赤色フィルタ部(R)の列方向に隣接して第1の緑色フィルタ部(Gb)が配置され、この第1の緑色フィルタ部(Gb)の行方向に隣接して青色フィルタ部(B)が配置され、上記赤色フィルタ部(R)の行方向に隣接し、かつ、上記青色フィルタ部(B)の列方向に隣接して第2の緑色フィルタ部(Gr)が配置されて形成されている。そして、カラーフィルタ106は、このような一塊りのフィルタ部を、撮像素子103の受光面の行方向及び列方向に沿って多数配列することで形成されている。
【0006】
しかし、このカラーフィルタ106のみでは赤外線を十分に除去できない。そして、赤外線を十分に除去できないと、この赤外線により上記RGBの各画素の出力がオフセットされ、色再現性にズレが発生してしまう。
【0007】
これを防止するために、カラーフィルタ106の前段には赤外線カットフィルタ105が設けられており、この赤外線カットフィルタ105により赤外線成分を除去した撮像光をカラーフィルタ106に入射させるようになっている。
【0008】
撮像素子103は、カラーフィルタ106の赤色フィルタ部(R)で抽出された赤色成分の撮像光、青色フィルタ部(B)で抽出された青色成分の撮像光、及び各緑色フィルタ部(Gr,Gb)で抽出された緑色成分の撮像光を、それぞれ各画素で受光し、撮像光の赤色成分に対応する撮像データ、撮像光の緑色成分に対応する撮像データ、及び撮像光の青色成分に対応する撮像データを形成して出力する。これら各色成分に対応する撮像データは、後段の合成回路で合成処理され、1枚のカラー画像として表示、記録等がなされる。
【0009】
なお、特開2008−91535号の公開特許公報(特許文献1)に、赤外線を透過しないカラーフィルタと、赤外線のみを透過するカラーフィルタによって画素を構成し、赤外線画像と可視光線画像とを同時に同画角で撮影する固体撮像素子が開示されている。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2008−91535号
【発明の概要】
【発明が解決しようとする課題】
【0011】
ここで、携帯端末装置に設けられる小型のカメラモジュールは、薄型構造のため、光学長が非常に短く、図7に示すように撮像素子103の受光面の周辺部に対する撮像光の入射角度であるチーフレイ角(CRA:Chief Ray Angle)が非常に大きい角度となる。また、赤外線成分を除去するために設けられている上記赤外線カットフィルタ105は、透過する撮像光の入射角が大きくなるに連れ、赤外線成分の減衰率が大きくなる光学特性を有している。
【0012】
このため、撮像素子103の受光面の中心部に対して垂直に近い角度で入射する撮像光の赤外線成分の減衰率よりも、撮像素子103の受光面の周辺部に対して大きな角度で入射する撮像光の赤外線成分の減衰率の方が大きな減衰率となる。そして、このような受光面の各部における赤外線成分の減衰率の違いから、図10(a)に示すように撮像画像の中央が赤みを帯び、該撮像画像の周辺部が青みを帯びた画像となるシェーディング(画像ムラ)が発生する。なお、このようなシェーディングは、日本国の国旗に例えて「日の丸シェーディング」と呼ばれている。
【0013】
このような日の丸シェーディングは、撮像素子103の後段に設けられた画像処理部(=ISP:Image Signal Processor)において、撮像画像の中心部と周辺部とで色差信号の補正(日の丸シェーディング補正)を行うことで軽減可能である。
【0014】
しかし、図8(c)に示すように太陽光や白熱電球が発光する光には、赤外線成分が多く含まれるため、この太陽光環境下や白熱電球を光源とする屋内環境下で撮像された撮像画像に対して、上記日の丸シェーディング補正は有効に機能するのであるが、蛍光灯が発光する光には、赤外線成分が殆ど含まれていない。
【0015】
このため、蛍光灯を光源とする屋内環境下で撮像された撮像画像に対して、上記日の丸シェーディング補正を施してしまうと、元々赤外線成分が殆ど含まれていない撮像画像から赤外線成分を除去することとなるため、図10(b)に示すように撮像画像の中央が青みを帯び、該撮像画像の周辺部が赤味を帯びた画像となるシェーディング(画像ムラ)が発生する。このようなシェーディングは、上記「日の丸シェーディング」に対して、シェーディングが発生している部分の色味が反転する現象であるため、「逆日の丸シェーディング」と呼ばれている。
【0016】
なお、環境光の明るさや色温度を検出して光源環境を判別し、赤外線成分が多く含まれる光源環境下の撮像である場合には、上記日の丸シェーディング補正機能をオン制御し、赤外線成分が殆ど含まれていない光源環境下の撮像である場合には、上記日の丸シェーディング補正機能をオフ制御することで、日の丸シェーディング補正を有効に機能させると共に、逆日の丸シェーディングの発生を防止することが可能となる。
【0017】
ただ、この場合、環境光の明るさや色温度で判別した光源環境に基づいて、日の丸シェーディング補正をオン/オフ制御しているため、必ずしも正確に日の丸シェーディング補正機能をオン/オフ制御できるとは限らず、逆日の丸シェーディングが発生する不安も残る制御方法である。
【0018】
本発明は、上述の課題に鑑みてなされたものであり、どのような光源環境下においても、撮像素子の受光面の各画素毎に最適量の赤外線成分を除去可能として、日の丸シェーディングや逆日の丸シェーディングの発生を略々完全に防止することができるような撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置の提供を目的とする。
【課題を解決するための手段】
【0019】
本発明に係る撮像装置は、上述の課題を解決するために、
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子と、
それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するように、上記撮像素子の上記受光面に設けられるカラーフィルタと、
上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部と、
上記読み出し制御部により読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部と、
上記赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部と
を有する。
【0020】
このような本発明は、カラーフィルタに対して、赤色、緑色、及び青色の各フィルタ部と共に、撮像素子の受光面の略中心部及び該受光面の周辺部における撮像光の赤外線成分を抽出するように配置される複数の赤外線透過フィルタ部を設ける。
【0021】
そして、読み出し制御部により撮像素子から読み出された各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、赤外線成分量検出部が、該各画素毎の上記撮像光の赤外線成分量を検出し、赤外線成分除去部が、この赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた各撮像データからそれぞれ除去して出力する。
【0022】
これにより、どのような光源環境下においても、撮像素子の受光面の各画素の撮像データ毎に最適量の赤外線成分を除去可能として、日の丸シェーディングや逆日の丸シェーディングの発生を略々完全に防止することができる。
【発明の効果】
【0023】
本発明は、どのような光源環境下においても、撮像素子の受光面の各画素の撮像データ毎に最適量の赤外線成分を除去可能として、日の丸シェーディングや逆日の丸シェーディングの発生を略々完全に防止することができる。
【0024】
また、カラーフィルタ内に多数の赤外線透過フィルタ部を設ける構成であるため、該カラーフィルタとは別個に設ける必要があった赤外線透過フィルタを省略可能とすることができ、本発明が適用されるカメラモジュールや携帯端末装置等の構造の簡略化、薄型化、及びコストダウンを図ることができる。
【図面の簡単な説明】
【0025】
【図1】本発明を適用した実施例となる携帯電話機のブロック図である。
【図2】実施例となる携帯電話機に設けられているメインカメラ部の内部構造を示す図である。
【図3】実施例となる携帯電話機のメインカメラ部に設けられているカラーフィルタの模式図である。
【図4】実施例となる携帯電話機の赤外線除去処理の流れを示すフローチャートである。
【図5】実施例となる携帯電話機の赤外線除去処理時における制御部の機能ブロック図である。
【図6】実施例となる携帯電話機のメインカメラ部に設けられる他のカラーフィルタの模式図である。
【図7】従来のカメラモジュールの内部構造及びチーフレイ角を説明するための図である。
【図8】人間の目と撮像素子の感度差、各色のフィルタ部の光学特性、各光源からの光に含まれる赤外線成分量を示す図である。
【図9】従来のカメラモジュールに設けられているカラーフィルタの模式図である。
【図10】小型のカメラモジュールで発生する日の丸シェーディング、及び日の丸シェーディングを補正することにより発生する逆日の丸シェーディングを説明するための図である。
【発明を実施するための形態】
【0026】
本発明は、一例として、カメラ機能が設けられた折り畳み型の携帯電話機に適用することができる。
【0027】
[携帯電話機の構成]
図1に、この本発明を適用した実施例となる携帯電話機のブロック図を示す。この図1に示す携帯電話機のプロジェクタ1は、例えば前面投影型のプロジェクタとなっており、投影する元画像を表示する液晶パネル、その液晶パネルに投影光を照射する光源、及び液晶パネル上に表示された投影元画像をスクリーン等に投影させるための投影光学系等を備えている。なお、プロジェクタを投影方式で大別すると、液晶方式とDLP(Digital Light Processing)方式との2つの方式があるが、上記プロジェクタ1としては、これら何れの方式であっても良い。
【0028】
メイン表示部2は、当該携帯電話機の上筐体の非露出面側(=当該携帯電話機を閉状態とした際に下筐体と相対向する面側)に設けられた表示部であり、液晶表示部(LCD:Liquid Crystal Display)、或いは有機EL表示部(OEL:Organic Electro Luminescence)で形成されている。また、補助表示部3は、上記上筐体の露出面側(=上記メイン表示部2が設けられた面に対して反対側となる面側)に設けられた表示部であり、上記メイン表示部2と同様に、液晶表示部、或いは有機EL表示部で形成されている。発光部4(LED:発光ダイオード)は、例えば着信ランプや操作部(図1の符号25)の照明ランプ等の、当該携帯電話機に備えられている各種照明光源である。
【0029】
加速度センサ5は、当該携帯電話機に物理的な振動が加えられた時に、その振動の加速度の大きさ及び向きを検出する。ジャイロセンサ6は、この携帯電話機に物理的な振動が加えられた時に、その振動による回転方向の角速度と回転角度を検出する。照度センサ7は、この携帯電話機の周囲環境の明るさを検出する。
【0030】
スピーカ部8は、上筐体の上端部近傍(=ヒンジ部側の端部に対して反対側となる端部)に設けられた受話音声出力用のスピーカ部である。マイクロホン部9は、下筐体の下端部近傍(=ヒンジ部側の端部に対して反対側となる端部)に設けられた送話音声出力用のマイクロホン部である。
【0031】
外部インターフェイス部10(外部IF)は、各種外部コネクタとその外部コネクタとの間で信号等を行うための外部接続部からなる。なお、上記外部コネクタにはいわゆるUSB2.0(Universal Serial Bus 2.0)規格のコネクタが含まれている。このため、当該携帯電話機は、USB2.0コントローラ11も備えている。
【0032】
USIMカードスロット12は、当該携帯電話機の通信事業者の加入者情報(契約者情報)等が記憶されたいわゆるUSIM(Universal Subscriber Identity Module)カードが装着されるICカードスロットである。
【0033】
振動モータ13は、例えば発着信時等に当該携帯電話機の筐体を振動を発生させて、ユーザに発着信等を知らせるための、いわゆるバイブレータである。バッテリ14は、当該携帯電話機の各部で使用する電力供給用の電源である。周辺IC+電源IC15は、上記USIMカードスロット12、振動モータ13、バッテリ14、外部インターフェース部10と接続されており、これら各部の制御や信号処理の他、バッテリ14の充電制御、及び各部に対する電力供給制御等を行う。
【0034】
メインカメラ部16は、下筐体の露出面側(=当該携帯電話機を閉状態とした際に上筐体と相対向する面側に対して反対側となる面側)に設けられたカメラ部であり、例えばCMOSイメージセンサ(CMOS:Complementary Metal Oxide Semiconductor)やCCDイメージセンサ(CCD:Charge Coupled Device)等の撮影素子、光学系、撮像デバイス等からなる。
【0035】
CMOSイメージセンサやCCDイメージセンサ等の撮影素子は、多数の画素を行方向(=横方向)に連ねてなるラインを列方向(=縦方向)に多数ライン分備え、該各ラインの画素で、被写体の撮像光に対応する電荷を蓄積し、読み出し時に、この各ラインの画素に蓄積した電荷を撮像データとして出力する。このような撮像素子を備えるメインカメラ部16は、主に所望の被写体を撮像する際に用いられる。
【0036】
補助カメラ部17は、上筐体の上記非露出面の上記上端部近傍に、上記受話音声出力用のスピーカ部8と共に併設されたカメラ部であり、撮影素子、光学系、撮像デバイス等からなる。この補助カメラ部17は、主にテレビ電話による通話時に当該携帯電話機のユーザ自身を撮影する、いわゆる自分撮り用のカメラ部として用いられる。
【0037】
通信回路18は、当該携帯電話機が、携帯電話網の無線基地局と通信する際の無線通信用回路である。アンテナ19は、当該携帯電話機が無線基地局と無線通信を行う際の無線通信アンテナである。
【0038】
非接触無線通信ユニット20は、いわゆる電磁誘導方式により、外部のリーダライタ装置との間で、例えば通信距離が50cm程度の非接触無線通信を行う。近距離無線通信ユニット21は、例えばブルートゥース(Bluetooth:登録商標)等の近距離無線通信方式により、通信距離が10m程度の近距離無線通信を行う。赤外線通信ユニット22は、通信距離が数m程度の赤外線無線通信を行う
メモリカードスロット23は、例えばいわゆるSDカード(SD :Secure Digital:登録商標)等の外部メモリカードが着脱されるスロットである。メモリカードコントローラ24は、メモリカードスロット23に装着されたメモリカードに対するデータの書き込み/読み出し等の制御及び信号処理を行う。
【0039】
操作部25は、下筐体の非露出面側(=当該携帯電話機を閉状態とした際に上筐体のメイン表示部2と相対向する面側)に設けられており、複数の操作キーを有している。内部メモリ26は、例えばDDR SDRAM27(Double Data Rate SDRAM)と、NAND型フラッシュメモリ28(NAND-type flash memory)とを有してなる。
【0040】
NAND型フラッシュメモリ28には、OS(Operating System)のプログラムや制御部29が各部を制御するための制御プログラム、メインカメラ部16及び補助カメラ部17の撮像制御を行うための撮像制御プログラム、プロジェクタ1の投影制御を行うための投影制御プログラム等の各種のアプリケーションプログラム、圧縮符号化された楽曲・動画像・静止画データコンテンツの他、各種の設定値、フォントデータ、各辞書データ、機種名情報、端末識別情報等が記憶される。また、このNAND型フラッシュメモリ28には、各ユーザの電話番号、電子メールアドレス、住所、氏名、顔写真等が登録された電話帳や、送受信した電子メール、当該携帯電話機のユーザのスケジュールが登録されたスケジュール帳等が記憶される。
【0041】
DDR SDRAM27は、制御部29が各種のデータ処理や演算を行う際の作業領域として、随時データを記憶する。
【0042】
制御部29は、内部メモリ26に記憶されている各種の制御プログラムやアプリケーションプログラムの実行及びそれに付随する各種データ処理を行うことで、例えば通信制御、上記撮像制御プログラムに基づく各カメラ部16,17の撮像制御、音声処理制御、画像処理制御、その他各種信号処理や各部の制御等を行う。
【0043】
なお、この図1には図示を省略しているが、当該実施例の携帯電話機は、一般的な携帯電話機が備える各構成要素についても当然ながら備えているものと理解されたい。
【0044】
[メインカメラ部の構成]
メインカメラ部16は、図2に示すように当該メインカメラ部16の筐体31の最前面に設けられたレンズ部32と基板33上に設けられた撮像素子34との間に、絞り部35(アパーチャ部)を設けて形成されている。このメインカメラ部16は、後述する理由により、赤外線カットフィルタを設けなくても良い分、レンズ部32と撮像素子34との間の距離を縮めることができ、大幅に小型化されたカメラ部となっている。
【0045】
このようなメインカメラ部16において、撮像素子34の撮像光の受光面には、カラーフィルタ36が設けられている。このカラーフィルタ36は、図3に示すように一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成されている。
【0046】
具体的には、図3中、太線で囲んで示す上記一塊りの各フィルタ部は、赤色フィルタ部(R)の列方向に隣接して一つの緑色フィルタ部(G)が配置され、この緑色フィルタ部(G)の行方向に隣接して青色フィルタ部(B)が配置されており、この一塊りに対して一つ割り当てられる赤外線透過フィルタ部(Ir)は、赤色フィルタ部(R)の行方向に隣接し、かつ、青色フィルタ部(B)の列方向に隣接して配置されている。そして、カラーフィルタ36は、このような一塊りのフィルタ部を、撮像素子34の受光面の行方向及び列方向に沿って多数配列することで形成されている。
【0047】
これにより、撮像素子34の各画素は、上記RGBのいずれかの色のフィルタ部、或いは赤外線透過フィルタ部(Ir)を介した撮像光を受光することとなる。また、赤外線透過フィルタ部(Ir)は、撮像素子34の受光面全体に点在するかたちで設けられることとなる。
【0048】
なお、補助カメラ部17も、このメインカメラ部16と同じ構成を有している。詳しくは、このメインカメラ部16の説明を参照されたい。
【0049】
[メインカメラ部の赤外線除去動作]
このような携帯電話機に設けられている制御部29は、動画像、或いは静止画像の撮像時となると、NAND型フラッシュメモリ28に記憶されている撮像制御プログラムに基づいて、撮像素子34の各画素の撮像データから赤外線成分を除去する赤外線除去処理を行う。図4のフローチャートに、この制御部29による赤外線除去処理の流れを示す。制御部29は、操作部29を介して動画像、或いは静止画像の撮像指定操作がなされると、撮像制御プログラムに基づいて、メインカメラ部16を起動制御し、この図4のフローチャートに示す処理を開始する。
【0050】
ステップS1では、制御部29が、例えば1/60秒等の撮像素子34の各画素に蓄積された電荷の読み出し時刻となったか否かを、図示しないタイマから供給される計時情報に基づいて判別し、該電荷の読み出し時刻となったものと判別したタイミングで処理をステップS2に進める。そして、このステップS2において、制御部29は、上記撮像制御プログラムに基づいて、図5に示す読み出し制御部44として機能することで、撮像素子34の各画素に蓄積された電荷である撮像データを読み出し制御して処理をステップS3に進める。
【0051】
具体的には、被写体の撮像光は、メインカメラ部16のレンズ部32、絞り部35(アパーチャ部)及びカラーフィルタ36を順に介して撮像素子34の各画素に入射される。
【0052】
撮像素子34の各画素に入射される撮像光のうち、カラーフィルタ36の赤色フィルタ部(R)を介した撮像光は、該赤色フィルタ部(R)により当該撮像光の赤色成分が抽出される。これにより、各赤色フィルタ部(R)を介した撮像光を受光する撮像素子34の各画素は、撮像光の赤色成分光を受光することとなる。
【0053】
同様に、カラーフィルタ36の緑色フィルタ部(G)を介した撮像光は、該緑色フィルタ部(G)により当該撮像光の緑色成分が抽出される。これにより、各緑色フィルタ部(G)を介した撮像光を受光する撮像素子34の各画素は、撮像光の緑色成分光を受光することとなる。
【0054】
同様に、カラーフィルタ36の青色フィルタ部(B)を介した撮像光は、該青色フィルタ部(B)により当該撮像光の青色成分が抽出される。これにより、各青色フィルタ部(B)を介した撮像光を受光する撮像素子34の各画素は、撮像光の青色成分光を受光することとなる。
【0055】
このような各色のフィルタ部に対して、カラーフィルタ36の赤外線透過フィルタ部(Ir)を介した撮像光は、該赤外線透過フィルタ部(Ir)により当該撮像光に含まれる赤外線成分が抽出される。これにより、各赤外線透過フィルタ部(Ir)を介した撮像光を受光する撮像素子34の各画素は、撮像光に含まれる赤外線を受光することとなる。
【0056】
このようなことから、上記ステップS2において、撮像素子34の各画素から読み出される撮像データとしては、赤色フィルタ部(R)を介した撮像光を受光した各画素からは、該撮像光の赤色成分を示す撮像データが、緑色フィルタ部(G)を介した撮像光を受光した各画素からは、該撮像光の緑色成分を示す撮像データが、青色フィルタ部(B)を介した撮像光を受光した各画素からは、該撮像光の青色成分を示す撮像データが、赤外線透過フィルタ部(Ir)を介した撮像光を受光した各画素からは、該撮像光に含まれる赤外線成分量を示す撮像データが、それぞれ読み出されることとなる。
【0057】
次に、このように撮像素子34から撮像データの読み出しを行うと、制御部29は、ステップS3において、図5に示す赤外線成分量算出部42として機能することで、赤外線透過フィルタ部(Ir)を介した撮像光を受光した各画素から読み出した撮像データに基づいて、撮像光に含まれる各画素毎の赤外線成分量を算出して、処理をステップS4に進める。
【0058】
そして、このステップS4に処理を進めると、制御部29は、図5に示す赤外線成分除去部43として機能することで、上記ステップS3で算出した各赤外線成分を、対応するRGBの各フィルタ部を介して得られた撮像データから除去して出力する。この赤外線成分が除去された各撮像データは、後段の合成回路等で合成処理され、1枚のカラー画像としてメイン表示部2に表示され、或いは内部メモリ26に記録される。
【0059】
制御部29は、このようなステップS1からステップS4の各処理を、ステップS5で、撮像終了の指定操作がなされるまでの間、繰り返し実行する。
【0060】
ここで、上記ステップS3及び上記ステップS4の各処理を詳しく説明すると、制御部29は、ステップS3で赤外線成分量算出部42として機能し、また、ステップS4で赤外線成分除去部43として機能した際に、上記RGBの各色のフィルタ部に対応する各画素からの撮像データをそれぞれDR,DG,DB、赤外線透過フィルタ部(Ir)に対応する各画素からの撮像データをDIrとして、以下に示す演算を行うことで、赤外線成分を除去したRGBの各撮像データtDR,tDG,tDBを得る。
【0061】
tDR=DR−fR(DIr)
tDG=DG−fG(DIr)
tDB=DB−fB(DIr)
上記各演算式におけるfR(DIr),fG(DIr),fB(DIr)は、赤外線透過フィルタ部(Ir)に対応する画素からの撮像データDIrに基づいて、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する演算式である。
【0062】
なお、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する上記演算式は、予め算出された係数に置き換えてもよい。
【0063】
この実施例の携帯電話機の場合、図3中、太線の枠で囲んで示したように、カラーフィルタ36は、一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成されている。このため、上記一塊り毎に、該一塊りに対応する赤外線成分量が検出されることとなる。
【0064】
従って、上述の演算式に基づく赤外線成分除去処理を行うことで、上記一塊り毎に、正確な量の赤外線成分を除去することができる(=RGBの各画素毎に正確な量の赤外線成分を除去することができる。)。
【0065】
[実施例の効果]
以上の説明から明らかなように、この実施例の携帯電話機は、メインカメラ部16の撮像素子34の受光面に設けるカラーフィルタ36を、一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成する。そして、各赤外線透過フィルタ部(Ir)を介した撮像データに基づいて、上記一塊り毎に赤外線成分量を検出し、この検出した成分量の赤外線成分を、当該一塊りに対応するRGBの各撮像データから除去処理する。これにより、上記一塊り毎に、正確な量の赤外線成分を除去することができる。
【0066】
また、上記一塊り毎に赤外線成分除去処理を行うため、太陽を光源とする撮像環境や蛍光灯を光源とする撮像環境にかかわらず、全ての光源に対応し、かつ、RGBの各画素の位置にそれぞれ対応して、最適な赤外線成分除去処理を行うことができる。
【0067】
また、上記一塊り毎に正確な量の赤外線成分を除去することができるため、撮像素子34の前段に必要とされていた赤外線カットフィルタを不要とすることができる。このため、メインカメラ部16が小型であるがゆえに、光学長が非常に短くなった場合でも、赤外線カットフィルタを透過する撮像光の入射角の違いにより、赤外線カットフィルタの赤外線成分の減衰率が異なることで発生する日の丸シェーディングの発生を防止することができる。
【0068】
また、太陽を光源とする撮像環境や蛍光灯を光源とする撮像環境にかかわらず、全ての光源に対応し、かつ、RGBの各画素の位置にそれぞれ対応して、最適な赤外線成分除去処理を行うことができるため、蛍光灯の光のように、赤外線成分をほとんど含まない光の下で撮像を行うことで得られた撮像データに対して上記日の丸シェーディング補正を施してしまうことで生ずる逆日の丸シェーディングの発生も防止することができる。
【0069】
また、赤外線カットフィルタを不要とすることができ、また、日の丸シェーディングや逆日の丸シェーディングの発生も防止することができるため、メインカメラ部16のさらなる小型化及び薄型化を図ることができ、携帯電話機の小型化及び薄型化にも貢献することができる。
【0070】
ここで、携帯端末装置用のカメラ部のレンズは、大きさ、コスト、被写界深度等の問題で、F値が2.8を超える明るいレンズを使用することは困難であるのが現状である。そして、このような問題は、今後も続くものと考えられる。
【0071】
これに対して、携帯端末装置用の撮像素子としては、現在、CMOSイメージセンサが主流となっており、多画素化及び小型化が進むことで、画素ピッチが1.4umのCMOSイメージセンサも知られている。
【0072】
ただ、CMOSイメージセンサの画素ピッチをさらに狭くしても、上述の携帯端末装置用のカメラ部のレンズの光学性能では、この極小ピッチで配列された画素に対応する光学解像度が得られない。
【0073】
すなわち、今日知られているCMOSイメージセンサの解像度は、携帯端末装置用のカメラ部のレンズの光学解像度を上回るものとなっている。
【0074】
この実施例の携帯電話機に設けられているCMOSイメージセンサの解像度は、レンズ部32の光学解像度を上回る解像度となっており、カラーフィルタ36に対して上記赤外線透過フィルタ部(Ir)を設けても、レンズ部32の光学解像度が維持されるものとなっている。このため、レンズ部32の光学解像度を維持したうえで、なおかつ、各画素の位置に対応する赤外線成分量も検出し、この赤外線成分を除去することができる。従って、カラーフィルタ36に対して上記赤外線透過フィルタ部(Ir)を設けることで撮像画像の画質が劣化する不都合も防止することができる。
【0075】
[実施例の携帯電話機の第1の変形例]
上述の実施例の携帯電話機のメインカメラ部16に設けられているカラーフィルタ36は、図3に示したように一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成したものであったが、このカラーフィルタ36は、図6に示すように形成してもよい。
【0076】
すなわち、この図6に示すカラーフィルタ36は、一つの赤色フィルタ部(R)、二つの緑色フィルタ部(Gr,Gb)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成されている。
【0077】
具体的には、図6中、太線で囲んで示す上記一塊りの各フィルタ部は、赤色フィルタ部(R)の列方向に隣接して第1の緑色フィルタ部(Gb)が配置され、この第1の緑色フィルタ部(Gb)の行方向に隣接して青色フィルタ部(B)が配置され、赤色フィルタ部(R)の行方向に隣接し、かつ、青色フィルタ部(B)の列方向に隣接して第2の緑色フィルタ部(Gr)が配置されており、この一塊りに対して一つ割り当てられる赤外線透過フィルタ部(Ir)は、当該一塊りの略中心に配置されて形成されている。
【0078】
この図6に示すカラーフィルタ36を上記撮像素子34に設けた場合における赤外線除去処理も上述と同様であり、各赤外線透過フィルタ部(Ir)を介した撮像データに基づいて、上記一塊り毎に赤外線成分量を検出し、この検出した成分量の赤外線成分を、当該一塊りに対応するR、B、及び2つのGの各撮像データから除去処理する。これにより、上記一塊り毎に、正確な量の赤外線成分を除去することができる他、上述の実施例の携帯電話機と同じ効果を得ることができる。
【0079】
また、この図6に示すカラーフィルタ36の場合、図3に示したカラーフィルタ36よりも緑色フィルタ部が多くなる。そして、人間の目は、緑色の光成分に対する感度が高い。このため、この図6に示すカラーフィルタ36を設けることで、図3に示したカラーフィルタ36を設けた場合よりも、高解像度の撮像画像を得ることができる。
【0080】
[実施例の携帯電話機の第2の変形例]
上述の実施例の携帯電話機、及び第1の変形例となる携帯電話機は、カラーフィルタ36に設けられている赤外線透過フィルタ部(Ir)は、撮像光に含まれる赤外線成分を抽出するものであったが、図3及び図6に示したカラーフィルタ36の赤外線透過フィルタ部(Ir)を、全波長の光を透過するフィルタ部(=フィルタ無し)特性として、この全波長の光を透過するフィルタ部に対応する画素から得られた撮像データに基づいて、演算により上記一塊り毎の赤外線成分を算出して除去してもよい。
【0081】
この場合、制御部29は、図4のフローチャートのステップS3で赤外線成分量算出部42として機能し、また、ステップS4で赤外線成分除去部43として機能した際に、上記RGBの各色のフィルタ部に対応する各画素からの撮像データをそれぞれDR,DG,DB、赤外線透過フィルタ部(Ir)に対応する各画素からの撮像データをDallとして、以下に示す演算を行うことで、赤外線成分を除去したRGBの各撮像データtDR,tDG,tDBを得る。
【0082】
tDR=DR−fR(Dall−DR−DG−DB)
tDG=DG−fG(Dall−DR−DG−DB)
tDB=DB−fB(Dall−DR−DG−DB)
上記各演算式におけるfR(Dall−DR−DG−DB),fG(Dall−DR−DG−DB),fB(Dall−DR−DG−DB)は、赤外線透過フィルタ部(Ir)に対応する画素からの撮像データDallに基づいて、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する演算式である。
【0083】
なお、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する上記演算式は、予め算出された係数に置き換えてもよい。
【0084】
このような演算式に基づく赤外線成分除去処理を行うことで、上記一塊り毎に、正確な量の赤外線成分を除去することができる他、上述の実施例の携帯電話機、或いは上述の第1の変形例となる携帯電話機と同じ効果を得ることができる。
【0085】
[他の変形例]
上述の実施例の携帯電話機、及び各変形例の携帯電話機の説明では、カラーフィルタ36を、一つの赤色フィルタ部(R)、一つ或いは二つの緑色フィルタ部(GorGr,Gb)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成することで、赤外線透過フィルタ部(Ir)は、撮像素子34の受光面全体に点在することとしたが、各赤外線透過フィルタ部(Ir)が撮像素子34の受光面の略中心部に点在すると共に、該撮像素子34の周辺部にそれぞれ点在するように、該各赤外線透過フィルタ部(Ir)をカラーフィルタ36に設けてもよい。
【0086】
この場合、制御部29は、撮像素子34の受光面の略中心部に位置するRGBの各撮像データからは、撮像素子34の受光面の略中心部に点在するように設けられた各赤外線透過フィルタ部(Ir)を介して得られた撮像データに基づいて算出した成分量の赤外線成分を除去処理し、また、撮像素子34の受光面の各周辺部に位置するRGBの各撮像データからは、撮像素子34の受光面の各周辺部に点在するように設けられた各赤外線透過フィルタ部(Ir)を介して得られた撮像データに基づいて算出した成分量の赤外線成分を除去処理する。
【0087】
これにより、撮像素子34の受光面の中心部と、該撮像素子34の各周辺部とに分けて赤外線成分の除去処理を行うことができるため、上述と同様の効果を得ることができる。
【0088】
また、上述の実施例の携帯電話機、及び各変形例の携帯電話機の説明では、カラーフィルタ36を、一つの赤色フィルタ部(R)、一つ或いは二つの緑色フィルタ部(GorGr,Gb)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成することとしたが、二塊りや三塊等の複数塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当ててカラーフィルタ36を形成してもよい。この場合でも、RGBの各画素の配置位置に対応して、効果的に赤外線成分を除去することができ、上述と同様の効果を得ることができる。
【0089】
また、上述の実施例、及び各変形例の説明では、本発明をカメラ機能を備えた携帯電話機に適用することとしたが、本発明は、カメラ機能を備えたPHS電話機(PHS:Personal Handyphone System)、PDA装置(PDA:Personal Digital Assistant)、携帯ゲーム機、ノート型のパーソナルコンピュータ装置の他、撮像素子を用いて被写体の撮像を行う静止画撮像装置、動画撮像装置等にも適用することができる。いずれの場合も、上述と同様の効果を得ることができる。
【0090】
最後に、上述の各説明は、本発明の一例である。このため、本発明は上述の各説明に限定されることはなく、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論であることを付け加えておく。
【符号の説明】
【0091】
1 プロジェクタ部、2 メイン表示部、3 補助表示部、4 発光部、5 加速度センサ、 6 ジャイロセンサ、7 照度センサ、8 スピーカ部、9 マイクロホン部、10 外部インターフェイス部、11 USB2.0コントローラ、12 USIMカードスロット、13 振動モータ、14 バッテリ、15 周辺IC+電源IC、16 メインカメラ部、17 補助カメラ部、18 通信回路、19 アンテナ、20 非接触無線通信ユニット、21 近距離無線通信ユニット、22 赤外線通信ユニット、23 メモリカードスロット、24 メモリカードコントローラ、25 操作部、26 内部メモリ、27 DDR SDRAM、28 NAND型フラッシュメモリ、29 制御部、31 メインカメラ部の筐体、32 メインカメラ部のレンズ部、33 基板、34 撮像素子、35 絞り部(アパーチャ)、36 カラーフィルタ、42 赤外線成分算出部(制御部の赤外線成分算出機能)、43 赤外線成分除去部(制御部の赤外線成分除去機能)、44 読み出し制御部(制御部の読み出し制御機能)
【技術分野】
【0001】
本発明は、撮像素子を用いて被写体の撮像を行う静止画撮像装置、動画撮像装置や、撮像素子を用いて被写体の撮像を行うカメラ機能を備えた携帯電話機、PHS電話機(PHS:Personal Handyphone System)、PDA装置(PDA:Personal Digital Assistant)、携帯ゲーム機、ノート型のパーソナルコンピュータ装置等に適用して好適な撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置に関する。
特には、撮像素子の受光面に設けられるR(赤色)、G(緑色)、B(青色)の各フィルタ部を二次元配列してなるカラーフィルタに対して、上記受光面の略中央、及び該受光面の周辺部に相当する位置に、それぞれ複数の赤外線透過フィルタ部を設ける。そして、この赤外線透過フィルタ部が設けられた画素からの撮像データに基づいて、撮像素子の受光面の各部の赤外線成分量を検出し、この検出量に対応する赤外線成分を、対応する上記RGBの各フィルタ部を介して得られた撮像データから除去することで、撮像素子の受光面の各画素毎に最適な赤外線成分除去処理を可能とした撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置に関する。
【背景技術】
【0002】
今日において、主に携帯電話機等の携帯端末装置に設けられる小型のカメラモジュールが知られている。このカメラモジュールは、図7に示すようにカメラモジュールの筐体100の最前面に設けられたレンズ部101と基板102上に設けられた撮像素子103との間に、絞り部104(アパーチャ部)及び赤外線カットフィルタ105を順に設けて形成されている。
【0003】
撮像素子103としては、CMOS撮像素子(CMOS:Complementary Metal Oxide Semiconductor)やCCD撮像素子(CCD :Charge Coupled Devices)等の半導体撮像素子が設けられているが、この撮像素子103上の各画素は、図8(a)に示すように、人間の目で認識可能な可視光よりも波長が長い赤外光領域まで、非常に広域の波長感度特性を有している。
【0004】
このため、一般的には、撮像素子103の受光面に対して、図8(b)に示すように、人間の目の感度に対応する撮像光の赤色成分(R)、緑色成分(G)、及び青色成分(B)をそれぞれ抽出するカラーフィルタ106が設けられている。
【0005】
このカラーフィルタ106は、図9に太線で囲んで示す4つの色フィルタ部を一塊りとするフィルタ部を有している。この一塊りのフィルタ部は、赤色フィルタ部(R)の列方向に隣接して第1の緑色フィルタ部(Gb)が配置され、この第1の緑色フィルタ部(Gb)の行方向に隣接して青色フィルタ部(B)が配置され、上記赤色フィルタ部(R)の行方向に隣接し、かつ、上記青色フィルタ部(B)の列方向に隣接して第2の緑色フィルタ部(Gr)が配置されて形成されている。そして、カラーフィルタ106は、このような一塊りのフィルタ部を、撮像素子103の受光面の行方向及び列方向に沿って多数配列することで形成されている。
【0006】
しかし、このカラーフィルタ106のみでは赤外線を十分に除去できない。そして、赤外線を十分に除去できないと、この赤外線により上記RGBの各画素の出力がオフセットされ、色再現性にズレが発生してしまう。
【0007】
これを防止するために、カラーフィルタ106の前段には赤外線カットフィルタ105が設けられており、この赤外線カットフィルタ105により赤外線成分を除去した撮像光をカラーフィルタ106に入射させるようになっている。
【0008】
撮像素子103は、カラーフィルタ106の赤色フィルタ部(R)で抽出された赤色成分の撮像光、青色フィルタ部(B)で抽出された青色成分の撮像光、及び各緑色フィルタ部(Gr,Gb)で抽出された緑色成分の撮像光を、それぞれ各画素で受光し、撮像光の赤色成分に対応する撮像データ、撮像光の緑色成分に対応する撮像データ、及び撮像光の青色成分に対応する撮像データを形成して出力する。これら各色成分に対応する撮像データは、後段の合成回路で合成処理され、1枚のカラー画像として表示、記録等がなされる。
【0009】
なお、特開2008−91535号の公開特許公報(特許文献1)に、赤外線を透過しないカラーフィルタと、赤外線のみを透過するカラーフィルタによって画素を構成し、赤外線画像と可視光線画像とを同時に同画角で撮影する固体撮像素子が開示されている。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2008−91535号
【発明の概要】
【発明が解決しようとする課題】
【0011】
ここで、携帯端末装置に設けられる小型のカメラモジュールは、薄型構造のため、光学長が非常に短く、図7に示すように撮像素子103の受光面の周辺部に対する撮像光の入射角度であるチーフレイ角(CRA:Chief Ray Angle)が非常に大きい角度となる。また、赤外線成分を除去するために設けられている上記赤外線カットフィルタ105は、透過する撮像光の入射角が大きくなるに連れ、赤外線成分の減衰率が大きくなる光学特性を有している。
【0012】
このため、撮像素子103の受光面の中心部に対して垂直に近い角度で入射する撮像光の赤外線成分の減衰率よりも、撮像素子103の受光面の周辺部に対して大きな角度で入射する撮像光の赤外線成分の減衰率の方が大きな減衰率となる。そして、このような受光面の各部における赤外線成分の減衰率の違いから、図10(a)に示すように撮像画像の中央が赤みを帯び、該撮像画像の周辺部が青みを帯びた画像となるシェーディング(画像ムラ)が発生する。なお、このようなシェーディングは、日本国の国旗に例えて「日の丸シェーディング」と呼ばれている。
【0013】
このような日の丸シェーディングは、撮像素子103の後段に設けられた画像処理部(=ISP:Image Signal Processor)において、撮像画像の中心部と周辺部とで色差信号の補正(日の丸シェーディング補正)を行うことで軽減可能である。
【0014】
しかし、図8(c)に示すように太陽光や白熱電球が発光する光には、赤外線成分が多く含まれるため、この太陽光環境下や白熱電球を光源とする屋内環境下で撮像された撮像画像に対して、上記日の丸シェーディング補正は有効に機能するのであるが、蛍光灯が発光する光には、赤外線成分が殆ど含まれていない。
【0015】
このため、蛍光灯を光源とする屋内環境下で撮像された撮像画像に対して、上記日の丸シェーディング補正を施してしまうと、元々赤外線成分が殆ど含まれていない撮像画像から赤外線成分を除去することとなるため、図10(b)に示すように撮像画像の中央が青みを帯び、該撮像画像の周辺部が赤味を帯びた画像となるシェーディング(画像ムラ)が発生する。このようなシェーディングは、上記「日の丸シェーディング」に対して、シェーディングが発生している部分の色味が反転する現象であるため、「逆日の丸シェーディング」と呼ばれている。
【0016】
なお、環境光の明るさや色温度を検出して光源環境を判別し、赤外線成分が多く含まれる光源環境下の撮像である場合には、上記日の丸シェーディング補正機能をオン制御し、赤外線成分が殆ど含まれていない光源環境下の撮像である場合には、上記日の丸シェーディング補正機能をオフ制御することで、日の丸シェーディング補正を有効に機能させると共に、逆日の丸シェーディングの発生を防止することが可能となる。
【0017】
ただ、この場合、環境光の明るさや色温度で判別した光源環境に基づいて、日の丸シェーディング補正をオン/オフ制御しているため、必ずしも正確に日の丸シェーディング補正機能をオン/オフ制御できるとは限らず、逆日の丸シェーディングが発生する不安も残る制御方法である。
【0018】
本発明は、上述の課題に鑑みてなされたものであり、どのような光源環境下においても、撮像素子の受光面の各画素毎に最適量の赤外線成分を除去可能として、日の丸シェーディングや逆日の丸シェーディングの発生を略々完全に防止することができるような撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置の提供を目的とする。
【課題を解決するための手段】
【0019】
本発明に係る撮像装置は、上述の課題を解決するために、
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子と、
それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するように、上記撮像素子の上記受光面に設けられるカラーフィルタと、
上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部と、
上記読み出し制御部により読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部と、
上記赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部と
を有する。
【0020】
このような本発明は、カラーフィルタに対して、赤色、緑色、及び青色の各フィルタ部と共に、撮像素子の受光面の略中心部及び該受光面の周辺部における撮像光の赤外線成分を抽出するように配置される複数の赤外線透過フィルタ部を設ける。
【0021】
そして、読み出し制御部により撮像素子から読み出された各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、赤外線成分量検出部が、該各画素毎の上記撮像光の赤外線成分量を検出し、赤外線成分除去部が、この赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた各撮像データからそれぞれ除去して出力する。
【0022】
これにより、どのような光源環境下においても、撮像素子の受光面の各画素の撮像データ毎に最適量の赤外線成分を除去可能として、日の丸シェーディングや逆日の丸シェーディングの発生を略々完全に防止することができる。
【発明の効果】
【0023】
本発明は、どのような光源環境下においても、撮像素子の受光面の各画素の撮像データ毎に最適量の赤外線成分を除去可能として、日の丸シェーディングや逆日の丸シェーディングの発生を略々完全に防止することができる。
【0024】
また、カラーフィルタ内に多数の赤外線透過フィルタ部を設ける構成であるため、該カラーフィルタとは別個に設ける必要があった赤外線透過フィルタを省略可能とすることができ、本発明が適用されるカメラモジュールや携帯端末装置等の構造の簡略化、薄型化、及びコストダウンを図ることができる。
【図面の簡単な説明】
【0025】
【図1】本発明を適用した実施例となる携帯電話機のブロック図である。
【図2】実施例となる携帯電話機に設けられているメインカメラ部の内部構造を示す図である。
【図3】実施例となる携帯電話機のメインカメラ部に設けられているカラーフィルタの模式図である。
【図4】実施例となる携帯電話機の赤外線除去処理の流れを示すフローチャートである。
【図5】実施例となる携帯電話機の赤外線除去処理時における制御部の機能ブロック図である。
【図6】実施例となる携帯電話機のメインカメラ部に設けられる他のカラーフィルタの模式図である。
【図7】従来のカメラモジュールの内部構造及びチーフレイ角を説明するための図である。
【図8】人間の目と撮像素子の感度差、各色のフィルタ部の光学特性、各光源からの光に含まれる赤外線成分量を示す図である。
【図9】従来のカメラモジュールに設けられているカラーフィルタの模式図である。
【図10】小型のカメラモジュールで発生する日の丸シェーディング、及び日の丸シェーディングを補正することにより発生する逆日の丸シェーディングを説明するための図である。
【発明を実施するための形態】
【0026】
本発明は、一例として、カメラ機能が設けられた折り畳み型の携帯電話機に適用することができる。
【0027】
[携帯電話機の構成]
図1に、この本発明を適用した実施例となる携帯電話機のブロック図を示す。この図1に示す携帯電話機のプロジェクタ1は、例えば前面投影型のプロジェクタとなっており、投影する元画像を表示する液晶パネル、その液晶パネルに投影光を照射する光源、及び液晶パネル上に表示された投影元画像をスクリーン等に投影させるための投影光学系等を備えている。なお、プロジェクタを投影方式で大別すると、液晶方式とDLP(Digital Light Processing)方式との2つの方式があるが、上記プロジェクタ1としては、これら何れの方式であっても良い。
【0028】
メイン表示部2は、当該携帯電話機の上筐体の非露出面側(=当該携帯電話機を閉状態とした際に下筐体と相対向する面側)に設けられた表示部であり、液晶表示部(LCD:Liquid Crystal Display)、或いは有機EL表示部(OEL:Organic Electro Luminescence)で形成されている。また、補助表示部3は、上記上筐体の露出面側(=上記メイン表示部2が設けられた面に対して反対側となる面側)に設けられた表示部であり、上記メイン表示部2と同様に、液晶表示部、或いは有機EL表示部で形成されている。発光部4(LED:発光ダイオード)は、例えば着信ランプや操作部(図1の符号25)の照明ランプ等の、当該携帯電話機に備えられている各種照明光源である。
【0029】
加速度センサ5は、当該携帯電話機に物理的な振動が加えられた時に、その振動の加速度の大きさ及び向きを検出する。ジャイロセンサ6は、この携帯電話機に物理的な振動が加えられた時に、その振動による回転方向の角速度と回転角度を検出する。照度センサ7は、この携帯電話機の周囲環境の明るさを検出する。
【0030】
スピーカ部8は、上筐体の上端部近傍(=ヒンジ部側の端部に対して反対側となる端部)に設けられた受話音声出力用のスピーカ部である。マイクロホン部9は、下筐体の下端部近傍(=ヒンジ部側の端部に対して反対側となる端部)に設けられた送話音声出力用のマイクロホン部である。
【0031】
外部インターフェイス部10(外部IF)は、各種外部コネクタとその外部コネクタとの間で信号等を行うための外部接続部からなる。なお、上記外部コネクタにはいわゆるUSB2.0(Universal Serial Bus 2.0)規格のコネクタが含まれている。このため、当該携帯電話機は、USB2.0コントローラ11も備えている。
【0032】
USIMカードスロット12は、当該携帯電話機の通信事業者の加入者情報(契約者情報)等が記憶されたいわゆるUSIM(Universal Subscriber Identity Module)カードが装着されるICカードスロットである。
【0033】
振動モータ13は、例えば発着信時等に当該携帯電話機の筐体を振動を発生させて、ユーザに発着信等を知らせるための、いわゆるバイブレータである。バッテリ14は、当該携帯電話機の各部で使用する電力供給用の電源である。周辺IC+電源IC15は、上記USIMカードスロット12、振動モータ13、バッテリ14、外部インターフェース部10と接続されており、これら各部の制御や信号処理の他、バッテリ14の充電制御、及び各部に対する電力供給制御等を行う。
【0034】
メインカメラ部16は、下筐体の露出面側(=当該携帯電話機を閉状態とした際に上筐体と相対向する面側に対して反対側となる面側)に設けられたカメラ部であり、例えばCMOSイメージセンサ(CMOS:Complementary Metal Oxide Semiconductor)やCCDイメージセンサ(CCD:Charge Coupled Device)等の撮影素子、光学系、撮像デバイス等からなる。
【0035】
CMOSイメージセンサやCCDイメージセンサ等の撮影素子は、多数の画素を行方向(=横方向)に連ねてなるラインを列方向(=縦方向)に多数ライン分備え、該各ラインの画素で、被写体の撮像光に対応する電荷を蓄積し、読み出し時に、この各ラインの画素に蓄積した電荷を撮像データとして出力する。このような撮像素子を備えるメインカメラ部16は、主に所望の被写体を撮像する際に用いられる。
【0036】
補助カメラ部17は、上筐体の上記非露出面の上記上端部近傍に、上記受話音声出力用のスピーカ部8と共に併設されたカメラ部であり、撮影素子、光学系、撮像デバイス等からなる。この補助カメラ部17は、主にテレビ電話による通話時に当該携帯電話機のユーザ自身を撮影する、いわゆる自分撮り用のカメラ部として用いられる。
【0037】
通信回路18は、当該携帯電話機が、携帯電話網の無線基地局と通信する際の無線通信用回路である。アンテナ19は、当該携帯電話機が無線基地局と無線通信を行う際の無線通信アンテナである。
【0038】
非接触無線通信ユニット20は、いわゆる電磁誘導方式により、外部のリーダライタ装置との間で、例えば通信距離が50cm程度の非接触無線通信を行う。近距離無線通信ユニット21は、例えばブルートゥース(Bluetooth:登録商標)等の近距離無線通信方式により、通信距離が10m程度の近距離無線通信を行う。赤外線通信ユニット22は、通信距離が数m程度の赤外線無線通信を行う
メモリカードスロット23は、例えばいわゆるSDカード(SD :Secure Digital:登録商標)等の外部メモリカードが着脱されるスロットである。メモリカードコントローラ24は、メモリカードスロット23に装着されたメモリカードに対するデータの書き込み/読み出し等の制御及び信号処理を行う。
【0039】
操作部25は、下筐体の非露出面側(=当該携帯電話機を閉状態とした際に上筐体のメイン表示部2と相対向する面側)に設けられており、複数の操作キーを有している。内部メモリ26は、例えばDDR SDRAM27(Double Data Rate SDRAM)と、NAND型フラッシュメモリ28(NAND-type flash memory)とを有してなる。
【0040】
NAND型フラッシュメモリ28には、OS(Operating System)のプログラムや制御部29が各部を制御するための制御プログラム、メインカメラ部16及び補助カメラ部17の撮像制御を行うための撮像制御プログラム、プロジェクタ1の投影制御を行うための投影制御プログラム等の各種のアプリケーションプログラム、圧縮符号化された楽曲・動画像・静止画データコンテンツの他、各種の設定値、フォントデータ、各辞書データ、機種名情報、端末識別情報等が記憶される。また、このNAND型フラッシュメモリ28には、各ユーザの電話番号、電子メールアドレス、住所、氏名、顔写真等が登録された電話帳や、送受信した電子メール、当該携帯電話機のユーザのスケジュールが登録されたスケジュール帳等が記憶される。
【0041】
DDR SDRAM27は、制御部29が各種のデータ処理や演算を行う際の作業領域として、随時データを記憶する。
【0042】
制御部29は、内部メモリ26に記憶されている各種の制御プログラムやアプリケーションプログラムの実行及びそれに付随する各種データ処理を行うことで、例えば通信制御、上記撮像制御プログラムに基づく各カメラ部16,17の撮像制御、音声処理制御、画像処理制御、その他各種信号処理や各部の制御等を行う。
【0043】
なお、この図1には図示を省略しているが、当該実施例の携帯電話機は、一般的な携帯電話機が備える各構成要素についても当然ながら備えているものと理解されたい。
【0044】
[メインカメラ部の構成]
メインカメラ部16は、図2に示すように当該メインカメラ部16の筐体31の最前面に設けられたレンズ部32と基板33上に設けられた撮像素子34との間に、絞り部35(アパーチャ部)を設けて形成されている。このメインカメラ部16は、後述する理由により、赤外線カットフィルタを設けなくても良い分、レンズ部32と撮像素子34との間の距離を縮めることができ、大幅に小型化されたカメラ部となっている。
【0045】
このようなメインカメラ部16において、撮像素子34の撮像光の受光面には、カラーフィルタ36が設けられている。このカラーフィルタ36は、図3に示すように一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成されている。
【0046】
具体的には、図3中、太線で囲んで示す上記一塊りの各フィルタ部は、赤色フィルタ部(R)の列方向に隣接して一つの緑色フィルタ部(G)が配置され、この緑色フィルタ部(G)の行方向に隣接して青色フィルタ部(B)が配置されており、この一塊りに対して一つ割り当てられる赤外線透過フィルタ部(Ir)は、赤色フィルタ部(R)の行方向に隣接し、かつ、青色フィルタ部(B)の列方向に隣接して配置されている。そして、カラーフィルタ36は、このような一塊りのフィルタ部を、撮像素子34の受光面の行方向及び列方向に沿って多数配列することで形成されている。
【0047】
これにより、撮像素子34の各画素は、上記RGBのいずれかの色のフィルタ部、或いは赤外線透過フィルタ部(Ir)を介した撮像光を受光することとなる。また、赤外線透過フィルタ部(Ir)は、撮像素子34の受光面全体に点在するかたちで設けられることとなる。
【0048】
なお、補助カメラ部17も、このメインカメラ部16と同じ構成を有している。詳しくは、このメインカメラ部16の説明を参照されたい。
【0049】
[メインカメラ部の赤外線除去動作]
このような携帯電話機に設けられている制御部29は、動画像、或いは静止画像の撮像時となると、NAND型フラッシュメモリ28に記憶されている撮像制御プログラムに基づいて、撮像素子34の各画素の撮像データから赤外線成分を除去する赤外線除去処理を行う。図4のフローチャートに、この制御部29による赤外線除去処理の流れを示す。制御部29は、操作部29を介して動画像、或いは静止画像の撮像指定操作がなされると、撮像制御プログラムに基づいて、メインカメラ部16を起動制御し、この図4のフローチャートに示す処理を開始する。
【0050】
ステップS1では、制御部29が、例えば1/60秒等の撮像素子34の各画素に蓄積された電荷の読み出し時刻となったか否かを、図示しないタイマから供給される計時情報に基づいて判別し、該電荷の読み出し時刻となったものと判別したタイミングで処理をステップS2に進める。そして、このステップS2において、制御部29は、上記撮像制御プログラムに基づいて、図5に示す読み出し制御部44として機能することで、撮像素子34の各画素に蓄積された電荷である撮像データを読み出し制御して処理をステップS3に進める。
【0051】
具体的には、被写体の撮像光は、メインカメラ部16のレンズ部32、絞り部35(アパーチャ部)及びカラーフィルタ36を順に介して撮像素子34の各画素に入射される。
【0052】
撮像素子34の各画素に入射される撮像光のうち、カラーフィルタ36の赤色フィルタ部(R)を介した撮像光は、該赤色フィルタ部(R)により当該撮像光の赤色成分が抽出される。これにより、各赤色フィルタ部(R)を介した撮像光を受光する撮像素子34の各画素は、撮像光の赤色成分光を受光することとなる。
【0053】
同様に、カラーフィルタ36の緑色フィルタ部(G)を介した撮像光は、該緑色フィルタ部(G)により当該撮像光の緑色成分が抽出される。これにより、各緑色フィルタ部(G)を介した撮像光を受光する撮像素子34の各画素は、撮像光の緑色成分光を受光することとなる。
【0054】
同様に、カラーフィルタ36の青色フィルタ部(B)を介した撮像光は、該青色フィルタ部(B)により当該撮像光の青色成分が抽出される。これにより、各青色フィルタ部(B)を介した撮像光を受光する撮像素子34の各画素は、撮像光の青色成分光を受光することとなる。
【0055】
このような各色のフィルタ部に対して、カラーフィルタ36の赤外線透過フィルタ部(Ir)を介した撮像光は、該赤外線透過フィルタ部(Ir)により当該撮像光に含まれる赤外線成分が抽出される。これにより、各赤外線透過フィルタ部(Ir)を介した撮像光を受光する撮像素子34の各画素は、撮像光に含まれる赤外線を受光することとなる。
【0056】
このようなことから、上記ステップS2において、撮像素子34の各画素から読み出される撮像データとしては、赤色フィルタ部(R)を介した撮像光を受光した各画素からは、該撮像光の赤色成分を示す撮像データが、緑色フィルタ部(G)を介した撮像光を受光した各画素からは、該撮像光の緑色成分を示す撮像データが、青色フィルタ部(B)を介した撮像光を受光した各画素からは、該撮像光の青色成分を示す撮像データが、赤外線透過フィルタ部(Ir)を介した撮像光を受光した各画素からは、該撮像光に含まれる赤外線成分量を示す撮像データが、それぞれ読み出されることとなる。
【0057】
次に、このように撮像素子34から撮像データの読み出しを行うと、制御部29は、ステップS3において、図5に示す赤外線成分量算出部42として機能することで、赤外線透過フィルタ部(Ir)を介した撮像光を受光した各画素から読み出した撮像データに基づいて、撮像光に含まれる各画素毎の赤外線成分量を算出して、処理をステップS4に進める。
【0058】
そして、このステップS4に処理を進めると、制御部29は、図5に示す赤外線成分除去部43として機能することで、上記ステップS3で算出した各赤外線成分を、対応するRGBの各フィルタ部を介して得られた撮像データから除去して出力する。この赤外線成分が除去された各撮像データは、後段の合成回路等で合成処理され、1枚のカラー画像としてメイン表示部2に表示され、或いは内部メモリ26に記録される。
【0059】
制御部29は、このようなステップS1からステップS4の各処理を、ステップS5で、撮像終了の指定操作がなされるまでの間、繰り返し実行する。
【0060】
ここで、上記ステップS3及び上記ステップS4の各処理を詳しく説明すると、制御部29は、ステップS3で赤外線成分量算出部42として機能し、また、ステップS4で赤外線成分除去部43として機能した際に、上記RGBの各色のフィルタ部に対応する各画素からの撮像データをそれぞれDR,DG,DB、赤外線透過フィルタ部(Ir)に対応する各画素からの撮像データをDIrとして、以下に示す演算を行うことで、赤外線成分を除去したRGBの各撮像データtDR,tDG,tDBを得る。
【0061】
tDR=DR−fR(DIr)
tDG=DG−fG(DIr)
tDB=DB−fB(DIr)
上記各演算式におけるfR(DIr),fG(DIr),fB(DIr)は、赤外線透過フィルタ部(Ir)に対応する画素からの撮像データDIrに基づいて、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する演算式である。
【0062】
なお、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する上記演算式は、予め算出された係数に置き換えてもよい。
【0063】
この実施例の携帯電話機の場合、図3中、太線の枠で囲んで示したように、カラーフィルタ36は、一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成されている。このため、上記一塊り毎に、該一塊りに対応する赤外線成分量が検出されることとなる。
【0064】
従って、上述の演算式に基づく赤外線成分除去処理を行うことで、上記一塊り毎に、正確な量の赤外線成分を除去することができる(=RGBの各画素毎に正確な量の赤外線成分を除去することができる。)。
【0065】
[実施例の効果]
以上の説明から明らかなように、この実施例の携帯電話機は、メインカメラ部16の撮像素子34の受光面に設けるカラーフィルタ36を、一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成する。そして、各赤外線透過フィルタ部(Ir)を介した撮像データに基づいて、上記一塊り毎に赤外線成分量を検出し、この検出した成分量の赤外線成分を、当該一塊りに対応するRGBの各撮像データから除去処理する。これにより、上記一塊り毎に、正確な量の赤外線成分を除去することができる。
【0066】
また、上記一塊り毎に赤外線成分除去処理を行うため、太陽を光源とする撮像環境や蛍光灯を光源とする撮像環境にかかわらず、全ての光源に対応し、かつ、RGBの各画素の位置にそれぞれ対応して、最適な赤外線成分除去処理を行うことができる。
【0067】
また、上記一塊り毎に正確な量の赤外線成分を除去することができるため、撮像素子34の前段に必要とされていた赤外線カットフィルタを不要とすることができる。このため、メインカメラ部16が小型であるがゆえに、光学長が非常に短くなった場合でも、赤外線カットフィルタを透過する撮像光の入射角の違いにより、赤外線カットフィルタの赤外線成分の減衰率が異なることで発生する日の丸シェーディングの発生を防止することができる。
【0068】
また、太陽を光源とする撮像環境や蛍光灯を光源とする撮像環境にかかわらず、全ての光源に対応し、かつ、RGBの各画素の位置にそれぞれ対応して、最適な赤外線成分除去処理を行うことができるため、蛍光灯の光のように、赤外線成分をほとんど含まない光の下で撮像を行うことで得られた撮像データに対して上記日の丸シェーディング補正を施してしまうことで生ずる逆日の丸シェーディングの発生も防止することができる。
【0069】
また、赤外線カットフィルタを不要とすることができ、また、日の丸シェーディングや逆日の丸シェーディングの発生も防止することができるため、メインカメラ部16のさらなる小型化及び薄型化を図ることができ、携帯電話機の小型化及び薄型化にも貢献することができる。
【0070】
ここで、携帯端末装置用のカメラ部のレンズは、大きさ、コスト、被写界深度等の問題で、F値が2.8を超える明るいレンズを使用することは困難であるのが現状である。そして、このような問題は、今後も続くものと考えられる。
【0071】
これに対して、携帯端末装置用の撮像素子としては、現在、CMOSイメージセンサが主流となっており、多画素化及び小型化が進むことで、画素ピッチが1.4umのCMOSイメージセンサも知られている。
【0072】
ただ、CMOSイメージセンサの画素ピッチをさらに狭くしても、上述の携帯端末装置用のカメラ部のレンズの光学性能では、この極小ピッチで配列された画素に対応する光学解像度が得られない。
【0073】
すなわち、今日知られているCMOSイメージセンサの解像度は、携帯端末装置用のカメラ部のレンズの光学解像度を上回るものとなっている。
【0074】
この実施例の携帯電話機に設けられているCMOSイメージセンサの解像度は、レンズ部32の光学解像度を上回る解像度となっており、カラーフィルタ36に対して上記赤外線透過フィルタ部(Ir)を設けても、レンズ部32の光学解像度が維持されるものとなっている。このため、レンズ部32の光学解像度を維持したうえで、なおかつ、各画素の位置に対応する赤外線成分量も検出し、この赤外線成分を除去することができる。従って、カラーフィルタ36に対して上記赤外線透過フィルタ部(Ir)を設けることで撮像画像の画質が劣化する不都合も防止することができる。
【0075】
[実施例の携帯電話機の第1の変形例]
上述の実施例の携帯電話機のメインカメラ部16に設けられているカラーフィルタ36は、図3に示したように一つの赤色フィルタ部(R)、一つの緑色フィルタ部(G)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成したものであったが、このカラーフィルタ36は、図6に示すように形成してもよい。
【0076】
すなわち、この図6に示すカラーフィルタ36は、一つの赤色フィルタ部(R)、二つの緑色フィルタ部(Gr,Gb)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成されている。
【0077】
具体的には、図6中、太線で囲んで示す上記一塊りの各フィルタ部は、赤色フィルタ部(R)の列方向に隣接して第1の緑色フィルタ部(Gb)が配置され、この第1の緑色フィルタ部(Gb)の行方向に隣接して青色フィルタ部(B)が配置され、赤色フィルタ部(R)の行方向に隣接し、かつ、青色フィルタ部(B)の列方向に隣接して第2の緑色フィルタ部(Gr)が配置されており、この一塊りに対して一つ割り当てられる赤外線透過フィルタ部(Ir)は、当該一塊りの略中心に配置されて形成されている。
【0078】
この図6に示すカラーフィルタ36を上記撮像素子34に設けた場合における赤外線除去処理も上述と同様であり、各赤外線透過フィルタ部(Ir)を介した撮像データに基づいて、上記一塊り毎に赤外線成分量を検出し、この検出した成分量の赤外線成分を、当該一塊りに対応するR、B、及び2つのGの各撮像データから除去処理する。これにより、上記一塊り毎に、正確な量の赤外線成分を除去することができる他、上述の実施例の携帯電話機と同じ効果を得ることができる。
【0079】
また、この図6に示すカラーフィルタ36の場合、図3に示したカラーフィルタ36よりも緑色フィルタ部が多くなる。そして、人間の目は、緑色の光成分に対する感度が高い。このため、この図6に示すカラーフィルタ36を設けることで、図3に示したカラーフィルタ36を設けた場合よりも、高解像度の撮像画像を得ることができる。
【0080】
[実施例の携帯電話機の第2の変形例]
上述の実施例の携帯電話機、及び第1の変形例となる携帯電話機は、カラーフィルタ36に設けられている赤外線透過フィルタ部(Ir)は、撮像光に含まれる赤外線成分を抽出するものであったが、図3及び図6に示したカラーフィルタ36の赤外線透過フィルタ部(Ir)を、全波長の光を透過するフィルタ部(=フィルタ無し)特性として、この全波長の光を透過するフィルタ部に対応する画素から得られた撮像データに基づいて、演算により上記一塊り毎の赤外線成分を算出して除去してもよい。
【0081】
この場合、制御部29は、図4のフローチャートのステップS3で赤外線成分量算出部42として機能し、また、ステップS4で赤外線成分除去部43として機能した際に、上記RGBの各色のフィルタ部に対応する各画素からの撮像データをそれぞれDR,DG,DB、赤外線透過フィルタ部(Ir)に対応する各画素からの撮像データをDallとして、以下に示す演算を行うことで、赤外線成分を除去したRGBの各撮像データtDR,tDG,tDBを得る。
【0082】
tDR=DR−fR(Dall−DR−DG−DB)
tDG=DG−fG(Dall−DR−DG−DB)
tDB=DB−fB(Dall−DR−DG−DB)
上記各演算式におけるfR(Dall−DR−DG−DB),fG(Dall−DR−DG−DB),fB(Dall−DR−DG−DB)は、赤外線透過フィルタ部(Ir)に対応する画素からの撮像データDallに基づいて、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する演算式である。
【0083】
なお、RGBの各画素からの撮像データDR,DG,DBに含まれる赤外線成分量を算出する上記演算式は、予め算出された係数に置き換えてもよい。
【0084】
このような演算式に基づく赤外線成分除去処理を行うことで、上記一塊り毎に、正確な量の赤外線成分を除去することができる他、上述の実施例の携帯電話機、或いは上述の第1の変形例となる携帯電話機と同じ効果を得ることができる。
【0085】
[他の変形例]
上述の実施例の携帯電話機、及び各変形例の携帯電話機の説明では、カラーフィルタ36を、一つの赤色フィルタ部(R)、一つ或いは二つの緑色フィルタ部(GorGr,Gb)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成することで、赤外線透過フィルタ部(Ir)は、撮像素子34の受光面全体に点在することとしたが、各赤外線透過フィルタ部(Ir)が撮像素子34の受光面の略中心部に点在すると共に、該撮像素子34の周辺部にそれぞれ点在するように、該各赤外線透過フィルタ部(Ir)をカラーフィルタ36に設けてもよい。
【0086】
この場合、制御部29は、撮像素子34の受光面の略中心部に位置するRGBの各撮像データからは、撮像素子34の受光面の略中心部に点在するように設けられた各赤外線透過フィルタ部(Ir)を介して得られた撮像データに基づいて算出した成分量の赤外線成分を除去処理し、また、撮像素子34の受光面の各周辺部に位置するRGBの各撮像データからは、撮像素子34の受光面の各周辺部に点在するように設けられた各赤外線透過フィルタ部(Ir)を介して得られた撮像データに基づいて算出した成分量の赤外線成分を除去処理する。
【0087】
これにより、撮像素子34の受光面の中心部と、該撮像素子34の各周辺部とに分けて赤外線成分の除去処理を行うことができるため、上述と同様の効果を得ることができる。
【0088】
また、上述の実施例の携帯電話機、及び各変形例の携帯電話機の説明では、カラーフィルタ36を、一つの赤色フィルタ部(R)、一つ或いは二つの緑色フィルタ部(GorGr,Gb)、及び一つの青色フィルタ部(B)を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当てて形成することとしたが、二塊りや三塊等の複数塊りに対して一つの赤外線透過フィルタ部(Ir)を割り当ててカラーフィルタ36を形成してもよい。この場合でも、RGBの各画素の配置位置に対応して、効果的に赤外線成分を除去することができ、上述と同様の効果を得ることができる。
【0089】
また、上述の実施例、及び各変形例の説明では、本発明をカメラ機能を備えた携帯電話機に適用することとしたが、本発明は、カメラ機能を備えたPHS電話機(PHS:Personal Handyphone System)、PDA装置(PDA:Personal Digital Assistant)、携帯ゲーム機、ノート型のパーソナルコンピュータ装置の他、撮像素子を用いて被写体の撮像を行う静止画撮像装置、動画撮像装置等にも適用することができる。いずれの場合も、上述と同様の効果を得ることができる。
【0090】
最後に、上述の各説明は、本発明の一例である。このため、本発明は上述の各説明に限定されることはなく、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論であることを付け加えておく。
【符号の説明】
【0091】
1 プロジェクタ部、2 メイン表示部、3 補助表示部、4 発光部、5 加速度センサ、 6 ジャイロセンサ、7 照度センサ、8 スピーカ部、9 マイクロホン部、10 外部インターフェイス部、11 USB2.0コントローラ、12 USIMカードスロット、13 振動モータ、14 バッテリ、15 周辺IC+電源IC、16 メインカメラ部、17 補助カメラ部、18 通信回路、19 アンテナ、20 非接触無線通信ユニット、21 近距離無線通信ユニット、22 赤外線通信ユニット、23 メモリカードスロット、24 メモリカードコントローラ、25 操作部、26 内部メモリ、27 DDR SDRAM、28 NAND型フラッシュメモリ、29 制御部、31 メインカメラ部の筐体、32 メインカメラ部のレンズ部、33 基板、34 撮像素子、35 絞り部(アパーチャ)、36 カラーフィルタ、42 赤外線成分算出部(制御部の赤外線成分算出機能)、43 赤外線成分除去部(制御部の赤外線成分除去機能)、44 読み出し制御部(制御部の読み出し制御機能)
【特許請求の範囲】
【請求項1】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子と、
それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を検出するために、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するように、上記撮像素子の上記受光面に設けられるカラーフィルタと、
上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部と、
上記読み出し制御部により読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部と、
上記赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部と
を有する撮像装置。
【請求項2】
上記カラーフィルタは、一つの赤色フィルタ部、一つ或いは二つの緑色フィルタ部、及び一つの青色フィルタ部を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部を割り当てて形成されている
請求項1に記載の撮像装置。
【請求項3】
上記カラーフィルタの上記一塊りの各フィルタ部は、上記赤色フィルタ部の列方向に隣接して一つの上記緑色フィルタ部が配置され、上記緑色フィルタ部の行方向に隣接して上記青色フィルタ部が配置されており、この一塊りに対して一つ割り当てられる上記赤外線透過フィルタ部は、上記赤色フィルタ部の行方向に隣接し、かつ、上記青色フィルタ部の列方向に隣接して配置される
請求項2に記載の撮像装置。
【請求項4】
上記カラーフィルタの上記一塊りの各フィルタ部は、上記赤色フィルタ部の列方向に隣接して第1の緑色フィルタ部が配置され、上記第1の緑色フィルタ部の行方向に隣接して上記青色フィルタ部が配置され、上記赤色フィルタ部の行方向に隣接し、かつ、上記青色フィルタ部の列方向に隣接して第2の緑色フィルタ部が配置されており、この一塊りに対して一つ割り当てられる上記赤外線透過フィルタ部は、当該一塊りの略中心に配置される
請求項2に記載の撮像装置。
【請求項5】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子の上記受光面に、それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するようにカラーフィルタを設け、読み出し制御部が、上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御ステップと、
赤外線成分量検出部が、上記読み出し制御ステップで読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出ステップと、
赤外線成分除去部が、上記赤外線成分量検出ステップで検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去ステップと
を有する撮像方法。
【請求項6】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子の上記受光面に、それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するようにカラーフィルタを設け、上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部としてコンピュータを機能させ、
コンピュータを上記読み出し制御部として機能させることで読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部としてコンピュータを機能させ、
コンピュータを上記赤外線成分量検出部として機能させることで検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部としてコンピュータを機能させる
撮像制御プログラム。
【請求項7】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子と、
それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するように、上記撮像素子の上記受光面に設けられるカラーフィルタと、
上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部と、
上記読み出し制御部により読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部と、
上記赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部と
を備えた撮像装置を有する携帯端末装置。
【請求項1】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子と、
それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を検出するために、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するように、上記撮像素子の上記受光面に設けられるカラーフィルタと、
上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部と、
上記読み出し制御部により読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部と、
上記赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部と
を有する撮像装置。
【請求項2】
上記カラーフィルタは、一つの赤色フィルタ部、一つ或いは二つの緑色フィルタ部、及び一つの青色フィルタ部を一塊りとし、この一塊りに対して一つの赤外線透過フィルタ部を割り当てて形成されている
請求項1に記載の撮像装置。
【請求項3】
上記カラーフィルタの上記一塊りの各フィルタ部は、上記赤色フィルタ部の列方向に隣接して一つの上記緑色フィルタ部が配置され、上記緑色フィルタ部の行方向に隣接して上記青色フィルタ部が配置されており、この一塊りに対して一つ割り当てられる上記赤外線透過フィルタ部は、上記赤色フィルタ部の行方向に隣接し、かつ、上記青色フィルタ部の列方向に隣接して配置される
請求項2に記載の撮像装置。
【請求項4】
上記カラーフィルタの上記一塊りの各フィルタ部は、上記赤色フィルタ部の列方向に隣接して第1の緑色フィルタ部が配置され、上記第1の緑色フィルタ部の行方向に隣接して上記青色フィルタ部が配置され、上記赤色フィルタ部の行方向に隣接し、かつ、上記青色フィルタ部の列方向に隣接して第2の緑色フィルタ部が配置されており、この一塊りに対して一つ割り当てられる上記赤外線透過フィルタ部は、当該一塊りの略中心に配置される
請求項2に記載の撮像装置。
【請求項5】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子の上記受光面に、それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するようにカラーフィルタを設け、読み出し制御部が、上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御ステップと、
赤外線成分量検出部が、上記読み出し制御ステップで読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出ステップと、
赤外線成分除去部が、上記赤外線成分量検出ステップで検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去ステップと
を有する撮像方法。
【請求項6】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子の上記受光面に、それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するようにカラーフィルタを設け、上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部としてコンピュータを機能させ、
コンピュータを上記読み出し制御部として機能させることで読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部としてコンピュータを機能させ、
コンピュータを上記赤外線成分量検出部として機能させることで検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部としてコンピュータを機能させる
撮像制御プログラム。
【請求項7】
撮像光の受光面に多数の画素を備え、該各画素で受光した撮像光に対応する電荷を撮像データとして出力する撮像素子と、
それぞれ所定の配置で同一平面上に設けられた、上記撮像光の赤色成分を抽出する多数の赤色フィルタ部と、上記撮像光の緑色成分を抽出する多数の緑色フィルタ部と、上記撮像光の青色成分を抽出する多数の青色フィルタ部と共に、少なくとも上記撮像素子の上記受光面の略中心部及び該受光面の周辺部における上記撮像光の赤外線成分を抽出するように、それぞれ配置された複数の赤外線透過フィルタ部とを備え、一つの上記画素上に上記いずれか一つのフィルタ部が位置するように、上記撮像素子の上記受光面に設けられるカラーフィルタと、
上記カラーフィルタの上記各フィルタ部を介して上記撮像素子の各画素で受光された撮像光に対応する上記撮像データを読み出すように、該撮像素子を読み出し制御する読み出し制御部と、
上記読み出し制御部により読み出された上記各画素の撮像データのうち、上記各赤外線透過フィルタ部に対応する画素から読み出された撮像データに基づいて、該各画素毎の上記撮像光の赤外線成分量を検出する赤外線成分量検出部と、
上記赤外線成分量検出部で検出された量の赤外線成分を、当該赤外線成分の検出を行った画素の周辺に位置する、上記赤色フィルタ部、上記緑色フィルタ部、及び上記青色フィルタ部を介した撮像光を受光した各画素から得られた上記各撮像データからそれぞれ除去して出力する赤外線成分除去部と
を備えた撮像装置を有する携帯端末装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2011−29810(P2011−29810A)
【公開日】平成23年2月10日(2011.2.10)
【国際特許分類】
【出願番号】特願2009−171969(P2009−171969)
【出願日】平成21年7月23日(2009.7.23)
【出願人】(502087507)ソニー エリクソン モバイル コミュニケーションズ, エービー (823)
【Fターム(参考)】
【公開日】平成23年2月10日(2011.2.10)
【国際特許分類】
【出願日】平成21年7月23日(2009.7.23)
【出願人】(502087507)ソニー エリクソン モバイル コミュニケーションズ, エービー (823)
【Fターム(参考)】
[ Back to top ]