端末装置及びプログラム
【課題】ごく簡単な操作で立体撮影が可能となる端末装置を提供する。
【解決手段】携帯電話100は、下側筐体と上側筐体とがヒンジを介して互いに開閉自在に連結されており、下側筐体には、メインカメラ17が設けられ、上側筐体には、サブカメラ18が設けられている。CPU7は、メインカメラ17からの出力画像と、サブカメラ18からの出力画像とに基づいて立体視用画像を生成する。角度検出部20は、下側筐体と上側筐体とが成す開角度を検出する。CPU7は、角度検出部20の検出結果に基づいて、立体視用画像を生成するか否かを決定する。
【解決手段】携帯電話100は、下側筐体と上側筐体とがヒンジを介して互いに開閉自在に連結されており、下側筐体には、メインカメラ17が設けられ、上側筐体には、サブカメラ18が設けられている。CPU7は、メインカメラ17からの出力画像と、サブカメラ18からの出力画像とに基づいて立体視用画像を生成する。角度検出部20は、下側筐体と上側筐体とが成す開角度を検出する。CPU7は、角度検出部20の検出結果に基づいて、立体視用画像を生成するか否かを決定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、2台のカメラからの出力画像に基づいて、立体視用の画像を生成可能な端末装置に関する。
【背景技術】
【0002】
近年、撮影機能を有する携帯電話等の携帯端末装置の普及は目覚ましく、広く一般ユーザに浸透している。また、携帯端末装置のメーカ側においても、撮影機能の充実性を重視し、新しい技術の開発に取り組んでいる。例えば、特許文献1には、長手方向の両端部にカメラを搭載することで、立体視用の画像の取得を可能とする携帯型通信装置が提案されている(例えば、段落[0015]〜[0037]、図5参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−51872号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1には、立体視用の画像を取得するモード(立体撮影モード)への移行方法についての開示がされていない。例えば、携帯端末装置を立体撮影モードに移行させるために当該携帯端末装置に設けられたボタンを操作する等、所定操作が必要になると、直ちに被写体を撮影することができず、シャッターチャンスを逃す可能性がある。
【0005】
また、ユーザに違和感なく良好な立体画像を提供するためには、2台のカメラから出力される画像の精度を等しくする必要があり、従来においては同一のカメラを2台搭載する必要があった。高精細なカメラはコストが高いため、これを2台搭載すると大幅なコストアップを招くことになる。また、たとえ、2台のカメラが同一仕様であっても、個体ばらつき等により、例えば、撮影画像のホワイトバランス、明るさ、色あいが異なる場合もある。そうすると、これらの差異により、良好な立体画像をユーザに提供できないおそれもある。
【0006】
本発明は、上記問題に鑑みてなされたものであり、ごく簡単な操作で立体撮影が可能となる端末装置及びプログラムを提供することを目的とする。さらに、本発明は、2台のカメラから出力される画像の精度等の差異を吸収して、良好な立体視用画像を生成可能な端末装置及びプログラムも提供する。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の第1の観点に係る端末装置は、
第1の筐体と第2の筐体とがヒンジを介して互いに開閉自在に連結された端末装置であって、
前記第1の筐体に設けられた第1のカメラと、
前記第2の筐体に設けられた第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段と、
該開角度検出手段が検出した開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備えることを特徴とする。
【0008】
また、本発明の第2の観点に係る端末装置は、
第1のカメラと、
第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度を検出する光軸角度検出手段と、
該光軸角度検出手段が検出した双方の光軸角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備えることを特徴とする。
【0009】
上記第1の観点に係る端末装置において、前記判定手段は、前記開角度が180度以上の場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定してもよい。
【0010】
また、上記第2の観点に係る端末装置において、前記判定手段は、前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度が略等しい場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定してもよい。
【0011】
上記第1及び第2の観点に係る端末装置において、前記第1のカメラと前記第2のカメラの内、一方のカメラは、他方のカメラに比べ、画角が狭く且つ画素数が少ない仕様であり、画角が広く且つ画素数が多い方のカメラの出力画像に対して、他方のカメラの出力画像に基づいて、縮小及び画像の切り出し処理を施すことで、当該他方のカメラの出力画像のサイズに一致させるスケーラをさらに備えてもよい。
【0012】
また、前記第1のカメラと前記第2のカメラの内、少なくとも1台は、回転動作により撮影方向を変更可能な回転カメラであってもよい。
【0013】
また、前記第1のカメラ及び前記第2のカメラそれぞれの出力画像の画質を一致させる画質補正手段をさらに備えてもよい。
【0014】
上記の場合、前記画質補正手段は、ホワイトバランス、輝度、色の内の少なくとも何れか1つを一致させるようにするのが好ましい。
【0015】
また、前記第1のカメラ及び前記第2のカメラのフレームレートは異なり、前記第1のカメラ及び前記第2のカメラのフレームレートを一致させるフレームレート変換手段をさらに備えてもよい。
【0016】
また、前記第1のカメラ及び前記第2のカメラのフォーカス性能は異なり、フォーカス性能の劣る一方のカメラの出力画像の輪郭を補正することで、他方のカメラの出力画像における輪郭精度と一致させる輪郭補正手段をさらに備えてもよい。
【0017】
また、前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に共通する被写体像を取得し、該取得した被写体像に基づいて、少なくとも一方のカメラの出力画像の視点を補正する光軸補正手段をさらに備えてもよい。
【0018】
また、本発明に係るプログラムは、
コンピュータを、
第1の筐体に設けられた第1のカメラ及び第2の筐体に設けられた第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段が検出した前記開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段、として機能させることを特徴とする。
【発明の効果】
【0019】
以上の如く、本発明によれば、ごく簡単な操作で立体撮影が可能となる端末装置を提供できる。また、良好な立体視用画像を生成可能な端末装置を提供できる。
【図面の簡単な説明】
【0020】
【図1】本発明の第1実施形態に係る携帯電話の内部構成を示すブロック図である。
【図2】第1実施形態に係る携帯電話の外観図である。
【図3】第1実施形態のメインカメラの内部構成を示すブロック図である。
【図4A】第1実施形態のメインカメラの出力画像の画素構造を示す図である。
【図4B】第1実施形態のサブカメラの出力画像の画素構造を示す図である。
【図4C】第1実施形態において、保存画像の画素構造を示す図である。
【図5】第1実施形態のメインカメラ及びサブカメラの出力画像と、保存画像の画像イメージを示す図である。
【図6A】第1実施形態の表示部で表示される画像の画素構造を示す図である。
【図6B】第1実施形態の表示部で表示される画像の画像イメージを示す図である。
【図7】第1実施形態の表示部、視差バリア及びユーザ視点のそれぞれの位置関係を示す図である。
【図8】第1実施形態において、立体視を説明するための図である。
【図9】第1実施形態において、携帯電話の開角度と角度検出部の動作状態との関係を説明するための図である。
【図10】第1実施形態の角度検出部の機構を説明するための図である。
【図11】第1実施形態の角度検出部の電気的動作を説明するための図である。
【図12】第1実施形態の角度検出部の処理手順を示すフローチャートである。
【図13】本発明の第2実施形態に係る携帯電話の内部構成を示すブロック図である。
【図14】第2実施形態に係る携帯電話の外観図である。
【図15】第2実施形態のメインカメラ及び回転カメラの出力画像イメージを示す図である。
【図16】第2実施形態のスケーラの動作を説明するためのイメージ図である。
【図17】本発明の第3実施形態に係る携帯電話の内部構成を示すブロック図である。
【図18】第3実施形態の画質補正部の内部構成を示すブロック図である。
【図19】第3実施形態のホワイトバランス補正部の内部構成を示すブロック図である。
【図20】第3実施形態の輝度補正部の内部構成を示すブロック図である。
【図21】第3実施形態の色差U補正部の内部構成を示すブロック図である。
【図22】本発明の第4実施形態に係る携帯電話の内部構成を示すブロック図である。
【図23】第4実施形態のフレームレート変換部の動作を説明するためのブロック図である。
【図24】本発明の第5実施形態に係る携帯電話の内部構成を示すブロック図である。
【図25】第5実施形態の輪郭補正部の動作を説明するためのブロック図である。
【図26】本発明の第6実施形態に係る携帯電話の内部構成を示すブロック図である。
【図27】第6実施形態の光軸補正部の動作を説明するためのイメージ図である。
【図28】カメラ搭載位置の変形例を示す図である。
【発明を実施するための形態】
【0021】
以下、本発明に係る端末装置の実施形態を図面を用いて説明する。本発明は、映像表示が可能な端末装置全般、例えば、携帯電話、PHS、PDA、PC、TV、映像記録装置・再生装置等に適用可能であるが、以下の各実施形態では、本発明に係る端末装置を携帯電話に適用した例について説明する。
【0022】
(第1実施形態)
本発明の第1実施形態について図面を用いて説明する。
図1は、第1実施形態に係る携帯電話100の構成を示すブロック図である。携帯電話100は、通信アンテナ1と、無線回路2と、符号復号処理回路3と、マイク4と、レシーバ5と、キー6と、CPU7と、CPUバス8と、メモリ9と、DAC10と、スピーカ11と、第1のビデオI/F12と、LCDコントローラ13と、第2のビデオI/F14と、表示部15と、視差バリア16と、メインカメラ17と、サブカメラ18と、記憶装置19と、角度検出部20と、を備える。
【0023】
通信アンテナ1は、空中を伝送されてきた電波を受信し、高周波電気信号に変換し、無線回路2に入力する。また、通信アンテナ1は、無線回路2から出力された高周波電気信号を電波に変換して発信する。無線回路2は、CPU7の指示に基づき、通信アンテナ1で受信した高周波電気信号を復調し、符号復号処理回路3に入力する。また、無線回路2は、符号復号処理回路3の出力信号に変調処理を施し、高周波電気信号に変換して通信アンテナ1へ出力する。
【0024】
符号復号処理回路3は、CPU7の制御に従って、無線回路2の出力信号に復号処理を施し、通話用音声信号をレシーバ5に出力し、文字データや画像データ等をCPU7へ出力する。また、符号復号処理回路3は、マイク4を介して入力されたユーザ等の音声、または、ユーザがキー6を操作して編集した文字やメモリ9から読み取った画像データ等に符号化処理を施し、その結果得られた信号を無線回路2へ出力する。
【0025】
メモリ9は、CPUバス8を介してCPU7と接続され、各種制御用のプログラム、データベース、電話帳、アドレス帳、着信メロディ、楽曲データ、動画や静止画などの画像データ、等を格納する。なお、画像データや楽曲データは、記憶装置19に格納されていてもよい。記憶装置19には、半導体メモリ、光ディスク、ハードディスク等が使用可能である。
【0026】
DAC10は、CPU7から出力される着信音や通話音声等のデジタル音声信号をアナログ信号に変換し、スピーカ11へ供給する。スピーカ11は、DAC10から供給されたアナログ信号に基づいて着信音や通話音声等を出力する。
【0027】
CPU7は、キー6の操作内容を検出する処理、音声通話処理、音楽や画像の再生処理、後述する立体撮影に係る制御、その他、携帯電話100全般に関する制御を行う。例えば、CPU7は、CPUバス8を介してメモリ9からプログラムを取得し、符号復号処理回路3、無線回路2を制御して、着信待ちに係る処理を行う。一方、着信時には、CPU7は、メモリ9の電話帳から発信者の名前や着信メロディ、着信画像を読み出す。そして、CPU7は、音声データについては、DAC10へ出力する一方、相手の電話番号や名前、画像データについては、第1のビデオI/F12を介して、LCDコントローラ13へ出力する。
【0028】
第1のビデオI/F12には、例えば、CMOSのパラレルバスが使用可能であるが、本実施形態では、第1のビデオI/F12として、信号線数の削減やノイズ低減の観点から、最近の主流である差動シリアルバスを使用する。LCDコントローラ13は、1画面ないし2画面程度のビデオメモリを内蔵しており、CPU7から間欠的に送られてくる画像データを60Hz程度のフレーム周波数で連続的に読み出して、第2のビデオI/F14を介して表示部15へ出力する。第2のビデオI/F14は、第1のビデオI/F12と同様に差動シリアルでも構わないが、ここではCMOSのパラレルバスを用いるものとする。
【0029】
表示部15は、RGBの3ピクセルで1画素を構成するストライプ形式のものが使用可能であり、画素数は、QVGA(320×240)、VGA(640×480)、(ワイドVGA(800×480)、フルワイドVGA(854×480)など、多様な画素数のデバイスを使用することが可能である。本実施形態では、表示部15が、VGA(640×480)で表示を行う場合を例にして説明する。また、本実施形態では、表示部15は、液晶ディスプレイで構成されるが、自発光型の有機ELディスプレイで構成されてもよい。
【0030】
視差バリア16は、表示部15に表示される立体視用画像(左眼用画像及び右眼用画像で構成される)において、左眼用画像については、ユーザの右眼からは見えないように、また、右眼用画像については、ユーザの左眼からは見えないように画像観視方向を制限するものである。視差バリア16は、図2(a)に示すように、携帯電話100を横に向けた時に、縦ストライプとなるよう配置される。立体画像表示の原理については後述する。
【0031】
ここで、本実施形態の携帯電話100の外観について説明する。図2(a)に示すように、携帯電話100は、下側筐体101と上側筐体102とをヒンジ103で連結して開閉自在にした、いわゆる折り畳み式の携帯電話である。下側筐体101の一方の主面(以下、操作面という。)には、マイク4と、キー6とが設けられている。また、上側筐体102の一方の主面(以下、表示面という。)には、レシーバ5と、表示部15と、上述した視差バリア16と、が設けられている。携帯電話100は、折り畳み状態時において、下側筐体101の操作面と上側筐体102の表示面とが互いに対向した状態となる。
【0032】
また、図2(b)に示すように、下側筐体101の背面側(操作面側の反対面側)には、長手方向の端部にメインカメラ17が設けられ、上側筐体102の背面側(表示面側の反対面側)には、長手方向の端部にサブカメラ18が設けられている。
【0033】
メインカメラ17は、被写体を撮影して、その結果得られた映像信号(画像)をCPU7に出力する。メインカメラ17は、図3に示すように、レンズ171と、センサ172と、DSP173と、から構成される。レンズ171は、周囲の光を集光してセンサ172に結像させる。センサ172は、イメージセンサ(例えば、CMOSイメージセンサなど)であり、本実施形態では、VGA(横:640×縦:480)に相当する数の画素を備える。センサ172は、光電変換により、入力された光を電気信号に変換する。この際、1画素を3つのピクセルに分割し、各ピクセルに赤(R)、緑(G)、青(B)のフィルタを設けることによりカラーの映像信号を得ることができる。DSP(Digital Signal Processor)173は、センサ172から出力された映像信号にホワイトバランス補正やガンマ補正、色補正を施してVGA(横:640×縦:480)サイズのYUV形式の映像信号を生成し、CPU7に出力する。
【0034】
サブカメラ18は、メインカメラ17と同一のデバイスで構成され、同一の機能を有する。CPU7は、メインカメラ17及びサブカメラ18の出力映像信号を合成し、符号化処理を施して記憶装置19に保存する。また、これに同期して、CPU7は、立体表示用画像データを生成して、第1のビデオI/F12を介してLCDコントローラ13に出力する。
【0035】
CPU7によるカメラ(メインカメラ17、サブカメラ18)の出力映像信号の合成及び記憶装置19への保存についてさらに詳細に説明する。図4Aは、メインカメラ17から出力される映像信号(出力画像)の構造を示す図であり、図4Bは、サブカメラ18から出力される出力画像の構造を示す図である。図4Aにおいて、各画素の座標に付された「R」は、メインカメラ17の出力画像を右眼用画像として扱うことを示すものである。同様に、図4Bにおいて、「L」は、サブカメラ18の出力画像を左眼用画像として扱うことを示す。
【0036】
CPU7は、メインカメラ17及びサブカメラ18からの出力画像を図4Cに示すように左右に並べて合成し、記憶装置19に保存する。図5の(a)、(b)は、メインカメラ17、サブカメラ18の出力画像のイメージを示す図である。メインカメラ17の出力画像は、図5(a)に示すような右眼視点の映像となり、サブカメラ18の出力画像は、図5(b)に示すような左眼視点の映像となる。CPU7は、図5(c)に示すように、これら2つの出力画像を左右に並べたイメージで記憶装置19に保存する。
【0037】
次に、立体視の原理について説明する。CPU7は、記憶装置19に格納した合成画像(図4C参照)の右眼用画像及び左目用画像から奇数列の画像データを交互に読み出し、図6Aのように表示部14に出力する。この結果、1列毎に右眼用画像と左眼用画像が交互に表示されるため、図6Bに示すように左右視点の画像が両方表示される。
【0038】
図7は、表示部15、視差バリア16及びユーザ視点のそれぞれの位置関係を示す平面図である。図7において、151はバックライト、152は液晶パネル、211はユーザの右眼,212は左眼である。視差バリア16において、グレイ表示されている部分は、光を遮蔽する部分であり、白い部分は、光を透過する部分である。図7では、右眼用画像(1,1R)、(3,1R)、(5,1R)からの光線が、視差バリア16を通過して右眼211に入射し、左眼用画像(1,1L)、(3,1L)、(5,1L)からの光線が、視差バリア16を通過して左眼212に入射する様子が示されている。
【0039】
この結果、ユーザは、右眼では、図8(a)のように右眼用画像のみが見え、左眼では、図8(b)に示すように左眼用画像のみが見えるため、図8(c)に示すように立体画像として認識することができる。
【0040】
以上の説明では、メインカメラ17及びサブカメラ18により撮影され、CPU7により記憶装置19に保存された合成画像を立体視用のコンテンツとしていたが、立体視用のコンテンツは、撮影済みの画像以外であってもよい。即ち、立体撮影中(即ち、シャッター操作前)において、メインカメラ17及びサブカメラ18から出力され、CPU7で合成された画像をビューファインダー用途で立体視表示させてもよい。
【0041】
また、立体視用のコンテンツは、メインカメラ17及びサブカメラ18の出力画像に基づくもの以外であってもよく、例えば、アンテナ1から受信したコンテンツや、予めメモリ9または記憶装置19に保存されているコンテンツであってもよい。
【0042】
次に、角度検出部20の動作について、図9から図12を用いて説明する。図9の(a)〜(c)は、携帯電話100の開角度(下側筐体101の操作面と上側筐体102の表示面とでなされる角度)と角度検出部20の動作状態との関係を説明するための図である。ユーザは、通話やメール等、立体撮影以外の用途で携帯電話100を使用する場合は、図9(a)に示すように下側筐体101と上側筐体102をヒンジ103を介して約170度の角度に開いて使用する。矢印aはメインカメラ17の光軸、矢印bはサブカメラ18の光軸を示している。
【0043】
この状態のヒンジ103部分の拡大図を図10(a)に示す。同図に示すように、ヒンジ103には、突起1031が設けられている。開角度が約170度の状態(図9(a)参照)では、図10(a)に示すように角度検出スイッチ201(角度検出部20が備え、下側筐体101のヒンジ103との連結部近傍に設けられている)が、突起1031によって押し上げられていない。この場合、角度検出スイッチ201は、開放状態となっている。電気的には、図11(a)に示すように、角度検出スイッチ201が開放されている状態である。この場合、抵抗202に電流が流れないため電圧降下が発生しない。したがって、角度検出部20は、CPU7に対して、電源電圧Vcc、即ち、H(High)レベルを出力する。
【0044】
次に、図9(b)に示すように、開角度が約180度、即ち、メインカメラ17の光軸aとサブカメラ18の光軸bが平行になるように携帯電話100を開いた場合には、図10(b)に示すように突起1031によって角度検出スイッチ201が矢印方向に押し上げられる。これにより図11(b)に示すように、角度検出スイッチ201が短絡状態となり、角度検出部20の出力は、L(Low)レベルとなる。
【0045】
ユーザは、接写時において、図9(c)に示すように、携帯電話100をさらに開いてメインカメラ17及びサブカメラ18両方の光軸を被写体に一致させることができる。この場合、図10(c)に示すように、突起1031によって角度検出スイッチ201が矢印方向に押し上げられた状態が継続されるため、角度検出部20の出力は、Lレベルで継続される。
【0046】
図12は、以上の角度検出部20の動作手順を示すフローチャートである。ユーザによって携帯電話100の電源がONにされると、角度検出部20が起動し、以下の処理を一定時間毎に繰り返し行う。角度検出スイッチ201が突起1031によって押し上げられていない場合(ステップS101でYES)、角度検出部20は、CPU7に対して、Hレベル信号を出力する(ステップS102)。例えば、携帯電話100が、図9(a)のような状態で使用されている場合、角度検出部20は、Hレベル信号を出力する。CPU7は、角度検出部20からHレベル信号を受けると、現在のモードが、立体撮影モードの場合は、立体撮影モードを終了して通常モードに移行する。あるいは、現在のモードが、通常モードの場合は、何もせず、現在の状態を維持する。
【0047】
一方、角度検出スイッチ201が、突起1031によって押し上げられている場合(ステップS101でNO)、角度検出部20は、CPU7に対して、Lレベル信号を出力する(ステップS103)。例えば、携帯電話100が、図9(b)のような状態で使用されている場合、角度検出部20は、Lレベル信号を出力する。CPU7は、角度検出部20からLレベル信号を受けると、現在のモードが、通常モードの場合は、通常モードを終了して立体撮影モードに移行する。あるいは、現在のモードが、立体撮影モードの場合は、何もせず、現在の状態を維持する。
【0048】
以上のように、角度検出部20の出力がLレベルであることをCPU7が検出した場合に、立体撮影モードに移行することで、自動的に立体撮影モードに移行することが可能となる。また、角度検出部20の出力がHレベルになったことをCPU7が検出し立体撮影モードを終了することにより、自動的に立体撮影モードを終了することが可能となる。
【0049】
このように、本実施形態の携帯電話100によれば、ユーザは、ボタン操作等の特別な操作をすることなく、容易に立体撮影モードに移行させることができる。したがって、即座に所望の被写体から左右眼用画像を取得し、立体視用画像を生成することができ、利便性が著しく向上する。
【0050】
本実施形態では、角度検出部20の出力結果、換言すれば、携帯電話100の開角度に応じて、モード切り替え(通常モードから立体撮影モード、立体撮影モードから通常モード)を行っていたが、両カメラの光軸の角度を検出し、その結果に基づいて、モード切り替えを行ってもよい。この場合の制御例を説明すると、例えば、メインカメラ17及びサブカメラ18の光軸が略平行である場合(即ち、両者の光軸角度が略等しい場合)に、立体撮影モードに切り替え、あるいは立体撮影モードを維持する。一方、両カメラの光軸が略平行でない場合に、通常モードに切り替え、あるいは通常モードを維持する。
【0051】
光軸が略平行であるか否かの検出は、上述した角度検出部20の機構において、角度検出スイッチ201が突起1031によって押し上げられる範囲を調整することで実現可能である。この場合、開角度が略180度になる範囲で、角度検出スイッチ201が突起1031によって押し上げられるように、角度検出スイッチ201、突起1031の大きさ(接触面積等)、設置位置等を調整すればよい。
【0052】
上記の他、メインカメラ17及びサブカメラ18の出力画像から、周知の方法により、両者の光軸が略平行であるか否かを検出してもよい。
【0053】
(第2実施形態)
本発明の第2実施形態について説明する。図13は、第2実施形態に係る携帯電話100の構成を示すブロック図である。本実施形態の携帯電話100は、画像の縮小や切り出しを行うスケーラ22を新たに備える点、及びサブカメラ18の替わりに、メインカメラ17と画素数及び画角が異なる回転カメラ23を備える点が、第1実施形態の携帯電話100と異なる。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0054】
図14は、本実施形態の携帯電話100の外観図である。同図において、回転カメラ23は、上側筐体102の長手方向の端部(表示部15の上方)に設けられ、軸aを中心に回転可能となっている。回転カメラ23は、その機構上の特徴から小型化が要求されるため、メインカメラ17より画素数の少ないものを使用する。また、例えば、テレビ電話時にユーザの顔が画面いっぱいに表示されるように撮影する必要があるため、画角についてもメインカメラ17より狭いものを使用している。
【0055】
回転カメラ23は、上記回転機構により、図14(a)に示すようにユーザ側に回転させればテレビ電話時のユーザの撮影に使用でき、図14(b)に示すようにメインカメラ17と同じ方向に回転させることにより立体撮影が可能となる。立体撮影モード時のカメラ(メインカメラ17及び回転カメラ23)の出力画像を図15に示す。図15(a)はメインカメラ17の出力画像、図15(b)は回転カメラ23の出力画像を示す。ここでは、メインカメラ17の画素数は横640×縦480、回転カメラ23の画素数は横320×縦240であるとする。このように、メインカメラ17の画素数が多く、画角に関してもより広い範囲が撮影できるようになっている。
【0056】
次にスケーラ22の動作について説明する。スケーラ22はメインカメラ17及び回転カメラ23の出力画像から主被写体の垂直方向のサイズ(垂直サイズ)とフレーム全体における主被写体の割合を求める。主被写体の垂直サイズを求めるのは、両カメラが、携帯電話100の長手方向と水平になるように設けられていることから、主被写体の形状によって垂直方向のサイズが異なるためである。例えば、スケーラ22は、回転カメラ23の主被写体の垂直サイズが200画素であるのに対して、メインカメラ17の出力画像の主被写体の垂直サイズが300画素であることを検出すると、図15(a)に示すようなメインカメラ17の出力画像を図16(a)に示すように1.5倍縮小し、横427ドット、縦320の画像に変換する。
【0057】
次に、スケーラ22は、回転カメラ23の出力画像のフレーム全体における主被写体の割合と同じになるように、メインカメラ17の縮小画像から回転カメラ23と同じ画角を切り取って右眼用画像とする。また、スケーラ22は、回転カメラ23の出力画像を左眼用画像として、そのままCPU7に出力する。CPU7は、これらの画像を第1実施形態と同様に左右に並べて、図16(b)に示すような合成画像を生成し、記憶装置19に保存する。また、CPU7は、この合成画像を表示部15の画素数(横640×縦480)に拡大し、第1のビデオI/F12に出力することで、立体画像表示を行うことができる。
【0058】
以上の例では、メインカメラ17の出力画像を縮小する場合について説明したが、これに限られるものでなく、メインカメラ17での主被写体の垂直サイズが回転カメラ23より小さい場合はメインカメラ17の出力画像を拡大しても良い。また本実施形態では、メインカメラ17の縮小画像から回転カメラ23と同じ画角を切り取って2つのカメラの画角を一致させる場合の例について説明したが、これに限られるものでなく、メインカメラ17と回転カメラ23のどちらか、または両方に光学ズーム機能が設けられている場合は、この光学ズーム機能を使用して画角を一致させてもよい。そして、画素数を一致させるためのリサイズは画素数の少ない方の画像を拡大して一致させてもよいし、これとは逆に画素数の多い方の画像を縮小して一致させてもよい。また、保存やメール添付可能な画素数が予め決まっている場合は、メインカメラ17と回転カメラ23の両方の出力画像に拡大または縮小を施して一致させてもよい。
【0059】
以上のように、本実施形態の携帯電話100によれば、メインカメラ17と画素数及び画角等の面で精度が劣るカメラを使用しても、両カメラの出力画像の差異を吸収して、立体視用画像を生成することが可能であり、その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。このため、2台のカメラを搭載してもコストの低減化が図れる。
【0060】
(第3実施形態)
本発明の第3実施形態について説明する。上記の第2実施形態では、両カメラの出力画像の画素数及び画角を一致させて、立体視可能な画像を生成する場合の例であったが、本実施形態では、さらに、ホワイトバランス、ガンマ、色差についても一致させるものである。以下、図面を参照しながら説明する。尚、上述の第1及び第2実施形態と同一部分については、同一符号を付し、重複する説明は省略する。
【0061】
図17は、本発明の第3実施形態に係る携帯電話100の構成を示すブロック図である。画質補正部24は、スケーラ22から出力された2つのカメラの出力画像におけるホワイトバランス、輝度、色差それぞれについて特徴情報を求め、2つのカメラの出力画像の画質が同じになるように補正する。ここでは、メインカメラ17の出力画像に回転カメラ23の画質を一致させる場合の例について説明する。図18に画質補正部24の概略ブロック図を示す。図18に示すように、画質補正部24は、ホワイトバランス補正部241と、輝度補正部242と、色差U補正部243と、色差V補正部244と、を備える。
【0062】
ホワイトバランス補正部241は、スケーラ22から出力されたYUV形式の映像信号にホワイトバランス補正を施して出力する。輝度補正部242は、ホワイトバランス補正部241から出力されたY信号に輝度補正を施して出力する。色差U補正部243は、ホワイトバランス補正部241から出力されたU色差信号を補正して出力する。色差V補正部244は、ホワイトバランス補正部241から出力されたV色差信号を補正して出力する。以下、各部毎に動作を説明する。
【0063】
先ず、ホワイトバランス補正部241の動作について説明する。図19は、ホワイトバランス補正部241の構成を示すブロック図である。図19に示すように、ホワイトバランス補正部241は、RGB比検出部2411,2412と、R,Bゲイン調整部2413と、YUV変換部2414と、を備える。RGB比検出部2411は、メインカメラ17系のYUV形式の映像信号をRGB形式に変換し、Gに対するR及びBの比(R/G,B/G)を求めてR,Bゲイン調整部2413に出力する。同様にRGB比検出部2412は、回転カメラ23系のYUV形式の映像信号をRGB形式に変換し、R/G、B/Gの比率を求めてR,Bゲイン調整部2413に出力する。また、RGB比検出部2412は、RGB形式の映像信号もR,Bゲイン調整部2413に出力する。YUVからRGB形式への変換は下記式にて行う。
【0064】
R=Y+1.402×V
G=Y+(−0.34414)×U+(−0.71414)×V
B=Y+1.772×U
【0065】
R,Bゲイン調整部2413は、回転カメラ23系のR/G、B/Gの比率がメインカメラ17系と同じになるようにRGB比検出部2412から出力されたR及びBの映像信号にゲインコントロールやレベルシフトを施して出力する。YUV変換部2414は、R,Bゲイン調整部2413で補正されたRGB形式の映像信号を再度YUV形式に変換して出力する。RGBからYUV形式への変換は下記式にて行う。
【0066】
Y=0.290×R+0.5870×G+0.1140×B
U=(−0.1687)×R+(−0.3313)×G+0.5000×B
V=0.5000×R+(−0.4187)×G+(−0.0813)×B
【0067】
以上の各部の動作により、回転カメラ23とメインカメラ17の出力画像のホワイトバランスを一致させることができる。
【0068】
次に、輝度補正部242の動作について説明する。図20は、輝度補正部242の構成を示すブロック図である。図20に示すように、輝度補正部242は、輝度特徴情報検出部2421,2422と、輝度処理部2423と、を備える。輝度特徴情報検出部2421は、メインカメラ17系のY信号の最大値、最小値、平均値を求めて輝度処理部2423に出力する。同様に輝度特徴情報検出部2422は、回転カメラ23系のY信号の最大値、最小値、平均値を求めて輝度処理部2423に出力する。また、輝度特徴情報検出部2422は、Y信号も輝度処理部2423に出力する。
【0069】
輝度処理部2423は、回転カメラ23系のY信号の最大値、最小値、平均値がメインカメラ17系のそれと同じになるように輝度特徴情報検出部2422から出力されたY信号にゲインコントロールやレベルシフトを施して出力する。以上の動作により、回転カメラ23とメインカメラ17の出力画像の輝度を一致させることができる。
【0070】
次に、色差U補正部243の動作について説明する。なお、U信号とV信号の処理は同じであるため、U信号の色差U補正部243についてのみ説明し、色差V補正部244の説明は省略する。図21は、色差U補正部243の構成を示すブロック図である。図21に示すように、色差U補正部243は、色差特徴情報検出部2431,2432と、色差補正部2433と、を備える。色差特徴情報検出部2431は、メインカメラ17系のU信号の最大値、最小値、平均値を求めて色差補正部2433に出力する。同様に色差特徴情報検出部2432は、回転カメラ23系のU信号の最大値、最小値、平均値を求めて色差補正部2433に出力する。また、色差特徴情報検出部2432は、U信号も色差補正部2433に出力する。
【0071】
色差補正部2433は、回転カメラ23系のU信号の最大値、最小値、平均値がメインカメラ17系のそれと同じになるように色差特徴情報検出部2432から出力されたU信号にゲインコントロールやレベルシフトを施して出力する。以上の各部の動作により、回転カメラ23とメインカメラ17の出力画像の色差を一致させることができる。
【0072】
以上説明したように画質補正部24の各部が動作することにより、2台のカメラ(メインカメラ17、回転カメラ23)で取得された画像において、画質(輝度や色の特性)が異なっていても、両画像の差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0073】
なお、特徴情報の検出は、画面全体で行う場合に限られず、画面の中央部付近や主被写体に限るなど、画面の一部で行ってもよい。
【0074】
(第4実施形態)
本発明の第4実施形態について説明する。本実施形態に係る携帯電話100は、上述した第1実施形態に係る携帯電話100に、メインカメラ17及びサブカメラ18のフレームレートが異なる場合でも対応できる機能をさらに追加したものである。以下、メインカメラ17のフレームレートが30fps、サブカメラ18のフレームレートが15fpsであると仮定し、図面を参照しながら本実施形態に係る携帯電話100の機能を説明する。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0075】
図22は、本実施形態に係る携帯電話100の構成を示すブロック図である。フレームレート変換部25は、サブカメラ18の出力画像をメインカメラ17と等しい30fpsに変換して出力する。以下、図23を用いてフレームレート変換の原理を説明する。図23において(a)、(b)、(c)はメインカメラ17の出力画像であり、画面左から右に走る自動車を撮影した場合の連続する3コマを示している。図23の(d)、(f)はサブカメラ18の出力画像である。
【0076】
メインカメラ17の出力画像において、時刻「t」のとき、画面左端に存在した自動車(画像(a)参照)が、1/30秒経過後、画面中央部に移動し(画像(b)参照)、さらに、1/30秒経過後には、画面右端に移動する(画像(c)参照)ものとする。
【0077】
一方、サブカメラ18の出力画像において、時刻「t」のとき、メインカメラ17と同じ画角の画像(画像(d)参照)となるが、フレームレートが1/2のため、次のコマは、自動車が画面右端に移動した画像(画像(f)参照)となる。そこで、フレームレート変換部25は、画像(d)と画像(f)から画像(e)のような画面の中央部に自動車を移動させた画像を生成する。そして、生成した画像(e)を画像(d)と画像(f)の間に挿入することにより、サブカメラ18のフレームレートを2倍化し、メインカメラ17のフレームレートと一致させる。
【0078】
画像(e)の生成には、周知の中間画像作成方法が使用可能であるが、ここでは画像(d)と画像(f)を細かなブロックに分けてブロック毎に動きベクトルを求め、この動きベクトルの1/2のベクトルが指し示す座標に自動車を移動させた画像を作成するブロックマッチング方式を使用するものとする。
【0079】
以上説明したようにフレームレート変換部25が動作することにより、メインカメラ17とサブカメラ18のフレームレートが異なる場合でも、その差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0080】
なお、本実施形態では、サブカメラ18のフレームレートをメインカメラ17のフレームレートに合わせてアップさせる例について説明したが、これに限られるものでなく、メインカメラ17のフレームレートを30fpsから15fpsに低減させて、サブカメラ18のフレームレートに一致させるようにしてもよい。さらに、メインカメラ17とサブカメラ18のフレームレートは、それぞれ、30fps、15fpsである場合の例について説明したが、これに限られるものでなく、如何なるフレームレートであったとしても本発明を逸脱するものではない。
【0081】
(第5実施形態)
本発明の第4実施形態について説明する。本実施形態に係る携帯電話100は、上述した第1実施形態に係る携帯電話100に、サブカメラ18のフォーカス性能がメインカメラ17より低い場合でも対応できる機能をさらに追加したものである。以下、図面を参照して本実施形態に係る携帯電話100の機能を説明する。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0082】
図24は、本実施形態に係る携帯電話100の構成を示すブロック図である。本実施形態の携帯電話100は、サブカメラ18の出力画像の輪郭を補正することにより、メインカメラ17の出力画像の輪郭と一致させる輪郭補正部26を設けている。図25を用いて輪郭補正部26の動作を説明する。図25において、(a)はメインカメラ17の出力画像、(b)はサブカメラ18の出力画像であり、サブカメラ18の方がメインカメラ17に比べ、フォーカス性能が低いことを、画像(b)における自動車の輪郭を太く、かつ、淡くすることで表現している。
【0083】
輪郭補正部26は、画像(b)において、輪郭部分にコントラスト改善処理やオーバーシュート、アンダーシュートを付加することで、画像(a)と同等のコントラスト、線の太さとなるように補正して、画像(c)を生成する。このように輪郭補正部26が、両カメラの出力画像の輪郭精度を一致させることによって、両カメラの性能の差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0084】
なお、本実施形態では、フォーカス性能が低い方のカメラの出力画像をシャープにして他方のカメラの出力画像との輪郭精度の差異を吸収させる例について述べたが、これに限られるものでなく、フォーカス性能が高い方のカメラの出力画像をソフトにすることで、他方のカメラの出力画像と輪郭精度の差異を吸収させてもよい。
【0085】
(第6実施形態)
本発明の第6実施形態について説明する。図26は、本実施形態に係る携帯電話100の構成を示すブロック図である。本実施形態に係る携帯電話100は、上述した第1実施形態に係る携帯電話100に、メインカメラ17とサブカメラ18の光軸がずれた状態でも、光軸補正部27により両カメラから出力された画像の画角、輻輳等を補正することで、良好な立体視用画像の生成を可能にする機能をさらに追加したものである。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0086】
光軸補正部27の動作を図27を用いて説明する。図27において、(a)はメインカメラ17の出力画像、(b)はサブカメラ18の出力画像である。光軸補正部27は、2台のカメラの出力画像から主被写体を中心に画角が等しいエリアを切り出す。例えば、メインカメラの出力画像(a)の人物の顔を主被写体と認識し、サブカメラ18の出力画像(b)から主被写体である人物の顔を検出し、その周辺を等しい画角で切り出す。これによって、メインカメラ17の出力画像から画面中央付近の画角を切り出し、画像(c)のような画像を得る。また、サブカメラ18の出力画像からは画面右側の画角を切り出し、画像(d)のような画像を得る。以上の動作により、2台のカメラの画角を一致させることができる。ここではメインカメラ17の出力画像を右眼視点の画像とする。
【0087】
次に、光軸補正部27は、サブカメラ18の出力画像における主被写体を移動させた距離から視点の移動角度を求め、この移動角度に応じて主被写体を回転させて視点を補正することで、左眼視点画像(e)を生成する。この画像の生成方法は、周知の様々な方法が使用可能であるが、例えば、主被写体の物体を検出することにより各画素の奥行きを計算し、左眼から見た場合に見えるであろう角度に回転させた画像を生成することにより、所望の視点の画像を得ることができる。
【0088】
以上説明したように光軸補正部27が動作することにより、たとえ、メインカメラ17とサブカメラ18の光軸が一致していなくても、その差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0089】
なお、本実施形態では、サブカメラ18の出力画像のみに視点補正を適用する例について述べたが、これに限られるものでなく、メインカメラ17の出力画像のみに適用してもよいし、メインカメラ17とサブカメラ18の両方の出力画像に適用したとしても本発明を逸脱するものではない。
【0090】
なお、本発明は、上記何れの実施形態にも限定されず、本発明の要旨を逸脱しない範囲での種々の変更は勿論可能である。
【0091】
例えば、上記各実施形態では、2台のカメラをそれぞれ携帯電話100の長手方向の端部に配置したが、これに限定されず、例えば、図28の(a)、(b)に示すように、回転カメラ23をヒンジ103に設けてもよいし、図28の(c)に示すように、メインカメラ17をヒンジ103に設けてもよい。メインカメラ17をヒンジ103に設けると、撮影時にメインカメラ17を手で覆ってしまう不都合が減少し、使い勝手が向上する。
【0092】
また、上記の第1〜第6実施形態に係る携帯電話100の機能は、如何様にも組み合わせることが可能である。また、PDA、PC、TV、映像記録装置・再生装置等に適用する場合等、筐体が大きく、2台のカメラの距離を十分取ることができる場合は、同一筐体に2台のカメラを実装してもよい。
【符号の説明】
【0093】
1…通信アンテナ、2…無線回路、3…符号復号処理回路、4…マイク、5…レシーバ、6…キー、7…CPU、8…CPUバス、9…メモリ、10…DAC、11…スピーカ、12…第1のビデオI/F、13…LCDコントローラ、14…第2のビデオI/F、15…表示部、16…視差バリア、17…メインカメラ、18…サブカメラ、19…記憶装置、20…角度検出部、22…スケーラ、23…回転カメラ、24…画質補正部、25…フレームレート変換部、26…輪郭補正部、27…光軸補正部、241…ホワイトバランス補正部、242…輝度補正部、243…色差U補正部、244…色差V補正部、1031…突起、2411,2412…RGB比検出部、2413…R,Bゲイン調整部、2414…YUV変換部、2421,2422…輝度特徴情報検出部、2423…輝度処理部、2431,2432…色差特徴情報検出部、2433…色差補正部
【技術分野】
【0001】
本発明は、2台のカメラからの出力画像に基づいて、立体視用の画像を生成可能な端末装置に関する。
【背景技術】
【0002】
近年、撮影機能を有する携帯電話等の携帯端末装置の普及は目覚ましく、広く一般ユーザに浸透している。また、携帯端末装置のメーカ側においても、撮影機能の充実性を重視し、新しい技術の開発に取り組んでいる。例えば、特許文献1には、長手方向の両端部にカメラを搭載することで、立体視用の画像の取得を可能とする携帯型通信装置が提案されている(例えば、段落[0015]〜[0037]、図5参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−51872号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1には、立体視用の画像を取得するモード(立体撮影モード)への移行方法についての開示がされていない。例えば、携帯端末装置を立体撮影モードに移行させるために当該携帯端末装置に設けられたボタンを操作する等、所定操作が必要になると、直ちに被写体を撮影することができず、シャッターチャンスを逃す可能性がある。
【0005】
また、ユーザに違和感なく良好な立体画像を提供するためには、2台のカメラから出力される画像の精度を等しくする必要があり、従来においては同一のカメラを2台搭載する必要があった。高精細なカメラはコストが高いため、これを2台搭載すると大幅なコストアップを招くことになる。また、たとえ、2台のカメラが同一仕様であっても、個体ばらつき等により、例えば、撮影画像のホワイトバランス、明るさ、色あいが異なる場合もある。そうすると、これらの差異により、良好な立体画像をユーザに提供できないおそれもある。
【0006】
本発明は、上記問題に鑑みてなされたものであり、ごく簡単な操作で立体撮影が可能となる端末装置及びプログラムを提供することを目的とする。さらに、本発明は、2台のカメラから出力される画像の精度等の差異を吸収して、良好な立体視用画像を生成可能な端末装置及びプログラムも提供する。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の第1の観点に係る端末装置は、
第1の筐体と第2の筐体とがヒンジを介して互いに開閉自在に連結された端末装置であって、
前記第1の筐体に設けられた第1のカメラと、
前記第2の筐体に設けられた第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段と、
該開角度検出手段が検出した開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備えることを特徴とする。
【0008】
また、本発明の第2の観点に係る端末装置は、
第1のカメラと、
第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度を検出する光軸角度検出手段と、
該光軸角度検出手段が検出した双方の光軸角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備えることを特徴とする。
【0009】
上記第1の観点に係る端末装置において、前記判定手段は、前記開角度が180度以上の場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定してもよい。
【0010】
また、上記第2の観点に係る端末装置において、前記判定手段は、前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度が略等しい場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定してもよい。
【0011】
上記第1及び第2の観点に係る端末装置において、前記第1のカメラと前記第2のカメラの内、一方のカメラは、他方のカメラに比べ、画角が狭く且つ画素数が少ない仕様であり、画角が広く且つ画素数が多い方のカメラの出力画像に対して、他方のカメラの出力画像に基づいて、縮小及び画像の切り出し処理を施すことで、当該他方のカメラの出力画像のサイズに一致させるスケーラをさらに備えてもよい。
【0012】
また、前記第1のカメラと前記第2のカメラの内、少なくとも1台は、回転動作により撮影方向を変更可能な回転カメラであってもよい。
【0013】
また、前記第1のカメラ及び前記第2のカメラそれぞれの出力画像の画質を一致させる画質補正手段をさらに備えてもよい。
【0014】
上記の場合、前記画質補正手段は、ホワイトバランス、輝度、色の内の少なくとも何れか1つを一致させるようにするのが好ましい。
【0015】
また、前記第1のカメラ及び前記第2のカメラのフレームレートは異なり、前記第1のカメラ及び前記第2のカメラのフレームレートを一致させるフレームレート変換手段をさらに備えてもよい。
【0016】
また、前記第1のカメラ及び前記第2のカメラのフォーカス性能は異なり、フォーカス性能の劣る一方のカメラの出力画像の輪郭を補正することで、他方のカメラの出力画像における輪郭精度と一致させる輪郭補正手段をさらに備えてもよい。
【0017】
また、前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に共通する被写体像を取得し、該取得した被写体像に基づいて、少なくとも一方のカメラの出力画像の視点を補正する光軸補正手段をさらに備えてもよい。
【0018】
また、本発明に係るプログラムは、
コンピュータを、
第1の筐体に設けられた第1のカメラ及び第2の筐体に設けられた第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段が検出した前記開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段、として機能させることを特徴とする。
【発明の効果】
【0019】
以上の如く、本発明によれば、ごく簡単な操作で立体撮影が可能となる端末装置を提供できる。また、良好な立体視用画像を生成可能な端末装置を提供できる。
【図面の簡単な説明】
【0020】
【図1】本発明の第1実施形態に係る携帯電話の内部構成を示すブロック図である。
【図2】第1実施形態に係る携帯電話の外観図である。
【図3】第1実施形態のメインカメラの内部構成を示すブロック図である。
【図4A】第1実施形態のメインカメラの出力画像の画素構造を示す図である。
【図4B】第1実施形態のサブカメラの出力画像の画素構造を示す図である。
【図4C】第1実施形態において、保存画像の画素構造を示す図である。
【図5】第1実施形態のメインカメラ及びサブカメラの出力画像と、保存画像の画像イメージを示す図である。
【図6A】第1実施形態の表示部で表示される画像の画素構造を示す図である。
【図6B】第1実施形態の表示部で表示される画像の画像イメージを示す図である。
【図7】第1実施形態の表示部、視差バリア及びユーザ視点のそれぞれの位置関係を示す図である。
【図8】第1実施形態において、立体視を説明するための図である。
【図9】第1実施形態において、携帯電話の開角度と角度検出部の動作状態との関係を説明するための図である。
【図10】第1実施形態の角度検出部の機構を説明するための図である。
【図11】第1実施形態の角度検出部の電気的動作を説明するための図である。
【図12】第1実施形態の角度検出部の処理手順を示すフローチャートである。
【図13】本発明の第2実施形態に係る携帯電話の内部構成を示すブロック図である。
【図14】第2実施形態に係る携帯電話の外観図である。
【図15】第2実施形態のメインカメラ及び回転カメラの出力画像イメージを示す図である。
【図16】第2実施形態のスケーラの動作を説明するためのイメージ図である。
【図17】本発明の第3実施形態に係る携帯電話の内部構成を示すブロック図である。
【図18】第3実施形態の画質補正部の内部構成を示すブロック図である。
【図19】第3実施形態のホワイトバランス補正部の内部構成を示すブロック図である。
【図20】第3実施形態の輝度補正部の内部構成を示すブロック図である。
【図21】第3実施形態の色差U補正部の内部構成を示すブロック図である。
【図22】本発明の第4実施形態に係る携帯電話の内部構成を示すブロック図である。
【図23】第4実施形態のフレームレート変換部の動作を説明するためのブロック図である。
【図24】本発明の第5実施形態に係る携帯電話の内部構成を示すブロック図である。
【図25】第5実施形態の輪郭補正部の動作を説明するためのブロック図である。
【図26】本発明の第6実施形態に係る携帯電話の内部構成を示すブロック図である。
【図27】第6実施形態の光軸補正部の動作を説明するためのイメージ図である。
【図28】カメラ搭載位置の変形例を示す図である。
【発明を実施するための形態】
【0021】
以下、本発明に係る端末装置の実施形態を図面を用いて説明する。本発明は、映像表示が可能な端末装置全般、例えば、携帯電話、PHS、PDA、PC、TV、映像記録装置・再生装置等に適用可能であるが、以下の各実施形態では、本発明に係る端末装置を携帯電話に適用した例について説明する。
【0022】
(第1実施形態)
本発明の第1実施形態について図面を用いて説明する。
図1は、第1実施形態に係る携帯電話100の構成を示すブロック図である。携帯電話100は、通信アンテナ1と、無線回路2と、符号復号処理回路3と、マイク4と、レシーバ5と、キー6と、CPU7と、CPUバス8と、メモリ9と、DAC10と、スピーカ11と、第1のビデオI/F12と、LCDコントローラ13と、第2のビデオI/F14と、表示部15と、視差バリア16と、メインカメラ17と、サブカメラ18と、記憶装置19と、角度検出部20と、を備える。
【0023】
通信アンテナ1は、空中を伝送されてきた電波を受信し、高周波電気信号に変換し、無線回路2に入力する。また、通信アンテナ1は、無線回路2から出力された高周波電気信号を電波に変換して発信する。無線回路2は、CPU7の指示に基づき、通信アンテナ1で受信した高周波電気信号を復調し、符号復号処理回路3に入力する。また、無線回路2は、符号復号処理回路3の出力信号に変調処理を施し、高周波電気信号に変換して通信アンテナ1へ出力する。
【0024】
符号復号処理回路3は、CPU7の制御に従って、無線回路2の出力信号に復号処理を施し、通話用音声信号をレシーバ5に出力し、文字データや画像データ等をCPU7へ出力する。また、符号復号処理回路3は、マイク4を介して入力されたユーザ等の音声、または、ユーザがキー6を操作して編集した文字やメモリ9から読み取った画像データ等に符号化処理を施し、その結果得られた信号を無線回路2へ出力する。
【0025】
メモリ9は、CPUバス8を介してCPU7と接続され、各種制御用のプログラム、データベース、電話帳、アドレス帳、着信メロディ、楽曲データ、動画や静止画などの画像データ、等を格納する。なお、画像データや楽曲データは、記憶装置19に格納されていてもよい。記憶装置19には、半導体メモリ、光ディスク、ハードディスク等が使用可能である。
【0026】
DAC10は、CPU7から出力される着信音や通話音声等のデジタル音声信号をアナログ信号に変換し、スピーカ11へ供給する。スピーカ11は、DAC10から供給されたアナログ信号に基づいて着信音や通話音声等を出力する。
【0027】
CPU7は、キー6の操作内容を検出する処理、音声通話処理、音楽や画像の再生処理、後述する立体撮影に係る制御、その他、携帯電話100全般に関する制御を行う。例えば、CPU7は、CPUバス8を介してメモリ9からプログラムを取得し、符号復号処理回路3、無線回路2を制御して、着信待ちに係る処理を行う。一方、着信時には、CPU7は、メモリ9の電話帳から発信者の名前や着信メロディ、着信画像を読み出す。そして、CPU7は、音声データについては、DAC10へ出力する一方、相手の電話番号や名前、画像データについては、第1のビデオI/F12を介して、LCDコントローラ13へ出力する。
【0028】
第1のビデオI/F12には、例えば、CMOSのパラレルバスが使用可能であるが、本実施形態では、第1のビデオI/F12として、信号線数の削減やノイズ低減の観点から、最近の主流である差動シリアルバスを使用する。LCDコントローラ13は、1画面ないし2画面程度のビデオメモリを内蔵しており、CPU7から間欠的に送られてくる画像データを60Hz程度のフレーム周波数で連続的に読み出して、第2のビデオI/F14を介して表示部15へ出力する。第2のビデオI/F14は、第1のビデオI/F12と同様に差動シリアルでも構わないが、ここではCMOSのパラレルバスを用いるものとする。
【0029】
表示部15は、RGBの3ピクセルで1画素を構成するストライプ形式のものが使用可能であり、画素数は、QVGA(320×240)、VGA(640×480)、(ワイドVGA(800×480)、フルワイドVGA(854×480)など、多様な画素数のデバイスを使用することが可能である。本実施形態では、表示部15が、VGA(640×480)で表示を行う場合を例にして説明する。また、本実施形態では、表示部15は、液晶ディスプレイで構成されるが、自発光型の有機ELディスプレイで構成されてもよい。
【0030】
視差バリア16は、表示部15に表示される立体視用画像(左眼用画像及び右眼用画像で構成される)において、左眼用画像については、ユーザの右眼からは見えないように、また、右眼用画像については、ユーザの左眼からは見えないように画像観視方向を制限するものである。視差バリア16は、図2(a)に示すように、携帯電話100を横に向けた時に、縦ストライプとなるよう配置される。立体画像表示の原理については後述する。
【0031】
ここで、本実施形態の携帯電話100の外観について説明する。図2(a)に示すように、携帯電話100は、下側筐体101と上側筐体102とをヒンジ103で連結して開閉自在にした、いわゆる折り畳み式の携帯電話である。下側筐体101の一方の主面(以下、操作面という。)には、マイク4と、キー6とが設けられている。また、上側筐体102の一方の主面(以下、表示面という。)には、レシーバ5と、表示部15と、上述した視差バリア16と、が設けられている。携帯電話100は、折り畳み状態時において、下側筐体101の操作面と上側筐体102の表示面とが互いに対向した状態となる。
【0032】
また、図2(b)に示すように、下側筐体101の背面側(操作面側の反対面側)には、長手方向の端部にメインカメラ17が設けられ、上側筐体102の背面側(表示面側の反対面側)には、長手方向の端部にサブカメラ18が設けられている。
【0033】
メインカメラ17は、被写体を撮影して、その結果得られた映像信号(画像)をCPU7に出力する。メインカメラ17は、図3に示すように、レンズ171と、センサ172と、DSP173と、から構成される。レンズ171は、周囲の光を集光してセンサ172に結像させる。センサ172は、イメージセンサ(例えば、CMOSイメージセンサなど)であり、本実施形態では、VGA(横:640×縦:480)に相当する数の画素を備える。センサ172は、光電変換により、入力された光を電気信号に変換する。この際、1画素を3つのピクセルに分割し、各ピクセルに赤(R)、緑(G)、青(B)のフィルタを設けることによりカラーの映像信号を得ることができる。DSP(Digital Signal Processor)173は、センサ172から出力された映像信号にホワイトバランス補正やガンマ補正、色補正を施してVGA(横:640×縦:480)サイズのYUV形式の映像信号を生成し、CPU7に出力する。
【0034】
サブカメラ18は、メインカメラ17と同一のデバイスで構成され、同一の機能を有する。CPU7は、メインカメラ17及びサブカメラ18の出力映像信号を合成し、符号化処理を施して記憶装置19に保存する。また、これに同期して、CPU7は、立体表示用画像データを生成して、第1のビデオI/F12を介してLCDコントローラ13に出力する。
【0035】
CPU7によるカメラ(メインカメラ17、サブカメラ18)の出力映像信号の合成及び記憶装置19への保存についてさらに詳細に説明する。図4Aは、メインカメラ17から出力される映像信号(出力画像)の構造を示す図であり、図4Bは、サブカメラ18から出力される出力画像の構造を示す図である。図4Aにおいて、各画素の座標に付された「R」は、メインカメラ17の出力画像を右眼用画像として扱うことを示すものである。同様に、図4Bにおいて、「L」は、サブカメラ18の出力画像を左眼用画像として扱うことを示す。
【0036】
CPU7は、メインカメラ17及びサブカメラ18からの出力画像を図4Cに示すように左右に並べて合成し、記憶装置19に保存する。図5の(a)、(b)は、メインカメラ17、サブカメラ18の出力画像のイメージを示す図である。メインカメラ17の出力画像は、図5(a)に示すような右眼視点の映像となり、サブカメラ18の出力画像は、図5(b)に示すような左眼視点の映像となる。CPU7は、図5(c)に示すように、これら2つの出力画像を左右に並べたイメージで記憶装置19に保存する。
【0037】
次に、立体視の原理について説明する。CPU7は、記憶装置19に格納した合成画像(図4C参照)の右眼用画像及び左目用画像から奇数列の画像データを交互に読み出し、図6Aのように表示部14に出力する。この結果、1列毎に右眼用画像と左眼用画像が交互に表示されるため、図6Bに示すように左右視点の画像が両方表示される。
【0038】
図7は、表示部15、視差バリア16及びユーザ視点のそれぞれの位置関係を示す平面図である。図7において、151はバックライト、152は液晶パネル、211はユーザの右眼,212は左眼である。視差バリア16において、グレイ表示されている部分は、光を遮蔽する部分であり、白い部分は、光を透過する部分である。図7では、右眼用画像(1,1R)、(3,1R)、(5,1R)からの光線が、視差バリア16を通過して右眼211に入射し、左眼用画像(1,1L)、(3,1L)、(5,1L)からの光線が、視差バリア16を通過して左眼212に入射する様子が示されている。
【0039】
この結果、ユーザは、右眼では、図8(a)のように右眼用画像のみが見え、左眼では、図8(b)に示すように左眼用画像のみが見えるため、図8(c)に示すように立体画像として認識することができる。
【0040】
以上の説明では、メインカメラ17及びサブカメラ18により撮影され、CPU7により記憶装置19に保存された合成画像を立体視用のコンテンツとしていたが、立体視用のコンテンツは、撮影済みの画像以外であってもよい。即ち、立体撮影中(即ち、シャッター操作前)において、メインカメラ17及びサブカメラ18から出力され、CPU7で合成された画像をビューファインダー用途で立体視表示させてもよい。
【0041】
また、立体視用のコンテンツは、メインカメラ17及びサブカメラ18の出力画像に基づくもの以外であってもよく、例えば、アンテナ1から受信したコンテンツや、予めメモリ9または記憶装置19に保存されているコンテンツであってもよい。
【0042】
次に、角度検出部20の動作について、図9から図12を用いて説明する。図9の(a)〜(c)は、携帯電話100の開角度(下側筐体101の操作面と上側筐体102の表示面とでなされる角度)と角度検出部20の動作状態との関係を説明するための図である。ユーザは、通話やメール等、立体撮影以外の用途で携帯電話100を使用する場合は、図9(a)に示すように下側筐体101と上側筐体102をヒンジ103を介して約170度の角度に開いて使用する。矢印aはメインカメラ17の光軸、矢印bはサブカメラ18の光軸を示している。
【0043】
この状態のヒンジ103部分の拡大図を図10(a)に示す。同図に示すように、ヒンジ103には、突起1031が設けられている。開角度が約170度の状態(図9(a)参照)では、図10(a)に示すように角度検出スイッチ201(角度検出部20が備え、下側筐体101のヒンジ103との連結部近傍に設けられている)が、突起1031によって押し上げられていない。この場合、角度検出スイッチ201は、開放状態となっている。電気的には、図11(a)に示すように、角度検出スイッチ201が開放されている状態である。この場合、抵抗202に電流が流れないため電圧降下が発生しない。したがって、角度検出部20は、CPU7に対して、電源電圧Vcc、即ち、H(High)レベルを出力する。
【0044】
次に、図9(b)に示すように、開角度が約180度、即ち、メインカメラ17の光軸aとサブカメラ18の光軸bが平行になるように携帯電話100を開いた場合には、図10(b)に示すように突起1031によって角度検出スイッチ201が矢印方向に押し上げられる。これにより図11(b)に示すように、角度検出スイッチ201が短絡状態となり、角度検出部20の出力は、L(Low)レベルとなる。
【0045】
ユーザは、接写時において、図9(c)に示すように、携帯電話100をさらに開いてメインカメラ17及びサブカメラ18両方の光軸を被写体に一致させることができる。この場合、図10(c)に示すように、突起1031によって角度検出スイッチ201が矢印方向に押し上げられた状態が継続されるため、角度検出部20の出力は、Lレベルで継続される。
【0046】
図12は、以上の角度検出部20の動作手順を示すフローチャートである。ユーザによって携帯電話100の電源がONにされると、角度検出部20が起動し、以下の処理を一定時間毎に繰り返し行う。角度検出スイッチ201が突起1031によって押し上げられていない場合(ステップS101でYES)、角度検出部20は、CPU7に対して、Hレベル信号を出力する(ステップS102)。例えば、携帯電話100が、図9(a)のような状態で使用されている場合、角度検出部20は、Hレベル信号を出力する。CPU7は、角度検出部20からHレベル信号を受けると、現在のモードが、立体撮影モードの場合は、立体撮影モードを終了して通常モードに移行する。あるいは、現在のモードが、通常モードの場合は、何もせず、現在の状態を維持する。
【0047】
一方、角度検出スイッチ201が、突起1031によって押し上げられている場合(ステップS101でNO)、角度検出部20は、CPU7に対して、Lレベル信号を出力する(ステップS103)。例えば、携帯電話100が、図9(b)のような状態で使用されている場合、角度検出部20は、Lレベル信号を出力する。CPU7は、角度検出部20からLレベル信号を受けると、現在のモードが、通常モードの場合は、通常モードを終了して立体撮影モードに移行する。あるいは、現在のモードが、立体撮影モードの場合は、何もせず、現在の状態を維持する。
【0048】
以上のように、角度検出部20の出力がLレベルであることをCPU7が検出した場合に、立体撮影モードに移行することで、自動的に立体撮影モードに移行することが可能となる。また、角度検出部20の出力がHレベルになったことをCPU7が検出し立体撮影モードを終了することにより、自動的に立体撮影モードを終了することが可能となる。
【0049】
このように、本実施形態の携帯電話100によれば、ユーザは、ボタン操作等の特別な操作をすることなく、容易に立体撮影モードに移行させることができる。したがって、即座に所望の被写体から左右眼用画像を取得し、立体視用画像を生成することができ、利便性が著しく向上する。
【0050】
本実施形態では、角度検出部20の出力結果、換言すれば、携帯電話100の開角度に応じて、モード切り替え(通常モードから立体撮影モード、立体撮影モードから通常モード)を行っていたが、両カメラの光軸の角度を検出し、その結果に基づいて、モード切り替えを行ってもよい。この場合の制御例を説明すると、例えば、メインカメラ17及びサブカメラ18の光軸が略平行である場合(即ち、両者の光軸角度が略等しい場合)に、立体撮影モードに切り替え、あるいは立体撮影モードを維持する。一方、両カメラの光軸が略平行でない場合に、通常モードに切り替え、あるいは通常モードを維持する。
【0051】
光軸が略平行であるか否かの検出は、上述した角度検出部20の機構において、角度検出スイッチ201が突起1031によって押し上げられる範囲を調整することで実現可能である。この場合、開角度が略180度になる範囲で、角度検出スイッチ201が突起1031によって押し上げられるように、角度検出スイッチ201、突起1031の大きさ(接触面積等)、設置位置等を調整すればよい。
【0052】
上記の他、メインカメラ17及びサブカメラ18の出力画像から、周知の方法により、両者の光軸が略平行であるか否かを検出してもよい。
【0053】
(第2実施形態)
本発明の第2実施形態について説明する。図13は、第2実施形態に係る携帯電話100の構成を示すブロック図である。本実施形態の携帯電話100は、画像の縮小や切り出しを行うスケーラ22を新たに備える点、及びサブカメラ18の替わりに、メインカメラ17と画素数及び画角が異なる回転カメラ23を備える点が、第1実施形態の携帯電話100と異なる。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0054】
図14は、本実施形態の携帯電話100の外観図である。同図において、回転カメラ23は、上側筐体102の長手方向の端部(表示部15の上方)に設けられ、軸aを中心に回転可能となっている。回転カメラ23は、その機構上の特徴から小型化が要求されるため、メインカメラ17より画素数の少ないものを使用する。また、例えば、テレビ電話時にユーザの顔が画面いっぱいに表示されるように撮影する必要があるため、画角についてもメインカメラ17より狭いものを使用している。
【0055】
回転カメラ23は、上記回転機構により、図14(a)に示すようにユーザ側に回転させればテレビ電話時のユーザの撮影に使用でき、図14(b)に示すようにメインカメラ17と同じ方向に回転させることにより立体撮影が可能となる。立体撮影モード時のカメラ(メインカメラ17及び回転カメラ23)の出力画像を図15に示す。図15(a)はメインカメラ17の出力画像、図15(b)は回転カメラ23の出力画像を示す。ここでは、メインカメラ17の画素数は横640×縦480、回転カメラ23の画素数は横320×縦240であるとする。このように、メインカメラ17の画素数が多く、画角に関してもより広い範囲が撮影できるようになっている。
【0056】
次にスケーラ22の動作について説明する。スケーラ22はメインカメラ17及び回転カメラ23の出力画像から主被写体の垂直方向のサイズ(垂直サイズ)とフレーム全体における主被写体の割合を求める。主被写体の垂直サイズを求めるのは、両カメラが、携帯電話100の長手方向と水平になるように設けられていることから、主被写体の形状によって垂直方向のサイズが異なるためである。例えば、スケーラ22は、回転カメラ23の主被写体の垂直サイズが200画素であるのに対して、メインカメラ17の出力画像の主被写体の垂直サイズが300画素であることを検出すると、図15(a)に示すようなメインカメラ17の出力画像を図16(a)に示すように1.5倍縮小し、横427ドット、縦320の画像に変換する。
【0057】
次に、スケーラ22は、回転カメラ23の出力画像のフレーム全体における主被写体の割合と同じになるように、メインカメラ17の縮小画像から回転カメラ23と同じ画角を切り取って右眼用画像とする。また、スケーラ22は、回転カメラ23の出力画像を左眼用画像として、そのままCPU7に出力する。CPU7は、これらの画像を第1実施形態と同様に左右に並べて、図16(b)に示すような合成画像を生成し、記憶装置19に保存する。また、CPU7は、この合成画像を表示部15の画素数(横640×縦480)に拡大し、第1のビデオI/F12に出力することで、立体画像表示を行うことができる。
【0058】
以上の例では、メインカメラ17の出力画像を縮小する場合について説明したが、これに限られるものでなく、メインカメラ17での主被写体の垂直サイズが回転カメラ23より小さい場合はメインカメラ17の出力画像を拡大しても良い。また本実施形態では、メインカメラ17の縮小画像から回転カメラ23と同じ画角を切り取って2つのカメラの画角を一致させる場合の例について説明したが、これに限られるものでなく、メインカメラ17と回転カメラ23のどちらか、または両方に光学ズーム機能が設けられている場合は、この光学ズーム機能を使用して画角を一致させてもよい。そして、画素数を一致させるためのリサイズは画素数の少ない方の画像を拡大して一致させてもよいし、これとは逆に画素数の多い方の画像を縮小して一致させてもよい。また、保存やメール添付可能な画素数が予め決まっている場合は、メインカメラ17と回転カメラ23の両方の出力画像に拡大または縮小を施して一致させてもよい。
【0059】
以上のように、本実施形態の携帯電話100によれば、メインカメラ17と画素数及び画角等の面で精度が劣るカメラを使用しても、両カメラの出力画像の差異を吸収して、立体視用画像を生成することが可能であり、その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。このため、2台のカメラを搭載してもコストの低減化が図れる。
【0060】
(第3実施形態)
本発明の第3実施形態について説明する。上記の第2実施形態では、両カメラの出力画像の画素数及び画角を一致させて、立体視可能な画像を生成する場合の例であったが、本実施形態では、さらに、ホワイトバランス、ガンマ、色差についても一致させるものである。以下、図面を参照しながら説明する。尚、上述の第1及び第2実施形態と同一部分については、同一符号を付し、重複する説明は省略する。
【0061】
図17は、本発明の第3実施形態に係る携帯電話100の構成を示すブロック図である。画質補正部24は、スケーラ22から出力された2つのカメラの出力画像におけるホワイトバランス、輝度、色差それぞれについて特徴情報を求め、2つのカメラの出力画像の画質が同じになるように補正する。ここでは、メインカメラ17の出力画像に回転カメラ23の画質を一致させる場合の例について説明する。図18に画質補正部24の概略ブロック図を示す。図18に示すように、画質補正部24は、ホワイトバランス補正部241と、輝度補正部242と、色差U補正部243と、色差V補正部244と、を備える。
【0062】
ホワイトバランス補正部241は、スケーラ22から出力されたYUV形式の映像信号にホワイトバランス補正を施して出力する。輝度補正部242は、ホワイトバランス補正部241から出力されたY信号に輝度補正を施して出力する。色差U補正部243は、ホワイトバランス補正部241から出力されたU色差信号を補正して出力する。色差V補正部244は、ホワイトバランス補正部241から出力されたV色差信号を補正して出力する。以下、各部毎に動作を説明する。
【0063】
先ず、ホワイトバランス補正部241の動作について説明する。図19は、ホワイトバランス補正部241の構成を示すブロック図である。図19に示すように、ホワイトバランス補正部241は、RGB比検出部2411,2412と、R,Bゲイン調整部2413と、YUV変換部2414と、を備える。RGB比検出部2411は、メインカメラ17系のYUV形式の映像信号をRGB形式に変換し、Gに対するR及びBの比(R/G,B/G)を求めてR,Bゲイン調整部2413に出力する。同様にRGB比検出部2412は、回転カメラ23系のYUV形式の映像信号をRGB形式に変換し、R/G、B/Gの比率を求めてR,Bゲイン調整部2413に出力する。また、RGB比検出部2412は、RGB形式の映像信号もR,Bゲイン調整部2413に出力する。YUVからRGB形式への変換は下記式にて行う。
【0064】
R=Y+1.402×V
G=Y+(−0.34414)×U+(−0.71414)×V
B=Y+1.772×U
【0065】
R,Bゲイン調整部2413は、回転カメラ23系のR/G、B/Gの比率がメインカメラ17系と同じになるようにRGB比検出部2412から出力されたR及びBの映像信号にゲインコントロールやレベルシフトを施して出力する。YUV変換部2414は、R,Bゲイン調整部2413で補正されたRGB形式の映像信号を再度YUV形式に変換して出力する。RGBからYUV形式への変換は下記式にて行う。
【0066】
Y=0.290×R+0.5870×G+0.1140×B
U=(−0.1687)×R+(−0.3313)×G+0.5000×B
V=0.5000×R+(−0.4187)×G+(−0.0813)×B
【0067】
以上の各部の動作により、回転カメラ23とメインカメラ17の出力画像のホワイトバランスを一致させることができる。
【0068】
次に、輝度補正部242の動作について説明する。図20は、輝度補正部242の構成を示すブロック図である。図20に示すように、輝度補正部242は、輝度特徴情報検出部2421,2422と、輝度処理部2423と、を備える。輝度特徴情報検出部2421は、メインカメラ17系のY信号の最大値、最小値、平均値を求めて輝度処理部2423に出力する。同様に輝度特徴情報検出部2422は、回転カメラ23系のY信号の最大値、最小値、平均値を求めて輝度処理部2423に出力する。また、輝度特徴情報検出部2422は、Y信号も輝度処理部2423に出力する。
【0069】
輝度処理部2423は、回転カメラ23系のY信号の最大値、最小値、平均値がメインカメラ17系のそれと同じになるように輝度特徴情報検出部2422から出力されたY信号にゲインコントロールやレベルシフトを施して出力する。以上の動作により、回転カメラ23とメインカメラ17の出力画像の輝度を一致させることができる。
【0070】
次に、色差U補正部243の動作について説明する。なお、U信号とV信号の処理は同じであるため、U信号の色差U補正部243についてのみ説明し、色差V補正部244の説明は省略する。図21は、色差U補正部243の構成を示すブロック図である。図21に示すように、色差U補正部243は、色差特徴情報検出部2431,2432と、色差補正部2433と、を備える。色差特徴情報検出部2431は、メインカメラ17系のU信号の最大値、最小値、平均値を求めて色差補正部2433に出力する。同様に色差特徴情報検出部2432は、回転カメラ23系のU信号の最大値、最小値、平均値を求めて色差補正部2433に出力する。また、色差特徴情報検出部2432は、U信号も色差補正部2433に出力する。
【0071】
色差補正部2433は、回転カメラ23系のU信号の最大値、最小値、平均値がメインカメラ17系のそれと同じになるように色差特徴情報検出部2432から出力されたU信号にゲインコントロールやレベルシフトを施して出力する。以上の各部の動作により、回転カメラ23とメインカメラ17の出力画像の色差を一致させることができる。
【0072】
以上説明したように画質補正部24の各部が動作することにより、2台のカメラ(メインカメラ17、回転カメラ23)で取得された画像において、画質(輝度や色の特性)が異なっていても、両画像の差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0073】
なお、特徴情報の検出は、画面全体で行う場合に限られず、画面の中央部付近や主被写体に限るなど、画面の一部で行ってもよい。
【0074】
(第4実施形態)
本発明の第4実施形態について説明する。本実施形態に係る携帯電話100は、上述した第1実施形態に係る携帯電話100に、メインカメラ17及びサブカメラ18のフレームレートが異なる場合でも対応できる機能をさらに追加したものである。以下、メインカメラ17のフレームレートが30fps、サブカメラ18のフレームレートが15fpsであると仮定し、図面を参照しながら本実施形態に係る携帯電話100の機能を説明する。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0075】
図22は、本実施形態に係る携帯電話100の構成を示すブロック図である。フレームレート変換部25は、サブカメラ18の出力画像をメインカメラ17と等しい30fpsに変換して出力する。以下、図23を用いてフレームレート変換の原理を説明する。図23において(a)、(b)、(c)はメインカメラ17の出力画像であり、画面左から右に走る自動車を撮影した場合の連続する3コマを示している。図23の(d)、(f)はサブカメラ18の出力画像である。
【0076】
メインカメラ17の出力画像において、時刻「t」のとき、画面左端に存在した自動車(画像(a)参照)が、1/30秒経過後、画面中央部に移動し(画像(b)参照)、さらに、1/30秒経過後には、画面右端に移動する(画像(c)参照)ものとする。
【0077】
一方、サブカメラ18の出力画像において、時刻「t」のとき、メインカメラ17と同じ画角の画像(画像(d)参照)となるが、フレームレートが1/2のため、次のコマは、自動車が画面右端に移動した画像(画像(f)参照)となる。そこで、フレームレート変換部25は、画像(d)と画像(f)から画像(e)のような画面の中央部に自動車を移動させた画像を生成する。そして、生成した画像(e)を画像(d)と画像(f)の間に挿入することにより、サブカメラ18のフレームレートを2倍化し、メインカメラ17のフレームレートと一致させる。
【0078】
画像(e)の生成には、周知の中間画像作成方法が使用可能であるが、ここでは画像(d)と画像(f)を細かなブロックに分けてブロック毎に動きベクトルを求め、この動きベクトルの1/2のベクトルが指し示す座標に自動車を移動させた画像を作成するブロックマッチング方式を使用するものとする。
【0079】
以上説明したようにフレームレート変換部25が動作することにより、メインカメラ17とサブカメラ18のフレームレートが異なる場合でも、その差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0080】
なお、本実施形態では、サブカメラ18のフレームレートをメインカメラ17のフレームレートに合わせてアップさせる例について説明したが、これに限られるものでなく、メインカメラ17のフレームレートを30fpsから15fpsに低減させて、サブカメラ18のフレームレートに一致させるようにしてもよい。さらに、メインカメラ17とサブカメラ18のフレームレートは、それぞれ、30fps、15fpsである場合の例について説明したが、これに限られるものでなく、如何なるフレームレートであったとしても本発明を逸脱するものではない。
【0081】
(第5実施形態)
本発明の第4実施形態について説明する。本実施形態に係る携帯電話100は、上述した第1実施形態に係る携帯電話100に、サブカメラ18のフォーカス性能がメインカメラ17より低い場合でも対応できる機能をさらに追加したものである。以下、図面を参照して本実施形態に係る携帯電話100の機能を説明する。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0082】
図24は、本実施形態に係る携帯電話100の構成を示すブロック図である。本実施形態の携帯電話100は、サブカメラ18の出力画像の輪郭を補正することにより、メインカメラ17の出力画像の輪郭と一致させる輪郭補正部26を設けている。図25を用いて輪郭補正部26の動作を説明する。図25において、(a)はメインカメラ17の出力画像、(b)はサブカメラ18の出力画像であり、サブカメラ18の方がメインカメラ17に比べ、フォーカス性能が低いことを、画像(b)における自動車の輪郭を太く、かつ、淡くすることで表現している。
【0083】
輪郭補正部26は、画像(b)において、輪郭部分にコントラスト改善処理やオーバーシュート、アンダーシュートを付加することで、画像(a)と同等のコントラスト、線の太さとなるように補正して、画像(c)を生成する。このように輪郭補正部26が、両カメラの出力画像の輪郭精度を一致させることによって、両カメラの性能の差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0084】
なお、本実施形態では、フォーカス性能が低い方のカメラの出力画像をシャープにして他方のカメラの出力画像との輪郭精度の差異を吸収させる例について述べたが、これに限られるものでなく、フォーカス性能が高い方のカメラの出力画像をソフトにすることで、他方のカメラの出力画像と輪郭精度の差異を吸収させてもよい。
【0085】
(第6実施形態)
本発明の第6実施形態について説明する。図26は、本実施形態に係る携帯電話100の構成を示すブロック図である。本実施形態に係る携帯電話100は、上述した第1実施形態に係る携帯電話100に、メインカメラ17とサブカメラ18の光軸がずれた状態でも、光軸補正部27により両カメラから出力された画像の画角、輻輳等を補正することで、良好な立体視用画像の生成を可能にする機能をさらに追加したものである。なお、第1実施形態の携帯電話100と同一部分については、同一符号を付し、説明を省略する。
【0086】
光軸補正部27の動作を図27を用いて説明する。図27において、(a)はメインカメラ17の出力画像、(b)はサブカメラ18の出力画像である。光軸補正部27は、2台のカメラの出力画像から主被写体を中心に画角が等しいエリアを切り出す。例えば、メインカメラの出力画像(a)の人物の顔を主被写体と認識し、サブカメラ18の出力画像(b)から主被写体である人物の顔を検出し、その周辺を等しい画角で切り出す。これによって、メインカメラ17の出力画像から画面中央付近の画角を切り出し、画像(c)のような画像を得る。また、サブカメラ18の出力画像からは画面右側の画角を切り出し、画像(d)のような画像を得る。以上の動作により、2台のカメラの画角を一致させることができる。ここではメインカメラ17の出力画像を右眼視点の画像とする。
【0087】
次に、光軸補正部27は、サブカメラ18の出力画像における主被写体を移動させた距離から視点の移動角度を求め、この移動角度に応じて主被写体を回転させて視点を補正することで、左眼視点画像(e)を生成する。この画像の生成方法は、周知の様々な方法が使用可能であるが、例えば、主被写体の物体を検出することにより各画素の奥行きを計算し、左眼から見た場合に見えるであろう角度に回転させた画像を生成することにより、所望の視点の画像を得ることができる。
【0088】
以上説明したように光軸補正部27が動作することにより、たとえ、メインカメラ17とサブカメラ18の光軸が一致していなくても、その差異を吸収して、良好な立体視用画像を生成することが可能となる。その結果、違和感のない良好な立体画像をユーザに提供することが可能となる。
【0089】
なお、本実施形態では、サブカメラ18の出力画像のみに視点補正を適用する例について述べたが、これに限られるものでなく、メインカメラ17の出力画像のみに適用してもよいし、メインカメラ17とサブカメラ18の両方の出力画像に適用したとしても本発明を逸脱するものではない。
【0090】
なお、本発明は、上記何れの実施形態にも限定されず、本発明の要旨を逸脱しない範囲での種々の変更は勿論可能である。
【0091】
例えば、上記各実施形態では、2台のカメラをそれぞれ携帯電話100の長手方向の端部に配置したが、これに限定されず、例えば、図28の(a)、(b)に示すように、回転カメラ23をヒンジ103に設けてもよいし、図28の(c)に示すように、メインカメラ17をヒンジ103に設けてもよい。メインカメラ17をヒンジ103に設けると、撮影時にメインカメラ17を手で覆ってしまう不都合が減少し、使い勝手が向上する。
【0092】
また、上記の第1〜第6実施形態に係る携帯電話100の機能は、如何様にも組み合わせることが可能である。また、PDA、PC、TV、映像記録装置・再生装置等に適用する場合等、筐体が大きく、2台のカメラの距離を十分取ることができる場合は、同一筐体に2台のカメラを実装してもよい。
【符号の説明】
【0093】
1…通信アンテナ、2…無線回路、3…符号復号処理回路、4…マイク、5…レシーバ、6…キー、7…CPU、8…CPUバス、9…メモリ、10…DAC、11…スピーカ、12…第1のビデオI/F、13…LCDコントローラ、14…第2のビデオI/F、15…表示部、16…視差バリア、17…メインカメラ、18…サブカメラ、19…記憶装置、20…角度検出部、22…スケーラ、23…回転カメラ、24…画質補正部、25…フレームレート変換部、26…輪郭補正部、27…光軸補正部、241…ホワイトバランス補正部、242…輝度補正部、243…色差U補正部、244…色差V補正部、1031…突起、2411,2412…RGB比検出部、2413…R,Bゲイン調整部、2414…YUV変換部、2421,2422…輝度特徴情報検出部、2423…輝度処理部、2431,2432…色差特徴情報検出部、2433…色差補正部
【特許請求の範囲】
【請求項1】
第1の筐体と第2の筐体とがヒンジを介して互いに開閉自在に連結された端末装置であって、
前記第1の筐体に設けられた第1のカメラと、
前記第2の筐体に設けられた第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段と、
該開角度検出手段が検出した開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備える、
ことを特徴とする端末装置。
【請求項2】
第1のカメラと、
第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度を検出する光軸角度検出手段と、
該光軸角度検出手段が検出した双方の光軸角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備える、
ことを特徴とする端末装置。
【請求項3】
前記判定手段は、前記開角度が180度以上の場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定する、
ことを特徴とする請求項1に記載の端末装置。
【請求項4】
前記判定手段は、前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度が略等しい場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定する、
ことを特徴とする請求項2に記載の端末装置。
【請求項5】
前記第1のカメラと前記第2のカメラの内、一方のカメラは、他方のカメラに比べ、画角が狭く且つ画素数が少ない仕様であり、
画角が広く且つ画素数が多い方のカメラの出力画像に対して、他方のカメラの出力画像に基づいて、縮小及び画像の切り出し処理を施すことで、当該他方のカメラの出力画像のサイズに一致させるスケーラをさらに備える、
ことを特徴とする請求項1乃至4の何れか1項に記載の端末装置。
【請求項6】
前記第1のカメラと前記第2のカメラの内、少なくとも1台は、回転動作により撮影方向を変更可能な回転カメラである、
ことを特徴とする請求項1乃至5の何れか1項に記載の端末装置。
【請求項7】
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像の画質を一致させる画質補正手段をさらに備える、
ことを特徴とする請求項1乃至6の何れか1項に記載の端末装置。
【請求項8】
前記画質補正手段は、ホワイトバランス、輝度、色の内の少なくとも何れか1つを一致させる、
ことを特徴とする請求項7に記載の端末装置。
【請求項9】
前記第1のカメラ及び前記第2のカメラのフレームレートは異なり、
前記第1のカメラ及び前記第2のカメラのフレームレートを一致させるフレームレート変換手段をさらに備える、
ことを特徴とする請求項1乃至8の何れか1項に記載の端末装置。
【請求項10】
前記第1のカメラ及び前記第2のカメラのフォーカス性能は異なり、
フォーカス性能の劣る一方のカメラの出力画像の輪郭を補正することで、他方のカメラの出力画像における輪郭精度と一致させる輪郭補正手段をさらに備える、
ことを特徴とする請求項1乃至9の何れか1項に記載の端末装置。
【請求項11】
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に共通する被写体像を取得し、該取得した被写体像に基づいて、少なくとも一方のカメラの出力画像の視点を補正する光軸補正手段をさらに備える、
ことを特徴とする請求項1乃至10の何れか1項に記載の端末装置。
【請求項12】
コンピュータを、
第1の筐体に設けられた第1のカメラ及び第2の筐体に設けられた第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段が検出した前記開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段、として機能させる、
ことを特徴とするプログラム。
【請求項1】
第1の筐体と第2の筐体とがヒンジを介して互いに開閉自在に連結された端末装置であって、
前記第1の筐体に設けられた第1のカメラと、
前記第2の筐体に設けられた第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段と、
該開角度検出手段が検出した開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備える、
ことを特徴とする端末装置。
【請求項2】
第1のカメラと、
第2のカメラと、
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段と、
前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度を検出する光軸角度検出手段と、
該光軸角度検出手段が検出した双方の光軸角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段と、を備える、
ことを特徴とする端末装置。
【請求項3】
前記判定手段は、前記開角度が180度以上の場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定する、
ことを特徴とする請求項1に記載の端末装置。
【請求項4】
前記判定手段は、前記第1のカメラ及び前記第2のカメラそれぞれの光軸の角度が略等しい場合に、前記立体視用画像生成手段が前記立体視用の画像を生成する必要があると判定する、
ことを特徴とする請求項2に記載の端末装置。
【請求項5】
前記第1のカメラと前記第2のカメラの内、一方のカメラは、他方のカメラに比べ、画角が狭く且つ画素数が少ない仕様であり、
画角が広く且つ画素数が多い方のカメラの出力画像に対して、他方のカメラの出力画像に基づいて、縮小及び画像の切り出し処理を施すことで、当該他方のカメラの出力画像のサイズに一致させるスケーラをさらに備える、
ことを特徴とする請求項1乃至4の何れか1項に記載の端末装置。
【請求項6】
前記第1のカメラと前記第2のカメラの内、少なくとも1台は、回転動作により撮影方向を変更可能な回転カメラである、
ことを特徴とする請求項1乃至5の何れか1項に記載の端末装置。
【請求項7】
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像の画質を一致させる画質補正手段をさらに備える、
ことを特徴とする請求項1乃至6の何れか1項に記載の端末装置。
【請求項8】
前記画質補正手段は、ホワイトバランス、輝度、色の内の少なくとも何れか1つを一致させる、
ことを特徴とする請求項7に記載の端末装置。
【請求項9】
前記第1のカメラ及び前記第2のカメラのフレームレートは異なり、
前記第1のカメラ及び前記第2のカメラのフレームレートを一致させるフレームレート変換手段をさらに備える、
ことを特徴とする請求項1乃至8の何れか1項に記載の端末装置。
【請求項10】
前記第1のカメラ及び前記第2のカメラのフォーカス性能は異なり、
フォーカス性能の劣る一方のカメラの出力画像の輪郭を補正することで、他方のカメラの出力画像における輪郭精度と一致させる輪郭補正手段をさらに備える、
ことを特徴とする請求項1乃至9の何れか1項に記載の端末装置。
【請求項11】
前記第1のカメラ及び前記第2のカメラそれぞれの出力画像に共通する被写体像を取得し、該取得した被写体像に基づいて、少なくとも一方のカメラの出力画像の視点を補正する光軸補正手段をさらに備える、
ことを特徴とする請求項1乃至10の何れか1項に記載の端末装置。
【請求項12】
コンピュータを、
第1の筐体に設けられた第1のカメラ及び第2の筐体に設けられた第2のカメラそれぞれの出力画像に基づいて、立体視用の画像を生成する立体視用画像生成手段、
前記第1の筐体と前記第2の筐体とが成す開角度を検出する開角度検出手段が検出した前記開角度に基づいて、前記立体視用画像生成手段が前記立体視用の画像を生成する必要の可否を判定する判定手段、として機能させる、
ことを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5】
【図6A】
【図6B】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5】
【図6A】
【図6B】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【公開番号】特開2010−252186(P2010−252186A)
【公開日】平成22年11月4日(2010.11.4)
【国際特許分類】
【出願番号】特願2009−101257(P2009−101257)
【出願日】平成21年4月17日(2009.4.17)
【出願人】(310006855)NECカシオモバイルコミュニケーションズ株式会社 (1,081)
【Fターム(参考)】
【公開日】平成22年11月4日(2010.11.4)
【国際特許分類】
【出願日】平成21年4月17日(2009.4.17)
【出願人】(310006855)NECカシオモバイルコミュニケーションズ株式会社 (1,081)
【Fターム(参考)】
[ Back to top ]