画像処理装置
【課題】 ディスプレイと使用者との距離に応じて、ディスプレイへ表示する撮像画像の範囲を変化させることのできる画像処理装置を提供する。
【解決手段】 実施形態の画像処理装置は、ディスプレイ1と、ディスプレイ1の背面中央に設置され、ディスプレイ1の後方を撮影する背面カメラ2とを備える。使用者距離測定部3が、ディスプレイ1と使用者との距離を測定し、被写体距離測定部4が、背面カメラ2と被写体との距離を測定し、ディスプレイ投影範囲算出部5が、使用者距離測定部3および被写体距離測定部4の測定結果にもとづいて、使用者から見て被写体上に投影されるディスプレイ1の外形範囲をディスプレイ投影範囲として算出する。画像データ抽出部6が、背面カメラ2の撮像データからディスプレイ投影範囲の画像データを抽出し、表示部7が、画像データ抽出部6により抽出された画像データをディスプレイ1へ表示する。
【解決手段】 実施形態の画像処理装置は、ディスプレイ1と、ディスプレイ1の背面中央に設置され、ディスプレイ1の後方を撮影する背面カメラ2とを備える。使用者距離測定部3が、ディスプレイ1と使用者との距離を測定し、被写体距離測定部4が、背面カメラ2と被写体との距離を測定し、ディスプレイ投影範囲算出部5が、使用者距離測定部3および被写体距離測定部4の測定結果にもとづいて、使用者から見て被写体上に投影されるディスプレイ1の外形範囲をディスプレイ投影範囲として算出する。画像データ抽出部6が、背面カメラ2の撮像データからディスプレイ投影範囲の画像データを抽出し、表示部7が、画像データ抽出部6により抽出された画像データをディスプレイ1へ表示する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、画像処理装置に関する。
【背景技術】
【0002】
近年、スマートフォンなどの高機能な携帯電話には、GPSに加えて、3軸磁気センサおよび3軸加速度センサが搭載されるようになり、自端末の位置のみならず、自端末の向きも検出できるようになっている。
【0003】
そこで、これらの機能を利用した拡張現実(Augmented Reality:AR)への応用が実用化されてきている。拡張現実とは、カメラで撮影した現実の画像に、テキストや画像などの電子情報を重ね合わせて表示する技術である。
【0004】
拡張現実への応用の例としては、例えば街頭で携帯端末のカメラをかざすと、カメラの撮影位置および撮影方向が判別され、撮影範囲内の建築物などに関する情報が情報センターから通信回線経由で自端末へ送られ、その情報が、撮影画像に重ね合わせて自端末のディスプレイ上に表示される例、などがある。
【0005】
ところで、このような例の場合、ディスプレイと使用者との距離により、使用者の視野に占めるディスプレイの見かけの大きさが変わる。すなわち、ディスプレイと使用者との間が近い場合は使用者の視野に占めるディスプレイの面積は大きく、ディスプレイと使用者との間が遠い場合は使用者の視野に占めるディスプレイの面積は小さくなる。
【0006】
したがって、ディスプレイを仮想的な透過型ディスプレイと使用者に体感させるためには、ディスプレイと使用者との距離に応じて、ディスプレイに表示される画像の範囲を変化させる必要がある。
【0007】
しかし、従来の画像処理装置では、カメラで撮像している映像をそのまま表示するだけで、ディスプレイと使用者との距離に応じて表示画像の範囲を変化させることは行われていない。また、拡張現実の表示において、拡張現実の大きさを決定するのにも、ディスプレイと使用者との距離情報は必須である。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2010−238096号公報
【特許文献2】特開2000−276613号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
そこで、本発明が解決しようとする課題は、ディスプレイと使用者との距離に応じて、ディスプレイへ表示する撮像画像の範囲を変化させることのできる画像処理装置を提供することにある。
【課題を解決するための手段】
【0010】
実施形態の画像処理装置は、ディスプレイと、前記ディスプレイの背面中央に設置され、前記ディスプレイの後方の被写体を撮影する背面カメラとを備える。この画像処理装置は、使用者距離測定部が、前記ディスプレイと使用者との距離を測定し、被写体距離測定部が、前記背面カメラと前記被写体との距離を測定し、ディスプレイ投影範囲算出部が、前記使用者距離測定部および前記被写体距離測定部の測定結果にもとづいて、前記使用者が前記ディスプレイを見たときに前記被写体上に投影される前記ディスプレイの外形範囲をディスプレイ投影範囲として算出する。この画像処理装置は、画像データ抽出部が、前記背面カメラによる前記被写体の撮像データから前記ディスプレイ投影範囲の画像データを抽出し、表示部が、前記画像データ抽出部により抽出された画像データを前記ディスプレイへ表示する。
【図面の簡単な説明】
【0011】
【図1】本発明の第1の実施形態に係る画像処理装置の構成の例を示すブロック図。
【図2】本発明の第1の実施形態に係る画像処理装置を搭載する携帯機器の模式的外観図。
【図3】使用者との距離によって変化するディスプレイの見かけの大きさの違いを示す図。
【図4】第1の実施形態の画像処理装置における、被写体上のディスプレイの投影範囲と背面カメラの撮影範囲の関係を示す図。
【図5】第1の実施形態の画像処理装置における、背面カメラの撮像データと画像データ抽出部により抽出される画像データの領域の関係を示す図。
【図6】画像データ抽出部により抽出された画像データの表示例を示す図。
【図7】拡張現実に応用されたときの表示例を示す図。
【図8】本発明の第2の実施形態に係る画像処理装置の構成の例を示すブロック図。
【図9】第2の実施形態の画像処理装置における、被写体上のディスプレイの投影範囲と背面カメラの撮影範囲の関係を示す図。
【図10】第2の実施形態の画像処理装置における、背面カメラの撮像データと画像データ抽出部により抽出される画像データの領域の関係を示す図。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態について図面を参照して説明する。なお、図中、同一または相当部分には同一の符号を付して、その説明は繰り返さない。
【0013】
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理装置の構成の例を示すブロック図である。
【0014】
本実施形態の画像処理装置は、ディスプレイ1と、ディスプレイ1の背面中央に設置され、ディスプレイ1の後方の被写体を撮影する背面カメラ2と、ディスプレイ1と使用者との距離を測定する使用者距離測定部3と、背面カメラ2と被写体との距離を測定する被写体距離測定部4と、使用者距離測定部3および被写体距離測定部4の測定結果にもとづいて、使用者がディスプレイ1を見たときに被写体上に投影されるディスプレイ1の外形範囲をディスプレイ投影範囲として算出するディスプレイ投影範囲算出部5と、背面カメラ2による被写体の撮像データからディスプレイ投影範囲の画像データを抽出する画像データ抽出部6と、画像データ抽出部6により抽出された画像データをディスプレイ1へ表示する表示部7と、を備える。
【0015】
使用者距離測定部3は、ディスプレイ1の表示面側に設置された前面カメラ31と、前面カメラ31の撮影範囲に対する使用者の顔画像面積の比率にもとづいてディスプレイ1と使用者との距離を算出する距離算出部32と、を有する。
【0016】
図2に、本実施形態の画像処理装置を搭載する携帯機器の模式的外観図を示す。図2(a)は、その表示面11側の外観であり、図2(b)は、表示面11の背面側の外観である。
【0017】
図2(a)に示すように、前面カメラ31は表示面11と同じ側に配置される。また、図2(b)に示すように、背面カメラ2はディスプレイ1の背面中央に設置される。
【0018】
図2に示すような外形の携帯機器をかざして現実空間を見た場合、使用者に見えるディスプレイ1の見かけの大きさは、ディスプレイ1と使用者との距離によって変化する。
【0019】
図3に、使用者との距離によって変化するディスプレイの見かけの大きさの違いを示す。1Aは使用者との距離が近いときのディスプレイ1の見かけの大きさであり、1Bは使用者との距離が近いときのディスプレイ1の見かけの大きさである。使用者との距離が近いと、ディスプレイ1の見かけの大きさは大きくなり、使用者との距離が遠いほど、ディスプレイ1の見かけの大きさは小さくなる。
【0020】
本実施形態の画像処理装置は、このディスプレイ1の見かけの大きさにより隠される現実空間の画像をディスプレイ1へ表示し、あたかもディスプレイ1を透過して現実空間が見えているようにすることを実現するものである。
【0021】
ここで、ディスプレイ1の見かけの大きさは、被写体に投影されるディスプレイ1の外形像とみることができる。被写体に投影されるディスプレイ1の投影範囲は、使用者から被写体までの距離と使用者からディスプレイ1までの距離との比によって表される。
【0022】
すなわち、ディスプレイ1の外形寸法をH、使用者から被写体までの距離をD、使用者からディスプレイ1までの距離をd1と表すと、被写体に投影されるディスプレイ1の投影範囲hは、
h=D/d1・H ・・・(1)
と表される。
【0023】
ここで、本実施形態では、ディスプレイ1と背面カメラ2が一体に形成されているため、背面カメラ2から被写体までのd2と表すと、距離を使用者から被写体までの距離Dは、
D=d1+d2
と表される。したがって、式(1)は、
h=(d1+d2)/d1・H ・・・(2)
と表される。
【0024】
そこで、ディスプレイ投影範囲算出部5は、使用者距離測定部3により測定されたd1と、被写体距離測定部4により測定されたd2を用いて、式(2)により、被写体に投影されるディスプレイ1の投影範囲hを求める。
【0025】
図4に、使用者とディスプレイ1との距離d1の違いによるディスプレイ1の投影範囲hの違いを示す。
【0026】
図4(a)は、使用者とディスプレイ1との距離がd11であるときの投影範囲h1を示す。このとき、背面カメラ2から被写体までの距離をd21とすると、
h1=(d11+d21)/d11・H ・・・(3)
と表される。
【0027】
一方、図4(b)は、使用者とディスプレイ1との距離がd12(d12>d11)であるときの投影範囲h2を示す。このとき、背面カメラ2から被写体までの距離をd22とすると、
h2=(d12+d22)/d12・H ・・・(4)
と表される。
【0028】
ここで、使用者から被写体までの距離Dは変わらず、
d11+d21=d12+d22であるので、ディスプレイ1の投影範囲は、
h1>h2
となる。
【0029】
また、図4には、背面カメラ2から被写体までの距離の違いによる背面カメラ2の撮影範囲の違いも、併せて示す。
【0030】
背面カメラ2の撮影範囲pは、背面カメラ2の画角をθとすると、背面カメラ2と被写体との距離d2により、
p=2・tan(θ/2)・d2 ・・・(5)
と表される。
【0031】
したがって、図4(a)に示す、背面カメラ2と被写体との距離がd21の場合、背面カメラ2の撮影範囲p1は、
p1=2・tan(θ/2)・d21 ・・・(6)
と求められる。
【0032】
また、図4(b)に示す、背面カメラ2と被写体との距離がd22の場合、背面カメラ2の撮影範囲p2は、
p2=2・tan(θ/2)・d22 ・・・(7)
と求められる。
【0033】
標準的な画角の場合、背面カメラ2の撮影範囲pは、ディスプレイ1の投影範囲hよりも広い。すなわち、p1>h1であり、p2>h2である。
【0034】
また、背面カメラ2がディスプレイ1の背面中央に設置されているため、背面カメラ2の撮影範囲pの中心位置とディスプレイ1の投影範囲hの中心位置は一致する。
【0035】
この撮影範囲pの被写体の画像が、背面カメラ2の撮像データとなる。そこで、画像データ抽出部6は、背面カメラ2の撮像データから、撮影範囲pとディスプレイ1の投影範囲hの比率に応じて、画像データを抽出する。この抽出された画像が、ディスプレイ1の投影範囲の画像データとなる。
【0036】
図5に、背面カメラ2の撮像データPDと画像データ抽出部6により抽出される画像データ領域の関係を示す。
【0037】
図5(a)は、図4(a)に示したディスプレイ1の位置における、撮像データPDと抽出領域R1の関係を示す。この場合、h1とp1の比に応じて、撮像データPDの中央部分の領域が抽出され、抽出領域R1となる。
【0038】
図5(b)は、図4(b)に示したディスプレイ1の位置における、撮像データPDと抽出領域R2の関係を示す。この場合、h2とp2の比に応じて、撮像データPDの中央部分の領域が抽出され、抽出領域R2となる。
【0039】
表示部7は、画像データ抽出部6により抽出された画像データをディスプレイ1の表示面11へ表示する。
【0040】
図6に、表示面11に表示される画像の例を示す。図6では、ディスプレイ1と使用者との距離が、図3に示す見かけの大きさとなる距離であるときの、表示画像の例を示す。
【0041】
図6(a)は、ディスプレイ1の見かけの大きさが1Aとなる距離における表示画像の例である。また、図6(b)は、ディスプレイ1の見かけの大きさが1Bとなる距離における表示画像の例である。
【0042】
図7は、本実施形態の画像処理装置を搭載する携帯機器が拡張現実に応用されたときの表示例を示す。
【0043】
図7(a)は、図6(a)に示した表示に対する拡張現実の表示例である。この場合、表示される対象物が、あたかもディスプレイ1を透過したかのように見えるとともに、表示された対象物に対する電子情報c1、c2、c3が、それぞれの対象物の近くに表示される。
【0044】
また、図7(b)は、図6(b)に示した表示に対する拡張現実の表示例である。この場合、図7(a)に比較して、ディスプレイ1に表示される対象物が限定されるので、その限定された対象物に対する電子情報c4のみが表示される。これにより、使用者は、この携帯機器を、あたかもポインティング・デバイスのように使用することができる。すなわち、情報を得たい対象物に向けて、この携帯機器を指し伸ばすだけで、その対象物に関する電子情報を得ることができる。
【0045】
このような本実施形態によれば、ディスプレイと使用者との距離に応じて変化するディスプレイの見かけの大きさに応じて、背面カメラの撮像データから抽出する画像データの領域を変化させるので、ディスプレイと使用者との距離が変化しても、常に、現実空間との一体感がある撮像画像をディスプレイに表示することができる。
【0046】
(第2の実施形態)
第1の実施形態では、画像データ抽出部6により抽出された画像が拡大されて、表示部11に表示される。この拡大処理のため、表示部11に表示される画像の画質は低下する。そこで、本実施形態では、表示画像の画質低下を防止することのできる画像処理装置の例を示す。
【0047】
図8は、本発明の第2の実施形態に係る画像処理装置の構成の例を示すブロック図である。
【0048】
本実施形態の画像処理装置は、図1に示した第1の実施形態の画像処理装置に、画角調整部8を追加したものである。
【0049】
画角調整部8は、被写体に投影されるディスプレイ1の投影範囲が、背面カメラ2の撮影範囲となるように、背面カメラ2の画角を調整する。この画角の調整は、例えば背面カメラ2に搭載されるズーム機構を利用して実行される。すなわち、ズーム機構でレンズの焦点距離を変化させることにより、背面カメラ2の画角は調整される。
【0050】
図9に、画角調整部8による背面カメラ2の画角の調整の例を示す。
【0051】
図9(a)に示すように、背面カメラ2から被写体までの距離がd21で、ディスプレイ1の投影範囲がh1であるときは、画角調整部8は、投影範囲h1が背面カメラ2の撮影範囲p11となるよう、背面カメラ2の画角をθ1に調整する。
【0052】
このときの画角θ1は、
θ1=2・tan−1((h1/2)/d21) ・・・(8)
と調整される。
【0053】
また、図9(b)に示すように、背面カメラ2から被写体までの距離がd22で、ディスプレイ1の投影範囲がh2であるときは、画角調整部8は、投影範囲h2が背面カメラ2の撮影範囲p21となるよう、背面カメラ2の画角をθ2に調整する。
【0054】
このときの画角θ2は、
θ2=2・tan−1((h2/2)/d22) ・・・(9)
と調整される。
【0055】
図10に、本実施形態における、背面カメラ2の撮像データPDと画像データ抽出部6により抽出される画像データ領域の関係を示す。本実施形態では、背面カメラ2の撮像データPDが、背面カメラ2の撮影範囲の画像データとなる。
【0056】
すなわち、図10(a)に示す、撮影範囲がP11の場合に画像データ抽出部6により抽出される画像データの抽出領域R1も、図10(b)に示す、撮影範囲がP21の場合に画像データ抽出部6により抽出される画像データの抽出領域R2も、抽出領域はどちらも撮像データPDの全領域となる。
【0057】
したがって、本実施形態では、表示部7により表示面11へ表示される画像は、いつも背面カメラ2の撮像データPDそのものとなる。
【0058】
すなわち、このような本実施形態では、表示部7への表示の際に画像データの拡大処理が行われないため、表示画像の画質の低下を防止することができる。
【0059】
なお、上述の各実施形態では、使用者距離測定部3として、前面カメラ31および距離測定部32を用いる例を示したが、使用者距離測定部3を、赤外線あるいは超音波の反射を利用して距離を測定する距離センサとするようにしてもよい。また、ステレオ視差画像を使って距離センサとするようにしてもよい。
【0060】
同様に、被写体距離測定部4として、距離センサを用いるようにしてもよい。
【0061】
以上説明した少なくとも1つの実施形態の画像処理装置によれば、ディスプレイと使用者との距離に応じて、ディスプレイへ表示する撮像画像の範囲を変化させることができる。
【0062】
また、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0063】
1 ディスプレイ
2 背面カメラ
3 使用者距離測定部
4 被写体距離測定部
5 ディスプレイ投影範囲算出部
6 画像データ抽出部
7 表示部
8 画角調整部
11 表示面
31 前面カメラ
32 距離算出部
【技術分野】
【0001】
本発明の実施形態は、画像処理装置に関する。
【背景技術】
【0002】
近年、スマートフォンなどの高機能な携帯電話には、GPSに加えて、3軸磁気センサおよび3軸加速度センサが搭載されるようになり、自端末の位置のみならず、自端末の向きも検出できるようになっている。
【0003】
そこで、これらの機能を利用した拡張現実(Augmented Reality:AR)への応用が実用化されてきている。拡張現実とは、カメラで撮影した現実の画像に、テキストや画像などの電子情報を重ね合わせて表示する技術である。
【0004】
拡張現実への応用の例としては、例えば街頭で携帯端末のカメラをかざすと、カメラの撮影位置および撮影方向が判別され、撮影範囲内の建築物などに関する情報が情報センターから通信回線経由で自端末へ送られ、その情報が、撮影画像に重ね合わせて自端末のディスプレイ上に表示される例、などがある。
【0005】
ところで、このような例の場合、ディスプレイと使用者との距離により、使用者の視野に占めるディスプレイの見かけの大きさが変わる。すなわち、ディスプレイと使用者との間が近い場合は使用者の視野に占めるディスプレイの面積は大きく、ディスプレイと使用者との間が遠い場合は使用者の視野に占めるディスプレイの面積は小さくなる。
【0006】
したがって、ディスプレイを仮想的な透過型ディスプレイと使用者に体感させるためには、ディスプレイと使用者との距離に応じて、ディスプレイに表示される画像の範囲を変化させる必要がある。
【0007】
しかし、従来の画像処理装置では、カメラで撮像している映像をそのまま表示するだけで、ディスプレイと使用者との距離に応じて表示画像の範囲を変化させることは行われていない。また、拡張現実の表示において、拡張現実の大きさを決定するのにも、ディスプレイと使用者との距離情報は必須である。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2010−238096号公報
【特許文献2】特開2000−276613号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
そこで、本発明が解決しようとする課題は、ディスプレイと使用者との距離に応じて、ディスプレイへ表示する撮像画像の範囲を変化させることのできる画像処理装置を提供することにある。
【課題を解決するための手段】
【0010】
実施形態の画像処理装置は、ディスプレイと、前記ディスプレイの背面中央に設置され、前記ディスプレイの後方の被写体を撮影する背面カメラとを備える。この画像処理装置は、使用者距離測定部が、前記ディスプレイと使用者との距離を測定し、被写体距離測定部が、前記背面カメラと前記被写体との距離を測定し、ディスプレイ投影範囲算出部が、前記使用者距離測定部および前記被写体距離測定部の測定結果にもとづいて、前記使用者が前記ディスプレイを見たときに前記被写体上に投影される前記ディスプレイの外形範囲をディスプレイ投影範囲として算出する。この画像処理装置は、画像データ抽出部が、前記背面カメラによる前記被写体の撮像データから前記ディスプレイ投影範囲の画像データを抽出し、表示部が、前記画像データ抽出部により抽出された画像データを前記ディスプレイへ表示する。
【図面の簡単な説明】
【0011】
【図1】本発明の第1の実施形態に係る画像処理装置の構成の例を示すブロック図。
【図2】本発明の第1の実施形態に係る画像処理装置を搭載する携帯機器の模式的外観図。
【図3】使用者との距離によって変化するディスプレイの見かけの大きさの違いを示す図。
【図4】第1の実施形態の画像処理装置における、被写体上のディスプレイの投影範囲と背面カメラの撮影範囲の関係を示す図。
【図5】第1の実施形態の画像処理装置における、背面カメラの撮像データと画像データ抽出部により抽出される画像データの領域の関係を示す図。
【図6】画像データ抽出部により抽出された画像データの表示例を示す図。
【図7】拡張現実に応用されたときの表示例を示す図。
【図8】本発明の第2の実施形態に係る画像処理装置の構成の例を示すブロック図。
【図9】第2の実施形態の画像処理装置における、被写体上のディスプレイの投影範囲と背面カメラの撮影範囲の関係を示す図。
【図10】第2の実施形態の画像処理装置における、背面カメラの撮像データと画像データ抽出部により抽出される画像データの領域の関係を示す図。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態について図面を参照して説明する。なお、図中、同一または相当部分には同一の符号を付して、その説明は繰り返さない。
【0013】
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理装置の構成の例を示すブロック図である。
【0014】
本実施形態の画像処理装置は、ディスプレイ1と、ディスプレイ1の背面中央に設置され、ディスプレイ1の後方の被写体を撮影する背面カメラ2と、ディスプレイ1と使用者との距離を測定する使用者距離測定部3と、背面カメラ2と被写体との距離を測定する被写体距離測定部4と、使用者距離測定部3および被写体距離測定部4の測定結果にもとづいて、使用者がディスプレイ1を見たときに被写体上に投影されるディスプレイ1の外形範囲をディスプレイ投影範囲として算出するディスプレイ投影範囲算出部5と、背面カメラ2による被写体の撮像データからディスプレイ投影範囲の画像データを抽出する画像データ抽出部6と、画像データ抽出部6により抽出された画像データをディスプレイ1へ表示する表示部7と、を備える。
【0015】
使用者距離測定部3は、ディスプレイ1の表示面側に設置された前面カメラ31と、前面カメラ31の撮影範囲に対する使用者の顔画像面積の比率にもとづいてディスプレイ1と使用者との距離を算出する距離算出部32と、を有する。
【0016】
図2に、本実施形態の画像処理装置を搭載する携帯機器の模式的外観図を示す。図2(a)は、その表示面11側の外観であり、図2(b)は、表示面11の背面側の外観である。
【0017】
図2(a)に示すように、前面カメラ31は表示面11と同じ側に配置される。また、図2(b)に示すように、背面カメラ2はディスプレイ1の背面中央に設置される。
【0018】
図2に示すような外形の携帯機器をかざして現実空間を見た場合、使用者に見えるディスプレイ1の見かけの大きさは、ディスプレイ1と使用者との距離によって変化する。
【0019】
図3に、使用者との距離によって変化するディスプレイの見かけの大きさの違いを示す。1Aは使用者との距離が近いときのディスプレイ1の見かけの大きさであり、1Bは使用者との距離が近いときのディスプレイ1の見かけの大きさである。使用者との距離が近いと、ディスプレイ1の見かけの大きさは大きくなり、使用者との距離が遠いほど、ディスプレイ1の見かけの大きさは小さくなる。
【0020】
本実施形態の画像処理装置は、このディスプレイ1の見かけの大きさにより隠される現実空間の画像をディスプレイ1へ表示し、あたかもディスプレイ1を透過して現実空間が見えているようにすることを実現するものである。
【0021】
ここで、ディスプレイ1の見かけの大きさは、被写体に投影されるディスプレイ1の外形像とみることができる。被写体に投影されるディスプレイ1の投影範囲は、使用者から被写体までの距離と使用者からディスプレイ1までの距離との比によって表される。
【0022】
すなわち、ディスプレイ1の外形寸法をH、使用者から被写体までの距離をD、使用者からディスプレイ1までの距離をd1と表すと、被写体に投影されるディスプレイ1の投影範囲hは、
h=D/d1・H ・・・(1)
と表される。
【0023】
ここで、本実施形態では、ディスプレイ1と背面カメラ2が一体に形成されているため、背面カメラ2から被写体までのd2と表すと、距離を使用者から被写体までの距離Dは、
D=d1+d2
と表される。したがって、式(1)は、
h=(d1+d2)/d1・H ・・・(2)
と表される。
【0024】
そこで、ディスプレイ投影範囲算出部5は、使用者距離測定部3により測定されたd1と、被写体距離測定部4により測定されたd2を用いて、式(2)により、被写体に投影されるディスプレイ1の投影範囲hを求める。
【0025】
図4に、使用者とディスプレイ1との距離d1の違いによるディスプレイ1の投影範囲hの違いを示す。
【0026】
図4(a)は、使用者とディスプレイ1との距離がd11であるときの投影範囲h1を示す。このとき、背面カメラ2から被写体までの距離をd21とすると、
h1=(d11+d21)/d11・H ・・・(3)
と表される。
【0027】
一方、図4(b)は、使用者とディスプレイ1との距離がd12(d12>d11)であるときの投影範囲h2を示す。このとき、背面カメラ2から被写体までの距離をd22とすると、
h2=(d12+d22)/d12・H ・・・(4)
と表される。
【0028】
ここで、使用者から被写体までの距離Dは変わらず、
d11+d21=d12+d22であるので、ディスプレイ1の投影範囲は、
h1>h2
となる。
【0029】
また、図4には、背面カメラ2から被写体までの距離の違いによる背面カメラ2の撮影範囲の違いも、併せて示す。
【0030】
背面カメラ2の撮影範囲pは、背面カメラ2の画角をθとすると、背面カメラ2と被写体との距離d2により、
p=2・tan(θ/2)・d2 ・・・(5)
と表される。
【0031】
したがって、図4(a)に示す、背面カメラ2と被写体との距離がd21の場合、背面カメラ2の撮影範囲p1は、
p1=2・tan(θ/2)・d21 ・・・(6)
と求められる。
【0032】
また、図4(b)に示す、背面カメラ2と被写体との距離がd22の場合、背面カメラ2の撮影範囲p2は、
p2=2・tan(θ/2)・d22 ・・・(7)
と求められる。
【0033】
標準的な画角の場合、背面カメラ2の撮影範囲pは、ディスプレイ1の投影範囲hよりも広い。すなわち、p1>h1であり、p2>h2である。
【0034】
また、背面カメラ2がディスプレイ1の背面中央に設置されているため、背面カメラ2の撮影範囲pの中心位置とディスプレイ1の投影範囲hの中心位置は一致する。
【0035】
この撮影範囲pの被写体の画像が、背面カメラ2の撮像データとなる。そこで、画像データ抽出部6は、背面カメラ2の撮像データから、撮影範囲pとディスプレイ1の投影範囲hの比率に応じて、画像データを抽出する。この抽出された画像が、ディスプレイ1の投影範囲の画像データとなる。
【0036】
図5に、背面カメラ2の撮像データPDと画像データ抽出部6により抽出される画像データ領域の関係を示す。
【0037】
図5(a)は、図4(a)に示したディスプレイ1の位置における、撮像データPDと抽出領域R1の関係を示す。この場合、h1とp1の比に応じて、撮像データPDの中央部分の領域が抽出され、抽出領域R1となる。
【0038】
図5(b)は、図4(b)に示したディスプレイ1の位置における、撮像データPDと抽出領域R2の関係を示す。この場合、h2とp2の比に応じて、撮像データPDの中央部分の領域が抽出され、抽出領域R2となる。
【0039】
表示部7は、画像データ抽出部6により抽出された画像データをディスプレイ1の表示面11へ表示する。
【0040】
図6に、表示面11に表示される画像の例を示す。図6では、ディスプレイ1と使用者との距離が、図3に示す見かけの大きさとなる距離であるときの、表示画像の例を示す。
【0041】
図6(a)は、ディスプレイ1の見かけの大きさが1Aとなる距離における表示画像の例である。また、図6(b)は、ディスプレイ1の見かけの大きさが1Bとなる距離における表示画像の例である。
【0042】
図7は、本実施形態の画像処理装置を搭載する携帯機器が拡張現実に応用されたときの表示例を示す。
【0043】
図7(a)は、図6(a)に示した表示に対する拡張現実の表示例である。この場合、表示される対象物が、あたかもディスプレイ1を透過したかのように見えるとともに、表示された対象物に対する電子情報c1、c2、c3が、それぞれの対象物の近くに表示される。
【0044】
また、図7(b)は、図6(b)に示した表示に対する拡張現実の表示例である。この場合、図7(a)に比較して、ディスプレイ1に表示される対象物が限定されるので、その限定された対象物に対する電子情報c4のみが表示される。これにより、使用者は、この携帯機器を、あたかもポインティング・デバイスのように使用することができる。すなわち、情報を得たい対象物に向けて、この携帯機器を指し伸ばすだけで、その対象物に関する電子情報を得ることができる。
【0045】
このような本実施形態によれば、ディスプレイと使用者との距離に応じて変化するディスプレイの見かけの大きさに応じて、背面カメラの撮像データから抽出する画像データの領域を変化させるので、ディスプレイと使用者との距離が変化しても、常に、現実空間との一体感がある撮像画像をディスプレイに表示することができる。
【0046】
(第2の実施形態)
第1の実施形態では、画像データ抽出部6により抽出された画像が拡大されて、表示部11に表示される。この拡大処理のため、表示部11に表示される画像の画質は低下する。そこで、本実施形態では、表示画像の画質低下を防止することのできる画像処理装置の例を示す。
【0047】
図8は、本発明の第2の実施形態に係る画像処理装置の構成の例を示すブロック図である。
【0048】
本実施形態の画像処理装置は、図1に示した第1の実施形態の画像処理装置に、画角調整部8を追加したものである。
【0049】
画角調整部8は、被写体に投影されるディスプレイ1の投影範囲が、背面カメラ2の撮影範囲となるように、背面カメラ2の画角を調整する。この画角の調整は、例えば背面カメラ2に搭載されるズーム機構を利用して実行される。すなわち、ズーム機構でレンズの焦点距離を変化させることにより、背面カメラ2の画角は調整される。
【0050】
図9に、画角調整部8による背面カメラ2の画角の調整の例を示す。
【0051】
図9(a)に示すように、背面カメラ2から被写体までの距離がd21で、ディスプレイ1の投影範囲がh1であるときは、画角調整部8は、投影範囲h1が背面カメラ2の撮影範囲p11となるよう、背面カメラ2の画角をθ1に調整する。
【0052】
このときの画角θ1は、
θ1=2・tan−1((h1/2)/d21) ・・・(8)
と調整される。
【0053】
また、図9(b)に示すように、背面カメラ2から被写体までの距離がd22で、ディスプレイ1の投影範囲がh2であるときは、画角調整部8は、投影範囲h2が背面カメラ2の撮影範囲p21となるよう、背面カメラ2の画角をθ2に調整する。
【0054】
このときの画角θ2は、
θ2=2・tan−1((h2/2)/d22) ・・・(9)
と調整される。
【0055】
図10に、本実施形態における、背面カメラ2の撮像データPDと画像データ抽出部6により抽出される画像データ領域の関係を示す。本実施形態では、背面カメラ2の撮像データPDが、背面カメラ2の撮影範囲の画像データとなる。
【0056】
すなわち、図10(a)に示す、撮影範囲がP11の場合に画像データ抽出部6により抽出される画像データの抽出領域R1も、図10(b)に示す、撮影範囲がP21の場合に画像データ抽出部6により抽出される画像データの抽出領域R2も、抽出領域はどちらも撮像データPDの全領域となる。
【0057】
したがって、本実施形態では、表示部7により表示面11へ表示される画像は、いつも背面カメラ2の撮像データPDそのものとなる。
【0058】
すなわち、このような本実施形態では、表示部7への表示の際に画像データの拡大処理が行われないため、表示画像の画質の低下を防止することができる。
【0059】
なお、上述の各実施形態では、使用者距離測定部3として、前面カメラ31および距離測定部32を用いる例を示したが、使用者距離測定部3を、赤外線あるいは超音波の反射を利用して距離を測定する距離センサとするようにしてもよい。また、ステレオ視差画像を使って距離センサとするようにしてもよい。
【0060】
同様に、被写体距離測定部4として、距離センサを用いるようにしてもよい。
【0061】
以上説明した少なくとも1つの実施形態の画像処理装置によれば、ディスプレイと使用者との距離に応じて、ディスプレイへ表示する撮像画像の範囲を変化させることができる。
【0062】
また、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0063】
1 ディスプレイ
2 背面カメラ
3 使用者距離測定部
4 被写体距離測定部
5 ディスプレイ投影範囲算出部
6 画像データ抽出部
7 表示部
8 画角調整部
11 表示面
31 前面カメラ
32 距離算出部
【特許請求の範囲】
【請求項1】
ディスプレイと、
前記ディスプレイの背面中央に設置され、前記ディスプレイの後方の被写体を撮影する背面カメラと、
前記ディスプレイと使用者との距離を測定する使用者距離測定部と、
前記背面カメラと前記被写体との距離を測定する被写体距離測定部と、
前記使用者距離測定部および前記被写体距離測定部の測定結果にもとづいて、前記使用者が前記ディスプレイを見たときに前記被写体上に投影される前記ディスプレイの外形範囲をディスプレイ投影範囲として算出するディスプレイ投影範囲算出部と、
前記背面カメラによる前記被写体の撮像データから前記ディスプレイ投影範囲の画像データを抽出する画像データ抽出部と、
前記画像データ抽出部により抽出された画像データを前記ディスプレイへ表示する表示部と
を備えることを特徴とする画像処理装置。
【請求項2】
前記画像データ抽出部が、
前記被写体距離測定部の測定結果および前記背面カメラの画角にもとづいて前記背面カメラの撮影範囲を算出し、前記撮影範囲内における前記ディスプレイ投影範囲の位置にもとづいて、前記抽出する画像データの領域を決定する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記ディスプレイ投影範囲が撮影範囲となるように前記背面カメラの画角を調整する画角調整部をさらに有し、
前記画像データ抽出部が、
前記画角調整部により調整された画角で撮影された撮像データを総て抽出する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第1の使用者距離測定部が、
前記ディスプレイの表示面側に設置された前面カメラを有し、前記前面カメラの撮影範囲に対する前記使用者の顔画像面積の比率にもとづいて、前記ディスプレイと前記使用者との距離を算出する
ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
【請求項5】
前記使用者距離測定部が、距離センサを有する
ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
【請求項6】
前記被写体距離測定部が、
前記カメラに搭載されたオートフォーカス手段のピント合わせ情報を利用して、前記カメラと前記被写体との距離を算出する
ことを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
【請求項7】
前記被写体距離測定部が、距離センサを有する
ことを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
【請求項1】
ディスプレイと、
前記ディスプレイの背面中央に設置され、前記ディスプレイの後方の被写体を撮影する背面カメラと、
前記ディスプレイと使用者との距離を測定する使用者距離測定部と、
前記背面カメラと前記被写体との距離を測定する被写体距離測定部と、
前記使用者距離測定部および前記被写体距離測定部の測定結果にもとづいて、前記使用者が前記ディスプレイを見たときに前記被写体上に投影される前記ディスプレイの外形範囲をディスプレイ投影範囲として算出するディスプレイ投影範囲算出部と、
前記背面カメラによる前記被写体の撮像データから前記ディスプレイ投影範囲の画像データを抽出する画像データ抽出部と、
前記画像データ抽出部により抽出された画像データを前記ディスプレイへ表示する表示部と
を備えることを特徴とする画像処理装置。
【請求項2】
前記画像データ抽出部が、
前記被写体距離測定部の測定結果および前記背面カメラの画角にもとづいて前記背面カメラの撮影範囲を算出し、前記撮影範囲内における前記ディスプレイ投影範囲の位置にもとづいて、前記抽出する画像データの領域を決定する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記ディスプレイ投影範囲が撮影範囲となるように前記背面カメラの画角を調整する画角調整部をさらに有し、
前記画像データ抽出部が、
前記画角調整部により調整された画角で撮影された撮像データを総て抽出する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第1の使用者距離測定部が、
前記ディスプレイの表示面側に設置された前面カメラを有し、前記前面カメラの撮影範囲に対する前記使用者の顔画像面積の比率にもとづいて、前記ディスプレイと前記使用者との距離を算出する
ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
【請求項5】
前記使用者距離測定部が、距離センサを有する
ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
【請求項6】
前記被写体距離測定部が、
前記カメラに搭載されたオートフォーカス手段のピント合わせ情報を利用して、前記カメラと前記被写体との距離を算出する
ことを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
【請求項7】
前記被写体距離測定部が、距離センサを有する
ことを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2013−20569(P2013−20569A)
【公開日】平成25年1月31日(2013.1.31)
【国際特許分類】
【出願番号】特願2011−155452(P2011−155452)
【出願日】平成23年7月14日(2011.7.14)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成25年1月31日(2013.1.31)
【国際特許分類】
【出願日】平成23年7月14日(2011.7.14)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]