説明

画像表示装置

【課題】操作性を向上した画像表示装置を提供する。
【解決手段】画像表示装置は、表示面に画像を表示する画像表示部14と、画像表示部14の表示面上に存在する指示体の位置を検出する指示体検出部202と、画像表示部14の表示面に表示する画像を生成する出力画像処理部13と、を備える。出力画像処理部13は、指示体検出部202が検出する指示体の位置に対応する画像中の領域を含む補助画像を、当該画像中の当該領域とは異なる領域に重畳させた画像を生成し得る。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像を表示する画像表示装置に関する。
【背景技術】
【0002】
ユーザインターフェースとしてタッチパネルを採用した画像表示装置が、広く普及している。このような画像表示装置では、タッチパネル上の(表示された画像中の)所望の位置を、ユーザが自身の指やスタイラスなどの指示体を用いて指示するという、直感的な操作が行われる。
【0003】
例えば、特許文献1及び特許文献2に、タッチパネルの操作性を向上させた画像表示装置が提案されている。これらの画像表示装置は、ユーザが指示する画像中の領域を拡大して表示し、さらに拡大して表示した領域に対してユーザの指示を受け付けることで、ユーザが容易に画像中の所望の位置を指示することを可能にする。
【0004】
また例えば、特許文献3には、撮像により得られた画像と、当該画像の一部の領域を拡大した画像と、を併せて表示することで、フォーカスなどの撮像条件を変化させることに伴う画像の変化を、ユーザに確認させ易くする画像表示装置が提案されている。また例えば、特許文献4には、表示部に互いに独立したメイン画面とサブ画面を設け、メイン画面における何れかの領域の画像をサブ画面に表示する方法が示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平5−324202号公報
【特許文献2】特開平7−98769号公報
【特許文献3】特開2009−17123号公報
【特許文献4】特開2008−245055号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ユーザがタッチパネルを操作し、画像中の所望の位置を指示する場合、当該位置を表示するタッチパネルの領域上に、指示体を位置させる必要がある。このとき、タッチパネルの当該領域を見るユーザの視線が、指示体や自身の手などによって遮られる。そのため、ユーザは、タッチパネルが表示する画像中の、指示した位置やその周辺を視認することが困難になる。例えばユーザは、タッチパネルの操作によって望んだ画像が得られたか否か、意図した位置を指示体によって正しく指示できているか否かなどを、把握することが困難になる。
【0007】
したがって、例えばユーザは、タッチパネルの操作中にタッチパネルを様々な角度から覗き込んだり、タッチパネル上の操作を行っている位置から指示体を頻繁に離脱させたり(操作を断続的に行ったり)する必要がある。このように、従来のタッチパネルでは、操作性が十分ではないため、問題となる。なお、上記文献の画像表示装置のような、画像中の一部の領域を拡大して表示するタッチパネルであっても、ユーザがタッチパネルを操作する際に、タッチパネルの所望の領域上(拡大して表示させた領域上)に指示体を位置させることには変わらないため、この問題を解消することはできない。また、サブ画面を設ける方法を採用すると、全体像を表示すべきメイン画面の表示サイズが小さくなり、全体像の視認性が悪くなる。
【0008】
そこで本発明は、操作性を向上した画像表示装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明における画像表示装置は、基準画像に基づく表示画像を表示面に表示する画像表示部と、前記画像表示部の表示面上に存在する指示体の位置を検出する指示体検出部と、前記基準画像に基づき前記表示面に表示されるべき出力画像を生成する出力画像処理部と、を備え、前記出力画像処理部は、前記指示体検出部による前記指示体の検出位置に対応する、前記基準画像中の特定領域を含む補助画像を、前記基準画像中の前記特定領域とは異なる重畳用領域に重畳させた重畳画像を、前記出力画像として生成し得ることを特徴とすることを特徴とする。
【0010】
また、上記構成の画像表示装置において、前記出力画像処理部は、前記表示面に前記表示画像を表示した場合に前記指示体の下に表示される不可視領域を含む取得領域に基づいて前記補助画像を生成し、前記基準画像中の前記不可視領域とは異なる前記重畳用領域に前記補助画像を重畳させた前記重畳画像を、前記出力画像として生成し得ることとしても構わない。
【0011】
また、上記構成の画像表示装置において前記出力画像処理部は、前記指示体の検出位置に基づいた処理を入力画像に施す画像処理実行部を備え、前記出力画像処理部は、前記処理が施された前記入力画像としての前記基準画像に基づき、前記補助画像及び前記重畳画像を生成し得ることとしても構わない。
【0012】
このように構成すると、画像処理実行部が処理を行う際に、補助画像を含む画像が画像表示部の表示面に表示され得る。そのため、ユーザは、望んだ画像が得られたか否か、意図した位置を指示体によって正しく指示できているか否かなどを、容易に把握することが可能になる。
【0013】
また、上記構成の画像表示装置において、前記画像処理実行部は、前記入力画像中の所定領域を変化させる処理と、前記入力画像中の所定領域の画質を調整する処理と、ユーザが自機の動作を操作するための画像を前記入力画像に重畳する処理と、の少なくとも一つを行い得ることとしても構わない。
【0014】
また、上記構成の画像表示装置において、ユーザに操作される操作部を更に備え、前記操作部が操作されているとき、前記出力画像処理部が、順次得られる前記指示体検出部の検出結果または前記操作部の操作の開始時以前に得られた前記指示体検出部の検出結果を、有効なものとして扱うこととしても構わない。
【0015】
このように構成すると、画像表示部の表示面上に指示体が存在しない場合であっても、ユーザが操作部を操作することで、模擬的に画像表示部の表示面上に指示体が存在するものとして出力画像処理部を動作させることが可能になる。そのため、画像表示装置の操作性を、さらに向上させることが可能になる。
【0016】
また、上記構成の画像表示装置において、前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に存在する前記指示体を検出しているとき、前記出力画像処理部は、順次得られる前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱い、前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に前記指示体が存在しないことを検出しているとき、前記出力画像処理部は、前記表示面上に存在する前記指示体を検出した直近の前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱うこととしても構わない。
【0017】
このように構成すると、ユーザが、指示体を画像表示部の表示面上から一時的に離脱させて、表示される画像の全体を視認する間に、操作部を操作しておくことで、その間も擬似的に画像表示部の表示面上に指示体が存在する(例えば、ユーザによる指示体検出部の操作が終了しておらず、画像表示部の表示面上で指示体の動きを一時的に止めた)ものとして、出力画像処理部を動作させることが可能になる。
【0018】
また、上記構成の画像表示装置において、ユーザに操作される操作部を更に備え、前記操作部が操作されているとき、前記出力画像処理部が、前記操作部の操作の開始時よりも後に得られる前記指示体検出部の検出結果を、無効なものとして扱うこととしても構わない。
【0019】
このように構成すると、ユーザが操作部を操作することで、指示体検出部を無効化することが可能になる。そのため、画像表示装置の操作性を、さらに向上させることが可能になる。
【0020】
また、上記構成の画像表示装置において、前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に存在する前記指示体を検出しているとき、前記出力画像処理部は、前記指示体検出部が前記表示面に前記指示体が存在しないことを検出するときの前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱い、前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に前記指示体が存在しないことを検出しているとき、前記出力画像処理部は、前記指示体検出部が前記表示面に前記指示体が存在しないことを検出するときの前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱うこととしても構わない。
【0021】
このように構成すると、ユーザが、指示体検出部の操作を終了して指示体を画像表示部の表示面上から離脱させる際に、誤って指示体を動かし当該動きを指示体検出部が検出したとしても、指示体検出部の操作を終了した時点で操作部を操作しておくことで、当該動きを示す指示体検出部の検出結果を、無効化することが可能になる。
【0022】
また、上記構成の画像表示装置において、ユーザに操作される操作部を更に備え、前記指示体検出部が前記表示面上に存在する前記指示体を検出しているか否か、及び、前記操作部が操作されているか否か、の少なくとも一方に基づいて、前記出力画像処理部は、前記重畳画像を前記出力画像として生成するか否かを決定することとしても構わない。
【0023】
また、上記構成の画像表示装置において、前記指示体検出部が前記表示面上に存在する前記指示体を検出しているか否かに基づいて、前記出力画像処理部は、前記重畳画像を前記出力画像として生成するか否かを決定することとしても構わない。
【0024】
このように構成すると、真に画像表示部の表示面上に指示体が存在している場合に、補助画像を含む画像を画像表示部の表示面に表示させることが可能になる。
【0025】
また、上記構成の画像表示装置において、前記操作部が操作されているか否かに基づいて、前記出力画像処理部が、前記重畳画像を前記出力画像として生成するか否かを決定することとしても構わない。
【0026】
このように構成すると、操作部をユーザが操作するという、ユーザによる明示の要求がある場合に、補助画像を含む画像を画像表示部の表示面に表示させることが可能になる。
【0027】
また、上記構成の画像表示装置において、前記指示体検出部が前記表示面上に存在する前記指示体を検出しているか否か、及び、前記操作部が操作されているか否かに基づき、前記出力画像処理部が有効なものとして扱う前記指示体検出部の検出結果に基づいて、前記出力画像処理部は、前記重畳画像を前記出力画像として生成するか否かを決定することとしても構わない。
【0028】
このように構成すると、画像表示装置の操作性を向上させるべく動作する出力画像処理部の動作に合わせて、補助画像を含む画像を画像表示部の表示面に表示させるか否かを決定することが可能になる。
【0029】
また、上記構成の画像表示装置において、前記出力画像処理部は、前記指示体の検出位置を表す付加画像を前記補助画像中に示した前記重畳画像を、前記出力画像として生成し得ることとしても構わない。
【0030】
このように構成すると、画像表示部の表示面に表示される画像中の指示体の下に表示される領域と、指示体の位置との関係を、ユーザが容易に把握することが可能になる。
【0031】
また、上記構成の画像表示装置において、前記指示体検出部が、前記画像表示部の表示面上に存在する指示体の位置及び面積を検出するものであり、前記出力画像処理部が、補助画像に含まれる、前記指示体検出部が検出する指示体の位置及び面積に対応する画像中の領域の位置及び面積を表す付加画像を、当該画像に付加した画像を生成し得ることとしても構わない。
【0032】
このように構成すると、画像表示部の表示面に表示される画像中の指示体の下に表示される領域と、指示体の位置及び面積との関係を、ユーザが容易に把握することが可能になる。
【0033】
また、前記出力画像処理部は、前記基準画像の前記重畳用領域に対して前記補助画像を重畳することで前記重畳画像を生成してもよい。
【0034】
また、前記指示体検出部によって複数の位置が検出されたとき、前記出力画像処理部は、複数の検出位置に対応する複数の特定領域を設定して前記複数の特定領域に対応する複数の補助画像を前記基準画像から生成し、前記複数の特定領域とは異なる、前記基準画像の複数の重畳用領域に対して前記複数の補助画像を重畳することで前記重畳画像を生成しても構わない。
【0035】
また、前記指示体検出部によって複数の位置が検出されたとき、前記出力画像処理部は、前記複数の検出位置間の距離に応じて第1又は第2生成処理を択一的に行うようにしても良い。前記第1生成処理において、前記出力画像処理部は、前記複数の検出位置を内包する領域を含む単一画像を前記補助画像として前記基準画像から生成し、前記複数の検出位置を内包する前記領域と異なる、前記基準画像の前記重畳用領域に対して前記補助画像を重畳することで前記重畳画像を生成してもよい。前記第2生成処理において、前記出力画像処理部は、前記複数の検出位置に対応する複数の特定領域を設定して前記複数の特定領域を含む複数の補助画像を前記基準画像から生成し、前記複数の特定領域とは異なる、前記基準画像の複数の重畳用領域に対して前記複数の補助画像を重畳することで前記重畳画像を生成してもよい。
【0036】
これにより、複数の検出位置間の距離に応じた補助画像が生成され、ユーザの視認性向上が期待される。
【0037】
また、前記補助画像が前記重畳用領域に重畳された前記重畳画像が前記出力画像として且つ前記表示画像として前記表示面に表示されている場合において、前記表示面における前記補助画像上に前記指示体が存在していることが検出されたとき、前記出力画像処理部は、前記補助画像上の前記指示体の検出位置に対応する領域を含む第2補助画像を前記基準画像又は前記補助画像から生成して、前記重畳用領域とは異なる、前記重畳画像の第2重畳用領域に対して前記第2補助画像を更に重畳したマルチ重畳画像を、前記出力画像として生成しても良い。
【0038】
これにより、ユーザは、補助画像中の領域を、第2補助画像にて更に詳細に確認するといったことが可能となる。
【0039】
また、前記補助画像が前記重畳用領域に重畳された前記重畳画像が前記出力画像として且つ前記表示画像として前記表示面に表示されている場合において、前記表示面における前記補助画像上に前記指示体が存在していることが検出されたとき、前記出力画像処理部は、前記補助画像上の前記指示体の検出位置に基づき、前記重畳画像に重畳されるべき前記補助画像を変更してもよい。
【発明の効果】
【0040】
本発明の構成とすると、ユーザは、画像表示部の表示面に表示される画像中の指示体の下に表示される領域を、補助画像によって容易に視認することが可能になる。したがって、画像表示装置の操作性を向上させることが可能になる。
【0041】
本発明の意義ないし効果は、以下に示す実施の形態の説明によりさらに明らかとなろう。ただし、以下の実施の形態は、あくまでも本発明の実施の形態の一つであって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
【図面の簡単な説明】
【0042】
【図1】は、本発明の実施の一形態である撮像装置の構成例を示すブロック図である。
【図2】は、出力画像が表示された画像表示部の表示面を示す図である。
【図3】は、出力画像処理部の構成例を示すブロック図である。
【図4】は、指示体情報修正部の動作例(A1)を示す表である。
【図5】は、指示体情報修正部の動作例(A2)を示す表である。
【図6】は、指示体情報修正部の動作例(A3)を示す表である。
【図7】は、補助画像表示制御部の動作例(B1)を示す表である。
【図8】は、補助画像表示制御部の動作例(B2)を示す表である。
【図9】は、補助画像表示制御部の動作例(B3)を示す表である。
【図10】は、画像処理実行部の動作例(C1)について説明する図である。
【図11】は、画像処理実行部の動作例(C2)について説明する図である。
【図12】は、画像処理実行部の動作例(C2)について説明する図である。
【図13】は、画像処理実行部の動作例(C3)について説明する図である。
【図14】は、補助画像重畳部の動作例(D1)について説明する図である。
【図15】は、補助画像重畳部の動作例(D2)について説明する図である。
【図16】は、出力画像処理部の第1動作例について説明する図である。
【図17】は、出力画像処理部の第2動作例について説明する図である。
【図18】は、出力画像処理部の第3動作例について説明する図である。
【図19】は、出力画像処理部の第4動作例について説明する図である。
【図20】は、出力画像処理部の第4動作例について説明する図である。
【図21】は、出力画像処理部の第4動作例について説明する図である。
【図22】は、出力画像処理部の第5動作例について説明する図である。
【図23】は、出力画像処理部の第6動作例について説明する図である。
【発明を実施するための形態】
【0043】
本発明の実施の形態について、以下図面を参照して説明する。最初に、本発明の実施の一形態である撮像装置について説明する。なお、以下に説明する撮像装置は、デジタルカメラなどの画像(動画(各フレーム)及び静止画を含む。以下同じ。)信号の生成、記録及び表示や、音響信号の生成、記録及び再生が可能なものである。
【0044】
<<撮像装置>>
まず、本発明の実施の一形態である、タッチパネルを備えた撮像装置の構成例について、図1を参照して説明する。図1は、本発明の実施の一形態である撮像装置の構成例を示すブロック図である。
【0045】
図1に示すように、撮像装置1は、入射される光学像を電気信号である画像信号に変換するCCD(Charge Coupled Device)またはCMOS(Complimentary Metal Oxide Semiconductor)センサなどの固体撮像素子から成るイメージセンサ2と、対象物の光学像をイメージセンサ2に結像させるとともに光量などの調整を行うレンズ部3と、を備える。レンズ部3は、ズームレンズやフォーカスレンズなどの各種レンズ(不図示)や、イメージセンサ2に入力される光量を調整する絞り(不図示)などを備える。
【0046】
さらに、撮像装置1は、イメージセンサ2から出力されるアナログの画像信号をデジタルに変換するとともにゲインの調整を行うAFE(Analog Front End)4と、AFE4から出力される画像信号に階調補正処理などの各種画像処理を施す入力画像処理部5と、入力される音を電気信号である音響信号に変換する集音部6と、集音部6から出力されるアナログの音響信号をデジタルに変換するADC(Analog to Digital Converter)7と、ADC7から出力される音響信号にノイズ除去などの各種音響処理を施して出力する音響処理部8と、入力画像処理部5から出力される画像信号と音響処理部8から出力される音響信号のそれぞれに対してMPEG(Moving Picture Experts Group)圧縮符号化方式などの動画用の圧縮符号化処理を施したり入力画像処理部5から出力される画像信号にJPEG(Joint Photographic Experts Group)圧縮符号化方式などの静止画用の圧縮符号化処理を施したりする圧縮処理部9と、圧縮処理部9で圧縮符号化された圧縮符号化信号を記録する外部メモリ10と、圧縮符号化信号を外部メモリ10に記録したり読み出したりするドライバ部11と、ドライバ部11が外部メモリ10から読み出した圧縮符号化信号を伸長して復号する伸長処理部12と、を備える。
【0047】
また、撮像装置1は、伸長処理部12で復号されて得られる画像信号や入力画像処理部5から出力される画像信号に所定の処理を施す出力画像処理部13と、モニタなどから成り画像信号を表示面に表示する画像表示部14と、出力画像処理部13から出力される画像信号を画像表示部14で表示可能な形式の画像信号に変換する画像信号出力回路部15と、スピーカなどから成り音響信号を再生する音響再生部16と、伸長処理部12で復号されて得られる音響信号を音響再生部16で再生可能な形式の音響信号に変換する音響信号出力回路部17と、を備える。なお、出力画像処理部13の構成の詳細については、後述する。
【0048】
また、撮像装置1は、撮像装置1内全体の動作を制御するCPU(Central Processing Unit)18と、各処理を行うための各プログラムを記憶するとともにプログラム実行時のデータの一時保管を行うメモリ19と、操作部201や指示体検出部202などから成り、ユーザからの指示が入力される入力部20と、各部の動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ(TG)部21と、CPU18と各ブロックとの間でデータのやりとりを行うためのバス22と、メモリ19と各ブロックとの間でデータのやりとりを行うためのバス23と、を備える。なお、以下では説明の簡略化のため、各ブロックのやりとりにおいてバス22,23を省略する。
【0049】
操作部201は、例えば、複数のボタンを備え、ユーザに押下されることで撮像の開始や終了などの各種指示の入力を検出する。指示体検出部202は、例えば、画像表示部14の表示面上に配置されて指示体の接触や接近を静電容量の変化や抵抗値の変化として検出する検出膜を備え、画像表示部14の表示面上に存在する指示体の位置や面積(指示体が画像表示部14の表示面上を占める面積。例えば、指示体が検出膜に接触する面積。)を検出する。また、画像表示部14と指示体検出部202とでタッチパネルが構成される。
【0050】
次に、撮像装置1の動作例について図1を用いて説明する。まず、撮像装置1は、レンズ部3より入射される光をイメージセンサ2において光電変換する(撮像する)ことによって、電気信号である画像信号を取得する。そして、イメージセンサ2は、TG部21から入力されるタイミング制御信号に同期して、所定のタイミングでAFE4に画像信号を出力する。
【0051】
そして、AFE4によってアナログからデジタルへと変換された画像信号は、入力画像処理部5に入力される。入力画像処理部5では、入力されるR(赤)G(緑)B(青)の成分を備える画像信号を、輝度信号(Y)と色差信号(U,V)の成分を備える画像信号に変換するとともに、階調補正や輪郭強調等の各種画像処理を施す。また、メモリ19はフレームメモリとして動作し、入力画像処理部5が処理を行なう際に画像信号を一時的に保持する。
【0052】
また、このとき入力画像処理部5に入力される画像信号に基づき、レンズ部3において、レンズ位置が調整されてフォーカスの調整が行われたり、絞りの開度が調整されて露出の調整が行われたりする。このフォーカスや露出の調整は、それぞれ最適な状態となるように所定のプログラムに基づいて自動的に行われたり(オートフォーカス、オートエクスポージャ)、ユーザの指示に基づいて手動で行われたりする。
【0053】
動画の画像信号を生成する場合、集音部6において集音を行う。集音部6で集音されてアナログの電気信号に変換される音響信号は、ADC7に入力される。ADC7は、入力される音響信号をデジタルに変換し、音響処理部8に入力する。音響処理部8は、入力される音響信号にノイズ除去や強度制御などの各種音響処理を施す。そして、入力画像処理部5から出力される画像信号と、音響処理部8から出力される音響信号と、がともに圧縮処理部9に入力され、圧縮処理部9において所定の圧縮符号化方式で圧縮符号化される。このとき、画像信号と音響信号とが時間的に関連付けられ、再生時に画像と音とがずれないように構成される。そして、圧縮処理部9から出力される圧縮符号化信号は、ドライバ部11を介して外部メモリ10に記録される。一方、静止画の画像信号を生成する場合、入力画像処理部5から出力される画像信号が圧縮処理部9に入力され、圧縮処理部9において所定の圧縮符号化方式で圧縮符号化される。そして、圧縮処理部9から出力される圧縮符号化信号が、ドライバ部11を介して外部メモリ10に記録される。
【0054】
外部メモリ10に記録された動画の圧縮符号化信号は、ユーザの指示に基づいて伸長処理部12に読み出される。伸長処理部12は、圧縮符号化信号を伸長及び復号することで画像信号及び音響信号を生成し、出力する。また、伸長処理部12は、外部メモリ10に記録された静止画の圧縮符号化信号も同様に復号して画像信号を生成し、出力する。
【0055】
伸長処理部12から出力される画像信号は、出力画像処理部13に入力される。また、画像信号の記録前や記録中に、撮像して得られる画像信号が画像表示部14の表示面に表示され、ユーザに視認される。この場合、入力画像処理部5から出力される画像信号が、バス22を介して出力画像処理部13に入力される。出力画像処理部13は、入力されるこれらの画像信号に所定の処理を施して、画像信号出力回路部15に入力する。なお、出力画像処理部13から出力される画像信号が圧縮処理部9に入力されて圧縮符号化され、得られる圧縮符号化信号がドライバ部11を介して外部メモリ10に記録されても構わない。また、出力画像処理部13の動作の詳細については、後述する。
【0056】
画像信号出力回路部15は、出力画像処理部13から出力される画像信号を、画像表示部14で表示可能な形式に変換して出力する。また、音響信号出力回路部17は、伸長処理部12から出力される音響信号を、音響再生部16で再生可能な形式に変換して出力する。
【0057】
なお、動画及び静止画の画像信号を生成可能な撮像装置1を一例として示したが、撮像装置1が、動画及び静止画のいずれか一方の画像信号のみ生成可能な構成であっても構わない。
【0058】
また、音響信号の集音に係る機能(例えば、集音部6、ADC7、音響処理部8及び圧縮処理部9の音響信号に係る部分)及び音響信号の再生に係る機能(例えば、伸長処理部12の音響信号に係る部分、音響再生部16及び音響信号出力回路部17)の少なくとも一方を備えない構成としても構わない。また、撮像に係る機能(例えば、イメージセンサ2、レンズ部3、AFE4、入力画像処理部5及び圧縮処理部9の画像信号に係る部分)を備えない構成としても構わない。
【0059】
また、操作部201は、物理的なボタンに限られず、タッチパネルの一部として構成されるボタン(画像表示部14の表示面にボタンが表示され、ボタンが表示された領域上の指示体の有無を指示体検出部202が検出することで押下の有無が検出されるボタン)であっても構わない。また、指示体検出部202は、画像表示部14の表示面上に設けられる検出膜に限られず、画像表示部14の表示面の周囲に設けられる光学的なセンサであっても構わない。
【0060】
また、外部メモリ10は画像信号や音響信号を記録することができればどのようなものでも構わない。例えば、SD(Secure Digital)カードのような半導体メモリ、DVDなどの光ディスク、ハードディスクなどの磁気ディスクなどをこの外部メモリ10として使用することができる。また、外部メモリ10を撮像装置1から着脱自在としても構わない。
【0061】
<<出力画像処理部>>
上述した出力画像処理部13の構成及び動作の詳細について、以下図面を参照して説明する。また、以下では説明の簡略化のために、出力画像処理部13が処理する画像信号を画像として表現する。さらに、出力画像処理部13に入力されて処理される画像信号を「入力画像」と表現し、出力画像処理部13で処理されて出力される画像信号を「出力画像」と表現する。
【0062】
<補助画像>
最初に、出力画像処理部13が生成し得る出力画像について図面を参照して説明する。図2は、出力画像が表示された画像表示部14の表示面を示す図である。図2(a)及び(b)では、画像表示部14の表示面に表示される出力画像と、画像表示部14の表示面上に存在する指示体Fとを明確に区別するため、指示体Fに斜線のハッチングを付して表現している。
【0063】
図2(a)に示すように、ユーザが画像表示部14の表示面上に指示体Fを位置させると(指示体検出部202を操作すると)、指示体Fの下に表示される出力画像中の領域を、ユーザが視認することが困難になる。そのため、例えばユーザは、指示体検出部202の操作によって望んだ出力画像が得られたか否か、意図した位置を指示体Fによって正しく指示できているか否かなどを、容易に把握することが困難になる。
【0064】
そこで、図2(b)に示すように、本例の出力画像処理部13は、指示体検出部202が検出する指示体Fの位置に対応する出力画像中の領域を含む補助画像Sを、当該出力画像中の当該領域とは異なる領域に重畳させた出力画像を生成する。
【0065】
具体的には、図2(b)に示すように、出力画像処理部13が、画像表示部14の表示面に出力画像を表示した場合に指示体Fの下に表示される不可視領域(図中、指示体Fと重なる画像中の領域)を含む取得領域Uに基づいて補助画像Sを生成し、当該画像中の不可視領域とは異なる領域に補助画像Sを重畳することで出力画像を生成する。
【0066】
以上のように構成すると、ユーザは、画像表示部14の表示面に表示される出力画像中の指示体の下に表示される領域を、補助画像Sによって容易に視認することが可能になる。したがって、撮像装置1の操作性を向上させることが可能になる。
【0067】
なお、出力画像処理部13は、図2(b)の出力画像のように、取得領域Uの大きさを略変更しない補助画像Sを含む出力画像を生成しても構わないし、取得領域Uの大きさを変更した(例えば、拡大した)補助画像Sを含む出力画像を生成しても構わない。
【0068】
また、説明の都合上、図2(b)において取得領域Uを示しているが、出力画像処理部13は、取得領域Uを示さない出力画像を生成しても構わないし、取得領域Uを示す出力画像を生成しても構わない。
【0069】
<出力画像処理部の構成例>
以下、上記の補助画像を含む出力画像を生成する出力画像処理部13の構成例や動作例について説明する。まず、出力画像処理部13の構成例について、図面を参照して説明する。図3は、出力画像処理部の構成例を示すブロック図である。
【0070】
図3に示すように、出力画像処理部13は、操作部201から出力される操作情報に基づいて指示体検出部202から出力される指示体情報を修正し修正指示体情報を生成する指示体情報修正部131と、操作情報と指示体情報と修正指示体情報と補助画像表示モード情報とに基づいて補助画像生成情報を生成する補助画像表示制御部132と、修正指示体情報に基づき入力画像に処理を施して処理後画像を生成する画像処理実行部133と、補助画像生成情報と付加画像表示情報とに基づいて処理後画像中に補助画像を重畳させた出力画像を生成し得る補助画像重畳部134と、を備える。
【0071】
操作情報は、例えば操作部201に含まれる所定のボタンの状態を示す情報であり、当該所定のボタンが押下されることで操作あり(ON)となり、押下されなければ操作なし(OFF)となる。
【0072】
指示体情報は、指示体検出部202が検出する画像表示部14の表示面上に存在する指示体の位置を示す情報であり、入力画像中及び処理後画像中の不可視領域を示すものとしても解釈され得る。なお、指示体情報が、画像表示部14の表示面上における指示体の位置だけでなく、指示体の面積をも含む情報であっても構わない。以下では、説明の簡略化のため、指示体情報が、画像表示部14の表示面上における指示体の位置及び面積を示すものとする。
【0073】
修正指示体情報は、撮像装置1の操作性の向上等のために、指示体情報修正部131が必要に応じて指示体情報を修正することで得られる情報である。また、補助画像表示モード情報は、補助画像を含む出力画像の生成の要否の決定方法を示す情報である。補助画像表示モード情報は、例えばユーザや製造者などによって決定され、CPU18などから入力される。
【0074】
補助画像生成情報は、補助画像重畳部134が補助画像を生成するための情報であり、補助画像を含む出力画像の生成の要否を示す情報(以下、要否情報とする)や、補助画像重畳部134が処理後画像中の取得領域を設定するための情報(以下、取得領域情報とする)が含まれる。
【0075】
また、付加画像表示情報は、補助画像を含む出力画像に対して付加する画像(以下、付加画像とする)の要否やその表示形式などを示す情報である。付加画像表示情報は、例えばユーザや製造者などによって決定され、CPU18などから入力される。
【0076】
なお、図3に示す構成例は一例に過ぎず、補助画像を含む出力画像を生成し得るものである限り、どのような構成であっても構わない。例えば、指示体情報修正部131を設けない構成としても構わない。この場合、修正指示体情報を指示体情報とする。また例えば、画像処理実行部133を設けなくても構わないし、画像処理実行部133が入力画像処理部5に含まれても構わない(処理後画像が外部メモリ10に記録され得る構成としても構わない)。この場合、処理後画像を入力画像とする。また例えば、操作情報を不要としても構わない。ただし、以下では説明の簡略化のため、画像処理部13が、図3に示す構成であるものとする。
【0077】
[指示体情報修正部]
指示体情報修正部131は、操作情報に基づいて、必要に応じて指示体情報を修正し、修正指示体情報として出力する。この指示体情報修正部131の動作例について、図面を参照して説明する。図4〜図6は、指示体情報修正部の動作例(A1〜A3)を示す表である。
【0078】
図4〜図6中の「指示体検出」とは、指示体検出部202が、画像表示部14の表示面上に存在する指示体を検出する場合であり、検出する指示体の位置及び面積を指示体情報として出力する場合である。一方、「指示体非検出」とは、指示体検出部202が、画像表示部14の表示面上に指示体が存在しないことを検出する場合であり、その旨を指示体情報として出力する(または、無出力とする)場合である。また、「操作あり」とは、ユーザが操作部201を操作し(例えば、操作部201の所定のボタンがユーザに押下され)、操作部201がその旨を操作情報として出力する場合である。一方、「操作なし」とは、ユーザが操作部201を操作せず(例えば、操作部201の所定のボタンがユーザに押下されず)、操作部201がその旨を操作情報として出力する場合である。
【0079】
(動作例:A1)
図4は、指示体情報修正部の動作例(A1)を示す表である。本動作例では、指示体情報修正部131が、操作情報と関連しない修正指示体情報を出力する。換言すると、出力画像処理部13が、順次入力される指示体情報を有効なものとして扱う。
【0080】
図4に示すように、本動作例では、操作部201がユーザに操作されているか否か、指示体検出部202が画像表示部14の表示面上に存在する指示体を検出するか否か、にかかわらず、指示体情報修正部131が指示体情報と同じ修正指示体情報を出力する。
【0081】
(動作例:A2)
図5は、指示体情報修正部の動作例(A2)を示す表である。本動作例では、ユーザが操作部201を操作すると、指示体情報修正部131が、入力されている(または、されていた)指示体情報を保持し、当該指示体情報を修正指示体情報として出力する。換言すると、操作部201がユーザに操作されているとき、出力画像処理部13が、順次得られる指示体情報または操作部201の操作の開始時以前に得られた指示体情報を、有効なものとして扱う。
【0082】
図5に示すように、本動作例では、操作部201がユーザに操作されていない場合、指示体検出部202が画像表示部14の表示面上に存在する指示体を検出するか否かにかかわらず、指示体情報修正部131が指示体情報と同じ修正指示体情報を出力する。
【0083】
一方、操作部201がユーザに操作されており且つ指示体検出部202が画像表示部14の表示面上に存在する指示体を検出している場合、指示体情報修正部131が、指示体情報と同じ修正指示体情報を出力する。または、この場合、指示体情報修正部131が、操作部201の操作がある旨を示す操作情報の入力開始時(操作部201の操作の開始時)に入力された指示体情報を保持し、当該指示体情報を修正指示体情報として継続的に出力する。なお、指示体情報修正部131が上記のいずれの修正指示体情報を出力するかを、製造者が撮像装置1の製造時に決定しても構わないし、ユーザが撮像装置1の使用時に決定しても構わない。
【0084】
また、操作部201がユーザに操作されており且つ指示体検出部202が画像表示部14の表示面上に指示体が存在しないことを検出している場合、指示体情報修正部131が、画像表示部14の表示面上に存在する指示体を検出したときの指示体情報であり、直近(最後)に入力されて保持しておいたものを修正指示体情報として出力する。または、この場合、指示体情報修正部131が、操作部201の操作がある旨を示す操作情報の入力開始時(操作部201の操作の開始時)に入力された指示体情報を保持し、当該指示体情報を修正指示体情報として継続的に出力する。なお、指示体情報修正部131が上記のいずれの修正指示体情報を出力するかを、製造者が撮像装置1の製造時に決定しても構わないし、ユーザが撮像装置1の使用時に決定しても構わない。
【0085】
このように構成すると、画像表示部14の表示面上に指示体が存在していない場合であっても、ユーザが操作部201を操作することで、模擬的に画像表示部14の表示面上に指示体が存在しているものとして出力画像処理部13を動作させることが可能になる。そのため、撮像装置1の操作性を、さらに向上させることが可能になる。
【0086】
具体的に例えば、ユーザが、指示体を画像表示部14の表示面上から一時的に離脱させて、表示される出力画像の全体を視認する間に、操作部201を操作しておくことで、その間も擬似的に画像表示部14の表示面上に指示体が存在している(例えば、ユーザによる指示体検出部202の操作が終了しておらず、画像表示部14の表示面上で指示体の動きを一時的に止めた)ものとして、出力画像処理部13を動作させることが可能になる。
【0087】
(動作例:A3)
図6は、指示体情報修正部の動作例(A3)を示す表である。本動作例では、ユーザが操作部201を操作すると、指示体情報修正部131が、その後入力される指示体情報を拒否し、当該指示体情報とは関連なく修正指示体情報を出力する。換言すると、操作部201がユーザに操作されているとき、出力画像処理部13が、操作部201の操作の開始時よりも後に得られる指示体情報を、無効なものとして扱う。
【0088】
図6に示すように、本動作例では、操作部201がユーザに操作されていない場合、指示体検出部202が画像表示部14の表示面上に存在する指示体を検出するか否かにかかわらず、指示体情報修正部131が指示体情報と同じ修正指示体情報を出力する。
【0089】
一方、操作部201がユーザに操作されており且つ指示体検出部202が画像表示部14の表示面上に存在する指示体を検出している場合、指示体情報修正部131が、画像表示部14の表示面上に指示体が存在しないことを検出する旨を示す修正指示体情報を出力する(または、無出力とする)。または、この場合、指示体情報修正部131が、操作部201の操作がある旨を示す操作情報の入力開始時(操作部201の操作の開始時)に入力された指示体情報を保持し、当該指示体情報を修正指示体情報として継続的に出力する。なお、指示体情報修正部131が上記のいずれの修正指示体情報を出力するかを、製造者が撮像装置1の製造時に決定しても構わないし、ユーザが撮像装置1の使用時に決定しても構わない。
【0090】
また、操作部201がユーザに操作されており且つ指示体検出部202が画像表示部14の表示面上に指示体が存在しないことを検出している場合、指示体情報修正部131が、画像表示部14の表示面上に指示体が存在しないことを検出する旨を示す修正指示体情報を出力する(または、無出力とする)。または、この場合、指示体情報修正部131が、操作部201の操作がある旨を示す操作情報の入力開始時(操作部201の操作の開始時)に入力された指示体情報を保持し、当該指示体情報を修正指示体情報として継続的に出力する。なお、指示体情報修正部131が上記のいずれの修正指示体情報を出力するかを、製造者が撮像装置1の製造時に決定しても構わないし、ユーザが撮像装置1の使用時に決定しても構わない。
【0091】
このように構成すると、ユーザが操作部201を操作することで、指示体検出部202を無効化することが可能になる。そのため、撮像装置1の操作性を、さらに向上させることが可能になる。
【0092】
具体的に例えば、ユーザが、指示体検出部202の操作を終了して指示体を画像表示部14の表示面上から離脱させる際に、誤って指示体を動かし当該動きを指示体検出部202が検出したとしても、指示体検出部202の操作を終了した時点で操作部201を操作しておくことで、当該動きを示す指示体情報を無効化することが可能になる。
【0093】
なお、上述の動作例A1〜A3は一例に過ぎず、これらを部分的に変更しても構わないし、指示体情報修正部131が動作例A1〜A3以外の動作をしても構わない。また、指示体情報修正部131が、動作例A1〜A3のいずれで動作するかを、製造者が撮像装置1の製造時に決定しても構わないし、ユーザが撮像装置1の使用時に決定しても構わない。後者の場合、後述する補助画像表示制御部132と同様に、動作例A1〜A3のいずれで動作するかを指示する情報が指示体情報修正部131に入力され、当該情報が指示する動作例の通りに指示体情報修正部131が動作しても構わない。さらに、当該情報が補助画像表示モード情報であっても構わない。即ち、指示体情報修正部131が、補助画像表示制御部132と連動しても構わない。
【0094】
また、撮像装置1の動作状態に応じて、動作例A1〜A3が適宜選択されることとしても構わない。また、動作例A2及び動作例A3を同時に実施しても構わない。この場合、それぞれの動作例における操作情報(例えば、操作部201のボタン)が異なると好ましく、それぞれの操作情報が同時に入力された場合にどちらかの動作例が優先されると好ましい。
【0095】
[補助画像表示制御部]
補助画像表示制御部132は、例えば指示体情報または修正指示体情報を、取得領域情報にする。そして、補助画像表示制御部132は、この取得領域情報を、補助画像生成情報に含めて出力する。
【0096】
また、補助画像表示制御部132は、操作情報と指示体情報と修正指示体情報と補助画像表示モード情報とに基づいて、補助画像を含む出力画像の生成の要否を決定する。そして、補助画像表示制御部132は、この決定結果を示す要否情報を、補助画像生成情報に含めて出力する。この補助画像表示制御部132の動作例について、図面を参照して説明する。図7〜図9は、指示体情報修正部の動作例(B1〜B3)を示す表である。
【0097】
図7〜図9中の「表示」とは、補助画像表示制御部132が、画像表示部14の表示面に補助画像を含む出力画像を表示することを決定する場合を指す。一方、「非表示」とは、補助画像表示制御部132が、画像表示部14の表示面に補助画像を含まない出力画像を表示することを決定する場合を指す。なお、これらの他は図4〜図6について説明したものと同様であるため、説明を省略する。
【0098】
(動作例:B1)
図7は、補助画像表示制御部の動作例(B1)を示す表である。本動作例では、補助画像表示制御部132が、補助画像を含む出力画像を生成するか否かを、指示体情報を優先して決定する。また、この決定方法を示す補助画像表示モード情報が、補助画像表示制御部132に入力される。
【0099】
図7に示すように、本動作例では、指示体情報修正部131の動作例A1〜A3や操作部201がユーザに操作されているか否かにかかわらず、指示体検出部202が画像表示部14の表示面上に存在する指示体を検出しているときに、補助画像表示制御部132が、補助画像を含む出力画像を生成することを決定する。また、指示体検出部202が画像表示部14の表示面上に指示体が存在しないことを検出しているときに、補助画像表示制御部132が、補助画像を含まない出力画像を生成することを決定する。
【0100】
このように構成すると、真に画像表示部14の表示面上に指示体が存在している場合に、補助画像を含む出力画像を画像表示部14の表示面に表示させることが可能になる。
【0101】
(動作例:B2)
図8は、補助画像表示制御部の動作例(B2)を示す表である。本動作例では、補助画像表示制御部132が、補助画像を含む出力画像を生成するか否かを、操作情報を優先して決定する。また、この決定方法を示す補助画像表示モード情報が、補助画像表示制御部132に入力される。
【0102】
図8に示すように、本動作例では、指示体情報修正部131の動作例A1〜A3や指示体検出部202が画像表示部14の表示面上に存在する指示体を検出しているか否かにかかわらず、操作部201がユーザに操作されているときに、補助画像表示制御部132が、補助画像を含む出力画像を生成することを決定する。また、操作部201がユーザに操作されていないときに、補助画像表示制御部132が、補助画像を含まない出力画像を生成することを決定する。
【0103】
このように構成すると、操作部201をユーザが操作するという、ユーザによる明示の要求がある場合に、補助画像を含む出力画像を画像表示部14の表示面に表示させることが可能になる。
【0104】
(動作例:B3)
図9は、補助画像表示制御部の動作例(B3)を示す表である。本動作例では、補助画像表示制御部132が、補助画像を含む出力画像を生成するか否かを、修正指示体情報(指示体情報及び操作情報に基づいて、出力画像処理部13が有効なものとして扱う指示体情報。図4〜図6参照。)を優先して決定する。また、この決定方法を示す補助画像表示モード情報が、補助画像表示制御部132に入力される。
【0105】
図9に示すように、本動作例では、指示体情報修正部131が、画像表示部14の表示面上に指示体が存在する旨の修正指示体情報を出力するときに(図4〜図6参照)、補助画像表示制御部132が、補助画像を含む出力画像を生成することを決定する。また、指示体情報修正部131が、画像表示部14の表示面上に指示体が存在しない旨の修正指示体情報を出力するときに(図4〜図6参照)、補助画像表示制御部132が、補助画像を含まない出力画像を生成することを決定する。
【0106】
指示体情報修正部131が動作例A3で動作し、操作部201がユーザに操作される場合、例えば製造者の決定やユーザの決定次第で、指示体情報修正部131が、画像表示部14の表示面上に指示体が存在する旨の修正指示体情報か、画像表示部14の表示面上に指示体が存在しない旨の修正指示体情報を出力する(図6参照)。この場合も上記と同様に、指示体情報修正部131が出力する修正指示体情報に基づいて、補助画像表示制御部132が補助画像を含む出力画像を生成するか否かを決定する。
【0107】
このように構成すると、撮像装置1の操作性を向上させるべく生成される修正指示体情報に合わせて、補助画像を含む出力画像を画像表示部14の表示面に表示させるか否かを決定することが可能になる。
【0108】
なお、上述の動作例B1〜B3は一例に過ぎず、これらを部分的に変更しても構わないし、補助画像表示制御部132が動作例B1〜B3以外の動作をしても構わない。また、補助画像表示制御部132が、動作例B1〜B3のいずれで動作するかを、製造者が撮像装置1の製造時に決定しても構わないし、ユーザが撮像装置1の使用時に決定しても構わない。前者の場合、補助画像表示モード情報が、補助画像表示制御部132に入力されないこととしても構わない。
【0109】
また、補助画像表示制御部132が、指示体情報及び修正指示体情報のいずれを取得領域情報にするかを、補助画像表示モード情報に基づいて決定しても構わない。具体的に例えば、補助画像表示制御部132が、動作例B1のように指示体情報を優先して補助画像を含む出力画像の生成の要否を決定する場合、指示体情報を取得領域情報にしても構わない。また例えば、補助画像表示制御部132が、動作例B3のように修正指示体情報を優先して補助画像を含む出力画像の生成の要否を決定する場合、修正指示体情報を取得領域情報にしても構わない。
【0110】
[画像処理実行部]
画像処理実行部133は、修正指示体情報に基づいた画像処理を入力画像に施して、処理後画像を生成する。この画像処理実行部133の動作例について、図面を参照して説明する。図10〜図13は、画像処理実行部の動作例(C1〜C3)について説明する図である。
【0111】
(動作例:C1)
図10は、画像処理実行部の動作例(C1)について説明する図であり、入力画像の一例を示すものである。本動作例では、画像処理実行部133が、入力画像中の不要物体領域Bを除去する処理を行う。
【0112】
図10に示すように、本動作例では、最初にユーザが、画像表示部14の表示面に表示される出力画像(図10の入力画像)を視認し、不要物体領域Bを指示体で指示する。このとき、画像表示部14の表示面上における指示体の位置及び面積を指示体検出部202が検出し、入力画像中の不要物体領域Bの位置及び面積を示す修正指示体情報を、画像処理実行部133に入力する。画像処理実行部133は、この修正指示体情報に基づいて、不要物体領域Bを含む処理対象領域Aを設定する。
【0113】
画像処理実行部133は、処理対象領域Aから不要物体領域Bを除いた領域の画像と、入力画像の処理対象領域Aを除いた領域の画像との対比に基づく画像マッチング等を行い、入力画像の処理対象領域Aを除いた領域中から、処理対象領域Aから不要物体領域Bを除いた領域に類似する領域を探索する。
【0114】
上記の探索の結果、入力画像中の処理対象領域Aを除いた領域から、内部が欠落した類似領域M1(灰色で示した領域であり、内部の白色で示した領域は含まない)が探索されたとする。このとき、画像処理実行部133は、内部が欠落していない類似領域M1である充当領域M2(灰色で示した領域と内部の白色で示した領域とを合わせた領域)を、処理対象領域Aから不要物体領域Bを除いた領域に対して、所定の混合比率で混合(例えば、加重加算)する。なお、充当領域M2は、処理対象領域Aと形状及び大きさが略等しい領域である。
【0115】
画像処理実行部133は、以上の処理を行うことで、不要物体領域Bが除去された処理後画像を生成する。また、上述のように、ユーザが指示体検出部202を操作すると、補助画像を含む出力画像が画像表示部14の表示面に表示され得る。
【0116】
このように構成すると、ユーザは、画像表示部14の表示面に表示される出力画像中の不要物体領域Bを指示体で指示するだけで、不要物体領域Bを除去した処理後画像を得ることが可能になる。また、画像処理実行部133がこの処理を行う際に、補助画像を含む出力画像が画像表示部14の表示面に表示され得る。そのため、ユーザは、望んだ画像が得られたか否かを容易に把握することが可能になる。
【0117】
なお、本動作例の処理は繰り返し行われ得るものであり、繰り返し行われることで(例えば、画像表示部14の表示面に表示された出力画像中の不要物体領域Bの上を、ユーザが指示体で繰り返し擦ることで)徐々に不要物体領域Bが除去されていくように、上記の混合比率などを設定しても構わない。
【0118】
また、説明の都合上、図10において処理対象領域A、不要物体領域B、類似領域M1及び充当領域M2を示しているが、出力画像処理部13は、これらの領域を示さない出力画像を生成しても構わないし、これらの少なくとも1つの領域を示す出力画像を生成しても構わない。また、図10では、ユーザが不要物体領域Bの輪郭を精度良く指示する場合について示しているが、ユーザが不要物体領域Bの輪郭を考慮せずに適当に不要物体領域Bやその周囲の位置を指示したとしても、不要物体領域Bを除去した処理後画像を得ることは可能である。
【0119】
また、本動作例は、入力画像中の不要物体領域Bを除去する処理のみに限られず、入力画像中の所定領域を変化させる(画像そのものを変化させる)種々の処理に対して適用可能である。
【0120】
(動作例:C2)
図11及び図12は、画像処理実行部の動作例(C2)について説明する図である。図11は、処理後画像の一例を示すものであり、図12は、本動作例の処理を行う画像処理実行部133の要部の構成(または機能)を示すブロック図である。本動作例では、画像処理実行部133が、入力画像中の一部の領域の解像感を高める処理(超解像処理)を行う。
【0121】
図11に示すように、本動作例では最初にユーザが、画像表示部14の表示面に表示される出力画像(図11の入力画像)を視認し、解像感を高めるべき領域を指示体で指示する。このとき、画像表示部14の表示面上の指示体の位置及び面積を指示体検出部202が検出し、入力画像中の解像感を高めるべき領域の位置及び面積を示す修正指示体情報を、画像処理実行部133に入力する。画像処理実行部133は、この修正指示体情報に基づいて、解像感を高めるべき領域を含む処理対象領域Aを設定する。
【0122】
また、図12に示すように、画像処理実行部133は、入力画像の処理対象領域Aを高解像度化することで1次高解像度化画像を生成するまたは差分情報に基づいてn次低解像度化画像(nは自然数)を高解像度化することでn+1次高解像度化画像を生成する高解像度化処理部133aと、n次高解像度化画像を低解像度化してn次低解像度化画像を生成する低解像度化処理部133bと、入力画像の処理対象領域Aとn次低解像度化画像との差分を求めて差分情報を生成する差分算出部133cと、を備える。また、高解像度化処理部133aが生成するn次高解像度化画像が、処理後画像の処理対象領域Aになり得る。
【0123】
本動作例では、まず、高解像度化処理部133aが、入力画像の処理対象領域Aを高解像度化(拡大)する。例えば、複数の画像の画素を組み合わせたり、1つの入力画像に対して所定の補間処理を適用したりすることで、高解像度化する。これにより、1次高解像度化画像が得られる。
【0124】
次に、低解像度化処理部133bが、高解像度化処理部133aで得られる1次高解像度化画像を、入力画像の処理対象領域Aと略等しい解像度となるように低解像度化する。例えば、画素加算処理や間引き処理などを適用することで、低解像度化(縮小)する。これにより、1次低解像度化画像が得られる。
【0125】
差分算出部133cは、入力画像の処理対象領域Aと1次低解像度化画像との差分を求め、差分情報として出力する。高解像度化処理部133aは、差分情報に基づいて高解像度化の処理内容を補正することで、より精度良く入力画像を高解像度化した2次高解像度化画像を得る。また、上記の処理と同様の処理を2次高解像度化画像に施すことで、3次高解像度化画像が得られる。即ち、上記の処理と同様の処理をn次高解像度化画像に施すことで、n+1次高解像度化画像が得られる。
【0126】
上述の高解像度化及び低解像度化の一連の処理は、収束する(例えば、所定の繰り返し回数が行われたり、差分が所定の閾値よりも小さくなったりする)まで行い、収束した時点のn次高解像度化画像を、処理後画像の処理対象領域Aとする。
【0127】
そして、画像処理実行部133は、得られた処理後画像の処理対象領域Aと、入力画像の処理対象領域A以外の領域と、を組み合わせることで処理後画像を生成する。また、上述のように、ユーザが指示体検出部202を操作すると、補助画像を含む出力画像が画像表示部14の表示面に表示され得る。
【0128】
このように構成すると、ユーザは、画像表示部14の表示面に表示される出力画像中の解像感を高めるべき領域を指示体で指示するだけで、当該領域の解像感を高めた処理後画像を得ることが可能になる。また、画像処理実行部133がこの処理を行う際に、補助画像を含む出力画像が画像表示部14の表示面に表示され得る。そのため、ユーザは、望んだ画像が得られたか否かを容易に把握することが可能になる。
【0129】
なお、本動作例の処理は繰り返し行われ得るものであり、繰り返し行われることで(例えば、画像表示部14の表示面に表示された出力画像中の解像感を高めるべき領域の上を、ユーザが指示体で繰り返し擦ることで)徐々に解像感が高められるように、上記の収束する条件(例えば、繰り返し回数や差分の閾値)などを設定しても構わない。また、説明の都合上、図11において処理対象領域Aを示しているが、出力画像処理部13は、処理対象領域Aを示さない出力画像を生成しても構わないし、処理対象領域Aを示す出力画像を生成しても構わない。
【0130】
また、処理後画像の処理対象領域Aと、処理後画像の処理対象領域A以外の領域と、が略等しい解像度になるように、入力画像の処理対象領域A以外の領域に対して、例えば単純な(解像感が高まらない)補間処理などを施し、高解像度化(拡大)しても構わない。
【0131】
また、本動作例は、解像感を高める処理のみに限られず、入力画像中の所定領域の画質を調整する種々の処理に対して適用可能である。
【0132】
(動作例:C3)
図13は、画像処理実行部の動作例(C3)について説明する図であり、処理後画像の一例を示すものである。本動作例では、画像処理実行部133が、ユーザが撮像装置1のズームを操作するための画像であるバーPを、入力画像中に重畳する処理を行う。なお、このバーPは、内部のゲージ(灰色で示した領域)の示値端部(ズーム状態を示す端部、図13では右端部)が左側(ワイド側)に進むとズームアウトが行われ、右側(テレ側)に進むとズームインが行われる。
【0133】
図13に示すように、本動作例では最初にユーザが、画像表示部14の表示面に表示される出力画像(図13の処理後画像)を視認し、バーPが表示されている領域中の任意の位置を指示体で指示することで、バーP内のゲージを所望の状態にする。例えばユーザは、バーP内のゲージの示値端部が表示されている上に指示体を位置させ、指示体をバーPに沿って左側または右側にスライドさせることで、ゲージを所望の状態にする。
【0134】
このとき、画像表示部14の表示面上における指示体の位置及び面積を指示体検出部202が検出し、修正指示体情報として画像処理実行部133に入力する。画像処理実行部133は、この修正指示体情報に応じたバーPを入力画像中に重畳する。例えば、指示体が指示する位置がゲージの示値端部になるバーPを、入力画像中に重畳する。
【0135】
画像処理実行部133は、以上の処理を行うことで、バーPが重畳された処理後画像を生成する。また、上述のように、ユーザが指示体検出部202を操作すると、補助画像を含む出力画像が画像表示部14の表示面に表示され得る。
【0136】
さらに、CPU18は、上述のユーザの操作に応じたズームが行われるように、撮像装置1の動作を制御する。例えば、レンズ部3のズームレンズの位置を光軸に沿って移動させる(光学ズームを行う)。また例えば、入力画像処理部5が撮像により得られた画像から入力画像を生成するために取得する領域(画角)を、変更する(電子ズームを行う)。
【0137】
このように構成すると、ユーザは、画像表示部14の表示面に表示される出力画像中のバーPのゲージを指示体で操作するだけで、撮像装置1のズームを操作することが可能になる。また、画像処理実行部133がこの処理を行う際に、補助画像を含む出力画像が画像表示部14の表示面に表示され得る。そのため、ユーザは、意図した位置を指示体によって正しく指示できているか否かを容易に把握することが可能になる。
【0138】
なお、図13では、入力画像中に重畳するバーPを、撮像装置1のズームを操作するためのものとして説明したが、これ以外のためのものとしても構わない。例えば、入力画像中に重畳するバーを、入力画像または処理後画像の色味や輝度を調整するためのものとしても構わないし、集音部6の指向性や音響再生部16で再生される音響信号の音量を調整するためのものとしても構わない。
【0139】
また、本動作例は、入力画像中にバーを重畳する処理のみに限られず、ユーザが撮像装置1の種々の動作を操作するための画像を入力画像中に重畳する処理に対して適用可能である。
【0140】
[補助画像重畳部]
補助画像重畳部134は、補助画像生成情報に含まれる要否情報に基づいて、補助画像を含む出力画像の生成の要否を確認する。補助画像重畳部134は、補助画像を含む出力画像を生成しないことを確認する場合、処理後画像を出力画像として出力する。一方、補助画像重畳部134は、処理後画像を含む出力画像を生成することを確認する場合、補正画像を生成するべく、補助画像生成情報に含まれる取得領域情報に基づいて、処理後画像中に取得領域を設定する。
【0141】
補助画像重畳部134は、取得領域情報(指示体情報または修正指示体情報)によって処理後画像中の不可視領域を認識して、取得領域を設定する。例えば、補助画像重畳部134は、不可視領域を包含する領域を、取得領域として設定する。なお、不可視領域が変動する際、補助画像重畳部134が、当該変動に応じて取得領域を変動させても構わないし、最初に認識した不可視領域に基づいて設定した取得領域を維持しても構わない。また、前者及び後者の取得領域の設定方法のいずれを採用するかを、画像処理実行部133が行う画像処理に応じて決定しても構わない。例えば、画像処理実行部133が動作例C1で動作する場合(ユーザが、画像表示部14の表示面上で広範囲かつ不定の領域内で指示体を動かすと想定される場合)は、補助画像重畳部134が前者の取得領域の設定方法を採用し、画像処理実行部133が動作例C2またはC3で動作する場合(ユーザが、画像表示部14の表示面上の狭範囲または既定の領域内で指示体を動かすと想定される場合)は、後者の取得領域の設定方法を採用しても構わない。
【0142】
補助画像重畳部134は、上記のように設定した取得領域を示す補助画像を生成し、処理後画像中に重畳する。例えば、補助画像重畳部134は、処理後画像中の補助画像を重畳する領域を、取得領域に隣接し処理後画像中に収まる領域とする。なお、補助画像重畳部134が、処理後画像中の補助画像を重畳する領域を設定する際に、取得領域を基準にして、可能な限り処理後画像の中心側となるように当該領域を設定しても構わないし、可能な限りユーザが事前に設定した自身の利き手と反対側(例えば、左利きであれば右側)となるように当該領域を設定しても構わない。
【0143】
また、補助画像重畳部134は、付加画像表示情報に基づいて、必要に応じて補助画像を含む出力画像に付加画像を付加する。この動作例について、図面を参照して説明する。図14及び図15は、補助画像重畳部の動作例(D1及びD2)について説明する図である。
【0144】
(動作例:D1)
図14は、画像処理実行部の動作例(D1)について説明する図であり、補助画像を含む出力画像に付加し得る付加画像の一例を示すものである。図14に示す付加画像E1〜E4は、取得領域中における指示体の位置を、補助画像中に表すものである。
【0145】
付加画像E1〜E3は、指示体(例えば、人間の指)を模したものであり、取得領域中における指示体の位置を、補助画像中の付加画像E1〜E3の領域で表すものである。また、付加画像E1は略不透明であり、付加画像E2は半透明、付加画像E3は透明(輪郭線のみ)である。
【0146】
付加画像E4は矢印であり、取得領域中における指示体の位置を、補助画像中の付加画像E4の矢尻の先端で表すものである。また、付加画像E4は不透明であるが、付加画像E2と同様に半透明にしても構わないし、付加画像E3と同様に透明にしても構わない。
【0147】
このように構成すると、画像表示部14の表示面に表示される出力画像中の指示体の下に表示される領域と、指示体の位置との関係を、ユーザが容易に把握することが可能になる。
【0148】
(動作例:D2)
図15は、画像処理実行部の動作例(D2)について説明する図であり、補助画像を含む出力画像に付加し得る付加画像の一例を示すものである。なお、図15に示す付加画像E31〜E33は、図14に示した付加画像E3に本動作例を適用したものである。なお、本動作例は、図14の付加画像E3のみに限られず、他の付加画像にも適用可能である。
【0149】
付加画像E31〜E33は、取得領域中における指示体の位置及び面積を、補助画像中の付加画像E31〜E33の領域で表すものである。指示体の面積が大きくなるほど、付加画像E31〜E33の領域が大きくなる。
【0150】
このように構成すると、画像表示部14の表示面に表示される出力画像中の指示体の下に表示される領域と、指示体の位置及び面積との関係とを、ユーザが容易に把握することが可能になる。
【0151】
(動作例:D3)
本動作例は、補助画像を含む出力画像に、付加画像を付加しないものである。本動作例では、例えば図2(b)に示すような出力画像が得られる。
【0152】
このように構成すると、画像表示部14の表示面に表示される出力画像中の指示体の下に表示される領域を、ユーザが明確に把握することが可能になる。
【0153】
<出力画像処理部の動作例>
これまで、出力画像処理部13を構成する各部の動作例について説明したが、以下では、これらの動作例を組み合わせた一連の動作について説明する。なお、以下説明するそれぞれの動作における各部の動作例の組み合わせは一例に過ぎず、上述した各部の動作例は矛盾なき限りどのように組み合わせても構わない。
【0154】
(第1動作例)
出力画像処理部13の第1動作例について、図16を参照して説明する。図16は、出力画像処理部の第1動作例について説明する図である。図16は、出力画像が表示された画像表示部14の表示面を示すものである。また、図16中、画像表示部14の表示面に表示される出力画像と、画像表示部14の表示面上に存在する指示体Fとを明確に区別するため、指示体Fに斜線のハッチングを付して表現している。なお、図16に示す画像表示部14の表示面に表示されている出力画像は、図10に示した入力画像から得られたものである。また、図16は、(a)、(b)、(c)の順に、画像表示部14の表示面の状態が変化することを示したものである。
【0155】
第1動作例は、指示体情報修正部131が動作例A1で動作し、補助画像表示制御部132が動作例B1で動作し、画像処理実行部133が動作例C1で動作し、補助画像重畳部134が動作例D1及びD2(図14の付加画像E3及び図15の付加画像E31〜E33参照)で動作する場合のものである。
【0156】
最初に、図10に示した入力画像が、出力画像として画像表示部14の表示面に表示される。そして、ユーザが、不要物体領域Bを指示体Fで指示すると、画像表示部14の表示面が、図16(a)に示す状態となる。図16(a)に示す状態では、画像表示部14の表示面上における指示体Fの面積が小さいため、付加画像E31の領域が小さいものになっている。
【0157】
図16(a)の状態を視認したユーザは、図16(b)に示すように、指示体Fの面積を大きくして、より効率良く不要物体領域Bを除去しようとする。このとき、付加画像E32の領域は、画像表示部14の表示面上における指示体Fの面積の増大に応じて、大きくなる。さらに、ユーザは、不要物体領域Bがあまり除去されていない部分を、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認することで把握し、当該部分を指示体Fで重点的に指示しようとする。
【0158】
そして、ユーザは、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認し、所望の状態になったことを確認すると、指示体Fを画像表示部14の表示面上から離脱させる。すると、図16(c)に示すように、補助画像Sを含まない出力画像(即ち、処理後画像)が補助画像重畳部134で生成されて、画像表示部14の表示面に表示される。
【0159】
このように、ユーザは、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認することで、指示体検出部202の操作を、状況に応じて最適なものにすることが可能になる。
【0160】
また、説明の都合上、図16(a),(b)において取得領域Uを示しているが、出力画像処理部13は、取得領域Uを示さない出力画像を生成しても構わないし、取得領域Uを示す出力画像を生成しても構わない。
【0161】
(第2動作例)
出力画像処理部13の第2動作例について、図17を参照して説明する。図17は、出力画像処理部の第2動作例について説明する図である。図17は、出力画像が表示された画像表示部14の表示面を示すものである。また、図17中、画像表示部14の表示面に表示される出力画像と、画像表示部14の表示面上に存在する指示体Fとを明確に区別するため、指示体Fに斜線のハッチングを付して表現している。なお、図17に示す画像表示部14の表示面に表示されている出力画像は、図11に示した入力画像から得られたものである。また、図17は、(a)、(b)、(c)の順に、画像表示部14の表示面の状態が変化することを示したものである。
【0162】
第2動作例は、指示体情報修正部131が動作例A2で動作し、補助画像表示制御部132が動作例B2で動作し、画像処理実行部133が動作例C2で動作し、補助画像重畳部134が動作例D3で動作する場合のものである。
【0163】
最初に、図11に示した入力画像が、出力画像として画像表示部14の表示面に表示される。そして、ユーザが、解像感を高めるべき領域を指示体Fで指示すると、画像表示部14の表示面が、図17(a)に示す状態となる。図17(a)の状態を視認したユーザは、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認しながら、解像感を高める処理が繰り返し行われるように、指示体Fを用いて指示体検出部202を操作する。具体的に例えば、画像表示部14の表示面に表示されている出力画像中の解像感を高めるべき領域の上を、ユーザが指示体Fで繰り返し擦る。
【0164】
また、ユーザは、操作部201を操作して(例えば、ボタンを押下しながら)、指示体Fを画像表示部14の表示面上から一時的に離脱させ、画像表示部14に表示される出力画像の全体を視認する。このとき、画像処理実行部133は、ユーザが画像処理部14の表示面上で指示体Fの動きを一時的に止めたものとして認識して画像処理を終了せず、ユーザが指示体検出部202の操作を再開するまで待機する。またこのとき、補助画像重畳部134は、図17(b)に示すように、画像表示部14の表示面上に指示体Fが存在しなくても、補助画像Sを含む出力画像を生成する。
【0165】
そして、ユーザは、指示体Fを用いて指示体検出部202をさらに操作し、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認することで所望の状態になったことを確認すると、操作部201を操作しないで、指示体Fを画像表示部14の表示面上から離脱させる。すると、図17(c)に示すように、補助画像Sを含まない出力画像(即ち、処理後画像)が補助画像生成部134で生成されて、画像表示部14の表示面に表示される。
【0166】
このように、ユーザは、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認することで、指示体Fを用いた指示体検出部202の操作を、状況に応じて最適なものにすることが可能になる。また、操作部201を適切に操作することで、画像処理実行部133が一連の画像処理を行っている間に、指示体Fを画像表示部14の表示面上から一時的に離脱させることが可能になる。
【0167】
また、説明の都合上、図17(a),17(b)において取得領域Uを示しているが、出力画像処理部13は、取得領域Uを示さない出力画像を生成しても構わないし、取得領域Uを示す出力画像を生成しても構わない。
【0168】
(第3動作例)
出力画像処理部13の第3動作例について、図18を参照して説明する。図18は、出力画像処理部の第3動作例について説明する図である。図18は、出力画像が表示された画像表示部14の表示面を示すものである。また、図18中、画像表示部14の表示面に表示される出力画像と、画像表示部14の表示面上に存在する指示体Fとを明確に区別するため、指示体Fに斜線のハッチングを付して表現している。なお、図18(a)〜(c)は、図13に示した処理後画像が出力画像として画像表示部14の表示面に表示された状態を起点とするものであり、当該状態に続いて(a)、(b)、(c)の順に、画像表示部14の表示面の状態が変化することを示したものである。
【0169】
第3動作例は、指示体情報修正部131が動作例A3で動作し、補助画像表示制御部132が動作例B3で動作し、画像処理実行部133が動作例C3で動作し、補助画像重畳部134が動作例D1(図14の付加画像E4参照)で動作する場合のものである。
【0170】
最初に、図13に示した処理後画像が、出力画像として画像表示部14の表示面に表示される。そして、ユーザが、バーP内の所望の位置を指示体Fで指示する(例えば、バーP内のゲージの示値端部が表示されている上に指示体Fを位置させ、指示体FをバーPに沿って所望の位置までスライドさせる)と、画像表示部14の表示面が、図18(a)に示す状態となる。
【0171】
図18(a)は、図13の処理後画像が得られる状態から、上記のユーザの操作によりズームアウトが行われ、新たに得られた入力画像に基づいて出力画像処理部13が生成した出力画像が、画像表示部14の表示面に表示された状態を示すものである。図18(a)に示すように、本動作例では、付加画像E4の矢尻の先端が、補助画像Sにおける示値端部(取得領域U中における指示体Fの位置)を指している。
【0172】
図18(a)の状態を視認したユーザは、さらなるズームアウトが行われるように、指示体Fを用いて指示体検出部202を操作する。具体的に例えば、ユーザは、指示体FをバーPに沿ってさらに左側にスライドさせる。
【0173】
また、ユーザは、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認することで所望のズーム(図18に示す例ではズームアウト)が行われたことを確認すると、操作部201を操作する。本動作例では、ユーザが操作部201を操作すると、画像処理実行部133及びズームの制御を行うCPU18が、画像処理部14の表示面上から指示体Fが離脱したものとして認識する。そして、ユーザが操作部201を操作している限り(例えば、ボタンを押下している限り)、指示体Fが画像表示部14の表示面上を動いても、画像処理実行部133及びCPU18はこの認識を継続する。またこのとき、補助画像重畳部134は、図18(b)に示すように、画像表示部14の表示面上に指示体Fが存在していても、補助画像Sを含まない出力画像を生成する。
【0174】
そして、ユーザは、指示体Fを画像表示部14の表示面上から離脱させ、操作部201の操作をやめる。この間も、図18(c)に示すように、補助画像Sを含まない出力画像(即ち、処理後画像)が補助画像重畳部134で生成されて、画像表示部14の表示面に表示される。
【0175】
このように、ユーザは、画像表示部14の表示面に表示される出力画像中の補助画像Sを視認することで、指示体Fを用いた指示体検出部202の操作を、状況に応じて最適なものにすることが可能になる。また、操作部201を適切に操作することで、ユーザによる指示体Fの誤操作を無効化することが可能になる。
【0176】
また、説明の都合上、図18(a)において取得領域Uを示しているが、出力画像処理部13は、取得領域Uを示さない出力画像を生成しても構わないし、取得領域Uを示す出力画像を生成しても構わない。
【0177】
<出力画像及び補助画像などの関係について>
上述の説明から理解されるが、出力画像処理部13にて生成されうる出力画像は、例えば、補助画像Sが重畳されない第1出力画像(補助画像Sを含まない出力画像)と、補助画像Sが重畳された第2出力画像(補助画像Sを含む出力画像)と、補助画像Sが重畳され且つ付加画像が付加された第3出力画像(補助画像S及び付加画像を含む出力画像)とに大別される。
【0178】
第1〜第3出力画像の何れもが入力画像又は処理後画像に基づき生成される(図3参照)。以下、便宜上、入力画像又は処理後画像を基準画像と呼ぶ。また、画像表示部14の表示面に表示される画像を表示画像と呼ぶ。表示画像は、基準画像に基づく画像である。表示画像は、基準画像(入力画像又は処理後画像)でありうるし、出力画像(第1、第2又は第3出力画像)でもありうる。
【0179】
また、補助画像Sが重畳された出力画像(即ち第2又は第3出力画像)を、便宜上、重畳画像という。図2(b)に示される画像は、重畳画像の例である。第3出力画像として生成される重畳画像(図16(a)等参照)では、指示体Fの検出位置を表す付加画像(例えば図16(a)のE31)が、当該重畳画像に含まれる補助画像(例えば図16(a)のS)中に示されている。また、指示体検出部202によって検出された、画像表示部14の表示面上に存在する指示体Fの位置を、指示体Fの検出位置又は単に検出位置という。また、画像表示部14の表示面を単に表示面とも呼ぶ。
【0180】
これらの用語を用いて、上述してきた技術を以下のように表現することもできる。
指示体検出が成されたとき(即ち、指示体検出部202によって表示面上に存在する指示体が検出されたとき)、図2(b)に示す如く、出力画像処理部13は、表示面に表示画像(出力画像)を表示した場合に指示体Fの下に表示される不可視領域を含む取得領域Uを、指示体Fの検出位置に基づいて設定する処理と、基準画像における取得領域U内の画像信号に基づき補助画像Sを生成する処理と、不可視領域(又は取得領域U)とは異なる重畳用領域を設定する処理と、基準画像中の重畳用領域に補助画像を重畳させることで重畳画像を生成する処理と、を実行できる。不可視領域又は取得領域Uは、指示体Fの検出位置を内包する特定領域である。出力画像処理部13は、任意の重畳画像を出力画像及び表示画像として生成することができる(後述の第4〜第6動作例においても同様)。基準画像における取得領域U内の画像信号に基づいて生成される補助画像Sは、基準画像における取得領域U内の画像そのものであっても良いし、基準画像における取得領域U内の画像を拡大又は縮小した画像であっても良い。
【0181】
<出力画像処理部の他の動作例>
出力画像処理部13の他の動作例について説明する。尚、Uの頭文字が付与された任意の取得領域(後述の取得領域U410等)は取得領域Uの一種であり、Sの頭文字が付与された任意の補助画像(後述の補助画像S410等)は補助画像Sの一種である。
【0182】
(第4動作例)
図19(a)等を参照して、出力画像処理部13の第4動作例を説明する。図19(a)では、補助画像Sを含まない第1出力画像(即ち基準画像)が表示画像として画像表示部14に表示された様子を示している。出力画像処理部13の第4動作例では、入力画像に基づく表示画像が表示面に表示されているときにユーザが指示体を表示面上の複数の位置410及び420に対して、順次又は同時に、接触(又は接近)させたことを想定する。結果、指示体検出部202において、位置410及び420が複数の検出位置(指示体Fの複数の検出位置)として得られる。
【0183】
複数の検出位置410及び420が得られたとき、出力画像処理部13は、上述の取得領域Uの設定方法に従い、検出位置410を内包する取得領域U410及び検出位置420を内包する取得領域U420を設定し(図19(b)参照)、更に、取得領域U410に対応する補助画像S410及び取得領域U420に対応する補助画像S420を基準画像から抽出(生成)する(図20(a)等参照)。補助画像S410は、基準画像における取得領域U410内の画像そのもの、又は、該画像を拡大又は縮小した画像である。補助画像S420も同様である。
【0184】
出力画像処理部13は、取得領域U410(又は検出位置410に対応する不可視領域)とは異なる第1重畳用領域及び取得領域U420(又は検出位置420に対応する不可視領域)とは異なる第2重畳用領域を設定し、基準画像中の第1及び第2重畳用領域に対して夫々補助画像S410及びS420を重畳することで重畳画像Qを生成する。
【0185】
図20(a)〜(b)は、重畳画像Qの例が表示された画像表示部14の様子を示している。図20(a)及び(b)に示す如く、重畳画像Qにおいて補助画像S410及びS420が互いに重なり合わないように第1及び第2重畳用領域を設定しても良いし、図20(c)及び(d)に示す如く、重畳画像Qにおいて補助画像S410及びS420が部分的に互いに重なり合うように第1及び第2重畳用領域を設定しても良い。
【0186】
この際、重畳画像Qにおける補助画像S410及びS420間の位置関係を、検出位置410及び420間の位置関係に合わせるか否かは任意である。例えば、双方の位置関係を合わせる場合、表示面上において検出位置410が検出位置420よりも左側に位置しているならば、重畳画像Qにおいて補助画像S410を補助画像S420よりも左側に配置させる。重畳画像Qにおいて、補助画像S410及びS420は垂直又は水平方向に並んでいても良いし、並んでいなくてもよい。また、指示体による位置410の接触タイミングと指示体による位置420の接触タイミングとの前後関係に基づき、重畳画像Qにおける補助画像S410及びS420間の位置関係を決定しても良い。例えば、より早い方の接触タイミングに対応する検出位置についての補助画像を、重畳画像Qにおいて、より左側に(又はより右側に)配置するようにしてもよい。重畳画像Q上で補助画像S410及びS420を部分的に互いに重なり合わせる場合においては、より遅い方の接触タイミングに対応する検出位置についての補助画像を、他の補助画像の上に配置するようにしてもよいし、或いは、その逆でも良い。
【0187】
尚、検出位置と補助画像との関係をユーザが視認できるような表示を成しても良い。例えば、検出位置410及び420をユーザが視認できるように表示面上において検出位置410及び420を夫々第1及び第2の色を用いて明示する一方で、表示面上における補助画像410及び420の外枠を夫々第1及び第2の色を用いて表すと良い(第1及び第2の色は互いに異なる)。
【0188】
また、基準画像上における検出位置410及び420間の距離が短い場合には、検出位置410及び420を内包する1つの補助画像のみを生成及び重畳するようにしてもよい(図21参照)。該距離が短い場合には、検出位置410及び420を含む領域を1つにまとめて表示した方が見やすいと考えられ、また、補助画像の占有表示領域が小さくて済むからである。即ち例えば、出力画像処理部13は、基準画像上における検出位置410及び420間の距離が所定距離よりも大きいときには、上述の如く重畳画像Qを出力画像として生成する処理を行って重畳画像Qを表示面に表示させ、一方、基準画像上における検出位置410及び420間の距離が所定距離以下であるときには、重畳画像Qを出力画像として生成する処理を行って重畳画像Qを表示面に表示させてもよい。図21は、重畳画像Qの例が表示された画像表示部14の様子を示している。
【0189】
重畳画像Qを生成する処理を説明する。出力画像処理部13は、上述の取得領域Uの設定方法及び補助画像Sの生成方法に従い、検出位置410及び420を共に内包する取得領域U410:420を設定して、取得領域U410:420に対応する補助画像S410:420を基準画像から抽出(生成)する。補助画像S410:420は、基準画像における取得領域U410:420内の画像そのもの、又は、該画像を拡大又は縮小した画像である。その後、出力画像処理部13は、取得領域U410:420(又は検出位置410及び420に対応する不可視領域)とは異なる重畳用領域を設定し、基準画像中の該重畳用領域に対して補助画像S410:420を重畳することで重畳画像Qを生成する。
【0190】
尚、指示体の検出位置の個数が2であるときを想定して重畳画像Q及びQの生成方法例を説明したが、検出位置の個数が3以上であっても、上述と同様に処理することができる。
【0191】
(第5動作例)
図22(a)等を参照して、出力画像処理部13の第5動作例を説明する。図22(a)では、補助画像Sを含まない第1出力画像(即ち基準画像)が表示画像として画像表示部14に表示された様子を示している。出力画像処理部13の第5動作例では、入力画像に基づく表示画像が表示面に表示されているときに、まず、ユーザが指示体を表示面上の位置430に接触(又は接近)させたことを想定する。結果、指示体検出部202において、位置430が検出位置として得られる。
【0192】
出力画像処理部13は、上述の取得領域Uの設定方法及び補助画像Sの生成方法に従い、検出位置430を内包する取得領域U430を設定して、取得領域U430に対応する補助画像S430を基準画像から抽出(生成)する。この際、出力画像処理部13は、基準画像における取得領域U430内の画像I430を拡大させる第1拡大処理を実行し、拡大された画像I430を補助画像S430として生成する。その後、出力画像処理部13は、取得領域U430(又は検出位置430に対応する不可視領域)とは異なる重畳用領域を設定し、基準画像中の該重畳用領域に対して補助画像S430を重畳することで重畳画像Qを生成する。図22(b)は、重畳画像Qの例が表示された画像表示部14の様子を示している。
【0193】
補助画像S430を含む重畳画像Qが表示画像として表示面に表示されている状態において、図22(c)に示す如く、ユーザが、更に、指示体を表示面上の位置440に接触(又は接近)させたことを想定する。位置440は、表示面に表示された補助画像S430内の位置である。出力画像処理部13は、表示面に表示された補助画像S430内の位置が検出位置440として検出されると、検出位置440を内包する取得領域U440を設定して、取得領域U440に対応する補助画像S440を基準画像又は補助画像S430から抽出(生成)する。この際、出力画像処理部13は、基準画像又は補助画像S430における取得領域U440内の画像I440を拡大させる第2拡大処理を実行し、拡大された画像I440を補助画像S440として生成する。基準画像から見て、補助画像S440の画像拡大率は補助画像S430のそれよりも大きい。その後、出力画像処理部13は、補助画像S430が重畳される重畳用領域と異なり且つ取得領域U430とも異なる第2重畳用領域を設定し、補助画像S430を含む重畳画像Q中の第2重畳用領域に対して補助画像S440を更に重畳することで重畳画像(マルチ重畳画像)Qを生成する。図22(d)は、重畳画像Qの例が表示された画像表示部14の様子を示している。
【0194】
補助画像S430及びS440を含む重畳画像Qが表示されている状態において、更に、補助画像S430又はS440内の位置が指示体の検出位置として検出されたとき、3つ目の補助画像を更に生成及び重畳するようにしても良い(4つ目及び4つ目以降の補助画像についても同様)。
【0195】
図22(d)に示すような画像の表示を可能にしておくことにより、限られた表示面の中で、ユーザは注目部分の詳細確認を行うことが可能となる(補助画像S430中の領域を、補助画像S440にて更に詳細に確認するといったことが可能となる)。但し、上述の第1及び第2拡大処理を割愛することも可能である。即ち例えば、出力画像処理部13は、取得領域U430内の画像I430そのもの又は画像I430を縮小した画像を補助画像S430として生成しても良いし、取得領域U440内の画像I440そのもの又は画像I440を縮小した画像を補助画像S440として生成しても良い。
【0196】
尚、補助画像S(S430等)含む重畳画像が表示面に表示されているときにおいて、表示面上の補助画像S内の位置が指示体によって指定されたとき、指定された位置に基づき、上述の動作例C1又はC2等で述べた画像処理実行部133の処理(例えば、不要物体領域を除去する処理)を行うようにしても良く、該処理の結果を表示面の表示内容に反映させても良い。
【0197】
(第6動作例)
図23(a)等を参照して、出力画像処理部13の第6動作例を説明する。図23(a)では、補助画像Sを含まない第1出力画像(即ち基準画像)が表示画像として画像表示部14に表示された様子を示している。出力画像処理部13の第6動作例では、上述の動作例C1が利用されることを想定し(図10も参照)、更に、不要物体領域Bを除去するための類似領域M1及び充当領域M2がユーザに指定されることを想定する。より具体的には、入力画像に基づく表示画像が表示面に表示されているときに、不要物体領域Bを指定すべく、ユーザが指示体を表示面上の位置510に接触(又は接近)させ、その後、不要物体領域Bを除去するための類似領域M1及び充当領域M2を指定すべく、ユーザが指示体を表示面上の位置520に接触(又は接近)させたことを想定する(図23(b)及び(c)参照)。結果、指示体検出部202において、位置510及び520が検出位置として得られる。
【0198】
複数の検出位置510及び520が得られたとき、出力画像処理部13は、上述の第4動作例で述べた方法に従い、図23(b)及び(c)に示す如く、検出位置510を含む取得領域U510及び検出位置520を含む取得領域U520を順次設定して検出位置510を含む補助画像S510及び検出位置520を含む補助画像S520を基準画像(入力画像)から抽出(生成)する。検出位置510を含む取得領域U510及び補助画像S510は処理対象領域Aに相当し、検出位置520を含む取得領域U520及び補助画像S520は充当領域M2に相当する(図10も参照)。補助画像S510及びS520を生成する際、第4動作例で述べたように、画像の拡大処理又は縮小処理が成されても良い(後述の他の補助画像も同様)。出力画像処理部13は、上述の第4動作例で述べた方法に従い、位置510の検出後、補助画像S510を基準画像に重畳した重畳画像(図23(b))を生成し、更に位置520の検出後、補助画像S510及びS520を基準画像に重畳した重畳画像(図23(c))を生成することができる。
【0199】
ユーザは、ユーザは補助画像S510及びS520を見ることで、処理対象領域A及び充当領域M2を確認することができる(図10も参照)。これらに問題がある場合、ユーザは、補助画像S510又はS520内の位置を指示体で指定することで、処理対象領域A又は充当領域M2を変更することできる。ここでは、ユーザが、充当領域M2の変更を望む場合を考える。この場合、ユーザは、表示面上における補助画像S520内の位置521に指示体を接触(又は接近)させる(図22(d)参照)。例えば、位置520は補助画像S520の中心位置に相当し、位置521は後述の補助画像S521の中心位置に相当する。
【0200】
出力画像処理部13は、表示面に表示された補助画像S520内の位置が検出位置521として検出されると、検出位置520を含む取得領域U520の代わりに検出位置521を含む取得領域U521を設定して、検出位置521を含む取得領域U521内の画像である補助画像S521を基準画像から抽出し、表示面に表示されていた補助画像S520を補助画像S521に置き換える(図23(e)参照)。即ち、出力画像処理部13は、補助画像S520内の指示体の検出位置521に基づき、重畳画像、出力画像及び表示画像に重畳されるべき補助画像を、補助画像S520から補助画像S521へと変更する(図23(d)から図23(e)への変更)。この際、補助画像S521が重畳されていない表示領域に、検出位置521を明示してもよい(図23(e)における点521を表示するようにしても良い)。
【0201】
補助画像S510及びS521を含む重畳画像が表示されている状態では、検出位置510を含む取得領域U510及び補助画像S510が処理対象領域Aに相当し、検出位置521を含む取得領域U521及び補助画像S521が充当領域M2に相当する。ユーザが所定の確定操作を成すと、動作例C1で述べた方法に従い、充当領域M2を用いて入力画像から不要物体領域Bを除去することができる。第6動作例によれば、補助画像上で処理対象領域A又は充当領域M2の位置調整を行うことができ、補助画像の拡大表示等を利用すれば、それらの微調整も容易となる。尚、第6動作例で述べた技術は、動作例C1を利用しない場合においても利用可能である。
【0202】
また、特許文献4に関連する技術の問題点について補足する。特許文献4の方法では、表示部に互いに独立したメイン画面とサブ画面を予め設けておき、メイン画面における何れかの領域の画像をサブ画面に表示する。この方法において、最初はサブ画面を設けずに表示部の全体をメイン画面にしておき、メイン画面上の特定位置(例えば注目人物)が指示体に触れられたときに初めて、表示部の全体領域をメイン画面の領域とサブ画面の領域に分割してサブ画面に指定部分の画像を表示する、という方法も考えられる。しかしながら、この場合、上記分割の際にメイン画面のサイズが小さくなるので、分割の前後において、指示体の接触位置に対応する被写体がメイン画面上で変化する。例えば、分割前は接触位置に注目人物が表示されていたのに、メイン画面のサイズ縮小に伴って、分割後は接触位置に注目人物の横に位置している建物が表示される。このような表示の変更は、ユーザを混乱させるため望ましくない。故に、特許文献4の如く、常にサブ画面を設けておく方法が検討されるが、その場合、上述したように、メイン画面のサイズが常に小さくなるので全体像の視認性が悪くなる。
【0203】
<変形例>
本発明の実施形態における撮像装置1について、出力画像処理部13の動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
【0204】
また、上述した場合に限らず、図1に示す撮像装置1や、図3に示す出力画像処理部13、図12に示す画像処理実行部133は、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて撮像装置1や出力画像処理部13、画像処理実行部133の一部を実現する場合、ソフトウェアによって実現される部位についてのブロックは、その部位の機能ブロックを表すこととする。
【0205】
以上、本発明における実施形態について説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができる。
【産業上の利用可能性】
【0206】
本発明は、画像を表示する画像表示装置に利用可能である。また、撮像した画像を表示可能な撮像装置に利用可能である。
【符号の説明】
【0207】
13 出力画像処理部
131 指示体情報修正部
132 補助画像表示制御部
133 画像処理実行部
134 補助画像重畳部
14 画像表示部
20 入力部
201 操作部
202 指示体検出部

【特許請求の範囲】
【請求項1】
基準画像に基づく表示画像を表示面に表示する画像表示部と、
前記画像表示部の表示面上に存在する指示体の位置を検出する指示体検出部と、
前記基準画像に基づき前記表示面に表示されるべき出力画像を生成する出力画像処理部と、を備え、
前記出力画像処理部は、前記指示体検出部による前記指示体の検出位置に対応する、前記基準画像中の特定領域を含む補助画像を、前記基準画像中の前記特定領域とは異なる重畳用領域に重畳させた重畳画像を、前記出力画像として生成し得る
ことを特徴とする画像表示装置。
【請求項2】
前記出力画像処理部は、前記表示面に前記表示画像を表示した場合に前記指示体の下に表示される不可視領域を含む取得領域に基づいて前記補助画像を生成し、前記基準画像中の前記不可視領域とは異なる前記重畳用領域に前記補助画像を重畳させた前記重畳画像を、前記出力画像として生成し得る
ことを特徴とする請求項1に記載の画像表示装置。
【請求項3】
前記出力画像処理部は、前記指示体の検出位置に基づいた処理を入力画像に施す画像処理実行部を備え、
前記出力画像処理部は、前記処理が施された前記入力画像としての前記基準画像に基づき、前記補助画像及び前記重畳画像を生成し得る
ことを特徴とする請求項1または請求項2に記載の画像表示装置。
【請求項4】
前記画像処理実行部は、前記入力画像中の所定領域を変化させる処理と、前記入力画像中の所定領域の画質を調整する処理と、ユーザが自機の動作を操作するための画像を前記入力画像に重畳する処理と、の少なくとも一つを行い得る
ことを特徴とする請求項3に記載の画像表示装置。
【請求項5】
ユーザに操作される操作部を更に備え、
前記操作部が操作されているとき、前記出力画像処理部は、順次得られる前記指示体検出部の検出結果または前記操作部の操作の開始時以前に得られた前記指示体検出部の検出結果を、有効なものとして扱う
ことを特徴とする請求項1〜請求項4のいずれかに記載の画像表示装置。
【請求項6】
前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に存在する前記指示体を検出しているとき、前記出力画像処理部は、順次得られる前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱い、
前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に前記指示体が存在しないことを検出しているとき、前記出力画像処理部は、前記表示面上に存在する前記指示体を検出した直近の前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱う
ことを特徴とする請求項5に記載の画像表示装置。
【請求項7】
ユーザに操作される操作部を更に備え、
前記操作部が操作されているとき、前記出力画像処理部は、前記操作部の操作の開始時よりも後に得られる前記指示体検出部の検出結果を、無効なものとして扱う
ことを特徴とする請求項1〜請求項4のいずれかに記載の画像表示装置。
【請求項8】
前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に存在する前記指示体を検出しているとき、前記出力画像処理部は、前記指示体検出部が前記表示面に前記指示体が存在しないことを検出するときの前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱い、
前記操作部が操作されていて且つ前記指示体検出部が前記表示面上に前記指示体が存在しないことを検出しているとき、前記出力画像処理部は、前記指示体検出部が前記表示面に前記指示体が存在しないことを検出するときの前記指示体検出部の検出結果または前記操作部の操作の開始時に得られた前記指示体検出部の検出結果を、有効なものとして扱う
ことを特徴とする請求項7に記載の画像表示装置。
【請求項9】
ユーザに操作される操作部を更に備え、
前記指示体検出部が前記表示面上に存在する前記指示体を検出しているか否か、及び、前記操作部が操作されているか否か、の少なくとも一方に基づいて、
前記出力画像処理部は、前記重畳画像を前記出力画像として生成するか否かを決定する
ことを特徴とする請求項1〜請求項8のいずれかに記載の画像表示装置。
【請求項10】
前記指示体検出部が前記表示面上に存在する前記指示体を検出しているか否かに基づいて、前記出力画像処理部は、前記重畳画像を前記出力画像として生成するか否かを決定する
ことを特徴とする請求項9に記載の画像表示装置。
【請求項11】
前記操作部が操作されているか否かに基づいて、前記出力画像処理部は、前記重畳画像を前記出力画像として生成するか否かを決定する
ことを特徴とする請求項9に記載の画像表示装置。
【請求項12】
前記指示体検出部が前記表示面上に存在する前記指示体を検出しているか否か、及び、前記操作部が操作されているか否かに基づき、前記出力画像処理部が有効なものとして扱う前記指示体検出部の検出結果に基づいて、前記出力画像処理部は、前記重畳画像を前記出力画像として生成するか否かを決定する
ことを特徴とする請求項9に記載の画像表示装置。
【請求項13】
前記出力画像処理部は、前記指示体の検出位置を表す付加画像を前記補助画像中に示した前記重畳画像を、前記出力画像として生成し得る
ことを特徴とする請求項1〜請求項12のいずれかに記載の画像表示装置。
【請求項14】
前記出力画像処理部は、前記基準画像の前記重畳用領域に対して前記補助画像を重畳することで前記重畳画像を生成する
ことを特徴とする請求項1〜請求項13のいずれかに記載の画像表示装置。
【請求項15】
前記指示体検出部によって複数の位置が検出されたとき、
前記出力画像処理部は、複数の検出位置に対応する複数の特定領域を設定して前記複数の特定領域に対応する複数の補助画像を前記基準画像から生成し、前記複数の特定領域とは異なる、前記基準画像の複数の重畳用領域に対して前記複数の補助画像を重畳することで前記重畳画像を生成する
ことを特徴とする請求項1〜請求項13のいずれかに記載の画像表示装置。
【請求項16】
前記指示体検出部によって複数の位置が検出されたとき、
前記出力画像処理部は、前記複数の検出位置間の距離に応じて第1又は第2生成処理を択一的に行い、
前記第1生成処理において、前記出力画像処理部は、前記複数の検出位置を内包する領域を含む単一画像を前記補助画像として前記基準画像から生成し、前記複数の検出位置を内包する前記領域と異なる、前記基準画像の前記重畳用領域に対して前記補助画像を重畳することで前記重畳画像を生成し、
前記第2生成処理において、前記出力画像処理部は、前記複数の検出位置に対応する複数の特定領域を設定して前記複数の特定領域を含む複数の補助画像を前記基準画像から生成し、前記複数の特定領域とは異なる、前記基準画像の複数の重畳用領域に対して前記複数の補助画像を重畳することで前記重畳画像を生成する
ことを特徴とする請求項1〜請求項13のいずれかに記載の画像表示装置。
【請求項17】
前記補助画像が前記重畳用領域に重畳された前記重畳画像が前記出力画像として且つ前記表示画像として前記表示面に表示されている場合において、前記表示面における前記補助画像上に前記指示体が存在していることが検出されたとき、
前記出力画像処理部は、前記補助画像上の前記指示体の検出位置に対応する領域を含む第2補助画像を前記基準画像又は前記補助画像から生成して、前記重畳用領域とは異なる、前記重畳画像の第2重畳用領域に対して前記第2補助画像を更に重畳したマルチ重畳画像を、前記出力画像として生成する
ことを特徴とする請求項1〜請求項13のいずれかに記載の画像表示装置。
【請求項18】
前記補助画像が前記重畳用領域に重畳された前記重畳画像が前記出力画像として且つ前記表示画像として前記表示面に表示されている場合において、前記表示面における前記補助画像上に前記指示体が存在していることが検出されたとき、
前記出力画像処理部は、前記補助画像上の前記指示体の検出位置に基づき、前記重畳画像に重畳されるべき前記補助画像を変更する
ことを特徴とする請求項1〜請求項14のいずれかに記載の画像表示装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図12】
image rotate

【図15】
image rotate

【図16】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図10】
image rotate

【図11】
image rotate

【図13】
image rotate

【図14】
image rotate

【図17】
image rotate

【図18】
image rotate

【図23】
image rotate


【公開番号】特開2012−84125(P2012−84125A)
【公開日】平成24年4月26日(2012.4.26)
【国際特許分類】
【出願番号】特願2011−169760(P2011−169760)
【出願日】平成23年8月3日(2011.8.3)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】