車載用電子機器操作装置
【課題】タッチ入力部と手撮影手段との双方を入力手段として備えるとともに、両者をより有効に活用することにより、操作装置の画面を注視できない状況等でも、その操作性を大幅に向上できる車載用電子機器操作装置を提供する。
【解決手段】画像表示装置上に操作対象となる車載電子機器に固有の操作画面を表示するとともに、ユーザーインターフェースエンジンにより、タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令出力内容との関係を予め定められたインターフェース仕様として設定し、操作画面上での指示入力状態に応じてインターフェース仕様に基づき操作指令情報を出力する。そして、検出された撮影指先点の個数に応じてインターフェース仕様が変更されるように構成されるので、検出される指の数に応じて操作領域の種別を増加させることで、複数本の指による操作入力の多様化及び効率化を図る。
【解決手段】画像表示装置上に操作対象となる車載電子機器に固有の操作画面を表示するとともに、ユーザーインターフェースエンジンにより、タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令出力内容との関係を予め定められたインターフェース仕様として設定し、操作画面上での指示入力状態に応じてインターフェース仕様に基づき操作指令情報を出力する。そして、検出された撮影指先点の個数に応じてインターフェース仕様が変更されるように構成されるので、検出される指の数に応じて操作領域の種別を増加させることで、複数本の指による操作入力の多様化及び効率化を図る。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は車載用電子機器操作装置に関する。
【背景技術】
【0002】
【特許文献1】特開2000−335330号公報
【特許文献2】特開2001−216069号公報
【0003】
従来、カーナビゲーション装置のような車載機器の操作装置として、操作者の手をカメラで撮影し、その撮影データから指画像を抽出し、抽出した指画像域を車載機器のGUI入力画面(例えば、ナビ画面など)に重畳表示するタイプのものが提案されている。例えば、特許文献1には、車体の天井に取り付けたカメラを用いて、座席手元のタッチパネルを操作する手の様子を撮影し、撮影した手とタッチパネルとを、操作者の前方に対向配置された液晶パネルに表示する構成が開示されている。また、特許文献2には、ユーザーの指等とディスプレイの画面との距離に応じて異なる操作内容を割り当てる操作入力装置が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記従来の操作システムにおいては、カメラによる手の撮影情報が、操作位置を示す手輪郭画像の画面上への重畳表示に利用されるに留まり、画像情報自体が入力情報として有効に利用されているとはいい難かった。特に、運転中においては、運転者は操作装置の画面を注視できないため誤操作を生じやすく、複雑な操作が困難である。特許文献1の操作装置は、手の撮影情報とタッチ検出情報との2系統の入力情報が利用するにもかかわらず、操作性の向上を目的としてそれらが有効に活用されていたとはいいがたい。
【0005】
本発明の課題は、タッチ入力部と手撮影手段との双方を入力手段として備えるとともに、両者をより有効に活用することにより、操作装置の画面を注視できない状況等でも、その操作性を大幅に向上できる車載用電子機器操作装置を提供することにある。
【課題を解決する手段及び発明の効果】
【0006】
本発明に関連する構成は、車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、上記の課題を解決するために、
操作者の指先によるタッチ操作を受け付ける操作面を有し、操作によるタッチ入力点を検出するタッチ入力装置と、
操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する操作者の手を撮影する撮影装置と、
撮影装置が撮影取得する手画像データに基づき手の指先点を撮影指先点として検出する撮影指先点検出手段と、
操作面ならびに撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
画像表示装置に対し指先点を指示する指示体画像を表示画面上に表示させる指示体画像表示制御手段と、
画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令出力内容との関係が、予め定められたインターフェース仕様として設定され、操作画面上での指示入力状態に応じて前記インターフェース仕様に基づき操作指令情報を出力するユーザーインターフェースエンジンと、
車両の走行状態を検出する走行状態検出手段と、
検出された走行状態に応じてユーザーインターフェースエンジンのインターフェース仕様を変更するインターフェース仕様変更手段と、を備えたことが想定される。
【0007】
上記の本発明に関連する構成によると、画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示するとともに、ユーザーインターフェースエンジンにより、タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令出力内容との関係を予め定められたインターフェース仕様として設定し、操作画面上での指示入力状態に応じて前記インターフェース仕様に基づき操作指令情報を出力する。そして、検出された車両の走行状態に応じてインターフェース仕様が変更されるように構成されるので、車載用電子機器操作装置の操作性を車両走行状態に応じて随時適正化することができる。
【0008】
インターフェース仕様変更手段は、車両の走行状態に応じて操作画面の表示内容を、該表示内容に対応する操作指令出力内容とともに変更するものとして構成できる。すなわち、タッチ操作と撮影指先点検出とを入力情報とする操作画面を用いたユーザーインターフェース(一種のグラフィカルユーザーインターフェースである)において、車両の走行状態に応じて操作画面の表示内容(すなわち、操作画面の視覚的な構成)を変更することで、操作装置の画面を注視できない操作状況が車両走行状態に応じて発生した場合でも、適正な操作支援を行なうことができる。
【0009】
具体的には、走行状態検出手段に車速検出手段を設け、インターフェース仕様として、検出された車速値が閾値未満の場合に使用する低速走行時(停車時含む)インターフェース仕様と、検出された車速値が閾値を超える場合に使用する高速走行時インターフェース仕様とを用意することができる。そして、インターフェース仕様変更手段を、車速値に応じてインターフェース仕様を低速走行時インターフェース仕様と高速走行時インターフェース仕様との間で切り替えるものとして構成することができる。車速が小さい場合(特に停車中)は、運転者は操作画面の注視時間や頻度を高く確保できるが、車速が大きい場合は前方を注視しなければならず、操作画面の長時間の直視は難しくなる。そこで、上記のごとく、低速走行時インターフェース仕様と高速走行時インターフェース仕様とを予め用意し、車速ひいては操作画面の注視可能度に応じて随時切り替えて使用することで、各状況に適した操作性確保を適切に図ることができる。
【0010】
操作画面表示制御手段は、互いに異なる操作指令出力を行なうための複数の操作領域(例えば操作ボタンや入力ウィンドウなど)を操作画面上に表示形成するものとして構成できる。この場合、インターフェース仕様変更手段は、高速走行時インターフェース仕様における有効な操作領域の表示形成数を、低速走行時インターフェース仕様における有効な操作領域の表示形成数よりも少なく設定するものとして構成できる。また、高速走行時インターフェース仕様における有効な操作領域の表示形成寸法を、低速走行時インターフェース仕様における有効な操作領域の表示形成寸法よりも大きく設定するものとして構成することもできる。操作画面を注視しにくい高速走行時にあっては、操作は手探りになりがちであり、操作領域の数が多すぎたり、あるいは個々の操作領域の面積が小さすぎたりすると誤操作を生じやすくなる。そこで、上記のように構成することで、このような不具合を効果的に解消することができる。
【0011】
また、撮影指先点検出手段は手画像データに基づき複数個の指先点を同時検出可能に構成することができる。操作画面表示制御手段は、検出された指先点の数が多いほど操作画面上に表示形成する操作領域の種別を増加させるように構成できる。検出される指の数に応じて操作領域の種別を増加させることで、複数本の指による操作入力の多様化及び効率化を図ることができる。特に、指先点が検出される毎に、各指先点に対応する位置に操作領域を動的に設定・形成するように構成すれば、指毎に固有の操作領域が設定されることになり、各指の機能分担が明確化して複雑な入力もより直感的に行ないやすくすることができる。
【0012】
この場合、インターフェース仕様変更手段は、高速走行時インターフェース仕様における操作領域の最大表示形成種別数を、低速走行時インターフェース仕様における操作領域の最大表示形成種別数よりも小さく設定するように構成できる。画面注視が困難な低速走行時に、最大表示形成種別数の小さいインターフェース仕様に切り替えることで、誤操作を発生しにくくすることができる。
【0013】
一方、操作画面表示制御手段は、タッチ入力装置の操作面に沿うドラッグ操作を検出して、画面上にて有効となる操作領域を、操作指令出力内容の異なる複数のものの間で切替え表示するものとして構成することもできる。インターフェース仕様変更手段は、低速走行時インターフェース仕様においては1回のドラッグ操作の継続中は操作領域を連続的に切り替える一方、高速走行時インターフェース仕様においては、1回のドラッグ操作が生ずる毎に操作領域を断続的に切り替えるように構成することができる。ドラッグ操作により操作領域が連続切替えできれば、次々と切り替わる操作領域の内容を確認しながら、望む操作領域に迅速にたどり着くことができる利点がある。しかし、画面が直視しにくい(高速)走行時には、連続的に切り替わると所望の操作領域が飛ばされてしまい、これに狙い通りにたどり着けない場合がある。そこで、高速走行時インターフェース仕様においては、1回のドラッグ操作が生ずる毎に操作領域を断続的に切り替えるように構成することで、所望の操作領域に確実にたどり着くことができるようになる。
【0014】
また、さらに別の態様としては、画像指先点の操作面に沿う特定の動きを操作動作パターンとして検出する操作動作パターン検出手段を設け、操作画面表示制御手段は、互いに異なる操作指令出力を行なうための複数の操作領域を操作画面上に表示形成する構成を採用することもできる。ユーザーインターフェースエンジンは、操作動作パターンが検出されるに伴ない該操作動作パターンに対応する第一操作指令情報を出力する一方、タッチ入力点又は撮影指先点により操作領域が選択された場合に、当該操作領域と対応付けられた第二操作指令情報を出力する操作指令情報出力手段を有するものとして構成する。そして、インターフェース仕様変更手段は、低速走行時インターフェース仕様においては操作領域の選択に応じた第二操作指令情報を少なくとも能動化し、高速走行時インターフェース仕様においては操作動作パターンの検出に応じた第一操作指令情報のみを能動化するものとして構成することができる。この構成によると、低速走行時インターフェース仕様では、画面を見ながらの操作領域の選択操作が可能となる一方、高速走行時インターフェース仕様においては操作領域の選択操作が排除され、画面を注視しなくても可能な操作動作パターン(つまり、ジェスチュア)のみが能動化されるので操作性が向上する。
【0015】
次に、本発明の第一は、車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、上記の課題を解決するために、
操作者の指先によるタッチ操作を受け付ける操作面を有し、タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する操作者の手を撮影する撮影装置と、
撮影装置が撮影取得する手画像データに基づき手の指先点を撮影指先点として複数同時に検出可能に構成された撮影指先点検出手段と、
操作面ならびに撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
画像表示装置に対し指先点を指示する指示体画像を表示画面上に表示させる指示体画像表示制御手段と、
画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、操作画面上での指示入力状態に応じてインターフェース仕様に基づき操作指令情報を出力するユーザーインターフェースエンジンと、
撮影指先点検出手段が検出する撮影指先点の個数に応じてユーザーインターフェースエンジンのインターフェース仕様を変更するインターフェース仕様変更手段と、を備えたことを特徴とする。
【0016】
撮影指先点の個数に応じてユーザーインターフェースエンジンのインターフェース仕様を変更することにより、検出される指の本数に応じて入力仕様の適正化を図ることができる。例えば、操作画面表示制御手段が、互いに異なる操作指令出力を行なうための複数の操作領域を操作画面上に表示形成するものである場合、インターフェース仕様変更手段は、撮影指先点検出手段が検出する撮影指先点の数が複数個の場合の有効な操作領域の表示形成数を、同じく撮影指先点の数が1個の場合の有効な操作領域の表示形成数よりも多く設定するように構成できる。検出される指の数に応じて操作領域の種別を増加させることで、複数本の指による操作入力の多様化及び効率化を図ることができる。
【0017】
本発明の第二は、車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、上記の課題を解決するために、
操作者の指先によるタッチ操作を受け付ける操作面を有し、タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する操作者の手を撮影する撮影装置と、
撮影装置が撮影取得する手画像データに基づき手の指先点を撮影指先点として検出する撮影指先点検出手段と、
操作面ならびに撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
画像表示装置に対し指先点を指示する指示体画像を表示画面上に表示させる指示体画像表示制御手段と、
画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、操作画面上での指示入力状態に応じてインターフェース仕様に基づき操作指令情報を出力するユーザーインターフェースエンジンと、
撮影指先点が検出された場合に、タッチ入力装置へのタッチ操作が同時に検出されているか否かに応じてユーザーインターフェースエンジンのインターフェース仕様を変更するインターフェース仕様変更手段と、を備えたことを特徴とする。
【0018】
上記の構成によると、操作入力系が、タッチ入力装置と手の撮影装置との二系統からなることを利用して、撮影指先点が検出された場合に、タッチ入力装置へのタッチ操作が同時に検出されているか否かに応じてユーザーインターフェースエンジンのインターフェース仕様を変更するようにしたから、操作装置の入力利用形態の大幅な拡張を図ることができる。
【0019】
具体的には、操作画面表示制御手段は、タッチ入力装置の操作面に沿うドラッグ操作を検出して、画像表示装置の画面上に表示中の画像情報を該ドラッグ操作に対応する向きにスクロール表示処理するものとして構成できる。この場合、インターフェース仕様変更手段は、撮影指先点とともにタッチ操作が検出されている場合の画像情報のスクロール速度を、タッチ操作が検出されていない場合のスクロール速度よりも小さく設定するものとして構成できる。操作面にタッチしながらドラッグするか、タッチせずにドラッグするかに応じて、画面のスクロール速度を容易にかつ直感的に切り替えることができる。
【0020】
他方、操作画面表示制御手段は、タッチ入力装置の操作面に沿うドラッグ操作を検出して、画像表示装置の画面上に表示中の階層型の情報出力メニューをスクロール表示処理するものとして構成することもできる。インターフェース仕様変更手段は、タッチ操作が検出されている場合と、タッチ操作が検出されていない場合とで、情報出力メニューの互いに異なる階層をスクロール表示処理するものとして構成することができる。操作面にタッチしながらドラッグするか、タッチせずにドラッグするかを切り替えることにより、スクロールする情報出力メニューの階層が変更されるので、メニュー検索の利便性を大幅に向上することができる。
【図面の簡単な説明】
【0021】
【図1】本発明の操作装置の車内取付形態の一例を示す斜視図。
【図2】その操作部の内部構造の一例を示す断面模式図。
【図3】図1の操作装置の電気的構成の一例を示すブロック図。
【図4】撮影指先点を決定する画像処理の流れを示す説明図。
【図5】撮影指先点特定処理の流れを示すフローチャート。
【図6】指先判定処理の詳細を示すフローチャート。
【図7】先端領域の幅の概念を説明する図。
【図8】複数の先端領域を分離するためのラベリング処理の概念を説明する図。
【図9】手撮影カメラにより取得された手画像を重畳表示する実施形態を示す図。
【図10】指示体画像を重畳した画面表示例を示す図。
【図11】本発明に関連する第一参考形態を示す図。
【図12】同じく第二参考形態を示す図。
【図13】同じく第三参考形態を示す図。
【図14】同じく第四参考形態を示す図。
【図15】同じく第五参考形態を示す図。
【図16】同じく第六参考形態を示す図。
【図17】本発明の第一に係る第一実施形態を示す図。
【図18】本発明の第二に係る第一実施形態を示す図。
【図19】図18に続く説明図。
【図20】図19に続く説明図。
【図21】本発明の第二に係る第二実施形態を示す図。
【図22】図21に続く説明図。
【図23】図22に続く説明図。
【発明を実施するための形態】
【0022】
以下、本発明の実施の形態を、図面を用いて説明する。
図1は、本発明の画像表示装置の適用対象となる、車載用電子機器の操作装置の一例を示すものである。この操作装置1は、自動車の車室内において、インパネ中央部にモニタ(表示装置)15が配置され、センターコンソールCの、運転席2D及び助手席2Pのいずれからも操作可能な位置に操作部12が配置されている。使用目的は特には限定されないが、例えばセンターコンソールに設けられたモニタ15の画面を見ながら、カーナビゲーション装置やカーオーディオ装置の機能操作を行なうためのものである。
【0023】
操作部12は、入力操作面が上向きとなるように取り付けられている。該入力操作面を形成するのは周知のタッチパネル12aであり、抵抗膜方式、表面弾性波方式あるいは静電容量方式のいずれを採用してもよい。タッチパネル12aは、その基材が透明樹脂板あるいはガラス板等により透明入力支持板として構成され、操作者の指先によるタッチ操作を上面側にて支持しつつ受け付ける。そして、モニタ15の画面領域に対応した入力座標系が板面に沿って設定される。
【0024】
図2は、入力部12の内部構造を模式的に示す断面図であり、筐体122eの上面に前述のタッチパネル12aが、入力操作面102b側が上となるように嵌め込まれている。筐体12dの内部には、照明光源12c及び撮影光学系とともに手撮影カメラ(撮影装置)12bが収容されており、撮影画像取得手段を構成している。照明光源12cは、凸曲面形態のモールドにより素子直上側への輝度指向性を高めた発光ダイオード光源(従って、単色光源である)であり、タッチパネル12aの下面を取り囲む形態で複数配置されている。各照明光源12cは、高輝度となるモールド先端側をタッチパネル12aの下面内側に向けそれぞれ傾けて取り付けてあり、入力操作面102b上の操作者の手Hの掌面による一次撮像反射光RB1が、タッチパネル12aを透過する形で下向きに生ずるようになっている。
【0025】
撮影光学系は、第一反射部12pと第二反射部12rとを有する。第一反射部12pは、タッチパネル12aの直下に対向配置されたプリズム板(三角柱状の微小プリズムを面内に並列に配置した透明材料板:以下、プリズム板12pともいう)であり、操作者の手Hからの一次撮像反射光RB1を斜め上方に反射することにより、該プリズム板12pとタッチパネル12aとの対向空間12fの側方外側へ二次撮像反射光RB2として導く。第二反射部12rは上記対向空間の側方外側に配置された平面反射鏡(以下、平面反射鏡12rともいう)であり、上記二次撮像反射光RB2を側方へ反射することにより、対向空間12fを挟んで第二反射部12rの反対側に位置する手撮影カメラ12bに対し三次撮像反射光RB3として導く。手撮影カメラ12bは該三次撮像反射光RB3の焦点に対応する位置に設けられ、操作者の指を含む手Hの撮影画像を取得する。
【0026】
プリズム板12pは、図2内に拡大して示すように、ミラー基面MBPに対しそれぞれ等角度で傾斜する反射面を有したリブ状の微小プリズムを、ミラー基面MBPに沿って互いに平行となるように密接形成したものであり、ミラー基面MBPを傾けずとも、その法線方向に入射する光を(斜め)側方へ反射することができる。従って、側方反射のための第一反射部12pをタッチパネル12aの下方に平行対向する形で配置でき、対向空間12fの高さ方向寸法を大幅に縮小できる。
【0027】
また、その対向空間12fを側方から挟んで第二反射部12rと手撮影カメラ12bとを対向配置することで、手撮影カメラ12bに直接入射する三次撮像反射光RBを、対向空間12fを横切る形で導くことができる。これにより、第二反射部12rと手撮影カメラ12bとを、タッチパネル12aの側縁に近接配置でき、かつ、手Hから手撮影カメラ12bへの撮像反射光の入射経路が、対向空間12f内でいわば三つ折状に畳み込まれる形になるので、撮像光学系全体の大幅なコンパクト化と、筐体12dの薄型化とが実現されている。特に、タッチパネル12aのサイズ(つまり、入力操作面102bの縦横寸法)を縮小することで、入力部12全体の劇的な小形化及び薄型化が実現し、図1のセンターコンソール部Cの幅が比較的小さい車両や、シフトレーバー前方の限られた取付スペースしか活用できない車両にも問題なく取り付けが可能となる。
【0028】
タッチパネル12の入力操作面102bは、手撮影カメラ12bの撮影範囲102bに対応しており、平均的な寸法の大人の手を想定した場合に、中指の指先端を含む長手方向の一部のみが入力操作面102b内に入るように、その上下方向(Y方向)寸法が定められている(例えば、60〜90mm(具体例として75mm))。これにより、モニタ15の画面領域には、指の付け根よりも先の部分だけが表示されることになるので、指以外の掌部分の形状が表示に関与せず、指示体画像を用いた後述の表示処理の大幅な簡略化を図ることができる。また、入力操作面102bの左右方向(X方向)寸法は110〜130mm(例えば、120mm)であり、手を乗せて各指を大きく開いた状態では、人差し指、中指、薬指及び小指が撮影範囲内となり、親指が撮影範囲外となっている。ただし、各指を適当に閉じれば全ての指を撮影範囲内に収めることも可能である。
【0029】
図3は、操作装置1の電気的構成を示すブロック図である。操作装置1の制御主体をなすのは操作ECU10である。該操作ECU10は、CPU101を主体とするコンピュータハードウェア基板として構成され、具体的には、CPU101、RAM1102、ROM103、グラフィックコントローラ110、ビデオインターフェース112、タッチパネルインターフェース114、汎用入出力部104及びシリアル通信インターフェース116が内部バス105により相互接続された構造を有する。グラフィックコントローラ110には表示用ビデオRAM111及びモニタ15が、ビデオインターフェース112には撮影用ビデオRAM113及び手撮影カメラ12bが、タッチパネルインターフェース114にはタッチパネル12aが、そして、汎用入出力部104にはドライバ(駆動回路)115を介して照明光源12cがそれぞれ接続されている。また、シリアル通信インターフェース116には、CAN通信バスなどの車載用シリアル通信バス30が接続され、これにネットワーク接続された他のECU、具体的にはカーナビゲーション装置の制御を司るナビECU200およびボデー系ECU301と相互通信可能とされている。
【0030】
ビデオインターフェース112には、手撮影カメラ12bが取得するアナログもしくはデジタルの映像信号が継続的に入力されるとともに、撮影用ビデオRAM113内に画像フレームデータとして、所定の時間間隔で取り込まれる。撮影用ビデオRAM113の記憶内容は、新しい画像フレームデータが取り込まれる毎に随時更新される。
【0031】
グラフィックコントローラ110は、通信インターフェース116を介してナビECU200から入力画面画像フレームデータを取得するとともに、CPU101側からは指示体画像が所定位置に張り込まれた指示体画像フレームデータを取得し、表示用ビデオRAM111上にて周知のアルファブレンディング処理等によりフレーム合成し、モニタ15に出力する。
【0032】
タッチパネルインターフェース114は、タッチパネル12aの方式に応じた固有の駆動回路を有するとともに、タッチパネル12aからの信号入力状態に基づいて、入力操作面102bへのタッチ操作による入力位置(タッチ入力点)を検出し、その検出結果を位置入力座標情報として出力する。
【0033】
なお、手撮影カメラ12bの撮影範囲(撮影視野;ひいては、該手撮影カメラ12bにより取得される撮影画像)、タッチパネル12bの入力操作面、モニタ15の画面領域(ひいては、その表示内容を決定する入力画面画像フレームデータ及び指示体画像フレームデータ)には、二次元座標対応関係が一義的に定められている。
【0034】
また、ROM103には、CPU101が実行する以下のようなソフトウェアが格納されている。
・タッチパネル制御ソフトウェア103a:タッチパネルインターフェース114からタッチ入力点の座標を取得し、入力画面画像フレームデータとともにナビECU200から送られてくる、操作入力内容の判定参照情報(例えば、ソフトボタンの領域特定情報や、当該ソフトボタンがタッチ操作されたときに出力するべき操作コマンド内容等の情報を含む)を取得する。そして、該タッチ入力点座標と取得した判定参照情報とに基づいて現在の操作入力内容を特定し、ナビECU200に対して対応する操作コマンドの実行指令出力を行なう。
【0035】
・表示制御ソフトウェア103b:グラフィックコントローラ110への入力画面画像フレームデータの取り込み指令を行なうとともに、後述の方法により作成した指示体画像フレームデータをグラフィックコントローラ110へ転送する。
・指先点演算ソフトウェア103c(先端抽出手段、画像先端位置特定手段、指先判定手段):RAM1102の指先点演算処理メモリ1102aを作業領域として動作する。手撮影カメラ12bが撮影した操作者の手の撮影画像を二値化し、その実指像の指先位置を撮影指先点として特定する演算、具体的には、二値化された撮影画像の挿入方向における先端領域taの所定の代表点(ここでは幾何学的重心位置)を撮影指先点tpとして特定する演算を行なう。また、先端領域taの寸法及び面積の少なくともいずれかに基づいて、撮影指先点tpが真の指先点tpを示すものであるか否かを判定する。なお、手の撮影画像の二値化処理は、ビデオインターフェースの出力段に画素の二値化回路を組み込んで事前に行なうようにしてもよい。
・指示体画像合成ソフトウェア103d(指示体画像表示手段):RAM1102の指示体画像合成用メモリ1102bを作業領域として動作する。図9に示すように、撮影された手画像SF’を指示体画像として画面に重畳表示するようにしてもよいし、図10に示すように、その手画像よりも指幅の細い指示体画像F1を、撮影画像とは別に用意した指示体画像データ103eに基づいて作成し、画面に重畳表示するようにしてもよい。この場合、指示体画像F1は、その指先位置が撮影指先点と一致するように、指示体画像フレーム上に貼り付ける処理がなされる。
【0036】
・ユーザーインターフェースエンジン103e:タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と、車載電子機器(本実施形態ではカーナビゲーションシステム及びカーオーディオシステム)への操作指令出力内容との関係を予め定められたインターフェース仕様として設定するとともに、操作画面上での指示入力状態に応じて該インターフェース仕様に基づき操作指令情報を出力すると処理を行なう。また、車両の走行状態(特に、車速)、撮影指先点の個数、あるいは、撮影指先点が検出された場合にタッチ入力装置12へのタッチ操作が同時に検出されているか否か、等に応じて上記インターフェース仕様を適宜変更する機能(インターフェース仕様変更手段)を有している。
【0037】
以下、操作装置1において、撮影される手の撮影指先点がどのようにして特定されるかを、フローチャートを用いて説明する。該処理の要部は指先点演算ソフトウェア103cが担う。まず、モニタ15の画面(領域)には、先行するコマンド入力(例えば別画面でのタッチ入力操作に基づく)により、図32のキーボード入力画面(ただし手画像SFは除く)が表示されているものとする(ただし、地図画面など、他の入力画面であってもよい)。
【0038】
図5は指先点特定処理の流れ(一定のサイクルで反復して実行される)を示すものであり、上記の状態で、図2に示すように、タッチパネル12aの入力操作面102bに手Hを近づけると、手撮影カメラ12bは、照明光源12cからの照明光の手による反射光に基づいて手像を撮影する。図5のS101で、その撮影画像を取り込む。手像の画素は反射光の受光により背景領域よりも明るく現れる。従って、図4のAに示すように、画素の輝度を適当な閾値で二値化すれば、高輝度画素値(ここでは「1」とする)を示す領域を被写体領域(図中黒で表している)、低輝度画素値(ここでは「0」とする)を示す領域を背景領域(図中白で表している)として、互いに画像分離できる。S102では、この二値化された画像データを第一画像データ(A)として保存する。
【0039】
なお、S103では、第一画像データにおける被写体領域の面積率σを演算する。手撮影カメラ12bの撮影範囲内に被写体が存在しない場合は、被写体領域の面積率σがある閾値σ0未満となるので、この場合は以下の処理をスキップする。
【0040】
次に、図5のS105では、該第一画像データを手像の掌長方向(Y方向)に所定距離(例えば、中指第一関節より先を指先部分として、その20%〜80%(実距離にして5〜20mm程度))だけ平行移動させて得られる画像データを、図4のBに示す第二画像データとする。そして、S106では、図4のCに示すように、両画像データを重ね合わせたときの指先側に現れる非重なり領域を手の挿入方向における先端領域(指先領域)taとして特定する。取得された原画像データを手像の掌長方向に平行移動して重ね合わせることにより、指先領域を非重なり領域として簡単に特定することができる。また、一部の指が閉じて密着していても、丸みを帯びた指先領域は確実に分離して特定することが可能である。
【0041】
図4のCにおいては、第二画像データBを、第一画像データAを掌長方向(Y方向)にて手首側へ後退移動させて作成しており、第一画像データAの手像指先側に現れる非重なり領域が先端領域(指先領域)として特定される。撮影範囲(ひいてはモニタ15の画面領域)との座標対応関係が保存される第一画像データA上にて指先領域を特定でき、後述の指先点、ひいては、画面領域上の対応座標点の特定処理を簡便に行なうことができる。
【0042】
また、第一及び第二画像データはいずれも二値化されており、非重なり領域は、第一画像データと第二画像データとの画像差分を演算することで特定される。これにより、非重なり領域の画素を特定する処理は、第一及び第二画像データの対応する画素間の論理演算に転換できる(具体的には、対応画素間の排他的論理和が0になれば、それを非重なり領域の画素として特定できる)。なお、第一及び第二画像データの非重なり領域は、指の側面部分に細く生ずる場合がある。しかし、このような側面部分は、「1」となる画素のX方向の連続個数が所定値未満となる場合に、それら画素列を「0」反転する処理を行なえば、簡単に除去することができる。
【0043】
次に、図5のS107においては、上記のように抽出された各指先領域に対し、図4のDに示すような収縮処理が施される。具体的には、値が「1」となっている全ての画素について、これと一定の隣接関係にある画素(具体的には、上下左右の4画素、さらには、斜め隣接する4画素をこれに加えた8画素)に、着目画素と値が反転関係にある画素が1個でも含まれていれば、当該画素の値を「0」反転する処理を行なう。該処理は、必要に応じて複数回繰り返し実施してもよい。
【0044】
そして、収縮処理後は、画像データ上において個々の先端領域に分離する処理を行なう。すなわち、図8に示すように、画像を所定の方向(例えばx方向)に走査し、「1」となっている画素の途切れが一定数(例えば3ビット)以上生じたか否かにより、同一の先端領域であるか別の先端領域であるかを判別しながら、各画素にラベリング符号(本実施例では、1、2、3‥‥等の数字で表している)を施してゆく。なお、走査2列目以降は、「0」画素の検出状態から「1」画素の検出に転じた時に、その「1」画素を取り囲む例えば8つの画素のラベリング状態を判別し、既に認識済の画素のラベリング符号が検出されれば、これと同一のラベリング符号を施し、何も検出されなければ新たなラベリング符号を施すようにする。そして、異なるラベリング符号が付された画素集合同士は、異なる先端領域として認識することとなる。
【0045】
次に、S108に進み、分離・特定された各先端領域が真の指先領域であるか否かの判定処理を行なう(指先判定処理)。基本となるのは、図7に示すごとく、特定された先端領域taの指幅方向の寸法(以下、単に「幅」とも称する)Lが、一般的な大人の幅寸法を基準に定められた規定範囲(上限値Wth1、下限値Wth2)内に存在することを必要条件として、真の指先領域と判定する処理である。図1に示すように、インパネに配置されたモニタ(表示装置)15を見ながら、車長方向にてその後方側(着座した乗員から見れば手前側)のセンターコンソールC上に配置されたタッチパネル12aの操作入力面102a、ひいては、該操作入力面102a上の操作者の手を下側から撮影する手撮影カメラ12bの撮影範囲102bに対し、該撮影範囲102bの後方縁側から前方に挿入される。従って、手の挿入方向は横長長方形状の撮影範囲102bの長辺と直交する向き(つまり、Y方向)に想定され、指幅方向は操作入力面102aの面内において該手の挿入方向と直交する向き、すなわち、撮影範囲102bの長辺と一致する向き(つまり、X方向)に定められている。つまり、先端領域taの幅はX方向、すなわち、撮影範囲102bの長辺方向に固定的に測定されるようになっている。
【0046】
図6は、指先判定処理の詳細の一例を示すフローチャートである。
S1では、分離・特定された個々の先端領域taの幅Wが特定される。具体的には、先端領域taの個々の構成画素のX座標のうち、最小の値をXmin、最大の値をXmaxとして、W=Xmax−Xminにより計算することができる。S1002では、上記のように特定された先端領域taの幅Wが前述の規定範囲内にあるか否かが判定される。タッチパネル12aはセンターコンソールC上に配置されているが、その脇に着座した運転者や助手席乗員はセンターコンソールCをしばしば物置代わりに利用する。このとき、手以外の物品がタッチパネル12aの操作入力面102a、つまり、撮影範囲102b内に置かれれば、当然、該物品が乗員の手の代わりに撮影される。撮影取得される第一画像と、そのY方向への平行移動により得られる第二画像との差分画像として抽出される先端領域taの幅Wを用いた判定方式を採用すると、書類や本などが置かれた場合は、抽出・特定される先端領域の幅は、一般的な大人の幅寸法を基準に定められた規定範囲の上限値を明らかに上回るので、非指先領域として確実に判定が可能である。また、携帯電話が置かれた場合は、例えば突出したアンテナ部分に由来する第一先端領域の幅が、アンテナが指より明らかに細いため規定範囲の下限値を下回り、非指先領域として判定することができる。
【0047】
なお、真の手が画像検出されている場合にあって、伸ばした状態の指が1本ないし2本(例えば、人差し指のみ、あるいは人差し指と中指など)であり、残余の指が曲げられた状態(例えば拳状に握った状態)になっている場合、閉じられている部分の先端領域の幅が規定範囲の上限値を超え、伸ばした状態の指については幅が規定範囲内となるようなこともありえる。従って、複数の先端領域が抽出されうる形状の物品に合っては、該複数の先端領域の少なくとも1つについて幅が規定範囲内となっていれば、該先端領域を真の指先領域として判定するように構成することが可能である。
【0048】
次に、非指先領域でありながら、その幅Wが規定範囲内に収まっているために真の指先領域として誤認されうる形状の物品がタッチパネルの入力操作面102b上に置かれる場合がある。例えば、貨幣が入力操作面上に置かれた場合、貨幣の寸法が指幅に近接しているために、収縮処理後の先端領域の幅は規定範囲内となり、このままでは指先領域として誤判定される。指と貨幣の画像上の違いは、指の場合は、指基端側の画像領域が撮影範囲の後端縁(手挿入側の縁)まで伸びる形となるのに対し、貨幣の場合は撮影範囲内に孤立した円形領域となり、その円形領域の後端縁と撮影範囲の後端縁との間が被写体の背景領域(つまり、「0」画素領域)となる点にある。そこで、撮影画像の総面積をSとし、個々の非重なり領域から、撮影範囲の後端縁までの合計距離をdとして、S/dの値を指幅として推定すると、上記のような誤判定を効果的に回避することができる。すなわち、貨幣の場合は、撮影範囲の後端縁側に上記背景領域が介在するために総面積Sが減少する。従って、S/dにより演算された推定指幅値が規定範囲の下限値未満となれば、これを非指先領域として除外することができる。図6のフローチャートでは、S1005とS1006とにおいて上記原理に基づく判定を行なっている。
【0049】
次に、図6のS1007では、S1002及びS1006において除外判定されなかった先端領域taについて代表点を決定する。本実施形態では、領域の幾何学的な重心位置Gを代表点として用いる。演算方法は周知であり、例えば先端領域を構成する全画素のX座標値及びY座標値の各総和を求め。それぞれ画素の個数で除することにより重心位置Gの座標を計算できる。なお、重心位置Gではなく、例えばY座標値が最大となる画素を代表点として採用することも可能である。
【0050】
なお、タッチパネルの入力操作面102bに実際に接触するのは、指先端からX方向に少し下がった指腹付近の領域であるから、図4のFでは、Eで計算された重心位置をY方向へ所定距離オフセットさせ、これを画像指先点Gとして決定する。ただし、Eの重心位置をそのまま画像指先点Gとして用いてもよく、この場合は該Fの処理は不要である。
【0051】
次に、撮影範囲102bに対する手の位置関係によっては、差分画像を用いた上記アルゴリズムにより決定される代表点が、真の指先点に対応しないケースが生じうる。具体的には、指先部分が撮影範囲の外にはみ出して位置する場合である。撮影範囲102bと、タッチパネルの入力操作面102bと、モニタ15の画面との対応座標範囲が互いに一致している場合は、真の指先位置が撮影範囲102b(ひいては、入力操作面102b及びモニタ15の画面)の外周縁領域に収まっている場合と、指先部分が撮影範囲102bの外にはみ出し、真の指先部分が画像的に途切れている場合とのいずれにおいても、差分画像から特定される先端領域は上記外周縁領域に収まる形となる。そして、指先部分がはみ出す場合についても、指の画像の一部分であることに変わりはなく、領域幅が前記規定範囲内に収まる可能性が高いから、上記外周縁領域に生ずる先端領域を真の指先領域として誤認することにつながる。
【0052】
そこで、本実施形態においては、撮影範囲102bの有効座標範囲の外周縁領域を表示外撮影領域として、モニタ15の表示画面にかかる有効座標範囲の外側に延出形成する構成が採用されている。画面外にはみ出す指部分はこの表示外撮影領域内に被写体領域を形成するので、差分画像に基づいて特定される先端領域ひいてはその代表点にて特定される撮影指先点もこの表示外撮影領域内に生ずる。他方、図13の右に示すごとく、真の指先が表示外撮影領域内に入り込まず画面の外周縁領域にとどまる場合は、先端領域ひいては撮影指先点も画面内に生ずる。従って、先端領域taが表示外撮影領域102e内に存在している場合はこれを真の指先として認識せず(無効)、表示外撮影領域102e内に存在していない場合は真の指先として認識する(有効)ように処理が可能である。例えば、図14のように、複数の撮影指先点tpが特定される場合も、それぞれ表示外撮影領域102e内に存在するか否かに基づき、有効/無効の判定を個別に行なうことができる。図6のフローチャートでは、S1008〜S1010において上記原理に基づく判定を行なっている。なお、手挿入側となる表示画面のY方向後端縁については、撮影範囲102bの後端縁と一致させ、表示外撮影領域102eを特に形成しない構成とすることも可能である。
【0053】
なお、先端領域taが真の指先領域であるか否かを判定するアルゴリズムには、上記以外にも種々の方式を採用することができる。例えば、第二画像を得るための第一画像のY方向平行移動距離を一般的な大人の指幅値よりも小さく設定した場合、第一画像と第二画像との差分画像として得られる先端領域taは、X方向寸法WX(つまり、幅)がY方向寸法WYよりも大きい横長の領域となりやすい。そこで、先端領域taのX/Yアスペクト比φ(≡WX/WY)が規定範囲内にあるか否かに基づいて真の指先領域であるか否かを判定することが可能である。例えば、図10左に示す紙や書類の場合はφが極度に大きくなり、同じく右に示す携帯電話のアンテナ(指より細い)については、X方向寸法WXが不足する分だけφの値も小さくなるので、いずれも非指先領域として除外することが可能である。
【0054】
なお、指がY方向に対して傾いて挿入される場合を考慮し、図16に示すように、先端領域taに外接する平行線対を、角度を変えながら種々生成し、最大となる平行線間距離をWmax、最小となる平行線間距離をWminとして、上記アスペクト比φをWmax/Wminにより算出するようにしてもよい。
【0055】
また、図17に示すように、撮影画像の被写体領域(「1」画素領域)の総面積をSとし、特定された先端領域(非重なり領域)taの個数をNとして、S/Nの値を平均指面積として推定し、該S/Nが規定範囲内にあるか否かに基づいて、先端領域taが真の指先領域であるか否かを判定することも可能である。これは特に、手が撮影されたとき被写体領域が主として指領域のみにより形成されるよう、撮影領域のY方向寸法が指先端側の一部分のみを包含可能な値に設定されている場合に有効な手法であるといえる。
【0056】
図5に戻り、上記のごとくS108の指先判定処理が終了すれば、S109にて、特定された各先端領域のいずれが真の指先領域として判定されたかを調べ、S110において、該真の指先領域についてのみ代表点の座標(重心座標G)を(真の)撮影指先点として記憶し、真の指先領域でないものについては破棄ないし無効化する。
【0057】
次に、ユーザーインターフェースエンジン103eが実現する本発明の種々の実施形態について説明する。図3に示すように、操作ECU10はシリアル通信バス30を介してボデーECU300から、車速センサ301が検出する車速情報を取得し、閾車速(1〜10km/hr、例えば5km/hrに設定される)未満であれば低速走行状態(停車状態)と判定し、閾車速を超えていれば高速走行状態(走行状態)と判定する。
【0058】
ユーザーインターフェースエンジン103eのインターフェース仕様データは、低速走行時インターフェース仕様(停車時インターフェース仕様)データと高速走行時インターフェース仕様(走行時インターフェース仕様)データとの2通りが用意されており、停車状態においては前者が、走行状態においては後者がそれぞれ切り替えて使用される。図11は、その第一参考形態を示すものであり、具体的には、走行時インターフェース仕様(右)における有効な操作領域SB,FHWの表示形成数を、停車時インターフェース仕様(左)における有効な操作領域SBの表示形成数よりも少なく設定する例を示すものである。適用対象は、カーナビゲーションシステムの目的地や経由地等を文字入力するための文字入力画面である。
【0059】
停車時インターフェース仕様では操作領域は、文字入力キーボードKBを構成する個別の文字入力ソフトボタンSBとなっている。画像指先点を希望する文字のソフトボタンに位置決めし、タッチパネル12a上にて対応する位置に(すなわち、ソフトボタンの領域内にタッチ入力点が発生するように)タッチ操作を行なうことで、対応する文字入力がなされ、該当する文字のコードが操作指令情報として出力され、カーナビゲーションシステムに送信される。
【0060】
一方、走行時インターフェース仕様ではキーボードは表示されず、手書き入力を行なうためのフリーハンド入力ウィンドウFHWが操作領域として表示・形成されている。フリーハンド入力ウィンドウFHWは、停車時インターフェース仕様における文字入力ソフトボタンSBよりも大きく形成され、例えば文字入力キーボードKBとほぼ同等の大きさに形成されている。タッチ入力点又は画像指先点のいずれかの時間的変化を描画軌跡としてキャプチャするとともに、該描画軌跡が文字リスト上の個々の文字形状と比較され、マッチングする文字のコードが操作指令情報として出力され、カーナビゲーションシステムに送信される。なお、走行時インターフェース仕様におけるソフトボタンSBは、フリーハンドによる入力途中の履歴を消去する消去ボタンと、フリーハンド入力内容を確定させる確定ボタンとが表示・形成されるにとどまっている。
【0061】
次に、図12は、その第二参考形態を示すものであり、具体的には、走行時インターフェース仕様(右)における有効な操作領域の表示形成寸法を、停車時インターフェース仕様(左)における有効な操作領域の表示形成寸法よりも大きく設定する例を示すものである。適用対象は、カーナビゲーションシステムの目的地を設定するためのメニュー画面である。
【0062】
停車時インターフェース仕様では操作領域は個別のメニューボタンSB1となっている。ここでも、画像指先点を希望するメニューのソフトボタンに位置決めし、タッチパネル12a上にて対応する位置に(すなわち、ソフトボタンの領域内にタッチ入力点が発生するように)タッチ操作を行なうことで、対応するメニューが選択され、その内容が操作指令情報としてカーナビゲーションシステムに出力・送信される。
【0063】
一方、走行時インターフェース仕様ではメニューボタンSB1の数が減じられるとともに、特定のメニュー(ここでは、目的地履歴)を上位階層とする下位メニューボタン(ここでは、目的地候補)SB2が、停車時インターフェース仕様におけるメニューボタンSB1よりも横長に表示・形成されている。画像指先点を希望するメニューのソフトボタンに位置決めし、タッチパネル12a上にて対応する位置に(すなわち、ソフトボタンの領域内にタッチ入力点が発生するように)タッチ操作を行なうことで、対応するメニューが選択され、その内容が操作指令情報としてカーナビゲーションシステムに出力・送信される。
【0064】
図13は第三参考形態を示すものであり、具体的には、検出された画像指先点Gの数が多いほど操作画面上に表示形成する操作領域の種別を増加さるとともに、走行時インターフェース仕様における操作領域の最大表示形成種別数を、停車時インターフェース仕様における操作領域の最大表示形成種別数よりも小さく設定する例を示す。適用対象は、カーオーディオシステムの再生操作画面である。
【0065】
停車時インターフェース仕様では、操作領域として、検出される画像指先点Gの数が1つの場合は、図示はしていないが再生/停止ボタンP/Sを画像指先点Gに対応する位置に表示する。また、検出される画像指先点Gの数が2つの場合は、図13の上段右に示すように、早送りボタンFF及び逆戻しボタンRFを各画像指先点Gに対応する位置に表示する。さらに、検出される画像指先点Gの数が3つの場合は、図13の上段左に示すように、早送りボタンFF、再生/停止ボタンP/S及び逆戻しボタンRFを各画像指先点Gに対応する位置に表示する。どの場合も、いずれかの指にてタッチパネル12aにタッチ操作を行なうことで、対応するボタンの機能が選択され、その内容が操作指令情報として出力される。ここで、操作領域の最大表示形成種別数は、検出される画像指先点Gの数が3つの場合の「3」である。
【0066】
一方、走行時インターフェース仕様では、検出される画像指先点Gの数とは無関係に、有効となる操作領域は再生/停止ボタンP/Sのみとされる(つまり、最大表示形成種別数は「1」)。図13の下段左においては、検出される画像指先点Gの数が3つであるが、操作領域をなす再生/停止ボタンP/Sは、画像指先点Gから外れた位置に1つのみ表示形成されている。また、図13の下段中央においては、各画像指先点Gに再生/停止ボタンP/Sを個別に(つまり、画像指先点Gの数だけ)表示している。つまり、操作領域は画像指先点Gに対応して複数表示されているが、操作領域の種別としては「1」であることに変わりがない。いずれも、指示体画像FIは各画像指先点Gに個別に表示されている。他方、図13の下段右においては、画像指先点Gが複数検出されていても、指示体画像FIは1つのみを表示し、操作領域もこれに対応して1つのみを表示形成している。いずれの場合も、どの指でタッチ操作を行なっても再生/停止ボタンP/Sのみが操作される。
【0067】
図14は、第四参考形態を示すものである。適用対象はカーオーディオシステムの選曲画面であり、再生対象となるオーディオファイル群は、アルバム(第一階層メニュータイトル)毎に複数の収録曲(第二階層メニュータイトル)がまとめられた階層メニュー構造を有する。現在選択中のアルバムのタイトル画像は現在アルバムウィンドウAW(画面上にて有効となる操作領域である)に表示され、対応するアルバム名が操作指令出力、すなわちアルバム選択情報として出力される。この実施形態では、前後に配列するアルバム群を示す準備アルバムウィンドウ群AW’が、現在アルバムウィンドウAWの左右に(部分的に重なるように)連なって表示・形成されている。また、現在選択中のアルバム名はアルバム名ウィンドウATWに表示される。
【0068】
該画面上では、タッチ入力装置12の操作面102bに沿うドラッグ操作が検出される(ここでは、タッチ入力点TPの時間変化でドラッグ操作を検出しているが、撮影指先点の変化でドラッグ操作を検出してもよい)。そして、アルバムウィンドウ群AW,AW’の配列方向にドラッグ操作を行なうと、準備アルバムウィンドウ群AW’に対応するアルバムのタイトル画像が現在アルバムウィンドウAWに順次切り替え表示される(これに合わせ、アルバム名ウィンドウATWに表示されるアルバム名も順次切り替わる)。なお、ドラッグ操作の向きが変われば、アルバムの切替え方向も逆とされる。
【0069】
そして、停車時インターフェース仕様においては、図14の上に示すように、1回のドラッグ操作の継続中はアルバムのタイトル画像(操作領域)が連続的に切り替わる。なお、ロックマークURMが、連続切替え可能であることを示す「開錠」の形態で合わせて表示されている。他方、走行時インターフェース仕様においては、1回のドラッグ操作が生ずる毎にアルバムのタイトル画像(操作領域)が1つのみ(つまり、断続的に)切り替わる。ロックマークURMは、連続切替え不能であることを示す「施錠」の形態で表示されている。
【0070】
図15は、第五参考形態を示すものである。図14にて、現在アルバムウィンドウAWはタッチ操作を行なうと、現在選択中のアルバムの収録曲リストウィンドウLWが表示される。該リスト上の個々の曲名表示エリアは、それぞれ曲選択のためのソフトボタンを形成し、タッチ操作により操作指令出力、すなわち選曲情報として出力される。収録曲リストウィンドウLW上で曲名表示エリアの配列方向(ここでは、上下方向)にドラッグ操作を行なうと、収録曲リストウィンドウLW内の曲名表示エリアが順次対応する向きにスクロールされる。停車時インターフェース仕様においては、図15の上に示すように、1回のドラッグ操作の継続中は曲名表示エリアが連続的に切り替わるようにスクロールされる。他方、走行時インターフェース仕様においては、図15の下に示すように、タッチ操作が生ずる毎に、画面上の方向マークBAのうちタッチ入力点に近い側に位置するものが示す向きに、選択中の曲が1つのみ移動する(つまり、対応する方向マークBA側において現在演奏中の曲の次の曲に切り替えて再生処理が行なわれる)。
【0071】
図16は第六参考形態を示すものである。適用対象となる電子機器はここではエアコンである。図16左は停車時インターフェース仕様を示すもので、複数の操作領域としてエアコンの種々のモード切替操作を行なうためのモード切替ボタンSBが表示形成されている。これらは、いずれかのモード切替ボタンSB内にタッチ入力点が検出されれば、対応するモードの切替信号が第二操作指令情報として出力される。一方、画面内には、設定温度の切替え操作領域GA1と風量の切替え操作領域GA2とが形成されている。これらはいずれも、領域内にて規定の方向にドラッグ操作(操作動作パターン:ジェスチャ)を行なうことで、そのタッチ入力点ないし画像指先点の位置変化量に応じて、設定温度ないし風量が操作に対応する向きに連続的に変更され、その変更内容を示す情報が第一操作指令情報として出力される(つまり、第一操作指令情報と第二操作指令情報との双方が能動化されている)。また、図16右は走行時インターフェース仕様を示すもので、モード切替ボタンSBが省略(あるいは無効化)され、設定温度の切替え操作領域GA1と風量の切替え操作領域GA2のみが形成されている(つまり、第一操作指令情報のみが能動化されている)。
【0072】
次に、図17は、本発明の第一にかかる実施形態を示すものであり、適用対象は、カーナビゲーションシステムの目的地を設定するためのメニュー画面である。操作領域は個別のメニューボタンSB1となっており、画像指先点を希望するメニューのソフトボタンに位置決めし、タッチパネル12a上にて対応する位置にタッチ操作を行なうことで、対応するメニューが選択され、その内容が操作指令情報としてカーナビゲーションシステムに出力・送信される。図17左は撮影指先点が複数個同時に検出されている場合の、同じく右は撮影指先点が1個のみ検出されている場合のインターフェース使用を示すものであり、複数個同時に検出されている場合のメニューボタンSBSの表示形成数が、1個のみ検出されている場合のメニューボタンSBLの表示形成数よりも多く設定されている。なお、後者においては、メニューボタンSB1の表示形成数が少なくなるに伴ない、個々のメニューボタンSB1の形成寸法が拡大されている。
【0073】
図18〜図20は、本発明の第二にかかる第一実施形態を示すものであり、撮影指先点が検出された場合に、タッチ入力装置12へのタッチ操作が同時に検出されているか否かに応じてユーザーインターフェースエンジン103eのインターフェース仕様が切り替わるようになっている。適用対象は、カーナビゲーションシステムの地図表示画面であり、地図表示領域MAとスクロールボタンSBとが形成されている。図18に示すように、このスクロールボタンSBにタッチ操作することで、地図表示領域MAにおける地図のスクロール操作が可能となる。
【0074】
図19は、どれか1本の指により地図表示領域MA上にタッチを伴なうドラッグ操作を加えたときのインターフェース仕様を示しており、この場合は、地図表示領域MAにて地図がドラッグ操作方向に第一速度V1でスクロールされる。一方、図20は、地図表示領域MA上にタッチを伴なわない(つまり、撮影指先点Gのみが特定される状態での)ドラッグ操作を加えたときのインターフェース仕様を示している。このドラッグ操作は、複数本の指の撮影指先点Gが検出されることを考慮して、最初に検出された撮影指先点Gの追尾か、撮影指先点の検出個数の時間的変化(0→1→2→3→2→1→1)のどちらかで検出が可能である。該仕様では、地図表示領域MAにて地図がドラッグ操作方向に、前述の第一速度V1よりも大きい第二速度V1にてスクロールされる。
【0075】
図21〜図23は、本発明の第二にかかる第二実施形態を示すものであり、適用対象は図14及び図15と同様のカーオーディオシステムの選曲画面である。図21に示すように、現在アルバムウィンドウAWと準備アルバムウィンドウ群AW’とが図14と同様に表示形成されており、また、アルバムの収録曲リストウィンドウLWが現在アルバムウィンドウAWの下側に合わせて表示されている。図22は、地図表示領域MA上にタッチを伴なわない(つまり、撮影指先点Gのみが特定される状態での)ドラッグ操作を行なう場合のインターフェース仕様を示すものである。アルバムウィンドウ群AW,AW’の配列方向に該ドラッグ操作を行なうことにより、準備アルバムウィンドウ群AW’に対応するアルバムのタイトル画像が現在アルバムウィンドウAWに順次切り替え表示される(これに合わせ、収録曲リストウィンドウLWに表示される収録曲も順次切り替わる)。なお、ドラッグ操作の向きが変われば、アルバムの切替え方向も逆とされる。また、図23は、タッチ操作を行なった場合のインターフェース仕様を示すものである。収録曲リストウィンドウLW内の曲名表示エリアにタッチすれば、タッチした曲名の演奏に切り替わる。なお、現在アルバムウィンドウAWにタッチしたとき、現在選択中のものの次の曲に演奏が切り替わるように構成してもよい。
【符号の説明】
【0076】
1 操作装置
10 操作ECU
12 入力部
12a タッチ入力装置
12b 手撮影カメラ(撮影装置)
15 画像表示装置
101 CPU(撮影指先点検出手段、指示体画像表示制御手段、作画面表示制御手段)
103e ユーザーインターフェースエンジン
301 車速センサ(走行状態検出手段)
SF、SI 指示体画像
tp タッチ入力点
G 撮影指先点
【技術分野】
【0001】
本発明は車載用電子機器操作装置に関する。
【背景技術】
【0002】
【特許文献1】特開2000−335330号公報
【特許文献2】特開2001−216069号公報
【0003】
従来、カーナビゲーション装置のような車載機器の操作装置として、操作者の手をカメラで撮影し、その撮影データから指画像を抽出し、抽出した指画像域を車載機器のGUI入力画面(例えば、ナビ画面など)に重畳表示するタイプのものが提案されている。例えば、特許文献1には、車体の天井に取り付けたカメラを用いて、座席手元のタッチパネルを操作する手の様子を撮影し、撮影した手とタッチパネルとを、操作者の前方に対向配置された液晶パネルに表示する構成が開示されている。また、特許文献2には、ユーザーの指等とディスプレイの画面との距離に応じて異なる操作内容を割り当てる操作入力装置が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記従来の操作システムにおいては、カメラによる手の撮影情報が、操作位置を示す手輪郭画像の画面上への重畳表示に利用されるに留まり、画像情報自体が入力情報として有効に利用されているとはいい難かった。特に、運転中においては、運転者は操作装置の画面を注視できないため誤操作を生じやすく、複雑な操作が困難である。特許文献1の操作装置は、手の撮影情報とタッチ検出情報との2系統の入力情報が利用するにもかかわらず、操作性の向上を目的としてそれらが有効に活用されていたとはいいがたい。
【0005】
本発明の課題は、タッチ入力部と手撮影手段との双方を入力手段として備えるとともに、両者をより有効に活用することにより、操作装置の画面を注視できない状況等でも、その操作性を大幅に向上できる車載用電子機器操作装置を提供することにある。
【課題を解決する手段及び発明の効果】
【0006】
本発明に関連する構成は、車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、上記の課題を解決するために、
操作者の指先によるタッチ操作を受け付ける操作面を有し、操作によるタッチ入力点を検出するタッチ入力装置と、
操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する操作者の手を撮影する撮影装置と、
撮影装置が撮影取得する手画像データに基づき手の指先点を撮影指先点として検出する撮影指先点検出手段と、
操作面ならびに撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
画像表示装置に対し指先点を指示する指示体画像を表示画面上に表示させる指示体画像表示制御手段と、
画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令出力内容との関係が、予め定められたインターフェース仕様として設定され、操作画面上での指示入力状態に応じて前記インターフェース仕様に基づき操作指令情報を出力するユーザーインターフェースエンジンと、
車両の走行状態を検出する走行状態検出手段と、
検出された走行状態に応じてユーザーインターフェースエンジンのインターフェース仕様を変更するインターフェース仕様変更手段と、を備えたことが想定される。
【0007】
上記の本発明に関連する構成によると、画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示するとともに、ユーザーインターフェースエンジンにより、タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令出力内容との関係を予め定められたインターフェース仕様として設定し、操作画面上での指示入力状態に応じて前記インターフェース仕様に基づき操作指令情報を出力する。そして、検出された車両の走行状態に応じてインターフェース仕様が変更されるように構成されるので、車載用電子機器操作装置の操作性を車両走行状態に応じて随時適正化することができる。
【0008】
インターフェース仕様変更手段は、車両の走行状態に応じて操作画面の表示内容を、該表示内容に対応する操作指令出力内容とともに変更するものとして構成できる。すなわち、タッチ操作と撮影指先点検出とを入力情報とする操作画面を用いたユーザーインターフェース(一種のグラフィカルユーザーインターフェースである)において、車両の走行状態に応じて操作画面の表示内容(すなわち、操作画面の視覚的な構成)を変更することで、操作装置の画面を注視できない操作状況が車両走行状態に応じて発生した場合でも、適正な操作支援を行なうことができる。
【0009】
具体的には、走行状態検出手段に車速検出手段を設け、インターフェース仕様として、検出された車速値が閾値未満の場合に使用する低速走行時(停車時含む)インターフェース仕様と、検出された車速値が閾値を超える場合に使用する高速走行時インターフェース仕様とを用意することができる。そして、インターフェース仕様変更手段を、車速値に応じてインターフェース仕様を低速走行時インターフェース仕様と高速走行時インターフェース仕様との間で切り替えるものとして構成することができる。車速が小さい場合(特に停車中)は、運転者は操作画面の注視時間や頻度を高く確保できるが、車速が大きい場合は前方を注視しなければならず、操作画面の長時間の直視は難しくなる。そこで、上記のごとく、低速走行時インターフェース仕様と高速走行時インターフェース仕様とを予め用意し、車速ひいては操作画面の注視可能度に応じて随時切り替えて使用することで、各状況に適した操作性確保を適切に図ることができる。
【0010】
操作画面表示制御手段は、互いに異なる操作指令出力を行なうための複数の操作領域(例えば操作ボタンや入力ウィンドウなど)を操作画面上に表示形成するものとして構成できる。この場合、インターフェース仕様変更手段は、高速走行時インターフェース仕様における有効な操作領域の表示形成数を、低速走行時インターフェース仕様における有効な操作領域の表示形成数よりも少なく設定するものとして構成できる。また、高速走行時インターフェース仕様における有効な操作領域の表示形成寸法を、低速走行時インターフェース仕様における有効な操作領域の表示形成寸法よりも大きく設定するものとして構成することもできる。操作画面を注視しにくい高速走行時にあっては、操作は手探りになりがちであり、操作領域の数が多すぎたり、あるいは個々の操作領域の面積が小さすぎたりすると誤操作を生じやすくなる。そこで、上記のように構成することで、このような不具合を効果的に解消することができる。
【0011】
また、撮影指先点検出手段は手画像データに基づき複数個の指先点を同時検出可能に構成することができる。操作画面表示制御手段は、検出された指先点の数が多いほど操作画面上に表示形成する操作領域の種別を増加させるように構成できる。検出される指の数に応じて操作領域の種別を増加させることで、複数本の指による操作入力の多様化及び効率化を図ることができる。特に、指先点が検出される毎に、各指先点に対応する位置に操作領域を動的に設定・形成するように構成すれば、指毎に固有の操作領域が設定されることになり、各指の機能分担が明確化して複雑な入力もより直感的に行ないやすくすることができる。
【0012】
この場合、インターフェース仕様変更手段は、高速走行時インターフェース仕様における操作領域の最大表示形成種別数を、低速走行時インターフェース仕様における操作領域の最大表示形成種別数よりも小さく設定するように構成できる。画面注視が困難な低速走行時に、最大表示形成種別数の小さいインターフェース仕様に切り替えることで、誤操作を発生しにくくすることができる。
【0013】
一方、操作画面表示制御手段は、タッチ入力装置の操作面に沿うドラッグ操作を検出して、画面上にて有効となる操作領域を、操作指令出力内容の異なる複数のものの間で切替え表示するものとして構成することもできる。インターフェース仕様変更手段は、低速走行時インターフェース仕様においては1回のドラッグ操作の継続中は操作領域を連続的に切り替える一方、高速走行時インターフェース仕様においては、1回のドラッグ操作が生ずる毎に操作領域を断続的に切り替えるように構成することができる。ドラッグ操作により操作領域が連続切替えできれば、次々と切り替わる操作領域の内容を確認しながら、望む操作領域に迅速にたどり着くことができる利点がある。しかし、画面が直視しにくい(高速)走行時には、連続的に切り替わると所望の操作領域が飛ばされてしまい、これに狙い通りにたどり着けない場合がある。そこで、高速走行時インターフェース仕様においては、1回のドラッグ操作が生ずる毎に操作領域を断続的に切り替えるように構成することで、所望の操作領域に確実にたどり着くことができるようになる。
【0014】
また、さらに別の態様としては、画像指先点の操作面に沿う特定の動きを操作動作パターンとして検出する操作動作パターン検出手段を設け、操作画面表示制御手段は、互いに異なる操作指令出力を行なうための複数の操作領域を操作画面上に表示形成する構成を採用することもできる。ユーザーインターフェースエンジンは、操作動作パターンが検出されるに伴ない該操作動作パターンに対応する第一操作指令情報を出力する一方、タッチ入力点又は撮影指先点により操作領域が選択された場合に、当該操作領域と対応付けられた第二操作指令情報を出力する操作指令情報出力手段を有するものとして構成する。そして、インターフェース仕様変更手段は、低速走行時インターフェース仕様においては操作領域の選択に応じた第二操作指令情報を少なくとも能動化し、高速走行時インターフェース仕様においては操作動作パターンの検出に応じた第一操作指令情報のみを能動化するものとして構成することができる。この構成によると、低速走行時インターフェース仕様では、画面を見ながらの操作領域の選択操作が可能となる一方、高速走行時インターフェース仕様においては操作領域の選択操作が排除され、画面を注視しなくても可能な操作動作パターン(つまり、ジェスチュア)のみが能動化されるので操作性が向上する。
【0015】
次に、本発明の第一は、車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、上記の課題を解決するために、
操作者の指先によるタッチ操作を受け付ける操作面を有し、タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する操作者の手を撮影する撮影装置と、
撮影装置が撮影取得する手画像データに基づき手の指先点を撮影指先点として複数同時に検出可能に構成された撮影指先点検出手段と、
操作面ならびに撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
画像表示装置に対し指先点を指示する指示体画像を表示画面上に表示させる指示体画像表示制御手段と、
画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、操作画面上での指示入力状態に応じてインターフェース仕様に基づき操作指令情報を出力するユーザーインターフェースエンジンと、
撮影指先点検出手段が検出する撮影指先点の個数に応じてユーザーインターフェースエンジンのインターフェース仕様を変更するインターフェース仕様変更手段と、を備えたことを特徴とする。
【0016】
撮影指先点の個数に応じてユーザーインターフェースエンジンのインターフェース仕様を変更することにより、検出される指の本数に応じて入力仕様の適正化を図ることができる。例えば、操作画面表示制御手段が、互いに異なる操作指令出力を行なうための複数の操作領域を操作画面上に表示形成するものである場合、インターフェース仕様変更手段は、撮影指先点検出手段が検出する撮影指先点の数が複数個の場合の有効な操作領域の表示形成数を、同じく撮影指先点の数が1個の場合の有効な操作領域の表示形成数よりも多く設定するように構成できる。検出される指の数に応じて操作領域の種別を増加させることで、複数本の指による操作入力の多様化及び効率化を図ることができる。
【0017】
本発明の第二は、車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、上記の課題を解決するために、
操作者の指先によるタッチ操作を受け付ける操作面を有し、タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する操作者の手を撮影する撮影装置と、
撮影装置が撮影取得する手画像データに基づき手の指先点を撮影指先点として検出する撮影指先点検出手段と、
操作面ならびに撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
画像表示装置に対し指先点を指示する指示体画像を表示画面上に表示させる指示体画像表示制御手段と、
画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、操作画面上での指示入力状態に応じてインターフェース仕様に基づき操作指令情報を出力するユーザーインターフェースエンジンと、
撮影指先点が検出された場合に、タッチ入力装置へのタッチ操作が同時に検出されているか否かに応じてユーザーインターフェースエンジンのインターフェース仕様を変更するインターフェース仕様変更手段と、を備えたことを特徴とする。
【0018】
上記の構成によると、操作入力系が、タッチ入力装置と手の撮影装置との二系統からなることを利用して、撮影指先点が検出された場合に、タッチ入力装置へのタッチ操作が同時に検出されているか否かに応じてユーザーインターフェースエンジンのインターフェース仕様を変更するようにしたから、操作装置の入力利用形態の大幅な拡張を図ることができる。
【0019】
具体的には、操作画面表示制御手段は、タッチ入力装置の操作面に沿うドラッグ操作を検出して、画像表示装置の画面上に表示中の画像情報を該ドラッグ操作に対応する向きにスクロール表示処理するものとして構成できる。この場合、インターフェース仕様変更手段は、撮影指先点とともにタッチ操作が検出されている場合の画像情報のスクロール速度を、タッチ操作が検出されていない場合のスクロール速度よりも小さく設定するものとして構成できる。操作面にタッチしながらドラッグするか、タッチせずにドラッグするかに応じて、画面のスクロール速度を容易にかつ直感的に切り替えることができる。
【0020】
他方、操作画面表示制御手段は、タッチ入力装置の操作面に沿うドラッグ操作を検出して、画像表示装置の画面上に表示中の階層型の情報出力メニューをスクロール表示処理するものとして構成することもできる。インターフェース仕様変更手段は、タッチ操作が検出されている場合と、タッチ操作が検出されていない場合とで、情報出力メニューの互いに異なる階層をスクロール表示処理するものとして構成することができる。操作面にタッチしながらドラッグするか、タッチせずにドラッグするかを切り替えることにより、スクロールする情報出力メニューの階層が変更されるので、メニュー検索の利便性を大幅に向上することができる。
【図面の簡単な説明】
【0021】
【図1】本発明の操作装置の車内取付形態の一例を示す斜視図。
【図2】その操作部の内部構造の一例を示す断面模式図。
【図3】図1の操作装置の電気的構成の一例を示すブロック図。
【図4】撮影指先点を決定する画像処理の流れを示す説明図。
【図5】撮影指先点特定処理の流れを示すフローチャート。
【図6】指先判定処理の詳細を示すフローチャート。
【図7】先端領域の幅の概念を説明する図。
【図8】複数の先端領域を分離するためのラベリング処理の概念を説明する図。
【図9】手撮影カメラにより取得された手画像を重畳表示する実施形態を示す図。
【図10】指示体画像を重畳した画面表示例を示す図。
【図11】本発明に関連する第一参考形態を示す図。
【図12】同じく第二参考形態を示す図。
【図13】同じく第三参考形態を示す図。
【図14】同じく第四参考形態を示す図。
【図15】同じく第五参考形態を示す図。
【図16】同じく第六参考形態を示す図。
【図17】本発明の第一に係る第一実施形態を示す図。
【図18】本発明の第二に係る第一実施形態を示す図。
【図19】図18に続く説明図。
【図20】図19に続く説明図。
【図21】本発明の第二に係る第二実施形態を示す図。
【図22】図21に続く説明図。
【図23】図22に続く説明図。
【発明を実施するための形態】
【0022】
以下、本発明の実施の形態を、図面を用いて説明する。
図1は、本発明の画像表示装置の適用対象となる、車載用電子機器の操作装置の一例を示すものである。この操作装置1は、自動車の車室内において、インパネ中央部にモニタ(表示装置)15が配置され、センターコンソールCの、運転席2D及び助手席2Pのいずれからも操作可能な位置に操作部12が配置されている。使用目的は特には限定されないが、例えばセンターコンソールに設けられたモニタ15の画面を見ながら、カーナビゲーション装置やカーオーディオ装置の機能操作を行なうためのものである。
【0023】
操作部12は、入力操作面が上向きとなるように取り付けられている。該入力操作面を形成するのは周知のタッチパネル12aであり、抵抗膜方式、表面弾性波方式あるいは静電容量方式のいずれを採用してもよい。タッチパネル12aは、その基材が透明樹脂板あるいはガラス板等により透明入力支持板として構成され、操作者の指先によるタッチ操作を上面側にて支持しつつ受け付ける。そして、モニタ15の画面領域に対応した入力座標系が板面に沿って設定される。
【0024】
図2は、入力部12の内部構造を模式的に示す断面図であり、筐体122eの上面に前述のタッチパネル12aが、入力操作面102b側が上となるように嵌め込まれている。筐体12dの内部には、照明光源12c及び撮影光学系とともに手撮影カメラ(撮影装置)12bが収容されており、撮影画像取得手段を構成している。照明光源12cは、凸曲面形態のモールドにより素子直上側への輝度指向性を高めた発光ダイオード光源(従って、単色光源である)であり、タッチパネル12aの下面を取り囲む形態で複数配置されている。各照明光源12cは、高輝度となるモールド先端側をタッチパネル12aの下面内側に向けそれぞれ傾けて取り付けてあり、入力操作面102b上の操作者の手Hの掌面による一次撮像反射光RB1が、タッチパネル12aを透過する形で下向きに生ずるようになっている。
【0025】
撮影光学系は、第一反射部12pと第二反射部12rとを有する。第一反射部12pは、タッチパネル12aの直下に対向配置されたプリズム板(三角柱状の微小プリズムを面内に並列に配置した透明材料板:以下、プリズム板12pともいう)であり、操作者の手Hからの一次撮像反射光RB1を斜め上方に反射することにより、該プリズム板12pとタッチパネル12aとの対向空間12fの側方外側へ二次撮像反射光RB2として導く。第二反射部12rは上記対向空間の側方外側に配置された平面反射鏡(以下、平面反射鏡12rともいう)であり、上記二次撮像反射光RB2を側方へ反射することにより、対向空間12fを挟んで第二反射部12rの反対側に位置する手撮影カメラ12bに対し三次撮像反射光RB3として導く。手撮影カメラ12bは該三次撮像反射光RB3の焦点に対応する位置に設けられ、操作者の指を含む手Hの撮影画像を取得する。
【0026】
プリズム板12pは、図2内に拡大して示すように、ミラー基面MBPに対しそれぞれ等角度で傾斜する反射面を有したリブ状の微小プリズムを、ミラー基面MBPに沿って互いに平行となるように密接形成したものであり、ミラー基面MBPを傾けずとも、その法線方向に入射する光を(斜め)側方へ反射することができる。従って、側方反射のための第一反射部12pをタッチパネル12aの下方に平行対向する形で配置でき、対向空間12fの高さ方向寸法を大幅に縮小できる。
【0027】
また、その対向空間12fを側方から挟んで第二反射部12rと手撮影カメラ12bとを対向配置することで、手撮影カメラ12bに直接入射する三次撮像反射光RBを、対向空間12fを横切る形で導くことができる。これにより、第二反射部12rと手撮影カメラ12bとを、タッチパネル12aの側縁に近接配置でき、かつ、手Hから手撮影カメラ12bへの撮像反射光の入射経路が、対向空間12f内でいわば三つ折状に畳み込まれる形になるので、撮像光学系全体の大幅なコンパクト化と、筐体12dの薄型化とが実現されている。特に、タッチパネル12aのサイズ(つまり、入力操作面102bの縦横寸法)を縮小することで、入力部12全体の劇的な小形化及び薄型化が実現し、図1のセンターコンソール部Cの幅が比較的小さい車両や、シフトレーバー前方の限られた取付スペースしか活用できない車両にも問題なく取り付けが可能となる。
【0028】
タッチパネル12の入力操作面102bは、手撮影カメラ12bの撮影範囲102bに対応しており、平均的な寸法の大人の手を想定した場合に、中指の指先端を含む長手方向の一部のみが入力操作面102b内に入るように、その上下方向(Y方向)寸法が定められている(例えば、60〜90mm(具体例として75mm))。これにより、モニタ15の画面領域には、指の付け根よりも先の部分だけが表示されることになるので、指以外の掌部分の形状が表示に関与せず、指示体画像を用いた後述の表示処理の大幅な簡略化を図ることができる。また、入力操作面102bの左右方向(X方向)寸法は110〜130mm(例えば、120mm)であり、手を乗せて各指を大きく開いた状態では、人差し指、中指、薬指及び小指が撮影範囲内となり、親指が撮影範囲外となっている。ただし、各指を適当に閉じれば全ての指を撮影範囲内に収めることも可能である。
【0029】
図3は、操作装置1の電気的構成を示すブロック図である。操作装置1の制御主体をなすのは操作ECU10である。該操作ECU10は、CPU101を主体とするコンピュータハードウェア基板として構成され、具体的には、CPU101、RAM1102、ROM103、グラフィックコントローラ110、ビデオインターフェース112、タッチパネルインターフェース114、汎用入出力部104及びシリアル通信インターフェース116が内部バス105により相互接続された構造を有する。グラフィックコントローラ110には表示用ビデオRAM111及びモニタ15が、ビデオインターフェース112には撮影用ビデオRAM113及び手撮影カメラ12bが、タッチパネルインターフェース114にはタッチパネル12aが、そして、汎用入出力部104にはドライバ(駆動回路)115を介して照明光源12cがそれぞれ接続されている。また、シリアル通信インターフェース116には、CAN通信バスなどの車載用シリアル通信バス30が接続され、これにネットワーク接続された他のECU、具体的にはカーナビゲーション装置の制御を司るナビECU200およびボデー系ECU301と相互通信可能とされている。
【0030】
ビデオインターフェース112には、手撮影カメラ12bが取得するアナログもしくはデジタルの映像信号が継続的に入力されるとともに、撮影用ビデオRAM113内に画像フレームデータとして、所定の時間間隔で取り込まれる。撮影用ビデオRAM113の記憶内容は、新しい画像フレームデータが取り込まれる毎に随時更新される。
【0031】
グラフィックコントローラ110は、通信インターフェース116を介してナビECU200から入力画面画像フレームデータを取得するとともに、CPU101側からは指示体画像が所定位置に張り込まれた指示体画像フレームデータを取得し、表示用ビデオRAM111上にて周知のアルファブレンディング処理等によりフレーム合成し、モニタ15に出力する。
【0032】
タッチパネルインターフェース114は、タッチパネル12aの方式に応じた固有の駆動回路を有するとともに、タッチパネル12aからの信号入力状態に基づいて、入力操作面102bへのタッチ操作による入力位置(タッチ入力点)を検出し、その検出結果を位置入力座標情報として出力する。
【0033】
なお、手撮影カメラ12bの撮影範囲(撮影視野;ひいては、該手撮影カメラ12bにより取得される撮影画像)、タッチパネル12bの入力操作面、モニタ15の画面領域(ひいては、その表示内容を決定する入力画面画像フレームデータ及び指示体画像フレームデータ)には、二次元座標対応関係が一義的に定められている。
【0034】
また、ROM103には、CPU101が実行する以下のようなソフトウェアが格納されている。
・タッチパネル制御ソフトウェア103a:タッチパネルインターフェース114からタッチ入力点の座標を取得し、入力画面画像フレームデータとともにナビECU200から送られてくる、操作入力内容の判定参照情報(例えば、ソフトボタンの領域特定情報や、当該ソフトボタンがタッチ操作されたときに出力するべき操作コマンド内容等の情報を含む)を取得する。そして、該タッチ入力点座標と取得した判定参照情報とに基づいて現在の操作入力内容を特定し、ナビECU200に対して対応する操作コマンドの実行指令出力を行なう。
【0035】
・表示制御ソフトウェア103b:グラフィックコントローラ110への入力画面画像フレームデータの取り込み指令を行なうとともに、後述の方法により作成した指示体画像フレームデータをグラフィックコントローラ110へ転送する。
・指先点演算ソフトウェア103c(先端抽出手段、画像先端位置特定手段、指先判定手段):RAM1102の指先点演算処理メモリ1102aを作業領域として動作する。手撮影カメラ12bが撮影した操作者の手の撮影画像を二値化し、その実指像の指先位置を撮影指先点として特定する演算、具体的には、二値化された撮影画像の挿入方向における先端領域taの所定の代表点(ここでは幾何学的重心位置)を撮影指先点tpとして特定する演算を行なう。また、先端領域taの寸法及び面積の少なくともいずれかに基づいて、撮影指先点tpが真の指先点tpを示すものであるか否かを判定する。なお、手の撮影画像の二値化処理は、ビデオインターフェースの出力段に画素の二値化回路を組み込んで事前に行なうようにしてもよい。
・指示体画像合成ソフトウェア103d(指示体画像表示手段):RAM1102の指示体画像合成用メモリ1102bを作業領域として動作する。図9に示すように、撮影された手画像SF’を指示体画像として画面に重畳表示するようにしてもよいし、図10に示すように、その手画像よりも指幅の細い指示体画像F1を、撮影画像とは別に用意した指示体画像データ103eに基づいて作成し、画面に重畳表示するようにしてもよい。この場合、指示体画像F1は、その指先位置が撮影指先点と一致するように、指示体画像フレーム上に貼り付ける処理がなされる。
【0036】
・ユーザーインターフェースエンジン103e:タッチ入力点と撮影指先点との一方または双方による操作画面上での指示入力状態と、車載電子機器(本実施形態ではカーナビゲーションシステム及びカーオーディオシステム)への操作指令出力内容との関係を予め定められたインターフェース仕様として設定するとともに、操作画面上での指示入力状態に応じて該インターフェース仕様に基づき操作指令情報を出力すると処理を行なう。また、車両の走行状態(特に、車速)、撮影指先点の個数、あるいは、撮影指先点が検出された場合にタッチ入力装置12へのタッチ操作が同時に検出されているか否か、等に応じて上記インターフェース仕様を適宜変更する機能(インターフェース仕様変更手段)を有している。
【0037】
以下、操作装置1において、撮影される手の撮影指先点がどのようにして特定されるかを、フローチャートを用いて説明する。該処理の要部は指先点演算ソフトウェア103cが担う。まず、モニタ15の画面(領域)には、先行するコマンド入力(例えば別画面でのタッチ入力操作に基づく)により、図32のキーボード入力画面(ただし手画像SFは除く)が表示されているものとする(ただし、地図画面など、他の入力画面であってもよい)。
【0038】
図5は指先点特定処理の流れ(一定のサイクルで反復して実行される)を示すものであり、上記の状態で、図2に示すように、タッチパネル12aの入力操作面102bに手Hを近づけると、手撮影カメラ12bは、照明光源12cからの照明光の手による反射光に基づいて手像を撮影する。図5のS101で、その撮影画像を取り込む。手像の画素は反射光の受光により背景領域よりも明るく現れる。従って、図4のAに示すように、画素の輝度を適当な閾値で二値化すれば、高輝度画素値(ここでは「1」とする)を示す領域を被写体領域(図中黒で表している)、低輝度画素値(ここでは「0」とする)を示す領域を背景領域(図中白で表している)として、互いに画像分離できる。S102では、この二値化された画像データを第一画像データ(A)として保存する。
【0039】
なお、S103では、第一画像データにおける被写体領域の面積率σを演算する。手撮影カメラ12bの撮影範囲内に被写体が存在しない場合は、被写体領域の面積率σがある閾値σ0未満となるので、この場合は以下の処理をスキップする。
【0040】
次に、図5のS105では、該第一画像データを手像の掌長方向(Y方向)に所定距離(例えば、中指第一関節より先を指先部分として、その20%〜80%(実距離にして5〜20mm程度))だけ平行移動させて得られる画像データを、図4のBに示す第二画像データとする。そして、S106では、図4のCに示すように、両画像データを重ね合わせたときの指先側に現れる非重なり領域を手の挿入方向における先端領域(指先領域)taとして特定する。取得された原画像データを手像の掌長方向に平行移動して重ね合わせることにより、指先領域を非重なり領域として簡単に特定することができる。また、一部の指が閉じて密着していても、丸みを帯びた指先領域は確実に分離して特定することが可能である。
【0041】
図4のCにおいては、第二画像データBを、第一画像データAを掌長方向(Y方向)にて手首側へ後退移動させて作成しており、第一画像データAの手像指先側に現れる非重なり領域が先端領域(指先領域)として特定される。撮影範囲(ひいてはモニタ15の画面領域)との座標対応関係が保存される第一画像データA上にて指先領域を特定でき、後述の指先点、ひいては、画面領域上の対応座標点の特定処理を簡便に行なうことができる。
【0042】
また、第一及び第二画像データはいずれも二値化されており、非重なり領域は、第一画像データと第二画像データとの画像差分を演算することで特定される。これにより、非重なり領域の画素を特定する処理は、第一及び第二画像データの対応する画素間の論理演算に転換できる(具体的には、対応画素間の排他的論理和が0になれば、それを非重なり領域の画素として特定できる)。なお、第一及び第二画像データの非重なり領域は、指の側面部分に細く生ずる場合がある。しかし、このような側面部分は、「1」となる画素のX方向の連続個数が所定値未満となる場合に、それら画素列を「0」反転する処理を行なえば、簡単に除去することができる。
【0043】
次に、図5のS107においては、上記のように抽出された各指先領域に対し、図4のDに示すような収縮処理が施される。具体的には、値が「1」となっている全ての画素について、これと一定の隣接関係にある画素(具体的には、上下左右の4画素、さらには、斜め隣接する4画素をこれに加えた8画素)に、着目画素と値が反転関係にある画素が1個でも含まれていれば、当該画素の値を「0」反転する処理を行なう。該処理は、必要に応じて複数回繰り返し実施してもよい。
【0044】
そして、収縮処理後は、画像データ上において個々の先端領域に分離する処理を行なう。すなわち、図8に示すように、画像を所定の方向(例えばx方向)に走査し、「1」となっている画素の途切れが一定数(例えば3ビット)以上生じたか否かにより、同一の先端領域であるか別の先端領域であるかを判別しながら、各画素にラベリング符号(本実施例では、1、2、3‥‥等の数字で表している)を施してゆく。なお、走査2列目以降は、「0」画素の検出状態から「1」画素の検出に転じた時に、その「1」画素を取り囲む例えば8つの画素のラベリング状態を判別し、既に認識済の画素のラベリング符号が検出されれば、これと同一のラベリング符号を施し、何も検出されなければ新たなラベリング符号を施すようにする。そして、異なるラベリング符号が付された画素集合同士は、異なる先端領域として認識することとなる。
【0045】
次に、S108に進み、分離・特定された各先端領域が真の指先領域であるか否かの判定処理を行なう(指先判定処理)。基本となるのは、図7に示すごとく、特定された先端領域taの指幅方向の寸法(以下、単に「幅」とも称する)Lが、一般的な大人の幅寸法を基準に定められた規定範囲(上限値Wth1、下限値Wth2)内に存在することを必要条件として、真の指先領域と判定する処理である。図1に示すように、インパネに配置されたモニタ(表示装置)15を見ながら、車長方向にてその後方側(着座した乗員から見れば手前側)のセンターコンソールC上に配置されたタッチパネル12aの操作入力面102a、ひいては、該操作入力面102a上の操作者の手を下側から撮影する手撮影カメラ12bの撮影範囲102bに対し、該撮影範囲102bの後方縁側から前方に挿入される。従って、手の挿入方向は横長長方形状の撮影範囲102bの長辺と直交する向き(つまり、Y方向)に想定され、指幅方向は操作入力面102aの面内において該手の挿入方向と直交する向き、すなわち、撮影範囲102bの長辺と一致する向き(つまり、X方向)に定められている。つまり、先端領域taの幅はX方向、すなわち、撮影範囲102bの長辺方向に固定的に測定されるようになっている。
【0046】
図6は、指先判定処理の詳細の一例を示すフローチャートである。
S1では、分離・特定された個々の先端領域taの幅Wが特定される。具体的には、先端領域taの個々の構成画素のX座標のうち、最小の値をXmin、最大の値をXmaxとして、W=Xmax−Xminにより計算することができる。S1002では、上記のように特定された先端領域taの幅Wが前述の規定範囲内にあるか否かが判定される。タッチパネル12aはセンターコンソールC上に配置されているが、その脇に着座した運転者や助手席乗員はセンターコンソールCをしばしば物置代わりに利用する。このとき、手以外の物品がタッチパネル12aの操作入力面102a、つまり、撮影範囲102b内に置かれれば、当然、該物品が乗員の手の代わりに撮影される。撮影取得される第一画像と、そのY方向への平行移動により得られる第二画像との差分画像として抽出される先端領域taの幅Wを用いた判定方式を採用すると、書類や本などが置かれた場合は、抽出・特定される先端領域の幅は、一般的な大人の幅寸法を基準に定められた規定範囲の上限値を明らかに上回るので、非指先領域として確実に判定が可能である。また、携帯電話が置かれた場合は、例えば突出したアンテナ部分に由来する第一先端領域の幅が、アンテナが指より明らかに細いため規定範囲の下限値を下回り、非指先領域として判定することができる。
【0047】
なお、真の手が画像検出されている場合にあって、伸ばした状態の指が1本ないし2本(例えば、人差し指のみ、あるいは人差し指と中指など)であり、残余の指が曲げられた状態(例えば拳状に握った状態)になっている場合、閉じられている部分の先端領域の幅が規定範囲の上限値を超え、伸ばした状態の指については幅が規定範囲内となるようなこともありえる。従って、複数の先端領域が抽出されうる形状の物品に合っては、該複数の先端領域の少なくとも1つについて幅が規定範囲内となっていれば、該先端領域を真の指先領域として判定するように構成することが可能である。
【0048】
次に、非指先領域でありながら、その幅Wが規定範囲内に収まっているために真の指先領域として誤認されうる形状の物品がタッチパネルの入力操作面102b上に置かれる場合がある。例えば、貨幣が入力操作面上に置かれた場合、貨幣の寸法が指幅に近接しているために、収縮処理後の先端領域の幅は規定範囲内となり、このままでは指先領域として誤判定される。指と貨幣の画像上の違いは、指の場合は、指基端側の画像領域が撮影範囲の後端縁(手挿入側の縁)まで伸びる形となるのに対し、貨幣の場合は撮影範囲内に孤立した円形領域となり、その円形領域の後端縁と撮影範囲の後端縁との間が被写体の背景領域(つまり、「0」画素領域)となる点にある。そこで、撮影画像の総面積をSとし、個々の非重なり領域から、撮影範囲の後端縁までの合計距離をdとして、S/dの値を指幅として推定すると、上記のような誤判定を効果的に回避することができる。すなわち、貨幣の場合は、撮影範囲の後端縁側に上記背景領域が介在するために総面積Sが減少する。従って、S/dにより演算された推定指幅値が規定範囲の下限値未満となれば、これを非指先領域として除外することができる。図6のフローチャートでは、S1005とS1006とにおいて上記原理に基づく判定を行なっている。
【0049】
次に、図6のS1007では、S1002及びS1006において除外判定されなかった先端領域taについて代表点を決定する。本実施形態では、領域の幾何学的な重心位置Gを代表点として用いる。演算方法は周知であり、例えば先端領域を構成する全画素のX座標値及びY座標値の各総和を求め。それぞれ画素の個数で除することにより重心位置Gの座標を計算できる。なお、重心位置Gではなく、例えばY座標値が最大となる画素を代表点として採用することも可能である。
【0050】
なお、タッチパネルの入力操作面102bに実際に接触するのは、指先端からX方向に少し下がった指腹付近の領域であるから、図4のFでは、Eで計算された重心位置をY方向へ所定距離オフセットさせ、これを画像指先点Gとして決定する。ただし、Eの重心位置をそのまま画像指先点Gとして用いてもよく、この場合は該Fの処理は不要である。
【0051】
次に、撮影範囲102bに対する手の位置関係によっては、差分画像を用いた上記アルゴリズムにより決定される代表点が、真の指先点に対応しないケースが生じうる。具体的には、指先部分が撮影範囲の外にはみ出して位置する場合である。撮影範囲102bと、タッチパネルの入力操作面102bと、モニタ15の画面との対応座標範囲が互いに一致している場合は、真の指先位置が撮影範囲102b(ひいては、入力操作面102b及びモニタ15の画面)の外周縁領域に収まっている場合と、指先部分が撮影範囲102bの外にはみ出し、真の指先部分が画像的に途切れている場合とのいずれにおいても、差分画像から特定される先端領域は上記外周縁領域に収まる形となる。そして、指先部分がはみ出す場合についても、指の画像の一部分であることに変わりはなく、領域幅が前記規定範囲内に収まる可能性が高いから、上記外周縁領域に生ずる先端領域を真の指先領域として誤認することにつながる。
【0052】
そこで、本実施形態においては、撮影範囲102bの有効座標範囲の外周縁領域を表示外撮影領域として、モニタ15の表示画面にかかる有効座標範囲の外側に延出形成する構成が採用されている。画面外にはみ出す指部分はこの表示外撮影領域内に被写体領域を形成するので、差分画像に基づいて特定される先端領域ひいてはその代表点にて特定される撮影指先点もこの表示外撮影領域内に生ずる。他方、図13の右に示すごとく、真の指先が表示外撮影領域内に入り込まず画面の外周縁領域にとどまる場合は、先端領域ひいては撮影指先点も画面内に生ずる。従って、先端領域taが表示外撮影領域102e内に存在している場合はこれを真の指先として認識せず(無効)、表示外撮影領域102e内に存在していない場合は真の指先として認識する(有効)ように処理が可能である。例えば、図14のように、複数の撮影指先点tpが特定される場合も、それぞれ表示外撮影領域102e内に存在するか否かに基づき、有効/無効の判定を個別に行なうことができる。図6のフローチャートでは、S1008〜S1010において上記原理に基づく判定を行なっている。なお、手挿入側となる表示画面のY方向後端縁については、撮影範囲102bの後端縁と一致させ、表示外撮影領域102eを特に形成しない構成とすることも可能である。
【0053】
なお、先端領域taが真の指先領域であるか否かを判定するアルゴリズムには、上記以外にも種々の方式を採用することができる。例えば、第二画像を得るための第一画像のY方向平行移動距離を一般的な大人の指幅値よりも小さく設定した場合、第一画像と第二画像との差分画像として得られる先端領域taは、X方向寸法WX(つまり、幅)がY方向寸法WYよりも大きい横長の領域となりやすい。そこで、先端領域taのX/Yアスペクト比φ(≡WX/WY)が規定範囲内にあるか否かに基づいて真の指先領域であるか否かを判定することが可能である。例えば、図10左に示す紙や書類の場合はφが極度に大きくなり、同じく右に示す携帯電話のアンテナ(指より細い)については、X方向寸法WXが不足する分だけφの値も小さくなるので、いずれも非指先領域として除外することが可能である。
【0054】
なお、指がY方向に対して傾いて挿入される場合を考慮し、図16に示すように、先端領域taに外接する平行線対を、角度を変えながら種々生成し、最大となる平行線間距離をWmax、最小となる平行線間距離をWminとして、上記アスペクト比φをWmax/Wminにより算出するようにしてもよい。
【0055】
また、図17に示すように、撮影画像の被写体領域(「1」画素領域)の総面積をSとし、特定された先端領域(非重なり領域)taの個数をNとして、S/Nの値を平均指面積として推定し、該S/Nが規定範囲内にあるか否かに基づいて、先端領域taが真の指先領域であるか否かを判定することも可能である。これは特に、手が撮影されたとき被写体領域が主として指領域のみにより形成されるよう、撮影領域のY方向寸法が指先端側の一部分のみを包含可能な値に設定されている場合に有効な手法であるといえる。
【0056】
図5に戻り、上記のごとくS108の指先判定処理が終了すれば、S109にて、特定された各先端領域のいずれが真の指先領域として判定されたかを調べ、S110において、該真の指先領域についてのみ代表点の座標(重心座標G)を(真の)撮影指先点として記憶し、真の指先領域でないものについては破棄ないし無効化する。
【0057】
次に、ユーザーインターフェースエンジン103eが実現する本発明の種々の実施形態について説明する。図3に示すように、操作ECU10はシリアル通信バス30を介してボデーECU300から、車速センサ301が検出する車速情報を取得し、閾車速(1〜10km/hr、例えば5km/hrに設定される)未満であれば低速走行状態(停車状態)と判定し、閾車速を超えていれば高速走行状態(走行状態)と判定する。
【0058】
ユーザーインターフェースエンジン103eのインターフェース仕様データは、低速走行時インターフェース仕様(停車時インターフェース仕様)データと高速走行時インターフェース仕様(走行時インターフェース仕様)データとの2通りが用意されており、停車状態においては前者が、走行状態においては後者がそれぞれ切り替えて使用される。図11は、その第一参考形態を示すものであり、具体的には、走行時インターフェース仕様(右)における有効な操作領域SB,FHWの表示形成数を、停車時インターフェース仕様(左)における有効な操作領域SBの表示形成数よりも少なく設定する例を示すものである。適用対象は、カーナビゲーションシステムの目的地や経由地等を文字入力するための文字入力画面である。
【0059】
停車時インターフェース仕様では操作領域は、文字入力キーボードKBを構成する個別の文字入力ソフトボタンSBとなっている。画像指先点を希望する文字のソフトボタンに位置決めし、タッチパネル12a上にて対応する位置に(すなわち、ソフトボタンの領域内にタッチ入力点が発生するように)タッチ操作を行なうことで、対応する文字入力がなされ、該当する文字のコードが操作指令情報として出力され、カーナビゲーションシステムに送信される。
【0060】
一方、走行時インターフェース仕様ではキーボードは表示されず、手書き入力を行なうためのフリーハンド入力ウィンドウFHWが操作領域として表示・形成されている。フリーハンド入力ウィンドウFHWは、停車時インターフェース仕様における文字入力ソフトボタンSBよりも大きく形成され、例えば文字入力キーボードKBとほぼ同等の大きさに形成されている。タッチ入力点又は画像指先点のいずれかの時間的変化を描画軌跡としてキャプチャするとともに、該描画軌跡が文字リスト上の個々の文字形状と比較され、マッチングする文字のコードが操作指令情報として出力され、カーナビゲーションシステムに送信される。なお、走行時インターフェース仕様におけるソフトボタンSBは、フリーハンドによる入力途中の履歴を消去する消去ボタンと、フリーハンド入力内容を確定させる確定ボタンとが表示・形成されるにとどまっている。
【0061】
次に、図12は、その第二参考形態を示すものであり、具体的には、走行時インターフェース仕様(右)における有効な操作領域の表示形成寸法を、停車時インターフェース仕様(左)における有効な操作領域の表示形成寸法よりも大きく設定する例を示すものである。適用対象は、カーナビゲーションシステムの目的地を設定するためのメニュー画面である。
【0062】
停車時インターフェース仕様では操作領域は個別のメニューボタンSB1となっている。ここでも、画像指先点を希望するメニューのソフトボタンに位置決めし、タッチパネル12a上にて対応する位置に(すなわち、ソフトボタンの領域内にタッチ入力点が発生するように)タッチ操作を行なうことで、対応するメニューが選択され、その内容が操作指令情報としてカーナビゲーションシステムに出力・送信される。
【0063】
一方、走行時インターフェース仕様ではメニューボタンSB1の数が減じられるとともに、特定のメニュー(ここでは、目的地履歴)を上位階層とする下位メニューボタン(ここでは、目的地候補)SB2が、停車時インターフェース仕様におけるメニューボタンSB1よりも横長に表示・形成されている。画像指先点を希望するメニューのソフトボタンに位置決めし、タッチパネル12a上にて対応する位置に(すなわち、ソフトボタンの領域内にタッチ入力点が発生するように)タッチ操作を行なうことで、対応するメニューが選択され、その内容が操作指令情報としてカーナビゲーションシステムに出力・送信される。
【0064】
図13は第三参考形態を示すものであり、具体的には、検出された画像指先点Gの数が多いほど操作画面上に表示形成する操作領域の種別を増加さるとともに、走行時インターフェース仕様における操作領域の最大表示形成種別数を、停車時インターフェース仕様における操作領域の最大表示形成種別数よりも小さく設定する例を示す。適用対象は、カーオーディオシステムの再生操作画面である。
【0065】
停車時インターフェース仕様では、操作領域として、検出される画像指先点Gの数が1つの場合は、図示はしていないが再生/停止ボタンP/Sを画像指先点Gに対応する位置に表示する。また、検出される画像指先点Gの数が2つの場合は、図13の上段右に示すように、早送りボタンFF及び逆戻しボタンRFを各画像指先点Gに対応する位置に表示する。さらに、検出される画像指先点Gの数が3つの場合は、図13の上段左に示すように、早送りボタンFF、再生/停止ボタンP/S及び逆戻しボタンRFを各画像指先点Gに対応する位置に表示する。どの場合も、いずれかの指にてタッチパネル12aにタッチ操作を行なうことで、対応するボタンの機能が選択され、その内容が操作指令情報として出力される。ここで、操作領域の最大表示形成種別数は、検出される画像指先点Gの数が3つの場合の「3」である。
【0066】
一方、走行時インターフェース仕様では、検出される画像指先点Gの数とは無関係に、有効となる操作領域は再生/停止ボタンP/Sのみとされる(つまり、最大表示形成種別数は「1」)。図13の下段左においては、検出される画像指先点Gの数が3つであるが、操作領域をなす再生/停止ボタンP/Sは、画像指先点Gから外れた位置に1つのみ表示形成されている。また、図13の下段中央においては、各画像指先点Gに再生/停止ボタンP/Sを個別に(つまり、画像指先点Gの数だけ)表示している。つまり、操作領域は画像指先点Gに対応して複数表示されているが、操作領域の種別としては「1」であることに変わりがない。いずれも、指示体画像FIは各画像指先点Gに個別に表示されている。他方、図13の下段右においては、画像指先点Gが複数検出されていても、指示体画像FIは1つのみを表示し、操作領域もこれに対応して1つのみを表示形成している。いずれの場合も、どの指でタッチ操作を行なっても再生/停止ボタンP/Sのみが操作される。
【0067】
図14は、第四参考形態を示すものである。適用対象はカーオーディオシステムの選曲画面であり、再生対象となるオーディオファイル群は、アルバム(第一階層メニュータイトル)毎に複数の収録曲(第二階層メニュータイトル)がまとめられた階層メニュー構造を有する。現在選択中のアルバムのタイトル画像は現在アルバムウィンドウAW(画面上にて有効となる操作領域である)に表示され、対応するアルバム名が操作指令出力、すなわちアルバム選択情報として出力される。この実施形態では、前後に配列するアルバム群を示す準備アルバムウィンドウ群AW’が、現在アルバムウィンドウAWの左右に(部分的に重なるように)連なって表示・形成されている。また、現在選択中のアルバム名はアルバム名ウィンドウATWに表示される。
【0068】
該画面上では、タッチ入力装置12の操作面102bに沿うドラッグ操作が検出される(ここでは、タッチ入力点TPの時間変化でドラッグ操作を検出しているが、撮影指先点の変化でドラッグ操作を検出してもよい)。そして、アルバムウィンドウ群AW,AW’の配列方向にドラッグ操作を行なうと、準備アルバムウィンドウ群AW’に対応するアルバムのタイトル画像が現在アルバムウィンドウAWに順次切り替え表示される(これに合わせ、アルバム名ウィンドウATWに表示されるアルバム名も順次切り替わる)。なお、ドラッグ操作の向きが変われば、アルバムの切替え方向も逆とされる。
【0069】
そして、停車時インターフェース仕様においては、図14の上に示すように、1回のドラッグ操作の継続中はアルバムのタイトル画像(操作領域)が連続的に切り替わる。なお、ロックマークURMが、連続切替え可能であることを示す「開錠」の形態で合わせて表示されている。他方、走行時インターフェース仕様においては、1回のドラッグ操作が生ずる毎にアルバムのタイトル画像(操作領域)が1つのみ(つまり、断続的に)切り替わる。ロックマークURMは、連続切替え不能であることを示す「施錠」の形態で表示されている。
【0070】
図15は、第五参考形態を示すものである。図14にて、現在アルバムウィンドウAWはタッチ操作を行なうと、現在選択中のアルバムの収録曲リストウィンドウLWが表示される。該リスト上の個々の曲名表示エリアは、それぞれ曲選択のためのソフトボタンを形成し、タッチ操作により操作指令出力、すなわち選曲情報として出力される。収録曲リストウィンドウLW上で曲名表示エリアの配列方向(ここでは、上下方向)にドラッグ操作を行なうと、収録曲リストウィンドウLW内の曲名表示エリアが順次対応する向きにスクロールされる。停車時インターフェース仕様においては、図15の上に示すように、1回のドラッグ操作の継続中は曲名表示エリアが連続的に切り替わるようにスクロールされる。他方、走行時インターフェース仕様においては、図15の下に示すように、タッチ操作が生ずる毎に、画面上の方向マークBAのうちタッチ入力点に近い側に位置するものが示す向きに、選択中の曲が1つのみ移動する(つまり、対応する方向マークBA側において現在演奏中の曲の次の曲に切り替えて再生処理が行なわれる)。
【0071】
図16は第六参考形態を示すものである。適用対象となる電子機器はここではエアコンである。図16左は停車時インターフェース仕様を示すもので、複数の操作領域としてエアコンの種々のモード切替操作を行なうためのモード切替ボタンSBが表示形成されている。これらは、いずれかのモード切替ボタンSB内にタッチ入力点が検出されれば、対応するモードの切替信号が第二操作指令情報として出力される。一方、画面内には、設定温度の切替え操作領域GA1と風量の切替え操作領域GA2とが形成されている。これらはいずれも、領域内にて規定の方向にドラッグ操作(操作動作パターン:ジェスチャ)を行なうことで、そのタッチ入力点ないし画像指先点の位置変化量に応じて、設定温度ないし風量が操作に対応する向きに連続的に変更され、その変更内容を示す情報が第一操作指令情報として出力される(つまり、第一操作指令情報と第二操作指令情報との双方が能動化されている)。また、図16右は走行時インターフェース仕様を示すもので、モード切替ボタンSBが省略(あるいは無効化)され、設定温度の切替え操作領域GA1と風量の切替え操作領域GA2のみが形成されている(つまり、第一操作指令情報のみが能動化されている)。
【0072】
次に、図17は、本発明の第一にかかる実施形態を示すものであり、適用対象は、カーナビゲーションシステムの目的地を設定するためのメニュー画面である。操作領域は個別のメニューボタンSB1となっており、画像指先点を希望するメニューのソフトボタンに位置決めし、タッチパネル12a上にて対応する位置にタッチ操作を行なうことで、対応するメニューが選択され、その内容が操作指令情報としてカーナビゲーションシステムに出力・送信される。図17左は撮影指先点が複数個同時に検出されている場合の、同じく右は撮影指先点が1個のみ検出されている場合のインターフェース使用を示すものであり、複数個同時に検出されている場合のメニューボタンSBSの表示形成数が、1個のみ検出されている場合のメニューボタンSBLの表示形成数よりも多く設定されている。なお、後者においては、メニューボタンSB1の表示形成数が少なくなるに伴ない、個々のメニューボタンSB1の形成寸法が拡大されている。
【0073】
図18〜図20は、本発明の第二にかかる第一実施形態を示すものであり、撮影指先点が検出された場合に、タッチ入力装置12へのタッチ操作が同時に検出されているか否かに応じてユーザーインターフェースエンジン103eのインターフェース仕様が切り替わるようになっている。適用対象は、カーナビゲーションシステムの地図表示画面であり、地図表示領域MAとスクロールボタンSBとが形成されている。図18に示すように、このスクロールボタンSBにタッチ操作することで、地図表示領域MAにおける地図のスクロール操作が可能となる。
【0074】
図19は、どれか1本の指により地図表示領域MA上にタッチを伴なうドラッグ操作を加えたときのインターフェース仕様を示しており、この場合は、地図表示領域MAにて地図がドラッグ操作方向に第一速度V1でスクロールされる。一方、図20は、地図表示領域MA上にタッチを伴なわない(つまり、撮影指先点Gのみが特定される状態での)ドラッグ操作を加えたときのインターフェース仕様を示している。このドラッグ操作は、複数本の指の撮影指先点Gが検出されることを考慮して、最初に検出された撮影指先点Gの追尾か、撮影指先点の検出個数の時間的変化(0→1→2→3→2→1→1)のどちらかで検出が可能である。該仕様では、地図表示領域MAにて地図がドラッグ操作方向に、前述の第一速度V1よりも大きい第二速度V1にてスクロールされる。
【0075】
図21〜図23は、本発明の第二にかかる第二実施形態を示すものであり、適用対象は図14及び図15と同様のカーオーディオシステムの選曲画面である。図21に示すように、現在アルバムウィンドウAWと準備アルバムウィンドウ群AW’とが図14と同様に表示形成されており、また、アルバムの収録曲リストウィンドウLWが現在アルバムウィンドウAWの下側に合わせて表示されている。図22は、地図表示領域MA上にタッチを伴なわない(つまり、撮影指先点Gのみが特定される状態での)ドラッグ操作を行なう場合のインターフェース仕様を示すものである。アルバムウィンドウ群AW,AW’の配列方向に該ドラッグ操作を行なうことにより、準備アルバムウィンドウ群AW’に対応するアルバムのタイトル画像が現在アルバムウィンドウAWに順次切り替え表示される(これに合わせ、収録曲リストウィンドウLWに表示される収録曲も順次切り替わる)。なお、ドラッグ操作の向きが変われば、アルバムの切替え方向も逆とされる。また、図23は、タッチ操作を行なった場合のインターフェース仕様を示すものである。収録曲リストウィンドウLW内の曲名表示エリアにタッチすれば、タッチした曲名の演奏に切り替わる。なお、現在アルバムウィンドウAWにタッチしたとき、現在選択中のものの次の曲に演奏が切り替わるように構成してもよい。
【符号の説明】
【0076】
1 操作装置
10 操作ECU
12 入力部
12a タッチ入力装置
12b 手撮影カメラ(撮影装置)
15 画像表示装置
101 CPU(撮影指先点検出手段、指示体画像表示制御手段、作画面表示制御手段)
103e ユーザーインターフェースエンジン
301 車速センサ(走行状態検出手段)
SF、SI 指示体画像
tp タッチ入力点
G 撮影指先点
【特許請求の範囲】
【請求項1】
車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、
操作者の指先によるタッチ操作を受け付ける操作面を有し、前記タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
前記操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する前記操作者の手を撮影する撮影装置と、
前記撮影装置が撮影取得する手画像データに基づき前記手の指先点を撮影指先点として複数同時に検出可能に構成された撮影指先点検出手段と、
前記操作面ならびに前記撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
前記画像表示装置に対し前記指先点を指示する指示体画像を前記表示画面上に表示させる指示体画像表示制御手段と、
前記画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
前記タッチ入力点と前記撮影指先点との一方または双方による前記操作画面上での指示入力状態と前記車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、前記操作画面上での前記指示入力状態に応じて前記インターフェース仕様に基づき前記操作指令情報を出力するユーザーインターフェースエンジンと、
前記撮影指先点検出手段が検出する前記撮影指先点の個数に応じて前記ユーザーインターフェースエンジンの前記インターフェース仕様を変更するインターフェース仕様変更手段と、
を備えたことを特徴とする車載用電子機器操作装置。
【請求項2】
前記操作画面表示制御手段は、互いに異なる操作指令出力を行なうための複数の操作領域を前記操作画面上に表示形成するものであり、
前記インターフェース仕様変更手段は、前記撮影指先点検出手段が検出する前記撮影指先点の数が複数個の場合の有効な前記操作領域の表示形成数を、同じく前記撮影指先点の数が1個の場合の有効な前記操作領域の表示形成数よりも多く設定する請求項1記載の車載用電子機器操作装置。
【請求項3】
車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、
操作者の指先によるタッチ操作を受け付ける操作面を有し、前記タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
前記操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する前記操作者の手を撮影する撮影装置と、
前記撮影装置が撮影取得する手画像データに基づき前記手の指先点を撮影指先点として検出する撮影指先点検出手段と、
前記操作面ならびに前記撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
前記画像表示装置に対し前記指先点を指示する指示体画像を前記表示画面上に表示させる指示体画像表示制御手段と、
前記画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
前記タッチ入力点と前記撮影指先点との一方または双方による前記操作画面上での指示入力状態と前記車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、前記操作画面上での前記指示入力状態に応じて前記インターフェース仕様に基づき前記操作指令情報を出力するユーザーインターフェースエンジンと、
前記撮影指先点が検出された場合に、前記タッチ入力装置へのタッチ操作が同時に検出されているか否かに応じて前記ユーザーインターフェースエンジンの前記インターフェース仕様を変更するインターフェース仕様変更手段と、
を備えたことを特徴とする車載用電子機器操作装置。
【請求項4】
前記操作画面表示制御手段は、前記タッチ入力装置の前記操作面に沿うドラッグ操作を検出して、前記画像表示装置の画面上に表示中の画像情報を該ドラッグ操作に対応する向きにスクロール表示処理するものであり、
前記インターフェース仕様変更手段は、前記撮影指先点とともに前記タッチ操作が検出されている場合の前記画像情報のスクロール速度を、前記タッチ操作が検出されていない場合のスクロール速度よりも小さく設定する請求項3記載の車載用電子機器操作装置。
【請求項5】
前記操作画面表示制御手段は、前記タッチ入力装置の前記操作面に沿うドラッグ操作を検出して、前記画像表示装置の画面上に表示中の階層型の情報出力メニューをスクロール表示処理するものであり、
前記インターフェース仕様変更手段は、前記タッチ操作が検出されている場合と、前記タッチ操作が検出されていない場合とで、前記情報出力メニューの互いに異なる階層をスクロール表示処理するものである請求項3記載の車載用電子機器操作装置。
【請求項1】
車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、
操作者の指先によるタッチ操作を受け付ける操作面を有し、前記タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
前記操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する前記操作者の手を撮影する撮影装置と、
前記撮影装置が撮影取得する手画像データに基づき前記手の指先点を撮影指先点として複数同時に検出可能に構成された撮影指先点検出手段と、
前記操作面ならびに前記撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
前記画像表示装置に対し前記指先点を指示する指示体画像を前記表示画面上に表示させる指示体画像表示制御手段と、
前記画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
前記タッチ入力点と前記撮影指先点との一方または双方による前記操作画面上での指示入力状態と前記車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、前記操作画面上での前記指示入力状態に応じて前記インターフェース仕様に基づき前記操作指令情報を出力するユーザーインターフェースエンジンと、
前記撮影指先点検出手段が検出する前記撮影指先点の個数に応じて前記ユーザーインターフェースエンジンの前記インターフェース仕様を変更するインターフェース仕様変更手段と、
を備えたことを特徴とする車載用電子機器操作装置。
【請求項2】
前記操作画面表示制御手段は、互いに異なる操作指令出力を行なうための複数の操作領域を前記操作画面上に表示形成するものであり、
前記インターフェース仕様変更手段は、前記撮影指先点検出手段が検出する前記撮影指先点の数が複数個の場合の有効な前記操作領域の表示形成数を、同じく前記撮影指先点の数が1個の場合の有効な前記操作領域の表示形成数よりも多く設定する請求項1記載の車載用電子機器操作装置。
【請求項3】
車載電子機器の操作入力を行なうために車両に搭載して使用される操作装置であって、
操作者の指先によるタッチ操作を受け付ける操作面を有し、前記タッチ操作によるタッチ入力点を検出するタッチ入力装置と、
前記操作面と一義的な座標対応関係を有する撮影範囲を有し、該操作面に接近する前記操作者の手を撮影する撮影装置と、
前記撮影装置が撮影取得する手画像データに基づき前記手の指先点を撮影指先点として検出する撮影指先点検出手段と、
前記操作面ならびに前記撮影範囲と一義的な座標対応関係を有する表示画面を有した画像表示装置と、
前記画像表示装置に対し前記指先点を指示する指示体画像を前記表示画面上に表示させる指示体画像表示制御手段と、
前記画像表示装置上に、操作対象となる車載電子機器に固有の操作画面を表示する操作画面表示制御手段と、
前記タッチ入力点と前記撮影指先点との一方または双方による前記操作画面上での指示入力状態と前記車載電子機器への操作指令情報における出力内容との関係が、予め定められたインターフェース仕様として設定され、前記操作画面上での前記指示入力状態に応じて前記インターフェース仕様に基づき前記操作指令情報を出力するユーザーインターフェースエンジンと、
前記撮影指先点が検出された場合に、前記タッチ入力装置へのタッチ操作が同時に検出されているか否かに応じて前記ユーザーインターフェースエンジンの前記インターフェース仕様を変更するインターフェース仕様変更手段と、
を備えたことを特徴とする車載用電子機器操作装置。
【請求項4】
前記操作画面表示制御手段は、前記タッチ入力装置の前記操作面に沿うドラッグ操作を検出して、前記画像表示装置の画面上に表示中の画像情報を該ドラッグ操作に対応する向きにスクロール表示処理するものであり、
前記インターフェース仕様変更手段は、前記撮影指先点とともに前記タッチ操作が検出されている場合の前記画像情報のスクロール速度を、前記タッチ操作が検出されていない場合のスクロール速度よりも小さく設定する請求項3記載の車載用電子機器操作装置。
【請求項5】
前記操作画面表示制御手段は、前記タッチ入力装置の前記操作面に沿うドラッグ操作を検出して、前記画像表示装置の画面上に表示中の階層型の情報出力メニューをスクロール表示処理するものであり、
前記インターフェース仕様変更手段は、前記タッチ操作が検出されている場合と、前記タッチ操作が検出されていない場合とで、前記情報出力メニューの互いに異なる階層をスクロール表示処理するものである請求項3記載の車載用電子機器操作装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図9】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図9】
【公開番号】特開2011−222031(P2011−222031A)
【公開日】平成23年11月4日(2011.11.4)
【国際特許分類】
【出願番号】特願2011−114556(P2011−114556)
【出願日】平成23年5月23日(2011.5.23)
【分割の表示】特願2009−111401(P2009−111401)の分割
【原出願日】平成21年4月30日(2009.4.30)
【出願人】(000004260)株式会社デンソー (27,639)
【Fターム(参考)】
【公開日】平成23年11月4日(2011.11.4)
【国際特許分類】
【出願日】平成23年5月23日(2011.5.23)
【分割の表示】特願2009−111401(P2009−111401)の分割
【原出願日】平成21年4月30日(2009.4.30)
【出願人】(000004260)株式会社デンソー (27,639)
【Fターム(参考)】
[ Back to top ]