ゆらぎ補正による画像表示方法及びその方法を用いた模型自動車等用リモートコントロールシステム
【課題】遠隔地に設置されたカメラを搭載した模型自動車等の走行体からインターネットを介して接続されるパーソナルコンピュータ等に動画伝送を行なう場合に、ゆらぎ補正処理を行なうことにより、不自然さのない映像が得られる画像表示方法、並びに、この方法を採用することにより、的確な遠隔操作が可能となる模型自動車等用リモートコントロールシステムを提供することを課題とする。
【解決手段】ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら走行体を遠隔制御可能にするためのモニタへの受信画像の表示を行なうオペレーションマシンにおいて、受信画像のモニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、描画画像は、受信画像を遅れ処理した予測画像とする。
【解決手段】ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら走行体を遠隔制御可能にするためのモニタへの受信画像の表示を行なうオペレーションマシンにおいて、受信画像のモニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、描画画像は、受信画像を遅れ処理した予測画像とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ゆらぎ補正による画像表示方法及びその方法を用いた模型自動車等用リモートコントロールシステムに係り、より詳細には、ゆらぎ補正による画像表示方法及びその方法を用いた、オペレーションマシンの操作者の操縦により、模型自動車等の走行体の走行やスピード制御等を遠隔的に行なうリモートコントロール機能を備えた模型自動車等用リモートコントロールシステムに関する。
【背景技術】
【0002】
撮影領域等を遠隔操作で変更できる遠隔カメラ装置や遠隔監視システム装置が提案されている。このような遠隔カメラ装置として、例えば、伝送遅延や信号処理遅延による監視カメラ部の制御行き過ぎ量を補正することのできる遠隔カメラ装置が提案されている(特開平6−38087号公報)。遠隔監視システム装置としては、例えば、カメラを動作させているときに受信側で表示する画像を、その時点でカメラが撮影している範囲に近づくようにシフトして表示し、あたかも画像の遅れが発生していないように見えるように表示範囲を加工し、カメラの遠隔操作による遅延を感じられないような監視システム装置が提案されている(特開2002−185956号公報)。
【0003】
しかしながら、これらの技術は、有線回線による動画伝送を前提としており、固定遅延時間分の補正を行なうことにより、違和感のない動画を伝送することができるが、インターネットや無線LANによる動画伝送を行なう場合には、均一な通信速度が得られないために、動画データの到達時間にゆらぎが発生する。
【0004】
即ち、通信の遅れがバラつくことにより描画タイミングがバラつき、時には通信エラーによるデータ消失が起こり、その結果、動画に違和感を感じる事態が発生する(図20乃至22参照)。
【0005】
上述する理由により、このようなカメラを模型自動車等の走行体に搭載して、パーソナルコンピュータ等のモニタでカメラからの映像を見ながら操作するような場合は、このゆらぎが動画データの不連続性を生み、操作者が模型自動車等の動きを予想できなくなって、的確な操作ができなくなり、遠隔操作の操縦性が悪くなる。
【0006】
この対策として従来は、ゆらぎ変化範囲をカバーする量の動画データを受信側で蓄積することにより、ゆらぎを抑えるという方法が採られている。しかし、この手法の場合、動画データの蓄積分の動画遅延が発生するという問題が生ずる。
【0007】
【特許文献1】特開平6−38087号公報
【特許文献2】特開2002−185956号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
本発明は上記問題を解決することを課題としてなされたもので、遠隔地に設置されたカメラを搭載した模型自動車等の走行体からインターネットを介して接続されるパーソナルコンピュータ等に動画伝送を行なう場合に、ゆらぎ補正処理を行なうことにより、不自然さのない映像が得られる画像表示方法、並びに、この方法を採用することにより、的確な遠隔操作が可能となる模型自動車等用リモートコントロールシステムを提供することを課題とする。
【課題を解決するための手段】
【0009】
請求項1に記載の発明は、ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら前記走行体を遠隔制御可能にするための前記モニタへの前記受信画像の表示を行なうオペレーションマシンにおいて、
前記受信画像の前記モニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、前記描画画像は、前記受信画像を遅れ処理した予測画像とする、という方法により上記課題を達成する。
【0010】
請求項2に記載した発明は、請求項1に記載のゆらぎ補正による画像表示方法において、前記遅れ処理した予測画像は、前記描画タイミング時のシステム時刻から、そのとき受信している画像情報に付加されているタイムスタンプを差し引いた遅れ予測時間経過後の擬似的画像であることを特徴とする。
【0011】
請求項3に記載した発明は、請求項1に記載のゆらぎ補正による画像表示方法において、前記遅れ予測画像は、前記受信画像を、前記遅れ予測時間と車速、操舵角度、バッテリー電圧値等のセンサー情報に基いて画像処理するものであることを特徴とする。
【0012】
請求項4に記載した発明は、請求項3に記載のゆらぎ補正による画像表示方法において、前記画像処理は、前記センサー情報に基いて前記受信画像をズームし及び/又は左右にシフトするものであることを特徴とする。
【0013】
請求項5に記載の発明は、模型自動車等の走行体からの画像情報に基づいて前記走行体を遠隔制御するためのオペレーションマシンを備えた模型自動車等用リモートコントロールシステムであって、
前記オペレーションマシンは、前記走行体の車載カメラからの画像情報とセンサー情報とを受信する画像描画用情報受信手段と、前記受信した画像描画用情報内の画像データを伸張する画像伸張手段と、前記伸張した画像データを、受信した前記センサー情報に基づいて加工する画像加工手段と、コントローラによって入力された操作入力値を前記走行体に対する制御情報へ変換処理する操作入力手段と、前記操作入力手段によって生成された制御情報を前記走行体へ送信する制御情報送信手段とを備え、
前記走行体は、前記車載カメラの画像に内部時計の時刻をタイムスタンプとして付加し、前記オペレーションマシンへ送信する画像情報として画像圧縮する画像圧縮手段と、前記車速センサーからの車速及びバッテリーからのバッテリー電圧値を、前記オペレーションマシンへ送信するセンサー情報として取り込むセンサー取込手段と、前記画像情報と前記センサー情報とを画像描画用情報として前記オペレーションマシンへ送信する画像描画用情報送信手段と、前記オペレーションマシンから前記制御情報を受信する制御情報受信手段と、受信した前記制御情報に基づいてサーボ及びモータを制御する制御処理手段、とを備える、ことにより上記課題を達成する。
【0014】
請求項6に記載した発明は、請求項5に記載の模型自動車等用リモートコントロールシステムにおいて、前記画像加工手段は、前記伸張された画像データを、受信した前記センサー情報に基づいて、出力するタイミング及び表示させる画像の描画エリアを調整することを特徴とする。
【0015】
請求項7に記載した発明は、請求項6に記載の模型自動車等用リモートコントロールシステムにおいて、前記画像加工手段は、前記伸張された画像データに格納されたタイムスタンプの時刻を現在のシステム時刻から差し引いた描画遅れ時間を算出し、前記描画遅れ時間と車速から画像拡大率を算出すると共に、前記描画遅れ時間と操舵位置から画像左右シフト量を算出し、前記画像拡大率と前記画像左右シフト量とから前記描画エリアを指定することを特徴とする。
【0016】
請求項8に記載した発明は、請求項5に記載の模型自動車等用リモートコントロールシステムにおいて、前記センサー情報は、前記走行体に搭載の車速センサーからの車速値と、バッテリーの電圧値とを含むことを特徴とする。
【発明の効果】
【0017】
本発明に係るゆらぎ補正による画像表示方法によれば、受信画像から画像処理して得られた予測画像(擬似的画像)が定間隔置きに表示されるためにゆらぎがなくなり、遠隔地に設置されたカメラを搭載した模型自動車等の走行体からインターネットを介して接続されるパーソナルコンピュータ等に動画伝送を行なう場合に、このゆらぎ補正処理を行なうことにより、不自然さのない映像が得られ、以て的確な遠隔操作が可能となる。
【発明を実施するための最良の形態】
【0018】
以下、本発明の好適な実施形態について、添付図面を参照して詳細に説明する。図1は、模型自動車とオペレーションマシン2から成る、本発明に係る模型自動車等用リモートコントロールシステムの全体構成を表したものである。このシステムは、カメラを搭載した走行体である模型自動車1と、模型自動車1から離れた場所で模型自動車1を操縦する操作者のモニタ付きオペレーションマシン2と、インターネット4等の通信手段とから構成されている。
【0019】
オペレーションマシン2では、そのモニタに模型自動車1のカメラ映像が出力される。操作者は、模型自動車1のカメラ映像を見ながらステアリングコントローラ、ジョイスティック等のゲームコントローラその他のコントローラ3で制御情報を入力して、模型自動車1を操縦することが可能である。そして、当該制御情報を受け取った模型自動車1では、その車載コンピュータにより当該制御情報から各制御用データが読み込まれ、既に駆動されているサーボ(操舵)や駆動モータが制御されることにより、模型自動車1は、オペレーションマシン2で入力された制御情報に従って動作することが可能になる。
【0020】
図2は、本実施形態における模型自動車1の構成を表したブロック図である。本実施形態における模型自動車1は、無線LANに接続されており、模型自動車1内のセンサーからセンサー情報生成を行なう機能や、カメラキャプチャー画像にタイムスタンプ値の付加等を行なう画像情報生成機能等の送信情報処理機能の他、サーボや駆動モータに対して所定の処理を行なう制御機能も備えている。本実施形態の模型自動車1では、画像情報生成機能を実現するためのカメラ5、センサー情報生成機能を実現するための車速センサー6、バッテリー7、制御機能を実現するためのサーボ8及び駆動モータ9、9a、ギアボックス10、10a、並びに、各種機能処理手段として機能する車載コンピュータ11を備えている。
【0021】
車載コンピュータ11は、各装置の制御やデータの計算・加工を行なうCPU、一度書き込んだ内容は消去できないが電源を切っても内容が消えないF−ROM、半導体素子を利用したRAM、内部時計13、ビデオキャプチャー部12、画像圧縮部、センサー入力部16、モータ制御部15、無線LAN通信部14を備えている。
【0022】
また、車載コンピュータ11は、カメラ5、車速センサー6、バッテリー7、サーボ8、及び駆動モータ9、9aが接続されており(図2、図3参照)、図4に示すように、オペレーションマシン2へ送信する情報の処理と、オペレーションマシン2から受信した情報の処理を行なう。
【0023】
オペレーションマシン2へ送信する情報の処理としては、ビデオキャプチャー部12からの画像に内部時計13のタイムスタンプ値を付加して画像を圧縮する画像圧縮処理と、車速センサー6によって得られた車速とバッテリー電圧値をセンサー情報として取り込むセンサー取込処理とがある。オペレーションマシン2から受信した情報の処理はモータ制御処理で、受信した制御情報に従って、サーボ8及び駆動モータ9、9aを制御する。
【0024】
本実施形態のオペレーションマシン2は、車載カメラ5の映像のうちの所定の描画エリアをモニタに表示する。そして、模型自動車1に設置されているセンサー等の検出結果から模型自動車1の状態を認識、判断し、その結果に応じた車載カメラ映像やスピードメーター・バッテリー残量表示を出力するという機能を、この模型自動車1からの画像情報やセンサー情報と連動して実行する。例えば、「画像データ、タイムスタンプ、車速、バッテリー電圧値」等の画像描画用情報を受信する処理を行ない、この画像描画用情報に含まれる画像情報、センサー情報を判別して、次の映像に応じた処理を実行する。
【0025】
ここで、上記システムに採用される本発明に係るゆらぎ補正による画像表示方法について、より詳細に説明する。該画像表示方法は、ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら前記走行体を遠隔制御可能にするための前記モニタへの前記受信画像の表示を行なうオペレーションマシンにおいて、
前記受信画像の前記モニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、前記描画画像は、前記受信画像を遅れ処理した予測画像とすることを特徴とするものである。
【0026】
前記遅れ処理した予測画像は、前記描画タイミング時のシステム時刻から、そのとき受信している画像情報に付加されているタイムスタンプを差し引いた遅れ予測時間経過後の擬似的画像であり、前記遅れ予測画像は、前記受信画像を、前記遅れ予測時間と車速、操舵角度、バッテリー電圧値等のセンサー情報に基いて画像処理するものであり、また、前記画像処理は、前記センサー情報に基いて前記受信画像をズームし及び/又は左右にシフトするものである。
【0027】
このゆらぎ補正の方法について、図5乃至図8を参照して詳細に説明する。図5において、送り側画像の段のSa、Sb、Sc、Sd、Seは、カメラからの画像取り込み時の撮像時刻を示し、ゆらぎの段のSa、Sb、Sc、Sd、Seは、画像情報にカメラからの画像取り込み時の撮像時刻が付加されたタイムスタンプを示し、受け側画像描画の段のTa、Tb、Tc、Td、Teは、描画タイミング時刻を示している。
【0028】
受け側画像描画では、等間隔で遅れ予測画像が描画されることになるので、描画タイミングにバラつきがなく、換言すれば、ゆらぎがなく、スムーズな動画が得られることになる。その遅れ予測時間tは、描画タイミング時刻Tから、そのとき受信している画像情報に付加されているタイムスタンプSを差し引いた時間T−Sである。
【0029】
図6乃至図8は、オペレーションマシン2の遅れ予測画像の描画機能について説明するものである。オペレーションマシン2は、図6に示されるように、受信画像上の描画エリアを指定することで、その範囲をビデオメモリにメモリ転送する機能を有する。この機能によって、受信画像の任意のエリアを表示することが可能となる。
【0030】
また、図7は、模型自動車1の直進時の描画エリアの変化について説明するものであり、そこには、模型自動車1がA地点からB地点へ直進した場合の、オペレーションマシン2のモニタに表示される領域の変化が示されている。この描画エリアの変化を見ても分かるように、単に模型自動車1が直進する場合には、受信画像に対して視点の中心を変えずに、領域だけを中心へズームさせればよい。この場合のズーム量は、センサー情報である車速から算出される。
【0031】
更に、図8は、模型自動車1の右カーブ時の描画エリアの変化について説明するものであり、そこには、模型自動車1が右カーブしようとA地点からB地点へ移動した場合の、オペレーションマシン2のモニタに表示される領域の変化が示されている。この描画エリアの変化を見ても分かるように、模型自動車1が右カーブする場合には、受信画像に対して徐々に視点の中心を右側へ移動させながらズームさせればよい。この場合のズーム量及びシフト量は、センサー情報である車速と操舵角度から算出される。
【0032】
このように、本発明に係る画像表示方法においては、センサー情報を利用して、受信画像の遅れ予測時間経過時の遅れ予測画像を生成し、これを描画タイミング時刻に描画するので、通信のゆらぎが是正され、不自然さのないリアルタイムの動画が得られるのである。
【0033】
次に、上記画像表示方法を採用した本発明に係るシステムの、模型自動車1、オペレーションマシン2、及び操作者の操作による一連の処理の流れを、図9のフローチャートを参照して簡単に説明する。まず、模型自動車1では、カメラ画像に内部時計13によるタイムスタンプが付されて画像圧縮処理され、この画像情報がオペレーションマシン2へ送信される第1のデータとされる。
【0034】
また、車速センサー6で得られた車速値と、バッテリー電圧値とがセンサー取込処理によって取り込まれ、センサー情報としてオペレーションマシン2へ送信される第2のデータとされる。
【0035】
画像圧縮処理により生成された画像情報、センサー取込処理により生成されたセンサー情報は、オペレーションマシン2へ送信される情報として通信処理によって送信される。オペレーションマシン2は、この情報を通信処理によって受信し、画像情報を画像伸張処理へ、センサー情報を画像加工処理へ引き渡す。
【0036】
画像加工処理では、画像情報内の画像データを伸張し、画像加工処理へ引き渡す。画像加工処理では、伸張された画像データ、タイムスタンプ、センサー情報からモニタに描画する画像を生成してモニタに出力する。
【0037】
操作者は、モニタに映し出されたカメラからの映像を見ながらゲームコントローラを操作する。ゲームコントローラの操作によって入力された制御情報は、通信処理によって模型自動車1へ送信され、模型自動車1では、受信した制御情報を基に、サーボ6、駆動モータ7、7aを制御する。
【0038】
以下、上述した図9のフローチャートにおける各処理について詳細に説明する。まず、本発明に係る車載コンピュータ11の無線LAN通信処理を、図10のフローチャートに基づいて説明する。車載コンピュータ11の無線LAN通信部14は、平時は、オペレーションマシン2からのシステム接続情報を受信するために待機している(S101)。
【0039】
そして、情報を受信すると、それがオペレーションマシン2からのシステム接続情報であるかどうかを確認し(S102)、オペレーションマシン2からのシステム接続情報であれば、認証コードが正常かどうかの確認をする(S103)。
【0040】
接続コードが正常であれば、送信元のオペレーションマシン2へ接続応答情報を送信してシステム状態を接続中へ切り替え(S104、S105)、内部時計13をシステム接続情報中のシステム時刻データに合わせる(S106)。
【0041】
オペレーションマシン2からの受信情報がシステム接続情報ではない場合には(S102)、それが制御情報であれば(S107)、システム状態が接続中であるかどうかのチェックを行なう(S108)。システムが接続中であれば、モータ制御処理へ制御情報を受け渡し(S109)、内部時計調時処理を行なう(S110)。もし、制御情報の受信エラーが発生した場合には(S111)、システム状態を未接続に切り替える(S112)。
【0042】
システム情報を受信していないときには、逆に、オペレーションマシン2へ送信情報があるかどうかのチェックを行ない(S113)、送信情報があれば、システム状態が接続中であるかどうかを確認して(S114)、送信情報を送信する(S115)。
【0043】
本発明に係る車載コンピュータ11の画像圧縮処理を、図11のフローチャートを参照して説明する。車載コンピュータ11は、平時、オペレーションマシン2とシステム上接続されているかどうかの判断をしており(S201)、接続されていれば、ビデオキャプチャーを開始する(S202)。 キャプチャーされた画像は圧縮され(S203)、内部時計13から生成されたタイムスタンプが付加されて画像情報が作成され(S204、S205)、無線LAN通信処理へ受け渡される(S206)。
【0044】
次いで、本発明に係る車載コンピュータ11のモータ制御処理及びセンサー入力処理を、図12のフローチャートを参照して説明する。モータ制御部15は、平時は、オペレーションマシン2からの制御情報の受信に備えて待機している(S301)。制御情報を受信すると、制御情報に含まれている駆動モータ値、サーボ位置の情報に従って、駆動モータ9、9a及びサーボ8を制御するように出力する(S302、S303)。
【0045】
モータ制御処理で制御された直後の車速、バッテリー電圧値をオペレーションマシン2へ送信するセンサー情報として利用するために、モータ制御処理で駆動モータ9、9a、サーボ8が制御されると、連動してセンサー入力処理が開始される(S304)。
【0046】
センサー入力部16では、モータ制御部15のモータ制御処理による処理起動命令を受けると(S401)、車速センサー6から車速、バッテリー7からバッテリー電圧をそれぞれ取り込み(S402、S403)、それらを元にセンサー情報を作成し(S404)、オペレーションマシン2へセンサー情報を送信するために、無線LAN通信部14へセンサー情報を受け渡す(S405)。
【0047】
本発明に係る車載コンピュータ11の内部時計調時処理を、図13のフローチャートを参照して説明する。内部時計調時処理では、制御情報の送信時間、通信遅延時間から内部時計13とオペレーションマシン2のシステム時刻の時間差を割り出し、調時時間を算出する(S501〜S503)。調時時間は、時間差の20分の1とし、急激な変化を吸収する。この処理は、オペレーションマシン2がシステム接続されたときに行なわれる。
【0048】
算出された調時時間が1ms未満であれば内部時計13は再設定されないが、1ms以上であれば、内部時計13の時間に調時時間を加えて内部時計13を再設定する(S504、S505)。
【0049】
オペレーションマシン2は、模型自動車1を遠隔操作するためのプログラムが記憶されたパーソナルコンピュータである。操作者は、オペレーションマシン2を操作して模型自動車1をリモートコントロールすることができる。
【0050】
次に、本発明に係るオペレーションマシン2の処理について説明する。オペレーションマシン2で行なわれる処理は、図14に示すように、模型自動車1から送信されたデータに基づく処理と、操作者によるゲームコントローラ3からの入力に基づく処理に大別される。
【0051】
模型自動車1から送信されたデータに基づく処理は、無線LAN通信処理で受信した画像情報を伸張する画像伸張処理と、画像伸張処理によって伸張された画像を、受信したセンサー情報に基づいてモニタに映し出すためのビデオ信号を生成する画像加工処理である。
【0052】
一方、操作者によるゲームコントローラ3からの入力に基づく処理は、操作入力処理として図示されているが、ここで処理された制御情報が、無線LAN通信処理によって模型自動車1へ送信される。
【0053】
本発明に係るオペレーションマシン2の無線LAN通信処理を、図15のフローチャートを参照して説明する。オペレーションマシン2の無線LAN通信処理では、平時、模型自動車1との接続が保たれているかどうかのチェックがなされる(S601)。
【0054】
模型自動車1との接続が保たれていない場合には、前回接続時に送信したシステム接続情報を送信してから指定時間経過したかどうかを判断して(S602)、指定時間経過している場合には、再度、システム接続情報を送信する(S603)。
【0055】
そして、模型自動車1からの接続応答情報が受信されれば(S604)、その応答コードから正常接続されたかどうかを判断して(S605)、正常に接続されていれば、システムの状態を接続中へ切り替える(S606)。
【0056】
模型自動車1との接続が保たれている場合には(S601)、常に、模型自動車1からの受信情報があるかどうかをチェックしている(S607)。模型自動車1からの受信情報が画像情報であれば(S608)、画像伸張処理プログラムへ画像情報が受け渡される(S609)。
【0057】
受信情報が画像情報でなく、センサー情報であれば(S610)、現在時刻と通信時刻とから通信遅延時間を算出し(S611)、画像加工処理へセンサー情報を受け渡し(S612)、通信監視タイマーをリセットする(S613)。
【0058】
模型自動車1からの受信情報がないときには、逆に模型自動車への送信情報があるかどうかをチェックしており(S614)、送信情報があれば、送信情報を送信して(S615)、通信監視タイマーをリセットする(S616)。受信情報も送信情報もない状態が続き、通信監視時間がタイムアウトしてしまうと(S617)、システム状態が未接続に切り替わる(S618)。
【0059】
本発明に係るオペレーションマシン2の画像伸張処理を、図16のフローチャートを参照して説明する。オペレーションマシン2の画像伸張処理では、平時、模型自動車1からの画像情報の受信に備えて待機している(S701)。そして、画像情報を受信すると、画像情報に含まれるタイムスタンプを格納し(S702)、画像データを伸張して、1フレーム分の画像を画像加工処理へ受け渡す(S703)。
【0060】
続いて、本発明に係るオペレーションマシン2の画像加工処理を、図17のフローチャートを参照して説明する。オペレーションマシン2の画像加工処理では、システムに接続された状態で画像伸張処理された画像が更新されると(S801、S802)、まず、更新された画像に格納されたタイムスタンプの時刻を現在のシステム時刻から差し引いた時間、即ち、描画遅れ時間を算出する(S803)。描画遅れ時間が算出されると、その描画遅れ時間と車速から画像拡大率を算出し(S804)、描画遅れ時間と操舵位置から画像左右シフト量を算出する(S805)。
【0061】
そして、算出された画像拡大率、画像左右シフト量から描画エリアを指定し(S806)、ビデオメモリに転送される(S807)。一方、センサー情報内の車速データとバッテリー電圧データを元に、スピードメーター、バッテリー残量の上書き描画も行なわれる(S808)。
【0062】
本発明に係るオペレーションマシン2の操作入力処理を、図18のフローチャートを参照して説明する。本実施形態におけるオペレーションマシン2では、システムの制御周期を50msとし、ゲームコントローラ3からの入力が50msの定周期で入力されているかどうかが監視される(S901)。そして、ゲームコントローラ3から50msの定周期で入力があると、そのステアリング値、アクセル・ブレーキペダル値を取り込む(S902)。そして、その取り込まれたステアリング値を操舵位置として、アクセル・ブレーキペダル値を駆動モータ値として変換し、これを模型自動車1へ送信するための制御値とする(S903)。
【0063】
変換された制御値に変化がなく(S904)、前回制御情報を送信してから500ms以上送信履歴がなければ(S905)、現在の制御値から制御情報を作成し、無線LAN通信処理へ受け渡す(S906)。変換された制御値に変化があれば、新しい制御値から制御情報を作成し、無線LAN通信処理へ受け渡す(S906)。
【0064】
本発明における通信データをまとめると、図19に示すとおりである。オペレーションマシン2をシステムに接続する際に送信されるシステム接続情報は、認証コードとシステム時刻とで構成される。ここで、認証コードとは、オペレーションマシン2がシステム接続を行なうためのコードであり、システム時刻とは、オペレーションマシン2の時刻であり、システム接続時に車載コンピュータ11の内部時計13を調時するために利用される。
【0065】
この発明をある程度詳細にその最も好ましい実施形態について説明してきたが、この発明の精神と範囲に反することなしに広範に異なる実施形態を構成することができることは明白なので、この発明は添付請求の範囲において限定した以外はその特定の実施形態に制約されるものではない。
【図面の簡単な説明】
【0066】
【図1】本発明の一実施形態におけるオペレーションマシンを使用した、模型自動車用リモートコントロールシステムについてのシステム構成図を表したものである。
【図2】本発明の一実施形態における模型自動車の構成を示すブロック図である。
【図3】車載コンピュータの構成図である。
【図4】車載コンピュータの処理を示すブロック図である。
【図5】ゆらぎ補正を説明するための図である。
【図6】オペレーションマシンの描画機能を説明するための図である。
【図7】模型自動車の直進時の描画エリアの変化を示す図である。
【図8】模型自動車の右カーブ時の描画エリアの変化を示す図である。
【図9】ハードウェアと操作者による一連の処理のフローチャートである。
【図10】模型自動車側の通信処理のフローチャートである。
【図11】画像圧縮処理のフローチャートである。
【図12】モータ操作処理とセンサー入力処理のフローチャートである。
【図13】内部時計調時処理のフローチャートである。
【図14】オペレーションマシンの処理を示すブロック図である。
【図15】オペレーションマシン側の通信処理のフローチャートである。
【図16】画像伸張処理のフローチャートである。
【図17】画像加工処理のフローチャートである。
【図18】操作入力処理のフローチャートである。
【図19】模型自動車用リモートコントロールシステムの通信データの構成図である。
【図20】通信のゆらぎを説明するための図である。
【図21】ゆらぎによるフレーム描画タイミングへの影響を説明するための図である。
【図22】エラーによるフレーム描画タイミングへの影響を説明するための図である。
【符号の説明】
【0067】
1 模型自動車
2 オペレーションマシン
3 コントローラ
4 インターネット
5 カメラ
6 車速センサー
7 バッテリー
8 サーボ
9 駆動モータ
9a 駆動モータ
10 ギアボックス
10a ギアボックス
11 車載コンピュータ
12 ビデオキャプチャー部
13 内部時計
14 無線LAN通信部
15 モータ制御部
16 センサー入力部
【技術分野】
【0001】
本発明は、ゆらぎ補正による画像表示方法及びその方法を用いた模型自動車等用リモートコントロールシステムに係り、より詳細には、ゆらぎ補正による画像表示方法及びその方法を用いた、オペレーションマシンの操作者の操縦により、模型自動車等の走行体の走行やスピード制御等を遠隔的に行なうリモートコントロール機能を備えた模型自動車等用リモートコントロールシステムに関する。
【背景技術】
【0002】
撮影領域等を遠隔操作で変更できる遠隔カメラ装置や遠隔監視システム装置が提案されている。このような遠隔カメラ装置として、例えば、伝送遅延や信号処理遅延による監視カメラ部の制御行き過ぎ量を補正することのできる遠隔カメラ装置が提案されている(特開平6−38087号公報)。遠隔監視システム装置としては、例えば、カメラを動作させているときに受信側で表示する画像を、その時点でカメラが撮影している範囲に近づくようにシフトして表示し、あたかも画像の遅れが発生していないように見えるように表示範囲を加工し、カメラの遠隔操作による遅延を感じられないような監視システム装置が提案されている(特開2002−185956号公報)。
【0003】
しかしながら、これらの技術は、有線回線による動画伝送を前提としており、固定遅延時間分の補正を行なうことにより、違和感のない動画を伝送することができるが、インターネットや無線LANによる動画伝送を行なう場合には、均一な通信速度が得られないために、動画データの到達時間にゆらぎが発生する。
【0004】
即ち、通信の遅れがバラつくことにより描画タイミングがバラつき、時には通信エラーによるデータ消失が起こり、その結果、動画に違和感を感じる事態が発生する(図20乃至22参照)。
【0005】
上述する理由により、このようなカメラを模型自動車等の走行体に搭載して、パーソナルコンピュータ等のモニタでカメラからの映像を見ながら操作するような場合は、このゆらぎが動画データの不連続性を生み、操作者が模型自動車等の動きを予想できなくなって、的確な操作ができなくなり、遠隔操作の操縦性が悪くなる。
【0006】
この対策として従来は、ゆらぎ変化範囲をカバーする量の動画データを受信側で蓄積することにより、ゆらぎを抑えるという方法が採られている。しかし、この手法の場合、動画データの蓄積分の動画遅延が発生するという問題が生ずる。
【0007】
【特許文献1】特開平6−38087号公報
【特許文献2】特開2002−185956号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
本発明は上記問題を解決することを課題としてなされたもので、遠隔地に設置されたカメラを搭載した模型自動車等の走行体からインターネットを介して接続されるパーソナルコンピュータ等に動画伝送を行なう場合に、ゆらぎ補正処理を行なうことにより、不自然さのない映像が得られる画像表示方法、並びに、この方法を採用することにより、的確な遠隔操作が可能となる模型自動車等用リモートコントロールシステムを提供することを課題とする。
【課題を解決するための手段】
【0009】
請求項1に記載の発明は、ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら前記走行体を遠隔制御可能にするための前記モニタへの前記受信画像の表示を行なうオペレーションマシンにおいて、
前記受信画像の前記モニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、前記描画画像は、前記受信画像を遅れ処理した予測画像とする、という方法により上記課題を達成する。
【0010】
請求項2に記載した発明は、請求項1に記載のゆらぎ補正による画像表示方法において、前記遅れ処理した予測画像は、前記描画タイミング時のシステム時刻から、そのとき受信している画像情報に付加されているタイムスタンプを差し引いた遅れ予測時間経過後の擬似的画像であることを特徴とする。
【0011】
請求項3に記載した発明は、請求項1に記載のゆらぎ補正による画像表示方法において、前記遅れ予測画像は、前記受信画像を、前記遅れ予測時間と車速、操舵角度、バッテリー電圧値等のセンサー情報に基いて画像処理するものであることを特徴とする。
【0012】
請求項4に記載した発明は、請求項3に記載のゆらぎ補正による画像表示方法において、前記画像処理は、前記センサー情報に基いて前記受信画像をズームし及び/又は左右にシフトするものであることを特徴とする。
【0013】
請求項5に記載の発明は、模型自動車等の走行体からの画像情報に基づいて前記走行体を遠隔制御するためのオペレーションマシンを備えた模型自動車等用リモートコントロールシステムであって、
前記オペレーションマシンは、前記走行体の車載カメラからの画像情報とセンサー情報とを受信する画像描画用情報受信手段と、前記受信した画像描画用情報内の画像データを伸張する画像伸張手段と、前記伸張した画像データを、受信した前記センサー情報に基づいて加工する画像加工手段と、コントローラによって入力された操作入力値を前記走行体に対する制御情報へ変換処理する操作入力手段と、前記操作入力手段によって生成された制御情報を前記走行体へ送信する制御情報送信手段とを備え、
前記走行体は、前記車載カメラの画像に内部時計の時刻をタイムスタンプとして付加し、前記オペレーションマシンへ送信する画像情報として画像圧縮する画像圧縮手段と、前記車速センサーからの車速及びバッテリーからのバッテリー電圧値を、前記オペレーションマシンへ送信するセンサー情報として取り込むセンサー取込手段と、前記画像情報と前記センサー情報とを画像描画用情報として前記オペレーションマシンへ送信する画像描画用情報送信手段と、前記オペレーションマシンから前記制御情報を受信する制御情報受信手段と、受信した前記制御情報に基づいてサーボ及びモータを制御する制御処理手段、とを備える、ことにより上記課題を達成する。
【0014】
請求項6に記載した発明は、請求項5に記載の模型自動車等用リモートコントロールシステムにおいて、前記画像加工手段は、前記伸張された画像データを、受信した前記センサー情報に基づいて、出力するタイミング及び表示させる画像の描画エリアを調整することを特徴とする。
【0015】
請求項7に記載した発明は、請求項6に記載の模型自動車等用リモートコントロールシステムにおいて、前記画像加工手段は、前記伸張された画像データに格納されたタイムスタンプの時刻を現在のシステム時刻から差し引いた描画遅れ時間を算出し、前記描画遅れ時間と車速から画像拡大率を算出すると共に、前記描画遅れ時間と操舵位置から画像左右シフト量を算出し、前記画像拡大率と前記画像左右シフト量とから前記描画エリアを指定することを特徴とする。
【0016】
請求項8に記載した発明は、請求項5に記載の模型自動車等用リモートコントロールシステムにおいて、前記センサー情報は、前記走行体に搭載の車速センサーからの車速値と、バッテリーの電圧値とを含むことを特徴とする。
【発明の効果】
【0017】
本発明に係るゆらぎ補正による画像表示方法によれば、受信画像から画像処理して得られた予測画像(擬似的画像)が定間隔置きに表示されるためにゆらぎがなくなり、遠隔地に設置されたカメラを搭載した模型自動車等の走行体からインターネットを介して接続されるパーソナルコンピュータ等に動画伝送を行なう場合に、このゆらぎ補正処理を行なうことにより、不自然さのない映像が得られ、以て的確な遠隔操作が可能となる。
【発明を実施するための最良の形態】
【0018】
以下、本発明の好適な実施形態について、添付図面を参照して詳細に説明する。図1は、模型自動車とオペレーションマシン2から成る、本発明に係る模型自動車等用リモートコントロールシステムの全体構成を表したものである。このシステムは、カメラを搭載した走行体である模型自動車1と、模型自動車1から離れた場所で模型自動車1を操縦する操作者のモニタ付きオペレーションマシン2と、インターネット4等の通信手段とから構成されている。
【0019】
オペレーションマシン2では、そのモニタに模型自動車1のカメラ映像が出力される。操作者は、模型自動車1のカメラ映像を見ながらステアリングコントローラ、ジョイスティック等のゲームコントローラその他のコントローラ3で制御情報を入力して、模型自動車1を操縦することが可能である。そして、当該制御情報を受け取った模型自動車1では、その車載コンピュータにより当該制御情報から各制御用データが読み込まれ、既に駆動されているサーボ(操舵)や駆動モータが制御されることにより、模型自動車1は、オペレーションマシン2で入力された制御情報に従って動作することが可能になる。
【0020】
図2は、本実施形態における模型自動車1の構成を表したブロック図である。本実施形態における模型自動車1は、無線LANに接続されており、模型自動車1内のセンサーからセンサー情報生成を行なう機能や、カメラキャプチャー画像にタイムスタンプ値の付加等を行なう画像情報生成機能等の送信情報処理機能の他、サーボや駆動モータに対して所定の処理を行なう制御機能も備えている。本実施形態の模型自動車1では、画像情報生成機能を実現するためのカメラ5、センサー情報生成機能を実現するための車速センサー6、バッテリー7、制御機能を実現するためのサーボ8及び駆動モータ9、9a、ギアボックス10、10a、並びに、各種機能処理手段として機能する車載コンピュータ11を備えている。
【0021】
車載コンピュータ11は、各装置の制御やデータの計算・加工を行なうCPU、一度書き込んだ内容は消去できないが電源を切っても内容が消えないF−ROM、半導体素子を利用したRAM、内部時計13、ビデオキャプチャー部12、画像圧縮部、センサー入力部16、モータ制御部15、無線LAN通信部14を備えている。
【0022】
また、車載コンピュータ11は、カメラ5、車速センサー6、バッテリー7、サーボ8、及び駆動モータ9、9aが接続されており(図2、図3参照)、図4に示すように、オペレーションマシン2へ送信する情報の処理と、オペレーションマシン2から受信した情報の処理を行なう。
【0023】
オペレーションマシン2へ送信する情報の処理としては、ビデオキャプチャー部12からの画像に内部時計13のタイムスタンプ値を付加して画像を圧縮する画像圧縮処理と、車速センサー6によって得られた車速とバッテリー電圧値をセンサー情報として取り込むセンサー取込処理とがある。オペレーションマシン2から受信した情報の処理はモータ制御処理で、受信した制御情報に従って、サーボ8及び駆動モータ9、9aを制御する。
【0024】
本実施形態のオペレーションマシン2は、車載カメラ5の映像のうちの所定の描画エリアをモニタに表示する。そして、模型自動車1に設置されているセンサー等の検出結果から模型自動車1の状態を認識、判断し、その結果に応じた車載カメラ映像やスピードメーター・バッテリー残量表示を出力するという機能を、この模型自動車1からの画像情報やセンサー情報と連動して実行する。例えば、「画像データ、タイムスタンプ、車速、バッテリー電圧値」等の画像描画用情報を受信する処理を行ない、この画像描画用情報に含まれる画像情報、センサー情報を判別して、次の映像に応じた処理を実行する。
【0025】
ここで、上記システムに採用される本発明に係るゆらぎ補正による画像表示方法について、より詳細に説明する。該画像表示方法は、ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら前記走行体を遠隔制御可能にするための前記モニタへの前記受信画像の表示を行なうオペレーションマシンにおいて、
前記受信画像の前記モニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、前記描画画像は、前記受信画像を遅れ処理した予測画像とすることを特徴とするものである。
【0026】
前記遅れ処理した予測画像は、前記描画タイミング時のシステム時刻から、そのとき受信している画像情報に付加されているタイムスタンプを差し引いた遅れ予測時間経過後の擬似的画像であり、前記遅れ予測画像は、前記受信画像を、前記遅れ予測時間と車速、操舵角度、バッテリー電圧値等のセンサー情報に基いて画像処理するものであり、また、前記画像処理は、前記センサー情報に基いて前記受信画像をズームし及び/又は左右にシフトするものである。
【0027】
このゆらぎ補正の方法について、図5乃至図8を参照して詳細に説明する。図5において、送り側画像の段のSa、Sb、Sc、Sd、Seは、カメラからの画像取り込み時の撮像時刻を示し、ゆらぎの段のSa、Sb、Sc、Sd、Seは、画像情報にカメラからの画像取り込み時の撮像時刻が付加されたタイムスタンプを示し、受け側画像描画の段のTa、Tb、Tc、Td、Teは、描画タイミング時刻を示している。
【0028】
受け側画像描画では、等間隔で遅れ予測画像が描画されることになるので、描画タイミングにバラつきがなく、換言すれば、ゆらぎがなく、スムーズな動画が得られることになる。その遅れ予測時間tは、描画タイミング時刻Tから、そのとき受信している画像情報に付加されているタイムスタンプSを差し引いた時間T−Sである。
【0029】
図6乃至図8は、オペレーションマシン2の遅れ予測画像の描画機能について説明するものである。オペレーションマシン2は、図6に示されるように、受信画像上の描画エリアを指定することで、その範囲をビデオメモリにメモリ転送する機能を有する。この機能によって、受信画像の任意のエリアを表示することが可能となる。
【0030】
また、図7は、模型自動車1の直進時の描画エリアの変化について説明するものであり、そこには、模型自動車1がA地点からB地点へ直進した場合の、オペレーションマシン2のモニタに表示される領域の変化が示されている。この描画エリアの変化を見ても分かるように、単に模型自動車1が直進する場合には、受信画像に対して視点の中心を変えずに、領域だけを中心へズームさせればよい。この場合のズーム量は、センサー情報である車速から算出される。
【0031】
更に、図8は、模型自動車1の右カーブ時の描画エリアの変化について説明するものであり、そこには、模型自動車1が右カーブしようとA地点からB地点へ移動した場合の、オペレーションマシン2のモニタに表示される領域の変化が示されている。この描画エリアの変化を見ても分かるように、模型自動車1が右カーブする場合には、受信画像に対して徐々に視点の中心を右側へ移動させながらズームさせればよい。この場合のズーム量及びシフト量は、センサー情報である車速と操舵角度から算出される。
【0032】
このように、本発明に係る画像表示方法においては、センサー情報を利用して、受信画像の遅れ予測時間経過時の遅れ予測画像を生成し、これを描画タイミング時刻に描画するので、通信のゆらぎが是正され、不自然さのないリアルタイムの動画が得られるのである。
【0033】
次に、上記画像表示方法を採用した本発明に係るシステムの、模型自動車1、オペレーションマシン2、及び操作者の操作による一連の処理の流れを、図9のフローチャートを参照して簡単に説明する。まず、模型自動車1では、カメラ画像に内部時計13によるタイムスタンプが付されて画像圧縮処理され、この画像情報がオペレーションマシン2へ送信される第1のデータとされる。
【0034】
また、車速センサー6で得られた車速値と、バッテリー電圧値とがセンサー取込処理によって取り込まれ、センサー情報としてオペレーションマシン2へ送信される第2のデータとされる。
【0035】
画像圧縮処理により生成された画像情報、センサー取込処理により生成されたセンサー情報は、オペレーションマシン2へ送信される情報として通信処理によって送信される。オペレーションマシン2は、この情報を通信処理によって受信し、画像情報を画像伸張処理へ、センサー情報を画像加工処理へ引き渡す。
【0036】
画像加工処理では、画像情報内の画像データを伸張し、画像加工処理へ引き渡す。画像加工処理では、伸張された画像データ、タイムスタンプ、センサー情報からモニタに描画する画像を生成してモニタに出力する。
【0037】
操作者は、モニタに映し出されたカメラからの映像を見ながらゲームコントローラを操作する。ゲームコントローラの操作によって入力された制御情報は、通信処理によって模型自動車1へ送信され、模型自動車1では、受信した制御情報を基に、サーボ6、駆動モータ7、7aを制御する。
【0038】
以下、上述した図9のフローチャートにおける各処理について詳細に説明する。まず、本発明に係る車載コンピュータ11の無線LAN通信処理を、図10のフローチャートに基づいて説明する。車載コンピュータ11の無線LAN通信部14は、平時は、オペレーションマシン2からのシステム接続情報を受信するために待機している(S101)。
【0039】
そして、情報を受信すると、それがオペレーションマシン2からのシステム接続情報であるかどうかを確認し(S102)、オペレーションマシン2からのシステム接続情報であれば、認証コードが正常かどうかの確認をする(S103)。
【0040】
接続コードが正常であれば、送信元のオペレーションマシン2へ接続応答情報を送信してシステム状態を接続中へ切り替え(S104、S105)、内部時計13をシステム接続情報中のシステム時刻データに合わせる(S106)。
【0041】
オペレーションマシン2からの受信情報がシステム接続情報ではない場合には(S102)、それが制御情報であれば(S107)、システム状態が接続中であるかどうかのチェックを行なう(S108)。システムが接続中であれば、モータ制御処理へ制御情報を受け渡し(S109)、内部時計調時処理を行なう(S110)。もし、制御情報の受信エラーが発生した場合には(S111)、システム状態を未接続に切り替える(S112)。
【0042】
システム情報を受信していないときには、逆に、オペレーションマシン2へ送信情報があるかどうかのチェックを行ない(S113)、送信情報があれば、システム状態が接続中であるかどうかを確認して(S114)、送信情報を送信する(S115)。
【0043】
本発明に係る車載コンピュータ11の画像圧縮処理を、図11のフローチャートを参照して説明する。車載コンピュータ11は、平時、オペレーションマシン2とシステム上接続されているかどうかの判断をしており(S201)、接続されていれば、ビデオキャプチャーを開始する(S202)。 キャプチャーされた画像は圧縮され(S203)、内部時計13から生成されたタイムスタンプが付加されて画像情報が作成され(S204、S205)、無線LAN通信処理へ受け渡される(S206)。
【0044】
次いで、本発明に係る車載コンピュータ11のモータ制御処理及びセンサー入力処理を、図12のフローチャートを参照して説明する。モータ制御部15は、平時は、オペレーションマシン2からの制御情報の受信に備えて待機している(S301)。制御情報を受信すると、制御情報に含まれている駆動モータ値、サーボ位置の情報に従って、駆動モータ9、9a及びサーボ8を制御するように出力する(S302、S303)。
【0045】
モータ制御処理で制御された直後の車速、バッテリー電圧値をオペレーションマシン2へ送信するセンサー情報として利用するために、モータ制御処理で駆動モータ9、9a、サーボ8が制御されると、連動してセンサー入力処理が開始される(S304)。
【0046】
センサー入力部16では、モータ制御部15のモータ制御処理による処理起動命令を受けると(S401)、車速センサー6から車速、バッテリー7からバッテリー電圧をそれぞれ取り込み(S402、S403)、それらを元にセンサー情報を作成し(S404)、オペレーションマシン2へセンサー情報を送信するために、無線LAN通信部14へセンサー情報を受け渡す(S405)。
【0047】
本発明に係る車載コンピュータ11の内部時計調時処理を、図13のフローチャートを参照して説明する。内部時計調時処理では、制御情報の送信時間、通信遅延時間から内部時計13とオペレーションマシン2のシステム時刻の時間差を割り出し、調時時間を算出する(S501〜S503)。調時時間は、時間差の20分の1とし、急激な変化を吸収する。この処理は、オペレーションマシン2がシステム接続されたときに行なわれる。
【0048】
算出された調時時間が1ms未満であれば内部時計13は再設定されないが、1ms以上であれば、内部時計13の時間に調時時間を加えて内部時計13を再設定する(S504、S505)。
【0049】
オペレーションマシン2は、模型自動車1を遠隔操作するためのプログラムが記憶されたパーソナルコンピュータである。操作者は、オペレーションマシン2を操作して模型自動車1をリモートコントロールすることができる。
【0050】
次に、本発明に係るオペレーションマシン2の処理について説明する。オペレーションマシン2で行なわれる処理は、図14に示すように、模型自動車1から送信されたデータに基づく処理と、操作者によるゲームコントローラ3からの入力に基づく処理に大別される。
【0051】
模型自動車1から送信されたデータに基づく処理は、無線LAN通信処理で受信した画像情報を伸張する画像伸張処理と、画像伸張処理によって伸張された画像を、受信したセンサー情報に基づいてモニタに映し出すためのビデオ信号を生成する画像加工処理である。
【0052】
一方、操作者によるゲームコントローラ3からの入力に基づく処理は、操作入力処理として図示されているが、ここで処理された制御情報が、無線LAN通信処理によって模型自動車1へ送信される。
【0053】
本発明に係るオペレーションマシン2の無線LAN通信処理を、図15のフローチャートを参照して説明する。オペレーションマシン2の無線LAN通信処理では、平時、模型自動車1との接続が保たれているかどうかのチェックがなされる(S601)。
【0054】
模型自動車1との接続が保たれていない場合には、前回接続時に送信したシステム接続情報を送信してから指定時間経過したかどうかを判断して(S602)、指定時間経過している場合には、再度、システム接続情報を送信する(S603)。
【0055】
そして、模型自動車1からの接続応答情報が受信されれば(S604)、その応答コードから正常接続されたかどうかを判断して(S605)、正常に接続されていれば、システムの状態を接続中へ切り替える(S606)。
【0056】
模型自動車1との接続が保たれている場合には(S601)、常に、模型自動車1からの受信情報があるかどうかをチェックしている(S607)。模型自動車1からの受信情報が画像情報であれば(S608)、画像伸張処理プログラムへ画像情報が受け渡される(S609)。
【0057】
受信情報が画像情報でなく、センサー情報であれば(S610)、現在時刻と通信時刻とから通信遅延時間を算出し(S611)、画像加工処理へセンサー情報を受け渡し(S612)、通信監視タイマーをリセットする(S613)。
【0058】
模型自動車1からの受信情報がないときには、逆に模型自動車への送信情報があるかどうかをチェックしており(S614)、送信情報があれば、送信情報を送信して(S615)、通信監視タイマーをリセットする(S616)。受信情報も送信情報もない状態が続き、通信監視時間がタイムアウトしてしまうと(S617)、システム状態が未接続に切り替わる(S618)。
【0059】
本発明に係るオペレーションマシン2の画像伸張処理を、図16のフローチャートを参照して説明する。オペレーションマシン2の画像伸張処理では、平時、模型自動車1からの画像情報の受信に備えて待機している(S701)。そして、画像情報を受信すると、画像情報に含まれるタイムスタンプを格納し(S702)、画像データを伸張して、1フレーム分の画像を画像加工処理へ受け渡す(S703)。
【0060】
続いて、本発明に係るオペレーションマシン2の画像加工処理を、図17のフローチャートを参照して説明する。オペレーションマシン2の画像加工処理では、システムに接続された状態で画像伸張処理された画像が更新されると(S801、S802)、まず、更新された画像に格納されたタイムスタンプの時刻を現在のシステム時刻から差し引いた時間、即ち、描画遅れ時間を算出する(S803)。描画遅れ時間が算出されると、その描画遅れ時間と車速から画像拡大率を算出し(S804)、描画遅れ時間と操舵位置から画像左右シフト量を算出する(S805)。
【0061】
そして、算出された画像拡大率、画像左右シフト量から描画エリアを指定し(S806)、ビデオメモリに転送される(S807)。一方、センサー情報内の車速データとバッテリー電圧データを元に、スピードメーター、バッテリー残量の上書き描画も行なわれる(S808)。
【0062】
本発明に係るオペレーションマシン2の操作入力処理を、図18のフローチャートを参照して説明する。本実施形態におけるオペレーションマシン2では、システムの制御周期を50msとし、ゲームコントローラ3からの入力が50msの定周期で入力されているかどうかが監視される(S901)。そして、ゲームコントローラ3から50msの定周期で入力があると、そのステアリング値、アクセル・ブレーキペダル値を取り込む(S902)。そして、その取り込まれたステアリング値を操舵位置として、アクセル・ブレーキペダル値を駆動モータ値として変換し、これを模型自動車1へ送信するための制御値とする(S903)。
【0063】
変換された制御値に変化がなく(S904)、前回制御情報を送信してから500ms以上送信履歴がなければ(S905)、現在の制御値から制御情報を作成し、無線LAN通信処理へ受け渡す(S906)。変換された制御値に変化があれば、新しい制御値から制御情報を作成し、無線LAN通信処理へ受け渡す(S906)。
【0064】
本発明における通信データをまとめると、図19に示すとおりである。オペレーションマシン2をシステムに接続する際に送信されるシステム接続情報は、認証コードとシステム時刻とで構成される。ここで、認証コードとは、オペレーションマシン2がシステム接続を行なうためのコードであり、システム時刻とは、オペレーションマシン2の時刻であり、システム接続時に車載コンピュータ11の内部時計13を調時するために利用される。
【0065】
この発明をある程度詳細にその最も好ましい実施形態について説明してきたが、この発明の精神と範囲に反することなしに広範に異なる実施形態を構成することができることは明白なので、この発明は添付請求の範囲において限定した以外はその特定の実施形態に制約されるものではない。
【図面の簡単な説明】
【0066】
【図1】本発明の一実施形態におけるオペレーションマシンを使用した、模型自動車用リモートコントロールシステムについてのシステム構成図を表したものである。
【図2】本発明の一実施形態における模型自動車の構成を示すブロック図である。
【図3】車載コンピュータの構成図である。
【図4】車載コンピュータの処理を示すブロック図である。
【図5】ゆらぎ補正を説明するための図である。
【図6】オペレーションマシンの描画機能を説明するための図である。
【図7】模型自動車の直進時の描画エリアの変化を示す図である。
【図8】模型自動車の右カーブ時の描画エリアの変化を示す図である。
【図9】ハードウェアと操作者による一連の処理のフローチャートである。
【図10】模型自動車側の通信処理のフローチャートである。
【図11】画像圧縮処理のフローチャートである。
【図12】モータ操作処理とセンサー入力処理のフローチャートである。
【図13】内部時計調時処理のフローチャートである。
【図14】オペレーションマシンの処理を示すブロック図である。
【図15】オペレーションマシン側の通信処理のフローチャートである。
【図16】画像伸張処理のフローチャートである。
【図17】画像加工処理のフローチャートである。
【図18】操作入力処理のフローチャートである。
【図19】模型自動車用リモートコントロールシステムの通信データの構成図である。
【図20】通信のゆらぎを説明するための図である。
【図21】ゆらぎによるフレーム描画タイミングへの影響を説明するための図である。
【図22】エラーによるフレーム描画タイミングへの影響を説明するための図である。
【符号の説明】
【0067】
1 模型自動車
2 オペレーションマシン
3 コントローラ
4 インターネット
5 カメラ
6 車速センサー
7 バッテリー
8 サーボ
9 駆動モータ
9a 駆動モータ
10 ギアボックス
10a ギアボックス
11 車載コンピュータ
12 ビデオキャプチャー部
13 内部時計
14 無線LAN通信部
15 モータ制御部
16 センサー入力部
【特許請求の範囲】
【請求項1】
ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら前記走行体を遠隔制御可能にするための前記モニタへの前記受信画像の表示を行なうオペレーションマシンにおいて、
前記受信画像の前記モニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、前記描画画像は、前記受信画像を遅れ処理した予測画像とすることを特徴とするゆらぎ補正による画像表示方法。
【請求項2】
前記遅れ処理した予測画像は、前記描画タイミング時のシステム時刻から、そのとき受信している画像情報に付加されているタイムスタンプを差し引いた遅れ予測時間経過後の擬似的画像である請求項1に記載のゆらぎ補正による画像表示方法。
【請求項3】
前記遅れ予測画像は、前記受信画像を、前記遅れ予測時間と車速、操舵角度、バッテリー電圧値等のセンサー情報に基いて画像処理するものである請求項1に記載のゆらぎ補正による画像表示方法。
【請求項4】
前記画像処理は、前記センサー情報に基いて前記受信画像をズームし及び/又は左右にシフトするものである請求項3に記載のゆらぎ補正による画像表示方法。
【請求項5】
模型自動車等の走行体からの画像情報に基づいて前記走行体を遠隔制御するためのオペレーションマシンを備えた模型自動車等用リモートコントロールシステムであって、
前記オペレーションマシンは、
前記走行体の車載カメラからの画像情報とセンサー情報とを受信する画像描画用情報受信手段と、
前記受信した画像描画用情報内の画像データを伸張する画像伸張手段と、
前記伸張した画像データを、受信した前記センサー情報に基づいて加工する画像加工手段と、
コントローラによって入力された操作入力値を前記走行体に対する制御情報へ変換処理する操作入力手段と、
前記操作入力手段によって生成された制御情報を前記走行体へ送信する制御情報送信手段とを備え、
前記走行体は、
前記車載カメラの画像に内部時計の時刻をタイムスタンプとして付加し、前記オペレーションマシンへ送信する画像情報として画像圧縮する画像圧縮手段と、
前記車速センサーからの車速及びバッテリーからのバッテリー電圧値を、前記オペレーションマシンへ送信するセンサー情報として取り込むセンサー取込手段と、
前記画像情報と前記センサー情報とを画像描画用情報として前記オペレーションマシンへ送信する画像描画用情報送信手段と、
前記オペレーションマシンから前記制御情報を受信する制御情報受信手段と、
受信した前記制御情報に基づいてサーボ及びモータを制御する制御処理手段、
とを備えることを特徴とする模型自動車等用リモートコントロールシステム。
【請求項6】
前記画像加工手段は、前記伸張された画像データを、受信した前記センサー情報に基づいて、出力するタイミング及び表示させる画像の描画エリアを調整する請求項5に記載の模型自動車等用リモートコントロールシステム。
【請求項7】
前記画像加工手段は、前記伸張された画像データに格納されたタイムスタンプの時刻を現在のシステム時刻から差し引いた描画遅れ時間を算出し、前記描画遅れ時間と車速から画像拡大率を算出すると共に、前記描画遅れ時間と操舵位置から画像左右シフト量を算出し、前記画像拡大率と前記画像左右シフト量とから前記描画エリアを指定する請求項6に記載の模型自動車等用リモートコントロールシステム。
【請求項8】
前記センサー情報は、前記走行体に搭載の車速センサーからの車速値と、バッテリーの電圧値とを含む請求項5に記載の模型自動車等用リモートコントロールシステム。
【請求項1】
ネットワークを介して受信する模型自動車等の走行体のカメラからの画像のモニタ表示を見ながら前記走行体を遠隔制御可能にするための前記モニタへの前記受信画像の表示を行なうオペレーションマシンにおいて、
前記受信画像の前記モニタへの描画は予め定められた描画タイミング間隔で行ない、且つ、前記描画画像は、前記受信画像を遅れ処理した予測画像とすることを特徴とするゆらぎ補正による画像表示方法。
【請求項2】
前記遅れ処理した予測画像は、前記描画タイミング時のシステム時刻から、そのとき受信している画像情報に付加されているタイムスタンプを差し引いた遅れ予測時間経過後の擬似的画像である請求項1に記載のゆらぎ補正による画像表示方法。
【請求項3】
前記遅れ予測画像は、前記受信画像を、前記遅れ予測時間と車速、操舵角度、バッテリー電圧値等のセンサー情報に基いて画像処理するものである請求項1に記載のゆらぎ補正による画像表示方法。
【請求項4】
前記画像処理は、前記センサー情報に基いて前記受信画像をズームし及び/又は左右にシフトするものである請求項3に記載のゆらぎ補正による画像表示方法。
【請求項5】
模型自動車等の走行体からの画像情報に基づいて前記走行体を遠隔制御するためのオペレーションマシンを備えた模型自動車等用リモートコントロールシステムであって、
前記オペレーションマシンは、
前記走行体の車載カメラからの画像情報とセンサー情報とを受信する画像描画用情報受信手段と、
前記受信した画像描画用情報内の画像データを伸張する画像伸張手段と、
前記伸張した画像データを、受信した前記センサー情報に基づいて加工する画像加工手段と、
コントローラによって入力された操作入力値を前記走行体に対する制御情報へ変換処理する操作入力手段と、
前記操作入力手段によって生成された制御情報を前記走行体へ送信する制御情報送信手段とを備え、
前記走行体は、
前記車載カメラの画像に内部時計の時刻をタイムスタンプとして付加し、前記オペレーションマシンへ送信する画像情報として画像圧縮する画像圧縮手段と、
前記車速センサーからの車速及びバッテリーからのバッテリー電圧値を、前記オペレーションマシンへ送信するセンサー情報として取り込むセンサー取込手段と、
前記画像情報と前記センサー情報とを画像描画用情報として前記オペレーションマシンへ送信する画像描画用情報送信手段と、
前記オペレーションマシンから前記制御情報を受信する制御情報受信手段と、
受信した前記制御情報に基づいてサーボ及びモータを制御する制御処理手段、
とを備えることを特徴とする模型自動車等用リモートコントロールシステム。
【請求項6】
前記画像加工手段は、前記伸張された画像データを、受信した前記センサー情報に基づいて、出力するタイミング及び表示させる画像の描画エリアを調整する請求項5に記載の模型自動車等用リモートコントロールシステム。
【請求項7】
前記画像加工手段は、前記伸張された画像データに格納されたタイムスタンプの時刻を現在のシステム時刻から差し引いた描画遅れ時間を算出し、前記描画遅れ時間と車速から画像拡大率を算出すると共に、前記描画遅れ時間と操舵位置から画像左右シフト量を算出し、前記画像拡大率と前記画像左右シフト量とから前記描画エリアを指定する請求項6に記載の模型自動車等用リモートコントロールシステム。
【請求項8】
前記センサー情報は、前記走行体に搭載の車速センサーからの車速値と、バッテリーの電圧値とを含む請求項5に記載の模型自動車等用リモートコントロールシステム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2006−279648(P2006−279648A)
【公開日】平成18年10月12日(2006.10.12)
【国際特許分類】
【出願番号】特願2005−96938(P2005−96938)
【出願日】平成17年3月30日(2005.3.30)
【出願人】(301022471)独立行政法人情報通信研究機構 (1,071)
【出願人】(592259060)サンリツオートメイション株式会社 (3)
【Fターム(参考)】
【公開日】平成18年10月12日(2006.10.12)
【国際特許分類】
【出願日】平成17年3月30日(2005.3.30)
【出願人】(301022471)独立行政法人情報通信研究機構 (1,071)
【出願人】(592259060)サンリツオートメイション株式会社 (3)
【Fターム(参考)】
[ Back to top ]