携帯端末及び処理装置の操作方法
【課題】画像形成装置などの処理装置を直感的に操作することができる携帯端末及び処理装置の操作方法の提供。
【解決手段】表示部を備える携帯端末であって、自端末の位置を特定する位置特定部と、自端末の方向を特定する方向特定部と、予め記憶した1又は複数の処理装置の位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定し、当該所定の処理装置を遠隔操作するための操作画面を前記表示部に表示させる制御部と、を備えるものであり、更に、自端末の前記特定の方向を撮像する撮像部を備え、前記制御部は、前記撮像部が撮像した映像に、前記操作画面を合成する。
【解決手段】表示部を備える携帯端末であって、自端末の位置を特定する位置特定部と、自端末の方向を特定する方向特定部と、予め記憶した1又は複数の処理装置の位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定し、当該所定の処理装置を遠隔操作するための操作画面を前記表示部に表示させる制御部と、を備えるものであり、更に、自端末の前記特定の方向を撮像する撮像部を備え、前記制御部は、前記撮像部が撮像した映像に、前記操作画面を合成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、携帯端末及び処理装置の操作方法に関し、特に、位置及び方向を特定する機能を備えた携帯端末及び当該携帯端末を用いた処理装置の操作方法に関する。
【背景技術】
【0002】
コピー機能やプリント機能、スキャン機能などを備えた画像形成装置(MFP:Multi Function Peripheral)が普及しており、会社等では、複数の画像形成装置をネットワークに接続して、ユーザが選択した画像形成装置から印刷物を出力している。
【0003】
このようなシステムにおいて、ユーザが処理を行う画像形成装置が他のユーザに使用されている場合には、他のユーザのジョブが終了するまで処理が待たされることになる。そのため、どの画像形成装置がジョブの処理中であるかを確認する必要があるが、従来は、ユーザが画像形成装置のパネルが見える場所まで移動してパネルの表示を確認しなければならず、また、画像形成装置の機能を選択したり、処理を行うファイルを選択したり、処理の条件を設定したりするためには、ユーザが画像形成装置に赴いてパネルを操作しなければならなかった。
【0004】
このような煩雑さを解消する方法として、PageScope WebConnectionのようにWEBブラウザを使用してリモートで画像形成装置の状態確認や操作を行う方法もあるが、この方法では、接続URL(Uniform Resource Locator)として画像形成装置のIP(Internet Protocol)アドレスが必要であり、複数の画像形成装置の状態を一度に知りたい場合などは、一つ一つの画像形成装置にアクセスして見て回る必要があり、簡便に画像形成装置の状態確認や操作を行うことができない。
【0005】
また、別の方法として、下記特許文献1では、サーバ装置と無線を介して通信可能な携帯端末装置から送信されたデータに基づいて画像形成装置により画像を形成する画像形成処理システムであって、前記サーバ装置は、前記携帯端末装置からの要求に応じて、当該携帯端末装置の近辺に存在するネットワーク上の画像形成装置を検索する検索手段と、前記検索手段により見つけられた画像形成装置の所在位置を示した地図画像を表示するための前記携帯端末により閲覧可能なデータを生成する生成手段と、前記生成手段により生成されたデータを識別するための識別情報を前記携帯端末に対して通知する通知手段と、前記識別情報が示すデータへのアクセス要求に対応して、前記生成手段により生成されたデータを前記携帯端末装置に向けて送信する送信手段とを有し、前記地図画像の中で示されている画像形成装置の中から前記携帯端末装置において指定された画像形成装置により画像が形成される画像形成処理システムを開示している。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2004−2342189号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記特許文献1の方法は、携帯端末に画像形成装置の所在位置を示した地図画像を表示する方法であり、データを送信する携帯端末とその周囲の画像形成装置との位置関係を把握することは可能であるが、この方法では、携帯端末と画像形成装置の位置関係を2次元の地図上で把握しなければならないため、画像形成装置がどの方向にあるのかが分かりづらく、また、地図上に表示できる情報に限定されるため、画像形成装置の状態確認や操作を行いにくいという問題もあった。
【0008】
本発明は、上記問題点に鑑みてなされたものであって、その主たる目的は、画像形成装置などの処理装置を直感的に操作することができる携帯端末及び処理装置の操作方法を提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するため、本発明は、表示部を備える携帯端末であって、自端末の位置を特定する位置特定部と、自端末の方向を特定する方向特定部と、予め記憶した1又は複数の処理装置の位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定し、当該所定の処理装置を遠隔操作するための操作画面を前記表示部に表示させる制御部と、を備えるものである。
【0010】
また、本発明は、表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、前記携帯端末が、自端末の位置を特定し、前記サーバに自端末の位置情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内に存在する処理装置を特定して前記携帯端末に通知し、前記携帯端末が、自端末の方向を特定し、前記所定の距離範囲内に存在する処理装置の中から、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行するものである。
【0011】
また、本発明は、表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、前記携帯端末が、自端末の位置及び方向を特定し、前記サーバに自端末の位置情報及び方向情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内、かつ、前記携帯端末の特定の方向に存在する所定の処理装置を特定して前記携帯端末に通知する第2ステップと、前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行するものである。
【0012】
また、本発明は、表示部を備える携帯端末と、1又は複数の処理装置と、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、前記携帯端末が、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、自端末の位置及び方向を特定し、前記装置管理テーブルを参照して、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行するものである。
【発明の効果】
【0013】
本発明の携帯端末及び処理装置の操作方法によれば、画像形成装置などの処理装置を直感的に操作することができる。
【0014】
その理由は、携帯端末の表示部には、携帯端末の周囲、かつ、携帯端末の特定の方向に存在する処理装置に対して、機能を選択したり、ファイルを選択したり、処理条件を設定したりするための操作画面が表示され、その操作画面で処理装置を遠隔操作することができるからである。
【0015】
これにより、ユーザは処理装置の前まで行く必要がなくなり、また、壁の向こう側など物理的に見えない位置に配置された処理装置も操作することができる。また、処理装置のIPアドレスやURLが分からなくても操作が可能になり、操作性を格段に向上させることができる。
【0016】
また、携帯端末の画面上で処理装置を操作することができるため、処理装置のパネルで操作する場合のように、機密文書やパスワード等を横から覗き見られるといったリスクを軽減することもできる。
【図面の簡単な説明】
【0017】
【図1】本発明の第1の実施例に係る制御システムの構成例を示す図である。
【図2】本発明の第1の実施例に係るARサーバの構成を示すブロック図である。
【図3】本発明の第1の実施例に係る携帯端末の構成を示すブロック図である。
【図4】本発明の第1の実施例に係る画像形成装置の構成を示すブロック図である。
【図5】本発明の第1の実施例に係る携帯端末でのAR(拡張現実)アプリケーションのイメージを示す図である。
【図6】本発明の第1の実施例に係る携帯端末に表示される画面(ステータス表示画面)の一例を示す図である。
【図7】本発明の第1の実施例に係る携帯端末に表示される画面(操作画面)の一例を示す図である。
【図8】本発明の第1の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図9】本発明の第1の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図10】本発明の第1の実施例に係る制御システムの動作を示すシーケンス図である。
【図11】本発明の第1の実施例に係る画像形成装置の遠隔操作方法を示すフローチャート図である。
【図12】本発明の第1の実施例に係るARサーバに記憶される装置管理テーブルの一例である。
【図13】電界強度からの位置を特定する方法を示すイメージ図である。
【図14】ステータス情報を合成する位置を算出する方法を示す図である。
【図15】本発明の第2の実施例に係る携帯端末でのAR(拡張現実)アプリケーションのイメージを示す図である。
【図16】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の一例を示す図である。
【図17】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図18】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図19】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図20】本発明の第2の実施例に係るARサーバに記憶されるデータ管理テーブルの一例である。
【図21】本発明の第2の実施例に係る制御システムの動作を示すシーケンス図である。
【発明を実施するための形態】
【0018】
背景技術で示したように、会社等のように複数の画像形成装置がネットワークに接続されているシステムでは、適切な場所に設置された画像形成装置を容易に操作できるようにすることが求められており、地図上に画像形成装置を表示する方法が提案されている。しかしながら、この方法では表示する情報が限定され、また、2次元の地図に表示される画像形成装置が実際にどこにあるのかが分かりづらいという問題がある。
【0019】
そこで、本発明の一実施の形態では、携帯端末の周囲の画像形成装置などの処理装置の内、携帯端末の特定の方向(カメラの画角)に存在する処理装置を特定し、カメラで撮像したライブビュー映像に、特定した処理装置を操作するための操作画面を合成して表示して、直感的に処理装置を遠隔操作できるようにする。
【0020】
なお、セカイカメラのように、利用者が位置データと紐づけてアップロードした情報をスマートフォンのカメラを通した映像に合成して表示する拡張現実技術は存在するが、本発明のように、処理装置の状態をリアルタイムに表示したり、処理装置の操作を行ったりするものは存在しない。
【実施例1】
【0021】
上記した本発明の実施の形態についてさらに詳細に説明すべく、本発明の第1の実施例に係る携帯端末及び処理装置の操作方法について、図1乃至図14を参照して説明する。図1は、本実施例の制御システムの構成例を示す図であり、図2乃至図4は、各々、ARサーバ、携帯端末、画像形成装置の構成を示すブロック図である。また、図5は、携帯端末での拡張現実アプリケーションのイメージを示す図であり、図6乃至図9は、携帯端末に表示される画面の一例を示す図である。また、図10は、本実施例の制御システムの動作を示すシーケンス図であり、図11は、本実施例の画像形成装置の遠隔操作方法を示すフローチャート図である。また、図12は、ARサーバに記憶される装置管理テーブルの一例、図13は、電界強度からの携帯端末の位置を特定する方法を示すイメージ図であり、図14は、ステータス情報を合成する位置を算出する方法を示す図である。
【0022】
図1に示すように、本実施例の制御システム10は、拡張現実(AR:augmented reality)サーバ20と、スマートフォンや携帯電話機、PDA(Personal Digital Assistants)などの携帯端末30と、携帯端末30により遠隔操作される処理装置(本実施例では、MFPなどの画像形成装置40とする。)とで構成され、これらは、LAN(Local Area Network)やWAN(Wide Area Network)などのネットワークに接続(携帯端末30は、無線ルータや無線基地局を介してネットワークに接続)されている。以下、各装置の構成について詳細に説明する。
【0023】
[ARサーバ]
図2に示すように、ARサーバ20は、制御部21、記憶部22、通信I/F部23などで構成される。
【0024】
制御部21は、CPU(Central Processing Unit)とRAM(Random Access Memory)やROM(Read Only Memory)などのメモリとで構成され、ARサーバ20全体を制御する。また、制御部21は、画像形成装置40から当該装置の状態を示す情報(ステータス情報と呼ぶ。)及び当該装置で実行可能な機能や設定可能な条件などの情報(機能情報と呼ぶ。)を取得すると共に、携帯端末30から位置情報を取得し、携帯端末30の周囲(携帯端末30から所定の距離範囲内)に存在する画像形成装置40を特定して、その画像形成装置40のリスト(周辺MFPリストと呼ぶ。)やステータス情報及び機能情報(これらを総称して装置情報と呼ぶ。)などを携帯端末30に送信する装置情報処理部21aと、携帯端末30から指示情報を取得し、その指示情報に従って画像形成装置40に指示された機能を実行させる装置制御部21bとしても機能する。
【0025】
記憶部22は、HDD(Hard Disk Drive)などで構成され、後述する装置管理テーブル、各画像形成装置40に対するユーザの操作権限、PCL(Printer Control Language)やPS(Post Script)などのPDL(Page Description Language)で記述した実データなどを保存する。
【0026】
通信I/F部23は、NIC(Network Interface Card)やモデムなどのインターフェースであり、イーサネット(登録商標)などの規格に基づいて、携帯端末30や画像形成装置40との通信を行う。
【0027】
[携帯端末]
図3に示すように、携帯端末30は、制御部31、記憶部32、通信I/F部33、表示部34、操作部35、位置特定部36、方向特定部37、撮像部38などで構成される。
【0028】
制御部31は、CPUとRAMやROMなどのメモリとで構成され、携帯端末30全体を制御する。また、制御部31は、ARサーバ20に自端末の位置情報を送信し、ARサーバ20から自端末の周囲の画像形成装置40の周辺MFPリストを取得すると共に、画像形成装置40の装置情報(ステータス情報及び機能情報)を取得する装置情報取得部31aと、周辺MFPリストの中から遠隔操作を行う画像形成装置40を特定すると共に、ステータス情報を表示部34に表示(若しくは撮像画面に合成)して画像形成装置40の状態を確認できるようにし、機能情報に基づいて作成した操作画面を表示部34に表示(若しくは撮像画面に合成)し、画像形成装置40を遠隔操作できるようにする装置管理部31bとしても機能する。なお、上記装置情報取得部31aや装置管理部31bとしての機能はハードウェアとして実現してもよいし、制御部31を装置情報取得部31aや装置管理部31bとして機能させるプログラム(ARアプリケーションと呼ぶ。)として実現してもよい。
【0029】
記憶部32は、HDDなどで構成され、ARサーバ20から取得した周辺MFPリストや装置情報、画像形成装置40に処理させる電子データなどを保存する。
【0030】
通信I/F部33は、NICやモデムなどのインターフェースであり、無線ルータや無線基地局を介してネットワークに接続し、ARサーバ20や画像形成装置40との通信を行う。
【0031】
表示部34は、LCD(Liquid Crystal Display)や有機EL(electroluminescence)ディスプレイなどであり、ステータス情報に基づく画面(後述するステータス表示画面)や機能情報に基づく画面(後述する操作画面)などを表示する。
【0032】
操作部35は、ハードキーや表示部34上のタッチパネルであり、表示されているステータス表示画面や操作画面に対する操作を受け付け、画像形成装置40に対する各種指示を可能にする。
【0033】
位置特定部36は、GPS(Global Positioning System)を使用して自端末の位置(座標)を特定する。また、方向特定部37は、ジャイロと加速度センサを組み合わせた自立測位技術を用いて、自端末の方向を特定する。なお、位置が特定されている画像形成装置40が電磁波(無線LANやWi-Fi(Wireless Fidelity)、Bluetoothなどの規格で定められる電波)を発信しており、携帯端末30が、その電磁波を受信可能な場合は、図13に示すように、携帯端末30が複数(好ましくは3以上)の画像形成装置40から発信される電磁波の電界強度を測定し、その電界強度の値に基づいて、複数の画像形成装置40に対する自端末の位置(座標)や方向を特定してもよい。また、撮像部38で撮像した画像を解析し、色や形状、模様等を画像認識して画像形成装置40を特定し、その画像形成装置の位置から自端末の位置や方向を特定してもよい。また、画像形成装置40に貼り付けたQRコードのようなバーコード等を画像認識したり、RFID(Radio Frequency Identification)等のタグを認識して画像形成装置40を特定し、その画像形成装置の位置から自端末の位置や方向を特定してもよい。
【0034】
撮像部38は、CCD(Charge Coupled Devices)カメラやCMOS(Complementary Metal Oxide Semiconductor)カメラなどであり、画像形成装置40などを撮像してライブビュー映像を取得する。
【0035】
なお、図3では、携帯端末30に撮像部38を設けているが、撮像部38で撮像したライブビュー映像にステータス表示画面や操作画面を合成する必要がない場合は、撮像部38を省略することもできる。
【0036】
[画像形成装置]
図4に示すように、画像形成装置40は、制御部41、記憶部42、通信I/F部43、表示部44、操作部45、スキャナ部46、印刷部47などで構成される。
【0037】
制御部41は、CPUとRAMやROMなどのメモリとで構成され、画像形成装置40全体を制御する。また、制御部41は、PCLやPDLで記述した実データを解析するデータ解析部、解析結果に基づいて実データをラスタライズ(ビットマップ展開)してイメージデータを生成する画像処理部としても機能する。
【0038】
記憶部42は、HDDなどで構成され、実データやイメージデータ、各種設定情報などを保存する。
【0039】
通信I/F部43は、NICやモデムなどのインターフェースであり、イーサネット(登録商標)などの規格に基づいて、ARサーバ20や携帯端末30との通信を行う。
【0040】
表示部44は、LCDや有機ELディスプレイなどであり、コピーやスキャン、印刷、FAXなどの機能を実現するための各種画面を表示する。
【0041】
操作部45は、ハードキーや表示部44上のタッチパネルであり、コピーやスキャン、印刷、FAXなどの機能に対する各種指示を行う。
【0042】
スキャナ部46は、原稿台上の原稿用紙から画像データを光学的に読み取る部分であり、原稿を走査する光源と、原稿で反射された光を電気信号に変換するCCD等のイメージセンサと、電気信号をA/D変換するA/D変換器等により構成される。
【0043】
印刷部47は、イメージデータを用紙に転写する。具体的には、帯電装置により帯電された感光体ドラムに露光装置から画像に応じた光を照射して静電潜像を形成し、現像装置で帯電したトナーを付着させて現像し、そのトナー像を転写ベルトに1次転写し、転写ベルトから紙媒体に2次転写し、更に定着装置で紙媒体にトナー像を定着させる処理を行う。また、必要に応じて、折りや製本、ステープルなどの処理を行う。
【0044】
なお、本実施例では、ARサーバ20の制御部21が携帯端末30の周囲の画像形成装置40を特定する構成とするが、画像形成装置40の位置情報を携帯端末30に記憶しておき、携帯端末30の制御部31が、自端末の周囲かつ特定の方向に存在する画像形成装置40を特定する構成としてもよい。また、本実施例では、ARサーバ20が画像形成装置40からステータス情報や機能情報を取得する構成とするが、携帯端末30が画像形成装置40から直接これらの情報を取得する構成としてもよい。また、本実施例では、ARサーバ20が画像形成装置40に処理を指示する構成とするが、携帯端末30が画像形成装置40に直接、処理を指示する構成としてもよい。このように、携帯端末30にARサーバ20の制御部21の機能を備えている場合は、ARサーバ20を省略することもできる。また、本実施例では、画像形成装置40を制御する構成とするが、コンピュータ装置など、携帯端末30で遠隔操作が可能な任意の装置を同様に制御することができる。
【0045】
次に、上記構成の制御システム10の基本動作について、図10のシーケンス図を参照して説明する。なお、以下の説明において、各画像形成装置40に関する情報(ネットワーク上の登録名称や製品名、IPアドレス、接続ポート、SSL(Secure Socket Layer)通信の可否など)と各画像形成装置40の位置情報(緯度、経度、高度など)は、図12に示す装置管理テーブルとして予めARサーバ20の記憶部22などに記憶されているものとする。この装置管理テーブルの位置情報はユーザが登録してもよいし、画像形成装置40にGPS等の位置特定機能が搭載されている場合は、画像形成装置40から送信される位置情報を使用して登録してもよいし、画像形成装置40の近傍に携帯端末30を持って行き、携帯端末30から送信される位置情報を使用して登録してもよい。
【0046】
ARサーバ20は、ネットワークに接続されている画像形成装置40に定期的にアクセス(若しくは、画像形成装置40側が定期的にARサーバ20にアクセス)して、各画像形成装置40の装置情報(ステータス情報及び機能情報)を取得し、記憶部22等に記憶する。なお、アクセス間隔は任意であるが、画像形成装置40の状態は時々刻々変化するため、携帯端末30がARアプリケーションを起動した後は、アクセス間隔を短くすることが望ましい。また、ここではステータス情報及び機能情報を定期的に取得する構成とするが、機能情報が変化しない場合は、予め機能情報を取得しておき、ステータス情報のみを定期的に取得する構成としてもよい。
【0047】
次に、ユーザが携帯端末30の操作部35を操作してARアプリケーションの起動を指示すると、制御部31は、ARアプリケーションを起動し、表示部34にログイン画面を表示する。そして、ユーザがIDやパスワードを入力し、ログインボタンを押下すると、制御部31は、ARサーバ20にログインを通知し、ARサーバ20は認証処理を行い、その結果を携帯端末30に通知する。認証結果がOKの場合は、制御部31は、撮像部38を起動して撮像を開始し、ライブビュー映像を表示部34に表示する。
【0048】
次に、携帯端末30の位置特定部36は、自端末の位置を特定し、装置情報取得部31aは、特定した位置情報をARサーバ20に送信する。例えば、画像形成装置40が発信する電磁波の電界強度を用いて位置を特定する場合において、図13に示すように、装置A、B、Cの3つの画像形成装置40が各々、図の同心円で示す領域に電界強度1〜3で電磁波を発信しており、装置Aの電界強度が「1」、装置B及び装置Cの電界強度が「2」の場合は、携帯端末30は図の網掛け領域に存在することから、各画像形成装置40の位置(座標)に基づいて、自端末の位置(座標)を特定する。
【0049】
ARサーバ20の装置情報処理部21aは、携帯端末30から位置情報を取得すると、予め記憶部22などに記憶した装置管理テーブルを参照して、携帯端末30の周囲(携帯端末30からの距離が所定範囲内)に存在する画像形成装置40を抽出し、抽出した画像形成装置40のリスト(周辺MFPリスト)及びその画像形成装置40のステータス情報を携帯端末30に送信する。携帯端末30の装置情報取得部31aは、受信した周辺MFPリスト及びステータス情報を記憶部32などに記憶する。
【0050】
次に、携帯端末30の位置特定部36及び方向特定部37は、自端末の位置及び方向を特定し、装置管理部31bは、周辺MFPリストの画像形成装置40の内、携帯端末30の周囲かつ特定の方向に存在する画像形成装置40を特定する。なお、ここでは、ARサーバ20から周辺MFPリストを取得し、その中から自端末の周囲かつ特定の方向に存在する画像形成装置40を特定する構成とするが、ARサーバ20に自端末の位置情報及び方向情報を送信し、ARサーバ20が携帯端末30の周囲かつ特定の方向に存在する画像形成装置40を特定してもよい。また、ここでは周辺MFPリストを取得した後に、再度、位置特定部36を用いて自端末の位置を特定しているが、携帯端末30の位置を動かさない(方向のみを回転させる)場合は、方向特定部37を用いて自端末の方向のみを特定すればよい。
【0051】
そして、装置管理部31bは、自端末の位置及び方向と画像形成装置40の位置情報と撮像部38の画角などに基づいて、特定した画像形成装置40のライブビュー映像上の位置を算出し、その位置に当該画像形成装置40のステータス情報を表示させる。そして、携帯端末30の方向が変化して、その画像形成装置40が特定の方向から外れたらステータス情報の表示を消去し、新たな画像形成装置40が特定の方向に入ったら、その画像形成装置40のステータス情報を表示する動作を繰り返す。すなわち、携帯端末30を360度回転させると、特定の方向に存在する画像形成装置40のステータス情報が順次表示されることになる。
【0052】
このステータス情報の表示形態は特に限定されず、ステータス情報を単独で表示してもよいし、撮像部38で画像形成装置40を撮像している場合は、その画像形成装置40のライブビュー映像上にステータス情報を合成して表示してもよい。図5は、携帯端末30で周辺を撮像している様子を示す図であり、表示部34に撮像部38で撮像しているライブビュー映像が表示されると共に、必要に応じて、ネットワークに接続されている画像形成装置40の配置や携帯端末30の周辺の範囲を図示した枠などが表示される。また、図6は、画像形成装置40を撮像している時の携帯端末30の表示部34を拡大した図(主要構成のみ)であり、撮像部38で撮像している画像形成装置40の画像には、ステータス情報(当該画像形成装置40がジョブ待ちの状態であることを示す「待機中」の文字やジョブの実行中であることを示す「印刷中」の文字など)を枠で囲んだ画面(ステータス表示画面と呼ぶ。)が合成される。このように、画像形成装置40のライブビュー映像にステータス情報を合成して表示することにより、画像形成装置40の状態を直感的に把握することができる。
【0053】
なお、ステータス情報は上記に限らず、残ジョブ数やジョブ終了予測時時刻等を表示したり、ジョブを登録したユーザ情報等の詳細情報を表示したりしてもよい。また、エラー状態やエラーからのリカバリ方法や操作手順を示すガイダンスなどを表示してもよい。また、上記ステータス情報の表示に際して、画像形成装置40と携帯端末30の距離により、遠近法に従ってステータス情報の表示サイズを変えたり、装置の状態や残ジョブ数によって、表示の色、透明度、大きさ、アニメーション効果等を変えたり、ユーザ権限やシステム設定等によって表示する項目を変えたりしてもよい。また、デバイス毎にステータスを表示するのではなく、ジョブ毎にステータスを表示して、ジョブ実行中止、削除、再実行等のジョブ制御が行えるようにしてもよい。
【0054】
また、図6の構成の表示形態において、ステータス情報が画像形成装置40の画像上に表示されるようにするためには、ステータス情報の配置位置のx座標と画面上の画像形成装置40の中心のx座標とが一致するようにすればよい。この画像形成装置40のx座標は、図14(a)に示すように、携帯端末30の画面表示サイズ(X方向のサイズ)をwkし、図14(b)に示すように、携帯端末30の特定方向(ここでは上方向)を基準方向とした場合の時計回りの画像形成装置40の向きをαm、カメラの水平方向への画角(正確には表示可能な範囲の撮影範囲角度)をαr、基準方向からの携帯端末30の向き(カメラの撮像範囲角度(αr)の中心)をαcとすると、
x=wk×(αm−(αc−αr/2))/αr
となる。
【0055】
また、図14(c)に示すように、上記αmは、携帯端末30の座標を(xk、yk)とし、画像形成装置40の座標を(xm、ym)とすると、
αm=180−(tan−1((ym−yk)/(xm−xk))×(360/2π))
となる。
【0056】
従って、上記式に従ってxを求め、ステータス情報の表示位置のx座標をこの値に設定すれば、画像形成装置40の画像の中心にステータス情報を合成することができる。
【0057】
ここで、ステータス情報により画像形成装置40が待機中であることが分かれば、その画像形成装置40を用いた処理が可能であることから、以下の手順に従って画像形成装置40を遠隔操作できるようにする。
【0058】
具体的には、ユーザが所定の操作(例えば、ステータス表示画面の領域をタッチしたり、携帯端末30の特定の操作ボタンを押下したり、画像形成装置40の操作パネルに相当する位置を押下する等の操作)を行うと、携帯端末30の制御部31は、必要に応じて、ARサーバ20にログインユーザの操作権限を確認する。ARサーバ20の操作部21は、ログインユーザの操作権限を記憶部22などから取得し、携帯端末30に送信する。
【0059】
次に、携帯端末30の装置管理部31bは、ARサーバ20から、その画像形成装置40の機能情報を取得し、機能情報及び必要に応じてユーザ権限に応じた操作画面を作成し、表示部34に表示する。例えば、図7に示すように、ライブビュー映像上に、ログインユーザがその画像形成装置40に対して実行可能な機能(ここでは、コピー、スキャン、プリント、Fax、MFP管理)を指示する操作画面(この場合は機能選択画面)を合成し、画像形成装置40を遠隔操作できるようにする。
【0060】
上記機能選択画面の構成は任意であり、例えば、画像形成装置40の表示部44に表示される操作画面と同じ構成としてもよいし、画像形成装置40に備える全ての機能を表示し、ログインユーザが実行できない機能は選択できないように(例えば、グレー表示)してもよい。また、ここでは、遠隔操作を行う画像形成装置40のライブビュー映像に機能選択画面を合成しているが、ステータス表示画面の領域をタッチするなどの操作によって画像形成装置40を特定した後は、画像形成装置40のライブビュー映像と機能選択画面とは必ずしも対応させて表示する必要はないため、機能選択画面のみを表示してもよいし、任意のライブビュー映像(例えば、当該画像形成装置40を撮像していないライブビュー映像)に機能選択画面を合成してもよい。
【0061】
そして、ユーザが操作画面(機能選択画面)で所定の機能(ここではプリント機能)を選択すると、携帯端末30の装置管理部31bは、ファイルの保存場所の一覧(例えば、ARサーバ20と携帯端末30と画像形成装置40)を表示し、その中から所望の保存場所(例えば、携帯端末30の記憶部32)を選択すると、その保存場所に予め記憶されたファイルの一覧を取得し、ファイルを選択するための操作画面を作成して表示部34に表示する。例えば、図8に示すように、ライブビュー映像上に、ファイル名とファイルの属性を記述した操作画面(この場合はファイル選択画面)を合成し、画像形成装置40にプリントさせるファイルの選択を遠隔操作できるようにする。
【0062】
上記ファイル選択画面の構成も任意であり、例えば、記憶部に記憶された全てのファイルを表示してもよいし、所定の属性のファイルのみを表示してもよいし、ログインユーザが作成したファイルやログインユーザが使用する権限を有するファイルのみを表示してもよい。また、ここでも、遠隔操作を行う画像形成装置40のライブビュー映像にファイル選択画面を合成しているが、画像形成装置40を特定した後は、ライブビュー映像とファイル選択画面とは必ずしも対応させて表示する必要はないため、ファイル選択画面のみを表示してもよいし、任意のライブビュー映像にファイル選択画面を合成してもよい。
【0063】
次に、ユーザが操作画面(ファイル選択画面)でファイルを選択すると、携帯端末30の装置管理部31bは、機能情報に応じた操作画面を作成し、表示部34に表示する。例えば、図9に示すように、ライブビュー映像上に、選択した機能に対する条件(ここでは、部数やカラー、用紙サイズ、ページ指定など)を設定する操作画面(この場合は条件設定画面)を合成し、選択した機能に対する条件設定を遠隔操作できるようにする。
【0064】
上記条件設定画面の構成も任意であり、例えば、画像形成装置40の表示部44に表示される操作画面と同じ構成としてもよいし、選択した機能に対して設定可能な全ての条件を表示し、ログインユーザが設定できない項目はグレー表示してもよい。また、ここでも、遠隔操作を行う画像形成装置40のライブビュー映像に条件設定画面を合成しているが、画像形成装置40を特定した後は、ライブビュー映像と条件設定画面とは必ずしも対応させて表示する必要はないため、条件設定画面のみを表示してもよいし、任意のライブビュー映像に条件設定画面を合成してもよい。
【0065】
そして、条件設定画面でプリント条件を設定した後、OKボタンを押下すると、携帯端末30の装置管理部31bは、選択されたファイル、選択された機能及び設定情報をARサーバ20に送信する。具体的には、機能選択画面やファイル選択画面、条件設定画面の表示部34上の位置を予め記憶しておき、ユーザが画面上でタッチした位置に対応する機能、ファイル、条件を特定して指示情報を作成し、その指示情報をARサーバ20に送信する。ARサーバ20では、選択されたファイルからPCLファイルを生成して画像形成装置40に転送し、画像形成装置40は、PCLファイルに基づいて印刷処理を実行する。また、携帯端末30の装置管理部31bは、PCLファイルが画像形成装置40に転送されたら、印刷受付完了画面を表示部34に表示する。
【0066】
その後、ユーザがARアプリケーションの終了を指示すると、携帯端末30の制御部31は、ARサーバ20のログアウトを通知し、ARサーバ20は、ログアウト処理を実行すると共に、制御対象となる画像形成装置40の装置情報取得間隔を元に戻し、携帯端末30の制御部31は、ARアプリケーションを終了する。
【0067】
なお、上記説明では、ステータス表示画面を表示した後、操作画面(機能選択画面やファイル選択画面、条件設定画面など)を表示する構成としたが、ステータス表示画面の表示は省略することもできる。その場合は、撮像部38で画像形成装置40を撮像したら、自動的に機能選択画面を表示したり、撮像部38で画像形成装置40を撮像した状態で所定の操作を行ったら、機能選択画面を表示したりする。また、携帯端末30の方向が変化して、その画像形成装置40が特定の方向から外れたら機能選択画面の表示を消去し、新たな画像形成装置40が特定の方向に入ったら、その画像形成装置40の機能選択画面を表示する動作を繰り返す。
【0068】
また、上記説明では、操作画面として、機能選択画面、ファイル選択画面、条件設定画面の3つの画面が表示される構成としたが、画像形成装置40を操作するための画面が1つ以上、表示されればよい。例えば、コピーの場合はファイル選択画面を省略することができるし、スキャンの場合はファイル選択画面に代えてスキャン画像の保存先を指定する画面を表示することができる。
【0069】
次に、携帯端末30に表示される画面を用いて画像形成装置40を遠隔操作する方法について、図11のフローチャート図を参照して詳細に説明する。なお、図11の実線の枠は携帯端末30の動作を示し、破線の枠はARサーバ20若しくは画像形成装置40の動作を示している。
【0070】
まず、携帯端末30の表示部34に表示されているライブビュー映像に画像形成装置40のステータス情報を合成して表示する。そして、ユーザがステータス情報の表示領域(ステータス表示画面)を押下すると(S101)、携帯端末30の装置情報取得部31aは、ARサーバ20にアクセスして、ARサーバ20からログインユーザの操作権限(コピー、プリント、スキャン、Fax送信、管理機能等の機能毎の操作権限)を取得する(S102)。なお、この操作権限は、利用回数や利用時間帯等の制限を付加してもよいし、画像形成装置40毎に設定できるようにしてもよい。
【0071】
次に、携帯端末30の装置情報取得部31aは、ARサーバ20から、その画像形成装置40の機能情報(各機能の実行可否、各機能の設定可能値など)を取得し(S103)、装置管理部31bは、ログインユーザの操作権限及び画像形成装置40の機能情報に応じて、表示部34に、図7に示すような機能選択画面を表示させる(S104)。なお、各機能の設定可能値とは、例えば、印刷機能におけるカラー、n in 1、両面、パンチ・ステープル等の可否、スキャン機能におけるカラー、解像度等可否、コピー機能におけるカラー、n in 1、両面、パンチ・ステープル等の可否、Fax送信機能におけるFax送信可否などである。
【0072】
そして、装置管理部31bは、機能選択画面のどの機能が押下されたかを判断し(S105)、押下された機能に応じた処理を実行する。ここでは、コピーとスキャンとプリントの各機能が選択された場合について例示する。
【0073】
まず、機能選択画面でコピーのボタンが押下された場合は、装置管理部31bは、画像形成装置40の機能情報に基づいて、表示部34にコピー設定選択画面を表示させる(S106)。そして、ユーザがコピー設定を選択し(S107)、スタートボタンを押下したら(S108)、装置管理部31bは、コピー設定情報をARサーバ20に送信し(S109)、ARサーバ20は、そのコピー設定情報に従って画像形成装置40にコピーの実行を指示し(S110)、画像形成装置40は、コピーを実行する(S111)。なお、ここでは携帯端末30からARサーバ20にコピー設定情報を送信し、ARサーバ20が画像形成装置40にコピーの実行を指示する構成としているが、携帯端末30が画像形成装置40と通信する機能を搭載している場合は、ARサーバ20を介することなく、携帯端末30から直接、画像形成装置40にコピーの実行を指示してもよい。
【0074】
また、機能選択画面でスキャンのボタンが押下された場合は、装置管理部31bは、画像形成装置40の機能情報に基づいて、表示部34にスキャン設定選択画面を表示させる(S112)。そして、ユーザがスキャン設定を選択したら(S113)、装置管理部31bは、表示部34にスキャンファイル保存先選択画面を表示させる(S114)。このスキャンファイル保存先選択画面でユーザが保存先を選択し(S115)、スタートボタンを押下したら(S116)、装置管理部31bは、スキャン設定情報及び保存先情報をARサーバ20に送信し(S117)、ARサーバ20は、そのスキャン設定情報及び保存先情報に従って画像形成装置40にリモートスキャンの実行を指示し(S118)、画像形成装置40は、スキャンを実行する(S119)。なお、上記と同様に、携帯端末30が画像形成装置40と通信する機能を搭載している場合は、ARサーバ20を介することなく、携帯端末30から直接、画像形成装置40にリモートスキャンの実行を指示してもよい。
【0075】
保存先のストレージが携帯端末30の場合は、ARサーバ20は画像形成装置40からスキャンデータを取得し(S121)、携帯端末30は、ARサーバ20からスキャンデータを取得し(S122)、取得したスキャンデータを保存する(S123)。保存先のストレージが共有サーバの場合は、ARサーバ20は画像形成装置40からスキャンデータを取得し(S124)、そのスキャンデータを共有サーバに転送する(S125)。保存先のストレージが画像形成装置40の記憶部42の場合は、スキャンデータを記憶部42に保存する(S126)。
【0076】
また、機能選択画面でプリントのボタンが押下された場合は、装置管理部31bは、表示部34にファイル選択画面を表示させる(S127)。そして、ユーザがファイルを選択したら(S128)、装置管理部31bは、画像形成装置40の機能情報に基づいて、表示部34に印刷設定選択画面を表示させる(S129)。そして、ユーザが印刷設定を選択したら(S130)、装置管理部31bは、選択ファイルの保存場所を判断し(S131)、携帯端末30に保存されている場合は、印刷設定情報及び選択ファイルの実データをARサーバ20に送信する(S132)。また、共有サーバに保存されている場合は、装置管理部31bは、印刷設定情報及び選択ファイルのパス情報をARサーバ20に送信し(S133)、ARサーバ20は、そのパス情報に従って共有サーバからファイルを取得する(S134)。その後、ARサーバ20は、PCLファイルを作成して(S135)、画像形成装置40に転送し(S136)、画像形成装置40は、印刷を実行する(S137)。
【0077】
このように、携帯端末30は、画像形成装置40のライブビュー映像にその画像形成装置40のステータス情報を合成して表示した後、機能選択画面やファイル選択画面、印刷設定画面等の操作画面を表示(好ましくはライブビュー映像に操作画面を合成して表示)し、その操作画面で画像形成装置40を遠隔操作できるようにするため、画像形成装置40を直感的に操作することができ、ユーザの利便性を格段に向上させることができる。
【実施例2】
【0078】
次に、本発明の第2の実施例に係る携帯端末及び処理装置の操作方法について、図15乃至図21を参照して説明する。図15は、携帯端末での拡張現実アプリケーションのイメージを示す図であり、図16乃至図19は、携帯端末の表示画面の一例である。また、図20は、本実施例の制御システムの動作を示すシーケンス図であり、図21は、ARサーバに記憶されるデータ管理テーブルの一例である。
【0079】
前記した第1の実施例では、ファイル選択画面を表示してファイルの選択を行う構成としたが、処理装置で処理可能な電子データ(文書データや画像データ、音楽データなど)を保存する際、電子データに位置情報を関連付けることもできる。そこで、本実施例では、撮像部38が撮像している位置に関連付けて登録された電子データを特定する情報(例えば、データアイコン)をライブビュー映像に合成し、操作画面とデータアイコンを利用して、より直感的に画像形成装置40を遠隔操作できるようにする。
【0080】
具体的には、図21に示すように、電子データに関する情報(ファイル又はフォルダの種別、ファイル又はフォルダの名称、拡張子など)と、電子データの保存先に関する情報(サーバ名、ファイルパス、プロトコル、ポート番号など)と、電子データの登録位置(当該電子データを記憶する装置の実在位置でもよいし、任意の空間上の位置でもよい。)に関する情報(緯度、経度、高度など)と、を記述したデータ管理テーブルを作成し、そのデータ管理テーブルをARサーバ20の記憶部22などに記憶しておく。
【0081】
そして、ARサーバ20の装置情報処理部21aは、携帯端末30から位置情報を取得し、このデータ管理テーブルを参照して、携帯端末30の周囲(携帯端末30から所定の距離範囲内)に存在する電子データを特定して、その電子データのリスト(周辺データリストと呼ぶ。)を携帯端末30に送信する制御を行い、装置制御部21bは、携帯端末30から電子データに対する指示情報を取得し、その指示情報に従って画像形成装置40に指示された機能を実行させる制御を行う。
【0082】
また、携帯端末30の装置情報取得部31aは、ARサーバ20に自端末の位置情報を送信し、ARサーバ20から自端末の周囲の電子データのリスト(周辺データリスト)を取得する制御を行い、装置管理部31bは、電子データを特定する情報(データアイコンなど)をライブビュー映像に合成し、その電子データを適切な画像形成装置40で処理できるようにする。
【0083】
なお、本実施例では、ARサーバ20の制御部21が携帯端末30の周囲の電子データを特定する構成とするが、電子データの位置情報を携帯端末30に記憶しておき、携帯端末30の制御部31が、自端末の周囲かつ特定の方向に存在する電子データを特定する構成としてもよく、携帯端末30にARサーバ20の制御部21の機能を備えている場合は、ARサーバ20を省略することもできる。
【0084】
以下、上記構成の制御システム10の動作について、図20のシーケンス図を参照して説明する。なお、以下の説明において、ARサーバ20の記憶部22などには、図12に示す装置管理テーブルと、図21に示すデータ管理テーブルが予め登録されているものとする。
【0085】
ARサーバ20は、ネットワークに接続されている画像形成装置40に定期的にアクセス(若しくは、画像形成装置40側が定期的にARサーバ20にアクセス)して、各画像形成装置40の装置情報(ステータス情報及び機能情報)を取得する。なお、アクセス間隔は任意であるが、画像形成装置40の状態は時々刻々変化するため、携帯端末30がARアプリケーションを起動した後は、アクセス間隔を短くすることが望ましい。また、ここではステータス情報及び機能情報を定期的に取得する構成とするが、機能情報が変化しない場合は、予め機能情報を取得しておき、ステータス情報のみを定期的に取得する構成としてもよい。
【0086】
次に、ユーザが携帯端末30の操作部35を操作してARアプリケーションの起動を指示すると、制御部31は、ARアプリケーションを起動し、表示部34にログイン画面を表示する。そして、ユーザがIDやパスワードを入力し、ログインボタンを押下すると、制御部31は、ARサーバ20にログインを通知し、ARサーバ20は認証処理を行い、その結果を携帯端末30に通知する。認証結果がOKの場合は、制御部31は、撮像部38を起動して撮像を開始し、ライブビュー映像を表示部34に表示する。
【0087】
次に、携帯端末30の位置特定部36は、自端末の位置を特定し、装置情報取得部31aは、特定した位置情報をARサーバ20に送信する。
【0088】
ARサーバ20の装置情報処理部21aは、携帯端末30から位置情報を取得すると、予め記憶部22などに記憶した装置管理テーブルを参照して、携帯端末30の周囲(携帯端末30からの距離が所定範囲内)に存在する画像形成装置40を抽出し、抽出した画像形成装置40のリスト(周辺MFPリスト)及びその画像形成装置40のステータス情報を携帯端末30に送信する。携帯端末30の装置情報取得部31aは、受信した周辺MFPリスト及びステータス情報を記憶部32などに記憶する。
【0089】
また、ARサーバ20は、予め記憶したデータ管理テーブルを参照して、携帯端末30の周囲(携帯端末30からの距離が所定範囲内)に存在する電子データを抽出し、抽出した電子データのリスト(周辺データリスト)を携帯端末30に送信する。携帯端末30の装置情報取得部31aは、受信した周辺データリストを記憶部32などに記憶する。
【0090】
次に、携帯端末30の位置特定部36及び方向特定部37は、自端末の位置及び方向を特定し、装置管理部31bは、周辺MFPリストの画像形成装置40の内、携帯端末30の周囲かつ特定の方向に存在する画像形成装置40を特定する。そして、装置管理部31bは、自端末の位置及び方向と画像形成装置40の位置情報と撮像部38の画角などに基づいて、特定した画像形成装置40のライブビュー映像上の位置を算出し、その位置に当該画像形成装置40のステータス情報を表示させる。
【0091】
また、携帯端末30の装置管理部31bは、周辺データリストの電子データの内、携帯端末30の周囲かつ特定の方向に存在する電子データを特定する。そして、装置管理部31bは、自端末の位置及び方向と電子データの位置情報と撮像部38の画角などに基づいて、特定した電子データのライブビュー映像上の位置を算出し、その位置に当該電子データを特定するデータアイコンなどを表示させる。
【0092】
そして、携帯端末30の方向が変化して、その画像形成装置40や電子データが特定の方向から外れたらステータス情報やデータアイコンの表示を消去し、新たな画像形成装置40や電子データが特定の方向に入ったら、その画像形成装置40のステータス情報やデータアイコンを表示する動作を繰り返す。
【0093】
このステータス情報やデータアイコンの表示形態は特に限定されず、ステータス情報やデータアイコンを単独で表示してもよいし、ライブビュー映像に合成して表示してもよい。図15は、携帯端末30で周辺を撮像している様子を示す図であり、撮像部38で撮像しているライブビュー映像にはデータアイコンが合成されている。なお、データアイコンの表示に際して、電子データと携帯端末30の距離により、遠近法に従ってデータアイコンの表示サイズ、表示の色、透明度、大きさ、アニメーション効果等を変えてもよい。
【0094】
そして、ユーザが所望のデータアイコンを押下するなどによって電子データを選択すると、携帯端末30の装置管理部31bは、その電子データを処理可能な画像形成装置40を抽出し、電子データを選択した状態でユーザが所望の方向の画像形成装置40を撮像すると、位置特定部36及び方向特定部37は、自端末の位置及び方向を特定し、装置管理部31bは、撮像した画像形成装置40のライブビュー映像上の位置を特定し、その位置に当該画像形成装置40を遠隔操作するための操作画面を合成する。
【0095】
図16は、操作画面(ここでは機能指示画面)の一例であり、データアイコンを機能実行画面の枠内にドラッグすることにより、機能指示画面で指示された機能に使用する電子データが選択される。また、図17は、機能指示画面の他の例であり、選択された電子データに対して、撮像している画像形成装置40がプリントとFAXが可能な場合は、2つの機能指示画面を表示し、データアイコンをいずれかの機能指示画面の枠内にドラッグすることにより、プリント又はFAXに使用する電子データが選択される。
【0096】
なお、機能指示画面の構成は任意であり、例えば、第1の実施例と同様に、携帯端末30にログインしたユーザの使用権限に応じて、画像形成装置40に実行させる機能を制限してもよい。また、ここでは、電子データを選択した後、携帯端末30の位置や向きを変えて画像形成装置40を選択する構成としたが、例えば、画像形成装置40を撮像しているライブビュー映像に機能指示画面を合成し、その機能指示画面を選択した後、携帯端末30の位置や向きを変えて電子データを選択するようにしてもよい。また、ここでは、データアイコンを操作画面(機能指示画面)上にドラッグする構成としたが、機能指示画面を表示させた状態でデータアイコンをダブルクリックする構成としてもよいし、操作画面(機能指示画面)をデータアイコン上にドラッグする構成としてもよい。
【0097】
そして、機能指示画面で処理を指示(OKボタンを押下)すると、携帯端末30の装置管理部31bは、選択された電子データを用いた処理を指示する指示情報をARサーバ20に送信し、ARサーバ20では、データアイコンに対応する実データを取得し、実データからPCLファイルを生成して画像形成装置40に転送し、画像形成装置40は、PCLファイルに基づいて処理を実行する。
【0098】
その後、ユーザがARアプリケーションの終了を指示すると、携帯端末30の制御部31は、ARサーバ20のログアウトを通知し、ARサーバ20は、ログアウト処理を実行すると共に、制御対象となる画像形成装置40の装置情報取得間隔を元に戻し、携帯端末30の制御部31は、ARアプリケーションを終了する。
【0099】
なお、上記説明では、操作画面として、機能指示画面を例示したが、第1の実施例と同様に、処理条件を設定する画面などを表示してもよいし、操作画面を表示する前に、ステータス表示画面を表示してもよい。また、上記実施例では、予め位置が登録された電子データを用いて処理を行ったが、例えば、図18に示すように、撮像部38で撮像している処理装置に記憶されているフォルダを表示し、フォルダやそのフォルダに格納されている電子データを選択した後、携帯端末30の位置や向きを変えて画像形成装置40を選択するようにしてもよい。
【0100】
このように、携帯端末30は、データアイコンが合成されたライブビュー映像に、機能指示画面等の操作画面を表示(好ましくはライブビュー映像に操作画面を合成して表示)し、その操作画面で画像形成装置40を遠隔操作できるようにするため、画像形成装置40を直感的に操作することができ、ユーザの利便性を格段に向上させることができる。
【0101】
なお、本発明は上記実施例の記載に限定されるものではなく、本発明の趣旨を逸脱しない限りにおいて、その構成や制御は適宜変更可能である。
【0102】
例えば、上記第2の実施例では、画像形成装置40を撮像すると操作画面が表示されるようにしたが、図19に示すように、電子データを選択すると、その電子データの周辺の画像形成装置40を一覧表示する装置選択画面を表示して、その中から選択した画像形成装置40で処理が実行されるようにしてもよい。
【0103】
また、上記各実施例では、画像形成装置40を遠隔操作する場合について記載したが、コンピュータ装置、プロジェクタ、テレビモニタ、共有サーバ、他の携帯端末など、電子データを処理可能な任意の装置に対しても同様に適用することができる。例えば、プロジェクタやテレビモニタに画像データや文書データのデータアイコンをドラッグすることで映像を表示したり、コンピュータ装置にデータアイコンをドラッグすることで電子データの転送、メール送信、楽曲演奏などの操作を行うようにしてもよい。
【産業上の利用可能性】
【0104】
本発明は、携帯端末及び当該携帯端末を用いて処理装置を遠隔操作する方法に利用可能である。
【符号の説明】
【0105】
10 制御システム
20 ARサーバ
21 制御部
21a 装置情報処理部
21b 装置制御部
22 記憶部
23 通信I/F部
30 携帯端末
31 制御部
31a 装置情報取得部
31b 装置管理部
32 記憶部
33 通信I/F部
34 表示部
35 操作部
36 位置特定部
37 方向特定部
38 撮像部
40 画像形成装置
41a データ解析部
41b 画像処理部
42 記憶部
43 通信I/F部
44 表示部
45 操作部
46 スキャナ部
47 印刷部
【技術分野】
【0001】
本発明は、携帯端末及び処理装置の操作方法に関し、特に、位置及び方向を特定する機能を備えた携帯端末及び当該携帯端末を用いた処理装置の操作方法に関する。
【背景技術】
【0002】
コピー機能やプリント機能、スキャン機能などを備えた画像形成装置(MFP:Multi Function Peripheral)が普及しており、会社等では、複数の画像形成装置をネットワークに接続して、ユーザが選択した画像形成装置から印刷物を出力している。
【0003】
このようなシステムにおいて、ユーザが処理を行う画像形成装置が他のユーザに使用されている場合には、他のユーザのジョブが終了するまで処理が待たされることになる。そのため、どの画像形成装置がジョブの処理中であるかを確認する必要があるが、従来は、ユーザが画像形成装置のパネルが見える場所まで移動してパネルの表示を確認しなければならず、また、画像形成装置の機能を選択したり、処理を行うファイルを選択したり、処理の条件を設定したりするためには、ユーザが画像形成装置に赴いてパネルを操作しなければならなかった。
【0004】
このような煩雑さを解消する方法として、PageScope WebConnectionのようにWEBブラウザを使用してリモートで画像形成装置の状態確認や操作を行う方法もあるが、この方法では、接続URL(Uniform Resource Locator)として画像形成装置のIP(Internet Protocol)アドレスが必要であり、複数の画像形成装置の状態を一度に知りたい場合などは、一つ一つの画像形成装置にアクセスして見て回る必要があり、簡便に画像形成装置の状態確認や操作を行うことができない。
【0005】
また、別の方法として、下記特許文献1では、サーバ装置と無線を介して通信可能な携帯端末装置から送信されたデータに基づいて画像形成装置により画像を形成する画像形成処理システムであって、前記サーバ装置は、前記携帯端末装置からの要求に応じて、当該携帯端末装置の近辺に存在するネットワーク上の画像形成装置を検索する検索手段と、前記検索手段により見つけられた画像形成装置の所在位置を示した地図画像を表示するための前記携帯端末により閲覧可能なデータを生成する生成手段と、前記生成手段により生成されたデータを識別するための識別情報を前記携帯端末に対して通知する通知手段と、前記識別情報が示すデータへのアクセス要求に対応して、前記生成手段により生成されたデータを前記携帯端末装置に向けて送信する送信手段とを有し、前記地図画像の中で示されている画像形成装置の中から前記携帯端末装置において指定された画像形成装置により画像が形成される画像形成処理システムを開示している。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2004−2342189号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記特許文献1の方法は、携帯端末に画像形成装置の所在位置を示した地図画像を表示する方法であり、データを送信する携帯端末とその周囲の画像形成装置との位置関係を把握することは可能であるが、この方法では、携帯端末と画像形成装置の位置関係を2次元の地図上で把握しなければならないため、画像形成装置がどの方向にあるのかが分かりづらく、また、地図上に表示できる情報に限定されるため、画像形成装置の状態確認や操作を行いにくいという問題もあった。
【0008】
本発明は、上記問題点に鑑みてなされたものであって、その主たる目的は、画像形成装置などの処理装置を直感的に操作することができる携帯端末及び処理装置の操作方法を提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するため、本発明は、表示部を備える携帯端末であって、自端末の位置を特定する位置特定部と、自端末の方向を特定する方向特定部と、予め記憶した1又は複数の処理装置の位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定し、当該所定の処理装置を遠隔操作するための操作画面を前記表示部に表示させる制御部と、を備えるものである。
【0010】
また、本発明は、表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、前記携帯端末が、自端末の位置を特定し、前記サーバに自端末の位置情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内に存在する処理装置を特定して前記携帯端末に通知し、前記携帯端末が、自端末の方向を特定し、前記所定の距離範囲内に存在する処理装置の中から、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行するものである。
【0011】
また、本発明は、表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、前記携帯端末が、自端末の位置及び方向を特定し、前記サーバに自端末の位置情報及び方向情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内、かつ、前記携帯端末の特定の方向に存在する所定の処理装置を特定して前記携帯端末に通知する第2ステップと、前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行するものである。
【0012】
また、本発明は、表示部を備える携帯端末と、1又は複数の処理装置と、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、前記携帯端末が、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、自端末の位置及び方向を特定し、前記装置管理テーブルを参照して、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行するものである。
【発明の効果】
【0013】
本発明の携帯端末及び処理装置の操作方法によれば、画像形成装置などの処理装置を直感的に操作することができる。
【0014】
その理由は、携帯端末の表示部には、携帯端末の周囲、かつ、携帯端末の特定の方向に存在する処理装置に対して、機能を選択したり、ファイルを選択したり、処理条件を設定したりするための操作画面が表示され、その操作画面で処理装置を遠隔操作することができるからである。
【0015】
これにより、ユーザは処理装置の前まで行く必要がなくなり、また、壁の向こう側など物理的に見えない位置に配置された処理装置も操作することができる。また、処理装置のIPアドレスやURLが分からなくても操作が可能になり、操作性を格段に向上させることができる。
【0016】
また、携帯端末の画面上で処理装置を操作することができるため、処理装置のパネルで操作する場合のように、機密文書やパスワード等を横から覗き見られるといったリスクを軽減することもできる。
【図面の簡単な説明】
【0017】
【図1】本発明の第1の実施例に係る制御システムの構成例を示す図である。
【図2】本発明の第1の実施例に係るARサーバの構成を示すブロック図である。
【図3】本発明の第1の実施例に係る携帯端末の構成を示すブロック図である。
【図4】本発明の第1の実施例に係る画像形成装置の構成を示すブロック図である。
【図5】本発明の第1の実施例に係る携帯端末でのAR(拡張現実)アプリケーションのイメージを示す図である。
【図6】本発明の第1の実施例に係る携帯端末に表示される画面(ステータス表示画面)の一例を示す図である。
【図7】本発明の第1の実施例に係る携帯端末に表示される画面(操作画面)の一例を示す図である。
【図8】本発明の第1の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図9】本発明の第1の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図10】本発明の第1の実施例に係る制御システムの動作を示すシーケンス図である。
【図11】本発明の第1の実施例に係る画像形成装置の遠隔操作方法を示すフローチャート図である。
【図12】本発明の第1の実施例に係るARサーバに記憶される装置管理テーブルの一例である。
【図13】電界強度からの位置を特定する方法を示すイメージ図である。
【図14】ステータス情報を合成する位置を算出する方法を示す図である。
【図15】本発明の第2の実施例に係る携帯端末でのAR(拡張現実)アプリケーションのイメージを示す図である。
【図16】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の一例を示す図である。
【図17】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図18】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図19】本発明の第2の実施例に係る携帯端末に表示される画面(操作画面)の他の例を示す図である。
【図20】本発明の第2の実施例に係るARサーバに記憶されるデータ管理テーブルの一例である。
【図21】本発明の第2の実施例に係る制御システムの動作を示すシーケンス図である。
【発明を実施するための形態】
【0018】
背景技術で示したように、会社等のように複数の画像形成装置がネットワークに接続されているシステムでは、適切な場所に設置された画像形成装置を容易に操作できるようにすることが求められており、地図上に画像形成装置を表示する方法が提案されている。しかしながら、この方法では表示する情報が限定され、また、2次元の地図に表示される画像形成装置が実際にどこにあるのかが分かりづらいという問題がある。
【0019】
そこで、本発明の一実施の形態では、携帯端末の周囲の画像形成装置などの処理装置の内、携帯端末の特定の方向(カメラの画角)に存在する処理装置を特定し、カメラで撮像したライブビュー映像に、特定した処理装置を操作するための操作画面を合成して表示して、直感的に処理装置を遠隔操作できるようにする。
【0020】
なお、セカイカメラのように、利用者が位置データと紐づけてアップロードした情報をスマートフォンのカメラを通した映像に合成して表示する拡張現実技術は存在するが、本発明のように、処理装置の状態をリアルタイムに表示したり、処理装置の操作を行ったりするものは存在しない。
【実施例1】
【0021】
上記した本発明の実施の形態についてさらに詳細に説明すべく、本発明の第1の実施例に係る携帯端末及び処理装置の操作方法について、図1乃至図14を参照して説明する。図1は、本実施例の制御システムの構成例を示す図であり、図2乃至図4は、各々、ARサーバ、携帯端末、画像形成装置の構成を示すブロック図である。また、図5は、携帯端末での拡張現実アプリケーションのイメージを示す図であり、図6乃至図9は、携帯端末に表示される画面の一例を示す図である。また、図10は、本実施例の制御システムの動作を示すシーケンス図であり、図11は、本実施例の画像形成装置の遠隔操作方法を示すフローチャート図である。また、図12は、ARサーバに記憶される装置管理テーブルの一例、図13は、電界強度からの携帯端末の位置を特定する方法を示すイメージ図であり、図14は、ステータス情報を合成する位置を算出する方法を示す図である。
【0022】
図1に示すように、本実施例の制御システム10は、拡張現実(AR:augmented reality)サーバ20と、スマートフォンや携帯電話機、PDA(Personal Digital Assistants)などの携帯端末30と、携帯端末30により遠隔操作される処理装置(本実施例では、MFPなどの画像形成装置40とする。)とで構成され、これらは、LAN(Local Area Network)やWAN(Wide Area Network)などのネットワークに接続(携帯端末30は、無線ルータや無線基地局を介してネットワークに接続)されている。以下、各装置の構成について詳細に説明する。
【0023】
[ARサーバ]
図2に示すように、ARサーバ20は、制御部21、記憶部22、通信I/F部23などで構成される。
【0024】
制御部21は、CPU(Central Processing Unit)とRAM(Random Access Memory)やROM(Read Only Memory)などのメモリとで構成され、ARサーバ20全体を制御する。また、制御部21は、画像形成装置40から当該装置の状態を示す情報(ステータス情報と呼ぶ。)及び当該装置で実行可能な機能や設定可能な条件などの情報(機能情報と呼ぶ。)を取得すると共に、携帯端末30から位置情報を取得し、携帯端末30の周囲(携帯端末30から所定の距離範囲内)に存在する画像形成装置40を特定して、その画像形成装置40のリスト(周辺MFPリストと呼ぶ。)やステータス情報及び機能情報(これらを総称して装置情報と呼ぶ。)などを携帯端末30に送信する装置情報処理部21aと、携帯端末30から指示情報を取得し、その指示情報に従って画像形成装置40に指示された機能を実行させる装置制御部21bとしても機能する。
【0025】
記憶部22は、HDD(Hard Disk Drive)などで構成され、後述する装置管理テーブル、各画像形成装置40に対するユーザの操作権限、PCL(Printer Control Language)やPS(Post Script)などのPDL(Page Description Language)で記述した実データなどを保存する。
【0026】
通信I/F部23は、NIC(Network Interface Card)やモデムなどのインターフェースであり、イーサネット(登録商標)などの規格に基づいて、携帯端末30や画像形成装置40との通信を行う。
【0027】
[携帯端末]
図3に示すように、携帯端末30は、制御部31、記憶部32、通信I/F部33、表示部34、操作部35、位置特定部36、方向特定部37、撮像部38などで構成される。
【0028】
制御部31は、CPUとRAMやROMなどのメモリとで構成され、携帯端末30全体を制御する。また、制御部31は、ARサーバ20に自端末の位置情報を送信し、ARサーバ20から自端末の周囲の画像形成装置40の周辺MFPリストを取得すると共に、画像形成装置40の装置情報(ステータス情報及び機能情報)を取得する装置情報取得部31aと、周辺MFPリストの中から遠隔操作を行う画像形成装置40を特定すると共に、ステータス情報を表示部34に表示(若しくは撮像画面に合成)して画像形成装置40の状態を確認できるようにし、機能情報に基づいて作成した操作画面を表示部34に表示(若しくは撮像画面に合成)し、画像形成装置40を遠隔操作できるようにする装置管理部31bとしても機能する。なお、上記装置情報取得部31aや装置管理部31bとしての機能はハードウェアとして実現してもよいし、制御部31を装置情報取得部31aや装置管理部31bとして機能させるプログラム(ARアプリケーションと呼ぶ。)として実現してもよい。
【0029】
記憶部32は、HDDなどで構成され、ARサーバ20から取得した周辺MFPリストや装置情報、画像形成装置40に処理させる電子データなどを保存する。
【0030】
通信I/F部33は、NICやモデムなどのインターフェースであり、無線ルータや無線基地局を介してネットワークに接続し、ARサーバ20や画像形成装置40との通信を行う。
【0031】
表示部34は、LCD(Liquid Crystal Display)や有機EL(electroluminescence)ディスプレイなどであり、ステータス情報に基づく画面(後述するステータス表示画面)や機能情報に基づく画面(後述する操作画面)などを表示する。
【0032】
操作部35は、ハードキーや表示部34上のタッチパネルであり、表示されているステータス表示画面や操作画面に対する操作を受け付け、画像形成装置40に対する各種指示を可能にする。
【0033】
位置特定部36は、GPS(Global Positioning System)を使用して自端末の位置(座標)を特定する。また、方向特定部37は、ジャイロと加速度センサを組み合わせた自立測位技術を用いて、自端末の方向を特定する。なお、位置が特定されている画像形成装置40が電磁波(無線LANやWi-Fi(Wireless Fidelity)、Bluetoothなどの規格で定められる電波)を発信しており、携帯端末30が、その電磁波を受信可能な場合は、図13に示すように、携帯端末30が複数(好ましくは3以上)の画像形成装置40から発信される電磁波の電界強度を測定し、その電界強度の値に基づいて、複数の画像形成装置40に対する自端末の位置(座標)や方向を特定してもよい。また、撮像部38で撮像した画像を解析し、色や形状、模様等を画像認識して画像形成装置40を特定し、その画像形成装置の位置から自端末の位置や方向を特定してもよい。また、画像形成装置40に貼り付けたQRコードのようなバーコード等を画像認識したり、RFID(Radio Frequency Identification)等のタグを認識して画像形成装置40を特定し、その画像形成装置の位置から自端末の位置や方向を特定してもよい。
【0034】
撮像部38は、CCD(Charge Coupled Devices)カメラやCMOS(Complementary Metal Oxide Semiconductor)カメラなどであり、画像形成装置40などを撮像してライブビュー映像を取得する。
【0035】
なお、図3では、携帯端末30に撮像部38を設けているが、撮像部38で撮像したライブビュー映像にステータス表示画面や操作画面を合成する必要がない場合は、撮像部38を省略することもできる。
【0036】
[画像形成装置]
図4に示すように、画像形成装置40は、制御部41、記憶部42、通信I/F部43、表示部44、操作部45、スキャナ部46、印刷部47などで構成される。
【0037】
制御部41は、CPUとRAMやROMなどのメモリとで構成され、画像形成装置40全体を制御する。また、制御部41は、PCLやPDLで記述した実データを解析するデータ解析部、解析結果に基づいて実データをラスタライズ(ビットマップ展開)してイメージデータを生成する画像処理部としても機能する。
【0038】
記憶部42は、HDDなどで構成され、実データやイメージデータ、各種設定情報などを保存する。
【0039】
通信I/F部43は、NICやモデムなどのインターフェースであり、イーサネット(登録商標)などの規格に基づいて、ARサーバ20や携帯端末30との通信を行う。
【0040】
表示部44は、LCDや有機ELディスプレイなどであり、コピーやスキャン、印刷、FAXなどの機能を実現するための各種画面を表示する。
【0041】
操作部45は、ハードキーや表示部44上のタッチパネルであり、コピーやスキャン、印刷、FAXなどの機能に対する各種指示を行う。
【0042】
スキャナ部46は、原稿台上の原稿用紙から画像データを光学的に読み取る部分であり、原稿を走査する光源と、原稿で反射された光を電気信号に変換するCCD等のイメージセンサと、電気信号をA/D変換するA/D変換器等により構成される。
【0043】
印刷部47は、イメージデータを用紙に転写する。具体的には、帯電装置により帯電された感光体ドラムに露光装置から画像に応じた光を照射して静電潜像を形成し、現像装置で帯電したトナーを付着させて現像し、そのトナー像を転写ベルトに1次転写し、転写ベルトから紙媒体に2次転写し、更に定着装置で紙媒体にトナー像を定着させる処理を行う。また、必要に応じて、折りや製本、ステープルなどの処理を行う。
【0044】
なお、本実施例では、ARサーバ20の制御部21が携帯端末30の周囲の画像形成装置40を特定する構成とするが、画像形成装置40の位置情報を携帯端末30に記憶しておき、携帯端末30の制御部31が、自端末の周囲かつ特定の方向に存在する画像形成装置40を特定する構成としてもよい。また、本実施例では、ARサーバ20が画像形成装置40からステータス情報や機能情報を取得する構成とするが、携帯端末30が画像形成装置40から直接これらの情報を取得する構成としてもよい。また、本実施例では、ARサーバ20が画像形成装置40に処理を指示する構成とするが、携帯端末30が画像形成装置40に直接、処理を指示する構成としてもよい。このように、携帯端末30にARサーバ20の制御部21の機能を備えている場合は、ARサーバ20を省略することもできる。また、本実施例では、画像形成装置40を制御する構成とするが、コンピュータ装置など、携帯端末30で遠隔操作が可能な任意の装置を同様に制御することができる。
【0045】
次に、上記構成の制御システム10の基本動作について、図10のシーケンス図を参照して説明する。なお、以下の説明において、各画像形成装置40に関する情報(ネットワーク上の登録名称や製品名、IPアドレス、接続ポート、SSL(Secure Socket Layer)通信の可否など)と各画像形成装置40の位置情報(緯度、経度、高度など)は、図12に示す装置管理テーブルとして予めARサーバ20の記憶部22などに記憶されているものとする。この装置管理テーブルの位置情報はユーザが登録してもよいし、画像形成装置40にGPS等の位置特定機能が搭載されている場合は、画像形成装置40から送信される位置情報を使用して登録してもよいし、画像形成装置40の近傍に携帯端末30を持って行き、携帯端末30から送信される位置情報を使用して登録してもよい。
【0046】
ARサーバ20は、ネットワークに接続されている画像形成装置40に定期的にアクセス(若しくは、画像形成装置40側が定期的にARサーバ20にアクセス)して、各画像形成装置40の装置情報(ステータス情報及び機能情報)を取得し、記憶部22等に記憶する。なお、アクセス間隔は任意であるが、画像形成装置40の状態は時々刻々変化するため、携帯端末30がARアプリケーションを起動した後は、アクセス間隔を短くすることが望ましい。また、ここではステータス情報及び機能情報を定期的に取得する構成とするが、機能情報が変化しない場合は、予め機能情報を取得しておき、ステータス情報のみを定期的に取得する構成としてもよい。
【0047】
次に、ユーザが携帯端末30の操作部35を操作してARアプリケーションの起動を指示すると、制御部31は、ARアプリケーションを起動し、表示部34にログイン画面を表示する。そして、ユーザがIDやパスワードを入力し、ログインボタンを押下すると、制御部31は、ARサーバ20にログインを通知し、ARサーバ20は認証処理を行い、その結果を携帯端末30に通知する。認証結果がOKの場合は、制御部31は、撮像部38を起動して撮像を開始し、ライブビュー映像を表示部34に表示する。
【0048】
次に、携帯端末30の位置特定部36は、自端末の位置を特定し、装置情報取得部31aは、特定した位置情報をARサーバ20に送信する。例えば、画像形成装置40が発信する電磁波の電界強度を用いて位置を特定する場合において、図13に示すように、装置A、B、Cの3つの画像形成装置40が各々、図の同心円で示す領域に電界強度1〜3で電磁波を発信しており、装置Aの電界強度が「1」、装置B及び装置Cの電界強度が「2」の場合は、携帯端末30は図の網掛け領域に存在することから、各画像形成装置40の位置(座標)に基づいて、自端末の位置(座標)を特定する。
【0049】
ARサーバ20の装置情報処理部21aは、携帯端末30から位置情報を取得すると、予め記憶部22などに記憶した装置管理テーブルを参照して、携帯端末30の周囲(携帯端末30からの距離が所定範囲内)に存在する画像形成装置40を抽出し、抽出した画像形成装置40のリスト(周辺MFPリスト)及びその画像形成装置40のステータス情報を携帯端末30に送信する。携帯端末30の装置情報取得部31aは、受信した周辺MFPリスト及びステータス情報を記憶部32などに記憶する。
【0050】
次に、携帯端末30の位置特定部36及び方向特定部37は、自端末の位置及び方向を特定し、装置管理部31bは、周辺MFPリストの画像形成装置40の内、携帯端末30の周囲かつ特定の方向に存在する画像形成装置40を特定する。なお、ここでは、ARサーバ20から周辺MFPリストを取得し、その中から自端末の周囲かつ特定の方向に存在する画像形成装置40を特定する構成とするが、ARサーバ20に自端末の位置情報及び方向情報を送信し、ARサーバ20が携帯端末30の周囲かつ特定の方向に存在する画像形成装置40を特定してもよい。また、ここでは周辺MFPリストを取得した後に、再度、位置特定部36を用いて自端末の位置を特定しているが、携帯端末30の位置を動かさない(方向のみを回転させる)場合は、方向特定部37を用いて自端末の方向のみを特定すればよい。
【0051】
そして、装置管理部31bは、自端末の位置及び方向と画像形成装置40の位置情報と撮像部38の画角などに基づいて、特定した画像形成装置40のライブビュー映像上の位置を算出し、その位置に当該画像形成装置40のステータス情報を表示させる。そして、携帯端末30の方向が変化して、その画像形成装置40が特定の方向から外れたらステータス情報の表示を消去し、新たな画像形成装置40が特定の方向に入ったら、その画像形成装置40のステータス情報を表示する動作を繰り返す。すなわち、携帯端末30を360度回転させると、特定の方向に存在する画像形成装置40のステータス情報が順次表示されることになる。
【0052】
このステータス情報の表示形態は特に限定されず、ステータス情報を単独で表示してもよいし、撮像部38で画像形成装置40を撮像している場合は、その画像形成装置40のライブビュー映像上にステータス情報を合成して表示してもよい。図5は、携帯端末30で周辺を撮像している様子を示す図であり、表示部34に撮像部38で撮像しているライブビュー映像が表示されると共に、必要に応じて、ネットワークに接続されている画像形成装置40の配置や携帯端末30の周辺の範囲を図示した枠などが表示される。また、図6は、画像形成装置40を撮像している時の携帯端末30の表示部34を拡大した図(主要構成のみ)であり、撮像部38で撮像している画像形成装置40の画像には、ステータス情報(当該画像形成装置40がジョブ待ちの状態であることを示す「待機中」の文字やジョブの実行中であることを示す「印刷中」の文字など)を枠で囲んだ画面(ステータス表示画面と呼ぶ。)が合成される。このように、画像形成装置40のライブビュー映像にステータス情報を合成して表示することにより、画像形成装置40の状態を直感的に把握することができる。
【0053】
なお、ステータス情報は上記に限らず、残ジョブ数やジョブ終了予測時時刻等を表示したり、ジョブを登録したユーザ情報等の詳細情報を表示したりしてもよい。また、エラー状態やエラーからのリカバリ方法や操作手順を示すガイダンスなどを表示してもよい。また、上記ステータス情報の表示に際して、画像形成装置40と携帯端末30の距離により、遠近法に従ってステータス情報の表示サイズを変えたり、装置の状態や残ジョブ数によって、表示の色、透明度、大きさ、アニメーション効果等を変えたり、ユーザ権限やシステム設定等によって表示する項目を変えたりしてもよい。また、デバイス毎にステータスを表示するのではなく、ジョブ毎にステータスを表示して、ジョブ実行中止、削除、再実行等のジョブ制御が行えるようにしてもよい。
【0054】
また、図6の構成の表示形態において、ステータス情報が画像形成装置40の画像上に表示されるようにするためには、ステータス情報の配置位置のx座標と画面上の画像形成装置40の中心のx座標とが一致するようにすればよい。この画像形成装置40のx座標は、図14(a)に示すように、携帯端末30の画面表示サイズ(X方向のサイズ)をwkし、図14(b)に示すように、携帯端末30の特定方向(ここでは上方向)を基準方向とした場合の時計回りの画像形成装置40の向きをαm、カメラの水平方向への画角(正確には表示可能な範囲の撮影範囲角度)をαr、基準方向からの携帯端末30の向き(カメラの撮像範囲角度(αr)の中心)をαcとすると、
x=wk×(αm−(αc−αr/2))/αr
となる。
【0055】
また、図14(c)に示すように、上記αmは、携帯端末30の座標を(xk、yk)とし、画像形成装置40の座標を(xm、ym)とすると、
αm=180−(tan−1((ym−yk)/(xm−xk))×(360/2π))
となる。
【0056】
従って、上記式に従ってxを求め、ステータス情報の表示位置のx座標をこの値に設定すれば、画像形成装置40の画像の中心にステータス情報を合成することができる。
【0057】
ここで、ステータス情報により画像形成装置40が待機中であることが分かれば、その画像形成装置40を用いた処理が可能であることから、以下の手順に従って画像形成装置40を遠隔操作できるようにする。
【0058】
具体的には、ユーザが所定の操作(例えば、ステータス表示画面の領域をタッチしたり、携帯端末30の特定の操作ボタンを押下したり、画像形成装置40の操作パネルに相当する位置を押下する等の操作)を行うと、携帯端末30の制御部31は、必要に応じて、ARサーバ20にログインユーザの操作権限を確認する。ARサーバ20の操作部21は、ログインユーザの操作権限を記憶部22などから取得し、携帯端末30に送信する。
【0059】
次に、携帯端末30の装置管理部31bは、ARサーバ20から、その画像形成装置40の機能情報を取得し、機能情報及び必要に応じてユーザ権限に応じた操作画面を作成し、表示部34に表示する。例えば、図7に示すように、ライブビュー映像上に、ログインユーザがその画像形成装置40に対して実行可能な機能(ここでは、コピー、スキャン、プリント、Fax、MFP管理)を指示する操作画面(この場合は機能選択画面)を合成し、画像形成装置40を遠隔操作できるようにする。
【0060】
上記機能選択画面の構成は任意であり、例えば、画像形成装置40の表示部44に表示される操作画面と同じ構成としてもよいし、画像形成装置40に備える全ての機能を表示し、ログインユーザが実行できない機能は選択できないように(例えば、グレー表示)してもよい。また、ここでは、遠隔操作を行う画像形成装置40のライブビュー映像に機能選択画面を合成しているが、ステータス表示画面の領域をタッチするなどの操作によって画像形成装置40を特定した後は、画像形成装置40のライブビュー映像と機能選択画面とは必ずしも対応させて表示する必要はないため、機能選択画面のみを表示してもよいし、任意のライブビュー映像(例えば、当該画像形成装置40を撮像していないライブビュー映像)に機能選択画面を合成してもよい。
【0061】
そして、ユーザが操作画面(機能選択画面)で所定の機能(ここではプリント機能)を選択すると、携帯端末30の装置管理部31bは、ファイルの保存場所の一覧(例えば、ARサーバ20と携帯端末30と画像形成装置40)を表示し、その中から所望の保存場所(例えば、携帯端末30の記憶部32)を選択すると、その保存場所に予め記憶されたファイルの一覧を取得し、ファイルを選択するための操作画面を作成して表示部34に表示する。例えば、図8に示すように、ライブビュー映像上に、ファイル名とファイルの属性を記述した操作画面(この場合はファイル選択画面)を合成し、画像形成装置40にプリントさせるファイルの選択を遠隔操作できるようにする。
【0062】
上記ファイル選択画面の構成も任意であり、例えば、記憶部に記憶された全てのファイルを表示してもよいし、所定の属性のファイルのみを表示してもよいし、ログインユーザが作成したファイルやログインユーザが使用する権限を有するファイルのみを表示してもよい。また、ここでも、遠隔操作を行う画像形成装置40のライブビュー映像にファイル選択画面を合成しているが、画像形成装置40を特定した後は、ライブビュー映像とファイル選択画面とは必ずしも対応させて表示する必要はないため、ファイル選択画面のみを表示してもよいし、任意のライブビュー映像にファイル選択画面を合成してもよい。
【0063】
次に、ユーザが操作画面(ファイル選択画面)でファイルを選択すると、携帯端末30の装置管理部31bは、機能情報に応じた操作画面を作成し、表示部34に表示する。例えば、図9に示すように、ライブビュー映像上に、選択した機能に対する条件(ここでは、部数やカラー、用紙サイズ、ページ指定など)を設定する操作画面(この場合は条件設定画面)を合成し、選択した機能に対する条件設定を遠隔操作できるようにする。
【0064】
上記条件設定画面の構成も任意であり、例えば、画像形成装置40の表示部44に表示される操作画面と同じ構成としてもよいし、選択した機能に対して設定可能な全ての条件を表示し、ログインユーザが設定できない項目はグレー表示してもよい。また、ここでも、遠隔操作を行う画像形成装置40のライブビュー映像に条件設定画面を合成しているが、画像形成装置40を特定した後は、ライブビュー映像と条件設定画面とは必ずしも対応させて表示する必要はないため、条件設定画面のみを表示してもよいし、任意のライブビュー映像に条件設定画面を合成してもよい。
【0065】
そして、条件設定画面でプリント条件を設定した後、OKボタンを押下すると、携帯端末30の装置管理部31bは、選択されたファイル、選択された機能及び設定情報をARサーバ20に送信する。具体的には、機能選択画面やファイル選択画面、条件設定画面の表示部34上の位置を予め記憶しておき、ユーザが画面上でタッチした位置に対応する機能、ファイル、条件を特定して指示情報を作成し、その指示情報をARサーバ20に送信する。ARサーバ20では、選択されたファイルからPCLファイルを生成して画像形成装置40に転送し、画像形成装置40は、PCLファイルに基づいて印刷処理を実行する。また、携帯端末30の装置管理部31bは、PCLファイルが画像形成装置40に転送されたら、印刷受付完了画面を表示部34に表示する。
【0066】
その後、ユーザがARアプリケーションの終了を指示すると、携帯端末30の制御部31は、ARサーバ20のログアウトを通知し、ARサーバ20は、ログアウト処理を実行すると共に、制御対象となる画像形成装置40の装置情報取得間隔を元に戻し、携帯端末30の制御部31は、ARアプリケーションを終了する。
【0067】
なお、上記説明では、ステータス表示画面を表示した後、操作画面(機能選択画面やファイル選択画面、条件設定画面など)を表示する構成としたが、ステータス表示画面の表示は省略することもできる。その場合は、撮像部38で画像形成装置40を撮像したら、自動的に機能選択画面を表示したり、撮像部38で画像形成装置40を撮像した状態で所定の操作を行ったら、機能選択画面を表示したりする。また、携帯端末30の方向が変化して、その画像形成装置40が特定の方向から外れたら機能選択画面の表示を消去し、新たな画像形成装置40が特定の方向に入ったら、その画像形成装置40の機能選択画面を表示する動作を繰り返す。
【0068】
また、上記説明では、操作画面として、機能選択画面、ファイル選択画面、条件設定画面の3つの画面が表示される構成としたが、画像形成装置40を操作するための画面が1つ以上、表示されればよい。例えば、コピーの場合はファイル選択画面を省略することができるし、スキャンの場合はファイル選択画面に代えてスキャン画像の保存先を指定する画面を表示することができる。
【0069】
次に、携帯端末30に表示される画面を用いて画像形成装置40を遠隔操作する方法について、図11のフローチャート図を参照して詳細に説明する。なお、図11の実線の枠は携帯端末30の動作を示し、破線の枠はARサーバ20若しくは画像形成装置40の動作を示している。
【0070】
まず、携帯端末30の表示部34に表示されているライブビュー映像に画像形成装置40のステータス情報を合成して表示する。そして、ユーザがステータス情報の表示領域(ステータス表示画面)を押下すると(S101)、携帯端末30の装置情報取得部31aは、ARサーバ20にアクセスして、ARサーバ20からログインユーザの操作権限(コピー、プリント、スキャン、Fax送信、管理機能等の機能毎の操作権限)を取得する(S102)。なお、この操作権限は、利用回数や利用時間帯等の制限を付加してもよいし、画像形成装置40毎に設定できるようにしてもよい。
【0071】
次に、携帯端末30の装置情報取得部31aは、ARサーバ20から、その画像形成装置40の機能情報(各機能の実行可否、各機能の設定可能値など)を取得し(S103)、装置管理部31bは、ログインユーザの操作権限及び画像形成装置40の機能情報に応じて、表示部34に、図7に示すような機能選択画面を表示させる(S104)。なお、各機能の設定可能値とは、例えば、印刷機能におけるカラー、n in 1、両面、パンチ・ステープル等の可否、スキャン機能におけるカラー、解像度等可否、コピー機能におけるカラー、n in 1、両面、パンチ・ステープル等の可否、Fax送信機能におけるFax送信可否などである。
【0072】
そして、装置管理部31bは、機能選択画面のどの機能が押下されたかを判断し(S105)、押下された機能に応じた処理を実行する。ここでは、コピーとスキャンとプリントの各機能が選択された場合について例示する。
【0073】
まず、機能選択画面でコピーのボタンが押下された場合は、装置管理部31bは、画像形成装置40の機能情報に基づいて、表示部34にコピー設定選択画面を表示させる(S106)。そして、ユーザがコピー設定を選択し(S107)、スタートボタンを押下したら(S108)、装置管理部31bは、コピー設定情報をARサーバ20に送信し(S109)、ARサーバ20は、そのコピー設定情報に従って画像形成装置40にコピーの実行を指示し(S110)、画像形成装置40は、コピーを実行する(S111)。なお、ここでは携帯端末30からARサーバ20にコピー設定情報を送信し、ARサーバ20が画像形成装置40にコピーの実行を指示する構成としているが、携帯端末30が画像形成装置40と通信する機能を搭載している場合は、ARサーバ20を介することなく、携帯端末30から直接、画像形成装置40にコピーの実行を指示してもよい。
【0074】
また、機能選択画面でスキャンのボタンが押下された場合は、装置管理部31bは、画像形成装置40の機能情報に基づいて、表示部34にスキャン設定選択画面を表示させる(S112)。そして、ユーザがスキャン設定を選択したら(S113)、装置管理部31bは、表示部34にスキャンファイル保存先選択画面を表示させる(S114)。このスキャンファイル保存先選択画面でユーザが保存先を選択し(S115)、スタートボタンを押下したら(S116)、装置管理部31bは、スキャン設定情報及び保存先情報をARサーバ20に送信し(S117)、ARサーバ20は、そのスキャン設定情報及び保存先情報に従って画像形成装置40にリモートスキャンの実行を指示し(S118)、画像形成装置40は、スキャンを実行する(S119)。なお、上記と同様に、携帯端末30が画像形成装置40と通信する機能を搭載している場合は、ARサーバ20を介することなく、携帯端末30から直接、画像形成装置40にリモートスキャンの実行を指示してもよい。
【0075】
保存先のストレージが携帯端末30の場合は、ARサーバ20は画像形成装置40からスキャンデータを取得し(S121)、携帯端末30は、ARサーバ20からスキャンデータを取得し(S122)、取得したスキャンデータを保存する(S123)。保存先のストレージが共有サーバの場合は、ARサーバ20は画像形成装置40からスキャンデータを取得し(S124)、そのスキャンデータを共有サーバに転送する(S125)。保存先のストレージが画像形成装置40の記憶部42の場合は、スキャンデータを記憶部42に保存する(S126)。
【0076】
また、機能選択画面でプリントのボタンが押下された場合は、装置管理部31bは、表示部34にファイル選択画面を表示させる(S127)。そして、ユーザがファイルを選択したら(S128)、装置管理部31bは、画像形成装置40の機能情報に基づいて、表示部34に印刷設定選択画面を表示させる(S129)。そして、ユーザが印刷設定を選択したら(S130)、装置管理部31bは、選択ファイルの保存場所を判断し(S131)、携帯端末30に保存されている場合は、印刷設定情報及び選択ファイルの実データをARサーバ20に送信する(S132)。また、共有サーバに保存されている場合は、装置管理部31bは、印刷設定情報及び選択ファイルのパス情報をARサーバ20に送信し(S133)、ARサーバ20は、そのパス情報に従って共有サーバからファイルを取得する(S134)。その後、ARサーバ20は、PCLファイルを作成して(S135)、画像形成装置40に転送し(S136)、画像形成装置40は、印刷を実行する(S137)。
【0077】
このように、携帯端末30は、画像形成装置40のライブビュー映像にその画像形成装置40のステータス情報を合成して表示した後、機能選択画面やファイル選択画面、印刷設定画面等の操作画面を表示(好ましくはライブビュー映像に操作画面を合成して表示)し、その操作画面で画像形成装置40を遠隔操作できるようにするため、画像形成装置40を直感的に操作することができ、ユーザの利便性を格段に向上させることができる。
【実施例2】
【0078】
次に、本発明の第2の実施例に係る携帯端末及び処理装置の操作方法について、図15乃至図21を参照して説明する。図15は、携帯端末での拡張現実アプリケーションのイメージを示す図であり、図16乃至図19は、携帯端末の表示画面の一例である。また、図20は、本実施例の制御システムの動作を示すシーケンス図であり、図21は、ARサーバに記憶されるデータ管理テーブルの一例である。
【0079】
前記した第1の実施例では、ファイル選択画面を表示してファイルの選択を行う構成としたが、処理装置で処理可能な電子データ(文書データや画像データ、音楽データなど)を保存する際、電子データに位置情報を関連付けることもできる。そこで、本実施例では、撮像部38が撮像している位置に関連付けて登録された電子データを特定する情報(例えば、データアイコン)をライブビュー映像に合成し、操作画面とデータアイコンを利用して、より直感的に画像形成装置40を遠隔操作できるようにする。
【0080】
具体的には、図21に示すように、電子データに関する情報(ファイル又はフォルダの種別、ファイル又はフォルダの名称、拡張子など)と、電子データの保存先に関する情報(サーバ名、ファイルパス、プロトコル、ポート番号など)と、電子データの登録位置(当該電子データを記憶する装置の実在位置でもよいし、任意の空間上の位置でもよい。)に関する情報(緯度、経度、高度など)と、を記述したデータ管理テーブルを作成し、そのデータ管理テーブルをARサーバ20の記憶部22などに記憶しておく。
【0081】
そして、ARサーバ20の装置情報処理部21aは、携帯端末30から位置情報を取得し、このデータ管理テーブルを参照して、携帯端末30の周囲(携帯端末30から所定の距離範囲内)に存在する電子データを特定して、その電子データのリスト(周辺データリストと呼ぶ。)を携帯端末30に送信する制御を行い、装置制御部21bは、携帯端末30から電子データに対する指示情報を取得し、その指示情報に従って画像形成装置40に指示された機能を実行させる制御を行う。
【0082】
また、携帯端末30の装置情報取得部31aは、ARサーバ20に自端末の位置情報を送信し、ARサーバ20から自端末の周囲の電子データのリスト(周辺データリスト)を取得する制御を行い、装置管理部31bは、電子データを特定する情報(データアイコンなど)をライブビュー映像に合成し、その電子データを適切な画像形成装置40で処理できるようにする。
【0083】
なお、本実施例では、ARサーバ20の制御部21が携帯端末30の周囲の電子データを特定する構成とするが、電子データの位置情報を携帯端末30に記憶しておき、携帯端末30の制御部31が、自端末の周囲かつ特定の方向に存在する電子データを特定する構成としてもよく、携帯端末30にARサーバ20の制御部21の機能を備えている場合は、ARサーバ20を省略することもできる。
【0084】
以下、上記構成の制御システム10の動作について、図20のシーケンス図を参照して説明する。なお、以下の説明において、ARサーバ20の記憶部22などには、図12に示す装置管理テーブルと、図21に示すデータ管理テーブルが予め登録されているものとする。
【0085】
ARサーバ20は、ネットワークに接続されている画像形成装置40に定期的にアクセス(若しくは、画像形成装置40側が定期的にARサーバ20にアクセス)して、各画像形成装置40の装置情報(ステータス情報及び機能情報)を取得する。なお、アクセス間隔は任意であるが、画像形成装置40の状態は時々刻々変化するため、携帯端末30がARアプリケーションを起動した後は、アクセス間隔を短くすることが望ましい。また、ここではステータス情報及び機能情報を定期的に取得する構成とするが、機能情報が変化しない場合は、予め機能情報を取得しておき、ステータス情報のみを定期的に取得する構成としてもよい。
【0086】
次に、ユーザが携帯端末30の操作部35を操作してARアプリケーションの起動を指示すると、制御部31は、ARアプリケーションを起動し、表示部34にログイン画面を表示する。そして、ユーザがIDやパスワードを入力し、ログインボタンを押下すると、制御部31は、ARサーバ20にログインを通知し、ARサーバ20は認証処理を行い、その結果を携帯端末30に通知する。認証結果がOKの場合は、制御部31は、撮像部38を起動して撮像を開始し、ライブビュー映像を表示部34に表示する。
【0087】
次に、携帯端末30の位置特定部36は、自端末の位置を特定し、装置情報取得部31aは、特定した位置情報をARサーバ20に送信する。
【0088】
ARサーバ20の装置情報処理部21aは、携帯端末30から位置情報を取得すると、予め記憶部22などに記憶した装置管理テーブルを参照して、携帯端末30の周囲(携帯端末30からの距離が所定範囲内)に存在する画像形成装置40を抽出し、抽出した画像形成装置40のリスト(周辺MFPリスト)及びその画像形成装置40のステータス情報を携帯端末30に送信する。携帯端末30の装置情報取得部31aは、受信した周辺MFPリスト及びステータス情報を記憶部32などに記憶する。
【0089】
また、ARサーバ20は、予め記憶したデータ管理テーブルを参照して、携帯端末30の周囲(携帯端末30からの距離が所定範囲内)に存在する電子データを抽出し、抽出した電子データのリスト(周辺データリスト)を携帯端末30に送信する。携帯端末30の装置情報取得部31aは、受信した周辺データリストを記憶部32などに記憶する。
【0090】
次に、携帯端末30の位置特定部36及び方向特定部37は、自端末の位置及び方向を特定し、装置管理部31bは、周辺MFPリストの画像形成装置40の内、携帯端末30の周囲かつ特定の方向に存在する画像形成装置40を特定する。そして、装置管理部31bは、自端末の位置及び方向と画像形成装置40の位置情報と撮像部38の画角などに基づいて、特定した画像形成装置40のライブビュー映像上の位置を算出し、その位置に当該画像形成装置40のステータス情報を表示させる。
【0091】
また、携帯端末30の装置管理部31bは、周辺データリストの電子データの内、携帯端末30の周囲かつ特定の方向に存在する電子データを特定する。そして、装置管理部31bは、自端末の位置及び方向と電子データの位置情報と撮像部38の画角などに基づいて、特定した電子データのライブビュー映像上の位置を算出し、その位置に当該電子データを特定するデータアイコンなどを表示させる。
【0092】
そして、携帯端末30の方向が変化して、その画像形成装置40や電子データが特定の方向から外れたらステータス情報やデータアイコンの表示を消去し、新たな画像形成装置40や電子データが特定の方向に入ったら、その画像形成装置40のステータス情報やデータアイコンを表示する動作を繰り返す。
【0093】
このステータス情報やデータアイコンの表示形態は特に限定されず、ステータス情報やデータアイコンを単独で表示してもよいし、ライブビュー映像に合成して表示してもよい。図15は、携帯端末30で周辺を撮像している様子を示す図であり、撮像部38で撮像しているライブビュー映像にはデータアイコンが合成されている。なお、データアイコンの表示に際して、電子データと携帯端末30の距離により、遠近法に従ってデータアイコンの表示サイズ、表示の色、透明度、大きさ、アニメーション効果等を変えてもよい。
【0094】
そして、ユーザが所望のデータアイコンを押下するなどによって電子データを選択すると、携帯端末30の装置管理部31bは、その電子データを処理可能な画像形成装置40を抽出し、電子データを選択した状態でユーザが所望の方向の画像形成装置40を撮像すると、位置特定部36及び方向特定部37は、自端末の位置及び方向を特定し、装置管理部31bは、撮像した画像形成装置40のライブビュー映像上の位置を特定し、その位置に当該画像形成装置40を遠隔操作するための操作画面を合成する。
【0095】
図16は、操作画面(ここでは機能指示画面)の一例であり、データアイコンを機能実行画面の枠内にドラッグすることにより、機能指示画面で指示された機能に使用する電子データが選択される。また、図17は、機能指示画面の他の例であり、選択された電子データに対して、撮像している画像形成装置40がプリントとFAXが可能な場合は、2つの機能指示画面を表示し、データアイコンをいずれかの機能指示画面の枠内にドラッグすることにより、プリント又はFAXに使用する電子データが選択される。
【0096】
なお、機能指示画面の構成は任意であり、例えば、第1の実施例と同様に、携帯端末30にログインしたユーザの使用権限に応じて、画像形成装置40に実行させる機能を制限してもよい。また、ここでは、電子データを選択した後、携帯端末30の位置や向きを変えて画像形成装置40を選択する構成としたが、例えば、画像形成装置40を撮像しているライブビュー映像に機能指示画面を合成し、その機能指示画面を選択した後、携帯端末30の位置や向きを変えて電子データを選択するようにしてもよい。また、ここでは、データアイコンを操作画面(機能指示画面)上にドラッグする構成としたが、機能指示画面を表示させた状態でデータアイコンをダブルクリックする構成としてもよいし、操作画面(機能指示画面)をデータアイコン上にドラッグする構成としてもよい。
【0097】
そして、機能指示画面で処理を指示(OKボタンを押下)すると、携帯端末30の装置管理部31bは、選択された電子データを用いた処理を指示する指示情報をARサーバ20に送信し、ARサーバ20では、データアイコンに対応する実データを取得し、実データからPCLファイルを生成して画像形成装置40に転送し、画像形成装置40は、PCLファイルに基づいて処理を実行する。
【0098】
その後、ユーザがARアプリケーションの終了を指示すると、携帯端末30の制御部31は、ARサーバ20のログアウトを通知し、ARサーバ20は、ログアウト処理を実行すると共に、制御対象となる画像形成装置40の装置情報取得間隔を元に戻し、携帯端末30の制御部31は、ARアプリケーションを終了する。
【0099】
なお、上記説明では、操作画面として、機能指示画面を例示したが、第1の実施例と同様に、処理条件を設定する画面などを表示してもよいし、操作画面を表示する前に、ステータス表示画面を表示してもよい。また、上記実施例では、予め位置が登録された電子データを用いて処理を行ったが、例えば、図18に示すように、撮像部38で撮像している処理装置に記憶されているフォルダを表示し、フォルダやそのフォルダに格納されている電子データを選択した後、携帯端末30の位置や向きを変えて画像形成装置40を選択するようにしてもよい。
【0100】
このように、携帯端末30は、データアイコンが合成されたライブビュー映像に、機能指示画面等の操作画面を表示(好ましくはライブビュー映像に操作画面を合成して表示)し、その操作画面で画像形成装置40を遠隔操作できるようにするため、画像形成装置40を直感的に操作することができ、ユーザの利便性を格段に向上させることができる。
【0101】
なお、本発明は上記実施例の記載に限定されるものではなく、本発明の趣旨を逸脱しない限りにおいて、その構成や制御は適宜変更可能である。
【0102】
例えば、上記第2の実施例では、画像形成装置40を撮像すると操作画面が表示されるようにしたが、図19に示すように、電子データを選択すると、その電子データの周辺の画像形成装置40を一覧表示する装置選択画面を表示して、その中から選択した画像形成装置40で処理が実行されるようにしてもよい。
【0103】
また、上記各実施例では、画像形成装置40を遠隔操作する場合について記載したが、コンピュータ装置、プロジェクタ、テレビモニタ、共有サーバ、他の携帯端末など、電子データを処理可能な任意の装置に対しても同様に適用することができる。例えば、プロジェクタやテレビモニタに画像データや文書データのデータアイコンをドラッグすることで映像を表示したり、コンピュータ装置にデータアイコンをドラッグすることで電子データの転送、メール送信、楽曲演奏などの操作を行うようにしてもよい。
【産業上の利用可能性】
【0104】
本発明は、携帯端末及び当該携帯端末を用いて処理装置を遠隔操作する方法に利用可能である。
【符号の説明】
【0105】
10 制御システム
20 ARサーバ
21 制御部
21a 装置情報処理部
21b 装置制御部
22 記憶部
23 通信I/F部
30 携帯端末
31 制御部
31a 装置情報取得部
31b 装置管理部
32 記憶部
33 通信I/F部
34 表示部
35 操作部
36 位置特定部
37 方向特定部
38 撮像部
40 画像形成装置
41a データ解析部
41b 画像処理部
42 記憶部
43 通信I/F部
44 表示部
45 操作部
46 スキャナ部
47 印刷部
【特許請求の範囲】
【請求項1】
表示部を備える携帯端末であって、
自端末の位置を特定する位置特定部と、
自端末の方向を特定する方向特定部と、
予め記憶した1又は複数の処理装置の位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定し、当該所定の処理装置を遠隔操作するための操作画面を前記表示部に表示させる制御部と、を備える、ことを特徴とする携帯端末。
【請求項2】
更に、自端末の前記特定の方向を撮像する撮像部を備え、
前記制御部は、前記撮像部が撮像した映像に、前記操作画面を合成する、ことを特徴とする請求項1に記載の携帯端末。
【請求項3】
前記制御部は、自端末を動かした結果、前記所定の処理装置が、自端末から所定の距離範囲内、又は、自端末の特定の方向に存在しなくなったときは、前記表示部に表示された前記操作画面を消去する、ことを特徴とする請求項1又は2に記載の携帯端末。
【請求項4】
前記制御部は、前記操作画面に、自端末にログインしているユーザの権限に応じた情報を表示する、ことを特徴とする請求項1乃至3のいずれか一に記載の携帯端末。
【請求項5】
前記制御部は、前記操作画面を前記表示部に表示させる前に、前記所定の処理装置の状態を示すステータス情報を取得し、当該ステータス情報を前記表示部に表示させる、ことを特徴とする請求項1乃至4のいずれか一に記載の携帯端末。
【請求項6】
前記制御部は、予め記憶した1又は複数の電子データに関連付けられた位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の電子データを特定し、当該所定の電子データを特定するアイコンを前記表示部に表示させる、ことを特徴とする請求項1乃至5のいずれか一に記載の携帯端末。
【請求項7】
表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、
前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、
前記携帯端末が、自端末の位置を特定し、前記サーバに自端末の位置情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内に存在する処理装置を特定して前記携帯端末に通知し、前記携帯端末が、自端末の方向を特定し、前記所定の距離範囲内に存在する処理装置の中から、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、
前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行する、ことを特徴とする処理装置の操作方法。
【請求項8】
表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、
前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、
前記携帯端末が、自端末の位置及び方向を特定し、前記サーバに自端末の位置情報及び方向情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内、かつ、前記携帯端末の特定の方向に存在する所定の処理装置を特定して前記携帯端末に通知する第2ステップと、
前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行する、ことを特徴とする処理装置の操作方法。
【請求項9】
表示部を備える携帯端末と、1又は複数の処理装置と、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、
前記携帯端末が、
前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、
自端末の位置及び方向を特定し、前記装置管理テーブルを参照して、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、
前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行する、ことを特徴とする処理装置の操作方法。
【請求項10】
前記携帯端末は、自端末の前記特定の方向を撮像する撮像部を備え、
前記第3ステップでは、前記撮像部が撮像した映像に、前記操作画面を合成する、ことを特徴とする請求項7乃至9のいずれか一に記載の処理装置の操作方法。
【請求項11】
前記第3ステップでは、前記携帯端末を動かした結果、前記所定の処理装置が、前記携帯端末から所定の距離範囲内、又は、前記携帯端末の特定の方向に存在しなくなったときは、前記表示部に表示した前記操作画面を消去する、ことを特徴とする請求項7乃至10のいずれか一に記載の処理装置の操作方法。
【請求項12】
前記第3ステップでは、前記操作画面に、前記携帯端末にログインしているユーザの権限に応じた情報を表示する、ことを特徴とする請求項7乃至11のいずれか一に記載の処理装置の操作方法。
【請求項13】
前記第2ステップでは、前記携帯端末が、前記所定の処理装置の状態を示すステータス情報を取得し、
前記第3ステップでは、前記表示部に前記操作画面を表示する前に、前記ステータス情報を表示する、ことを特徴とする請求項7乃至12のいずれか一に記載の処理装置の操作方法。
【請求項14】
前記操作画面は、前記所定の処理装置に実行させる機能を選択するための第1画面と、前記所定の処理装置に処理させる電子データを選択するための第2画面と、を含み、
前記第3ステップでは、前記第1画面で機能が選択されたら、前記第2画面を表示する、ことを特徴とする請求項7乃至13のいずれか一に記載の処理装置の操作方法。
【請求項15】
前記第1ステップでは、1又は複数の電子データに関連付けられた位置情報を記述したデータ管理テーブルを記憶し、
前記第2ステップでは、前記データ管理テーブルを参照して、前記携帯端末から所定の距離範囲内、かつ、前記携帯端末の特定の方向に存在する電子データを特定し、
前記第3ステップでは、前記所定の電子データを特定するアイコンを前記表示部に表示する、ことを特徴とする請求項7乃至13のいずれか一に記載の処理装置の操作方法。
【請求項16】
前記第3ステップでは、前記アイコンが選択されたら、当該アイコンで特定される電子データに応じた前記操作画面を表示する、ことを特徴とする請求項15に記載の処理装置の操作方法。
【請求項1】
表示部を備える携帯端末であって、
自端末の位置を特定する位置特定部と、
自端末の方向を特定する方向特定部と、
予め記憶した1又は複数の処理装置の位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定し、当該所定の処理装置を遠隔操作するための操作画面を前記表示部に表示させる制御部と、を備える、ことを特徴とする携帯端末。
【請求項2】
更に、自端末の前記特定の方向を撮像する撮像部を備え、
前記制御部は、前記撮像部が撮像した映像に、前記操作画面を合成する、ことを特徴とする請求項1に記載の携帯端末。
【請求項3】
前記制御部は、自端末を動かした結果、前記所定の処理装置が、自端末から所定の距離範囲内、又は、自端末の特定の方向に存在しなくなったときは、前記表示部に表示された前記操作画面を消去する、ことを特徴とする請求項1又は2に記載の携帯端末。
【請求項4】
前記制御部は、前記操作画面に、自端末にログインしているユーザの権限に応じた情報を表示する、ことを特徴とする請求項1乃至3のいずれか一に記載の携帯端末。
【請求項5】
前記制御部は、前記操作画面を前記表示部に表示させる前に、前記所定の処理装置の状態を示すステータス情報を取得し、当該ステータス情報を前記表示部に表示させる、ことを特徴とする請求項1乃至4のいずれか一に記載の携帯端末。
【請求項6】
前記制御部は、予め記憶した1又は複数の電子データに関連付けられた位置情報に基づいて、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の電子データを特定し、当該所定の電子データを特定するアイコンを前記表示部に表示させる、ことを特徴とする請求項1乃至5のいずれか一に記載の携帯端末。
【請求項7】
表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、
前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、
前記携帯端末が、自端末の位置を特定し、前記サーバに自端末の位置情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内に存在する処理装置を特定して前記携帯端末に通知し、前記携帯端末が、自端末の方向を特定し、前記所定の距離範囲内に存在する処理装置の中から、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、
前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行する、ことを特徴とする処理装置の操作方法。
【請求項8】
表示部を備える携帯端末と、1又は複数の処理装置と、サーバと、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、
前記サーバに、前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、
前記携帯端末が、自端末の位置及び方向を特定し、前記サーバに自端末の位置情報及び方向情報を通知し、前記サーバが、前記装置管理テーブルを参照して、前記携帯端末から所定の距離範囲内、かつ、前記携帯端末の特定の方向に存在する所定の処理装置を特定して前記携帯端末に通知する第2ステップと、
前記携帯端末が、前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行する、ことを特徴とする処理装置の操作方法。
【請求項9】
表示部を備える携帯端末と、1又は複数の処理装置と、が通信ネットワークで接続されたシステムにおける前記処理装置の操作方法であって、
前記携帯端末が、
前記1又は複数の処理装置の位置情報を記述した装置管理テーブルを記憶する第1ステップと、
自端末の位置及び方向を特定し、前記装置管理テーブルを参照して、自端末から所定の距離範囲内、かつ、自端末の特定の方向に存在する所定の処理装置を特定する第2ステップと、
前記所定の処理装置を遠隔操作するための操作画面を前記表示部に表示する第3ステップと、を実行する、ことを特徴とする処理装置の操作方法。
【請求項10】
前記携帯端末は、自端末の前記特定の方向を撮像する撮像部を備え、
前記第3ステップでは、前記撮像部が撮像した映像に、前記操作画面を合成する、ことを特徴とする請求項7乃至9のいずれか一に記載の処理装置の操作方法。
【請求項11】
前記第3ステップでは、前記携帯端末を動かした結果、前記所定の処理装置が、前記携帯端末から所定の距離範囲内、又は、前記携帯端末の特定の方向に存在しなくなったときは、前記表示部に表示した前記操作画面を消去する、ことを特徴とする請求項7乃至10のいずれか一に記載の処理装置の操作方法。
【請求項12】
前記第3ステップでは、前記操作画面に、前記携帯端末にログインしているユーザの権限に応じた情報を表示する、ことを特徴とする請求項7乃至11のいずれか一に記載の処理装置の操作方法。
【請求項13】
前記第2ステップでは、前記携帯端末が、前記所定の処理装置の状態を示すステータス情報を取得し、
前記第3ステップでは、前記表示部に前記操作画面を表示する前に、前記ステータス情報を表示する、ことを特徴とする請求項7乃至12のいずれか一に記載の処理装置の操作方法。
【請求項14】
前記操作画面は、前記所定の処理装置に実行させる機能を選択するための第1画面と、前記所定の処理装置に処理させる電子データを選択するための第2画面と、を含み、
前記第3ステップでは、前記第1画面で機能が選択されたら、前記第2画面を表示する、ことを特徴とする請求項7乃至13のいずれか一に記載の処理装置の操作方法。
【請求項15】
前記第1ステップでは、1又は複数の電子データに関連付けられた位置情報を記述したデータ管理テーブルを記憶し、
前記第2ステップでは、前記データ管理テーブルを参照して、前記携帯端末から所定の距離範囲内、かつ、前記携帯端末の特定の方向に存在する電子データを特定し、
前記第3ステップでは、前記所定の電子データを特定するアイコンを前記表示部に表示する、ことを特徴とする請求項7乃至13のいずれか一に記載の処理装置の操作方法。
【請求項16】
前記第3ステップでは、前記アイコンが選択されたら、当該アイコンで特定される電子データに応じた前記操作画面を表示する、ことを特徴とする請求項15に記載の処理装置の操作方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【公開番号】特開2012−90077(P2012−90077A)
【公開日】平成24年5月10日(2012.5.10)
【国際特許分類】
【出願番号】特願2010−235111(P2010−235111)
【出願日】平成22年10月20日(2010.10.20)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
2.QRコード
【出願人】(303000372)コニカミノルタビジネステクノロジーズ株式会社 (12,802)
【Fターム(参考)】
【公開日】平成24年5月10日(2012.5.10)
【国際特許分類】
【出願日】平成22年10月20日(2010.10.20)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
2.QRコード
【出願人】(303000372)コニカミノルタビジネステクノロジーズ株式会社 (12,802)
【Fターム(参考)】
[ Back to top ]