説明

手話動作生成装置及びコミュニケーションロボット

【課題】ロボットによる手話として採用できる単語の組み合わせを増大させることができる手話動作生成装置及びコミュニケーションロボットを提供する。
【解決手段】手話動作生成装置150は、単語列入力手段151と、単語列として入力された単語ペアについて単語毎の手話動作データをそれぞれ抽出し、当該単語ペアのうちの前単語を意味する手話動作の終点の位置と後単語を意味する手話動作の始点の位置とを結ぶ軌道を生成する軌道生成手段152と、各軌道においてロボットRの部位間で干渉が生じるか判定する干渉判定手段153と、単語毎の手話動作を繋げる動作連結手段154と、干渉が生じる場合、当該部位間の干渉が生じないように当該単語ペアの手話動作としての位置座標または速度を、当該単語ペアにおいて前単語の意味および後単語の意味を維持可能な予め定められたシフト量または評価関数の閾値範囲内で調整する動作調整手段170とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ロボットを用いて手話を行う技術に係り、特に、ロボットの手話に用いる単語毎の手話動作を繋げた手話動作を生成する手話動作生成装置及びこれを備えたコミュニケーションロボットに関する。
【背景技術】
【0002】
従来、人とのコミュニケーションを意図したコミュニケーションロボットを用いて手話を行う技術が特許文献1に記載されている。ただし、特許文献1に記載されたコミュニケーションロボットは、画面表示されたアニメーションであって、実物のロボットではない。そのため、実際のロボットで手話を行う場合に必要となる、両腕に対応したアームの軌道生成や例えば軸周りの回転等の動作生成については特許文献1には開示されていない。実際のロボットにおいてアームが他の部材等に衝突する場合、ロボットのパーツの劣化や故障の原因になる。以下、アームが他の部材等に接触せずとも障害になる等の好ましくない状態になることや、接触や衝突を総称して干渉と呼ぶ。
【0003】
アームが干渉しないための技術は産業用ロボットの分野では種々知られている。すなわち、工場等の作業場で用いられている種々の作業ロボットのアームの軌道生成技術は多く開示されている(例えば、特許文献2参照)。これら作業ロボットのアームの軌道生成技術は、アームの先端の把持部(ハンド)とワークとの位置関係を考慮して作業を行うことを前提とした軌道生成技術である。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3235622号公報
【特許文献2】特開2011−115877号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、作業ロボットのアームの軌道生成技術は、ハンドとワークとの位置関係を考慮して作業を行うことを前提としているため、これをそのまま適用して手話を行うと、伝達したい内容とは異なる意味を生成してしまう場合がある。それは、手話の場合、手の向きや姿勢によって、伝わる内容が変わるので、アームの干渉が起こらなければ軌道をどのように変えてもよいというわけにはいかないという制限があるからである。
【0006】
また、手話翻訳された1つの単語(手話単語)の動きをアームの干渉が生じないように予め決定することは比較的容易であるが、手話で伝えたい内容は、複数の単語で表現することが一般的である。しかしながら、手話単語と手話単語とを単純につなげる“わたり”といわれる軌道においてアームの干渉が生じる場合、当該2つの単語の組み合わせで表す手話動作を実行することが困難であり、その結果、ロボットによる手話の表現が制限されてしまうという問題がある。
【0007】
そこで、本発明では、前記した問題を解決し、ロボットによる手話として採用できる単語の組み合わせを増大させることができる手話動作生成装置及びコミュニケーションロボットを提供することを課題とする。
【課題を解決するための手段】
【0008】
前記課題を解決するために、本発明に係る手話動作生成装置は、ロボットのパーツである胴体部と、この胴体部にそれぞれ連結された頭部と、複数の腕部および脚部と、制御部とを備えたロボットの手話に用いる単語毎の手話動作を繋げることで単語列毎の手話動作を生成する手話動作生成装置であって、前記ロボットが単語単位では手話のために用いる部位間で干渉が生じないように予め作成された手話動作データを当該手話動作の意味する単語と対応付けて格納した手話単語データベースを記憶する記憶手段と、前記単語列を入力する単語列入力手段と、前記入力された単語列において連続した2つの単語からなる単語ペアについて前記手話単語データベースから手話動作データをそれぞれ抽出し、前記抽出した手話動作データに基づいて、当該単語ペアのうちの前単語を意味する手話動作の終点の位置と、後単語を意味する手話動作の始点の位置と、を結ぶ軌道を単語ペア毎に生成する軌道生成手段と、前記生成した各軌道において前記ロボットが手話のために用いる部位間の距離が予め定められた許容範囲を満たさない場合、当該部位間で干渉が生じると判定する干渉判定手段と、前記ロボットの部位間に干渉が生じないように前記入力された単語列に対して生成された各軌道を介して単語毎の手話動作を繋げる動作連結手段と、前記単語ペアについて生成した軌道において前記ロボットのいずれかの部位間に干渉が生じると判定された場合、前記許容範囲を満たすように、かつ、手話動作としての単語ペアにおいて前単語の意味および後単語の意味を維持可能なものとして予め定められた所定の閾値範囲を満たすように、当該単語ペアの手話動作としての位置座標または速度を調整する動作調整手段と、を備えることを特徴とする。
【0009】
かかる構成によれば、手話動作生成装置は、入力された単語列において連続した2つの単語からなる単語ペア毎に生成する軌道においてロボットが手話のために用いる部位間で干渉が生じるか否かを順次判定する。そして、手話動作生成装置は、ロボットの部位間に干渉が生じないように生成された各軌道を介して単語毎の手話動作を繋げることで、単語列毎の手話動作を生成する。そして、手話動作生成装置は、干渉が生じると判定された場合、許容範囲を満たして干渉が生じないように、かつ、当該単語ペアの各単語の意味を維持しながら、当該単語ペアの手話動作としての位置座標または速度を、予め定められた所定の閾値範囲内で調整する。
【0010】
また、本発明に係る手話動作生成装置は、前記動作調整手段が、前記所定の閾値範囲として、予め定められた位置座標または速度のシフト量の閾値範囲、またはそのシフト量に基づいて算出される評価関数の閾値範囲を用いて、位置座標または速度を調整することが好ましい。
【0011】
また、本発明に係る手話動作生成装置は、前記動作調整手段が、単語ペアにおいて干渉が生じる場合、当該単語ペアの前単語を意味する手話動作の終点の位置座標のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整する終点座標設定手段を備えることが好ましい。
【0012】
かかる構成によれば、手話動作生成装置は、単語ペアにおいて干渉が生じる場合、当該単語ペアの前単語を意味する手話動作の終点の位置座標をシフトすることで、干渉が生じないようにすることができる。また、前単語の手話動作を見る人は、当該前単語の手話の始点から終点に近づくにつれて徐々に意味を視認していくので、終点が僅かにシフトしても、変更した手話動作にて前単語の意味するところを誤解しにくい。また、後単語の動作についてはなんら変更していないため前単語および後単語のそれぞれの意味を維持できる。
【0013】
また、本発明に係る手話動作生成装置は、前記動作調整手段が、前記終点座標設定手段による前記終点の位置座標のシフトにも関わらず当該単語ペアにおいて干渉が生じる場合、前記終点の位置座標のシフトを無効化して元の位置座標に戻し、当該単語ペアの前単語の終点と後単語の始点との間を中継する経由点の位置座標のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整する経由点設定手段を備えることが好ましい。
【0014】
かかる構成によれば、手話動作生成装置は、単語ペアにおいて干渉が生じる場合、当該単語ペアの各単語をつなぐ、わたりにおいて軌道を修正することで干渉が生じないようにすることができる。また、当該単語ペアの各単語の動作に変更を加えないので、手話動作を見る人は、前単語および後単語の意味するところを誤解しにくい。
【0015】
また、本発明に係る手話動作生成装置は、前記動作調整手段が、前記経由点設定手段による前記経由点の位置座標のシフトにも関わらず当該単語ペアにおいて干渉が生じる場合、前記経由点の位置座標のシフトを無効化して元の位置座標に戻し、当該単語ペアの後単語を意味する手話動作の速度のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整するタイミング変更手段を備えることが好ましい。
【0016】
かかる構成によれば、手話動作生成装置は、単語ペアにおいて干渉が生じる場合、当該単語ペアの後単語を意味する手話動作の速度を変更することで、干渉が生じないようにすることができる。また、当該後単語の手話の始点から終点までの間に手先が動く方向や手の形については変更しないので、後単語の手話動作を見る人は、後単語の意味するところを誤解しにくい。また、前単語の動作についてはなんら変更していないため前単語および後単語のそれぞれの意味を維持できる。
【0017】
また、本発明に係る手話動作生成装置は、前記終点座標設定手段が、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアの前単語について計算した結果が当該単語ペアの前単語の意味を維持可能な所定範囲の値になるように、前単語を意味する手話動作の終点の位置座標をシフトすることが好ましい。
【0018】
また、本発明に係る手話動作生成装置は、前記経由点設定手段が、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアについて計算した結果が当該単語ペアの前単語および後単語の意味を維持可能な所定範囲の値になるように、前記経由点の位置座標をシフトすることが好ましい。
【0019】
また、本発明に係る手話動作生成装置は、前記タイミング変更手段が、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアの後単語について計算した結果が当該単語ペアの後単語の意味を維持可能な所定範囲の値になるように、後単語を意味する手話動作の速度を変更することが好ましい。
【0020】
かかる構成によれば、手話動作生成装置は、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を用いて、前単語、後単語または双方の意味を維持できるように干渉を回避するので、評価関数を予め設定しておくことによって、ロボットによる手話として採用できる単語の組み合わせとしてふさわしいか否かの基準を明確に定めることができる。
【0021】
また、本発明に係るコミュニケーションロボットは、ロボットのパーツである胴体部と、この胴体部にそれぞれ連結された頭部と、複数の腕部および脚部と、制御部とを備えるコミュニケーションロボットであって、前記制御部が、前記手話動作生成装置と、表出する手話動作を決定して前記決定された手話動作を表す単語列を前記手話動作生成装置に入力する動作決定部と、前記手話動作生成装置で生成された単語列毎の手話動作に基づいて、前記入力された単語列を意味する手話動作を実行する動作実行部と、を備えることを特徴とする。
【0022】
かかる構成によれば、コミュニケーションロボットは、手話動作生成装置を備えており、腕部の干渉を回避しつつ意味が通じるように生成された単語列毎の手話動作に基づいて動作することで、干渉が発生せずに手話動作を行うことができる。
【発明の効果】
【0023】
本発明によれば、ロボットによる手話として採用できる単語の組み合わせを増大させることができる。したがって、本発明の手話動作生成装置は単語列による一連の手話動作を数多く汎用的に生成することができる。そのため、本発明のコミュニケーションロボットは、数多くの手話を行うことによりスムーズにコミュニケーションを行うことができる。
【図面の簡単な説明】
【0024】
【図1】本発明の実施形態に係る手話動作生成装置を含むロボットの構成を模式的に示すブロック図である。
【図2】本発明の実施形態に係るロボットの外観を模式的に示す側面図である。
【図3】図2のロボットの駆動構造を模式的に示す斜視図である。
【図4】図1の手話動作生成装置の軌道生成手段にて並べる手話単語の単語データの概念図である。
【図5】図1の手話動作生成装置の終点座標設定手段にて前単語の単語データに設定する終点座標の概念図であって、(a)は設定前に並べた単語ペアの単語データ、(b)は設定後に並べた単語ペアの単語データ、(c)は設定後に単語ペアの後単語を置き換えた例を示している。
【図6】図1の手話動作生成装置の経由点設定手段にて単語データ間に設定する経由点の概念図であって、(a)は設定前に並べた単語ペアの単語データ、(b)は設定後に並べた単語ペアの単語データを示している。
【図7】図1の手話動作生成装置のタイミング変更手段にて後単語の単語データに設定する動作速度の概念図であって、(a)は設定前に並べた単語ペアの単語データ、(b)は設定後に並べた単語ペアの単語データを示している。
【図8】図1の手話動作生成装置による処理の流れの概略を示すフローチャートである。
【図9】図8の単語間動作調整処理を示すフローチャートである。
【図10】図9の単語間動作調整処理の続きを示すフローチャートである。
【図11】図10の単語間動作調整処理の続きを示すフローチャートである。
【発明を実施するための形態】
【0025】
本発明の手話動作生成装置およびコミュニケーションロボットを実施するための形態(以下「実施形態」という)について図面を参照して詳細に説明する。以下では、一例として、コミュニケーションロボットが手話動作生成装置を備えているものとする。
【0026】
[1.ロボットシステム]
図1に示すように、コミュニケーションロボット(以下、単にロボットRという)を含むロボットシステムは、ロボットRと、このロボットRと無線通信によって接続された無線基地局1と、この無線基地局1とロボット専用ネットワーク2を介して接続された管理用コンピュータ3とを備える。
【0027】
管理用コンピュータ3は、ロボットRを管理するものであり、無線基地局1、ロボット専用ネットワーク2を介してロボットRの移動や発話などの各種制御を行うと共に、ロボットRに対して必要な情報を提供する。ここで、必要な情報とは、例えば、ロボットRの周辺の地図、発話データ、手話動作データなどがこれに相当し、これらの情報は、管理用コンピュータ3に設けられた記憶手段に記憶されている。ロボット専用ネットワーク2は、無線基地局1と、管理用コンピュータ3と、図示しない外部ネットワークとを接続するものであり、LANなどにより実現される。外部ネットワークには図示しない端末が接続されて管理用コンピュータ3に情報を登録したり登録内容を変更したりすることができる。
【0028】
[2.ロボットの構成の概要]
本発明の実施形態に係るロボットの構成の模式図を図1に示し、その外観の模式図を図2に示す。ここでは、自律移動型の脚式の2足歩行ロボットであって、手話動作可能な人型ロボットを一例として説明する。ロボットRは、管理用コンピュータ3から入力された実行命令に従ってタスクとして手話動作を実行する。
【0029】
ロボットRは、図2に示すように、ロボットのパーツとして、脚部R1、胴体部R2、腕部R3、頭部R4、および制御装置搭載部R5を有しており、胴体部R2にそれぞれ接続された脚部R1、腕部R3、頭部R4は、それぞれアクチュエータにより駆動され、自律移動制御部130(図1参照)により2足歩行の制御がなされる。
【0030】
ロボットRは、脚部R1、胴体部R2、腕部R3、頭部R4、および制御装置搭載部R5に加えて、これら各部R1〜R5の適所に、図1に示すように、例えば音声処理部110、無線通信部120、自律移動制御部130、主制御部(制御手段)140を有する。
【0031】
音声処理部110は、主制御部140からの発話指令に基づいてスピーカSに音声を出力したり、図示しないマイクから入力された音声データから文字情報(テキストデータ)を生成して主制御部140に出力したりするものである。なお、頭部R4の内部にはカメラが配設されており、カメラによって取り込んだ画像を図示しない画像処理部で処理することで、ロボットRは、周囲の障害物や人物の認識を行うことができる。
【0032】
無線通信部120は、管理用コンピュータ3とデータの送受信を行う通信装置である。無線通信部120は、例えば、携帯電話回線やPHS(Personal Handyphone System)回線などの公衆回線や、IEEE802.11b規格に準拠するワイヤレスLANなどの、近距離無線通信を選択して利用する。
【0033】
自律移動制御部130は、主制御部140の指示に従い脚部R1、胴体部R2、腕部R3および頭部R4を駆動するものである。この自律移動制御部130は、図示を省略するが、脚部R1の股関節、膝関節、足首関節を駆動させる足制御部、腕部R3の肩関節、肘関節、手首関節を駆動させる腕制御部、腕部R3の手の先の指関節を駆動させる手制御部、腕部R3に対して胴体部R2を水平方向に回転駆動させる腰制御部、頭部R4の首関節を駆動させる首制御部を有している。これら足制御部、腕制御部、手制御部,腰制御部および首制御部は、脚部R1、胴体部R2、腕部R3および頭部R4を駆動するアクチュエータに駆動信号を出力する。
【0034】
主制御部140は、音声処理部110、無線通信部120、自律移動制御部130を統括制御するものであり、種々の判断を行ったり、各部の動作のための指令を生成したりする。この主制御部40は、図示を省略するが、手話動作生成装置150以外に、ロボットRの各種タスクを実行するための機能をモジュール化した機能モジュール部を多数備えている。これら機能モジュール部によって、例えば、管理用コンピュータ3と通信を行うための制御、管理用コンピュータ3から取得したタスク実行命令に基づいて所定のタスクを実行するための制御、ロボットRが目的地に移動するための制御等を行うことができる。
【0035】
本実施形態では主制御部140は、手話動作生成装置150を備え、手話動作生成装置150に記憶手段160を備えることとした。これら手話動作生成装置150および記憶手段160の詳細については後記する。なお、ロボットRは、記憶手段160以外に、例えば、一般的なハードディスク等から構成された図示しない主記憶部を備え、主記憶部には、管理用コンピュータ3から送信された必要な情報(ローカル地図データ、会話用データなど)を記憶し、主制御部140の各種動作を行うために必要な情報を記憶する。
【0036】
[3.ロボットの外観]
次に、本発明の実施形態に係るロボットRの外観について説明する。以下の説明において、ロボットRの前後方向にX軸、左右方向にY軸、上下方向にZ軸をとる(図2参照)。図2に示すように、ロボットRは、人間と同じように2本の脚部R1(1本のみ図示)により起立、移動(歩行、走行など)し、胴体部R2、2本の腕部R3(1本のみ図示)および頭部R4を備え、自律して移動する。また、ロボットRは、これら脚部R1、胴体部R2、腕部R3および頭部R4の動作を制御する制御装置搭載部R5を背負う形で背中(胴体部R2の後部)に備えている。
【0037】
[4.ロボットの駆動構造]
続いて、ロボットRの駆動構造について図3を参照して説明する。なお、図3における関節部は、当該関節部を駆動する電動モータにより示されている。
【0038】
(脚部R1)
図3に示すように、左右それぞれの脚部R1は、6個の関節部11R(L)〜16R(L)を備えている。左右12個の関節は、股部(脚部R1と胴体部R2との連結部分)の脚部回旋用(Z軸まわり)の股関節部11R,11L(右側をR、左側をLとする。また、R,Lを付さない場合もある。以下同じ。)、股部のピッチ軸(Y軸)まわりの股関節部12R,12L、股部のロール軸(X軸)まわりの股関節部13R,13L、膝部のピッチ軸(Y軸)まわりの膝関節部14R,14L、足首のピッチ軸(Y軸)まわりの足首関節部15R,15L、および、足首のロール軸(X軸)まわりの足首関節部16R,16Lから構成されている。そして、脚部R1の下には足部17R,17Lが取り付けられている。
【0039】
すなわち、脚部R1は、股関節部11R(L),12R(L),13R(L)、膝関節部14R(L)および足首関節部15R(L),16R(L)を備えている。股関節部11R(L)〜13R(L)と膝関節部14R(L)とは大腿リンク51R,51Lで、膝関節部14R(L)と足首関節部15R(L),16R(L)とは下腿リンク52R,52Lで連結されている。
【0040】
(胴体部R2)
図3に示すように、胴体部R2は、ロボットRの基体部分であり、脚部R1、腕部R3および頭部R4と連結されている。すなわち、胴体部R2(上体リンク53)は、股関節部11R(L)〜13R(L)を介して脚部R1と連結されている。また、胴体部R2は、後記する肩関節部31R(L)〜33R(L)を介して腕部R3と連結されている。また、胴体部R2は、後記する首関節部41,42を介して頭部R4と連結されている。また、胴体部R2は、上体回旋用(Z軸まわり)の関節部21を備えている。
【0041】
(腕部R3)
図3に示すように、左右それぞれの腕部R3は、7個の関節部31R(L)〜37R(L)を備えている。左右14個の関節部は、肩部(腕部R3と胴体部R2との連結部分)のピッチ軸(Y軸)まわりの肩関節部31R,31L、肩部のロール軸(X軸)まわりの肩関節部32R,32L、腕部回旋用(Z軸まわり)の肩関節部33R,33L、肘部のピッチ軸(Y軸)まわりの肘関節部34R,34L、手首回旋用(Z軸まわり)の腕関節部35R,35L、手首のピッチ軸(Y軸)まわりの手首関節部36R,36L、および手首のロール軸(X軸)まわりの手首関節部37R,37Lから構成されている。そして、腕部R3の先端には把持部(ハンド)71R,71Lが取り付けられている。
【0042】
すなわち、腕部R3は、肩関節部31R(L),32R(L),33R(L)、肘関節部34R(L)、腕関節部35R(L)および手首関節部36R(L),37R(L)を備えている。肩関節部31R(L)〜33R(L)と肘関節部34R(L)とは上腕リンク54R(L)で、肘関節部34R(L)と手首関節部36R(L),37R(L)とは前腕リンク55R(L)で連結されている。
【0043】
(頭部R4)
図3に示すように、頭部R4は、首部(頭部R4と胴体部R2との連結部分)のY軸まわりの首関節部41と、首部のZ軸まわりの首関節部42と、を備えている。首関節部41は頭部R4のチルト角を設定するためのものであり、首関節部42は頭部R4のパン角を設定するためのものである。
【0044】
このような構成により、左右の脚部R1は合計12の自由度を与えられ、移動中に12個の関節部11R(L)〜16R(L)を適宜な角度で駆動することで、脚部R1に所望の動きを与えることができ、ロボットRが任意に3次元空間を移動することができる。また、左右の腕部R3は合計14の自由度を与えられ、14個の関節部31R(L)〜37R(L)を適宜な角度で駆動することで、ロボットRが所望の作業を行うことができる。
【0045】
また、足首関節部15R(L),16R(L)と足部17R(L)との間には、公知の6軸力センサ61R(L)が設けられている。6軸力センサ61R(L)は、床面からロボットRに作用する床反力の3方向成分Fx,Fy,Fzと、モーメントの3方向成分Mx,My,Mzと、を検出する。
【0046】
また、手首関節部36R(L),37R(L)と把持部71R(L)との間には、公知の6軸力センサ(移動検出手段)62R(L)が設けられている。6軸力センサ62R(L)は、ロボットRの把持部71R(L)に作用する反力の3方向成分Fx,Fy,Fzと、モーメントの3方向成分Mx,My,Mzと、を検出する。
【0047】
また、胴体部R2には、傾斜センサ63が設けられている。傾斜センサ63は、胴体部R2の重力軸(Z軸)に対する傾きと、その角速度と、を検出する。また、各関節部の電動モータは、その出力を減速・増力する減速機(図示せず)を介して前記した大腿リンク51R(L)、下腿リンク52R(L)などを相対変位させる。これら各関節部の角度は、関節角度検出手段(例えば、ロータリエンコーダ)によって検出される。
【0048】
制御装置搭載部R5は、前記した無線通信部120、自律移動制御部130、主制御部140、バッテリ(図示せず)などを収納している。各センサ61〜63などの検出データは、制御装置搭載部R5内の各制御部に送られる。また、各電動モータは、各制御部からの駆動指示信号により駆動される。
【0049】
[5.主制御部の構成]
主制御部140は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、入出力インタフェース等を備える。
本実施形態では、ロボットRによる手話のための主な構成として、図1に示すように、動作決定部141と、動作実行部142と、手話動作生成装置150とを備えている。
【0050】
動作決定部141は、ロボットRにて表出する手話動作を決定して、この決定された手話動作を表す単語列を手話動作生成装置150に入力するものである。
本実施形態では、ロボットRが手話動作を実行するのと同様なタイミングで手話動作のデータを生成する運用ではなく、事前に手話動作を実行するためのデータを生成することとした。このため、動作決定部141は、手話動作のデータ生成時またはそれよりも前の時点で、表出する手話動作のために予め決定した手話翻訳(単語列)を、例えば無線基地局1から無線通信部120を介して取得し、図示しない主記憶部に格納する。
【0051】
本実施形態では、動作決定部141は、手話動作を生成するための手話動作生成タスクを指示するコマンドを外部から受け付けたとき、または、この手話動作生成タスクを実行するための予め定められたスケジュールにしたがって、手話動作生成装置150に対して、事前に記憶していた手話翻訳(単語列)により手話動作を生成するように指示する。
また、動作決定部141は、手話動作実行時点では、例えば手話動作を行うことを示す手話タスクを指示するコマンドを外部から受け付けたとき、または、この指示タスクを実行するための予め定められたスケジュールにしたがって、決定された手話翻訳(単語列)を手話動作生成装置150に通知することで、当該手話翻訳に対して事前に生成された手話動作のデータを動作実行部142に出力するように指示する。
【0052】
動作実行部142は、手話動作生成装置150で生成された単語列毎の手話動作に基づいて、動作決定部141で決定され入力された単語列を意味する手話動作を実行するものである。
動作実行部142は、手話動作に対応した各単語データ等としての関節角や目標位置等のデータを自律移動制御部130に出力し、手話動作の実行を自律移動制御部130に指示する。自律移動制御部130が手話動作の関節角データ等を解釈し、腕部R3等を駆動するための駆動部(アクチュエータ)の電動モータを動かすモータ駆動信号を生成する。これにより、ロボットRは、手話動作を実行する。
動作実行部142は、ロボットRが手話と同時に手話の意味を発話する場合に、手話動作に対応した各単語データ等を自律移動制御部130に出力する際に、手話動作と発話音声とを同期させるための指示信号を音声処理部110に出力する。
【0053】
[6.手話動作生成装置]
手話動作生成装置150は、ロボットRの手話に用いる単語毎の手話動作を繋げることで単語列毎の手話動作を生成するものである。この手話動作生成装置150は、図1に示すように、単語列入力手段151と、軌道生成手段152と、干渉判定手段153と、動作連結手段154と、記憶手段160と、動作調整手段170と、を主に備える。
【0054】
単語列入力手段151は、単語列を入力するものである。単語列は、コミュニケーションのために外部に提供する情報の内容を示す文章として予め並べられている。本実施形態では、単語列入力手段151は、動作決定部141から、事前に記憶している手話翻訳(単語列)により手話文章を作成する指示を受けたときに、図示しない主記憶部から手話翻訳(単語列)を読み出して軌道生成手段152に出力する。
【0055】
軌道生成手段152は、単語列入力手段151から入力された単語列において連続した2つの単語からなる単語ペアについて手話単語データベース161から手話動作データをそれぞれ抽出する。軌道生成手段152は、単語ペアに対して抽出した手話動作データに基づいて、当該単語ペアのうちの前単語を意味する手話動作の終点の位置と、後単語を意味する手話動作の始点の位置と、を結ぶ軌道を単語ペア毎に生成する。
【0056】
ここで、軌道の生成方法は、特に限定されず、例えば線形補間、2次補間または3次補間等の一般的な内挿により、前単語を意味する手話動作の終点の位置と、後単語を意味する手話動作の始点の位置との2点間を滑らかにつなげればよい。
軌道生成手段152は、まず、単語間のわたりをつなぐ一般的な軌道を仮に生成する。この仮に生成した軌道にて干渉が生じる場合、生じないような軌道を生成(再生成)するので、最初に生成した軌道は、この意味で仮の軌道を示す。なお、仮の軌道にて干渉が生じない場合、この軌道がそのまま手話動作における単語間のわたりとして採用される。
【0057】
干渉判定手段153は、軌道生成手段152で
生成した各軌道においてロボットRが手話のために用いる部位間の距離が予め定められた許容範囲を満たさない場合、当該部位間で干渉が生じると判定するものである。
干渉判定手段153は、干渉が生じると判定した場合、干渉を示すステータス信号を動作調整手段170に出力する。ステータス信号とは、後記する動作調整手段170において、干渉を示すステータス信号に基づいて動作の調整を行う際に用いられるものである。本実施形態の場合、このステータス信号には、ロボットRのどの部位とどの部位との間に干渉が生じるかを示すデータ(干渉部位情報)と、干渉の程度を示すデータ(距離閾値との差分情報)と、干渉が生じている区間(干渉時間情報)とが含まれている。
【0058】
ここで、干渉とは、腕部R3が他の部位に接触した状態や衝突した事象を指すだけではない。接触せずとも予め定められた距離よりも近づく状態に達したときに干渉が生じたと見なす。アームの干渉判定は、公知の一般的な干渉判定方法を用いることができる。例えば、ロボットの関節の間に配置されたリンク(アーム)等を円筒(シリンダー)とみなして円筒の中心軸間距離が許容値を下回って円筒がめり込んだときに干渉が生じたことを検知するモデルを採用することができる。
【0059】
また、部位間の干渉とは、手話動作なので腕部R3を含み、具体的には、右の腕部R3(R)と左の腕部R3(L)との干渉、腕部R3と頭部R4との干渉、腕部R3と胴体部R2との干渉、腕部R3と脚部R1との干渉を含む。腕部R3の干渉とは、例えば肩部、上腕部、腕部、前腕部、手首部、把持部(ハンド)、手の先の指部といった人体のように区分した場合の部位と他の部位との干渉を意味する。頭部R4の干渉とは、例えば首部を含み人体のように区分した場合の部位と腕部R3との干渉を意味する。胴体部R2との干渉とは、例えば腰部を含み人体のように区分した場合の部位と腕部R3との干渉を意味する。脚部R1との干渉とは、例えば大腿部や膝部を含み人体のように区分した場合の部位と腕部R3との干渉を意味する。
【0060】
動作連結手段154は、入力された単語列に対して生成された各軌道を介して単語毎の手話動作を繋げるものである。動作連結手段154は、ロボットRの部位間に干渉が生じないように生成された各軌道を介して単語毎の手話動作を繋げる。ロボットRの部位間に干渉が生じると判定された場合、動作連結手段154は、後記する動作調整手段170による動作調整後に生成された各軌道を介して単語毎の手話動作を繋げる。これらにより単語列毎の手話動作を生成することができる。動作連結手段154は、連結により生成した手話動作のデータを図示しない主記憶部に格納する。例えば前記した手話タスクをロボットRが実行するとき(手話動作実行時)には、動作連結手段154は、この事前に生成された手話動作のデータを読み出して動作実行部142に出力する。
【0061】
記憶手段160は、例えば、一般的なハードディスク等から構成され、手話単語データベースを格納している。
手話単語データベース161は、ロボットが単語単位では手話のために用いる部位間で干渉が生じないように予め作成された手話動作データを当該手話動作の意味する単語と対応付けて格納したものである。
【0062】
手話動作データとは、手話以外のロボット動作においてロボットRに所望の姿勢をとらせるために通常用いられているロボット動作データであり、ここでは手話に関係するため、手話動作データと表記した。なお、ロボット動作データには、ロボットRの各部R1〜R4におけるそれぞれの関節の関節角についての時刻毎のパラメータ値の集合や、動作開始座標、動作終点座標(目標位置)等を含む。
【0063】
以下では、手話単語の意味する所定期間の動作を行うための手話動作データのことを単語データと呼ぶ。ここで、単語データについて図4の概念図を参照して説明する。
図4では、一例として、口語の「私は手話ができます」という文章を手話翻訳した単語列として、「“私” “手話” “できる” “です” “ホーム戻り”」に対応した5つの単語データ401,402,403,404,405を示している。
なお、“ホーム戻り”とは、ホームという元の基本姿勢に戻る動作を意味する。
これらの例では、各単語データを水平方向の帯状データとして模式的に示す。なお、各単語データの水平方向は手話の動きに伴う時間経過を示している。
【0064】
単語データ401は、図示するように前半の準備部401aと、後半の動作部401bとに分かれている。準備部401aと動作部401bとは便宜的に区別したものである。
同様に単語データ402は、準備部402aと動作部402bとに分かれている。
また、単語データ403は、準備部403aと動作部403bとに分かれている。
さらに、単語データ404は、準備部404aと動作部404bとに分かれている。
【0065】
ここで、単語データの動作部とは、この単語データに基づいて手話動作をした場合に、その手話を見ている人が単語の意味を視認できるような動きをするためのロボット動作データを示す。
また、この場合、単語データの準備部とは、単語そのものの意味を直接表しているわけではなく、準備としてのなんらかの動きをするためのロボット動作データを示す。
【0066】
例えば、手話の開始時刻の特徴点の位置を、「両手を水平方向に最大限に広げた状態」の両手先の位置とした場合を想定する。この場合、手話動作として、両手先の位置の距離が「いまだ最大限には達していない状態(P1)」→「最大限に達した状態(P2)」→「最大限ではなくなった状態(P3)」という状態遷移を人が視認したときに、手話で伝えたい意味を意図する単語の動きを開始した時点は、状態(P2)の時点であったと解釈できる。この場合、状態(P1)から状態(P2)までの動作に対応したデータが単語データの準備部に記載される。
【0067】
例えば両腕を動かす手話の場合、単語データの準備部には、両腕の手話動作開始点の位置として、両手を水平方向に最大限に広げたときの手先の位置座標といった位置データや、何秒後にその位置座標に到達すればよいかといった時間データが部位毎に含まれている。なお、この例では、状態(P2)以降の動作に対応したロボット動作データは単語データの動作部に記載される。
【0068】
また、図4では、それぞれの単語データ間に、わたり411,412,413,414が設定されていることを便宜的に示している。実際には、わたり411,412,413,414は、前単語の意味を伝える手話動作と、後単語の意味を伝える手話動作との間をつなぐ、意味のない動作であって、本実施形態においては、軌道生成手段152が、前の単語データと、後の単語データとの間に生成する軌道に相当する。
図1に戻って手話動作生成装置150の構成の説明を続ける。
【0069】
[7.動作調整手段]
動作調整手段170は、干渉判定手段153にて単語ペアについて生成した軌道においてロボットRのいずれかの部位間に干渉が生じると判定された場合、当該単語ペアの手話動作としての位置座標または速度を調整するものである。この動作調整手段170は、干渉判定手段153にて判定に用いる部位間の距離の許容範囲を満たすように手話動作を調整すると共に、予め定められた所定の閾値範囲を満たすように手話動作を調整する。ここで、所定の閾値範囲は、手話動作としての単語ペアにおいて前単語の意味および後単語の意味を維持可能なものとなるように定められている。
本実施形態では、動作調整手段170は、前記所定の閾値範囲として、予め定められた位置座標または速度のシフト量の閾値範囲、またはそのシフト量に基づいて算出される評価関数の閾値範囲を用いることとした。
この動作調整手段170は、単語ペアの手話動作としての位置座標または速度を調整した後、軌道生成手段152にフィードバックし、軌道生成手段152は、調整後のデータを用いて単語間の軌道を生成する。
【0070】
この動作調整手段170が行う位置座標または速度の調整を単語間動作調整処理と呼ぶ。単語間動作調整処理は、単語に対応した手話動作データの更新や、単語間のわたりに対応したデータの生成を行う処理を示す。
【0071】
本実施形態では、動作調整手段170は、単語間動作調整処理の方式として、後記する第1方式、第2方式、第3方式をそれぞれ行うために、図1に示すように、終点座標設定手段171と、経由点設定手段172と、タイミング変更手段173とを備えると共に、意味判定手段174と、話速調整手段175と、を備えることとした。
【0072】
(終点座標設定手段)
終点座標設定手段171は、単語ペアにおいて干渉が生じる場合、単語間動作調整処理の第1方式として、当該単語ペアの前単語を意味する手話動作の終点の位置座標のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整するものである。
終点座標設定手段171は、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアの前単語について計算した結果が当該単語ペアの前単語の意味を維持可能な所定範囲の値になるように、前単語を意味する手話動作の終点の位置座標をシフトする。
【0073】
終点座標設定手段171の処理の結果、干渉が生じなくなり、単語の意味も維持可能であれば単語間動作調整処理の第1方式が成功し、動作調整手段170は、この情報を軌道生成手段152にフィードバックし、該当する単語間の軌道が確定する。この第1方式が成功しなかった場合、終点座標設定手段171は経由点設定手段172に処理を渡す。なお、本実施形態では、この成否の判定を後記する意味判定手段174で行うこととした。
【0074】
ここで、単語間動作調整処理の第1方式について図5の概念図を参照して説明する。
図5(a)に、図4の概念図と同様な形式で、干渉が生じる場合の単語ペアとして、2つの単語データ501,502を示している。単語データ間には、わたり511が設定されており、ここでロボットRの部位間の干渉が生じる。
単語データ501は、手話により“説明”を意味するロボット動作データであり、便宜的に準備部501aと動作部501bとに分かれている。
単語データ502は、手話により“時間”を意味するロボット動作データであり、便宜的に準備部502aと動作部502bとに分かれている。
つまり、この例では、単語ペアの前単語は“説明”であり、単語ペアの後単語は“時間”である。
【0075】
終点座標設定手段171は、前単語の“説明”を意味する手話動作の終点の位置座標をシフトするために、その単語データ501の動作部501bの終点において、“説明”の手話動作を行う腕部R3の動作終点座標を変更する。
変更後の単語データ501を、図5(b)に示す。図5(b)に示す単語データ501は、便宜的に準備部501aと動作部501cと変更部501dとに分かれている。動作部501cと変更部501dとを合わせたデータは、図5(a)に示す単語データ501の動作部501bに対応している。なお、このとき、当然ながら、後単語の“時間”の単語データ502に変更はない。
【0076】
図5(b)では、終点座標設定手段171が単語データ501において変更した変更部501dを誇張しており、実際には僅かな変更である。本実施形態では、後単語の“時間”に対して前単語の“説明”の単語データ501が更新されたとき、更新された前単語の“説明”を他の後単語に対して適用しても、手話を見ている人が違和感なく視認できる程度の僅かな変更とした。例えば、図5(c)に示すように、単語ペアの前単語として、変更後の単語データ501を用い、後単語として単語データ503を用いてもよい。ここで、単語データ503は、便宜的に準備部503aと動作部503bとに分かれており、わたり512は、わたり511とは異なっている。
【0077】
なお、変更を最小限にするために、終点座標設定手段171は、一方の腕部R3の動作終点座標を変更すればよい。本実施形態では、利き手(右手)の動作終点座標を優先的に変更することとした。具体的な処理の流れについては後記する。
【0078】
(経由点設定手段)
経由点設定手段172は、終点座標設定手段171による終点の位置座標のシフトにも関わらず当該単語ペアにおいて干渉が生じる場合に、単語間動作調整処理の第2方式として、当該単語ペアの前単語の終点と後単語の始点との間を中継する経由点の位置座標のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整するものである。
ここで、経由点設定手段172は、単語間動作調整処理の第1方式を無効化して元の位置座標に戻した後で、単語間動作調整処理の第2方式を実行する。
経由点設定手段172は、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアについて計算した結果が当該単語ペアの前単語および後単語の意味を維持可能な所定範囲の値になるように、経由点の位置座標をシフトする。
【0079】
経由点設定手段172の処理の結果、干渉が生じなくなり、単語の意味も維持可能であれば単語間動作調整処理の第2方式が成功し、動作調整手段170は、この情報を軌道生成手段152にフィードバックし、該当する単語間の軌道が確定する。この第2方式が成功しなかった場合、経由点設定手段172はタイミング変更手段173に処理を渡す。なお、本実施形態では、この成否の判定を後記する意味判定手段174で行うこととした。
【0080】
ここで、単語間動作調整処理の第2方式について図6の概念図を参照して説明する。
図6(a)に、図4の概念図と同様な形式で、干渉が生じる場合の単語ペアとして、2つの単語データ601,602を示している。単語データ間には、わたり611が設定されており、ここでロボットRの部位間の干渉が生じる。
単語データ601は、手話により“つなげる”を意味するロボット動作データであり、便宜的に準備部601aと動作部601bとに分かれている。
単語データ602は、手話により“方法”を意味するロボット動作データであり、便宜的に準備部602aと動作部602bとに分かれている。
つまり、この例では、単語ペアの前単語は“つなげる”であり、単語ペアの後単語は“方法”である。
【0081】
経由点設定手段172は、前単語の“つなげる”を意味する手話動作と、後単語の“方法”を意味する手話動作との間に軌道生成手段152が最初に生成した軌道(仮の軌道)を示すわたり611において、この仮の軌道における経由点をシフトする。言い換えれば、仮の軌道における経由点の代わりに、別の経由点を追加する。この経由点の追加を模式的に図6(b)に示す。図6(b)に示すように、単語データ601,602には変更はないが、わたり611が経由点621に置換されている。経由点設定手段172は、経由点621のデータを新たに生成する。
【0082】
なお、変更を最小限にするために、経由点設定手段172は一方の腕部R3について、前単語の動作終点座標と、後単語の動作始点座標と、の間に経由点を追加すればよい。本実施形態では、単語間に経由点として、利き手(右手)の動作において優先的に経由点を追加することとした。具体的な処理の流れについては後記する。
【0083】
(タイミング変更手段)
タイミング変更手段173は、経由点設定手段172による経由点の位置座標のシフトにも関わらず当該単語ペアにおいて干渉が生じる場合に、単語間動作調整処理の第3方式として、当該単語ペアの後単語を意味する手話動作の速度のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整するものである。
ここで、タイミング変更手段173は、単語間動作調整処理の第2方式を無効化して元の位置座標に戻した後で、単語間動作調整処理の第3方式を実行する。
タイミング変更手段173は、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアの後単語について計算した結果が当該単語ペアの後単語の意味を維持可能な所定範囲の値になるように、後単語を意味する手話動作の速度を変更する。
【0084】
タイミング変更手段173の処理の結果、干渉が生じなくなり、単語の意味も維持可能であれば単語間動作調整処理の第3方式が成功し、動作調整手段170は、この情報を軌道生成手段152にフィードバックし、該当する単語間の軌道が確定する。この第3方式が成功しなかった場合、タイミング変更手段173はエラーを記録し、処理を終了する。なお、本実施形態では、この成否の判定を後記する意味判定手段174で行うこととした。
【0085】
ここで、単語間動作調整処理の第3方式について図7の概念図を参照して説明する。
図7(a)に、図4の概念図と同様な形式で、干渉が生じる場合の単語ペアとして、2つの単語データ701,702を示している。単語データ間には、わたり711が設定されており、ここでロボットRの部位間の干渉が生じる。
単語データ701は、手話により“集める”を意味するロボット動作データであり、便宜的に準備部701aと動作部701bとに分かれている。
単語データ702は、手話により“きれい”を意味するロボット動作データであり、便宜的に準備部702aと動作部702bとに分かれている。
つまり、この例では、単語ペアの前単語は“集める”であり、単語ペアの後単語は“きれい”である。
【0086】
また、図7(a)には、横軸に時間軸をとったグラフにより、わたり711で右の腕部R3(R)と左の腕部R3(L)とが干渉する様子を模式的に表している。このグラフでは、右の腕部R3(R)と左の腕部R3(L)とが単語データ702の例えば準備動作のある時刻(t0)からある本動作の開始時刻(t2)まで、同じタイミングで動作していたことを示す。つまり、棒グラフは、各腕部の準備動作期間を示している。
【0087】
この場合に、本実施形態では、後単語の“きれい”を意味する手話動作の速度の変更を最小限にするために、タイミング変更手段173は、後単語の“きれい”の単語データ702の準備部702aに記載された時間データを調整することで、準備動作の速度を変更することとした。相対速度を変更できればよいので、利き手(右手)の動作において優先的に速度を変更することとした。
単語データ702の準備部702aに記載された時間データを調整することとは、後単語の“きれい”を意味する手話動作の軌道は同じであるが、部位毎に速度の異なった、同じ単語を追加登録することを意味する。よって、軌道生成手段152は、当該単語ペアについての後単語については、この追加登録された手話動作データを用いて、前単語の“集める”との軌道を再度生成する。
【0088】
この例では、“集める”の手話動作の終了時には、3次元空間上で両手の手先を近づけて両方の手の平が下方または胴体部R2側を向いてほぼ同じ高さに位置している。
また、“きれい”の手話動作の開始時には、左手の手先を前方に向けて手の平を上に向け、かつ、右手の手先を左方に向けて左手のやや上方で胴体部R2寄りの位置で手の平を下方に向ける必要がある。よって、わたりにおける干渉を回避するために、右の手の平を通常よりも早いタイミングで逃がす動きができるように、後単語の単語データの準備部における動作(準備動作)において、右の腕部R3(R)の速度を大きくして右手の動作を早く終わらせるようにした。
【0089】
図7(b)のグラフは、図7(a)と同様のグラフを表している。ここで、左右の手が、異なる速度、異なるタイミングで動作していることを分かり易く示すため、2つの棒グラフの始点を時刻(t0)に揃え、左の腕部R3(L)が時刻(t0)から時刻(t2)まで動き、かつ、右の腕部R3(R)が、時刻(t2)よりも短い時刻(t1)まで動くこととした。なお、具体的な処理の流れについては後記する。
【0090】
(意味判定手段)
意味判定手段174は、干渉判定手段153にて干渉があると判定した箇所について、終点座標設定手段171、経由点設定手段172またはタイミング変更手段173による動作調整処理によって干渉がなくなる状態となったときに、当該単語ペアの前単語および後単語の意味を維持できているか否かを判別するものである。
【0091】
意味判定手段174は、単語間動作調整処理の第1方式によって干渉がなくなる状態となった場合、当該単語ペアの前単語の意味を維持できるか否かを評価関数を用いて判別する。
意味判定手段174は、単語間動作調整処理の第2方式によって干渉がなくなる状態となった場合、当該単語ペアの前単語および後単語の意味を維持できるか否かを評価関数を用いて判別する。
意味判定手段174は、単語間動作調整処理の第3方式によって干渉がなくなる状態となった場合、当該単語ペアの後単語の意味を維持できるか否かを評価関数を用いて判別する。
【0092】
ここで、評価関数の関数形、評価関数に入力するパラメータ、判定の基準となる数値範囲等については、実測やシミュレーションによる推定によって予め決定されている。
本実施形態では、意味判定手段174は、一例として、次の式(1)で示す評価関数Jを用いることとした。
【0093】
J=ω1×Δ1+ω2×Δ2+ω3×Δ3… 式(1)
【0094】
式(1)において、Δ1は単語間動作調整処理の第1方式により生じる「前単語の終点座標の標準からのズレ量」、Δ2は単語間動作調整処理の第2方式により生じる「経由点の標準からのズレ量」、Δ3は単語間動作調整処理の第3方式により生じる「後単語のタイミングの標準からのズレ量」をそれぞれ示す。また、ω1,ω2,ω3は重みを示す。これら重みの値は適宜設定してよい。
【0095】
ここで、単語間動作調整処理の第1方式を適用したときには、意味判定手段174は、式(1)の右辺のΔ2およびΔ3の値を0とし、第2方式を適用したときにはΔ3およびΔ1の値を0とし、第3方式を適用したときにはΔ1およびΔ2の値を0として評価関数Jを計算する。式(1)で示す評価関数Jは、3つの方式における標準からのズレ量が小さいほど、式(1)の右辺の計算結果が小さくなるので、右辺の計算結果が予め定められた所定値以下である場合に、対象とする単語の意味が維持できていると判定することができる。
【0096】
なお、式(1)において、終点座標のズレ量Δ1や経由点のズレ量Δ2を所定の長さ単位(例えばcm)で表し、タイミングのズレ量Δ3を所定の時間単位(例えば秒)で表したときに、式(1)の第1項の値と第2項の値と第3項の値とが同程度のオーダーであるように調整しておくことができる。
【0097】
また、本実施形態では、単語間動作調整処理の第3方式よりも第2方式を優先し、かつ、第2方式よりも第1方式を優先して独立に適用することとしている。これは、3方式それぞれの方法で同程度のズレ量が生じたときに、単語の意味がよりいっそう維持し易い順序で適用することを示している。言い換えると、第1方式にて単語間動作調整処理が成功せずに第2方式を適用するときには、第1方式のときよりもズレ量の許容範囲を狭めていることになる。さらに、第3方式についても同様である。したがって、式(1)で示す評価関数Jにおいて、重みを表す数値を次の式(2)を満たすように設定することとした。
【0098】
ω1<ω2<ω3 … 式(2)
【0099】
(話速調整手段)
話速調整手段175は、手話と同時に、手話の意味を発話する場合に、手話動作に必要な時間に基づいて話速を調整するものである。話速調整手段175は、手話動作に必要な時間の情報を手話単語データベース161から取得すると共に、音声合成される音声データの発話時間の情報を図示しない主記憶部から取得する。話速調整手段175は、音声データの発話時間を、手話動作に必要な時間に合わせる変化率を算出し、算出した変化率と話速変更の指示とを、合成音声を出力する音声処理部110に対して出力する。これにより、音声処理部110は、図示しない主記憶部に格納されている会話用の発話データと、話速調整手段175からの話速変更の指示と、動作実行部142からの手話動作と同期させるための指示とに基づいて、手話の動きに同期させながら、手話の意味を発話する。
【0100】
なお、終点座標設定手段171、経由点設定手段172またはタイミング変更手段173による動作調整処理によって、手話単語データベース161に登録済みの手話動作に必要な時間の情報が変更される場合には、話速調整手段175は、この変更後の時間情報を用いて話速を調整する。
【0101】
[8.手話動作生成装置による処理の流れ]
手話動作生成装置150による処理の流れについて図8を参照(適宜、図1参照)して説明する。図8は、図1の手話動作生成装置150による処理の流れの概略を示すフローチャートである。
【0102】
まず、手話動作生成装置150は、単語列入力手段151によって、手話翻訳(単語列)を入力する(ステップS1)。そして、手話動作生成装置150は、軌道生成手段152によって、手話単語データベース161から動作を引用し、単語列通り並べる(ステップS2)。そして、軌道生成手段152は、単語と単語との間の軌道をそれぞれ生成する(ステップS3)。
【0103】
そして、手話動作生成装置150は、干渉判定手段153によって、単語と単語との間の各軌道において部位間の干渉があるか否かを判定する(ステップS4)。単語と単語との間の軌道において部位間の干渉があると判定した場合(ステップS4:Yes)、動作調整手段170は、単語間動作調整処理を実行し(ステップS5)、単語と単語との間の各軌道において部位間の干渉が起こらずに、かつ、動作連結手段154が連結した単語列に対応した一連の手話動作が意図した意味を伝えることができれば、単語列毎の手話動作が完成する(ステップS6)。なお、ステップS4において、単語と単語との間の軌道において部位間の干渉がないと判定した箇所については(ステップS4:No)、ステップS5をスキップする。
【0104】
[9.単語間動作調整処理]
単語間動作調整処理は、単語ペア毎に、方式1、方式2、方式3の順に適用する。
(方式1)
まず、方式1では、図9に示すように、単語と単語との間の軌道において部位間の干渉が、左腕部R3(L)と右腕部R3(R)との干渉である場合(ステップS11:Yes)、動作調整手段170の終点座標設定手段171は、部位間の干渉があると判定した箇所について当該単語ペアのうちの前単語の動作部の終点において、右腕部R3(R)の動作終点座標を変更する(ステップS12)。
【0105】
そして、意味判定手段174は、干渉があると判定した箇所について当該単語ペアのうちの前単語の意味を維持できるか否かを判別する(ステップS13)。干渉があると判定した箇所について前単語の意味を維持できる場合(ステップS13:Yes)、当該単語ペアの後単語についてはなんら変更していないため前単語および後単語のそれぞれの意味を維持できるので、終点座標設定手段171は、当該単語ペアについて単語間動作調整に成功する。
【0106】
前記ステップS13において、干渉があると判定した箇所について前単語の意味を維持できない場合(ステップS13:No)、終点座標設定手段171は、前記ステップS12の変更処理をキャンセルする(ステップS14)。そして、終点座標設定手段171は、部位間の干渉があると判定した箇所について当該単語ペアのうちの前単語の動作部の終点において、左腕部R3(L)の動作終点座標を変更する(ステップS15)。
【0107】
そして、意味判定手段174は、干渉があると判定した箇所について当該単語ペアのうちの前単語の意味を維持できるか否かを判別する(ステップS16)。干渉があると判定した箇所について前単語の意味を維持できる場合(ステップS16:Yes)、当該単語ペアの後単語についてはなんら変更していないため前単語および後単語のそれぞれの意味を維持できるので、終点座標設定手段171は、当該単語ペアについて単語間動作調整に成功する。
【0108】
前記ステップS11において、単語と単語との間の軌道において部位間の干渉が、腕部R3と腕部以外との干渉である場合(ステップS11:No)、終点座標設定手段171は、部位間の干渉があると判定した箇所について当該単語ペアのうちの前単語の動作部の終点において、腕部R3の動作終点座標を変更する(ステップS18)。なお、例えば、腕部R3と頭部R4との干渉において、仮に頭部R4の動作終点座標を変更すると、シフト方向によっては、手話の意味に“同意”、“否定”、“希望”等のニュアンスが含まれてしまうため、このような変更は行わないこととした。
続いて、前記ステップS16にて意味判定手段174が前単語の意味を維持できるか否かを判別する。入力された手話翻訳(単語列)において、干渉があると判定した各箇所で単語間動作調整に成功した場合、動作調整手段170は、ステップS6に戻る。
【0109】
前記ステップS16において、干渉があると判定した箇所について前単語の意味を維持できない場合(ステップS16:No)、終点座標設定手段171は、当該箇所についてそれまでに行っている変更処理(前記ステップS12または前記ステップS18)をキャンセルする(ステップS17)。そして、動作調整手段170は、当該箇所について方式2で単語間動作調整をするためにステップS21(図10参照)に進む。
【0110】
(方式2)
次に、方式2では、図10に示すように、方式1で成功しなかった箇所について、部位間の干渉が、左腕部R3(L)と右腕部R3(R)との干渉である場合(ステップS21:Yes)、動作調整手段170の経由点設定手段172は、部位間の干渉があると判定した箇所について当該単語ペアの前単語と後単語との間において、右腕部R3(R)の動作の経由点を追加する(ステップS22)。すなわち、経由点設定手段172は、前単語の動作部の終点において、右腕部R3(R)の動作終点座標よりも後のデータとして経由点の座標データを追加する。
【0111】
そして、意味判定手段174は、干渉があると判定した箇所について当該単語ペアの前単語および後単語の意味を維持できるか否かを判別する(ステップS23)。干渉があると判定した箇所について前単語および後単語の意味を維持できる場合(ステップS23:Yes)、経由点設定手段172は、当該単語ペアについて単語間動作調整に成功する。
【0112】
前記ステップS23において、干渉があると判定した箇所について前単語および後単語の少なくとも1つの意味を維持できない場合(ステップS23:No)、経由点設定手段172は、前記ステップS22の追加処理をキャンセルする(ステップS24)。そして、経由点設定手段172は、部位間の干渉があると判定した箇所について当該単語ペアの前単語と後単語との間において、左腕部R3(L)の動作の経由点を追加する(ステップS25)。すなわち、経由点設定手段172は、前単語の動作部の終点において、左腕部R3(L)の動作終点座標よりも後のデータとして経由点の座標データを追加する。
【0113】
そして、意味判定手段174は、干渉があると判定した箇所について当該単語ペアの前単語および後単語の意味を維持できるか否かを判別する(ステップS26)。干渉があると判定した箇所について前単語および後単語の意味を維持できる場合(ステップS26:Yes)、経由点設定手段172は、当該単語ペアについて単語間動作調整に成功する。
【0114】
前記ステップS21において、部位間の干渉が、腕部R3と腕部以外との干渉である場合(ステップS21:No)、経由点設定手段172は、部位間の干渉があると判定した箇所について当該単語ペアの前単語と後単語との間において、腕部R3の動作の経由点を追加する(ステップS28)。なお、腕部以外の動作の経由点を追加しないこととした理由は方式1の場合と同様の理由である。
続いて、前記ステップS26にて意味判定手段174が前単語および後単語の意味を維持できるか否かを判別する。入力された手話翻訳(単語列)において、干渉があると判定した各箇所で単語間動作調整に成功した場合、動作調整手段170は、ステップS6に戻る。
【0115】
前記ステップS26において、干渉があると判定した箇所について前単語および後単語の意味を維持できない場合(ステップS26:No)、経由点設定手段172は、それまでに行っている追加処理(前記ステップS25または前記ステップS28)をキャンセルする(ステップS27)。そして、動作調整手段170は、当該箇所について方式3で単語間動作調整をするためにステップS31(図11参照)に進む。
【0116】
(方式3)
次に、方式3では、図11に示すように、方式2で成功しなかった箇所について、部位間の干渉が、左腕部R3(L)と右腕部R3(R)との干渉である場合(ステップS31:Yes)、動作調整手段170のタイミング変更手段173は、部位間の干渉があると判定した箇所について当該単語ペアの後単語の準備部において、右腕部R3(R)の動作の速度を変更する(ステップS32)。すなわち、タイミング変更手段173は、後単語の準備部の動作において、右腕部R3(R)の動作の速度と左腕部R3(L)の動作の速度とを相対的に変更し、右腕部R3(R)と左腕部R3(L)との動作タイミングを変更する。
【0117】
そして、意味判定手段174は、干渉があると判定した箇所について当該単語ペアの後単語の意味を維持できるか否かを判別する(ステップS33)。干渉があると判定した箇所について後単語の意味を維持できる場合(ステップS33:Yes)、当該単語ペアの前単語についてはなんら変更していないため前単語および後単語のそれぞれの意味を維持できるので、タイミング変更手段173は、当該単語ペアについて単語間動作調整に成功する。入力された手話翻訳(単語列)において、干渉があると判定した各箇所で単語間動作調整に成功した場合、動作調整手段170は、ステップS6に戻る。
【0118】
前記ステップS33において、干渉があると判定した箇所について後単語の意味を維持できない場合(ステップS33:No)、タイミング変更手段173は、前記ステップS32の変更処理をキャンセルする(ステップS34)。そして、タイミング変更手段173は、当該単語ペアについて単語間動作調整に失敗したことを記録するエラー処理を行い(ステップS35)、動作調整手段170は、ステップS6に戻る。
また、前記ステップS31において、部位間の干渉が、腕部R3と腕部以外との干渉である場合(ステップS31:No)、ステップS35に進む。
【0119】
なお、方式3で成功しなかった箇所の情報について、動作調整手段170は、通信により、管理用コンピュータ3に通知したり、ロボットRの発話により周囲の人物に報知したりしてもよい。これにより、エラーを知ったオペレータが、方式3でも成功しなかった箇所について、当初入力された手話翻訳(単語列)と同様の意図が伝えられる範囲で、前後の単語の少なくとも一方の単語を別の単語に置換した新たな手話翻訳(単語列)を手話動作生成装置150に入力することもできる。
【0120】
以上説明したように、本発明の実施形態に係る手話動作生成装置150は、入力された翻訳(単語列)の単語ペア毎に生成する単語間のわたりの軌道においてロボットRの腕部R3を含む部位間で干渉が生じる場合に、干渉が生じないように、かつ、当該単語ペアの各単語の意味を維持しながら、当該単語ペアの手話動作としての位置座標または速度を、予め定められた閾値範囲内で調整することができる。これにより、単語間のわたりにおいてアームの干渉が生じるような単語の組み合わせであっても、当該2つの単語の組み合わせで表す一連の手話動作を実行することが可能となる。
【0121】
また、次のような運用も可能となる。例えば、仮にロボットアームの干渉が生じないような一連の手話動作に対応した手話文章(単語列)の定型文データが完成しているときに、その中の1つの手話単語を置換した手話動作を新たに生成しようとする場合、置換単語によっては、単語間のわたりの部分でアームの干渉を伴う場合がある。このような場合であっても、本発明の実施形態に係る手話動作生成装置150によれば、アームの干渉が起こらずに、かつ、意図したとおりに手話の意味を保持する軌道を生成できるので、手話文章に対応した一連の手話動作を汎用的に数多く生成することができる。そのため、ロボットRによる手話の表現が豊かになり、コミュニケーションをスムーズに行うことができるようになる。
【0122】
以上、本発明の手話動作生成装置およびこれを備えたコミュニケーションロボットの好ましい実施形態について説明したが、本発明は、前記した実施形態に限定されるものではない。例えば、コミュニケーションロボットが手話動作生成装置を備えているものとして説明したが、例えば、図1に示す管理用コンピュータ3、または、ロボット専用ネットワーク2に外部ネットワークを介して接続された図示しない端末が、手話動作生成装置を備える構成としてもよい。また、一般的なコンピュータに、手話動作生成装置150の各手段を実行させるためのプログラムをインストールすることで、同等の効果を奏することもできる。
【0123】
また、手話動作生成装置150の記憶手段160には、一連の手話動作(単語列の手話動作)を生成するための手話翻訳(単語列)や、生成された手話動作のデータを一時的に記憶してもよい。
また、手話動作生成の過程で、登録済みの手話動作データの更新が必要になった場合、更新データを別途記憶するようにしてもよい。これにより、更新された手話動作データを次回から用いることができる。
また、手話単語データベース161のデータの容量が膨大である場合、本体を管理用コンピュータ3側の蓄積手段に記憶しておき、必要な一部のデータを取得して記憶するようにしてもよい。
【0124】
また、前記実施形態では、コミュニケーションロボットを、自律移動型の脚式の2足歩行ロボットとして説明したが、上半身、特に人体と同様な腕部を備えて手話動作が可能であればよい。また、本発明は、日本語と手話とをほぼ一対一に対応させた日本語対応手話で説明したが、日本語を外国語に置き換えてもよい。
【0125】
また、前記実施形態では、手話動作生成装置150の動作調整手段170は、終点座標設定手段171と、経由点設定手段172と、タイミング変更手段173とを備えるベストモードとして説明したが、このうちの少なくとも1つだけ備える構成としてもよい。なお、2つ以上備える場合、第3方式よりも第2方式および第1方式を優先し、第2方式よりも第1方式を優先して適用することが好ましい。
【0126】
(評価関数についての変形例)
前記実施形態では、手話動作生成装置150の意味判定手段174は、単語間動作調整処理により生じる標準からのズレ量に関する式(1)で示す評価関数Jを用いることとしたが、本発明は、これに限定されるものではなく、例えば以下のように種々の変形が可能である。
【0127】
例えば評価関数として、わたりを含む連続した手話単語の動作の基準となる正解の動きと、当該手話動作について、前単語の終点、わたり、後単語の準備動作のいずれかを変更したサンプル動作との類似度に関する評価関数を用いてもよい。
【0128】
この場合、手話動作生成装置に評価関数を記憶する前に、予め、ロボットによる手話の正解動作および複数のサンプル動作を手話の専門家が観測し、前後の単語の意味が損なわれていないと評価されたサンプル動作を決定し、そのサンプル動作に用いていた単語データとの相関を調べて、特徴量を求め、特徴量の重み等を考慮しながら評価関数と、閾値範囲とを公知の推定方法で求めて適宜設計変更することができる。また、評価関数を実測とシミュレーションとから推定して予め決定するようにしてもよい。
【0129】
また、わたりを変更したサンプル動作については、前後の単語の意味が損なわれていないという制限だけではなく、わたりを含む前後の動きが、他の単語の動きに非類似であるとの制限も加えると、人の誤認識をよりいっそう防止することができるので、そのようにすることが好ましい。
【0130】
また、類似度に関する評価関数を用いる場合、手話動作生成装置に評価関数を記憶する前に、例えば公知の画像処理によって映像の類似度を算出することもできる。このとき、ロボットの腕部等の干渉が生じないことを前提に、ある単語ペアについてロボットによる手話動作の正解の姿勢の映像を基準映像として準備し、ロボットによる手話動作変更後のサンプル動作の姿勢の映像を比較映像として準備する。そして、特徴点抽出の画像処理により、基準映像と比較映像とにおいて関節や手先等の座標位置の特徴量をそれぞれ抽出する。これら特徴点から映像の類似度を求めることができる。そして、基準映像および比較映像を見た専門家の評価と、算出した類似度との相関から評価関数および判定基準値を決定することが可能である。
【0131】
また、単語間動作調整処理の第1方式〜第3方式に合わせて個別の3種類の評価関数を用いるようにしてもよい。
この場合、第1方式用の評価関数には、単語ペアの前単語についての単語データの変更部のデータを含むデータを入力とし、算出結果の類似度により判定することができる。
また、第2方式用の評価関数には、単語ペアの前単語についての単語データと、後単語についての単語データと、わたりに追加した経由点のデータとを含むデータを入力とし、算出結果の類似度により判定することができる。
また、第3方式用の評価関数には、単語ペアの後単語についての単語データの準備部のデータを含むデータを入力とし、算出結果の類似度により判定することができる。
【符号の説明】
【0132】
1 無線基地局
2 ロボット専用ネットワーク
3 管理用コンピュータ
110 音声処理部
120 無線通信部
130 自律移動制御部
140 主制御部(制御部)
141 動作決定部
142 動作実行部
150 手話動作生成装置
151 単語列入力手段
152 軌道生成手段
153 干渉判定手段
154 動作連結手段
160 記憶手段
161 手話単語データベース
170 動作調整手段
171 終点座標設定手段
172 経由点設定手段
173 タイミング変更手段
174 意味判定手段
175 話速調整手段
R ロボット
R1 脚部
R2 胴体部
R3 腕部
R4 頭部
R5 制御装置搭載部
S スピーカ

【特許請求の範囲】
【請求項1】
ロボットのパーツである胴体部と、この胴体部にそれぞれ連結された頭部と、複数の腕部および脚部と、制御部とを備えたロボットの手話に用いる単語毎の手話動作を繋げることで単語列毎の手話動作を生成する手話動作生成装置であって、
前記ロボットが単語単位では手話のために用いる部位間で干渉が生じないように予め作成された手話動作データを当該手話動作の意味する単語と対応付けて格納した手話単語データベースを記憶する記憶手段と、
前記単語列を入力する単語列入力手段と、
前記入力された単語列において連続した2つの単語からなる単語ペアについて前記手話単語データベースから手話動作データをそれぞれ抽出し、前記抽出した手話動作データに基づいて、当該単語ペアのうちの前単語を意味する手話動作の終点の位置と、後単語を意味する手話動作の始点の位置と、を結ぶ軌道を単語ペア毎に生成する軌道生成手段と、
前記生成した各軌道において前記ロボットが手話のために用いる部位間の距離が予め定められた許容範囲を満たさない場合、当該部位間で干渉が生じると判定する干渉判定手段と、
前記ロボットの部位間に干渉が生じないように前記入力された単語列に対して生成された各軌道を介して単語毎の手話動作を繋げる動作連結手段と、
前記単語ペアについて生成した軌道において前記ロボットのいずれかの部位間に干渉が生じると判定された場合、前記許容範囲を満たすように、かつ、手話動作としての単語ペアにおいて前単語の意味および後単語の意味を維持可能なものとして予め定められた所定の閾値範囲を満たすように、当該単語ペアの手話動作としての位置座標または速度を調整する動作調整手段と、
を備えることを特徴とする手話動作生成装置。
【請求項2】
前記動作調整手段は、
前記所定の閾値範囲として、予め定められた位置座標または速度のシフト量の閾値範囲、またはそのシフト量に基づいて算出される評価関数の閾値範囲を用いて、位置座標または速度を調整することを特徴とする請求項1に記載の手話動作生成装置。
【請求項3】
前記動作調整手段は、
単語ペアにおいて干渉が生じる場合、当該単語ペアの前単語を意味する手話動作の終点の位置座標のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整する終点座標設定手段を備えることを特徴とする請求項2に記載の手話動作生成装置。
【請求項4】
前記動作調整手段は、
前記終点座標設定手段による前記終点の位置座標のシフトにも関わらず当該単語ペアにおいて干渉が生じる場合、前記終点の位置座標のシフトを無効化して元の位置座標に戻し、当該単語ペアの前単語の終点と後単語の始点との間を中継する経由点の位置座標のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整する経由点設定手段を備えることを特徴とする請求項3に記載の手話動作生成装置。
【請求項5】
前記動作調整手段は、
前記経由点設定手段による前記経由点の位置座標のシフトにも関わらず当該単語ペアにおいて干渉が生じる場合、前記経由点の位置座標のシフトを無効化して元の位置座標に戻し、当該単語ペアの後単語を意味する手話動作の速度のシフト量またはそのシフト量に基づいて算出される評価関数を予め定められた閾値範囲内で調整するタイミング変更手段を備えることを特徴とする請求項4に記載の手話動作生成装置。
【請求項6】
前記終点座標設定手段は、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアの前単語について計算した結果が当該単語ペアの前単語の意味を維持可能な所定範囲の値になるように、前単語を意味する手話動作の終点の位置座標をシフトすることを特徴とする請求項3ないし請求項5のいずれか一項に記載の手話動作生成装置。
【請求項7】
前記経由点設定手段は、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアについて計算した結果が当該単語ペアの前単語および後単語の意味を維持可能な所定範囲の値になるように、前記経由点の位置座標をシフトすることを特徴とする請求項4ないし請求項6のいずれか一項に記載の手話動作生成装置。
【請求項8】
前記タイミング変更手段は、手話動作における単語の意味の通じる程度に関する予め定められた評価関数を当該単語ペアの後単語について計算した結果が当該単語ペアの後単語の意味を維持可能な所定範囲の値になるように、後単語を意味する手話動作の速度を変更することを特徴とする請求項5ないし請求項7のいずれか一項に記載の手話動作生成装置。
【請求項9】
ロボットのパーツである胴体部と、この胴体部にそれぞれ連結された頭部と、複数の腕部および脚部と、制御部とを備えるコミュニケーションロボットであって、
前記制御部は、
請求項1ないし請求項8のいずれか一項に記載の手話動作生成装置と、
表出する手話動作を決定して前記決定された手話動作を表す単語列を前記手話動作生成装置に入力する動作決定部と、
前記手話動作生成装置で生成された単語列毎の手話動作に基づいて、前記入力された単語列を意味する手話動作を実行する動作実行部と、
を備えることを特徴とするコミュニケーションロボット。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2013−97339(P2013−97339A)
【公開日】平成25年5月20日(2013.5.20)
【国際特許分類】
【出願番号】特願2011−242895(P2011−242895)
【出願日】平成23年11月4日(2011.11.4)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】