説明

通信端末装置、情報制御方法及び制御プログラム

【課題】利用者が電話回線を介した通話手段にて通話中に、利用者の音声情報に基づいて、表示手段に表示する画像情報の表示条件を制御することで、会話の支援を行うことができる通信端末装置を提供する。
【解決手段】
通話中の状態で、利用者の音声を音声信号として検出を開始する(S650)。次に再生指示されたスライドショーIDに対応する画像情報の表示を開始する(S651)。そして通話相手装置へ同期信号を送信し(S652)、音声信号を検出されたかどうかを判断する(S653)。そして、音声信号から画像情報に対応した付属情報であるキーワードが検出されたどうかを判断する(S654)。音声信号からキーワードを検出したと判断した場合(S654:YES)、表示条件変更処理を実行する(S656)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、他の通信端末装置との間で情報の送受信と通話ができる通信端末装置、通信制御方法、制御プログラムに関する。
【背景技術】
【0002】
従来、電話回線を介して他の通信端末装置との間で、お互いの表示画面に共通の画像を表示させながら通話することができる通信端末装置が知られている。さらに、特許文献1に記載の情報通信端末では、通話者の音声情報から感情を自動的に推測して、推測した感情に応じた顔画像を表示させることができる技術も開発されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−352892号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上述の特許文献1に記載の装置では、通話者の感情を検知して、感情に応じた顔画像を表示することで、通話者同士の会話を支援できるようになっているが、会話中に話題が乏しくなり会話が途切れるような場合では、会話を支援することができないという課題がある。
【0005】
本発明は、上記課題を解決するためになされたものであり、利用者が電話回線を介した通話手段にて通話中に、利用者の音声情報に基づいて、表示手段に表示する画像情報の表示条件を制御することで、会話の支援を行うことができる通信端末装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するために、請求項1に係る発明の通信端末装置は、電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を切替えながら表示を制御する表示制御手段とを備えた通信端末装置において、前記画像情報を表示する表示領域を備えた表示手段と、利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる連携手段と、前記通話手段にて行われる前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する音声情報判断手段と、前記音声情報判断手段により前記音声情報が前記所定条件になったと判断した場合、前記連携手段により連携して表示している前記画像情報の表示条件を変更する表示条件変更手段とを備えることを特徴とする。
【0007】
請求項2に係る発明の通信端末装置では、請求項1に記載の発明の構成に加え、前記音声情報判断手段は、前記音声情報に会話が無い状態である無音状態が所定時間以上含まれているかどうかを前記所定条件として判断し、前記表示条件変更手段は、前記音声情報判断手段により、前記無音状態が所定時間以上含まれていると判断された場合、前記表示手段に表示されている前記画像情報を別の画像情報に切替えることを特徴とする。
【0008】
請求項3に係る発明の通信端末装置では、請求項1に記載の発明の構成に加え、前記通信端末装置は、前記画像情報と関連する情報である付属情報を、前記画像情報と対応付けて記憶する付属情報記憶手段と、前記通話手段より取得した前記音声情報を文字情報に変換する変換手段とをさらに備え、前記音声情報判断手段は、前記付属情報記憶手段に記憶されている前記付属情報が、前記変換手段により変換された前記文字情報に含まれているかどうかを前記所定条件として判断することを特徴とする。
【0009】
請求項4に係る発明の通信端末装置では、請求項3に記載の発明の構成に加え、前記表示条件変更手段は、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が、前記連携手段にて連携して表示している前記画像情報の前記付属情報と一致する場合、表示している前記画像情報を別の画像情報に切替えるまでの時間を所定時間長くすることを特徴とする。
【0010】
請求項5に係る発明の通信端末装置では、請求項3乃至4のいずれかに記載の発明の構成に加え、前記表示条件変更手段は、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が、前記連携手段にて連携して表示している前記画像情報の前記付属情報と一致しない場合、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報に対応した前記画像情報を前記付属情報記憶手段から抽出し、抽出された前記画像情報に表示を切替えることを特徴とする。
【0011】
請求項6に係る発明の通信端末装置では、請求項5に記載の発明の構成に加え、前記表示条件変更手段は、前記付属情報に対応した前記画像情報を前記付属情報記憶手段から複数抽出した場合、抽出した複数の前記画像情報のみを切替えながら表示することを特徴とする。
【0012】
請求項7に係る発明の通信端末装置では、請求項6に記載の発明の構成に加え、前記音声情報判断手段は、前記音声情報の音量を計測する音量計測手段を備え、前記音量計測手段により計測された前記音声情報の音量が所定割合以上変化した場合、前記表示条件変更手段は、前記付属情報記憶手段から抽出した複数の前記画像情報の別の画像情報に表示を切替えることを特徴とする。
【0013】
請求項8に係る発明の通信端末装置では、請求項3乃至7のいずれかに記載の発明の構成に加え、前記表示条件変更手段は、前記画像情報の表示を切替えてから所定時間以内に、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が切替え前の前記画像情報に対応した前記付属情報と一致する場合、切替え前の前記画像情報に表示を戻すことを特徴とする。
【0014】
請求項9に係る発明においては、電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を切替えながら表示を制御する表示制御手段とを備えた通信端末装置にて処理する通信制御方法であって、利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により、表示領域を備えた表示手段に表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる連携ステップと、前記通話手段にて行われる前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する音声情報判断ステップと、前記音声情報判断ステップにより前記音声情報が前記所定条件になったと判断した場合、前記連携ステップにより連携して表示している前記画像情報の表示条件を変更する表示条件変更ステップとを処理することを特徴とする。
【0015】
請求項10に係る発明においては、電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を切替えながら表示を制御する表示制御手段とを備えた通信端末装置を実行させる制御プログラムであって、利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により、表示領域を備えた表示手段に表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる連携ステップと、前記通話手段にて行われる前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する音声情報判断ステップと、前記音声情報判断ステップにより前記音声情報が前記所定条件になったと判断した場合、前記連携ステップにより連携して表示している前記画像情報の表示条件を変更する表示条件変更ステップとを前記通信端末装置で実行させることを特徴とする。
【発明の効果】
【0016】
請求項1に係る発明の通信端末装置では、電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を切替えながら表示を制御する表示制御手段とを備えた通信端末装置において、前記画像情報を表示する表示領域を備えた表示手段と、利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる。また、前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する。そして前記音声情報が前記所定条件になったと判断した場合、連携して表示している前記画像情報の表示条件を変更する。よって、利用者が電話回線を介した通話手段にて通話中に、利用者の音声情報に基づいて、表示手段に表示する画像情報の表示条件を変更制御することができる。したがって、通話利用者はお互いに、会話に基づいて表示制御された画像情報を確認することで、話題を変えながら円滑な会話を行うことができる。
【0017】
請求項2に係る発明の通信端末装置では、請求項1に記載の発明の効果に加え、前記音声情報に会話が無い状態である無音状態が所定時間以上含まれているかどうかを前記所定条件として判断し、前記無音状態が所定時間以上含まれていると判断された場合、前記表示手段に表示されている前記画像情報を別の画像情報に切替える。よって、利用者の会話が所定時間の間無音状態になった場合、表示している画像情報を切替えることができるので、利用者は、切替った画像情報を見て、話題を変えながら円滑な会話をすることができる。
【0018】
請求項3に係る発明の通信端末装置では、請求項1に記載の発明の効果に加え、前記通信端末装置は、前記画像情報と関連する情報である付属情報を、前記画像情報と対応付けて記憶する。また取得した前記音声情報を文字情報に変換する。そして記憶されている前記付属情報が、変換された前記文字情報に含まれているかどうかを前記所定条件として判断する。よって、利用者による会話の音声情報を文字情報に変換し、変換された文字情報に対応付けられている画像情報を表示手段に表示できるので、利用者は、会話の内容に適した画像情報を見ながら、円滑な会話をすることができる。
【0019】
請求項4に係る発明の通信端末装置では、請求項3に記載の発明の効果に加え、前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が、連携して表示している前記画像情報の前記付属情報と一致する場合、表示している前記画像情報を別の画像情報に切替えるまでの時間を所定時間長くする。よって、利用者による会話の内容に適している画像情報をより長い時間表示することができるので、利用者は、会話に適した画像情報をより長い時間見ながら、円滑な会話をすることができる。
【0020】
請求項5に係る発明の通信端末装置では、請求項3乃至4のいずれかに記載の発明の効果に加え、前記音声情報に含まれていると判断された前記付属情報が、連携して表示している前記画像情報の前記付属情報と一致しない場合、前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報に対応した前記画像情報を抽出し、抽出された前記画像情報に表示を切替える。よって、利用者による会話に適していない画像情報が表示されている場合、会話に適した画像情報に表示を切替えることができるので、利用者は、会話に適した画像情報を見ながら、円滑な会話をすることができる。
【0021】
請求項6に係る発明の通信端末装置では、請求項5に記載の発明の効果に加え、前記付属情報に対応した前記画像情報を複数抽出した場合、抽出した複数の前記画像情報のみを切替えながら表示することを特徴とする。よって、利用者の会話に適した画像情報が複数ある場合は、それらの画像情報のみで表示手段へ表示する画像情報を切替えるようにできるので、利用者は、会話に適した複数の画像情報を見ながら、より円滑な会話をすることができる。
【0022】
請求項7に係る発明の通信端末装置では、請求項6に記載の発明の効果に加え、前記音声情報の音量を計測する。計測された前記音声情報の音量が所定割合以上変化した場合、前記付属情報記憶手段から抽出した複数の前記画像情報の別の画像情報に表示を切替える。よって、利用者による会話の音量が変化した場合、つまり会話の雰囲気が盛り下がってきた状態になった場合、会話に適した別の画像情報に表示を切替えることができるので、利用者は、会話に適した画像情報を見ながら、円滑に会話をすることができる。
【0023】
請求項8に係る発明の通信端末装置では、請求項3乃至7のいずれかに記載の発明の効果に加え、前記画像情報の表示を切替えてから所定時間以内に、前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が切替え前の前記画像情報に対応した前記付属情報と一致する場合、切替え前の前記画像情報に表示を戻す。よって、利用者の会話の内容が、現在表示している画像情報より、切替え前の画像情報に適していると判断した場合、切替え前の画像情報に表示を切替えることができるので、利用者は、より会話に適した画像を見ながら、円滑な会話をすることができる。
【0024】
請求項9に係る発明の通信制御方法では、電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を切替えながら表示を制御する表示制御手段とを備えた通信端末装置において、前記画像情報を表示する表示領域を備えた表示手段と、利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる。また、前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する。そして前記音声情報が前記所定条件になったと判断した場合、連携して表示している前記画像情報の表示条件を変更する。よって、利用者が電話回線を介した通話手段にて通話中に、利用者の音声情報に基づいて、表示手段に表示する画像情報の表示条件を変更制御することができる。したがって、通話利用者はお互いに、会話に基づいて表示制御された画像情報を確認することで、話題を変えながら円滑な会話を行うことができる。
【0025】
請求項10に係る発明の制御プログラムでは、電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を切替えながら表示を制御する表示制御手段とを備えた通信端末装置において、前記画像情報を表示する表示領域を備えた表示手段と、利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる。また、前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する。そして前記音声情報が前記所定条件になったと判断した場合、連携して表示している前記画像情報の表示条件を変更する。よって、利用者が電話回線を介した通話手段にて通話中に、利用者の音声情報に基づいて、表示手段に表示する画像情報の表示条件を変更制御することができる。したがって、通話利用者はお互いに、会話に基づいて表示制御された画像情報を確認することで、話題を変えながら円滑な会話を行うことができる。
【図面の簡単な説明】
【0026】
【図1】概略構成図である。
【図2】通信端末装置40の物理的構成図である。
【図3】通信端末装置40の電気的構成図である。
【図4】フラッシュROM404の説明図である。
【図5】画像情報データベース4041Aの説明図である。
【図6】スライドショー情報データベース4042Aの説明図である。
【図7】通信端末装置40で実行される送信側処理のフローチャート図である。
【図8】図7の送信側処理のS606で処理されるスライドショー表示制御処理のフローチャート図である。
【図9】図8のスライドショー表示制御処理のS656で処理される表示条件変更処理のフローチャート図である。
【図10】通信端末装置40で実行される受信側処理のフローチャート図である。
【発明を実施するための形態】
【0027】
以下、本発明を具体化した通信端末装置の実施の形態について、図面を参照して説明する。なお、これらの図面は、本発明が採用しうる技術的特徴を説明するために用いられるものであり、記載されている装置の構成、各種処理のフローチャートなどは、それのみに限定する趣旨ではなく、単なる説明例である。
【0028】
まず、図1〜図3を参照して、本実施形態の概略構成10、及び構成要素である通信端末装置40の物理的構成、電気的構成について、順に説明する。
【0029】
図1を参照して、本実施形態の概略構成10について説明する。図1に示すように、通信端末装置40が電話回線20を介して、他の通信端末装置40と接続されている。よって、利用者は、通信端末装置40に相手の通信端末装置40の電話番号を入力して発呼操作をすることにより、お互いの装置間で通話ができる状態となる。また、本実施形態の通信端末装置40には、子機30が備えられており、利用者は子機を用いて通話をしながら、通信端末装置40の後述する表示画面を参照することができる。
【0030】
次に図2を参照して、通信端末装置40の物理的構成について説明する。本実施形態の通信端末装置40は、図2に示すように長方形の筐体の略中央部分に表示手段413が備えられている。表示手段413は、通信端末装置40の各種操作画面や、画像データを表示することができる。また、筐体下部には、他の通信端末装置40と通話する時に使用する音声を入力する機器であるマイク411と、音声を出力する機器であるスピーカ412が備えられている。
【0031】
次に図3を参照して、通信端末装置40の電気的構成について説明する。本実施形態の通信端末装置40は、図3に示すように、CPU401、ROM402、RAM403、フラッシュROM404、音量計測手段410、マイク411、スピーカ412、表示手段413、操作入力手段414、計時手段415、子機通信手段440、通信手段450を備えており、これらはすべてバスで相互に接続されている。
【0032】
CPU401は、通信端末装置40全体の制御を司る。ROM402は、通信端末装置40の基本的な動作に必要なプログラムやそのための設定値等を記憶している。CPU401は、ROM402に記憶されたプログラムに従って、通信端末装置40の動作を制御する。RAM403は、各種データを一時的に記憶するための記憶装置である。また、フラッシュROM404は、不揮発性の半導体メモリであり、後述する各種記憶エリアを備えている。
【0033】
マイク411は、利用者が通信端末装置40を用いて電話回線を介した通話を使用する時に、利用者が発する音声情報を入力する機器である。また、スピーカ412は、通話相手の通信端末装置40から取得した音声情報を出力する機器である。音量計測手段410は、マイク411を介して取得、または通話相手から取得した通話利用者の音声の音量を計測する機器である。また、上記音量計測手段410は、CPU401が処理することで音量を算出するように代用しても良い。本実施形態の通信端末装置40では、子機30が備えられているが、子機30を用いず、通信端末装置40のマイク411と、スピーカ412を使用して通話できるようになっている。
【0034】
表示手段413は、利用者が通信端末装置40の各種操作を行うための操作画面や、他機器から取得した画像データ等を一定時間毎に表示を切替えながら再生するスライドショーとして表示する機器である。また、操作入力手段414は、前述の表示手段413に重ねて配置された汎用的なタッチパネル機器である。利用者が表示画面413を参照しながらタッチすると、操作入力手段414はタッチされた位置情報を取得することができる。また、計時手段415は、時間を計測する時計機能を備えた機器である。
【0035】
子機通信手段440は、通常の電話機の親機と子機間で使用されているDECT(Digital Enhanced Cordless Telecommunications)規格に準じた無線通信ができる通信機器である。子機通信手段440を介して、利用者は、子機30で通話ができるようになる。また、通信手段450は、汎用的に電話機器等に使用されている公衆電話回線と接続通信できる通信機器である。
【0036】
次に図4を参照して、フラッシュROM404の構成について説明する。フラッシュROM404は、画像情報記憶エリア4041、スライドショー情報記憶エリア4042等で構成されている。画像情報記憶エリア4041には、他機器から取得した写真データ等の画像情報が付属情報と対応付けて画像情報データベース4041Aとして記憶されている。スライドショー情報記憶エリア4042には、スライドショーで再生する画像情報のリストがスライドショー情報データベース4042Aとして記憶されている。
【0037】
ここで、図5を参照して、画像情報データベース4041Aについて説明する。画像情報データベース4041Aは、画像ID、ファイル名、画像情報、付属情報の項目が対応付けて記憶されている。画像IDの項目には、画像情報を識別する情報が数値情報で記憶されている。また画像IDは、通信端末装置40が画像情報を取得した時に、自動的に採番されるようになっている。ファイル名の項目には、画像情報のファイル名が記憶されている。画像情報の項目には、例えば、JPEG(Joint Photographic Experts Group)、PNG(Portable Network Graphics)、GIF(Graphics Interchange Format)等のファイル形式の画像情報が、それぞれのファイル名に対応して記憶されている。付属情報の項目には、利用者が画像情報に対して関連したキーワード情報が文字情報として複数記憶されている。キーワード情報は、利用者が通信端末装置40に備えられたタッチパネル等の操作入力手段414を介して入力操作することで、入力することができるようになっている。
【0038】
次に、図6を参照しながら、スライドショー情報データベース4042Aについて説明をする。スライドショー情報データベース4042Aは、スライドショーIDと、画像ID、表示時間、キーワード検出回数の項目が対応付けて記憶されている。スライドショーIDは、スライドショーの情報を識別するための識別情報が記号で記憶されており、利用者により、複数の画像情報を選択してスライドショーを作成された時に自動的に採番されるようになっている。画像IDの項目には、画像情報データベース4041Aに記憶されている複数の画像情報の中から、スライドショーとして表示するために選択された画像情報の画像IDが記憶されている。例えば、スライドショーIDがL1では、画像ID001、002、003、004が対応付けて記憶されている。よって、利用者が通信端末装置40を操作して、スライドショーIDのL1を選択すると、画像IDが001、002、003、004に対応する画像情報を、表示手段413にスライドショーで再生表示することができる。また、表示時間の項目には、対応する画像情報を表示してから次の画像情報に切替えるまので再生時間が秒単位の数値情報で記憶されている。例えば、画像ID001では、表示時間が30秒、同様に画像ID002では、20秒と記憶されている。この表示時間は、利用者が通信端末装置40に備えられたタッチパネル等の操作入力手段414を介して入力操作することで、入力することができるようになっている。また、キーワード検出回数は、詳細な説明は後述するが、対応する画像IDの画像情報が表示されている時に、利用者の音声情報に基づいて検出された回数が記憶されている。
【0039】
次に、図7を参照して、通信端末装置40において実行される送信側処理について説明する。図7に示す処理は、ROM402に記憶されたプログラムに従って、CPU401が実行する。
【0040】
図7に示す送信側処理は、通信端末装置40の電源がONにされると開始される。初めに、画像情報の送信指示が有るかどうかを判断する(S601)。具体的に説明すると、利用者が通信端末装置40を操作して、画像情報データベース4041Aに記憶されている画像情報の中からどれかを指定し、送信先として他の通信端末装置40の電話番号、またはネットワークアドレス等の情報を入力して、画像情報を送信するよう操作指示があったかどうかを判断する。または、スライドショー情報データベース4042Aに記憶されているスライドショーIDを指定して、対応する画像情報を全て指定するようにしても良い。そしてステップS601の処理で、CPU401は送信指示があったと判断した場合(S601:YES)、指定された画像情報と、対応する付属情報を送信する処理を実行する(S602)。また、ステップS601の処理で、CPU401が画像情報の送信指示が無いと判断した場合(S601:NO)、後述するステップS603へ進む。
【0041】
次に、CPU401は、利用者の操作により電話の発呼指示があったかどうかを判断する(S603)。ここで言う発呼指示とは、通常の電話機での発信操作方法と同様なので図示は省略するが、相手装置の電話番号を入力し、電話の発信指示を行う操作である。ステップS603の処理で、CPU401は発呼指示があったと判断した場合(S603:YES)、相手の通信端末装置40と通話状態になるよう処理する(S604)。また、ステップS603の処理で、電話の発呼指示が無いと判断した場合(S603:NO)、ステップS601へ戻る。
【0042】
続いて、通話中の状態で、スライドショー情報の再生指示があったかどうかを判断する(S605)。具体的には、利用者によりスライドショー情報データベース4042Aに記憶されているスライドショーIDを表示手段413へ再生するような操作指示があったどうかを、CPU401が判断する。
【0043】
そして、ステップS605の処理で、CPU401はスライドショーの再生指示があったと判断した場合(S605:YES)、指示されたスライドショーIDに対応した表示制御処理を実行する(S606)。
【0044】
ここで、図8を参照しながらステップS606で実行するスライドショー表示制御処理について説明する。図8は、スライドショー表示制御処理のフローチャート図である。まず、通話中の利用者の音声を音声信号として検出を開始する(S650)。続いて、ステップS605の処理で再生指示されたスライドショーIDに対応する画像情報の表示を開始する(S651)。例えば、本実施形態ではスライドショーIDのLIを指示されたとすると、スライドショー情報データベース4042Aを参照して、最初に表示すべき画像ID001に対応する画像情報AAAが、表示手段413へ表示される。
【0045】
続いて、通話相手装置へ同期信号を送信する(S652)。ここでは、通話相手装置と表示する画像情報を連携するための手段として、ステップS651で表示している画像情報に対応した画像ID情報を含む同期信号を、電話回線を介したトーン信号方式や、またはネットワークを介した信号方式を用いて、通話相手の通信端末装置40へ送信する。また、上述した同期信号は、ステップS651の処理で、表示する画像情報が切替る度に送信されるものとする。また、受信する側の通信端末装置40の受信側処理については後述するが、ステップS652で送信された同期信号を受信すると、対応する画像IDの画像情報が受信側の表示手段413へ表示するようになっている。
【0046】
そして、次に、音声信号を検出されたかどうかを判断する(S653)。ここでは、通話中の利用者の音声による音声信号を検出されたかどうかを判断する。つまり、通話利用者が会話をしているかどうかを判断していることになる。そして、ステップS653の処理で、CPU401が音声信号を検出したと判断した場合(S653:YES)、続いて、検出された音声信号を文字情報に変換する処理を実行し、変換された文字情報の中に、指定されているスライドショーIDにて再生される画像情報に対応した付属情報であるキーワードが検出されたどうかを判断する(S654)。上述した音声信号を文字情報に変換する方法としては例えば、特開2003−271629号公報にて開示されているような、音声入力によるテキスト検索技術等の方法を用いれば良い。また、ステップS654の処理で、キーワードが検出されないと判断した場合(S654:NO)、表示されている画像情報の再生時間の残りがゼロになったかどうかを判断する(S658)。ステップS658の処理では、表示されている画像情報がステップS651で表示を開始された時から、計時手段415を作動させ、スライドショー情報データベース4042Aに記憶されている再生時間までの残りの時間を判断している。よって、通話利用者間の会話の中に、スライドショーで再生する画像に関連したキーワードが含まれていないと判断できるので、そのような場合では、予め設定された再生時間で画像情報が表示される。
【0047】
また、ステップS654の処理で、音声信号からキーワードを検出したと判断した場合(S654:YES)、次に表示条件変更処理を実行する(S656)。
【0048】
ここで、図9を参照してステップS656で処理する表示条件変更処理について説明をする。図9は、表示条件変更処理のフローチャート図である。まず、初めに、ステップS654の処理で検出されたキーワードが、現在表示している画像情報に対応したキーワードかどうかを判断する(S800)。具体的には例えば、ステップS654の処理で、マイク411によって取得した通話利用者の音声信号を、上述の公知の文字変換技術を用いて文字情報に変換する。そして変換した文字情報と、再生されているスライドショーIDに対応する画像情報の関連情報とを比較し、変換した文字情報の中にキーワードが含まれているかどうかを判断する。そして例えば、「犬」という文字情報が検出されたとすると、現在表示している画像情報がAAAの場合、画像情報AAAに対応する付属情報の中に「犬」というキーワード情報が記憶されていることが判断できる。よって、ステップS800の処理では、CPU401は、表示している画像情報に対応したキーワードを検出したと判断し(S800:YES)、表示している画像情報の再生時間を所定時間追加する処理を実行する(S801)。具体的には、現在表示している画像情報の再生時間の残りの時間に、所定時間(例えば10秒)追加する処理が実行される。よって、ここでは、通話利用者の会話の中に、表示している画像情報に関連するキーワードが含まれていたと判断できるので、画像情報に関する会話がなされていると判断でき、画像情報の再生時間を追加することで、利用者の会話を支援することができる。
【0049】
さらに、ステップS801の処理の後、CPU401は通話利用者の会話の音量が所定閾値以下まで減衰したかどうかを判断する(S802)。具体的には、例えば利用者の音声信号の音量が閾値50db以下になったどうかを判断する。つまりここでは、通話利用者の会話の音量が小さくなったことを検出して、利用者同士の会話が盛り下がったかどうかを判断していることになる。または他の方法として、利用者の音量が通話中に所定割合以上変化したかどうかを判断するようにしてもよい。例えば、所定割合を50%とし、通話利用者の音量が50%以上の割合で小さくなったことを判断するようにしても良い。そして、ステップS802の処理で、CPU401が音量が所定閾値以下まで減衰したと判断した場合(S802:YES)、表示している画像情報の残りの再生時間をゼロに変更する処理を実行し、(S803)、スライドショー情報データベース4042Aの対応する画像IDのキーワード検出回数を1追加する更新処理を実行する。また、ステップS802の処理で、CPU401が音量が閾値以下まで減衰していないと判断した場合(S802:NO)、ステップS807へ移行する。
【0050】
また、ステップS800の処理で、ステップS654の処理で検出したキーワードが、現在表示している画像情報に対応して記憶されているキーワードには無いと判断した場合(S800:NO)、続いて、前回表示していた画像情報に対応して記憶されているキーワードに含まれているかどうかを判断する(S804)。例えば、表示手段413に画像情報AAAを表示している場合に、ステップS654で検出されたキーワードが「家」とすると、画像情報AAAはスライドショーL1の最初に表示された画像情報なので、前回表示していた画像情報は無く、ステップS804の処理ではNOと判断する(S804:NO)。そして、ステップS654で検出されたキーワードに対応して記憶されている他の画像情報に表示を切替える処理を実行する(S806)。例えば、上述した具体例の場合、ステップS654で検出したキーワードが、「家」とすると、画像情報データベース4041Aを参照し、画像ID002に対応した付属情報に「家」というキーワードが記憶されていることを判断するので、表示する画像情報をBBBへ切替えるよう処理をする(S806)。また、ステップS806の処理の変形例として、キーワードに対応した画像に頻繁に表示が切替るのを防ぐために、ステップS806の処理で、現在表示している画像情報が表示を開始してから所定時間以上(たとえば3秒)経過していない場合は、ステップS806の処理をキャンセルして、次ステップへ移行するようにしても良い。
【0051】
または、ステップS804の処理で、ステップS654にて検出されたキーワードが、現在表示している画像情報の前回に表示していた画像情報に対応したキーワードであると、CPU401が判断した場合(S804:YES)、前回表示していた画像情報に表示を戻すように切替える処理を実行する(S805)。具体的には、例えば現在表示している画像情報がCCCの場合、ステップS654の処理で検出されたキーワードが「家」とすると、画像情報CCCの前に表示していた画像ID002に対応する付属情報に「家」というキーワードが記憶されていると判断し、画像ID002に対応する画像情報BBBに表示を切替える処理を実行する(S805)。したがって、ここでは、通話利用者の会話の中に、現在表示している画像情報に関連するキーワードが発話されていないと判断でき、前回表示していた情報か、もしくは、その他の画像情報の中から、キーワードに対応した画像情報に表示を切替えることで、利用者の会話を支援することができる。
【0052】
そして、上述したステップS803か、またはステップS805か、またはステップS806の処理の後、スライドショー情報データベース4042Aのキーワード検出回数の項目の回数を1追加する更新処理を実行し(S807)、本処理である表示条件変更処理を終了する。
【0053】
そして、図8のスライドショー表示制御処理に戻り、ステップS656の処理である表示条件変更処理が実行された後、CPU401は、表示している画像情報の再生時間の残り時間がゼロになったかどうかを判断する(S658)。そして、残り時間がまだゼロになっていないと判断した場合(S658:NO)、再度ステップS653の処理へ戻り、繰り返し処理が実行される。また、再生時間の残り時間がゼロになったと判断した場合(S658:YES)、スライドショー情報データベース4042Aを参照して、次に表示すべき画像情報があるかどうかを判断する(S659:YES)。ステップS659の処理にて、次に表示すべき画像情報があると判断した場合(S659:YES)、再度ステップS651の処理へ戻り、繰り返し処理が実行される。また、ステップS659の処理で、次に表示すべき画像情報が無いと判断した場合(S659:NO)、利用者により別のスライドショーIDの再生指示があったかどうかを判断する(S660:NO)。ステップS660の処理で、別のスライドショーIDの再生処理の指示があったと判断した場合(S660:YES)、ステップS651の処理へ戻り、指示されたスライドショーIDに対応した画像情報の再生が開始される。また、ステップS660の処理にて、利用者により、別のスライドショーIDの再生の指示が無いと判断した場合(S660:NO)、本処理であるスライドショー表示制御処理を終了する。
【0054】
また、ステップS653の処理の説明に戻り、通話利用者の音声信号を検出したかどうかの判断で、検出していないと判断した場合(S653:NO)、次にCPU401は、通話利用者同士の会話が無い時間である無音時間が所定時間以上経過したかどうかを判断する(S655)。ここで言う、無音時間とはステップS653の処理で音声信号を検出しなくなってから、計時手段415を作動させて経過時間を計測する時間である。また所定時間とは、例えば3〜5秒等ように、会話が途切れたと判断できる時間が設定されているものとする。そして、無音時間が上述の所定時間以上経過していないと判断した場合(S655:NO)、上述したステップS658へ移行する。また、ステップS655の処理で、無音時間が所定時間以上経過したと判断した場合(S655:YES)、上述したステップS659以降の処理が実行される。
【0055】
ここで、図7の送信側処理へ戻り、上述したステップS606の処理であるスライドショー表示制御処理が実行された後、通話終了指示があるかどうかを判断する(S608)。または、ステップS605の処理にて、CPU401はスライドショーの再生指示が無いと判断した場合(S605:NO)、通常の通話処理が継続された後、通話終了指示があるかどうかを判断する(S608)。ステップS608の処理で、通話終了指示があったと判断した場合(S608:YES)、通話を終了し、画像情報の表示を終了させ(S609)、本処理である送信側処理を終了する。また、ステップS608の処理で、通話終了指示が無いと判断した場合(S608:NO)、ステップS605へ戻り、繰り返し処理を実行する。
【0056】
上述に説明した本実施形態である送信側処理を実行することにより、利用者が電話回線を介した通話手段にて通話中に、利用者の音声情報に基づいて、表示手段に表示する画像情報の表示条件を会話の内容に適するように変更制御することができる。したがって、通話利用者はお互いに、会話に基づいて表示制御された画像情報を確認することで、話題を変えながら円滑な会話を行うことができる。
【0057】
次に、図10を参照して、通信端末装置40において実行される受信側処理について説明する。図10に示す処理は、ROM402に記憶されたプログラムに従って、CPU401が実行する。図10に示す受信側処理は、通信端末装置40の電源がONにされると開始される。初めに、画像情報の受信指示が有るかどうかを判断する(S901)。具体的には、他の通信端末装置の送信側処理(図7)でのS602の送信処理により送信された画像情報と、対応する付属情報を受信したかどうかを判断する。ステップS901の処理にて、受信していないと判断された場合(S901:NO)、ステップS903へ移行する。また、ステップS901の処理で、画像情報と、対応する付属情報を受信したと判断した場合(S901:YES)、受信した画像情報と付属情報の記憶処理を実行する(S902)。具体的には、フラッシュROM404の画像情報記憶エリア4041の画像情報データベース4041Aに受信した画像情報と付属情報を記憶する。
【0058】
そして、CPU401は、電話の着呼があったかどうかを判断する(S903)。ここでは、他の通信端末装置40の送信側処理(図7)において、S603の処理にて発呼された発呼指示に対応する着呼指示があったかどうかを判断する。CPU401がステップS903の処理で、着呼指示が無いと判断した場合(S903:NO)、ステップS901の処理へ戻る。また、ステップS903の処理で着呼指示があったと判断した場合(S903:YES)、発呼指示に対応した他の通信端末装置40と電話回線を介して通話ができるよう処理を実行する(S904)。
【0059】
続いて、ステップS904の処理にて他の通信端末装置40と通話中になった状態で、通話相手の通信端末装置40から同期信号を受信したかどうかを判断する(S905)。ここでは、通話相手の通信端末装置40で実行されるスライドショー表示制御処理のS652の処理(図8)にて送信された、画像ID情報を含む同期信号を受信したかどうかを判断する(S905)。ステップS906の処理で、同期信号を受信したと判断した場合(S906:YES)、受信した同期信号に含まれる画像ID情報に対応した画像情報を、画像情報データベース4041Aから取得し、表示手段413の表示画面に表示する(S906)。ここでは、それまで受信側の通信端末装置40の表示手段413に表示されていた画像情報から、同期信号に対応した画像情報に表示が切替る。また、ステップS905の処理にて、CPU401が同期信号を受信していないと判断した場合(S905:NO)、通常の通話処理を継続する。
【0060】
そして、ステップS906の処理後、または、ステップS907の処理後に、CPU401は、通話終了指示があるかどうかを判断する(S908)。ステップS908の処理で、通話終了指示があったと判断した場合(S908:YES)、通話を終了し、画像情報の表示を終了させ(S909)、本処理である受信側処理を終了する。また、ステップS908の処理で、通話終了指示が無いと判断した場合(S908:NO)、ステップS905へ戻り、繰り返し処理を実行する。
【0061】
上述に説明した本実施形態である受信側処理を実行することにより、利用者が電話回線を介した通話手段にて通話中に、利用者の音声情報に基づいて、表示手段に表示する画像情報の表示条件を会話の内容に適するように変更制御することができる。したがって、通話利用者はお互いに、会話に基づいて表示制御された画像情報を確認することで、話題を変えながら円滑な会話を行うことができる。
【0062】
なお、前述の実施形態に示される構成や処理は例示であり、各種の変形が可能なことはいうまでもない。例えば、図9のステップ804の処理で検出されているキーワードに対応した画像情報が複数抽出された場合、次のステップであるS806の処理では、スライドショー情報データベース4022Aに記憶されているキーワード検出回数を参照して、検出回数の多い順から再生表示するようにしても良い。
【0063】
また、図9のステップ807の処理にて、キーワード検出回数を更新した後、対応するスライドショーIDの画像情報を表示する順番を、キーワード検出回数の多い順になるように更新するようにしてもよい。そのようにすれば、次回の通話時にスライドショーを再生する時に、利用者に関係性の高い画像情報から再生表示されるようになるので、より通話による会話を支援することができるようになる。
【0064】
また、図7のステップS606のスライドショー表示制御処理を終えた後、ステップS608での通話終了指示が有るまでは、S605の処理でスライドショー再生指示が無いと判断し(S605:NO)、通常の通話処理(S607)になるようになっているが、これに限るものではない。例えば、初回のステップS605、S606の処理の終了後に、次回のステップS605では、初回指示されたスライドショーを自動的に再度指示するように設定すれば、通話終了指示があるまで繰り返しステップS606が実行され、継続して会話に適した画像情報を表示させるようにすることもできる。
【0065】
また、前述の実施形態では、送信側での通信端末装置40と、受信側とした通話相手の通信端末装置40とで、表示手段413に表示する画像情報を連携して共通の画像情報を表示できるようにするために、図8のステップS652で処理する同期信号を送受信することで連携できるようにしていたが、これに限るものではない。例えば、送信側から受信側へ予め画像情報データベース4041Aと、スライドショー情報データベース4042Aを、受信側である通話相手の通信端末装置40へ送信しておき、送信側と受信側による通話が開始されてから、両者で同時に同じスライドショーIDを開始する。そして、両者の通信端末装置40で、図8に示すスライドショー表示制御処理を実行させるようにすれば、上述した同期信号を用いず、通話している通信端末装置40の間で、表示する画像情報を連携できるようにしてもよい。
【符号の説明】
【0066】
20 電話回線
30 子機
40 通信端末装置
411 マイク
412 スピーカ
413 表示手段
4041A 画像情報データベース
4042A スライドショー情報データベース

【特許請求の範囲】
【請求項1】
電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を切替えながら表示を制御する表示制御手段とを備えた通信端末装置において、
前記画像情報を表示する表示領域を備えた表示手段と、
利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる連携手段と、
前記通話手段にて行われる前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する音声情報判断手段と、
前記音声情報判断手段により前記音声情報が前記所定条件になったと判断した場合、前記連携手段により連携して表示している前記画像情報の表示条件を変更する表示条件変更手段と、
を備えることを特徴とする通信端末装置。
【請求項2】
前記音声情報判断手段は、前記音声情報に会話が無い状態である無音状態が所定時間以上含まれているかどうかを前記所定条件として判断し、
前記表示条件変更手段は、前記音声情報判断手段により、前記無音状態が所定時間以上含まれていると判断された場合、前記表示手段に表示されている前記画像情報を別の画像情報に切替えることを特徴とする請求項1に記載の通信端末装置。
【請求項3】
前記通信端末装置は、前記画像情報と関連する情報である付属情報を、前記画像情報と対応付けて記憶する付属情報記憶手段と、
前記通話手段より取得した前記音声情報を文字情報に変換する変換手段と、
をさらに備え、
前記音声情報判断手段は、前記付属情報記憶手段に記憶されている前記付属情報が、前記変換手段により変換された前記文字情報に含まれているかどうかを前記所定条件として判断することを特徴とする請求項1に記載の通信端末装置。
【請求項4】
前記表示条件変更手段は、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が、前記連携手段にて連携して表示している前記画像情報の前記付属情報と一致する場合、表示している前記画像情報を別の画像情報に切替えるまでの時間を所定時間長くすることを特徴とする請求項3に記載の通信端末装置。
【請求項5】
前記表示条件変更手段は、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が、前記連携手段にて連携して表示している前記画像情報の前記付属情報と一致しない場合、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報に対応した前記画像情報を前記付属情報記憶手段から抽出し、抽出された前記画像情報に表示を切替えることを特徴とする請求項3乃至4のいずれかに記載の通信端末装置。
【請求項6】
前記表示条件変更手段は、前記付属情報に対応した前記画像情報を前記付属情報記憶手段から複数抽出した場合、抽出した複数の前記画像情報のみを切替えながら表示することを特徴とする請求項5に記載の通信端末装置。
【請求項7】
前記音声情報判断手段は、前記音声情報の音量を計測する音量計測手段を備え、
前記音量計測手段により計測された前記音声情報の音量が所定割合以上変化した場合、
前記表示条件変更手段は、前記付属情報記憶手段から抽出した複数の前記画像情報の別の画像情報に表示を切替えることを特徴とする請求項6に記載の通信端末装置。
【請求項8】
前記表示条件変更手段は、前記画像情報の表示を切替えてから所定時間以内に、前記音声情報判断手段により前記所定条件であると判断され、かつ前記音声情報に含まれていると判断された前記付属情報が切替え前の前記画像情報に対応した前記付属情報と一致する場合、切替え前の前記画像情報に表示を戻すことを特徴とする請求項3乃至7のいずれかに記載の通信端末装置。
【請求項9】
電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を一定時間毎に切替えながら表示を制御する表示制御手段とを備えた通信端末装置にて処理する通信制御方法において、
利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により、表示領域を備えた表示手段に表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる連携ステップと、
前記通話手段にて行われる前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する音声情報判断ステップと、
前記音声情報判断ステップにより前記音声情報が前記所定条件になったと判断した場合、前記連携ステップにより連携して表示している前記画像情報の表示条件を変更する表示条件変更ステップと、
を処理することを特徴とする通信制御方法。
【請求項10】
電話回線を介して他拠点の装置と通話を行う通話手段と、複数の画像情報を一定時間毎に切替えながら表示を制御する表示制御手段とを備えた通信端末装置を実行させる制御プログラムにおいて、
利用者が前記通話手段にて他拠点の前記通信端末装置と通話中に、前記表示制御手段により、表示領域を備えた表示手段に表示している前記画像情報を、他拠点の前記表示手段に表示するように前記画像情報と連携して表示させる連携ステップと、
前記通話手段にて行われる前記利用者の通話を音声情報として取得し、前記音声情報が所定条件になったかどうかを判断する音声情報判断ステップと、
前記音声情報判断ステップにより前記音声情報が前記所定条件になったと判断した場合、前記連携ステップにより連携して表示している前記画像情報の表示条件を変更する表示条件変更ステップと、
を前記通信端末装置で実行させるための制御プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2011−77860(P2011−77860A)
【公開日】平成23年4月14日(2011.4.14)
【国際特許分類】
【出願番号】特願2009−227705(P2009−227705)
【出願日】平成21年9月30日(2009.9.30)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】