説明

信号処理装置および信号処理方法

【課題】見た人の感情の変化等を伴う画像に係る画像信号を選択的に記録する。
【解決手段】CCD8と、温度センサ111 等の生体センサとが人体に装着される。CCD8は、入射する撮像光を画像信号に変換する。画像信号はA/D変換器9を介して画像信号処理部10と遅延素子15とに供給される。画像信号処理部10は、供給される信号に基づいて画像信号に関連するトリガ信号Vを生成する。一方、111 〜11n の各生体センサが生成する信号は、各々の後段のA/D変換器を介して信号処理部131 〜13n に供給される。信号処理部131 〜13n は、供給される信号に基づいて生体センサの信号に関連するトリガ信号を生成する。各トリガ信号は記録制御部16に供給される。各トリガ信号に基づいて記録制御部16が遅延素子15、記録フォーマット化回路17、記録制御部16の動作を制御することにより、画像信号が磁気ディスク19に記録される。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像を見た人が示す反応等に関連して、当該画像に係る画像真相を記録する等の処理を行う信号処理装置および信号処理方法に関する。
【背景技術】
【0002】
所望の画像を撮像する撮像装置としては、例えばCCD(Charge Coupled Dervice)を使用した装置等、種々のものが知られている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかしながら、撮像された画像情報の内で、その画像を見た人の感情に変化を与えたり印象深かったもの等について、例えば記録する等の処理を選択的に行う機能を有する装置は今までに知られていない。
【0004】
従って、この発明の目的は、撮像された画像情報の内で、その画像を見る人の感情に変化を与えたり印象深かったものを判定し、そのような画像情報について例えば記録する等の処理を選択的に行うことが可能な信号処理装置および信号処理方法を提供することにある。
【課題を解決するための手段】
【0005】
上述した課題を解決するために、この発明は、人体に装着され、被装着者の視野に対応した画像信号を生成する画像センサと、
人体に装着され、被装着者の心拍信号を取得するための生体信号センサと、
生体信号センサからの出力に基づいて画像信号の記録を制御する画像信号処理手段と
を有する信号処理装置である。
【0006】
この発明は、人体に装着された画像センサにより、被装着者の視野に対応した画像信号を生成する画像信号生成ステップと、
人体に装着された生体信号センサにより、被装着者の心拍信号を取得するための生体信号を生成する生体信号生成ステップと、
生体信号に基づいて画像信号の記録を制御する画像信号処理ステップと
を有する信号処理方法である。
【0007】
以上のような発明によれば、生体信号センサの出力に基づいて検知される例えば感情の変化等を示すデータに基づいて設定される条件の下で、画像センサが生成する画像信号に対して記録等の処理がなされる。
【発明の効果】
【0008】
この発明によれば、生体信号センサの出力に基づいて検知される、例えば画像を見た人の感情の変化等を示すデータと、画像信号とに基づいて設定される条件の下で、画像センサが生成する画像信号に対する記録等の処理が行われる。
【0009】
このため、画像センサが生成する画像信号の内で、見た人の感情に変化を生じさせた画像、見た人に深い印象を与えた画像等に係るものについて選択的に記録する等の処理を行うことができる。
【図面の簡単な説明】
【0010】
【図1】この発明の一実施形態の全体的な構成の一例を示すブロック図である。
【図2】この発明の一実施形態の一部の構成の一例を示すブロック図である。
【図3】この発明の一実施形態の他の一部の構成の一例を示すブロック図である。
【図4】この発明の一実施形態のさらに他の一部の構成について説明するためのブロック図である。
【図5】この発明の一実施形態のよりさらに他の一部の構成について説明するためのブロック図である。
【図6】この発明の一実施形態における動作タイミングの一例を示すタイミングチャートである。
【発明を実施するための形態】
【0011】
この発明の一実施形態の構成について図1を参照して説明する。画像センサとしてのCCD8と、温度センサ111 ,筋電位センサ112 等、11n までのn個の生体センサとが人体に装着される。CCD8は入射する撮像光を電気信号に変換し、電気信号をA/D変換器9に供給する。なお、CCD8は、例えば眼鏡のふち等に装着することにより、被装着者が実際に見ている画像にできるだけ近い画像に係る画像信号を生成するようになされる。
【0012】
A/D変換器9は供給される信号をA/D変換する。A/D変換器9の出力は、画像信号処理部10と記憶部14内の遅延素子15とに供給される。画像信号処理部10は、供給される信号に基づいて画像信号に関連するトリガ信号Vを生成し、生成したトリガ信号Vを記憶部14内の記録制御部16に供給する。
【0013】
一方、111 〜11n の各生体センサの後段にはそれぞれ、A/D変換器121 〜12n が設けられる。A/D変換器121 〜12n は、それぞれに供給される信号をA/D変換する。A/D変換器121 〜12n の出力は、それぞれ、信号処理部131 〜13n に供給される。信号処理部131 〜13n は、供給される信号に基づいて生体センサの信号に関連するトリガ信号を生成する。例えば、信号処理部131 は、体温等を測定する温度センサ111 の出力に関連するトリガ信号Tを生成し、また、信号処理部132 は、筋電位センサ112 の出力に関連するトリガ信号Kを生成する。生体センサとしては、他にマイクロホン等の音声センサや、心拍計、血圧計等を用いることができる。
【0014】
信号処理部131 〜13n の出力は、記録制御部16に供給される。記録制御部16は、供給されるトリガ信号V,T,K‥‥に基づいて書き込み有効期間を示す信号Rを生成し、信号Rを記録回路18に供給する。遅延素子15は、記録制御部16の指令に従って、A/D変換器12から供給される画像信号を記録フォーマット化回路17、記録回路18等が動作するために好適な期間遅延させ、遅延させた画像信号を記録フォーマット化回路17に供給する。記録フォーマット化回路17は、記録制御部16の指令に従って、遅延素子15から供給される画像信号を記録回路18による処理に好適な信号形式に変換する。記録回路18は、記録制御部16から供給される書き込み有効期間を示す信号Rを参照して、記録フォーマット化回路17の出力を磁気ディスク19に記録するための処理を行う。なお、記録回路8の出力を外部の記録装置等に伝送するようにしても良い。
【0015】
また、磁気ディスク19から所望の情報を再生する場合には、再生制御回路23の指令に従って、再生回路20が磁気ディスク19から記録されているデータを読み出す。再生回路20が生成する信号がフォーマット変換回路21に供給される。フォーマット変換回路21は、供給される信号のフォーマットを出力信号として好適なものに変換する。フォーマット変換回路21の出力は、D/A変換回路24によってD/A変換され、外部に出力される。また、記録制御部16および再生制御部23の動作は、主制御回路22によって制御される。
【0016】
なお、記録媒体は磁気ディスクに限定されるものではなく、相変化型の光ディスク(PD)、光磁気ディスク(MO)等のディスク状の記録媒体、磁気テープ、光テープ等のテープ状の記録媒体、およびフラッシュメモリ等、種々の記録媒体を使用することができる。
【0017】
また、再生回路20、フォーマット変換回路21、D/A変換回路24等の再生に係る構成を切り離せるように構成しても良い。このような構成によれば、記録に係る構成要素のみを含む小型・軽量な部分を、被装着者が容易に持ち運ぶことができる等の利点がある。
【0018】
次に、画像信号処理部10について詳細に説明する。画像信号処理部10の構成の一例を図2に示す。A/D変換器9の出力である画像信号がフレームメモリ31と減算器32とに供給される。フレームメモリ31の出力が減算器32に供給される。減算器32は供給される画像信号間の差分を算出し、算出した差分を絶対値計算回路33に供給する。絶対値計算回路33は、供給される差分について絶対値を計算し、計算した差分絶対値を積算回路34に供給する。積算回路34は、供給される差分絶対値を所定のフレーム数に渡って積算し、積算値を比較回路35に供給する。
【0019】
比較回路35には所定のしきい値が供給され、このしきい値と積算値との比較結果を示す信号がトリガ生成回路36に供給される。トリガ生成回路36は、供給される信号に従ってトリガ信号Vを生成する。ここで、トリガ信号Vを生成する条件としては、画像内の物体が動いた場合、CCD8が被装着者と共に動いた場合、または全体的な輝度レベルに変化があった場合等が挙げられ、何れの場合もフレーム間差分に基づいて判断することができる。
【0020】
なお、画像信号処理部10として、ブロックマッチング等の方法によって動きベクトルを抽出し、抽出した動きベクトルに基づく処理を行うことによってトリガ信号を生成する構成を用いても良い。
【0021】
次に、温度センサ111 の出力に関連してトリガ信号を生成する信号処理部131 について詳細に説明する。信号処理部131 の構成の一例を図3に示す。温度センサ111 の出力がA/D変換器121 によって適切なサンプリング間隔でサンプリングされてなる信号が遅延素子41と減算器42とに供給される。遅延素子41は、供給される信号を所定期間遅延させ、減算器42に供給する。減算器42は供給される2個の信号間の差分を算出し、算出した差分を絶対値計算回路43に供給する。絶対値計算回路43は、供給される差分について絶対値を計算し、計算した差分絶対値を比較回路44に供給する。
【0022】
比較回路44には所定のしきい値が供給され、このしきい値と絶対値計算回路43の出力との比較結果を示す信号がトリガ生成回路45に供給される。トリガ生成回路45は、供給される信号に従ってトリガ信号Tを生成する。以上のような構成により、何らかの刺激が被装着者に加わったことに起因して被装着者の体温が変化する場合等にトリガ信号が生成される。なお、遅延素子41による遅延の期間は、体温の変化を検出するために好適に設定すれば良い。
【0023】
次に、筋電位センサ112 の出力に関連してトリガ信号を生成する信号処理部132 について詳細に説明する。信号処理部132 の構成の一例を図4に示す。A/D変換器122 の出力が絶対値計算回路51に供給される。絶対値計算回路51の出力がピーク検出回路52に供給される。ピーク検出回路52は、供給される信号からピーク値を検出し、検出したピーク値を比較回路53に供給する。ここで、ピーク検出回路52には、一定の時間間隔でリセット信号が供給される。
【0024】
リセット信号が供給される毎に、ピーク検出回路52がそれ以前に検出したピーク値がリセットされる。このようにして、一定の時間間隔毎にピークが検出される。比較回路53には所定のしきい値が供給され、このしきい値とピーク検出回路52の出力との比較結果を示す信号がトリガ生成回路54に供給される。トリガ生成回路45は、供給される信号に従ってトリガ信号Kを生成する。このようにして、一定の時間間隔毎に、トリガ信号Kの生成の可否が決定される。
【0025】
以上のような構成により、被装着者に加わる刺激、被装着者の動作等に起因して筋電位がある程度以上大きく変化する場合等に、トリガ信号が生成される。例えば、顔の筋肉に筋電位センサを装着すれば、表情の変化に基づいてトリガ信号が生成される。なお、画像信号処理部10として、筋電位のパルス(ピーク)間隔の差に基づく処理を行うことによってトリガ信号を生成する構成を用いても良い。
【0026】
次に、記録制御回路16について詳細に説明する。上述したように、記録制御回路16は、信号処理部131 〜13n によって生成される各トリガ信号に基づいて総合的な判断を行い、書き込み有効期間を示す信号Rを生成する。記録制御回路16の構成の一例を図5に示す。ここでは、トリガ信号として上述した3種類のトリガ信号V,T,Kが供給される場合を示す。トリガ信号V,T,Kがアンド回路61に供給される。アンド回路61は、トリガ信号V,T,Kに基づいてアンド信号を生成し、生成したアンド信号を波形整形回路62に供給する。波形整形回路62は、供給される信号に、孤立点の除去等の波形整形処理を施す。波形整形回路62の出力は同期回路63に供給される。
【0027】
一方、コントロール回路64は、主制御部22の指令に従って同期情報に係る信号を生成し、生成した信号を同期回路63に供給する。同期回路63は、波形整形回路62が出力する信号に対して、主制御部22の指令に従う同期をとる処理を行う。このような処理の結果として、書き込み有効期間を示す信号Rが同期回路63から出力される。なお、トリガ信号がV,T,K以外のものを含む場合、トリガ信号の種類が3種類以外である場合等においても、上述したような構成においてアンド回路61に供給されるトリガ信号の種類や個数を変更することによって書き込み有効期間を示す信号Rを生成することができる。また、記録制御部16の前段にスイッチを設ける等の構成により、複数個のトリガ信号の内の所望のもののみを記録制御部16による処理に使用するようにしても良い。
【0028】
全体的な動作に係るタイミングチャートの一例を図6に示す。図6Aは時間経過を示す。ここで、Sは有意刺激がある期間を示す。期間Sは、以下に説明するようにして検出される。図6Bに示すタイミングで,画像信号が記憶装置14に供給される。図6Cに示すタイミングで,画像信号に関連するトリガ信号Vが生成される。ここで、上述したように、トリガ信号Vは画像内の物体が動いた場合等に生成されるので、図6Bに示す、一連の画像信号が供給されている期間内においても、トリガ信号Vの立上がり/立下がりが生じる。また、画像信号が供給される以外に期間においても、ノイズ等に起因してトリガ信号Vが生成される場合がある。
【0029】
図6Dに示すタイミングで、体温等を測定する温度センサ111 の出力に関連するトリガ信号Tが生成される。ここでは、例えば画像を注視することに起因する体温の変化が反映されていると考えられる。図6Eに示すタイミングで、筋電位センサ112 の出力に関連するトリガ信号Kが生成される。このトリガ信号Kは、上述したように、一定の期間内での筋電位のピーク値がしきい値以上となる場合等にパルス状に生成される。図6Bに示す、一連の画像信号が供給されている期間内においても、トリガ信号Kの立上がり/立下がりが生じる。また、画像信号が供給される以外に期間においても、ノイズ等に起因してトリガ信号Kが生成されたり、また、体温等を測定する温度センサ111 の出力に関連するトリガ信号Tが生成たりする場合がある。
【0030】
図6C,図6D,図6Eにそれぞれ示したトリガ信号V,T,Kのアンド出力、すなわちアンド回路61の出力は、図6Fに示すようなものとなる。そして、書き込み有効期間信号Rは,アンド出力の最初の立上がり時点Uから所定の記録期間に渡って立上がるように生成される(図6G参照)。実際の記録処理は、書き込み有効期間信号Rの立上がり時点から、記録処理に係る構成の動作等に起因する遅延時間分だけ遅延した時点から開始される。なお、図1中の遅延素子15による遅延の期間を変えることにより、アンド出力が最初に立ち上がる時点U以前の画像信号を記録する等、所望のタイミングでの記録が可能となる。
【0031】
この発明は、上述したこの発明の一実施形態に限定されるものでは無く、この発明の主旨を逸脱しない範囲内で様々な変形や応用が可能である。
【符号の説明】
【0032】
8・・・CCD、10・・・画像信号処理部、111 ・・・温度センサ、11 2・・・筋電位センサ、16・・・記録制御部

【特許請求の範囲】
【請求項1】
人体に装着され、被装着者の視野に対応した画像信号を生成する画像センサと、
上記人体に装着され、上記被装着者の心拍信号を取得するための生体信号センサと、
上記生体信号センサからの出力に基づいて上記画像信号の記録を制御する画像信号処理手段と
を有する信号処理装置。
【請求項2】
上記画像信号処理手段は、
上記生体信号センサからの出力の変化を検出し、検出結果に基づいて上記画像信号の記録を制御する請求項1に記載の信号処理装置。
【請求項3】
上記生体信号センサは、
更に、上記被装着者の温度、筋電位、音声、または血圧を取得する請求項1に記載の信号処理装置。
【請求項4】
人体に装着された画像センサにより、被装着者の視野に対応した画像信号を生成する画像信号生成ステップと、
上記人体に装着された生体信号センサにより、上記被装着者の心拍信号を取得するための生体信号を生成する生体信号生成ステップと、
上記生体信号に基づいて上記画像信号の記録を制御する画像信号処理ステップと
を有する信号処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2009−290898(P2009−290898A)
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願番号】特願2009−203278(P2009−203278)
【出願日】平成21年9月3日(2009.9.3)
【分割の表示】特願平11−86308の分割
【原出願日】平成11年3月29日(1999.3.29)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】