説明

画像入力装置、会議装置、画像処理制御プログラム、記録媒体

【課題】カメラの高さの変化を含んだ任意の位置での画像処理が可能な画像入力装置を提供すること。
【解決手段】被写体を撮影するカメラ本体77と、被設置面に設置される筐体2と、カメラ本体77をチルト可能に支持させると共に、筐体2に上下方向へ揺動可能に支持されたアーム部71と、第1及び第2の加速度センサS1、S2を備えアーム部71とカメラ本体77の傾きを検出させる傾き検出部Sと、傾き検出部Sが検出した傾きと当該装置の寸法情報とに基づいて、被設置面からカメラ本体77までの高さ高さ距離情報Lを算出し、その算出した高さ距離と傾き検出部Sが検出したカメラ本体77の傾きとからカメラ本体77が撮影する被写体の種類を特定し、その特定した種類の被写体に適した画像処理を実行する制御部を備えて画像入力装置を構成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、会議装置やパーソナルコンピュータ等に用いられる画像入力装置、その画像
入力装置を備えた会議装置、画像処理制御プログラム、記録媒体に関する。
【背景技術】
【0002】
人物や書画をカメラで撮影し、その撮影画像を取り込む画像入力装置として、例えば、以下のものが知られている。
【0003】
カメラを水平方向と垂直下向きに変更自在に支持する構造に設けられたスイッチにより、カメラが水平方向か、垂直下方向のどちらに向くかをカメラ台制御回路が検出し、画像処理回路が、カメラが水平方向に向くときには、カメラを通常解像度モードで動作し、垂直下方向に向くときにはカメラを高解像度モードで動作する画像入力装置がある。
この画像入力装置によれば、人物モードでは通常の解像度、書画モードでは高解像度という切り替えが自動的に行われるので、操作の手間が省ける、としている(例えば特許文献1参照)。
【0004】
他の装置としては、撮影対象を撮影するカメラと、カメラの方向を検出するカメラ方向検出装置と、少なくともカメラとカメラ方向検出装置を一体化し、カメラの撮影方向をユーザが自由に変更可能なように点もしくは軸を前記カメラの回転中心として保持し、カメラの位置を一定の高さに保持するカメラ固定機構と、画像を記録するための画像メモリと、カメラ方向検出装置のカメラの方向に関する情報から、カメラが撮影する対象を識別するための撮影対象種別を決定する対象決定装置と、ユーザの指示またはカメラ方向検出装置のカメラの方向に関する情報によりカメラによって撮影される画像に対する処理種別を決定するモード決定装置と、対象決定装置により決定された撮影対象種別に応じて、カメラ方向検出装置のカメラの方向に関する情報から、カメラが撮影した画像に含まれる撮影対象の幾何形状が正しくなるように幾何変換を適用し、前記幾何変換を適用した画像を前記画像メモリに記録する画像変換装置と、画像メモリに記録されている画像の合成処理を行い、合成した画像を画像メモリに記録する画像合成装置とを備えた画像入力装置がある。
この画像入力装置によれば、ユーザがカメラを撮影対象に向けるだけで、撮影対象を自動的に判別し、撮影対象および撮影方向に応じた変換を施し適切な画像を表示装置に表示でき、ユーザが撮影対象を装置に指示する等の煩雑な処理無しに、適切な画像を表示できる、としている(例えば特許文献2参照)。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した従来技術は以下の問題点を有する。
特許文献1及び2に記載された画像入力装置は、カメラの向きに応じた画像処理を行うものであるが、いずれも、カメラを動かすための回転中心の位置が不変であり、カメラの高さの変化を含んだ任意の位置における撮影範囲に対する画像処理に対応していなかった。なお、上述した「撮影範囲」とは、カメラ撮影によりモニタ等に映し出された光景の範囲のことを言うものとする。
【0006】
本発明は、このような状況に鑑みてなされたものであり、上記問題点を解決できる画像入力装置、会議装置、画像処理制御プログラム、記録媒体を提供することにある。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明にかかる画像入力装置、会議装置、画像処理制御プログラム、記録媒体は、下記の技術的手段を講じた。
本発明にかかる画像入力装置は、被写体を撮影するカメラ本体と、被設置面に設置される支持ベースと、前記カメラ本体をチルト可能に支持させると共に、前記支持ベースに上下方向へ揺動可能に支持されたアーム部と、該アーム部と前記カメラ本体の傾きを検出して、傾き情報として出力する傾き検出部とを備えた画像入力装置であって、前記傾き検出部が検出した、前記アーム部と前記カメラ本体の傾き情報と当該装置の寸法情報とに基づいて、前記被設置面から前記カメラ本体までの高さ距離情報を算出し、その算出した高さ距離情報と前記傾き情報とに基づいて前記被写体を特定し、その特定した被写体に適した画像処理を実行するように制御されることを特徴とする。
また本発明にかかる会議装置は、前記画像入力装置を備え、通信網を介して音声及び画像の双方向通信を実行可能に構成されると共に、前記カメラ本体で撮影し、前記傾き検出部が検出した、前記アーム部と前記カメラ本体の傾き情報と当該装置の寸法情報とに基づいて、前記被設置面から前記カメラ本体までの高さ距離情報を算出し、その算出した高さ距離情報と前記傾き情報とに基づいて前記被写体を特定し、その特定した被写体に適した画像処理を施した画像を、前記通信網を介して出力されることを制御する制御部を更に備えることを特徴する。
また本発明にかかる画像処理制御プログラムは、被写体を撮影するカメラ本体と、被設置面に設置される支持ベースと、前記カメラ本体をチルト可能に支持させると共に、前記支持ベースに上下方向へ揺動可能に支持されたアーム部と、該アーム部と前記カメラ本体の傾きを検出して、傾き情報として出力する傾き検出部とを備えた画像入力装置を制御する画像処理制御プログラムであって、前記傾き検出部が検出した、前記アーム部と前記カメラ本体の傾き情報と当該装置の寸法情報とに基づいて、前記被設置面から前記カメラ本体までの高さ距離情報を算出する高さ算出ステップと、該高さ算出ステップが算出した前記高さ距離情報と前記傾き情報とに基づいて前記被写体の種類を特定する被写体特定ステップと、該被写体特定ステップにより特定された前記被写体に適した画像処理を実行する画像処理ステップとをコンピュータに実行させることを特徴とする。
また本発明にかかる記録媒体は、前記画像処理制御プログラムが記録されたことを特徴とする。
【発明の効果】
【0008】
本発明によれば、カメラの高さの変化を含んだ任意の位置における撮影範囲に対する画像処理ができる。
【図面の簡単な説明】
【0009】
【図1】本実施の形態にかかる画像入力装置を備えた会議装置の斜視図である。
【図2】会議装置の一部切欠した正面図である。
【図3】会議装置の右側面図である。
【図4】会議装置のハードウェア構成図である。
【図5】会議装置の使用状態図(会議参加者撮影時)である。
【図6】会議装置の使用状態図(書画撮影時)である。
【図7】アームとカメラ本体の傾斜に応じた高さ距離を示す説明図であり、カメラ本体が下向きの状態を示す。
【図8】アームとカメラ本体の傾斜に応じた高さ距離を示す説明図であり、カメラ本体が上向きの状態を示す。
【図9】カメラ本体の撮影範囲(俯瞰で示す)を示した説明図である。
【図10】カメラ本体の傾斜角度及び高さを使用態様に応じて示した模式図であり、(a)会議参加者撮影時、(b)書画撮影時、(c)ホワイトボード撮影時、を夫々示す。
【図11】撮影画像の態様を示した模式図であり、(a)たる型歪(レンズ歪)、(b)糸巻き歪(レンズ歪)、(c)幾何歪、(d)補正後の状態、を夫々示す。
【図12】画像処理に至る一連の動作を示したフローチャートである。
【発明を実施するための形態】
【0010】
本発明にかかる画像入力装置の実施の形態を説明する。本実施の形態にかかる画像入力装置は会議装置に組み込んだものを例示している。
本実施の形態にかかる会議装置1は、支持ベースの一例としての筐体2と、スピーカー部5と、マイクロフォン6と、カメラ本体とアーム部と照明部とを備えたカメラ部7と、傾き検出部Sと、制御部3とを備えてなる。
【0011】
筐体2は、図1に示すように、下筐体21と上筐体22とを備えてなる。
下筐体21は、上部が開口した箱状に形成されている。
上筐体22は、後述するカメラ部7のアーム74とカメラハウジング75とを前方に折り畳んで収納させる傾斜状の凹部22pが形成されると共に、図1において、その凹部22pの左隣が凸状に形成され、その凸状側の平面に操作ボタンや電源スイッチ等が配置された蓋状に形成されている。
この筐体2は、上筐体22と下筐体21とが嵌め合うと共に、図示せぬ締結部材を介して接続されており、後述する各構成部が支持されている。
【0012】
スピーカー部5は、フルレンジタイプのスピーカーを備え、音声入出力I/F308に結線されると共に、再生音が上筐体22から出力されるように、筐体2内に取り付けられている。
マイクロフォン6は、無指向性のマイクロフォンであり、音声入出力I/F308に結線されると共に、外部の音を収音可能に、且つ、スピーカー部5から再生された音波を当該マイクロフォン6が収音して生じるエコー現象を回避または低減可能に、筐体2内に取付けられている。
【0013】
カメラ部7は、図1及び図2に示すように、アーム部71と、カメラ本体77と、照明部78とを備えてなる。
アーム部71は、取付ブラケット72と、ヒンジ73と、アーム74と、カメラハウジング75とを備えてなる。
【0014】
取付ブラケット72は、正面視L字状に形成された板状の部材であり、長辺側の中央部に後述するヒンジ73が取り付けられる取り付け穴が形成されており、筐体2に設けられた内部フレームに支持されている。
【0015】
ヒンジ73は、取付ブラケット72に取り付けられた固定軸73aと、上筐体22の凹部22p側に形成された貫通穴を介して外方へ突き出るように、且つ、固定軸に対して周方向に回転可能に設けられた第1の可動軸73bと、その第1の可動軸73bから直交方向へ突き出るように、且つ、周方向に回転可能に設けられ、先端部にL字状の取り付け部73dが設けられた第2の可動軸73cと、その第2の可動軸73cが突き出るように第1の可動軸73bに被せられたキャップ73eとを備えてなる。
【0016】
このヒンジ73はトルクヒンジであり、第1の可動軸73bと、第2の可動軸73cは、任意の回転角度で停止した状態を保持するようになっていると共に、所要の力を加えることで、その停止状態から回転移動可能になっている。
【0017】
アーム74は、前方に折り畳んで凹部22pに収納させた際に、上筐体22の凸状側の平面と沿うように形成された中空の角棒状部材であり、下方に向かって開口した第1の凹部74aが基部に形成され、上方に向かって開口した第2の凹部74bが先部に形成されている。
【0018】
そして、このアーム74は、第1の凹部74aがキャップ73eを介して第1の可動軸73bを跨ぐように、且つ、第1の凹部74aの側壁からその第1の凹部74aを形成する脚部74cに入り込むように第2の可動軸73cが挿し込まれ、その脚部74cが第2の可動軸73cの取り付け部73dを介してビス止めされて、ヒンジ73に取り付けられている。
【0019】
このアーム74は、図1に示すように、第2の可動軸73cにより概ね90度のチルト角θ2の範囲で、且つ、後述するカメラ本体77が正面を向いた状態で立ち上げた状態を中心として、ヒンジ73の第1の可動軸73bにより概ね180度のパン角θ1の範囲で回転可能になっている。なお、パン角θ1、チルト角θ2の角度はその角度に限定されない。
第1の凹部74aの一方の側壁からヒンジ73を経由して装置内部に向かってカメラケーブルが這い回わされている。
【0020】
カメラハウジング75は、前方に折り畳んで凹部22pに収納させた際(図3)に、上筐体22の凸状側の平面と略沿うように形成された中空の矩形体状部材であり、図2に示すように、その底部に下方に向かって延びる凸部75aが形成され、正面側の壁にレンズ穴が形成されている。そして、このカメラハウジング75は、凸部75aを第2の凹部74b内に位置させる共に、第2の凹部74bを形成する腕部74dに保持された一対の支軸76が、凸部75aの側面部に、任意の回転角度で停止した状態を保持可能に回転可能に挿入されて、その一対の支軸76を介してアーム74に取り付けられている。
【0021】
このカメラハウジング75は、図3に示すように、アーム74を立ち上げた状態で、後述するカメラ本体77が略真下方向と略真上方向へ向くように、一対の支軸76により概ね180度のチルト角θ3の範囲で回転可能になっている。なお、チルト角θ3の角度はその角度に限定されない。
上述した一対の支軸76は、その一方が中空軸となっており、その中空軸を経由してアーム74内に向かってカメラケーブルが這い回わされている(図2中、二点鎖線で図示)。
【0022】
カメラ本体77は、絞りを備え、焦点距離の短い単焦点の広角レンズ部77aと、その広角レンズ部77aを通った被写体の像が結像されるように配置されると共に撮影素子I/F307に結線され、光を電荷に変換して被写体の像を電子化する撮影素子部(図示せず)とを備え、被写界深度の深いパンフォーカスとなるように構成されている。
このカメラ本体77は、上述したカメラハウジングに形成されたレンズ穴に広角レンズ部77aが位置するように組み込まれている。なお、広角レンズ部77aの前玉の前にアクリル材またはガラス材で形成されたレンズカバーが取り付けられており、広角レンズ部77aを保護させている。
【0023】
この広角レンズ部77aの水平方向の画角θ6は、図5に示すように、一般的な使用環境において、会議の参加者全員が撮影可能な画角(例えば100度)となっている。
撮影素子部は、CMOS(Complementary Metal Oxide Semiconductor)や、CCD(Charge Coupled Device)等の撮影素子を備える。
【0024】
照明部78は、例えばLED等の発光体を環状に配置させて、環状に光照射可能に構成され、広角レンズ部77aの前玉を環状に取り囲むようにカメラハウジング75に支持さている。被写体が書画や商品等の場合、この照明部78を点灯させることで、被写体がむらなく照明されて、視認に邪魔な影の出現を回避する。
【0025】
このように構成されたカメラ部7は、カメラハウジング75を任意の向き及び任意の高さに調整して被写体を撮影可能になっていると共に、会議装置1の不使用時に、前方に折り畳むことで、凹部22pにアーム74の中途部からカメラハウジング75が中途部まで入り込んで収納可能になっている。この収納時、カメラハウジング75とアーム74との背面が上筐体22の凸状側の平面と沿って、外観視、大きな出っ張り部分がないようになっている。
【0026】
さらに、図3、図10(a)に示すように、平均的な体格の成人が椅子に着座し、一般的な会議テーブルTや机に当該会議装置を設置した場合(使用状態時を想定)において、アーム74及びカメラハウジング75を立ち上げた状態のレンズ中心と会議テーブルTとの高さ距離情報Lが、ヒトの目の高さ位置あたりにレンズ中心が位置するような距離、すなわち、アイレベルのカメラポジションとなるように、このカメラ部7は設定されている。
【0027】
カメラ部7の使用例として、図5に示すような会議参加者を撮影したり、図6に示すように、アーム74を旋回させ、カメラハウジング75(カメラ本体77)を下向きにさせて、会議テーブルT上の書画や商品等を撮影したりする。このとき、後述する制御部3は、カメラ本体77が撮影する被写体の種類を特定し、その特定した種類の被写体に適した画像処理を実行するようになっている。詳細は後述する。
また、このカメラ部7は、上筐体22の平面片側に設けたことで、筐体2からのアーム74の突き出し量を多くとることができ、会議テーブルT上の書画を撮影する場合等にも好適な配置レイアウトになっている。
【0028】
傾き検出部Sは、第1の加速度センサS1と、第2の加速度センサS2とを備えてなる。
【0029】
第1の加速度センサS1は、後述する加速度センサI/F350に結線された2軸加速度センサであり、カメラハウジング75の内部に設けられている(図7)。この第1の加速度センサS1は、カメラ本体77の傾き(後述する広角レンズ部77aが水平方向を向いている場合のレンズ中心軸方向を1つの軸とし、中心軸から垂直の上下方向がもう1つの軸とした2軸の傾き)を検出して、カメラ本体77の傾き情報として出力する。
なお、本実施の形態では、カメラハウジング75は一対の支軸76により上下方向のみに回転するため、2軸の加速度センサを使用しているが、多方向に駆動する場合には、3次元加速度センサ等を設置し、後述するカメラ本体77の傾きを検出する。
【0030】
第2の加速度センサS2は、後述する加速度センサI/F350に結線された2軸加速度センサであり、アーム74の内部に設けられている(図7)。この第2の加速度センサS2は、アーム74の傾き(筐体2が水平に設置されている場合の前後方向の水平を1つの軸とし、支軸76とヒンジ73各々の中心部を結ぶ方向が垂直になる方向をもう1つの軸とした2軸の傾き)を検出して、アーム74の傾き情報として出力する。
なお、本実施の形態では、アーム74は、ヒンジ73の第1の可動軸73bと第2の可動軸73cにより上下左右方向に回転可能になっているため2軸加速度センサを使用しているが、斜め方向等の上下左右以外の方向に駆動する場合には、3次元加速度センサ等を設置し、アーム74の傾きを検出する。
【0031】
制御部3は、音声データ及び画像データをエンコード処理及びデコード処理をして、通信網としてのインターネットを介して音声及び画像の双方向通信を可能にするものである。また、この制御部3は、カメラ本体77が撮影する被写体を特定し、その特定した被写体に適した画像処理を実行するものである。なお、その画像処理された映像は、相手先の会議装置に送信することはもとより、当該会議装置1の使用者が映像を確認するために、後述する画像出力I/F309を介して出力可能になっている。
制御部3のハードウェアの基本的な構成は、図4に示すように、CPU34、ROM(Read Only Memory)301、RAM(Random Access Memory)302、HDD(Hard Disk Drive)304(もしくはストレージまたは記録デバイス)、メディアドライブ305、操作ボタン331、電源スイッチ332、ネットワークI/F(Interface)306、撮影素子I/F307、音声入出力I/F308、画像出力I/F309、加速度センサI/F350の各構成要素が、アドレスバスやデータバス等のバスライン310を介して、双方向通信可能に接続されてなる。なお、上述した画像データは、動画または間欠画像(一定時間間隔の静止画像)のデータである。
【0032】
CPU34は、画像処理制御プログラムを備えた会議装置用の制御プログラムに基づいて、会議装置1全体の動作を制御する。すなわち、インターネットを介して音声及び画像の双方向通信を実現させたり、傾き検出部Sが出力した傾き情報と当該装置の寸法情報とに基づいてカメラ本体が撮影した被写体の種類を特定し、その特定した被写体に最適な画像処理を実行させたりする。本発明の要部は、後者であり、その詳細は後述する。
【0033】
ROM301は、IPL(Initial Program Loader)等のCPUの駆動に用いられるプログラムが記録されている。
RAM302は、CPUのワークエリアとして使用される。
HDD304は、画像処理制御プログラムを備えた会議装置用の制御プログラム、画像データ、音声データ、当該会議装置1の寸法情報(図3において、A、C、M)等の各種データが記録されている。このうち、上述した当該会議装置1の寸法情報は、固定値であることから、画像処理制御プログラム中の数式に直接組み込んでも良い。また、このHDD304に代わりに、SSD(Solid State Drive)等を用いてもよい。
【0034】
上述した会議装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、記録メディア等の、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。また、この会議装置用プログラムは、HDD304ではなく、ROM301に記録されるようにしてもよい。
SSD304は、CPUの制御にしたがってHDD304に対する各種データの読み出し又は書き込みを制御する。
【0035】
メディアドライブ305は、フラッシュメモリ等の記録メディアに対するデータの読み出し又は書き込み(記録)を制御する。記録メディアは、会議装置1に対して着脱自在な構成となっている。また、CPU34の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリに限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。
【0036】
操作ボタン331は、メニュー表示、各種メニューの選択・決定、双方向通信を行う相手先の会議装置の宛先を選択・決定、通信の切断、音量の調整、マイクミュート等に用いられる押しボタンまたはタッチスイッチであり、筐体2内の操作基板に取り付けられている。
電源スイッチ332は、会議装置1の電源のON/OFFを切り換えるための押しボタンまたはタッチスイッチであり、筐体2内の操作基板に取り付けられている。
【0037】
ネットワークI/F306は、接続端子(イーサネット(登録商標)端子)を備え、インターネットを介したデータの入出力のやりとりを仲介するようになっている。
撮影素子I/F307は、カメラ本体77から出力された信号を所定の画像データとして取り込むようになっている。
音声入出力I/F308は、マイクロフォン6で収録された信号を所定の音声データとして取り込むと共に、通信網を介して受信されたデータのうち音声データをスピーカー部5で再生可能な信号に変換するようになっている。
【0038】
画像出力I/F309は、接続端子を備え、プロジェクターP(図1)が受け入れ可能な所定のアナログまたはデジタルの画像信号に変換して出力するものである。
この画像出力I/F309を介して出力される画面は、例えば、相手先の会議装置を設定する宛先画面、画質を調整する画質調整画面、出力信号の選択画面等のメニュー画面や、通信網を介して受信した相手先からの映像が挙げられる。
さらに、当該会議装置1のカメラ部7による映像を、当該会議装置1の使用者が確認するために、当該会議装置1のカメラ部7で撮影した映像(確認用映像)も画像出力I/F309を介して出力される。この場合、例えば、ピクチャーインピクチャー機能により、親画面は相手先からの映像とし、子画面を確認用映像としたり、あるいはその逆としたりすると利便性が向上することから好適である。
なお、CPU34は、エンコードされた画像データを所定のコーデックを用いてデコードをする。この所定の画像信号としては、アナログRGB信号(VGA)、コンポーネントビデオ信号、HDMI(High―Definition Multimedia Interface)信号、DVI(Digital Video Interactive)信号が挙げられる。
加速度センサI/F350は、第1の加速度センサS1と第2の加速度センサS2とから出力されたアナログ信号を所定のデジタル信号に変換して取り込むようになっている。
【0039】
以上のように構成された会議装置1は、ネットワークI/F306に結線された接続端子とインターネットに接続された接続端子とをケーブルで繋ぎ、画像出力I/F309に結線された接続端子と画像出力機器の接続端子とをケーブルで繋ぎ、カメラハウジング75とアーム74とを立ち上げる。そして、電源スイッチ332の操作による電源投入、各種操作ボタン331の操作による各種調整、相手先の会議装置の選択をして、インターネットを介した相手先の会議装置と音声及び画像の双方向通信を行う。
【0040】
さらに、この会議装置1は、当該会議装置1の設置面からカメラ本体77までの高さ距離情報と、アーム部71とカメラ本体77の傾き情報とに基づいて被写体を特定し、その特定した被写体に適した画像処理を行なう。
ここで、被写体の種類に適した画像処理について説明する。
【0041】
(1) 会議全体を撮影する場合
カメラ本体77を、より広角のレンズを用いると、会議参加者を無理なく映すことが可能になるが、その一方で、歪曲収差(レンズ歪)により不自然な出力画像になってしまう。この歪曲収差は、デジタル画像処理等によって完全に取り去ってしまうことが可能であるが、歪曲収差を完全に取り去ってしまうと、自然な出力画像になるどころか、むしろ、遠近感が強調されて不自然な出力画像になってしまう。
また、カメラ本体77から被写体までの距離が一定ではない場合、距離の遠いほうが窄まった(幾何歪のある)出力画像になる(図11(c))。
【0042】
そこで、会議全体を撮影する場合の画像処理は、歪曲収差(レンズ歪)と幾何歪とを、ある程度残すようなデジタル画像処理を行うことで、遠近感の強調を抑えつつ、不自然さを感じさせない画像にする。上述したデジタル画像処理とは、歪曲収差を補正する歪曲収差補正処理と、幾何歪を補正する煽り補正処理のことで、共に公知のデジタル画像処理技術である。
なお、この歪曲収差は、周知の通り、広角系のレンズに起こりやすい樽型歪(図11(a))と、望遠系のレンズに起こりやすい糸巻き歪(図11(b))とがある。
【0043】
また、カメラ本体77の露出はニュートルグレーを基準にした露光制御をしている。会議全体を撮影する場合には、このニュートルグレーを基準とした通常の色調補正処理(明度補正、コントラスト補正、レベル補正(ガンマ値補正))を行う。
【0044】
(2) ホワイトボードや書画等の被写体の全体を撮影する場合
ホワイトボードや書画、壁面等に貼り付けた資料等の被写体の全体を撮影すると、距離の遠いほうが窄まり、また撮影方向によっては傾いた見づらい画像になる(図11(c))。そこで、煽り補正処理を行うことで、あたかも正面から被写体を撮影したような見やすい画像にする(図11(d))。この場合の煽り補正処理は、撮影範囲内における四辺形認識を実行し、認識した四辺形を長方形に修正する。なお、歪曲収差を補正する歪曲収差補正処理も行なう。煽り補正処理と歪曲収差補正処理の補正量は、認識した四辺形に基づいて決定される。
【0045】
また、書画やホワイトボード等、文字や図形等を撮影する場合における歪曲収差補正と煽り補正処理の補正量は、会議の模様を撮影する場合における補正量より大きくして、文字や図形等が正確に認識できるようにする(補正量を可変制御)。
また、カメラ本体77が上向いた撮影の場合(例えばホワイトボードの撮影)と、カメラ本体77が下向いた撮影の場合(例えば机上に置かれた書画の撮影)とで、各画像処理の補正量を適宜調整して、夫々の撮影条件及び被写体に合うようにしている。
また、ホワイトボードや書画を撮影する場合には、出力画像が白っぽくなったり、黒っぽくなったりしないように、且つ、高コントラストとなるような色調補正処理を行う
【0046】
(3) ホワイトボードや書画等の被写体の一部を撮影する場合
ホワイトボードや書画等の被写体の全体を撮影する場合と基本的に同じ画像処理を行なうが、被写体の一部分の撮影であるため、撮影範囲内の四辺形を基準にした煽り補正処理ができない。そこで、別の手段による煽り補正処理を行なう。詳細は後述する。なお、この場合における煽り補正処理と歪曲収差補正処理の補正量は、算出された撮影範囲に基づいて決定される。
このように制御部は、煽り補正処理、歪曲収差補正処理、色調補正処理の各補正量を、被写体に応じて可変制御している。
【0047】
次に、これらの画像処理が適宜実行されることを前提にして、画像処理に至る一連の動作を、図12のフロ−チャートを参照しながら説明する。この一連の動作は、上述したように、画像処理制御プログラムに基づいてCPU34が処理している。
先ず、第2の加速度センサS2と第1の加速度センサS1のデータより、被設置面からカメラ本体77中心までの高さ距離情報L(図3)を求める(S1、高さ算出ステップ)。
【0048】
被設置面からの高さに関係するものは、被設置面からヒンジ73の中心までの高さMと、ヒンジ73の中心から支軸76の中心までのアーム軸間長さA及び、カメラの傾きに影響される支軸76の中心からレンズ中心までの長さCがある。これらの寸法情報は、上述したように、予めHDD304に記録されていたり、画像処理制御プログラム中の数式に直接組み込まれていたり、特に限定されない。
また、加速度センサは、傾きに応じて出力値が変化するため、この特性を利用して傾斜計としても用いられる(公知技術)。
上述した既知の寸法情報と第1の加速度センサS1及び第2の加速度センサS2の出力値とを用いて、被設置面からカメラ本体77中心までの高さ距離情報Lを求める。
【0049】
なお、本実施の形態では、通常、会議装置1は会議テーブルや机、台等の水平面上に設置されるために、被設置面からヒンジ73の中心までの高さMの値は変わらぬものとして扱うが、会議装置が水平でない場合にも対応する場合、会議装置の傾きを検出することができる3次元加速度センサを追加する等の方法をとれば対応が可能になる。
【0050】
被設置面からカメラ本体77中心までの高さ距離情報Lを求めるにあたり、先ず、ヒンジ73の中心から支軸76の中心までのアーム軸間長さAに対する鉛直方向の高さの算出について説明する。
第2の加速度センサS2は、上述したように2軸の加速度センサであり、重力加速度G2の分解成分であるH2とV2とに対応したそれぞれの値を出力する。分解成分であるH2とV2から傾斜角度θ9を以下の式を用いて算出する。
【0051】
【数1】

【0052】
ヒンジ73の中心から支軸76の中心までのアーム軸間長さAに対する鉛直方向の長さ(高さ)は、式(1)からA・cosθ9となる。
次に、支軸76の中心からレンズ中心までの長さ対する鉛直方向の高さ(長さ)の算出について説明する。
第1の加速度センサS1は、上述したように2軸の加速度センサであり、重力加速度G1の分解成分であるH1とV1とに対応したそれぞれの値を出力する。分解成分であるH1とV1から傾斜角度θ8を以下の式を用いて算出する。
【0053】
【数2】

【0054】
支軸76の中心からレンズ中心までの長さ対する鉛直方向の高さ(長さ)、式(2)からC・cosθ8となる。
したがって、被設置面からカメラ本体77中心までの高さ距離情報Lは、
【0055】
【数3】

【0056】
となる。
このようにして、被設置面からカメラ本体77中心までの高さ距離情報Lと、アーム74の傾斜角度θ9、カメラ本体77の傾斜角度θ8が求まったら、これらの情報を用いて被写体に応じた画像処理を実行する。
【0057】
カメラ部7は、上述したように、アーム74及びカメラハウジング75を立ち上げた状態のレンズ中心と、会議装置1の被設置面との高さ距離情報Lは、平均的な体格の成人が椅子に着座し、一般的な会議テーブルTを用いた場合(使用状態時を想定)に、ヒトの目あたりにカメラ本体77のレンズ中心が位置するような距離、すなわち、アイレベルのカメラポジションとなるように設定されている(図3、図5、図10(a))。
【0058】
このことから、ヒト(会議参加者)を撮影する場合には、アーム74の傾斜角度θ9とカメラ本体77の傾斜角度θ8は、ある一定の角度に収まっており、被設置面からカメラ本体77中心までの高さ距離情報Lは一定の高さに収まっていることから、このような条件を満たす場合、すなわち、アイレベルのカメラポジションの場合(S2Y)、会議全体を撮影していると判断し(S3、被写体特定ステップ)、その撮影及びその被写体に適した画像処理を行う(S4、画像処理ステップ)。
【0059】
カメラ部7のカメラポジションがアイレベル以外の場合(S2N)、撮影範囲内(カメラ撮影によりモニタ等に映し出された光景の範囲)に四辺形領域の画像があるか否かを判断する(S5)。なお、四辺形領域の抽出技術は、例えば、特許第4712487号で開示された公知の技術を用いる。なお、特許第4712487号は、四辺形領域の抽出技術のほかに、煽り補正のデジタル画像処理技術も開示されている。
撮影範囲内に四辺形領域があると判断した場合(S5Y)、第1の加速度センサS1から出力されたH1の値に基づいてカメラ本体77が上向きか下向きかを判断する(S6)。
カメラ本体77の向きの判断は以下の通りである。
第1の加速度センサS1を水平にして静止させると、第1の加速度センサS1のH1出力値は、“0”である。
この水平状態の第1の加速度センサS1を、図7において反時計回りに傾け、静止させると、第1の加速度センサS1のH1出力値は、その傾きに応じた負の数値を出力する。
その逆に、図8に示すように、水平状態の第1の加速度センサS1を時計回りに傾け、静止させると、第1の加速度センサS1のH1出力値は、その傾きに応じた正の数値を出力する。
したがって、H1が負の数値の場合は、カメラ本体77は下向き、H1が正の数値の場合は、カメラ本体77は上向き、と判断する。なお、H1が“0”の場合は、カメラ本体77の撮影方向は水平方向に向いている。
【0060】
カメラ本体77が上向きであると判断した場合(S6Y)、撮影範囲内に四辺形領域があることから、ホワイトボード等の被写体の全体を撮影していると判断し(S7、被写体特定ステップ)、その撮影及びその被写体に適した画像処理を行う(S8、画像処理ステップ)。
【0061】
カメラ本体77が下向きであると判断した場合(S6N、図6、図10(b))、撮影範囲内に四辺形領域があることから、会議テーブルT等の机上(被設置面)に置かれた書画等の被写体の全体を撮影していると判断し(S9、被写体特定ステップ)、その撮影及びその被写体に適した画像処理を行う(S10、画像処理ステップ)。
また、カメラ本体77が下向きであると判断した場合、視認に邪魔な影の出現を回避するために、照明部78を点灯させることが好ましい。この場合、カメラ本体77の向き(上向き、下向き)に応じて、点灯と消灯とが自動的に切り替わるように構成することが好ましい。
【0062】
撮影範囲内に四辺形領域がないと判断した場合(S5N)は、傾斜角度θ8、θ9からカメラ本体77が上向きか下向きかを判断する(S11)。
カメラ本体77が上向きであると判断した場合(S11Y)、ホワイトボード等の被写体の一部分を撮影していると判断し(S12、被写体特定ステップ)、その撮影及びその被写体に適した画像処理を行う(S13、画像処理ステップ)。
カメラ本体77が下向きであると判断した場合(S11N)、机上に置かれた書画等の一部分を撮影していると判断し(S14、被写体特定ステップ)、その撮影及びその被写体に適した画像処理を行う(S15、画像処理ステップ)。
【0063】
また、被写体の一部分を撮影していると判断した場合(S12、S14)は、上述したように、撮影範囲内の四辺形を基準にした煽り補正処理ができない。
そこで、本実施の形態では、被写体の一部分を撮影していると判断した場合(S12、S14)は、以下に示す一連の処理を行なう。
以下、被写体が被設置面に置かれた書画である場合を例にして、図9を参照しながら説明する。なお、レンズに歪曲収差がないものとする。
【0064】
まず、カメラ本体77による撮影範囲の算出を行う。
水平方向の画角θ6、垂直方向の画角θ7のカメラ本体77が、被設置面からカメラ本体77中心までの高さ距離情報L(式(3)で求まる)で、撮影方向が水平から(90−θ10−θ7/2)°下向きの状態で書画を撮影しているものとする。なお、θ10は、カメラ本体77のレンズ中心からその真下P1を結ぶ線分と、カメラ本体77のレンズ中心から撮影範囲の垂直方向の下限位置P2とを結ぶ線分とがなす角度である。このθ10は、第1の加速度センサS1の出力値から求めた傾斜角度θ8、既知である垂直方向の画角θ7を用いると、
【0065】
【数4】

【0066】
となる。図9において、それぞれの長さは以下の通りになる。
【0067】
【数5】

【0068】
【数6】

【0069】
【数7】

【0070】
【数8】

【0071】
【数9】

【0072】
【数10】

【0073】
【数11】

【0074】
【数12】

【0075】
【数13】

【0076】
となる。したがって、カメラ本体77の高さの変化を含んだ任意の位置におけるカメラ本体77の撮影範囲は、以下の式で求められる。
【0077】
【数14】

【0078】
【数15】

【0079】
奥行きは上述した式(11)となる。これらの範囲が撮影範囲となる。当然のことながら、P3―P6間とP5―P7間とでは、カメラ本体77から距離の遠いP5―P7間の方が、撮影範囲が広い。
この撮影範囲に対し、横方向にXピクセル、縦方向にYピクセルの出力画像として表現されるとすると、出力画像の任意のピクセルの座標(X1、Y1)は、式(16)と式(17)を用いることで、P2の点を原点とした撮影範囲上での位置に換算できる。横方向の位置は式(16)で算出し、縦方向の位置は式(17)で算出する。
【0080】
【数16】

【0081】
【数17】

【0082】
この式(16)と式(17)を用いて、出力画像の全てのピクセルを撮影範囲上での位置に対応させ、横方向がP3―P6間、縦方向がP2―P4間の範囲で、縦・横の各ピクセル間の幅が等しくなる座標に配置する画像処理(煽り補正処理)を行う。これにより、撮影した画像が、被写体を正面から見た状態に近い画像となる。
【0083】
このようにして処理された画像は、相手方の会議装置に送られ、その相手方の会議装置に接続されたプロジェクター等を通じて、文字や図形等が見やすい形で表示される。
【0084】
このように、本実施の形態にかかる会議装置は、CPU34が所定の画像処理制御プログラムに基づいて、被設置面からカメラ本体77中心までの高さ距離情報Lを算出し、カメラ本体77の傾きと、画角(水平方向の画角θ6、垂直方向の画角θ7)と、被設置面からカメラ本体77中心までの高さ距離情報Lとから、カメラの撮影範囲を算出する。そして、高さ距離情報Lとカメラ本体77の傾きから被写体の種類を特定し、その特定した被写体に適した画像処理と色調補正処理を行う。
【0085】
したがって本実施の形態にかかる会議装置は、カメラ本体77の高さの変化を含んだ任意の位置におけるカメラ本体77の撮影範囲(カメラで撮影される光景の範囲)に対する画像処理ができる。
特に、被写体を特定し、その特定した被写体に応じて、歪曲収差補正処理や煽り補正処理の補正量を可変制御するから、遠近感の強調を抑えつつ、不自然さを感じさせない画像や、被写体を正面から見るような画像等を出力できる。
【0086】
以上、本実施の形態にかかる会議装置を説明したが、上述した実施の形態は、本発明の好適な実施の形態の一例を示すものであり、本発明はそれに限定されるものではない。
例えば、本実施の形態では、カメラ本体77の傾きと、被設置面からカメラ本体77中心までの高さ距離情報L等に基づいて、歪曲収差補正処理と煽り補正を行なったが、マクロ撮影モードやデジタルズーム機能、デジタルパンチルトズーム機能、オートフォーカス機能を設けて、被写体に応じて、適宜、切り替え可能に構成しても良い。
【0087】
特に被写体が被設置面に置かれた書画で、デジタルパンチルトズーム機能及びオートフォーカス機能を用いる場合、デジタルズーム領域までの距離を、カメラ本体77の傾き及び被設置面からの高さを用いて算出し、デジタルズームした領域までの最適な距離にフォーカスを調節しても良い。
【0088】
また、本実施の形態では、カメラハウジング75の内部に設けた第1の加速度センサS1と、アーム74の内部に設けた第2の加速度センサS2とを備えて傾き検出部Sを構成したが、特にこれに限定されない。例えば、ポテンショメータやロータリーエンコーダ等の回転角度を検出可能なセンサを、ヒンジ73や支軸76、またはそれらの近くに設けて、カメラ本体77とアーム74の傾きを検出させても良い。
【0089】
また、本実施の形態では、高さ算出、被写体特定、画像処理を、画像処理制御プログラムで実現させたソフトウェアベースのものを例示したが、これらをハードウェアベースで構成しても良い。また、上述した画像処理制御プログラムが記録された記録媒体でも良い。
【符号の説明】
【0090】
1 会議装置
2 筐体
3 制御部
71 アーム部
75 カメラハウジング
77 カメラ本体
78 照明部
S 傾き検出部
S1 第1の加速度センサ
S2 第2の加速度センサ
【先行技術文献】
【特許文献】
【0091】
【特許文献1】特開平8−168029号公報
【特許文献2】特許第3109580号公報

【特許請求の範囲】
【請求項1】
被写体を撮影するカメラ本体と、
被設置面に設置される支持ベースと、
前記カメラ本体をチルト可能に支持させると共に、前記支持ベースに上下方向へ揺動可能に支持されたアーム部と、
該アーム部と前記カメラ本体の傾きを検出して、傾き情報として出力する傾き検出部とを備えた画像入力装置であって、
前記傾き検出部が検出した、前記アーム部と前記カメラ本体の傾き情報と当該装置の寸法情報とに基づいて、前記被設置面から前記カメラ本体までの高さ距離情報を算出し、その算出した高さ距離情報と前記傾き情報とに基づいて前記被写体を特定し、その特定した被写体に適した画像処理を実行するように制御されることを特徴とする画像入力装置。
【請求項2】
前記画像処理は、煽り補正処理を含み、前記制御部は、前記被写体に応じて、前記煽り補正処理の補正量を可変制御することを特徴とする請求項1に記載の画像入力装置。
【請求項3】
前記画像処理は、前記被写体の四辺形認識処理を含み、前記制御部は、前記被写体が四辺形であると認識した場合、前記四辺形を長方形状に補正させる煽り補正を実行することを特徴とする請求項1に記載の画像入力装置。
【請求項4】
前記画像処理は、歪曲収差補正処理を含み、前記制御部は、前記被写体に応じて、その補正量を可変制御することを特徴とする請求項1乃至3の何れか1項に記載の画像入力装置。
【請求項5】
前記画像処理は、色調補正処理を含み、前記制御部は、前記被写体に応じて、その補正量を可変制御することを特徴とする請求項1乃至4の何れか1項に記載の画像入力装置。
【請求項6】
前記被写体を照らす照明部を備えたことを特徴とする請求項1乃至5の何れか1項に記載の画像入力装置。
【請求項7】
前記傾き検出部は、加速度センサを備えていることを特徴とする請求項1乃至6の何れか1項に記載に画像入力装置。
【請求項8】
請求項1乃至7の何れか1項に記載の画像入力装置を備え、通信網を介して音声及び画像の双方向通信を実行可能に構成されると共に、前記カメラ本体で撮影し、前記傾き検出部が検出した、前記アーム部と前記カメラ本体の傾き情報と当該装置の寸法情報とに基づいて、前記被設置面から前記カメラ本体までの高さ距離情報を算出し、その算出した高さ距離情報と前記傾き情報とに基づいて前記被写体を特定し、その特定した被写体に適した画像処理を施した画像を、前記通信網を介して出力されることを制御する制御部を更に備えることを特徴する会議装置。
【請求項9】
被写体を撮影するカメラ本体と、被設置面に設置される支持ベースと、前記カメラ本体をチルト可能に支持させると共に、前記支持ベースに上下方向へ揺動可能に支持されたアーム部と、該アーム部と前記カメラ本体の傾きを検出して、傾き情報として出力する傾き検出部とを備えた画像入力装置を制御する画像処理制御プログラムであって、
前記傾き検出部が検出した、前記アーム部と前記カメラ本体の傾き情報と当該装置の寸法情報とに基づいて、前記被設置面から前記カメラ本体までの高さ距離情報を算出する高さ算出ステップと、
該高さ算出ステップが算出した前記高さ距離情報と前記傾き情報とに基づいて前記被写体の種類を特定する被写体特定ステップと、
該被写体特定ステップにより特定された前記被写体に適した画像処理を実行する画像処理ステップと
をコンピュータに実行させることを特徴とする画像処理制御プログラム。
【請求項10】
請求項9に記載の画像処理制御プログラムが記録されたことを特徴とする記録媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2013−9304(P2013−9304A)
【公開日】平成25年1月10日(2013.1.10)
【国際特許分類】
【出願番号】特願2012−64984(P2012−64984)
【出願日】平成24年3月22日(2012.3.22)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】