説明

画像処理装置およびこれを備えた原稿読取システム

【課題】原稿の外形輪郭を簡単に且つ精度よく検出することができるようにする。
【解決手段】矩形をなす撮影画像の互いに直交する2辺に沿った座標軸に対して所定角度傾斜した仮想直線L1〜L4を、撮影画像の4つの頂点を始点としてその始点から撮影画像の中心に向かって、所定の移動間隔で平行移動させながら、その仮想直線と輪郭成分との交点を取得し、ここで取得した交点に基づいて原稿の外形輪郭の角点を取得して、その角点に基づいてメッシュモデルを生成するものとする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、本などの原稿を読み取って得られた画像を処理する画像処理装置およびこれを備えた原稿読取システムに関するものである。
【背景技術】
【0002】
本のページを自然に開いた状態で上方から撮影してページの画像を読み取ることができるブックスキャナ(書画カメラ)が普及している。このようなブックスキャナを用いると、ページをめくりながらページの画像を次々に読み取ることができるため、本を電子化する作業を効率良く行うことができる。
【0003】
このようなブックスキャナを用いて原稿を撮影する場合、原稿の画像を適切に取得するには、撮影画像から原稿の外形輪郭を正確に検出することが重要となり、このような要望に関して、原稿が載置される台座の面に斜線などの識別印を施して、この斜線により撮影画像における原稿の外側の領域を判別して、原稿領域を取得するようにした技術が知られている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−211046号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、前記従来の技術では、特別に識別印を施した台座を用意する必要があり、また原稿が載置される机の面にゴミが付着すると、誤検出を招くことから、ゴミの付着がないように丁寧に清掃する必要があり、さらに机の面にある模様などが原因で誤検出が発生することもあるため、ユーザにとって必ずしも使い勝手のよいものではなかった。
【0006】
本発明は、このような従来技術の問題点を解消するべく案出されたものであり、その主な目的は、ユーザに面倒をかけることなく、原稿の外形輪郭を精度よく検出することができるように構成された画像処理装置およびこれを備えた原稿読取システムを提供することにある。
【課題を解決するための手段】
【0007】
本発明の画像処理装置は、原稿の紙面を載置面とともに撮影した撮影画像を取得する撮影画像取得部と、前記撮影画像を処理する画像処理部と、を有し、この画像処理部は、前記撮影画像から原稿の輪郭成分を抽出する輪郭成分抽出部と、矩形をなす前記撮影画像の互いに直交する2辺に沿った座標軸に対して所定角度傾斜した仮想直線を所定の移動間隔で平行移動させながら、その仮想直線と前記輪郭成分抽出部で取得した輪郭成分との交点を取得する交点検出部と、この交点検出部で取得した交点に基づいて原稿の外形輪郭の角点を取得する角点取得部と、を備え、この角点取得部で取得した角点に基づいて原稿の外形輪郭を取得する構成とする。
【0008】
また、本発明の原稿読取システムは、前記の発明にかかる画像処理装置と、カメラ部を備えた画像入力装置と、を有し、この画像入力装置において原稿を撮影して撮影画像を前記画像処理装置に送る構成とする。
【発明の効果】
【0009】
本発明によれば、所定角度傾斜した仮想直線を移動させることで、仮想直線が原稿の外形輪郭の角点に到達したところで、交点の列が概ね直角に近い状態で2方向に分かれるように現れ、この交点の出現状況から原稿の外形輪郭の角点を精度よく検出し、さらにその角点に基づいて原稿の外形輪郭を精度よく検出することができる。そして、特別な台座を用意する必要がなく、また原稿の載置面に付着したゴミや載置面の模様などのノイズによる影響をあまり受けないため、ユーザに面倒をかけることがなく、ユーザの使い勝手を高めることができる。
【図面の簡単な説明】
【0010】
【図1】本実施形態にかかる原稿読取システムを示す全体構成図
【図2】ブックスキャナ1およびPC2の概略構成を示すブロック図
【図3】本原稿読取システムにおける原稿読取の手順を示すフロー図
【図4】原稿読取の各処理の状況を示す模式図
【図5】原稿読取の各処理の状況を示す模式図
【図6】図3に示した角点検出(ST103)の手順を示すフロー図
【図7】図6に示した直線成分検出(ST201)の状況を示す模式図
【図8】図6に示した原稿端領域取得(ST202)の手順を示すフロー図
【図9】図6に示した原稿端領域取得(ST202)の状況を示す模式図
【図10】図6に示した原稿端領域取得(ST202)の状況を示す模式図
【図11】図6に示した交点検出(ST206)の状況を示す模式図
【図12】図6に示した輪郭交点抽出(ST207)の状況を示す模式図
【図13】図6に示した輪郭交点抽出(ST207)の状況を示す模式図
【図14】図6に示した角点取得(ST208)の状況を示す模式図
【図15】図6に示した角点取得(ST208)の状況を示す模式図
【図16】図6に示した角点取得(ST208)の状況を示す模式図
【図17】図6に示した角点取得(ST208)の状況を示す模式図
【図18】図6に示した角点妥当性判断(ST209)の状況を示す模式図
【図19】図6に示した角点妥当性判断(ST209)の状況を示す模式図
【図20】図3に示した輪郭点取得(ST104)の手順を示すフロー図
【図21】図3に示した輪郭点取得(ST104)の状況を示す模式図
【図22】図3に示した輪郭点取得(ST104)の状況を示す模式図
【図23】図3に示したメッシュモデル生成(ST105)の手順を示すフロー図
【図24】図3に示したメッシュモデル生成(ST105)の状況を示す模式図
【発明を実施するための形態】
【0011】
前記課題を解決するためになされた第1の発明は、原稿の紙面を載置面とともに撮影した撮影画像を取得する撮影画像取得部と、前記撮影画像を処理する画像処理部と、を有し、この画像処理部は、前記撮影画像から原稿の輪郭成分を抽出する輪郭成分抽出部と、矩形をなす前記撮影画像の互いに直交する2辺に沿った座標軸に対して所定角度傾斜した仮想直線を所定の移動間隔で平行移動させながら、その仮想直線と前記輪郭成分抽出部で取得した輪郭成分との交点を取得する交点検出部と、この交点検出部で取得した交点に基づいて原稿の外形輪郭の角点を取得する角点取得部と、を備え、この角点取得部で取得した角点に基づいて原稿の外形輪郭を取得する構成とする。
【0012】
これによると、所定角度傾斜した仮想直線を移動させることで、仮想直線が原稿の外形輪郭の角点に到達したところで、交点の列が概ね直角に近い状態で2方向に分かれるように現れ、この交点の出現状況から原稿の外形輪郭の角点を精度よく検出し、さらにその角点に基づいて原稿の外形輪郭を精度よく検出することができる。そして、特別な台座を用意する必要がなく、また原稿の載置面に付着したゴミや載置面の模様などのノイズによる影響をあまり受けないため、ユーザに面倒をかけることがなく、ユーザの使い勝手を高めることができる。
【0013】
また、第2の発明は、前記画像処理部は、取得した原稿の外形輪郭に基づいてメッシュモデルを生成して、そのメッシュモデルに基づいて前記撮影画像を平面化する構成とする。
【0014】
これによると、本のページを自然に開いた状態で撮影した場合に、紙が湾曲することで紙面の画像が歪んだ状態で撮影されても、平面化により歪みのない画像を得ることができる。
【0015】
また、第3の発明は、前記交点検出部は、始点から交点が検出されるまでは、前記仮想直線を第1の移動間隔で大きく移動させ、交点が検出されると、その直前の位置から前記仮想直線を第2の移動間隔で細かく移動させる構成とする。
【0016】
これによると、輪郭成分と仮想直線との交点を狭い間隔で取得することができるため、検出精度を向上させることができる。
【0017】
また、第4の発明は、前記画像処理部は、撮影画像から原稿の端縁が存在するものと推定される原稿端領域を取得する原稿端領域取得部をさらに備え、前記交点検出部で取得した交点のうち、前記原稿端領域取得部で取得した前記原稿端領域の外に位置する交点をノイズとして除去する構成とする。
【0018】
これによると、原稿端領域外に位置するノイズ交点に起因する誤検出を避けることができる。
【0019】
また、第5の発明は、前記原稿端領域取得部は、撮影画像から検出された直線成分を計数して、その直線成分の計数値に基づいて原稿端領域を取得する構成とする。
【0020】
これによると、原稿端領域を精度よく取得することができる。
【0021】
また、第6の発明は、原稿読取システムに関するものであり、前記の画像処理装置と、カメラ部を備えた画像入力装置と、を有し、この画像入力装置において原稿を撮影して撮影画像を前記画像処理装置に送る構成とする。
【0022】
これによると、前記のとおり、ユーザに面倒をかけることなく、原稿の外形輪郭を簡単に且つ精度よく検出することができる。
【0023】
以下、本発明の実施の形態を、図面を参照しながら説明する。
【0024】
図1は、本実施形態にかかる原稿読取システムを示す全体構成図である。この原稿読取システムは、本(原稿)Bの紙面の画像を読み取って、紙面の画像データを取得するものであり、ブックスキャナ(画像入力装置)1とPC(画像処理装置)2とからなっている。
【0025】
ブックスキャナ1は、本Bの紙面を撮像するカメラ部3と、このカメラ部3を保持するスタンド部4とを備え、スタンド部4を机などの載置面5に据え付けるとともに、カメラ部3の真下の載置面5上に本Bを載置して、カメラ部3で本Bの紙面を撮像する。本Bは、自然に開いた状態で紙面の撮像が行われ、本Bの見開き2ページの撮影画像が得られる。そして、歪みのある紙面の画像を平面化する処理が行われて、見開き2ページ分の平面化された紙面の画像を取得することができる。
【0026】
図2は、ブックスキャナ1およびPC2の概略構成を示すブロック図である。ブックスキャナ1は、カメラ部3を備えた撮像処理部11と、操作指示部12と、外部インタフェイス13と、を有している。PC2は、外部I/F21と、画像データ入力部(撮影画像取得部)22と、画像処理部23と、操作系制御部24と、表示データ生成部25と、表示器26と、入力部27と、データ格納部28と、を有している。なお、PC2の画像処理部23および表示データ生成部25は、画像処理アプリケーションなどのプログラムをCPUで実行するソフトウェア処理で実現される。
【0027】
PC2では、キーボードなどからなる入力部27の操作により、ブックスキャナ1で撮影される画像の解像度やフレームレートなどの動作条件が入力され、この動作条件が操作系制御部24からブックスキャナ1に送信され、ブックスキャナ1では、PC2から送信された動作条件に基づいて操作指示部12による指示にしたがって撮像処理部11が所要の動作を行う。
【0028】
PC2の画像データ入力部22では、ブックスキャナ1から送信される画像データをメモリに格納し、必要に応じてその画像データを画像処理部23に出力する。この画像データ入力部22では、原稿(ここでは本の紙面)Bが載置面5とともに写った撮影画像を取得する。
【0029】
画像処理部23は、角点検出部31と、輪郭取得部32と、メッシュモデル生成部33と、画像変換部34と、を有している。角点検出部31は、原稿端領域取得部41と、輪郭成分抽出部42と、交点検出部43と、輪郭交点取得部44と、角点取得部45と、を有している。
【0030】
図3は、本原稿読取システムにおける原稿読取の手順を示すフロー図である。図4、図5は、原稿読取の各処理の状況を示す模式図である。
【0031】
まず、ユーザがブックスキャナ1のカメラ部3の下に本(原稿)をセットする(ST101)。そして、ブックスキャナ1を起動させるとともに、PC2で所要のアプリケーションを起動させると、画像の入力、すなわちブックスキャナ1で撮像が開始されてその撮像データがPC2に送信され(ST102)、PC2の画像データ入力部22では、本Bの紙面を載置面5とともに撮影した撮影画像を取得する。
【0032】
PC2では、図4(A)に示すように、撮影画像から原稿の外形輪郭の角点を検出する処理が角点検出部31にて行われ(ST103)、ついで、図4(B)に示すように、角点検出部31で検出した角点に基づいて、本の輪郭、すなわち連続して並んだ画素により構成された輪郭を取得する処理が輪郭取得部32にて行われる(ST104)。
【0033】
ついで、図5(A)に示すように、輪郭取得部32で取得した輪郭情報に基づいてページの上下左右の端点である特異点を検出し、この特異点を基準にしてメッシュモデルを生成する処理がメッシュモデル生成部33にて行われ(ST105)、ついで、図5(B)に示すように、メッシュモデル生成部33で取得したメッシュモデルに基づいて画像を平面化する画像変換処理が画像変換部34にて行われる(ST106)。ここでは、射影変換(アフィン変換)により画像の平面化が行われ、フラットベッドスキャナで読み取ったものと同様の画像を取得することができる。
【0034】
このようにして平面化された画像を取得すると、その画像を表示器26に表示させ(ST107)、これによりユーザは画像の切り出しが適切に行われたか否かを確認することができ、平面化された画像のデータはデータ格納部28に格納される(ST108)。
【0035】
[角点検出]
次に、図3に示した角点検出(ST103)について詳しく説明する。図6は、角点検出の手順を示すフロー図である。
【0036】
図2に示した角点検出部31では、図4(A)に示したように、撮影画像から原稿の外形輪郭の4つの角点(本の場合、通常は表紙の角)Ca0,Cb0,Cc0,Cd0を検出する処理が行われ、以下に詳しく説明するように、直線成分検出(ST201)、原稿端領域検出(ST202)、原稿端領域妥当性判断(ST203)、エッジ検出(ST204)、輪郭成分抽出(ST205)、交点検出(ST206)、輪郭交点取得(ST207)、角点抽出(ST208)、角点妥当性判断(ST209)の各処理が順次行われて、角点が妥当性であるものと判断されると、角点を確定してその座標を記録する(ST210)。
【0037】
(直線成分検出)
まず、図6に示した直線成分検出(ST201)について詳しく説明する。図7は、直線成分検出の状況を示す模式図である。この処理は図2に示した原稿端領域取得部41で行われる。
【0038】
ここでは、撮影画像内の直線成分(直線状に並んだ画素)を検出する。この直線成分の検出は、ハフ(Hough)変換により行えばよい。ついで、検出された直線成分を撮影画像の端まで延長した延長直線線分を求める。ここでは、所定の長さより長い直線成分のみを選択して延長直線線分を求める。
【0039】
(原稿端領域取得)
次に、図6に示した原稿端領域取得(ST202)について説明する。図8は、原稿端領域取得の手順を示すフロー図である。図9、図10は、原稿端領域取得の状況を示す図である。この処理は図2に示した原稿端領域取得部41で行われる。
【0040】
ここでは、撮影画像から原稿の端縁、すなわち本の外形輪郭やページの端縁、継ぎ目が存在するものと推定される原稿端領域を取得する処理が行われる。なお、図8に示す例では、縦方向の原稿端領域の検出を先に、横方向の原稿端領域の検出を後にしたが、この順序は逆でもよい。
【0041】
まず、縦方向に延在する原稿端領域の検出について説明する。ここではまず、図6に示した直線成分検出(ST201)で取得した延長直線線分のうち、縦方向の延長直線線分を抽出する(ST301)。ここで、縦方向の延長直線成分は、縦方向(本の紙面の上下方向)に延びた、すなわち撮影画像の上下の辺に対して45〜90度の角度をなすものである。
【0042】
そして、図9(A)に示すように、所定のY方向位置y1〜y5でX方向に延びた検出ライン上で、所定幅(例えば25画素)の計数区間ごとに縦方向の延長直線線分が通過する本数を計数する(ST302)。図9では、2560×1920画素の例を示しており、例えばY方向位置y1〜y5は、Y座標で100、600、1000、1400、1900とする。
【0043】
ついで、図9(B)に示すように、Y方向位置y1〜y5の各々で、延長直線線分の計数値が最も大きくなるピーク点LC1〜5,CC1〜5,RC1〜5を求め、そのピーク点LC1〜5、CC1〜5、RC1〜5を通る近似直線を求める。そして、その近似直線のライン数が妥当か否かを判定する(ST303)。図9に示すように、本の見開き2ページの場合には、ピーク点はX方向に3つ現れ、近似直線は3本となり、本の表紙やシート原稿の場合には、ピーク点はX方向に2つ現れ、近似直線は2本となる。
【0044】
ここで求められた近似直線は原稿端領域の中心線となり、この中心線を基準にして縦方向に延在する原稿端領域SL,SC,SRを設定する(ST304)。原稿端領域SL,SC,SRは、撮影画像の上下の端を2つの辺(上辺および下辺)とし、近似直線を中心線としてX方向に所定の幅SLX,SCX,SRXを有する平行四辺形をなす。左右の原稿端領域SL,SRは、本の左右の端に位置する表紙の端縁やページの端縁が存在する領域であり、中央の原稿端領域SCはページの継ぎ目が存在する領域である。
【0045】
原稿端領域SL,SC,SRのX方向の幅SLX,SCX,SRXは、左右のピーク点LC1〜5,RC1〜5の間のX方向の距離LXに基づいて設定され、ここでは、経験的に定まる所定の比率をLXに乗じた値とし、例えば左右の原稿端領域SL,SRのX方向の幅SLX,SRXは、LXの1/8、中央の原稿端領域SCのX方向の幅SCXはLXの1/10とする。
【0046】
また、左右の原稿端領域SL,SRのX方向の幅SLX,SRXは、本のページ数に応じて変化するので、計測結果に基づいて算出するようにしてもよい。また、計測結果に基づいて算出された値と、前記のLXに対する比率で算出された値とを比較して大きい方を選択するようにしてもよい。
【0047】
この場合、左右の原稿端領域SL,SRのX方向の幅SLX,SRXは、例えばピーク点LC1〜5,RC1〜5の前後位置で、所定の閾値以上の計数値となる領域のX方向の幅の所定数倍(例えば2倍)とする。ここで、閾値は、ピーク点LC1〜5,RC1〜5での計数値(最高値)に所定の比率(例えば50%)を乗じた値とすればよい。
【0048】
なお、小型の本の場合には、撮影画像内で本の画像が小さくなるため、有意なピーク点が少なくなり、原稿端領域SL,SC,SRを適切に抽出することができなくなることがある。そこで、このような場合には、Y方向位置y1〜y5を変更して再計算する。例えばY方向位置y1〜y5を、Y座標で300,800,1000,1200,1700とする。この例では、Y方向の中心部で間隔を狭くしている。
【0049】
また、本例では、ピーク点を検出するためのY方向位置(検出ラインの位置)を5つ設定したが、この検出位置の数はこれに限定されるものではなく、例えば2つでも可能であり、さらにY方向の中心の1つ(例えばY=1000)でもよい。また、ユーザに処理状況を提示するための仮検出では検出位置を少数(例えば2つ)設定し、最終的に保存する画像を生成するための本検出では、正確な検出ができるように検出位置を多く設定するようにするとよい。
【0050】
次に、横方向に延在する原稿端領域の検出について説明する。ここではまず、図6に示した直線成分検出(ST201)で取得した延長直線線分のうち、横方向の延長直線線分を抽出する(ST305)。ここで、横方向の延長直線成分は、横方向(本の紙面の左右方向)に延びた、すなわち撮影画像の上下の辺に対して0〜45度の角度をなすものである。
【0051】
そして、図10(A)に示すように、所定のX方向位置x1〜x5でY方向に延びた検出ライン上で、所定幅(例えば25画素)の計数区間ごとに横方向の延長直線線分が通過する本数を計数する(ST306)。図10では、2560×1920画素の例を示しており、例えばX方向位置x1〜x5は、X座標で100、700、1300、1800、2400とする。
【0052】
ついで、図10(B)に示すように、X方向位置x1〜x5の各々で、延長直線線分の計数値が最も大きくなるピーク点UC1〜5,DC1〜5を求め、そのピーク点DC1〜5,UC1〜5を通る近似直線を求める。そして、その近似直線のライン数が妥当か否かを判定する(ST307)。図10に示すように、本の見開き2ページの場合には、ピーク点はY方向に2つ現れ、近似直線は2本となり、本の表紙やシート原稿の場合にも、ピーク点はY方向に2つ現れ、近似直線は2本となる。
【0053】
ここで求められた近似直線は原稿端領域の中心線となり、この中心線を基準にして縦方向に延在する原稿端領域SU,SDを設定する(ST308)。原稿端領域SU,SDは、撮影画像の左右の端を2つの辺(左辺および右辺)とし、近似直線を中心線としてY方向に所定の幅SUY,SDYの平行四辺形をなす。この原稿端領域SU,SDは、本の上下の端に位置する表紙やページの端縁が存在する領域である。
【0054】
原稿端領域SU,SDのY方向の幅SUY,SDYは、上下のピーク点UC1〜5,DC1〜5の間のY方向の距離LYに基づいて設定され、ここでは、経験的に定まる所定の比率をLYに乗じた値とし、例えばLYの1/7とする。
【0055】
また、原稿端領域SU,SDのY方向の幅SUY,SDYは、開いた紙の湾曲量が影響し、また本のサイズやページ数に応じて変化するので、計測結果に基づいて算出するようにしてもよい。また、計測結果に基づいて算出された値と、前記のLYに対する比率で算出された値とを比較して大きい方を選択するようにしてもよい。
【0056】
この場合、原稿端領域SU,SDのY方向の幅SUY,SDYは、例えばピーク点UC1〜5,DC1〜5の前後位置で、所定の閾値以上の計数値となる領域のY方向の幅の所定数倍(例えば3倍)とする。ここで、閾値は、ピーク点UC1〜5,DC1〜5での計数値(最高値)に所定の比率(例えば66%)を乗じた値とすればよい。
【0057】
なお、小型の本の場合には、撮影画像内で本の画像が小さくなるため、有意なピーク点が少なくなり、原稿端領域SU,SDを適切に抽出することができなくことがある。そこで、このような場合には、X方向位置x1〜x5を変更して再計算する。例えばX方向位置x1〜x5を、X座標で500、950,1300,1750,2000とする。この例では、X方向の中心部で間隔を狭くしている。
【0058】
また、本例では、ピーク点を検出するためのX方向位置(検出ラインの位置)を5つ設定したが、この検出位置の数はこれに限定されるものではなく、例えば2つでも可能である。また、ユーザに処理状況を提示するための仮検出では検出位置を少数(例えば2つ)設定し、最終的に保存する画像を生成するための本検出では、正確な検出ができるように検出位置を多く設定するようにするとよい。
【0059】
またここでは、見開き2ページの場合、本を左右に開いた状態で撮影した例で説明したが、本を上下に開いた状態で撮影される場合もあり、この場合、前記の例とは縦横を逆にした状態となり、図9に示した縦方向に延在する原稿端領域が2つ抽出され、図10に示した横方向に延在する原稿端領域が3つ抽出されることになる。
【0060】
また、原稿端領域の幅は、本の大きさやページ数で最適値が変化し、ここで例示した値は、一般的なユーザを想定した経験値であり、本(原稿)の種類に偏りがある場合には、適切な処理が行われない可能性もあるため、このような場合には、ユーザが適宜に変更することができるようにしたり、あるいは複数の撮影画像の処理で取得した値から評価関数(例えば、角点位置の分散値を最小にする)に基づいて統計的に最適値を変更するようにしてもよい。
【0061】
また、本例では、検出ライン上で延長直線線分の計数値が最も大きくなるピーク点に基づいて原稿端領域を設定するようにしたが、この他に、延長直線線分の計数値に閾値を設定して、その閾値を超える領域の数で原稿端領域を設定するようにしてもよく、原稿端領域の数が適切な値(図9に示す例では3つ)とならない場合に、閾値を調整することで適切な数の原稿端領域を設定することができる。ここで、閾値は、延長直線線分の計数値の分布状況に基づいて設定することになるが、1例として延長直線線分の計数値の大きなものから3番目の値の50%を閾値に設定すればよい。
【0062】
また、本の紙面に表が記載されている場合、表の罫線が直線成分として検出されるため、中間の領域に多数のピーク点が現れる。この場合、まず、両端に現れるピーク点に基づいて左右の原稿端領域を設定する。そして、検出ライン上で延長直線線分を計数する際の計数区間の幅(画素数)を変更して、検出ライン上の延長直線線分を計数する処理を実施する。このとき、例えば計数区間の幅を小さくして(例えば5画素)、1本の延長直線線分のみが存在する領域については計数値を処理対象から除外する。また、計数区間の幅を大きくして(例えば30画素)、計数値の上位のものから所定数(図10に示す例では2つ)の領域を抽出する。
【0063】
(原稿端領域妥当性判断)
次に、図6に示した原稿端領域妥当性判断(ST203)について説明する。この処理は図2に示した原稿端領域取得部41で行われる。
【0064】
ここでは、図6に示した原稿端領域取得(ST202)で取得した原稿端領域の妥当性を、ピーク点が現れる位置に基づいて判断する。本の見開き2ページの読取においては、左右の端と中心部にピーク点が合計3つ現れ、さらにこの3つのピーク点の間隔が概ね等しくなり、この条件を満たさない場合には妥当でないものと判断する。
【0065】
具体的には、綴じ目を表す中心のピーク点CCが存在しない場合は、妥当でないものと判断して、図6に示した直線成分検出(ST201)に戻り、閾値を変更して直線成分検出の処理をやり直す。
【0066】
また、左側のピーク点LCと中心のピーク点CCの距離と、中心のピーク点CCと右側のピーク点RCの距離とを比較し、両者の差が所定値より大きい場合は、妥当でないものと判断して、図6に示した原稿端領域取得(ST202)に戻り、延長直線成分を計数する際の検出ラインの位置を変更して原稿端領域取得の処理をやり直す。これにより、紙面に記載された図表の線による中心のピーク点CCの誤検出を避けることができる。一方、検出ラインの位置を変更した原稿端領域取得の処理を所定の回数繰り返しても、距離差が小さくならない場合は、図6に示した直線成分検出(ST201)に戻る。
【0067】
(エッジ検出)
次に、図6に示したエッジ検出(ST204)について説明する。この処理は図2に示した輪郭成分抽出部42で行われる。
【0068】
ここでは、撮影画像に対してエッジ検出を行ってエッジ成分を抽出する。このエッジ検出は、キャニー(Canny)法を用いて行えばよい。ここで、閾値が低いと、ノイズが多くなり、逆に閾値が高いと、断片化したエッジ成分が増えるため、検出結果に応じて、閾値を変化させ、エッジ検出を最適化する。この場合、一定長さ以上の連続したエッジ成分の合計長さ、その数、一定幅以下の連続したエッジ成分の合計長さを評価基準として、この評価基準値が最大となる閾値を学習させるとよい。
【0069】
(輪郭成分抽出)
次に、図6に示した輪郭成分抽出(ST205)について説明する。この処理は図2に示した輪郭成分抽出部42で行われる。
【0070】
ここでは、図6に示したエッジ検出(ST204)で取得したエッジ画像内の輪郭成分(原稿の輪郭を構成する画素)を抽出する。そして、断片化した小さなエッジ成分をノイズとして除去する。また、欠落した輪郭成分を補間する。このとき、輪郭成分の方向と長さ、途切れた間隔の長さにより連続性判定を行い、途切れと判定した輪郭成分を補間する。
【0071】
(交点検出)
次に、図6に示した交点検出(ST206)について説明する。図11は、交点検出の状況を示す模式図である。この処理は図2に示した交点検出部43で行われる。
【0072】
ここでは、矩形をなす撮影画像の互いに直交する2辺に沿った座標軸(X軸およびY軸)に対して所定角度傾斜した仮想直線L1〜L4を、撮影画像の4つの頂点を始点として、その始点から撮影画像の中心に向かって、所定の移動間隔で段階的に平行移動させながら、図6に示した輪郭成分抽出(ST205)で抽出した輪郭成分(本の外形輪郭を構成する画素)と仮想直線L1〜L4との交点を収集する。この仮想直線L1〜L4の移動は、始点となる頂点に対してX方向およびY方向に位置する2つの頂点のいずれか一方に仮想直線L1〜L4が到達するまで行われる。
【0073】
仮想直線L1〜L4は、X軸およびY軸に対して±45度の角度をなす。具体的には、右上の頂点(2560,1920)を始点とした第1の仮想直線L1はX軸に対して−45度、右下の頂点(2560,0)を始点とした第2の仮想直線L2はX軸に対して+45度、左上の頂点(0,1920)を始点とした第3の仮想直線L3はX軸に対して+45度、左下の頂点(0,0)を始点とした第4の仮想直線L4はX軸に対して−45度となる。
【0074】
ここでは、X方向に2560、Y方向に1920の画素を有する場合を示しており、この場合、仮想直線L1〜L4はそれぞれ次式で表される。
L1:y=−x+4480−Step×(N−1)
L2:y=+x−2560−Step×(N−1)
L3:y=+x+1920−Step×(N−1)
L4:y=−x+Step×(N−1)
ここで、Stepは、仮想直線の移動間隔である。Nは、ライン番号であり、始点の位置を1として、仮想直線を移動間隔Stepで平行移動させるたびに1ずつ増分することになる。
【0075】
特にここでは、仮想直線L1〜L4の移動間隔Stepを交点の検出の前後で変更する。すなわち、始点から交点が検出されるまでは、仮想直線L1〜L4を第1の移動間隔Step1で大きく移動させ、交点が検出されると、その直前の位置から仮想直線を第2の移動間隔Step2で細かく移動させる。この第2の移動間隔Step2による移動は、所定の回数行われ、以降は第1の移動間隔Step1と第2の移動間隔Step2との中間の大きさとなる第3の移動間隔Step3で仮想直線を移動させる。
【0076】
このように仮想直線の移動間隔Stepが3段階に変更され、第1の移動間隔Step1、第2の移動間隔Step2、第3の移動間隔Step3は次式の関係となる。
Step1>Step3>Step2
【0077】
具体的には、第1の移動間隔Step1=50とし、このとき仮想直線はX方向に50画素分平行移動する。第2の移動間隔Step2=4とし、このとき仮想直線はX方向に4画素分平行移動する。第3の移動間隔Step3=10とし、このとき仮想直線はX方向に10画素分平行移動する。第2の移動間隔Step2による仮想直線の移動は50本分とする。
【0078】
このように傾斜した仮想直線を所定の移動間隔で段階的に平行移動させながら、輪郭成分と仮想直線との交点を収集すると、仮想直線が原稿の外形輪郭の角点に到達したところで、交点の列が概ね直角に近い状態で2方向に分かれるように現れるため、この交点の出現状況から原稿の外形輪郭の角点を精度よく検出することができる。特に交点が検出されたところで第2の移動間隔Step2で仮想直線L1〜L4が小刻みに移動することにより、精度の向上を図ることができる。
【0079】
(輪郭交点取得)
次に、図6に示した輪郭交点取得(ST207)について説明する。図12、図13は、輪郭交点抽出の状況を示す模式図である。この処理は図2に示した輪郭交点取得部44で行われる。
【0080】
ここでは、図6に示した交点検出(ST206)で取得した交点のうち、最も外側に位置する交点を輪郭交点として抽出するとともに、抽出された輪郭交点のうち、ノイズと判断されるものを除去する。
【0081】
まず、図12(A)に示すように、図6に示した交点検出(ST206)で取得した交点の中から、図6に示した原稿端領域検出(ST202)で検出した左右の原稿端領域SL,SRおよび上下の原稿端領域SU,SDに位置する交点を抽出し、原稿端領域SL,SR,SU,SDの外に位置する交点をノイズとして除去する。
【0082】
ついで、原稿端領域SL,SR,SU,SD内にある交点のうち、本の輪郭を構成する交点を抽出する。ここでは、Y方向の仮想直線を撮影画像の一端(X座標が最大の2560となる位置)から他端(X座標が0となる位置)に向かって平行移動させる。このとき、仮想直線と重なった交点を2点もしくは1点抽出する。もし、仮想直線の同一位置で複数の交点を検出した場合は、それらの交点のうちY座標が最大および最小となる2点を輪郭交点として抽出する。これにより、図12(B)に示すように、Y方向で最も外側に位置する交点が輪郭交点として抽出される。また、同様に、X方向の仮想直線を撮影画像の一端(Y座標が最大の1920となる位置)から他端(Y座標が0となる位置)に向かって平行移動させ、交点からX座標が最大および最小となる輪郭交点を2点抽出する。1ライン上に交点が1点しかなかった場合は、この1点を輪郭交点とし抽出する。
【0083】
ついで、抽出された輪郭交点のうち、ノイズと判断される輪郭交点を除外する。ここでは、図13に示すように、原点(0,0)に近いものから順に半時計まわりに輪郭交点に番号p1,p2,p3…pnを付与して輪郭交点テーブルに格納する。そして、隣り合う2つの輪郭交点のX座標の差ΔxとY座標の差Δyを求める。さらに、X座標の差ΔxとY座標の差Δyから大きい方の値を分母にして、比Δy/Δx(Δx>Δy時)、もしくは比−Δx/Δy(Δy>Δx時)を移動量計数Spとして算出し、この移動量計数Spを直近との2点について比較して、所定の割合以上の差が生じている輪郭交点を除外する。例えば近傍の所定数の移動量計数の平均値を算出してその平均値との差が所定の閾値(例えば15%)以上の割合となる輪郭交点を除外する。
【0084】
尚、角部では、移動量計数Spの極性(+、−)が変わる特徴から、辺の部分より移動量計数Spが大きくなることがあるので、前記で算出した平均値とは異なる設定値(例えば、3)を閾値にするとよい。
【0085】
図13に示した例では、輪郭交点p3で移動量計数Sp(Δy/Δx)が大きく変化するため、ノイズとして除外され、輪郭交点p4以降について輪郭交点テーブル上の番号が付け直される。
【0086】
(角点取得)
次に、図6に示した角点取得(ST208)について説明する。図14、図15、図16、図17は、角点取得の状況を示す模式図である。この処理は図2に示した角点取得部45で行われる。
【0087】
ここでは、図6に示した輪郭交点取得(ST207)で取得した輪郭交点に基づいて、原稿の外形輪郭の4つの角点を取得する。なお、以下に左下の角点を取得する例について説明するが、他の3つの角点もこれと同様である。
【0088】
まず、図14に示すように、図6に示した輪郭交点抽出(ST207)で取得した輪郭交点p(1)〜p(n)のうち、本の角部に位置するものと推定される所定数の輪郭交点を選択する。図示する例では、下辺と左辺の2辺につき各5個の計10個の輪郭交点を選択している。なお、この輪郭交点の数は特に限定されるものではなく、必要に応じてさらに多くしてもよい。
【0089】
ついで、角点が存在することが予測される仮の角領域を設定する。角点Ca0を算出する場合は、原稿端領域SLとSDの重なる角領域SLSDを、もしくはこの領域を拡大縮小した領域を設定する。ここではまず、移動量計数Spの極性からp(1)とp(n)を選択し、これらを含めて縦方向の辺と横方向の辺から各5個を選択した全10個の輪郭交点から、X座標およびY座標の最小値および最大値を求め、そのX座標およびY座標の最小値および最大値で区画される矩形の基準領域を設定する。そして、その基準領域を、角点が存在する側に所定の倍率(たとえば1.5倍)だけ拡大して、矩形の角領域を設定する。図14に示す左下の角点を抽出する例では、角領域は基準領域に対してX座標およびY座標が小さくなる側に拡大されている。
【0090】
ついで、図15に示すように、隣り合う2つの輪郭交点p(1)〜p(n)を通る角点推定用直線を順次求める。図示する例では縦横に交点が5つずつあるため、横方向の角点推定用直線Lhおよび縦方向の角点推定用直線Lvがそれぞれ4本求められる。図15(A)では、輪郭交点p(1),p(2)を通る横方向の角点推定用直線Lh1と、輪郭交点p(n),p(n−1)を通る縦方向の角点推定用直線Lv1を求めている。図15(B)では、輪郭交点p(2),p(3)を通る横方向の角点推定用直線Lh2と、輪郭交点p(n−1),p(n−2)を通る縦方向の角点推定用直線Lv2を求めている。図15(C)では、輪郭交点p(3),p(4)を通る横方向の角点推定用直線Lh3と、輪郭交点p(n−2),p(n−3)を通る縦方向の角点推定用直線Lv3を求めている。図示しないが、これと同様にして、輪郭交点p(4),p(5)を通る横方向の角点推定用直線Lh4と、輪郭交点p(n−3),p(n−4)を通る縦方向の角点推定用直線Lv4を求める。
【0091】
ついで、図16(A)に示すように、図6に示した輪郭成分抽出(ST205)で取得した輪郭成分(原稿の輪郭を構成する画素)のうち、図14に示した角領域内に位置するものを抽出する。そして、角領域内の輪郭成分のうち、図15に示した角点推定用直線が通る輪郭成分のみを残し、その他の輪郭成分を除去する。
【0092】
ついで、角領域内においてX軸およびY軸に対して所定角度(ここでは45度)傾斜した仮想直線と輪郭成分との交点を求める。このとき、図15(A)に示したように、横方向の角点推定用直線Lh1と縦方向の角点推定用直線Lv1との交点Ca1(Xca1、Yca1)からXY両方向に所定値T(例えば10画素分)だけずらした点を始点(Xca1−T、Yca1−T)として、仮想直線を所定間隔(1画素分)づつ平行移動させながら、仮想直線と輪郭成分との交点を求める。
【0093】
なお、図16に示す左下の角点を抽出する場合には、仮想直線の角度はX軸に対して−45度となり、右上の角点の場合にも、仮想直線の角度はX軸に対して−45度となる。一方、左上および右下の角点の場合には、仮想直線の角度はX軸に対して+45度となる。
【0094】
ここで、図16(A)に示した例のように、輪郭成分において下辺と左辺が閉じている、すなわち画素が連続している場合には、仮想直線を始点から平行移動させて、最初に交点を検出した位置で1つの交点が得られると、これを角点Ca0として選定する。また、図16(B)に示すように、45度で連続して隣合う複数の交点が得られる場合もあり、この場合は、連続した複数の交点の中心となる位置を角点Ca0として選定する。
【0095】
一方、図17(A)に示した例のように、輪郭成分において下辺と左辺が閉じていない、すなわち画素が連続していない場合には、図15に示したように、横方向の角点推定用直線Lh1〜4と縦方向の角点推定用直線Lv1〜4との交点Ca1〜Ca4を求め、この交点Ca1〜Ca4から角点Ca0を推定する。
【0096】
具体的には、図17(B)に示すように、交点Ca1〜Ca4を順番に2個ずつを結ぶベクトルを求める(V3=Ca4−Ca3、V2=Ca3−Ca2、V1=Ca2−Ca1)。そして、3つのベクトルV1〜V3から下記の計算式で変動値Cv(Cvx,Cvy)を求め、この変動値Cv(Cvx,Cvy)を交点Ca1の座標に加えて角点Ca0とする。
Cv=(V3×k3+V2×k2+V1×k1)/100
ここで、k1〜k3は重み係数であり、角点に近いものほど大きくしており、例えばk1=10、k2=6、k3=3とする。
【0097】
なお、図17では、説明の便宜上、交点Ca1〜Ca4が大きく離れた状態を示したが、図11に示した仮想直線の移動間隔が狭く、角点の近傍に輪郭交点が小さな間隔で多数存在する場合には、交点Ca1〜Ca4が近接し、あるいは同一位置となることが多い。また、本例では、角領域に位置する輪郭交点として1辺につき5個の輪郭交点を選択して4本の角点推定用直線を設定したため、角点を推定するための縦横の角点推定用直線の交点が4つとなっているが、仮想直線の移動間隔を変更し、また輪郭交点の選択数を変更することで、角点を推定するための交点の数を変えることができる。
【0098】
また、図15に示したように、横方向の角点推定用直線Lhと縦方向の角点推定用直線とがなす角度θが、所定の有効範囲外になった場合は、その2本の角点推定用直線から求めた角点Caを破棄し、図16,図17に示した角点の推定に使用しないようにしてもよい。この場合、角度θの有効範囲は、例えば次式のとおりとする。
(45°/kk)<θ<(135°×kk)
ここで、kkは交点間隔係数であり、例えば間隔4画素の場合はkk=1、間隔10画素の場合はkk=0.9とする。
【0099】
(角点妥当性判断)
次に、図6に示した角点妥当性判断(ST209)について説明する。図18、図19は、角点妥当性判断の状況を示す模式図である。この処理は図2に示した角点取得部45で行われる。
【0100】
ここでは、図6に示した角点取得(ST208)で取得した4つの角点Ca0,Cb0,Cc0,Cd0の位置を、図6に示した原稿端領域取得(ST202)で取得した原稿端領域と比較して、その角点Ca0,Cb0,Cc0,Cd0が妥当か否かを判断する。
【0101】
まず、図18に示すように、本の見開き2ページの場合について説明する。この場合、図6に示した角点取得(ST208)で取得した4つの角点Ca0,Cb0,Cc0,Cd0のうち、上側の2つの角点Cc0,Cd0の中心点Cuおよび下側の2つの角点Cb0,Ca0の中心点Cdがそれぞれ、ページの綴じ目が位置する中間の原稿端領域SC内にあるかを判定する。ここで、上側の中心点Cuと下側の中心点Cdのいずれもが、中央の原稿端領域SC内に位置すると、取得した4つの角点Ca0,Cb0,Cc0,Cd0は妥当であると判断する。
【0102】
上側の中心点Cuと下側の中心点Cdのいずれか一方が中央の原稿端領域SC内に位置しない場合は、妥当でないものと判断する。この場合、図6に示した直線成分検出(ST201)から輪郭交点抽出(ST207)までの各処理でのパラメータを変更して、再度、各処理をやり直す。
【0103】
ここで、例えば、上側の中心点Cuが、原稿端領域SCより左側にずれていた場合は、右上の角の輪郭情報の欠落などが原因で、右上の角点Cc0の検出を誤った可能性があるため、図6に示した角点取得(ST208)で、右上の角点Cc0について再検出を行う。このとき、輪郭交点の選択数を変更する。例えば前回の角点取得において、角領域に位置する輪郭交点として1辺につき5個の輪郭交点を選択した場合には、1辺につき10個の輪郭交点を選択するように変更する。
【0104】
次に、図19に示すように、本の表紙やシート原稿の場合について説明する。この場合、角点検出(ST103)で取得した4つの角点Ca0,Cb0,Cc0,Cd0を頂点とした四角形が概ね平行四辺形となると、取得した4つの角点Ca0,Cb0,Cc0,Cd0は妥当であると判断することができる。
【0105】
具体的には、4つの角点Ca0,Cb0,Cc0,Cd0を頂点とした四角形における互いに向かい合う2つの辺の長さの比率が所定の閾値より小さいと、4つの角点Ca0,Cb0,Cc0,Cd0は妥当であると判断する。より具体的には、右辺および左辺の長さDS1,DS2の比率DS1/DS2と、上辺および下辺の長さDS3,DS4の比率DS3/DS4がいずれも0.7〜1.3の範囲内にあれば妥当であると判断する。比率DS1/DS2と比率DS3/DS4のいずれかが0.7以下もしくは1.3以上の場合は、妥当でないと判断し、この場合、図6に示した直線成分検出(ST201)から輪郭交点抽出(ST207)までの各処理でのパラメータを変更して、再度、各処理をやり直す。
【0106】
[輪郭取得]
次に、図3に示した輪郭取得(ST104)について説明する。図20は、輪郭取得の手順を示すフロー図である。図21、図22は、輪郭取得の状況を示す模式図である。この処理は図2に示した輪郭取得部32で行われる。
【0107】
ここでは、図3に示した角点検出(ST103)で取得した4つの角点Ca0,Cb0,Cc0,Cd0に基づいて、図4(B)に示したように、原稿の外形輪郭を構成する輪郭点(輪郭画素)を取得する処理が行われる。
【0108】
まず、図21(A)に示すように、図3に示した角点検出(ST103)で取得した4つの角点Ca0,Cb0,Cc0,Cd0を頂点とした四角形の各辺を中心にして所定幅の輪郭領域SSを設定する(ST401)。そして、図6に示した輪郭成分抽出(ST205)で抽出した輪郭成分のうち、輪郭領域SS内にある輪郭成分のみを抽出する(ST402)。
【0109】
なお、輪郭領域SS内の画素を対象にして画素値のヒストグラムを取得し、その解析結果に基づいて閾値を変更して再度、図6に示したエッジ検出(ST204)と輪郭成分抽出(ST205)の処理を行なって輪郭成分を抽出する処理を繰り返すと、図5(A)に示したページの上下左右の端点である特異点の検出をより正確に行うことができる。
【0110】
ついで、図20に示した輪郭成分抽出(ST402)で抽出された輪郭領域SS内にある輪郭成分のうち、最も外側に位置する輪郭成分を輪郭点として検出する(ST403)。ここでは、図6に示した交点検出(ST206)と同様の手順で、最外郭となる輪郭点を検出する。すなわち、図21(B)に示すように、X軸およびY軸に対して所定角度傾斜した仮想直線を、矩形をなす撮影画像の4つの頂点を始点として、その始点から撮影画像の中心に向かって、所定の移動間隔で段階的に平行移動させながら、輪郭成分抽出(ST402)で抽出された輪郭成分と仮想直線との交点を収集する。ここでは、仮想直線の移動間隔をX方向に1画素分とする。
【0111】
ついで、図22に示すように、角点Ca0,Cb0,Cc0,Cd0から、近傍にある輪郭点を順次探索する処理を繰り返し、近傍にない輪郭点をノイズとして除去する(ST404)。
【0112】
図22には、原稿輪郭の下辺を構成する輪郭点を探索する処理の例を示しており、ここでは、左下の角点Ca0に最も近い輪郭点から順に、X方向に1画素分ずらした位置にある輪郭点を探す。このとき、Y座標の差分が所定の閾値以下となる輪郭点を探す。すなわち、注目輪郭点からX方向に1画素分ずらした位置で、注目画素と同じY方向位置を中心にして、Y方向の両側に所定の画素数(例えば5画素)分広げた検出領域内にある輪郭点を探す。
【0113】
この原稿輪郭の下辺を構成する輪郭点を探索する処理は、左下の角点Ca0に最も近い輪郭点から開始して、右下の角点Cb0のX座標の位置に到達するまで繰り返される。この処理で、隣の輪郭点が所定の距離以上離れた輪郭点、すなわち検出領域外にある輪郭点はノイズとして除外される。
【0114】
ここで、注目輪郭点の近傍の輪郭点を見つけることができなかった場合は、注目輪郭点からX方向に1画素分ずらした位置で、かつ注目画素と同じY方向位置にある画素を仮輪郭点として、次の輪郭点を探す処理に進む。
【0115】
このようにして原稿輪郭の下辺を構成する輪郭点を探索する処理が終了すると、次に原稿輪郭の右辺を構成する輪郭点を探索する処理を行う。この右辺の処理では、下辺の処理で最後に見つけた輪郭点から近傍の輪郭点を順次探索する処理を繰り返し、このとき、注目輪郭点からY方向に1画素分ずらした位置で、注目画素と同じY方向位置を中心にして、X方向の両側に所定の画素数(例えば5画素)分広げた検出領域内にある輪郭点を探す。
【0116】
ここで、注目輪郭点の近傍の輪郭点を見つけることができなかった場合は、注目輪郭点からY方向に1画素分ずらした位置で、かつ注目画素と同じX方向位置にある画素を仮輪郭点として、次の輪郭点を探す処理に進む。
【0117】
この原稿輪郭の右辺を構成する輪郭点を探索する処理は、右上の角点Cc0のY座標の位置まで繰り返され、ついで、原稿輪郭の上辺および右辺を構成する輪郭点を探索する処理が順次行われるが、この上辺および右辺の処理も同様の手順で行えばよい。このようにして原稿輪郭の1周分を構成する輪郭点を探索し、これから外れた輪郭点はノイズとして除去される。
【0118】
以上のノイズ点除去(ST404)では、仮輪郭点として処理した部分に隙間が生じている。そこで次に、仮輪郭点による隙間を埋める補間処理を行う(ST405)。ここでは、図22に示すように、ノイズ点除去の処理で残った輪郭点を対象にして、角点Ca0に最も近い輪郭点から順に隣接する輪郭点を探索して、隣接する輪郭点がない輪郭点が見つかると、その輪郭点に最も近い輪郭点を探し、その2つの輪郭点を直線Lnで結び、その直線Ln上に位置する画素を新たに輪郭点に設定する。これにより、図4(B)に示したように、原稿の外周を途切れることなく結ぶ輪郭が求められる。
【0119】
なお、図22では、下辺の輪郭生成の例を示しているが、これと同様の手順で、右辺、上辺、および左辺についても、輪郭点の隙間を埋める処理が行われる。また、白黒画像などの2値画像では、補完する輪郭点の位置を求めるだけでよいが、カラー画像やグレースケール画像のような多値画像では、補完する輪郭点の画素値を求める必要があり、この場合、補完する輪郭点の画素値は、直線Lnで結ばれる2つの輪郭点の画素値の平均値とすればよい。
【0120】
また、本実施形態では1画素分の線幅で輪郭生成しているが、このデータを基にスムージング処理や太線化・細線化処理を施すことがメッシュモデル生成で有効になる場合がある。
【0121】
[メッシュモデル生成]
次に、図3に示したメッシュモデル生成(ST105)について説明する。図23は、メッシュモデル生成の手順を示すフロー図である。図24は、メッシュモデル生成の状況を示す模式図である。この処理は図2に示したメッシュモデル生成部33で行われる。
【0122】
ここではまず、図24(A)に示すように、図3に示した輪郭取得(ST104)で取得した輪郭点に基づいて、ページの上下左右の端点である特異点を検出する。ここで、見開き2ページの撮影画像では、ページの上下左右の端点として6つの特異点が検出され、4つの特異点は本の外形の4角を示す角点Ca0,Cb0,Cc0,Cd0の近くに現れ、2つの特異点は本の綴じ目がある中央部に現れる。
【0123】
ついで、本のページの歪曲した輪郭線を表す歪曲成分を抽出する(ST501)。ページの上縁および下縁の輪郭線は、外側に膨らんだ歪曲した状態で表示され、このページの上縁および下縁の歪曲した輪郭成分(輪郭を構成する画素)を、図6に示したエッジ検出(ST204)で取得したエッジ画像から抽出する。そして、歪曲成分の連続性に基づいて歪曲成分の妥当性を判断する(ST502)。ここで、歪曲成分が妥当でないものと判断されると、途切れた部分の補間処理を行う(ST503)。これにより、歪曲成分が途切れることなく連続した状態となる。
【0124】
ついで、歪曲成分を高さ成分に変換する演算を行う(ST504)。撮影画像上でページの上縁および下縁の輪郭線が歪曲した状態で表示されるのは、3次元的には紙面が上側に凸となるように湾曲していることによるものであり、ページの上縁および下縁の輪郭線を示す歪曲成分に基づいて、ページの上縁および下縁の3次元的な湾曲状態を示す高さ成分を求めることができる。具体的には載置面5に対してページの上縁および下縁の高さ(Z軸の座標)を一定間隔で求める。この高さ成分により、ページの上縁および下縁の実際の長さを推定することができる。
【0125】
ついで、図24(B)に示すように、縦横のメッシュラインを生成し(ST505)、その縦横のメッシュラインが交差するメッシュ交点の座標をメッシュテーブルに格納する(ST506)。ここでは、ページの上縁および下縁の高さ成分に基づいて、ページの上縁および下縁を示す曲線をメッシュ数に応じて等間隔に分割する基点の座標を求め、上縁および下縁の互いに対応する基点を結線して縦メッシュラインを求める。ついで、縦メッシュラインをメッシュ数に応じて等間隔に分割する点(メッシュ交点)の座標を求め、その点を結線して横メッシュラインを求める。
【0126】
このようにしてメッシュモデルを生成すると、そのメッシュモデルに基づいて画像を平面化する画像変換処理が画像変換部34にて行われるが、このとき、原稿領域の画像のみを切り出して平面化することで、原稿領域のみの歪みのない画像を得ることができる。また、必要に応じて画像の傾きを補正するスキュー補正などが行われる。
【0127】
なお、本実施形態では、図2に示したように、ブックスキャナから撮影画像データをPCに送ってPCで画像処理を行うようにしたが、このような画像処理をブックスキャナで行う、すなわちブックスキャナが画像処理装置を含む構成も可能である。この場合、テレビジョン受像機などの表示デバイスに画像を表示させればよい。
【0128】
また、本実施形態では、図11に示したように、交点検出の際の仮想直線の角度を45度としたが、本発明における仮想直線の角度はこれに限定されるものではなく、適宜に設定すればよい。
【0129】
また、本実施形態では、メッシュモデルを生成して画像を平面化する例を示したが、本の表紙やシート原稿の場合には画像の平面化が必要でなく、このような場合は、画像の平面化を省略して、原稿の外形輪郭に基づいて原稿領域の画像のみを切り出す処理と、必要に応じてスキュー補正などが行われる。
【産業上の利用可能性】
【0130】
本発明にかかる画像処理装置およびこれを備えた原稿読取システムは、ユーザに面倒をかけることなく、原稿の外形輪郭を精度よく検出することができる効果を有し、本などの原稿を読み取って得られた画像を処理する画像処理装置およびこれを備えた原稿読取システムなどとして有用である。
【符号の説明】
【0131】
1 ブックスキャナ(画像入力装置)
2 PC(画像処理装置)
3 カメラ部
22 画像データ入力部(撮影画像取得部)
23 画像処理部
31 角点検出部
32 輪郭取得部
33 メッシュモデル生成部
34 画像変換部
41 原稿端領域取得部
42 輪郭成分抽出部
43 交点検出部
44 輪郭交点取得部
45 角点取得部
L1〜L4 仮想直線
Ca0,Cb0,Cc0,Cd0 角点

【特許請求の範囲】
【請求項1】
原稿の紙面を載置面とともに撮影した撮影画像を取得する撮影画像取得部と、
前記撮影画像を処理する画像処理部と、を有し、
この画像処理部は、
前記撮影画像から原稿の輪郭成分を抽出する輪郭成分抽出部と、
矩形をなす前記撮影画像の互いに直交する2辺に沿った座標軸に対して所定角度傾斜した仮想直線を所定の移動間隔で平行移動させながら、その仮想直線と前記輪郭成分抽出部で取得した輪郭成分との交点を取得する交点検出部と、
この交点検出部で取得した交点に基づいて原稿の外形輪郭の角点を取得する角点取得部と、を備え、
この角点取得部で取得した角点に基づいて原稿の外形輪郭を取得することを特徴とする画像処理装置。
【請求項2】
前記画像処理部は、取得した原稿の外形輪郭に基づいてメッシュモデルを生成して、そのメッシュモデルに基づいて前記撮影画像を平面化することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記交点検出部は、始点から交点が検出されるまでは、前記仮想直線を第1の移動間隔で大きく移動させ、交点が検出されると、その直前の位置から前記仮想直線を第2の移動間隔で細かく移動させることを特徴とする請求項1または請求項2に記載の画像処理装置。
【請求項4】
前記画像処理部は、
撮影画像から原稿の端縁が存在するものと推定される原稿端領域を取得する原稿端領域取得部をさらに備え、
前記交点検出部で取得した交点のうち、前記原稿端領域取得部で取得した前記原稿端領域の外に位置する交点をノイズとして除去することを特徴とする請求項1から請求項3のいずれかに記載の画像処理装置。
【請求項5】
前記原稿端領域取得部は、撮影画像から検出された直線成分を計数して、その直線成分の計数値に基づいて原稿端領域を取得することを特徴とする請求項4に記載の画像処理装置。
【請求項6】
請求項1から請求項5のいずれかに記載の画像処理装置と、カメラ部を備えた画像入力装置と、を有し、この画像入力装置において原稿を撮影して撮影画像を前記画像処理装置に送ることを特徴とする原稿読取システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate


【公開番号】特開2012−213101(P2012−213101A)
【公開日】平成24年11月1日(2012.11.1)
【国際特許分類】
【出願番号】特願2011−78367(P2011−78367)
【出願日】平成23年3月31日(2011.3.31)
【特許番号】特許第4918167号(P4918167)
【特許公報発行日】平成24年4月18日(2012.4.18)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】