フィルタリングプログラム、フィルタリング装置およびフィルタリング方法
【課題】管理が容易で、かつ、適切なフィルタリングを行う。
【解決手段】入力受付手段１ａにより、利用者による送信される情報の入力が受け付けられる。ワード抽出手段１ｂにより、受け付けられた情報から単語が抽出される。スコア算出手段１ｃにより、ワード抽出手段１ｂによって情報から抽出された単語に付与されるスコアが記憶手段１ｅに基づいて算出される。フィルタリング実行手段１ｄにより、算出されたスコアに基づいて、情報が送信され、または情報が送信されずに遮断される情報のフィルタリングが行われる。
【解決手段】入力受付手段１ａにより、利用者による送信される情報の入力が受け付けられる。ワード抽出手段１ｂにより、受け付けられた情報から単語が抽出される。スコア算出手段１ｃにより、ワード抽出手段１ｂによって情報から抽出された単語に付与されるスコアが記憶手段１ｅに基づいて算出される。フィルタリング実行手段１ｄにより、算出されたスコアに基づいて、情報が送信され、または情報が送信されずに遮断される情報のフィルタリングが行われる。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、不適切な情報の送信についてフィルタリングするフィルタリングプログラム、フィルタリング装置およびフィルタリング方法に関する。
【背景技術】
【０００２】
近年、情報技術の発達および普及に伴い、パーソナルコンピュータ（Personal Computer）等の情報処理装置およびインターネット（Internet）等のネットワーク通信等の情報技術を用いて、掲示板サービスやブログ提供等の、利用者によって送信された情報を公開するサービスが広く利用されている。
【０００３】
これに伴い、インターネット上の掲示板等への軽率な投稿（犯罪予告等）により、投稿した利用者が逮捕される等の事例が増加している。これらのケースの大部分は、投稿した利用者自身は悪戯や冗談のつもりで投稿したものであると言われているが、瞬時に多くの人の目に留まる機会があるような利用者の多い掲示板に書き込まれると、短時間で大きな問題へと発展してしまうことも多い。
【０００４】
現状、このようなサービスを提供するサイトに対するデータ送信（書き込み等）は、「フィルタリングソフト」で制限を行うのが一般的である。フィルタリングソフトは、ＵＲＬ（Uniform Resource Locator）に基づいて作成されたブラックリストや、送信文に含まれる単語等から、利用者がそのサイトに対して情報を送信してよいかどうかを判断している。ここで、フィルタリングに関して、以下の技術が知られている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００１−２８００６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかし、フィルタリング機能は、適切に機能させることが難しい場合がある。例えば、予め定められている単語であってこれを含む情報の送信を規制する単語（ＮＧワード）を用いてフィルタリングを行う場合、本当に有用な情報の送信（例えばニュースを引用したＢｌｏｇの掲載）も制限されてしまい、利便性を損なうこととなる。この結果、情報の送信を確保するため等により、本来リスク回避のために必要であるフィルタリング機能を外して運用してしまうという、本末転倒な状況にもなりかねないという問題点がある。
【０００７】
本件はこのような点に鑑みてなされたものであり、適切なフィルタリングを行うフィルタリングプログラム、フィルタリング装置およびフィルタリング方法を提供することを目的とする。
【課題を解決するための手段】
【０００８】
開示のフィルタリングプログラムは、コンピュータを、前記利用者による送信される前記情報の入力を受け付ける入力受付手段、前記入力受付手段によって受け付けられた前記情報から単語を抽出するワード抽出手段、前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを、記憶手段に基づいて算出するスコア算出手段、前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うフィルタリング実行手段として機能させる。
【０００９】
開示のフィルタリングプログラムによれば、入力受付手段により、利用者による送信される情報の入力が受け付けられる。ワード抽出手段により、入力受付手段によって受け付けられた情報から単語が抽出される。スコア算出手段により、ワード抽出手段によって情報から抽出された単語に付与されるスコアが、記憶手段に基づいて算出される。フィルタリング実行手段により、スコア算出手段によって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングが行われる。
【発明の効果】
【００１０】
開示のフィルタリングプログラム、フィルタリング装置およびフィルタリング方法によれば、利用者が入力した情報について精度の高いフィルタリングを行うことができる。
【図面の簡単な説明】
【００１１】
【図１】本実施の形態の概要を示す図である。
【図２】第１の実施の形態のシステム構成を示す図である。
【図３】情報処理装置のハードウェア構成を示す図である。
【図４】第１の実施の形態の情報処理装置の構成を示すブロック図である。
【図５】ＮＧワードテーブルの構成例を示す図である。
【図６】ＯＫワードテーブルの構成例を示す図である。
【図７】スコア付与テーブルの構成例を示す図である。
【図８】フィルタリング処理の手順を示すフローチャートである。
【図９】送信制限処理の手順を示すフローチャートである。
【図１０】ワードデータ更新処理の手順を示すフローチャートである。
【図１１】入力された情報が「問題なし」と判定された場合の処理の手順を示すシーケンス図である。
【図１２】入力された情報が「警告」と判定された場合の処理の手順を示すシーケンス図である。
【図１３】入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。
【図１４】入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。
【図１５】入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。
【図１６】入力された情報が「遮断」と判定された場合の処理の手順を示すシーケンス図である。
【図１７】警告通知画面を示す図である。
【図１８】検閲通知画面を示す図である。
【図１９】遮断通知画面を示す図である。
【図２０】検閲結果受付画面を示す図である。
【図２１】第２の実施の形態のシステム構成を示す図である。
【図２２】第２の実施の形態のフィルタリング用サーバの構成を示すブロック図である。
【発明を実施するための形態】
【００１２】
以下、実施の形態について、図面を参照して説明する。
図１は、本実施の形態の概要を示す図である。図１に示すフィルタリング装置１は、利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリングを行う。フィルタリング装置１は、入力受付手段１ａ、ワード抽出手段１ｂ、スコア算出手段１ｃ、フィルタリング実行手段１ｄ、記憶手段１ｅを有する。また、フィルタリング装置１は、通信回線（図示省略）によりＷＥＢサーバ等の情報処理装置２と接続されている。
【００１３】
フィルタリング装置１は、コンピュータであってもよい。その場合、フィルタリング装置１は、フィルタリングプログラムの実行により、以下の機能を有する。
入力受付手段１ａは、利用者による送信される情報の入力を受け付ける。これにより、利用者が通信回線を介して情報処理装置２に送信しようとしている情報の入力が受け付けられる。
【００１４】
ワード抽出手段１ｂは、入力受付手段１ａによって受け付けられた情報から単語を抽出する。これにより、利用者が送信しようとしている情報に含まれている単語が抽出される。
【００１５】
スコア算出手段１ｃは、ワード抽出手段１ｂによって情報から抽出された単語に付与されるスコアを記憶手段１ｅに基づいて算出する。これにより、利用者が入力した情報に付与されるスコアが算出される。
【００１６】
フィルタリング実行手段１ｄは、スコア算出手段１ｃによって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングを行う。このフィルタリング実行手段１ｄによるフィルタリングの結果、送信されると判定された場合には、利用者によって入力された情報は、通信回線を介して情報処理装置２に送信される。一方、フィルタリングの結果、遮断すると判定された場合には、利用者によって入力された情報は、情報処理装置２に送信されない。
【００１７】
記憶手段１ｅは、含んでいる情報が遮断の対象として予め設定された単語であるＮＧワードとＮＧワードに基づいて付与されるスコアとを示すＮＧワード情報およびＮＧワードを含んでいるにもかかわらず、含んでいる情報が遮断の対象から除外されるものとして予め設定された単語であるＯＫワードとＯＫワードに基づいて付与されるスコアと示すＯＫワード情報を記憶する。
【００１８】
このようなフィルタリング装置１によれば、入力受付手段１ａにより、利用者による送信される情報の入力が受け付けられる。ワード抽出手段１ｂにより、入力受付手段１ａによって受け付けられた情報から単語が抽出される。スコア算出手段１ｃにより、ワード抽出手段１ｂによって情報から抽出された単語に付与されるスコアが記憶手段１ｅに基づいて算出される。フィルタリング実行手段１ｄにより、スコア算出手段１ｃによって算出されたスコアに基づいて、情報が送信され、または情報が送信されずに遮断される情報のフィルタリングが行われる。
【００１９】
これによって、利用者が入力した情報について精度の高いフィルタリングを行うことができる。
［第１の実施の形態］
以下、第１の実施の形態について図面を参照して詳細に説明する。
【００２０】
図２は、第１の実施の形態のシステム構成を示す図である。図２に示す第１の実施の形態のフィルタリングシステムは、利用者１００ａが使用する情報処理装置１００からＷＥＢサーバ４００に対してインターネット４０を介して送信される情報について、フィルタリングを行うシステムである。
【００２１】
第１の実施の形態に係るフィルタリングシステムでは、利用者１００ａによって情報処理装置１００に入力された、利用者１００ａがインターネット４０を介してＷＥＢサーバ４００に送信したい情報を情報処理装置１００が事前にフィルタリングすることにより、不適切な内容がＷＥＢサーバ４００によって提供される掲示板等に公開されてしまうことを未然に防止する。
【００２２】
情報処理装置１００は、インターネット４０により、検閲用サーバ２００、ＷＥＢサーバ４００と接続可能である。さらに、検閲用サーバ２００は、インターネット４０により、管理者用情報処理装置３００、ＷＥＢサーバ４００と接続可能である。
【００２３】
情報処理装置１００は、ＷＥＢサーバ４００に送信される情報の利用者１００ａによる入力を受け付けると共にフィルタリングによる判定を行い、判定の結果に基づいて情報の送信を許可する場合には、利用者１００ａが入力した情報をＷＥＢサーバ４００に送信する。また、情報処理装置１００は、フィルタリングによる判定の結果に基づいて送信を遮断する場合には、利用者１００ａが入力した情報をＷＥＢサーバ４００に送信しない。また、情報処理装置１００は、フィルタリングによる判定の結果に応じて検閲用サーバ２００を介して管理者用情報処理装置３００に検閲を依頼する。
【００２４】
検閲用サーバ２００は、利用者１００ａにより入力された情報の情報処理装置１００によるフィルタリングにおける判定の結果、検閲を行う旨の判定がされた場合に情報処理装置１００から送信された利用者１００ａにより入力された情報を受信する。次に、検閲用サーバ２００は、管理者３００ｂが使用する管理者用情報処理装置３００に利用者１００ａが入力した情報についての検閲を依頼する。
【００２５】
管理者用情報処理装置３００は、管理者３００ｂが行う検閲に使用される。このとき管理者用情報処理装置３００は、検閲用サーバ２００からの検閲の依頼を受け付けて、利用者１００ａが情報処理装置１００からＷＥＢサーバ４００に送信しようとした情報を管理者３００ｂに対して接続されたモニタ（図示省略）に表示する。管理者３００ｂは、この管理者用情報処理装置３００に接続されたモニタに表示される利用者１００ａが入力した情報を見て検閲を行い、ＷＥＢサーバ４００に送信することを認めるか否かを判定して判定結果を入力する。
【００２６】
ＷＥＢサーバ４００は、情報処理装置１００によるフィルタリングにおける判定の結果、送信を許可する場合、情報処理装置１００から送信された情報を表示する。ＷＥＢサーバ４００は、例えば、インターネット４０を介して利用者１００ａ等により送信された情報を第三者に向けて発信する掲示板等のサービスを提供するサーバである。
【００２７】
図３は、情報処理装置のハードウェア構成を示す図である。図３に示す情報処理装置１００は、ＣＰＵ（Central Processing Unit）１０１によって装置全体が制御されている。ＣＰＵ１０１には、バス１０７を介してＲＡＭ（Random Access Memory）１０２、ハードディスクドライブ（ＨＤＤ:Hard Disk Drive）１０３、グラフィック処理装置１０４、入力インタフェース１０５および通信インタフェース１０６が接続されている。
【００２８】
ＲＡＭ１０２には、ＣＰＵ１０１に実行させるＯＳ（Operating System）のプログラムやアプリケーションソフトのプログラム（アプリケーションプログラム）の少なくとも一部が一時的に記憶される。また、ＲＡＭ１０２には、ＣＰＵ１０１による処理に必要な各種データが記憶される。ＨＤＤ１０３には、ＯＳやアプリケーションプログラムが記憶される。
【００２９】
グラフィック処理装置１０４には、モニタ１１が接続されている。グラフィック処理装置１０４は、ＣＰＵ１０１からの命令に従って、画像をモニタ１１の画面に表示させる。入力インタフェース１０５には、キーボード１２とマウス１３とが接続されている。入力インタフェース１０５は、キーボード１２やマウス１３から送られてくる信号を、バス１０７を介してＣＰＵ１０１に送信する。
【００３０】
通信インタフェース１０６は、インターネット４０やその他の図示しないネットワークに接続可能である。通信インタフェース１０６は、これらのネットワークを介して、他のコンピュータとの間でデータの送受信を行うことができる。
【００３１】
なお、図２において前述した検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００も、情報処理装置１００と同様のハードウェア構成によって実現される。
以上のようなハードウェア構成によって、本実施の形態の処理機能を実現することができる。
【００３２】
図４は、第１の実施の形態の情報処理装置の構成を示すブロック図である。図４に示す情報処理装置１００は、利用者１００ａ（図２において前述）によって入力された情報の送信を許可し、または送信を遮断するフィルタリングを行う。
【００３３】
情報処理装置１００は、検閲用サーバ２００、ＷＥＢサーバ４００とインターネット４０（図２において前述）で接続されている。また、検閲用サーバ２００は、管理者用情報処理装置３００とインターネット４０で接続されている。
【００３４】
情報処理装置１００は、入力受付部１１１、ワード抽出部１１２、スコア算出部１１３、フィルタリング実行部１１４、通信部１１５、ＮＧワード情報記憶部１５１、ＯＫワード情報記憶部１５２を有する。情報処理装置１００は、フィルタリングプログラムの実行により、以下の機能を有する。
【００３５】
入力受付部１１１は、利用者１００ａによる送信される情報の入力を受け付ける。これにより、利用者１００ａがインターネット４０を介してＷＥＢサーバ４００に送信しようとしている情報の入力が受け付けられる。また、入力受付部１１１は、利用者１００ａによる送信される情報について送信するか否かの確認の結果の入力を受け付ける。これにより、利用者１００ａは、図１７において後述する警告通知画面により、自己が入力した情報について送信を行うか否かについて確認することができる。
【００３６】
ワード抽出部１１２は、入力受付部１１１によって受け付けられた情報から単語を抽出する。これにより、利用者１００ａが送信しようとしている情報に含まれている単語が抽出される。
【００３７】
スコア算出部１１３は、ワード抽出部１１２によって情報から抽出された単語に付与されるスコアを、ＮＧワード情報記憶部１５１およびＯＫワード情報記憶部１５２に基づいて算出する。
【００３８】
具体的には、スコア算出部１１３は、ワード抽出部１１２によって情報から抽出された単語と、ＮＧワード情報記憶部１５１に記憶されているＮＧワード情報に示されているＮＧワードとを比較して情報に含まれているＮＧワードを特定し、特定したＮＧワードに基づくスコアを情報に付与する。また、スコア算出部１１３は、情報から抽出された単語と、ＯＫワード情報記憶部１５２に記憶されているＯＫワード情報に示されているＯＫワードとを比較して情報に含まれているＯＫワードを特定し、特定したＯＫワードに基づくスコアを情報に付与する。次に、スコア算出部１１３は、ＮＧワードに基づいて付与されたスコアとＯＫワードに基づいて付与されたスコアとを合計することにより、情報に付与されるスコアを算出する。これにより、利用者１００ａが入力した情報に付与されるスコアが算出される。
【００３９】
フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングを行う。このフィルタリング実行部１１４によるフィルタリングの結果、送信されると判定された場合には、利用者１００ａによって入力された情報は、インターネット４０を介してＷＥＢサーバ４００に送信される。一方、フィルタリングの結果、遮断すると判定された場合には、利用者１００ａによって入力された情報は、ＷＥＢサーバ４００に送信されない。
【００４０】
フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが、閾値によって特定される複数の範囲のいずれに該当するかに基づいてフィルタリングを行う。このスコアの範囲を特定する閾値については、詳しくは図８および図９において後述する。
【００４１】
フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが「送信」を許可すべきとされる範囲に該当する場合には、送信を許可する。これに基づいて、情報処理装置１００からＷＥＢサーバ４００に、利用者１００ａが入力した情報が送信される。
【００４２】
また、フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが「送信」を許可すべきとされる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、利用者１００ａに対して「警告」を行い、入力受付部１１１によって受け付けられた利用者１００ａによる確認の結果に基づいてフィルタリングを行う。ここで、「遮断すべき」とは、例えば、入力された情報にＮＧワードに基づいて付与されたスコアの絶対値が多い、またはＯＫワードに基づいて付与されたスコアの絶対値が少ない等により、入力された情報の利用者１００ａまたは第三者に対する危険性が高いと考えられることとする。
【００４３】
また、フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが「警告」が行われる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、入力された情報に対して「検閲」を行わせる。この場合、フィルタリング実行部１１４は、通信部１１５に検閲用サーバ２００に対して入力された情報を送信させる。次に、フィルタリング実行部１１４は、この送信した情報に対する返信である、検閲用サーバ２００から送信された入力された情報に対する検閲の結果を通信部１１５が受信すると、受信した情報に対する検閲の結果に基づいてフィルタリングを行う。
【００４４】
また、フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが最も高い段階で「遮断すべき」とされる範囲に該当する場合には、情報を送信しない。
通信部１１５は、インターネット４０を介して、検閲用サーバ２００、ＷＥＢサーバ４００と通信可能である。この通信部１１５により、情報処理装置１００は、検閲用サーバ２００、ＷＥＢサーバ４００との間で情報を送受信することができる。
【００４５】
ＮＧワード情報記憶部１５１は、含んでいる情報が遮断の対象として予め設定された単語であるＮＧワードとＮＧワードに基づいて付与されるスコアとを示すＮＧワード情報を記憶する。
【００４６】
ＯＫワード情報記憶部１５２は、ＮＧワードを含んでいるにもかかわらず、含んでいる情報が遮断の対象から除外されるものとして予め設定された単語であるＯＫワードとＯＫワードに基づいて付与されるスコアと示すＯＫワード情報を記憶する。
【００４７】
検閲用サーバ２００は、情報処理装置１００から送信された利用者１００ａが入力した情報の検閲を、管理者用情報処理装置３００に送信する。また、検閲用サーバ２００は、スコア付与情報に基づいてＮＧワード情報およびＯＫワード情報の生成および更新を行う。検閲用サーバ２００は、生成部２２１、更新部２２２、検閲部２２３、スコア付与情報記憶部２６１を有する。
【００４８】
生成部２２１は、インターネット４０を介して情報処理装置１００の通信部１１５と接続することにより、利用者１００ａによって情報処理装置１００を使用して入力された情報に含まれていた単語を収集する。次に、生成部２２１は、収集結果に基づいて更新用のＮＧワード情報およびＯＫワード情報を生成する。
【００４９】
更新部２２２は、生成部２２１が生成したＮＧワード情報およびＯＫワード情報を、インターネット４０を介して情報処理装置１００に配布する。
検閲部２２３は、フィルタリング実行部１１４によるフィルタリングの結果、検閲が行われる場合には、通信部１１５によって送信された利用者１００ａが入力した情報を管理者用情報処理装置３００にインターネット４０を介して送信することにより、管理者３００ｂ（図２において前述）に検閲を依頼する。また、検閲部２２３は、インターネット４０を介して管理者用情報処理装置３００から送信される検閲結果を受信し、受信した検閲結果に基づき、検閲結果が送信を許可する場合には、利用者１００ａが入力した情報をインターネット４０を介してＷＥＢサーバ４００に送信する。
【００５０】
スコア付与情報記憶部２６１は、更新用のＮＧワード情報およびＯＫワード情報の生成に使用されるスコア付与情報を記憶する。
次に、本実施の形態で使用されるデータのデータ構造例について説明する。
【００５１】
図５は、ＮＧワードテーブルの構成例を示す図である。図５に示すＮＧワードテーブル１５１ａは、情報処理装置１００（図２において前述）によって作成および管理され、ＨＤＤ１０３（図３において前述）に記憶されている。ＮＧワードテーブル１５１ａは、情報処理装置１００が有するフィルタリング機能における、書き込まれた情報が他人に不快感や危害を与える恐れを有しているか、書き込んだ本人が脅迫等の犯罪に該当する可能性を有しているＮＧワードを示すＮＧワード情報を記憶するテーブルである。
【００５２】
ＮＧワードは、入力された情報に含まれていた場合に上記の恐れや犯罪に該当する可能性が高いことを示すスコアが付与されるキーワードである。ＮＧワードテーブル１５１ａには、ＮＧワードとして設定されたキーワードが、抽出された場合に応じて付与される付与スコア毎に設定されている。
【００５３】
例えば、付与スコアとして“−８点”が設定されているキーワードが、利用者１００ａ（図２において前述）が送信するために入力した情報に含まれていた場合には、その情報に対して、−８点のキーワードが含まれていた個数に応じて“−８点”が付与される。
【００５４】
このＮＧワードテーブル１５１ａに設定されているＮＧワード情報に基づき、利用者１００ａによって入力された情報にＮＧワード情報が示すキーワードが含まれていた場合には、含まれていたキーワードに応じて入力された情報に対してスコアが付与される。
【００５５】
例えば、利用者１００ａによって入力された情報にキーワード「刺す」が１個、「大量」が２個、「ライター」が１個、「ストレス」が１個含まれていたとする。この場合には、ＮＧワードテーブル１５１ａに基づいて判定すると、利用者１００ａによって入力された情報には、−８点のキーワードである「刺す」が１個含まれている。また、同様に−４点のキーワードである「大量」が２個含まれている。また、−２点のキーワードである「ライター」が１個、「ストレス」が１個、合計２個含まれている。これらにより、この入力された情報にＮＧワードテーブル１５１ａによって付与されるスコアは、（−８点）×１＋（−４点）×２＋（−２点）×２＝−２０点となる。
【００５６】
図６は、ＯＫワードテーブルの構成例を示す図である。図６に示すＯＫワードテーブル１５２ａは、情報処理装置１００（図２において前述）によって作成および管理され、ＨＤＤ１０３（図３において前述）に記憶されている。ＯＫワードテーブル１５２ａは、情報処理装置１００が有するフィルタリング機能における、書き込まれた情報が他人に不快感や危害を与える恐れが低く、書き込んだ本人が脅迫等の犯罪に該当する可能性が低い場合に含まれるＯＫワードを示すＯＫワード情報を記憶するテーブルである。
【００５７】
ＯＫワードは、入力された情報に含まれていた場合に上記の恐れや犯罪に該当する可能性が低いことを示すスコアが付与されるキーワードである。ＯＫワードテーブル１５２ａには、ＯＫワードとして設定されたキーワードが、抽出された場合に応じて付与される付与スコア毎に設定されている。
【００５８】
ＮＧワードテーブル１５１ａと同様、例えば、付与スコアとして“４点”が設定されているキーワードが、利用者１００ａ（図２において前述）が送信するために入力した情報に含まれていた場合には、その情報に対して、４点のキーワードが含まれていた個数に応じて“４点”が付与される。
【００５９】
前述したようにＮＧワードテーブル１５１ａの付与スコアには負の値が設定されていたが、ＯＫワードテーブル１５２ａの付与スコアには正の値が設定されている。これにより、ＯＫワードテーブル１５２ａに設定されるＯＫワードは、ＮＧワードが含まれている情報が実は他人に危害を加えるものではなかったり犯罪性を有しないものであったりする場合に含まれる単語が設定されている。すなわち、ＯＫワードテーブル１５２ａに設定されるＯＫワードとしては、ＮＧワードの影響を打ち消すような単語や、ＮＧワードの影響を緩和させる単語が設定される。
【００６０】
このＯＫワードテーブル１５２ａに設定されているＯＫワード情報に基づき、利用者１００ａによって入力された情報にＯＫワード情報が示すキーワードが含まれていた場合には、含まれていたキーワードに応じて入力された情報に対してスコアが付与される。
【００６１】
例えば、利用者１００ａによって入力された情報にキーワード「ニュース」が２個、「警察」が１個、「ブログ」が１個、「宿題」が１個含まれていたとする。この場合には、ＯＫワードテーブル１５２ａに基づけば、利用者１００ａによって入力された情報には、４点のキーワードである「ニュース」が２個、「警察」が１個、合計３個含まれている。また、同様に２点のキーワードである「ブログ」が１個含まれている。また、１点のキーワードである「宿題」が１個含まれている。これらにより、この入力された情報にＯＫワードテーブル１５２ａによって付与されるスコアは、４点×３＋２点×１＋１点×１＝１５点となる。
【００６２】
図７は、スコア付与テーブルの構成例を示す図である。図７に示すスコア付与テーブル２６１ａは、検閲用サーバ２００（図２において前述）で動作するアプリケーションソフトのユーザによる操作に基づき検閲用サーバ２００によって作成および管理され、検閲用サーバ２００が有するＨＤＤ（図示省略）に記憶されている。スコア付与テーブル２６１ａは、検閲用サーバ２００が有するＯＫワード情報およびＮＧワード情報の更新に用いられるスコア付与情報を記憶するテーブルである。
【００６３】
スコア付与テーブル２６１ａには、項目として“変化数”、“付与するスコア（ＮＧワード）”、“付与するスコア（ＯＫワード）”が設けられている。スコア付与テーブル２６１ａでは、各項目の横方向に並べられた情報同士がスコア付与情報として互いに関連付けられている。
【００６４】
変化数は、利用者１００ａ等の利用者によってＷＥＢサーバ４００に送信するために入力された情報に含まれているキーワードの抽出回数の、前回の取得時からの増加分を示す。この変化数に基づいて、設定されているキーワードに付与されているスコアが加算される。
【００６５】
例えば、図５において前述した−４点のＮＧワード「無差別」が、前回の取得時と比較して２００件増加していたとする。この場合、ＮＧワード「無差別」の付与スコアは、−４点に加えてさらにスコア付与テーブル２６１ａによる付与スコアの−２点が加算され、合計−６点となる。この合計結果に基づいて、ＮＧワードテーブル１５１ａに記憶されているＮＧワード情報においてＮＧワード「無差別」の付与スコアが−６点となるように更新される。ＯＫワードについても同様に更新される。
【００６６】
次に、本実施の形態で実行される処理について説明する。
図８は、フィルタリング処理の手順を示すフローチャートである。図８に示すフィルタリング処理は、情報処理装置１００（図２において前述）が利用者１００ａ（図２において前述）によって入力された情報についてフィルタリングを行う処理であり、情報処理装置１００の起動に基づいて実行が開始される。フィルタリング処理は、情報処理装置１００上に常駐して動作し、常にユーザによって入力された情報の送信を監視する。
【００６７】
［ステップＳ１１］通信部１１５（図４において前述）は、検閲用サーバ２００（図４において前述）と通信を行い、検閲用サーバ２００が有する更新部２２２（図４において前述）で生成された更新データを取得する。次に、通信部１１５は、取得した更新データに基づいて、ＮＧワード情報記憶部１５１（図４において前述）に記憶されているＮＧワード情報およびＯＫワード情報記憶部１５２（図４において前述）に記憶されているＯＫワード情報を更新する。
【００６８】
［ステップＳ１２］入力受付部１１１（図４において前述）は、利用者１００ａによってＷＥＢサーバ４００（図４において前述）に送信される情報の入力を検出したか否かについて判定する。情報の入力が検出されるまで、ステップＳ１２の処理が繰り返される。情報の入力が検出されれば、処理はステップＳ１３に進められる。
【００６９】
［ステップＳ１３］ワード抽出部１１２（図４において前述）は、ステップＳ１２で検出された、利用者１００ａによって入力された情報から、ＮＧワード情報記憶部１５１に記憶されているＮＧワード情報、ＯＫワード情報記憶部１５２に記憶されているＯＫワード情報に示されたキーワードを抽出する。
【００７０】
［ステップＳ１４］スコア算出部１１３（図４において前述）は、ステップＳ１３で抽出された、利用者１００ａによって入力された情報に含まれている各キーワードに基づいて、入力された情報にスコアを付与する。
【００７１】
［ステップＳ１５］スコア算出部１１３は、ステップＳ１４で抽出された各キーワードに基づいて、入力された情報に付与されたスコアを集計する。
［ステップＳ１６］フィルタリング実行部１１４（図４において前述）は、ステップＳ１５で集計された、入力された情報のスコアが、送信制限処理（図９において後述）で送信制限を行うか否かを決定するために予め定められた、「問題なし」か否かを決定する閾値（例えば、−１０）以上であるか否かについて判定する。スコアが閾値以上であれば、処理はステップＳ１７に進められる。一方、スコアが閾値未満であれば、処理はステップＳ１８に進められる。
【００７２】
［ステップＳ１７］通信部１１５は、利用者１００ａによって入力された情報を、ＷＥＢサーバ４００に送信する。その後、処理はステップＳ１２に進められる。
［ステップＳ１８］フィルタリング実行部１１４は、送信制限処理（図９において後述）を実行する。その後、処理はステップＳ１２に進められる。
【００７３】
図９は、送信制限処理の手順を示すフローチャートである。図９に示す送信制限処理は、情報処理装置１００（図２において前述）が利用者１００ａ（図２において前述）によって入力された情報について、フィルタリング処理（図８において前述）による判定結果に基づいて、送信制限を行う処理であり、フィルタリング処理による呼び出しに基づいて実行が開始される。
【００７４】
［ステップＳ２１］フィルタリング実行部１１４（図４において前述）は、フィルタリング処理のステップＳ１５において集計された、入力された情報のスコアが予め定められた「遮断」レベルの閾値（例えば、−３０）未満であるか否かについて判定する。スコアが「遮断」レベルの閾値未満であれば、処理はステップＳ２３に進められる。一方、スコアが「遮断」レベルの閾値以上であれば、処理はステップＳ２２に進められる。
【００７５】
［ステップＳ２２］フィルタリング実行部１１４は、フィルタリング処理のステップＳ１５において集計された、入力された情報のスコアが予め定められた「検閲」レベルの閾値（例えば、−２０）未満であるか否かについて判定する。スコアが「検閲」レベルの閾値未満であれば、処理はステップＳ２４に進められる。一方、スコアが「検閲」レベルの閾値以上であれば、処理はステップＳ２６に進められる。
【００７６】
［ステップＳ２３］フィルタリング実行部１１４は、利用者１００ａによって入力された情報の送信を行わず、その情報の送信を遮断した旨をモニタ１１（図３において前述）に表示する。その後、送信制限処理は終了してフィルタリング処理に復帰する。
【００７７】
［ステップＳ２４］通信部１１５（図４において前述）は、利用者１００ａによって入力された情報を検閲用サーバ２００（図２において前述）に送信する。この場合、検閲の結果、送信が許可されれば、利用者１００ａが入力した情報は検閲用サーバ２００からＷＥＢサーバ４００（図４において前述）に送信される。検閲の結果、送信が遮断されれば、情報処理装置１００および検閲用サーバ２００のいずれからも情報がＷＥＢサーバ４００に送信されない。
【００７８】
［ステップＳ２５］フィルタリング実行部１１４は、利用者１００ａによって入力された情報の送信は、管理者３００ｂ（図２において前述）による検閲の結果待ちになる旨をモニタ１１に表示する。その後、送信制限処理は終了してフィルタリング処理に復帰する。
【００７９】
［ステップＳ２６］フィルタリング実行部１１４は、利用者１００ａによって入力された情報のプレビューおよび情報の送信についての警告をモニタ１１に表示する。
［ステップＳ２７］フィルタリング実行部１１４は、ステップＳ２６で表示されたプレビューおよび警告を確認した利用者１００ａによる確認結果の入力を受け付ける。
【００８０】
［ステップＳ２８］フィルタリング実行部１１４は、ステップＳ２７において入力された利用者１００ａの確認結果が「送信」であるか否かについて判定する。入力された確認結果が「送信」であれば、処理はステップＳ２９に進められる。一方、入力された確認結果が「送信」でなければ、送信制限処理は終了してフィルタリング処理に復帰する。
【００８１】
［ステップＳ２９］通信部１１５は、利用者１００ａによって入力された情報を、ＷＥＢサーバ４００に送信する。その後、送信制限処理は終了してフィルタリング処理に復帰する。
【００８２】
図１０は、ワードデータ更新処理の手順を示すフローチャートである。図１０に示すワードデータ更新処理は、検閲用サーバ２００（図２において前述）が利用者１００ａ（図２において前述）によって入力された情報に基づいてＮＧワード情報およびＯＫワード情報を更新する処理であり、例えば必要に応じて定められた一定期間毎等、所定の契機で実行が開始される。
【００８３】
［ステップＳ３１］生成部２２１（図４において前述）は、利用者が使用する情報処理装置（例えば、図２において前述した情報処理装置１００）と通信を行い、利用者１００ａが入力した情報から抽出された単語を収集する。
【００８４】
［ステップＳ３２］生成部２２１は、ステップＳ３１で収集した各情報処理装置で入力された単語から、一定期間内において入力されたキーワードの個数を集計する。
［ステップＳ３３］生成部２２１は、ステップＳ３２で集計したキーワードの個数とスコア付与情報記憶部２６１（図４において前述）に記憶されているスコア付与テーブル２６１ａ（図７において前述）とを比較して、集計したキーワードの個数に基づいて付与されるスコアを決定する。
【００８５】
［ステップＳ３４］生成部２２１は、各キーワードに対して以前付与されたスコアにステップＳ３３で決定したキーワードに付与されるスコアを合計して、新たなスコアを算出する。
【００８６】
［ステップＳ３５］生成部２２１は、ステップＳ３４で算出したスコアに基づいて更新用のＮＧワード情報およびＯＫワード情報を生成する。
［ステップＳ３６］更新部２２２（図４において前述）は、ステップＳ３５で生成された更新用のＮＧワード情報およびＯＫワード情報を、インターネット４０（図２において前述）を介して送信することにより、情報処理装置１００を初めとする各情報処理装置に配布する。その後、処理は終了する。
【００８７】
図１１は、入力された情報が「問題なし」と判定された場合の処理の手順を示すシーケンス図である。図１１に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「問題なし」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。
【００８８】
［ステップＳ１１１］情報処理装置１００の入力受付部１１１（図４において前述）は、利用者１００ａによる情報の入力を受け付ける。入力受付部１１１によって入力が受け付けられた情報から、情報処理装置１００が有するワード抽出部１１２（図４において前述）によりキーワード（ＮＧワードおよびＯＫワード）が抽出される。
【００８９】
［ステップＳ１１２］情報処理装置１００が有するスコア算出部１１３（図４において前述）は、ワード抽出部１１２によって抽出されたキーワードより入力された情報のスコアを算出する。
【００９０】
［ステップＳ１１３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「問題なし」と判定されたものとする。
【００９１】
［ステップＳ１１４］情報処理装置１００が有する通信部１１５（図４において前述）は、入力された情報がステップＳ１１３で「問題なし」と判定された場合、入力された情報を、インターネット４０（図２において前述）を介してＷＥＢサーバ４００に送信する。
【００９２】
［ステップＳ１１５］ＷＥＢサーバ４００は、通信部１１５から送信された情報を受信すると、受信した情報を、インターネット４０を介して表示可能に設定する。これにより、ＷＥＢサーバ４００に接続した第三者に対して、利用者１００ａが入力した情報が表示可能になる。
【００９３】
図１２は、入力された情報が「警告」と判定された場合の処理の手順を示すシーケンス図である。図１２に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「警告」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。なお、図１２では、利用者１００ａによって入力された情報が受け付けられてから、入力された情報のスコアが算出されるまでの処理の手順は、図１１のステップＳ１１１，Ｓ１１２と同様であるので省略する。
【００９４】
［ステップＳ１２３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「警告」と判定されたものとする。
【００９５】
［ステップＳ１２４］フィルタリング実行部１１４は、入力された情報がステップＳ１２３で「警告」と判定された場合、入力された情報のプレビューを表示すると共に、利用者１００ａに入力された情報の送信の確認を要求する。また、フィルタリング実行部１１４は、確認結果の入力を受け付ける。この確認結果は、確認対象の情報のＷＥＢサーバ４００に対する送信を行う「送信」または確認対象の情報のＷＥＢサーバ４００に対する送信を中止する「中止」の２通りのうちのいずれかで示される。なお、確認結果が「中止」であった場合には、利用者１００ａによって入力された情報はＷＥＢサーバ４００に対して送信されない。
【００９６】
［ステップＳ１２５］情報処理装置１００が有する通信部１１５（図４において前述）は、ステップＳ１２４で受け付けた確認結果の入力が「送信」する旨であった場合、入力された情報を、インターネット４０（図２において前述）を介してＷＥＢサーバ４００に送信する。
【００９７】
［ステップＳ１２６］ＷＥＢサーバ４００は、通信部１１５から送信された情報を受信すると、受信した情報を、インターネット４０を介して表示可能に設定する。これにより、ＷＥＢサーバ４００に接続した第三者に対して、利用者１００ａが入力した情報が表示可能になる。
【００９８】
図１３から図１５は、入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。図１３から図１５に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「検閲」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。なお、図１３から図１５では、利用者１００ａによって入力された情報が受け付けられてから、入力された情報のスコアが算出されるまでの処理の手順は、図１１のステップＳ１１１，Ｓ１１２と同様であるので省略する。
【００９９】
［ステップＳ１３３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「検閲」と判定されたものとする。
【０１００】
［ステップＳ１３４］情報処理装置１００が有する通信部１１５（図４において前述）は、入力された情報がステップＳ１３３で「検閲」と判定された場合、入力された情報を、インターネット４０（図２において前述）を介して検閲用サーバ２００に送信する。
【０１０１】
［ステップＳ１３５］フィルタリング実行部１１４は、入力された情報のＷＥＢサーバ４００に対する送信が管理者３００ｂ（図２において前述）による検閲の結果待ちになる旨を表示する。
【０１０２】
［ステップＳ１３６］検閲用サーバ２００の検閲部２２３（図４において前述）は、インターネット４０を介して通信部１１５から送信された情報を受信する。
［ステップＳ１３７］検閲部２２３は、ステップＳ１３６で受信した情報を管理者用情報処理装置３００に送信し、管理者３００ｂに利用者１００ａによって入力された情報の検閲を依頼する。
【０１０３】
［ステップＳ１３８］管理者用情報処理装置３００は、受信した情報を表示する。これにより、管理者３００ｂは、利用者１００ａによって入力された情報を視認して確認することができる。
【０１０４】
［ステップＳ１３９］管理者用情報処理装置３００は、表示した情報について管理者３００ｂによる検閲結果の入力を受け付ける。この検閲結果は、検閲対象の情報のＷＥＢサーバ４００に対する送信を許可する「許可」または検閲対象の情報のＷＥＢサーバ４００に対する送信を遮断する「遮断」の２通りのうちのいずれかで示される。なお、検閲結果が「遮断」であった場合には、利用者１００ａによって入力された情報はＷＥＢサーバ４００に対して送信されない。
【０１０５】
［ステップＳ１４０］管理者用情報処理装置３００は、ステップＳ１３９で入力を受け付けた管理者３００ｂによる情報の検閲結果を、インターネット４０を介して検閲用サーバ２００に送信する。
【０１０６】
［ステップＳ１４１］検閲部２２３は、インターネット４０を介して管理者用情報処理装置３００から送信された情報を受信する。
［ステップＳ１４２］検閲部２２３は、ステップＳ１４１で受信した検閲結果が「許可」であった場合、入力された情報を、インターネット４０を介してＷＥＢサーバ４００に送信する。
【０１０７】
［ステップＳ１４３］ＷＥＢサーバ４００は、検閲部２２３から送信された情報を受信すると、受信した情報を、インターネット４０を介して表示可能に設定する。これにより、ＷＥＢサーバ４００に接続した第三者に対して、利用者１００ａが入力した情報が表示可能になる。
【０１０８】
図１６は、入力された情報が「遮断」と判定された場合の処理の手順を示すシーケンス図である。図１６に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「遮断」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。なお、図１６では、利用者１００ａによって入力された情報が受け付けられてから、入力された情報のスコアが算出されるまでの処理の手順は、図１１のステップＳ１１１，Ｓ１１２と同様であるので省略する。
【０１０９】
［ステップＳ１５３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「遮断」と判定されたものとする。
【０１１０】
［ステップＳ１５４］フィルタリング実行部１１４は、入力された情報がステップＳ１５３で「遮断」と判定された場合、入力された情報のＷＥＢサーバ４００に対する送信を遮断した旨を表示する。また、利用者１００ａによって入力された情報はＷＥＢサーバ４００に対して送信されない。これにより、利用者１００ａが入力した情報がＷＥＢサーバ４００に接続した第三者に対して表示されることが防止される。
【０１１１】
次に、本実施の形態で表示される表示画面について説明する。
図１７は、警告通知画面を示す図である。図１７に示す警告通知画面１７０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について警告する警告通知画面の一例である。
【０１１２】
警告通知画面１７０は、掲示板表示領域１７１、メッセージ表示領域１７２、プレビュー表示領域１７３を有する。また、メッセージ表示領域１７２は、事例リンク表示領域１７２ａ、はいボタン１７２ｂ、いいえボタン１７２ｃを有する。
【０１１３】
掲示板表示領域１７１は、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
メッセージ表示領域１７２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報に対して警告するメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「警告」である場合には、利用者１００ａに警告し、入力された情報をＷＥＢサーバ４００に送信するか否かの確認を求めて送信の再考を促す。
【０１１４】
事例リンク表示領域１７２ａは、例えば、他の利用者が送信した情報によって発生したトラブルを示す情報等を提供するＷＥＢサイト（図示省略）のリンク（ｌｉｎｋ）が設定されている領域である。これにより、低年齢者等、情報ネットワークの利用に関する知識に乏しい利用者に対してネットワークの利用の危険性や処罰の対象となり得ることを認識させることができる。このＷＥＢサイトは、検閲用サーバ２００が提供するものであってもよく、外部のサーバによって提供されているものを用いてもよい。
【０１１５】
はいボタン１７２ｂは、利用者１００ａが入力した情報のＷＥＢサーバ４００に対する送信を行う場合に操作するボタンである。いいえボタン１７２ｃは、利用者１００ａが入力した情報のＷＥＢサーバ４００に対する送信を中止する場合に操作するボタンである。
【０１１６】
プレビュー表示領域１７３は、利用者１００ａによって入力された情報が表示された場合にはどのように表示されるかを利用者１００ａに対して提示するために、入力された情報を表示する領域である。プレビュー表示領域１７３には、利用者１００ａによって入力された情報が、ＷＥＢサーバ４００に送信される前にもかかわらず、利用者１００ａに対してあたかもＷＥＢサーバ４００よって表示されたように表示される。これにより、メッセージ表示領域１７２における利用者１００ａによる情報の送信の確認を強く促すことができる。
【０１１７】
図１８は、検閲通知画面を示す図である。図１８に示す検閲通知画面１８０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について検閲が行われることを通知する検閲通知画面の一例である。
【０１１８】
検閲通知画面１８０は、掲示板表示領域１８１、メッセージ表示領域１８２を有する。また、メッセージ表示領域１８２は、事例リンク表示領域１８２ａを有する。
掲示板表示領域１８１は、図１７において前述した警告通知画面１７０と同様、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
【０１１９】
メッセージ表示領域１８２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報に対して検閲が行われることを示すメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「検閲」である場合には、入力された情報がＷＥＢサーバ４００に送信する前に管理者３００ｂ（図２において前述）による検閲が行われる。さらにその旨を利用者１００ａに通知することにより、入力された情報が検閲の対象にされたことを利用者１００ａに認識させて、以後に送信する情報の内容について注意を払うことを促すことができる。
【０１２０】
事例リンク表示領域１８２ａは、図１７において前述した警告通知画面１７０と同様、例えば、他の利用者が送信した情報によって発生したトラブルを示す情報等を提供するＷＥＢサイト（図示省略）のリンク（ｌｉｎｋ）が設定されている領域である。これにより、低年齢者等、情報ネットワークの利用に関する知識に乏しい利用者に対してネットワークの利用の危険性や処罰の対象となり得ることを認識させることができる。
【０１２１】
図１９は、遮断通知画面を示す図である。図１９に示す遮断通知画面１９０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について検閲が行われることを通知する遮断通知画面の一例である。
【０１２２】
遮断通知画面１９０は、掲示板表示領域１９１、メッセージ表示領域１９２を有する。また、メッセージ表示領域１９２は、事例リンク表示領域１９２ａを有する。
掲示板表示領域１９１は、図１７において前述した警告通知画面１７０と同様、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
【０１２３】
メッセージ表示領域１９２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報について送信を行わずに遮断することを示すメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「遮断」である場合には、入力された情報がＷＥＢサーバ４００に送信されずに遮断される。さらにその旨を利用者１００ａに通知することにより、入力された情報が遮断の対象にされたことを利用者１００ａに認識させて、以後に送信する情報の内容について注意を払うことを促すことができる。
【０１２４】
事例リンク表示領域１９２ａは、図１７において前述した警告通知画面１７０と同様、例えば、他の利用者が送信した情報によって発生したトラブルを示す情報等を提供するＷＥＢサイト（図示省略）のリンク（ｌｉｎｋ）が設定されている領域である。これにより、低年齢者等、情報ネットワークの利用に関する知識に乏しい利用者に対してネットワークの利用の危険性や処罰の対象となり得ることを認識させることができる。
【０１２５】
図２０は、検閲結果受付画面を示す図である。図２０に示す検閲結果受付画面３７０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について検閲が依頼されると共に、検閲結果の入力を受け付ける検閲結果受付画面の一例である。
【０１２６】
検閲結果受付画面３７０は、掲示板表示領域３７１、メッセージ表示領域３７２、プレビュー表示領域３７３を有する。また、メッセージ表示領域３７２は、利用者情報表示領域３７２ａ、はいボタン３７２ｂ、いいえボタン３７２ｃを有する。
【０１２７】
掲示板表示領域３７１は、図１７において前述した警告通知画面１７０と同様、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
【０１２８】
メッセージ表示領域３７２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報について管理者３００ｂに対して検閲を依頼するメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「検閲」である場合には、利用者１００ａによって入力された情報の検閲を管理者３００ｂに依頼し、入力された情報のＷＥＢサーバ４００に対する送信を許可するか否かの入力を求める。これにより、利用者１００ａに対して管理者３００ｂの検閲が存在することで、軽はずみにより危険な情報が入力されることをけん制することができる。
【０１２９】
利用者情報表示領域３７２ａは、検閲の対象である情報を入力した利用者１００ａに関する情報が表示される領域である。これにより、管理者３００ｂは、検閲の対象である情報を入力した利用者１００ａを特定することができる。また、管理者３００ｂは、利用者情報表示領域３７２ａに表示されている情報から検閲の対象である情報を入力した利用者１００ａを特定して、例えば電子メールやその他の手段によって直接連絡を取って事情を聴いて注意する等の対応をすることもできる。
【０１３０】
はいボタン３７２ｂは、管理者３００ｂが検閲の結果、利用者１００ａによって入力された情報のＷＥＢサーバ４００に対する送信を許可する場合に操作するボタンである。いいえボタン３７２ｃは、管理者３００ｂが検閲の結果、利用者１００ａによって入力された情報のＷＥＢサーバ４００に対する送信を遮断する場合に操作するボタンである。
【０１３１】
プレビュー表示領域３７３は、利用者１００ａによって入力された情報を管理者３００ｂに対して表示する領域である。プレビュー表示領域３７３には、利用者１００ａによって入力された情報が、ＷＥＢサーバ４００に送信される前にもかかわらず、利用者１００ａに対してあたかもＷＥＢサーバ４００よって表示されたように表示される。これにより、利用者１００ａによって入力された情報がＷＥＢサーバ４００によって表示された場合の様子を管理者３００ｂに対して実際に近い状態で提示することにより、管理者３００ｂによる検閲の判断の正確性を向上させることができる。
【０１３２】
フィルタリングでは、ＮＧワードを含むデータの送信が規制される。一般的に、このフィルタリングの対象であるＮＧワードは、利用者や管理者が個々に設定する必要がある。しかし、ＮＧワードの設定が十分でないとフィルタリングが適切に機能しない可能性が高い。
【０１３３】
また、ＮＧワードは、社会で話題に上る単語の変化に応じて頻繁に追加する必要があるため、適切なフィルタリングを行うためには相当量の管理作業が必要となってしまう。また、ＮＧワードをデータとして提供する場合には、データ作成元におけるＮＧワードのデータを設定する作業量が負担となるとともに、社会の変化に対するＮＧワードの追随速度を維持する必要がある。
【０１３４】
また、単純にＮＧワードの設定のみによってフィルタリングを行う場合、本当に有用なサイトへのデータ送信（例えばニュースを引用したＢｌｏｇの掲載）も制限されてしまい、利便性を損なうこととなる。この結果、本来必要な送信データのフィルタリング機能を外して運用してしまうという本末転倒な形にもなりかねない。
【０１３５】
以上のように、第１の実施の形態によれば、利用者１００ａが入力した情報について、情報に含まれるＮＧワードに基づいて付与されるスコアが、情報で含まれるＯＫワードに基づいて付与されるスコアで相殺されることにより、ＮＧワードが含まれていても有害でない情報の送信が許可される、精度の高いフィルタリングを行うことができる。
【０１３６】
また、利用者１００ａが入力した情報のフィルタリングを行うキーワードについてＮＧワードおよびＯＫワードを用意することにより、ＮＧワードのみで評価した場合に遮断されてしまうような情報であってもＯＫワードに基づく評価により送信されるようにすることができる。
【０１３７】
また、情報処理装置１００等、各利用者が操作する情報処理装置で実際に入力された情報に含まれているキーワードを集計してキーワードのスコアを更新することで、新たな社会現象の発生等の状況の変化に応じたフィルタリングを行うことができる。
【０１３８】
また、フィルタリングにおいて管理者３００ｂによる検閲が行われることで、機械的にフィルタリングを行うのみでなく、人間系によってより入力された情報の送信についてより正確な判定を行うことができる。また、フィルタリング機能によって情報に付与されたスコアが一部の範囲のもののみ検閲を行うことにより、
また、管理者３００ｂによる検閲が行われることにより、利用者１００ａが悪意を持って情報を入力することをけん制することができる。
【０１３９】
また、フィルタリング機能によって情報に付与されたスコアに応じて、送信の遮断や利用者１００ａに対する確認等、複数段階の異なる処理が行われることで、入力された情報の内容に応じて柔軟な処理を行うことができる。
【０１４０】
［第２の実施の形態］
次に、第２の実施の形態について説明する。上記の第１の実施の形態との相違点を中心に説明し、同様の事項については同一の符号を用いると共に説明を省略する。
【０１４１】
第２の実施の形態は、利用者による送信する情報の入力を受け付ける情報処理装置と、入力された情報のフィルタリングを行うフィルタリン用グサーバとが分離され、それぞれ別個に設けられている点で、第１の実施の形態と異なる。
【０１４２】
図２１は、第２の実施の形態のシステム構成を示す図である。図２１に示す第２の実施の形態のフィルタリングシステムは、利用者６００ａが使用する情報処理装置６００から、第１の実施の形態と同様、ＷＥＢサーバ４００に対してインターネット４０を介して送信される情報について、フィルタリングを行うシステムである。
【０１４３】
第２の実施の形態に係るフィルタリングシステムでは、利用者６００ａによって情報処理装置６００に入力された、利用者６００ａがインターネット４０を介してＷＥＢサーバ４００に送信したい情報をフィルタリング用サーバ５００が事前にフィルタリングすることにより、不適切な内容がＷＥＢサーバ４００によって提供される掲示板等に公開されてしまうことを未然に防止する。
【０１４４】
フィルタリング用サーバ５００は、ＬＡＮ５０により情報処理装置６００と接続可能である。また、フィルタリング用サーバ５００は、インターネット４０により、検閲用サーバ２００、ＷＥＢサーバ４００と接続可能である。さらに、検閲用サーバ２００は、インターネット４０により、管理者用情報処理装置３００、ＷＥＢサーバ４００と接続可能である。
【０１４５】
情報処理装置６００は、ＷＥＢサーバ４００に送信される情報の利用者６００ａによる入力を受け付けると、受け付けた情報をＬＡＮ５０を介してフィルタリング用サーバ５００に送信する。
【０１４６】
フィルタリング用サーバ５００は、ＬＡＮ５０を介して情報処理装置６００から送信された利用者６００ａによって入力された情報についてフィルタリングによる判定の結果に基づいて情報の送信を許可する場合には、利用者６００ａが入力した情報をＷＥＢサーバ４００に送信する。また、フィルタリング用サーバ５００は、フィルタリングによる判定の結果に基づいて送信を遮断する場合には、利用者６００ａが入力した情報をＷＥＢサーバ４００に送信しない。また、フィルタリング用サーバ５００は、フィルタリングによる判定の結果に応じて検閲用サーバ２００を介して管理者用情報処理装置３００に検閲を依頼する。なお、フィルタリング用サーバ５００は、複数台の情報処理装置についてフィルタリングを行ってもよい。
【０１４７】
検閲用サーバ２００は、利用者６００ａにより入力された情報のフィルタリング用サーバ５００によるフィルタリングにおける判定の結果、検閲を行う旨の判定がされた場合にフィルタリング用サーバ５００から送信された利用者６００ａにより入力された情報を受信する。次に、検閲用サーバ２００は、管理者３００ｂが使用する管理者用情報処理装置３００に利用者６００ａが入力した情報についての検閲を依頼する。
【０１４８】
管理者用情報処理装置３００は、管理者３００ｂが行う検閲に使用される。このとき管理者用情報処理装置３００は、検閲用サーバ２００からの検閲の依頼を受け付けて、利用者６００ａがＷＥＢサーバ４００に送信しようとした情報を管理者３００ｂに対して接続されたモニタ（図示省略）表示する。管理者３００ｂは、この管理者用情報処理装置３００に接続されたモニタに表示される利用者６００ａが入力した情報を見て検閲を行い、ＷＥＢサーバ４００に送信することを認めるか否かを判定して判定結果を入力する。
【０１４９】
ＷＥＢサーバ４００は、フィルタリング用サーバ５００によるフィルタリングにおける判定の結果、情報処理装置６００から送信された情報を表示する。ＷＥＢサーバ４００は、例えば、インターネット４０を介して利用者６００ａ等により送信された情報を第三者に向けて発信する掲示板等のサービスを提供するサーバである。
【０１５０】
図２２は、第２の実施の形態のフィルタリング用サーバの構成を示すブロック図である。図２２に示すフィルタリング用サーバ５００は、利用者６００ａ（図２１において前述）が情報処理装置６００を使用して入力した情報の入力を受け付けると共に、受け付けた情報の送信を許可し、または送信を遮断するフィルタリングを行う。
【０１５１】
フィルタリング用サーバ５００は、検閲用サーバ２００、ＷＥＢサーバ４００とインターネット４０（図２１において前述）で接続されている。また、フィルタリング用サーバ５００は、情報処理装置６００とＬＡＮ５０（図２１において前述）で接続されていると共に、ＬＡＮ５０およびインターネット４０を介して検閲用サーバ２００と接続可能である。また、検閲用サーバ２００は、管理者用情報処理装置３００とインターネット４０で接続されている。
【０１５２】
フィルタリング用サーバ５００は、入力受付部５１１、ワード抽出部５１２、スコア算出部５１３、フィルタリング実行部５１４、通信部５１５、ＮＧワード情報記憶部５５１、ＯＫワード情報記憶部５５２を有する。フィルタリング用サーバ５００は、フィルタリングプログラムの実行により、以下の機能を有する。
【０１５３】
入力受付部５１１は、通信部５１５によって受信された利用者６００ａが送信する情報の入力を受け付ける。これにより、利用者６００ａがインターネット４０を介してＷＥＢサーバ４００に送信しようとしている情報の入力が受け付けられる。また、入力受付部５１１は、利用者６００ａによる送信される情報について送信するか否かの確認の結果の入力を受け付ける。
【０１５４】
ワード抽出部５１２は、第１の実施の形態のワード抽出部１１２と同様、入力受付部５１１によって受け付けられた情報から単語を抽出する。
スコア算出部５１３は、第１の実施の形態のスコア算出部１１３と同様、ワード抽出部５１２によって情報から抽出された単語に付与されるスコアを、ＮＧワード情報記憶部５５１およびＯＫワード情報記憶部５５２に基づいて算出する。
【０１５５】
具体的には、スコア算出部５１３は、ワード抽出部５１２によって情報から抽出された単語と、ＮＧワード情報記憶部５５１に記憶されているＮＧワード情報に示されているＮＧワードとを比較して情報に含まれているＮＧワードを特定し、特定したＮＧワードに基づくスコアを情報に付与する。また、スコア算出部５１３は、情報から抽出された単語と、ＯＫワード情報記憶部５５２に記憶されているＯＫワード情報に示されているＯＫワードとを比較して情報に含まれているＯＫワードを特定し、特定したＯＫワードに基づくスコアを情報に付与する。次に、スコア算出部５１３は、ＮＧワードに基づいて付与されたスコアとＯＫワードに基づいて付与されたスコアとを合計することにより、利用者６００ａが入力した情報に付与されるスコアを算出する。
【０１５６】
フィルタリング実行部５１４は、第１の実施の形態のフィルタリング実行部１１４と同様、スコア算出部５１３によって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングを行う。このフィルタリング実行部５１４によるフィルタリングの結果、送信されると判定された場合には、利用者６００ａによって入力された情報は、インターネット４０を介してＷＥＢサーバ４００に送信される。一方、フィルタリングの結果、遮断すると判定された場合には、利用者６００ａによって入力された情報は、ＷＥＢサーバ４００に送信されない。
【０１５７】
フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが、閾値によって特定される複数の範囲のいずれに該当するかに基づいてフィルタリングを行う。
【０１５８】
フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが「送信」を許可すべきとされる範囲に該当する場合には、送信を許可する。これに基づいて、フィルタリング用サーバ５００からＷＥＢサーバ４００に、利用者６００ａが入力した情報が送信される。
【０１５９】
また、フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが「送信」を許可すべきとされる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、利用者６００ａに対して「警告」を行い、入力受付部５１１によって受け付けられた利用者６００ａによる確認の結果に基づいてフィルタリングを行う。
【０１６０】
また、フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが「警告」が行われる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、入力された情報に対して「検閲」を行わせる。この場合、フィルタリング実行部５１４は、通信部５１５に検閲用サーバ２００に対して入力された情報を送信させる。次に、フィルタリング実行部５１４は、この送信した情報に対する返信である、検閲用サーバ２００から送信された入力された情報に対する検閲の結果を通信部５１５が受信すると、受信した情報に対する検閲の結果に基づいてフィルタリングを行う。
【０１６１】
また、フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが最も高い段階で「遮断すべき」とされる範囲に該当する場合には、情報を送信しない。
通信部５１５は、ＬＡＮ５０を介して情報処理装置６００と通信可能である。また、通信部５１５は、インターネット４０を介して、検閲用サーバ２００、ＷＥＢサーバ４００と通信可能である。この通信部５１５により、フィルタリング用サーバ５００は、情報処理装置６００、検閲用サーバ２００、ＷＥＢサーバ４００との間で情報を送受信することができる。
【０１６２】
ＮＧワード情報記憶部５５１は、第１の実施の形態のＮＧワード情報記憶部１５１と同様、含んでいる情報が遮断の対象として予め設定された単語であるＮＧワードとＮＧワードに基づいて付与されるスコアとを示すＮＧワード情報を記憶する。
【０１６３】
ＯＫワード情報記憶部５５２は、第１の実施の形態のＯＫワード情報記憶部１５２と同様、ＮＧワードを含んでいるにもかかわらず、含んでいる情報が遮断の対象から除外されるものとして予め設定された単語であるＯＫワードとＯＫワードに基づいて付与されるスコアと示すＯＫワード情報を記憶する。
【０１６４】
検閲用サーバ２００は、第１の実施の形態と同様、フィルタリング用サーバ５００から送信された利用者６００ａが入力した情報の検閲を、管理者用情報処理装置３００に送信する。また、検閲用サーバ２００は、スコア付与情報に基づいてＮＧワード情報およびＯＫワード情報の生成および更新を行う。検閲用サーバ２００は、生成部２２１、更新部２２２、検閲部２２３、スコア付与情報記憶部２６１を有する。
【０１６５】
生成部２２１は、第１の実施の形態と同様、インターネット４０を介してフィルタリング用サーバ５００の通信部５１５と接続することにより、利用者６００ａによって情報処理装置６００を使用して入力された情報に含まれていた単語を収集する。次に、生成部２２１は、収集結果に基づいて更新用のＮＧワード情報およびＯＫワード情報を生成する。
【０１６６】
更新部２２２は、第１の実施の形態と同様、生成部２２１が生成したＮＧワード情報およびＯＫワード情報を、インターネット４０を介してフィルタリング用サーバ５００に配布する。
【０１６７】
検閲部２２３は、第１の実施の形態と同様、フィルタリング実行部５１４によるフィルタリングの結果、検閲が行われる場合には、通信部５１５によって送信された利用者６００ａが入力した情報を管理者用情報処理装置３００にインターネット４０を介して送信することにより、管理者３００ｂ（図２１において前述）に検閲を依頼する。また、検閲部２２３は、インターネット４０を介して管理者用情報処理装置３００から送信される検閲結果を受信し、受信した検閲結果に基づき、検閲結果が送信を許可する場合には、利用者６００ａが入力した情報をインターネット４０を介してＷＥＢサーバ４００に送信する。
【０１６８】
スコア付与情報記憶部２６１は、更新用のＮＧワード情報およびＯＫワード情報の生成に使用されるスコア付与情報を記憶する。
以上のように、第２の実施の形態によれば、利用者６００ａが他の情報処理装置から入力した情報について、利用者６００ａが使用する情報処理装置６００にフィルタリング機能を持たせることなく、第１の実施の形態と同様の効果を奏することができる。
【０１６９】
また、複数台の情報処理装置をフィルタリング用サーバ５００と接続して、複数の情報処理装置で入力された情報を１つのフィルタリング用サーバ５００でフィルタリングすることもできる。
【０１７０】
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、情報処理装置１００、フィルタリング用サーバ５００が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。
【０１７１】
処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体には、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等がある。磁気記録装置には、ＨＤＤ、フレキシブルディスク（ＦＤ）、磁気テープ（ＭＴ）等がある。光ディスクには、ＤＶＤ（Digital Versatile Disc）、ＤＶＤ−ＲＡＭ、ＣＤ−ＲＯＭ（Compact Disc - Read Only Memory）、ＣＤ−Ｒ（Recordable）／ＲＷ（ReWritable）等がある。光磁気記録媒体には、ＭＯ（Magneto - Optical disk）等がある。
【０１７２】
上記プログラムを流通させる場合には、例えば、そのプログラムが記録されたＤＶＤ、ＣＤ−ＲＯＭ等の可搬型記録媒体が販売される。また、プログラムをサーバコンピュータに記憶しておき、ネットワークを通じて、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【０１７３】
上記プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバコンピュータから転送されたプログラムを、自己の記憶装置に記憶する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
【０１７４】
以上、開示のフィルタリングプログラム、フィルタリング装置およびフィルタリング方法を、図示の実施の形態に基づいて説明したが、各部の構成は同様の機能を有する任意の構成のものに置換することができる。また、開示の技術に他の任意の構成物や工程が付加されてもよい。また、開示の技術は前述した実施の形態のうちの任意の２以上の構成を組み合わせたものであってもよい。
【０１７５】
上記については単に本発明の原理を示すものである。さらに、多数の変形、変更が当業者にとって可能であり、開示の技術は上記に示し、説明した正確な構成および応用例に限定されるものではなく、対応するすべての変形例および均等物は、添付の請求項およびその均等物による本発明の範囲とみなされる。
【符号の説明】
【０１７６】
１ フィルタリング装置
１ａ 入力受付手段
１ｂ ワード抽出手段
１ｃ スコア算出手段
１ｄ フィルタリング実行手段
１ｅ 記憶手段
【技術分野】
【０００１】
本発明は、不適切な情報の送信についてフィルタリングするフィルタリングプログラム、フィルタリング装置およびフィルタリング方法に関する。
【背景技術】
【０００２】
近年、情報技術の発達および普及に伴い、パーソナルコンピュータ（Personal Computer）等の情報処理装置およびインターネット（Internet）等のネットワーク通信等の情報技術を用いて、掲示板サービスやブログ提供等の、利用者によって送信された情報を公開するサービスが広く利用されている。
【０００３】
これに伴い、インターネット上の掲示板等への軽率な投稿（犯罪予告等）により、投稿した利用者が逮捕される等の事例が増加している。これらのケースの大部分は、投稿した利用者自身は悪戯や冗談のつもりで投稿したものであると言われているが、瞬時に多くの人の目に留まる機会があるような利用者の多い掲示板に書き込まれると、短時間で大きな問題へと発展してしまうことも多い。
【０００４】
現状、このようなサービスを提供するサイトに対するデータ送信（書き込み等）は、「フィルタリングソフト」で制限を行うのが一般的である。フィルタリングソフトは、ＵＲＬ（Uniform Resource Locator）に基づいて作成されたブラックリストや、送信文に含まれる単語等から、利用者がそのサイトに対して情報を送信してよいかどうかを判断している。ここで、フィルタリングに関して、以下の技術が知られている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００１−２８００６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかし、フィルタリング機能は、適切に機能させることが難しい場合がある。例えば、予め定められている単語であってこれを含む情報の送信を規制する単語（ＮＧワード）を用いてフィルタリングを行う場合、本当に有用な情報の送信（例えばニュースを引用したＢｌｏｇの掲載）も制限されてしまい、利便性を損なうこととなる。この結果、情報の送信を確保するため等により、本来リスク回避のために必要であるフィルタリング機能を外して運用してしまうという、本末転倒な状況にもなりかねないという問題点がある。
【０００７】
本件はこのような点に鑑みてなされたものであり、適切なフィルタリングを行うフィルタリングプログラム、フィルタリング装置およびフィルタリング方法を提供することを目的とする。
【課題を解決するための手段】
【０００８】
開示のフィルタリングプログラムは、コンピュータを、前記利用者による送信される前記情報の入力を受け付ける入力受付手段、前記入力受付手段によって受け付けられた前記情報から単語を抽出するワード抽出手段、前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを、記憶手段に基づいて算出するスコア算出手段、前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うフィルタリング実行手段として機能させる。
【０００９】
開示のフィルタリングプログラムによれば、入力受付手段により、利用者による送信される情報の入力が受け付けられる。ワード抽出手段により、入力受付手段によって受け付けられた情報から単語が抽出される。スコア算出手段により、ワード抽出手段によって情報から抽出された単語に付与されるスコアが、記憶手段に基づいて算出される。フィルタリング実行手段により、スコア算出手段によって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングが行われる。
【発明の効果】
【００１０】
開示のフィルタリングプログラム、フィルタリング装置およびフィルタリング方法によれば、利用者が入力した情報について精度の高いフィルタリングを行うことができる。
【図面の簡単な説明】
【００１１】
【図１】本実施の形態の概要を示す図である。
【図２】第１の実施の形態のシステム構成を示す図である。
【図３】情報処理装置のハードウェア構成を示す図である。
【図４】第１の実施の形態の情報処理装置の構成を示すブロック図である。
【図５】ＮＧワードテーブルの構成例を示す図である。
【図６】ＯＫワードテーブルの構成例を示す図である。
【図７】スコア付与テーブルの構成例を示す図である。
【図８】フィルタリング処理の手順を示すフローチャートである。
【図９】送信制限処理の手順を示すフローチャートである。
【図１０】ワードデータ更新処理の手順を示すフローチャートである。
【図１１】入力された情報が「問題なし」と判定された場合の処理の手順を示すシーケンス図である。
【図１２】入力された情報が「警告」と判定された場合の処理の手順を示すシーケンス図である。
【図１３】入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。
【図１４】入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。
【図１５】入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。
【図１６】入力された情報が「遮断」と判定された場合の処理の手順を示すシーケンス図である。
【図１７】警告通知画面を示す図である。
【図１８】検閲通知画面を示す図である。
【図１９】遮断通知画面を示す図である。
【図２０】検閲結果受付画面を示す図である。
【図２１】第２の実施の形態のシステム構成を示す図である。
【図２２】第２の実施の形態のフィルタリング用サーバの構成を示すブロック図である。
【発明を実施するための形態】
【００１２】
以下、実施の形態について、図面を参照して説明する。
図１は、本実施の形態の概要を示す図である。図１に示すフィルタリング装置１は、利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリングを行う。フィルタリング装置１は、入力受付手段１ａ、ワード抽出手段１ｂ、スコア算出手段１ｃ、フィルタリング実行手段１ｄ、記憶手段１ｅを有する。また、フィルタリング装置１は、通信回線（図示省略）によりＷＥＢサーバ等の情報処理装置２と接続されている。
【００１３】
フィルタリング装置１は、コンピュータであってもよい。その場合、フィルタリング装置１は、フィルタリングプログラムの実行により、以下の機能を有する。
入力受付手段１ａは、利用者による送信される情報の入力を受け付ける。これにより、利用者が通信回線を介して情報処理装置２に送信しようとしている情報の入力が受け付けられる。
【００１４】
ワード抽出手段１ｂは、入力受付手段１ａによって受け付けられた情報から単語を抽出する。これにより、利用者が送信しようとしている情報に含まれている単語が抽出される。
【００１５】
スコア算出手段１ｃは、ワード抽出手段１ｂによって情報から抽出された単語に付与されるスコアを記憶手段１ｅに基づいて算出する。これにより、利用者が入力した情報に付与されるスコアが算出される。
【００１６】
フィルタリング実行手段１ｄは、スコア算出手段１ｃによって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングを行う。このフィルタリング実行手段１ｄによるフィルタリングの結果、送信されると判定された場合には、利用者によって入力された情報は、通信回線を介して情報処理装置２に送信される。一方、フィルタリングの結果、遮断すると判定された場合には、利用者によって入力された情報は、情報処理装置２に送信されない。
【００１７】
記憶手段１ｅは、含んでいる情報が遮断の対象として予め設定された単語であるＮＧワードとＮＧワードに基づいて付与されるスコアとを示すＮＧワード情報およびＮＧワードを含んでいるにもかかわらず、含んでいる情報が遮断の対象から除外されるものとして予め設定された単語であるＯＫワードとＯＫワードに基づいて付与されるスコアと示すＯＫワード情報を記憶する。
【００１８】
このようなフィルタリング装置１によれば、入力受付手段１ａにより、利用者による送信される情報の入力が受け付けられる。ワード抽出手段１ｂにより、入力受付手段１ａによって受け付けられた情報から単語が抽出される。スコア算出手段１ｃにより、ワード抽出手段１ｂによって情報から抽出された単語に付与されるスコアが記憶手段１ｅに基づいて算出される。フィルタリング実行手段１ｄにより、スコア算出手段１ｃによって算出されたスコアに基づいて、情報が送信され、または情報が送信されずに遮断される情報のフィルタリングが行われる。
【００１９】
これによって、利用者が入力した情報について精度の高いフィルタリングを行うことができる。
［第１の実施の形態］
以下、第１の実施の形態について図面を参照して詳細に説明する。
【００２０】
図２は、第１の実施の形態のシステム構成を示す図である。図２に示す第１の実施の形態のフィルタリングシステムは、利用者１００ａが使用する情報処理装置１００からＷＥＢサーバ４００に対してインターネット４０を介して送信される情報について、フィルタリングを行うシステムである。
【００２１】
第１の実施の形態に係るフィルタリングシステムでは、利用者１００ａによって情報処理装置１００に入力された、利用者１００ａがインターネット４０を介してＷＥＢサーバ４００に送信したい情報を情報処理装置１００が事前にフィルタリングすることにより、不適切な内容がＷＥＢサーバ４００によって提供される掲示板等に公開されてしまうことを未然に防止する。
【００２２】
情報処理装置１００は、インターネット４０により、検閲用サーバ２００、ＷＥＢサーバ４００と接続可能である。さらに、検閲用サーバ２００は、インターネット４０により、管理者用情報処理装置３００、ＷＥＢサーバ４００と接続可能である。
【００２３】
情報処理装置１００は、ＷＥＢサーバ４００に送信される情報の利用者１００ａによる入力を受け付けると共にフィルタリングによる判定を行い、判定の結果に基づいて情報の送信を許可する場合には、利用者１００ａが入力した情報をＷＥＢサーバ４００に送信する。また、情報処理装置１００は、フィルタリングによる判定の結果に基づいて送信を遮断する場合には、利用者１００ａが入力した情報をＷＥＢサーバ４００に送信しない。また、情報処理装置１００は、フィルタリングによる判定の結果に応じて検閲用サーバ２００を介して管理者用情報処理装置３００に検閲を依頼する。
【００２４】
検閲用サーバ２００は、利用者１００ａにより入力された情報の情報処理装置１００によるフィルタリングにおける判定の結果、検閲を行う旨の判定がされた場合に情報処理装置１００から送信された利用者１００ａにより入力された情報を受信する。次に、検閲用サーバ２００は、管理者３００ｂが使用する管理者用情報処理装置３００に利用者１００ａが入力した情報についての検閲を依頼する。
【００２５】
管理者用情報処理装置３００は、管理者３００ｂが行う検閲に使用される。このとき管理者用情報処理装置３００は、検閲用サーバ２００からの検閲の依頼を受け付けて、利用者１００ａが情報処理装置１００からＷＥＢサーバ４００に送信しようとした情報を管理者３００ｂに対して接続されたモニタ（図示省略）に表示する。管理者３００ｂは、この管理者用情報処理装置３００に接続されたモニタに表示される利用者１００ａが入力した情報を見て検閲を行い、ＷＥＢサーバ４００に送信することを認めるか否かを判定して判定結果を入力する。
【００２６】
ＷＥＢサーバ４００は、情報処理装置１００によるフィルタリングにおける判定の結果、送信を許可する場合、情報処理装置１００から送信された情報を表示する。ＷＥＢサーバ４００は、例えば、インターネット４０を介して利用者１００ａ等により送信された情報を第三者に向けて発信する掲示板等のサービスを提供するサーバである。
【００２７】
図３は、情報処理装置のハードウェア構成を示す図である。図３に示す情報処理装置１００は、ＣＰＵ（Central Processing Unit）１０１によって装置全体が制御されている。ＣＰＵ１０１には、バス１０７を介してＲＡＭ（Random Access Memory）１０２、ハードディスクドライブ（ＨＤＤ:Hard Disk Drive）１０３、グラフィック処理装置１０４、入力インタフェース１０５および通信インタフェース１０６が接続されている。
【００２８】
ＲＡＭ１０２には、ＣＰＵ１０１に実行させるＯＳ（Operating System）のプログラムやアプリケーションソフトのプログラム（アプリケーションプログラム）の少なくとも一部が一時的に記憶される。また、ＲＡＭ１０２には、ＣＰＵ１０１による処理に必要な各種データが記憶される。ＨＤＤ１０３には、ＯＳやアプリケーションプログラムが記憶される。
【００２９】
グラフィック処理装置１０４には、モニタ１１が接続されている。グラフィック処理装置１０４は、ＣＰＵ１０１からの命令に従って、画像をモニタ１１の画面に表示させる。入力インタフェース１０５には、キーボード１２とマウス１３とが接続されている。入力インタフェース１０５は、キーボード１２やマウス１３から送られてくる信号を、バス１０７を介してＣＰＵ１０１に送信する。
【００３０】
通信インタフェース１０６は、インターネット４０やその他の図示しないネットワークに接続可能である。通信インタフェース１０６は、これらのネットワークを介して、他のコンピュータとの間でデータの送受信を行うことができる。
【００３１】
なお、図２において前述した検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００も、情報処理装置１００と同様のハードウェア構成によって実現される。
以上のようなハードウェア構成によって、本実施の形態の処理機能を実現することができる。
【００３２】
図４は、第１の実施の形態の情報処理装置の構成を示すブロック図である。図４に示す情報処理装置１００は、利用者１００ａ（図２において前述）によって入力された情報の送信を許可し、または送信を遮断するフィルタリングを行う。
【００３３】
情報処理装置１００は、検閲用サーバ２００、ＷＥＢサーバ４００とインターネット４０（図２において前述）で接続されている。また、検閲用サーバ２００は、管理者用情報処理装置３００とインターネット４０で接続されている。
【００３４】
情報処理装置１００は、入力受付部１１１、ワード抽出部１１２、スコア算出部１１３、フィルタリング実行部１１４、通信部１１５、ＮＧワード情報記憶部１５１、ＯＫワード情報記憶部１５２を有する。情報処理装置１００は、フィルタリングプログラムの実行により、以下の機能を有する。
【００３５】
入力受付部１１１は、利用者１００ａによる送信される情報の入力を受け付ける。これにより、利用者１００ａがインターネット４０を介してＷＥＢサーバ４００に送信しようとしている情報の入力が受け付けられる。また、入力受付部１１１は、利用者１００ａによる送信される情報について送信するか否かの確認の結果の入力を受け付ける。これにより、利用者１００ａは、図１７において後述する警告通知画面により、自己が入力した情報について送信を行うか否かについて確認することができる。
【００３６】
ワード抽出部１１２は、入力受付部１１１によって受け付けられた情報から単語を抽出する。これにより、利用者１００ａが送信しようとしている情報に含まれている単語が抽出される。
【００３７】
スコア算出部１１３は、ワード抽出部１１２によって情報から抽出された単語に付与されるスコアを、ＮＧワード情報記憶部１５１およびＯＫワード情報記憶部１５２に基づいて算出する。
【００３８】
具体的には、スコア算出部１１３は、ワード抽出部１１２によって情報から抽出された単語と、ＮＧワード情報記憶部１５１に記憶されているＮＧワード情報に示されているＮＧワードとを比較して情報に含まれているＮＧワードを特定し、特定したＮＧワードに基づくスコアを情報に付与する。また、スコア算出部１１３は、情報から抽出された単語と、ＯＫワード情報記憶部１５２に記憶されているＯＫワード情報に示されているＯＫワードとを比較して情報に含まれているＯＫワードを特定し、特定したＯＫワードに基づくスコアを情報に付与する。次に、スコア算出部１１３は、ＮＧワードに基づいて付与されたスコアとＯＫワードに基づいて付与されたスコアとを合計することにより、情報に付与されるスコアを算出する。これにより、利用者１００ａが入力した情報に付与されるスコアが算出される。
【００３９】
フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングを行う。このフィルタリング実行部１１４によるフィルタリングの結果、送信されると判定された場合には、利用者１００ａによって入力された情報は、インターネット４０を介してＷＥＢサーバ４００に送信される。一方、フィルタリングの結果、遮断すると判定された場合には、利用者１００ａによって入力された情報は、ＷＥＢサーバ４００に送信されない。
【００４０】
フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが、閾値によって特定される複数の範囲のいずれに該当するかに基づいてフィルタリングを行う。このスコアの範囲を特定する閾値については、詳しくは図８および図９において後述する。
【００４１】
フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが「送信」を許可すべきとされる範囲に該当する場合には、送信を許可する。これに基づいて、情報処理装置１００からＷＥＢサーバ４００に、利用者１００ａが入力した情報が送信される。
【００４２】
また、フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが「送信」を許可すべきとされる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、利用者１００ａに対して「警告」を行い、入力受付部１１１によって受け付けられた利用者１００ａによる確認の結果に基づいてフィルタリングを行う。ここで、「遮断すべき」とは、例えば、入力された情報にＮＧワードに基づいて付与されたスコアの絶対値が多い、またはＯＫワードに基づいて付与されたスコアの絶対値が少ない等により、入力された情報の利用者１００ａまたは第三者に対する危険性が高いと考えられることとする。
【００４３】
また、フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが「警告」が行われる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、入力された情報に対して「検閲」を行わせる。この場合、フィルタリング実行部１１４は、通信部１１５に検閲用サーバ２００に対して入力された情報を送信させる。次に、フィルタリング実行部１１４は、この送信した情報に対する返信である、検閲用サーバ２００から送信された入力された情報に対する検閲の結果を通信部１１５が受信すると、受信した情報に対する検閲の結果に基づいてフィルタリングを行う。
【００４４】
また、フィルタリング実行部１１４は、スコア算出部１１３によって算出されたスコアが最も高い段階で「遮断すべき」とされる範囲に該当する場合には、情報を送信しない。
通信部１１５は、インターネット４０を介して、検閲用サーバ２００、ＷＥＢサーバ４００と通信可能である。この通信部１１５により、情報処理装置１００は、検閲用サーバ２００、ＷＥＢサーバ４００との間で情報を送受信することができる。
【００４５】
ＮＧワード情報記憶部１５１は、含んでいる情報が遮断の対象として予め設定された単語であるＮＧワードとＮＧワードに基づいて付与されるスコアとを示すＮＧワード情報を記憶する。
【００４６】
ＯＫワード情報記憶部１５２は、ＮＧワードを含んでいるにもかかわらず、含んでいる情報が遮断の対象から除外されるものとして予め設定された単語であるＯＫワードとＯＫワードに基づいて付与されるスコアと示すＯＫワード情報を記憶する。
【００４７】
検閲用サーバ２００は、情報処理装置１００から送信された利用者１００ａが入力した情報の検閲を、管理者用情報処理装置３００に送信する。また、検閲用サーバ２００は、スコア付与情報に基づいてＮＧワード情報およびＯＫワード情報の生成および更新を行う。検閲用サーバ２００は、生成部２２１、更新部２２２、検閲部２２３、スコア付与情報記憶部２６１を有する。
【００４８】
生成部２２１は、インターネット４０を介して情報処理装置１００の通信部１１５と接続することにより、利用者１００ａによって情報処理装置１００を使用して入力された情報に含まれていた単語を収集する。次に、生成部２２１は、収集結果に基づいて更新用のＮＧワード情報およびＯＫワード情報を生成する。
【００４９】
更新部２２２は、生成部２２１が生成したＮＧワード情報およびＯＫワード情報を、インターネット４０を介して情報処理装置１００に配布する。
検閲部２２３は、フィルタリング実行部１１４によるフィルタリングの結果、検閲が行われる場合には、通信部１１５によって送信された利用者１００ａが入力した情報を管理者用情報処理装置３００にインターネット４０を介して送信することにより、管理者３００ｂ（図２において前述）に検閲を依頼する。また、検閲部２２３は、インターネット４０を介して管理者用情報処理装置３００から送信される検閲結果を受信し、受信した検閲結果に基づき、検閲結果が送信を許可する場合には、利用者１００ａが入力した情報をインターネット４０を介してＷＥＢサーバ４００に送信する。
【００５０】
スコア付与情報記憶部２６１は、更新用のＮＧワード情報およびＯＫワード情報の生成に使用されるスコア付与情報を記憶する。
次に、本実施の形態で使用されるデータのデータ構造例について説明する。
【００５１】
図５は、ＮＧワードテーブルの構成例を示す図である。図５に示すＮＧワードテーブル１５１ａは、情報処理装置１００（図２において前述）によって作成および管理され、ＨＤＤ１０３（図３において前述）に記憶されている。ＮＧワードテーブル１５１ａは、情報処理装置１００が有するフィルタリング機能における、書き込まれた情報が他人に不快感や危害を与える恐れを有しているか、書き込んだ本人が脅迫等の犯罪に該当する可能性を有しているＮＧワードを示すＮＧワード情報を記憶するテーブルである。
【００５２】
ＮＧワードは、入力された情報に含まれていた場合に上記の恐れや犯罪に該当する可能性が高いことを示すスコアが付与されるキーワードである。ＮＧワードテーブル１５１ａには、ＮＧワードとして設定されたキーワードが、抽出された場合に応じて付与される付与スコア毎に設定されている。
【００５３】
例えば、付与スコアとして“−８点”が設定されているキーワードが、利用者１００ａ（図２において前述）が送信するために入力した情報に含まれていた場合には、その情報に対して、−８点のキーワードが含まれていた個数に応じて“−８点”が付与される。
【００５４】
このＮＧワードテーブル１５１ａに設定されているＮＧワード情報に基づき、利用者１００ａによって入力された情報にＮＧワード情報が示すキーワードが含まれていた場合には、含まれていたキーワードに応じて入力された情報に対してスコアが付与される。
【００５５】
例えば、利用者１００ａによって入力された情報にキーワード「刺す」が１個、「大量」が２個、「ライター」が１個、「ストレス」が１個含まれていたとする。この場合には、ＮＧワードテーブル１５１ａに基づいて判定すると、利用者１００ａによって入力された情報には、−８点のキーワードである「刺す」が１個含まれている。また、同様に−４点のキーワードである「大量」が２個含まれている。また、−２点のキーワードである「ライター」が１個、「ストレス」が１個、合計２個含まれている。これらにより、この入力された情報にＮＧワードテーブル１５１ａによって付与されるスコアは、（−８点）×１＋（−４点）×２＋（−２点）×２＝−２０点となる。
【００５６】
図６は、ＯＫワードテーブルの構成例を示す図である。図６に示すＯＫワードテーブル１５２ａは、情報処理装置１００（図２において前述）によって作成および管理され、ＨＤＤ１０３（図３において前述）に記憶されている。ＯＫワードテーブル１５２ａは、情報処理装置１００が有するフィルタリング機能における、書き込まれた情報が他人に不快感や危害を与える恐れが低く、書き込んだ本人が脅迫等の犯罪に該当する可能性が低い場合に含まれるＯＫワードを示すＯＫワード情報を記憶するテーブルである。
【００５７】
ＯＫワードは、入力された情報に含まれていた場合に上記の恐れや犯罪に該当する可能性が低いことを示すスコアが付与されるキーワードである。ＯＫワードテーブル１５２ａには、ＯＫワードとして設定されたキーワードが、抽出された場合に応じて付与される付与スコア毎に設定されている。
【００５８】
ＮＧワードテーブル１５１ａと同様、例えば、付与スコアとして“４点”が設定されているキーワードが、利用者１００ａ（図２において前述）が送信するために入力した情報に含まれていた場合には、その情報に対して、４点のキーワードが含まれていた個数に応じて“４点”が付与される。
【００５９】
前述したようにＮＧワードテーブル１５１ａの付与スコアには負の値が設定されていたが、ＯＫワードテーブル１５２ａの付与スコアには正の値が設定されている。これにより、ＯＫワードテーブル１５２ａに設定されるＯＫワードは、ＮＧワードが含まれている情報が実は他人に危害を加えるものではなかったり犯罪性を有しないものであったりする場合に含まれる単語が設定されている。すなわち、ＯＫワードテーブル１５２ａに設定されるＯＫワードとしては、ＮＧワードの影響を打ち消すような単語や、ＮＧワードの影響を緩和させる単語が設定される。
【００６０】
このＯＫワードテーブル１５２ａに設定されているＯＫワード情報に基づき、利用者１００ａによって入力された情報にＯＫワード情報が示すキーワードが含まれていた場合には、含まれていたキーワードに応じて入力された情報に対してスコアが付与される。
【００６１】
例えば、利用者１００ａによって入力された情報にキーワード「ニュース」が２個、「警察」が１個、「ブログ」が１個、「宿題」が１個含まれていたとする。この場合には、ＯＫワードテーブル１５２ａに基づけば、利用者１００ａによって入力された情報には、４点のキーワードである「ニュース」が２個、「警察」が１個、合計３個含まれている。また、同様に２点のキーワードである「ブログ」が１個含まれている。また、１点のキーワードである「宿題」が１個含まれている。これらにより、この入力された情報にＯＫワードテーブル１５２ａによって付与されるスコアは、４点×３＋２点×１＋１点×１＝１５点となる。
【００６２】
図７は、スコア付与テーブルの構成例を示す図である。図７に示すスコア付与テーブル２６１ａは、検閲用サーバ２００（図２において前述）で動作するアプリケーションソフトのユーザによる操作に基づき検閲用サーバ２００によって作成および管理され、検閲用サーバ２００が有するＨＤＤ（図示省略）に記憶されている。スコア付与テーブル２６１ａは、検閲用サーバ２００が有するＯＫワード情報およびＮＧワード情報の更新に用いられるスコア付与情報を記憶するテーブルである。
【００６３】
スコア付与テーブル２６１ａには、項目として“変化数”、“付与するスコア（ＮＧワード）”、“付与するスコア（ＯＫワード）”が設けられている。スコア付与テーブル２６１ａでは、各項目の横方向に並べられた情報同士がスコア付与情報として互いに関連付けられている。
【００６４】
変化数は、利用者１００ａ等の利用者によってＷＥＢサーバ４００に送信するために入力された情報に含まれているキーワードの抽出回数の、前回の取得時からの増加分を示す。この変化数に基づいて、設定されているキーワードに付与されているスコアが加算される。
【００６５】
例えば、図５において前述した−４点のＮＧワード「無差別」が、前回の取得時と比較して２００件増加していたとする。この場合、ＮＧワード「無差別」の付与スコアは、−４点に加えてさらにスコア付与テーブル２６１ａによる付与スコアの−２点が加算され、合計−６点となる。この合計結果に基づいて、ＮＧワードテーブル１５１ａに記憶されているＮＧワード情報においてＮＧワード「無差別」の付与スコアが−６点となるように更新される。ＯＫワードについても同様に更新される。
【００６６】
次に、本実施の形態で実行される処理について説明する。
図８は、フィルタリング処理の手順を示すフローチャートである。図８に示すフィルタリング処理は、情報処理装置１００（図２において前述）が利用者１００ａ（図２において前述）によって入力された情報についてフィルタリングを行う処理であり、情報処理装置１００の起動に基づいて実行が開始される。フィルタリング処理は、情報処理装置１００上に常駐して動作し、常にユーザによって入力された情報の送信を監視する。
【００６７】
［ステップＳ１１］通信部１１５（図４において前述）は、検閲用サーバ２００（図４において前述）と通信を行い、検閲用サーバ２００が有する更新部２２２（図４において前述）で生成された更新データを取得する。次に、通信部１１５は、取得した更新データに基づいて、ＮＧワード情報記憶部１５１（図４において前述）に記憶されているＮＧワード情報およびＯＫワード情報記憶部１５２（図４において前述）に記憶されているＯＫワード情報を更新する。
【００６８】
［ステップＳ１２］入力受付部１１１（図４において前述）は、利用者１００ａによってＷＥＢサーバ４００（図４において前述）に送信される情報の入力を検出したか否かについて判定する。情報の入力が検出されるまで、ステップＳ１２の処理が繰り返される。情報の入力が検出されれば、処理はステップＳ１３に進められる。
【００６９】
［ステップＳ１３］ワード抽出部１１２（図４において前述）は、ステップＳ１２で検出された、利用者１００ａによって入力された情報から、ＮＧワード情報記憶部１５１に記憶されているＮＧワード情報、ＯＫワード情報記憶部１５２に記憶されているＯＫワード情報に示されたキーワードを抽出する。
【００７０】
［ステップＳ１４］スコア算出部１１３（図４において前述）は、ステップＳ１３で抽出された、利用者１００ａによって入力された情報に含まれている各キーワードに基づいて、入力された情報にスコアを付与する。
【００７１】
［ステップＳ１５］スコア算出部１１３は、ステップＳ１４で抽出された各キーワードに基づいて、入力された情報に付与されたスコアを集計する。
［ステップＳ１６］フィルタリング実行部１１４（図４において前述）は、ステップＳ１５で集計された、入力された情報のスコアが、送信制限処理（図９において後述）で送信制限を行うか否かを決定するために予め定められた、「問題なし」か否かを決定する閾値（例えば、−１０）以上であるか否かについて判定する。スコアが閾値以上であれば、処理はステップＳ１７に進められる。一方、スコアが閾値未満であれば、処理はステップＳ１８に進められる。
【００７２】
［ステップＳ１７］通信部１１５は、利用者１００ａによって入力された情報を、ＷＥＢサーバ４００に送信する。その後、処理はステップＳ１２に進められる。
［ステップＳ１８］フィルタリング実行部１１４は、送信制限処理（図９において後述）を実行する。その後、処理はステップＳ１２に進められる。
【００７３】
図９は、送信制限処理の手順を示すフローチャートである。図９に示す送信制限処理は、情報処理装置１００（図２において前述）が利用者１００ａ（図２において前述）によって入力された情報について、フィルタリング処理（図８において前述）による判定結果に基づいて、送信制限を行う処理であり、フィルタリング処理による呼び出しに基づいて実行が開始される。
【００７４】
［ステップＳ２１］フィルタリング実行部１１４（図４において前述）は、フィルタリング処理のステップＳ１５において集計された、入力された情報のスコアが予め定められた「遮断」レベルの閾値（例えば、−３０）未満であるか否かについて判定する。スコアが「遮断」レベルの閾値未満であれば、処理はステップＳ２３に進められる。一方、スコアが「遮断」レベルの閾値以上であれば、処理はステップＳ２２に進められる。
【００７５】
［ステップＳ２２］フィルタリング実行部１１４は、フィルタリング処理のステップＳ１５において集計された、入力された情報のスコアが予め定められた「検閲」レベルの閾値（例えば、−２０）未満であるか否かについて判定する。スコアが「検閲」レベルの閾値未満であれば、処理はステップＳ２４に進められる。一方、スコアが「検閲」レベルの閾値以上であれば、処理はステップＳ２６に進められる。
【００７６】
［ステップＳ２３］フィルタリング実行部１１４は、利用者１００ａによって入力された情報の送信を行わず、その情報の送信を遮断した旨をモニタ１１（図３において前述）に表示する。その後、送信制限処理は終了してフィルタリング処理に復帰する。
【００７７】
［ステップＳ２４］通信部１１５（図４において前述）は、利用者１００ａによって入力された情報を検閲用サーバ２００（図２において前述）に送信する。この場合、検閲の結果、送信が許可されれば、利用者１００ａが入力した情報は検閲用サーバ２００からＷＥＢサーバ４００（図４において前述）に送信される。検閲の結果、送信が遮断されれば、情報処理装置１００および検閲用サーバ２００のいずれからも情報がＷＥＢサーバ４００に送信されない。
【００７８】
［ステップＳ２５］フィルタリング実行部１１４は、利用者１００ａによって入力された情報の送信は、管理者３００ｂ（図２において前述）による検閲の結果待ちになる旨をモニタ１１に表示する。その後、送信制限処理は終了してフィルタリング処理に復帰する。
【００７９】
［ステップＳ２６］フィルタリング実行部１１４は、利用者１００ａによって入力された情報のプレビューおよび情報の送信についての警告をモニタ１１に表示する。
［ステップＳ２７］フィルタリング実行部１１４は、ステップＳ２６で表示されたプレビューおよび警告を確認した利用者１００ａによる確認結果の入力を受け付ける。
【００８０】
［ステップＳ２８］フィルタリング実行部１１４は、ステップＳ２７において入力された利用者１００ａの確認結果が「送信」であるか否かについて判定する。入力された確認結果が「送信」であれば、処理はステップＳ２９に進められる。一方、入力された確認結果が「送信」でなければ、送信制限処理は終了してフィルタリング処理に復帰する。
【００８１】
［ステップＳ２９］通信部１１５は、利用者１００ａによって入力された情報を、ＷＥＢサーバ４００に送信する。その後、送信制限処理は終了してフィルタリング処理に復帰する。
【００８２】
図１０は、ワードデータ更新処理の手順を示すフローチャートである。図１０に示すワードデータ更新処理は、検閲用サーバ２００（図２において前述）が利用者１００ａ（図２において前述）によって入力された情報に基づいてＮＧワード情報およびＯＫワード情報を更新する処理であり、例えば必要に応じて定められた一定期間毎等、所定の契機で実行が開始される。
【００８３】
［ステップＳ３１］生成部２２１（図４において前述）は、利用者が使用する情報処理装置（例えば、図２において前述した情報処理装置１００）と通信を行い、利用者１００ａが入力した情報から抽出された単語を収集する。
【００８４】
［ステップＳ３２］生成部２２１は、ステップＳ３１で収集した各情報処理装置で入力された単語から、一定期間内において入力されたキーワードの個数を集計する。
［ステップＳ３３］生成部２２１は、ステップＳ３２で集計したキーワードの個数とスコア付与情報記憶部２６１（図４において前述）に記憶されているスコア付与テーブル２６１ａ（図７において前述）とを比較して、集計したキーワードの個数に基づいて付与されるスコアを決定する。
【００８５】
［ステップＳ３４］生成部２２１は、各キーワードに対して以前付与されたスコアにステップＳ３３で決定したキーワードに付与されるスコアを合計して、新たなスコアを算出する。
【００８６】
［ステップＳ３５］生成部２２１は、ステップＳ３４で算出したスコアに基づいて更新用のＮＧワード情報およびＯＫワード情報を生成する。
［ステップＳ３６］更新部２２２（図４において前述）は、ステップＳ３５で生成された更新用のＮＧワード情報およびＯＫワード情報を、インターネット４０（図２において前述）を介して送信することにより、情報処理装置１００を初めとする各情報処理装置に配布する。その後、処理は終了する。
【００８７】
図１１は、入力された情報が「問題なし」と判定された場合の処理の手順を示すシーケンス図である。図１１に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「問題なし」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。
【００８８】
［ステップＳ１１１］情報処理装置１００の入力受付部１１１（図４において前述）は、利用者１００ａによる情報の入力を受け付ける。入力受付部１１１によって入力が受け付けられた情報から、情報処理装置１００が有するワード抽出部１１２（図４において前述）によりキーワード（ＮＧワードおよびＯＫワード）が抽出される。
【００８９】
［ステップＳ１１２］情報処理装置１００が有するスコア算出部１１３（図４において前述）は、ワード抽出部１１２によって抽出されたキーワードより入力された情報のスコアを算出する。
【００９０】
［ステップＳ１１３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「問題なし」と判定されたものとする。
【００９１】
［ステップＳ１１４］情報処理装置１００が有する通信部１１５（図４において前述）は、入力された情報がステップＳ１１３で「問題なし」と判定された場合、入力された情報を、インターネット４０（図２において前述）を介してＷＥＢサーバ４００に送信する。
【００９２】
［ステップＳ１１５］ＷＥＢサーバ４００は、通信部１１５から送信された情報を受信すると、受信した情報を、インターネット４０を介して表示可能に設定する。これにより、ＷＥＢサーバ４００に接続した第三者に対して、利用者１００ａが入力した情報が表示可能になる。
【００９３】
図１２は、入力された情報が「警告」と判定された場合の処理の手順を示すシーケンス図である。図１２に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「警告」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。なお、図１２では、利用者１００ａによって入力された情報が受け付けられてから、入力された情報のスコアが算出されるまでの処理の手順は、図１１のステップＳ１１１，Ｓ１１２と同様であるので省略する。
【００９４】
［ステップＳ１２３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「警告」と判定されたものとする。
【００９５】
［ステップＳ１２４］フィルタリング実行部１１４は、入力された情報がステップＳ１２３で「警告」と判定された場合、入力された情報のプレビューを表示すると共に、利用者１００ａに入力された情報の送信の確認を要求する。また、フィルタリング実行部１１４は、確認結果の入力を受け付ける。この確認結果は、確認対象の情報のＷＥＢサーバ４００に対する送信を行う「送信」または確認対象の情報のＷＥＢサーバ４００に対する送信を中止する「中止」の２通りのうちのいずれかで示される。なお、確認結果が「中止」であった場合には、利用者１００ａによって入力された情報はＷＥＢサーバ４００に対して送信されない。
【００９６】
［ステップＳ１２５］情報処理装置１００が有する通信部１１５（図４において前述）は、ステップＳ１２４で受け付けた確認結果の入力が「送信」する旨であった場合、入力された情報を、インターネット４０（図２において前述）を介してＷＥＢサーバ４００に送信する。
【００９７】
［ステップＳ１２６］ＷＥＢサーバ４００は、通信部１１５から送信された情報を受信すると、受信した情報を、インターネット４０を介して表示可能に設定する。これにより、ＷＥＢサーバ４００に接続した第三者に対して、利用者１００ａが入力した情報が表示可能になる。
【００９８】
図１３から図１５は、入力された情報が「検閲」と判定された場合の処理の手順を示すシーケンス図である。図１３から図１５に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「検閲」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。なお、図１３から図１５では、利用者１００ａによって入力された情報が受け付けられてから、入力された情報のスコアが算出されるまでの処理の手順は、図１１のステップＳ１１１，Ｓ１１２と同様であるので省略する。
【００９９】
［ステップＳ１３３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「検閲」と判定されたものとする。
【０１００】
［ステップＳ１３４］情報処理装置１００が有する通信部１１５（図４において前述）は、入力された情報がステップＳ１３３で「検閲」と判定された場合、入力された情報を、インターネット４０（図２において前述）を介して検閲用サーバ２００に送信する。
【０１０１】
［ステップＳ１３５］フィルタリング実行部１１４は、入力された情報のＷＥＢサーバ４００に対する送信が管理者３００ｂ（図２において前述）による検閲の結果待ちになる旨を表示する。
【０１０２】
［ステップＳ１３６］検閲用サーバ２００の検閲部２２３（図４において前述）は、インターネット４０を介して通信部１１５から送信された情報を受信する。
［ステップＳ１３７］検閲部２２３は、ステップＳ１３６で受信した情報を管理者用情報処理装置３００に送信し、管理者３００ｂに利用者１００ａによって入力された情報の検閲を依頼する。
【０１０３】
［ステップＳ１３８］管理者用情報処理装置３００は、受信した情報を表示する。これにより、管理者３００ｂは、利用者１００ａによって入力された情報を視認して確認することができる。
【０１０４】
［ステップＳ１３９］管理者用情報処理装置３００は、表示した情報について管理者３００ｂによる検閲結果の入力を受け付ける。この検閲結果は、検閲対象の情報のＷＥＢサーバ４００に対する送信を許可する「許可」または検閲対象の情報のＷＥＢサーバ４００に対する送信を遮断する「遮断」の２通りのうちのいずれかで示される。なお、検閲結果が「遮断」であった場合には、利用者１００ａによって入力された情報はＷＥＢサーバ４００に対して送信されない。
【０１０５】
［ステップＳ１４０］管理者用情報処理装置３００は、ステップＳ１３９で入力を受け付けた管理者３００ｂによる情報の検閲結果を、インターネット４０を介して検閲用サーバ２００に送信する。
【０１０６】
［ステップＳ１４１］検閲部２２３は、インターネット４０を介して管理者用情報処理装置３００から送信された情報を受信する。
［ステップＳ１４２］検閲部２２３は、ステップＳ１４１で受信した検閲結果が「許可」であった場合、入力された情報を、インターネット４０を介してＷＥＢサーバ４００に送信する。
【０１０７】
［ステップＳ１４３］ＷＥＢサーバ４００は、検閲部２２３から送信された情報を受信すると、受信した情報を、インターネット４０を介して表示可能に設定する。これにより、ＷＥＢサーバ４００に接続した第三者に対して、利用者１００ａが入力した情報が表示可能になる。
【０１０８】
図１６は、入力された情報が「遮断」と判定された場合の処理の手順を示すシーケンス図である。図１６に示すシーケンス図を用いて、利用者１００ａ（図２において前述）が情報処理装置１００を使用して入力した情報をＷＥＢサーバ４００に送信する際に、入力された情報が「遮断」と判定された場合の情報処理装置１００、検閲用サーバ２００、管理者用情報処理装置３００、ＷＥＢサーバ４００で実行される処理の手順を説明する。なお、図１６では、利用者１００ａによって入力された情報が受け付けられてから、入力された情報のスコアが算出されるまでの処理の手順は、図１１のステップＳ１１１，Ｓ１１２と同様であるので省略する。
【０１０９】
［ステップＳ１５３］ステップＳ１１２で算出された入力された情報のスコアが、情報処理装置１００が有するフィルタリング実行部１１４（図４において前述）によって「遮断」と判定されたものとする。
【０１１０】
［ステップＳ１５４］フィルタリング実行部１１４は、入力された情報がステップＳ１５３で「遮断」と判定された場合、入力された情報のＷＥＢサーバ４００に対する送信を遮断した旨を表示する。また、利用者１００ａによって入力された情報はＷＥＢサーバ４００に対して送信されない。これにより、利用者１００ａが入力した情報がＷＥＢサーバ４００に接続した第三者に対して表示されることが防止される。
【０１１１】
次に、本実施の形態で表示される表示画面について説明する。
図１７は、警告通知画面を示す図である。図１７に示す警告通知画面１７０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について警告する警告通知画面の一例である。
【０１１２】
警告通知画面１７０は、掲示板表示領域１７１、メッセージ表示領域１７２、プレビュー表示領域１７３を有する。また、メッセージ表示領域１７２は、事例リンク表示領域１７２ａ、はいボタン１７２ｂ、いいえボタン１７２ｃを有する。
【０１１３】
掲示板表示領域１７１は、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
メッセージ表示領域１７２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報に対して警告するメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「警告」である場合には、利用者１００ａに警告し、入力された情報をＷＥＢサーバ４００に送信するか否かの確認を求めて送信の再考を促す。
【０１１４】
事例リンク表示領域１７２ａは、例えば、他の利用者が送信した情報によって発生したトラブルを示す情報等を提供するＷＥＢサイト（図示省略）のリンク（ｌｉｎｋ）が設定されている領域である。これにより、低年齢者等、情報ネットワークの利用に関する知識に乏しい利用者に対してネットワークの利用の危険性や処罰の対象となり得ることを認識させることができる。このＷＥＢサイトは、検閲用サーバ２００が提供するものであってもよく、外部のサーバによって提供されているものを用いてもよい。
【０１１５】
はいボタン１７２ｂは、利用者１００ａが入力した情報のＷＥＢサーバ４００に対する送信を行う場合に操作するボタンである。いいえボタン１７２ｃは、利用者１００ａが入力した情報のＷＥＢサーバ４００に対する送信を中止する場合に操作するボタンである。
【０１１６】
プレビュー表示領域１７３は、利用者１００ａによって入力された情報が表示された場合にはどのように表示されるかを利用者１００ａに対して提示するために、入力された情報を表示する領域である。プレビュー表示領域１７３には、利用者１００ａによって入力された情報が、ＷＥＢサーバ４００に送信される前にもかかわらず、利用者１００ａに対してあたかもＷＥＢサーバ４００よって表示されたように表示される。これにより、メッセージ表示領域１７２における利用者１００ａによる情報の送信の確認を強く促すことができる。
【０１１７】
図１８は、検閲通知画面を示す図である。図１８に示す検閲通知画面１８０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について検閲が行われることを通知する検閲通知画面の一例である。
【０１１８】
検閲通知画面１８０は、掲示板表示領域１８１、メッセージ表示領域１８２を有する。また、メッセージ表示領域１８２は、事例リンク表示領域１８２ａを有する。
掲示板表示領域１８１は、図１７において前述した警告通知画面１７０と同様、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
【０１１９】
メッセージ表示領域１８２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報に対して検閲が行われることを示すメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「検閲」である場合には、入力された情報がＷＥＢサーバ４００に送信する前に管理者３００ｂ（図２において前述）による検閲が行われる。さらにその旨を利用者１００ａに通知することにより、入力された情報が検閲の対象にされたことを利用者１００ａに認識させて、以後に送信する情報の内容について注意を払うことを促すことができる。
【０１２０】
事例リンク表示領域１８２ａは、図１７において前述した警告通知画面１７０と同様、例えば、他の利用者が送信した情報によって発生したトラブルを示す情報等を提供するＷＥＢサイト（図示省略）のリンク（ｌｉｎｋ）が設定されている領域である。これにより、低年齢者等、情報ネットワークの利用に関する知識に乏しい利用者に対してネットワークの利用の危険性や処罰の対象となり得ることを認識させることができる。
【０１２１】
図１９は、遮断通知画面を示す図である。図１９に示す遮断通知画面１９０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について検閲が行われることを通知する遮断通知画面の一例である。
【０１２２】
遮断通知画面１９０は、掲示板表示領域１９１、メッセージ表示領域１９２を有する。また、メッセージ表示領域１９２は、事例リンク表示領域１９２ａを有する。
掲示板表示領域１９１は、図１７において前述した警告通知画面１７０と同様、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
【０１２３】
メッセージ表示領域１９２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報について送信を行わずに遮断することを示すメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「遮断」である場合には、入力された情報がＷＥＢサーバ４００に送信されずに遮断される。さらにその旨を利用者１００ａに通知することにより、入力された情報が遮断の対象にされたことを利用者１００ａに認識させて、以後に送信する情報の内容について注意を払うことを促すことができる。
【０１２４】
事例リンク表示領域１９２ａは、図１７において前述した警告通知画面１７０と同様、例えば、他の利用者が送信した情報によって発生したトラブルを示す情報等を提供するＷＥＢサイト（図示省略）のリンク（ｌｉｎｋ）が設定されている領域である。これにより、低年齢者等、情報ネットワークの利用に関する知識に乏しい利用者に対してネットワークの利用の危険性や処罰の対象となり得ることを認識させることができる。
【０１２５】
図２０は、検閲結果受付画面を示す図である。図２０に示す検閲結果受付画面３７０は、情報処理装置１００（図２において前述）のモニタ１１（図３において前述）に表示される画面であり、情報処理装置１００が有するフィルタリング機能により、利用者１００ａ（図２において前述）がＷＥＢサーバ４００（図２において前述）によって提供される掲示板サービスに対して送信しようとする情報について検閲が依頼されると共に、検閲結果の入力を受け付ける検閲結果受付画面の一例である。
【０１２６】
検閲結果受付画面３７０は、掲示板表示領域３７１、メッセージ表示領域３７２、プレビュー表示領域３７３を有する。また、メッセージ表示領域３７２は、利用者情報表示領域３７２ａ、はいボタン３７２ｂ、いいえボタン３７２ｃを有する。
【０１２７】
掲示板表示領域３７１は、図１７において前述した警告通知画面１７０と同様、ＷＥＢサーバ４００によって提供される掲示板サービスにおいて既に投稿されている内容を表示する領域である。
【０１２８】
メッセージ表示領域３７２は、利用者１００ａによってＷＥＢサーバ４００に送信するために入力された情報について管理者３００ｂに対して検閲を依頼するメッセージが表示される領域である。本実施の形態のフィルタリング機能により入力された情報のスコアによる判定結果が「検閲」である場合には、利用者１００ａによって入力された情報の検閲を管理者３００ｂに依頼し、入力された情報のＷＥＢサーバ４００に対する送信を許可するか否かの入力を求める。これにより、利用者１００ａに対して管理者３００ｂの検閲が存在することで、軽はずみにより危険な情報が入力されることをけん制することができる。
【０１２９】
利用者情報表示領域３７２ａは、検閲の対象である情報を入力した利用者１００ａに関する情報が表示される領域である。これにより、管理者３００ｂは、検閲の対象である情報を入力した利用者１００ａを特定することができる。また、管理者３００ｂは、利用者情報表示領域３７２ａに表示されている情報から検閲の対象である情報を入力した利用者１００ａを特定して、例えば電子メールやその他の手段によって直接連絡を取って事情を聴いて注意する等の対応をすることもできる。
【０１３０】
はいボタン３７２ｂは、管理者３００ｂが検閲の結果、利用者１００ａによって入力された情報のＷＥＢサーバ４００に対する送信を許可する場合に操作するボタンである。いいえボタン３７２ｃは、管理者３００ｂが検閲の結果、利用者１００ａによって入力された情報のＷＥＢサーバ４００に対する送信を遮断する場合に操作するボタンである。
【０１３１】
プレビュー表示領域３７３は、利用者１００ａによって入力された情報を管理者３００ｂに対して表示する領域である。プレビュー表示領域３７３には、利用者１００ａによって入力された情報が、ＷＥＢサーバ４００に送信される前にもかかわらず、利用者１００ａに対してあたかもＷＥＢサーバ４００よって表示されたように表示される。これにより、利用者１００ａによって入力された情報がＷＥＢサーバ４００によって表示された場合の様子を管理者３００ｂに対して実際に近い状態で提示することにより、管理者３００ｂによる検閲の判断の正確性を向上させることができる。
【０１３２】
フィルタリングでは、ＮＧワードを含むデータの送信が規制される。一般的に、このフィルタリングの対象であるＮＧワードは、利用者や管理者が個々に設定する必要がある。しかし、ＮＧワードの設定が十分でないとフィルタリングが適切に機能しない可能性が高い。
【０１３３】
また、ＮＧワードは、社会で話題に上る単語の変化に応じて頻繁に追加する必要があるため、適切なフィルタリングを行うためには相当量の管理作業が必要となってしまう。また、ＮＧワードをデータとして提供する場合には、データ作成元におけるＮＧワードのデータを設定する作業量が負担となるとともに、社会の変化に対するＮＧワードの追随速度を維持する必要がある。
【０１３４】
また、単純にＮＧワードの設定のみによってフィルタリングを行う場合、本当に有用なサイトへのデータ送信（例えばニュースを引用したＢｌｏｇの掲載）も制限されてしまい、利便性を損なうこととなる。この結果、本来必要な送信データのフィルタリング機能を外して運用してしまうという本末転倒な形にもなりかねない。
【０１３５】
以上のように、第１の実施の形態によれば、利用者１００ａが入力した情報について、情報に含まれるＮＧワードに基づいて付与されるスコアが、情報で含まれるＯＫワードに基づいて付与されるスコアで相殺されることにより、ＮＧワードが含まれていても有害でない情報の送信が許可される、精度の高いフィルタリングを行うことができる。
【０１３６】
また、利用者１００ａが入力した情報のフィルタリングを行うキーワードについてＮＧワードおよびＯＫワードを用意することにより、ＮＧワードのみで評価した場合に遮断されてしまうような情報であってもＯＫワードに基づく評価により送信されるようにすることができる。
【０１３７】
また、情報処理装置１００等、各利用者が操作する情報処理装置で実際に入力された情報に含まれているキーワードを集計してキーワードのスコアを更新することで、新たな社会現象の発生等の状況の変化に応じたフィルタリングを行うことができる。
【０１３８】
また、フィルタリングにおいて管理者３００ｂによる検閲が行われることで、機械的にフィルタリングを行うのみでなく、人間系によってより入力された情報の送信についてより正確な判定を行うことができる。また、フィルタリング機能によって情報に付与されたスコアが一部の範囲のもののみ検閲を行うことにより、
また、管理者３００ｂによる検閲が行われることにより、利用者１００ａが悪意を持って情報を入力することをけん制することができる。
【０１３９】
また、フィルタリング機能によって情報に付与されたスコアに応じて、送信の遮断や利用者１００ａに対する確認等、複数段階の異なる処理が行われることで、入力された情報の内容に応じて柔軟な処理を行うことができる。
【０１４０】
［第２の実施の形態］
次に、第２の実施の形態について説明する。上記の第１の実施の形態との相違点を中心に説明し、同様の事項については同一の符号を用いると共に説明を省略する。
【０１４１】
第２の実施の形態は、利用者による送信する情報の入力を受け付ける情報処理装置と、入力された情報のフィルタリングを行うフィルタリン用グサーバとが分離され、それぞれ別個に設けられている点で、第１の実施の形態と異なる。
【０１４２】
図２１は、第２の実施の形態のシステム構成を示す図である。図２１に示す第２の実施の形態のフィルタリングシステムは、利用者６００ａが使用する情報処理装置６００から、第１の実施の形態と同様、ＷＥＢサーバ４００に対してインターネット４０を介して送信される情報について、フィルタリングを行うシステムである。
【０１４３】
第２の実施の形態に係るフィルタリングシステムでは、利用者６００ａによって情報処理装置６００に入力された、利用者６００ａがインターネット４０を介してＷＥＢサーバ４００に送信したい情報をフィルタリング用サーバ５００が事前にフィルタリングすることにより、不適切な内容がＷＥＢサーバ４００によって提供される掲示板等に公開されてしまうことを未然に防止する。
【０１４４】
フィルタリング用サーバ５００は、ＬＡＮ５０により情報処理装置６００と接続可能である。また、フィルタリング用サーバ５００は、インターネット４０により、検閲用サーバ２００、ＷＥＢサーバ４００と接続可能である。さらに、検閲用サーバ２００は、インターネット４０により、管理者用情報処理装置３００、ＷＥＢサーバ４００と接続可能である。
【０１４５】
情報処理装置６００は、ＷＥＢサーバ４００に送信される情報の利用者６００ａによる入力を受け付けると、受け付けた情報をＬＡＮ５０を介してフィルタリング用サーバ５００に送信する。
【０１４６】
フィルタリング用サーバ５００は、ＬＡＮ５０を介して情報処理装置６００から送信された利用者６００ａによって入力された情報についてフィルタリングによる判定の結果に基づいて情報の送信を許可する場合には、利用者６００ａが入力した情報をＷＥＢサーバ４００に送信する。また、フィルタリング用サーバ５００は、フィルタリングによる判定の結果に基づいて送信を遮断する場合には、利用者６００ａが入力した情報をＷＥＢサーバ４００に送信しない。また、フィルタリング用サーバ５００は、フィルタリングによる判定の結果に応じて検閲用サーバ２００を介して管理者用情報処理装置３００に検閲を依頼する。なお、フィルタリング用サーバ５００は、複数台の情報処理装置についてフィルタリングを行ってもよい。
【０１４７】
検閲用サーバ２００は、利用者６００ａにより入力された情報のフィルタリング用サーバ５００によるフィルタリングにおける判定の結果、検閲を行う旨の判定がされた場合にフィルタリング用サーバ５００から送信された利用者６００ａにより入力された情報を受信する。次に、検閲用サーバ２００は、管理者３００ｂが使用する管理者用情報処理装置３００に利用者６００ａが入力した情報についての検閲を依頼する。
【０１４８】
管理者用情報処理装置３００は、管理者３００ｂが行う検閲に使用される。このとき管理者用情報処理装置３００は、検閲用サーバ２００からの検閲の依頼を受け付けて、利用者６００ａがＷＥＢサーバ４００に送信しようとした情報を管理者３００ｂに対して接続されたモニタ（図示省略）表示する。管理者３００ｂは、この管理者用情報処理装置３００に接続されたモニタに表示される利用者６００ａが入力した情報を見て検閲を行い、ＷＥＢサーバ４００に送信することを認めるか否かを判定して判定結果を入力する。
【０１４９】
ＷＥＢサーバ４００は、フィルタリング用サーバ５００によるフィルタリングにおける判定の結果、情報処理装置６００から送信された情報を表示する。ＷＥＢサーバ４００は、例えば、インターネット４０を介して利用者６００ａ等により送信された情報を第三者に向けて発信する掲示板等のサービスを提供するサーバである。
【０１５０】
図２２は、第２の実施の形態のフィルタリング用サーバの構成を示すブロック図である。図２２に示すフィルタリング用サーバ５００は、利用者６００ａ（図２１において前述）が情報処理装置６００を使用して入力した情報の入力を受け付けると共に、受け付けた情報の送信を許可し、または送信を遮断するフィルタリングを行う。
【０１５１】
フィルタリング用サーバ５００は、検閲用サーバ２００、ＷＥＢサーバ４００とインターネット４０（図２１において前述）で接続されている。また、フィルタリング用サーバ５００は、情報処理装置６００とＬＡＮ５０（図２１において前述）で接続されていると共に、ＬＡＮ５０およびインターネット４０を介して検閲用サーバ２００と接続可能である。また、検閲用サーバ２００は、管理者用情報処理装置３００とインターネット４０で接続されている。
【０１５２】
フィルタリング用サーバ５００は、入力受付部５１１、ワード抽出部５１２、スコア算出部５１３、フィルタリング実行部５１４、通信部５１５、ＮＧワード情報記憶部５５１、ＯＫワード情報記憶部５５２を有する。フィルタリング用サーバ５００は、フィルタリングプログラムの実行により、以下の機能を有する。
【０１５３】
入力受付部５１１は、通信部５１５によって受信された利用者６００ａが送信する情報の入力を受け付ける。これにより、利用者６００ａがインターネット４０を介してＷＥＢサーバ４００に送信しようとしている情報の入力が受け付けられる。また、入力受付部５１１は、利用者６００ａによる送信される情報について送信するか否かの確認の結果の入力を受け付ける。
【０１５４】
ワード抽出部５１２は、第１の実施の形態のワード抽出部１１２と同様、入力受付部５１１によって受け付けられた情報から単語を抽出する。
スコア算出部５１３は、第１の実施の形態のスコア算出部１１３と同様、ワード抽出部５１２によって情報から抽出された単語に付与されるスコアを、ＮＧワード情報記憶部５５１およびＯＫワード情報記憶部５５２に基づいて算出する。
【０１５５】
具体的には、スコア算出部５１３は、ワード抽出部５１２によって情報から抽出された単語と、ＮＧワード情報記憶部５５１に記憶されているＮＧワード情報に示されているＮＧワードとを比較して情報に含まれているＮＧワードを特定し、特定したＮＧワードに基づくスコアを情報に付与する。また、スコア算出部５１３は、情報から抽出された単語と、ＯＫワード情報記憶部５５２に記憶されているＯＫワード情報に示されているＯＫワードとを比較して情報に含まれているＯＫワードを特定し、特定したＯＫワードに基づくスコアを情報に付与する。次に、スコア算出部５１３は、ＮＧワードに基づいて付与されたスコアとＯＫワードに基づいて付与されたスコアとを合計することにより、利用者６００ａが入力した情報に付与されるスコアを算出する。
【０１５６】
フィルタリング実行部５１４は、第１の実施の形態のフィルタリング実行部１１４と同様、スコア算出部５１３によって算出されたスコアに基づいて、情報を送信し、または情報を送信せずに遮断する情報のフィルタリングを行う。このフィルタリング実行部５１４によるフィルタリングの結果、送信されると判定された場合には、利用者６００ａによって入力された情報は、インターネット４０を介してＷＥＢサーバ４００に送信される。一方、フィルタリングの結果、遮断すると判定された場合には、利用者６００ａによって入力された情報は、ＷＥＢサーバ４００に送信されない。
【０１５７】
フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが、閾値によって特定される複数の範囲のいずれに該当するかに基づいてフィルタリングを行う。
【０１５８】
フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが「送信」を許可すべきとされる範囲に該当する場合には、送信を許可する。これに基づいて、フィルタリング用サーバ５００からＷＥＢサーバ４００に、利用者６００ａが入力した情報が送信される。
【０１５９】
また、フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが「送信」を許可すべきとされる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、利用者６００ａに対して「警告」を行い、入力受付部５１１によって受け付けられた利用者６００ａによる確認の結果に基づいてフィルタリングを行う。
【０１６０】
また、フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが「警告」が行われる範囲よりもさらに１段階高く「遮断すべき」とされる範囲に該当する場合には、入力された情報に対して「検閲」を行わせる。この場合、フィルタリング実行部５１４は、通信部５１５に検閲用サーバ２００に対して入力された情報を送信させる。次に、フィルタリング実行部５１４は、この送信した情報に対する返信である、検閲用サーバ２００から送信された入力された情報に対する検閲の結果を通信部５１５が受信すると、受信した情報に対する検閲の結果に基づいてフィルタリングを行う。
【０１６１】
また、フィルタリング実行部５１４は、スコア算出部５１３によって算出されたスコアが最も高い段階で「遮断すべき」とされる範囲に該当する場合には、情報を送信しない。
通信部５１５は、ＬＡＮ５０を介して情報処理装置６００と通信可能である。また、通信部５１５は、インターネット４０を介して、検閲用サーバ２００、ＷＥＢサーバ４００と通信可能である。この通信部５１５により、フィルタリング用サーバ５００は、情報処理装置６００、検閲用サーバ２００、ＷＥＢサーバ４００との間で情報を送受信することができる。
【０１６２】
ＮＧワード情報記憶部５５１は、第１の実施の形態のＮＧワード情報記憶部１５１と同様、含んでいる情報が遮断の対象として予め設定された単語であるＮＧワードとＮＧワードに基づいて付与されるスコアとを示すＮＧワード情報を記憶する。
【０１６３】
ＯＫワード情報記憶部５５２は、第１の実施の形態のＯＫワード情報記憶部１５２と同様、ＮＧワードを含んでいるにもかかわらず、含んでいる情報が遮断の対象から除外されるものとして予め設定された単語であるＯＫワードとＯＫワードに基づいて付与されるスコアと示すＯＫワード情報を記憶する。
【０１６４】
検閲用サーバ２００は、第１の実施の形態と同様、フィルタリング用サーバ５００から送信された利用者６００ａが入力した情報の検閲を、管理者用情報処理装置３００に送信する。また、検閲用サーバ２００は、スコア付与情報に基づいてＮＧワード情報およびＯＫワード情報の生成および更新を行う。検閲用サーバ２００は、生成部２２１、更新部２２２、検閲部２２３、スコア付与情報記憶部２６１を有する。
【０１６５】
生成部２２１は、第１の実施の形態と同様、インターネット４０を介してフィルタリング用サーバ５００の通信部５１５と接続することにより、利用者６００ａによって情報処理装置６００を使用して入力された情報に含まれていた単語を収集する。次に、生成部２２１は、収集結果に基づいて更新用のＮＧワード情報およびＯＫワード情報を生成する。
【０１６６】
更新部２２２は、第１の実施の形態と同様、生成部２２１が生成したＮＧワード情報およびＯＫワード情報を、インターネット４０を介してフィルタリング用サーバ５００に配布する。
【０１６７】
検閲部２２３は、第１の実施の形態と同様、フィルタリング実行部５１４によるフィルタリングの結果、検閲が行われる場合には、通信部５１５によって送信された利用者６００ａが入力した情報を管理者用情報処理装置３００にインターネット４０を介して送信することにより、管理者３００ｂ（図２１において前述）に検閲を依頼する。また、検閲部２２３は、インターネット４０を介して管理者用情報処理装置３００から送信される検閲結果を受信し、受信した検閲結果に基づき、検閲結果が送信を許可する場合には、利用者６００ａが入力した情報をインターネット４０を介してＷＥＢサーバ４００に送信する。
【０１６８】
スコア付与情報記憶部２６１は、更新用のＮＧワード情報およびＯＫワード情報の生成に使用されるスコア付与情報を記憶する。
以上のように、第２の実施の形態によれば、利用者６００ａが他の情報処理装置から入力した情報について、利用者６００ａが使用する情報処理装置６００にフィルタリング機能を持たせることなく、第１の実施の形態と同様の効果を奏することができる。
【０１６９】
また、複数台の情報処理装置をフィルタリング用サーバ５００と接続して、複数の情報処理装置で入力された情報を１つのフィルタリング用サーバ５００でフィルタリングすることもできる。
【０１７０】
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、情報処理装置１００、フィルタリング用サーバ５００が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。
【０１７１】
処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体には、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等がある。磁気記録装置には、ＨＤＤ、フレキシブルディスク（ＦＤ）、磁気テープ（ＭＴ）等がある。光ディスクには、ＤＶＤ（Digital Versatile Disc）、ＤＶＤ−ＲＡＭ、ＣＤ−ＲＯＭ（Compact Disc - Read Only Memory）、ＣＤ−Ｒ（Recordable）／ＲＷ（ReWritable）等がある。光磁気記録媒体には、ＭＯ（Magneto - Optical disk）等がある。
【０１７２】
上記プログラムを流通させる場合には、例えば、そのプログラムが記録されたＤＶＤ、ＣＤ−ＲＯＭ等の可搬型記録媒体が販売される。また、プログラムをサーバコンピュータに記憶しておき、ネットワークを通じて、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【０１７３】
上記プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバコンピュータから転送されたプログラムを、自己の記憶装置に記憶する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
【０１７４】
以上、開示のフィルタリングプログラム、フィルタリング装置およびフィルタリング方法を、図示の実施の形態に基づいて説明したが、各部の構成は同様の機能を有する任意の構成のものに置換することができる。また、開示の技術に他の任意の構成物や工程が付加されてもよい。また、開示の技術は前述した実施の形態のうちの任意の２以上の構成を組み合わせたものであってもよい。
【０１７５】
上記については単に本発明の原理を示すものである。さらに、多数の変形、変更が当業者にとって可能であり、開示の技術は上記に示し、説明した正確な構成および応用例に限定されるものではなく、対応するすべての変形例および均等物は、添付の請求項およびその均等物による本発明の範囲とみなされる。
【符号の説明】
【０１７６】
１ フィルタリング装置
１ａ 入力受付手段
１ｂ ワード抽出手段
１ｃ スコア算出手段
１ｄ フィルタリング実行手段
１ｅ 記憶手段
【特許請求の範囲】
【請求項１】
コンピュータに、利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリング処理を実行させるフィルタリングプログラムにおいて、
前記コンピュータを、
前記利用者による送信される前記情報の入力を受け付ける入力受付手段、
前記入力受付手段によって受け付けられた前記情報から単語を抽出するワード抽出手段、
前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを、記憶手段に基づいて算出するスコア算出手段、
前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うフィルタリング実行手段として機能させることを特徴とするフィルタリングプログラム。
【請求項２】
前記コンピュータを、他の情報処理装置と通信する通信手段として機能させ、
前記フィルタリング実行手段は、前記スコア算出手段によって算出された前記スコアが所定の範囲に該当する場合には、前記通信手段に前記他の情報処理装置に対して前記情報を送信させると共に、前記他の情報処理装置から送信された前記情報に対する検閲の結果を前記通信手段が受信すると、受信した前記情報に対する前記検閲の結果に基づいて前記フィルタリングを行うことを特徴とする請求項１記載のフィルタリングプログラム。
【請求項３】
前記入力受付手段は、前記利用者による送信される情報について送信するか否かの確認の結果の入力を受け付け、
前記フィルタリング実行手段は、前記スコア算出手段によって算出された前記スコアが所定の範囲に該当する場合には、前記入力受付手段によって受け付けられた前記確認の結果に基づいて前記フィルタリングを行うことを特徴とする請求項１記載のフィルタリングプログラム。
【請求項４】
前記コンピュータを、他の情報処理装置と通信する通信手段として機能させ、
前記入力受付手段は、前記利用者による送信される情報について送信するか否かの確認の結果の入力を受け付け、
前記フィルタリング実行手段は、前記スコア算出手段によって算出された前記スコアが第１の範囲に該当する場合には、前記入力受付手段によって受け付けられた前記確認の結果に基づいて前記フィルタリングを行い、前記スコア算出手段によって算出された算出された前記スコアが前記第１の範囲よりも遮断すべきとされる第２の範囲に該当する場合には、前記通信手段に前記他の情報処理装置に対して前記情報を送信させると共に、前記他の情報処理装置から送信された前記情報に対する検閲の結果を前記通信手段が受信すると、受信した前記情報に対する前記検閲の結果に基づいて前記フィルタリングを行い、前記スコア算出手段によって算出された前記スコアが前記第２の範囲よりも遮断すべきとされる第３の範囲に該当する場合には、前記情報を送信せず遮断することを特徴とする請求項１記載のフィルタリングプログラム。
【請求項５】
利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリング処理を行うフィルタリング装置において、
前記情報が遮断の対象として予め設定された単語に基づいて付与されるスコアを記憶する第一記憶手段と、
前記情報が前記遮断の対象から除外されるものとして予め設定された単語に基づいて付与されるスコアを記憶する第二記憶手段と、
前記利用者による送信される前記情報の入力を受け付ける入力受付手段と、
前記入力受付手段によって受け付けられた前記情報から単語を抽出するワード抽出手段と、
前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを、前記第一記憶手段および前記第二記憶手段に記憶されたスコアに基づいて算出するスコア算出手段と、
前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うフィルタリング実行手段とを有することを特徴とするフィルタリング装置。
【請求項６】
コンピュータが、利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリング処理を実行するフィルタリング方法において、
入力受付手段が、前記利用者による送信される前記情報の入力を受け付け、
ワード抽出手段が、前記入力受付手段によって受け付けられた前記情報から単語を抽出し、
スコア算出手段が、前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを記憶手段に基づいて算出し、
フィルタリング実行手段が、前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うことを特徴とするフィルタリング方法。
【請求項１】
コンピュータに、利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリング処理を実行させるフィルタリングプログラムにおいて、
前記コンピュータを、
前記利用者による送信される前記情報の入力を受け付ける入力受付手段、
前記入力受付手段によって受け付けられた前記情報から単語を抽出するワード抽出手段、
前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを、記憶手段に基づいて算出するスコア算出手段、
前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うフィルタリング実行手段として機能させることを特徴とするフィルタリングプログラム。
【請求項２】
前記コンピュータを、他の情報処理装置と通信する通信手段として機能させ、
前記フィルタリング実行手段は、前記スコア算出手段によって算出された前記スコアが所定の範囲に該当する場合には、前記通信手段に前記他の情報処理装置に対して前記情報を送信させると共に、前記他の情報処理装置から送信された前記情報に対する検閲の結果を前記通信手段が受信すると、受信した前記情報に対する前記検閲の結果に基づいて前記フィルタリングを行うことを特徴とする請求項１記載のフィルタリングプログラム。
【請求項３】
前記入力受付手段は、前記利用者による送信される情報について送信するか否かの確認の結果の入力を受け付け、
前記フィルタリング実行手段は、前記スコア算出手段によって算出された前記スコアが所定の範囲に該当する場合には、前記入力受付手段によって受け付けられた前記確認の結果に基づいて前記フィルタリングを行うことを特徴とする請求項１記載のフィルタリングプログラム。
【請求項４】
前記コンピュータを、他の情報処理装置と通信する通信手段として機能させ、
前記入力受付手段は、前記利用者による送信される情報について送信するか否かの確認の結果の入力を受け付け、
前記フィルタリング実行手段は、前記スコア算出手段によって算出された前記スコアが第１の範囲に該当する場合には、前記入力受付手段によって受け付けられた前記確認の結果に基づいて前記フィルタリングを行い、前記スコア算出手段によって算出された算出された前記スコアが前記第１の範囲よりも遮断すべきとされる第２の範囲に該当する場合には、前記通信手段に前記他の情報処理装置に対して前記情報を送信させると共に、前記他の情報処理装置から送信された前記情報に対する検閲の結果を前記通信手段が受信すると、受信した前記情報に対する前記検閲の結果に基づいて前記フィルタリングを行い、前記スコア算出手段によって算出された前記スコアが前記第２の範囲よりも遮断すべきとされる第３の範囲に該当する場合には、前記情報を送信せず遮断することを特徴とする請求項１記載のフィルタリングプログラム。
【請求項５】
利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリング処理を行うフィルタリング装置において、
前記情報が遮断の対象として予め設定された単語に基づいて付与されるスコアを記憶する第一記憶手段と、
前記情報が前記遮断の対象から除外されるものとして予め設定された単語に基づいて付与されるスコアを記憶する第二記憶手段と、
前記利用者による送信される前記情報の入力を受け付ける入力受付手段と、
前記入力受付手段によって受け付けられた前記情報から単語を抽出するワード抽出手段と、
前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを、前記第一記憶手段および前記第二記憶手段に記憶されたスコアに基づいて算出するスコア算出手段と、
前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うフィルタリング実行手段とを有することを特徴とするフィルタリング装置。
【請求項６】
コンピュータが、利用者によって入力された情報の送信を許可し、または送信を遮断するフィルタリング処理を実行するフィルタリング方法において、
入力受付手段が、前記利用者による送信される前記情報の入力を受け付け、
ワード抽出手段が、前記入力受付手段によって受け付けられた前記情報から単語を抽出し、
スコア算出手段が、前記ワード抽出手段によって前記情報から抽出された前記単語に付与されるスコアを記憶手段に基づいて算出し、
フィルタリング実行手段が、前記スコア算出手段によって算出された前記スコアに基づいて、前記情報を送信し、または前記情報を送信せずに遮断する前記情報のフィルタリングを行うことを特徴とするフィルタリング方法。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【公開番号】特開２０１１−２２８８６（Ｐ２０１１−２２８８６Ａ）
【公開日】平成２３年２月３日（２０１１．２．３）
【国際特許分類】
【出願番号】特願２００９−１６８６８０（Ｐ２００９−１６８６８０）
【出願日】平成２１年７月１７日（２００９．７．１７）
【出願人】（０００００５２２３）富士通株式会社 (25,993)
【Ｆターム（参考）】
【公開日】平成２３年２月３日（２０１１．２．３）
【国際特許分類】
【出願日】平成２１年７月１７日（２００９．７．１７）
【出願人】（０００００５２２３）富士通株式会社 (25,993)
【Ｆターム（参考）】
[ Back to top ]