【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、文字や音声などのパターン認識用の辞書を作成する方法に関し、特に、認識精度が高いパタン認識用辞書を効率良く作成することができる技術に関するものである。

【０００２】

【従来の技術】文字や音声のパターン認識においては、
あらかじめ各カテゴリの標準的なパターンである参照パターンと、カテゴリの分布形状に従って参照パターンと認識対象パターンの位置関係を補正する重みベクトルを認識用辞書として用意しておき、認識させたいパターンと各カテゴリの参照パターンとの類似性を何らかの評価関数を用いて計算した後、最も類似性の高いカテゴリを認識結果として出力する。

【０００３】通常、参照パターンは、学習させるパターンの平均値として与えられ、重みは標準偏差の逆数として与えられる。

【０００４】また、逐次学習的な手法として、ポテンシャル関数法のように学習時に誤りを訂正する形で重みを決定する方法も提案されている。

【０００５】前記の従来技術は、アルゴリズムが簡単であること、多くの場合には効果が期待できることの２点からなり広範囲で使用されている。

【０００６】

【発明が解決しようとする課題】しかしながら、標準偏差の逆数は、ガウス（Ｇａｕｓｓ）分布を仮定したときにのみ最適な重みとなるものであり、現実の文字パターンに見られるような複雑な分布に対しては、必ずしも最適な辞書とはならない。

【０００７】また、ポテンシャル関数法などの逐次学習的な辞書作成法では、多くの場合、パターン集合同士の線形分離可能性を仮定しており、しかも、線形分離可能性については、一般的な検出方法がないため辞書作成の成功、不成功によってのみ方法の有効性が評価されるという意味あいで、実用的とは言い難い側面があった。

【０００８】本発明は、前記問題点を解決するためになされたものであり、本発明の目的は、カテゴリ内だけでなく、カテゴリ間のパターン分布をも考慮しながら、重みの最適化を自動で行うことが可能な技術を提供することにある。

【０００９】本発明の他の目的は、認識率の高いパターン認識用辞書を効率よく作成することが可能な技術を提供することにある。

【００１０】本発明の前記ならびにその他の目的及び新規な特徴は、本明細書の記述及び添付図面によって明らかにする。

【００１１】

【課題を解決するための手段】前記目的を達成するために、本発明の（１）の手段は、各カテゴリの標準的なパターンと各カテゴリの分布形状に従って位置関係を補正するために用いられる重み集合を有するパターン認識用辞書の作成法であって、あらかじめ複数の学習パターンに対して、カテゴリごと、及び特徴軸ごとに、それぞれの特徴の相加平均、及び標準偏差を求め、当該相加平均を前記参照パターンとし、当該標準偏差の逆数を重みとする初期のパターン認識用辞書を作成しておき、学習パターンを反復的に与えながら誤認識が少なくなるように重みの移動を行ってパターン認識用辞書の更新を行うことを特徴とする。

【００１２】本発明の（２）の手段は、前記（１）の手段のパターン認識用辞書作成法において、誤認識を起こしたパターンについては、前記パターン認識用辞書の更新方法として、前記参照パターンからの相互作用を仮定し、その相互作用が小さくなるように重みを変更し、識別関数によって作られる識別超平面が相互作用の平衡点となったときにその重みを正解として収束させる方法を用いることを特徴とする。

【００１３】つまり、． まず、カテゴリごとにいくつかのパターンの相加平均である参照パターンと標準偏差の逆数である重みを作成し、これらを初期辞書として登録し、． 次に、学習パターンの誤認識に着目して、学習パターンと参照パターンの距離に反比例する形の相互作用を仮定し、相互作用が減少する方向に重みを変更し、． 分布からの相互作用の平衡点を求めることにより、線形分離可能性が満たされなくても最適な値で重みの学習を終了させることを特徴とする。

【００１４】

【作用】前述の手段によれば、標準偏差の逆数を重みとするパターン認識用辞書を初期辞書として用いることにより、ガウス（Ｇａｕｓｓ）分布に従ったパターン集合に対しては最適値が保証され、誤認識パターンに着目して、参照パターンからの相互作用が減少する方向に重みを変更することにより、ガウス分布から逸脱したパターン分布に対しても、より正確な識別境界を求めることができる。

【００１５】さらに、相互作用の平衡点を学習の終了条件とすることが、実際に分離できない領域を無理に救済しようとして、パターン認識用辞書作成装置が学習パターンに過度に特別化した辞書を作ってしまうことを防止するように働くので、比較的少ない処理量、単純なアルゴリズムで高い認識率を有するパターン認識用辞書を作成することができる。

【００１６】

【実施例】以下、本発明の実施例を図面を参照して詳細に説明する。

【００１７】図１は、本発明のパターン認識用辞書作成法を実施するパターン認識用辞書作成装置の一実施例の機能構成を示すブロック図であり、１は初期辞書作成部、２は学習パターン選択部、３はパターン認識部、４
は重み修正判定部、５は重み修正実行部、６は終了判定部である。

【００１８】前記初期辞書作成部１は、カテゴリごとに相加平均として参照パターンを求め、標準偏差の逆数として重みを求める。 これを初期の認識用辞書とする。 学習パターン選択部２は、認識用辞書を学習するためのパターンを１個選択し、パターン認識部３において選択したパターンの認識を行う。

【００１９】重み修正判定部４は、選択したパターンの認識結果により重みを変化させるかどうかの判定を行い、条件を満たしたものについては、重み修正実行部５
において当該辞書の重みの変更を実行する。 また、重み修正実行部５においては、学習パターンと参照パターンとの間に働く相互作用の強さを計算し相互作用が全体に小さくなるように重みを変更する。

【００２０】終了判定部６は、重みと参照パターンによって作られる識別境界面がパターン集合間の相互作用の平衡点に達したか、もしくは学習パターンの誤読がなくなったかの判定を行い、条件をみたした場合には認識用辞書の学習を終了し、その時点での認識用辞書を登録する。 なお、収束が遅すぎると判断された場合には学習回数があらかじめ決定された回数に到達した時点で学習を終了する。

【００２１】認識用辞書の重みを最適化するために仮定する相互作用としてはいくつか考えられるが、ここでは、ガウス（Ｇａｕｓｓ）の法則を満たすような相互作用を用いた実施例を説明する。

【００２２】ガウスの法則は、空間の幾何学的特徴のみから必然的に導入される力で自然現象においては電場、
重力場などの相互作用として普遍的に存在する。

【００２３】また、識別の観点からは、． 距離が大きくなれば相互作用の大きさが小さくなる、． 次元数が大きくなると相互作用が小さくなる、という２点で我々の直感に合っている。

【００２４】一般のＮ次元特徴空間においては、ガウスの法則は、

【００２５】

【数１】

【００２６】と書くことができる。 ここで、Ｅ _i ”（以下、”は文字の上付き矢印→を示し、ベクトルを意味する）は相互作用の強さ、ｓ”は面積要素、ｆ _i （ｘ”）
は分布の確率密度関数、ｒは分布の中心からの距離、
ｘ”は相互作用を受けるパターンの座標、ρは相互作用の強度を決めるパラメータ、ｖは特徴空間の体積要素である。

【００２７】ここでは、２カテゴリ問題に限定して考える、二つの分布に関していえば、その及ぼす力の平衡点が分布をうまく二つに分けてくれるのではないかと期待することができる。 すなわち、

【００２８】

【数２】

【００２９】であるから、

【００３０】

【数３】

【００３１】を平衡点の条件とすることができる。 ここで、二つのカテゴリの分布関数の形が同じであると仮定すると、式（３）は

【００３２】

【数４】

【００３３】となる。 これは、ベイズ（Ｂａｙｓ）最尤推定の条件に他ならない。 つまり、少なくとも２カテゴリ問題においては、二つのパターンからのガウス（Ｇａ
ｕｓｓ）の法則を満たす相互作用の平衡点を求めることはベイズ（Ｂａｙｓ）推定と等価であることが分かる。
前記式（２），式（３），式（４）中において、「′」
は別の分布もしくは別の場を意味する。

【００３４】実際の重みの移動に当っては、前記式（１）で与えられる相互作用を微分することによって得られる相互作用を減少させるような方向にパターンが動くような方程式を求め、この解と同じ座標を与えるような重みを計算することにより、学習パターンが誤認識されないように辞書を更新する。

【００３５】前記条件の下で、本発明のパターン認識用辞書作成法の一実施例の動作フローを図２に示し、そのアルゴリズムを以下に説明する。

【００３６】まず、カテゴリごとにいくつかのパターンの相加平均である参照パターンと標準偏差の逆数である重みベクトルを１個ずつもった認識用辞書Ｍ０を作成し（ステップ２０１）、これを初期の認識用辞書Ｍとして登録する（ステップ２０２）。 次に、学習パターンを１
個選び（ステップ２０３）、このパターンを認識用辞書Ｍを用いて認識する（ステップ２０４）。 続いて認識結果が誤読か正読かを判定し（ステップ２０５）、正読であった場合は、終了判定部６に送られ、前記ステップ２
０３に戻る。 正しく認識できなかった場合には、すべての参照パターンと重みの各々に対して以下の処理を行う。

【００３７】まず、正解カテゴリ側の参照パターンに対しては、学習パターンと相互作用が負の値を取るような相互作用と各特徴軸毎の微分値を計算し、学習パターンが正解参照パターンに対してどれだけ移動するかを算出し（ステップ２０６）、その移動後座標と同じ値の相互作用を学習パターンが感じるように重みを修正する（ステップ２０７）。 誤読側の重みに対しては、学習パターンとの相互作用が正の値を取るような相互作用と各特徴軸毎の微分値を計算し、学習パターンが誤読参照パターンに対してどれだけ移動するかを算出し、その移動後座標と同じ値の相互作用を学習パターンが感じるように重みを修正する（ステップ２０７）。

【００３８】以上の処理を行った後、学習パターンの誤読がなくなったか識別超平面が相互作用の平衡に達したか、もしくは設定した学習回数に達したかの終了判定（ステップ２０８）を行い、条件を満たせば学習を終了し、その時点での認識辞書を登録して処理を終了する。

【００３９】以上、本発明を実施例に基づき具体的に説明したが、本発明は、前記実施例に限定されるものではなく、その要旨を逸脱しない範囲において種々変更し得ることはいうまでもない。

【００４０】

【発明の効果】以上、説明したように、本発明によれば、入力したパターンがパターン空間上でどの参照パターンと近いかによってカテゴリを認識するパターン認識方式において、参照パターンと認識対象パターンの位置関係を補正する重みの最適化を行うことによって認識率の高い認識辞書を作成することができる。

【００４１】また、パターン同士の仮定した相互作用の平衡点を評価することにより、学習は必ず成功させることができるので、従来の逐次学習的手法のように、線形分離性の評価を学習そのものによって行うといった循環論法的な危険を排除でき、効率のよい確実な辞書作成を行うことができる。

【図面の簡単な説明】

【図１】 本発明のパターン認識用辞書作成法を実施するパターン認識用辞書作成装置の一実施例の機能構成を示すブロック図、

【図２】 本実施例のパターン認識用辞書作成装置で実行されるアルゴリズムの流れ図。

【符号の説明】

１…初期辞書作成部、２…学習パターン選択部、３…パターン認識部、４…重み修正判定部、５…重修正実行部、６…終了判定部。