【発明の詳細な説明】

【０００１】

【産業上の利用分野】音声認識等のパターン認識に適用可能な新しいＨＭＭ(Hidden Markov Model、隠れマルコフモデル）、そのパラメータの推定方法、該ＨＭＭを用いたパターンの認識方法、及び装置に関する。

【０００２】

【従来の技術】本発明は一般の時系列信号に適用可能なものであるが、説明の便宜のために、以下、音声認識を例に説明する。

【０００３】先ずＨＭＭを用いた音声認識装置について説明する。 （図２）は、ＨＭＭを用いた音声認識装置のブロック図である。 ２０１は音声分析部であって、入力音声信号をフィルタバンク、フーリエ変換、ＬＰＣ分析等の周知の方法により、一定時間間隔（フレームと呼ぶ）例えば１０msec毎に特徴ベクトルに変換する。 従って、入力音声信号は特徴ベクトルの系列 Ｙ＝(ｙ(１)，
ｙ(２),・・・,ｙ(Ｔ))に変換される。 Ｔはフレーム数である。 ２０２はコードブックと呼ばれるもので、ラベル付けされた代表ベクトルを保持している。 ２０３はベクトル量子化部であって、前記ベクトル系列Ｙのそれぞれのベクトルをそれに最も近い前記コードブックに登録されている代表ベクトルに対応するラベルに置き換えるものである。 ２０４はＨＭＭ作成部であって、訓練データから認識語彙たる各単語に対応するＨＭＭを作成するものである。 即ち、単語ｗに対応するＨＭＭを作るには、先ず、ＨＭＭの構造（状態数やそれら状態の間に許される遷移規則）を適当に定め、然る後に前記の如くして単語ｗを多数回発声して得られたラベル系列から、それらラベル系列の発生確率が出来るだけ高くなるように、前記モデルにおける状態遷移確率や状態の遷移に伴って発生するラベルの発生確率を求めるものである。 ２０５はＨ
ＭＭ記憶部であって、このようにして得られたＨＭＭを各単語毎に記憶するものである。 ２０６は尤度計算部であって、認識すべき未知入力音声のラベル系列に対し、
前記ＨＭＭ記憶部２０５に記憶されているそれぞれのモデルの前記ラベル系列に対する尤度を計算するものである。 ２０７は比較判定部であって尤度計算部２０６で得られた前記それぞれのモデルの尤度の最大値を与えるモデルに対応する単語を認識結果として判定するものである。

【０００４】（図３）は離散確率分布型ＨＭＭの一例である。 状態ｑ _iから状態ｑ _jへの遷移確率ａ _ijと、状態ｑ
_iにおけるラベルＣ _mの発生確率ｂ _i (Ｃ _m )が定義されている。 観測されたラベル系列の、このＨＭＭから発生する確率は、Forward-Backward法やViterbi法により求められる。

【０００５】ＨＭＭによる認識は具体的には次のようにして行われる。 即ち、未知入力に対して得られたラベル系列をＯ＝(ｏ(１),ｏ(２),・・・,ｏ(Ｔ))、単語ｗに対応したモデルをλ ^wとし、モデルλ ^wにより発生される長さＴの任意の状態系列をＸ＝(ｘ(１),ｘ(２),・・・,ｘ(Ｔ))
とするとき、λ ^wのラベル系列Ｏに対する尤度は 〔厳密解〕

【０００６】

【数１】

【０００７】〔近似解〕

【０００８】

【数２】

【０００９】または、対数をとって

【００１０】

【数３】

【００１１】等で定義される。 ここで、Ｐ(ｘ,ｙ|λ ^w )
は、モデルλ ^wにおけるｘ,ｙの同時確率である。

【００１２】従って、例えば、（数１）を用いれば

【００１３】

【数４】

【００１４】とするとき、ｗ^が認識結果となる。 （数２），（数３）を用いるときも同様である。

【００１５】Ｐ(Ｏ,Ｘ|λ) は次のようにして求められる。 いま、ＨＭＭλの状態ｑ _i (ｉ＝１〜Ｉ)毎に、ラベルｏの発生確率ｂ _i (ｏ)と状態ｑ _i (ｉ＝１〜Ｉ)から状態ｑ _j (ｊ＝１〜Ｉ＋１)への遷移確率ａ _ijが与えられているとき、状態系列Ｘ＝(ｘ(１),ｘ(２),・・・,ｘ(Ｔ＋１))
とラベル系列Ｏ＝(ｏ(１),ｏ(２),・・・,ｏ(Ｔ))のＨＭＭ
λから発生する同時確率は

【００１６】

【数５】

【００１７】と定義出来る。 ここでπ _x(1)は状態ｘ(１)
の初期確率である。 また、ｘ(Ｔ＋１)＝Ｉ＋１は最終状態であって、如何なるラベルも発生しないとする。

【００１８】この例では入力の特徴ベクトルｙ(ｔ)をラベルｏ(ｔ)に変換したが、各状態におけるラベルの発生確率の代りに特徴ベクトルｙ(ｔ)をそのまま用い、各状態において特徴ベクトルｙ(ｔ)の確率密度関数を与える方法もある。 このときは（数５）における前記ラベルｏ
(ｔ)の状態ｑ _iにおける発生確率ｂ _i (ｏ(ｔ)) の代わりに特徴ベクトルｙ(ｔ)の確率密度ｂ _i (ｙ(ｔ))を用いることになる（以後、ｚがラベルのときはｂ _i (ｚ)はｚが状態ｉにおいて生じる確率、ｚがベクトルのときはｂ
_i (ｚ)は状態ｉにおけるｚの確率密度を意味するものとする）。 このときは、前記（数１）（数２）（数３）は次のようになる。 〔厳密解〕

【００１９】

【数６】

【００２０】〔近似解〕

【００２１】

【数７】

【００２２】または、対数をとれば次式が得られる。

【００２３】

【数８】

【００２４】以上、何れの方式を用いるにしても最終的な認識結果は、それぞれの単語ｗに対してＨＭＭλ ^wをｗ＝１〜Ｗ について準備しておけば、入力音声信号Ｙ
に対して最大の尤度を与えるλ ^wに対応するｗが認識結果となる。

【００２５】

【発明が解決しようとする課題】前記従来例において、
入力特徴ベクトルをラベルに変換するものを離散確率分布ＨＭＭ、入力特徴ベクトルをそのまま用いるものを連続確率分布ＨＭＭと呼ぶことにする。 このとき、これら両者の特徴は次のようである。

【００２６】離散確率分布ＨＭＭは、入力ラベル系列に対するモデルの尤度の計算において、各状態でのラベルＣ _m （ｍ＝１,・・・,Ｍ）の発生確率ｂ _i (Ｃ _m )はラベルに関連して予め記憶されている記憶装置から読み出すことで実行できるから計算量が非常に少ないと言う利点がある反面、量子化に伴う誤差のため、認識精度が悪くなると言う欠点がある。 これを避けるためにラベル数（クラスタ数）Ｍを多くする必要があるが、その増加に伴ってモデルを学習するために必要な学習パターン数が膨大になる。 学習パターン数が不十分な場合は、前記ｂ _i (Ｃ _m )が頻繁に０になることがあり、正しい推定が出来なくなる。 例えば、次のようなことが生じる。

【００２７】コードブックの作成は、認識すべき全ての単語について多数の話者の発声音声を特徴ベクトル系列に変換し、この特徴ベクトルの集合をクラスタリングし、それぞれのクラスタにラベリングすることによって行われる。 それぞれのクラスタは、セントロイドと呼ばれるそのクラスタの代表ベクトルを持ち、通常これは各々のクラスタに分類されたベクトルの期待値である。 コードブックは、これらセントロイドを前記ラベルで検索可能な形で記憶したものである。

【００２８】いま、前記認識語彙の中に、例えば「大阪」と言う単語があって、これに対応するモデルを作る場合を考える。 多数話者が発声した単語「大阪」に対応する音声サンプルが特徴ベクトル列に変換され、各々の特徴ベクトルが前記セントロイドと比較され、最近隣のセントロイドがその特徴ベクトルの量子化されたものとなり、それに対応するラベルがその特徴ベクトルの符号化出力となる。 このようにして、前記「大阪」に対する各々の音声サンプルは、ラベル系列に変換される。 得られたラベル系列から、それらラベル系列に対する尤度が最大になるようにＨＭＭのパラメータを推定することにより、単語「大阪」に対応するモデルが出来上がる。 この推定には周知のBaum-Welch法等が用いられ得る。

【００２９】この場合、前記コードブックにあるラベルの中には、単語「大阪」に対応する学習ラベル系列の中には含まれていないラベルが有り得る。 このような場合は、この含まれていないラベルの発生確率は「大阪」に対応するモデルにおいては学習の過程で“０”と推定されてしまう。 従って、認識の時に発声される「大阪」と言う単語が変換されたラベル系列の中に、たまたま前記「大阪」のモデルの作成に用いたラベル系列には含まれていないラベルが存在することは十分有り得ることであり、その場合は、この認識時に発声された「大阪」のラベル系列が前記「大阪」のモデルから発生する確率は“０”になってしまう。 ところが、このような場合でも、ラベルとしては異なっていても、ラベルに変換される前の特徴ベクトルの段階ではモデルの学習に用いた音声サンプルとかなり近く、ベクトルの段階で見れば十分「大阪」と認識されても良い場合がある。 もともと同じ単語を発声しているのであるからベクトルのレベルでは似通っているにも関わらず、ラベルのレベルでは僅かの差で全く異なったラベルに変換されてしまうということは十分起こり得るのであって、このようなことが認識精度に悪影響を及ぼすことは容易に想像がつく。 クラスタ数Ｍが増加する程、訓練データ数が少ない程このような問題は頻繁に生じることになる。

【００３０】この欠点を除去するためには、訓練集合には現れてこない（含まれていない）ラベルに対して、平滑化や補完を行う等の工夫が必要となる。 「結び」と呼ばれる概念を用いてパラメータ数を減少させる工夫をはじめとして、０確率が推定される場合はそれを０にせずに微小量に置き換えたり、ファジイベクトル量子化等のようにクラスタの境界をぼかしたりする方法等、平滑化や補完を行う方法が種々提案されている。 中でもファジィベクトル量子化に基づくＨＭＭは、ヒューリスティックな要素が少なく、理論的にもすっきりしていて、アルゴリズミックに実現できる方法であるが、従来提案されているものは数学的な意味で近似的なものであった。

【００３１】

【課題を解決するための手段】訓練ベクトル集合をクラスタリングして得られた各クラスタの発生確率を記憶するクラスタ発生確率記憶手段と、入力ベクトルの前記各クラスタに対する帰属度ベクトルを算出する帰属度ベクトル算出手段と、前記各クラスタ発生確率の対数値の、
前記入力ベクトルに対する前記帰属度による、荷重和を算出する荷重和算出手段とを備え、該荷重和を前記入力ベクトルの発生確率の対数値とすることを特徴とする構成である。

【００３２】

【作用】クラスタ発生確率記憶手段により訓練ベクトル集合をクラスタリングして得られた各クラスタの発生確率を記憶し、帰属度ベクトル算出手段により入力ベクトルの前記各クラスタに対する帰属度ベクトルを算出し、
荷重和算出手段により前記各クラスタ発生確率の対数値の、前記入力ベクトルに対する前記帰属度による荷重和を算出し、該荷重和を前記入力ベクトルの発生確率の対数値とするものである。

【００３３】

【実施例】ここで、以後用いるべき記号の定義をまとめておく。 簡単のために、誤解を生じない限り、状態ｑ _i ，ｑ _j等は単にｉ，ｊ等と表記することにする。 また、モデルの学習は１つの単語について行う場合を述べることとし、モデル間で区別する必要のある場合は、モデルに対応する番号をパラメータの右肩に添字として付加することとし、通常はこれを省くものとする。

【００３４】ｉ＝１,２,・・・,Ｉ＋１：第ｉ番の状態 [ａ _ij ]：遷移マトリクス ａ _ij ：状態ｉから状態ｊへの遷移確率 ｒ：作成すべきモデルに対する訓練パターン番号(ｒ＝
１,・・・,Ｒ) ｙ ^(r) (ｔ)：訓練パターンｒの第ｔフレームにおける観測ベクトル ｏ ^(r) (ｔ)：訓練パターンｒの第ｔフレームにおける観測ラベル ｂ _i (ｙ ^(r) (ｔ))：訓練パターンｒのフレームｔの観測ベクトルｙ ^(r) (ｔ)の状態ｉにおける確率密度 Ｙ ^(r) ＝(ｙ ^(r) (１),ｙ ^(r) (２),・・・,ｙ ^(r) (Ｔ ^(r) ))：訓練パターンｒのベクトル系列(ただし、ｒ＝１,２,・・・,
Ｒ) Ｏ ^(r) ＝(ｏ ^(r) (１),ｏ ^(r) (２),・・・,ｏ ^(r) (Ｔ ^(r) ))：訓練パターンｒのラベル系列(ただし、ｒ＝１,２,・・・,Ｒ) Ｘ ^(r) ＝(ｘ ^(r) (１),ｘ ^(r) (２),・・・,ｘ ^(r) (Ｔ ^(r) ),ｘ ^(r)
(Ｔ ^(r) ＋１))：X ^(r)またはＯ ^(r)に対応する状態系列 ｘ ^(r) (ｔ)：単語ｗに対する第ｒ番の訓練パターンの第ｔフレームにおける状態 Ｔ ^(r) ：単語ｗに対する第ｒ番の訓練パターンのフレーム数 λ _i ＝［{ａ _ij } _{j=1,・・・,I+1} ，{ｂ _i (Ｃ _m )} _{m=1,・・・,M} ]：状態ｉのパラメータの集合 Ｓ _m ：第ｍクラスターに含まれるベクトル集合 Ｃ _m ：第ｍ番のクラスター名（ラベル） ｃ _m ：Ｃ _m従ってＳ _mのセントロイド（Ｓ _mの重心ベクトル） ｂ _i (Ｃ _m )：訓練パターンｒのフレームｔの観測ラベルＣ
_mの状態ｉにおける発生確率 λ＝{λ _i }：全パラメータの集合(λをパラメータとするモデルをモデルλとも呼ぶ) Ｐ(Ｙ|λ)：観測ベクトル系列Ｙがモデルλから発生する確率密度 Ｐ(Ｏ|λ)：観測ラベル系列Ｏがモデルλから発生する確率 π _i ：状態ｉがｔ＝１で生じる確率 先ず、離散確率分布ＨＭＭを学習する方法について述べる。

【００３５】離散確率分布ＨＭＭでは、ベクトル系列からなる訓練パターンを構成する各ベクトルはベクトル量子化（Ｖector Ｑuantize）され、ラベル系列に変換されるそこで、先ず、ＶＱについて簡単に説明する。

【００３６】（１）コードブックの作成 取り扱うべき信号の多数の訓練集合から特徴抽出を行い、特徴ベクトル集合を得（前記訓練パターンを構成するベクトル等）、この特徴ベクトル集合をクラスタリングし、Ｍ個のクラスタＳ ₁ ,・・・,Ｓ _Mと各々のクラスタの重心ベクトル（セントロイド）ｃ ₁ ,・・・,ｃ _Mを得、ｍ＝
１,・・・,Ｍについて、ｍにより参照可能な形でｃ _mを記憶する。 これをコードブックという。

【００３７】（２）ベクトル量子化・符号化 符号化すべきベクトルｙをベクトルｃ ₁ ,・・・,ｃ _Mの何れかで近似することをベクトル量子化と言い、ｙがｃ _mに量子化されたとき、ｙをラベルＣ _mに置き換えることをｙをＣ _mに符号化すると言う。 ベクトル系列ｙ(１),・・・,
ｙ(Ｔ)は通常次のような方法でラベル系列ｏ(１),・・・,
ｏ(Ｔ)に変換される。

【００３８】符号化すべき信号から（１）で行ったのと同様の方法により特徴抽出を行い、特徴ベクトル列ｙ
(１),ｙ(２),・・・,ｙ(Ｔ)を得たとする。 ｙ(ｔ)とｃ _mとの距離をｄ(ｙ(ｔ),ｃ _m )とするとき、

【００３９】

【数９】

【００４０】をｙ(ｔ)の符号化出力であるとする（ｏ
(ｔ)∈｛１,２,・・・,Ｍ｝）。 ｄ(ｙ(ｔ),ｃ _m )としては、
ユークリッドノルム等が用いられる。

【００４１】前記クラスタリングには、フルサーチクラスタリング、バイナリーツリークラスタリング等の方法があり、それぞれについて種々の方法が考えられている。 例えば、フルサーチクラスタリングの一つとして、
次のようにして行うものがある。 訓練ベクトル集合をｖ ₁ ,ｖ ₂ ,・・・,ｖ _Nとする。

【００４２】（１）任意にＭ個のベクトルｃ ₁ ,・・・,ｃ _M
を定める。 （２）ｍ＝１,・・・,Ｍについて

【００４３】

【数１０】

【００４４】を計算する。 （３）ｍ＝１,・・・,Ｍについて、クラスタＳ _mのセントロイドを求め、各々を各クラスタの新たなセントロイドとしてｃ _mを更新する。 即ち、

【００４５】

【数１１】

【００４６】ただし、本式において、|Ｓ _m |はＳ _mの要素数を意味するものとする。 （４）収束条件を検査し、それが満たされていれば完了し、満たされていない場合はステップ（２）に戻る。

【００４７】収束条件としては、ａ）歪の減少率がそれに関して設けた閾値ε以下になった場合、ｂ）ステップ（２）〜（４）の繰り返しの回数がそれに関して設けた制限Ｉに到達した場合等が採用される。 ａ）については例えば次のように実行され得る。 即ち、ステップ（２）
〜ステップ（４）の第ｉ番の繰り返しにおいて得られる歪量

【００４８】

【数１２】

【００４９】を定義し、予め定めた小さな数εに対して ε＞｜Ｄ(ｉ−１)−Ｄ(ｉ)｜／Ｄ(ｉ) となれば、収束したと見なす等である。

【００５０】以上説明したクラスタリングは、後に説明するファジィクラスタリングがソフトクラスタリングと呼ばれるのに対してハードクラスタリングと呼ばれることがある。

【００５１】離散ＨＭＭ作成の問題は、ある認識単位（単語等）に対し、準備されたｒ＝１〜Ｒの訓練パターンから尤度関数Ｐ(Ｏ ⁽¹⁾ ,Ｏ ⁽²⁾ ,・・・,Ｏ ^(R) |λ)を最大にする前記ＨＭＭを規定するパラメータλを推定することである。

【００５２】Ｏ ^(r)が互いに独立であるとすれば、前記尤度関数は

【００５３】

【数１３】

【００５４】で与えられる。 ここで、次の補助関数Ｑ
(λ,λ')を定義する。

【００５５】

【数１４】

【００５６】このとき、次のことが言える。 「Ｑ(λ,
λ')≧Ｑ(λ,λ)なら、Ｐ(Ｏ ⁽¹⁾ ,…,Ｏ ^(R) |λ')≧Ｐ(Ｏ
⁽¹⁾ ,…,Ｏ ^(R) |λ)であって、等号はλ'＝λの時に成り立つ。 」故に、

【００５７】

【数１５】

【００５８】を求めることが出来れば、λ ^* →λとして（数１５）を繰り返し適用することによって、λはＰ
(Ｏ ⁽¹⁾ ,…,Ｏ ^(R) |λ)の停留点、即ち、Ｐ(Ｏ ⁽¹⁾ ,…,Ｏ
^(R) |λ)の極大値または鞍点を与える点に収束することになる。 Ｐ(Ｏ ⁽¹⁾ ,…,Ｏ ^(R) |λ)の変化率が予め定めた閾値以下になるまでこの操作を繰り返すことにより局所最適解が得られる。

【００５９】このＱ(λ,λ')を用いてパラメータを推定する方法について説明する。 （数１４）を変形すれば、
次式が得られる。

【００６０】

【数１６】

【００６１】前述の説明から、Ｑ(λ,λ')をλ'の関数と見なしてＱ(λ,λ')＞Ｑ(λ,λ)なるλ'を見出せば、
それはλの更新されたものとなるが、Ｐ(Ｏ ⁽¹⁾ ,・・・,Ｏ
^(R) |λ)はλ'に関しては一定値となるから、これを取り除いて

【００６２】

【数１７】

【００６３】とするとき、前記求むべきλ'を見出すことはＱ'(λ,λ')＞Ｑ'(λ,λ)なるλを見出すことと同様である。

【００６４】ここで

【００６５】

【数１８】

【００６６】

【数１９】

【００６７】ここで、δ(ｉ,ｊ)はいわゆるクロネッカーのデルタで、ｉ＝ｊのときδ(ｉ,ｊ)＝１、ｉ≠ｊのときδ(ｉ,ｊ)＝０である。 各パラメータの再推定値はL
agrangeの未定乗数法によって導かれる。

【００６８】右辺第１項からπ _i 'について

【００６９】

【数２０】

【００７０】の条件のもとで最大化すればπ _iの再推定値π _i ^*は

【００７１】

【数２１】

【００７２】右辺第２項からａ _ij 'について

【００７３】

【数２２】

【００７４】なる条件のもとで最大化すればａ _ijの再推定値ａ _ij ^*は

【００７５】

【数２３】

【００７６】右辺第３項からｂ _i (Ｃ _m )'について

【００７７】

【数２４】

【００７８】の条件のもとに最大化すれば、ｂ _i (Ｃ _m )の再推定値ｂ _i (Ｃ _m ) ^*は

【００７９】

【数２５】

【００８０】ここで、ξ ^(r) _ij (ｔ)，γ ^(r) _i (ｔ)は次のように計算される。 即ち、

【００８１】

【数２６】

【００８２】とおけば、

【００８３】

【数２７】

【００８４】であって、

【００８５】

【数２８】

【００８６】

【数２９】

【００８７】なる漸化式が成り立つから、α ^(r) ₁ (０)＝
１としてパラメータλに適当な初期値を与え、ｔ＝１〜
Ｔ ^(r) ＋１，ｊ＝１〜Ｉ＋１について（数２８）に従ってα ^(r) _j (ｔ)を、β ^(r) _I+1 (Ｔ ^(r) ＋１)＝１としてｔ＝
Ｔ ^(r) ＋１〜１、ｉ＝Ｉ〜１について（数２９）に従ってβ ^(r) _i (ｔ)をそれぞれ順次計算して行けば、（数２
７）が計算できる。

【００８８】パラメータ推定の実際の計算手順は次のようになる。 （１）Ｌ ₁ ＝∞ （２）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝１〜Ｍについて λ _i ＝［{π _i } _{i=1,・・・,I} ，{a _ij } _{j=1,・・・,I+1} ，{ｂ
_i (Ｃ _m )} _{m=1,・・・,M} ］ に適当な初期値を与える。

【００８９】（３）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ ^(r) , ｉ＝
１〜Ｉ，ｊ＝１〜Ｉ＋１について （数２８）（数２９）に従ってα ^(r) _i (ｔ)，β ^(r) _i (ｔ)
を（数２７）に従ってξ ^(r) _ij (ｔ)，γ ^(r) _i (ｔ)を求める。

【００９０】（４）Ｉ＝１〜Ｉについて （数２１）に従ってπ _iの再推定値π _i ^*を求める。

【００９１】（５）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１について （数２３）に従ってａ _ijの再推定値ａ _ij ^*を求める。

【００９２】（６）ｉ＝１〜Ｉ，ｍ＝１〜Ｍについて （数２５）に従ってｂ _i (Ｃ _m )の再推定値ｂ _i (Ｃ _m ) ^*を求める。

【００９３】（７）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝
１〜Ｍについて π _i ＝π _i ^* ，ａ _ij ＝ａ _ij ^* , ｂ _i (Ｃ _m )＝ｂ _i (Ｃ _m ) ^*なる代入を行うことによって、再推定されたパラメータ集合λ
＝{λ _i }を得る。

【００９４】（８）step（７）で得たパラメータ集合λ
に対して

【００９５】

【数３０】

【００９６】を計算する。 （９）|Ｌ ₁ −Ｌ ₂ |／Ｌ ₁ ＞εならば、Ｌ ₂ ＝Ｌ ₁とおいてステップ（４）へ、そうでなければ終了。

【００９７】前記ステップ（９）におけるεは収束の幅を決める適当に小さな正の数であって、その値は状況によって実用的な値が選ばれる。

【００９８】以上のようにして、離散確率分布ＨＭＭが得られるが、前述のごとき欠点を有している。 次に、前記離散確率分布ＨＭＭを基にしてファジィクラスタリング（ファジィベクトル量子化）によるＨＭＭ（ＦＶＱＨ
ＭＭ）を説明する。

【００９９】先ず、ファジィクラスタリングについて説明する。 表記の簡単のために、学習に用いる全ての単語音声を構成するベクトルについて通し番号をつけ、ｙ ₁ ,
・・・,ｙ _Nとし、ｙ _nのクラスタＳ _mへの帰属度（メンバシップ値）をｕ _mnとする。 通常のクラスタリング法では、
あるベクトルｙ _nがクラスタＳ _mに属している（ｕ _mn ＝
１）か、属していないか（ｕ _mn ＝０）だけを認めるのに対して、ファジィクラスタリング法では、ｙ _nがいくつかのクラスタに異なる度合で帰属することを認めると言うものである。

【０１００】具体的な方法の１つに、各クラスタＳ _mのセントロイド（中心ベクトル、平均ベクトル）をｃ
_m （ｍ＝1,・・・,Ｍ)とし、ｙ _nとセントロイドｃ _mの非類似度をｄ _mn ＝ｄ(ｙ _n ,ｃ _m )とするとき、

【０１０１】

【数３１】

【０１０２】を最小にするｕ _mnとｃ _mを見出すものがある。 目的関数Ｊをｃ _mとｕ _mnに関して偏微分し、条件

【０１０３】

【数３２】

【０１０４】を用いれば、Ｊを局所的に最小化するための必要条件が次の（数３０）（数３１）のように示される。

【０１０５】

【数３３】

【０１０６】

【数３４】

【０１０７】ここで、Ｆはいわゆるファジィネスを表し、１＜Ｆである。 Ｆ→∞のときは、ｍ＝１,・・・,Ｍについて、ｕ _mn →１／Ｍになり、Ｆ→１のときは、

【０１０８】

【数３５】

【０１０９】であるから、

【０１１０】

【数３６】

【０１１１】となる。 即ち、Ｆが増加するにつれてｙ _n
が何れのクラスタに属するかと言うことの曖昧性が増大し、Ｆが１に近づくにつれて、ｙ _nの属するクラスタを一意に決定するいわゆるハードクラスタリングに近づく。

【０１１２】ファジィクラスタリングの実際の手順は次のようになる。 （１）訓練ベクトル集合を適当にＳ ₁ ,・・・,Ｓ _Mに分割し、初期クラスタとする。

【０１１３】ｕ _mnを適当に初期化する。 （２）各クラスタの平均ベクトルｃ _mを（数３０）に従って求める。

【０１１４】（３）ｙ _n ≠ｃ _mのとき、（数３１）によってステップ（２）の結果を用いてｕ _mnを更新する。 ｙ _n
＝ｃ _mのときは、ｍ＝ｎのときｕ _mn ＝１，ｍ≠ｎのときｕ _mn ＝０とおく。

【０１１５】（４）収束条件を満足すれば処理を終了、
そうでなければステップ（２）へ戻る。

【０１１６】ステップ（４）における収束条件としては、上記繰り返し計算において、繰り返し回数をｋとして更新される前のＪをＪ(ｋ)、更新された後のＪをＪ
(ｋ＋１)とするとき、|Ｊ(ｋ)−Ｊ(ｋ＋１)|／Ｊ(ｋ＋
１)が予め定めた収束判定値ε以下になった場合、あるいは、適当に定めた繰り返し回数の上限をＫとしてｋ＝
Ｋとなったときを収束、何れにも達しない場合を非収束とする等が考えられる。

【０１１７】以上の結果を用いてＦＶＱＨＭＭを構成する従来法は次のようなものであった。 即ち、状態ｉにおけるｙ ^(r) (ｔ)の生起確率をω _i (ｙ ^(r) (ｔ))とするとき、

【０１１８】

【数３７】

【０１１９】とおき、（数２７）〜（数２９）におけるｂ _i (ｏ ^(r) (ｔ))をω _i (ｙ ^(r) (ｔ))で置き換え、（数２
５）を

【０１２０】

【数３８】

【０１２１】に置き換えたものである。 この方法の問題点は、結果的に

【０１２２】

【数３９】

【０１２３】という近似を行っていることである。 即ち、後に述べるように（数３７）の定義のもとに（数３
８）を導くには、（数３９）でなければならない。 ところが一般に凸関数の性質から

【０１２４】

【数４０】

【０１２５】であって、等号が成立するのは、（１）はあるｍについてｕ(ｙ ^(r) (ｔ),Ｃ _m )＝１、その他のｍについてはｕ(ｙ ^(r) (ｔ),Ｃ _m )＝０の場合、（２）ｂ
_i (Ｃ _m )がｍに関わらずすべて等しい場合の何れかである。 従って、上の近似が良くなるのは前記Ｆが１に近い、即ち、クラスタリングが前記ハードクラスタリングに近い場合か、クラスタ数が少なくて、ｂ _i (Ｃ _m )の値がｍに関してあまり変動が無い場合に限られる。

【０１２６】本発明は以上の欠点を廃して、数学的に矛盾の無いＦＶＱＨＭＭを提供するものである。 即ち前記ω _i (ｙ ^(r) (ｔ))を次式で定義するものである。

【０１２７】

【数４１】

【０１２８】このようにおけば、（数１９）の右辺第３
項（Ｑ ₃とおく）は、

【０１２９】

【数４２】

【０１３０】の代わりにlog ω _i (ｙ ^(r) (ｔ))を代入したものとなり

【０１３１】

【数４３】

【０１３２】となる。 即ち、（数４１）のように定義することにより、ハードクラスタリングにおけるδ(ｏ ^(r)
(ｔ),Ｃ _m )をｕ(ｙ ^(r) (ｔ),Ｃ _m )に置き代えたことになる。 このとき、前記説明から

【０１３３】

【数４４】

【０１３４】が言えるから、本発明によるファジィクラスタリングは、ハードクラスタリングの自然な拡張となっていることがわかる。

【０１３５】ｂ _i (Ｃ _m )の再推定値はＱ ₃をｂ _i (Ｃ _m )'に関して

【０１３６】

【数４５】

【０１３７】の条件のもとで最大化することにより得られる。 この手順を少し詳しく述べれば次のようになる。

【０１３８】Lagrangeの未定乗数をθとすれば、

【０１３９】

【数４６】

【０１４０】である。 両辺をｂ _i (Ｃ _m )'倍し、ｍについて総和をとる。 ｕ(ｏ ^(r) (ｔ),Ｃ _m )のｍに関する総和は１であるということにに注意すれば、

【０１４１】

【数４７】

【０１４２】となる。 （数４７）を（数４６）に代入して整理すれば、

【０１４３】

【数４８】

【０１４４】が得られる。 これは、（数３８）と同じ形をしているものであるが、（数４１）のようにω _i (ｙ
^(r) (ｔ))を定義することによって導かれるべきものであり、（数３７）の定義からは導くことは出来ない。 この意味で、ω _i (ｙ(ｔ))を（数３７）で定義し、ｂ _i (Ｃ _m )
の再推定値を（数３８）で与えている従来例は（数３
９）の近似を行っていることになる。

【０１４５】本実施例では、観測ベクトルｙ(ｔ)から算出されるクラスタＣ _mに対する荷重係数（帰属度）ｕ(ｙ
^(r) (ｔ),Ｃ _m )はファジィクラスタリングにおけるメンバシップ値として説明したが、例えば、クラスタＣ _mにおけるｙ(ｔ)の条件付確率（密度）や前記メンバシップ値のｎ乗（ｎは整数）等場合に応じて種々の定義が考えられる。 この場合は、一般に、ｕ(ｙ ^(r) (ｔ),Ｃ _m )のｍに関する総和は１ではなく、この条件を考慮しなければ、
（数４８）は（数４９）のようになるのは明かである。

【０１４６】

【数４９】

【０１４７】他のパラメータの推定式は、ハードクラスタリングの場合と同様であって、得られる結果も表記的には（数２１）（数２３）と全く同じである。 但し、
α，βの計算式（数２８）（数２９）が（数５０）のように変更され、（数２７）におけるξの計算式は（数５
１）のように変更される。

【０１４８】

【数５０】

【０１４９】

【数５１】

【０１５０】本発明による１つの単語に対するＨＭＭのパラメータ推定の実際の計算手順は次のようになる。 ただし、全単語に対する訓練パターン集合から、既に、ファジィクラスタリングは行われており、各クラスタＣ ₁ ,
・・・,Ｃ _Mのセントロイドｃ ₁ ,・・・,ｃ _Mは算出済みであるとする。

【０１５１】（１）Ｌ ₁ ＝∞ （２）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝１〜Ｍについて λ _i ＝［{π _i } _{i=1,・・・,I} ，{a _ij } _{j=1,・・・,I+1} ，{ｂ
_i (Ｃ _m )} _{m=1,・・・,M} ］ に適当な初期値を与える。

【０１５２】（３）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ ^(r) ，ｍ＝
１,・・・,Ｍについて ｕ(ｙ ^(r) (ｔ),Ｃ _m ）を求める。

【０１５３】（４）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ ^(r) ，ｉ＝
１〜Ｉ＋１について （数４１）に従ってω _i (ｙ ^(r) (ｔ))を求める。

【０１５４】（５）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ ^r , ｉ＝１
〜Ｉ，ｊ＝１〜Ｉ＋１について α ^(r) _i (ｔ)，β ^(r) _i (ｔ)を（数５０），ξ ^(r) _ij (ｔ)，
γ ^(r) _i (ｔ)を（数５２）に従って計算する。

【０１５５】（６）ｉ＝１〜Ｉについて （数２１）に従ってπ _iの再推定値π _i ^*を求める。

【０１５６】（７）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１について （数２３）に従ってａ _ijの再推定値ａ _ij ^*を求める。

【０１５７】（８）ｉ＝１〜Ｉ，ｍ＝１〜Ｍについて （数４９）に従ってｂ _i (Ｃ _m )の再推定値ｂ _i (Ｃ _m ) ^*を求める。

【０１５８】（９）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝
１〜Ｍについて π _i ＝π _i ^* ，ａ _ij ＝ａ _ij ^* ，ｂ _i (Ｃ _m )＝ｂ _i (Ｃ _m ) ^*なる代入を行うことによって、再推定されたパラメータ集合λ
＝{λ _i }を得る。

【０１５９】（１０）step（９）で得たパラメータ集合λに対して

【０１６０】

【数５２】

【０１６１】を計算する。 （９）|Ｌ ₁ −Ｌ ₂ |／Ｌ ₁ ＞εならば、Ｌ ₂ ＝Ｌ ₁とおいてステップ（４）へ、そうでなければ終了。

【０１６２】（図１）は、本発明のＨＭＭ作成装置の一実施例である。 以下図面に従って説明する。

【０１６３】１０１は特徴抽出部であって、周知の方法によって、単語ｗ（=1,…,Ｗ）に対応するモデル作成のために準備された訓練単語ｒ＝１〜Ｒ ^wの音声信号を特徴ベクトルの系列Ｙ ^w(r) ＝(ｙ ^w(r) (１),ｙ ^w(r) (２),…,
ｙ ^w(r) (Ｔ ^(r) ))に変換するものである。

【０１６４】１０２は単語パターン記憶部であって、モデルλ ^wを作成するための学習用単語を前記特徴ベクトル系列の形でＲ ^w個記憶するものである。

【０１６５】１０３はファジィクラスタリング部であって、訓練ベクトル集合から（数３２）（数３３）に従ってファジィクラスタリングするものである。

【０１６６】１０４はセントロイド記憶部であって、前記ファジィクラスタリングの結果得られた各クラスタのセントロイドが記憶される。 このセントロイドは入力ベクトルの各クラスタに対する帰属度を算出するのに用いられる。

【０１６７】１０５はバッファメモリであって、単語パターン記憶部１０２に記憶されているｗに対する単語パターンをＲ ^w個取り出して一時的に記憶するものである。

【０１６８】１０６はベクトル帰属度算出・記憶部であって、セントロイド記憶部１０４に記憶されているセントロイドからバッファメモリ１０５の出力ベクトルの各クラスタに対する帰属度を（数３６）に従って算出するものである。

【０１６９】１０７はパラメータ推定部であって、前記モデルλ ^wを作成するステップ（１）〜（１０）を実行し、単語ｗに対応するモデルλ ^wを推定するものである。

【０１７０】１０８は第１のパラメータ記憶部であって、前記ステップ（９）で得られたパラメータの再推定値を一次的に記憶するものである。 パラメータ推定部１
０７はこのパラメータ記憶部１０８の値を用いて再推定を行うものである。

【０１７１】１０９は単語ｗ＝１〜Ｗに対応するパラメータを記憶する第２のパラメータ記憶部であって、前記それぞれの単語ｗ＝１,・・・,Ｗに対応するパラメータが、パラメータ記憶部１,・・・,パラメータ記憶部Ｗにそれぞれ記憶される。 即ち、それぞれの単語の各状態に対応する遷移確率は、第１のパラメータ記憶部１０８から読み出され、ｗ,ｉ,ｊで参照可能な形で記憶される。

【０１７２】以上のようにして、ＦＶＱＨＭＭが作成される。 次に、以上のようなモデルを用いて実際の入力音声を認識する方法及び装置について説明する。

【０１７３】（図４）はその認識装置のブロック図である。 以下、本図に従って説明する。 ４０１は特徴抽出部であって、（図１）１０１と全く同様の構成・機能を有するものである。

【０１７４】４０２はセントロイド記憶部であって、
（図１）のＨＭＭ作成装置のセントロイド記憶部に記憶されている各クラスタのセントロイドが記憶されている。

【０１７５】４０３はベクトル帰属度算出部であって、
特徴抽出部４０１の出力の特徴ベクトルｙ(ｔ)とセントロイド記憶部４０３に記憶されている前記それぞれのクラスタの代表ベクトルｃ _m （ｍ＝１,…,Ｍ）から、ｙ
(ｔ)をファジィベクトル量子化するものである。 即ち、
（数３３）からｙ(ｔ)のクラスタＣ _mに対する帰属度ｕ
(ｙ(ｔ),Ｃ _m )（ｍ＝１,・・・,Ｍ）を算出する。 即ち、ｙ
(ｔ)は帰属度ベクトル（ｕ(ｙ(ｔ),Ｃ ₁ ),・・・,ｕ(ｙ
(ｔ),Ｃ _M )) ^Tに変換される。

【０１７６】４０４はパラメータ記憶部であって、（図１）１０９と全く同様の構成・機能を有するものであって、パラメータ記憶部ｗには、単語ｗ（=１,・・・,Ｗ）に対応するモデルのパラメータ、π ^w _i ，ａ ^w _ij ，ｂ ^w _i (Ｃ _m )
が記憶されている。

【０１７７】４０５は尤度計算部であって、ベクトル帰属度算出部４０３の出力に得られる帰属度ベクトル列に対する各モデルの尤度をパラメータ記憶部４０４の内容を用いて計算するものである。 即ち、尤度計算部ｗではパラメータ記憶部ｗの内容が用いられる。 尤度の計算は、モデルλ ^wの状態ｉにおけるｙ(ｔ)の発生度合ω
^w _i (ｙ(ｔ))を（数４１）に準じて

【０１７８】

【数５３】

【０１７９】で与え、（数５）におけるｂ _i (ｏ(ｔ))をω ^w _i (ｙ(ｔ))、ａ _ijをａ ^w _ijとして、（数１）（数２）
（数３）等の何れかを用いて実行される。 （数１）を計算する場合は、（数２６）におけるＹ ^(r)に対する

【０１８０】

【数５４】

【０１８１】の計算と全く同様に、入力パターンＹに対するα ^w _I+1 (Ｔ＋１)を計算することになる。 ＴはＹのフレーム数である。

【０１８２】（数２）（数３）を用いる場合は、周知の
Viterbi法によって尤度を求めることが出来る。 漸化式計算が足し算で済み、演算の途中でアンダーフロー等の生じる心配の無い（数３）を用いる場合が普通であるので、ここでも、（数３）を用いる場合について説明する。

【０１８３】（１）初期値設定 単語ｗの状態ｉの初期確率をπ ^w _iとし、ｉ＝１,・・・,Ｉ
について（数５５）を実行

【０１８４】

【数５５】

【０１８５】（２）漸化式の計算 ｔ＝２,・・・,Ｔ，ｊ＝１,・・・,Ｉについて（数５６）を実行

【０１８６】

【数５６】

【０１８７】ステップ（３）におけるφ ^w _I+1 (Ｔ＋１)がＹに対するモデルｗ（単語ｗ）の尤度である。

【０１８８】４０６は比較判定部であって、尤度計算部４０５に含まれる尤度計算部１,・・・，Ｗの何れの出力が最大であるかを比較判定し、それに対応する単語を認識結果として出力する。 即ち、

【０１８９】

【数５７】

【０１９０】を見出すものであって、これは（数４）に相当する計算である。

【０１９１】

【発明の効果】以上のように、本発明は、学習に用いたパターン集合を形成するベクトルの集合をファジィクラスタリングし、クラスタＣ _mの前記ＨＭＭの状態ｉにおけるクラスタＣ _mの発生確率ｂ _i (Ｃ _m )と、入力ベクトルｙ(ｔ)の各クラスタへの帰属度とからｙ(ｔ)の状態ｉにおける発生確率を算出するものであって、該発生確率の対数値を前記ｂ _i (Ｃ _m )の対数値の前記帰属度の荷重和または荷重平均で表すところに特徴がある。 このようにすることによって、離散型ＨＭＭにおける欠点である訓練データの不足やその偏りによる推定誤差を解消し、離散型ＨＭＭのもつ計算量が少ないというＦＶＱＨＭＭが本来有している利点をもつモデルを、数学的に矛盾の無い形で実現することが可能となった。

【０１９２】なお、本実施例においては、単語を認識するとして述べたが、単語を音韻や音節等に置き換えても勿論よく、また、本発明は音声以外のパターンにも適用出来るものである。

【図面の簡単な説明】

【図１】本発明によるＨＭＭのパラメータ推定を行う装置の一実施例を示すブロック図

【図２】ＨＭＭを用いた音声認識装置の従来例を説明するブロック図

【図３】離散確率分布型ＨＭＭの構成を示すＨＭＭの構成図

【図４】本発明の原理により構成されたＨＭＭを用いた音声認識装置の一実施例を示すブロック図

【符号の説明】

１０１ 特徴抽出部 １０２ 単語パターン記憶部 １０３ ファジィクラスタリング部 １０４ セントロイド記憶部 １０５ バッファメモリ １０６ ベクトル帰属度・算出記憶部 １０７ パラメータ推定部 １０８ パラメータ記憶部 １０９ パラメータ記憶部