【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ＨＭＭ（Hidden Marko
v Models）法を用いて音声認識を行う場合に用いて好適な音声認識装置に関する。

【０００２】

【従来の技術】近年、音声を認識するためのアルゴリズムとして、例えば「確率モデルによる音声認識」（電子情報通信学会）などに記載されているＨＭＭ（Hidden M
arkovModels）法が注目されている。

【０００３】ＨＭＭは観測不可能な（Hidden）基礎統計過程を有する２重統計過程であり、そのモデルは、図６
（ａ）に示すように、いくつかの状態Ｓ ₁ ，Ｓ ₂ ，・・
・，Ｓ _Nと、その状態間の遷移を表すパスから構成され、状態が遷移するときにシンボルを出力（生起）する。

【０００４】なお、音声認識では、図６（ｂ）に示すような自分自身と、次の状態に遷移するパスのみを有するモデルが一般的に使用される。

【０００５】音声認識に通常適用される離散型ＨＭＭでは、音声から生成されたコード列としてのシンボル系列Ｙ＝｛ｙ ₁ ，ｙ ₂ ，・・・，ｙ _T ｝が、各モデルで生起される確率（事後確率）が計算され、その確率が最も大きいモデルが認識結果とされる。

【０００６】即ち、ＨＭＭでは、 Ｎ：モデルの有する状態数 Ｙ（＝｛ｙ ₁ ，ｙ ₂ ，・・・，ｙ _T ｝）：シンボル系列 Ｔ：シンボル系列長 ａ _ij ：状態ｉから状態ｊへ遷移する遷移確率 ｂ _ij （ｋ）：状態ｉから状態ｊへ遷移するときにシンボルｋが生起される生起確率 シンボル数：Ｋ π（＝π ₁ ，π ₂ ，・・・，π _N ）：初期状態が状態ｉである初期状態確率 のようにパラメータを表すとすると、モデルからシンボル系列Ｙは、次のようにして生起される。

【０００７】（Ｓ１）初期状態確率πに基づいて初期状態ｉ _S(INITIAL)を決定 （Ｓ２）遷移確率ａ _ijに基づいて状態のｉからｊへの遷移を決定 （Ｓ３）生起確率ｂ _ij （ｋ）に基づいて、状態がｉからｊに遷移するときに出力（生起）されるシンボルｙ _tを決定 （Ｓ４）ｔ＜Ｔであれば、Ｓ２へ戻る

【０００８】従って、モデルは、 状態数Ｎ シンボル数Ｋ 遷移確率ａ _ij生起確率ｂ _ij （ｋ） 初期状態確率π _iにより特徴づけられることになる。

【０００９】なお、音声認識においては、初期状態または最終状態は、それぞれ１つであるとするのが一般的であり、以下、初期状態（時刻ｔ＝１における状態）を、
ｉ _{S( INITIAL)}だけに限定したモデルを考える。

【００１０】従って、初期状態確率はπi _S(INITIAL)のみ１となり、他はすべて０となる。

【００１１】さらに、最終状態（時刻ｔ＝Ｔにおける状態）も、以下ｉ _S(FINAL)だけに限定したモデルを考える。

【００１２】モデルλがシンボル系列ｙ ₁ ，ｙ ₂ ，・・
・，ｙ _tを出力して状態ｉにいる前方予測確率をα
_i （ｔ）とすると、上述したモデルのシンボルの出力の定義（（Ｓ１）乃至（Ｓ４））から、モデルλがシンボル系列Ｙ＝｛ｙ ₁ ，ｙ ₂ ，・・・，ｙ _T ｝を出力する確率Ｐ（Ｙ｜λ）は、次の漸化式によって計算することができる。

【００１３】

【数１】

【００１４】そして、ＨＭＭ法を用いた音声認識では、
音声から生成されたコード列としてのシンボル系列Ｙ＝
｛ｙ ₁ ，ｙ ₂ ，・・・，ｙ _T ｝に対して、上式から計算される確率Ｐ（Ｙ｜λ）を最大にするモデルλが認識結果とされることになる。

【００１５】次に、シンボル系列Ｙ＝｛ｙ ₁ ，ｙ ₂ ，・・
・，ｙ _T ｝に対して、確率Ｐ（Ｙ｜λ）を最大にするモデルのパラメータとしての遷移確率ａ _ij 、生起確率ｂ _ij
（ｋ）は、以下のようにして求められる。

【００１６】即ち、モデルの学習では、まず、上述したα _i （ｔ）が求められるとともに、時刻ｔにおいて、状態ｉにいて、以後、シンボル系列ｙ _t+1 ，ｙ _t+2 ，・・
・，ｙ _Tを出力する後方予測確率β _i （ｔ）が次式により求められる。

【００１７】

【数２】

【００１８】そして、次式にしたがってモデルのパラメータとしての遷移確率ａ _ij 、生起確率ｂ _ij （ｋ）が更新（学習）される。

【００１９】

【数３】

_ij 、またはｂ

_ij （ｋ）は、更新した遷移確率または生起確率をそれぞれ意味する。 また、上式のｈに関するサメーションは、状態ｉから状態ｈへの遷移が許されている場合にのみとられる。 さらに、ｔ：ｙ

_t ＝ｋに関するサメーションは、時刻ｔにおいて、ｋなるシンボルｙ

_tが生起される場合についてのみとられる。

【００２０】上式にしたがって、遷移確率ａ _ij 、生起確率ｂ _ij （ｋ）が更新（再推定）されることにより、それぞれ局所的に最適な値へ収束する。 即ち、モデルの学習が行われる。

【００２１】なお、上述のようにして遷移確率ａ _ij 、生起確率ｂ _ij （ｋ）を更新（再推定）する方法は、Baum-W
elchの再推定法と呼ばれる。

【００２２】ここで、式（２）で計算される遷移確率ａ
_ij 、生起確率ｂ _ij （ｋ）は、ある学習用のシンボル系列１つに対してだけであり、これにより学習が行われたモデルは、ある１つのシンボル系列を高い確率で出力するようになる。 しかしながら、音声認識では、調音結合や話者による音声（音声のシンボル系列）のばらつきがあり、単一のシンボル系列のみ高い確率で出力するモデルでは、このばらつきに対処することができない。

【００２３】そこで、いくつかのシンボル系列を高い確率で出力するように、モデルの学習を行う必要がある。
これには、例えばＱ種類のシンボル系列の、ｑ番目のシンボル系列をＹ ^q ＝｛ｙ ₁ ^q ，ｙ ₂ ^q ，・・・，ｙ _T ^q ｝としたとき、各シンボル系列Ｙ ^q （ｑ＝１，２，・・・，
Ｑ）が観測される確率Ｐ（Ｙ ^q ｜λ）の積が最大になるように、モデルλの学習を行えばよい。

【００２４】これは、上述したBaum-Welchの再推定法を多重系列に拡張することにより、次のように再帰的に求めることができる。

【００２５】

【数４】

【００２６】次に、上式（３）により遷移確率ａ _ij 、生起確率ｂ _ij （ｋ）を更新（再推定）することは、モデルの学習を個別に行っていることに他ならない。 過去、Ｈ
ＭＭ法を用いて音声認識を行う場合においては、単語認識に適用されるときが多く、単語に対応するモデルの学習を、上述したように個別に行うだけで問題はなかった。

【００２７】しかしながら、最近は、音韻や音素に対応するモデルを連結して、意味のある音声（単語や文）を認識するのが一般的になり、このため、モデルの連結学習を行う必要が生じできた。

【００２８】モデルの連結学習では、例えばあらかじめ用意した単語辞書に登録されている単語に基づき、音韻または音素モデルどうしを連結し、それを単語モデルとみなして、単語のシンボル系列として用意されたシンボル系列Ｙ ^qに対する学習が行われる。

【００２９】即ち、Ｍ個の音韻または音素モデルの学習を個別に行った場合、そのうちのｍ番目のモデル（モデルｍ）のパラメータ（遷移確率、生起確率それぞれ）をａ _ij ^m ，ｂ _ij ^m （ｋ）と表し、そのモデルｍに音韻または音素モデルを連結したモデル（連結モデル）の状態をｕ
またはｖと表すとともに、連結モデルの状態のｕからｖ
への遷移において、状態ｕがモデルｍに属する状態であるときを（ｕ→ｖ）∈ｍと表すと、式（３）を変形した次式にしたがって、モデルｍの遷移確率ａ _ij ^m 、生起確率ｂ _ij ^m （ｋ）が更新（再推定）される。

【００３０】

【数５】

【００３１】ここで、連結モデルがモデルｍを複数使用して構成されている場合、即ち連結モデルが、例えば３
状態Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃からなるモデルｍを２回使用して構成されている場合、連結モデルは、Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃ ，
Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃の６状態を有することになる。 従って、
この場合、モデルｍの状態Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃のうちの、例えば先頭の状態Ｓ ₁は、連結モデルの状態Ｓ ₁ ，Ｓ ₂ ，
Ｓ ₃ ，Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃の先頭の状態、および先頭から４番目の状態と同一であり、このように連結モデルの複数の状態ｕ（ｖ）が、モデルｍの１つ状態ｉ（ｊ）と同一であるときがある。

【００３２】上式（４）において、ｕ≡ｉ，ｖ≡ｊに関するサメーション、およびｕ≡ｉに関するサメーションは、上述したように連結モデルの状態ｕ（ｖ）が、モデルｍの状態ｉ（ｊ）と同一である場合についてとられることを意味する。

【００３３】また、ｈ：（ｕ→ｈ）∈ｍに関するサメーションは、連結モデルの状態ｕから状態ｈへの遷移が許されている場合に、連結モデルの状態ｕが、モデルｍに属するときのみとられる。

【００３４】さらに、上式（４）において、モデルｍの後続にモデルが連結されており、連結モデルの状態ｕ
が、モデルｍの最終状態（ｕ＝ｉ _S(FINAL) ）となった場合、状態ｕからの遷移先である状態ｖは、モデルｍの直後に連結したモデルの初期状態となるものとする。

【００３５】次に、以上説明したＨＭＭ法を用いて、例えば図７に示すようなＳ ₁ ，Ｓ ₂ ，Ｓ ₃の３状態からなり、自分自身と、次の状態に遷移するパスのみを有するとともに、初期状態または最終状態を、それぞれＳ ₁またはＳ ₃とするモデルにより音声認識が行われる場合には、まず上述した式（３）または（４）（以下、式（４）におけるａ _ij ^m ，ｂ _ij ^m （ｋ）は、式（３）における場合と同様にそれぞれａ _ij ，ｂ _ij （ｋ）と記載する）
にしたがってモデルの学習（連結学習）が行われ、モデルの遷移確率ａ _ijおよび生起確率ｂ _ij （ｋ）が求められる。

【００３６】なお、モデルの学習において（音声認識を行う場合においても同様であるが）、シンボル系列は、
音声から、所定のフレームごとに時系列に抽出した特徴パラメータ（例えば、線形予測係数やＬＰＣケプストラム、周波数帯域ごとのエネルギなど）をベクトル量子化したものが一般的に使用される。

【００３７】ここで、シンボルがａとｂの２つであり、
学習により、例えばモデルλの遷移確率ａ _ijおよび生起確率ｂ _ij （ｋ）が、次のように算出されたとする。

【００３８】ａ ₁₁ ＝０．２，ｂ ₁₁ （ａ）＝０．６，ｂ ₁₁
（ｂ）＝０．４，ａ ₁₂ ＝０．８，ｂ ₁₂ （ａ）＝０．５，
ｂ ₁₂ （ｂ）＝０．５，ａ ₂₂ ＝０．４，ｂ ₂₂ （ａ）＝０．
２，ｂ ₂₂ （ｂ）＝０．８，ａ ₂₃ ＝０．６，ｂ ₂₃ （ａ）＝
０．４，ｂ ₂₃ （ｂ）＝０．６

【００３９】そして、音声から、例えばシンボル系列ａ，ｂ，ａが観測された場合、このモデルλがそのシンボル系列を出力（生起）する確率Ｐ（｛ａ，ｂ，ａ｝｜
λ）が、式（１）にしたがって計算される。

【００４０】以上の処理が、モデルλ以外のモデルにも対して行われ、前述したように、確率Ｐが最も大きいモデルが認識結果とされることになる。

【００４１】ところで、ＨＭＭ法により音声認識を行う場合において、モデルλからシンボル系列Ｙが出力される確率（尤度）を計算する方法としては、式（１）にしたがって計算する方法の他、例えばビタビ（Viterbi）
法によって計算する方法が知られている。

【００４２】即ち、ビタビ法においては、モデルλからシンボル系列Ｙが出力される確率（尤度）が、次式にしたがって計算される。

【００４３】

【数６】

【００４４】図８は、学習結果が上述のようになった図７のモデルλがシンボル系列｛ａ，ｂ，ａ｝を出力する確率（尤度）を、ビタビ法によって計算する場合に描かれるトレリスを示している。

【００４５】図７のモデルλのトレリスを示す図８においては、箱が各時刻における状態を示し、その中には、
各時刻においてその状態にいる確率が書き入れてある。
さらに、矢印は、状態の遷移を示しており、図７のモデルλは、前述したように自分自身と、次の状態にしか状態が遷移しないので、矢印は、自分自身への遷移を示す水平方向の矢印と、次の状態への遷移を示す斜め上方向の矢印のみとなっている。

【００４６】また、図７のモデルは、最終状態が状態Ｓ
₃であり、前述したように最終状態からの状態の遷移はないものとしたので、図８において、状態Ｓ ₃の箱から状態の遷移を示す矢印は書き込まれていない。

【００４７】さらに、図８のトレリスにおいては、縦方向はモデルの状態の並びになっており、横方向は時間の進みを表している。

【００４８】このようなトレリスにしたがって、図７のモデルλがシンボル系列｛ａ，ｂ，ａ｝を出力する確率が計算される場合、まず、時刻ｔ＝１においては、前述したように初期状態は、必ず状態ｉ _S(INITIAL)となるから（使用するモデルを、初期状態が状態ｉ _S(INITIAL)となるモデルとしたから）、状態ｉ _S(INITIAL)としての状態Ｓ ₁にいる確率ν ₁ （１）が１で、他の状態Ｓ ₂ ，Ｓ ₃にいる確率ν ₂ （１），ν ₃ （１）は０であり、従って状態Ｓ ₁の箱のみ１が書き込まれ、他の状態Ｓ ₂ ，Ｓ ₃の箱には０が書き込まれる。

【００４９】そして、状態が遷移してシンボルａが出力された場合に、状態Ｓ ₁にいる確率ν ₁ （２）は、時刻ｔ
＝１に状態Ｓ ₁にいて、シンボルａを出力しながら状態Ｓ ₁に遷移する確率であるから、 １．０×ａ ₁₁ ×ｂ ₁₁ （ａ）＝１．０×０．２×０．６＝
０．１２ となり、時刻ｔ＝２における状態Ｓ ₁の箱には、０．１
２が書き込まれる。

【００５０】また、この場合に、状態Ｓ ₂にいる確率は、時刻ｔ＝１に状態Ｓ ₁にいて、シンボルａを出力しながら状態Ｓ ₂に遷移する確率と、時刻ｔ＝１に状態Ｓ ₂
にいて、シンボルａを出力しながら状態Ｓ ₂に遷移する確率との和であるが、ビタビ法においては、式（５）にしたがってそのうちの最大値が、時刻ｔ＝２に状態Ｓ ₂
にいる確率ν ₂ （２）とされる。

【００５１】即ち、時刻ｔ＝１に状態Ｓ ₁にいて、シンボルａを出力しながら状態Ｓ ₂に遷移する確率は、 ν ₁ （１）×ａ ₁₂ ×ｂ ₁₂ （ａ）＝１．０×０．８×０．
５＝０．４ であり、時刻ｔ＝１に状態Ｓ ₂にいて、シンボルａを出力しながら状態Ｓ ₂に遷移する確率は、 ν ₂ （１）×ａ ₂₂ ×ｂ ₂₂ （ａ）＝０．０×０．４×０．
２＝０ であるから、ビタビ法においては、このうちの最大値、
つまり０．４が、時刻ｔ＝２に状態Ｓ ₂にいる確率ν
₂ （２）とされる。 従って、時刻ｔ＝２における状態Ｓ ₂
の箱には、０．４が書き込まれる。

【００５２】さらに、この場合に、状態Ｓ ₃にいる確率ν ₃ （２）は、時刻ｔ＝１に状態Ｓ ₂にいて、シンボルａ
を出力しながら状態Ｓ ₃に遷移する確率であるから、 ν ₂ （１）×ａ ₂₃ ×ｂ ₂₃ （ａ）＝０．０×０．６×０．
４＝０ となり、時刻ｔ＝２における状態Ｓ ₃の箱には、０が書き込まれる。

【００５３】次に、シンボルａが出力された後に、さらに状態が遷移してシンボルｂが出力された場合に、状態Ｓ ₁にいる確率ν ₁ （３）は、時刻ｔ＝２に状態Ｓ ₁にいて、シンボルｂを出力しながら状態Ｓ ₁に遷移する確率であるから、 ν ₁ （２）×ａ ₁₁ ×ｂ ₁₁ （ｂ）＝０．１２×０．２×
０．４＝０．００９６ となり、時刻ｔ＝３における状態Ｓ ₁の箱には、０．０
０９６が書き込まれる。

【００５４】また、この場合に、状態Ｓ ₂にいる確率ν ₂
（３）は、時刻ｔ＝２に状態Ｓ ₁にいて、シンボルｂを出力しながら状態Ｓ ₂に遷移する確率と、時刻ｔ＝２に状態Ｓ ₂にいて、シンボルｂを出力しながら状態Ｓ ₂に遷移する確率との和であるが、ビタビ法においては、上述した場合と同様に、式（５）にしたがってそのうちの最大値が、時刻ｔ＝３に状態Ｓ ₂にいる確率ν ₂ （３）とされる。

【００５５】即ち、時刻ｔ＝２に状態Ｓ ₁にいて、シンボルｂを出力しながら状態Ｓ ₂に遷移する確率は、 ν ₁ （２）０．１２×ａ ₁₂ ×ｂ ₁₂ （ｂ）＝０．１２×
０．８×０．５＝０．０４８ であり、時刻ｔ＝２に状態Ｓ ₂にいて、シンボルｂを出力しながら状態Ｓ ₂に遷移する確率は、 ν ₂ （２）×ａ ₂₂ ×ｂ ₂₂ （ａ）＝０．４×０．４×０．
８＝０．１２８ であるから、ビタビ法においては、このうちの最大値、
つまり０．１２８が、時刻ｔ＝３に状態Ｓ ₂にいる確率ν ₂ （３）とされる。 従って、時刻ｔ＝２における状態Ｓ ₂の箱には、０．１２８が書き込まれる。

【００５６】さらに、この場合に、状態Ｓ ₃にいる確率ν ₃ （３）は、時刻ｔ＝２に状態Ｓ ₂にいて、シンボルｂ
を出力しながら状態Ｓ ₃に遷移する確率であるから、 ν ₂ （２）×ａ ₂₃ ×ｂ ₂₃ （ｂ）＝０．４×０．６×０．
６＝０．１４４ となり、時刻ｔ＝３における状態Ｓ ₃の箱には、０．１
４４が書き込まれる。

【００５７】そして、以上のようにシンボルａ，ｂが出力された後に、さらに状態が遷移してシンボルａが出力された場合における、各状態Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃にいる確率が上述したときと同様にして計算され、図中最右端の各状態Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃の箱に書き込まれる。

【００５８】トレリスにおいては、モデルがシンボル系列を出力する確率（尤度）は、その最も左上にある箱に書き込まれた確率になるので、図８のトレリスにおいては、モデルλがシンボル系列｛ａ，ｂ，ａ｝を出力する確率（尤度）Ｐ（λ｜｛ａ，ｂ，ａ｝）は０．０３０７
になる。

【００５９】以上の処理が、モデルλ以外のモデルにも対して行われ、確率（尤度）が最も大きいモデルが認識結果とされることになる。

【００６０】なお、ビタビ法によって状態ｉにいる確率を計算する場合、上述したように、状態ｊから状態ｉに遷移することを示すパス（図８において、状態ｉに対応する箱に入ってくる矢印）に沿って計算される確率のうちの最大値が選択されるが、このとき同時に、この選択された確率を得ることができた前の状態ｊ（図８において、矢印の始点側の箱に対応する状態）を、バックポインタとして保存しておくようにすることができる。

【００６１】これにより、図８において、最も左上にある箱に書き込まれた確率を計算した後に、バックポインタをたどっていけば、そのとき遷移した状態系列（以下、最適状態系列と記載する）を求めることができる。

【００６２】図８には、モデルλがシンボル系列｛ａ，
ｂ，ａ｝を出力する確率（尤度）が最も高いときの状態系列、即ち最適状態系列を太線で示してある。

【００６３】次に、図９は、以上説明したようにして所定の音声（例えば、単語など）を認識してスポッティングする（音声区間を検出する）音声認識装置の一例の構成を示すブロック図である。 マイク１は、入力された音声を電気信号としての音声信号に変換する。 マイク１からの音声信号は、ＬＰＦ（ローパスフィルタ）２に入力され、そこでフィルタリングされて、音声信号の周波数帯域成分のうち、次段に接続されているＡ／Ｄ変換器３
におけるサンプリングレートの１／２以上の周波数帯域成分がカットされる。

【００６４】Ａ／Ｄ変換器３は、マイク１よりＬＰＦ２
を介して出力される音声信号を所定のサンプリングレートでＡ／Ｄ変換し、ディジタル信号としての音声信号を出力する。 Ａ／Ｄ変換器３より出力された音声信号は、
音響分析部４に入力される。 音響分析部４では、Ａ／Ｄ
変換器３より出力された音声信号が、所定のフレーム周期ごとに音響分析され、音声の特徴パラメータとしての、例えば線形予測係数やＬＰＣケプストラム、周波数帯域ごとのエネルギなどが抽出される。 そして、音響分析部４は、音声信号から抽出した特徴パラメータを、例えば２５６種類のシンボル（コード）にベクトル量子化し、シンボル系列Ｙ（＝｛ｙ ₁ ，ｙ ₂ ，・・・，ｙ _T ｝）
をトレリス計算回路６に出力する。

【００６５】同時に、Ａ／Ｄ変換器３の出力信号は、音声区間判定回路５にも入力される。 音声区間判定回路５
では、Ａ／Ｄ変換器３の出力信号の、例えばパワーなどが計算され、そのパワーからマイク１から音声が入力されているか否かが判定される。 即ち、音声区間判定回路５では、大まかな音声区間が判定される。 そして、音声区間判定回路５は、Ａ／Ｄ変換回路３の出力信号から判定した大まかな音声区間をトレリス計算回路６に出力する。

【００６６】ここで、マルコフモデル記憶部２１には、
前述したようにして学習、および連結学習が行われた、
例えば音韻モデル（遷移確率ａ _ijおよび生起確率ｂ
_ij （ｋ））、単語辞書、並びに例えば遷移確率ａ _ij （生起確率ｂ _ij （ｋ））が、ｉ，ｊ（ｉ，ｊ，ｋ）に関わらずほぼ等しいような、任意の音声モデルに成り得るワイルドカードモデルが記憶されている。 マルコフモデル記憶部２１においては、まず単語辞書に登録されている単語が参照され、その単語を構成するように音韻モデルが連結される。 そして、その連結モデルとしてのマルコフモデルの先頭にのみワイルドカードモデルが接続され、
トレリス計算回路６に供給されるようになっている。

【００６７】トレリス計算回路６は、マルコフモデル記憶部２１より供給された、先頭にワイルドカードモデルが接続されたマルコフモデルλが、音声区間判定回路５
から出力された大まかな音声区間の間に、音響分析部４
より供給されたシンボル系列を出力する確率（尤度）の計算、即ちトレリスの計算を、例えば上述したビタビ法にしたがって行う。

【００６８】そして、トレリス計算回路６は、先頭にワイルドカードモデルが接続されたマルコフモデルλの最終状態にいる確率（以下、最終確率と記載する）を計算し終わるたびに、その最終確率が計算されたフレームを、マルコフモデルλに対応するスポッティング対象音声の音声区間の終点であると仮定し、音声区間判定回路５から出力された大まかな音声区間における、最終確率を時系列に算出するとともに、その最終確率を得ることができた最適状態系列を算出する。

【００６９】トレリス計算回路６で算出された最終確率は、時系列にスポッティング判定回路２２に供給される。 スポッティング判定回路２２は、トレリス計算回路６から出力された最終確率が所定の閾値より高いフレーム区間が存在するか否かを判定し、最終確率が所定の閾値より高いフレーム区間が存在すると判定した場合、音声区間判定回路５から出力された大まかな音声区間中に、マルコフモデルλに対応するスポッティング対象の音声が存在すると認識する。

【００７０】そして、スポッティング判定回路２２は、
最終確率が所定の閾値より高いフレーム区間のうち、最終確率が最大となるフレームを検出し、そのフレームをマルコフモデルλに対応するスポッティング対象音声の音声区間の終点として決定する。 さらに、スポッティング判定回路２２は、決定したスポッティング対象音声の音声区間の終点（フレーム）において、最終状態にいる最適状態系列を、トレリス計算回路６から得て、その最適状態系列において、モデルλの先頭の状態に接続されたワイルドカードモデルの状態から、音声に対応するモデルλの先頭の状態に遷移したときのフレームを、モデルλに対応するスポッティング対象音声の音声区間の始点として決定する。

【００７１】スポッティング判定回路２２は、以上のようにしてモデルλに対応するスポッティング対象音声の音声区間の始点および終点を決定すると、その始点および終点並びにスポッティング対象音声としてのマルコフモデルλを認識結果として出力する。

【００７２】なお、トレリス計算回路６およびスポッティング判定回路２２における処理は、マルコフモデル記憶部２１の単語辞書に基づいて連結されるマルコフモデルすべてに対して行われる。

【００７３】

【発明が解決しようとする課題】以上のように、ＨＭＭ
を用いた音声認識装置においては、スポッティング対象音声の音声区間の始点は、その終点から容易に決定することができるが、それに比較して、スポッティング対象音声の音声区間の終点を決定するには、上述したように時系列の最終確率が所定の閾値より高いフレーム区間を検出し、さらにそのフレーム区間から、最終確率が最大となるフレームを検出しなければならず、処理が繁雑になり、実時間処理が困難になる課題があった。

【００７４】本発明は、このような状況に鑑みてなされたものであり、音声認識処理を高速に行うことができるようにするものである。

【００７５】

【課題を解決するための手段】請求項１に記載の音声認識装置は、マルコフモデルを用いた音声認識装置において、音声から生成されたマルコフモデルとともに、ワイルドカードモデルを記憶している記憶手段としてのマルコフモデル記憶部７と、音声からシンボルを生成するシンボル生成手段としての音響分析部４と、マルコフモデル記憶部７に記憶されているマルコフモデルの前後に、
ワイルドカードモデルを接続し、接続モデルを生成するモデル生成手段としてのマルコフモデル接続回路８と、
マルコフモデル接続回路８により生成された接続モデルから、音響分析部４から出力されたシンボルが生起される確率を計算する計算手段としてのトレリス計算回路６
とを備え、トレリス計算回路６の計算結果に基づいて、
音声を認識することを特徴とする。

【００７６】請求項２に記載の音声認識装置は、マルコフモデルを用いた音声認識装置において、音声から生成されたマルコフモデルとともに、ワイルドカードモデルを記憶している記憶手段としてのマルコフモデル記憶部７と、音声からシンボルを生成するシンボル生成手段としての音響分析部４と、マルコフモデル記憶部７に記憶されているマルコフモデルの前後に、ワイルドカードモデルを接続し、接続モデルを生成するモデル生成手段としてのマルコフモデル接続回路８と、マルコフモデル接続回路８により生成された接続モデルから、音響分析部４から出力されたシンボルが生起される確率を計算する計算手段としてのトレリス計算回路６と、トレリス計算回路６の計算結果に基づいて、音声の音声区間をスポッティングするスポッティング手段としてのスポッティング判定回路９とを備えることを特徴とする。

【００７７】請求項３に記載の音声認識装置は、トレリス計算回路６が、確率をビタビ法にしたがって計算することを特徴とする。

【００７８】請求項４に記載の音声認識装置は、マルコフモデル記憶部７が、音素、音韻、単語、文節、または文に対応する音声から生成されたマルコフモデルを記憶していることを特徴とする。

【００７９】請求項５に記載の音声認識装置は、音響分析部４が、音声の特徴量をベクトル化またはベクトル量子化して、シンボルを生成することを特徴とする。

【００８０】

【作用】上記構成の音声認識装置においては、マルコフモデル記憶部７に記憶されているマルコフモデルの前後に、ワイルドカードモデルを接続し、接続モデルを生成する。 そして、この接続モデルから、音響分析部４で音声から生成されたシンボルが生起される確率を、例えばビタビ法にしたがって計算し、その計算結果に基づいて、音声を認識し、また音声の音声区間をスポッティングする。 従って、音声認識処理を高速に行うことができる。

【００８１】

【実施例】図１は、本発明の音声認識装置の一実施例の構成を示すブロック図である。 図中、図９における場合と対応する部分については、同一の符号を付してある。
マルコフモデル記憶部７には、前述したようにして学習が行われた、例えば音韻モデル（遷移確率ａ _ijおよび生起確率ｂ _ij （ｋ））、および例えば遷移確率ａ _ij （生起確率ｂ _ij （ｋ））が、ｉ，ｊ（ｉ，ｊ，ｋ）に関わらずほぼ等しいような、任意の音声モデルに成り得るワイルドカードモデルが記憶されている。

【００８２】マルコフモデル接続回路８は、マルコフモデル記憶部７に記憶されている音韻モデルおよびワイルドカードモデルを読み出し、音韻モデルの前後にワイルドカードモデルを連結して連結モデルを生成する。

【００８３】即ち、マルコフモデル接続回路８は、例えば３つの状態Ｓ ₁ ，Ｓ ₂ 、およびＳ ₃からなる音韻モデルλ、並びに例えば１つの状態Ｓ _W1 ，Ｓ _W2からそれぞれなる２つのワイルドカードモデルλ _W1 ，λ _W2をマルコフモデル記憶部７から読み出した場合、状態Ｓ ₁の前に状態Ｓ _W1を接続するとともに、状態Ｓ ₃の後に状態Ｓ _W2を接続し、図２に示すような５つの状態Ｓ _W1 ，Ｓ ₁ ，Ｓ ₂ ，Ｓ
₃ ，Ｓ _W2からなる接続モデルλ _Sを生成する。 マルコフモデル接続回路８で生成された接続モデルは、トレリス計算回路６に供給されるようになされている。

【００８４】スポッティング判定回路９は、音声区間判定回路５から出力された大まかな音声区間の終点に対応する時刻Ｔ（フレーム）に、即ちマイク１への発声が終了したときに、トレリス計算回路６から出力される、接続モデルλ _Sの最終確率の、例えば対数をとり、それに、音声区間判定回路５から出力された大まかな音声区間に対応するフレーム数（以下、正規化フレーム数と記載する）Ｆを乗算して正規化した正規化値を計算する。

【００８５】そして、その正規化値が、所定の閾値より大きい場合、スポッティング判定回路９は、音声区間判定回路５から出力された大まかな音声区間中に、接続モデルλ _S （音韻モデルλ）に対応するスポッティング対象の音声が存在すると認識し、トレリス計算回路６で算出された接続モデルλ _Sの最適状態系列を参照して、その最適状態系列において、音韻モデルλの最後の状態Ｓ
₃から、そこに接続されたワイルドカードモデルλ _W2の状態Ｓ _W2に遷移したときの時刻ｔ ₂ （フレーム）を、音韻モデルλに対応するスポッティング対象音声の音声区間の終点として決定する。

【００８６】さらに、スポッティング判定回路９は、トレリス計算回路６で算出された接続モデルλ _Sの最適状態系列において、音韻モデルλの最初の状態Ｓ ₁に接続されたワイルドカードモデルλ _W1の状態Ｓ _W1から、音韻モデルλの最初の状態Ｓ ₁に遷移したときの時刻ｔ ₁ （フレーム）を、音韻モデルλに対応するスポッティング対象音声の音声区間の始点として決定する。

【００８７】スポッティング判定回路９は、以上のようにしてスポッティング対象音声の音声区間の始点ｔ ₁および終点ｔ ₂を決定すると、その始点ｔ ₁および終点ｔ ₂
並びにスポッティング対象音声を認識結果として出力する。

【００８８】以上のように構成される音声認識装置においては、マイク１に入力された音声が、電気信号としての音声信号に変換され、ＬＰＦ２を介してＡ／Ｄ変換器３に出力される。

【００８９】Ａ／Ｄ変換器３において、マイク１よりＬ
ＰＦ２を介して出力された音声信号が所定のサンプリングレートでＡ／Ｄ変換され、ディジタル信号としての音声信号が音響分析部４および音声区間判定回路５に出力される。 音響分析部４では、Ａ／Ｄ変換器３より出力された音声信号が、所定のフレーム周期ごとに音響分析され、音声の特徴パラメータとしての、例えば線形予測係数やＬＰＣケプストラム、周波数帯域ごとのエネルギなどが抽出される。 そして、音声信号から抽出した特徴パラメータがベクトル量子化され、シンボル系列Ｙ（＝
｛ｙ ₁ ，ｙ ₂ ，・・・，ｙ _T ｝）がトレリス計算回路６に出力される。

【００９０】同時に、音声区間判定回路５では、Ａ／Ｄ
変換器３の出力信号の、例えばパワーなどが計算され、
そのパワーからマイク１から音声が入力されているか否かが判定され、これにより、大まかな音声区間が検出（判定）される。 そして、この大まかな音声区間はトレリス計算回路６に出力される。

【００９１】音声区間判定回路５からトレリス計算回路６に大まかな音声区間が出力されると、マルコフモデル接続回路８において、マルコフモデル記憶部７に記憶されている音韻モデルおよびワイルドカードモデルが読み出され、音韻モデルの前後にワイルドカードモデルが連結されて連結モデルが生成される。

【００９２】即ち、マルコフモデル接続回路８において、例えば図２に示すような、状態Ｓ ₁ ，Ｓ ₂ 、およびＳ
₃からなる音韻モデルλの前後に、状態Ｓ _W1 ，Ｓ _W2からそれぞれなる２つのワイルドカードモデルλ _W1 ，λ _W2が接続され、状態Ｓ _W1 ，Ｓ ₁ ，Ｓ ₂ ，Ｓ ₃ ，Ｓ _W2からなる接続モデルλ _Sが生成される。

【００９３】マルコフモデル接続回路８で生成された接続モデルλ _Sは、トレリス計算回路６に供給され、そこで、その接続モデルλ _Sが、音声区間判定回路５から出力された大まかな音声区間の間に、音響分析部４より供給されたシンボル系列を出力する確率（尤度）の計算、
即ちトレリスの計算が、例えば上述したビタビ法にしたがって行われる。

【００９４】ここで、図２に示す接続モデルλ _Sから、
シンボル系列Ｙが出力（生起）される場合のトレリスを図３に示す。

【００９５】トレリス計算回路６においては、接続モデルλ _Sの最終状態にいる確率（最終確率）の計算が終了するたびに、その最終確率が計算されたフレームが、マルコフモデルλに対応するスポッティング対象音声の音声区間の終点であると仮定され、音声区間判定回路５から出力された大まかな音声区間における、最終確率が時系列に算出されるとともに、その最終確率を得ることができた、例えば図４に示すような最適状態系列が算出される。

【００９６】なお、図４は、音声区間判定回路５から出力された大まかな音声区間の終点における最終確率を得ることができた最適状態系列を示している。

【００９７】トレリス計算回路６で算出された最終確率は、時系列にスポッティング判定回路９に供給される。

【００９８】スポッティング判定回路９では、音声区間判定回路５から出力された大まかな音声区間の終点に対応する時刻Ｔ（フレーム）に、トレリス計算回路６から出力された、接続モデルλ _Sの最終確率（図３において、斜線を付してある状態にいる確率）の対数がとれられ、さらにそれに、音声区間判定回路５から出力された大まかな音声区間に対応する正規化フレーム数Ｆが乗算されて正規化される。

【００９９】ここで、最終確率は、音声区間判定回路５
から出力された音声区間がより長いほど、１未満の正数（遷移確率および生起確率）がより乗算されて計算されるため、スポッティング判定回路９では、最終確率（本実施例においては、最終確率の対数をとった値）に、音声区間に対応する正規化フレーム数Ｆを乗算して正規化するようになっている。

【０１００】そして、スポッティング判定回路９において、正規化値が所定の閾値と比較され、正規化値が所定の閾値より大きいと判定された場合、音声区間判定回路５から出力された大まかな音声区間中に、接続モデルλ
_S （音韻モデルλ）に対応するスポッティング対象の音声が存在すると認識される。 さらに、この場合、スポッティング判定回路９では、トレリス計算回路６で算出された接続モデルλ _Sの最適状態系列（図４）が参照され、その最適状態系列において、音韻モデルλの最後の状態Ｓ ₃から、そこに接続されたワイルドカードモデルλ _W2の状態Ｓ _W2に遷移したときの時刻ｔ ₂ （フレーム）
が、音韻モデルλに対応するスポッティング対象音声（音韻）の音声区間の終点として決定される。

【０１０１】さらに、スポッティング判定回路９では、
トレリス計算回路６で算出された接続モデルλ _Sの最適状態系列において、音韻モデルλの最初の状態Ｓ ₁に接続されたワイルドカードモデルλ _W1の状態Ｓ _W1から、音韻モデルλの最初の状態Ｓ ₁に遷移したときの時刻ｔ
₁ （フレーム）が、音韻モデルλに対応するスポッティング対象音声（音韻）の音声区間の始点として決定される。

【０１０２】スポッティング判定回路９においては、以上のようにしてスポッティング対象音声の音声区間の始点ｔ ₁および終点ｔ ₂が決定されると、その始点ｔ ₁および終点ｔ ₂並びにスポッティング対象音声が認識結果として出力される。

【０１０３】なお、上述のトレリス計算回路６およびスポッティング判定回路９における処理は、マルコフモデル記憶部７からマルコフモデル接続部８を介してトレリス計算回路６に供給されるマルコフモデルすべてに対して行われる。

【０１０４】以上のように、音声モデルとしてのマルコフモデルの前後に、ワイルドカードモデルを接続して生成した接続モデルから、音響分析部４より出力されたシンボル系列が生起される確率を計算するようにしたので、その確率を得ることができた最適状態系列から容易に音声区間をスポッティングすることができる。

【０１０５】なお、本実施例においては、音響分析部４
より出力されたシンボル系列Ｙが、接続モデルλ _Sから生起される確率Ｐ（λ｜Ｙ）をビタビ法によって計算し、最適状態系列を算出するようにしたが、確率Ｐ（λ
｜Ｙ）を他の方法によって計算するようにすることができる。 さらに、最適状態系列も、図４に示すように１つだけ求めるのではなく、複数求めるようにしても良い。

【０１０６】また、スポッティング判定回路９において、正規化値と比較される所定の閾値は、トレリス計算回路６の出力値に対応して動的に変化させるようにすることができる。

【０１０７】さらに、音声区間判定回路５は、トレリス計算回路６と一体化して構成するようにすることができる。

【０１０８】また、本実施例においては、スポッティング対象音声を音韻として、音韻に対応するマルコフモデルをマルコフモデル記憶部７に記憶させておくようにしたが、音韻だけでなく、例えば音素や、単語、文節、文などに対応するマルコフモデルをマルコフモデル記憶部７に記憶させておくようにすることができる。 例えば、
６つの状態Ｓ ₁乃至Ｓ ₆からなる単語マルコフモデルの前後にワイルドカードモデルが接続された接続モデルを図５に示す。

【０１０９】さらに、マルコフモデル記憶部７に、学習、および連結学習が行われた、例えば音韻モデルや音素モデルとともに、単語辞書を記憶させておき、単語辞書に登録されている単語を参照して、単語モデルを構成するように音韻モデルや音素モデルを連結するようにすることができる。

【０１１０】また、枝分かれのあるようなマルコフモデルをマルコフモデル記憶部７に記憶させておくようにすることもできる。

【０１１１】さらに、本実施例では、音声に対応するマルコフモデルの前後に１つの状態からなるワイルドカードモデルを接続するようにしたが、複数の状態からなるワイルドカードモデルを接続するようにしても良い。

【０１１２】また、スポッティング判定回路９に、フレームごとの正規化値を算出させ、この正規化値が、所定のフレーム区間だけ連続して所定の閾値より大きい場合に、モデルに対応するスポッティング対象音声が、音声区間判定回路５より出力される大まかな音声区間中に存在すると認識させるようにすることができる。

【０１１３】さらに、本実施例においては、離散型のＨ
ＭＭについてのみ言及したが、連続型のＨＭＭを用いるようにしても問題はない。

【０１１４】

【発明の効果】以上の如く、本発明の音声認識装置によれば、記憶手段に記憶されているマルコフモデルの前後に、ワイルドカードモデルを接続し、接続モデルを生成する。 そして、この接続モデルから、シンボル生成手段により音声から生成されたシンボルが生起される確率を計算し、その計算結果に基づいて、音声を認識し、また音声の音声区間をスポッティングする。 従って、音声認識処理を高速に行うことができる。

【図面の簡単な説明】

【図１】本発明の音声認識装置の一実施例の構成を示すブロック図である。

【図２】音韻に対応するマルコフモデルの前後にワイルドカードモデルを接続した接続モデルの一実施例の構成を示す図である。

【図３】トレリスを示す図である。

【図４】最適状態系列を示す図である。

【図５】単語に対応するマルコフモデルの前後にワイルドカードモデルを接続した接続モデルの一実施例の構成を示す図である。

【図６】マルコフモデルを示す図である。

【図７】マルコフモデルを示す図である。

【図８】トレリスの計算を説明する図である。

【図９】従来の音声認識装置の一例の構成を示す図である。

【符号の説明】

１ マイク ２ ローパスフィルタ（ＬＰＦ） ３ Ａ／Ｄ変換器 ４ 音響分析部 ５ 音声区間判定回路 ６ トレリス計算回路 ７ マルコフモデル記憶部 ８ マルコフモデル接続回路 ９ スポッティング判定回路 ２１ マルコフモデル記憶部 ２２ スポッティング判定回路