プログラム、情報処理装置、及びアイウエア

本発明は、プログラム、情報処理装置、及びアイウエアに関する。

フレーム部分に複数の電極を設け、各電極から眼電図信号を取得するアイウエアが知られている(例えば、特許文献1参照)。また、眼電位信号から、ユーザの視線方向を検出する装置が知られている(例えば、特許文献2参照)。

米国特許出願公開第2004/0070729号明細書

特開2011−125692号公報

しかしながら、眼電位信号から瞬目や視線移動を検出することは可能であるが、瞬目及び視線移動の検出処理を適応的に切り替えながら、適切に瞬目や視線移動を検出する技術は存在しない。

そこで、本発明は、瞬目及び視線移動の検出処理を適切に切り替えることができることを目的とする。

本発明の一態様におけるプログラムは、対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得ステップと、取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する算出ステップと、前記差分信号の極大値及び極小値を算出する算出ステップと、前記極大値及び/又は前記極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する判定ステップと、判定された検出処理を行う検出ステップと、をコンピュータに実行させる。

本発明によれば、瞬目及び視線移動の検出処理を適切に切り替えることができる。

実施例におけるメガネの前方からの一例を示す斜視図である。

実施例におけるメガネの後方からの一例を示す斜視図である。

実施例における処理装置の一例を示すブロック図である。

使用者に対する電極の接触位置を概略的に示す図である。

実施例における増幅部の構成の一例を示す図である。

バッファアンプを設ける理由を説明するための図である。

実施例における増幅部の構成の他の例を示す図である。

実施例における外部装置の構成の一例を示すブロック図である。

実施例における判定部の構成の一例を示すブロック図である。

実施例における瞬目検出部の一例を示すブロック図である。

眼電図信号の一例を示す図である。

差分信号の一例を示す図である。

ピーク比を用いた判定処理を説明するための図である。

時間差を用いた判定処理を説明するための図である。

眼の垂直方向の動きを示す眼電図信号の一例を示す図である。

実施例における瞬目、視線移動の検出処理に関する処理の一例を示すフローチャートである。

実施例におけるピーク比を用いた判定処理の一例を示すフローチャートである。

実施例における時間差を用いた判定処理の一例を示すフローチャートである。

以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、以下の図面の記載において、同一または類似の部分には同一または類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。

[実施例] 図1は、実施例におけるメガネ100の前方からの一例を示す斜視図である。図2は、実施例におけるメガネ100の後方からの一例を示す斜視図である。メガネ100は、レンズ110及びフレーム120を備える。メガネ100及びフレーム120は、アイウエアの一例である。

フレーム120は、一対のレンズ110を支持する。フレーム120は、リム122と、眉間部(例えばブリッジ)124と、ヨロイ126と、丁番128と、テンプル130と、モダン132と、一対のノーズパッド140と、第1電極152と、第2電極154と、第3電極156と、電線(不図示)と、処理装置200と、増幅部250とを有する。なお、メガネ100の種類によっては、一枚レンズを用いることでフレームのブリッジ部分がない場合がある。この場合、一枚レンズの眉間部分を眉間部とする。

一対のノーズパッド140は、右ノーズパッド142及び左ノーズパッド144を含む。リム122、ヨロイ126、丁番128、テンプル130、及びモダン132は、それぞれ左右一対に設けられる。

リム122は、レンズ110を保持する。ヨロイ126は、リム122の外側に設けられ、丁番128によりテンプル130を回転可能に保持する。テンプル130は、使用者の耳の上部を押圧して、この部位を挟持する。モダン132は、テンプル130の先端に設けられる。モダン132は、使用者の耳の上部に接触する。なお、モダン132は、必ずしもメガネ100に設ける必要はない。

第1電極152及び第2電極154は、一対のノーズパッド140のそれぞれの表面に設けられ、眼電位を検出する。例えば、第1電極152は、右ノーズパッド142に設けられ、第2電極154は、左ノーズパッド144に設けられる。

第1電極152は、使用者の右眼の眼電位を検出する。第2電極154は、使用者の左眼の眼電位を検出する。このように、眼電位を検出するための電極を、使用者の皮膚に必然的に接触するノーズパッドの表面に設ける。これにより、使用者の眼の周囲に二対の電極を接触させるのに比べて、使用者の皮膚に与える負担を軽減することができる。

第3電極156は、眉間部124の表面に設けられ、眼電位を検出する。接地電極(不図示)は、モダン132の表面に設けられるとする。メガネ100にモダン132がない場合は、接地電極は、テンプル130の先に設けられる。実施例において、第1電極152、第2電極154及び第3電極156が検出する電位は、接地電極が検出する電位を基準としてもよい。

処理装置200は、例えば、テンプル130に設けてもよい。これにより、メガネ100を正面から見たときのデザイン性を損なうことがない。処理装置200の設置位置は、必ずしもテンプル130である必要はないが、メガネ100を装着した際のバランスを考慮して位置決めすればよい。処理装置200は、電線を介して増幅部250に接続される。なお、処理装置200と、増幅部250とは、無線を介して接続されてもよい。

増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられ、増幅対象の各電極と電線を介して接続される。増幅部250は、各電極が検出した眼電位を示す眼電図信号を取得する。例えば、増幅部250は、第1電極152、第2電極154及び第3電極156により検出された眼電位を示す眼電図信号を増幅する。

また、増幅部250は、眼電図信号を処理する処理部を有していれば、増幅する前又は増幅した後の各眼電図信号に対し、加減処理を行ってもよい。例えば、増幅部250は、第3電極156を基準とした第1電極152の電位を示す基準眼電図信号を求めてもよい。また、増幅部250は、第3電極156を基準とした第2電極154の電位を示す基準眼電図信号を求めてもよい。増幅部250により増幅又は処理された信号は、処理装置200に出力される。

外部装置300は、通信機能を有する情報処理装置である。例えば、外部装置300は、使用者が所持する携帯電話及びスマートフォン等の携帯通信端末、パーソナルコンピュータ等である。外部装置300は、送信部220から受信した眼電図信号に基づく処理を実行する。例えば、外部装置300は、受信した眼電図信号から、瞬目や視線移動を検出する。瞬目を検出する場合の応答として、外部装置300は、使用者の瞬目の回数が増加していることを検出した場合などに、居眠りを防止するための警告を発する。外部装置300の詳細については後述する。

<処理装置の構成> 図3は、実施例における処理装置200の一例を示すブロック図である。図3に示すように、処理装置200は、処理部210、送信部220、及び電源部230を有する。第1電極152、第2電極154、第3電極156は、例えば増幅部250を介して処理部210に接続される。処理装置200の各構成は、一対のテンプルに分散して設けられてもよい。

処理部210は、増幅部250から増幅された眼電図信号を取得し、処理する。例えば、処理部210は、第3電極156を基準とした第1電極152の電位を示す基準眼電図信号を処理してもよい。なお、基準眼電図信号は、説明の便宜上「基準」を付したが、眼電図信号に含まれる。また、処理部210は、第3電極156を基準とした第2電極154の電位を示す基準眼電図信号を処理してもよい。

このとき、処理部210は、右眼及び左眼において、各電極から検出された眼電位に基づいて、眼の垂直方向及び/又は水平方向の動きを示す眼電図信号となるように処理を行ってもよい。

他にも、処理部210は、取得した眼電図信号がデジタル化されていなければ、デジタル化処理を行ったり、各電極から増幅された眼電図信号を取得した場合には、眼電図信号の加減処理を行ったりする。また、処理部210は、増幅部250から取得した眼電図信号をそのまま送信部220に送信してもよい。

送信部220は、処理部210によって処理された眼電図信号を外部装置300に送信する。例えば、送信部220は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電図信号を外部装置300に送信する。電源部230は、処理部210、送信部220、及び増幅部250に電力を供給する。

図4は、使用者に対する電極の接触位置を概略的に示す図である。第1接触位置452は、第1電極152の接触位置を表す。第2接触位置454は、第2電極154の接触位置を表す。第3接触位置456は、第3電極156の接触位置を表す。水平中心線460は、右眼402の中心と左眼404の中心とを結んだ水平方向の中心線を表す。垂直中心線462は、右眼402と左眼404との中心において水平中心線460と直交する中心線を表す。

第1接触位置452及び第2接触位置454は、水平中心線460よりも下側に位置することが望ましい。また、第1接触位置452及び第2接触位置454は、第1接触位置452と第2接触位置454との中心を結ぶ線分が、水平中心線460と平行になるべく配置されることが望ましい。

また、第1接触位置452及び第2接触位置454は、第1接触位置452から右眼402への距離と、第2接触位置454と左眼404との距離が等しくなるべく配置されることが望ましい。また、第1接触位置452及び第2接触位置454は、互いに一定の距離以上離間していることが望ましい。

第3接触位置456は、垂直中心線462上に位置することが望ましい。また、第3接触位置456は、水平中心線460よりも上側であって、第1接触位置452及び第2接触位置454から離れた位置であることが望ましい。また、例えば、第3接触位置456と右眼402との距離は、右眼402と第1接触位置452との距離よりも離間させ、左眼404との距離は、左眼404と第2接触位置454との距離よりも離間させてよい。

眼球は、角膜側が正に帯電しており、網膜側が負に帯電している。したがって、視線が上に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が負となる。視線が下に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が正となる。

視線が右に移動した場合、第3電極156を基準とした第1電極152の電位が負となり、第3電極156を基準とした第2電極154の電位が正となる。視線が左に移動した場合、第3電極156を基準とした第1電極152の電位が正となり、第3電極156を基準とした第2電極154の電位が負となる。

第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位を検出することによって、好適にノイズの影響を軽減することができる。第3接触位置456を第1接触位置452及び第2接触位置454から可能な限り離間させるべく、眉間部124は、リム122の上端又はその近傍に配置されてもよい。また、眉間部124の中心よりも上側に第3電極156は設けられてもよい。この場合、第3電極156の配置位置として、縦幅の広い眉間部124を採用することが望ましい。

なお、処理部210は、第3電極156を基準とした第1電極152の電位を検出する代わりに、基準電極を基準とした第1電極152の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。そして同様に、処理部210は、第3電極156を基準とした第2電極154の電位を検出する代わりに、基準電極を基準とした第2電極154の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。

基準電極としては、接地電極を用いてもよい。また、メガネ100の、第1電極152、第2電極154及び第3電極156から離間した位置に、別途基準電極を設けてもよい。例えば、基準電極は、右側のモダン132に設けられてもよい。また、基準電極は、右側のテンプル130の使用者の肌に接する部位に設けられてもよい。

なお、基準電極を基準とした第1電極152の電位から第3電極156の電位を減じる処理、及び基準電極を基準とした第2電極154の電位から第3電極156の電位を減じる処理は、処理部210が実行してもよく、増幅部250又は外部装置300が実行してもよい。この場合、処理対象の電位を示す信号は、増幅部250により増幅されている。

<増幅部の構成> 次に、増幅部250の構成について説明する。図5は、実施例における増幅部250の構成の一例を示す図である。図5に示すように、増幅部250は、第1アンプ260及び第2アンプ270を有する。第1アンプ260は、第2アンプ270の前段に位置し、バッファアンプとして機能するアンプである。以下、第1アンプ260をバッファアンプ260とも称する。第2アンプ270は、メインのアンプとして機能するアンプである。以下、第2アンプ270は、メインアンプ270とも称する。メインアンプ270により増幅された信号は処理装置200に有線又は無線を用いて出力される。

増幅部250の設置位置は、眉間部124部分であることが望ましい。なお、増幅部250は、眉間部124に埋め込むようにして設けてもよい。前述したとおり、各電極は可能な限り離間させた方が望ましいが、各電極の設置位置はフレーム120の形状に依存してしまうため、離間させるにしても限界がある。

このため、各電極の電位差が十分な大きさにならない場合があり、各電極で検出された小さい電位を示す眼電図信号にノイズが混入してしまうと、十分な精度の電位を検出することが困難になってしまう。

そこで、実施例においては、検出された眼電図信号にノイズが混入する前に増幅することを目的として、増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられる。例えば、増幅部250は、各電極に近く、フレーム120にスペースが存在する眉間部124部分に設けることが好ましい。これにより、各電極により検出された眼電図信号が電線を通過する間に、ノイズが混入して眼電図信号の精度を低下させるリスクを減らすことができる。

次に、メインアンプ270の前段の位置にバッファアンプ260を設ける理由を、図6を用いて説明する。図6は、バッファアンプ260を設ける理由を説明するための図である。図6に示す例は、第3電極156を用いるが、第1電極152及び第2電極154においても同様である。

第3電極156は、メガネ100を装着した際、人肌に触れるため、グランドとの間に抵抗R₀が存在すると考えてよい。このとき、抵抗R₀は、例えば数100kΩである。また、メインアンプ270には、内部抵抗R₁が存在する。このとき、メインアンプ270として通常のアンプを用いると、内部抵抗R₁は、数10kΩ〜数100kΩである。

ここで、理想的にはメインアンプ270に電流が流れ込まないことであるが、内部抵抗R₁が抵抗R₀よりも小さいと、電流がメインアンプ270側に流れ込む。そうすると、電極の電圧Viとメインアンプ270の電圧Vxとが分圧されて観測されてしまう。そこで、メインアンプ270の前段の位置にバッファアンプ260を設けてメインアンプ270側に電流が流れ込まないようにする。

図7は、実施例における増幅部の構成の他の例を示す図である。図7に示す増幅部は、符号250Aと表記される。増幅部250Aは、バッファアンプ260、メインアンプ270、A/D変換部280、及び無線通信部290を有する。バッファアンプ260及びメインアンプ270は、図5に示す機能と同様であるため、以下では、A/D変換部280及び無線通信部290について主に説明する。

A/D変換部280は、メインアンプ270により増幅された信号をアナログからデジタルに変換する。A/D変換部280は、デジタル変換した信号を無線通信部290に出力する。

無線通信部290は、A/D変換部280により変換されたデジタル信号を、無線通信を用いて処理装置200に送信する。よって、無線通信部290は、送信部として機能する。無線通信部290は、例えばBluetooth(登録商標)及び無線LAN等の無線通信を用いる。また、無線通信部290は、外部装置300にデジタル信号を直接送信してもよい。

なお、実施例では、バッファアンプ260及びメインアンプ270を1つ設ける例を示したが、この場合は各電極からの眼電図信号に対して順番を決めて増幅していけばよい。また、各電極それぞれにバッファアンプ260及びメインアンプ270を設けてもよい。

<外部装置の構成> 次に、外部装置300の構成について説明する。図8は、実施例における外部装置300の構成の一例を示すブロック図である。図8に示すように、外部装置300は、通信部310、記憶部320、及び制御部330を有する。

通信部310は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電図信号を受信する。通信部310は、処理装置200の通信部220から受信した眼電図信号を制御部330に出力する。

記憶部320は、例えば、RAM(Random Access Memory)であり、右眼及び左眼の眼電図信号の極大値及び/又は極小値を記憶する。また、記憶部320は、眼電図信号の差分信号の極大値及び/又は極小値を記憶してもよい。また、極大値又は極小値は、それぞれ所定時間毎の最大値又は最小値でもよい。

例えば、記憶部320は、極大値用のFIFOバッファと、極小値用のFIFOバッファとを有する。FIFOバッファは、極大値または極小値のデータにより記憶容量が一杯になったときは、最も古いデータが消去されて最新のデータが記憶されることにより、記憶領域に記憶されるデータが更新される。また、記憶部320は、後述する検出部340の検出結果を記憶してもよい。

また、記憶部320は、後述する瞬目検出処理や視線移動検出処理をコンピュータに実行させるプログラムを記憶する。以下、瞬目検出処理及び視線移動検出処理をまとめて検出処理とも称す。このプログラムは、インターネット、又はSDカードなどの記録媒体を介して外部装置300にインストールされてもよいし、プリインストールされていてもよい。また、このプログラムを記憶する記憶部は、記憶部320とは別であってもよい。

制御部330は、例えばCPU(Central Processing Unit)であり、各部の制御を行ったり、各種の演算処理を行ったりする。図8に示す例では、制御部330は、取得部332、差分算出部334、極値算出部336、判定部338、検出部340を有する。

取得部332は、対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する。取得される眼電図信号は、右眼及び/又は左眼の眼電図信号であり、垂直方向の眼電図信号などでもよい。取得部332は、例えば、通信部310が受信した眼電図信号を取得すると、この眼電図信号を差分算出部334、判定部338に出力する。

制御部330は、取得された眼電図信号に対し、右眼及び左眼の動きを示す眼電図信号又は差分信号の極大値及び極小値を記憶部320に記憶するようにする。また、制御部330は、所定期間毎に、右眼及び左眼の動きを示す眼電図信号又は差分信号の最大値及び/又は最小値を記憶部320に記憶するようにしてもよい。

所定期間は、例えば200msecとするが、この限りではない。また、所定期間は、時間窓を用いることで重複を許して時間的に変動するようにしてもよい。

差分算出部334は、取得部332により取得された眼電図信号と、この眼電図信号の所定時間前の眼電図信号との差分信号を算出する。所定時間前の眼電図信号とは、例えば、離散的な眼電図信号に対し、取得部332により取得された眼電図信号から4つ前の測定点の眼電図信号とするが、この例に限られない。差分信号を求めることで、後述するように眼電図信号のベースラインの変動を吸収することができる。

極値算出部336は、差分算出部334により算出された差分信号の極大値及び極小値を算出する。極値算出部336は、差分信号の極大値及び極小値を判定部338に出力する。また、極値算出部336は、算出した極大値及び極小値を記憶部320に記憶するようにしてもよい。

判定部338は、極値算出部336により算出された極大値及び/又は極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する。また、判定部338は、取得部332により取得された眼電図信号も用いて所定条件を満たすか否かを判定してもよい。

検出部340は、判定部338により判定された瞬目又は視線移動の検出処理を行う。そのため、検出部340は、瞬目検出部342と、視線移動検出部344とを含む。瞬目検出部342は、瞬目の検出処理として、公知の技術を用いて検出処理を行ってもよいし、後述する検出処理を行ってもよい。視線移動検出部344は、視線移動の検出処理として、公知の技術を用いて検出処理を行ってもよいし、後述する検出処理を行ってもよい。次に、判定部338及び検出部340について詳しく説明する。

≪判定処理≫ 図9は、実施例における判定部338の構成の一例を示すブロック図である。図9に示す判定部338は、極大値と極小値との比に関する所定条件を用いて判定処理を行う第1判定部402と、眼電図信号の第1値から第2値までの時間に関する所定条件を用いて判定処理を行う第2判定部404とを含む。なお、判定処理については、第1判定部402及び第2判定部404のいずれかの条件が用いられてもよいし、両方の条件が満たされる場合に、判定部338は検出処理を判定してもよい。

第1判定部402は、極大値と極小値との比が、第1閾値以上第2閾値以下の所定範囲に含まれる場合、瞬目の検出処理を行うと判定し、この比が所定範囲に含まれない場合、視線移動の検出処理を行うと判定する。なお、極大値と極小値との比とは、例えば、後述する閾値算出部502により算出される閾値を超える極大値又は極小値と、次に現れる極小値又は極大値との比である。極小値は基本的にマイナスの値であるため、比は、マイナスの値になるが、絶対値を取ってもよい。なお、この比は、ピーク比とも称される。

第1判定部402は、ピーク比を用いることで、瞬目検出に適切ではない差分信号に基づいて瞬目をすることを防止する。瞬目検出に適切ではない差分信号とは、極大値の振幅が極小値の振幅よりも十分に大きい信号などである。例えば、ガムを噛むなどの場合に、瞬目検出に適切ではない差分信号が現れる。

他方、適切な瞬目における極大値と極小値との比は、所定範囲に入ることが実験等により知られている。下限となる第1閾値は、例えば−1.7から−1.5であり、上限となる第2閾値は、例えば−0.5から−0.3である。

また、第1判定部402は、ピーク比が、第1閾値よりも小さい第3閾値以下、又は第2閾値よりも大きい第4値以上の場合に、視線移動の検出処理を行うと判定してもよい。視線移動の場合は、上を向いた場合はこのピーク比が大きくなり、下を向いた場合はピーク比が小さくなることが実験等により知られている。このとき、第3閾値は、例えば−2.0であり、第4閾値は−0.1である。

第2判定部404は、極大値又は極小値に関する眼電図信号の値から眼電図信号の所定値までに要する時間に関する所定条件を用いる。例えば、所定条件として、差分信号の極大値に対応する眼電図信号の第1値から、この第1値から所定範囲内に入る眼電図信号の第2値までにかかる時間が、所定時間以内であることとする。

このとき、第2判定部404は、眼電図信号の第1値から第2値までに推移するのに要する時間が、所定時間以内である場合、瞬目の検出処理を行うと判定し、この時間が所定時間以内ではない場合、視線移動の検出処理を行うと判定する。

なお、眼電図信号の極大値から次の極小値までの時間が短いものが瞬目であり、極大値から次の極小値までの時間が長いものが視線移動であることが実験等により知られている。したがって、第2判定部404は、上述したことが判定できるように、眼電図信号の第1値から第2値までの時間差を用いた条件を設定すればよい。

これにより、判定部338は、差分信号又は眼電図信号の極大値や極小値に関する条件に基づいて、瞬目の検出を行うのか、視線移動の検出を行うのかを適切に判断し、検出処理を適応的に切り替えることができる。

また、ピーク比が用いられる場合は、上述した第3又は第4閾値を用いるなどして、外乱などの影響によるノイズを除去し、適切に瞬目検出又は視線移動検出を行うことができる。

≪瞬目検出≫ つぎに、瞬目検出について説明する。図10は、実施例における瞬目検出部342の一例を示すブロック図である。

瞬目検出部342は、眼電図信号を用いた公知の瞬目検出アルゴリズムを用いることができるが、以下では、瞬目判定に用いる閾値を可変にすることで、適切な瞬目が検出可能なアルゴリズムについて説明する。瞬目検出部342は、閾値算出部502を有する。

閾値算出部502は、記憶部320に記憶された極大値及び/又は極小値を用いて閾値を算出する。閾値算出部502は、例えば処理を簡略化するため、極大値又は極小値の絶対値の平均値等から閾値の絶対値を算出してもよい。

また、閾値算出部502は、記憶部320に記憶された極大値を用いて第5閾値を算出し、また、記憶部320に記憶された極小値を用いて第6閾値を算出してもよい。ここで、第5閾値は、眼が垂直方向の上に動いたことを判定するために用いられ、第6閾値は、眼が垂直方向の下に動いたことを判定するために用いられる。これにより、上方向の眼の動き、下方向の眼の動きそれぞれに閾値を設定できるので、適切な閾値判定を行うことができる。

また、閾値算出部502は、第1算出部512及び第2算出部514を有する。第1算出部512は、極大値用のFIFOバッファに記憶されている極大値の平均値及び標準偏差を算出する。また、第1算出部512は、極小値用のFIFOバッファに記憶されている最小値の平均値及び標準偏差を算出する。

第2算出部514は、極大値の平均値及び標準偏差に基づいて第5閾値を算出し、極小値の平均値及び標準偏差に基づいて第6閾値を算出する。これにより、例えば対象者の直近の状態を示す眼電図信号又は差分信号を用いて閾値を設定することができる。また、第5閾値及び第6閾値は、使用者の直近の状態を示す信号の強度に追従して値を変更させることができる。

例えば、第2算出部514は、極大値の平均値に、極大値の標準偏差に係数を乗算した値を加算した値を第5閾値とする。第2算出部514は、極小値の平均値から、極小値の標準偏差に係数を乗算した値を減算した値を第6閾値とする。これにより、適切な閾値を設定することができる。

また、閾値算出部502は、記憶部320に極大値及び/又は極小値が記憶される度に、第5閾値及び第6閾値を更新する。これにより、閾値算出部502は、過去の眼電図信号又は差分信号に基づいて閾値を設定することができるため、眠くなって眼の動きが遅くなり、眼電図信号が弱くなった場合であっても、その弱くなった信号に応じて閾値を設定することができるので、適切に瞬目を検出することができる。閾値算出部502により算出された第5閾値及び第6閾値は、判定部338において、極大値及び極小値の精度を上げるために、これらの閾値を超えた極大値及び極小値を判定するために用いられてもよい。

また、閾値算出部502は、記憶部320に記憶された所定個の極大値の平均を第5閾値としたり、記憶部320に記憶された所定個の極小値の平均を第6閾値としたりしてもよい。また、閾値算出部502は、記憶部320に記憶された極大値及び極小値それぞれの標準偏差を用いて第5閾値及び第6閾値を算出してもよい。

瞬目検出部342は、第2算出部514により算出された第5閾値、及び第6閾値を用いて、眼電図信号又は差分信号から瞬目を検出する。例えば、瞬目検出部342は、第5閾値以上となる記憶部320に記憶された極大値の第1時刻と、第6閾値以下となる記憶部320に記憶された極小値の第2時刻との差分が所定時間以内であれば、瞬目を検出する。ここで、第2時刻は、第1時刻以降であって直近の時刻とする。所定時間は、例えば500msecとするがこの限りではない。

なお、瞬目検出部342は、右眼、左眼それぞれの眼電図信号を用いて瞬目を検出し、所定範囲内のタイミングで両目において瞬目が検出されたときに最終的な瞬目を検出してもよい。また、瞬目検出部342は、右眼と左眼は同様の動きをすることを前提とし、双方の眼電図信号の平均を用いて瞬目を検出してもよい。具体的な眼電図信号を用いた瞬目検出アルゴリズムについては、図15を用いて後述する。

≪視線移動検出≫ 次に、視線移動の検出について説明する。図8に戻り、視線移動検出部344は、公知の方法を用いて視線移動を検出すればよい。例えば、視線移動検出部344は、取得した眼電図信号又は差分信号から右眼電図と、左眼電図とに分けて、右眼電図及び左眼電図で負の電位が示された場合には視線が上を向いたことを検出する。また、視線移動検出部344は、右眼電図及び左眼電図で正の電位が示された場合には視線が下、右眼電図で負の電位が示され左眼電図で正の電位が示された場合には視線が右、右眼電図で正の電位が示され左眼電図で負の電位が示された場合には視線が左に向いたことを検出する。

さらに、視線移動検出部344は、右眼電図が示す電位V1と左眼電図が示す電位V2とを加減算することによって、視線の検出精度を高めることができる。例えば、V1+V2が負であり、V1−V2が略ゼロの場合は、視線が上に向けられたと検出できる。V1+V2が正であり、V1−V2が略ゼロの場合は、視線が下に向けられたと判断できる。V1+V2が略ゼロであり、V1−V2が負の場合は、視線が右に向けられたと判断できる。V1+V2が略ゼロであり、V1−V2が正の場合は、視線が左に向けられたと判断できる。V1とV2とを加減算することにより、算出される正の値及び負の値が大きくなる。したがって、その分閾値を大きく設定することができるので、ノイズを誤って視線移動として検出してしまう誤検出を低減できる。

<具体例> 次に、眼電図信号や差分信号の具体例を用いて判定処理や検出処理について説明する。図11は、眼電図信号の一例を示す図である。図11に示すグラフにおいて、縦軸の眼電強度は、眼電位の強度を示す単位であり、例えば眼電図信号の計測値×1.5(V)÷2048などで表される。横軸は時間である。

図11に示す眼電図信号S1は、ベースとなる眼電図信号の強度が大きく変動している。そのため、上述した閾値算出部502により算出される第5閾値及び/又は第6閾値が、ベースとなる眼電図信号S1の強度に影響を受けて大きく変動してしまい、適切な閾値を設定することが困難な場合がある。

そこで、ベースとなる眼電図信号S1の強度の変動に影響を受けないようにするため、眼電図信号S1の差分信号が用いられるとよい。

図12は、差分信号の一例を示す図である。図12に示す差分信号S2は、ベースとなる差分信号の強度がほぼ一定である。よって、閾値算出部502は、この差分信号S2を用いて閾値を算出すれば、ノイズの影響等を小さくし、適切な閾値を算出することが可能になる。

図13は、ピーク比を用いた判定処理を説明するための図である。図13に示す例では、差分信号S3を用いて第5閾値TH1、第6閾値TH2が算出されている。

このとき、極大値が第5閾値以上、次の極小値が第6閾値以下の場合に、基本的に瞬目と検出されてもよいが、ガムを噛むなどの場合にも瞬目として検出されてしまう場合がある。

そこで、実施例では、極大値と、その極大値の次の極小値とのピーク比に着目し、このピーク比が所定範囲に入っていれば瞬目の検出処理が行われるようにする。図13に示す例では、符号Pにおける極大値のところは、ピーク比が所定範囲に含まれ、さらに、極大値が閾値を超えているため、瞬目として検出される。他方、符号Eにおける極大値のところは、極大値が閾値を超えているが、ピーク比が所定範囲に含まれないために、瞬目として検出されない。なお、瞬目の検出処理における判定は、判定部338によるピーク比判定と、瞬目検出部342による閾値判定とがあるが、これらは順不同であり、閾値判定を先に行って、次にピーク比判定をしてもよく、また両判定が並行して判定されてもよい。

図14は、時間差を用いた判定処理を説明するための図である。図14(A)は眼電図信号の一例であり、図14(B)は、図14(A)に示す眼電図信号における差分信号の一例とするが、差分の正確性は問わない。図14に示す例では、視線移動の場合の眼電図信号又は差分信号であるが、視線移動の場合、瞬目と異なり、眼電図信号は極大値から緩やかに下がってくる。実施例では、この緩やかさに着目し、差分信号の極大値に対応する眼電図信号の第1値Q1から、Q1に相当する値の第2値Q2になるまでの時間tが所定条件に用いられる。第1値Q1は、例えば、差分信号が時刻t1の眼電図信号から時刻t2の眼電図信号の差分信号の場合、時刻t1の眼電図信号とするが、時刻t2の眼電図信号でもよい。第2値Q2は、第1値Q1と同じ値でもよいし、第1値にオフセットを加算した値でもよい。

例えば、第2判定部404は、第1値Q1から第2値Q2になるまでの時間tを算出し、この時間tが所定時間以内であるか否かを判定し、時間tが所定時間以内であれば瞬目の検出処理を行うと判定し、時間tが所定時間以内でなければ視線移動の検出処理を行うと判定する。所定時間は、例えば500msecなどであり、事前の実験などにより適切な値が設定されればよい。なお、時間tは、眼電図信号の勾配が緩やかであるか、又は急であるかを判定できればよいので、眼電図信号の極大値から極小値までの時間などでもよい。

次に、瞬目検出のアルゴリズムを具体的な眼電図信号を用いて説明する。図15は、眼の垂直方向の動きを示す眼電図信号の一例を示す図である。図15に示す眼電図信号S4は、片側の眼の垂直方向の動きを示す眼電図信号である。以下に説明する瞬目検出アルゴリズムは、所定期間の極大値及び極小値を用いて閾値を算出する場合のアルゴリズムである。

(1)所定期間ごとの最大値、最小値を求める 制御部330は、眼電図信号S4の所定期間T1(例えば500msec)ごとの最大値、最小値を求める。

(2)最大値が極大値である場合、第1FIFOバッファに保存する 制御部330は、(1)で求めた最大値が極大値である場合、第1FIFOバッファ(記憶部320)に保存する。

(3)最小値が極小値である場合、第2FIFOバッファに保存する 制御部330は、(1)で求めた最小値が極小値である場合、第1FIFOバッファとは別領域の第2FIFOバッファに保存(記憶部320)する。なお、(2)及び(3)について、順序は問わない。以降、第1FIFOバッファ及び第2FIFOバッファをまとめる場合は、単にバッファと称する。図15において、眼電図信号S4上にある黒点は、各期間において極大値又は極小値として検出された値を表す。なお、極大値及び極小値は、微分を用いて、例えば眼電図信号S4の差分信号を用いて求めることができる。

(4)バッファの容量分データが保存されたら、平均値及び標準偏差を算出する 第1算出部512は、第1FIFOバッファに保存されている極大値の平均値(a1)及び標準偏差(b1)を算出する。また、第1算出部512は、第2FIFOバッファに保存されている極小値の平均値(a2)及び標準偏差(b2)を算出する。

(5)閾値を算出する 第2算出部514は、(4)で算出された平均値及び標準偏差を用いて第5閾値及び第6閾値を算出する。第5閾値(Th1)及び第6閾値(Th2)は、以下の式で算出される。 Th1=a1+E×b1・・・式(1) Th2=a2−E×b2・・・式(2) ここで、係数Eは、例えば2とする。 なお、第5閾値(Th1)、第6閾値(Th2)の絶対値に下限値を設定しておいてもよい。これにより、眼のわずかな上下運動を瞬きであると誤検出することを防止することができる。また、係数Eは、信号強度に応じて可変に設定できるようにされてもよい。

図15において、第5閾値の例として、符号TH1で表し、第6閾値の例として符号TH2で表す。図15に示すとおり、眼電図信号の時間経過に伴って、それぞれの閾値が変動し、さらに、眼電図信号の強さ(振幅の大きさ)に追従して閾値が適切に変更される。図15に示す第5閾値TH1と第6閾値TH2は、閾値の変動を概念的に示したものに過ぎない。

(6)第5閾値以上の極大値、及び第6閾値以下の極小値を特定する 検出部340は、(5)で算出された第5閾値以上の極大値を特定する。ここで、閾値判定の対象となる極大値は、第1FIFOバッファに記憶されており、閾値判定がまだされていない極大値である。

また、検出部340は、(5)で算出された第6閾値以下の最小値を特定する。ここで、閾値判定の対象となる極小値は、第2FIFOバッファに記憶されており、閾値判定がまだされていない極小値である。図15において、特定された極大値及び極小値は、四角で囲われた黒点により表される。

(7)瞬目を検出する 検出部340は、特定された極大値毎に、この極大値の第1時刻と、特定された極小値の第2時刻であり、この第1時刻以降の直近の第2時刻との差が、所定時間以内であれば、その眼の上下の動きを瞬目とみなして検出する。

図15において、例えば、特定された極大値の時刻t11と、t11以降で直近に特定された極小値の時刻t21との差が所定時間以内であれば、その眼の動きを瞬目として検出する。所定時間は、例えば500msecとする。

以上、瞬目検出アルゴリズムを説明したが、このアルゴリズムは、あくまでも一例であり、この例に限らない。なお、瞬目、視線移動の検出処理においては、眼電図信号の時間方向の差分信号を用いて上述した処理と同様の処理を行ってもよい。差分信号とは、例えば時間tの眼電図信号から時間tの所定時間前の眼電図信号を減算した信号である。これにより、ノイズ耐性が強い差分信号を用いることで、検出精度を向上させることができる。

<動作> 次に、実施例における外部装置300の動作について説明する。図16は、実施例における瞬目、視線移動の検出処理に関する処理の一例を示すフローチャートである。図16に示すフローチャートは、使用者がメガネ100を装着して、第1電極152、第2電極154、第3電極156及び接地電極が使用者の皮膚に接触した状態であって、外部装置300が瞬目又は視線移動の検出を実行するモードである動作モード(通常モード)に設定された場合に開始する。

図16に示すステップS102で、取得部332は、メガネ100から、眼電図信号を取得する。

ステップS104で、差分算出部334は、取得された眼電図信号と、この眼電図信号の所定時間前の眼電図信号との差分信号を算出する。

ステップS106で、極値算出部336は、差分信号の極大値及び極小値を算出する。また、極値算出部336は、眼電図信号の極大値及び極小値を算出してもよい。

ステップS108で、判定部338は、算出された極大値及び/又は極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する。所定条件の違いについては図17及び図18を用いて後述する。

ステップS110で、瞬目検出部342は、瞬目の検出処理を行う。

ステップS112で、視線移動検出部344は、視線移動の検出処理を行う。

ステップS110及びステップS112の後は、制御部330が、動作モードの終了指示を受けるまで、図16に示す処理が繰り返される。

次に、図17は、実施例におけるピーク比を用いた判定処理の一例を示すフローチャートである。図17に示すステップS202で、第1判定部402は、極大値と極小値とのピーク比を算出する。

ステップS204で、第1判定部402は、ピーク比が、第1閾値以上第2閾値以下の所定範囲に含まれるか否かを判定する。ピーク比が所定範囲に含まれる場合(ステップS204−YES)、処理はステップS110へ進み、ピーク比が所定範囲に含まれない場合(ステップS204−NO)、処理はステップS206へ進む。

ステップS206で、第1判定部402は、ピーク比が第3閾値以下か否かを判定する。ピーク比が第3閾値以下である場合(ステップS206−YES)、処理はステップS112に進み、ピーク比が第3閾値以下ではない場合(ステップS206−NO)、処理はステップS102に進む。なお、ステップS206において、ピーク比が第4閾値以上である場合を判定条件に追加してもよい。また、ステップS206が削除され、ステップS204のNOの後にステップS112に進んでもよい。

次に、図18は、実施例における時間差を用いた判定処理の一例を示すフローチャートである。図18に示すステップS302で、第2判定部404は、極大値に対応する眼電図信号の第1値Q1を取得する。

ステップS304で、第2判定部404は、次に取得される眼電図信号が第2値Q2であるか否かを判定する。次に取得される眼電図信号が第2値Q2である場合(ステップS304−YES)、処理はステップS306に進み、次に取得される眼電図信号が第2値Q2でない場合(ステップS304−NO)、処理はステップS304に戻る。

ステップS306で、第2判定部404は、第2値Q2の時刻t_Q2から、第1値Q1の時刻t_Q1を減算して時間tを算出する。

ステップS308で、第2判定部404は、時間tが所定時間(時間閾値)以内であるか否かを判定する。時間tが所定時間以内である場合(ステップS308−YES)、処理はステップS110に進み、時間tが所定時間以内でない場合(ステップS308−NO)、処理はステップS112に進む。

以上、実施例によれば、瞬目及び視線移動の検出処理を適切に切り替えることができる。また、瞬目検出や視線検出の精度を上げるため、以下の場合には、判定部338による判定処理をキャンセルする。例えば、極大値又は極小値が、瞬目や視線移動の際に現れる値をはるかに超える場合に、判定部338は、その値はノイズであるとして判定処理をキャンセルする。この場合、判定部338は、第5閾値又は第6閾値よりも絶対値の値が大きな値の閾値を設定し、差分信号がこの閾値を超える場合に、判定処理をキャンセルすればよい。また、例えば、閾値算出部502により算出される第5閾値及び第6閾値の絶対値が小さくなりすぎた場合、判定部338は、適切な判定処理ができないとして、判定処理をキャンセルする。この場合、判定部338は、第5閾値及び第6閾値よりも絶対値の値が小さい値の閾値を設定し、差分信号がこの閾値を超えない場合に、判定処理をキャンセルすればよい。

なお、本実施例において、アイウエアがメガネである場合について説明した。しかし、アイウエアはこれに限定されない。アイウエアは、眼に関連する装具であればよく、メガネ、サングラス、ゴーグル及びヘッドマウントディスプレイならびにこれらのフレームなどの顔面装着具又は頭部装着具であってよい。

本実施例において、メガネ100が第3電極156を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、第3電極156を備えなくてもよい。この場合、基準電極を基準とした第1電極152の電位が示す眼電図及び基準電極を基準とした第2電極154の電位が示す眼電図が、外部装置300に送信されればよい。ここで、接地電極を第3電極156の位置に設けて、基準電極としてもよい。また、左モダンに設けられた接地電極を基準電極として用いてもよいし、第1電極152及び第2電極154から離間した位置に、別途設けられた電極を基準電極として用いてもよい。

本実施例において、メガネ100が、リム122と一体になっているノーズパッド140を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、リム122に備え付けられたクリングスと、クリングスに取り付けられたノーズパッド140とを備えてもよい。この場合、ノーズパッド140の表面に設けられた電極は、クリングスを介して、フレームに埋設された電線と電気的に接続される。

本実施例において、第1電極152及び第2電極154をノーズパッド140の中心よりも下側に設ける例を挙げて説明した。しかし、これに限定されない。ノーズパッド140が下側に延伸する延伸部を備え、第1電極152及び第2電極154を延伸部に設けてもよい。これにより、眼及び鼻の位置の個人差によってノーズパッドが眼の真横に位置してしまう使用者であっても、第1電極152及び第2電極154を眼の位置よりも下に接触させることができる。

本実施例において、第3電極156を眉間部124の表面に設ける例を挙げて説明した。しかし、これに限定されない。眉間部124が、上側に延伸する延伸部を備え、延伸部に第3電極156を設けてもよい。またさらに、延伸部と眉間部124との間に延伸部を上下に可動させる可動部を備え、第3電極156の位置を上下に調整可能としてもよい。これにより、眼の位置の個人差によって、第3電極156の接触位置が眼の近傍になってしまう使用者であっても、調整により第3電極156の接触位置を眼から離間させることができる。また、本実施例において、各電極の位置は前述した位置に限られず、眼の垂直方向及び水平方向の動きを示す眼電図信号が取得できる位置に配置されていればよい。

本実施例では、外部装置300の例として、処理装置200と別体の、携帯電話及びスマートフォン等の携帯通信端末やパーソナルコンピュータを挙げて説明した。しかし、これに限定されない。外部装置300は、メガネ100又は処理装置200の「外部」にある装置として設けられるのではなく、処理装置200と一体のユニットとして設けられてもよい。例えば、外部装置300は、アイウエアに一体として設けられる。また、外部装置300の任意の各機能が、処理装置200A(不図示)に設けられてもよい。

例えば、処理装置200Aは、外部装置300の差分算出部334、極値算出部336、及び判定部338、検出部340の各機能を備えてもよい。この場合、処理装置200Aは、上述した処理装置200の場合と同様の効果を奏することができ、さらに、外部装置300との通信エラー等に影響を受けない信号を用いて検出処理を行うことができる。

なお、検出結果の送信については、リアルタイム処理とバッチ処理とがある。リアルタイム処理では、検出結果が取得される度に、検出結果が外部装置300に送信される。また、検出結果とともに眼電図信号等がリアルタイムに外部装置300に送信されてもよい。このリアルタイム処理を行うことで、早期に詳細な分析を外部装置300等で行うことができるようになる。

また、バッチ処理では、所定時間(例えば1分間)ごとに、検出結果が集計され、集計結果が外部装置300に送信される。集計結果は、その間の眼電図信号を含んでもよい。このバッチ処理を行うことで、所定時間ごとに集計結果を送信することになるので、送信回数を減らし、処理装置200Aの消費電力を低減することができる。

また、本実施例では、電線としてシールドケーブルを用いることで、ノイズの混入を防ぐようにしてもよい。

また、本実施例では、図1において3つの電極を用いる構成を例示したが、4つ以上の電極を用いる構成であってもよい。この場合、メガネは、上部電極と、下部電極と、左部電極と、右部電極とを有する。例えば、上部電極及び下部電極は、図1に示すリム122に設けられ、左部電極は、左テンプル130に設けられ、右部電極は、右テンプル130に設けられるが、必ずしもこの位置にある必要はない。なお、これらの電極は、顔の一部に接触しているとする。

4つの電極の例では、上部電極及び下部電極の電圧差により、眼の上下方向を検知することができ、左部電極及び右部電極の電圧差により、眼の左右方向を検知することができる。

以上、本発明について実施例を用いて説明したが、本発明の技術的範囲は上記実施例に記載の範囲には限定されない。上記実施例に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

100 メガネ 120 フレーム 124 眉間部 140 ノーズパッド 152 第1電極 154 第2電極 156 第3電極 200 処理装置 300 外部装置 320 記憶部 330 制御部 332 取得部 334 差分算出部 336 極値算出部 338 判定部 340 検出部