Die Erfindung bezieht sich auf ein Verfahren und auf eine Anordnung zur Modellierung eines Systems mit nicht linearem stochastischem Verhalten, insbesondere eines biologischen Systems, wie beispielsweise dem Insulin-Glukose-Metabolismus, für den, wie auch für andere Systeme, wenig Lerndaten zum Training des neuronalen Netzes zur Verfügung stehen.

Weil Messungen von Einflußgrößen, zur Zustandsbestimmung eines technischen oder physiologischen Systems, teilweise sehr aufwendig und umständlich durchzuführen sind, werden sie häufig nur in unregelmäßigen Zeitintervallen vorgenommen. Diabetiker bestimmen ihren Blutzuckergehalt beispielsweise lediglich 4-5 mal am Tag. Falls man versucht Modelle von derartigen Systemen zu erstellen, so kommt erschwerend hinzu, daß diese sich in hohem Maße nichtlinear und stochastisch verhalten, so daß neuronale Netze für ihre Modellierung geeignet erscheinen. In üblicher Weise werden solche Netze im Free-Running"-Betrieb, auch als Freilaufmodus bezeichnet, eingesetzt, in dem Netzwerkvorhersagen iteriert werden, oder im "Teacher-Forcing Mode", in dem aktuelle Messungen der Zeitreihe, die dem Netz zur Verfügung gestellt wird, die iterierten Werte ersetzen. Beide Ansätze sind problematisch bei solchen Systemen, die sich in hohem Maße stochastisch verhalten und bei denen für die einzelnen Einflußgrößen nur wenig Meßwerte in der Zeitreihe zur Verfügung stehen. Aus dem Stand der Technik [2] ist es bekannt solche Probleme mit Hilfe von stochastischen Modellen anzugehen, in dem man beispielsweise nichtlineare Zustandsraummodelle verwendet. Dabei besteht jedoch das Problem der Vorhersage und des Trainings von fehlenden Meßwerten, dessen analytische Lösung zu derartig komplizierten Integralen führt, daß sie unbehandelbar sind. Alternativ dazu können für die Vorhersage und das Training zustandsabhängige Linearisierungen durchgeführt werden, von denen die populärste der Extended Kalman Filter" ist. Weitere Lösungsmöglichkeiten für derartige Probleme sind aus dem Stand der Technik nicht bekannt.

Die der Erfindung zu Grunde liegende Aufgabe besteht darin, ein Verfahren und eine Anordnung anzugeben, um von Systemen, die sich nichtlinear und stochastisch verhalten und von deren Einflußgrößen wenig Meßwerte zum Training des neuronalen Netzes zur Verfügung stehen, ein gültiges Modell zu erhalten.

Diese Aufgabe wird für das Verfahren gemäß den Merkmalen des Patentanspruches 1 und für die Anordnung gemessen Merkmalen des Patentanspruches 10 gelöst. Weiterbildungen der Erfindung ergeben sich aus den abhängigen Ansprüchen.

Ein Vorteil des erfindungsgemäßen Verfahrens und der erfindungsgemäßen Anordnung besteht darin, daß man durch die Kombination eines linearen Fehlermodells mit einem rekurrenten neuronalen Netz, für Ein- oder Mehrschrittvorhersage einfache Iterationsregeln erhält, mit denen das lineare Fehlermodell verbessert werden kann. Ein weiterer Vorteil besteht darin, daß für das "maximum likelihood learning" das rekurrente neuronale Netz mit Hilfe von Real Time recurrent learning", auch Echtzeit-Lernregel für rekurrente neurronale Netze genannt, trainiert werden kann und daß das lineare Fehlermodell mit Hilfe einer Adaptionsregel trainiert werden kann, die sich der vorwärts-, rückwärts-Kalman-Filter-Gleichungen bedient.

Vorteilhaft werden bei einer Weiterbildung des Verfahrens die angegebenen Systemgleichungen verwendet, da damit ein möglichst geringer Rechenaufwand beim Training und bei der Simulation des Modells verbunden ist.

Vorteilhaft kann bei einer Weiterbildung des Verfahrens das dynamische System des Glukose-Insulin-Metabolismus eines Diabetespatienten modelliert werden, wobei bevorzugt als Einflußgröße der Glukosespiegel des Patienten durch das neuronale Netz und das Fehlermodell modelliert wird, da für diesen Meßwert als Einflußgröße wenig Werte zur Verfügung stehen und sich das gesamte System in hohem Maße stochastisch und nichtlinear verhält.

Vorteilhaft werden bei einer Weiterbildung des Verfahrens für das Training des Modells Zeitreihen von verabreichten Insulindosen, der Essensmenge, körperlicher Ertüchtigung und dem aktuellen, sowie dem vorangegangenen geschätzten Blutzuckerwert zur Verfügung gestellt, da dieses die Einflußgrößen sind, die sich am meisten auf den Blutzuckerspiegel auswirken.

Vorteilhaft weist eine Anordnung zur neuronalen Modellierung eines dynamischen Systems mit nichtlinearem stochastischem Verhalten ein rekurrentes Netz, sowie Mittel zur Fehlermodellierung des Systemfehlers des dynamischen Systems auf, wobei das neuronale Netz mit Hilfe der Differenz aus dem Systemfehler und einem Meßwert, der zum jeweiligen Zeitpunkt der Zeitreihe gemessen wurde, trainiert wird. Auf diese Weise wird sichergestellt, daß das neuronale Netz alle Nichtlinearitäten des Systems lernt.

Vorteilhaft wird in einer Weiterbildung der Anordnung das neuronale Netz als multi-layer perceptron ausgeführt, da sich derartige neuronale Netze besonders gut zur Modellierung von unvollständigen Zeitreihen eignen.

Vorteilhaft wird eine Weiterbildung der Anordnung zur Vorhersage des Blutzuckerwertes eines Diabetespatienten eingesetzt, indem der aktuelle Blutzuckerwert zur Verfügung gestellt wird, da sich mit einer solchen Anordnung derzeit die besten Vorhersageergebnisse erzielen lassen.

Im Folgenden werden Ausführungsbeispiele der Erfindung anhand von Figuren weiter erläutert.

Figur 1

zeigt eine Zeitreihe und den Vorhersagewert in Abhängigkeit verschiedener Iterationsverfahren des neuronalen Netzes.

Figur 2

zeigt die selbe Zeitreihe mit Vorhersagewerten unter Verwendung eines richtigen Fehlermodelles.

Figur 3

zeigt ein Beispiel einer erfindungsgemäßen Anordnung.

Figur 4

zeigt Blutzuckerkurven für verschiedene Modellierungsmethoden.

Figur 5

zeigt die Standardabweichung für eine erfindungsgemäß modellierte Blutzuckerkurve.

Wie Figur 1 zeigt, besteht eine Zeitreihe Z10 für solche Zeitpunkte an denen keine Meßwerte von Einflußgrößen zur Verfügung stehen, wie hier für t=1 bis t=6 aus iterierten Werten, die hier als unausgefüllte Kreise dargestellt sind. Für den Fall daß das Netzwerk in einem Freilaufmodus betrieben wird, würde es den Meßwert zum Zeitpunkt t=7 M70 ignorieren und als Vorhersagewert FR zum Zeitpunkt 8 ausgeben. Wie erkannt werden kann, werden dem neuronalen Netz NN hier die Werte der Zeitreihe zum Zeitpunkt 6 und 7 zur Vorhersage des 8-ten Wertes zur Verfügung gestellt. Für den Fall, daß das neuronale Netz im sogenannten "Teacher-Forcing-Mode" betrieben wird, würde der gemessene Wert M70 für den iterierten Wert zum Zeitpunkt 7 eingesetzt werden. Dies ist nicht die optimale Vorgehensweise, da durch das Wissen über den Meßwert zum Zeitpunkt 7 auch Informationen für die Zeitreihe zum Zeitpunkt 6 zur Verfügung stehen. In diesem Fall ist in der Zeitreihe der Wert V60 geeigneter, als der iterierte Wert.

Wie Figur 2 zeigt, sieht ein vernünftiger Werteverlauf der diesen Sachverhalt berücksichtigt für die Werte 8-13 so aus, daß die Vorhersagen nach dem Meßwert im Nahbereich dieses Meßwertes zu finden sind. Dieses Vorhersageverhalten des Modells kann durch Verwendung eines geeigneten Fehlermodells erreicht werden. Dem Systemmodell des dynamischen Systems liegt dabei die Systemgleichung der Form$${\text{y}}_{\text{t}}{\text{= f}}_{\text{w}}{\text{(y}}_{\text{t-1}}{\text{,...,y}}_{\text{t-N}}{\text{,u}}_{\text{t}}\text{)}$$ zu Grunde. Diese ist von der Ordnung N, mit einer Eingangsgröße u_t wobei f_w(.) ein neuronales Netzwerkmodell darstellt, daß den Parametervektor w aufweist. Gemäß dem Verfahren wird ein Modell mit Zustandsaktualisierungen gemäß folgender Gleichungen vorgeschlagen:$$\begin{array}{c}\begin{array}{c}\begin{array}{}\text{(1)}{\text{y}}_{\text{t}}^{\text{*}}{\text{= f}}_{\text{w}}{\text{(y}}_{\text{t-1}}^{\text{*}}{\text{,...,y}}_{\text{t-N}}^{\text{*}}{\text{,u}}_{\text{t}}\text{)}\end{array}\\ \begin{array}{}\text{(2)}{\text{x}}_{\text{t}}\text{=}\sum_{=\text{i=1}}^{\text{K}} {\text{θ}}_{\text{i}}{\text{x}}_{\text{t-i}}{\text{+ ε}}_{\text{t}}\end{array}\\ \begin{array}{}\text{(3)}{\text{y}}_{\text{t}}{\text{= y}}_{\text{t}}^{\text{*}}{\text{+ x}}_{\text{t}}{\text{= f}}_{\text{w}}{\text{(y}}_{\text{t-1}}^{\text{*}}{\text{,...,y}}_{\text{t-N}}^{\text{*}}{\text{,u}}_{\text{t}}\text{) +}\sum_{=\text{i=1}}^{\text{K}} {\text{θ}}_{\text{i}}{\text{x}}_{\text{t-i}}{\text{+ ε}}_{\text{t}}\text{,}\end{array}\end{array}\end{array}$$ wobei die Meßwertgleichung$${\mathit{\text{z}}}_{\mathit{\text{t}}}\text{=}{\mathit{\text{y}}}_{\mathit{\text{t}}}\text{+}{\mathit{\text{δ}}}_{\mathit{\text{t}}}$$ lautet. Dabei bedeuten ε_t und δ_t additives Rauschen. Hierbei wird die Einflußgröße y_t nun durch die Summe der deterministischen Antwort des rekurrenten neuronalen Netzwerkes y$\genfrac{}{}{0ex}{}{\text{*}}{\text{t}}$ mit dem von einem linearen Systemfehlermodell abgegebenen Systemfehler x_t gebildet. Dieser Sachverhalt ist in der Anordnung in Figur 3 zu erkennen. Das neuronale Netz ist mit NN bezeichnet und das lineare Systemfehlermodell mit L. Weiterhin sind einzelne Summationsstellen S10 und S20 vorhanden und die gesamte Anordnung ist mit A10 bezeichnet. z_t ist dabei eine verrauschte Messung von y_t. Da nur wenige Meßwerte zur Verfügung stehen, sind im einzelnen jene Fälle interessant, in denen y_t mit Sicherheit gemessen werden kann, wobei also die Varianz δ_t=0 ist und solche Fälle, in denen kein Meßwert vorliegt, in denen also die Varianz von ${\text{δ}}_{\text{t}}\text{= ∞}$ ist. Vorteilhaft kann dabei y$\genfrac{}{}{0ex}{}{\text{*}}{\text{t}}$ als deterministischer Eingangswert für das Zustandsraummodell, das aus den Gleichungen 2-3 besteht, angesehen werden. Daraus ergibt sich, daß für eine optimale Einschritt- und Mehrschrittvorhersage des Modells lineare Kalman-Filter-Gleichungen für die Gleichungen (2) bis (3) und die Meßwertgleichung (4) verwendet werden können, bei denen y$\genfrac{}{}{0ex}{}{\text{*}}{\mathit{\text{t}}}$ als deterministischer Eingang eingesetzt wird. In ähnlicher Weise kann das lineare Fehlermodell des Systems trainiert werden, d. h.{θ_i}$\genfrac{}{}{0ex}{}{\text{N}\hfill }{\text{i=1}\hfill }$ Varianz von ε_t, indem eine Fehlermodelladaptionsregel verwendet wird, welche mit vorwärtsrückwärts Kalman-Filter-Gleichungen implementiert wurde. Das deterministische rekurrente neuronale Netz wird dabei mit dem Restfehler adaptiert, der vom linearen Fehlermodell nicht nachgebildet werden kann, d. h.$${\text{target}}_{\text{t}}^{\text{mn}}{\text{= y}}_{\text{t}}^{\text{m}}\text{-}{\widehat{\text{y}}}_{\text{t}}^{\text{linear}}\text{,}$$ wobei y$\genfrac{}{}{0ex}{}{\text{m}}{\text{t}}$ den Meßwert von y_t zur Zeit t darstellt und $\widehat{\text{y}}$$\genfrac{}{}{0ex}{}{\text{linear}\hfill }{\text{t}\hfill }$ den Systemfehler angibt, der vom linearen Fehlermodell geschätzt wurde. Die Anwendung der vorwärts-rückwärts Kalman-Gleichungen wird in einem mathematischen Anhang noch erklärt.

Nachdem das neuronale Modell mit diesem Fehler adaptiert wurde, kann das lineare Fehlermodell mit dem verbleibenden Restfehler trainiert werden, der vom neuronalen Netz nicht adaptiert werden konnte. Diese Verfahrensweise kann solange durchgeführt werden, bis keine weitere Verbesserung erzielt werden kann. Der Vorteil des Verfahrens besteht dabei darin, daß alle nichtlinearen Einflüsse des Systems durch das rekurrente neuronale Netzwerk nachgebildet werden, während das lineare Fehlermodell lediglich das Rauschen des Systems nachbildet, das mit Hilfe von bekannten Lernalgorithmen für lineare Systeme antrainiert werden kann.

Vorteilhaft kann mit dem erfindungsgemäßen Verfahren und mit der erfindungsgemäßen Anordnung eine Vorhersage des Blutzuckerwertes einer Person mit Diabetes mellitus durchgeführt werden. Für solche Modelle gibt es mehrere sinnvolle Anwendungen in der Therapie: es kann benutzt werden um eines Person vor gefährlichen metabolischen Zuständen zu warnen, weiterhin kann das Modell Empfehlungen abgeben, um die Therapie des Patienten zu optimieren und schließlich kann es eingesetzt werden für die Kontrolle einer sogenannten künstlichen Betazelle, die automatisch den Blutzuckerspiegel mit Hilfe von Messungen und Insulingaben steuert. Bevorzugt wird das Systemmodell mit Daten eines Patienten trainiert, die über eine größere Zeitperiode, beispielsweise 6 Monate aufgenommen wurden. Maßgebliche Einflußgrößen für diesen Blutzucker-Insulin-Metabolismus sind im einzelnen die Zeiten und Dosierungsmengen von Insulininjektionen, die Zeiten und Mengen von Essensaufnahmen (Basalinsulin u$\genfrac{}{}{0ex}{}{\text{1}}{\mathit{\text{t}}}$ und Normalinsulin u$\genfrac{}{}{0ex}{}{\text{2}}{\mathit{\text{t}}}$), die Zeiten und Mengen von Essensaufnahme (schnelle u$\genfrac{}{}{0ex}{}{\text{3}}{\mathit{\text{t}}}$, mittlere u$\genfrac{}{}{0ex}{}{\text{4}}{\mathit{\text{t}}}$ und langsame u$\genfrac{}{}{0ex}{}{\text{5}}{\mathit{\text{t}}}$ Kohlehydrate), die Zeitpunkte und Andauer von körperlichen Übungen (regelmäßig u$\genfrac{}{}{0ex}{}{\text{6}}{\mathit{\text{t}}}$ oder intensiv u$\genfrac{}{}{0ex}{}{\text{7}}{\mathit{\text{t}}}$) und der Blutzuckerspiegel y_t (mehrfach am Tag gemessen). Dabei sind u$\genfrac{}{}{0ex}{}{\mathit{\text{j}}}{\mathit{\text{t}}}$, für j=1,...,7 = 0 ausgenommen für den Fall, daß ein Ereignis, wie beispielsweise Essensaufnahme, Insulininjektion oder sportliche Übung stattfindet. Beispielsweise werden diese Daten für 15-minütige Anstände aufgenommen. Von diesen Daten werden beispielsweise die für 43 Tage aufgenommenen 312 Blutzuckermeßwerte zum Training des Modelles eingesetzt und die für die folgenden 21 Tage aufgenommenen 151 Blutzuckermeßwerte zu seiner Validierung. Das bedeutet, daß hierbei mit ca. 93 % fehlenden Daten beim Training umgegangen werden muß.

Dabei ist zu beachten, daß die Einflüsse von Insulin, Essensaufnahme und sportlichen Übungen auf den Blutzuckerspiegel verzögert eintreten und bevorzugt durch lineare Antwortfunktionen der Form$${\text{v}}_{\text{t}}^{\text{j}}{\text{= h}}_{\text{j}}{\text{(u}}_{\text{t}}^{\text{j}}\text{)}$$ modelliert werden, wobei diese den Einfluß der Eingangsgröße u$\genfrac{}{}{0ex}{}{\mathit{\text{j}}}{\mathit{\text{t}}}$ auf den Glukosewert beschreibt. Beispielsweise wird die Antwort v$\genfrac{}{}{0ex}{}{\text{2}}{\mathit{\text{t}}}$ von Normalinsulin u$\genfrac{}{}{0ex}{}{\text{2}}{\mathit{\text{t}}}$ nach der Injektion bestimmt, indem die Diffusion des subkutan injizierten Insulins in den Blutstrom durch drei Abteilungen erster Ordnung in Serien modelliert wird, oder wie beispielsweise durchgeführt, durch eine Antwortfunktion der Form$${\text{v}}_{\text{t}}^{\text{2}}{\text{= h}}_{\text{2}}{\text{(u}}_{\text{t}}^{\text{2}}{\text{) = Σ}}_{\text{τ}}{\text{g}}_{\text{2}}{\text{(t - τ)u}}_{\text{τ}}^{\text{2}}{\text{mit g}}_{\text{2}}{\text{(t) = a}}_{\text{2}}{\text{t}}^{\text{2}}\text{e}{\text{}}^{{\text{-b}}_{\text{2}}\text{t}}\text{.}$$

Die funktionalen Abhängigkeiten für den Verdauungsapparat g_j(.) sind dabei weniger bekannt. Es wird deshalb ebenfalls die Gleichung von obiger Form angenommen. Die Antwortfunktionen g_j(.) beschreiben den Verzögerungseffekt der Eingänge auf den Blutzuckerspiegel. Dabei wird davon ausgegangen, daß die Gleichung der Form g_j(.) ausreicht, um sämtliche Variationen der Verzögerungen der Eingänge abzubilden und das sie an die Physiologie des Patienten durch Variation der einzelnen Parameter a_j, b_j angepaßt werden kann. Um die hochgradig nichtlinearen physiologischen Zusammenhänge zwischen den Antwortfunktionen V$\genfrac{}{}{0ex}{}{\text{j}}{\text{t}}$ und dem Blutzuckerspiegel y_t nachbilden zu können, welcher lediglich wenige Male am Tag bestimmt wird, wird, wie zuvor beschrieben, die Kombination eines linearen Fehlermodells mit einem rekurrenten neuronalen Netz eingesetzt. Dabei wird bevorzugt als f_w(.) ein vorwärtsgerichtetes multi-layer perceptron" als neuronales Netz verwendet, bei dem drei versteckte lagen vorhanden sind. Als die fünf Eingänge des Netzwerkes werden dabei Insulin$${\text{(in}}_{\text{t}}^{\text{1}}{\text{= v}}_{\text{t}}^{\text{1}}{\text{+ v}}_{\text{t}}^{\text{2}}\text{),}$$ Essen$${\text{(in}}_{\text{t}}^{\text{2}}{\text{= v}}_{\text{t}}^{\text{3}}{\text{+ v}}_{\text{t}}^{\text{4}}{\text{+ v}}_{\text{t}}^{\text{5}}\text{),}$$ körperliche Ertüchtigung$${\text{(in}}_{\text{t}}^{\text{3}}{\text{= v}}_{\text{t}}^{\text{6}}{\text{+ v}}_{\text{t}}^{\text{7}}\text{)}$$ und der gegenwärtige und vorherige Schätzwert des Blutzuckerspiegels verwendet. Die Gleichung des nichtlinearen rekurrenten Netzwerkes zweiter Ordnung ist dabei wie folgt:$${\text{y}}_{\text{t}}^{\text{*}}{\text{= y}}_{\text{t-1}}^{\text{*}}{\text{+ f}}_{\text{w}}{\text{(y}}_{\text{t-1}}^{\text{*}}{\text{,y}}_{\text{t-2}}^{\text{*}}{\text{,in}}_{\text{t}}^{\text{1}}{\text{,in}}_{\text{t}}^{\text{2}}{\text{,in}}_{\text{t}}^{\text{3}}\text{).}$$

Für das lineare Fehlermodell wird ebenfalls ein Modell zweiter Ordnung verwendet$${\text{x}}_{\text{t}}{\text{= θ}}_{\text{1}}{\text{x}}_{\text{t-1}}{\text{+ θ}}_{\text{2}}{\text{x}}_{\text{t-2}}{\text{+ ε}}_{\text{t}}$$

Tabelle 1 zeigt dabei die Varianz der verschiedenen Vorhersagemodelle.

Modell

%

Modell

%

mean

0

RNN-TF

18.8

LM

8.9

LM-LEM

31.4

LEM

12.9

RNN-LEM1

43.7

RNN-FR

14.1

RNN-LEM2

44.9

Zunächst wurde das rückwärtsgerichtete neuronale Netz im Freilaufmodus untersucht (RNN-FR). Dabei wurde der Blutzuckerspiegel zur Zeit t als der Ausgang des neuronalen Netzes gemäß$${\widehat{\text{y}}}_{\text{t}}{\text{= y}}_{\text{t}}^{\text{*}}$$ vorhergesagt. Das neuronale Netz wurde dabei im Freilaufmodus beim Training und bei der Vorhersage betrieben. Als Lernregel wurde die Echtzeit-Lernregel für rekurrente neuronale Netze verwendet, sowohl um die Gewichte des neuronalen Netzes anzupassen, als auch die Parameter der Antwortfunktionen g_j (.). Wie erkannt werden kann, erklärt dieses Modell 14.1 % der Varianz. Das rückwärtsgerichtete neuronale Netz im Teacher-Forcing-Modus (RNN-TF)ist dabei identisch zur vorherigen Untersuchung eingesetzt worden mit der Ausnahme, daß die Meßwerte für die iterierten Werte der Zeitreihe eingesetzt wurden, wann immer sie verfügbar waren. Wie aus Tabelle 1 gesehen werden kann, erklärt RNN-TF mit 18.8 % mehr der Varianz. Die Erklärung besteht darin, daß die Information der Meßwerte verwertet wird.

Die Kombination aus rekurrentem neuronalen Netzwerk und linearem Fehlermodell zweiter Ordnung der Form$${\text{y}}_{\text{t}}{\text{= x}}_{\text{t}}{\text{+ y}}_{\text{t}}^{\text{*}}$$ modelliert den Blutzuckerspiegel und ${\text{z}}_{\text{t}}{\text{= y}}_{\text{t}}{\text{+ δ}}_{\text{t}}$ modelliert die Meßwertgleichung, wobei die Varianz von δ_t zu 0 gesetzt wurde für einen Meßwert des Blutzuckerspiegels zum Zeitpunkt t und die Varianz von δ_t zu unendlich gesetzt wird für fehlende Meßwerte. Für ε_t werden unabhängige Gaußverteilungen des Rauschens angenommen. Zur Vorhersage wird die Gleichung im Freilaufmodus des Netzes iteriert. Der Blutzuckerspiegel zum Zeitpunkt t wird dabei durch einen linearen Kalmanfilter geschätzt, der y$\genfrac{}{}{0ex}{}{\text{*}}{\text{t}}$ als deterministischen Eingang in das Zustandsraummodell$${\text{y}}_{\text{t}}{\text{= x}}_{\text{t}}{\text{+ y}}_{\text{t}}^{\text{*}}\text{,}$$ ${\text{z}}_{\text{t}}{\text{= y}}_{\text{t}}{\text{+ δ}}_{\text{t}}$ behandelt. Die Parameter des linearen Fehlermodells (θ₁, θ₂, die Varianz von ε_t) werden dabei durch eine Fehlermodelladaptionsregel angepaßt, die mit Hilfe von vorwarts-rückwärts Kalman-Filtergleichungen implementiert ist, die im mathematischen Erklärungsteil ausgeführt werden. Die Parameter die neuronalen Netzes werden mit derselben Lernregel angepaßt, mit der Ausnahme, daß als Target nun$${\text{target}}_{\text{t}}^{\text{mnn}}{\text{= y}}_{\text{t}}^{\text{m}}\text{-}{\widehat{\text{y}}}_{\text{t}}^{\text{linear}}$$ verwendet wird, wobei y$\genfrac{}{}{0ex}{}{\text{m}}{\text{t}}$ einen Meßwert von y_t zum Zeitpunkt t darstellt und $\widehat{\text{y}}$$\genfrac{}{}{0ex}{}{\text{linear}\hfill }{\text{t}\hfill }$ den Schätzwert des linearen Fehlermodells basierend auf dem linearen Kalman-Filter angibt. Die Adaption des linearen Fehlermodells und des neuronalen Netzwerkes wird dabei alternierend solange durchgeführt, bis sich keine entscheidende Verbesserung mehr in der Leistungsfähigkeit des Modells ergibt.

Wie Tabelle 1 weiter zeigt, erreicht dieses Modell RNN-LEM2 die beste Leistungsfähigkeit, indem es die Varianz zu 44.9 % erklärt (das Fehlermodell erster Ordnung RNN-LEM1 kommt lediglich auf 43.7 %). Zum Vergleich mit anderen Methoden, wird ebenfalls die Leistungsfähigkeit des linearen Fehlermodells LEM, das alle Eingänge ignoriert, aufgezeigt, und des linearen Modells (LM-FR) das ohne Fehlermodell arbeitet und mit Hilfe der Echtzeitlernregel für rekurrente neuronale Netze trainiert wird. Ebenfalls dargestellt ist das lineare Modell mit dem Fehlermodell (LM-LEM). Dadurch das die nichtlinearen Modell bei weitem bessere Resultate erzielen (RNN-FR, RNN-TF, RNN-LEM), als ihr linearen Gegenstücke, wird bestätigt, daß das System sich in hohem Maße nichtlinear verhält.

Figur 4 zeigt einige Beispiele von Ergebnissen mit den unterschiedlichen Modellen. Sie sind in einem Diagramm D10 zusammengefaßt, das zeigt, wie gut die Unterschiedlichen Modelle K10, K20 und K30 einzelne Meßwerte der Zeitreihe M10, M20 und M30 annähern können. Im Diagramm D10 ist nach oben der Blutglukosegehalt in mg/dl und nach rechts die Zeit in Stunden angegeben. Mit K30 ist der Systemverlauf angegeben, den man durch Modellierung mit dem neuronalen Netzwerk im Freilaufmodus erzielt. Mit dem rekurrenten neuronalen Netzwerk, das im "Teacher Forcing" Modus betrieben und trainiert wird, kann in bezug auf die Meßwerte ein besserer Kurvenverlauf erzielt werden, als mit der Behandlung des Meßwertes im Freilaufmodus, was Kurve K20 veranschaulicht. Der beste Kurvenverlauf ergibt sich durch die Kurve K10, also durch eine Modellierung mit einem linearen Fehlermodell und einem rekurrenten neuronalen Netzwerk in Kombination.

In Figur 5 sind in einem Diagramm D20 nach rechts die Zeit aufgetragen und nach oben die Varianz der Vorhersage in mg/dl. Dargestellt ist diese Signalkurve SIG10 für die Modellierung des Systemverhaltens mit dem linearen Fehlermodell und dem rekurrenten neuronalen Netzwerk in Kombination. Die Varianz der Vorhersage wird dabei mit dem linearen iterierten Kalman-Filter berechnet. Wie Figur 5 weiter zeigt, ist die Standardabweichung um einen Meßwert herum vergleichsweise klein und konvergiert dann gegen einen konstanten Wert. Basierend auf der Vorhersage und der geschätzten Varianz ist es also möglich eine Risikoanalyse für den Diabetiker durchzuführen, um ihn vor gefährlichen metabolischen Zuständen des Blut-Insulin-Metabolismus zu warnen.

Im folgenden werden die mathematischen Grundlagen für die Anpassung und das Training des linearen Fehlermodells dargestellt. Die Modellierung und Beobachtungsgleichungen des allgemeinen Modells ergeben sich zu:$${\text{x}}_{\text{t}}{\text{= θx}}_{\text{t-1}}{\text{+ ε}}_{\text{t}}{\text{\hspace{1em}\hspace{1em}\hspace{1em}z}}_{\text{t}}{\text{= M}}_{\text{t}}{\text{x}}_{\text{t}}{\text{+ δ}}_{\text{t}}$$ wobei θ die K × K Übertragungsmatrix des linearen Fehlermodells mit der K-ten Ordnung darstellt. Die K × 1 Rauschterme ε_t sind dabei unkorrelierte Normalenvektoren mit Mittelwert 0 und der allgemeinen Kovarianzmatix Q. δ_t ist ein m-dimensionaler unkorrelierter Normalenrauschvektor mit Mittelwert 0 und Kovarianzmatix R_t. In grundlegender Weise wird bei diesem Lösungsansatz davon ausgegangen, daß bestimmte Messungen und fehlende Meßwerte als Spezialfälle von verrauschten Messungen zu betrachten sind. Beim Ausgangszustand des Systems wird davon ausgegangen, daß dieser normalverteilt ist mit mittlerem µ und mittlerer Kovarianz Σ.

Zur Beschreibung der Gleichungen für das lineare Fehlermodel zur Maximierung der "likelihood" des Modells wird wie folgt vorgegangen: es werden die geschätzten Parameter zur (r + 1)-sten Iteration des Fehlermodells zu den Werten µ, Σ, θ, Q, definiert, welche die Gleichung$${\text{G(µ,Σ,θ,Q) = E}}_{\text{τ}}{\text{(logL|z}}_{\text{1}}{\text{,...,z}}_{\text{n}}\text{)}$$ maximieren, wobei logL die log-likelihood Funktion der kompletten Daten x₀, x₁,..., x_n, z₁,..., z_n angibt und E_r die wahrscheinliche Erwartung relativ zu einer Dichte angibt, welche die Werte der r-ten Iteration µ(r), Σ(r), θ(r) und Q(r) angibt. Die fehlenden Zielgrößen werden dabei implizit durch die Definition von M_t und R_t modelliert.

Um die durch Gleichung 8 angegebene bedingte Erwartung zu berechnen, wird der folgende Satz von Rekursionsformeln, der die Standard Kalman-Filter-Ergebnisse auswertet, benutzt [1]. Zunächst wird dabei die Vorwärtsrekursion angegeben:$$\begin{array}{c}\begin{array}{c}{\text{x}}_{\text{t}}^{\text{t-1}}{\text{= θx}}_{\text{t}}^{\text{t-1}}\\ {\text{P}}_{\text{t}}^{\text{t-1}}{\text{= θP}}_{\text{t}}^{\text{t-1}}{\text{θ}}^{\text{T}}\text{+ Q}\\ {\text{K}}_{\text{t}}{\text{= P}}_{\text{t}}^{\text{t-1}}{\text{M}}_{\text{t}}^{\text{T}}{\text{(M}}_{\text{t}}{\text{P}}_{\text{t}}^{\text{t-1}}{\text{M}}_{\text{t}}^{\text{T}}{\text{+ R}}_{\text{t}}{\text{)}}^{\text{-1}}\\ {\text{x}}_{\text{t}}^{\text{t}}{\text{= x}}_{\text{t}}^{\text{t-1}}{\text{+ K}}_{\text{t}}{\text{(y}}_{\text{t}}^{\text{*}}{\text{- M}}_{\text{t}}{\text{x}}_{\text{t}}^{\text{t-1}}\text{)}\\ {\text{P}}_{\text{t}}^{\text{t}}{\text{= P}}_{\text{t}}^{\text{t-1}}{\text{- K}}_{\text{t}}{\text{M}}_{\text{t}}{\text{P}}_{\text{t}}^{\text{t-1}}\end{array}\end{array}$$ wobei$${\text{x}}_{\text{0}}^{\text{0}}\text{= µ}$$ und$${\text{P}}_{\text{0}}^{\text{0}}\text{= Σ}$$ gilt. Als nächstes wird die Rückwärtsrekursionsformel angegeben:$$\begin{array}{c}\begin{array}{c}{\text{J}}_{\text{t-1}}{\text{= P}}_{\text{t-1}}^{\text{t-1}}{\text{θ}}^{\text{T}}{\text{(P}}_{\text{t-1}}^{\text{t-1}}{\text{)}}^{\text{-1}}\\ {\text{x}}_{\text{t-1}}^{\text{n}}{\text{= x}}_{\text{t-1}}^{\text{t-1}}{\text{+ J}}_{\text{t-1}}{\text{(x}}_{\text{t}}^{\text{n}}{\text{- θx}}_{\text{t-1}}^{\text{t-1}}\text{)}\\ {\text{P}}_{\text{t-1}}^{\text{n}}{\text{= P}}_{\text{t-1}}^{\text{t-1}}{\text{+ J}}_{\text{t-1}}{\text{(P}}_{\text{t}}^{\text{n}}{\text{- P}}_{\text{t}}^{\text{t-1}}{\text{)J}}_{\text{t-1}}^{\text{T}}\\ {\text{P}}_{\text{t-1,t-2}}^{\text{n}}{\text{= P}}_{\text{t-1}}^{\text{t-1}}{\text{J}}_{\text{t-2}}^{\text{T}}{\text{+ J}}_{\text{t-1}}{\text{(P}}_{\text{t,t-1}}^{\text{n}}{\text{- θP}}_{\text{t-1}}^{\text{t-1}}{\text{)J}}_{\text{t-2}}^{\text{T}}\end{array}\end{array}$$ mit der Initialisierung$${\text{P}}_{\text{n,n-1}}^{\text{n}}{\text{= (I - K}}_{\text{n}}{\text{M}}_{\text{n}}{\text{)θP}}_{\text{n-1}}^{\text{n-1}}\text{.}$$ Dabei bildet eine Vorwärts- und eine Rückwärtsrekursion den Fehlerschritt des Fehlermodellierungs-Algorithmus. Um daraus den Modellierungsschritt zu erhalten, werden die bedingten Wahrscheinlichkeiten in Gleichung 8 zu folgenden Gleichungen umgebildet:$$\begin{array}{c}\begin{array}{c}\text{G = -}\frac{\text{1}}{\text{2}}\text{log|Σ|-}\frac{\text{1}}{\text{2}}{\text{tr{Σ}}^{\text{-1}}{\text{(P}}_{\text{0}}^{\text{n}}{\text{+ (x}}_{\text{0}}^{\text{n}}{\text{- µ)(x}}_{\text{0}}^{\text{n}}{\text{- µ)}}^{\text{T}}\text{)}}\\ \text{-}\frac{\text{n}}{\text{2}}\text{log|Q|-}\frac{\text{1}}{\text{2}}{\text{tr{Q}}^{\text{-1}}{\text{(C - Bθ}}^{\text{T}}{\text{- θB}}^{\text{T}}{\text{- θAθ}}^{\text{T}}\text{)}}\\ \text{-}\frac{\text{n}}{\text{2}}{\text{log|R}}_{\text{t}}\text{|-}\frac{\text{1}}{\text{2}}{\text{tr{R}}_{\text{t}}^{\text{-1}}{\text{Σ}}_{\text{t=1}}^{\text{n}}{\text{[(y}}_{\text{t}}^{\text{*}}{\text{- M}}_{\text{t}}{\text{x}}_{\text{t}}{\text{)(y*}}_{\text{t}}{\text{- M}}_{\text{t}}{\text{x}}_{\text{t}}{\text{)}}^{\text{T}}{\text{+ M}}_{\text{t}}{\text{P}}_{\text{t}}^{\text{n}}{\text{M}}_{\text{t}}^{\text{T}}\text{]}}\end{array}\end{array}$$ wobei tr{.} die Spur angibt, und$$\begin{array}{c}\begin{array}{c}{\text{A = Σ}}_{\text{t=1}}^{\text{n}}{\text{(P}}_{\text{t-1}}^{\text{n}}{\text{+ x}}_{\text{t-1}}^{\text{n}}{\text{x}}_{\text{t-1}}^{\text{T}}\text{),}\\ {\text{B = Σ}}_{\text{t=1}}^{\text{n}}{\text{(P}}_{\text{t,t-1}}^{\text{n}}\text{+ x}{\text{}}_{\text{t-1}}^{{\text{n}}^{\text{T}}}{\text{) und C = Σ}}_{\text{t=1}}^{\text{n}}{\text{(P}}_{\text{t}}^{\text{n}}{\text{+ x}}_{\text{t}}^{\text{n}}\text{x}{\text{}}_{\text{t}}^{{\text{n}}^{\text{T}}}\text{)}\end{array}\end{array}$$ gelten. ${\text{θ(r + 1) = BA}}^{\text{-1}}$ und ${\text{Q(r + 1) = n}}^{\text{-1}}{\text{(C - BA}}^{\text{-1}}{\text{B}}^{\text{T}}\text{)}$ maximieren dabei die logarithmische Wahrscheinlichkeitsgleichung 11. µ(r+1) wird zu n$\genfrac{}{}{0ex}{}{\text{n}}{\text{0}}$ gesetzt und Σ kann auf einen vernünftigen Grundwertpegel gesetzt werden. Die Ableitung dieser Gleichungen ergibt sich aus [3]. Die E- (vorwärts und rückwärts Kalman-Filter-Gleichungen) und die M-Schritte werden alternierend wiederholt bis sie gegen eine Fehlermodellösung konvertieren.

Literatur

• [1] Jazwinski, A. H. (1970) Stochastic Processes and Filtering Theory, Academic Press, N.Y.
• [2] Lewis, F. L. (1986) Optimal Estimation, John Wiley, N.Y.
• [3] Shumway, R. H. and Stoffer, D. S. (1981) Time Series Smoothing and Forecasting Using the EM Algorithm, Technical Report No. 27, Division of Statistics, UC Davis.
• [4] Tresp, V., Moody, J. and Delong, W.-R. (1994) Neural Modeling of Physiological Processes, in comput. Learning Theory and Natural Learning Sys. 2, Hanson et al., eds., MIT Press.