Some asymptotic theory for the estimation of linear systems using maximum likelihood methods or subspace algorithms

Dietmar Bauer

Betreuer: Prof. Manfred Deistler
Fertiggestellt: Dezember 1998
Dissertation im PDF-Format

Diese Dissertation befaßt sich mit der Schätzung von linearen, zeit-invarianten, endlich dimensionalen Zustandsraummodellen. Die Daten hierbei bestehen aus einer Anzahl von quantitativen Beobachtungen möglicherweise mehrerer Größen, wobei die Beobachtungen in zeitlich konstanten Abständen gemessen werden. Für diese Klasse von Daten stellen die linearen Zustandsraummodelle eine häufig verwendete Modellklasse dar, die sowohl in den Ingenieurwissenschaften als auch zum Beispiel in der Ökonometrie, der medizinischen Statistik und der Ökologie Anwendungen findet. Die Standardmethode zur Schätzung solcher Zustandsraummodelle stellt die Maximum-Likelihood (ML) Methode dar. Die asymptotischen Eigenschaften der ML Schätzer wurden erschöpfend erforscht: Sie sind konsistent und asymptotisch effizient für die gewöhnlichen Annahmen an den Prozeß. Für die Implementierung der ML Methode muß eine Parametrisierung aller Systeme gegebener Ordnung benutzt werden. Die topologischen Eigenschaften dieser Parametrisierung beeinflussen die Eigenschaften der Schätzer wesentlich. Der erste Teil dieser Dissertation beschäftigt sich mit der Analyse der topologischen Eigenschaften von sogenannten balanzierten Parametrisierungen. Für diese Art von Parametrisierungen wird eine Zerlegung der Menge aller Systeme der Ordnung n präsentiert, sodaß jedes Teilstück dieser Zerlegung stetig parametrisiert werden kann. Die topologischen Eigenschaften dieser Stücke sowie deren Abschlusses werden untersucht, und schlie"slich auch die Struktur der Parameterräume sowie deren Ränder. Abschließend werden die balanzierten Parametrisierungen mit den Echelon Parametrisierungen verglichen. Einige dieser Ergebnisse werden auf den Fall von 'strictly-minimum-phase' Systemen übertragen: In dieser Hinsicht sind vor allem die Parametrisierung, sowie die Eigenschaften der Abschlüsse der Teilstücke der Menge aller Systeme der Ordnung n zu nennen. In diesem Kapitel werden auch 'frequenz-gewichtet balanzierte' Systeme untersucht und deren Modellreduktions- Eigenschaften vorgestellt. Das Kapitel beenden einige bekannte Resultate bezüglich der asymptotischen Eigenschaften der ML Schätzer, sowie Hinweise zur tatsächlichen Implementierung der ML Prozedur. Der zweite Teil der Dissertation ist gleichzeitig der Haupteil der Arbeit. Kapitel 3 liefert eine überblicksmäßige Einführung in die sogenannten 'Subspace'-Algorithmen. Diese Algorithmen können grob in 3 Schritte untergliedert werden:

Schätzung eines hochdimensionalen Zustandes
Modellreduktion durch Komprimierung der Information im Zustandsvektor auf n Komponenten
Schätzung der Systemmatrizen

Hierbei wird eine Reihe von Algorithmen besprochen, die allesamt in der Literatur unter 'Subspace'-Algorithmen geführt werden, allerdings relativ unterschiedliche Ansätze benutzen. Das Hauptaugenmerk hierbei liegt im Aufzeigen der Zusammenhänge und Unterschiede der einzelnen Prozeduren. Am Ende des Kapitels wird dann jene Klasse von Algorithmen beschrieben, welche im 4.Kapitel genau analysiert wird. Das 4. Kapitel präsentiert das Hauptresultat dieser Dissertation, asymptotische Normalverteilung der geschätzten Systemmatrizen. Dieses Resultat wird für eine Reihe von Situationen hergeleitet, wobei der Fall ohne exogene Inputs genauso behandelt wird wie der Fall der Berücksichtigung exogener Inputs. Auch jene Klasse von Algorithmen, welche die Struktur der den Zustandsraumsystemen zugrundeliegenden Rekursionen noch stärker für die Schätzung benutzt, wird behandelt. Kapitel 5 beschäftigt sich dann mit den Auswirkungen der Wahl von bestimmten Designvariablen, die der Benutzer im Algorithmus wählen muß. Dabei werden vor allem Ordnungsschätzprozeduren entwickelt, die sich aus den Ergebnissen von Kapitel 4 als naheliegend erweisen. Für alle neu entwickelten Ordnungsschätzer wird Konsistenz bewiesen. Anschlie"send werden die neuen Prozeduren mit den bereits vorhandenen in Simulationsstudien verglichen. Weiters wird die Wahl von Gewichtsmatrizen untersucht. So wird die Verteilung der Systemmatrizenschätzer hergeleitet in dem Fall, daß die Ordnung, die für die Schätzung benutzt wird niedriger ist als die wahre Ordnung des Systemes. Dieses Resultat beinhaltet auch ein Konsistenzresultat, wobei das für das Grenzsystem, gegen welches die Schätzer für Anzahl der Beobachtungen gegen unendlich konvergieren, explizite Formeln angegeben werden können. Berechnungen für eine Anzahl von Systemen zeigen den Effekt von unterschiedlichen Wahlen der Gewichtsmatrizen auf die asymptotische Varianz der Schätzer und den asymptotischen Approximationsfehler bei zu geringer Wahl der Ordnung des geschätzten Systemes. Schließlich werden Möglichkeiten aufgezeigt, um die Stabilität beziehungsweise die 'Minimum-phase' Eigenschaft des geschätzten Systemes zu garantieren. Kapitel 6 benutzt die Ergebnisse aus Kapitel 4, um die asymptotische Verteilung für einige andere 'Subspace' Algorithmen zu klären. Erneut bildet der Beweis der asymptotischen Normalverteilung das zentrale Resultat.