Die Hauptkomponentenanalyse in JAG3D bestimmt aber die Achsen des Fehlerhyperellipsoids aller Parameter und entspricht damit bereits Deiner Anregung und ist in JAG3D integriert.

Hallo Micha, stimmt, die gibt es ja auch noch. Mit der Tabelle bekommt man zumindest einen ersten Überblick. In einer zusätzlichen vierten Spalte würde ich mir die akkumulierte Summe der dritten Spalte wünschen, damit man auch ohne Taschenrechner gleich sieht, wie viele Eigenvektoren man braucht, um z.B. 95% oder 99% der Gesamtvarianz zu erklären. Bei meinem Projekt sind das doch ungefähr 25. Mehr als ich dachte. Der erste (der ja auch im Netzplot als blauer Pfeil visualisiert wird) macht bei mir nur 41% aus (daher fallen Pfleilrichtung und -Länge auch sehr variabel aus).

Das ist nicht so einfach mit der Darstellung, da zu jedem Eigenwert ein Eigenvektor mit N-Elementen vorliegt.

Ja, natürlich sind die Eigenvektoren einer NxN-Matrix ebenfalls N-dimensioinal. Die x- und y-Achse des Koordinatensystems eines Lagepunktes bilden eine Ebene. Eine (bijektive) Abbildung dieser Ebene existiert auch im N-dimensionalen Raum der Eigenvektoren und ist dort ebenfalls eine 2D-Ebene, die i.d.R. irgendwie schief im Raum liegen wird. Jeder Lagepunkt hat seine eigene x,y Ebene, weil er auch im N-dimensionalen Parameter-Vektor zwei separate Dimensionen beansprucht.

Wie soll der auf eine bspw. Ellipse reduziert werden?

Ich dachte einfach an eine orthogonale Projektion aller Punkte des Hyperellipsoids auf jene 2D-Ebene im N-dimensionalen Raum, die der x,y Ebene des betrachteten Lagepunktes entpricht. Dann müssten die projizierten Punkte in dieser Ebene in einer Ellipse liegen. Für ein Ellipsoid denke ich, dass die Projektion der Ellipsengleichung auch analytisch berechenbar ist, ich habe aber keine Algorithmus bei der Hand.

Machst Du nicht genau dasselbe bereits für einen einzelnen Vektor des N-dimensionalen Raums, wenn Du den blauen Pfleil zeichnest?

Wir haben kürzlich für eine Formschätzung mal das Konfidenzintervall eines Ring-Fokus-Parabolids abgeschätzt. Der hierbei entstehende Berich ist noch 3D (und nicht N-D) und dennoch kein Ellipsoid, siehe Abbildung 10 im Artikel.

Gefällt mir Hier hattest Du natürlich mit einer sehr speziellen Verteilungsfunktion zu tun. Solange man von Normalverteilung ausgeht, werden die Konfidenzbereiche (Hyper)Ellipsoide, Ellipsen und Strecken sein.

Apropos Bootstrapping [wieso lässt mich die Forumsoftware das Wort nicht eingeben? Das ist doch kein böses Wort?] - das wäre natürlich auch ein interessantes Feature für JAG3D. Es würde ermöglichen, direkt mit der Verteilungsfunktion und den tatsächlichen Größen der Residuen zu "arbeiten". Derzeit bekomme ich ja z.B. zu große oder zu kleine Ellipsen, wenn der Varianzfaktor von 1 abweicht - die tatsächlichen Residien werden hier nicht berücksichtigt. Resampling der Beobachtungen erscheint mir eher kein gangbarer Weg für diesen Use Case, weil die Beobachtungen heterogen sind, aber es gibt ja auch noch den Wild Bootstrap.

Viele Grüße
Gerhard

Die x- und y-Achse des Koordinatensystems eines Lagepunktes bilden eine Ebene. Eine (bijektive) Abbildung dieser Ebene existiert auch im N-dimensionalen Raum der Eigenvektoren und ist dort ebenfalls eine 2D-Ebene, die i.d.R. irgendwie schief im Raum liegen wird. Jeder Lagepunkt hat seine eigene x,y Ebene, weil er auch im N-dimensionalen Parameter-Vektor zwei separate Dimensionen beansprucht.

Ich weiß nicht ob ich mich hier klar genug ausgedrückt habe. Ich meine, zu jedem Parameter gibt es einen (N-dimensionaler) Richtungsvektor im Eigenvektorraum der Kovarianzmatrix. Ein 2D-Lagepunkt, der aus 2 Parametern besteht, hat somit zwei Richtungsvektoren im Eigenvektorraum, und diese bilden dort eine Ebene.

Solange man von Normalverteilung ausgeht,

Zusatz: ... und ein linearisierten Modell annimmt ...

werden die Konfidenzbereiche (Hyper)Ellipsoide, Ellipsen und Strecken sein.

Mit Bootstrapping wäre man auch nicht mehr auf das linearisierte Modell festgelegt. Allerdings braucht man m.E. zum brute-force Bootstrappen von Konfidenzbereichen schon verdammt viele Samples, speziell wenn es nicht nur bescheidene 95%, sondern z.B. gleich 99.9% oder noch mehr sein sollen. Wenn man nur die Momente der Verteilungsfunktion schätzen möchte, reichen hingegen auch weniger.

Viele Grüße
Gerhard