|
|
|
Komplexität multiple lineare Regression |
|
| DommeAC |
Forum-Newbie
|
 |
Beiträge: 1
|
|
|
|
Anmeldedatum: 27.07.09
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
 |
|
Verfasst am: 27.07.2009, 18:27
Titel: Komplexität multiple lineare Regression
|
 |
Hallo!
Ich führe eine einfache multiple lineare Regression durch. Verwendet man die Minimierung des quadratischen Fehlers als Optimierungskriterium lässt sich die simple "Links-Division" hierfür verwenden.
Konkret:
X sei eine n*p-Matrix (n p-dimensionale Beobachtungen) und
Y sei der Vektor von Ausprägungen der abhängigen Variablen (also n*1).
Dann lässt sich die im obigen Sinne optimale Gewichtung der p Einzel-Faktoren durch
b = X\Y
berechnen.
Meine Frage ist: Wie komplex ist das? Betrachtet man die Lösungformel
b = (X'X)^-1 * X' * Y
so würde eine direkte Implementation eine (fast-)kubische Komplexität bedeuten. Praktische Versuche mit Matlab deuten aber darauf hin, dass das signifikant schneller geht.
Aus den Beschreibungen zu mldivide bin ich nicht wirklich schlau geworden?
Irgendwelche Ideen?
Besten Dank und beste Grüße,
Dominik
|
|
|
|
|
|
| Marie Hoffmann |
Gast
|
|
Beiträge: ---
|
|
|
|
Anmeldedatum: ---
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
|
|
|
Verfasst am: 14.01.2011, 13:31
Titel:
|
|
Naiv gerechnet ist der Aufwand tatsächlich kubisch. Es gibt den Algorithmus von Strassen, der schafft das in O(n^{2.3..}), also fast quadratisch, insbesondere wenn n eine 2er Potenz ist. Was den Vergleich mit eingebauten Matlab-Funktionen betrifft, da wäre ich vorsichtig, die sind bzgl. der Kommunikation mit der Hardware der verwendeten Plattform sicherlich optimiert, also nicht nur in algorithmischer Hinsicht, sondern auch in technischer. Aber Matrixmultiplikation lässt sich gut parallelisieren, dafür könnte man mal die Parallel Computing Toolbox von Matlab ausprobieren, vorrausgesetzt, du hast auch ein Mehrprozessorsystem zur Verfügung.
Und noch was, das bestimmen der Inverse ist nicht auch nicht ganz trivial, da muss zunächst eine QR-Zerlegung vorgenommen werden, da ja nicht sicher gestellt sein kann, dass die Ausgangsmatrix auch regulär ist. Das sollte aber die obere Schranke O(n^3) nicht berühren.
Gruß,
Marie
|
|
|
|
|
|
|
Einstellungen und Berechtigungen
|
|
Du kannst Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.
Du kannst Dateien in diesem Forum posten
Du kannst Dateien in diesem Forum herunterladen
|
|
Impressum
| Nutzungsbedingungen
| Datenschutz
| FAQ
|  RSS
Hosted by:
Copyright © 2007 - 2025
goMatlab.de | Dies ist keine offizielle Website der Firma The Mathworks
MATLAB, Simulink, Stateflow, Handle Graphics, Real-Time Workshop, SimBiology, SimHydraulics, SimEvents, and xPC TargetBox are registered trademarks and The MathWorks, the L-shaped membrane logo, and Embedded MATLAB are trademarks of The MathWorks, Inc.
|
|
