|
|
|
Geanuigkeits- /Berechnungsfehler |
|
| JN78 |
Forum-Fortgeschrittener
|
 |
Beiträge: 69
|
|
|
|
Anmeldedatum: 18.05.09
|
|
|
|
Wohnort: Stuhr
|
|
|
|
Version: R2010b, R2011a
|
|
|
|
 |
|
Verfasst am: 20.09.2010, 08:59
Titel: Geanuigkeits- /Berechnungsfehler
|
 |
Moin,
ich hab nen echtes Problem und bracuhe dringend Hilfe.
Also ich hab mehrere Vektoren mit Messwerten, die ich in eine andere Einheit umrechnen möchte.
Das sollte ansich nicht wirklich schwierig sein, nur leider stimmen die Ergebnisse nicht.
Wenn ich das mit x=0.0120 im CommandWindow mache, dann erhalte ich als Ergebnis 0 was auch korrekt ist und so erwartet wird.
Hole ich mit jedoch einen Wert aus dem Vektor z.B. x(9)=0.012 dann erhalte ich nicht 0, sondern
und das stellt eich echtes Problem dar, da ich nun für alles folgenden Berechnungen einen Offset von 0.0575 habe.
Wäre super wenn mir jemand erklären könnte warum das so ist, und wie ich das beheben kann.
Danke Gruß Jan
|
|
|
|
|
|
| Ajax |
Forum-Century
|
|
Beiträge: 176
|
|
|
|
Anmeldedatum: 09.09.10
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
|
|
|
Verfasst am: 20.09.2010, 09:22
Titel:
|
|
Das kann eigentlich nicht sein. Bist du dir bei dem Zugriff auf den Vektor x sicher, dass die Zahl 0.0120 an der Stelle 9 steht? Matlab fängt ja bekanntlich bei 1 an zu zählen, vielleicht greifst du auf die falsche Zahl zu.
mfg
|
|
|
|
| JN78 |
Themenstarter
Forum-Fortgeschrittener
|
|
Beiträge: 69
|
|
|
|
Anmeldedatum: 18.05.09
|
|
|
|
Wohnort: Stuhr
|
|
|
|
Version: R2010b, R2011a
|
|
|
|
|
|
|
Verfasst am: 20.09.2010, 10:11
Titel:
|
|
Ne das passt schon:
x(9) = 0.0120
|
|
|
|
| Ajax |
Forum-Century
|
|
Beiträge: 176
|
|
|
|
Anmeldedatum: 09.09.10
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
|
|
|
Verfasst am: 20.09.2010, 10:15
Titel:
|
|
|
Puh... ehrlich gesagt bin ich überfragt. Wenn ich es einfach so eintippe, dann klappt es natürlich. Kannst du ein bißchen von deinem Code posten? Vielleicht hilft das weiter...
|
|
|
|
| JN78 |
Themenstarter
Forum-Fortgeschrittener
|
|
Beiträge: 69
|
|
|
|
Anmeldedatum: 18.05.09
|
|
|
|
Wohnort: Stuhr
|
|
|
|
Version: R2010b, R2011a
|
|
|
|
|
|
|
Verfasst am: 20.09.2010, 10:57
Titel:
|
|
So, es scheint an der Genauigkeit der Zahlen zu liegen.
Die 0.0120 sind nicht genau 0.0120 sondern haben noch diverse weitere Nachkommastellen. ICh denke ich könnte mein Problem lösen wenn ich einfach den Rest abschneide. Weiß wer wie ich das machen kann?!
|
|
|
|
| Ajax |
Forum-Century
|
|
Beiträge: 176
|
|
|
|
Anmeldedatum: 09.09.10
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
|
|
|
Verfasst am: 20.09.2010, 14:10
Titel:
|
|
Es gibt sicher eine schönere Methode, aber einfach geht es auch so:
|
|
|
|
| JN78 |
Themenstarter
Forum-Fortgeschrittener
|
|
Beiträge: 69
|
|
|
|
Anmeldedatum: 18.05.09
|
|
|
|
Wohnort: Stuhr
|
|
|
|
Version: R2010b, R2011a
|
|
|
|
|
|
|
Verfasst am: 20.09.2010, 20:00
Titel:
|
|
|
|
|
|
|
|
Einstellungen und Berechtigungen
|
|
Du kannst Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.
Du kannst Dateien in diesem Forum posten
Du kannst Dateien in diesem Forum herunterladen
|
|
Impressum
| Nutzungsbedingungen
| Datenschutz
| FAQ
|  RSS
Hosted by:
Copyright © 2007 - 2025
goMatlab.de | Dies ist keine offizielle Website der Firma The Mathworks
MATLAB, Simulink, Stateflow, Handle Graphics, Real-Time Workshop, SimBiology, SimHydraulics, SimEvents, and xPC TargetBox are registered trademarks and The MathWorks, the L-shaped membrane logo, and Embedded MATLAB are trademarks of The MathWorks, Inc.
|
|
