|
|
|
Error using ==> bitand !!! Plz hlp. |
|
| kuchi |
Gast
|
 |
Beiträge: ---
|
|
|
|
Anmeldedatum: ---
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
 |
|
Verfasst am: 08.08.2011, 08:28
Titel: Error using ==> bitand !!! Plz hlp.
|
 |
Hallo,
wenn ich folgenden Programmcode einfüge bekomme ich immer einen Fehler:
??? Error using ==>bitand
Inputs must be non-negative integers
hingegen wenn ich folgendes eingebe:
läuft die Sache fehlerfrei durch!!!
Wer kann helfen. Ich stehe auf dem Schlauch...
Vielen DANK schonmal für eure Bemühungen!!!
|
|
|
|
|
|
| eupho |
Forum-Meister
|
|
Beiträge: 777
|
|
|
|
Anmeldedatum: 07.01.09
|
|
|
|
Wohnort: Marburg
|
|
|
|
Version: R2009b
|
|
|
|
|
|
|
Verfasst am: 08.08.2011, 08:36
Titel:
|
|
|
Sowohl 1.1 als auch 1.2 sind Floating-Point Zahlen (double) und sind nur auf 1.1 bzw. 1.2 gerundet (mit etwa 15 Nachkommastellen). Wendest du mathematische Operationen darauf an, ist das Ergebnis (in dem Fall 1.1 * 100) auch eine Floating-Point und KEINE Integer. Im einfachsten Fall rundest du mit round(1.1*100).
|
|
|
|
| Andreas Goser |
Forum-Meister
|
|
Beiträge: 3.654
|
|
|
|
Anmeldedatum: 04.12.08
|
|
|
|
Wohnort: Ismaning
|
|
|
|
Version: 1.0
|
|
|
|
|
|
|
Verfasst am: 08.08.2011, 08:54
Titel:
|
|
Zusatzinfo, warum es manchmal geht: Wenn das DOUBLE Ergebnis sehr nahe am ganzen Wert ist (EPS), dann erkennt MATLAB den Unterschied nicht.
Ganz wichtig in allen Ingenieurwissenschaften: Immer an die Datentypen denken (und Überlauf...).
Andreas
|
|
|
|
| kuchi |
Gast
|
|
Beiträge: ---
|
|
|
|
Anmeldedatum: ---
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
|
|
|
Verfasst am: 08.08.2011, 08:55
Titel:
|
|
|
Ahh... super DANKE, hat funktioniert!!!
|
|
|
|
|
|
|
Einstellungen und Berechtigungen
|
|
Du kannst Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.
Du kannst Dateien in diesem Forum posten
Du kannst Dateien in diesem Forum herunterladen
|
|
Impressum
| Nutzungsbedingungen
| Datenschutz
| FAQ
|  RSS
Hosted by:
Copyright © 2007 - 2025
goMatlab.de | Dies ist keine offizielle Website der Firma The Mathworks
MATLAB, Simulink, Stateflow, Handle Graphics, Real-Time Workshop, SimBiology, SimHydraulics, SimEvents, and xPC TargetBox are registered trademarks and The MathWorks, the L-shaped membrane logo, and Embedded MATLAB are trademarks of The MathWorks, Inc.
|
|
