Skip to forum
Benachrichtigungen
Alles löschen

Excel Fehlerbild bei Formelberechnung

11 Beiträge
7 Benutzer
1 Reactions
2,161 Ansichten
Addel
Joined: 21.05.2006

Moin zusammen,

ich habe ein Problem und komme nicht weiter.
Bin recht gut mit Excel und VBA vertraut, aber hier weiß ich keine adäquate Lösung.

Ich habe 2 identische Kalkulation bei denen ein Messwert 0,5 vom Target abweicht.
Der Messwert ergibt sich aus einem Anfangs- und Endwert.
Über eine simple Formel prüfe ich, ob die Dauer noch im oder außerhalb des Toleranzbereiches liegt.

Soweit so schlecht. Nun bekomme ich für die exakt gleiche Dauer 2 verschiedene Lösungen von Excel.

Ausgeschlossen werden können Rundungsfehler, da ich die Zahlen in einem neuen Sheet per Hand mit einer Nachkommastelle eingetippt habe.
Dieses Phänomen tritt bei 1000 Messungen nur 2x mal auf. Jedoch hätte eine falsche Anzeige weitreichend Folgen.
Mit der Option "Genauigkeit wie angezeigt" würde es theoretisch funktionieren, ist aber nicht gewünscht, da teilweise auch Werte bis zur 3-4. Kommastelle relevant sind.

Ich habe euch mal ein Bild angehängt.
Ganz rechts stehen die Werte, in der Mitte der Text zur verwendeten Formel in der rechten Spalte und ganz links die Bezeichnung.

Ihr könnt es gerne selbst mal ausprobieren :D

Bin schon gespannt auf euer Feedback.
Ich bin echt ratlos und hoffe, dass ich ein Brett vorm Kopf habe

Vielen Dank im Voraus


Antwort
Zitat
10 replies
cyber1337
Joined: 11.07.2007

Habs grade mal in Excel eingetippt und es sieht identisch aus wie bei dir...verrückt. Helfen kann ich leider nicht, bin aber auf die Lösung (sofern es eine gibt) gespannt.


Antwort
Zitat
cheetah83
Joined: 27.02.2007

Lässt man sich bei der 0,5 mehr Nachkommastellen anzeigen sieht man irgendwann, dass es nicht exakt 0,5 ist. Warum das so ist, kann ich aber auch nicht sagen.


Antwort
Zitat
extrapartner
Joined: 26.09.2007

Lass doch einfach Kommastellen bis zur gewünschten Genauigkeit anzeigen und gehe dann trotzdem über die Option "Genauigkeit wie angezeigt".
Anders lässt sich die abweichende Anzeige scheinbar nicht umgehen.


Antwort
Zitat

Original von cheetah83
Lässt man sich bei der 0,5 mehr Nachkommastellen anzeigen sieht man irgendwann, dass es nicht exakt 0,5 ist. Warum das so ist, kann ich aber auch nicht sagen.

Liegt mit ziemlicher Sicherheit an der Fließkommazahlberechnung, da viele Fälle nicht 100%ig genau als Binärzahl dargestellt werden können gibt es dann am Ende Rundungsfehler.
(Falls es wen Interessiert: https://www.h-schmidt.net/FloatConverter/IEEE754.html <- Da einfach 0.1 eingeben - 0.1 kann nicht endlich in Binär dargestellt werden.)
Wie man genanntes Problem umgehen kann weiß ich nicht, da ich absolut keine Ahnung von VBA Zeug habe. Der Vorschlag von extrapartner klingt aber nicht verkehrt.

Edit: Warum es aber nur manchmal Auftritt liegt dann vermutlich an irgendetwas internem, was die Zahlen dann auswertet.


Antwort
Zitat
Addel
Joined: 21.05.2006

Vielen Dank für euer Feedback.
Hatte mir schon 10 Nachkommastellen angeschaut.. grr.. ärgere mich, dass ich nicht noch weiter geschaut habe

Problem ist, dass dies eine globale Einstellung ist und somit auch in allen meinen Mappen übernommen wird. Des Weiteren arbeiten mehrere Personen mit der Datei.

Vielen Dank erstmal :)

Werde mir mit VBA etwas überlegen. Falls jemand eine elegante Lösung findet, würde ich mich auch freuen.

Wenn ich eine Lösung mit Vba gefunden habe, könnte ich bei Bedarf den code posten.


Antwort
Zitat
Addel
Joined: 21.05.2006

Habe grad ein Video gefunden.
Bei YouTube "Excel # 247" eintippen.

Charmante Lösung


Antwort
Zitat
vooda
Joined: 20.02.2009

Die Zahl auf die x-te Nachkommastelle runden lassen und fertig?


Antwort
Zitat
sarc
Joined: 06.06.2008

Hätte jetzt eigentlich nicht gedacht, dass Excel mit floating point Arithmetik arbeitet. Verrückt.

Unabhängig von dem Fehler solltest du dir aber überlegen, was du machen willst, wenn ein Messwert exakt den Toleranzwert trifft. Wenn du jetzt sagst, dass das massive Auswirkungen hat, wo er einsortiert wird, dann ist möglicherweise da auch was falsch. Allein durch Messungenauigkeiten könnte das ja mal leicht schwanken.

Ansonsten kannst du den ähnlichen Trick anwenden, wie man ihn sonst bei Float-Problemen macht. Statt C9 > C4 würde ich C4 - C9 < eps testen, wobei eps irgendein kleiner positiver Wert ist. Das sollte dann eigentlich in beiden Fällen zum gleichen Ergebnis führen.


Antwort
Zitat
sarc
Joined: 06.06.2008

Nachtrag: Im Small Talk gabs auch noch ne Antwort: https://forums.pokerstrategy.com/de/forum/thread.php?threadid=1765864

Ich kann den Thread auch gern ins Small Talk verschieben, falls das gewünscht sein sollte.


Antwort
Zitat