Firebirdforum.de

Bzgl. der UDR würde ich dann eher ein NanToNull() schreiben. Das hat den Vorteil, dass where not NanToNull(value) is Null oder das Aggregat(NanToNull(value)) verwendet werden kann. Die Udr macht dann nur einen return Value == Double.Nan ? null : value; Ich glaube, schneller gehts nicht mehr. Hallo,...

Moin Volker, danke für Deine Analyse und Zusammenfassung. Ich bin bei dem Thema noch dabei mögliche Optionen zu erarbeiten und dann mal zu schauen was vom Aufwand Sinn macht. Ich hab zwar Spaß daran herauszufinden, was ich alles mit UDRs machen kann (kann ich endlich mal wieder in Object Pascal prog...

Hallo bfuerchau, min( case when position('IND', left(value, 10)) > 0 then null else value end ) vielen Dank für den interessanten Ansatz. Mit select min(case when position('ind', left(VALUE_DOUBLE, 10))>0 then null else VALUE_DOUBLE end), max(case when position('ind', left(VALUE_DOUBLE, 10))>0 then ...

Moin Volker,

vr2 hat geschrieben: ↑Sa 14. Okt 2023, 19:16

Code: Alles auswählen

where CAST(VALUE_DOUBLE as VARCHAR(20)) <> 'nan(ind)'

das funktioniert auch, und ist mit ca. 220ms/140k Werten etwas schneller.


Gruß Ulrich

Moin Volker, danke - ich hatte nicht bemerkt, dass beim Aufruf die deklarierten Eingangsparameter in Hochkommas gesetzt werden... Die in Blob-Eingabefelder eingegeben Daten scheinen tatsächlich nicht korrekt übergeben zu werden, es kommt eine Fehlermeldung: 'All parameters must be specified' Gruß Ul...

Nachtrag: Ich konnte es mir dann nicht verkneifen eine UDR Function (DOUBLE_IS_NAN) in Free Pascal zu implementieren, die intern eigentlich nur aus einer Zeile Pascal Code besteht. create or alter function DOUBLE_IS_NAN (doublevalue double precision) returns boolean EXTERNAL NAME 'externaludr!double...

Moin Volker, vielen Dank, das Umwandeln auf string funktioniert tatsächlich! Ich war etwas überrascht, dass der direkte Vergleich select ... from RESULTS where DOUBLE_VALUE <> log(1,1) hingegen nicht funktioniert. Das Umwandeln aller double Werte in strings hat natürlich seinen Preis: SELECT min(VAL...

Hallo Zusammen,

bin ich etwas blind, oder ist es tatsächlich nicht möglich in FlameRobin Eingabeparameter für Stored Procedure / Functions zu setzen?


Gruß Ulrich

Hallo Martin, es ist nach einiger Suche etwas verwirrend. 'NaN' ist tatsächlich laut IEEE ein gültiger Wert für den Datentyp double und kann auch in einem Firebird Datenfeld gespeichert werden, ist als nicht NULL. Der Wert wird z.B. auch zurückgegeben für log(1,1) (Firebird 4 Language Reference Seit...

Hallo, ich habe eine Tabelle mit numerischen Werten (DOUBLE PRECISION), die aus einer Auswertung von Messdaten stammen, und möchte MIN(), MAX(), AVG() abfragen, aber es sind NaN Werte in den Datenfeldern, wie bekomme ich die rausgefiltert? select MIN(VALUE_DOUBLE), MAX(VALUE_DOUBLE, AVG(VALUE_DOUBLE...