Builder.cz - Informacni server o programovani

Funkce Round se už v minulosti několikrát řešila. Nejlepší řešení asi bude použití příkazu Format, případně klasicky:
pocet_mist = 3
cislo = (Int(cislo * (10 ^ pocet_mist) + 0.5) / 10 ^ pocet_mist)

Problém ukládání reálných čísel v počítači se řeší od nepaměti. Všechny diskuse končili nějakým kompromisem. Pokud se budou čísla ukládat ve dvojkové soustavě, tak problémy budou stále. Za úvahu stojí, zda by vám nestačil datový typ Currency - (tj. čtyři desetiná místa), který je uložen v celočíselném formátu.

Funkce Round se už v minulosti několikrát řešila. Nejlepší řešení asi bude použití příkazu Format, případně klasicky: pocet_mist = 3 cislo = (Int(cislo * (10 ^ pocet_mist) + 0.5) / 10 ^ pocet_mist) Problém ukládání reálných čísel v počítači se řeší od nepaměti. Všechny diskuse končili nějakým kompromisem. Pokud se budou čísla ukládat ve dvojkové soustavě, tak problémy budou stále. Za úvahu stojí, zda by vám nestačil datový typ Currency - (tj. čtyři desetiná místa), který je uložen v celočíselném formátu.

Citovat příspěvek

to rudis:tak o tomhle standardu slyším prvně v životě, no všechno je jednou poprvé...

to rudis:tak o tomhle standardu slyším prvně v životě, no všechno je jednou poprvé...

Citovat příspěvek

S tím souhlasím, že jsou pomalejší. Záleží i na tom, kolik operací zaokrouhlení předpokládá.

Nicméně, už jsem zažil situaci, kdy celá zpráva spadla pod stůl, protože čísla neseděly (s oblibou jsem to svým podřízeným dělal taky :) ). Prostě, pokud čísla přesně nesedí, znedůvěryhodní to celý postup / dílo / zprávu / program.

S tím souhlasím, že jsou pomalejší. Záleží i na tom, kolik operací zaokrouhlení předpokládá. Nicméně, už jsem zažil situaci, kdy celá zpráva spadla pod stůl, protože čísla neseděly (s oblibou jsem to svým podřízeným dělal taky :) ). Prostě, pokud čísla přesně nesedí, znedůvěryhodní to celý postup / dílo / zprávu / program.

Citovat příspěvek

Tak převod na text, oříznutí a porovnání bych řekl, že bude o dost pomalejší než, jak psala Gábina, udělat rozdíl hodnot a pak porovnávat nějakou předepsanou toleranci.

Řetězcové operace jsou nesrovnatelně pomalejší než číselné!

Tak převod na text, oříznutí a porovnání bych řekl, že bude o dost pomalejší než, jak psala Gábina, udělat rozdíl hodnot a pak porovnávat nějakou předepsanou toleranci. Řetězcové operace jsou nesrovnatelně pomalejší než číselné!

Citovat příspěvek

A co to udělat tak, že to zaokrouhlíš převedeš na text, ořízněš a porovnáš textové řeťezce? :)

A co to udělat tak, že to zaokrouhlíš převedeš na text, ořízněš a porovnáš textové řeťezce? :)

Citovat příspěvek

Další podobnou legraci mám za sebou s porovnáváním
čísel s osmi desetinými místy deklarovaných double.
Bez rozdílu i když použiji fix nebo round se nikdy
nepodařilo najít všechna evidentně shodná čísla.
Překvapivě není v některých případech rozdíl původních,
zaokrouhlených ani ořezaných čísel opravdu roven 0. :-)
:-(
Nakonec v zoufalství používám funkci, která zjištuje
zda je rozdíl dvou hodnot v mnou předepsané toleranci.

Další podobnou legraci mám za sebou s porovnáváním čísel s osmi desetinými místy deklarovaných double. Bez rozdílu i když použiji fix nebo round se nikdy nepodařilo najít všechna evidentně shodná čísla. Překvapivě není v některých případech rozdíl původních, zaokrouhlených ani ořezaných čísel opravdu roven 0. :-) :-( Nakonec v zoufalství používám funkci, která zjištuje zda je rozdíl dvou hodnot v mnou předepsané toleranci.

Citovat příspěvek

Ahoj,
toto zaokrouhlování je správně dle standardu IEEE, to že to nesedí na naše zaokrouhlování je věc jiná.

Standard to definuje následovně:

Hodnota .5 je zaokrouhlena na:

n když n je sudý
n+1 když n je kladné liché
n-1 když n je záporné liché

Ahoj, toto zaokrouhlování je správně dle standardu IEEE, to že to nesedí na naše zaokrouhlování je věc jiná. Standard to definuje následovně: Hodnota .5 je zaokrouhlena na: n když n je sudý n+1 když n je kladné liché n-1 když n je záporné liché

Citovat příspěvek

to je fakt hustý
Round("0,545", 2) = 0.55 'v pořádku
Round("0,5435", 3) = 0.544 'v pořádku

Round("0,545", 2) = 0.55 'v pořádku
Round("0,5445", 3) = 0.544 'blbě

Round("0,545", 2) = 0.55 'v pořádku
Round("0,5455", 3) = 0.546 'v pořádku

Round("0,545", 2) = 0.55 'v pořádku
Round("0,5465", 3) = 0.546 'blbě

Round("0,545", 2) = 0.55 'v pořádku
Round("0,575", 3) = 0.548 'v pořádku

další zkusim hádat ... blbě,kdyžtak to někdo testněte ;)


zřejmě číslo které díky rozkladu na zlomky vyvolá takovýto úkaz-no čučim jak péro

to je fakt hustý Round("0,545", 2) = 0.55 'v pořádku Round("0,5435", 3) = 0.544 'v pořádku Round("0,545", 2) = 0.55 'v pořádku Round("0,5445", 3) = 0.544 'blbě Round("0,545", 2) = 0.55 'v pořádku Round("0,5455", 3) = 0.546 'v pořádku Round("0,545", 2) = 0.55 'v pořádku Round("0,5465", 3) = 0.546 'blbě Round("0,545", 2) = 0.55 'v pořádku Round("0,575", 3) = 0.548 'v pořádku další zkusim hádat ... blbě,kdyžtak to někdo testněte ;) zřejmě číslo které díky rozkladu na zlomky vyvolá takovýto úkaz-no čučim jak péro

Citovat příspěvek

Tak jsem to udělal jako Format(cislo, "0.000")

Tak jsem to udělal jako Format(cislo, "0.000")

Citovat příspěvek

Zdravím.
Mám problém s tím, že když má číslo 3 a více desetiných míst, nefunguje zaokrouhlení.
Číslo je jako string načtený z výpočtů v excelu, kde to vyhodí 0,5445

Round("0,545", 2) = 0.55 'v pořádku
Round("0,5445", 3) = 0.544 'blbě

Nefunguje to, ani když to dám do double.

Sice by to šlo udělat jako Round("0,5445" + 0.0001, 3) = 0.545, ale to je prasárna.

Zdravím. Mám problém s tím, že když má číslo 3 a více desetiných míst, nefunguje zaokrouhlení. Číslo je jako string načtený z výpočtů v excelu, kde to vyhodí 0,5445 Round("0,545", 2) = 0.55 'v pořádku Round("0,5445", 3) = 0.544 'blbě Nefunguje to, ani když to dám do double. Sice by to šlo udělat jako Round("0,5445" + 0.0001, 3) = 0.545, ale to je prasárna.

Citovat příspěvek