[Java] Fundering kring precisionen på double

2012-10-16 16:47

Medlem

Plats: Stockholm
Registrerad: Apr 2007

●

[Java] Fundering kring precisionen på double

Jag sitter och knåpar på en app för Android och har stött på problem när jag använder typen double i matematiksammanhang, närmare bestämt trigonometri.

Exempel: multiplikationen 0.01*cos(1.5) ger resultatet 7.07372, fast det korrekta svaret skall vara 0.000707372,
men däremot ger 0.02*cos(1.5) korrekt svar, 0.0014147. (Vinklarna i radianer)

Det verkar som om double i Java inte kan hantera lägre tal än 0.001, vilket ter sig mycket märkligt.
Måste jag använda BigDecimal för att lösa detta, eller hur tusan gör man?

Rapportera Redigera

Citera flera Citera

2012-10-16 17:09

Permalänk

epizk

Medlem

Plats: Göteborg
Registrerad: Mar 2011

●

Troligen är det så att den kommer över en gräns.. när jag skrev ihop lite snabbt fick jag svaret 7.073720166770291E-4 vilket är 0.000703.. fast med annan notation (10^-4). Tror dom satt en gräns helt enkelt där den börjar skriva på det sättet ist för att skriva ut alla nollor efter kommatecknet.

Rapportera Redigera

Citera flera Citera (1)

2012-10-16 18:30

Permalänk

Gnejs

Medlem

Plats: Stockholm
Registrerad: Apr 2006

●

Som sagt, inget fel på värdet, bara utskriften som börjar använda E för 'tio-exponenten', precis som miniräknare gör.

Visa signatur

Rapportera Redigera

Citera flera Citera

2012-10-16 19:04

Permalänk

lollol7

Medlem

Plats: Vid datorn
Registrerad: Aug 2006

●

Jag tror double i java har 11 bitar för exponenten, vilket ger dig 2^11 olika expontenter. Således är doubles minsta tal 2^-(2^6) och högsta 2^(2^5)
(exponenterna jämnt utspridda runt 0:an).
Alltså är dubbles största tal 4294967296
och minsta tal 5.4210... × 10^-20
Edit:
10 ska vara 11

Senast redigerat 2012-10-19 00:25

Visa signatur

In the end what separates a man from a slave?
Money? Power? No... A man chooses, a slave obeys.
ASUS Z170M-PLUS || Intel Core i7 6700k @ 4,7GHz || 64GB 2133MHz Corsair RAM || MSI NVIDIA RTX 2070 Gaming Z 8GB || Bifenix Prodigy M || 2x CZ TR150 480GB RAID 0 || BeQuiet DarkRock Pro

Rapportera Redigera

Citera flera Citera

2012-10-16 21:25

Permalänk

TheRealNyllet

Medlem

Plats: Stockholm
Registrerad: Apr 2007

●

Joo, det låter logiskt det ni säger. Kanske de sista decimalerna plus strängen "E-4" inte syns längst till höger i formelementet (som är en TextView). Jag får prova att begränsa antalet tecken i TextView'n, så kanske "E-4" kommer med. Vill man prompt ha utskriften på formen "0.000707372", så antar jag att man får koda in en egen konverterare.

Tack iaf. för snabba, bra svar.

Rapportera Redigera

Citera flera Citera

2012-10-17 12:45

Permalänk

NoPaiN^

Medlem

Plats: Karlskrona
Registrerad: Jan 2006

●

Ett alternativ kan ju vara att skippa double/float, och använda sig av andra alternativ.
Ta en titt här kanske?
http://docs.oracle.com/javase/1.5.0/docs/api/java/math/BigDec...

Visa signatur

Rapportera Redigera

Citera flera Citera

2012-10-17 16:34

Permalänk

htux

Medlem

Plats: Färjestaden
Registrerad: Apr 2009

●

Skrivet av lollol7:

Jag tror double i java har 10 bitar för exponenten, vilket ger dig 2^11 olika expontenter.

Gå till inlägget

Inte 2^10 olika då?

Rapportera Redigera

Citera flera Citera

2012-10-17 21:38

Permalänk

vb

Medlem

Plats: Sthlm
Registrerad: Okt 2001

●

Skrivet av TheRealNyllet:

Joo, det låter logiskt det ni säger. Kanske de sista decimalerna plus strängen "E-4" inte syns längst till höger i formelementet (som är en TextView). Jag får prova att begränsa antalet tecken i TextView'n, så kanske "E-4" kommer med. Vill man prompt ha utskriften på formen "0.000707372", så antar jag att man får koda in en egen konverterare.

Tack iaf. för snabba, bra svar.

Gå till inlägget

Du behöver nog inte koda något eget, använd antingen DecimalFormat eller string.format när du gör om doublen till en sträng så kan du själv ange vilket format det ska bli.

Rapportera Redigera

Citera flera Citera

2012-10-19 00:27

Permalänk

lollol7

Medlem

Plats: Vid datorn
Registrerad: Aug 2006

●

Skrivet av htux:

Inte 2^10 olika då?

Gå till inlägget

2^11, men skrev fel på 10:an.

Visa signatur

In the end what separates a man from a slave?
Money? Power? No... A man chooses, a slave obeys.
ASUS Z170M-PLUS || Intel Core i7 6700k @ 4,7GHz || 64GB 2133MHz Corsair RAM || MSI NVIDIA RTX 2070 Gaming Z 8GB || Bifenix Prodigy M || 2x CZ TR150 480GB RAID 0 || BeQuiet DarkRock Pro

Rapportera Redigera

Citera flera Citera

2012-10-19 00:41

Permalänk

anon81912

Inaktiv

Registrerad: Feb 2006

●

Skrivet av TheRealNyllet:

Joo, det låter logiskt det ni säger. Kanske de sista decimalerna plus strängen "E-4" inte syns längst till höger i formelementet (som är en TextView). Jag får prova att begränsa antalet tecken i TextView'n, så kanske "E-4" kommer med. Vill man prompt ha utskriften på formen "0.000707372", så antar jag att man får koda in en egen konverterare.

Tack iaf. för snabba, bra svar.

Gå till inlägget

Skall du skriva någon slags app så kanske du vill begränsa dig till typ 2 decimaler. Är man verkligen intresserad av fler så gör wolfram alphas mobila hemsida ett bättre jobb

Rapportera Redigera

Citera flera Citera

[Java] Fundering kring precisionen på double

[Java] Fundering kring precisionen på double

Externa nyheter