Klausimai pažymėti „preciziškumu“

Dėl klausimų, susijusių su skaitmeniniu programavimo tikslumu.
22
atsakymai

Apribokite plūdes iki dviejų skaičių po kablelio

Noriu iki 13.95 turo. >>> a 13.949999999999999 >>> turas (a, 2) 13.949999999999999 Apvali funkcija neveikia taip, kaip tikėjausi.
nustatytas sausio 18 d '09 21:16
7
atsakymai

dešimtainis ir dvigubas! - Ką turėčiau naudoti ir kada?

Aš nuolat žiūriu, kad žmonės naudoja dvigubą skaičių C #. Žinau, kad aš perskaičiau kažkur, kad ji padvigubėja, kartais praranda tikslumą. Mano klausimas yra, kada reikia dvigubai naudoti ir kada turėtų būti naudojamas dešimtainis tipas? Kokio tipo tinka ...
Nustatytas liepos 22 d., 09:17
11
atsakymai

Kaip išspausdinti dvigubą vertę su visišku tikslumu?

Taigi, aš gavau atsakymą į mano paskutinį klausimą (nežinau, kodėl apie tai nemanau). Aš įvedžiau dvigubai su „cout“, kuris buvo suapvalintas, kai aš to nesitikėjau. Kaip galiu išspausdinti dvigubą pilną tikslumą?
nustatyti 16 vas '09 9:15 val
8
atsakymai

„JavaScript“ rodoma plūdė iki dviejų skaičių po kablelio

Norėjau rodyti skaičių iki dviejų skaičių po kablelio. Maniau, kad galėčiau naudoti „Precision“ (2) javascript'e. Tačiau, jei skaičius yra 0,05, gaunu 0,0500. Norėčiau, kad ji išliktų tokia pati. Pažvelkite į jsbin. Kas yra geriausias būdas ...
Nustatyta liepos 2 d. 10 val. 6:21
3
atsakymai

Kaip interpretuoti duomenų bazės numerių tikslumą ir mastą?

Duomenų bazėje yra ši skiltis: dešimtainis (5.2) Kaip tai interpretuoti? Pagal stulpelio savybes, aptartas SQL Server Management Studio, matau, ką tai reiškia: dešimtainis (skaitmeninis tikslumas, skaitmeninis ...
nustatytas kovo 4 d. 10 val
36
atsakymai

Netikėti rezultatai dirbant su labai dideliais skaičiais interpretuojamomis kalbomis

Bandau gauti 1 + 2 + ... + 1 milijardo eurų sumą, bet gaunu juokingus rezultatus PHP ir Node.js. PHP $ sum = 0; už ($ i = 0; $ i <= 1.000.000.000; $ i ++) {$ sum + = $ i; } printf ("% s", numeris_format ($ sum, 0, "", "")); // 500000000067108992 ...
yra nustatytas 04 rug. '13, 21:46
4
atsakymai

Kodėl konversija pirmyn ir atgal naudojant eilutę nesaugu dvigubai?

Neseniai turėjau serializuoti dvigubą tekstą ir grąžinti jį. Ši vertė neatrodo lygi: dvigubas d1 = 0,84551240822557006; eilutė s = d1.ToString ("R"); dvigubas d2 = dvigubas. bool s1 = d1 == d2; // -> s1 yra klaidingas, bet sutinku ...
birželio 19 d. 14 val
12
atsakymai

Gaukite DateTime.Now su milisekundės tikslumu

Kaip galiu tiksliai sukurti faktinį laiko žymą su milisekundės tikslumu? Man reikia kažko panašaus 16.4.2013 9: 48: 00: 123. Ar tai įmanoma? Turiu programą, kurioje aš pasirinksiu 10 kartų per sekundę vertes, ir turiu juos rodyti grafike ...
nustatytas balandžio 16 d '13, 11:41
10
atsakymai

Ar matematinis slankusis taškas yra C #? Ar tai gali būti?

Ne, tai ne kita. "Kodėl klausimas (1/3) * 3! = 1." Neseniai daug skaito apie plaukiojančius akinius; visų pirma, kaip tas pats apskaičiavimas gali suteikti skirtingų rezultatų skirtingoms architektūroms ar optimizavimo parametrams. Tai yra vaizdo žaidimų, katės problemų ...
Nustatyta liepos 13 d. 11 val
3
atsakymai

Kodėl pridedate 0,1 kartų daugiau nuostolių?

Žinau, kad dešimtainis skaičius 0,1 negali būti pateikiamas tiksliai su baigtiniu dvejetainiu skaičiumi (paaiškinimu), todėl dvigubas n = 0,1 praranda tam tikrą tikslumą ir nebus lygus 0,1. Kita vertus, 0,5 gali būti rodomas tiksliai, nes jis yra 0,5 = ...
nustatytas rugsėjo 30 d '14, 14:59
10
atsakymai

Koks skirtumas tarp dvigubo tikslumo ir dvigubo tikslumo slankiojo kablelio operacijų?

Koks skirtumas tarp vieno tikslumo plaukiojančio taško ir dvigubo tikslumo plaukiojančios operacijos? Mane ypač domina praktiniai žaidimų konsolių aspektai. Pavyzdžiui, „Nintendo 64“ turi 64 bitų procesorių ir, jei tai ...
nustatytas balandžio 29 d '09 9:30 val
20
atsakymai

Išlaikyti dvigubą tikslumą java

public class doublePrecision {public static void main (String [] args) {double total = 0; iš viso + = 5,6; iš viso + = 5,8; System.out.println (iš viso); }} Pirmiau nurodytas kodas išspausdinamas: 11.399999999999 Kaip galėčiau ...
lapkričio 27 d. '08 4:54
7
atsakymai

Skirtumas tarp fiksuojamo () ir „Precision“ ()?

Aš esu naujas „JavaScript“ ir ką tik atidariau apvalius numerius įFixed () ir „Precision“ (). Tačiau negaliu suprasti skirtumo tarp jų. Koks yra skirtumas tarp numerio.fiksuoto () ir skaičiaus.
nustatytas liepos 26 d. 10 val
11
atsakymai

Kokia tvarka turite pridėti plūdes, kad gautumėte tiksliausią rezultatą?

Tai buvo klausimas, kuris buvo užduotas iš mano paskutinio pokalbio, ir aš noriu žinoti (aš tikrai nepamenu skaitmeninės analizės teorijos, todėl prašome man padėti :) Jei turime tam tikrą funkciją, kuri kaupia kintamojo taško numerius: ...
yra nustatytas liepos 14 d. 11 val
2
atsakymai

Valdykite dešimtainių skaitmenų skaičių spausdintame produkte R

R yra galimybė valdyti skaičių rodymą. Pavyzdžiui: parinktys (skaitmenys = 10) Daroma prielaida, kad skaičiavimo rezultatai turėtų būti pateikti per 10 skaitmenų iki R sesijos pabaigos. Pagalbos faile R skaitmenų parametro apibrėžimas atrodo taip: ...
vasario 18 d '10, 12:48