Klausimai, pažymėti „plaukiojančiu tašku“

Plaukiojančio taško skaičiai yra tikrieji skaičiai, kurie gali būti didesni nei sveiki skaičiai, tačiau naudoja tą patį atminties kiekį mažesnio tikslumo sąskaita. Jei jūsų klausimas yra susijęs su mažomis aritmetinėmis klaidomis (pvz., Kodėl yra 0,2 + 0,1, lygus 0,300000001?) Arba dešimtainio kodo konversijos klaidoms, perskaitykite toliau pateiktą „informacijos“ puslapį prieš paskelbdami.
37
atsakymai

Ar matematika nusileido?

Apsvarstykite šį kodą: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Kodėl atsiranda šie netikslumai?
nustatyti 26 vas '09 0:39
12
atsakymai

Kodėl GCC nesukuria * a * a * a * a * a į (a * a * a) * (a * a * a)?

Mokslinėje programoje atlieku tam tikrą skaitinį optimizavimą. Pastebėjau, kad Persijos įlankos bendradarbiavimo taryba optimizuoja skambutį (a, 2), sukompiliuoti ją į * a, bet skambutis įjungti (a, 6) nėra optimizuotas ir iš tikrųjų vadins bibliotekos funkciją pow, kuri žymiai sulėtina gamybą ...
yra nustatytas birželio 21 d. 11 val
26
atsakymai

Kaip analizuoti eilutę, kurioje Python yra plūduriuojantis taškas arba int?

Kaip „Python“ gali suprasti skaitmeninę eilutę, pvz., „545.2222“, į tinkamą slankiojo taško vertę, 545.2222? Arba išanalizuokite eilutę „31“ į sveikąjį skaičių 31? Aš tiesiog noriu žinoti, kaip išardyti „flor str“, kad plauktumėte, ir (atskirai) „int str“ ...
gruodžio 19 d '08 4:52
18
atsakymai

Skirtumas tarp dešimtainių, plaukiojančių ir dvigubų .NET?

Koks skirtumas tarp dešimtainių, plūduriuojančių ir dvigubų .NET skirtumų? Kada kas nors naudos vieną iš jų?
nustatyti kovo 06 d., 09:31
5
atsakymai

Kodėl 0.1f ir 0 keitimas sulėtina našumą 10x?

Kodėl šis kodų bitas, const float x [16] = {1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z [16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.7 ...
nustatyti 16 vas '12, 18:58
34
atsakymai

Kaip patikrinti, ar eilutė yra skaičius (plūdė)?

Koks yra geriausias būdas patikrinti, ar eilutė gali būti pavaizduota kaip „Python“ numeris? Dabar aš turiu funkciją: def is_number (s): pabandykite: float (s) grįžti True išskyrus ValueError: grįžti False Kuris ne tik ...
nustatyti 09 gruodis '08 11:03 val
22
atsakymai

Apribokite plūdes iki dviejų skaičių po kablelio

Noriu iki 13.95 turo. >>> a 13.949999999999999 >>> turas (a, 2) 13.949999999999999 Apvali funkcija neveikia taip, kaip tikėjausi.
nustatytas sausio 18 d '09 21:16
16
atsakymai

Kodėl gi ne naudoti „Double“ ar „Float“, kad atstovautumėte valiutai?

Man visada buvo pasakyta, kad neturiu atstovauti pinigams su dvigubais ar plaukiojančiais tipais, ir šį kartą aš užduodu klausimą: kodėl? Esu įsitikinęs, kad yra labai gera priežastis, aš tiesiog nežinau, kas tai yra.
rugsėjo 16 d '10, 22:23
14
atsakymai

Kaip padaryti, kad padalinys būtų slankusis? Ar departamentas suapvalina iki 0?

Turiu dvi sveiko skaičiaus vertes a ir b, bet man reikia jų santykio plūduriuojančiame taške. Aš žinau, kad <b ir aš noriu apskaičiuoti a / b, taigi, jei aš naudoju sveikojo skaičiaus padalijimą, aš visuomet gausiu 0 su likusiu a. Kaip padaryti, kad c būtų numeris su plaukiojančiu ...
nustatyti 12 d. '09 21:25
14
atsakymai

Konvertuokite dešimtainį dvigubai?

Noriu pakeisti takelį, kad pakeistumėte formos skaidrumą. Tai mano kodas: dešimtainis trans = trackBar1.Value / 5000; tai.Pajėgumas = trans; Kai sukuriu programą, ji sukelia šią klaidą: netiesiogiai negalite konvertuoti „dešimtainio“ tipo į „daryti ...
nustatyti 01 rug. '08 0:42
34
atsakymai

Kaip naudoti dešimtainio intervalo žingsnio reikšmę ()?

Ar yra būdas padaryti žingsnį nuo 0 iki 1 iki 0,1? Maniau, kad galėčiau tai padaryti taip, bet tai nepavyko: i intervale (0, 1, 0,1): print i Vietoj to, sakoma, kad žingsnio argumentas negali būti lygus nuliui, kurio aš nesitikėjau.
nustatė sausio 25 d '09 13:20
26
atsakymai

Formatavimo numeris, kuris visada turi būti po kablelio

Norėčiau formatuoti savo numerius, kad visada būtų rodomi 2 skaitmenys po kablelio, jei reikia, suapvalinant. Pavyzdžiai: skaičiaus rodymas ------ ------- 1 1,00 1,341 1,34 1,345 1,35 Aš naudoju tai: parseFloat (num) .toF ...
Nustatykite gegužės 26 d. 11 val
7
atsakymai

Ar HTML5 yra įvesties tipas?

Pagal html5.org, reikšmės atributas "tipas" tipo "numeris", jei jis yra nurodytas ir nėra tuščias, turi turėti reikšmę, kuri yra galiojančio kintamo taško numeris. "Tačiau tai paprasta (naujausioje„ Chrome “versijoje, bet kuriuo atveju ), valdymas "šriftas ...
nustatyti 25 rugsėjis '13, 20:51
5
atsakymai

Kodėl Math.round (0.49999999999999994) grįžta 1?

Kitoje programoje matysite, kad kiekviena vertė, mažesnė nei .5, apvalinama žemyn, išskyrus 0,5. už (int i = 10; i> = 0; i--) {ilgas l = dvigubas dvigubas (ilgis) (i + 0,5); dvigubas x; padaryti {x = Double.longBitsToDoubl ...
yra nustatytas kovo 28 d., 12 val
38
atsakymai

Kaip elgtis su kintamų taškų skaičiumi JavaScript?

Turiu tokį scenarijų manekeno testą: funkcijų testas () {var x = 0,1 * 0,2; document.write (x); } bandymas (); Tai išspausdins rezultatą 0,020000000000000004, o tai turėtų tiesiog spausdinti 0,02 (jei naudojate skaičiuoklę). Įjungta ...
rugsėjo 22 d. '09 10:34