Klausimai pažymėti „iec10967“

ISO / IEC 10967, nepriklausoma aritmetika (LIA), yra kompiuterinių aritmetinių standartų serija. Jis suderinamas su ISO / IEC / IEEE 60559: 2011, geriau žinomas kaip IEEE 754-2008, ir iš tikrųjų daugelis specifikacijų yra skirtos specialioms IEEE 754 reikšmėms (nors šios vertės nereikalauja pati LIA, jei parametras iec559 nėra tiesa) ./ per WikiPedia
50
atsakymai

Kaip apskaičiuoti 32 bitų sveikojo skaičiaus bitų skaičių?

8 bitai, atitinkantys skaičių 7, yra tokie: 00000111 Nustatyti trys bitai. Kokie yra algoritmai, skirti nustatyti 32 bitų skaičiumi nustatytų bitų skaičių?
nustatytas rugsėjo 20 d '08 10:04 val
13
atsakymai

Kokie yra visi palyginimai, kurie naikina „NaN IEEE754“ reikšmes?

Kodėl NaN verčių palyginimas veikia kitaip nei visos kitos vertės? Tai reiškia, kad visi palyginimai su operatoriais ==, <=,> =, <,> kur vienas arba abi reikšmės yra NaN, grąžina klaidingą, o tai prieštarauja visų kitų vertybių elgesiui.
14 val. '09 12:19
3
atsakymai

Bitų gudrybės, kad surastumėte pirmąją poziciją, kurioje skaičius 0s yra lygus 1s

Tarkime, kad turiu 32 arba 64 bitų nepasirašytą sveiką skaičių. Koks yra greičiausias būdas rasti kairiojo labiausiai bitų indeksą, kad kairiųjų i-bitų skaičius 0s būtų lygus skaičiui 1s kairiajame i-bite? Aš maniau apie kai kuriuos gudrybės, pavyzdžiui
nustatyti 02 gruodis '16, 16:27
1
atsakymas

Kodėl IEEE-754 nusprendė NaN! = NaN, nepaisant to, kad jis buvo nelogiškas?

Tai yra kitas klausimas: koks yra visų palyginimų, kurie grįžta į klaidingą IEEE754 NaN reikšmę, reikšmė? (Manau, kad tai geresnis klausimas nei komentaras). Jis turi labai gerą atsakymą, kuris yra būtent vienas svarbių dalykų: kodėl NaN ...
yra nustatytas birželio 11 d. 16 val
3
atsakymai

Ilgas sveikasis skaičius konvertuojamas, kai jis įterpiamas į trumpesnį stulpelį, o ne sutrumpintas. Kodėl? Kas yra formulė?

Turiu sveiką skaičių stulpelį, kurio ilgis yra 10: 'some_number' int (10) unsigned NE NULL Į šį stulpelį įterpiu per ilgą skaičių: $ some_number = 715988985123857; $ query = "INSERT INTO this_table SET some_number =?"; $ stmt = $ mysqli-> prepa ...
gegužės 8 d. 14 d. 21:53
1
atsakymas

GMP dauginimo riba

Bandžiau padauginti du labai didelius mpz_t, kiekvienas iš 2 ^ (10 * 2 ^ 22) bitų, naudodamas funkciją mpz_mul GMP bibliotekoje. Nėra segmentavimo klaidų, ir dauginimas galėjo praeiti. Tačiau, kai gaunu dauginimo rezultatą failui, viskas, ką pastebėjau ...
nustatyti 12 sep. '14, 3:25
2
atsakymai

Kaip padaryti sveiką skaičių „daugiau“?

Aš pradedu C # ir aš dirbau skaičiuokle Windows formose. Aš susidūriau su problema, kurioje gavau vieną iš šių derinimo blokų įvedus 10 ar daugiau skaitmenų į sąsają. Jame kažką pasakojama apie sistemos perpildymo panaikinimą, bet aš veikiu ...
nustatytas balandžio 30 d '14, 7:02