Питання з тегом 'floating-point'

Числа з плаваючою комою - це наближення дійсних чисел, які можуть представляти великі діапазони, ніж цілі, але використовувати один і той же обсяг пам'яті за рахунок більш низької точності. Якщо ваше запитання про невеликі арифметичних помилках (наприклад, чому 0.2 + 0.1 дорівнює 0.300000001?) Або помилки перетворення десяткового коду, будь ласка, прочитайте сторінку "інформація", зазначену нижче, перед публікацією.
37
відповідей

Збита чи математика з плаваючою комою?

Розглянемо наступний код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Чому відбуваються ці неточності?
заданий 26 февр. '09 в 0:39
12
відповідей

Чому GCC НЕ оптимізує a * a * a * a * a * a to (a * a * a) * (a * a * a)?

Я роблю деяку чисельну оптимізацію в науковому додатку. Я помітив, що GCC оптимізує виклик pow (a, 2), компілюючи його в a * a, але виклик pow (a, 6) не оптимiзований і фактично викличе бібліотечну функцію pow, що значно уповільнює виробляй ...
заданий 21 червня '11 о 21:49
26
відповідей

Як мені розібрати рядок з плаваючою точкою або int в Python?

В Python, як я можу розібрати числову рядок, таку як "545.2222" в відповідне значення з плаваючою точкою, 545.2222? Або розібрати рядок "31" в ціле число 31? Я просто хочу знати, як розібрати флоіт str до float, і (окремо) в ІНТ str до ...
заданий 19 дек. '08 О 4:52
18
відповідей

Різниця між десятковій, плаваючою і подвійний в .NET?

У чому різниця між decimal, float і double в .NET? Коли хто-небудь скористається одним з них?
заданий 06 березня '09 о 14:31
5
відповідей

Чому зміна 0.1f to 0 уповільнює продуктивність на 10x?

Чому цей біт коду, const float x [16] = {1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z [16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.7 ...
заданий 16 февр. '12 о 18:58
34
відповідей

Як перевірити, чи є рядок числом (float)?

Що є кращим способом перевірити, чи може рядок бути представлена ​​у вигляді числа в Python? Тепер у мене є функція: def is_number (s): try: float (s) return True except ValueError: return False Який, які не буд ...
заданий 09 дек. '08 о 23:03
21
відповідь

Обмеження поплавців на дві десяткові точки

Я хочу, щоб a округляється до 13.95. >>> a 13.949999999999999 >>> round (a, 2) 13.949999999999999 Функція round працює не так, як я очікував.
заданий 18 Січня. '09 о 21:16
16
відповідей

Чому б не використати Double або Float для подання валюти?

Мені завжди говорили, щоб не представляти гроші з типами double або float, і на цей раз я задаю вам питання: чому? Я впевнений, що є дуже вагома причина, я просто не знаю, що це таке.
заданий 16 сент. '10 о 22:23
14
відповідей

Як змусити розподіл бути плаваючою точкою? Відділ продовжує округляти до 0?

У мене два цілих значення a і b, але мені потрібно їх співвідношення в плаваючою точці. Я знаю, що a <b і я хочу обчислити a / b, тому, якщо я використовую цілочисельне ділення, я завжди отримую 0 із залишком a. Як я можу змусити c бути числом з плав ...
заданий 12 Серпня. '09 о 21:25
14
відповідей

Перетворити десяткову в подвійну?

Я хочу використовувати доріжку для зміни непрозорості форми. Це мій код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Коли я створюю додаток, він дає наступну помилку: Неможливо неявно перетворити тип 'decimal' в 'do ...
заданий 01 Серпня. '08 в 0:42
26
відповідей

Номер формату, який повинен завжди показувати 2 десяткових знака

Я хотів би відформатувати мої номери, щоб завжди показувати 2 десяткових знака, округляючи, де це може бути застосовано. Приклади: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Я використовував це: parseFloat (num) .toF ...
заданий 26 травня '11 в 8:22
7
відповідей

Чи є тип введення float в HTML5?

Згідно html5.org, атрибут value "type" типу "number", якщо він заданий і не порожній, повинен мати значення, яке є допустимим числом з плаваючою комою ". Тим не менш, це просто (в останній версії Chrome, в будь-якому випадку ), управління "updo ...
заданий 25 сент. '13 о 20:51
5
відповідей

Чому Math.round (0.49999999999999994) повертає 1?

У наступній програмі ви побачите, що кожне значення трохи менше .5 округляється вниз, за ​​винятком 0.5. for (int i = 10; i> = 0; i--) {long l = Double.doubleToLongBits (i + 0.5); double x; do {x = Double.longBitsToDoubl ...
заданий 28 березня '12 о 10:30
37
відповідей

Як впоратися з точністю чисел з плаваючою комою в JavaScript?

У мене є наступний фіктивний тест script: function test () {var x = 0.1 * 0.2; document.write (x); } Test (); Це надрукує результат 0.020000000000000004, поки він повинен просто надрукувати 0.02 (якщо ви використовуєте свій калькулятор). На ...
заданий 22 сент. '09 о 10:34
31
відповідь

Як використовувати значення кроку десяткового діапазону ()?

Чи є спосіб зробити крок між 0 і 1 на 0,1? Я думав, що зможу зробити це таким чином, але це не вдалося: for i in range (0, 1, 0.1): print i Замість цього він говорить, що аргумент кроку не може бути нулем, чого я не очікував.
заданий 25 Січня. '09 о 13:20