Javascript
 Computer >> コンピューター >  >> プログラミング >> Javascript

JavaScriptで浮動小数点数の精度を処理するにはどうすればよいですか?


JavaScriptで浮動小数点数の精度を処理するには、toPrecision()メソッドを使用します。指定できる長さに数値をフォーマットするのに役立ちます。

<!DOCTYPE html>
<html>
   <body>
      <script>
         var num = 28.6754;
         document.write(num.toPrecision(3));
         document.write("<br>"+num.toPrecision(2));
         document.write("<br>"+num.toPrecision(5));
      </script>
   </body>
</html>

出力

28.7
29
28.675

  1. JavaScriptでゼロの文字列を数値に変換するにはどうすればよいですか?

    以下が私たちの文字列だとしましょう」 var stringValue="453.000.00.00.0000"; 上記のゼロの文字列を数値に変換するには、parseInt()とreplace()-を併用します。 var numberValue = parseInt(stringValue.replace(/\./gm, '')); 例 以下は完全なコードです- var stringValue="453.000.00.00.0000"; var numberValue = parseInt(stringValue.replace(/\

  2. Cの浮動小数点数のセットビットを数える方法は?

    この問題では、1つの浮動小数点値が与えられます。バイナリ表現で設定されたビット数を見つける必要があります。 たとえば、浮動小数点数が0.15625の場合、6つのセットビットがあります。典型的なCコンパイラは、単精度浮動小数点表現を使用していました。したがって、次のようになります。 ビット値に変換するには、数値を1つのポインター変数に取り込んでから、ポインターをchar*型データに型キャストする必要があります。次に、各バイトを1つずつ処理します。次に、各文字のセットビットをカウントできます。 例 #include <stdio.h> int char_set_bit_cou