投稿

8月, 2021の投稿を表示しています

ブログの説明

学校に通わないで学んだことを記しています。間違っているところが何かありましたらご指摘下さると幸いです。コメントに対する返信が遅れる可能性があります。その場合は申し訳ありません。

このブログではサイドバーに広告を表示しています。このブログ内の投稿記事を検索するには右上の拡大鏡のアイコンを、アーカイブやラベル付けから投稿記事を閲覧するには左上の三重線のアイコンをクリックして下さい。

数式の表示にはMathJaxを利用させていただいています。数式の表示のためにJavaScriptが有効である必要があります。そうでない場合、訳の分からないLatexのコードが表示されます。幾何学図形やチャートの表示にはHTML5 CanvasやGoogle Chartを使用しています。その表示のためにもJavaScriptが有効である必要があります。

指数表記、科学的記数法、工学的記数法、浮動小数点数

科学雑誌や理系の教科書やコンピュータ・プログラミングの書物で次のような数値表記を目にすることがよくある。 \[ 5.972 \times 10^{24} \] \[ 6.62607015 \times 10^{−34} \] \[ 6.02214076 \times 10^{23} \] これらは日本語では 指数 しすう 表記という名前で知られている。英語ではscientific notation(科学的記数法)やstandard index form(標準指数形)と呼ばれている。 指数表記では0以外の数値を次のように10の累乗を掛けた式にして表す。 \[ m \times 10^n \] 以下、mを仮数部、10を基数部、nを指数部と呼ぶことにする。 コンピュータ科学の分野ではEまたはeを使って指数部を表記する。 \[ mEn \] \[ men \] 指数表記を通常の記数法へ変換 指数表記を通常の記数法に変換する方法はその指数部が正の数か負の数かで異なる。 指数部が正の数である場合、仮数部(かけられる数)の小数点を指数部の数だけ右へ移動させる。そして空白の桁には0を与える。例えば次のように。 \[ 4.9 \times 10^6 = 4900000.0 = 4900000 \] 4.9の小数点を右へ6桁移動させると0の桁が5つ加わって4900000になる。これで変換完了。 指数部が負の数である場合、仮数部の小数点を指数部の数だけ左へ移動させる。そして空白の桁には0を与える。例えば次のように。 \[ 4.9 \times 10^{-6} = 0.0000049 \] 4.9の小数点を左へ6桁移動させると\( \dfrac{1}{1000000} \)になって0.0000049になる。これで変換完了。 指数表記へ変換 通常の記数法で表されている数値を指数表記に変換するには次のようにする。 ここでは203000000を例に挙げる。 小数点を最大桁の右隣りまで左へ移動させる。 \[ 203000000 \Rightarrow 2.03000000 \] その小数点から右に何桁あるか数える。この例では8桁。指数部が8と決まる。 有効数字(この例では2.03)を残して残りの0の桁を削除。 \[ 2.03000000 \Rightar