[前][次][番号順一覧][スレッド一覧]

mysql:16128

From: "ktsa5236@xxxxxxxxxx" <"ktsa5236@xxxxxxxxxx" <ktsa5236@xxxxxxxxxx>>
Date: Tue, 3 Jun 2014 10:38:18 +0900
Subject: [mysql 16128] MySQLのfloat型の有効桁数について

いつもお世話になっております。ktsaと申します。
表題の件について教えていただきたいのですが、
MySQLのfloat型は、IEEE754に則っているのでしょうか?
7桁ではなく、常に有効数字6桁までしか保存されないように思います。

環境とテスト内容ですが、
MySQL5.0.22-community-nt

データベースはInnoDB

CREATE TABLE `testtb` (
  `A` tinyint(4) NOT NULL default '0',
  `B_dbl` double default NULL,
  `C_float` float default NULL,
  PRIMARY KEY  (`A`)
) ENGINE=InnoDB DEFAULT CHARSET=sjis;

Insert into testtb values(11,1.2345678901234567890,1.2345678901234567890);

を実行する。
コンソール実行画面結果は、

mysql> Insert into testtb
values(11,1.2345678901234567890,1.2345678901234567890);
Query OK, 1 row affected

mysql> select * from testtb where A=11;
+----+------------------+---------+
| A  | B_dbl            | C_float |

+----+------------------+---------+
| 11 | 1.23456789012346 | 1.23457 |

+----+------------------+---------+
1 row in set
とC_float列は7桁目が丸めまれ常に有効数字が6桁になります。
他の値でも試しましたが同様でした。

よろしくお願いいたします。

添付ファイル

[前][次][番号順一覧][スレッド一覧]

-> @ 16128 2014-06-03 10:38 ["ktsa5236@xxxxxxxxxx] MySQLのfloat型の有効桁数について        
   @ 16129 2014-06-03 11:10 ┗["yoku ts." <yoku0825] Re: [mysql 16128] MySQLのfloat型の有効桁数について
   @ 16130 2014-06-09 00:38  ┗["ktsa5236@xxxxxxxxxx] Re: [mysql 16129] Re: [mysql 16128] MySQLのfloat型の有効桁数について
   @ 16131 2014-06-09 10:31   ┗["yoku ts." <yoku0825] Re: [mysql 16130] Re: [mysql 16129] Re: [mysql 16128] MySQLのfloat型の有効桁数について
   @ 16132 2014-06-11 11:37    ┗["ktsa5236@xxxxxxxxxx] Re: [mysql 16131] Re: [mysql 16130] Re: [mysql 16129] Re: [mysql 16128] MySQLのfloat型の有効桁数について