mysql:16128
From: "ktsa5236@xxxxxxxxxx" <"ktsa5236@xxxxxxxxxx" <ktsa5236@xxxxxxxxxx>>
Date: Tue, 3 Jun 2014 10:38:18 +0900
Subject: [mysql 16128] MySQLのfloat型の有効桁数について
いつもお世話になっております。ktsaと申します。 表題の件について教えていただきたいのですが、 MySQLのfloat型は、IEEE754に則っているのでしょうか? 7桁ではなく、常に有効数字6桁までしか保存されないように思います。 環境とテスト内容ですが、 MySQL5.0.22-community-nt データベースはInnoDB CREATE TABLE `testtb` ( `A` tinyint(4) NOT NULL default '0', `B_dbl` double default NULL, `C_float` float default NULL, PRIMARY KEY (`A`) ) ENGINE=InnoDB DEFAULT CHARSET=sjis; Insert into testtb values(11,1.2345678901234567890,1.2345678901234567890); を実行する。 コンソール実行画面結果は、 mysql> Insert into testtb values(11,1.2345678901234567890,1.2345678901234567890); Query OK, 1 row affected mysql> select * from testtb where A=11; +----+------------------+---------+ | A | B_dbl | C_float | +----+------------------+---------+ | 11 | 1.23456789012346 | 1.23457 | +----+------------------+---------+ 1 row in set とC_float列は7桁目が丸めまれ常に有効数字が6桁になります。 他の値でも試しましたが同様でした。 よろしくお願いいたします。
-> @ 16128 2014-06-03 10:38 ["ktsa5236@xxxxxxxxxx] MySQLのfloat型の有効桁数について @ 16129 2014-06-03 11:10 ┗["yoku ts." <yoku0825] Re: [mysql 16128] MySQLのfloat型の有効桁数について @ 16130 2014-06-09 00:38 ┗["ktsa5236@xxxxxxxxxx] Re: [mysql 16129] Re: [mysql 16128] MySQLのfloat型の有効桁数について @ 16131 2014-06-09 10:31 ┗["yoku ts." <yoku0825] Re: [mysql 16130] Re: [mysql 16129] Re: [mysql 16128] MySQLのfloat型の有効桁数について @ 16132 2014-06-11 11:37 ┗["ktsa5236@xxxxxxxxxx] Re: [mysql 16131] Re: [mysql 16130] Re: [mysql 16129] Re: [mysql 16128] MySQLのfloat型の有効桁数について