[前][次][番号順一覧][スレッド一覧]

mysql:12953

From: "MIURA, Takayuki // NetConcierge " <"MIURA, Takayuki // NetConcierge " <t.miura@xxxxxxxxxx>>
Date: Fri, 28 Apr 2006 15:06:16 +0900
Subject: [mysql 12953] Re: decimal型、double型に関して

菅原さん、chukenさん

なるほど、有効桁数を超えてるってことですか。
ありがとうございました。

> -----Original Message-----
> From: SUGAWARA Hajime [mailto:sugawara@xxxxxxxxxx] 
> Sent: Thursday, April 27, 2006 11:57 PM
> To: ml@xxxxxxxxxx
> Subject: [mysql 12952] Re: decimal型、double型に関して
> 
> 
>  菅原です。
> 
> "MIURA, Takayuki // NetConcierge " <t.miura@xxxxxxxxxx>さん:
> > decimal型、double型に関して質問させてください。
> > 値の大きい数値を扱おうと予定で、下記のクエリを実行しましたが
> > 正確な数値が算出されませんでした。
> > これは、有効桁数を超えているからなのでしょうか。
> 
>  有効桁数を越えているからでしょう。
> 
>  MySQL5.0.3以降でDECIMAL型の扱いが変わっていて、そちらなら大丈夫だと> います。
http://dev.mysql.com/doc/refman/5.0/en/precision-math-decimal-changes.ht
ml

 手元で確認したところ、

insert into test10 (id, cnt)  values (1, 100000000000000000000 + 1);

できちんとinsertされました。
(1E+20 + 1ではだめです)

-- 
菅原はじめ@うぃーくぽいんと
mailto:sugawara@xxxxxxxxxx




[前][次][番号順一覧][スレッド一覧]

     12949 2006-04-27 20:04 ["MIURA, Takayuki // ] decimal型、double型に関して             
     12950 2006-04-27 22:02 ┣[忠犬 KEN <ken_ken_19]                                       
     12951 2006-04-27 22:36 ┃┗["MIURA, Takayuki // ]                                     
     12952 2006-04-27 23:57 ┗[SUGAWARA Hajime <sug]                                       
->   12953 2006-04-28 15:06  ┗["MIURA, Takayuki // ]