fujidigのクリップ (793)   /  浮動小数点 (3)

1. 

   9 型変換 (Type Conversion)

   www2u.biglobe.ne.jp (from clips/fujidig) 1 user 2008年08月21日

   javascript ieee754 浮動小数点 
2. 

   徳丸浩の日記 - 恐ろしい毒 - IEEE754のとりうる整数の範囲

   www.tokumaru.org (from clips/fujidig) 1 user 2008年06月19日

   浮動小数点 
3. 

   まつもと直伝　プログラミングのオキテ 第15回　浮動小数点数の謎に満ちた世界

   itpro.nikkeibp.co.jp (from clips/fujidig) 14 users 2007年10月25日

   プログラミング 浮動小数点 

   実数で同じ値をどんどん足していく方法では誤差が広がってしまうから乗算でやった方がいいんだ。

Ads by Google