■642 / inTopicNo.4) |
Re[3]: ありがとうごさいました
|
□投稿者/ makuma @ ベテラン(43回)-(2002/06/28(Fri) 10:42:05)
| 記事内容:[|]
> 倍精度、単精度の問題で数値上のずれはどこかで設定できる > のですか?教えてください。
これはどこかで設定出来るものでは無いです。 JWCよりもJWWの方が扱える数値の桁数が大きいために生じます。
たとえば、JWWでは1.666667であるものがJWCでは1.667になるわけです。 (実際にはもっと桁数多いですが)これでも0.0003の誤差が発生することが 分かりますよね。 JWWはこの誤差をずれと認識するわけです。
外変や変換ソフトである程度修正出来るようですが・・・。
|
|