まっさんの日記

まっさんの日記

PR

カレンダー

キーワードサーチ

▼キーワード検索

コメント新着

林小遠@ Re:スマホのセンサーについて(12/26) 失礼致しました。Amazonで日本のラズベリ…
2024.08.08
XML
カテゴリ: 仕事




コース図にパイロンを置く機能の続き。



Javaに限らず、
小数点以下の数値を扱う場合、
その値は近似値であることに注意が必要です。

小数点以下を2進数で表現する場合、
0.5, 0.25, 0.125, 0.0625, ...
の組わせで表現します。

ちなに整数は、
1, 2, 4, 8, 16, ...


なので、
小数点以下の数値を演算すると、
期待するような結果にならない場合がある。

パイロンの位置は、
緯度、経度は小数点以下7桁で管理しています。

パイロンの位置を微調整で動かす場合、
小数点以下6桁の数値で演算するわけで、
期待するような結果ならなくて、
嵌ってしまった。

Javaの場合は、BigDecimalを使う。

135.1234567 + 0.000001 を演算したい場合、



https://www.jisei-firm.com/archive-pro/

ポチッ として頂けると、
次のコンテンツを作成する励みになります♪
ブログランキング・にほんブログ村へ






お気に入りの記事を「いいね!」で応援しよう

最終更新日  2024.08.08 14:50:56
コメントを書く


【毎日開催】
15記事にいいね!で1ポイント
10秒滞在
いいね! -- / --
おめでとうございます!
ミッションを達成しました。
※「ポイントを獲得する」ボタンを押すと広告が表示されます。
x
X

© Rakuten Group, Inc.
X
Mobilize your Site
スマートフォン版を閲覧 | PC版を閲覧
Share by: