Hitachi

COBOL2002 ユーザーズガイド


29.5.2 内部浮動小数点項目から固定小数点形式の数字項目への転記

内部浮動小数点項目から固定小数点形式の数字項目への転記で,固定小数点形式の数字項目が内部浮動小数点項目の有効けたを超える下位のけたを持つ場合,下位のけたが大きくなるほど,誤差の影響も大きくなります。

内部浮動小数点数の小数点位置合わせに伴う誤差の影響が,けた数の拡張によって現れる例を次に示します。なお,内部浮動小数点数の有効けた数および標準けた寄せ規則については,マニュアル「COBOL2002 言語 拡張仕様編」 「6. 浮動小数点形式データを扱う機能」を参照してください。

(例)
   01 A  USAGE COMP-2    VALUE 2.0E+0.
   01 B  PIC 9(1)V9(14).
   01 C  PIC 9(1)V9(23).
          :
   COMPUTE B = A.
   COMPUTE C = A.
          :
 
 (出力結果)
   B = +200000000000000
   C = +199999999999999983222784