IT用語集 › プログラミング › 浮動小数点
コンピューターが小数を表現する方式で、規格はIEEE 754。「0.1 + 0.2 ≠ 0.3」というバグの定番の出どころだ。
float は32ビット、double は64ビットで、精度には限りがある。金額には整数(セント単位)か10進数型を使うこと。AIの分野では、速度と電力効率でfp16 / bf16 / fp8が優位に立つ。
float
double