単精度でも24bit程度の精度があるわけで、これで足りないのは元データの有効数字がめっちゃ桁数ある、とかの場合になりそう
単精度でも24bit程度の精度があるわけで、これで足りないのは元データの有効数字がめっちゃ桁数ある、とかの場合になりそう
hisso.li is a social network. It runs on GNU social, version 2.0.0-alpha0, available under the GNU Affero General Public License.
All hisso.li content and data are available under the Creative Commons Attribution 3.0 license.