• java中如何使用BigDecimal使得Double类型保留两位有效数字


    一、场景:从数据表中读出Decimal类型的数据直接塞给Double类型的对象时,并不会有什么异常。

    如果要再此基础上计算,就会发生异常。

    比如:读出数据为0.0092,将其乘以100,则变成了0.919999999999999...

    二、原因:

    java mysql 数据类型对照如下:

    类型名称 显示长度 数据库类型 JAVA类型 JDBC类型索引(int) 描述
               
    VARCHAR L+N VARCHAR java.lang.String 12  
    CHAR N CHAR java.lang.String 1  
    BLOB L+N BLOB java.lang.byte[] -4  
    TEXT 65535 VARCHAR java.lang.String -1  
               
    INTEGER 4 INTEGER UNSIGNED java.lang.Long 4  
    TINYINT 3 TINYINT UNSIGNED java.lang.Integer -6  
    SMALLINT 5 SMALLINT UNSIGNED java.lang.Integer 5  
    MEDIUMINT 8 MEDIUMINT UNSIGNED java.lang.Integer 4  
    BIT 1 BIT java.lang.Boolean -7  
    BIGINT 20 BIGINT UNSIGNED java.math.BigInteger -5  
    FLOAT 4+8 FLOAT java.lang.Float 7  
    DOUBLE 22 DOUBLE java.lang.Double 8  
    DECIMAL 11 DECIMAL java.math.BigDecimal 3  
    BOOLEAN 1 同TINYINT      
               
    ID 11 PK (INTEGER UNSIGNED) java.lang.Long 4  
               
    DATE 10 DATE java.sql.Date 91  
    TIME 8 TIME java.sql.Time 92  
    DATETIME 19 DATETIME java.sql.Timestamp 93  
    TIMESTAMP 19 TIMESTAMP java.sql.Timestamp 93  
    YEAR 4 YEAR java.sql.Date 91






     

    三、解决方案:

    1、将double类型重新变成BigDecimal类型,最后的结果还要获取有效位数

    double d = 111231.5585;   

    BigDecimal b = new BigDecimal(f);  

    double df = b.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue(); 

    2、因为数据表里的类型是Decimal,所以讲java对象中对应的成员变量的类型改成BigDecimal即可。

    四、BigDecimal简介

    在mysql中,对于精度比较高的数据存储,比如money,需要用decimal类型,而不会采用float或double类型,原因在于后者数据误差较大。

    decimal列的声明语法是decimal(m,d)。

    在mysql 5.1中,参数的取值范围: 

    1、M是数字的最大数(精度)。其范围为1~65(在较旧的MySQL版本中,允许的范围是1~254)。 

    2、D是小数点右侧数字的数目(标度)。其范围是0~30,但不得超过M。 
    说明:float占4个字节,double占8个字节,decimail(M,D)占M+2个字节。 
    如DECIMAL(5, 2) 的最大值为9 9 9 9 . 9 9,因为有7 个字节可用。 
     
    注: 
    M 与D 对DECIMAL(M, D) 取值范围的影响 
     

    类型说明 取值范围(MySQL < 3.23) 取值范围(MySQL >= 3.23) 
    DECIMAL(4, 1) -9.9 到 99.9 -999.9 到 9999.9 
    DECIMAL(5, 1) -99.9 到 999.9 -9999.9 到 99999.9 
    DECIMAL(6, 1) -999.9 到 9999.9 -99999.9 到 999999.9 
    DECIMAL(6, 2) -99.99 到 999.99 -9999.99 到 99999.99 
    DECIMAL(6, 3) -9.999 到 99.999 -999.999 到 9999.999
     

     
    # 在mysql 3.23 及以后的版本中,decimal(m, d) 的取值范围等于早期版本中的decimal(m + 2, d) 的取值范围。 
     
    另外一种数据类型:
    LongBlob,这种数据类型可以直接把图像文件存到数据表中! 
     
    在研究mysql的decimal数据类型,现把数据实验结果公布: 
    数据库版本:Server version: 5.0.45 Source distribution 
     
    1、创建表结构 
     

    create table ta (a float,b decimal(10,5));
     

    2、插入数据 
     

    insert into ta (a,b) values(1,12345.123423);
     

    实际插入的b列数据为:12345.12342 
     

    insert into ta (a,b) values(1,123456.1234);

    实际插入的b列数据为:99999.99999

    结论:decimal数据类型, 
    1、当插入的整数部分的值超过了其表示范围后就直接忽略了小数部分的值,并以最大值填充。 
    2、当整数部分合法,小数部分多余的位数,直接截断。

  • 相关阅读:
    View相关知识学习总结
    关于Android四大组件的学习总结
    Android开发框架--AndroidAnnotations(一)
    USACO 3.4
    hdu 2723
    hdu 2721
    hdu 2719
    hdu 1527
    hdu 1260
    hdu 2603
  • 原文地址:https://www.cnblogs.com/jiangxiaoyaoblog/p/5809636.html
Copyright © 2020-2023  润新知