Oracle Number 精度坑

Wesley13
• 阅读 1061

        在 Oracle中,经常使用 Number 属性,Number属性默认长度是22位,一般使用时会手动输入指定长度是多少,当然默认也行。不过有时候必须使用浮点类型的表示数据,比如“金额”,类似这样在Oracle中除去使用 float 外,还可以使用“Number(9,2)”这样写,感觉是最大数值是9个9,其实是错误的,这里最大长度是 9-2=7,7个9是最大长度!

        在Java中,一般字段属性使用 Double 来定义数据库中浮点字段,但是如使用Oracle数据,建议使用BigDecimal 来定义,毕竟如果在计算中就会入一个计算的坑——java计算结果如果是浮点就不准确!

BigDecimal a = new BigDecimal(Double.valueOf("222.1013"));
BigDecimal b = new BigDecimal(Double.valueOf("111.2012"));

System.out.println("===> "+ (222.1013 + 111.2012));
System.out.println("===> "+a.add(b));
System.out.println("加 ===> "+a.add(b).doubleValue());// a + b
System.out.println("减 ===> "+a.subtract(b).doubleValue());// a - b
System.out.println("乘 ===> "+a.multiply(b).doubleValue());// a * b

a = new BigDecimal(Double.valueOf("7"));
b = new BigDecimal(Double.valueOf("10000"));
System.out.println("===> "+ (7 / 10000));
System.out.println("除 ===> "+a.divide(b).toString());
System.out.println("除(四舍五入) ===> "+a.divide(b, 3, BigDecimal.ROUND_HALF_UP).doubleValue());//保留3位

结果:

===> 333.3025
===> 333.302500000000009094947017729282379150390625000
加 ===> 333.3025
减 ===> 110.90010000000001
乘 ===> 24697.93108156
===> 0
除 ===> 0.0007
除(四舍五入) ===> 0.001
点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Karen110 Karen110
3年前
一篇文章带你了解JavaScript日期
日期对象允许您使用日期(年、月、日、小时、分钟、秒和毫秒)。一、JavaScript的日期格式一个JavaScript日期可以写为一个字符串:ThuFeb02201909:59:51GMT0800(中国标准时间)或者是一个数字:1486000791164写数字的日期,指定的毫秒数自1970年1月1日00:00:00到现在。1\.显示日期使用
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Easter79 Easter79
3年前
typeScript数据类型
//布尔类型letisDone:booleanfalse;//数字类型所有数字都是浮点数numberletdecLiteral:number6;lethexLiteral:number0xf00d;letbinaryLiteral:number0b101
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Easter79 Easter79
3年前
Twitter的分布式自增ID算法snowflake (Java版)
概述分布式系统中,有一些需要使用全局唯一ID的场景,这种时候为了防止ID冲突可以使用36位的UUID,但是UUID有一些缺点,首先他相对比较长,另外UUID一般是无序的。有些时候我们希望能使用一种简单一些的ID,并且希望ID能够按照时间有序生成。而twitter的snowflake解决了这种需求,最初Twitter把存储系统从MySQL迁移
Stella981 Stella981
3年前
Android蓝牙连接汽车OBD设备
//设备连接public class BluetoothConnect implements Runnable {    private static final UUID CONNECT_UUID  UUID.fromString("0000110100001000800000805F9B34FB");
Stella981 Stella981
3年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
为什么mysql不推荐使用雪花ID作为主键
作者:毛辰飞背景在mysql中设计表的时候,mysql官方推荐不要使用uuid或者不连续不重复的雪花id(long形且唯一),而是推荐连续自增的主键id,官方的推荐是auto_increment,那么为什么不建议采用uuid,使用uuid究
Python进阶者 Python进阶者
11个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这