• [转]decimal(numeric )、float 和 real 数据类型的区别


    摘自http://blog.ahnw.gov.cn/user1/itblog/archives/2007/8599.html
    mal(numeric )             同义,用于精确存储数值

    float 和 real                      不能精确存储数值


    decimal 数据类型最多可存储 38 个数字,所有数字都能够放到小数点的右边。decimal 数据类型存储了一个准确(精确)的数字表达法;不存储值的近似值。

    定义 decimal 的列、变量和参数的两种特性如下:

    • p   小数点左边和右边数字之和,不包括小数点。如 123.45,则 p=5,s=2。

      指定精度或对象能够控制的数字个数。

    • s

      指定可放到小数点右边的小数位数或数字个数。

      p 和 s 必须遵守以下规则:0 <= s <= p <= 38。

    numericdecimal 数据类型的默认最大精度值是 38。在 Transact-SQL 中,numeric decimal 数据类型在功能上等效。

    当数据值一定要按照指定精确存储时,可以用带有小数的 decimal 数据类型来存储数字。

    float 和 real 数据

    float real 数据类型被称为近似的数据类型。在近似数字数据类型方面,floatreal 数据的使用遵循 IEEE 754 标准。

    近似数字数据类型并不存储为多数数字指定的精确值,它们只储存这些值的最近似值。在很多应用程序中,指定值与存储值之间的微小差异并不明显。但有时这些差异也值得引起注意。由于 floatreal 数据类型的这种近似性,当要求精确的数字状态时,比如在财务应用程序中,在那些需要舍入的操作中,或在等值核对的操作中,就不使用这些数据类型。这时就要用 integerdecimalmoneysmallmone 数据类型。

    在 WHERE 子句搜索条件中(特别是 = 和 <> 运算符),应避免使用 floatreal 列。最好限制使用 floatreal 列做 > 或 < 的比较。

    IEEE 754 规格提供了四种舍入模式:舍入到最接近的值、上舍入、下舍入和舍入到零。Microsoft® SQL Server™ 使用上舍入。所有的数值必须精确到确定的精度,但会产生细小的浮点值变化。因为浮点数字的二进制表示法可以采用很多合法舍入规则中的任意一条,因此我们不可能可靠地量化一个浮点值。

    转换 decimal 和 numeric 数据

    对于 decimal numeric 数据类型,Microsoft® SQL Server™ 将精度和小数位数的每个特定组合看作是不同的数据类型。例如,decimal(5,5) 和 decimal(5,0) 被当作不同的数据类型。

    在 Transact-SQL 语句中,带有小数点的常量自动转换为 numeric 数据值,且必然使用最小的精度和小数位数。例如,常量 12.345 被转换为 numeric 值,其精度为 5,小数位为 3。

    decimal numeric floatreal 转换会导致精度损失。从 intsmallinttinyintfloatrealmoney smallmoneydecimalnumeric 转换会导致溢出。

    默认情况下,在将数字转换为较低精度和小数位数的 decimalnumeric 值时,SQL Server 使用舍入法。然而,如果 SET ARITHABORT 选项为 ON,当发生溢出时,SQL Server 会出现错误。若仅损失精度和小数位数,则不会产生错误.

  • 相关阅读:
    SAP程序代码中RANGE表的用法注意点
    代码审计学习-1
    应用层隧道之HTTP/HTTPS和DNS
    应用层隧道技术之SSH
    横向移动-常用windows连接和相关命令
    基于MSF的路由转发
    渗透过程中的边界突破(内部分享笔记)
    网络层隧道之PowerCat
    网络层隧道之lcx和nc的使用
    网络层隧道构建之PingTunnel
  • 原文地址:https://www.cnblogs.com/redcoatjk/p/3562408.html
Copyright © 2020-2023  润新知