关于数据类型float&decimal要注意的地方 - 润新知

关于数据类型float&decimal要注意的地方

计算加权平均价，读取单据的单据单价在小数点第7位出现误差。原因是该字段的数据类型为float(8)
替换为：decimal(18,10)不会出现此误差!!!
相关阅读:
HLSL定义float4 Pos:POSITION的寄存器绑定问题（Render Monkey）
Chapter 9-May There Be Light之点光源及其衰减
 Chapter 15-Watch Out for That Morning Fog之体积雾及体积雾场景混合
 Chapter 12-Not All Materials Are the Same
Chapter 11-Mirror, Mirror, On the Wall之反射跟折射
 Render Monkey中可渲染纹理的Clear Color
Chapter8-Making Your Day Brighter之使用Non-floating Texture来实现HDR特效
 Chapter8-Making Your Day Brighter之Lens Flare & put all together
Chapter8-Making Your Day Brighter之The Streak
Chapter8-Making Your Day Brighter之Your First HDR Shader: The Glare!
原文地址：https://www.cnblogs.com/ynlxc/p/272412.html

Copyright © 2020-2023 润新知