四舍五入保留两位小数金额不对，64.585结果应该是64.59，但输出结果是64.58 about lancet HOT 4 CLOSED

@chengfny

浮点数运算基于 IEEE754 标准，丢精度可能是无法避免的

我看别人的代码有种精度更高的实现方式：

func Round(val float64, precision int) float64 {
	if precision == 0 {
		return math.Round(val)
	}
	p := math.Pow10(precision)
	if precision < 0 {
		return math.Floor(val*p+0.5) * math.Pow10(-precision)
	}
	return math.Floor(val*p+0.5) / p
}

但是仍然无法避免这个问题，如果需要准确的运算，你或许可以试试 github.com/shopspring/decimal

示例

from lancet.

可以使用decimal包解决

func RoundToString[T constraints.Float | constraints.Integer](x T, n int) string {
	d, _ := decimal.NewFromString(convertor.ToString(x))
	f, _ := d.Round(int32(n)).Float64()
	return strconv.FormatFloat(f, 'f', n, 64)
}

@chengfny

浮点数运算基于 IEEE754 标准，丢精度可能是无法避免的

我看别人的代码有种精度更高的实现方式：

func Round(val float64, precision int) float64 {
	if precision == 0 {
		return math.Round(val)
	}
	p := math.Pow10(precision)
	if precision < 0 {
		return math.Floor(val*p+0.5) * math.Pow10(-precision)
	}
	return math.Floor(val*p+0.5) / p
}

但是仍然无法避免这个问题，如果需要准确的运算，你或许可以试试 github.com/shopspring/decimal

示例

from lancet.

https://github.com/duke-git/lancet/blob/main/README_zh-CN.md?plain=1#L27
项目介绍里提到 只依赖 go 标准库和 golang.org/x

可以使用decimal包解决

func RoundToString[T constraints.Float | constraints.Integer](x T, n int) string {
	d, _ := decimal.NewFromString(convertor.ToString(x))
	f, _ := d.Round(int32(n)).Float64()
	return strconv.FormatFloat(f, 'f', n, 64)
}

@chengfny

浮点数运算基于 IEEE754 标准，丢精度可能是无法避免的
我看别人的代码有种精度更高的实现方式：

func Round(val float64, precision int) float64 {
	if precision == 0 {
		return math.Round(val)
	}
	p := math.Pow10(precision)
	if precision < 0 {
		return math.Floor(val*p+0.5) * math.Pow10(-precision)
	}
	return math.Floor(val*p+0.5) / p
}

但是仍然无法避免这个问题，如果需要准确的运算，你或许可以试试 github.com/shopspring/decimal
示例

from lancet.

https://github.com/duke-git/lancet/blob/main/README_zh-CN.md?plain=1#L27 项目介绍里提到 只依赖 go 标准库和 golang.org/x

可以使用decimal包解决

func RoundToString[T constraints.Float | constraints.Integer](x T, n int) string {
	d, _ := decimal.NewFromString(convertor.ToString(x))
	f, _ := d.Round(int32(n)).Float64()
	return strconv.FormatFloat(f, 'f', n, 64)
}

@chengfny

浮点数运算基于 IEEE754 标准，丢精度可能是无法避免的
我看别人的代码有种精度更高的实现方式：

func Round(val float64, precision int) float64 {
	if precision == 0 {
		return math.Round(val)
	}
	p := math.Pow10(precision)
	if precision < 0 {
		return math.Floor(val*p+0.5) * math.Pow10(-precision)
	}
	return math.Floor(val*p+0.5) / p
}

但是仍然无法避免这个问题，如果需要准确的运算，你或许可以试试 github.com/shopspring/decimal
示例

那就只能他自己用decimal包解决了

from lancet.