C# 中的乘法错误
本文关键字:错误 | 更新日期: 2023-09-27 18:37:08
当将一组 int 相乘并将结果转换为 long 时,我得到不同的答案,而不是当我将一组双精度相乘并将结果转换为 long 时。 例如:
int a = 5;
int b = 5;
int c = 7;
int d = 6;
int ee = 6;
int f = 8;
int g = 9;
int h = 6;
int i = 6;
int j = 4;
int k = 8;
int l = 9;
int m = 5;
long x = a * b * c * d * ee * f * g * h * i * j * k * l * m;
double aa = 5;
double ab = 5;
double ac = 7;
double ad = 6;
double aee = 6;
double af = 8;
double ag = 9;
double ah = 6;
double ai = 6;
double aj = 4;
double ak = 8;
double al = 9;
double am = 5;
long y = (long)(aa * ab * ac * ad * aee * af * ag * ah * ai * aj * ak * al * am);
谁能告诉我为什么会这样?谢谢
你
有一个整数溢出,因为每当你乘以二int
你就会得到int
:到目前为止,这被解释为Int32
a * b * c * d * ee * f * g * h * i * j * k * l * m
并且仅转换为Int64
(long
)。若要更正实现,请声明最初long
的所有变量,例如
long a = 5;
long b = 5; // actually, not necessary, since a * b will be long, but safer
long c = 7;
...
long m = 5;
long x = a * b * c * d * ee * f * g * h * i * j * k * l * m;
这可能是因为乘法的结果太大而无法在 Int32 中保存 - 但它可以保存在双精度中。
更具体地说,看看十六进制中的 x 和 y:
x = 0x000000007994b000
y = 0x000000057994b000
Int32
只能保存较低的 8 个十六进制值。这就是为什么x
是错误的数字。最低的 8 个十六进制值是正确的,但顶部被切断。
我给它一个简短的搜索,甚至在脚本上运行一些测试,我发现了以下结果,在脚本格式中,我将其测试为,
<script>
var a = 5;
var b = 5;
var c = 7;
var d = 6;
var ee = 6;
var f = 8;
var g = 9;
var h = 6;
var i = 6;
var j = 4;
var k = 8;
var l = 9;
var m = 5;
var x = a * b * c * d * ee * f * g * h * i * j * k * l * m;
var y = eval(a * b * c * d * ee * f * g * h * i * j * k * l * m);
document.writeln("RESULT X : " + x);
document.write("<br>");
document.writeln("RESULT Y : " + y);
</script>
结果对于x
和y
都是23514624000
,但是在 C# 中,当您尝试将所有整数相乘并最终形成一个整数时,但我们也知道int.MAX = 2147483647
小于 thw actuall 结果,因此在分配给 long x= a * b * c * d * ee * f * g * h * i * j * k * l * m;
时的结果是截断原始值, 在其他结果中则不是,如果您希望两者的结果相同,您可以使用以下代码,
int a = 5;
int b = 5;
int c = 7;
int d = 6;
int ee = 6;
int f = 8;
int g = 9;
int h = 6;
int i = 6;
int j = 4;
int k = 8;
int l = 9;
int m = 5;
long x = (long)a * b * c * d * ee * f * g * h * i * j * k * l * m;
double aa = 5;
double ab = 5;
double ac = 7;
double ad = 6;
double aee = 6;
double af = 8;
double ag = 9;
double ah = 6;
double ai = 6;
double aj = 4;
double ak = 8;
double al = 9;
double am = 5;
long y = (long)(aa * ab * ac * ad * aee * af * ag * ah * ai * aj * ak * al * am);
Console.WriteLine(x);
Console.WriteLine(y);
Console.ReadKey();
现在您将获得相同的结果,即23514624000