确定整数溢出是超出边界还是低于边界
本文关键字:边界 于边界 整数 溢出 | 更新日期: 2023-09-27 18:08:33
使用c#,我有一些自定义类,我需要能够检测整数溢出并返回默认的最小值或最大值,这取决于溢出是由于结果超过最大值还是低于最小值。我似乎找不到一个关于如何检测任何地方发生的溢出"类型"的建议。
类分为两种一般类型:使用有符号值的类和使用无符号值的类。
作为一个例子,下面是一个处理Int32值的类:
public class Stat32Tf : IStat32T<float>
{
#region fields
private int baseValue, baseAdjustment;
private float baseMultiplier;
#endregion
#region ctors
public Stat32Tf()
{
baseValue = 0;
baseAdjustment = 0;
baseMultiplier = 1f;
}
public Stat32Tf(int baseValue, int baseAdjustment = 0, float baseMultiplier = 1f)
{
this.baseValue = baseValue;
this.baseAdjustment = baseAdjustment;
this.baseMultiplier = baseMultiplier;
}
#endregion
#region properties
public int BaseValue
{
get
{
return baseValue;
}
set
{
baseValue = value;
}
}
public int BaseAdjustment
{
get
{
return baseAdjustment;
}
set
{
baseAdjustment = value;
}
}
public float BaseMultiplier
{
get
{
return BaseMultiplier;
}
set
{
baseMultiplier = value;
}
}
public int TruncValue
{
get
{
return (int)Value;
}
}
public float Value
{
get
{
return (baseValue + baseAdjustment) * baseMultiplier;
}
}
#endregion
}
如您所见,该类的思想是保存一个基值、一个调整值和一个乘数值,并在value属性中返回聚合值。(TruncValue属性,顾名思义,只是返回截断的整数值,删除任何小数值)。
目标是处理Value属性的"get"访问器中的溢出,如果结果超过最大int值,则返回int。MaxValue,如果小于最小值,则返回int。MinValue,而不抛出实际的溢出错误。让我感到棘手的部分是调整值和乘数也可以是负值(根据设计要求)。
实现这一目标的安全方法是什么?我还没能找到任何解决这种情况的资源。我猜需要使用某种算术算法来确定结果是超过还是低于
只有少数情况下它可以下溢:
-
如果baseValue和baseAdjustment都是负的-> If Int。MinValue - baseAdjustment> baseValue,那么你有一个下流
-
如果baseValue + baseajument为负且basemulplier为正->如果引发溢出异常,则只能是下溢
-
如果baseValue + baseAdjustment为正,但basemulplier为负->如果引发溢出异常,则只能是下溢
如果你想避免引发/捕获异常,那么它可能会有点复杂(你可能想要将结果强制转换为long,并将其与Int.MaxValue;这样,只有当结果超过Long.MaxValue)时,它才会引发异常。
float非常大。是期望get值溢出,还是期望强制转换为int值溢出?如果只是强制转换,类似下面的代码可能会起作用。
//This answer is wrong, see below.
public int TruncValue
{
get
{
if (Value > (float)int.MaxValue)
{
return int.MaxValue
}
else if (Value < (float)int.MinValue)
{
return int.MinValue
}
else
{
return (int)Value;
}
}
}
尽管您可能需要对边缘情况进行一些额外的处理。
编辑-我在一些代码中玩了这个,发现了一些我没有预料到的行为,但显然它是在规范中。
例如,var Value = int.MaxValue + int.MaxValue //Ends up returning -2 with no exception in debug mode.
var MaxCalculatedValue = (int.MaxValue + int.MaxValue) * float.MaxValue //Ends up returning something like -3.4... ^38.
你可能真的需要将所有内容向上强制转换为double类型,然后检查结果是否大于或小于int类型。
所以它可能看起来像这样:
public float Value
{
get
{
var result = ((double)baseValue + (double)baseAdjustment) * (double)baseMultiplier;
if (result > (double)int.MaxValue)
{
return (float)int.MaxValue)
}
if (result < (double)int.MinValue)
{
return (float)int.MinValue)
}
return (float)result;
}
}