问题来源
今天在写leetcode的题目的时候,在debug模式中突然发现了一个不符合常理的现象,第一反应就是肯定不是编译器的错误,肯定是我自己哪儿有问题,经过一番简单的排查,发现这个问题是由整形提升引起的。
分析如下
错误代码如下,题目为LeetCode的279.Perfect Squares
class Solution {
public:
int numSquares(int n) {
set<int> powerset;
for (unsigned bottom = 1; bottom * bottom <= n; bottom ++) {
powerset.insert(bottom * bottom);
}
vector<int> dp(n + 1, -1);
return numSquares0(dp, powerset, n);
}
int numSquares0(vector<int>& dp, set<int>& powerset, int remain) {
if (powerset.find(remain) != powerset.end())
return dp[remain] = 1;
if (dp[remain] != -1)
return dp[remain];
int _min = 1 << 30;
for (unsigned element : powerset) {
if (remain - element >= 1) {
_min = min({ _min, numSquares0(dp, powerset, remain - element) + 1 });
}
}
return dp[remain] = _min;
}
};
其实这串代码在逻辑上是没有问题的,如果稍作修改就可以在leetcode里面ac,但是问题就出在了这一段上面:
for (unsigned element : powerset) {
if (remain - element >= 1) {
_min = min({ _min, numSquares0(dp, powerset, remain - element) + 1 });
}
}
由于我在近段时间编程的时候,特别是需要用到索引的时候,喜欢使用unsigned型变量,导致我这里也使用了unsigned型变量,那么在
remain - element >= 1
语句中,element
变量为unsigned
型,在进行减法运算的时候,会把remain
变量也提升为unsigned
型,导致如果remain - element
为负数的时候,会变成一个正数,从而比1
大,导致错误的发生,这个错误也是隐藏的比较深。
所以改正办法也很简单,如下:
for (int element : powerset) {
if (remain - element >= 1) {
_min = min({ _min, numSquares0(dp, powerset, remain - element) + 1 });
}
}
小总结
编程的时候还是要慎重使用每一个数据类型,注意每一个细节,我研究生阶段的主要工作还是编译方向,这个细节就更是我应该注意的部分。