考虑这样一段代码,是否存在溢出问题。
void func(char *input, char* input2, size_t inputlen) //初始化函数
{
char buf[256] = {0};
for(int i=0;i<256;i++)
buf[i] = input[i%inputlen];
......
j=(j+s[i]+buf[i])%256;
input2[j] = tmp;
}
如果不仔细看的话不会发现这里存在整数溢出,buf声明为有符号char数组,j声明为int,所以计算
j=(j+s[i]+k[i])%256;
的时候,buf[i]1会被拓展为int类型,当第一个字节的高位为1时,会被当作负数,有可能导致j被计算为负数,造成整数下溢问题,修改调用者的内存,在笔者环境中还有几率修改input2的指向,即使其被声明为const char*。
以上代码来自于某个实现了算法的库。