奇怪的溢出

考虑这样一段代码,是否存在溢出问题。

void func(char *input, char* input2, size_t inputlen) //初始化函数
{
    char buf[256] = {0};
    for(int i=0;i<256;i++)
    buf[i] = input[i%inputlen];
......
    j=(j+s[i]+buf[i])%256;
    input2[j] = tmp;
}	

如果不仔细看的话不会发现这里存在整数溢出,buf声明为有符号char数组,j声明为int,所以计算

j=(j+s[i]+k[i])%256;

的时候,buf[i]1会被拓展为int类型,当第一个字节的高位为1时,会被当作负数,有可能导致j被计算为负数,造成整数下溢问题,修改调用者的内存,在笔者环境中还有几率修改input2的指向,即使其被声明为const char*

以上代码来自于某个实现了算法的库。

创建于:Sunday, March 30,2025
最后修改于: Sunday, March 30,2025