SHA512函数使用时的一个坑

在做报文加签时候遇到一个坑，记录一下。程序加签过程如下，先使用SHA512函数计算源数据块的hash串，然后转成16进制字符串，再对十六进制字符串进行RSA私钥加签。

关键代码如下：

SHA512((unsigned char *)srcStr, srcStrLen, sha512Str);
sha512StrLen = strlen(sha512Str);
str2Hex(sha512Str, sha512StrHex, sha512StrLen );
sign(sha512StrHex, strlen(sha512StrHex), signStr, signStrLen);

在使用上述代码加签时候，发现，有些情况下，加签结果正常，使用公钥能够正常验签，有时候则验签失败。经排查发现，有些情况下自定义的str2Hex函数有时候得到的十六进制hash串，与一些工具提供的长度不符。

经排查问题出在sha512strLen = strlen(sha512Str)这里，计算的长度有时候不正确，原因是sha512Str里有不可见字符，包括'\0'，strlen遇到结束符，则返回，因此长度计算不正确，进一步导致得到的十六进制串长度不正确，最后导致加签结果也不正确，验签失败。

实际上hash的一些工具函数，如SHA1、SHA256、SHA512计算的长度结果都是一定的，可以用自带的宏表示，例如SHA512结果长度为64，用SHA512_DIGEST_LENGTH表示，不能也不需要使用strlen计算。修改上述代码如下：

SHA512((unsigned char *)srcStr, srcStrLen, sha512Str);
str2Hex(sha512Str, sha512StrHex, SHA512_DIGEST_LENGTH);
sign(sha512StrHex,SHA512_DIGEST_LENGTH*2, signStr, signStrLen);

则计算十六进制hash串计算正确，加签结果能够使用公钥正确验签。