GNUOctave失败hex2dec

html5 • • 问答 • 169 阅读

遇到一些 HEX 到 DEC转换失败

b = '0x170d21b9' 
bdec = hex2dec(b)

返回

bdec = NaN

但应该是 386736569

在上面的例子中如何将十六进制数转换为整数？

回答

去掉 0x。这是在某些语言中用于表示数字是十六进制的符号，但实际上不是数字的一部分。Octave 的 hex2dec 函数不使用它。把b = '170d21b9'，你会得到bdec = 386736569。

以上是GNUOctave失败hex2dec的全部内容。
THE END
分享
二维码
< <上一篇
下一篇>>