lua - 在Lua中将十六进制转换为十进制保留小数部分

标签 lua decimal hex

Lua 的 tonumber 函数很好,但只能转换无符号整数,除非它们是基数 10。我有一种情况,我有像 01.4C 这样的数字。我想转换为十进制。

我有一个糟糕的解决方案:

function split(str, pat)
   local t = {} 
   local fpat = "(.-)" .. pat
   local last_end = 1
   local s, e, cap = str:find(fpat, 1)
   while s do
      if s ~= 1 or cap ~= "" then
        table.insert(t,cap)
      end
      last_end = e+1
      s, e, cap = str:find(fpat, last_end)
   end
   if last_end <= #str then
      cap = str:sub(last_end)
      table.insert(t, cap)
   end
   return t
end
-- taken from http://lua-users.org/wiki/SplitJoin

function hex2dec(hexnum)
  local parts = split(hexnum, "[\.]")
  local sigpart = parts[1]
  local decpart = parts[2]

  sigpart = tonumber(sigpart, 16)
  decpart = tonumber(decpart, 16) / 256

  return sigpart + decpart
end

print(hex2dec("01.4C")) -- output: 1.296875

如果有更好的解决方案,我会对此感兴趣。

最佳答案

这是一个更简单的解决方案:

function hex2dec(hexnum)
        local a,b=string.match(hexnum,"(.*)%.(.*)$")
        local n=#b
        a=tonumber(a,16)
        b=tonumber(b,16)
        return a+b/(16^n)
end

print(hex2dec("01.4C")) -- output: 1.296875

关于lua - 在Lua中将十六进制转换为十进制保留小数部分,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2686169/

相关文章:

vb.net - 将字符串转换为十进制,然后再转换回十进制

android,kotlin 将 Long 转换为十六进制字符串

c - 如何在 C 中将十六进制数组转换为十进制数组并再次转换回来?

mysql - MAMP 或 Mac nginx MySQL Lua

scripting - 为什么要将 lua 嵌入到游戏引擎中?

c++ - 垃圾收集事件的 LuaPlus 和 c++ 回调

C++修剪和填充十六进制的#RGB值的无符号整数

lua - 为什么我可以使用函数使用参数设置表索引,但我不能设置作为参数传递的 varble

c++ - 如何从 std::decimal 获取系数?

python - python中是否有将IP地址转换为十进制数的函数?