请问双精度小数，转换字节集，如何保存精度

夜黑如歌

比如 0.30000000 我想保留后面的0，但是在易语言里用双精度的变量，会变成 0.3

我需要精度，用于内存搜索，如何保留0呢？

到字节集的话，好像也不对，请指教

大漠小鸟

  

子程序名	返回值类型	公开	备 注
子程序1

变量名	类 型	静态	数组	备 注
字节集	字节集

字节集 ＝ 双精度到字节集 (0.3)
调试输出 (字节集, 字节集到双精度 (字节集))

子程序名	返回值类型	公开	备 注
双精度到字节集	字节集
参数名	类 型	参考	可空	数组	备 注
双精度	双精度小数型

变量名	类 型	静态	数组	备 注
字节集	字节集

字节集 ＝ 指针到字节集 (取变量地址 (双精度), 8)
返回 (字节集)

子程序名	返回值类型	公开	备 注
字节集到双精度	双精度小数型
参数名	类 型	参考	可空	数组	备 注
字节集	字节集

' __asm{
' ; mov eax,dword [ebp+8]
' ; mov eax,dword [eax]
' ; mov edx,dword [eax+12]
' ; mov eax,dword [eax+8]
' ; leave
' ; retn 4
' }
置入代码 ({ 139, 69, 8, 139, 0, 139, 80, 12, 139, 64, 8, 201, 194, 4, 0 })
返回 (0)

i支持库列表	支持库注释
spec	特殊功能支持库

.版本 2<br /> .支持库 spec<br /> <br /> .子程序 子程序1<br /> .局部变量 字节集, 字节集<br /> <br /> 字节集 ＝ 双精度到字节集 (0.3)<br /> 调试输出 (字节集, 字节集到双精度 (字节集))<br /> <br /> <br /> .子程序 双精度到字节集, 字节集<br /> .参数 双精度, 双精度小数型<br /> .局部变量 字节集, 字节集<br /> <br /> 字节集 ＝ 指针到字节集 (取变量地址 (双精度), 8)<br /> 返回 (字节集)<br /> <br /> .子程序 字节集到双精度, 双精度小数型<br /> .参数 字节集, 字节集<br /> <br /> ' __asm{<br /> ' ; mov eax,dword [ebp+8]<br /> ' ; mov eax,dword [eax]<br /> ' ; mov edx,dword [eax+12]<br /> ' ; mov eax,dword [eax+8]<br /> ' ; leave<br /> ' ; retn 4<br /> ' }<br /> 置入代码 ({ 139, 69, 8, 139, 0, 139, 80, 12, 139, 64, 8, 201, 194, 4, 0 })<br /> 返回 (0)

whj888555

  

子程序名	返回值类型	公开	备 注
_按钮1_被单击

变量名	类 型	静态	数组	备 注
临时	文本型

临时 ＝ “0.30000000”
调试输出 (到数值 (临时))

i支持库列表	支持库注释
spec	特殊功能支持库

.版本 2<br /> .支持库 spec<br /> <br /> .子程序 _按钮1_被单击<br /> .局部变量 临时, 文本型<br /> <br /> 临时 ＝ “0.30000000”<br /> 调试输出 (到数值 (临时))

夜黑如歌

whj888555 发表于 2024-11-8 17:16
[e=0].版本 2
.支持库 spec

aa ＝ “0.30000000”
[17:21:57] * 0.300000

精度还是丢失了....

li6601350

先用双精度小数型 转为字节集再搜索字节集就行了

cobi

  

窗口程序集名	保 留	保 留	备 注
窗口程序集_启动窗口

子程序名	返回值类型	公开	备 注
__启动窗口_创建完毕

调试输出 (格式化文本 (“%.8f”, 到数值 (“0.30000000”)))

i支持库列表	支持库注释
spec	特殊功能支持库
eAPI	应用接口支持库

.版本 2<br /> .支持库 spec<br /> .支持库 eAPI<br /> <br /> .程序集 窗口程序集_启动窗口<br /> <br /> .子程序 __启动窗口_创建完毕<br /> <br /> 调试输出 (格式化文本 (“%.8f”, 到数值 (“0.30000000”)))

whj888555

  

子程序名	返回值类型	公开	备 注
_按钮1_被单击

调试输出 (到文本 (10 ÷ 3))

i支持库列表	支持库注释
spec	特殊功能支持库

.版本 2<br /> .支持库 spec<br /> <br /> .子程序 _按钮1_被单击<br /> <br /> 调试输出 (到文本 (10 ÷ 3))

直接算出来了，就文本呢
* “3.333333333333”

li6601350

例子  你试试看

hongqingfeng

夜黑如歌 发表于 2024-11-8 17:22
aa ＝ “0.30000000”
[17:21:57] * 0.300000

最后你想要结果是文本型，还是小数型？

夜黑如歌

hongqingfeng 发表于 2024-11-8 17:46
最后你想要结果是文本型，还是小数型？

小数型 因为 我在ce搜索 0.3 和 0.300000  双浮点 精确地址 结果不一样
搞到易语言里 我就不太会了

用到字节集（到数值（0.3000000）） 搜索的结果和ce不一样