小数保留2位小数

Esma001

例
10.2548  返回10.25

10.2568  返回10.25   10.26 都可以 无需很高精度 只需要保留两位

10.2       返回10.20   保留两位

10          返回10.00   保留两位

应用场景的小数值范围是在0-90以内 不会超越90

数值到格式文本 (到数值 (数), 2, 假) 这样效率不算高  场景有点要求速度








补充内容 (2023-11-23 08:42):
我暂时能想到的办法是把浮点乘以100然后转为整数型 然后使用取模运算分离出整数部分和小数部分 但是易语言运算有点糟糕啊

笨来无一悟

懒得伤脑筋 没用纯汇编 快速文本对象的效率也挺高的 里面的代码别乱改哈 缓存=0是有意义的 拉屎占茅坑的意思

  

子程序名	返回值类型	公开	备 注
保留小数	文本型		保留几位小数 向下取整 不做四舍五入
参数名	类 型	参考	可空	数组	备 注
保留参数	双精度小数型
保留位数	整数型

变量名	类 型	静态	数组	备 注
缓存	双精度小数型
结果	快速文本对象

缓存 ＝ 0
置入代码 ({ 54, 242, 15, 16, 69, 8, 54, 139, 77, 16, 184, 1, 0, 0, 0, 187, 10, 0, 0, 0, 131, 249, 1, 114, 6, 15, 175, 195, 73, 117, 250, 242, 15, 42, 200, 242, 15, 89, 193, 242, 15, 44, 192, 242, 15, 42, 192, 54, 242, 15, 17, 69, 248 })
结果.置文本 (缓存)
结果.插入 (－保留位数, “.”)
返回 (结果.取文本 (, ))

i支持库列表	支持库注释
commobj	通用对象支持库

.版本 2<br /> .支持库 commobj<br /> <br /> .子程序 保留小数, 文本型, , 保留几位小数 向下取整 不做四舍五入<br /> .参数 保留参数, 双精度小数型<br /> .参数 保留位数, 整数型<br /> .局部变量 缓存, 双精度小数型<br /> .局部变量 结果, 快速文本对象<br /> <br /> 缓存 ＝ 0<br /> 置入代码 ({ 54, 242, 15, 16, 69, 8, 54, 139, 77, 16, 184, 1, 0, 0, 0, 187, 10, 0, 0, 0, 131, 249, 1, 114, 6, 15, 175, 195, 73, 117, 250, 242, 15, 42, 200, 242, 15, 89, 193, 242, 15, 44, 192, 242, 15, 42, 192, 54, 242, 15, 17, 69, 248 })<br /> 结果.置文本 (缓存)<br /> 结果.插入 (－保留位数, “.”)<br /> 返回 (结果.取文本 (, ))

补充内容 (2023-11-23 09:38):
晕 测试下来0.00几 不正确...

补充内容 (2023-11-23 10:07):
小于1的你暂时特判一下 有空再优化优化...

悟空科技

  

调试输出 (到文本 (四舍五入 (10.2548, 2)))

调试输出 (到文本 (四舍五入 (10.2548, 2)))

悟空科技

  

调试输出 (数值到格式文本 (10.2548, 2, 假))

调试输出 (数值到格式文本 (10.2548, 2, 假))

Esma001

悟空科技 发表于 2023-11-23 08:44
调试输出 (数值到格式文本 (10.2548, 2, 假))

数值到格式文本 (到数值 (数), 2, 假) 和四舍五入都有点慢 数据量有点大 想着优化一下还有其他方法吗

chaoup

Esma001 发表于 2023-11-23 08:46
数值到格式文本 (到数值 (数), 2, 假) 和四舍五入都有点慢 数据量有点大 想着优化一下还有其他方法吗 ...

  

子程序名	返回值类型	公开	备 注
子程序1	文本型
参数名	类 型	参考	可空	数组	备 注
文本	文本型

文本 ＝ 取文本左边 (文本, 5)
判断 (取文本长度 (文本) ＝ 2)
文本 ＝ 文本 ＋ “.00”
判断 (取文本长度 (文本) ＝ 4)
文本 ＝ 文本 ＋ “0”


返回 (文本)

.版本 2<br /> <br /> .子程序 子程序1, 文本型<br /> .参数 文本, 文本型<br /> <br /> 文本 ＝ 取文本左边 (文本, 5)<br /> .判断开始 (取文本长度 (文本) ＝ 2)<br />     文本 ＝ 文本 ＋ “.00”<br /> .判断 (取文本长度 (文本) ＝ 4)<br />     文本 ＝ 文本 ＋ “0”<br /> .默认<br /> <br /> .判断结束<br /> 返回 (文本)

Esma001

chaoup 发表于 2023-11-23 08:47
[e=0].版本 2

.子程序 子程序1, 文本型

你这个还要慢~ 取文本长度和左边 申请3次文本内存~

笨来无一悟

比常规的写法快10倍

  

子程序名	返回值类型	公开	备 注
保留小数	双精度小数型		保留几位小数 向下取整 不做四舍五入
参数名	类 型	参考	可空	数组	备 注
保留参数	双精度小数型
保留位数	整数型

变量名	类 型	静态	数组	备 注
返回结果	双精度小数型

置入代码 ({ 242, 15, 16, 69, 8, 139, 77, 16, 184, 1, 0, 0, 0, 187, 10, 0, 0, 0, 131, 249, 1, 114, 6, 15, 175, 195, 73, 117, 250, 242, 15, 42, 200, 242, 15, 89, 193, 242, 15, 44, 192, 242, 15, 42, 192, 242, 15, 94, 193, 242, 15, 17, 69, 248 })
' movsd xmm0, qword ptr ss:[ebp+0x08]
' mov ecx, dword ptr ss:[ebp+0x10]
' mov eax, 0x01
' mov ebx, 0x0A
' cmp ecx, 0x01
' jb lable_0x1D
' lable_0x17:
' imul eax, ebx
' dec ecx
' jne lable_0x17
' lable_0x1D:
' cvtsi2sd xmm1, eax
' mulsd xmm0, xmm1
' cvttsd2si eax, xmm0
' cvtsi2sd xmm0, eax
' divsd xmm0, xmm1
' movsd qword ptr ss:[ebp-0x08], xmm0
返回 (返回结果)

.版本 2<br /> <br /> .子程序 保留小数, 双精度小数型, , 保留几位小数 向下取整 不做四舍五入<br /> .参数 保留参数, 双精度小数型<br /> .参数 保留位数, 整数型<br /> .局部变量 返回结果, 双精度小数型<br /> <br /> 置入代码 ({ 242, 15, 16, 69, 8, 139, 77, 16, 184, 1, 0, 0, 0, 187, 10, 0, 0, 0, 131, 249, 1, 114, 6, 15, 175, 195, 73, 117, 250, 242, 15, 42, 200, 242, 15, 89, 193, 242, 15, 44, 192, 242, 15, 42, 192, 242, 15, 94, 193, 242, 15, 17, 69, 248 })<br /> ' movsd xmm0, qword ptr ss:[ebp+0x08]<br /> ' mov ecx, dword ptr ss:[ebp+0x10]<br /> ' mov eax, 0x01<br /> ' mov ebx, 0x0A<br /> ' cmp ecx, 0x01<br /> ' jb lable_0x1D<br /> ' lable_0x17:<br /> ' imul eax, ebx<br /> ' dec ecx<br /> ' jne lable_0x17<br /> ' lable_0x1D:<br /> ' cvtsi2sd xmm1, eax<br /> ' mulsd xmm0, xmm1<br /> ' cvttsd2si eax, xmm0<br /> ' cvtsi2sd xmm0, eax<br /> ' divsd xmm0, xmm1<br /> ' movsd qword ptr ss:[ebp-0x08], xmm0<br /> 返回 (返回结果)

Esma001

笨来无一悟 发表于 2023-11-23 08:58
比常规的写法快10倍
[e=4].版本 2

num ＝ 8.5085
调试输出 (保留小数 (num, 2))  返回8.5

Esma001

Esma001 发表于 2023-11-23 09:01
num ＝ 8.5085
调试输出 (保留小数 (num, 2))  返回8.5

忘记了返回是小数 不是文本 是正常的舍去0 有点尴尬啊