开启辅助访问 切换到宽版

精易论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

用微信号发送消息登录论坛

新人指南 邀请好友注册 - 我关注人的新帖 教你赚取精币 - 每日签到


求职/招聘- 论坛接单- 开发者大厅

论坛版规 总版规 - 建议/投诉 - 应聘版主 - 精华帖总集 积分说明 - 禁言标准 - 有奖举报

查看: 782|回复: 8
收起左侧

[完成] 大神看看,如何提高存储速度

 关闭 [复制链接]
结帖率:60% (3/5)
发表于 2022-4-28 09:31:42 | 显示全部楼层 |阅读模式   江西省南昌市
60精币
提取网页“http://zjy.jxjst.gov.cn/credit/qyRyCreditScore/list”数据,包含链接(我完成),因为有15000多条数据,存入数据库时要进2.5小时。有没有办法提高速度?
精易模块添加了获取网页的子程序,返回的是每页网页15家单位数据,每家单位用换行符隔开




最佳答案

查看完整内容

.版本 2 .子程序 功能_网页访问, 文本型, , 本命令由【精易网页调试助手】生成,请配合精易模块使用。 .局部变量 局_网址, 文本型 .局部变量 局_方式, 整数型 .局部变量 ADD_数据包, 类_POST数据类 .局部变量 局_提交数据, 文本型 .局部变量 ADD_协议头, 类_POST数据类 .局部变量 局_提交协议头, 文本型 .局部变量 局_结果, 字节集 .局部变量 局_返回, 文本型 ' http://zjy.jxjst.gov.cn/credit/qyRyCreditScore/queryPag ...
结帖率:60% (3/5)
 楼主| 发表于 2022-4-28 17:59:55 | 显示全部楼层   江西省南昌市
数据有近400M,存到EDB数据库要2.5小时,
我的思路是:
1、发送一个页面号,则返回15家单位及其资质(资质在网页类链接)   我模块中已完成,取出正常
2、在存到EDB数据库,是乎写数据库时无法同时写入。

大神们,是否要换数据库?其他数据库我也不会。望请指教!




精易模块.rar

758.45 KB, 下载次数: 0, 下载积分: 精币 -1 枚

模块

资质获取.e

931.93 KB, 下载次数: 0, 下载积分: 精币 -1 枚

程序

资质数据.txt

1.1 KB, 下载次数: 0, 下载积分: 精币 -1 枚

字段数量

回复

使用道具 举报

结帖率:90% (131/145)
发表于 2022-4-28 09:31:43 | 显示全部楼层   福建省莆田市
.版本 2

.子程序 功能_网页访问, 文本型, , 本命令由【精易网页调试助手】生成,请配合精易模块使用。
.局部变量  局_网址, 文本型
.局部变量  局_方式, 整数型
.局部变量  ADD_数据包, 类_POST数据类
.局部变量  局_提交数据, 文本型
.局部变量  ADD_协议头, 类_POST数据类
.局部变量  局_提交协议头, 文本型
.局部变量  局_结果, 字节集
.局部变量  局_返回, 文本型
' http://zjy.jxjst.gov.cn/credit/qyRyCreditScore/queryPageList
局_网址 = "http://zjy.jxjst.gov.cn/credit/qyRyCreditScore/queryPageList"
局_方式 = 1
ADD_数据包.添加 ("cardOrName","")
ADD_数据包.添加 ("%24pgsz","1000")

局_提交数据 = ADD_数据包.获取Post数据 ()
ADD_协议头.添加 ("Content-Type","application/x-www-form-urlencoded; charset=UTF-8")
ADD_协议头.添加 ("Origin","http://zjy.jxjst.gov.cn")
ADD_协议头.添加 ("Referer","http://zjy.jxjst.gov.cn/credit/qyRyCreditScore/list")
ADD_协议头.添加 ("User-Agent","Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.87 Safari/537.36")

局_提交协议头 = ADD_协议头.获取协议头数据 ()

局_结果 = 网页_访问_对象 (局_网址, 局_方式, 局_提交数据, , , 局_提交协议头, , , , , , , , , , , )
局_返回 = 到文本(编码_编码转换对象(局_结果))
返回(局_返回)

一次存1000就快了
回复

使用道具 举报

结帖率:100% (2/2)

签到天数: 16 天

发表于 2022-4-28 10:22:11 | 显示全部楼层   湖南省娄底市
VX截图_20220428102140.png
回复

使用道具 举报

结帖率:67% (16/24)

签到天数: 7 天

发表于 2022-4-28 11:21:51 | 显示全部楼层   福建省南平市
POST
回复

使用道具 举报

结帖率:94% (17/18)

签到天数: 19 天

发表于 2022-4-28 12:04:33 | 显示全部楼层   广东省广州市
post数据
cardOrName=&%24pgsz=15804&%24pg=1
直接一次拉满
回复

使用道具 举报

结帖率:90% (142/158)

签到天数: 4 天

发表于 2022-4-28 12:33:40 | 显示全部楼层   江苏省连云港市
加我Q 4490931  这种问题我在行
回复

使用道具 举报

结帖率:60% (3/5)
 楼主| 发表于 2022-4-28 17:50:49 | 显示全部楼层   江西省南昌市
仙游 发表于 2022-4-28 11:12
.版本 2

.子程序 功能_网页访问, 文本型, , 本命令由【精易网页调试助手】生成,请配合精易模块使用。

上传时附件没有帮我上传,害大家误解我意思了
回复

使用道具 举报

结帖率:90% (131/145)
发表于 2022-4-28 22:57:32 | 显示全部楼层   福建省莆田市
694893292 发表于 2022-4-28 17:59
数据有近400M,存到EDB数据库要2.5小时,
我的思路是:
1、发送一个页面号,则返回15家单位及其资质(资质 ...

换mysql 可以多线程吧
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则 致发广告者

发布主题 收藏帖子 返回列表

sitemap| 易语言源码| 易语言教程| 易语言论坛| 易语言模块| 手机版| 广告投放| 精易论坛
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论,本站内容均为会员发表,并不代表精易立场!
论坛帖子内容仅用于技术交流学习和研究的目的,严禁用于非法目的,否则造成一切后果自负!如帖子内容侵害到你的权益,请联系我们!
防范网络诈骗,远离网络犯罪 违法和不良信息举报电话0663-3422125,QQ: 793400750,邮箱:wp@125.la
Powered by Discuz! X3.4 揭阳市揭东区精易科技有限公司 ( 粤ICP备12094385号-1) 粤公网安备 44522102000125 增值电信业务经营许可证 粤B2-20192173

快速回复 返回顶部 返回列表