开启辅助访问 切换到宽版

精易论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

用微信号发送消息登录论坛

新人指南 邀请好友注册 - 我关注人的新帖 教你赚取精币 - 每日签到


求职/招聘- 论坛接单- 开发者大厅

论坛版规 总版规 - 建议/投诉 - 应聘版主 - 精华帖总集 积分说明 - 禁言标准 - 有奖举报

查看: 1402|回复: 2
收起左侧

[求助] 关于网页内容多线程采集的问题

[复制链接]
结帖率:44% (34/77)
发表于 2012-11-14 16:37:05 | 显示全部楼层 |阅读模式   河南省平顶山市
我前些天做过一个论坛帖子标题内容采集器
调用采集子程序的时候用的是启动线程命令,但采集器运行的时候我发现每秒才8k流量,cpu也没有占用很多
我家网速一般200k的
请问有什么办法牺牲网速和cpu,来提高采集速度?
我想过能不能把帖子列表分两部分,然后启动两个线程,第一个线程处理第一部分,第二个线程来处理第二部分?
但如果我想要弄4,5个线程,甚至20线程该怎么办呢?
怎样用多线程方便的提高效率呢?

求助知识:请将问题描述清楚,最好把你有问题的源码打包上传上来,这样更方便大家帮助你。
友情提醒:本版被采纳的主题可在 申请荣誉值 帖子申请荣誉值,获得 3点 荣誉值,荣誉值可兑换荣誉会员、终身vip用户组。
结帖率:50% (3/6)

签到天数: 2 天

发表于 2012-11-15 01:42:10 | 显示全部楼层   四川省成都市
这个应该很快吧? 唯一慢的地方应该就是下载网页源码了,精易模块里有个取网页源码的命令 不知道和HTTP读文件和网页访问有什么区别,但是视乎比较快点吧,剩下的采集用正则做啊,应该不会太慢吧,慢的地方应该只有读网页源码这块了,采集就算分成几块还是一样的速度嘛。

我记得精易的下载引擎模块 也可以下载网页源码吧,你看下可以不 可以的话用这个模块来下载网页源码 我记得是默认3线程
回复 支持 反对

使用道具 举报

结帖率:100% (3/3)
发表于 2012-11-16 16:02:48 | 显示全部楼层   广东省揭阳市
貌似这个不能对等的!
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则 致发广告者

发布主题 收藏帖子 返回列表

sitemap| 易语言源码| 易语言教程| 易语言论坛| 易语言模块| 手机版| 广告投放| 精易论坛
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论,本站内容均为会员发表,并不代表精易立场!
论坛帖子内容仅用于技术交流学习和研究的目的,严禁用于非法目的,否则造成一切后果自负!如帖子内容侵害到你的权益,请联系我们!
防范网络诈骗,远离网络犯罪 违法和不良信息举报电话0663-3422125,QQ: 793400750,邮箱:wp@125.la
Powered by Discuz! X3.4 揭阳市揭东区精易科技有限公司 ( 粤ICP备12094385号-1) 粤公网安备 44522102000125 增值电信业务经营许可证 粤B2-20192173

快速回复 返回顶部 返回列表