python爬虫怎么定时爬

Ⅰ 如何用python爬虫定时抓取并生成适合百度和谷歌的网站地图文件

找到一篇文章讲怎么抓取有动态生成内容的网页源码。
http://wenzhang..com/share/article/view?key=957ae0a22a4a40e7-1422332465&uk=2720947696
可以试一试。

Ⅱ python爬虫怎么做

Ⅲ 有朋友写过用python定时顶贴的爬虫吗

如果你熟悉python的话，你可以自己编爬虫来抓取评价；如果觉得时间成本高，可以用采集工具，市面上采集功能有几个，比如集搜客、网络矿工、狂采等，可以用集搜客
因为是免费的，在官网可以下现成的规则，淘宝天猫搜索列表、商品详细等；再简单一点，付费定制数据了。

Ⅳ python中，进行爬虫抓取怎么样能够使用代理IP

在python中用爬虫再用到代理服务器，有两个办法，①直接在布署该python爬虫的电脑上设置代理服务器，这样从该电脑上出站的信息就只能由代理服务器处理了，爬虫的也不例外，可以搜"windows设置代理服务器"、"linux设置代理服务器"。通常是”设置->网络->连接->代理“。
②若想让python单独使用这个代理服务器，可以搜一下"python proxy config"，"python配置代理服务器"，有一些库支持简单的BM代理服务器连接。

Ⅳ 如何设置python爬虫的爬取时间

由于项目需求收集并使用过一些爬虫相关库，做过一些对比分析。以下是我接触过的一些库：

Beautiful Soup。名气大，整合了一些常用爬虫需求。缺点：不能加载JS。
Scrapy。看起来很强大的爬虫框架，可以满足简单的页面爬取（比如可以明确获知url pattern的情况）。用这个框架可以轻松爬下来如亚马逊商品信息之类的数据。但是对于稍微复杂一点的页面，如weibo的页面信息，这个框架就满足不了需求了。

Python基础教程
mechanize。优点：可以加载JS。缺点：文档严重缺失。不过通过官方的example以及人肉尝试的方法，还是勉强能用的。
selenium。这是一个调用浏览器的driver，通过这个库你可以直接调用浏览器完成某些操作，比如输入验证码。
cola。一个分布式爬虫框架。项目整体设计有点糟，模块间耦合度较高，不过值得借鉴。

以下是我的一些实践经验：

对于简单的需求，比如有固定pattern的信息，怎么搞都是可以的。
对于较为复杂的需求，比如爬取动态页面、涉及状态转换、涉及反爬虫机制、涉及高并发，这种情况下是很难找到一个契合需求的库的，很多东西只能自己写。

至于题主提到的：
还有，采用现有的Python爬虫框架，相比与直接使用内置库，优势在哪？因为Python本身写爬虫已经很简单了。
third party library可以做到built-in library做不到或者做起来很困难的事情，仅此而已。还有就是，爬虫简不简单，完全取决于需求，跟Python是没什么关系的。

Ⅵ python 爬虫如何设置爬取一定时间停止

fromtimeimportsleep

n=0
whilen<=100:
print(n)#动作
sleep(60)#暂停60秒
n=n+1

Ⅶ python爬虫要自动运行有什么办法

爬虫自己本地就可以啊，不一定要放到服务器上，弄个台式机，晚上关了显示器，让程序自己去运行呗。
当然你也可以试试阿里云，我在上面部署的scrapy跑的很不错。

如果解决了您的问题请采纳！
如果未解决请继续追问

Ⅷ python 如何实现web.py定时更新数据

1.1. 需求背景。

每天抓取的是同一份商品的数据，用来做趋势分析。
要求每天都需要抓一份，也仅限抓取一份数据。
但是整个爬取数据的过程在时间上并不确定，受本地网络，代理速度，抓取数据量有关，一般情况下在20小时左右，极少情况下会超过24小时。
1.2. 实现功能。

通过以下三步，保证爬虫能自动隔天抓取数据：
每天凌晨00：01启动监控脚本，监控爬虫的运行状态，一旦爬虫进入空闲状态，启动爬虫。一旦爬虫执行完毕，自动退出脚本，结束今天的任务。一旦脚本距离启动时间超过24小时，自动退出脚本，等待第二天的监控脚本启动，重复这三步。
小编是一名python开发工程师，这里有我自己整理了一套最新的python系统学习教程，包括从基础的python脚本到web开发、爬虫、数据分析、数据可视化、机器学习等。想要这些资料的可以关注小编，并在后台私信小编：“01”即可领取
2. 环境。

python 3.6.1
系统：win7
IDE：pycharm
安装过scrapy
3. 设计思路。

3.1. 前提：目前爬虫是通过scrapy模块自带的cmdline.execute来启动的。

from scrapy import cmdline
cmdline.execute('scrapy crawl mySpider'.split())12
3.2. 将自动执行脚本做到scrapy爬虫的外部

（1）每天凌晨00：01启动脚本（控制脚本的存活时间为24小时），监测爬虫的运行状态（需要用一个标记信息来表示爬虫的状态：运行还是停止）。
如果爬虫处于运行状态（前一天爬取数据尚未结束），进入第（2）步；如果爬虫处于非运行状态（前一天的爬取任务已完成，今天的尚未开始），进入第（3）步；
（2）脚本进入等待阶段，每隔10分钟，检查一下爬虫的运行状态，如（1）。但是一旦发现，脚本的等待时间超过了24小时，则自动退出脚本，因为第二天的监测脚本已经开始运行了，接替了它的任务。
（3）做一些爬虫启动前的准备工作（删除用来续爬的文件，防止爬虫不运行了），启动爬虫爬取数据，待爬虫正常结束后，退出脚本，完成当天的爬取任务。
4. 准备工作。

4.1. 标记爬虫的运行状态。

通过判断文件是否存在的方式来判断爬虫是否处于运行状态：

在爬虫启动时，创建一个isRunning.txt文件。
在爬虫结束时，删除这个isRunning.txt文件。
那么isRunning.txt存在，就说明爬虫正在运行；文件不存在，就说明爬虫不在运行。

# 文件pipelines.py
# 爬虫启动时
checkFile = "isRunning.txt"
class myPipeline:
def open_spider(self, spider):
self.client = MongoClient('localhost:27017') # 连接Mongodb
self.db = self.client['mydata'] # 待存储数据的数据库mydata
f = open(checkFile, "w") # 创建一个文件，代表爬虫在运行中
f.close()123456789
# 文件pipelines.py
# 爬虫正常结束时
checkFile = "isRunning.txt"
class myPipeline:
def close_spider(self, spider):
self.client.close()
isFileExsit = os.path.isfile(checkFile)
if isFileExsit:
os.remove(checkFile)123456789
4.2. 爬虫支持续爬，能随时暂停，方便调试。

# 在scrapy项目中添加start.py文件，用于启动爬虫
from scrapy import cmdline
# 在爬虫运行过程中，会自动将状态信息存储在crawls/storeMyRequest目录下，支持续爬
cmdline.execute('scrapy crawl mySpider -s JOBDIR=crawls/storeMyRequest'.split())
# Note:若想支持续爬，在ctrl+c终止爬虫时，只能按一次，爬虫在终止时需要进行善后工作，切勿连续多次按ctrl+c12345

4.3. Log按照每天的日期命名，方便查看和调试

设置Log等级：
# 文件mySpider.py
class mySpider(CrawlSpider):
name = "mySpider"
allowed_domains = ['http://photo.poco.cn/']
custom_settings = {
'LOG_LEVEL':'INFO', # 减少Log输出量，仅保留必要的信息
# ...... 在爬虫内部用custom_setting可以让这个配置信息仅对这一个爬虫生效
}12345678
以日期为Log文件命名
# 文件settings.py
import datetime
BOT_NAME = 'mySpider'
ROBOTSTXT_OBEY = False
startDate = datetime.datetime.now().strftime('%Y%m%d')
LOG_FILE=f"mySpiderlog{startDate}.txt"123456
4.4. 为数据按日期存储到不同的表（mongodb的集合）中

# 文件pipelines.py
import datetime
GALANCE=f'galance{datetime.datetime.now().strftime("%Y%m%d")}' # 表名123
class myPipeline:
def open_spider(self, spider):
self.client = MongoClient('localhost:27017') # 连接Mongodb
self.db = self.client['mydata'] # 待存储数据的数据库mydata1234
self.db[GALANCE].insert(dict(item))1

4.5. 编写批处理文件启动爬虫

# 文件run.bat
cd /d F:/newClawer20170831/mySpider
call python main.py
pause1234

5. 实现代码

5.1. 编写python脚本

# 文件timerStartDaily.py
from scrapy import cmdline
import datetime
import time
import shutil
import os

recoderDir = r"crawls" # 这是为了爬虫能够续爬而创建的目录，存储续爬需要的数据
checkFile = "isRunning.txt" # 爬虫是否在运行的标志

startTime = datetime.datetime.now()
print(f"startTime = {startTime}")

i = 0
miniter = 0
while True:
isRunning = os.path.isfile(checkFile)
if not isRunning: # 爬虫不在执行，开始启动爬虫
# 在爬虫启动之前处理一些事情，清掉JOBDIR = crawls
isExsit = os.path.isdir(recoderDir) # 检查JOBDIR目录crawls是否存在
print(f"mySpider not running, ready to start. isExsit:{isExsit}")
if isExsit:
removeRes = shutil.rmtree(recoderDir) # 删除续爬目录crawls及目录下所有文件
print(f"At time:{datetime.datetime.now()}, delete res:{removeRes}")
else:
print(f"At time:{datetime.datetime.now()}, Dir:{recoderDir} is not exsit.")
time.sleep(20)
clawerTime = datetime.datetime.now()
waitTime = clawerTime - startTime
print(f"At time:{clawerTime}, start clawer: mySpider !!!, waitTime:{waitTime}")
cmdline.execute('scrapy crawl mySpider -s JOBDIR=crawls/storeMyRequest'.split())
break #爬虫结束之后，退出脚本
else:
print(f"At time:{datetime.datetime.now()}, mySpider is running, sleep to wait.")
i += 1
time.sleep(600) # 每10分钟检查一次
miniter += 10
if miniter >= 1440: # 等待满24小时，自动退出监控脚本
3839
5.2. 编写bat批处理文件

# 文件runTimerRunDaily.bat
cd /d F:/newClawer20170831/mySpider
call python timerStartDaily.py
pause1234
6. 部署。

6.1. 添加计划任务。

参考以下这篇博客部署windows计划任务：

http://blog.csdn.net/zwq912318834/article/details/77280573
有关windows计划任务相关设置的详细说明如下：

https://technet.microsoft.com/zh-cn/library/cc722178.aspx
6.2. 注意事项。

（1）在添加计划任务时，要按照如下图进行勾选（只在用户登录时运行），才能弹出下面的cmd任务界面，方便观察和调试。
（2）由于爬虫运行时间很长，如果按照默认设置，在凌晨运行实例时，上一次启动尚未结束，会导致这次启动失败，所以要更改默认设置为（如果此任务已经运行：并行运行新实例。保护机制在于每个启动脚本在等待24小时候会自动退出，来保证不会重复启动）。
（3）如果想支持续传，只能按一次 ctrl + c 来停止爬虫运行。因为终止爬虫时，爬虫需要做一些善后工作，如果连续按多次ctrl + c来停止爬虫，爬虫将来不及善后，会导致无法续爬。

Ⅸ Python爬虫是什么

为自动提取网页的程序，它为搜索引擎从万维网上下载网页。

网络爬虫为一个自动提取网页的程序，它为搜索引擎从万维网上下载网页，是搜索引擎的重要组成。传统爬虫从一个或若干初始网页的URL开始，获得初始网页上的URL，在抓取网页的过程中，不断从当前页面上抽取新的URL放入队列,直到满足系统的一定停止条件。

将根据一定的搜索策略从队列中选择下一步要抓取的网页URL，并重复上述过程，直到达到系统的某一条件时停止。另外，所有被爬虫抓取的网页将会被系统存贮，进行一定的分析、过滤，并建立索引，以便之后的查询和检索。

(9)python爬虫怎么定时爬扩展阅读：

网络爬虫的相关要求规定：

1、由Python标准库提供了系统管理、网络通信、文本处理、数据库接口、图形系统、XML处理等额外的功能。

2、按照网页内容目录层次深浅来爬行页面，处于较浅目录层次的页面首先被爬行。 当同一层次中的页面爬行完毕后，爬虫再深入下一层继续爬行。

3、文本处理，包含文本格式化、正则表达式匹配、文本差异计算与合并、Unicode支持，二进制数据处理等功能。

Ⅹ Python scrapy爬虫以scrapyd部署到服务器上运行，现在想做一个定时爬取任务该怎样做，scrapyd不支持。

可以用linux 自带定时任务执行 py 程序就可以了实现的。