php比较好的爬虫框架

‘壹’ 有哪些适合练手的php项目

1. 项目名称：轻量级 B2C 商城系统

项目简介：本项目是一个拥有 PC 端 + H5 移动端的超轻量，功能强大的 B2C 商城系统。
技术实现：
核心框架：基于全新超轻量高性能Speed框架
JS框架：jQuery 1.10.2
移动端JS框架：Zepto 1.2.0
图表库：Flot 0.8.3
富文本编辑器：网络 精简版 UMeditor
JS模板引擎：Juicer 0.6.8
运行环境：
操作系统： Windows / Linux / Unix
Web 服务器：Apache / Nginx / IIS
PHP 版本：5.2 及以上
MySQL 版本：5.0 及以上
生产环境推荐：Linux + Nginx + PHP5.5 + MySQL5.6
项目地址：cigery/verydows - 码云
2、项目名称：基于 PHP 的轻量级路由器

项目简介：非常轻量级的路由器。无依赖、简洁、速度快、自定义性强。
轻量级且速度快，查找速度不受路由数量的影响。
支持路由参数定义，以及路由选项(比如设定 domains、schema 等检查限制)。
支持请求方法：GET POST PUT DELETE HEAD OPTIONS ...
支持事件： found notFound execStart execEnd execError，当触发事件时你可以做一些事情(比如记录日志等)。
支持动态获取 action 名。支持设置方法执行器(actionExecutor)，通过方法执行器来自定义调用真实请求方法。
支持自动匹配路由到控制器就像 yii 一样，请参看配置项 autoRoute。
支持通过方法 SRouter::dispatch($path, $method) 手动调度一个路由。
你也可以不配置任何东西，它也能很好的工作。
项目地址：inhere/php-srouter - 码云
3. 项目名称：轻量级论坛社区系统
项目简介：本项目是一个基于 CodeIgniter 框架开发的 PHP 新型社区系统，她轻量小巧、简单易用、强大高效，又简称 ”STB（烧饼 BBS）。
项目地址：烧饼/startbbs - 码云
4. 项目名称：基于 PHP 的三维验证码
<img src="https://pic2.mg.com/50/v2-_hd.png" data-rawwidth="360" data-rawheight="80" class="content_image" width="360">
项目简介：打破传统的，基于 PHP 的 3d 英文字母验证码，图片粒子化，机器难以识别边界，破解难度极大。
项目地址：Quekie/Safe 3D Identifying Code
5. 项目名称：基于 PHP 的多进程网络爬虫框架

<img src="https://pic4.mg.com/50/v2-_hd.jpg" data-rawwidth="650" data-rawheight="800" class="origin_image zh-lightbox-thumb" width="650" data-original="https://pic4.mg.com/v2-_r.jpg">
项目简介：Beanbun 是一个简单可扩展的爬虫框架，支持分布式，支持守护进程模式与普通模式，守护进程模式基于 Workerman，下载器基于 Guzzle。
特点：
支持守护进程与普通两种模式（守护进程模式只支持 Linux 服务器）
默认使用 guzzle 进行爬取
支持分布式
支持内存、Redis 等多种队列方式
支持自定义URI过滤
支持广度优先和深度优先两种爬取方式
遵循 PSR-4 标准
爬取网页分为多步，每步均支持自定义动作（如添加代理、修改 user-agent 等）
灵活的扩展机制，可方便的为框架制作插件：自定义队列、自定义爬取方式...
项目地址：Kiddyu/Beanbun - 码云

‘贰’ python爬虫框架哪个好用

说实话感觉大同小异。各有优缺点吧~

常见python爬虫框架
1)Scrapy:很强大的爬虫框架，可以满足简单的页面爬取（比如可以明确获知url pattern的情况）。用这个框架可以轻松爬下来如亚马逊商品信息之类的数据。但是对于稍微复杂一点的页面，如weibo的页面信息，这个框架就满足不了需求了。
2)Crawley: 高速爬取对应网站的内容，支持关系和非关系数据库，数据可以导出为JSON、XML等
3)Portia:可视化爬取网页内容
4)newspaper:提取新闻、文章以及内容分析
5)python-goose:java写的文章提取工具
6)Beautiful Soup:名气大，整合了一些常用爬虫需求。缺点：不能加载JS。
7)mechanize:优点：可以加载JS。缺点：文档严重缺失。不过通过官方的example以及人肉尝试的方法，还是勉强能用的。
8)selenium:这是一个调用浏览器的driver，通过这个库你可以直接调用浏览器完成某些操作，比如输入验证码。
9)cola:一个分布式爬虫框架。项目整体设计有点糟，模块间耦合度较高。

资料来源：网页链接

希望我的回答对你有帮助~

‘叁’ Python什么爬虫库好用

aiohttp：是纯粹的异步框架，同时支持HTTP客户端和服务端，可以快速实现异步爬虫，并且其中的aiohttp解决了requests的一个痛点，它可以轻松实现自动转码，对于中文编码就很方便了。
asks：Python自带一个异步的标准库asyncio，但这个库很多人觉得并不好用，而里面的ask则是封装了curio和trio的一个http请求库。用起来和
Requests 90%相似，新手也可以很快上手。
vibora：号称是现在最快的异步请求框架，跑分是最快的。写爬虫、写服务器响应都可以用。但这个项目一直在重构，现在页面上还挂着项目正在重构的警告，使用需谨慎。
Pyppeteer：是异步无头浏览器，从跑分来看比Selenium+webdriver快，使用方式是最接近于浏览器的自身的设计接口的。它本身是来自
Google维护的puppeteer，但是按照Python社区的梗，作者进行了封装并且把名字中的u改成了y。
下面为大家介绍一下框架：
Grab：是很流行的渐进式框架，Grab可以说是爬虫界的渐进式框架，又十分简单的用法，封装的也很好，是基于生成器异步的设计。
botflow：概念很新颖，定位成了处理数据工作流的框架，可以用来爬虫、机器学习、量化交易等等。
ruia：比较接近Scrapy的使用方式，异步设计。

‘肆’ 最高效的python爬虫框架有几个

1、Scrapy：Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架。 可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中。它是很强大的爬虫框架，可以满足简单的页面爬取，比如可以明确获知url pattern的情况。用这个框架可以轻松爬下来如亚马逊商品信息之类的数据。但是对于稍微复杂一点的页面，如weibo的页面信息，这个框架就满足不了需求了。它的特性有：HTML, XML源数据 选择及提取 的内置支持；提供了一系列在spider之间共享的可复用的过滤器(即 Item Loaders)，对智能处理爬取数据提供了内置支持。
2、Crawley：高速爬取对应网站的内容，支持关系和非关系数据库，数据可以导出为JSON、XML等。
3、Portia：是一个开源可视化爬虫工具，可让使用者在不需要任何编程知识的情况下爬取网站！简单地注释自己感兴趣的页面，Portia将创建一个蜘蛛来从类似的页面提取数据。简单来讲，它是基于scrapy内核；可视化爬取内容，不需要任何开发专业知识；动态匹配相同模板的内容。
4、newspaper：可以用来提取新闻、文章和内容分析。使用多线程，支持10多种语言等。作者从requests库的简洁与强大得到灵感，使用Python开发的可用于提取文章内容的程序。支持10多种语言并且所有的都是unicode编码。
5、Python-goose：Java写的文章提取工具。Python-goose框架可提取的信息包括：文章主体内容、文章主要图片、文章中嵌入的任何Youtube/Vimeo视频、元描述、元标签。
6、Beautiful Soup：名气大，整合了一些常用爬虫需求。它是一个可以从HTML或XML文件中提取数据的Python库。它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式.Beautiful Soup会帮你节省数小时甚至数天的工作时间。Beautiful Soup的缺点是不能加载JS。
7、mechanize：它的优点是可以加载JS。当然它也有缺点，比如文档严重缺失。不过通过官方的example以及人肉尝试的方法，还是勉强能用的。
8、selenium：这是一个调用浏览器的driver，通过这个库你可以直接调用浏览器完成某些操作，比如输入验证码。Selenium是自动化测试工具，它支持各种浏览器，包括 Chrome，Safari，Firefox等主流界面式浏览器，如果在这些浏览器里面安装一个 Selenium 的插件，可以方便地实现Web界面的测试. Selenium支持浏览器驱动。Selenium支持多种语言开发，比如 Java，C，Ruby等等，PhantomJS 用来渲染解析JS，Selenium 用来驱动以及与Python的对接，Python进行后期的处理。
9、cola：是一个分布式的爬虫框架，对于用户来说，只需编写几个特定的函数，而无需关注分布式运行的细节。任务会自动分配到多台机器上，整个过程对用户是透明的。项目整体设计有点糟，模块间耦合度较高。
10、PySpider：一个国人编写的强大的网络爬虫系统并带有强大的WebUI。采用Python语言编写，分布式架构，支持多种数据库后端，强大的WebUI支持脚本编辑器，任务监视器，项目管理器以及结果查看器。Python脚本控制，可以用任何你喜欢的html解析包。

‘伍’ 爬虫用哪个好

爬虫用ForeSpider数据采集系统好。
ForeSpider数据采集系统是天津市前嗅网络科技有限公司自主知识产权的通用性互联网数据采集软件。软件几乎可以采集互联网上所有公开的数据，通过可视化的操作流程，从建表、过滤、采集到入库一步到位。支持正则表达式操作，更有强大的面向对象的脚本语言系统。台式机单机采集能力可达4000-8000万，日采集能力超过500万。服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。并行情况下可支撑百亿以上规模数据链接，堪与网络等搜索引擎系统媲美。软件特点：一．通用性：可以抓取互联网上几乎100%的数据1.支持用户登录。2.支持Cookie技术。3.支持验证码识别。4.支持HTTPS安全协议。5.支持OAuth认证。6.支持POST请求。7.支持搜索栏的关键词搜索采集。8.支持JS动态生成页面采集。9.支持IP代理采集。10.支持图片采集。11.支持本地目录采集。12.内置面向对象的脚本语言系统，配置脚本可以采集几乎100%的互联网信息。二．高质量数据：精准采集所需数据1.独立知识产权JS引擎，精准采集。2.内部集成数据库，数据直接采集入库。3.内部创建数据表结构，抓取数据后直接存入数据库相应字段。4.根据dom结构自动过滤无关信息。5.通过模板配置链接抽取和数据抽取，目标网站的所有可见内容均可采集，智能过滤无关信息。6.采集前数据可预览采集，随时调整模板配置，提升数据精度和质量。7.字段的数据支持多种处理方式。8.支持正则表达式，精准处理数据。9.支持脚本配置，精确处理字段的数据。
智能：智能模拟用户和浏览器行为1.智能模拟浏览器和用户行为，突破反爬虫限制。2.自动抓取网页的各类参数和下载过程的各类参数。

‘陆’ php爬虫框架有哪些

我做过采集站，用的是Beanbun，支持多进程，开放性很高，自己按自己项目需求改代码都可以的

‘柒’ 爬虫框架都有什么

主流爬虫框架通常由以下部分组成：

1.种子URL库：URL用于定位互联网中的各类资源，如最常见的网页链接，还有常见的文件资源、流媒体资源等。种子URL库作为网络爬虫的入口，标识出爬虫应该从何处开始运行，指明了数据来源。

2.数据下载器：针对不同的数据种类，需要不同的下载方式。主流爬虫框架通畅提供多种数据下载器，用来下载不同的资源，如静态网页下载器、动态网页下载器、FTP下载器等。

3.过滤器：对于已经爬取的URL，智能的爬虫需要对其进行过滤，以提高爬虫的整体效率。常用的过滤器有基于集合的过滤器、基于布隆过滤的过滤器等。

4.流程调度器：合理的调度爬取流程，也可以提高爬虫的整体效率。在流程调度器中，通常提供深度优先爬取、广度优先爬取、订制爬取等爬取策略。同时提供单线程、多线程等多种爬取方式。

‘捌’ Python的爬虫框架哪个最好用

1、Scrapy：是一个为了抓取网站数据，提取数据结构性数据而编写的应用框架，可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中，用这个框架可以轻松爬下来各种信息数据。
2、Pyspider：是一个用Python实现的功能强大的网络爬虫系统，能在浏览器界面上进行脚本的编写，功能的调度和爬取结果的实时查看，后端使用常用的数据库进行抓取结构的存储，还能定时设置任务与任务优先级等。
3、Crawley：可以高速抓取对应网站内容，支持关系和非关系数据库，数据可以导出为json、xml等。
4、Portia：是一个开源可视化爬虫工具，可以让您在不需要任何编程知识的情况下抓取网站，简单地注解您感兴趣的页面，创建一个蜘蛛来从类似的页面抓取数据。
5、Newspaper：可以用来提取新闻、文章和内容分析，使用多线程，支持10多种编程语言。
6、Beautiful Soup：是一个可以从HTML或者xml文件中提取数据的Python库，它能通过你喜欢的转换器实现惯用的文档导航，毕乱查找，修改文档的方式;同时帮你节省数小时甚至数天的工作时间。
7、Grab：是一个用于创建web刮板的Python框架，借助Grab，您可以创建各种复杂的网页抓取工具，从简单的五行脚卜数闷本到处理数万个网页的复杂异步网站抓取工具。Grab提供一个api用于执行网络请求和处理接收到的内容。
8、Cola：是一个分布式的爬虫框架，对于用户来说，只需要编写几个特定的函数，而无需关注分布式运行的细节，任务会自动分配到多型弯台机器上，整个过程对用户是透明的。

‘玖’ Python中的爬虫框架有哪些呢

实现爬虫技术的编程环境有很多种，Java、Python、C++等都可以用来爬虫。但很多人选择Python来写爬虫，为什么呢？因为Python确实很适合做爬虫，丰富的第三方库十分强大，简单几行代码便可实现你想要的功能。更重要的，Python也是数据挖掘和分析的好能手。那么，Python爬虫一般用什么框架比较好？
一般来讲，只有在遇到比较大型的需求时，才会使用Python爬虫框架。这样的做的主要目的，是为了方便管理以及扩展。本文我将向大家推荐十个Python爬虫框架。
1、Scrapy：Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架。 可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中。它是很强大的爬虫框架，可以满足简单的页面爬取，比如可以明确获知url pattern的情况。用这个框架可以轻松爬下来如亚马逊商品信息之类的数据。但是对于稍微复杂一点的页面，如weibo的页面信息，这个框架就满足不了需求了。它的特性有：HTML, XML源数据 选择及提取 的内置支持；提供了一系列在spider之间共享的可复用的过滤器(即 Item Loaders)，对智能处理爬取数据提供了内置支持。
2、Crawley：高速爬取对应网站的内容，支持关系和非关系数据库，数据可以导出为JSON、XML等。
3、Portia：是一个开源可视化爬虫工具，可让使用者在不需要任何编程知识的情况下爬取网站！简单地注释自己感兴趣的页面，Portia将创建一个蜘蛛来从类似的页面提取数据。简单来讲，它是基于scrapy内核；可视化爬取内容，不需要任何开发专业知识；动态匹配相同模板的内容。

4、newspaper：可以用来提取新闻、文章和内容分析。使用多线程，支持10多种语言等。作者从requests库的简洁与强大得到灵感，使用Python开发的可用于提取文章内容的程序。支持10多种语言并且所有的都是unicode编码。
5、Python-goose：Java写的文章提取工具。Python-goose框架可提取的信息包括：文章主体内容、文章主要图片、文章中嵌入的任何Youtube/Vimeo视频、元描述、元标签。
6、Beautiful Soup：名气大，整合了一些常用爬虫需求。它是一个可以从HTML或XML文件中提取数据的Python库。它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式.Beautiful Soup会帮你节省数小时甚至数天的工作时间。Beautiful Soup的缺点是不能加载JS。
7、mechanize：它的优点是可以加载JS。当然它也有缺点，比如文档严重缺失。不过通过官方的example以及人肉尝试的方法，还是勉强能用的。
8、selenium：这是一个调用浏览器的driver，通过这个库你可以直接调用浏览器完成某些操作，比如输入验证码。Selenium是自动化测试工具，它支持各种浏览器，包括 Chrome，Safari，Firefox等主流界面式浏览器，如果在这些浏览器里面安装一个 Selenium 的插件，可以方便地实现Web界面的测试. Selenium支持浏览器驱动。Selenium支持多种语言开发，比如 Java，C，Ruby等等，PhantomJS 用来渲染解析JS，Selenium 用来驱动以及与Python的对接，Python进行后期的处理。
9、cola：是一个分布式的爬虫框架，对于用户来说，只需编写几个特定的函数，而无需关注分布式运行的细节。任务会自动分配到多台机器上，整个过程对用户是透明的。项目整体设计有点糟，模块间耦合度较高。
10、PySpider：一个国人编写的强大的网络爬虫系统并带有强大的WebUI。采用Python语言编写，分布式架构，支持多种数据库后端，强大的WebUI支持脚本编辑器，任务监视器，项目管理器以及结果查看器。Python脚本控制，可以用任何你喜欢的html解析包。