多应用+插件架构,代码干净,二开方便,首家独创一键云编译技术,文档视频完善,免费商用码云13.8K 广告
# 1.8.1 pyspider的安装 ## 1.说明 带有强大的 WebUI、脚本编辑器、任务监控器、项目管理器以及结果处理器,同时它支持多种数据库后端、多种消息队列,另外它还支持 JavaScript 渲染页面的爬取,使用起来非常方便。 ## 2. 相关链接 {#1-相关链接} * 官方文档:[http://docs.pyspider.org/](http://docs.pyspider.org/) * PyPi:[https://pypi.python.org/pypi/pyspider](https://pypi.python.org/pypi/pyspider) * GitHub:[https://github.com/binux/pyspider](https://github.com/binux/pyspider) * 官方教程:[http://docs.pyspider.org/en/latest/tutorial](http://docs.pyspider.org/en/latest/tutorial) * 在线实例:[http://demo.pyspider.org](http://demo.pyspider.org/) ## 3.准备工作 PySpider 是支持 JavaScript 渲染的,而这个过程是依赖于 PhantomJS 的,所以还需要安装 PhantomJS,所以在安装之前请[安装](../12-qing-qiu-ku-de-an-zhuang/125-phantomjsde-an-zhuang.md)好 PhantomJS ## 4.常见错误 Windows 下可能会出现这样的错误提示:Command "python setup.py egg\_info" failed with error code 1 in /tmp/pip-build-vXo1W3/pycurl 这是pycurl安装错误,需要安装pucurlku,下载地址:[http://www.lfd.uci.edu/~gohlke/pythonlibs/\#pycurl](http://www.lfd.uci.edu/~gohlke/pythonlibs/#pycurl),找到与之对应的wheel文件。 如Windows 64 位,Python3.6 则下载 pycurl‑7.43.0‑cp36‑cp36m‑win\_amd64.whl ```text pip install pycurl‑7.43.0‑cp36‑cp36m‑win_amd64.whl ``` Linux 下如果遇到 PyCurl 的错误:\_\_main\_\_.ConfigurationError: Could not run curl-config: \[Errno2\] No such file or directory 解决方案: ```text sudo apt-get install libcurl4-gnutls-dev ``` 运行安装后即可正常安装`pycurl` ## 5. 验证安装 {#5-验证安装} 启动pyspider ```text pyspider all ``` 控制平台如下输出: ```text C:\Users\miku>pyspider all e:\python36\lib\site-packages\pyspider\libs\utils.py:196: FutureWarning: timeout is not supported on your platform. warnings.warn("timeout is not supported on your platform.", FutureWarning) phantomjs fetcher running on port 25555 [I 180729 16:04:42 result_worker:49] result_worker starting... [I 180729 16:04:43 processor:211] processor starting... [I 180729 16:04:43 scheduler:647] scheduler starting... [I 180729 16:04:43 scheduler:586] in 5m: new:0,success:0,retry:0,failed:0 [I 180729 16:04:43 scheduler:782] scheduler.xmlrpc listening on 127.0.0.1:23333 [I 180729 16:04:43 tornado_fetcher:638] fetcher starting... [I 180729 16:04:44 app:76] webui running on 0.0.0.0:5000 ``` 如果报错,出现以下错误 ```text C:\Users\miku>pyspider all .... pkg_resources.DistributionNotFound: wsgidav ``` 解决方案: ```text pip install -U setuptools ``` 再尝试命令 pyspider all,成功运行 这时 PySpider 的 Web 服务就会在本地 5000 端口运行,直接在浏览器打开: [http://localhost:5000/](http://localhost:5000/)即可进入 PySpider 的 WebUI 管理页面![](https://box.kancloud.cn/f606e3cd06dcc00b4a7bc5c8900a1fda_1909x381.png)出现类似上面页面,就代表安装成功了