学Python，想必大家都是从爬虫开始的吧。毕竟网上类似的资源很丰富，开源项目也非常多。下面给大家分享千锋长沙IT培训整理：最全面的Python库。

       Python学习网络爬虫主要分3个大的版块：抓取，分析，存储。当我们在浏览器中输入一个url后回车，后台会发生什么？简单来说这段过程发生了以下四个步骤：查找域名对应的IP地址。向IP对应的服务器发送请求。服务器响应请求，发回网页内容。浏览器解析网页内容。

       学习爬虫需要掌握哪些库呢？通用：urllib -网络库(stdlib)。requests -网络库。grab – 网络库（基于pycurl）。pycurl – 网络库（绑定libcurl）。urllib3 – Python HTTP库，安全连接池、支持文件post、可用性高。httplib2 – 网络库。RoboBrowser – 一个简单的、极具Python风格的Python库，无需独立的浏览器即可浏览网页。MechanicalSoup -一个与网站自动交互Python库。mechanize -有状态、可编程的Web浏览库。socket – 底层网络接口(stdlib)。Unirest for Python – Unirest是一套可用于多种语言的轻量级的HTTP库。hyper – Python的HTTP/2客户端。PySocks – SocksiPy更新并积极维护的版本，包括错误修复和一些其他的特征。作为socket模块的直接替换。

       网络爬虫框架：grab – 网络爬虫框架（基于pycurl/multicur）。scrapy – 网络爬虫框架（基于twisted），不支持Python3。pyspider – 一个强大的爬虫系统。cola – 一个分布式爬虫框架。portia – 基于Scrapy的可视化爬虫。restkit – Python的HTTP资源工具包。它可以让你轻松地访问HTTP资源，并围绕它建立的对象。demiurge – 基于PyQuery的爬虫微框架。

       在框架的选择问题上，许多人很容易就陷入了下面两个误区中而不自知。哪个框架最好——世上没有最好的框架，只有最适合你自己、最适合你的团队的框架。编程语言选择也是一个道理，你的团队Python最熟就用Python好了，如果最熟悉的是Ruby那就用Ruby好了，编程语言、框架都只是工具，能多、快、好、省的干完活就是好东西。

       过分关注性能——其实大部分人是没必要太关心框架的性能的，因为你开发的网站根本就是个小站，能上1万的IP的网站已经不多了，上10万的更是很少很少。在没有一定的访问量前谈性能其实是没有多大意义的，因为你的CPU和内存一直就闲着呢。

上一篇

长沙IT培训程序员必备软件清单，月入5万不是梦！

下一篇

长沙千锋前端培训全套教程分享：MongoDB数据库