python爬虫需要哪些知识

1,049次阅读
没有评论

python爬虫需要哪些知识

首先要掌握一些有关爬虫的基础知识,基本的要知道什么是爬虫?为什么要爬虫?数据是从哪里得来的?先了解这些基础的知识点才能对你要学习的东西有基本的了解,然后还有下面这些数据也需要了解:

1、HTML,了解网页的结构,内容等,帮助后续的数据爬取。

2、Python,可以去网上找一些教学视频,教学博客等等,去看一下,然后有基础了之后还可以找一些晋升的视频,再打打基础。

3、TCP/IP协议,HTTP协议,了解在网络请求和网络传输上的基本原理,帮助今后写爬虫的时候理解爬虫的逻辑。

其次就是要梳理一下爬虫的思路,简单的说,就是你想要抓取一个网站的内容时,需要怎么一步步做好,需要现有一个大的整体的架构,才能进一步做好接下来的工作。当用户浏览网页时,会看到很多图片,点击网址的时候看到的图片,是经过用户输入网址-DNS服务器-服务器主机-服务器请求-服务器解析-发送浏览器HTML、JS、CSS-浏览器解析-解析图片这一长段的服务器运作来完成的,而爬虫就是需要爬取有HTML代码构成的网页,然后获取图片和文字。

最后,就是要使用合适的工具,比如说想要做好测试,那么就需要相应的环境配置,同样的道理,想要做好python,也需要好用的工具:

1、Notepad++,简单,但是提示功能不强。

2、PyCharm,用于一般IDE具备的功能,比如,调试、语法高亮、代码跳转、等等,同时可用于Django开发,支持Google App Engine、PyCharm,支持IronPython。

3、神龙HTTP代理,用于提供代理ip的代理服务器。

不管学习什么都不是一蹴而就的事情,需要持之以恒。

神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试

相关文章:

版权声明:wuyou2019-11-02发表,共计679字。
新手QQ群:570568346,欢迎进群讨论 Python51学习
评论(没有评论)