介绍
小编给大家分享一python爬下虫需要了解哪些技术知识点,希望大家阅读完这篇文章后大所收获、下面让我们一起去探讨吧!
需要了解:
1, HTML,了解网页的结构,内容等,帮助后续的数据爬取。
2, python,可以去网上找一些教学视频,教学博客等等,去看一下,然后有基础了之后还可以找一些晋升的视频,再打打基础。
3, TCP/IP协议,HTTP协议,了解在网络请求和网络传输上的基本原理,帮助今后写爬虫的时候理解爬虫的逻辑。
其次就是要梳理一下爬虫的思路,简单的说,就是你想要抓取一个网站的内容时,需要怎么一步步做的好,需要现有一个大的整体的架构,才能进一步做好接下来的工作。当用户浏览网页时,会看到很多图片,点击网址的时候看到的图片,是经过用户输入网址dns服务器——服务器主机——服务器请求——服务器解析——发送浏览器HTML、javascript、CSS——浏览器解析——解析图片这一长段的服务器运作来完成的,而爬虫就是需要爬取有HTML代码构成的网页,然后获取图片和文字。
最后,就是要使用合适的工具,比如说想要做好测试,那么就需要相应的环境配置,同样的道理,想要做好python,也需要好用的工具:
1, notepad++,简单,但是提示功能不强。
2, PyCharm,用于一般IDE具备的功能,比如,调试,语法高亮,代码跳转,等等,同时可用于Django开发,支持Google App Engine, PyCharm,支持IronPython。
3,芝麻HTTP代理,用于提供代理IP的代理服务器。
看完了这篇文章,相信你对python爬虫需要了解哪些技术知识点有了一定的了解,想了解更多相关知识,欢迎关注行业资讯频道,感谢各位的阅读!
