第一步需要做的就是通过当前页面的url连接获取到当前页面的HTML代码。
然后我们想要的所有数据都在爬下来的HTML代码中了,接下来要做的就是解析这段代码,目的是方便我们快速定位其中的内容信息。
解析完代码后我们就可以进行内容定位了。
首先我们要借助浏览器的页面“查看器”来定位目标内容。
在目标页面空白处,“右键”选择“检查元素”。
点击弹出的界面“左上角按钮”。
然后就可以用鼠标去选择你想要定位的页面内容了。
“鼠标”单击目标内容,发现“查看器”自动定位到相关“HTML代码”。
输出找到的标签li的数目,一致!
然后我们要分析整个“li”,他在页面中表示的就是一个文章展示区域。
在浏览器的“查看器”中先后定位到标题的位置和超链接的位置,发现他们都在一个a标签中,我们的任务就是根据li标签获取a标签就好啦。
注意这里返回的url信息和页面显示的不一致,需要手动添加前缀。
至此一个简单的爬虫就完成啦