美文网首页
对得到的HTML进行分析

对得到的HTML进行分析

作者: 我是来捕鱼的 | 来源:发表于2018-04-10 20:40 被阅读18次

我们通过Requsts.get方法得到Requests对象之后,对其中的HTML代码进行分析,已得到我们想得到的数据

一、使用Lxml库进行分析

pycharm 导入lxml库
首先得到selector对象

selector = etree.HTML(r)

之后通过Xpath进行解析

pageInfo = selector.xpath('//header[@class="listing-header"]/h1[1]/text()')

二、Xpath语法

1. 节点选取

表达式 描述
nodename 选取此节点的所有子节点
/ 从根节点选取
// 相对节点选取
. 选取当前节点
.. 选取当前节点的父节点
@ 选取属性
路径表达式 结果
bookstore 选取bookstore元素的所有子节点。
/bookstore 选取根元素bookstore
bookstore/book 选取属于bookstore的子元素的所有book元素
//book 选取所有book子元素,而不管他们在文档中的位置
bookstore//book 选择属于bookstore元素的后代的所有book元素,而不管他们位于bookstore之下的什么位置
//@lang 选取名为lang的所有属性

2. 谓语

路径表达式 结果
/bookstore/book[1] 选取属于bookstore子元素的第一个book元素
/bookstore/book[last()] 选取属于bookstore子元素的最后一个book元素
/bookstore/book[last()-1] 选取属于bookstore子元素的倒数第二个book元素
/bookstore/book[position()<3] 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang] 选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang='eng'] 选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00] 选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title 选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。

3. 选取未知节点

通配符 描述
* 匹配任何元素节点。
@* 匹配任何属性节点。
node() 匹配任何类型的节点。
路径表达式 结果
/bookstore/* 选取 bookstore 元素的所有子元素。
//* 选取文档中的所有元素。
//title[@*] 选取所有带有属性的 title 元素。

4. 选取若干路径

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

路径表达式 结果
//book/title | //book/price 选取 book 元素的所有 title 和 price 元素。
//title | //price 选取文档中的所有 title 和 price 元素。
/bookstore/book/title | //price 选取属于 bookstore 元素的 book 元素的所有 title 元素,以及文档中所有的 price 元素。

相关文章

  • 对得到的HTML进行分析

    我们通过Requsts.get方法得到Requests对象之后,对其中的HTML代码进行分析,已得到我们想得到的数...

  • 爬虫篇之--xpath

    在进行网页抓取的时候,分析定位html节点是获取抓取信息的关键,使用xpath对html进行分析,获取抓取的信息。...

  • 2019-7-28 代码分析管理功能

    分析指定的目录与子目录,得到列表 分析所有. m文件,得到function列表 对某个目录进行分析:未被调用的孤立...

  • 常用的HTML元素

    对页面进行结构分析,划分好区域块,然后用HTML表示,CSS修饰。 一、先确定结构 ...

  • 《得到》产品体验分析(产品视角)

    上一篇以用户视角对美柚进行了简单的体验分析,本文将以产品视角对得到进行体验分析。书写逻辑:产品介绍->用户场景需求...

  • RNASEQ(二): PCA主成分分析

    对RNAsq的read count数据进行PCA分析 目的:PCA分析可以得到样本之间的相关性和离散程度。 内容:...

  • ggplot2| 绘制KEGG气泡图

    对生信分析中得到的一些基因,进行KEGG富集分析,达到对基因进行注释和分类的目的。 本文利用R语言的ggplot2...

  • 2018-10-08

    线性系统的LT分析法一、数学角度1、对微分方程进行LT分析eg:同求LT变换得到2、对电路进行LT处理对于线性电路...

  • Android 对Html进行操作

    用webview对HTML展示,利用jsoup对html操作。Android与js进行交互。 展示Html 首先初...

  • MVC笔记2

    渲染:视图被控制器赋予数据的过程 传递:html字符串由服务器到浏览器。 呈现:浏览器对得到的html进行加载,解...

网友评论

      本文标题:对得到的HTML进行分析

      本文链接:https://www.haomeiwen.com/subject/omfwhftx.html