html = '''<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title a " name="dromouse"><b>The Dormouse's story</b></p>
<p class="story b">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="link1"><!-- Elsie --></a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>
<p class="story">...</p>
</body></html>'''html
XPath简介node
XPath，全称XML Path Language,即XML路径语言，能够在XML，HTML文档中查找信息的语言,XPath的选择功能十分强大，提供了很是简明了的路径选择表达式。更多的文档能够访问其官方网站，http://www.w3.org/TR/xpath/。网站
XPath经常使用规则spa
nodename 选择此节点的全部子节点code
/ 从当前节点选择直接子节点orm
// 从当前节点选择子孙节点xml
. 选取当前节点htm
.. 选取当前节点的父节点blog
@ 选取属性three
准备工做
安装lxml 命令管理窗口 pip install lxml
XPath功能
from lxml import etree
html_data = etree.HTML(html) #声明为HTML文本 且etree能够自动修复HTML文本
print(etree.tostring(html_data).decode("utf-8")) #tostring输出完善后的html文本 decode将 bytes->str类型
全部节点
result = html_data.xpath("//*") #表示选取全部节点
result1 = html_data.xpath("//p") # 表示选取全部p节点
print(result1)
#运行结果为
[<Element p at 0x1f7d6abf888>, <Element p at 0x1f7d67e4748>, <Element p at 0x1f7d67e4288>]
子节点
result_children = html_data.xpath("//body/p") #选取body节点里全部p节点
result_children1 = html_data.xapth("//body/a")
print(result_children1)
#运行结果为
[]
#经过上述程序代表//用于获取子孙节点 /用于获取直接子节点 ，而a节点不为body节点的直接子节点
父节点
#第一种方法
print(html_data.xpath('//a[@class="sister"]/../@class')) #获取a节点父节点p节点的class对应的值a节点为第一个a节点
#运行结果为
['story']
第二种方法
result = html_data.xpath('//a[@class="sister"]/parent::*/@class') #经过parent::来获取父节点
属性匹配
result = html_data.xpath('//a[@class="sister"]') #选取全部class值为sister的节点
print（result）
运行结果为
[<Element a at 0x1f7d696d848>, <Element a at 0x1f7d67e4288>, <Element a at 0x1f7d6abf888>]
#获取文本
result = html_data.xpath('//a[2][@class="sister"]/./text()') #得到第二个a节点的文本值
print(result)
#运行结果为
['Lacie']
#获取属性值
result = html_data.xpath('//a[2][@class="sister"]/@href') #获取第二个a节点的href值
print(result)
#运行结果为
['http://example.com/lacie']
多种属性值匹配
result = html_data.xpath('//p[contains(@class,"b")]/a/text()') #获取全部p节点下的a节点的文本
print(result)
#运行结果为
['Lacie', 'Tillie']
#多属性匹配
result = html_data.xpath('//a[contains(@class,"sister") and @id="link2"]//text()') #获取第二个节点a的文本值
print(result)
#输出结果为
['Lacie']
按序选择
result = html_data.xpath('//a[last()-1]//text()') #选取倒数第二个a节点的文本值
result1=html_data.xpath('//a[position()<3]//text()') #选取位置序号小于3的a节点 因为第一个a节点的文本值为空
#输出结果为
print(result)
['Lacie']
节点轴选择
result = html_data.xpath('//a[1][@id="link1"]/ancestor::*') #获取全部第一个a节点的全部祖先节点
#输出结果为[<Element html at 0x1f7d6a35488>, <Element body at 0x1f7d67e4cc8>, <Element p at 0x1f7d67e4ec8>]
result = html_data.xpath('//a[1][@id="link1"]/ancestor::p')#获取p祖先节点
#接下来便再也不提供输出结果，有兴趣者能够自行编写
result = html_data.xpath('//a[2][@id="link2"]/attribute::*')#获取第二个a节点的全部属性值
result = html_data.xpath('//p[contains(@class,"story")]/child::a[@id="link2"]')#调用child轴，能够获取全部子节点，而且限定获取id=link2的a节点
result = html_data.xpath('//body/descendant::b') #获取body子孙节点，而且只获取子孙节点b
result = html_data.xpath('//p/following-sibling::*') #获取当前节点以后全部的同级节点
`