在python中使用lxml时需要注意哪些事项

发布时间:2021-04-26 15:38:32 作者:Leah
来源:亿速云 阅读:106

这篇文章将为大家详细讲解有关在python中使用lxml时需要注意哪些事项,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。

python主要应用领域有哪些

1、云计算,典型应用OpenStack。2、WEB前端开发,众多大型网站均为Python开发。3.人工智能应用,基于大数据分析和深度学习而发展出来的人工智能本质上已经无法离开python。4、系统运维工程项目,自动化运维的标配就是python+Django/flask。5、金融理财分析,量化交易,金融分析。6、大数据分析。

1、使用注意

(1)lxml 能够修正 HTML 代码,但是可能会改错了,解决方法:

使用etree.tostring观察修改之后的html的样子,根据修改之后的html字符串写xpath

(2)提取页面数据的思路

先分组,取到一个包含分组标签的列表

遍历,取其中每一组进行数据的提取,不会造成数据的对应错乱

(3)lxml 能够接受bytes和str的字符串

2、实例

from lxml import etree
 
text = ''' <div> <ul>
            <li><a href="link1.html">first item</a></li>
            <li><a href="link2.html">second item</a></li>
            <li><a href="link3.html">third item</a></li>
            <li><a href="link4.html">fourth item</a></li>
            <li><a href="link5.html">fifth item</a>
            </ul> </div> '''
 
html = etree.HTML(text)
 
print(html) # <Element html at 0x1f1007c9d08>
print(etree.tostring(html).decode())
 
# 获取 class 为 item-1 li 下的 a 的 href
ret1 = html.xpath('//li[@class="item-1"]/a/@href')
print(ret1)
 
# 获取 class 为 item-1 li 下的文本
ret2 = html.xpath("//li[@class='item-1']/a/text()")
print(ret2)
 
# 把 url 和 文本组成字典
# 如果其中一个获取失败或者没有数据,则url 和 title 就不是原来对应的结果
for i in ret1:
    item = {}
    item['url'] = i
    item['title'] = ret2[ret1.index(i)]
    print(item)
 
# 改进
ret3 = html.xpath('//li[@class="item-1"]')
for i in ret3:
    item = {}
    item['url'] = i.xpath('./a/@href')[0] if len(i.xpath('./a/@href')) else None  # ./a/@href 表示当前节点下的
    item['title'] = i.xpath('./a/text()')[0] if len(i.xpath('./a/text()')) else None
    print(item)

关于在python中使用lxml时需要注意哪些事项就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。

推荐阅读:
  1. 在django中使用ManyToMany时需要注意哪些事项
  2. 在Vue中使用directive时需要注意哪些事项

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

python lxml

上一篇:**kwargs怎么在python中使用

下一篇:怎么在python中动态创建类

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》