scrapy调用parse()和parse()调用func()的方法

发布时间:2022-02-23 15:49:59 作者:iii
来源:亿速云 阅读:359

这篇“scrapy调用parse()和parse()调用func()的方法”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“scrapy调用parse()和parse()调用func()的方法”文章吧。

在scrapy中调用parse()方法,parse()方法中调用其他函数func(),func需要返回Item,使用方法如下:

#在parse()中调用其他yield函数,需要写成写成循环并yield其中的内容

def parse():

    # 正确调用

    for item in parse_comment(a, b):

        yield item

    # 错误调用,无法得到数据

    parse_comment(a, b)

def parse_comment(a,b):

    for a in b:

        yield c

yield

yield 的作用就是把一个函数变成一个生成器(generator),带有yield的函数不再是一个普通函数.Python解释器会将其视为一个generator,单独调用(如fab(5))不会执行fab函数,而是返回一个 iterable 对象!

在for循环执行时,每次循环都会执行fab函数内部的代码,执行到yield b时,fab函数就返回一个迭代值,下次迭代时,代码从 yield b 的下一条语句继续执行,而函数的本地变量看起来和上次中断执行前是完全一样的,于是函数继续执行,直到再次遇到 yield。

结论:yield要使用在循环中,这样生成器才有使用的意义。

def fab(max):

   n, a, b = 0, 0, 1

   while n < max:

      # print b

      yield b

      # print b

      a, b = b, a + b

      n = n + 1

print(fab(5))  # 输出:<generator object fab at 0x00000000069D8A68>

for n in fab(5):

    print n    # 依次1,1,2,3,5

#对于含有yield的函数,外部要以迭代的方式调用,当函数执行结束时,generator 自动抛出 StopIteration 异常,表示迭代完成。

# 在 for 循环里,无需处理 StopIteration 异常,循环会正常结束。

def ff(max):

   a,b = 0,1

   yield max  # yield不在循环中,这里已经到函数最后所以直接返回,相当于return

for n in ff(5):

   print n    # 输出:5

以上就是关于“scrapy调用parse()和parse()调用func()的方法”这篇文章的内容,相信大家都有了一定的了解,希望小编分享的内容对大家有帮助,若想了解更多相关的知识内容,请关注亿速云行业资讯频道。

推荐阅读:
  1. Python中scrapy的介绍和使用
  2. scrapy数据存储在mysql数据库的方式是什么

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

scrapy parse func

上一篇:小程序如何使用canvas设置居中锚点

下一篇:Java的DecimalFormat类怎么应用

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》