美文网首页
Kettle (5) - 获取 Web 数据

Kettle (5) - 获取 Web 数据

作者: Stone0823 | 来源:发表于2017-12-16 23:41 被阅读159次

    使用 Kettle 获取网页数据。当然,这里的网页数据主要指结构化数据,可能是 xml 格式、json 格式 或者 csv 文件等。以 http://services.odata.org/V3/Northwind/Northwind.svc/Products/ 为例,这是 odata 提供的符合 REST 规范的数据。通过这个 url 获取的产品数据,默认为 xml 格式。我们将以该 url 演示如何获取 xml 格式以及 json 格式的数据。

    使用 Http Client 获取网页数据

    本例通过 Http client 获取网页包括如下步骤:

    第一步:通过「生成记录」组件,将 url 保存到常量中

    新建一个字段,名称为 url,类型为 String,值为:http://services.odata.org/V3/Northwind/Northwind.svc/Products/

    第二步:通过「HTTP client」组件,获取网页的内容

    将 url 获取的内容,放在结果字段 result 中。

    第三步:从 XML 获取数据

    我们知道通过这个 url 获取的是 xml 格式数据,所以使用 「Get data from XML」组件。第三步有点复杂。

    因为上一步输出的字段为 result,所以本步骤 xml 源字段为 result。切换到「内容」页签。

    解释下「循环读取路径」。如果我们查看本例的目标网页,我们发现有多笔数据:

    所以要读取所有的产品数据,就要用到循环,而且抓取到这些数据,需要用到 XPath 路径,也就是 /feed/entry/content/m:properties。因为 XPath 中有 namespace,所以「考虑命名空间」选中。

    切换到「字段」页签,在 /feed/entry/content/m:properties 这个路径下,假设我们只需要三个字段:

    第四步:使用「选取字段」组件,可以简单的展示数据。

    完成以上步骤后,运行,既可以获取到数据,截图如下。

    获取 json 格式数据

    http://services.odata.org/V3/Northwind/Northwind.svc/Products/
    提供的是 OData 服务,所以我们也可以通过参数 $format=json 来得到 json 格式的数据。然后用 HTTP Client 处理 json 数据。

    Kettle 的处理步骤如下:

    这里主要说明与处理 xml 数据有差异的部分。

    第一步,生成记录。url 的值多了一个参数:http://services.odata.org/V3/Northwind/Northwind.svc/Products/?$format=json

    第二步, Http Client,相同,没有差异。

    第三步,因为 HTTP Client 获取的是 json 数据,所以用 JSON Input
    获取数据。主要区别在「字段」这个页签:

    要获取 ProductID, ProductName 和 UnitPrice 三个字段,使用的是 JSONPath
    语法。这里不对 JSONPath 做过多说明。$..ProductID 表示获取所有
    ProductID 字段。关于 JSONPath,自行参考:http://goessner.net/articles/JsonPath/

    相关文章

      网友评论

          本文标题:Kettle (5) - 获取 Web 数据

          本文链接:https://www.haomeiwen.com/subject/ciiewxtx.html