Copyright © 2022-2024 aizws.net · 网站版本: v1.2.6·内部版本: v1.23.3·
页面加载耗时 0.00 毫秒·物理内存 71.6MB ·虚拟内存 1299.5MB
欢迎来到 AI 中文社区(简称 AI 中文社),这里是学习交流 AI 人工智能技术的中文社区。 为了更好的体验,本站推荐使用 Chrome 浏览器。
用例: 使用 Pig 查找出现次数最多的起始字母。
解决方案:
案例 1: 将数据加载到名为"lines"的包中。整行都粘在字符数组类型的元素行上。
grunt> lines = LOAD "/user/Desktop/data.txt" AS (line: chararray);
情况 2: 袋子行中的文本需要被标记,这会产生每行一个单词。
grunt>tokens = FOREACH lines GENERATE flatten(TOKENIZE(line)) As token: chararray;
Case 3:要保留每个单词的第一个字母,请键入以下命令。此命令使用子串方法取第一个字符。
grunt>letters = FOREACH tokens GENERATE SUBSTRING(0,1) as letter : chararray;
案例 4: 为唯一字符创建一个包,其中分组包将包含该字符每次出现时相同的字符。
grunt>lettergrp = GROUP letters by letter;
Case 5: 每组统计出现次数。
grunt>countletter = FOREACH lettergrp GENERATE group , COUNT(letters);
案例 6: 使用以下命令按降序排列输出。
grunt>OrderCnt = ORDER countletter BY $1 DESC;
案例 7: 限制为 1 以给出结果。
grunt> result =LIMIT OrderCnt 1;
案例 8: 将结果存储在 HDFS 中。结果保存在sonoo文件夹下的输出目录中。
grunt> STORE result into 'home/sonoo/output';
为了指定自定义处理,Pig 提供对用户定义函数(UDF) 的支持。因此,Pig 允许我们创建自己的函数。目前,Pig UDF 可以使用以下编程语言实现::JavaPythonJythonJavaScriptR ...