大数据 第4页
2024年重庆甘肃安徽等省职业院校技能大赛_大数据应用开发样题解析-模块B:数据采集-任务一:离线数据采集-知趣

2024年重庆甘肃安徽等省职业院校技能大赛_大数据应用开发样题解析-模块B:数据采集-任务一:离线数据采集

任务描述编写Scala 工程代码, 将MySQL 的ds_db01 库中表order_master、order_detail、coupon_info、coupon_use、product_browse、product_info、customer_inf 、customer_login_log 、order_ca...
2023年全国职业院校技能大赛评分标准(02)-知趣

2023年全国职业院校技能大赛评分标准(02)

赛项名称:          大数据应用开发           英文名称:   Big Data Application Development       赛项组别:              高职组     ...
5.1 函数字面量-知趣

5.1 函数字面量

函数是一个可执行代码块,它接收输入参数返回一个值。它概念上与数学中的函数相似,它接收输入并返回一个输出。Scala是一个函数式编程语言,它将函数当作一等公民;一个函数可以像一个变量一样...
one的头像-知趣one1年前
0545207
5.14 案例:使用Spark统计连续三周登录的用户数-知趣

5.14 案例:使用Spark统计连续三周登录的用户数

假设有如下一个用户登录日志表:+------+-------+-------------------+|log_id|user_id|           log_time|+------+-------+-------------------+|     1|   1000|2022-03-10 10:08:1...
one的头像-知趣one1年前
0427103
1-1.linux相关命令入门-知趣

1-1.linux相关命令入门

实验环境实验准备实验内容一、环境变量和脚本相关命令二、文件和目录操作命令三、文本编辑器命令四、网络相关命令五、软件包管理命令 实验环境Ubuntu 18.04 64位GNU bash 版本 4.4.20实验环境S...
9.1 数值类型简介-知趣

9.1 数值类型简介

在Scala中,所有的数值类型都是对象,包括Byte、Char、Double、Float、Int、Long和Short。这七个数值类型继承自AnyVal trait。它们的取值范围与Java一样:数据类型描述大小最小值最大值Char无符...
one的头像-知趣one1年前
0740244
3.3 简单模式匹配-知趣

3.3 简单模式匹配

Scala中没有提供与Java语言中switch类似的语法,但是提供了一个更加强大的模式匹配功能。模式匹配是一个Scala 概念,它看上去与其它语言中的一个switch 语句很类似。不过,它是一个比switch 语...
one的头像-知趣one1年前
0367222
3-2.大数据国赛第2套任务C-子任务二推荐系统-知趣

3-2.大数据国赛第2套任务C-子任务二推荐系统

任务要求11.1实现思路1.2连接Spark1.3实现方式一1.4实现方式二  任务要求1根据子任务一的结果,计算出与用户id为6708的用户所购买相同商品种类最多的前10位用户id(只考虑他俩购买过多少种相...
7.2 单例对象和伴生对象-知趣

7.2 单例对象和伴生对象

 单例对象在面向对象编程中一个常见的设计模式是定义一个只能被实例化一次的类。一个只能被实例化一次的类叫做“单例(singleton)”。Scala不提供任何静态修饰符,这与构建纯面向对象语言的设计...
one的头像-知趣one1年前
0427174
2024年重庆甘肃安徽等省职业院校技能大赛_大数据应用开发样题解析-模块B:数据采集-任务二:实时数据采集-知趣

2024年重庆甘肃安徽等省职业院校技能大赛_大数据应用开发样题解析-模块B:数据采集-任务二:实时数据采集

本任务共有两个子任务组成:实时数据采集子任务1实时数据采集子任务2子任务1子任务1描述1、在主节点使用Flume 采集实时数据生成器25001 端口的socket 数据(实时数据生成器脚本为主节点/data_lo...
2023年全国职业院校技能大赛赛题第02套-知趣

2023年全国职业院校技能大赛赛题第02套

赛项名称:         大数据应用开发         英文名称:  Big Data Application Development  赛项组别:         高等职业教育组               ...
4.10 使用for/yield组合创建新集合-知趣

4.10 使用for/yield组合创建新集合

在Scala的for表达式中,可以使用yield关键字来生成新的集合:val nieces = Array('java', 'python', 'scala', 'php')for (n <- nieces) yield n.capitalize​// 使用 for/yield 创建新数组va...
one的头像-知趣one1年前
0796208
2024年重庆甘肃安徽等省职业院校技能大赛_大数据应用开发样题解析-模块D:离线数据处理-任务二:离线指标计算-知趣

2024年重庆甘肃安徽等省职业院校技能大赛_大数据应用开发样题解析-模块D:离线数据处理-任务二:离线指标计算

环境说明Hive 的配置文件位于主节点/opt/module/hive-3.1.2/conf/Spark 任务在Yarn 上用Client 运行,方便观察日志;ClickHouse 的jdbc 连接端口8123,用户名/密码:default/123456命令行客户端...
1-2.Hadoop分布式安装配置-知趣

1-2.Hadoop分布式安装配置

实验环境实验准备实验内容一、下载所需安装包二、安装配置Java运行环境三、master节点安装配置Hadoop四、配置节点hosts解析五、配置及节点ssh免密登录六、分发内容到slave节点七、初始化Hadoop...
8.4 转义字符、多行字符串及其他-知趣

8.4 转义字符、多行字符串及其他

转义字符在Scala中,也支持如下的转义字符:FF转义字符Unicod编码说明\b\u0008退格(BS),将当前位置移到前一列\t\u0009水平制表(HT),跳到下一个TAB位置\n\u000a换行(LF),将当前位置移到下一行...
one的头像-知趣one1年前
0858173
3.2 循环结构-知趣

3.2 循环结构

Scala同样提供了对程序流程控制的语法。Scala中的程序流程控制结构虽然与Java类似,但也有自己的一些独特的方法。循环结构经常地,我们需要遍历集合中的元素,或者对集合中的每个元素进行操作,...
one的头像-知趣one1年前
0819202