环境说明Flink 任务在Yarn 上用per job 模式（即Job 分离模式，不采用Session 模式），方便Yarn 回收资源；建议使用gson 解析json 数据。任务描述编写Java 工程代码，使用Flink 消费Kafka 中Top...

通过结合使用IntelliJ IDEA集成开发工具和Maven项目构建工具，我们可以方便快速地开发Flink项目。在IntelliJ IDEA中创建Flink项目第一步：启动IntelliJ IDEA，创建一个新的项目，如下图所示：第...

在生产环境下，通常使用Flume采集日志数据，并将采集到的日志数据发送到Kafka上。这里Flume充当了Kafka生产者角色。而对于Kafka来说，关键是如何接收来自Flume的数据。我们需要在Kafka中创建一...

Flume是一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受...

本任务共有两个子任务组成：实时数据采集子任务1实时数据采集子任务2子任务1子任务1描述1、在主节点使用Flume 采集实时数据生成器25001 端口的socket 数据（实时数据生成器脚本为主节点/data_lo...

任务描述编写Scala 工程代码， 将MySQL 的ds_db01 库中表order_master、order_detail、coupon_info、coupon_use、product_browse、product_info、customer_inf 、customer_login_log 、order_ca...

Ch01 Scala开发基础 1.1 Scala简介 1.2 安装Scala 1.3 使用IntelliJ IDEA集成开发环境 1.4 使用IDEA开发Scala应用程序 Ch02 Scala基础语法 2.1 变量 2.2 数据类型 2.3 运算符 2.4 数组 Ch03 程...

Scala是一种非常适合开发大数据应用程序的语言，是使用Apache Spark的首选语言。使用Scala语言来学习Spark，具有以下优点：首先，开发人员可以通过使用Scala实现显著的生产力提升。其次，它帮助...

Scala可以安装在Windows和Linux操作系统下。下面我们分别介绍在这两个操作系统下安装Scala的步骤。 （注：在安装Scala前，请确保已经安装好了JDK 8，并配置好了环境变量。）本节包括如下内容：...

在本节中，我们将使用流行的IntelliJ IDEA来展示如何设置编写Scala代码的开发环境。本节包括如下内容：下载IntelliJ IDEA安装IntelliJ IDEA安装Scala插件注意：确保已经安装好了JDK 8+。 下载I...

接下来，我们就可以开发第一个Scala程序“HelloWorld”了。本节包括如下内容：创建Scala项目创建Scala应用程序注意：确保已经安装好了JDK 8+。 创建Scala项目首先我们在IntelliJ IDEA中创建一...

Scala有两种类型变量：可变的和不可变的。不可变意味着变量的值一旦声明就不能更改。数据不变性帮助在管理数据时实现并发控制。强烈建议不要使用可变变量。Scala作为语言中的第一类公民，高度鼓...

与Java语言类似，Scala 语言内置了基本的数据(变量)类型以及在这些类型上允许执行的运算符。但是与Java语言不同的是，Scala没有原始数据类型（基本数据类型）。在Scala中，所有的数据类型都是对...

数据存储在变量中，要对数据进行运算，就需要使用运算符。Scala语言中提供了这几种运算符：算术运算符、关系运算符、逻辑运算符、位运算符、赋值运算符等。注：实际上，Scala没有传统意义上的运...

Scala语言中提供的数组是用来存储固定大小的同类型元素的。数组的第一个元素索引为0，最后一个元素的索引为元素总数减1。Scala中数组分为定长数组和变长数组。创建定长数组Array的两种方式：先...

Scala同样提供了对程序流程控制的语法。Scala中的程序流程控制结构虽然与Java类似，但也有自己的一些独特的方法。选择结构Scala的if/else语法结构和Java或者C++一样。不过，在Scala中if/else表...