Day 24 物联网大数据的数据捕手Kinesis

看完了高并发架构的系列介绍後,今天开始来研究大数据相关的服务吧!我们先从数据串流相关的服务做起-Kinesis。

1. Kinesis的应用价值

Kinesis可以实现实时的大数据串流,并且具备可扩充性,让我们可以随时因应数据的规模,做效能的调控。Kinesis通常会应用在物联网相关的感测器上,因为这些感测器会即时产制大量的资料进行汇集,後台的系统也需要根据所接收的资料,即时做出回应。

2. Kinesis的组成与运作机制

Kinesis由4个部分组成:Kinesis Producers、Data Record、Kinesis Data Streams、Kinesis Consumers。
从资料产制方(例如各种感应器)产生的数据,称作Data Record。这些Data Record会经由Kinesis Producer这一支应用程序,被汇入Kinesis Data Streams。Kinesis Data Streams具备接收大量资料的能力,并可将资料提供给多个Kinesis Consumers;Kinesis Data Stream之所以具备处理大量资料的能力,主要来自於Shard数量的设置,设置越多的Shard,读写能力越大;每一个Shard每秒最多可写入不超过1MB资料,读取的话,则是每秒不超过2MB资料Kinesis Consumers则是会接收来自Kinesis Data Streams的资料後,进行後续所需的加值应用服务。


<<:  NNI搬到Colab的优劣

>>:  # Day22--眼前一黑...啊!原来是终端机!

[DAY 05] 盐水豆签羹

盐水豆签羹 地点:台南市盐水区朝琴路19号 时间:14:00~19:00 这一家的照片忘了拍 但是还...

Day07 测试写起乃- let、let!、subject

昨天介绍了 before 之後今天就可以直接来看 let 搂! let、let! let =>...

Day 17 管道的应用

Kernel里面除了前述几种物件之外,我们以下介绍其他几种比较重要的物件,首先我们来看所谓的pipe...

【没钱买ps,PyQt自己写】Day 28 - final project - 1 / 来搞一个自己的 photoshop 吧!UI 篇 + 纯程序架构篇 (结合 PyQt + OpenCV)

看完这篇文章你会得到的成果图 此篇文章的范例程序码 github https://github.co...

资安学习路上-picoCTF 解题(General) 1

最近开始打CTF,决定从最简单的picoCTF 开始,有解决一些题目,觉得有几题蛮有趣的想插播跟大家...