DAY 21 Big Data 5Vs – Variety(速度) Kinesis (1)

串流处理的应用场景近年来越来越常见,尤其是IOT产业的蓬勃发展,加上硬体技术的发展,越来越多的即时资料能够被蒐集下来。常见的即时串流资料有影片、语音、网站的Log与clickstream等。对串流资料做即时分析能够帮助分析人员在第一时间,甚至是即时同步,了解自己的应用程序状态,尤其是现在这麽竞争市场中,要在众多竞争者中脱颖而出就要比对手早一步掌握先机,这个先机就要靠即时分析应用来发掘,所以串流处理也常出现在像是即时舆情分析或影像辨识等使用场景。
AWS Kinesis家族是专为串流处理所设计的全托管服务,Kinesis的架构设计和Kafka这类的MQ产品很像,都有producer、broker与consumer的角色。在AWS上有Kafka的托管服务—Amazon Managed Streaming for Apache Kafka (Amazon MSK)可以选择,但更多时候,Kinesis是个更轻量方便的选择。其中的四个串流服务分别是: Kinesis Video Stream、Kinesis Data Stream、Kinesis Data Firehose与Kinesis Data Analytics。接下来依序介绍:

Kinesis Video Stream(KVS),是个能够轻松建立安全的影音串流架构的服务,它更常被应用在影音播放的串流服务,所以只简单介绍。在资料分析比较相关的方面,是视讯串流应用来将影片、语音等即时资料串接像是Sagemaker这类的机器学习服务,方便进行进一步的分析任务。

KVS有自己独立的服务页面
https://ithelp.ithome.com.tw/upload/images/20211003/20140161Di5HihmMIt.png

KVS预设会使用AWS KMS以做到加密传输,如果要使用自己的金钥可以在建立时设定
https://ithelp.ithome.com.tw/upload/images/20211003/20140161rT6pIJayC6.png

建立後就可以利用视讯串流的ARN(Amazon Resource Number)来订阅。

*Kafka( https://zh.wikipedia.org/wiki/Kafka )
*MQ ( https://zh.wikipedia.org/wiki/%E6%B6%88%E6%81%AF%E9%98%9F%E5%88%97 )


<<:  自动化 End-End 测试 Nightwatch.js 之踩雷笔记:iframe

>>:  Day28:复习 Coroutine

Day 26 Quantum Protocols and Quantum Algorithms

Quantum Counting Quantum search + Quantum phase es...

前端工程师也能开发全端网页:挑战 30 天用 React 加上 Firebase 打造社群网站|Day2 建立 Firebase 专案

连续 30 天不中断每天上传一支教学影片,教你如何用 React 加上 Firebase 打造社群...

Day18 简易资料库RealmSwift小实作5

接续昨天~ 第四行id.count>0是做说明若是realm里的资料大於0比(因为阵列是从0开...

Vue.js 从零开始:SSR、MPA、SPA的概念

每次网路搜寻关键字SSR、MPA、SPA,都会有看没有懂的感觉,看完过没多久马上就忘了,藉由这次机会...

Day 13 - Add Binary

大家好,我是毛毛。ヾ(´∀ ˋ)ノ 废话不多说开始今天的解题Day~ 67. Add Binary ...