Wpis z mikrobloga

#aws #devops

Jaki jest usecase dla Kinesis Data Firehose kontra zwykły PUT bezpośrednio do bucketa?

Jak na przykład mam apkę dotnetową, która ma seriloga z doinstalowanym bezpośrednim uploadem do Cloudwatch i można potem sobie jeszcze z tego cloudwatcha dać to tym firehosem do S3, ale czemu akurat robić to tym serwisem, a nie zwykłą lambdą czy putami? Jaka jest przewaga?
  • 3
  • Odpowiedz
@Need: Firehose jest wykorzystywany przy dużych wolumenach danych. Oferuje też autoscaling i analizę w locie. Serwis przydatny raczej tylko do analityki danych.
  • Odpowiedz
@Need: przydatny do implementacji Data Ingestion do Data Lake. Gdybys chciał własnoręcznie ładować dane do S3 to musiałbyś postawić jakaś kolejkę, serwis który z niej czyta i wrzuca do S3. Firehose to wszystko enkapsuluje i dodaje dodatkowe feature’y.
Use-case z życia wzięty: grupa serwisów rozpierzchniętych po całym systemie produkuje dane analityczne, które chcesz razem badać w Data Lake. Emisja tych danych nie powinna wpłynąć na krytyczną funkcjonalność. Do tego chcesz móc
  • Odpowiedz