Czy Spark albo Kafka same w sobie magazynują przetwarzane dane i w każdym momencie mogę się do nich odwołać? Załóżmy, że za pomocą Sparka łączę się z bazą i wykonuję transformacje do analityki. Czy na końcu pipeline zawsze musze załadować te dane to hurtowni bo po zamknięciu joba one przepadną? Jak nazywa się ten
Wszystko
Najnowsze
Archiwum
2
Rządowa aplikacja sprawdzi czy nie zaniżyłeś liczby osób w opłatach za odpady
Technologia w rękach rządu czyli Chiny 2.0 coraz bliżej
z- 8
- #
- #
- #
- #
- #
- 0
Czy Spark albo Kafka same w sobie magazynują przetwarzane dane i w każdym momencie mogę się do nich odwołać? Załóżmy, że za pomocą Sparka łączę się z bazą i wykonuję transformacje do analityki. Czy na końcu pipeline zawsze musze załadować te dane to hurtowni bo po zamknięciu joba one przepadną? Jak nazywa się ten
Jako źródło danych, czy jako cel, czy jako oba
@Meriu: Możesz korzystać w oba sposoby.
Ja w jednym projekcie miałem tak:
rabbitMQ -> hadoop -> spark -> kafka -> spark -> hadoop -> spark -> hadoop
- 1
#bigdata
- 0
0
Na podstawie danych z telefonu można dość dokładnie określić czy jarasz trawę.
Tytuł trochę myli ale całość dość ciekawa. Angielski wymagany.
z- 0
- #
- #
- #
#studbaza #studia #informatyka #bigdata #niebieskiepaski #rozowepaski #pytanie
- 0
- 4
Komentarz usunięty przez autora
714
Skrzeczące głosy mniejszości. Tak Apple określa krytyków skanowania zdjęć...

Kontrowersyjny pomysł Apple, polegający na skanowaniu zdjęć na iPhone’ach w poszukiwaniu nielegalnych treści nie spotkał się z jednomyślną aprobatą. Wiceprezes Apple’a ostrzega podwładnych przed hejtem. Nie ma ciepłych słów dla krytyków. Wyrazy zaniepokojenia wyrazili E. Snowden i szef WhatsAppa.
z- 218
- #
- #
- #
- #
- #
- #
7
Apple będzie przeszukiwać iPhone’y w poszukiwaniu…dziecięcej pornografii

Na razie tylko w USA i tylko zdjęcia, które mają trafić na serwery iCloud.
z- 5
- #
- #
- #
- #
- #
34
Ostatnia afera z WhatsAppem to pikuś przy tym, co przygotowuje Facebook

Facebook jest w trakcie budowania zespołu, który będzie miał za zadanie dowiedzieć się, jak analizować zaszyfrowane dane bez ich odszyfrowywania.
z- 10
- #
- #
- #
- #
- #
- #
- 68
Cześć! Zapraszam na czternaste zestawienie najciekawszych linków ze świata sztucznej inteligencji
1. New AI strategy enables robots to rapidly adapt to real-world environments
https://engineering.berkeley.edu/news/2021/07/rapid-motor-adaptation-enables-robots-to-navigate-real-world/
INFO: Nowy algorytm (RMA) dla psów-robotów, dzięki któremu doskonale radzą sobie w różnych niestandardowych środowiskach i potrafią się bardzo szybko adaptować do zmiany tych środowisk. Polecam zerknąć na filmik - na mnie wrażenie robi poruszanie się po pochyłym materacu oblanym olejem
źródło: comment_1627541975IIaPQvRLCHzuBENpUMnmQ1.jpg
Pobierz- 11
https://www.wykop.pl/wpis/58392103/chcesz-byc-wolany-do-wpisow-z-cyklu-ainews-zaplusu/
- 2
1. Data Science
2. Inżynieria oprogramowania, procesów biznesowych i baz danych
Pracuję obecnie jako analityk, więc cisnę Excela, VBA, Pythona + trochę zajmuję się SAPem. Na pewno chciałbym zawodowo pozostać w szeroko pojętej analityce i grzebaniu w danych. Większości rzeczy uczę się sam, więc studia potrzebne są mi tylko dla dyplomu i możliwości objęcia poważniejszego stanowiska. Mimo
- 1
- 0
- 40
Cześć! Zapraszam na trzynaste już zestawienie najciekawszych linków ze świata sztucznej inteligencji
1. AI projektuje eksperyment kwantowy wykraczający poza ludzkie możliwości.
https://www.wykop.pl/link/6179181/ai-projektuje-eksperyment-kwantowy-wykraczajacy-poza-ludzkie-mozliwosci/
INFO: Dodaję link wykopowy - pod spodem możemy przeczytać przy okazji co na ten temat myślą wykopki (✌ ゚ ∀
źródło: comment_16258220803ELGWdZkSOOebZ3YumuEA5.jpg
Pobierz- 1
https://www.wykop.pl/wpis/58392103/chcesz-byc-wolany-do-wpisow-z-cyklu-ainews-zaplusu/
- 0
https://www.wykop.pl/wpis/58392103/chcesz-byc-wolany-do-wpisow-z-cyklu-ainews-zaplusu/
- 0
Wiem że Cloudera zamknęła swoje repozytoria i tylko teraz można pobrać jeśli ma sie wykupiony support. Gdzie mogę znaleźć paczki rpm pod redhat do nowych wersji Cloudery ? jakieś torrenty?
- 52
Cześć! Zapraszam na dwunaste już zestawienie najciekawszych linków ze świata sztucznej inteligencji
1. Copilot - narzędzie, które powstało dzięki współpracy Github i OpenAI
https://copilot.github.com/
INFO: Narzędzie wspomaga programistów w pisaniu kodu - potrafi na podstawie kontekstu / komentarza / nagłówka funkcji zaproponować odpowiednią implementację. Przyznam, że jeśli to rzeczywiście działa tak jak pokazali w przykładach, to jestem w szoku.
źródło: comment_1625211134Cn1nKneYIV895PHd5Cuy83.jpg
Pobierz- 6
https://www.wykop.pl/wpis/58392103/chcesz-byc-wolany-do-wpisow-z-cyklu-ainews-zaplusu/
Copilot (...) potrafi na podstawie kontekstu / komentarza / zaproponować odpowiednią implementację
@bp-lukasz: czyli co:
/* działające tagi na wykopie */i cyk pora na CSa ( ͡° ͜ʖ ͡°)
- 48
Cześć! Zapraszam na jedenaste zestawienie najciekawszych linków ze świata sztucznej inteligencji
1. Quantum Machine Learning and the Power of Data
https://ai.googleblog.com/2021/06/quantum-machine-learning-and-power-of.html
INFO: Era komputerów kwantowych zbliża się do nas nieubłaganie. Czy będzie to rewolucja dla świata sztucznej inteligencji? Dosyć ciekawy i krótki artykuł na ten temat prosto ze stajni Google AI
źródło: comment_1624521625hL3Gu9v1uWZTEgHFwxbTDl.jpg
Pobierz(SwissDevJobs.ch | LinkedIn | Twitter | Facebook)
(GermanTechJobs.de | LinkedIn | Twitter |
źródło: comment_16244405399L5asBuGwKy6s0wZGHdD5i.jpg
Pobierz- 72
Cześć! Zapraszam na dziesiąte zestawienie najciekawszych linków ze świata sztucznej inteligencji
1. Reverse Engineering Deep Fake
https://ai.facebook.com/blog/reverse-engineering-generative-model-from-a-single-deepfake-image/
INFO: Facebook opracował własny deep fake detector. W artykule można zobaczyć jaką architekturę zastosowano i jakie są
źródło: comment_1623917612LQN5vEZr577n6vEeRyGEtn.jpg
Pobierz














Jak wygląda azjatycki rynek pracy dla big data developera? Gdzie uderzać biorąc takie czynniki jak: zarobki/warunki/możliwości?
#programowanie #programista15k #it #kariera #azja #chiny #korea #japonia #tajwan #singapur #praca #korpo #python #bigdata
Kliknij tutaj, aby odpowiedzieć w tym wątku anonimowo