Rumah Kewangan Peribadi Kepentingan MapReduce di Hadoop - dummies

Kepentingan MapReduce di Hadoop - dummies

Video: Help for hacked sites: File system damage assessment 2024

Video: Help for hacked sites: File system damage assessment 2024
Anonim

Untuk sebahagian besar sejarah Hadoop, MapReduce telah menjadi satu-satunya permainan di bandar ketika datang ke pemprosesan data. Ketersediaan MapReduce telah menjadi sebab kejayaan Hadoop dan pada masa yang sama merupakan faktor utama dalam mengehadkan penggunaan lanjut.

MapReduce membolehkan pengaturcara mahir untuk menulis aplikasi yang diedarkan tanpa perlu bimbang tentang infrastruktur pengkomputeran yang diedarkan di bawahnya. Ini adalah perjanjian yang sangat besar: Hadoop dan Rangka Kerja MapReduce mengendalikan segala macam kerumitan yang pemaju aplikasi tidak perlu mengendalikan.

Sebagai contoh, keupayaan untuk menonjol secara keterlaluan cluster dengan menambahkan nod dan failover automatik kedua-dua penyimpanan data dan subsistem pemprosesan data berlaku dengan kesan sifar pada aplikasi.

Sisi lain duit syiling di sini ialah walaupun MapReduce menyembunyikan sejumlah besar kerumitan, anda tidak boleh melupakan apa itu: antarmuka untuk pengaturcaraan selari. Ini adalah kemahiran maju - dan penghalang kepada penggunaan yang lebih luas. Tidak semestinya terdapat banyak pemrogram MapReduce, dan tidak semua orang mempunyai keahlian untuk menguasainya.

Pada hari-hari awal Hadoop (Hadoop 1 dan sebelum), anda hanya boleh menjalankan aplikasi MapReduce pada kluster anda. Di Hadoop 2, komponen YARN mengubah semua itu dengan mengambil alih pengurusan sumber dan penjadualan dari rangka MapReduce, dan menyediakan antara muka generik untuk memudahkan aplikasi dijalankan pada cluster Hadoop.

Pendek kata, ini bermakna MapReduce kini hanya satu daripada banyak kerangka aplikasi yang anda boleh gunakan untuk membangun dan menjalankan aplikasi pada Hadoop. Walaupun sudah pasti untuk menjalankan aplikasi menggunakan rangka kerja lain pada Hadoop, itu tidak bermakna kita boleh mula melupakan MapReduce.

MapReduce kini merupakan satu-satunya rangka kerja pemprosesan data siap sedia untuk Hadoop. Walaupun rangka kerja lain akhirnya akan tersedia, MapReduce mempunyai hampir satu dekad kematangan di bawah tali pinggangnya (dengan hampir 4,000 isu JIRA selesai, melibatkan beratus-ratus pemaju, jika anda menjejaki).

Tidak ada pertikaian: MapReduce adalah rangka kerja yang paling matang Hadoop untuk pemprosesan data. Di samping itu, sejumlah besar kod MapReduce kini sedang digunakan yang tidak mungkin pergi ke mana-mana tidak lama lagi. Cerita panjang pendek: MapReduce adalah bahagian penting dalam kisah Hadoop.

Projek Apache Hive dan Apache Pig sangat popular kerana mereka lebih mudah masuk ke pemprosesan data pada Hadoop. Untuk banyak masalah, terutama jenis yang boleh anda selesaikan dengan SQL, Hive and Pig adalah alat yang sangat baik.Tetapi untuk tugas yang lebih luas seperti pemprosesan statistik atau pengekstrakan teks, dan terutamanya untuk memproses data tidak berstruktur, anda perlu menggunakan MapReduce.

Kepentingan MapReduce di Hadoop - dummies

Pilihan Editor

Melindungi Metrik Media Sosial anda dengan Alat Cadangan - dummies

Melindungi Metrik Media Sosial anda dengan Alat Cadangan - dummies

Jika anda telah memulakan jejak sosial metrik media dan menikmati kurniaan data yang kini dapat dilihat, dihidupkan, dan digunakan, anda mungkin tertanya-tanya apa yang mungkin menyebabkan kemurungan! Mudah: kehilangan data. Katakanlah bahawa anda mempunyai masalah tapak atau entah bagaimana kehilangan akses ke tapak atau data anda. Adakah anda mempunyai sandaran anda ...

Laman web baru? Menarik Tumpuan Media Sosial Lalu Lintas dan Meningkat - dummies

Laman web baru? Menarik Tumpuan Media Sosial Lalu Lintas dan Meningkat - dummies

Mana-mana kempen baru, laman web, akaun Twitter, halaman Facebook, atau item lain yang anda ingin ukur dengan metrik media sosial bermula pada sifar. Nombor ini boleh membuat anda merasa seperti anda bercakap dengan tidak sah, bercakap dengan diri anda atau anda tersembunyi dari pandangan. Perasaan ini boleh membawa kepada pengasingan secara keseluruhan ...

Meracuni Google Spider - dummies

Meracuni Google Spider - dummies

Anda sentiasa dapat mencari orang yang ingin menyimpang dari lurus dan sempit. Ya, mereka adalah orang bodoh yang terlibat dalam taktik pengoptimuman berisiko yang bertujuan untuk menggerakkan PageRank secara artifisial, memanipulasi pesanan halaman hasil carian di Google, dan mendapatkan kelebihan yang tidak adil dalam indeks. Google, dengan reputasi yang luar biasa untuk melindungi, ...

Pilihan Editor

Mengukur Pengunjung Lama Menginap di Laman Web Anda - dummies

Mengukur Pengunjung Lama Menginap di Laman Web Anda - dummies

Di laman web anda memberikan wawasan yang penting. Anda boleh memikirkan sama ada pengunjung sedang melihat cepat, kemudian pergi, atau sama ada mereka bertahan lebih lama dan sebenarnya membaca bahan dalam talian anda dengan tujuan untuk mengambil tindakan. Jika majoriti pelawat laman web anda tidak ...

Pemasaran web: Cara Menilai Layouts dengan Peta Haba - dummies

Pemasaran web: Cara Menilai Layouts dengan Peta Haba - dummies

Laman web perniagaan sangat mirip dengan merancang kedai dengan pemasaran produk dalam fikiran. Malah, laman web anda benar-benar adalah kedai - kedai maya di Internet. Rangkaian kedai runcit telah menghabiskan berjuta-juta dolar dalam penyelidikan pasaran, menonton dan mendokumentasikan bagaimana pembeli memasuki kedai, belok kanan atau kiri, dan ...

Analitik web Untuk Menipu Cheat Sheet - dummies

Analitik web Untuk Menipu Cheat Sheet - dummies

Melakukan analisis laman web tidak perlu meletihkan dan intensif masa. Anda boleh meringkaskan prestasi keseluruhan laman web anda dengan cepat - jika anda tahu apa yang perlu dicari. Alat analisis web percuma dan kos rendah boleh membantu anda mengukur kejayaan laman web anda, dan anda boleh menjana perujuk tapak dengan pelbagai cara yang tidak mungkin ...

Pilihan Editor

Cara Memaksimumkan Ruang pada Laman Web - dummies

Cara Memaksimumkan Ruang pada Laman Web - dummies

Terlalu terhad, anda boleh membuat penggunaan kreatif beberapa teknologi di luar sana untuk memaksimumkan antara muka anda. Untuk setiap teknik berikut yang diterangkan, terdapat banyak laman web yang menawarkan sampel kod, forum, dan sumber untuk membantu anda memulakan. Accordions. Antara muka akordion membolehkan ...

Cara Mendapatkan Corak CSS3 Online - dummies

Cara Mendapatkan Corak CSS3 Online - dummies

Mencipta kesan mudah untuk laman CSS3 menggunakan gradien mudah . Walau bagaimanapun, mewujudkan sesuatu yang benar-benar hebat memerlukan masa dan keupayaan artistik. Kebanyakan pemaju benar-benar tidak mempunyai masa atau kemahiran yang diperlukan untuk mencipta sesuatu yang mempesonakan menggunakan CSS3 sahaja (atau CSS3 digabungkan dengan grafik) - di sinilah pereka bermain. Ramai pereka yang membolehkan anda ...

Bagaimana Mengoptimumkan Aplikasi CSS3 dengan Modernizr - dummies

Bagaimana Mengoptimumkan Aplikasi CSS3 dengan Modernizr - dummies

Terdapat banyak pelayar dan versi pelayar yang berbeza gunakan hari ini. Tidak semua daripada mereka adalah optimum untuk CSS3. Inilah tempat Modernizr dimainkan. Pemajunya menyebutnya "perpustakaan JavaScript yang mengesan ciri HTML5 dan CSS3 dalam pelayar pengguna. "Anda menggunakan Modernizr untuk melaksanakan tugas secara pilihan dan memasukkan ciri aplikasi berdasarkan ...