Rumah Kewangan Peribadi Nod hamba dalam Hadoop Clusters - dummies

Nod hamba dalam Hadoop Clusters - dummies

Video: Mencoba Armada Baru Zaffina Jetbus 3+ SHD Suos Corr 2024

Video: Mencoba Armada Baru Zaffina Jetbus 3+ SHD Suos Corr 2024
Anonim

Dalam alam semesta Hadoop, nod hamba berada di mana data Hadoop disimpan dan di mana pemprosesan data berlaku. Perkhidmatan berikut membolehkan nod budak menyimpan dan memproses data:

  • NodeManager: Menyelaras sumber untuk nod hamba individu dan melaporkan kembali kepada Pengurus Sumber.

  • ApplicationMaster: Mengesan kemajuan semua tugas yang dijalankan pada cluster Hadoop untuk aplikasi tertentu. Untuk setiap aplikasi klien, Pengurus Sumber mengalihkan contoh perkhidmatan ApplicationMaster dalam bekas pada nod hamba. (Ingat bahawa mana-mana nod yang menjalankan perkhidmatan NodeManager boleh dilihat oleh Pengurus Sumber.)

  • Container: Satu koleksi semua sumber yang diperlukan untuk menjalankan tugas individu untuk aplikasi. Apabila aplikasi berjalan di kluster, Pengurus Sumber jadual tugas untuk aplikasi berjalan sebagai perkhidmatan kontena pada nod hamba cluster.

  • TaskTracker: Menguruskan peta individu dan mengurangkan tugas yang dilaksanakan pada nod hamba untuk kelompok Hadoop 1. Dalam Hadoop 2, perkhidmatan ini sudah usang dan telah digantikan oleh perkhidmatan YARN.

  • DataNode: Perkhidmatan HDFS yang membolehkan NameNode menyimpan blok pada nod hamba.

  • RegionServer: Menyimpan data untuk sistem HBase. Di Hadoop 2, HBase menggunakan Hoya, yang membolehkan keadaan RegionServer dijalankan dalam bekas.

Di sini, setiap node hamba sentiasa menjalankan contoh DataNode (yang membolehkan HDFS menyimpan dan mengambil blok data pada nod hamba) dan contoh NodeManager (yang membolehkan Pengurus Sumber untuk menetapkan tugas permohonan kepada nod hamba untuk diproses). Proses kontena adalah tugas individu untuk aplikasi yang berjalan di kluster.

Setiap aplikasi yang berjalan mempunyai tugas ApplicationMaster yang dikhususkan, yang juga dijalankan dalam bekas, dan menjejaki pelaksanaan semua tugas yang dilaksanakan pada cluster hingga aplikasi selesai.

Dengan HBase pada Hadoop 2, model kontena masih diikuti, seperti yang anda lihat:

HBase pada Hadoop 2 dimulakan oleh Hoya Application Master, yang meminta bekas untuk perkhidmatan HMaster. (Anda memerlukan pelbagai perkhidmatan HMaster untuk redundansi.) Master Permohonan Hoya juga meminta sumber untuk RegionServers, yang juga dijalankan dalam bekas khusus.

Angka berikut menunjukkan perkhidmatan yang digunakan pada Hadoop 1 hamba nod. Untuk Hadoop 1, setiap node budak sentiasa menjalankan contoh DataNode (yang membolehkan HDFS menyimpan dan mengambil blok data pada nod hamba) dan contoh TaskTracker (yang membolehkan JobTracker menyerahkan peta dan mengurangkan tugas kepada nod budak untuk pemprosesan).

Node budak mempunyai nombor tetap slot peta dan mengurangkan slot untuk pelaksanaan peta dan mengurangkan tugas masing-masing. Sekiranya kumpulan anda menjalankan HBase, beberapa nod hamba anda perlu menjalankan perkhidmatan RegionServer. Lebih banyak data yang anda simpan di HBase, lebih banyak keadaan RegionServer yang anda perlukan.

Kriteria perkakasan untuk nod hamba agak berbeza daripada mereka untuk nod induk; sebenarnya, kriteria tidak sepadan dengan yang terdapat dalam arsitektur rujukan perkakasan tradisional untuk pelayan data. Kebanyakan buzz sekitar Hadoop adalah disebabkan oleh penggunaan perkakasan komoditi dalam kriteria reka bentuk kluster Hadoop, tetapi perlu diingat bahawa perkakasan

komoditi tidak merujuk kepada perkakasan gred pengguna. Hodop hambaop hamba masih memerlukan perkakasan gred perusahaan, tetapi pada hujung spektrum kos rendah, terutamanya untuk penyimpanan.

Nod hamba dalam Hadoop Clusters - dummies

Pilihan Editor

Melindungi Metrik Media Sosial anda dengan Alat Cadangan - dummies

Melindungi Metrik Media Sosial anda dengan Alat Cadangan - dummies

Jika anda telah memulakan jejak sosial metrik media dan menikmati kurniaan data yang kini dapat dilihat, dihidupkan, dan digunakan, anda mungkin tertanya-tanya apa yang mungkin menyebabkan kemurungan! Mudah: kehilangan data. Katakanlah bahawa anda mempunyai masalah tapak atau entah bagaimana kehilangan akses ke tapak atau data anda. Adakah anda mempunyai sandaran anda ...

Laman web baru? Menarik Tumpuan Media Sosial Lalu Lintas dan Meningkat - dummies

Laman web baru? Menarik Tumpuan Media Sosial Lalu Lintas dan Meningkat - dummies

Mana-mana kempen baru, laman web, akaun Twitter, halaman Facebook, atau item lain yang anda ingin ukur dengan metrik media sosial bermula pada sifar. Nombor ini boleh membuat anda merasa seperti anda bercakap dengan tidak sah, bercakap dengan diri anda atau anda tersembunyi dari pandangan. Perasaan ini boleh membawa kepada pengasingan secara keseluruhan ...

Meracuni Google Spider - dummies

Meracuni Google Spider - dummies

Anda sentiasa dapat mencari orang yang ingin menyimpang dari lurus dan sempit. Ya, mereka adalah orang bodoh yang terlibat dalam taktik pengoptimuman berisiko yang bertujuan untuk menggerakkan PageRank secara artifisial, memanipulasi pesanan halaman hasil carian di Google, dan mendapatkan kelebihan yang tidak adil dalam indeks. Google, dengan reputasi yang luar biasa untuk melindungi, ...

Pilihan Editor

Mengukur Pengunjung Lama Menginap di Laman Web Anda - dummies

Mengukur Pengunjung Lama Menginap di Laman Web Anda - dummies

Di laman web anda memberikan wawasan yang penting. Anda boleh memikirkan sama ada pengunjung sedang melihat cepat, kemudian pergi, atau sama ada mereka bertahan lebih lama dan sebenarnya membaca bahan dalam talian anda dengan tujuan untuk mengambil tindakan. Jika majoriti pelawat laman web anda tidak ...

Pemasaran web: Cara Menilai Layouts dengan Peta Haba - dummies

Pemasaran web: Cara Menilai Layouts dengan Peta Haba - dummies

Laman web perniagaan sangat mirip dengan merancang kedai dengan pemasaran produk dalam fikiran. Malah, laman web anda benar-benar adalah kedai - kedai maya di Internet. Rangkaian kedai runcit telah menghabiskan berjuta-juta dolar dalam penyelidikan pasaran, menonton dan mendokumentasikan bagaimana pembeli memasuki kedai, belok kanan atau kiri, dan ...

Analitik web Untuk Menipu Cheat Sheet - dummies

Analitik web Untuk Menipu Cheat Sheet - dummies

Melakukan analisis laman web tidak perlu meletihkan dan intensif masa. Anda boleh meringkaskan prestasi keseluruhan laman web anda dengan cepat - jika anda tahu apa yang perlu dicari. Alat analisis web percuma dan kos rendah boleh membantu anda mengukur kejayaan laman web anda, dan anda boleh menjana perujuk tapak dengan pelbagai cara yang tidak mungkin ...

Pilihan Editor

Cara Memaksimumkan Ruang pada Laman Web - dummies

Cara Memaksimumkan Ruang pada Laman Web - dummies

Terlalu terhad, anda boleh membuat penggunaan kreatif beberapa teknologi di luar sana untuk memaksimumkan antara muka anda. Untuk setiap teknik berikut yang diterangkan, terdapat banyak laman web yang menawarkan sampel kod, forum, dan sumber untuk membantu anda memulakan. Accordions. Antara muka akordion membolehkan ...

Cara Mendapatkan Corak CSS3 Online - dummies

Cara Mendapatkan Corak CSS3 Online - dummies

Mencipta kesan mudah untuk laman CSS3 menggunakan gradien mudah . Walau bagaimanapun, mewujudkan sesuatu yang benar-benar hebat memerlukan masa dan keupayaan artistik. Kebanyakan pemaju benar-benar tidak mempunyai masa atau kemahiran yang diperlukan untuk mencipta sesuatu yang mempesonakan menggunakan CSS3 sahaja (atau CSS3 digabungkan dengan grafik) - di sinilah pereka bermain. Ramai pereka yang membolehkan anda ...

Bagaimana Mengoptimumkan Aplikasi CSS3 dengan Modernizr - dummies

Bagaimana Mengoptimumkan Aplikasi CSS3 dengan Modernizr - dummies

Terdapat banyak pelayar dan versi pelayar yang berbeza gunakan hari ini. Tidak semua daripada mereka adalah optimum untuk CSS3. Inilah tempat Modernizr dimainkan. Pemajunya menyebutnya "perpustakaan JavaScript yang mengesan ciri HTML5 dan CSS3 dalam pelayar pengguna. "Anda menggunakan Modernizr untuk melaksanakan tugas secara pilihan dan memasukkan ciri aplikasi berdasarkan ...