Rumah Kewangan Peribadi Nod hamba dalam Hadoop Clusters - dummies

Nod hamba dalam Hadoop Clusters - dummies

Video: Mencoba Armada Baru Zaffina Jetbus 3+ SHD Suos Corr 2024

Video: Mencoba Armada Baru Zaffina Jetbus 3+ SHD Suos Corr 2024
Anonim

Dalam alam semesta Hadoop, nod hamba berada di mana data Hadoop disimpan dan di mana pemprosesan data berlaku. Perkhidmatan berikut membolehkan nod budak menyimpan dan memproses data:

  • NodeManager: Menyelaras sumber untuk nod hamba individu dan melaporkan kembali kepada Pengurus Sumber.

  • ApplicationMaster: Mengesan kemajuan semua tugas yang dijalankan pada cluster Hadoop untuk aplikasi tertentu. Untuk setiap aplikasi klien, Pengurus Sumber mengalihkan contoh perkhidmatan ApplicationMaster dalam bekas pada nod hamba. (Ingat bahawa mana-mana nod yang menjalankan perkhidmatan NodeManager boleh dilihat oleh Pengurus Sumber.)

  • Container: Satu koleksi semua sumber yang diperlukan untuk menjalankan tugas individu untuk aplikasi. Apabila aplikasi berjalan di kluster, Pengurus Sumber jadual tugas untuk aplikasi berjalan sebagai perkhidmatan kontena pada nod hamba cluster.

  • TaskTracker: Menguruskan peta individu dan mengurangkan tugas yang dilaksanakan pada nod hamba untuk kelompok Hadoop 1. Dalam Hadoop 2, perkhidmatan ini sudah usang dan telah digantikan oleh perkhidmatan YARN.

  • DataNode: Perkhidmatan HDFS yang membolehkan NameNode menyimpan blok pada nod hamba.

  • RegionServer: Menyimpan data untuk sistem HBase. Di Hadoop 2, HBase menggunakan Hoya, yang membolehkan keadaan RegionServer dijalankan dalam bekas.

Di sini, setiap node hamba sentiasa menjalankan contoh DataNode (yang membolehkan HDFS menyimpan dan mengambil blok data pada nod hamba) dan contoh NodeManager (yang membolehkan Pengurus Sumber untuk menetapkan tugas permohonan kepada nod hamba untuk diproses). Proses kontena adalah tugas individu untuk aplikasi yang berjalan di kluster.

Setiap aplikasi yang berjalan mempunyai tugas ApplicationMaster yang dikhususkan, yang juga dijalankan dalam bekas, dan menjejaki pelaksanaan semua tugas yang dilaksanakan pada cluster hingga aplikasi selesai.

Dengan HBase pada Hadoop 2, model kontena masih diikuti, seperti yang anda lihat:

HBase pada Hadoop 2 dimulakan oleh Hoya Application Master, yang meminta bekas untuk perkhidmatan HMaster. (Anda memerlukan pelbagai perkhidmatan HMaster untuk redundansi.) Master Permohonan Hoya juga meminta sumber untuk RegionServers, yang juga dijalankan dalam bekas khusus.

Angka berikut menunjukkan perkhidmatan yang digunakan pada Hadoop 1 hamba nod. Untuk Hadoop 1, setiap node budak sentiasa menjalankan contoh DataNode (yang membolehkan HDFS menyimpan dan mengambil blok data pada nod hamba) dan contoh TaskTracker (yang membolehkan JobTracker menyerahkan peta dan mengurangkan tugas kepada nod budak untuk pemprosesan).

Node budak mempunyai nombor tetap slot peta dan mengurangkan slot untuk pelaksanaan peta dan mengurangkan tugas masing-masing. Sekiranya kumpulan anda menjalankan HBase, beberapa nod hamba anda perlu menjalankan perkhidmatan RegionServer. Lebih banyak data yang anda simpan di HBase, lebih banyak keadaan RegionServer yang anda perlukan.

Kriteria perkakasan untuk nod hamba agak berbeza daripada mereka untuk nod induk; sebenarnya, kriteria tidak sepadan dengan yang terdapat dalam arsitektur rujukan perkakasan tradisional untuk pelayan data. Kebanyakan buzz sekitar Hadoop adalah disebabkan oleh penggunaan perkakasan komoditi dalam kriteria reka bentuk kluster Hadoop, tetapi perlu diingat bahawa perkakasan

komoditi tidak merujuk kepada perkakasan gred pengguna. Hodop hambaop hamba masih memerlukan perkakasan gred perusahaan, tetapi pada hujung spektrum kos rendah, terutamanya untuk penyimpanan.

Nod hamba dalam Hadoop Clusters - dummies

Pilihan Editor

Cara RSVP ke Acara di Ning - patung

Cara RSVP ke Acara di Ning - patung

Di Ning, setelah anda menemukan persidangan itu mencari atau parti yang ingin anda hadiri, anda perlu RSVP untuk acara tersebut supaya pihak penganjur boleh mendapatkan jumlah minuman, makanan dan barang yang sesuai untuk semua peserta - dan juga rakan-rakan rangkaian anda yang tahu anda akan pergi . Untuk RSVP ...

Cara Menghantar Mesej Peribadi di Ning - dummies

Cara Menghantar Mesej Peribadi di Ning - dummies

Mesej hanya dengan dua kumpulan orang: rakan anda dan Pentadbir (termasuk Pencipta Rangkaian). Mesej peribadi Ning memberi anda cara yang ideal sebagai ahli untuk berkomunikasi dengan ahli-ahli lain dalam rangkaian tanpa semua orang mengetahui tentangnya:

Pilihan Editor

Dimensi web untuk Infographics anda - dummies

Dimensi web untuk Infographics anda - dummies

Cabaran untuk menilai infographic untuk web adalah saiz reka bentuk kini sangat berubah , tiada standard untuk bercakap. "Reka bentuk responsif" yang dibawa dengan kemunculan HTML5 mengubah landskap reka bentuk web secara kekal. Tidak seperti grafik yang dicetak, di mana setiap orang yang melihatnya mengalaminya dalam saiz yang sama, ...

Pilihan Editor

Bagaimana Menganalisis Sentimen dan Kesan Penglibatan Media Sosial Anda - pemahaman

Bagaimana Menganalisis Sentimen dan Kesan Penglibatan Media Sosial Anda - pemahaman

Komuniti mempunyai tindak balas yang positif, negatif, atau neutral kepada anda dan jenama anda boleh membantu anda menentukan bagaimana untuk terus mengendalikan pendekatan penglibatan media sosial anda. Bagaimana anda mengukur pesaing dalam minda penonton dalam talian anda adalah satu lagi faktor penting untuk dinilai. Anda juga boleh memanfaatkan ...

Cara Tanya Ahli Komuniti Dalam Talian untuk Ulasan - dummies

Cara Tanya Ahli Komuniti Dalam Talian untuk Ulasan - dummies

Tidak ada yang salah dengan menjangkau para blogger, penulis, dan ahli komuniti dalam talian lain dan bertanya kepada mereka jika mereka berminat untuk menyemak jenama atau komuniti anda. Perbezaan antara penginjilan jenama dan melakukan kajian semula adalah bahawa penginjil jenama tidak mengkaji: Mereka mempromosikan, dan mereka diberi pampasan sebagai pertukaran untuk promosi mereka. Penilai, di ...

Cara Mengiklankan Syarikat Anda melalui Penajaan Blog - patung

Cara Mengiklankan Syarikat Anda melalui Penajaan Blog - patung

Untuk cara percikan untuk dilihat blog atau laman web, pertimbangkan menaja laman web ini. Penajaan untuk blog popular telah mendapat banyak perhatian dalam blogosphere. Sesetengah blogger menyeru menerima tajaan "menjual keluar," tetapi yang lain menganggapnya sebagai cara terbaik untuk mendapatkan bayaran untuk melakukan apa yang mereka suka. Penajaan cenderung kepada ...