مقالات

نصب Hadoop و HBase در OSX در حالت شبه توزیع


سیستم عامل انتخاب شده OSX است ، اما این روش برای هر محیط UNIX متفاوت نیست ، زیرا بخش بیشتری از نرم افزار از اینترنت بارگیری می شود ، فشرده نشده و به صورت دستی تنظیم می شود. فقط چند بسته توسط Macport نصب شده است ، اما به راحتی در ابزارهای معادل مانند APT و YUM یافت می شود. از آنجا که نرم افزار بارگیری شده در جاوا است ، دیگر نباید نگرانی در مورد نحوه عملکرد آن در سایر محیط ها وجود داشته باشد.

این محیط در حالت شبه توزیع تنظیم شده است تا در صورت ایستگاه بهترین رفتار خوشه را شبیه سازی کند. در این حالت ، هر فرآیند جاوا در JVM خاص خود کار می کند.

این روش نصب نرم افزار زیر را پوشش می دهد:

انتخاب نسخه ها

نصب نرم افزار از مخازن SVN با ناسازگاری بین کندو مشکلی ایجاد می کند ، که به پایدارترین نسخه Hadoop (2.20.2) و SQOOP نیاز دارد ، که به نسخه SVN Hadoop نیاز دارد. به همین دلیل ، ما نسخه های توزیع شده توسط Cloudra را انتخاب کرده ایم. بر اساس نسخه های پایدار ، آنها بسیاری از تکه های موجود در ذخیره سازی SVN را شامل می شوند و توسط برخی از بهترین متخصصان جامعه آزمایش می شوند.

با این حال ، برخی از ویژگی ها در زمان توزیع هنوز وجود ندارند ، بنابراین برخی از ما همچنین از نسخه های ساخته شده از ذخیره سازی SVN استفاده می کنیم. نرم افزار مورد نظر HBase و Hive است و نصب دستی آنها در زیر پوشش داده نشده است.

نصب

روش شرح داده شده بر این فرض است که Xcode و MacPort در حال حاضر در سیستم وجود دارند.

توزیع Cloudra CDH3BETA2 است که بیشترین استفاده از آن نیست ، اما مکانیسم یکسان است ، به شرط آنکه به وب سایت Cloudra بروید و جدیدترین نسخه ها را بارگیری کنید. وابستگی های Macport

sudo port install wget p26-virtualenv libxml2 libxslt mysql5 mysql5-server sqlite mysql
easyinstall simplejson

تنظیم SSH




ssh-keygen -C "my@email.com" -t rsa
cat ~ / .ssh / id_rsa.pub >> ~ / .ssh / authorized_keys
chmod 600 ~ / .ssh / authorized_keys

تهیه فهرست نصب


sudo mkdir / opt / cloudera
sudo chown {username}: staff / opt / cloudera
cd / opt / cloudera

بسته های دانلود

wget http://archive.cloudera.com/cdh/3/hadoop-0.20.2+320.tar.gz
wget http://archive.cloudera.com/cdh/3/hive-0.5.0+20.tar.gz
wget http://archive.cloudera.com/cdh/3/pig-0.7.0+9.tar.gz
wget http://archive.cloudera.com/cdh/3/hbase-0.89.20100621+17.tar.gz
wget http://archive.cloudera.com/cdh/3/sqoop-1.0.0+3.tar.gz
wget http://archive.cloudera.com/cdh/3/flume-0.9.0+1.tar.gz
wget http://archive.cloudera.com/cdh/3/hue-common_0.9-2.tar.gz
wget http://archive.cloudera.com/cdh/3/zookeeper-3.3.1+10.tar.gz

بسته های استخراج شده

tar -xzf hadoop-0.20.2 + 320.tar.gz
tar -xzf hive-0.5.0 + 20.tar.gz
tar -xzf pig-0.7.0 + 9.tar.gz
tar -xzf hbase-0.89.20100621 + 17.tar.gz
tar -xzf sqoop-1.0.0 + 3.tar.gz
tar -xzf flume-0.9.0 + 1.tar.gz
tar -xzf hue-common_0.9-2.tar.gz
tar -xzf zookeeper-3.3.1 + 10.tar.gz

ln -sf hadoop-0.20.2 + 320 hadoop
ln -sf hive-0.7.0-dev hive
ln -sf pig-0.7.0 + 9 pig
ln -sf hbase-0.89.20100621 + 17 hbase
ln -sf sqoop-1.0.0 + 3 sqoop
ln -sf flume-0.9.0 + 1 flume
ln -sf hue-common-0.9 hue
ln -sf zookeeper-3.3.1 + 10 zookeeper

rm -rf * .tar.gz

تنظیم محیط

echo "export JAVA_HOME = / Library / Java / Home" >> ~ / .profile
echo "export HADOOP_HOME = / opt / cloudera / hadoop" >> ~ / .profile
echo "export HIVE_HOME = / opt / cloudera / hive" >> ~ / .profile
echo "export HIVE_CONF_DIR = / opt / cloudera / hive / conf" >> ~ / .profile
echo "export PIG_HOME = / opt / cloudera / pig" >> ~ / .profile
echo "export HBASE_HOME = / opt / cloudera / hbase" >> ~ / .profile
echo "export FLUME_HOME = / opt / cloudera / flume" >> ~ / .profile
echo "export SQOOP_HOME = / opt / cloudera / sqoop" >> ~ / .profile
echo "export ZOOKEEPER_HOME = / opt / cloudera / zookeeper" >> ~ / .profile
echo "export HUE_HOME = / opt / cloudera / hue" >> ~ / .profile
echo "export PATH = \ $ HADOOP_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ HBASE_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ PIG_HOME / bin: \ $ PATH" >> ~ / .profile
echo "export PATH = \ $ HIVE_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ FLUME_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ SQOOP_HOME / bin: \ $ PATH" >> ~ / .profile
echo "export PATH = \ $ ZOOKEEPER_HOME / bin: \ $ PATH" >> ~ / .profile
source ~ / .profile

پیکربندی نرم افزاری






















sudo port install py26-setuptools
ln -sf / opt / local / bin / mysql_config5 / opt / local / bin / mysql_config
cd hue-common-0.9
make apps





cd $ HADOOP_HOME / lib
ln -s $ HUE_HOME / desktop / libs / hadoop / java-lib / hue-plugins-0.9.jar
mv hadoop-0.20.2 + 320 / conf hadoop-0.20.2 + 320 / conf.bck
cp -rp hue / example-hadoop-confs / conf.pseudo-hue hadoop-0.20.2 + 320 / conf






hadoop namenode -format

استفاده کردن

خدمات شروع


start-all.sh

start-hbase.sh
hbase-daemon.sh start rest

cd $ HUE_HOME
./build/env/bin/supervisor

خدمات را متوقف کنید


stop-all.sh

hbase-daemon.sh stop rest
stop-hbase.sh

تجویز

اگر نصب به راحتی انجام شود ، باید URL های زیر وجود داشته باشد:

  • کارت Hadoop / کاهش مدیریت: http://localhost:50030
  • مرورگر سیستم فایل Hadoop: http://localhost:50070
  • کارهای ردیابی Hadoop: http://localhost:50060
  • رنگ: http://localhost:8088


Source link

نوشته های مشابه

دیدگاهتان را بنویسید

دکمه بازگشت به بالا