نصب Hadoop و HBase در OSX در حالت شبه توزیع

سیستم عامل انتخاب شده OSX است ، اما این روش برای هر محیط UNIX متفاوت نیست ، زیرا بخش بیشتری از نرم افزار از اینترنت بارگیری می شود ، فشرده نشده و به صورت دستی تنظیم می شود. فقط چند بسته توسط Macport نصب شده است ، اما به راحتی در ابزارهای معادل مانند APT و YUM یافت می شود. از آنجا که نرم افزار بارگیری شده در جاوا است ، دیگر نباید نگرانی در مورد نحوه عملکرد آن در سایر محیط ها وجود داشته باشد.
این محیط در حالت شبه توزیع تنظیم شده است تا در صورت ایستگاه بهترین رفتار خوشه را شبیه سازی کند. در این حالت ، هر فرآیند جاوا در JVM خاص خود کار می کند.
این روش نصب نرم افزار زیر را پوشش می دهد:
انتخاب نسخه ها
نصب نرم افزار از مخازن SVN با ناسازگاری بین کندو مشکلی ایجاد می کند ، که به پایدارترین نسخه Hadoop (2.20.2) و SQOOP نیاز دارد ، که به نسخه SVN Hadoop نیاز دارد. به همین دلیل ، ما نسخه های توزیع شده توسط Cloudra را انتخاب کرده ایم. بر اساس نسخه های پایدار ، آنها بسیاری از تکه های موجود در ذخیره سازی SVN را شامل می شوند و توسط برخی از بهترین متخصصان جامعه آزمایش می شوند.
با این حال ، برخی از ویژگی ها در زمان توزیع هنوز وجود ندارند ، بنابراین برخی از ما همچنین از نسخه های ساخته شده از ذخیره سازی SVN استفاده می کنیم. نرم افزار مورد نظر HBase و Hive است و نصب دستی آنها در زیر پوشش داده نشده است.
نصب
روش شرح داده شده بر این فرض است که Xcode و MacPort در حال حاضر در سیستم وجود دارند.
توزیع Cloudra CDH3BETA2 است که بیشترین استفاده از آن نیست ، اما مکانیسم یکسان است ، به شرط آنکه به وب سایت Cloudra بروید و جدیدترین نسخه ها را بارگیری کنید. وابستگی های Macport
sudo port install wget p26-virtualenv libxml2 libxslt mysql5 mysql5-server sqlite mysql
easyinstall simplejson
تنظیم SSH
ssh-keygen -C "my@email.com" -t rsa
cat ~ / .ssh / id_rsa.pub >> ~ / .ssh / authorized_keys
chmod 600 ~ / .ssh / authorized_keys
تهیه فهرست نصب
sudo mkdir / opt / cloudera
sudo chown {username}: staff / opt / cloudera
cd / opt / cloudera
بسته های دانلود
wget http://archive.cloudera.com/cdh/3/hadoop-0.20.2+320.tar.gz
wget http://archive.cloudera.com/cdh/3/hive-0.5.0+20.tar.gz
wget http://archive.cloudera.com/cdh/3/pig-0.7.0+9.tar.gz
wget http://archive.cloudera.com/cdh/3/hbase-0.89.20100621+17.tar.gz
wget http://archive.cloudera.com/cdh/3/sqoop-1.0.0+3.tar.gz
wget http://archive.cloudera.com/cdh/3/flume-0.9.0+1.tar.gz
wget http://archive.cloudera.com/cdh/3/hue-common_0.9-2.tar.gz
wget http://archive.cloudera.com/cdh/3/zookeeper-3.3.1+10.tar.gz
بسته های استخراج شده
tar -xzf hadoop-0.20.2 + 320.tar.gz
tar -xzf hive-0.5.0 + 20.tar.gz
tar -xzf pig-0.7.0 + 9.tar.gz
tar -xzf hbase-0.89.20100621 + 17.tar.gz
tar -xzf sqoop-1.0.0 + 3.tar.gz
tar -xzf flume-0.9.0 + 1.tar.gz
tar -xzf hue-common_0.9-2.tar.gz
tar -xzf zookeeper-3.3.1 + 10.tar.gz
ln -sf hadoop-0.20.2 + 320 hadoop
ln -sf hive-0.7.0-dev hive
ln -sf pig-0.7.0 + 9 pig
ln -sf hbase-0.89.20100621 + 17 hbase
ln -sf sqoop-1.0.0 + 3 sqoop
ln -sf flume-0.9.0 + 1 flume
ln -sf hue-common-0.9 hue
ln -sf zookeeper-3.3.1 + 10 zookeeper
rm -rf * .tar.gz
تنظیم محیط
echo "export JAVA_HOME = / Library / Java / Home" >> ~ / .profile
echo "export HADOOP_HOME = / opt / cloudera / hadoop" >> ~ / .profile
echo "export HIVE_HOME = / opt / cloudera / hive" >> ~ / .profile
echo "export HIVE_CONF_DIR = / opt / cloudera / hive / conf" >> ~ / .profile
echo "export PIG_HOME = / opt / cloudera / pig" >> ~ / .profile
echo "export HBASE_HOME = / opt / cloudera / hbase" >> ~ / .profile
echo "export FLUME_HOME = / opt / cloudera / flume" >> ~ / .profile
echo "export SQOOP_HOME = / opt / cloudera / sqoop" >> ~ / .profile
echo "export ZOOKEEPER_HOME = / opt / cloudera / zookeeper" >> ~ / .profile
echo "export HUE_HOME = / opt / cloudera / hue" >> ~ / .profile
echo "export PATH = \ $ HADOOP_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ HBASE_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ PIG_HOME / bin: \ $ PATH" >> ~ / .profile
echo "export PATH = \ $ HIVE_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ FLUME_HOME / bin: \ $ PATH" >> ~ / .profile
echo "PATH export = \ $ SQOOP_HOME / bin: \ $ PATH" >> ~ / .profile
echo "export PATH = \ $ ZOOKEEPER_HOME / bin: \ $ PATH" >> ~ / .profile
source ~ / .profile
پیکربندی نرم افزاری
sudo port install py26-setuptools
ln -sf / opt / local / bin / mysql_config5 / opt / local / bin / mysql_config
cd hue-common-0.9
make apps
cd $ HADOOP_HOME / lib
ln -s $ HUE_HOME / desktop / libs / hadoop / java-lib / hue-plugins-0.9.jar
mv hadoop-0.20.2 + 320 / conf hadoop-0.20.2 + 320 / conf.bck
cp -rp hue / example-hadoop-confs / conf.pseudo-hue hadoop-0.20.2 + 320 / conf
hadoop namenode -format
استفاده کردن
خدمات شروع
start-all.sh
start-hbase.sh
hbase-daemon.sh start rest
cd $ HUE_HOME
./build/env/bin/supervisor
خدمات را متوقف کنید
stop-all.sh
hbase-daemon.sh stop rest
stop-hbase.sh
تجویز
اگر نصب به راحتی انجام شود ، باید URL های زیر وجود داشته باشد:
- کارت Hadoop / کاهش مدیریت:
http://localhost:50030 - مرورگر سیستم فایل Hadoop:
http://localhost:50070 - کارهای ردیابی Hadoop:
http://localhost:50060 - رنگ:
http://localhost:8088



