walter的hadoop学习笔记四 配置hadoop的eclipse开发环境
Ubuntu?12.04环境中编译Hadoop-eclipse-plugin-1.0.4.jar包。
1、在Eclipse中选择File-->Import-->Existing Projects into Workspace导入已有项目,假设路径为:
$HADOOP_HOME/src/contrib/eclipse-plugin,其默认的项目名称是MapReduceTools。导入后因为找不到hadoop-core.jar包,所以项目上有红色感叹号,不用管它【后面lib包加入后会消失】
?
2、默认项目名称为MapReduceTools,然后在项目MapReduceTools中新建lib目录,先将hadoop下的hadoop-core-1.0.4.jar重命名为hadoop.core.jar,并把hadoop.core.jar、及其lib目录下的commons-cli-1.2.jar、commons-lang-2.4.jar、commons-configuration-1.6.jar、jackson-mapper-asl-1.8.8.jar、jackson-core-asl-1.8.8.jar、commons-httpclient-3.0.1.jar拷贝到该目录。
?
3、将$HADOOP_HOME/src/contrib/build-contrib.xml(也就是与eclipse-plugin包在同一级目录)拷贝到eclipse项目目录中,并修改build-contrib.xml,将属性hadoop.root,eclipse.home换为本机电脑上的存放目录。并修改当前使用的hadoop版本号。eg:
?
? <property name="hadoop.root" location="/home/hadoop/Downloads/hadoop-1.0.4"/>
? <property name="eclipse.home" location="/home/hadoop/Downloads/eclipse" />
? <property name="version" value="1.0.4"/>
?
4、修改build.xml
? <target name="jar" depends="compile" unless="skip.contrib">
? ? <mkdir dir="${build.dir}/lib"/>
? ? <copy file="${hadoop.root}/hadoop-core-${version}.jar" tofile="${build.dir}/lib/hadoop-core.jar" verbose="true"/>
? ? <copy file="${hadoop.root}/lib/commons-cli-1.2.jar"? todir="${build.dir}/lib" verbose="true"/>
? ? <copy file="${hadoop.root}/lib/commons-lang-2.4.jar"? todir="${build.dir}/lib" verbose="true"/>
? ? <copy file="${hadoop.root}/lib/commons-configuration-1.6.jar"? todir="${build.dir}/lib" verbose="true"/>
? ? <copy file="${hadoop.root}/lib/jackson-mapper-asl-1.8.8.jar"? todir="${build.dir}/lib" verbose="true"/>
? ? <copy file="${hadoop.root}/lib/jackson-core-asl-1.8.8.jar"? todir="${build.dir}/lib" verbose="true"/>
? ? <copy file="${hadoop.root}/lib/commons-httpclient-3.0.1.jar"? todir="${build.dir}/lib" verbose="true"/>
? ? <jar
? ? ? jarfile="${build.dir}/hadoop-${name}-${version}.jar"
? ? ? manifest="${root}/META-INF/MANIFEST.MF">
? ? ? <fileset dir="${build.dir}" includes="classes/ lib/"/>
? ? ? <fileset dir="${root}" includes="resources/ plugin.xml"/>
? ? </jar>
? </target>
?
5、修改META-INF/MANIFEST.MF文件,添加lib目录下的jar包
? ? Bundle-ClassPath: classes/,
? ? ? ? lib/hadoop-core.jar,
? ? ? ? lib/commons-cli-1.2.jar,
? ? ? ? lib/commons-httpclient-3.0.1.jar,
? ? ? ? lib/jackson-core-asl-1.8.8.jar,
? ? ? ? lib/jackson-mapper-asl-1.8.8.jar,
? ? ? ? lib/commons-configuration-1.6.jar,
? ? ? ? lib/commons-lang-2.4.jar
?
6、右键选择项目-->Export,类型选择JAR file,把plugin.xml文件、classes目录、lib目录和resources目录选上,选择导出的jar目录,【导出时注意,要选择using exsiting manifest from workspace (也就是要选择刚配置上一步配置那个文件),而不要选择新创建manifest文件】,即可导出hadoop-eclipse-plugin-1.0.4.jar文件。此处我在导出时,hadoop-eclipse-plugin-1.0.4.jar中编译好的类文件并没有包含在classes目录中【其中并没有classes目录】,所以先创建一个classes目录,将已编译好的类文件剪切进classes目录。
?
6、经过以上几步,生成的hadoop-eclipse-plugin-1.0.4.jar包便可以使用了。再把该文件放到eclipse/plugin目录下面,重启eclipse。
注:其它版本的编译办法也可以通过以上步骤实现。
以上转载自http://www.linuxidc.com/Linux/2013-01/77921.htm
?
按照步骤做了没有成功,不知道是哪里错了,所以偷懒了,直接下载编译好的。可以从附件中下载编译好的插件。
?
?
?
hadoop-eclipse-plugin-1.0.4.jar (5.4 MB) 下载次数: 0Ubuntu 12.04单机版环境中搭建hadoop详细教程,在Ubuntu下创建hadoop用户组和用,创建hadoop用户。
如何解决Ubuntu Eclipse代码浮层黑色背景问题??今天终于知道怎么修改了。想想那可恶的黑色背景加黑色文字,简直想... 我知道这不怪Eclipse,也不能怪Ubuntu,貌似到头来只能怪自己没有找对方法。
在mac os上安装hadoop的文章不多,本文安装环境的操作系统是 MAC OS X 10.7 Lion,共分7步,注意第三个配置在OS X上最好进行配置,否则会报错“Unable to load realm info from SCDynamicStore”。
Nutch采用一个MR对爬取下来的文档进行清洗和封装成一个action列表。Nutch会将封装好的数据采用基于http的POST的方法发送一个请求数据包给solr的服务器,solr.commit();这个方法在前面一篇文章中解释有些偏差,solr的整个事务都是在solr服务器端的,这跟以前的的事务有所
SAP特别设立了一个“大数据”合作伙伴理事会。该理事会致力于进行合作创新,研发基于SAP实时数据平台和Hadoop的新产品解决方案,探索新应用和架构
【聚焦搜索,数智采购】2021第一届百度爱采购数智大会即将于5月28日在上海盛大开启!
本次大会上,紫晶存储董事、总经理钟国裕作为公司代表,与中国—东盟信息港签署合作协议
XEUS统一存储已成功承载宣武医院PACS系统近5年的历史数据迁移,为支持各业务科室蓬勃扩张的数据增量和访问、调用乃至分析需求奠定了坚实基础。
大兆科技全方面展示大兆科技在医疗信息化建设中数据存储系统方面取得的成就。
双方相信,通过本次合作,能够使双方进一步提升技术实力、提升产品品质及服务质量,为客户创造更大价值。