`
cloudtech
  • 浏览: 4616795 次
  • 性别: Icon_minigender_1
  • 来自: 武汉
文章分类
社区版块
存档分类
最新评论

远程调试Hadoop

 
阅读更多

在调研JobTracker等异常问题时经常需要远程debug以实现单步跟踪。相对于打印日志,远程调试更方面更快捷,信息也更全面。这里列出远程调试的基本步骤。

1、配置jvm选项启用远程debug

Hadoop的所有deamon启动都是bin/hadoop脚本实现的,该脚本最后一行会执行java命令来启动JVM进程。因此要启用远程debug,只需要修改该脚本最后一行即可。

修改前最后一行如下:

exec "$JAVA" $HADOOP_OPTS -classpath "$CLASSPATH" $CLASS "$@"

修改之后最后一行如下:

exec "$JAVA" -Xdebug -Xrunjdwp:transport=dt_socket,address=50010,server=y,suspend=n $HADOOP_OPTS -classpath "$CLASSPATH" $CLASS "$@"

这里新增的jvm参数为:

-Xdebug -Xrunjdwp:transport=dt_socket,address=50010,server=y,suspend=n

这些参数的含义是在端口50070启动一个server socket并通过Java Debug Wire Protocol (jdwp)传递调试信息。suspend=n表示客户端(eclipse)没有连上时不需要挂起,即没有开始调试时该进程照常运行。

需要注意的是这里的端口号一定要是空闲的且对外开放的。通常生产机器只开通了少量端口。


2、配置eclipse来远程调试

a、启动eclipse

b、点击菜单的 Go to Run -> Debug Configurations


c、在配置界面上找到Remote Java Application然后右键新建一个


d、配置远程应用的链接信息

这里主要是填好主机名及端口号。


f、最后一步点击 Apply保持配置然后点击Debug即可开始远程调试了


注意的是调试要选用Debug perspective微笑


分享到:
评论

相关推荐

    Eclipse中远程调试Hadoop必备资料

    Eclipse中远程调试Hadoop必备资料:hadoop-eclipse-plugin-1.1.1和hadoop-core-1.0.2-modified;已经在eclipse-jee-juno-SR1-win32-x86_64和hadoop1.1.1 下测试过。

    hadoop2.6(x64)Win7上远程调试hadoop 集群

    hadoop2.6(x64)Win7上远程调试hadoop 集群

    eclipse4.5远程调试hadoop2.7.4依赖包

    eclipse远程调试出现Exception in thread “main” java.lang.UnsatisfiedLinkError,eclipse4.5远程调试hadoop2.7.4依赖包 ,方法 将匹配的hadoop.dll、winutils.exe、libwinutils.lib拷贝到C:\Windows\System32 详情...

    eclipse 64位 远程调试hadoop2.5

    eclipse远程调试hadoop,报Could not locate executable null\bin\winutils.exe ,将winutils.exe放入到hadoop的bin目录下,报UnsatisfiedLinkError错,将 hadoop.dll放入C:\Windows\System32下

    eclipse/intellij idea 远程调试hadoop 2.6.0

    主要介绍了eclipse/intellij idea 远程调试hadoop 2.6.0的相关资料,需要的朋友可以参考下

    hadoop-core-1.2.0解决eclipse Hadoop Failed to set permissions of path错误

    eclipse远程调试hadoop时 报出eclipse Hadoop Failed to set permissions of path错误 修改hadoop core包中FileUtil java文件 里面有checkReturnValue方法 将代码throw new IOException "Failed to set ...

    hadoop-core-1.1.1.jar

    针对windows下eclipse远程调试hadoop的权限问题而重新编译的hadoop-core-1.1.1.jar文件,已经测试通过。 原错误提示为:12/04/24 15:32:44 WARN util.NativeCodeLoader: Unable to load native-hadoop library for ...

    Windows下Eclispe远程开发Mapreduce程序

    Windows下Eclispe远程开发Mapreduce程序

    hadoop-core-1.2.1.jar

    解决windows下远程调试hadoop权限问题( ERROR security.UserGroupInformation: PriviledgedActionException as:Administrator cause:java.io.IOException: Failed to set permissions of path:)重新编译了hadoop-...

    hadoop-common-2.2.0-bin_32bit_&_64bit

    windows 下远程调试hadoop,运行报空指针,需要导入hadoop.dll winutils.exe两个依赖到hadoop安装目录的bin中

    winutils.exe/hadoop.dll下载,IDE调试hadoop程序。

    windows远程执行Linux服务器上的hadoop集群,本地调试所需要的hadoop.dll、winutils.exe包,让你的开发起飞。

    Hadoop环境搭建 附件.rar

    在Window 7环境下,配置远程调试Hadoop集群的开发环境必须的文件,经本人测试,可成功链接,并附上测试代码

    RedHatlinux下安装hadoop

    本文档主要讲述的是RedHat linux下安装hadoop 0.20.2, 并在windows下远程连接此hadoop,开发调试;感兴趣的朋友可以过来看看。 Hadoop是一个由Apache基金会所开发的分布式系统基础架构。  资源太大,传百度网盘了,...

    hadoop2.9.2对应的hadoop.dll,winutils.exe

    解决由一个HADOOP_HOME and hadoop.home.dir are unset报错引起的window环境连接调试远程hadoop的一系列问题(附使用说明)。亲测2.9.2/2.9.1均可用

    hadoop-eclipse-plugin-2.8.2.jar

    hadoop-eclipse-plugin-2.8.2.jar hadoop eclipse环境开发调试所用

    hadoop-eclipse-plugin2.7.2-2.7.3-2.5.1.zip

    hadoop-eclipse-plugin-2.7.2.jar,hadoop远程调试eclipse插件。

    hadoop_windows_64.zip

    Hadoop2.9.2-Window相关插件,适用于64位Windows系统,包含winutils.exe,hadoop.dll等,解决由一个HADOOP_HOME and hadoop.home.dir are unset报错引起的window环境连接调试远程hadoop的一系列问题

    Hadoop权威指南 第二版(中文版)

     使用远程调试器  作业调优  分析任务  MapReduce的工作流  将问题分解成MapReduce作业  运行独立的作业 第6章 MapReduce的工作机制  剖析MapReduce作业运行机制  作业的提交  作业的初始化  任务的分配 ...

    Hadoop权威指南(中文版)2015上传.rar

    使用远程调试器 作业调优 分析任务 MapReduce的工作流 将问题分解成MapReduce作业 运行独立的作业 第6章 MapReduce的工作机制 剖析MapReduce作业运行机制 作业的提交 作业的初始化 任务的分配 任务的执行 进度和状态...

    MR_online_eclipse:hadoop WordCount 演示

    Maven在Eclipse中远程调试hadoop2.6.0项目 1.系统环境 调试:Win7,64bit Cluster: Linux, Centos 2.创建hadoop项目命令 mvn archetype:generate -DarchetypeGroupId=org.apache.maven.archetypes -DgroupId=org....

Global site tag (gtag.js) - Google Analytics