hadoop-common (vs) hadoop-core (vs) hadoop-client
Hadoop-common
- Hadoop 모듈을 지원하는 일반적으로 사용되는 유틸리티 및 라이브러리를 나타냅니다.
다른 Hadoop 모듈을 지원하는 공용 유틸리티 및 라이브러리 모음을 나타냄
Hadoop 분산 파일 시스템 (HDFS), Hadoop YARN 및 Hadoop MapReduce와 함께 Apache Hadoop Framework의 필수 부분 또는 모듈입니다.
Hadoop-core
- Hadoop-common과 동일
- 2009 년 7 월 https://hadoop.apache.org/에 의해 Hadoop-common으로 이름이 변경되었습니다 .
Hadoop-client
- Hadoop의 공통 구성 요소 (HDFS, MapReduce, YARN)와 통신하는 데 사용되는 클라이언트 라이브러리를 말하며,
- 예를 들어 로깅 및 코덱을 포함하되 이에 국한되지는 않는다.
- 일반적으로 YARN에 제출하거나 MR 작업을 실행하거나 HDFS의 파일에 액세스하는 응용 프로그램을 빌드하는 개발자는 Hadoop-client 라이브러리를 사용합니다.
- 클러스터에 데이터를로드하고 데이터를 처리하는 방법을 설명하는 Map Reduce 작업을 제출 한 다음 작업이 완료되면 작업 결과를 검색하거나 볼 수 있습니다.
hadoop-client가 사용되지는 않지만, 선언된 dependencies
ArtifactId | Version | Scope | Type | Optional | |
---|---|---|---|---|---|
org.apache.hadoop | hadoop-common | 2.4.1 | compile | jar | false |
org.apache.hadoop | hadoop-hdfs | 2.4.1 | compile | jar | false |
org.apache.hadoop | hadoop-mapreduce-client-app | 2.4.1 | compile | jar | false |
org.apache.hadoop | hadoop-yarn-api | 2.4.1 | compile | jar | false |
org.apache.hadoop | hadoop-mapreduce-client-core | 2.4.1 | compile | jar | false |
org.apache.hadoop | hadoop-mapreduce-client-jobclient | 2.4.1 | compile | jar | false |
org.apache.hadoop | hadoop-annotations | 2.4.1 | compile | jar | false |