hadoop-common (vs) hadoop-core (vs) hadoop-client

Hadoop-common

  • Hadoop 모듈을 지원하는 일반적으로 사용되는 유틸리티 및 라이브러리를 나타냅니다.
  • 다른 Hadoop 모듈을 지원하는 공용 유틸리티 및 라이브러리 모음을 나타냄

  • Hadoop 분산 파일 시스템 (HDFS), Hadoop YARN 및 Hadoop MapReduce와 함께 Apache Hadoop Framework의 필수 부분 또는 모듈입니다.

Hadoop-core

  • Hadoop-common과 동일
  • 2009 년 7 월 https://hadoop.apache.org/에 의해 Hadoop-common으로 이름이 변경되었습니다 .

Hadoop-client

  • Hadoop의 공통 구성 요소 (HDFS, MapReduce, YARN)와 통신하는 데 사용되는 클라이언트 라이브러리를 말하며,
    • 예를 들어 로깅 및 코덱을 포함하되 이에 국한되지는 않는다.
  • 일반적으로 YARN에 제출하거나 MR 작업을 실행하거나 HDFS의 파일에 액세스하는 응용 프로그램을 빌드하는 개발자는 Hadoop-client 라이브러리를 사용합니다.
  • 클러스터에 데이터를로드하고 데이터를 처리하는 방법을 설명하는 Map Reduce 작업을 제출 한 다음 작업이 완료되면 작업 결과를 검색하거나 볼 수 있습니다.

hadoop-client가 사용되지는 않지만, 선언된 dependencies

ArtifactId Version Scope Type Optional
org.apache.hadoop hadoop-common 2.4.1 compile jar false
org.apache.hadoop hadoop-hdfs 2.4.1 compile jar false
org.apache.hadoop hadoop-mapreduce-client-app 2.4.1 compile jar false
org.apache.hadoop hadoop-yarn-api 2.4.1 compile jar false
org.apache.hadoop hadoop-mapreduce-client-core 2.4.1 compile jar false
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.4.1 compile jar false
org.apache.hadoop hadoop-annotations 2.4.1 compile jar false

results matching ""

    No results matching ""