DBILITY

ASA항공운항 기록에서 년/월별 지연도착 통계를 정렬 후 SequenceFile로 저장하고, 읽는 걸 해봄. package com.dbility.hadoop.execise; import java.io.BufferedInputStream; import java.io.BufferedReader; import java.io.DataInput; import java.io.DataOutput; import java.io.IOException; import java.io.InputStream; import java.io.StringWriter; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.conf.Configured; import or..

리눅스 완전 분산 모드에서 테스트되었으며, 정상적인 방법은 아니지만,윈도우환경 eclipse상에선 분산 환경이 아니니 DistributedCache부분을 주석처리, codec을 DefaultCodec으로 변경하고, 테스트하였다. package com.dbility.hadoop.execise; import java.net.URI; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.conf.Configured; import org.apache.hadoop.filecache.DistributedCache; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.IntWritable..

첨부는 혹시 모를 원본사이트의 자료가 삭제될 것에 대비해 탑재하였습니다. http://www.ics.uci.edu/~shantas/Install_Hadoop-2.6.0_on_Windows10.pdf

2번째 실습에서 보였던 결과 저장 파일의 맨 앞줄은 PrintWriter로 write하니 이상한 문자가 사라졌다. 윈도 환경 eclipse에서 실행하였다. 리눅스 환경의 완전 분산 모드에선 Codec을 GzipCodec으로 변경했고, Configuration property 설정 부분을 주석처리 후 테스트했다. hadoop3이 나오는 마당에 hadoop2환경까진 공부하고. 이후엔 SQL on Hadoop인 tajo까지 사용 가능해야 한다. 그때쯤엔 spring+mybatis환경에서 tajo jdbc driver를 통해 RIA UI에 hdfs 데이터를 리스트업 하는 것까지 해보고 싶다. 4.0.0 com.dbility.hadoop execise 1.0.0 1.7 UTF-8 hadoop hadoop big-..

정규화란 1970년 E.F CODE박사에 의해 제안(1NF). 현실 세계에서 발생하는 데이터를 수학적인 방법으로 구조화시켜 체계적으로 관리할 수 있게 한다. 위키참조정규화 필요성 가. 엔티티를 구성하는 속성간의 중복을 제거하여 데이터베이스를 최적화 나. 속성간의 함수적 종속성에 의해 발생하는 이상현상을 제거 이상현상 내용 입력이상 데이터 입력 시 필요없는 속성까지 입력해야 하는 현상 수정이상 데이터 수정 시 원하지 않는 데이터까지 수정되는 현상 삭제이상 데이터 삭제 시 필요한 데이터까지 삭제되는 현상, 수정에 의해 삭제처리하는 등 정규화 종류 정규화 종류 내용 함수적종속성 1차 정규화 모든 속성은 원자값을 가져야 한다.복수의 속성값을 갖는 속성을 엔티티로 분리.이름속성제외 2차 정규화 주식별자에 종속적이..