DATA ENGINEERING

데이터를 믿고 쓸 수 있는 상태로,
수집·검증·적재하고
서비스까지 전달합니다.

컴퓨터공학을 전공한 신입 데이터 엔지니어 지원자입니다. 뉴스 수집부터 Oracle 저장·API·OCI 배포까지 혼자 연결했고, 5인 팀에서는 조장으로 Airflow 데이터 파이프라인과 통합·배포를 맡았습니다. 데이터가 어디서 들어와 어디서 줄었는지를 기록으로 답할 수 있게 만드는 데 집중합니다.

01 · RELIABLE COLLECTION

흩어진 뉴스를 믿을 수 있는 트렌드 지표로

개인 프로젝트 IT-Tech Trend Analyzer
수집부터 저장·API·배포까지 혼자 연결했습니다.

SOLO PROJECT · IT-TECH TREND ANALYZER

수집 0건이 "없음"인지 "실패"인지 구분하기

네이버·다음·Google News 3개 채널의 IT 기사를 공통 형식으로 모읍니다. 실행마다 run_id와 상태(성공·빈 결과·부분 실패·실패)를 기록하고, 단계별 건수가 맞아떨어지는지 DB 제약으로 확인해 데이터가 어디서 줄었는지 숫자로 답할 수 있게 했습니다. 그 위에서 현재·직전 24시간의 고유 기사 수로 인기·급상승 지표를 계산합니다.

인기mentionCount = 현재 24시간 고유 기사 수

변화velocityScore = 현재 − 직전 기사 수

점수hotnessScore = mentionCount × 0.4 + velocityScore × 0.6

기사량 기반 휴리스틱입니다. 통계적으로 검증된 예측이나 의사결정 효과를 뜻하지 않습니다. 지표와 한계 보기

인기와 급상승 IT 키워드 대시보드 화면
키워드 순위에서 날짜별 흐름과 관련 기사로 이동하는 화면

02 · DATA COLLECTION & QUALITY

대여소 재고를 다음 단계에서 믿고 쓸 수 있도록

5주 · 5인 팀 프로젝트 따라가요 (DDARUNG FLOW)
저는 조장으로 데이터 파이프라인과 통합·배포를 맡았습니다.

따라가요 대여소 상세 화면의 예측 가능성과 현재 재고 비교
예측 확률을 현재 재고·거리·이동시간과 함께 확인하는 대여소 상세 화면

TEAM PROJECT · 따라가요

도착 시점의 대여 가능 여부를 비교하는 문제

현재 재고만으로는 사용자가 도착할 때 대여할 수 있을지 알 수 없습니다. 따릉이·날씨 API를 Airflow로 수집하고 Raw → Quality → Curated 단계로 나눠, 원본과 품질 통과 데이터를 구분했습니다.

  • 정상 관측인 0대와 누락·음수·파싱 오류를 구분
  • 재실행 중복 방지와 timeout·실패 경계 확인
  • OCI Object Storage 적재 시 manifest·lineage·checksum과 행 보존 확인

모델 개발은 Data/ML 담당 팀원의 역할입니다. 수집·품질과 제 기여 보기

03 · MY ROLE

직접 맡은 경계와
팀의 결과를 구분합니다

따라가요에서는 조장으로 API 수집과 데이터 품질 흐름, OCI Object Storage 전달·무결성 검증, Docker·OCI Staging 배포와 롤백 확인을 맡았습니다. 통합 담당으로 팀원 작업을 PR로 묶어 병합 PR 407건 중 366건을 올리고 관리했고, 테스트한 커밋과 배포한 커밋이 같은지 SHA로 확인했습니다.

Trend Analyzer는 개인 프로젝트로 수집·분석·백엔드/DB·화면·배포를 연결했습니다. 각 프로젝트 상세에서 구현 범위와 검증 한계를 함께 확인할 수 있습니다.

04 · SCREEN & FLOW

데이터가 화면에 도착하는 흐름

실제 화면과 파이프라인·서비스 구조를 공개 근거와 연결했습니다.

IT-Tech Trend Analyzer

뉴스 수집정규화·검증키워드 추출인기·증가 지표랭킹·근거 기사
화면과 흐름 보기

05 · VERIFICATION & LIMITS

검증 결과와 한계를 같이 읽습니다

테스트·배포·실행 근거를 실제 범위에 맞춰 설명합니다.

따라가요

DAG 통합 테스트 32개와 DAG 등록 검사를 확인했습니다. 서비스 배포·실행은 OCI Staging에서 검증했습니다.

Airflow는 로컬 수동 실행 단계이며 24시간 자동 운영이 아닙니다. Curated 66,467,477행·135 partitions는 팀 전체 검증치입니다.

Trend Analyzer

Spring Boot 70 · React 51 · Python 47 테스트와 production build가 통과했습니다(공개 검증 보고서, 2026-07-22). 자동 테스트 통과가 외부 서비스까지 포함한 전체 동작을 보장하지는 않습니다.

키워드 병합 추천은 실제 데이터에서 기준점(0.85)을 넘는 후보가 없어 0건이며, 기준 조정은 보류 중입니다. Discord 연결 검증도 남아 있습니다.

CORE SKILLS

기술보다 실제 사용 맥락을 먼저 설명합니다

Data Engineering

API·웹 원본을 수집해 보존하고, 품질을 통과한 데이터만 다음 단계로 전달합니다.

Python · SQL · Airflow · Pandas · PyArrow

따라가요 근거

Storage / DB

한 행의 의미를 정하고, 중복·잘못된 값을 DB 제약으로 막습니다.

Oracle · PostgreSQL · Flyway · OCI Object Storage

Trend Analyzer 근거

Backend / Data Product

수집·집계 결과를 API와 사용자가 확인하는 화면으로 연결합니다.

Java · Spring Boot · REST API · KoNLPy

Trend Analyzer 근거

Cloud / Delivery

테스트한 코드와 배포한 코드가 같은지 확인하며 배포합니다.

Docker · GitHub Actions · OCI · Linux · Git

따라가요 근거

RESUME / CONTACT

이력과 프로젝트 근거를 확인해 주세요

연락은 이메일 또는 공개 GitHub 프로필을 이용해 주세요.