반응형

파이프라인 3

프로젝트30. Airflow? 뭔가 내 서비스에 잘 맞을 것 같은데?

비슷한 차트 검색기 비슷한 차트 검색기전 종목의 최근 10년간 모든 차트를 탐색합니다. 내 종목의 차트는 과연 상승하는 차트일까요?www.similarchart.com   서비스는 완성했지만..저는 '비슷한 차트 검색기 - 주가 예측' 서비스를 개발하고 운영하고 있습니다. 서비스는 현재 원활하게 돌아가고 있지만, 비용 절감과 유지보수성 향상을 위해 더 나은 기술이나 아키텍처가 없을지 계속 고민 중입니다. 그러던 중, 데이터 엔지니어링과 관련된 도구들을 탐구하면서 Apache Airflow라는 도구를 알게 되었습니다. Airflow는 배치 작업 및 데이터 파이프라인 자동화에 최적화된 도구라고 하여 제 서비스에도 적합할 것 같았습니다. 현재 주기적으로 배치 작업을 수행하는 구조이기 때문에 이를 좀 더 효율적..

프로젝트 2024.09.12

프로젝트 - 5. 데이터 파이프라인, 데이터베이스 구조 정리

제 프로젝트는 사용자가 특정 차트를 고르면, 코스피 코스닥 전 종목의 과거(10년) 차트들을 모두 탐색하여 가장 유사한 차트 10개 정도를 골라 사용자에게 보여주는 것이 목표입니다. https://www.similarchart.com/ 비슷한 차트 검색기전 종목의 최근 10년간 모든 차트를 탐색합니다. 내 종목의 차트는 과연 상승하는 차트일까요?www.similarchart.com 모든 것을 자동화해 보자 데이터 흐름  1. 종목 리스트 업데이트맨 처음에는 코스피와 코스닥(미국은 NYSE와 NASDAQ)의 최신 종목 리스트를 불러와 기존 데이터베이스에 있는 종목 리스트와 비교하고 달라진 부분이 있으면 업데이트합니다.code : 종목코드name : 종목명ranking : 시가총액 순위valid : 해당 종..

프로젝트 2024.02.17

웹 아키텍처7 - 데이터 파이프라인(나는 데이터 파이프라인을 사용하는 걸까?)

제 프로젝트는 사용자가 특정 차트를 고르면, 코스피 코스닥 전 종목의 과거(5년) 차트들을 모두 탐색하여 가장 유사한 차트 10개 정도를 골라 사용자에게 보여주는 것이 목표입니다. 비슷한 차트 검색기 similar chart finder내 종목의 차트는 상승하는 차트일까요?3.35.36.208  웹 아키텍처에서의 데이터 파이프라인공부하기 전인 지금, 데이터 파이프라인이라고 하면 그냥 데이터를 처리하는 과정이라고 알고 있습니다. 데이터 파이프라인만 특히 신경 써서 알아보거나 조사해 볼 생각은 없었습니다. 제 프로젝트는 파이썬 라이브러리로 주가 데이터를 수집하고 정제하여 요청에 필요한 데이터를 준비하는 도커 컨테이너가 있는데, 이 부분이 데이터 파이프라인과 연관이 있을 것 같긴 하네요. 한번 공부해 보겠습니..

웹 아키텍쳐 2024.02.17
반응형