본문 바로가기

전체 글

(113)
[AWS Lambda] ML 모델 학습 Lambda 함수 작성하기 Lambda 함수 생성간단한 Lambda 함수 테스트간단한 함수 작성 후 Deploy테스트 이벤트 생성테스트결과값 3이 잘 출력된 걸 확인할 수 있다.API GatewayLambda 함수를 트리거 할 api gateway를 만들어준다.리소스 생성메서드 생성api 배포Lambda 함수에 api 게이트웨이가 붙은 걸 확인할 수 있다.Lambda에서 s3 접근하기https://heytech.tistory.com/414 AWS Lambda에서 AWS S3 파일 읽어오는 방법📚 목차 ✅ AWS 기본 세팅 1. S3 버킷 생성 2. IAM Role 생성 3. Lambda 함수 생성 4. Lambda 함수 작성 ✅ AWS 기본 세팅 본격적으로 튜토리얼을 시작하기에 앞서, AWS 회원가입 및 리전 변경과 같은 기본적..
[Docker] request returned Internal Server Error for API route and version 에러 해결 가끔씩 Docker가 잘되다가도이렇게 Server Error for API route and version 에러가 떳었다,,, 애써 무시하고 와이파이 오류라고 생각했지만 찾아보니나는 Macbook pro m2 를 사용하고 있었는데https://github.com/docker/for-mac/issues/6956 request returned Internal Server Error for API route and version 4.22.1 · Issue #6956 · docker/for-macDescription I installed the latest version of docker-desktop, and couldn't make the docker-cli connect to docker-server. H..
[Docker] max depth exceeded 에러 airflow 이미지의 max depth가 넘었다는 에러가 생겼다.docker image prune -a이 명령어를 통해 불필요한 이미지 레이어들을 삭제해준다.
[Airflow] Airflow와 S3, MySQL 연결 파이프라인공공데이터포털에서 날씨 데이터를 30분 간격으로 받아오기 위해 Airflow를 이용한 배치 처리를 하였다.내가 구현한 부분은 중기 날씨 데이터이다.Task 1 ) Airflow dag에서 30분 간격으로 중기 날씨 데이터 api를 호출하고, 날씨 데이터를 전처리하여 csv 파일로 저장하여 s3에 업로드한다.Task 2 ) s3에 업로드한 csv 파일을 받아와 mysql에 insert한다. 추후에 rds에 연결할 예정이다.Airflow 초기 설정내가 작성한 airflow 초기 설정 내용이다. Docker를 이용하였다.https://nymagicshop16.tistory.com/115 [Airflow] Docker compose로 Airflow 실행하기초기 설정airflow-docker 디렉터리 만..
[Airflow] Docker compose로 Airflow 실행하기 초기 설정airflow-docker 디렉터리 만들어주고(base) nayoungkim@nayoungkim airflow-docker % curl -LfO 'https://airflow.apache.org/docs/apache-airflow/2.9.0/docker-compose.yaml'(base) nayoungkim@nayoungkim airflow-docker % echo -e "AIRFLOW_UID=$(id -u)" > .env(base) nayoungkim@nayoungkim airflow-docker % docker compose up airflow-init(base) nayoungkim@nayoungkim airflow-docker % chmod +x airflow.sh(base) nayoung..
[FastAPI] FastAPI ML 모델 서빙 - 환경설정 가상환경 설정https://wikidocs.net/175214 1-03 FastAPI 개발 환경 준비하기이제 본격적으로 FastAPI를 이용한 웹 개발 환경을 준비해 보자. 그전에 여러분이 알아야 할 중요한 개념이 하나 있다. 바로 파이썬 가상 환경이다. 우리는 FastAPI를 파…wikidocs.net가상환경에 scikit-learn 다운로드visual c++ 설치가 필요하여 설치 완료windows cmd 에서 가상환경 진입하여 scikit-learn 다운로드위의 환경 세팅에 맞추어 campers 명령어로 가상환경 진입할 수 있게 세팅했음우리가 사용한 모델의 scikit learn 버전과 python 3.12 버전이 맞지 않아 가상환경을 python 3.11로 세팅하고 모두 재설치했다..헷갈렸던 부분)..
[SpringBoot] JpaRepository @Modifying, @Transactional public interface RecCampListRepository extends JpaRepository { @Query("SELECT rc FROM RecCampList rc WHERE rc.user.id = :userId") List getByUser(@Param("userId") String userId); @Query("SELECT rc FROM RecCampList rc WHERE rc.doNm = :doNm and rc.user.id = :userId") List getByDoNmAndUser(@Param("userId") String userId, @Param("doNm") String doNm); @Modifying @Transactional @Qu..
[AWS] SpringBoot 프로젝트 AWS CodeDeploy + S3 + Github Actions를 이용하여 CI/CD 구축, Docker + EC2 + RDS 로 배포하기 프로젝트 아키텍처1. EC2 서버 만들기참고한 글 : https://velog.io/@jonghyun3668/SpringBoot-%ED%94%84%EB%A1%9C%EC%A0%9D%ED%8A%B8-EC2-%EB%B0%B0%ED%8F%AC%ED%95%98%EA%B8%B0 SpringBoot 프로젝트 EC2 배포하기깃헙에 있는 프로젝트를 AWS EC2에 git clone을 통해 내려받아 jar 파일 빌드를 해보겠습니다.(EC2 인스턴스는 우분투로 진행합니다. 또한 따로 배포 시스템을 구축하지 않고 수동으로 배포하는것만velog.io 2. RDS 데이터베이스 생성Docker로 스프링부트 jar 파일과 mariadb를 이미지화 하여 EC2 서버에 배포 하려고 하였으나,java.lang.NullPointerExce..