[Kubernetes] Amazon EMR on EKS 운영을 위한 기본 지식
이 게시글은 학습을 위해 정리한 내용이므로 잘못된 내용이 있을 수 있습니다. 잘못된 정보가 있다면 댓글로 남겨주세요. 수정하겠습니다. 용어 정리스파크 애플리케이션 : 컴파일된 JAR나 라이브러리 파일을 의미. submit하는 시점에 로컬 머신에서 코드가 실행되어 클러스터 드라이버 노드에 요청함드라이버 프로세스 : SparkContext를 생성하고, 자신이...
View Article[Kubernetes] Amazon EKS를 사용하는 사례 정리
EKS + NLB + Istio카카오 페이 사례기존에 Gateway 역할로 nginx를 사용하다가 istio의 Gateway를 사용하기로 결정 트래픽이 증가할 경우 nginx 서버를 증설해야하고, 관리 부담이 있었음istio의 경우 envoy가 트래픽 처리를 하고, 유연하게 확장될 수 있기 때문에 운영 부담이 줄어듦카카오페이에서 3년간 istio 운영 경험이...
View Article[Kubernetes] Airflow on EKS의 DAG 파일 관리
Airflow 사용 준비Airflow on EKS를 사용하기 위해 Helm을 사용하여 Kubernetes 클러스터에 Arflow를 배포합니다. install 명령을 실행하기 전에 먼저 Kubernetes 네임스페이스를 생성한 후 필요한 파일들을 만들어보겠습니다.kubectl create ns airflow Airflow에 사용되는 DAG 파일들은 Git,...
View Article[Ansible 101 Study] Ansible Playbook 모듈 활용해보기 - 기초
2024년 첫 스터디이면서 믿고 참여하는 가시다님의 Ansible 스터디가 시작됐다. 1주차라서 기본 이론과 간단한 실습을 진행했고, 몇가지 도전 과제들을 기록해보려고 한다. 먼저 Ansible을 사용하기 위해서는 대상 서버들에 SSH로 접속이 가능해야하고 Python 설치가 되어 있어야 한다. 이 대상 서버들은 Inventory라는 이름으로 사전에...
View Article[Ansible] Role 기초
Role정의 : 플레이북 내용을 기능 단위로 나누어 공통 부품으로 관리/재사용하기 위한 구조롤을 사용하면 사용자들이 잘 만들어놓은 Playbook의 조합을 가져다가 활용할 수 있음앤서블 갤럭시를 통해 템플릿을 공유하고 다운받을 수 있음이미 많은 사용자가 사용 중이고, 보안적으로 검증된 Playbook들을 파라미터 변경만으로 손쉽게 가져다 사용할 수 있기...
View Article[리뷰] Go 언어를 활용한 네트워크 프로그래밍
Go 언어를 3년간 사용해왔지만 아직도 익숙하게 잘 다루고 있는지 의문이 들 때가 많았고, 네트워크는 대학교 때부터 공부 했었지만 아직도 어렵게만 느껴졌다. 게다가 클라우드를 사용하게 되면서 네트워크의 중요성이 더 커지게 되었고, 운영 중 문제가 발생하는 대부분이 네트워크에서 발생했었다. 그럴 때마다 트러블슈팅에 많은 시간을 할애하게 되었기 때문에 네트워크는...
View Article[리뷰] 팀장부터 CEO까지 알아야 할 기업 정보보안 가이드
한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다. 팀장부터 CEO까지 알아야 할 기업 정보보안 가이드 지금껏 서비스를 개발할 때 보안은 거의 제일 마지막이 생각을 해왔던 것 같다. 이 전 프로젝트에서도 개발이 완료된 이 후에 사내 보안팀과 보안 검수를 진행했었는데 상당히 애를 먹었던 경험이 있다. 근 1년간을 보안팀과...
View Article[Kubernetes] Cross Account에 IRSA를 적용하기
이 게시글은 Database Operator In Kubernetes study (=DOIK) 2기에서 스터디한 내용 중 ExternalDNS에 대한 내용을 공부하며 기록한 내용입니다. External DNS란?ExternalDNS synchronizes exposed Kubernetes Services and Ingresses with DNS...
View Article[Kubernetes] 헷갈렸던 StatefulSet 정리
이 게시글은 Database Operator In Kubernetes study (=DOIK) 2기에서 스터디한 내용 중 Database Operator를 위해 필수적으로 필요한 StatefulSet에 대한 내용을 공부하며 기록한 내용입니다.StatefulSet은?StatefulSet은 Pod의 순서와 고유성에 대해 보장각 Pod에 영구적인 식별자인 고정...
View Article[Kubernetes] Amazon EKS 운영 시 IP가 부족하다면?
ChallengeAmazon EKS 기반으로 서비스를 운영하다보면 Pod 수가 점점 늘어나면서 최초에 설계한 IP Range를 초과하는 경우가 있고, 마이크로서비스 기반 아키텍처가 인기를 얻으면서 더욱 빈번하게 발생합니다. 이 경우 서브넷의 IP 크기는 조정할 수 없기 때문에 새로운 서브넷을 생성하여 노드를 이전해야하고, VPC의 IP가 부족한 경우에는...
View Article[Kubernetes] Amazon EMR on EKS 운영을 위한 기본 지식
이 게시글은 학습을 위해 정리한 내용이므로 잘못된 내용이 있을 수 있습니다. 잘못된 정보가 있다면 댓글로 남겨주세요. 수정하겠습니다. 용어 정리스파크 애플리케이션 : 컴파일된 JAR나 라이브러리 파일을 의미. submit하는 시점에 로컬 머신에서 코드가 실행되어 클러스터 드라이버 노드에 요청함드라이버 프로세스 : SparkContext를 생성하고, 자신이...
View Article[Kubernetes] Amazon EKS를 사용하는 사례 정리
EKS + NLB + Istio카카오 페이 사례기존에 Gateway 역할로 nginx를 사용하다가 istio의 Gateway를 사용하기로 결정 트래픽이 증가할 경우 nginx 서버를 증설해야하고, 관리 부담이 있었음istio의 경우 envoy가 트래픽 처리를 하고, 유연하게 확장될 수 있기 때문에 운영 부담이 줄어듦카카오페이에서 3년간 istio 운영 경험이...
View Article[Kubernetes] Airflow on EKS의 DAG 파일 관리
Airflow 사용 준비Airflow on EKS를 사용하기 위해 Helm을 사용하여 Kubernetes 클러스터에 Arflow를 배포합니다. install 명령을 실행하기 전에 먼저 Kubernetes 네임스페이스를 생성한 후 필요한 파일들을 만들어보겠습니다.kubectl create ns airflow Airflow에 사용되는 DAG 파일들은 Git,...
View Article[Ansible 101 Study] Ansible Playbook 모듈 활용해보기 - 기초
2024년 첫 스터디이면서 믿고 참여하는 가시다님의 Ansible 스터디가 시작됐다. 1주차라서 기본 이론과 간단한 실습을 진행했고, 몇가지 도전 과제들을 기록해보려고 한다. 먼저 Ansible을 사용하기 위해서는 대상 서버들에 SSH로 접속이 가능해야하고 Python 설치가 되어 있어야 한다. 이 대상 서버들은 Inventory라는 이름으로 사전에...
View Article[Ansible] Role 기초
Role정의 : 플레이북 내용을 기능 단위로 나누어 공통 부품으로 관리/재사용하기 위한 구조롤을 사용하면 사용자들이 잘 만들어놓은 Playbook의 조합을 가져다가 활용할 수 있음앤서블 갤럭시를 통해 템플릿을 공유하고 다운받을 수 있음이미 많은 사용자가 사용 중이고, 보안적으로 검증된 Playbook들을 파라미터 변경만으로 손쉽게 가져다 사용할 수 있기...
View Article[리뷰] Go 언어를 활용한 네트워크 프로그래밍
Go 언어를 3년간 사용해왔지만 아직도 익숙하게 잘 다루고 있는지 의문이 들 때가 많았고, 네트워크는 대학교 때부터 공부 했었지만 아직도 어렵게만 느껴졌다. 게다가 클라우드를 사용하게 되면서 네트워크의 중요성이 더 커지게 되었고, 운영 중 문제가 발생하는 대부분이 네트워크에서 발생했었다. 그럴 때마다 트러블슈팅에 많은 시간을 할애하게 되었기 때문에 네트워크는...
View Article[리뷰] 팀장부터 CEO까지 알아야 할 기업 정보보안 가이드
한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다. 팀장부터 CEO까지 알아야 할 기업 정보보안 가이드 지금껏 서비스를 개발할 때 보안은 거의 제일 마지막이 생각을 해왔던 것 같다. 이 전 프로젝트에서도 개발이 완료된 이 후에 사내 보안팀과 보안 검수를 진행했었는데 상당히 애를 먹었던 경험이 있다. 근 1년간을 보안팀과...
View Article[Kubernetes] Cross Account에 IRSA를 적용하기
이 게시글은 Database Operator In Kubernetes study (=DOIK) 2기에서 스터디한 내용 중 ExternalDNS에 대한 내용을 공부하며 기록한 내용입니다. External DNS란?ExternalDNS synchronizes exposed Kubernetes Services and Ingresses with DNS...
View Article[Kubernetes] 헷갈렸던 StatefulSet 정리
이 게시글은 Database Operator In Kubernetes study (=DOIK) 2기에서 스터디한 내용 중 Database Operator를 위해 필수적으로 필요한 StatefulSet에 대한 내용을 공부하며 기록한 내용입니다.StatefulSet은?StatefulSet은 Pod의 순서와 고유성에 대해 보장각 Pod에 영구적인 식별자인 고정...
View Article[Kubernetes] Amazon EKS 운영 시 IP가 부족하다면?
ChallengeAmazon EKS 기반으로 서비스를 운영하다보면 Pod 수가 점점 늘어나면서 최초에 설계한 IP Range를 초과하는 경우가 있고, 마이크로서비스 기반 아키텍처가 인기를 얻으면서 더욱 빈번하게 발생합니다. 이 경우 서브넷의 IP 크기는 조정할 수 없기 때문에 새로운 서브넷을 생성하여 노드를 이전해야하고, VPC의 IP가 부족한 경우에는...
View Article