a story

이번 포스트에서는 Amazon VPC Lattice for Amazon EKS라는 주제로 학습한 내용을 작성해 보겠습니다.먼저 쿠버네티스 환경의 네트워크 변화 과정을 살펴보고 기존 기술의 한계점을 바탕으로 Gateway API의 등장 배경을 알아보겠습니다.Amazon EKS에서는 Gateway API의 구현체로 Amazon VPC Lattice를 사용합니다. EKS에서 Amazon VPC Lattice를 활용해 앞서 설명한 복잡한 쿠버네티스 네트워크 환경의 한계점을 어떻게 극복하는지 살펴보겠습니다. 목차쿠버네티스 환경의 네트워크 변화Gateway APIAmazon VPC LatticeAmazon VPC Lattice - Simple Client to Server Communication 실습 1. 쿠버네..

이번 포스트에서는 AI/ML 워크로드를 EKS에서 사용하기 위해 GPU 리소스를 활용하는 방안을 살펴보겠습니다.또한 AWS에서 제공하는 Build GenAI & ML for Performance and Scale, using Amazon EKS, Amazon FSx and AWS Inferentia 워크샵을 따라 실습을 진행하였습니다.워크샵 주소: https://catalog.workshops.aws/genaifsxeks/en-US 목차AI 워크로드의 컨테이너 사용 여정EKS 워크샵 실습2.1 실습 환경 구성2.2 스토리지 구성2.3 생성형 AI Chat 애플리케이션 배포 1. AI 워크로드의 컨테이너 사용 여정전통적으로 ML 엔지니어들은 베어메탈 서버에 직접 GPU드라이버와 라이브러리를 설치하여 작업을..

이번 포스트에서는 EKS Upgrade를 실습을 통해서 알아보겠습니다. 본 실습은 EKS Workshop인 Amazon EKS Upgrades: Strategies and Best Practices 를 바탕으로 진행하였음을 알려드립니다.해당 워크샵 링크는 아래와 같습니다.https://catalog.us-east-1.prod.workshops.aws/workshops/693bdee4-bc31-41d5-841f-54e3e54f8f4a/en-US 목차EKS의 업그레이드와 전략실습 환경 개요In-place 클러스터 업그레이드3.1. 컨트롤 플레인 업그레이드 3.2. Addons 업그레이드3.3. 관리형 노드 그룹 업그레이드 3.4. Karpenter 노드 업그레이드3.5. Self-managed 노드 업그레이..

이번 포스트에서는 EKS의 Fargate에 대해서 살펴보겠습니다. EKS Fargate는 EKS의 노드 그룹을 사용하지 않고 컨테이너를 서버리스 컴퓨팅 엔진에 실행하는 방식입니다.먼저 EKS Fargate를 살펴보고, 이와 유사한 AKS의 Virtual Nodes를 통해 각 Managed Kubernetes Service에서 노드를 사용하지 않고 컨테이너를 실행하기 위한 구현 방식을 살펴보고, 실습을 통해 확인해보습니다. 목차EKS의 FargateAKS의 Virtual Nodes 1. EKS Fargate일반적으로 EKS에서는 노드 그룹을 생성하여 워커 노드를 사용할 수 있습니다. EKS의 컴퓨팅을 제공하는 옵션 중 노드인 EC2 인스턴스를 활용하지 않는 방식으로 EKS Fargate가 있습니다. 먼저 ..

이번 포스트에서는 EKS의 보안(Security)에 대해서 알아 보겠습니다. 물론 쿠버네티스의 보안에는 이미지 보안, 노드 보안과 같은 영역도 있지만, 여기서는 쿠버네티스의 인증(Authentication)/인가(Authorization)가 EKS에 적용된 방식과, 워크로드(파드)의 AWS의 리소스에 대한 보안 접근이라는 두 가지 주제를 살펴보겠습니다. 먼저 EKS의 인증/인가의 흐름을 kubeconfig를 바탕으로 이해해보고, 두번째로 워크로드(파드)에 AWS의 리소스에 접근 권한을 부여하기 위해 파드에 IAM을 할당하는 방식에 대해서 살펴보겠습니다. 목차Kubernetes의 인증/인가EKS의 인증/인가AKS의 인증/인가Kubernetes의 파드 권한EKS의 파드 권한 할당AKS의 파드 권한 할당 1...