terraform의 주요 커맨드는 아래와 같다.$ terraformUsage: terraform [global options] [args]The available commands for execution are listed below.The primary workflow commands are given first, followed byless common or more advanced commands.Main commands: init Prepare your working directory for other commands validate Check whether the configuration is valid plan Show changes requir..
테라폼 환경 구성테라폼 실행 환경을 구성하는 방법은 크게 세 가지로 나뉜다.미리 빌드된 바이너리(실행) 파일 다운로드테라폼 소스 코드를 다운로드 후 빌드OS 패키지 관리자 활용그 중, OS 패키지 관리자를 활용하여 테라폼 실행 환경 구성을 진행하겠다.테라폼 설치Terraform 사이트에 접속하여 Download Terraform을 통해 다운로드 페이지로 접속한다.그 중, 내가 사용하는 환경인 Ubuntu 환경에 맞는 패키지 매니저를 확인하여 설치한다.# wget -O- https://apt.releases.hashicorp.com/gpg | sudo gpg --dearmor -o /usr/share/keyrings/hashicorp-archive-keyring.gpgdeb [signed-by=/usr/s..
인프라 자동화의 성숙도 변화인프라 운영이 물리적인 자체 데이터 센터 같은 온프레미스 환경부터 클라우드 환경에 이르기까지 형태가 변화하면서, 운영하는 방식도 지속적으로 변화단계인프라 운영장점단점1매뉴얼물리적인 특성으로 즉시 확인 및 전달 가능변경 사항 반영이 어렵고 실행을 위한 별도 요소 필요2스크립트반복 작업을 줄이고 사용이 간단함순차적으로만 실행되고 시간이 지나면서 최종 상태가 일치하지 않음3가상머신미리 구성된 템플릿을 사용하여 관리와 확장이 용이함가상화 범위 외적인 요소는 자동화가 불가능하고 하이퍼바이저에 의존적4클라우드API를 통해 더 많은 인프라를 가상화하고 자동화 도구 제공클라우드 제공자마다 서로 상이한 API가 제공되어 각각을 위한 개별적 작업 필요5컨테이너상호 호환되는 컨테이너 런타임을 통해..
Kubernetes에 Ollama(LLM REST API)를 배포배경비즈니스와 실제 시나리오에서 서비스의 확장성과 고가용성은 매우 중요하다. Kubernetes는 이러한 작업을 조율하는 도구로 각광받고 있다. 여러 모델을 선택할 수 있는 LLM을 REST API로 배포하고 이를 확장할 수 있다면 어떨까? 하는 생각에 시도해보았다.환경Firebat AK2 PlusCPU : Intel N100RAM : 16GBstorage : 512GBOS : Rocky Linux 9배포namespaceollama_ns.yamlapiVersion: v1kind: Namespacemetadata: name: ollama$ kubectl apply -f ollama_ns.yamldeploymentollama_deploy.ya..