오토 스케일링 (Auto Scaling)

오토 스케일링(Auto Scaling)을 사용하는 이유

---

오토 스케일링을 설명하기에 앞서, 오토 스케일링을 사용하는 이유에 대해 작성해 보겠다.

주된 이유는 자동화된 리소스 관리를 통해 클라우드 환경의 효율성과 비용 효과성을 극대화하기 위함이다. 예를 들어, 사용자 트래픽이 증가하거나 감소할 때 자동으로 컴퓨팅 리소스를 조정한다. 이를 통해 높은 트래픽 시 서버 과부하를 방지하고, 낮은 트래픽 시 불필요한 리소스 사용을 줄인다.

간단히 말해서, 오토 스케일링은 클라우드 리소스를 효과적으로 관리하여 비용을 절감하고, 서비스의 안정성과 성능을 보장하는 동시에 운영상의 부담을 줄여주는 핵심 기능이다.

 

클라우드 서버

---

클라우드 서버란 클라우드 컴퓨팅 환경에서 제공되는 가상화된 서버를 의미한다. 이 서버들은 인터넷을 통해 원격으로 액세스하고 사용할 수 있으며, 데이터 처리, 저장, 관리 등 다양한 컴퓨팅 작업을 수행한다. 클라우드 서버는 물리적인 하드웨어에 구애받지 않고 유연하게 확장 및 축소가 가능한 특징을 가진다.

💡클라우드 컴퓨팅
클라우드 컴퓨팅은 스토리지, 서버, 애플리케이션 등을 인터넷을 통해 제공하는 구축 모델이다. 보통 종량제 결제 방식으로 온디맨드 및 서비스형으로 제공된다. ‘클라우드’는 물리적 장소가 아니라 로컬 시스템과 프라이빗 데이터 센터를 주로 대체하는 IT 리소스 관리 방식이다. 사용자는 클라우드 컴퓨팅 모델에서 원격 공급자가 온라인으로 제공하는 가상 컴퓨팅, 네트워크, 스토리지 리소스에 액세스한다. 광범위한 컴퓨팅, 스토리지 및 기타 IT 인프라를 구매 및 유지 관리할 필요가 없으며 관련 장비를 관리할 전문 지식 및 기술을 갖춘 사내 인력이 없어도 클라우드 서비스 공급자가 대부분의 부담을 대신 처리한다.

 

온프레미스 서버

온프레미스 서버는 기업이나 조직의 물리적 위치에 직접 설치하고 운영하는 서버를 말한다. 이 서버들은 해당 조직의 전적인 관리와 통제 하에 있으며, 내부 네트워크를 통해 접근된다.

온프레미스 서버와 클라우드 서버의 주요 차이점은 다음과 같다.

 

1. 소유권과 관리

• 클라우드 서버: 제3자 서비스 제공업체가 소유 및 관리한다. 사용자는 서비스로서 서버를 임대하여 사용한다.
• 온프레미스 서버: 조직이 직접 서버를 소유하고 관리한다. 초기 구매 비용과 유지 보수 비용이 발생한다.

2. 접근성과 확장성

• 클라우드 서버: 인터넷을 통해 어디서든 접근 가능. 필요에 따라 리소스를 빠르게 확장하거나 축소할 수 있다.
• 온프레미스 서버: 물리적 위치 제약이 있으며, 확장을 위해선 추가 하드웨어 구매가 필요하다.

3. 보안

• 클라우드 서버: 서비스 제공업체가 보안을 관리하지만, 클라우드 환경의 공유 특성 때문에 보안 우려가 있을 수 있다.
• 온프레미스 서버: 전체적인 보안 통제가 가능하지만, 모든 보안 조치를 자체적으로 관리해야 한다.

4. 비용 구조

• 클라우드 서버: 주로 사용량 기반으로 비용을 지불(Pay-as-you-go)한다. 초기 투자 비용이 낮다.
• 온프레미스 서버: 초기 구매 및 설치 비용이 높으며, 유지보수 및 운영 비용도 고려해야 한다.

5. 유지보수와 관리

• 클라우드 서버: 서비스 제공업체가 서버 유지보수 및 업데이트를 담당한다.
• 온프레미스 서버: 조직 내부에서 모든 유지보수 및 업데이트를 관리해야 한다.

 

오토 스케일링

---

우리는 클라우드 컴퓨팅 환경이란, 인터넷을 통해 로컬 사용자에게 컴퓨팅 리소스(ex: 서버, CPU, 메모리)를 제공하는 것을 알았다. 오토 스케일링(Auto Scaling)은 애플리케이션의 부하(traffic/load)에 따라 자동으로 이러한 리소스들을 확장하거나 축소하는 기능이다. 클라우드 서버가 높은 유연성과 확장성을 제공하고, 오토 스케일링은 이러한 클라우드의 특성을 활용하여 실시간으로 리소스를 조정할 수 있다. 즉, 트래픽이 증가하면 자동으로 서버 용량을 늘리고, 트래픽이 감소하면 용량을 줄여 리소스를 효율적으로 관리하는 것이다. 

❓ 오토 스케일링이 온프레미스 환경에서 어려운 이유는 뭘까
오토 스케일링은 클라우드의 유연성, 확장성, 그리고 리소스의 즉시 사용 가능성 때문에 효과적으로 작동한다.
반면, 온프레미스 환경에서 오토 스케일링을 구현하는 것은 여러 어려움이 있다.
온프레미스 환경은 사용 가능한 리소스가 제한적이고 이를 신속하게 확장하거나 축소하는 것이 어렵다. 따라서 트래픽 급증 시 추가 리소스를 즉시 확보하는 것은 어렵고, 애초에 예상 최대 부하를 기준으로 리소스를 구매해야 한다. 

 

스케일링

오토 스케일링에서 말하는 스케일링이란 다음과 같다.

스케일링이란 컴퓨팅 리소스를 조정하여 시스템의 처리 능력을 적절하게 맞추는 과정이다. 이는 주로 클라우드 컴퓨팅 환경에서 사용되며, 부하(트래픽)의 변화에 따라 필요한 리소스를 증가시키거나 감소시키는 것을 의미한다. 이를 자동으로 해주는 것을 오토 스케일링이라고 하며, 스케일링은 크게 스케일업/다운과 스케일인/아웃으로 나뉜다.

1. 스케일업 (Scale-Up) vs 스케일다운 (Scale-Down)

• 스케일업(Scale-Up): 시스템의 성능을 향상시키기 위해 하드웨어의 용량을 증가시키는 것이다. 예를 들어, 서버에 더 많은 CPU, RAM, 저장 공간을 추가하는 것이 여기에 해당한다. 이는 "수직적 확장"이라고도 한다.
• 스케일다운(Sclae-Down): 부하가 감소했을 때 리소스를 줄이는 것이다. 예를 들어, 사용하지 않는 CPU나 메모리를 제거하여 시스템을 이전보다 작은 규모로 구성하는 것을 의미한다. 이는 비용 절감과 효율성 증가에 도움을 준다.

2. 스케일인 (Scale-In) vs 스케일아웃 (Scale-Out)

• 스케일인(Scale-In): 부하 감소에 대응하여 시스템의 리소스를 줄이는 것을 말한다. 특히 클라우드 환경에서는 사용 중인 서버의 수를 줄여 리소스를 감소시키는 것을 의미한다. 이것은 "수평적 축소"에 해당한다.
• 스케일아웃(Scale-Out): 시스템의 처리 능력을 증가시키기 위해 추가적인 서버나 노드를 시스템에 포함시키는 것이다. 이는 "수평적 확장"으로, 부하 증가에 대응하여 시스템의 용량을 확장하는 가장 일반적인 방법이다.

요약하자면, 스케일업/다운은 기존 시스템의 성능을 높이거나 낮추는 것이고, 스케일인/아웃은 시스템의 크기 자체를 조절하는 것이다. 이러한 스케일링 방식은 클라우드 컴퓨팅의 유연성과 비용 효율성을 극대화하는 데 큰 역할을 한다.

❓클라우드 환경에서 주로 사용되는 스케일링 방식은 뭘까
클라우드 환경에서는 주로 "스케일인/아웃" 방식이 많이 사용된다. 이유는 다음과 같다.

1. 유연성 및 확장성: 클라우드 환경은 자원을 빠르게 추가하고 제거할 수 있는 높은 유연성과 확장성을 제공한다. 스케일아웃을 통해 필요한 만큼의 서버를 추가하고, 필요 없을 때는 제거하여 비용을 최적화할 수 있다.
2. 비용 효과적: 스케일업은 종종 기존 서버의 성능을 향상시키는 것을 의미하는데, 이는 추가 하드웨어 구매나 더 비싼 리소스 사용을 의미할 수 있다. 반면, 스케일아웃은 더 많은 저렴한 서버를 사용함으로써 전체 비용을 절감할 수 있다.
3. 높은 가용성: 스케일아웃을 통해 여러 서버에 부하를 분산시키면 단일 장애 지점(single point of failure)의 위험을 줄일 수 있으며, 이는 전체 시스템의 가용성을 높인다.

*단일 장애 지점(Single Point of Failure, SPOF)이란 전체 시스템, 네트워크, 프로세스 또는 구성요소 중 하나가 실패할 경우 전체 시스템이나 서비스가 중단되거나 실패할 수 있는 부분을 말한다.

 

오토 스케일링 장점

1. 비용 효율성: 필요할 때만 추가 리소스를 사용하고, 사용하지 않을 때는 리소스를 축소함으로써 비용을 절약할 수 있다.

2. 성능 최적화: 사용량이 많은 시간에는 자동으로 리소스를 확장하여 성능을 유지하고, 사용량이 적을 때는 리소스를 축소하여 효율적으로 운영할 수 있다.

3. 가용성 및 신뢰성 향상: 트래픽 급증 시에도 자동으로 리소스를 확장함으로써 애플리케이션의 가용성을 보장하고, 시스템 다운타임을 최소화한다.

4. 자동화된 관리: 리소스 관리를 자동화하여 IT 팀의 수동 개입을 줄이고, 운영 효율성을 높일 수 있다.

 

오토 스케일링 동작 원리

 

오토 스케일링과 연관된 중요한 구성요소 중 하나는 "로드밸런서" 이다. 로드밸런서는 네트워크 트래픽이나 요청을 여러 서버 간에 분산시켜 부하를 균등하게 관리하는 역할을 한다. 오토 스케일링과 로드밸런서는 함께 작동하여 클라우드 환경에서의 애플리케이션 성능과 안정성을 최적화한다.

 

1. 성능 모니터링: 오토 스케일링 시스템은 애플리케이션의 성능을 지속적으로 모니터링한다. 이때 로드밸런서를 통해 들어오는 트래픽 양과 분포도 중요한 메트릭으로 활용된다.

2. 정책 설정: 사용자가 설정한 오토 스케일링 정책에 따라, 로드밸런서가 처리해야 할 트래픽의 양에 기반하여 서버의 수를 조정한다. 이 정책은 언제, 어떻게 리소스를 조정할지를 결정하는 규칙을 포함한다. 예를 들어, "CPU 사용률이 70%를 초과하면 서버를 추가한다" 또는 "트래픽이 일정 수준 이하로 떨어지면 서버를 줄인다"와 같은 규칙이 설정될 수 있다.

3. 트리거 및 조정: 트래픽이 증가하여 로드밸런서에 부하가 많이 걸리면, 오토 스케일링 시스템이 이를 감지하고 추가 리소스를 자동으로 배포한다.

4. 리소스 확장 및 축소(스케일 아웃/인): 트래픽이 급증하면 오토 스케일링 시스템은 스케일 아웃을 통해 서버를 추가하고, 이 서버들을 로드밸런서에 자동으로 등록하여 트래픽을 분산시킨다. 반대로 트래픽이 감소하면 스케일 인을 통해 서버의 수를 줄이고, 해당 서버들을 로드밸런서에서 제거한다.