[go: up one dir, main page]

KR20190020843A - 컨테이너를 관리 및 스케줄링하기 위한 시스템 - Google Patents

컨테이너를 관리 및 스케줄링하기 위한 시스템 Download PDF

Info

Publication number
KR20190020843A
KR20190020843A KR1020197005048A KR20197005048A KR20190020843A KR 20190020843 A KR20190020843 A KR 20190020843A KR 1020197005048 A KR1020197005048 A KR 1020197005048A KR 20197005048 A KR20197005048 A KR 20197005048A KR 20190020843 A KR20190020843 A KR 20190020843A
Authority
KR
South Korea
Prior art keywords
container
cluster
task
containers
instance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020197005048A
Other languages
English (en)
Other versions
KR102042988B1 (ko
Inventor
디팩 싱
안소니 조셉 수아레즈
윌리엄 앤드류 서스턴
애널루드 발라챈드라 아이탈
대니엘 로베르트 저데스미어
이우앤 스카이러 켐프
키랜 쿠마 메두리
무하마드 우머 애자드
Original Assignee
아마존 테크놀로지스, 인크.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 아마존 테크놀로지스, 인크. filed Critical 아마존 테크놀로지스, 인크.
Publication of KR20190020843A publication Critical patent/KR20190020843A/ko
Application granted granted Critical
Publication of KR102042988B1 publication Critical patent/KR102042988B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5055—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering software capabilities, i.e. software resources associated or available to the machine
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45595—Network integration; Enabling network access in virtual machine instances

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Stored Programmes (AREA)
  • Computer And Data Communications (AREA)
  • Debugging And Monitoring (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

하나 이상의 프로세서에 의해 클러스터에 등록된 컴퓨터 시스템 인스턴스 내에서 실행되도록 구성된 소프트웨어 컨테이너의 소프트웨어 이미지를 취득하는 컨테이너 서비스를 위한 시스템 및 방법에 관한 것이다. 컨테이너 서비스는, 태스크 정의에 따라 소프트웨어 이미지를 개시하기 위한 요청을 수신하도록 구성되고, 태스크 정의는 소프트웨어 컨테이너를 위한 자원들의 할당을 특정한다. 이어서, 컨테이너 서비스는, 배치 기법에 따라, 태스크 정의에 따라 소프트웨어 이미지를 개시하도록 클러스터에 등록된 컨테이너 인스턴스들의 세트의 서브세트를 결정할 수도 있다. 컨테이너 인스턴스들의 세트의 서브세트의 결정시, 컨테이너 서비스는, 소프트웨어 이미지를, 태스크 정의에 따라 컨테이너 인스턴스들의 세트의 하나 이상의 실행되는 소프트웨어 컨테이너로서 개시할 수도 있다.

Description

컨테이너를 관리 및 스케줄링하기 위한 시스템{SYSTEM FOR MANAGING AND SCHEDULING CONTAINERS}
관련 출원에 대한 상호 참조
본 출원은, "SYSTEM FOR MANAGING AND SCHEDULING CONTAINERS"라는 명칭으로 2014년 11월 11일자로 출원되어 공동 계류중인 미국 특허출원 제14/538,663호인 우선권을 주장하며, 그 전문의 내용은 본 명세서에 참고로 원용된다.
자체적 고유의 컴퓨팅 자원들을 유지하는 것과 관련된 비용과 오버헤드를 줄이려는 회사와 개인은, 자원 서비스 공급자에 의해 고객에게 제공되는, 다수의 가상 기계 인스턴스들과 원격 데이터 저장 장치에 걸친 원격 프로그램 실행과 같은 원격 컴퓨팅 서비스를 구매하는 것으로 전환하였다. 이러한 원격 컴퓨팅 서비스는, 종종 컴퓨팅 자원 서비스 제공자의 고객들의 다양한 컴퓨팅 요구를 충족시키도록 구성가능하고 확장 가능하다. 그러나, 고객이 다수의 가상 기계 인스턴스에서 실행되는 다양한 애플리케이션들을 관리하는 것이 어려울 수 있으며, 이러한 애플리케이션들은 다른 컴퓨팅 시스템들로 이식되지 못할 수도 있고 또는 자원들에 대한 증가된 요구를 충족시키도록 확장되지 못할 수도 있다.
본 발명의 목적은 컴퓨팅 자원 서비스 제공자의 고객을 위한 소프트웨어 컨테이너를 실행하기 위한 소프트웨어 컨테이너 인스턴스들의 클러스터들을 생성하기 위한 시스템 및 방법을 제공하는 것이다.
다음에 따르는 설명에서는, 다양한 실시예를 설명한다. 설명을 위해, 실시예를 완전히 이해하도록 특정 구성 및 세부 사항이 설명된다. 그러나, 실시예들이 특정 세부 사항 없이 실시될 수도 있음은 또한 통상의 기술자에게 명백할 것이다. 게다가, 공지된 특징부들은 설명된 실시예를 모호하게 하지 않도록 생략되거나 간략화될 수도 있다.
기술되고 제안된 기술들은, 컴퓨팅 자원 서비스 제공자의 고객을 위한 소프트웨어 컨테이너를 실행하기 위한 소프트웨어 컨테이너 인스턴스들의 클러스터들을 생성하기 위한 시스템 및 방법을 포함한다. 소프트웨어 컨테이너 인스턴스들은 컨테이너화를 지원하도록 구성된 가상 기계 인스턴스들일 수도 있으며, 소프트웨어 컨테이너 인스턴스들은 고객의 요구에 맞게 필요에 따라 클러스터에 등록되거나 클러스터로부터 등록해제될 수도 있다. 각각의 소프트웨어 컨테이너 인스턴스는, 컴퓨터 시스템의 하나 이상의 프로세서에 의해 실행될 때, 컨테이너 인스턴스 등록, 컨테이너 인스턴스 등록해제, 태스크 시작, 태스크 중단, 태스크 상태 제공, 태스크 심박 시그널링, 및 태스크 이벤트 보고를 포함하는 소프트웨어 컨테이너 및 소프트웨어 컨테이너 인스턴스와의 다양한 태스크를 수행하도록 구성된 애플리케이션인 컨테이너 에이전트를 포함할 수도 있다. 소프트웨어 컨테이너는, 데이터, 및 컨테이너화를 지원하도록 구성된 컴퓨터 시스템 인스턴스에서 실행될 때 동일한 컴퓨터 시스템 인스턴스 내에서 실행되는 다른 프로세스들로부터 격리될 수도 있는 하나 이상의 프로세스를 포함할 수도 있다.
소프트웨어 컨테이너는, 태스크 정의에 따른 태스크로서 실행되도록 구성될 수도 있고, 태스크 정의는 태스크 정의 파일로서 저장될 수도 있다. 태스크 정의 파일은, 그룹으로서 시작하도록 배정된 하나 이상의 소프트웨어 컨테이너를 기술할 수도 있다. 소프트웨어 컨테이너 인스턴스들 내에서 실행되도록 구성된, 소프트웨어 이미지가 생성되었을 때 소프트웨어 컨테이너의 구체적인 상태의 전체 카피를 나타낼 수도 있는 소프트웨어 컨테이너들의 소프트웨어 이미지들은, 컴퓨팅 자원 서비스 제공자에 또는 태스크 정의에서 특정된 해당 위치에 제공될 수도 있다. 또한, 태스크 정의는, 자원 요구사항, 컨테이너들 간의 관계, 사용되는 네트워크 포트, 및 공유 자원을 특정할 수도 있다.
태스크 정의의 태스크들을 시작하기 위한 요청을 수신하면, 스케줄러는, 배치 기법(placement scheme)에 따라, 클러스터 내의 어떤 소프트웨어 컨테이너 인스턴스가 태스크를 실행할지를 결정할 수도 있다. 일부 경우에, 컴퓨팅 자원 서비스 공급자는, 소프트웨어 컨테이너를 실행할 위치를 결정하기 위한 멀티테넌트 스케줄러(multitenant scheduler)를 제공할 수도 있으며, 일부 경우에, 컴퓨팅 자원 서비스 공급자는, 고객이 자신의 스케줄러를 제공하고 구성하여 스케줄러의 작동 방식을 맞춤화하게 할 수도 있다. 일부 경우에, 스케줄러는, 태스크 정의에 특정된 자원 요구사항을 고려하여, 랜덤 선택 기법을 이용하여 (일부 확률 분포 기법에 따라) 랜덤하게 또는 라운드 로빈 방식으로 주어진 소프트웨어 컨테이너를 호스팅하게끔 컨테이너 인스턴스를 선택하도록 구성될 수도 있다. 컨테이너 에이전트들은 각각의 해당 소프트웨어 컨테이너 인스턴스 내의 태스크를 시작하도록 구성될 수도 있다. 일부 실시예들에서, 원격측정 에이전트(telemetry agent)는, 실행중인 소프트웨어 컨테이너에 대한 제어 그룹 메트릭 및 로그 이벤트 정보와 같은 데이터를 수집하고 그 데이터를 원격측정 서비스에 보고하도록 구성될 수도 있다. 원격측정 서비스는, 고객이 컨테이너 인스턴스 내의 소프트웨어 컨테이너의 상태를 감시하게 할 수 있고, 고객은, 원격측정 서비스를 통해, 수집된 데이터를 기반으로 경보를 발생시키기 위한 기준 및 다양한 컨테이너 이벤트에 응답하여 수행할 액션들을 특정할 수도 있다.
설명되고 제안된 기술들은, 소프트웨어 컨테이너들을 관리하기 위한 일련의 멀티테넌트 컨테이너화 서비스들을 제공함으로써 컴퓨팅 분야, 특히, 가상화 및 컨테이너화 분야를 개선한다. 또한, 기술되고 제안된 기술들은, 컴퓨팅 시스템들의 자원들을 효율적으로 할당하고 소프트웨어 애플리케이션들이 서로 간에 자원에 대하여 경쟁하지 않도록 소프트웨어 애플리케이션들을 격리함으로써, 컴퓨터 시스템의 기능을 개선한다. 또한, 설명되고 제안된 기술들은, 이식성을 개선하고, 멀티테넌트 서비스를 제공하고, 수요가 증가하거나 감소할 때 자원을 자동 조정함으로써, 일반적인 가상화 시스템에 비해 의미있는 이점들을 제공한다.
본 개시 내용에 따른 다양한 실시예를 첨부 도면을 참조하여 설명한다.
도 1은 일 실시예에 따라 컨테이너 서비스와 상호 작용하는 고객의 일례를 도시한 도면.
도 2는 일 실시예에 따라 컨테이너 서비스의 일례를 도시한 도면.
도 3은 일 실시예에 따라 컨테이너 서비스의 가상화의 일례를 도시한 도면.
도 4는 일 실시예에 따라 컨테이너 서비스의 일례를 도시한 도면.
도 5는 일 실시예에 따라 컨테이너 서비스 내의 자원 할당의 일례를 도시한 도면.
도 6은 일 실시예에 따라 클러스터 상에 태스크(task)를 개시(launch)하기 위한 워크플로우의 일례를 도시하는 블록도.
도 7은 일 실시예에 따라 클러스터 생성의 일례를 도시하는 블록도.
도 8은 일 실시예에 따라 컨테이너 인스턴스 등록의 일례를 도시하는 블록도.
도 9는 일 실시예에 따라 태스크 등록의 일례를 도시하는 블록도.
도 10은 일 실시예에 따라 태스크 시작의 일례를 도시하는 블록도.
도 11은 일 실시예에 따라 태스크 중단의 일례를 도시하는 블록도.
도 12는 일 실시예에 따라 태스크 등록해제의 일례를 도시하는 블록도.
도 13은 일 실시예에 따라 컨테이너 등록해제의 일례를 도시하는 블록도.
도 14는 일 실시예에 따라 클러스터 삭제의 일례를 도시하는 블록도.
도 15는 일 실시예에 따라 컨테이너를 관리 및 스케줄링하기 위한 시스템의 서비스 설계의 일례를 도시하는 블록도.
도 16은 다양한 실시예가 구현될 수 있는 환경을 도시한 도면.
도 1은 실시예가 실시될 수도 있는 환경(100)의 일 양태를 도시한다. 도 1에 도시된 바와 같이, 환경(100)은, 컴퓨팅 자원 서비스 제공자(110)의 컨테이너 서비스(108)에 네트워크(106)를 통해 태스크를 개시하기 위한 요청과 함께 소프트웨어 컨테이너(118)에 대한 태스크 정의 파일(104)을 전송하는 고객(102)을 포함할 수도 있다. 도 2의 스케줄러(208)와 같은 스케줄러는, 소프트웨어 컨테이너들(118)이 태스크 정의 파일(104)에 특정한 컨테이너 인스턴스들의 클러스터(116) 중 어떤 컨테이너 인스턴스(114)가 개시되어야 하는지를 결정할 수도 있다. 일부 실시예들에서, 소프트웨어 컨테이너들은, 컴퓨팅 자원 서비스 제공자(110)의 블록 레벨 데이터 저장 서비스에 의해 제공되는 저장 볼륨과 같이 컴퓨팅 자원 서비스 제공자(110)의 다른 서비스들(122)에 의해 제공되는 자원들(120)을 공유하도록 구성될 수도 있다.
고객(102)은, 컨테이너 서비스의 고객 계정에 연관된 개인일 수도 있고, 또는, 개인, 시스템, 자원 컴퓨팅 장치, 또는 고객 계정에 연관된 개인을 대신하여 행동할 권한이 있는 다른 엔티티일 수도 있다. 게다가, 고객(102)의 자원들은 다른 사용자들이 이용하도록 될 수도 있다. 예를 들어, 고객(102)은, 컨테이너 인스턴스(114)를 이용하여 다른 사용자에 대한 온라인 시장을 제공할 수도 있고, 이어서, 이러한 다른 사용자는 컨테이너 서비스를 통해 고객(102)에 의해 제공된 온라인 시장을 통해 상품 및 서비스를 구매 및/또는 판매할 수도 있다. 고객(102)은, 인터넷, 인트라넷, 인터넷 서비스 제공자(ISP) 네트워크 및/또는 후술하는 바와 같이 이러한 소정의 다른 네트워크 등의 통신 네트워크일 수도 있는 네트워크(106)를 통해 컴퓨팅 자원 서비스 제공자(110)의 컨테이너 서비스(108)와 통신할 수도 있다.
일부 예들에서, "태스크 정의" 또는 "태스크 정의 파일"은, 그룹으로서 시작하도록 배정된 링크된 컨테이너들의 세트(즉, 호스트 컴퓨팅 시스템에서 실행될 때 서로 연관되어 있는 컨테이너들의 세트)를 특정하는 파일을 가리킬 수도 있다. 태스크 정의 파일(104)은, 컨테이너들(118)이 단일 물리적 기계 상에서 공유할 수 있는 디스크와 네트워크 위치를 추가로 특정할 수도 있다. 이어서, 태스크 정의 파일(104)은 컨테이너들(118)의 세트를 개시하는 데 이용될 수도 있다. 일부 구현예들에서, 태스크 정의 파일(104)은 다수의 물리적 기계에 분산된 컨테이너들(118)을 정의하고 링크할 수도 있다. 하나의 태스크 정의 파일(104)은 다수의 태스크를 포함하고 스케줄링할 수도 있다. 일부 예들에서, "태스크"는, 태스크 정의 파일(104)의 인스턴스화를 가리킬 수도 있고, 하나 이상의 컨테이너(118)로 이루어질 수도 있다. 태스크는 새로운 태스크 정의를 태스크에 적용함으로써 수정될 수도 있다.
태스크 정의 파일(104)은 클러스터(116) 내에 컨테이너들(118)을 배치하는 데 필요한 모든 정보를 포함할 수도 있고, 클러스터(116)는 애플리케이션 프로그래밍 인터페이스 호출을 통해 관리될 수도 있다.
태스크 정의의 일례는 아래와 같을 수도 있다:
Figure pat00001
예시적인 태스크 정의는, "db"라는 명칭의 제1태스크가 경로 "forest/postgresql"에 위치한 소프트웨어 이미지를 갖는 것을 특정한다. 제1태스크는 1,000개의 처리 공유 및 1기가바이트의 메모리를 할당받고, 제1태스크는 포트 5432를 사용한다. 유사하게, 태스크 정의는, 또한, "web"라는 명칭의 제2태스크가 경로 "hub.web.com/rails:latest"에 위치한 소프트웨어 이미지를 갖는 것을 특정한다. 제2태스크는 1,000개의 처리 공유 및 1기가바이트의 메모리를 할당받고, 제2태스크는 포트 8000:8000을 사용한다. 태스크 정의는, 제2태스크("web")가 제1태스크("db")에 링크될 수 있음을 나타낸다. 이 예에서 사용되는 일부 유닛들은 고정된 개수의 중앙 처리 유닛 공유로서 주어진 처리 용량 등의 고정된 개수로서 주어지지만, 동적 자원 할당을 허용하기 위해 다른 유닛들 및 다른 유형의 값들(예를 들어, 총 처리 용량의 퍼센트, 총 메모리의 퍼센트)이 사용될 수 있다는 점에 주목한다.
컨테이너 서비스(108)는, 고객(102)이 클러스터(116) 내의 컨테이너(118)를 실행할 수 있도록 컴퓨팅 자원 서비스 제공자(110)에 의해 제공되는 서비스일 수도 있다. 컨테이너 서비스(108)는 도 2와 관련하여 설명하는 컨테이너 서비스(200)와 유사할 수도 있다. 컴퓨팅 자원 서비스 제공자(110)는, 도 15와 관련하여 설명하는 컴퓨팅 자원 서비스 제공자(1502)와 유사한 컴퓨팅 자원 서비스 제공자일 수도 있으며, 하나 이상의 컴퓨팅 자원 서비스들을 자신의 고객들에게 개별적으로 또는 분산형 컴퓨터 시스템의 서비스들의 조합으로서 제공할 수도 있다. 컴퓨팅 자원 서비스 제공자(110)의 하나 이상의 컴퓨팅 자원 서비스는, 네트워크(106)를 통해 액세스가능할 수도 있으며, 가상 컴퓨터 시스템 서비스, 블록 레벨 데이터 저장 서비스, 암호화 서비스, 주문형 데이터 저장 서비스, 통지 서비스, 인증 서비스, 정책 관리 서비스, 태스크 서비스 등의 서비스, 및/또는 이러한 기타 서비스를 포함할 수도 있다. 설명된 모든 실시예가 설명된 모든 서비스를 포함하는 것은 아니며, 명시적으로 설명된 서비스에 추가로 또는 그 대안으로서 추가 서비스가 제공될 수도 있다.
일례로, 컴퓨팅 자원 서비스 제공자(110)는, 데이터 저장 서비스, 가상 컴퓨터 시스템 서비스, 및/또는 웹 서비스 등의 컴퓨팅 자원들을 제공하는 엔티티일 수도 있다. 컴퓨팅 자원 서비스 제공자(110)의 고객들은, 웹 서비스 인터페이스 또는 다른 임의의 유형의 고객 인터페이스일 수도 있는 인터페이스를 통해 서비스들 중 하나 이상과 통신할 수도 있다. 컴퓨팅 자원 서비스 제공자에 의해 제공되는 각 서비스는 자신의 고유한 인터페이스를 가질 수도 있고, 서비스들의 서브세트들은, 공통 인터페이스에 더하여 또는 그 대안으로서 대응하는 개별 인터페이스들을 가질 수도 있다.
일부 예들에서, "컨테이너 인스턴스"는, 소프트웨어 컨테이너들을 개시 및 실행하도록 구성된 컴퓨터 시스템 인스턴스(운영 시스템을 실행하는 물리적 컴퓨터 시스템 등의 가상 또는 비가상의 것)를 가리킬 수도 있다. 따라서, 컨테이너 인스턴스(114)는, 고객(102)에 의해 제공되는 태스크 정의 파일(104)에 따라 컨테이너들(118)을 실행하도록 구성될 수도 있다. 하나 이상의 컨테이너 인스턴스가 클러스터를 포함할 수도 있다. 일부 예들에서, "클러스터"는, 클러스터에 등록된(즉, 클러스터에 연관된 것으로서 등록된) 하나 이상의 컨테이너 인스턴스의 세트를 가리킬 수도 있다. 따라서, 컨테이너 인스턴스(114)는 클러스터(116)에 등록된 서로 다른 많은 컨테이너 인스턴스들 중 하나일 수도 있고, 클러스터(116)의 나머지 컨테이너 인스턴스들은 컨테이너들(118)과 동일한 또는 다른 유형의 컨테이너들을 실행하도록 구성될 수도 있다. 클러스터 내의 컨테이너 인스턴스들은 동일한 인스턴스 유형 또는 서로 다른 인스턴스 유형일 수도 있고, 고객(102)은 하나보다 많은 클러스터를 가질 수도 있다. 따라서, 고객(102)은, 하나 이상의 클러스터를 개시한 후 애플리케이션 프로그래밍 인터페이스 호출을 통해 각 클러스터 내의 컨테이너들(118)의 사용자 및 애플리케이션 격리를 관리할 수도 있다. 클러스터에 관한 추가 상세는 도 2의 설명에서 찾을 수도 있다.
(소프트웨어 컨테이너 또는 격리된 사용자 공간 인스턴스라고도 하는) 컨테이너는, 프로그램, 데이터, 및 시스템 라이브러리를 포함하는 컴퓨터 시스템 인스턴스에서 실행되는 경량 가상화 인스턴스일 수도 있다. 컨테이너가 실행될 때, 실행중인 프로그램(즉, 프로세스)은 동일한 컴퓨터 시스템 인스턴스에서 실행중인 다른 프로세스들로부터 격리된다. 따라서, 컨테이너들(118)은, (예를 들어, 운영 시스템에 의해 할당된 메모리, CPU, 및 저장 장치를 사용하여) 운영 시스템에서, 예를 들어 컨테이너 인스턴스(114)의 운영 시스템에서 각각 실행될 수도 있고, 서로 격리되어 실행될 수도 있다(예를 들어, 각각의 컨테이너는 운영 시스템의 파일 시스템의 격리된 뷰를 가질 수도 있다). 컨테이너들(118)의 각각은 자신의 고유한 네임스페이스를 가질 수도 있고, 컨테이너들(118) 내에서 실행되는 애플리케이션들은 컨테이너 네임스페이스 내에서 이용가능한 자원들에 대해서만 액세스를 가짐으로써 격리된다. 따라서, 컨테이너들(118)은 자신들의 고유한 네임스페이스 내의 하나 이상의 단일 애플리케이션을 실행하기 위한 효과적인 방식일 수도 있다. 컨테이너 캡슐화 시스템은, 별도의 사용자 공간 인스턴스를 실행하기 위해 가상 기계들을 시작하고 유지하는 것에 연관된 오버헤드 없이 하나 이상의 컨테이너가 단일 동작 인스턴스 내에서 실행되게 할 수 있다. 컨테이너 캡슐화 시스템의 일례는 도커(Docker) 컨테이너 엔진이다.
컨테이너들(118)은 컨테이너 인스턴스(114)에 할당된 자원들 중 특정된 자원들만을 갖도록 개시될 수도 있으며, 즉, 컨테이너는 소정량의 메모리를 갖고 특정량을 초과하는 처리 능력을 이용하지 않도록 개시될 수도 있다. 컨테이너들(118)을 위한 자원 할당은 태스크 정의 파일(104)에서 특정될 수도 있다. 다수의 컨테이너는 단일 호스트 컴퓨터 또는 호스트 컨테이너 인스턴스에서 동시에 실행될 수도 있고, 호스트의 자원들은 컨테이너들 간에 효율적으로 할당될 수 있다. 일부 실시예들에서, 호스트는 하나의 고객만으로부터의 컨테이너 인스턴스들의 컨테이너들 실행을 지원할 수도 있다. 다른 실시예들에서, 단일 호스트는 다수의 고객이 그 호스트에서 실행되는 컨테이너 인스턴스들을 갖게 할 수도 있다. 후자의 경우에, 컨테이너 서비스는, 고객들이 다른 고객들의 컨테이너, 클러스터, 또는 컨테이너 인스턴스에 액세스하지 못함을 확보하도록 보안을 제공할 수도 있다.
서로 다른 유형의 태스크들은 서로 다른 자원 요건을 가질 수도 있고 서로 다른 수명을 가질 수도 있다. 따라서, 컨테이너들(118)은, 컨테이너 인스턴스의 기저 운영 시스템과는 독립적인 컨테이너 서비스(110)의 스케줄러 서비스에 의해 실행되도록 동적으로 스케줄링될 수도 있으며, 이처럼, 컨테이너 인스턴스(114)의 기저 운영 시스템은 매우 기본적인 것일 수도 있다. 대안으로, 컨테이너들(118)은, 클러스터(116)의 컨테이너 인스턴스(114) 내에 설치된 스케줄러에 의해 실행되도록 스케줄링될 수도 있다.
다른 서비스들(122)은, 도 15와 관련하여 설명하는 컴퓨팅 자원 서비스 제공자(1502)의 서비스들(1508-20, 1524) 등의 서비스들일 수도 있다. 마찬가지로, 다른 자원들(120)은, 블록 레벨 데이터 저장 서비스의 저장 볼륨과 같이 가상화된 인스턴스들 간에 공유될 수 있는 자원들을 포함할 수도 있다.
도 2는 본 개시 내용의 일 실시예의 예시적인 컨테이너 서비스(200)를 도시한다. 도 2에 도시한 바와 같이, 환경(200)은, 하나 이상의 컨테이너 인스턴스들(218) 내의 하나 이상의 컨테이너를 관리하는 프론트엔드 서비스(204)를 통해 통신하는 컴퓨팅 자원 서비스 제공자의 고객들(202)을 포함할 수도 있다. 전술한 바와 같이, 컨테이너 서비스(200)에 의해 제공되거나 컨테이너 서비스에 인터페이싱되는 컨테이너 캡슐화 시스템은, 고객이 컨테이너들을 지원하는 운영 시스템의 컨테이너 내의 하나 이상의 애플리케이션을 구성하게 할 수도 있다. 컨테이너 내의 실행 프로세스들과 자원들은, 페런트(parent) 컨테이너 인스턴스의 다른 프로세스들로부터 및 동일한 호스트 시스템의 다른 컨테이너들 내의 실행 프로세스들과 자원들로부터 격리될 수도 있다. 고객은 컨테이너에 할당된 처리 능력과 메모리의 양을 특정할 수도 있다. 이어서, 베이스 컨테이너와 그 내부의 애플리케이션과 데이터는, 하나 이상의 프로그램, 데이터, 및 프로그램이 컨테이너 인스턴스의 운영 시스템 상에서 실행되는 데 필요한 임의의 시스템 의존성(예를 들어, 라이브러리, 파일 등)을 포함하는 이미지로서 패키징될 수도 있다. 일부 예들에서, "이미지"는, 이미지가 생성되었을 때의 베이스 컨테이너의 구체적인 상태의 전체 카피를 가리킬 수도 있다. 이후, 이미지를 사용하여 하나 이상의 동일한 컨테이너들을 개시할 수도 있고, 이러한 컨테이너들의 각각은 특정량의 자원들을 배정받을 수도 있고 서로 격리될 수도 있다. 컨테이너들은 동일한 또는 다른 물리적 기계에서 개시될 수도 있고, 각 컨테이너는 베이스 컨테이너와 정확하게 동일한 방식으로 실행되는 것으로 예상될 수도 있다.
컨테이너 인스턴스들(218)의 각각은, 컨테이너들이 관리될 수도 있게 하고 클러스터 상태 정보를 제공할 수도 있고 로깅 및 원격측정 데이터 수집을 가능하게도 하는 에이전트들의 한 쌍인 컨테이너 에이전트(222)와 원격측정 에이전트(224)를 포함하도록 구성될 수도 있다. 컨테이너 서비스(200)는, 템플릿 서비스(206), 하나 이상의 스케줄러(208), 라우터 서비스(210), 및 원격측정 서비스(212)를 포함하는 서비스들의 한 세트로 이루어질 수도 있다. 컨테이너 서비스(200)는 멀티테넌트 서비스로서 구성될 수도 있기 때문에(즉, 컨테이너 서비스(200)의 자원들이 다수의 고객을 동시에 서빙할 수도 있기 때문에) 그리고 컨테이너 서비스(200)에 의해 제공되는 서비스들이 외부로 출력되어 컨테이너 인스턴스들(218)로부터 분리되기 때문에, 고객들(202)은, 서비스들에 의해 제시되는 기능을 제공하도록 자신들의 각 컨테이너 인스턴스들(218) 내에 개별적인 소프트웨어 애플리케이션들을 설치할 필요가 없다. 고객들(202)은, 고객들(202)로부터 요청을 수신하고 그 요청을 적절한 컨테이너 매니저 백엔드 서비스(214) 등의 적절한 서비스에 포워딩하도록 구성될 수도 있는 프론트엔드 서비스(204)를 통해 웹 서비스 애플리케이션 프로그래밍 인터페이스 함수 호출을 행함으로써, 이러한 서비스들에 의해 제공되는 기능을 이용할 수도 있다.
전술한 바와 같이, 고객은, 하나 이상의 클러스터를 개시한 후 프론트엔드 서비스(204)를 통해 각 클러스터 내의 사용자 및 애플리케이션 격리를 관리할 수도 있다. 예를 들어, 고객은, "인스턴스 1-10"이 제1클러스터를 포함해야 하고 "인스턴스 11-15"가 제2클러스터를 포함해야 함을 특정할 수도 있다. 이후, 고객이 컨테이너를 위한 개시 요청을 제출하는 경우, 고객은 컨테이너가 제1클러스터에서 또는 제2클러스터에서 개시되어야 하는지를 특정할 수도 있다.
각 클러스터는, 클러스터들을 서로 고유하게 구별하는 클러스터 식별자(ID)를 가질 수도 있다. 클러스터들은 각자의 클러스터 ID를 참조함으로써 특정될 수도 있다. 고객은 서로 다른 유형의 태스크들에 대하여 서로 다른 클러스터들을 사용할 수도 있다. 예를 들어, 고객은, 개시 서비스를 위한 제1클러스터를 사용할 수도 있고, 일괄 잡(batch job)들을 실행하기 위한 제2클러스터를 사용할 수도 있다. 제1클러스터의 인스턴스들은 서버를 실행하도록 최적화되었을 수도 있고, 제2서버의 인스턴스들은 일괄 잡과 같은 일시적 단기 잡을 제출하도록 최적화되었을 수도 있다.
클러스터들을 위한 이용가능한 애플리케이션 프로그래밍 인터페이스 함수 호출은, CreateCluster, DescribeCluster, ListClusters, 및 DeleteCluster를 포함할 수도 있다. CreateCluster 애플리케이션 프로그래밍 인터페이스 호출은 클러스터가 생성되게 할 수도 있다. 일부 경우에, 클러스터가 생성된 후, 프론트엔드 서비스(204)는 새롭게 생성된 클러스터의 클러스터 ID를 고객에게 제공할 수도 있다. 클러스터 ID는, 고객이 컨테이너 인스턴스들을 클러스터에 등록하게 할 수도 있으며, 예를 들어, 고객은, RegisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터인 클러스터 ID를 패스함으로써 컨테이너 인스턴스가 클러스터에 등록되게 할 수도 있다. 또한 또는 대안으로, 고객은, 고객에 속하는 하나 이상의 기존의 컨테이너 인스턴스들이 클러스터 생성과 동시에 클러스터에 등록되도록 그 하나 이상의 기존의 컨테이너 인스턴스들을, CreateCluster 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터로서 특정할 수도 있다. 유사하게, 일부 경우에, 고객은, CreateCluster 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들에, 생성되어 클러스터의 생성시 클러스터에 등록될 컨테이너 인스턴스들의 양을 특정할 수도 있다. CreateCluster 애플리케이션 프로그래밍 인터페이스 함수 호출은 도 7에 더 도시되어 있다.
일단 클러스터가 생성되어 실행되면, DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출은 클러스터에 관한 정보를 요청하도록 고객(202) 또는 애플리케이션에 의해 사용될 수도 있다. DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출에 응답하여 리턴되는 정보는, 클러스터에서 실행 중인 애플리케이션들의 리스트, 및 클러스터가 이용가능한 자원들, 및 그 자원들의 유형을 포함할 수도 있다. 이어서, DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출로부터 리턴되는 정보는, 기술된 클러스터 내의 태스크를 개시하도록 StartTask 애플리케이션 프로그래밍 인터페이스 호출을 위한 파라미터로서 사용될 수도 있다.
스케줄러(208)는 기술된 클러스터 내의 태스크들을 개시하도록 구성될 수도 있다. 대안으로, 고객들(208)은, 스케줄러(208)보다는 자신들의 고유한 스케줄러를 구현할 수도 있고, 고객 스케줄러의 배치 로직에 관련하여 DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출에 의해 검색되는 정보를 이용하여 스케줄링된 태스크들에 대한 배치 결정을 내릴 수도 있다. 고객은, 자신의 고유한 스케줄러에 의해 사용될 배치 알고리즘을 설계 및/또는 업로드할 수도 있고, 또는 컴퓨팅 자원 서비스 제공자에 의해 고객에게 제공되는 가능한 배치 알고리즘들의 리스트 중에서 선택을 행할 수도 있다. 컨테이너 서비스(200)는, 이용가능 자원들에 기초하여, 고객 스케줄러에 의해 내려진 배치 결정을 수락할지 또는 거부할지를 결정할 수도 있다.
스케줄러(208)는, 클러스터와 함께 실행할 태스크들의 세트를 최적으로 스케줄링하도록 구성된 멀티테넌트 서비스일 수도 있다. 이러한 식으로, 고객들(202)은 태스크들이 실행되어야 할 위치를 선택할 필요가 없다. 스케줄러(208)의 배치 기법(예를 들어, 라운드 로빈 방식, 확률 배정 기법 등)은, 클러스터에 걸쳐 태스크들을 균일하게 분산시키도록 구성될 수도 있고, 이용가능 자원들을 가장 효율적으로 이용하기 위해 클러스터에 의한 현재의 또는 예상 자원 소모에 기초하여 태스크들을 분산시키도록 구성될 수도 있다. 스케줄러(208)는, 컨테이너 매니저 백엔드 서비스들(214)을 통해 클러스터의 컨테이너 인스턴스들(218)의 이용가능성에 관한 기타 정보 및 클러스터 매니저 메타데이터를 취득할 수도 있다. 클러스터 매니저 메타데이터 및 기타 정보는, 클러스터에 배정된 컨테이너 인스턴스들(218)의 현재 상태에 관한 데이터, 컨테이너 인스턴스들 내의 이용가능 자원, 컨테이너 인스턴스들 내에서 실행되는 컨테이너, 및 배치 결정을 내리도록 스케줄러(208)에 의해 이용가능한 기타 정보를 포함할 수도 있다. DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출은, 클러스터 매니저 백엔드 서비스가 특정된 클러스터에 대한 클러스터 메타데이터를 제공하게 할 수도 있다.
스케줄러(208)는, 보안 규칙, 보안 그룹, 및/또는 보안 역할에 적어도 부분적으로 기초하여 태스크들을 분산할 수도 있고, 친화도와 항친화도를 가질 수도 있다. 예를 들어, 소정의 보안 그룹 내의 태스크들은, 가능할 때마다 또는 실행가능할 때마다 동일한 컨테이너 인스턴스에서 개시되도록 구성될 수도 있고, 또는 역으로, 별도의 컨테이너 인스턴스들에서 개시되도록 스케줄링될 수도 있다. 다른 일례로, 태스크들은, 소정의 보안 그룹에 배정될 수도 있고 또는 소정의 보안 역할을 갖도록 지정될 수도 있고, 배정되는 구체적인 보안 그룹 또는 지정되는 보안 역할에 기초하여, 태스크는, 특정 클러스터 또는 특정 클러스터 인스턴스에서 실행되도록 배정될 수도 있고, 또는 다른 태스크들보다 자원에 대한 우선순위를 가질 수도 있다. 친화도/항친화도에 기초하는 태스크 분산은, 컨테이너들, 컨테이너 인스턴스들, 및 태스크들 간의 관계를 나타내는 "태그"들을 배정하는 것을 포함한다. 친화도에 적어도 부분적으로 기초하는 분산의 일례로, 2개의 컨테이너 인스턴스가 "일반적"으로서 태깅될 수도 있고 하나의 컨테이너 인스턴스가 "데이터베이스"로서 태깅될 수도 있다. 태스크 정의에 있어서, 태스크는, 일반적으로서 태깅된 컨테이너 인스턴스들 중 하나(또는 그 이상)에 태스크가 개시되어야 하는 친화도를 제공하는 "일반적" 개시 제약으로 특정될 수도 있다. 항친화도의 태스크 분산의 일례로, 소정의 컨테이너 인스턴스들은 "안전 신용 카드 처리"로서 태깅될 수도 있고, 소정의 다른 컨테이너 인스턴스는 "http-website"로서 태깅될 수도 있다. http-website 컨테이너들은 신뢰되지 않는 외부 엔티티로부터의 트래픽을 서빙할 수도 있기 때문에, 이러한 컨테이너들을 신용 카드 처리 태스크들과 공유하지 않는 것이 바람직할 수도 있다. 따라서, 태스크 정의는, 신용 카드 처리 컨테이너들이 "http-website" 태깅된 컨테이너 인스턴스들에서 개시되지 않음을 확보하게끔 "http-website"가 신용 카드 처리 태스크에 대하여 항친화도임을 나타내도록 구성될 수도 있다. 이 예에서, 스케줄러(208)는, 태스크 정의의 임의의 태그들을 파싱(parse)하고 이를 이용하여 태그에 연관된 기준을 충족하지 않는 컨테이너 인스턴스들을 필터링 제거하도록 구성될 수도 있다. 다음으로, 스케줄러(208)는 컨테이너를 호스팅하도록 필터링된 세트로부터 컨테이너 인스턴스를 선택할 수 있다.
일부 실시예들에서, 스케줄러(208)는 태스크들을 개시하도록 컨테이너 에이전트들(222)과 직접 통신할 수도 있다. 다른 실시예들에서, 스케줄러(208)는 에이전트 통신 서비스들(220)에 대하여 통신할 수도 있고, 이어서 에이전트 통신 서비스들은 통신을 컨테이너 에이전트(222)에 중계할 수도 있다. 또 다른 실시예들에서, 스케줄러(208)는 컨테이너 매니저 백엔드 서비스들(214)에 배치 결정을 통신할 수도 있고, 이러한 컨테이너 매니저 백엔드 서비스들은 그 통신을 컨테이너 에이전트(222)에 또는 에이전트 통신 서비스들(220)에 직접 중계할 수도 있다. 전술한 바와 같이, 일부 실시예들에서, 대안으로, 고객들(202)은, 스케줄러(208)를 사용하기보다는 태스크 관리를 위한 자신들의 고유한 스케줄러들을 구현할 수도 있다.
일부 경우에, 컨테이너들은 자원을 경쟁하도록 구성될 수도 있으며, 충돌이 발생하면, 특정 보안 역할에 연관된 컨테이너들이 다른 컨테이너들보다 우선순위를 가질 수도 있다. 모든 경우에 있어서, 배치 기법은 컨테이너 인스턴스의 이용가능 자원들과 컨테이너의 자원 요구사항들을 고려할 수도 있다는 점에 주목한다. 예를 들어, 구체적인 태스크들이 컨테이너 인스턴스에서 이용가능한 자원들을 초과하는 자원 요구사항들을 갖는 경우 컨테이너 인스턴스가 그 구체적인 태스크에 대해 선택되지 않을 수도 있다. 그러나, 일부 구현예들에서는, 컨테이너 인스턴스가 여전히 선택될 수도 있지만, 구체적인 태스크의 실행을 지원하기 위해 컨테이너 인스턴스 내에서 충분한 자원들이 이용가능해질 때까지 그 구체적인 태스크의 개시가 지연될 수도 있다.
컨테이너는, 또한, 컴퓨팅 자원 서비스 제공자에 의해 제공되는 다른 자원을 이용하도록 구성될 수도 있다. 예를 들어, 각 컨테이너는, 해당 컨테이너가 가상 네트워크를 통해 컴퓨팅 자원 서비스 제공자의 다른 컨테이너 및/또는 다른 자원과 통신할 수 있게 하는 가상 네트워크 인터페이스와 함께 구성될 수 있다. 마찬가지로, 보안 자격 증명서는 컨테이너별로 배정될 수도 있으므로, 컨테이너는 컴퓨팅 자원 서비스 공급자에 의해 제공되는 다른 자원에 액세스할 수 있는 자신의 고유한 보안 자격 증명서를 갖는다. 또한, 컨테이너 서비스는, 컨테이너로 향하는 워크로드를 로드 밸런싱하는 로드 밸런싱 서비스와 통합되도록 구성될 수도 있다. 예를 들어, 고객은, 고객 인스턴스 및/또는 고객의 컨테이너의 가상 네트위크에 연관된 인터넷 프로토콜 어드레스들의 리스트를 로드 밸런싱 서비스의 로드 밸런서에 제시할 수도 있고, 인터넷 프로토콜 어드레스들 간의 워크로드를 밸런싱하도록 로드 밸런서에 지시할 수도 있다. 또한, 컨테이너 서비스는, 컨테이너에 의해 사용되는 자원들이 필요에 따라 동적으로 조정될 수 있도록 자동 스케일링 서비스와 통합될 수도 있다.
예를 들어, 고객은 단일 클러스터에 대하여 다수의 스케줄러를 구현할 수도 있고, 다수의 스케줄러는 컨테이너를 개시할 클러스터 내의 인스턴스들을 결정한다. 다수의 스케줄러는, 컨테이너를 개시할 위치를 결정하기 위한 낙관적 동시성 제어 방법을 사용하는 것과 같은 배치 기법에 따라 서로 경쟁할 수도 있다. 예를 들어, 낙관적 동시성을 사용하는 각 스케줄러는, 일반적으로 컨테이너들이 서로 간섭하지 않는다고 가정할 수도 있으며, 한 컨테이너가 다른 컨테이너가 판독한 데이터를 수정한 상황에서는, 판독 컨테이너가 재시작하여 그 수정된 데이터를 재판독할 수도 있다.
일부 경우에, 스케줄러는 이용가능 자원들을 최대화하도록 구성될 수도 있다. 예를 들어, 클러스터는 주로 장기 실행 서비스를 실행하는 데 이용될 수도 있고, 하나 이상의 단기 일괄 잡을 실행해야 할 필요가 있다. 이러한 예에서, 이용가능 자원들을 최대화하도록 구성된 스케줄러는, 일괄 잡을 지원할 수 있는 처리 능력이 충분한 인스턴스를 일괄 잡에 가장 적합한 위치로서 찾을 수도 있다. 대안으로, 스케줄러는 최소한의 처리 능력을 사용하는 인스턴스를 찾을 수도 있고 이 인스턴스로 일괄 잡을 스케줄링할 수도 있다.
일부 구현예들에서, 메타 스케줄러는 하나 이상의 스케줄러의 상단에서 계층적으로 실행되도록 구성될 수도 있으며, 메타 스케줄러는 일괄 잡을 개시할 위치를 결정할 수도 있다. 예를 들어, 구현시, 두 가지 유형의 태스크, 즉, 단기 일괄 잡 태스크와 장기 서비스가 있을 수도 있다. 두 가지 유형의 태스크는, 하나 이상의 특정된 클러스터에서 이용가능한 컨테이너 인스턴스들 간에 서비스 태스크들을 균일하게 분산시키는 것이 바람직한 경우와 같이 서로 다른 배치 규칙들을 가질 수도 있는 반면, 일괄 잡 태스크들은 공간 처리 사이클이 있는 임의의 이용가능 컨테이너 인스턴스에서 실행되도록 구성될 수도 있다. 일부 경우에는, 다른 스케줄러가 배치 규칙들의 각 세트에 배정될 수도 있다. 그러나, 이러한 배치 규칙들이 서로 경쟁하거나 서로 충돌하는 경우 또는 적절한 스케줄러가 결정되어 구체적인 태스크에 배정되어야 하는 경우, 메타 스케줄러는, 어떤 경쟁 태스크가 우선해야 하는지를 결정할 수도 있고, 스케줄러들 간에 정보를 동기화할 수도 있고, 또는 태스크를 배치하기 위한 적절한 스케줄러를 결정할 수도 있다.
클러스터는, 프론트엔드 서비스(204)에 대하여 행해지는 애플리케이션 프로그래밍 인터페이스 호출을 통해 관리될 수도 있다. 예를 들어, 애플리케이션 프로그래밍 인터페이스 호출은, 어떤 컨테이너들이 어떤 클러스터들에서 실행될 수도 있는지와 어떤 클러스터들이 이용가능한지의 리스트를 요청할 수 있다. ListClusters 애플리케이션 프로그래밍 인터페이스 호출은, 고객이 액세스를 갖는 모든 클러스터를 열거할 수도 있다. DeleteCluster 애플리케이션 프로그래밍 인터페이스 호출은, 특정된 클러스터를 삭제할 수도 있고, 도 14를 참조하여 더 설명한다.
컨테이너 인스턴스들을 위한 이용가능한 애플리케이션 프로그래밍 인터페이스 함수 호출은, RegisterContainerInstance, DescribeContainerInstance, 및 DeregisterContainerInstance를 포함할 수도 있다. RegisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출은, 일단 컨테이너 인스턴스가 인스턴스화되었다면 컨테이너 인스턴스를 클러스터 매니저에 등록하도록 컨테이너 인스턴스의 컨테이너 에이전트에 의해 사용될 수 있다. 일부 구현예들에서, 클러스터 매니저는 클러스터들에 관한 메타데이터(예를 들어, 컨테이너 인스턴스들의 그룹핑)로 이루어진다. 다른 구현예에서, 클러스터 매니저는, 고객에 의해 설치되거나 컴퓨팅 자원 서비스 제공자에 의해 이용가능해지는 구성 관리 소프트웨어를 포함할 수도 있다. 이어서, 스케줄러는, 컨테이너들이 어떠한 컨테이너 인스턴스에서 개시되어야하는지를 결정할 때 클러스터 매니저에 등록된 컨테이너 인스턴스들(218)을 참조할 수도 있다. RegisterContainerInstance는 도 8을 참조하여 추가로 설명한다. DescribeContainerInstance 애플리케이션 프로그래밍 인터페이스 호출은, 컨테이너 인스턴스 내에서 실행되는 태스크들 및 컨테이너 인스턴스가 이용가능한 자원들을 포함하는, 컨테이너 인스턴스에 관한 정보를 리턴할 수도 있다.
컨테이너들은, 클러스터에 충분한 자원들이 있는 임의의 이용가능한 컨테이너 인스턴스에서 실행될 수도 있기 때문에, 컨테이너들은, 충분한 컨테이너 인스턴스들이 이용가능하다면, 필요에 따라 클러스터 내에서 확장 또는 축소될 수도 있다. 클러스터 내의 컨테이너 인스턴스들의 개수가 불충분하다면, 추가 컨테이너 인스턴스들을 생성하여 클러스터 매니저를 통해 클러스터에 등록할 수도 있다. 과다한 컨테이너 인스턴스들이 클러스터에 존재하면, 일부 컨테이너 인스턴스들은 클러스터 매니저를 통해 클러스터로부터 등록해제될 수도 있다. DeregisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출은, 특정된 클러스터로부터, RegisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출을 사용하여 등록된 컨테이너 인스턴스를 등록해제하는 데 사용될 수도 있다. DeregisterContainerInstance는 도 13에 관하여 추가로 설명한다.
태스크 정의를 위한 이용가능한 애플리케이션 프로그래밍 인터페이스 함수 호출은, RegisterTaskDefinition, DescribeTaskDefinition, ListTaskDefinitions, 및 DeregisterTaskDefinition을 포함할 수도 있다. RegisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출은, 태스크를 개시하기 위한 태스크 정의를 등록하는 데 사용될 수도 있으며, 도 9와 관련하여 추가로 설명한다. DescribeTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출은, 태스크 정의 파일의 콘텐츠를 포함하는 태스크 정의에 관한 정보를 리턴하는 데 사용될 수도 있다. ListTaskDefinitions 애플리케이션 프로그래밍 인터페이스 호출은, 고객이 이용가능한 태스크 정의들의 리스트를 리턴할 수도 있고, 또는 구체적인 클러스터 ID 또는 컨테이너 인스턴스 ID에 연관된 태스크 정의들의 리스트를 리턴할 수도 있다. DeregisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출은, 도 12에 관하여 추가로 설명되며 RegisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출을 사용하여 등록된 태스크 정의를 등록해제할 수도 있다.
태스크를 위한 애플리케이션 프로그래밍 인터페이스 함수 호출은 StartTask, DescribeTask, ListTasks, 및 StopTask를 포함할 수도 있다. 고객은, 태스크 정의 파일(또는 이 파일의 각 식별자)을 StartTask 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터로서 패스할 수도 있고, 또한, 컨테이너 인스턴스 또는 클러스터 내의 하나 이상의 태스크를 개시하도록 컨테이너 인스턴스 또는 클러스터를 특정할 수도 있다. 예를 들어, 고객은, DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출에 응답하여 클러스터의 하나 이상의 컨테이너 인스턴스 ID를 취득하였을 수도 있고, 식별된 하나 이상의 컨테이너 인스턴스에 대하여 태스크 정의 파일을 실행하도록 특정할 수도 있다. 고객이 태스크들을 직접 실행하면, 태스크들은 StartTask 애플리케이션 프로그램 인터페이스를 호출할 수도 있고 개시할 컨테이너 인스턴스를 특정할 수도 있다. 대안으로, 스케줄러(208)는 태스크를 개시하도록 StartTask 애플리케이션 프로그래밍 인터페이스를 사용할 수도 있다. 또한, 고객들(202)은, 태스크를 개시하게끔 StartTask 애플리케이션 프로그래밍 인터페이스를 사용하도록 자신들의 고유한 스케줄러를 구성할 수도 있다.
스케줄러(208) 또는 고객이 설치한 스케줄러는, 또한, 태스크 정의 파일 내의 태스크들을 시작하도록 구성될 수도 있고, 클러스터 내에 태스크들을 배치할 곳을 결정하도록 구성될 수도 있다. 예를 들어, 스케줄러(208)는, 클러스터의 컨테이너 인스턴스들 간에 태스크들을 균일하게 분산시키도록 결정할 수도 있거나, 소정의 카이 제곱 분산으로 태스크들을 분산시킬 수도 있거나, 또는 소정의 다른 휴리스틱 또는 제약들의 세트에 따라 클러스터의 컨테이너 인스턴스들 간에 태스크들을 분산시킬 수도 있다. StartTask 애플리케이션 프로그래밍 인터페이스 호출에 대하여 패스된 파라미터들은, 예를 들어, 다수의 태스크를 요약하는 태스크 정의 파일을 패스함으로써, 다수의 태스크가 시작되어야 함을 특정할 수도 있다. 일부 구현예들에서, 고객(202)은, 단일 클러스터 또는 컨테이너 인스턴스를 특정하기보다는, 클러스터들 또는 컨테이너 인스턴스들의 리스트를 특정할 수도 있고, 스케줄러(208)는 어떤 컨테이너 인스턴스들이 태스크들을 실행할지를 결정할 수도 있다. StartTask 애플리케이션 프로그래밍 인터페이스 호출은 도 10을 참조하여 추가로 설명한다.
DescribeTask 애플리케이션 프로그래밍 인터페이스 호출은, 할당된 자원, 연령, 및 실행 상태에 관한 정보를 포함하는, 컨테이너 에이전트들(222)로부터 실행되고 있는 태스크들에 관한 정보를 리턴하는 데 사용될 수도 있다. ListTasks 애플리케이션 프로그래밍 인터페이스 호출은, 실행되는 모든 태스크의 리스트 또는 특정된 클러스터 또는 컨테이너 인스턴스에서 실행되는 모든 태스크의 리스트를 리턴하는 데 사용될 수도 있다. StopTask 애플리케이션 프로그래밍 인터페이스 호출은, StartTask 애플리케이션 프로그래밍 인터페이스 호출을 사용하여 시작된 실행되고 있는 특정된 태스크들을 중단하게끔 컨테이너 에이전트들(222)에 명령하도록 사용될 수도 있다. StopTask 애플리케이션 프로그래밍 인터페이스 호출은 도 11에 관하여 추가로 설명한다.
컨테이너 서비스(200)는, 프론트엔드 서비스(204)에 대하여 행해진 애플리케이션 프로그래밍 인터페이스 호출을 인증하도록 도 15의 인증 시스템(1518) 등의 컴퓨팅 자원 서비스 제공자의 인증 시스템과 상호작용할 수도 있다. 일부 실시예들에서는, 별도의 보안 그룹들과 보안 역할들이, 구성될 수도 있고 단일 호스트 상의 서로 다른 컨테이너들에 배정될 수도 있다. 또한, 컨테이너 서비스(200)는, 가상 사설 클라우드 내의 컨테이너 인스턴스들(218)과 컨테이너들을 개시하도록 구성될 수도 있다.
일부 실시예들에서, 컨테이너들은, 블록레벨 데이터 저장 서비스들 및/또는 주문형 데이터 저장 서비스들 등의 컴퓨팅 자원 서비스 제공자의 다른 서비스들에 부착되도록 구성될 수도 있다. 일부 경우에, 컨테이너들은 부착된 서비스들을 다른 컨테이너들과 공유하도록 구성될 수도 있다. 일례로, 고객의 컨테이너 인스턴스는 컴퓨팅 자원 서비스 제공자의 블록레벨 저장 서비스의 블록레벨 저장 볼륨에 맵핑될 수도 있고, 인스턴스 내의 컨테이너들은 각각 블록레벨 저장 볼륨으로부터 판독을 행하고 및/또는 블록레벨 저장 볼륨에 기입을 행하도록 구성될 수도 있다. 일부 예들에서, 블록레벨 저장 볼륨은, 하나의 클러스터 또는 다수의 클러스터 내의 모든 컨테이너 인스턴스 등의 다수의 컨테이너 인스턴스 간에 공유될 수도 있으며, 이때, 그 클러스터 또는 다수의 클러스터 내의 컨테이너 인스턴스들 모두는 블록레벨 저장 볼륨을 실행되고 있는 이들의 컨테이너들과 공유할 수도 있다. 다른 일례로, 컨테이너 인스턴스는 서로 다른 20개의 블록레벨 저장 볼륨에 맵핑될 수도 있지만, 블록레벨 저장 볼륨들 중 2개만이 컨테이너를 위해 특정된다.
템플릿 서비스(206)는, 고객들(202)이 자신들의 컨테이너들에 대한 태스크 정의를 정의할 수 있도록 구성될 수도 있다. 일부 예들에서, "태스크 정의"는, 컨테이너들의 그룹을 정의할 수도 있는 메타데이터의 세트 또는 스크립트를 가리킬 수도 있으며, 예를 들어, 컨테이너의 개수, 컨테이너의 유형, 컨테이너의 구성요소, 컨테이너의 다른 컨테이너에 대한 관계, 연관된 인스턴스를 기술하는 정보, 및 기타 메타데이터가 해당된다. 태스크 정의는, 또한, 컨테이너들의 그룹들이 협동하여 개시되어야 함을 특정할 수도 있다. 템플릿 서비스(206)는, 고객들(202)로부터 태스크 정의들을 수신할 수도 있고, 태스크 정의들을 데이터베이스(216)에 저장할 수도 있고, 고객들(202)이 자신들의 태스크 정의를 생성하고, 보고, 업데이트하고, 삭제하고, 그 외에는 관리하게 할 수도 있다.
템플릿 서비스(206)는 태스크 정의를 정의하는 기능을 고객들(202)에게 허락할 수도 있다. 템플릿 서비스(206)는, 그 기능을 갖는 고객들이 태스크 정의 파일을 업로드함으로써 태스크 정의를 제공하게 할 수도 있고, 또는 고객들이 태스크 정의 파일을 동적으로 생성하도록 디폴트 설정 변경 및/또는 다양한 옵션으로부터 선택을 행할 수 있게 함으로써 태스크 정의를 제공할 수도 있다. 템플릿 서비스(206)는 고객들이 태스크 정의를 등록하게 할 수도 있다. 템플릿 서비스(206)는, 또한, 현재 등록되어 있는 태스크 정의들을 편집하기 위한 편집 인터페이스를 제공할 수도 있다. 템플릿 서비스(206)는, 데이터베이스(216)에 저장되도록 컨테이너 매니저 백엔드 서비스(214)에 태스크 정의들을 제공함으로써 태스크 정의들을 적어도 부분적으로 등록할 수도 있다.
일부 예들에서, "플리트"(fleet)는, 컨테이너 서비스(200)의 다른 애플리케이션들 또는 본 개시 내용의 컨테이너 인스턴스들 등의 인스턴스들을 실행하는 (가상 또는 물리적) 컴퓨터 시스템들의 세트를 가리킬 수도 있다. 플리트는 서브플리트들로 세분될 수도 있고, 각 서브플리트는, 해당 서브플리트에 대하여 전용인 에이전트 통신 서비스 및 컨테이너 매니저 백엔드 서비스에 의해 지원될 수도 있다. 에이전트 통신 서비스들(220)은, 서브플리트 내의 컨테이너 인스턴스들 상에서 실행되는 원격측정 에이전트들(224) 및 컨테이너 에이전트들(222)과 통신하도록 구성될 수도 있다.
컨테이너 매니저 백엔드 서비스들(214)은, 본 개시 내용에서 설명하는 클러스터 관리 소프트웨어 또는 클러스터 매니저 메타데이터 등의 기타 관리 서비스와 자원을 백엔드 상의 서브플리트에 제공하도록 구성될 수도 있다. 컨테이너 매니저 백엔드 서비스들은, 템플릿 서비스(206)로부터 태스크 정의들을 수신하고, 태스크 정의들을 데이터베이스(216)에 저장하고, 클러스터 매니저 메타데이터를 컨테이너 인스턴스들(218) 또는 에이전트 통신 서비스들(220)로부터 수신하고, 태스크 정의 정보 및 클러스터 매니저 메타데이터를 요청시 스케줄러(208) 또는 고객이 설치한 스케줄러에 제공하도록 구성될 수도 있다. 컨테이너 매니저 백엔드 서비스들은, DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출에 응답하여 클러스터 매니저 메타데이터 등의 특정된 클러스터에 관한 정보를 제공하도록 구성될 수도 있다.
에이전트 통신 서비스들(220)과 컨테이너 매니저 백엔드들(214)은, 서브플리트 내의 별도의 컴퓨터 시스템들, 서브플리트 내의 별도의 가상 기계 인스턴스들 상에 구현될 수도 있고, 서브플리트 내의 동일한 컴퓨터 시스템 및/또는 가상 기계 인스턴스를 공유할 수도 있고, 또는 각자의 서브플리트와는 별개이지만 통신하고 있는 컴퓨터 시스템에서 실행될 수도 있다. 서브플리트마다 다수의 컨테이너 인스턴스(218)가 존재할 수도 있다. 일부 경우에, 각 서브플리트는 단일 클러스터를 나타낼 수도 있다. 다른 경우에, 클러스터들은 다수의 서브플리트를 이을 수도 있다. 또 다른 경우에, 각 서브플리트는 하나보다 많은 클러스터를 호스팅할 수도 있다. 라우터 서비스(210)는, 요청을 프론트엔드 서비스(204)로부터 적절한 서브플리트로 라우팅하도록 구성될 수도 있다. 일부 실시예들에서, 라우터 서비스(210)는 요청들을 단일 서브플리트에 라우팅할 수도 있다. 다른 실시예들에서, 라우터 서비스는 요청들을 다수의 서브플리트 간에 라우팅할 수도 있다.
원격측정 서비스(212)는, 제어 그룹 메트릭들(예를 들어, 컨테이너들 내에서 실행되는 프로세스들에 관한 정보) 및 컨테이너 로그들을 집계하고 고객들(202)이 각자의 컨테이너 인스턴스들의 프로세서, 저장, 네트워크 사용 등의 자원 이용을 감시할 수 있게끔 그 집계된 메트릭들과 로그들을 자원 감시 서비스에 제공하도록 구성될 수도 있다. 제어 그룹 메트릭들은, 컨테이너들의 프로세서들에 의해 사용되는 메모리의 양, 프로세스가 페이지 폴트를 트리거한 횟수, 컨테이너들의 프로세스들에 의한 중앙 처리 유닛 사용, 중앙 처리 유닛들이 컨테이너들의 프로세스들을 대신하여 시스템 호출들을 실행한 시간, 컨테이너들의 프로세스들에 의한 판독과 기입의 횟수, 및 컨테이너들의 프로세스들을 위해 큐잉(queue)된 입력/출력 동작의 횟수 등의 정보를 포함한다.
컨테이너 매니저 백엔드 서비스들(214)은, 프론트엔드 서비스(204)를 통해 자신들의 컨테이너에 대한 배치 요청을 고객들(202)로부터 수신하도록 구성될 수도 있고, 요청된 자원들이 컨테이너들을 위해 이용가능함을 확보할 수도 있다. 이어서, 컨테이너 매니저 백엔드 서비스들(214)은 원하는 컨테이너 상태를 데이터베이스(216)에 기입할 수도 있다. 일부 구현예들에서, 컨테이너 매니저 백엔드 서비스들은, 데이터베이스(216)에 저장될 수도 있으며 요청시 스케줄러(208) 또는 고객이 설치한 스케줄러에 제공될 수도 있는 클러스터 매니저 메타데이터를 담당한다. 또한, 컨테이너 매니저 백엔드 서비스들은, 수명 이벤트와 심박(정상 동작을 나타내도록 컨테이너 에이전트들(222)에 의해 전송되는 주기적 신호)에 관한 정보 등의 개별적인 컨테이너 에이전트들(222)로부터 정보를 각각 수신할 수도 있다. 일부 경우에, 이 정보는 프론트엔드 서비스(204)를 통해 적절한 구성요소 또는 엔티티에 통신될 수도 있다. 일부 구현예들에서, 컨테이너 에이전트들은 에이전트 통신 서비스들(220)를 통해 이 정보를 통신할 수도 있고, 이러한 서비스들은 그 정보를 컨테이너 매니저 백엔드 서비스들(214)에 직접 통신할 수도 있으며, 또는, 다른 구현예들에서는, 그 정보를, 컨테이너 매니저 백엔드 서비스들(214)이 그 정보를 판독할 수 있는 데이터베이스(216)에 저장한다.
데이터베이스(216)는, 컨테이너 서비스(200)의 분산형 컴퓨팅 시스템 내에 위치하는 데이터 저장소일 수도 있고, 또는, 관계형 데이터베이스 서비스 등의 컴퓨팅 자원 서비스 제공자의 다른 서비스의 데이터 저장소일 수도 있다. 일부 실시예들에서, 데이터베이스(216)는 트랜잭션 로그를 공유하는 분산된 데이터베이스들의 세트일 수도 있다. 에이전트 통신 서비스들(220)은, 클러스터의 모든 에이전트의 상태를 추적하도록 구성될 수도 있고, 런 커맨드(run command)와 각 인스턴스에 대한 상태 천이를 푸시할 수도 있다. 일 실시예들에서, 컨테이너 서비스의 다른 구성요소들에 의한 컨테이너들 및 컨테이너 인스턴스들(218)과의 통신은 에이전트 통신 서비스들(220)을 통해 수행된다. 각 플리트는, 플리트의 컨테이너 에이전트들(222) 간에 메시지들을 중계하는 적어도 하나의 에이전트 통신 서비스를 가질 수도 있다.
컨테이너 에이전트들(222)은, 고객들(202)이 소유하는 인스턴스에서 실행되도록 구성된 소프트웨어 애플리케이션들일 수도 있고, 각자의 컨테이너 인스턴스들(218)과 컨테이너 매니저 백엔드 서비스들(214) 등의 다른 서비스들 및 엔티티들 간의 인터페이스로서 기능할 수도 있다. 예를 들어, 컨테이너 에이전트들(222)은, 컨테이너로의 또는 컨테이너로부터의 모든 통신이 컨테이너 에이전트를 통과하도록 각자의 컨테이너 인스턴스들(218)과 다른 엔티티들 및 서비스들의 실행되는 태스크들 간의 중개자로서 기능할 수도 있다. 이러한 식으로, 컨테이너 에이전트는, 컨테이너 서비스(200)와 함께 실행되는 구체적인 컨테이너 캡슐화 시스템과 컨테이너 간의 커맨드들을 해석 및 변환하도록 구성될 수도 있다. 이는, 태스크 또는 태스크 정의에 대한 업데이트를 필요로 하지 않고 구체적인 컨테이너 캡슐화 시스템에 대하여 변화를 행할 수 있게 할 수도 있다; 즉, 그 변화를 구체적인 캡슐화 시스템에 반영하도록 컨테이너 에이전트들(222)만을 업데이트할 수도 있다.
따라서, 컨테이너 인스턴스들(218)의 각각은, 각 컨테이너 매니저 백엔드 서비스와 통신하는 자신의 내부에서 실행되는 각 컨테이너 에이전트를 가질 수도 있다. 컨테이너 에이전트 자체는, 각 컨테이너 인스턴스를 감시하도록 구성된 컨테이너일 수도 있고, 컨테이너를 개시하고, 컨테이너를 추적하고, 클러스터 상태를 감시하도록 사용가능한 정보를 시스템에 제공할 수도 있다. 또한, 컨테이너 에이전트는, 각 컨테이너 인스턴스를 등록 및 등록해제하고, 각 컨테이너 인스턴스 내의 태스크들을 시작 및 중단하는 기능들을 수행할 수도 있다. 또한, 컨테이너 에이전트는, 각 컨테이너 인스턴스를 기술하기 위한 요청들, 각 컨테이너 인스턴스에서 실행되는 태스크들을 열거하기 위한 요청들, 및 각 컨테이너 인스턴스에서 실행되는 태스크들을 기술하기 위한 요청들에 응답하도록 구성될 수도 있다. 컨테이너 에이전트들(222)은, 각 컨테이너 인스턴스들(218) 내의 컨테이너들의 건강을 감시하도록(예를 들어, 컨테이너 인스턴스가 동작하고 있음을 시그널링하는 심박을 보고하고, 컨테이너들의 수명을 보고하고, 컨테이너 상태와 컨테이너 에러의 발생을 보고하도록) 구성될 수도 있고, 또한, 소정 이벤트들의 발생에 기초하여 액션을 수행하도록 구성될 수도 있다. 예를 들어, 컨테이너에 에러가 발생하였으며 동작을 중단하였음을 컨테이너 에이전트가 검출하면, 컨테이너 에이전트는, 자동적으로 새로운 컨테이너가 생성되어 오동작하는 컨테이너를 대체하게 할 수도 있다. 다른 실시예들에서, 스케줄러(208)는, 컨테이너 에이전트들(222)에 의해 자신에 보고되는 이벤트에 응답하여 소정의 액션을 취할 수도 있다. 위 예에서, 새로운 컨테이너가 생성되어 오동작하는 컨테이너를 대체하게 하는 것은 스케줄러(208)일 수도 있다. 컨테이너의 고객 소유자는, 스케줄러(208) 및/또는 컨테이너 에이전트의 조건, 이벤트, 및 액션을 특정할 수도 있다. 예를 들어, 고객은, 예를 들어 에러 또는 정전 등으로 인해 고객의 컨테이너들이 동작을 중단하면, 스케줄러(208) 또는 컨테이너 에이전트가 동작불능 컨테이너들에 대한 대체 컨테이너들을 생성하지 않음을 특정할 수도 있다. 대신, 고객은, 스케줄러(208) 또는 컨테이너 에이전트가 (예를 들어, 상태 표시자를 변경하고, 이메일 메시지를 제공하는 등에 의해) 고객에게 문제점을 통지하는 것을 특정할 수도 있다.
컨테이너 에이전트들(222) 및/또는 원격측정 에이전트들(224)은, 각 컨테이너 인스턴스들(218)이 인스턴스화될 때 자동 개시되도록 구성될 수도 있다. 컨테이너 서비스(200)에 의해 새로운 컨테이너 캡슐화 시스템이 구현되면, 컨테이너 인스턴스들(218) 및 컨테이너들에 요구되는 유일한 변화는, 생성되는 새로운 컨테이너 캡슐화 시스템 및 새로운 컨테이너 에이전트들을 위해 스와핑되는 컨테이너 에이전트들(222)과 양립하도록 구성된 새로운 컨테이너 에이전트들을 위한 것일 수도 있다. 이러한 경우에, 고객들(202)은 컨테이너 서비스(200)를 갖는 동일한 애플리케이션 프로그래밍 인터페이스들을 사용할 수 있어야 하며, 새로운 컨테이너 에이전트들은, 고객들(202)이 새로운 캡슐화 시스템에 대한 변화를 인식하지 못한 채 애플리케이션 프로그래밍 인터페이스들을 지원하도록 구성되어야 한다.
컨테이너 에이전트들(222)은, 정보를 컨테이너 캡슐화 시스템에 통신하도록 컨테이너 캡슐화 시스템에 의해 폴링될 수도 있다. 컨테이너 에이전트(222)는, 컨테이너 인스턴스들(218)을 등록 또는 등록해제할 수도 있고, 컨테이너 매니저 백엔드 서비스들(214)로부터 명령어를 수신할 수도 있고, 원격측정 에이전트(224)가 시작되었으며 실행되고 있음을 확보할 수도 있다. 또한, 컨테이너 에이전트(222)는, 컨테이너 인스턴스들(218)의 컨테이너들에 대한 업데이트를 가능하게 할 수도 있고, 이벤트 스트림을 통해 컨테이너 인스턴스들(218)에서 실행되고 있는 컨테이너들의 상태를 감시할 수도 있다.
원격측정 에이전트(224)는, 컨테이너 캡슐화 시스템 로그들과 제어 그룹 메트릭들의 세트 등의 원격측정 데이터를 수집하고, 이러한 원격측정 데이터를 원격측정 서비스(212)에 제공하도록 구성될 수도 있다. 원격측정 서비스(212)는, 컴퓨팅 자원 서비스 제공자의 자원 감시 서비스를 위해 원격측정 에이전트(224)로부터 수신되는 데이터를 집계하도록 구성될 수도 있고, 이어서, 컴퓨팅 자원 서비스 제공자는 집계된 데이터에 기초하여 알람을 트리거하거나 소정의 다른 액션을 취하도록 구성될 수도 있다. 예를 들어, 원격측정 에이전트(224)가 원격측정 서비스(212)에 컨테이너의 에러 상태를 나타내는 로그를 통신하면, 원격측정 서비스(212)는, 에러 상태를, 컨테이너에 에러가 발생하였음을 고객에게 통지하는 알람을 트리거함으로써 반응하는 자원 감시 서비스에 제공할 수도 있다. 다른 일례로, 자원 감시 서비스는, 원격측정 서비스(212)에 의해 제공되는 메트릭들 중 하나(예를 들어, 컨테이너의 프로세스에 의한 중앙 처리 유닛 이용)가 임계값을 초과하면 알람을 트리거할 수도 있다. 일부 구현예들에서, 원격측정 서비스(212)는 알람 조건과 임계값을 특정하도록 구성될 수도 있다는 점에 주목한다. 알람을 트리거하는 것의 예로는, 텍스트 메시지를 컨테이너의 고객 소유자에게 제공하고, 컨테이너의 고객 소유자에게 이메일하고, 및/또는 가시적 표시자(예를 들어, 빨간 아이콘, 팝업 창 등)를 컨테이너 상태를 표시하는 인터페이스 상에 표시하는 것이 있다.
또한, 컨테이너 서비스(200)는 데이터 볼륨이 컨테이너에 링크되게 할 수도 있다. 이러한 데이터 볼륨은, 컨테이너 내의 지정된 디렉토리일 수도 있고, 컨테이너 인스턴스의 디폴트 파일 시스템을 우회할 수도 있는 하나 이상의 다른 컨테이너와 공유될 수도 있다. 이러한 식으로, 데이터는 컨테이너 인스턴스 내의 다른 컨테이너들 간에 영구적으로 저장 및 공유될 수도 있다. 데이터 볼륨은 태스크 정의 파일의 엔트리를 통해 구성될 수도 있다. 일부 구현예들에서, 컨테이너를 위한 하나 이상의 데이터 볼륨의 생성과 선택은, 프론트엔드 서비스(204)에 통신하는 그 목적을 위해 구성된 사용자 인터페이스를 통해 달성될 수도 있다. 컨테이너 서비스(200)는, 데이터 볼륨을 위한 저장을 제공하기 위한 컴퓨팅 자원 서비스 제공자의 도 2의 주문형 데이터 저장 서비스(1514) 또는 블록레벨 데이터 저장 서비스(1510) 등의 다른 데이터 저장 서비스들을 이용할 수도 있다. 다른 구현예들에서, 데이터 볼륨은 그 데이터 볼륨을 위한 컨테이너 인스턴스의 자연 저장소를 이용할 수도 있다.
컨테이너 서비스(200)는 컴퓨팅 자원 서비스 제공자의 다른 서비스들과 통합될 수도 있다. 예를 들어, 컨테이너 인스턴스들은, 컴퓨팅 자원 서비스 제공자의 자동 스케일링 서비스의 자동 스케일링 그룹에 태깅 및/또는 배정될 수도 있다. 이러한 식으로, 자동 스케일링 서비스는, 컨테이너 인스턴스들에 의한 자원 사용을 감시할 수도 있고, 컨테이너 인스턴스들에 의한 자원 요구의 갑작스러운 증가 등의 필요시 자원들을 동적으로 조정/할당할 수도 있다. 마찬가지로, 컨테이너 서비스(200)는 컴퓨팅 자원 서비스 제공자의 로드 밸런서 서비스와 통합될 수도 있다. 예를 들어, 로드 밸런서 서비스는, 컨테이너 인스턴스들 간의 워크로드를 밸런싱하기 위해 컨테이너 인스턴스들 또는 컨테이너들에 트래픽을 분산할 수도 있다.
일례로, 고객은 자동 스케일링 그룹에 배정된 컨테이너 인스턴스들(218)을 사용하여 웹사이트를 운영할 수도 있다. 웹사이트는 인터넷을 통해 다수의 사용자로부터 요청들을 수신할 수도 있고, 로드 밸런서 서비스의 로드 밸런서는 로드 밸런싱 분산 기법에 따라 요청들을 컨테이너 인스턴스들(218)에 분산할 수도 있다. 로드 밸런서 서비스는, 자원 이용을 최적화하고 및/또는 임의의 구체적인 호스트 컴퓨터를 오버로딩하는 것을 피하기 위해 로드 밸런서에 배정된 컨테이너 인스턴스들(218)에 요청들을 분산하도록 구성된 컴퓨터 시스템 또는 가상 컴퓨터 시스템일 수도 있다. 예를 들어, 로드 밸런서는, 서버 랙에 접속된 또는 그 외에는 데이터 센터에 포함된 물리적 하드웨어를 포함할 수도 있다. 다른 일례로, 로드 밸런서는 호스트 컴퓨터에 의해 지원되는 하나 이상의 가상 기계를 포함할 수도 있다. 동시에, 자동 스케일링 서비스는, 인입 요청들로 인해 컨테이너 인스턴스들(218)에 의해 필요로 하는 자원들이 더 필요한지 또는 덜 필요한지를 검출할 수도 있고, 필요시 컨테이너 인스턴스들(218)에 자원들을 더 또는 덜 할당할 수도 있다.
도 3은 일 실시예가 실시될 수도 있는 환경(300)의 양태를 도시한다. 특히, 도 3은, 적어도 일 실시예에 따라 컨테이너 인스턴스들(320)로서 구성된 복수의 가상 기계를 실행하는, 컨테이너 서비스(1522)와 유사한 컨테이너 서비스를 도시한다. 컨테이너 서비스는, 컨테이너들(310) 내의 연산 서비스들을 수행하도록 컨테이너 서비스를 제공하는 컴퓨팅 자원 서비스 제공자(304)의 고객들(302)에게 시스템 하드웨어(340)를 제공할 수도 있다. 시스템 하드웨어(340)는, 호스트 컴퓨터 시스템이라고도 하는 하나 이상의 호스트(342)를 포함할 수도 있다. 호스트들(342)의 각각은, 컴퓨터 또는 서버 등의, 데이터 연산, 조작, 또는 저장 태스크를 수행하기 위한 명령어들을 실행하도록 구성된 임의의 장치 또는 장비일 수도 있다. 호스트들(342)은, 중앙 처리 유닛, 그래픽 처리 유닛, 또는 디지털 신호 프로세서 등의 하나 이상의 프로세서를 포함하는 임의의 필요로 하는 처리 능력을 갖출 수도 있다. 또한, 호스트들(342)은, 메모리(예를 들어, 정적 메모리 및 동적 메모리), 버스, 및 임의의 핸드셰이킹, 통신 또는 데이터 전송 프로토콜과 양립가능한 입출력 포트들을 갖출 수도 있다. 또한, 시스템 하드웨어(340)는, 저장 디스크와 테이프 등의 저장 장치, 및 네트워킹 장비를 포함할 수도 있다. 저장 장치는, 도 15와 관련하여 설명되는 블록레벨 데이터 저장 서비스(1510) 등의 데이터 저장 서비스에 의해 관리되는 네트워크 저장 장치일 수도 있다.
시스템 하드웨어(340)의 가상화층들(344)은, 하나 이상의 컨테이너 인스턴스들(320)이 동작할 수도 있는 컴퓨팅 자원들을 제공하도록 시스템 하드웨어(340)가 사용될 수 있게 한다. 가상화층(344)은, 컨테이너 인스턴스들(320)을 위해 가상 컴퓨팅 플랫폼을 제공하는 데 사용되는 임의의 장치, 소프트웨어, 또는 펌웨어일 수도 있다. 호스트들(342)에서 실행되는 가상화층들(344)은, 컨테이너 인스턴스들(320)을 지원하는 데 필요한 컴퓨팅 자원들을 제공하도록 시스템 하드웨어(340)의 세트가 사용될 수 있게 한다. 게다가, 물리적 호스트(342)는, 동일한 시스템 하드웨어(340) 상의 동일한 또는 다른 유형의 다수의 가상화 층을 호스팅할 수도 있다. 각 컨테이너 인스턴스(320)는, 하나 이상의 가상 프로세서, 가상 메모리, 및 가상 저장 장치 등의 다양한 가상 컴퓨터 구성요소를 포함할 수도 있다. 컨테이너 인스턴스들(320)은 컴퓨팅 자원 서비스 제공자(304)의 고객들에게 제공될 수도 있고, 고객들은 컨테이너 인스턴스들(320)의 각각에서 운영 시스템(306)과 애플리케이션을 실행할 수도 있다. 가상화층(344)의 일례는 하이퍼바이저를 포함한다.
요청들은 컴퓨팅 자원 서비스 제공자(304)에 의해 동작되는 도 2의 프론트엔드 서비스(204) 등의 요청 인터페이스에 의해 수신될 수도 있다. 요청 인터페이스(314)는 요청을 적절한 컨테이너 인스턴스로 향하게 할 수도 있다. 각 컨테이너 인스턴스(320)는 하나 이상의 소프트웨어 에이전트(308)를 포함할 수도 있다. 소프트웨어 에이전트(308)는, 고객들(302)이 자신들의 각 컨테이너(310)와 컨테이너 인스턴스를 관리할 수 있도록 구성될 수도 있다. 소프트웨어 에이전트(308)는, 또한, 이벤트의 로깅을 수행하고 컨테이너(310) 및 컨테이너 인스턴스(320)에 관한 원격측정 데이터를 수집하도록 구성될 수도 있다. 이러한 소프트웨어 에이전트(308)의 예로는, 도 2와 관련하여 설명한 컨테이너 에이전트들(222) 및 원격측정 에이전트들(224)이 있다.
운영 시스템들(306)은, 컨테이너화 기법들이 컨테이너(310) 등의 가상화 인스턴스들을 운영 시스템(306) 하에서 실행되는 다른 프로세스들로부터 격리하게 할 수 있는 격리 기술을 제공하며 컨테이너 인스턴스들(320) 내에서 실행되는 데 적절한 임의의 운영 시스템들일 수도 있다. 이러한 운영 시스템의 예로는, 리눅스 커널의 자원 격리 특징부들을 지원하는 리눅스 운영 시스템의 다양한 구현예가 있다. 전술한 바와 같이, 컨테이너들(310)은, 하나 이상의 태스크 정의에 따라 애플리케이션 이미지들로부터 개시되는 운영 시스템들(306) 내의 가상화된 인스턴스들일 수도 있고, 각자의 컨테이너 인스턴스들(320)의 자원들을 각각 할당받을 수도 있다.
도 4는 일 실시예가 실시될 수도 있는 환경(400)의 양태를 도시한다. 도 4에 도시한 바와 같이, 환경(400)은, 원격측정 에이전트(424)에 메트릭과 로그 정보를 제공하며 컨테이너 에이전트(422)에 의해 감시되며 컨테이너 인스턴스(418) 내에서 개시되는 컨테이너들(402)의 세트를 포함할 수도 있다. 이어서, 컨테이너 에이전트(422)는, 에이전트 통신 서비스들(220)과 유사한 에이전트 통신 서비스(420) 등의 에이전트 통신 서비스를 통해 감시 정보를 통신할 수도 있다. 컨테이너 에이전트(422)는, 또한, 원격측정 에이전트(424)와 통신할 수도 있고, 컨테이너 에이전트(422)는, 원격측정 에이전트(424)가 실행되는 것을 확보하도록 원격측정 에이전트(424)의 건강을 주기적으로 감시할 수도 있다. 원격측정 에이전트(424)가 실행을 중단하거나 에러를 겪게 되면, 컨테이너 에이전트(424)는 필요시 원격측정 에이전트(424)를 재시작할 수도 있다. 일부 실시예들에서, 컨테이너 에이전트(222)로부터의 감시 정보는, 애플리케이션 프로그래밍 인터페이스 호출에 응답하여 프론트엔드 서비스(204)에 제공될 수도 있다. 원격측정 에이전트(424)는 원격측정 서비스(212)와 유사한 원격측정 서비스(412)에 메트릭과 로그 정보를 통신할 수도 있다. 일부 실시예들에서, 원격측정 에이전트는 원격측정 서비스(412)에 직접 통신하는 한편, 다른 실시예들에서, 원격측정 에이전트(424)는 프론트엔드 서비스(404)를 통해 원격측정 서비스(412)와 통신할 수도 있다.
본 개시 내용의 다른 곳에서 설명하는 컨테이너와 유사한 컨테이너들(402)은, 컨테이너 인스턴스 내의 다른 프로세스들로부터 격리된, 수명이 다양한 실행되는 가상화 인스턴스(태스크라고도 함)(예를 들어, 단기 일괄 잡, 장기 배경 프로세스 등)일 수도 있다. 컨테이너(402)에 관한 메트릭은, 원격측정 에이전트(424)에 의해 수집되고 집계되고 원격측정 서비스(412)에 제공될 수도 있다. 컨테이너 에이전트(422)는, 컨테이너들(402)의 자원, 서비스, 네임스페이스 외부의 기타 엔티티와 컨테이너들(402) 간의 중개자로서 기능할 수도 있다. 일부 구현예들에서, 컨테이너들(402)은, 블록레벨 데이터 저장 볼륨 등의 외부 자원들을 공유하도록 구성될 수도 있다. 이러한 구현예들 중 일부에 있어서, 컨테이너들(402)에 의해 공유되는 외부 자원들의 통신 및 이러한 자원들에 대한 액세스는 컨테이너 에이전트(422)를 통해 이루어질 수도 있다. 다른 구현예들에서, 컨테이너 인스턴스(418) 또는 컨테이너 인스턴스(418)의 운영 시스템은, 컨테이너들(402)이 컨테이너 에이전트(422)를 거치지 않고 공유 자원들에 액세스하거나 이러한 공유 자원들을 통신하는 것을 지원할 수도 있다.
클러스터 매니저(406)는, 컨테이너들(402)이 개시되어야 하는 컨테이너 인스턴스(418)를 결정하기 위한 규칙들의 세트와 함께 구성된 메타데이터 또는 클러스터 관리 소프트웨어일 수도 있다. 예를 들어, 컨테이너 인스턴스(418)가 인스턴스화되는 경우, 이 인스턴스의 컨테이너 에이전트(422)는, 고객을 위해 컨테이너들을 호스팅하도록 컨테이너 인스턴스(418)를 이용할 수 있음을 나타내는 정보로 클러스터 매니저(406)를 업데이트할 수도 있다. 이후, 컨테이너를 개시하기 위한 요청이 고객으로부터 또는 스케줄러로부터 프론트엔드 서비스(404)를 통해 수신되면, 스케줄러는, 컨테이너 인스턴스(418)를 선택하고 컨테이너 인스턴스(418)의 컨테이너 에이전트(422)에 컨테이너를 개시할 것을 지시하도록 클러스터 매니저(406)를 참조할 수도 있다. 또한, 클러스터 매니저(406)는, 소정의 유형의 컨테이너 이벤트에 응답하여 어떤 액션을 취해야 하는지를 특정하도록 구성될 수도 있다. 예를 들어, 컨테이너들(402) 중 하나가 오동작하고 및/또는 동작을 중단하면, 컨테이너 에이전트(422)는, 오동작 또는 동작불능 컨테이너를 재개시할지 여부를 결정하도록 클러스터 매니저(406)를 참조할 수도 있다.
일부 실시예들에서, 스케줄러는, 태스크를 개시할 것을 컨테이너 에이전트(422)에 지시하도록 에이전트 통신 서비스(420)와 통신할 수 있거나 컨테이너 에이전트(422)에 직접 통신할 수도 있다. 다른 실시예들에서, 스케줄러는 컨테이너 매니저 백엔드(414)에 배치 및 개시 명령어들을 통신할 수도 있고, 후속하여 이러한 백엔드는, 예를 들어, 컨테이너 에이전트(422)에 개시 명령어를 직접 또는 에이전트 통신 서비스를 통해 통신함으로써, 스케줄러로부터의 배치 명령에 따라 컨테이너들이 개시되게 한다. 클러스터 매니저(406)는 멀티테넌트일 수도 있고, 예를 들어, 클러스터 매니저(406)는 컴퓨팅 자원 서비스 제공자의 다수의 고객의 클러스터들을 관리하기 위한 정보로 구성될 수도 있다.
전술한 바와 같이, 컨테이너 매니저 백엔드(414)는, 클러스터 매니저(406) 등의 구체적인 서브플리트의 컨테이너 인스턴스와 컨테이너를 지원하는 다른 프로세스들을 위한 환경을 제공하도록 구성될 수도 있다. 컨테이너 에이전트(422)는, 컨테이너 에이전트(422)에 의해 감시되는 컨테이너(402)에 관한 라이프사이클과 건강 정보를 클러스터 매니저(406)에 제공하도록 구성될 수도 있다. 일부 구현예들에서, 컨테이너 에이전트(422)는, 메트릭과 로그 정보를 수집하고, 이 정보를 원격측정 에이전트(424)에 또는 원격측정 서비스에 직접 전달한다. 또한, 일부 구현예들에서, 컨테이너 에이전트(422)는 에이전트 통신 서비스(420)를 통해 클러스터 매니저(406)를 업데이트할 수도 있다. 일부 실시예들에서, 컨테이너 에이전트와 외부 구성요소들 간의 통신은, 컨테이너 에이전트(422)로부터 에이전트 통신 서비스(420)와 외부 구성요소들로의 일방향 통신일 수도 있다. 다른 실시예들에서, 컨테이너 에이전트(422)와 에이전트 통신 서비스(420) 간의 통신은 양방향이다. 다른 구현예들에서, 컨테이너 에이전트(422)는, 에이전트 통신 서비스(420)를 거치지 않고 클러스터 매니저(406)를 직접 업데이트할 수도 있다. 컨테이너 에이전트(422)는 컨테이너 인스턴스가 생성될 때 개시되는 소프트웨어 컨테이너일 수도 있는 한편, 다른 경우에, 컨테이너 에이전트(422)는, 컨테이너들(402)과 통신하는 컨테이너 인스턴스의 운영 시스템 하에서 실행되는 프로세스일 수도 있다는 점에 주목한다.
전술한 바와 같이, 원격측정 에이전트(424)는, 컨테이너 인스턴스(418) 내에서 실행되는 컨테이너들(402)에 관한 메트릭과 로그 정보를 수집하고 수집된 메트릭과 로그 정보를 원격측정 서비스(412)에 전달하도록 구성될 수도 있다. 일부 구현예들에서, 원격측정 에이전트(424)는, 컨테이너 인스턴스(418)가 생성될 때 개시되는 고유한 별도의 컨테이너일 수도 있다. 다른 구현예들에서, 원격측정 에이전트는, 컨테이너들(402)을 통해 또는 컨테이너 에이전트(422)를 통해 메트릭과 로그 정보를 직접 수신하도록 구성되며 컨테이너 인스턴스(418)의 운영 시스템 하에서 실행되는 프로세스일 수도 있다. 본 개시 내용의 모든 구현예가 원격측정 에이전트(424) 및/또는 원격측정 서비스(412)를 필요로 하는 것은 아니라는 점에 주목한다.
도 5는, 컨테이너 인스턴스(502)와 컨테이너 인스턴스 내의 컨테이너들(504A, 504B) 간의 자원 할당의 일례(500)를 도시한다. 컨테이너 인스턴스(502)는, 컨테이너 인스턴스들(컨테이너화)을 지원하도록 구성된 컴퓨터 시스템 인스턴스(가상 또는 비가상)일 수도 있다. 컨테이너 인스턴스(502)는, 처리 자원들(506)의 할당량과 메모리 자원들(508)의 양으로 도시되어 있다. 컨테이너들(504A 내지 504C)의 각각은, 처리 자원들(506) 및 메모리 자원들(508) 등의 컨테이너 인스턴스(502)의 자원들의 풀로부터의 자원들의 할당량과 소프트웨어 이미지로부터 컨테이너 인스턴스(502) 내에서 개시될 수도 있다. 도시한 바와 같이, 컨테이너(506A)는, 프로세스들(510A)을 실행하도록 컨테이너 인스턴스(502)의 메모리 자원들(508)의 15% 및 처리 자원들(506)의 35%를 할당받았다. 유사하게, 컨테이너(506B)는, 프로세스들(510B)을 실행하도록 컨테이너 인스턴스(502)의 메모리 자원들(508)의 50% 및 처리 자원들(506)의 40%를 할당받았다. 유사하게, 컨테이너(504C)는 프로세스들(510C)을 실행하도록 컨테이너 인스턴스(502)의 메모리 자원들(508)의 20% 및 처리 자원들(506)의 10%를 할당받았다. 합하여, 컨테이너 인스턴스(502)의 메모리 자원들의 85% 및 처리 자원들(506)의 85%가 컨테이너들(504A 내지 504C)에 할당되었다.
컨테이너 인스턴스는 컨테이너 에이전트(512)를 포함할 수도 있다. 컨테이너 에이전트(512)는, 전술한 바와 같이, 컨테이너들(504A 내지 504C)과 컨테이너 인스턴스(502) 외부의 엔티티들 간의 인터페이스로서 구성된 별도의 실행 컨테이너일 수도 있다. 컨테이너들(504A 내지 504C)에 할당될 자원들의 양은 태스크 정의 내에서 특정될 수도 있다. 스케줄러는, 본 명세서에서 전술한 바와 같이 배치 기법 및/또는 컨테이너 인스턴스(502)가 멤버인 컨테이너 인스턴스들의 세트 내의 이용가능 자원들에 기초하여 컨테이너들(504A 내지 504C)을 개시할 컨테이너 인스턴스(502)를 결정할 수도 있다. 이에 따라, 스케줄러는, 태스크 정의에 의해 특정되는 자원들의 양을 컨테이너들(504A 내지 504C)에 할당하도록 컨테이너 인스턴스(502) 또는 컨테이너 에이전트(512)에 통지할 수도 있고, 컨테이너 에이전트(512)는 스케줄러에 의해 지시되는 바와 같이 컨테이너들(504A 내지 504C)에 자원들을 할당할 수도 있다. 또한, 일단 자원들이 컨테이너들(504A 내지 504C)의 각각에 대하여 할당되면, 스케줄러는, 각자 할당된 자원들을 배타적으로 사용하면서 각자의 고유한 네임스페이스 내에서 실행되는 컨테이너(즉, 태스크)인 컨테이너들(504A 내지 504C)의 각각을 개시하도록 컨테이너 인스턴스(502) 또는 컨테이너 에이전트(512)에 통지할 수도 있다. 컨테이너 에이전트(512)는, 통지되면, 스케줄러에 의해 지시되는 바와 같이 컨테이너 인스턴스(502) 내의 컨테이너들(504A 내지 504C)을 개시할 수도 있다.
도 6은, 다양한 실시예에 따라 클러스터 내에 태스크를 개시하기 위한 프로세스(600)의 일례를 도시하는 블록도이다. 프로세스(600)는, 데이터 센터의 서버, 컴퓨팅 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(600)는, 컨테이너를 위한 태스크 정의와 소프트웨어 이미지가 취득되고, 클러스터가 생성되고 컨테이너 인스턴스들이 클러스터에 등록되며, 클러스터가 기술되고, 태스크 정의에 따라 결정된 컨테이너 인스턴스 내에서 이미지가 개시되고, 클러스터의 설명이 업데이트되는 일련의 동작들을 포함한다.
단계(602)에서, 컴퓨팅 자원 서비스 제공자는 컴퓨팅 자원 서비스 제공자의 고객으로부터 소프트웨어 이미지를 수신한다. 전술한 바와 같이, 소프트웨어 이미지는, 소프트웨어 애플리케이션이 이미지화되었을 때 소프트웨어 애플리케이션의 전체 상태를 나타내는 데이터를 가리킬 수도 있고, 이때, 소프트웨어 애플리케이션은 소프트웨어 이미지를 복구/개시함으로써 이 지점으로 복구될 수도 있다. 일부 경우에, 단계(602)의 동작은, 이미지보다는 실행가능 개시 또는 애플리케이션 파일을 취득할 수도 있다. 일부 경우에, 소프트웨어 이미지를 수신하는 것은, 예를 들어 태스크 정의 파일에서 특정된 자원 할당을 통해 컴퓨팅 자원 서비스 제공자가 액세스가능한 소프트웨어 이미지를 갖는 것을 포함한다는 점에 주목한다. 일부 경우에, 소프트웨어 이미지는, 컴퓨팅 자원 서비스 제공자의 도 2의 데이터베이스(216) 등의 데이터 저장소에 저장될 수도 있다.
단계(604)에서, 컴퓨팅 자원 서비스 제공자는, 하나 이상의 인스턴스 내에서 실행할 태스크/컨테이너를 설명하는 태스크 정의를 수신할 수도 있다. 태스크 정의는, 태스크 정의 파일의 형태일 수도 있고, 또는 사용자 인터페이스를 통해 고객에 의해 선택되는 옵션에 응답하여 컴퓨팅 자원 서비스 제공자에 의해 생성될 수도 있다. 태스크 정의는, 태스크/컨테이너의 설명, 태스크/컨테이너를 위한 이미지를 찾을 곳인 위치, 태스크/컨테이너에 할당되는 자원량, 공유 자원, 다른 컨테이너들 간의 관계 등의 정보, 및 기타 정보를 특정할 수도 있다. 주목한 바와 같이, 태스크 정의는 컴퓨팅 자원 서비스 제공자의 도 2의 데이터베이스(216) 등의 데이터 저장소에 저장될 수도 있다.
단계(606)에서, 컨테이너 인스턴스들은 인스턴스화될 수도 있다. 전술한 바와 같이, 컨테이너 인스턴스는 컨테이너화를 지원하는 가상 기계 인스턴스일 수도 있다. 일부 경우에, 컨테이너 인스턴스들을 인스턴스화하는 것은 컨테이너 인스턴스 내의 컨테이너 에이전트를 개시하는 것을 포함한다. 컨테이너 에이전트는 컨테이너 인스턴스의 운영 시스템 하에서 실행될 수도 있고, 컨테이너 에이전트 자체가 컨테이너일 수도 있다.
단계(608)에서는, 하나 이상의 클러스터를 생성할 수도 있다. 전술한 바와 같이, 클러스터는 하나 이상의 컨테이너 인스턴스의 논리적 그룹핑일 수도 있다. 클러스터는, 기능에 의해 태스크들을 분리하는 것, 컨테이너 인스턴스들의 서로 다른 유형들을 함께 그룹화하는 것, 컴퓨팅 자원 서비스 제공자 인프라스트럭처 내의 물리적 호스트 기계들의 위치에 기초하여 컨테이너 인스턴스들을 그룹화하는 것을 포함하는 다양한 목적을 위해 사용될 수도 있다. 일단 클러스터가 생성되면, 하나 이상의 컨테이너 인스턴스가 클러스터의 멤버로서 클러스터 매니저를 통해 등록될 수도 있다. 전술한 바와 같이, 일부 경우에, 컨테이너 인스턴스들은 하나보다 많은 클러스터의 멤버들일 수도 있다. 동작들(606 내지 608)은 임의의 순서로 또는 함께 발생할 수도 있다는 점에 주목한다. 예를 들어, 클러스터는 컨테이너 인스턴스들 전에 생성될 수도 있고, 컨테이너 인스턴스들이 인스턴스화될 때, 컨테이너 인스턴스들 내의 컨테이너 에이전트들은, 컨테이너 인스턴스가 클러스터에 자동 등록되게 할 수도 있다.
단계(610)에서, 컴퓨팅 자원 서비스 제공자는, 클러스터 또는 클러스터 ID를 개시될 태스크를 요청하는 것을 담당할 수도 있는 고객 또는 다른 엔티티에 제공할 수도 있다. 일부 경우에, 이러한 다른 엔티티는, 컨테이너 서비스에 의해 제공되는 도 2의 스케줄러(208) 또는 고객에 의해 설치된 스케줄러 등의 스케줄러일 수도 있다. 클러스터 ID는 단계(608)에서 클러스터를 생성하기 위한 요청에 응답하여 제공될 수도 있다. 다른 시간대에, 클러스터 ID는 ListClusters 애플리케이션 프로그래밍 인터페이스 호출을 행한 요청 엔티티에 제공될 수도 있다.
단계(612)에서, DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출은, 개시될 태스크를 요청하는 것을 담당하는 고객 또는 다른 엔티티(예를 들어, 스케줄러)로부터 수신되어, (예를 들어, 단계(610)의 클러스터 ID를 파라미터로서 전달함으로써) 설명할 클러스터를 특정할 수도 있다. DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출에 응답하여, 단계(614)에서, 컴퓨팅 자원 서비스 제공자는, 클러스터 내의 컨테이너 인스턴스들의 개수와 ID, 클러스터 내에서 이용가능한 자원들, 클러스터에서 사용되고 있는 자원들, 실행되고 있는 태스크 등을 포함하는, 클러스터에 관한 정보를 제공할 수도 있다. 이 정보는, (예를 들어, 소정의 성능 목표를 달성하고, 로드 등을 밸런싱하도록) 구체적인 태스크들이 개시되어야 하는 곳(예를 들어, 어떤 컨테이너 인스턴스)을 결정하도록 고객 또는 스케줄러에 의해 사용될 수도 있다.
단계(616)에서, 컴퓨팅 자원 서비스 제공자는, 단계(604)에서 취득한 태스크 정의에 특정된 정보에 따라 하나 이상의 태스크를 실행하기 위한 요청을 수신한다. 일부 경우에, 요청은, 하나 이상의 태스크를 실행하기 위한 컨테이너 인스턴스를 특정할 수도 있다. 다른 경우에, 요청은, 하나 이상의 태스크 및 도 2의 스케줄러(216) 등의 스케줄러를 실행하기 위한 클러스터를 특정할 수도 있고, 배치 기법에 따라 태스크들이 개시되어야 하는 컨테이너 인스턴스를 결정할 수도 있다. 배치 기법은, 라운드 로빈 배치 기법, 확률 배정 배치, 또는 자원 사용이나 기타 기준에 기초하는 발견적 방법(heuristics)을 포함할 수도 있다.
(예를 들어, 태스크를 개시하기 위해 컨테이너 인스턴스의 인스턴스 ID를 결정한 후) 일단 태스크들의 타겟 위치가 결정되면, 단계(618)에서, 단계(602)의 소프트웨어 이미지에 대응하는 태스크가 단계(604)의 태스크 정의에 따라 하나 이상의 컨테이너 인스턴스로 개시될 수도 있다. 일부 경우에, 태스크 개시는, 결정된 컨테이너 인스턴스들에서 실행되는 컨테이너 에이전트들에 의해 수행될 수도 있다. 단계(618)와 단계(620) 사이의 점선은, 점선 아래의 동작들이 클러스터의 태스크의 개시와 통합되지 않을 수도 있지만 단계(602 내지 618)에서 개시되는 실행 태스크에 관한 정보를 제공함을 나타낸다.
단계(620)에서, 클러스터를 설명하기 위한 요청은 단계(612)의 요청과 유사하게 수신될 수도 있다. 단계(622)에서, 컴퓨팅 자원 서비스 제공자는, 컨테이너 인스턴스들의 실행되는 태스크들에 관한 상태 정보에 대하여 태스크들을 실행하는 컨테이너 인스턴스들의 하나 이상의 컨테이너 에이전트들에 질의할 수도 있다. 단계(624)에서, 컴퓨팅 자원 서비스 제공자는, 단계(614)의 동작과 유사하게, 단계(620)의 요청에 응답하여 클러스터를 설명하는 정보를 제공할 수도 있다. 그러나, 단계(614)와 구별되도록, 정보는, 이제, 클러스터에 개시되는 실행되는 태스크들에 할당되는 자원들의 효과 및/또는 실행되는 태스크를 반영해야 한다(618). 단계(602 내지 620)에서 수행되는 동작들 중 하나 이상은 다양한 순서 및 병렬을 포함한 조합으로 수행될 수도 있다는 점에 주목한다.
도 7은 다양한 실시예에 따라 클러스터를 생성하기 위한 프로세스(700)의 일례를 도시하는 블록도이다. 프로세스(700)는, 데이터 센터의 서버, 컴퓨팅 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 다른 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(700)는, 요청자로부터 CreateCluster 애플리케이션 프로그래밍 인터페이스 호출이 수신되고 요청자가 인증되고 인증된 후 클러스터 메타데이터가 데이터베이스에 저장되고 클러스터 ID가 생성되어 요청자에 제공되는 일련의 동작들을 포함한다.
단계(702)에서, 컴퓨팅 자원 서비스 제공자는, 클러스터를 생성하도록 고객 또는 다른 엔티티로부터 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 클러스터를 생성하는 것은, 클러스터를 위한 클러스터 ID를 생성하고, 클러스터 ID를 클러스터에 관한 다른 메타데이터와 함께 데이터베이스에 저장하는 것을 포함한다. 일부 경우에, 요청자는, 생성시 컨테이너 인스턴스들을 클러스터에 등록하도록 CreateCluster 애플리케이션 프로그래밍 인터페이스 호출을 통할 것을 나타낼 수도 있다. 이러한 경우에, 특정된 컨테이너 인스턴스들(예를 들어, 애플리케이션 프로그래밍 인터페이스 호출의 파라미터로서 전달되는 하나 이상의 컨테이너 인스턴스 ID 또는 이용가능한 컨테이너 인스턴스들은 클러스터 생성 동안 클러스터 ID에 연관지어 등록될 수도 있다. 이러한 다른 경우에, 기존의 컨테이너 인스턴스들이 특정되지 않고 이용가능한 컨테이너 인스턴스들이 없으면, 클러스터 생성 동안 새로운 컨테이너 인스턴스들이 인스턴스화되어 클러스터에 등록될 수도 있다. 일부 구현예들에서, 컴퓨팅 자원 서비스 제공자는 고객에 디폴트 클러스터를 제공할 수도 있고, 이러한 경우에, 고객은 CreateCluster 애플리케이션 프로그래밍 인터페이스를 이용할 필요가 없으며, 추가 클러스터가 필요 없다면 또는 디폴트 클러스터가 삭제되면 단지 컨테이너 인스턴스들을 디폴트 클러스터에 등록할 수도 있다는 점에 주목한다.
단계(704)에서, 컴퓨팅 자원 서비스 제공자는, 요청자가 요청이 충족되는 데 충분한 권한을 갖고 있는지를 결정한다. 예를 들어, 요청자는, CreateCluster 애플리케이션 프로그래밍 인터페이스 호출에 따라 아이덴티티와 자격 증명서의 보유 증명을 파라미터들로서 제공하였을 수도 있다. 예를 들어, 요청자는, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성되는 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하기 위한 컴퓨터 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 그 아이덴티티와 증명을 도 15의 인증 시스템(1518) 등의 인증 서비스에 제공할 수도 있으며, 이에 따라 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 역할 및/또는 보안 정책이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 (예를 들어, 보안 데이터베이스에서 발견되지 않은) 아이덴티티를 결정할 수 없었다면, 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하였으며(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티를 확인할 수 없고, 프로세스(700)를 수행하는 시스템이 프로세스(700)에서 더는 진행하지 않을 수도 있다. 프로세스(700)를 수행하는 시스템은, 요청자에 대한 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 인증 실패를 보안 로그에 등록할 수도 있다. 그 외에는, 요청자가 인증되고 CreateCluster 요청이 충족되도록 충분한 권한을 갖는 것으로 결정되면, 프로세스(700)를 수행하는 시스템이 단계(706)로 진행할 수도 있다.
단계(706)에서, 프로세스(700)를 수행하는 시스템은, 클러스터 ID와 클러스터 메타데이터를, 도 2에 관하여 설명한 데이터베이스(216) 등의 데이터 저장소에 저장할 수도 있다. 전술한 바와 같이, 일부 경우에, 클러스터는, 하나 이상의 컨테이너 인스턴스(예를 들어, 클러스터에 등록된 컨테이너 인스턴스들)에 연관되어 저장된 메타데이터일 수도 있다. 스케줄러는, 컨테이너를 개시하도록 클러스터 내의 컨테이너 인스턴스를 결정하도록 클러스터 매니저를 참조할 수도 있다. 일부 예들에서, "클러스터 매니저"는, 클러스터 메타데이터를 적어도 부분적으로 가리킬 수도 있다. 다른 예들에서, 클러스터 매니저는, 클러스터 메타데이터를 관리하며 스케줄러와 통신하는 소프트웨어 애플리케이션 또는 서비스일 수도 있다. 일부 구현예들에서, 클러스터 메타데이터를 데이터 저장소에 저장함으로써 클러스터 ID가 생성될 수도 있다는 점에 주목한다. 클러스터 메타데이터는, 클러스터의 컨테이너 인스턴스들의 호스트들의 지리적 영역, 클러스터에 배정되거나 클러스터에 배정되도록 허용되는 컨테이너 인스턴스들의 개수, 및 클러스터의 생성 날짜/시간 등의 정보를 포함할 수도 있다.
일단 저장되면, 단계(708)에서, 프로세스(700)를 수행하는 시스템은, 클러스터의 생성이 성공적이었음을 요청자에 통지할 수도 있다. 일부 경우에, 이 통지는, 이용가능 자원들(예를 들어, 메모리 및/또는 처리 능력)과 클러스터에 등록된 임의의 컨테이너 인스턴스들의 ID를 포함하는, 클러스터에 관한 추가 정보/메타데이터를 포함할 수도 있다. 이후, 요청자는, 인증되면, DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출을 이용하여, 클러스터 ID를 파라미터로서 전달할 수 있고, 컴퓨팅 자원 서비스 제공자는, 메타데이터 정보, 특정 클러스터에 등록된 컨테이너 인스턴스들의 리스트, 클러스터 컨테이너 인스턴스들 내에서 실행되는 태스크들의 리스트, 클러스터의 이용가능 자원들, 클러스터에서 사용되고 있는 자원들, 원격측정 서비스에 의해 수집되는 클러스터의 컨테이너 인스턴스들에 관한 메트릭, 예컨대, 도 2의 원격측정 서비스(212), 클러스터 또는 클러스터 컨테이너 인스턴스들에 연관된 태스크 정의, 및 클러스터에 관한 기타 상태 정보를 포함하는 정보를 제공함으로써 응답할 수도 있다.
도 8은 다양한 실시예에 따라 컨테이너 인스턴스를 등록하기 위한 프로세스(800)의 일례를 도시하는 블록도이다. 프로세스(800)는, 데이터 센터의 서버, 컴퓨터 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(800)는, 프로세스(800)를 수행하는 시스템이 컨테이너 인스턴스를 등록하도록 요청자로부터 애플리케이션 프로그래밍 인터페이스 호출을 수신하는 일련의 동작들을 포함한다. 이어서, 시스템은, 요청자를 인증하고, 컨테이너 인스턴스를 등록하고, 성공적인 등록을 요청자에게 통지한다.
단계(802)에서, 컴퓨팅 자원 서비스 제공자는 컨테이너를 등록하도록 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 일부 경우에, 이 요청은 고객 또는 컨테이너 서비스의 외부에 있는 기타 엔티티로부터 수신될 수도 있다. 이러한 경우들 중 일부에 있어서, 요청은, 프론트엔드 서비스를 통해 수신되고, 컨테이너 인스턴스를 등록하는 컨테이너 에이전트에 통신된다. 다른 경우에, 이 요청은 컨테이너 에이전트로부터 프론트엔드 서비스로 향할 수도 있다. 예를 들어, 컨테이너 인스턴스가 컨테이너 에이전트로 인스턴스화되면, 컨테이너 에이전트는 컨테이너 인스턴스를 특정된 클러스터 또는 디폴트 클러스터에 자동 등록하려 할 수도 있다. 컨테이너 인스턴스를 등록하는 것은, 컨테이너화를 지원하도록 특정하게 구성된 기존의 가상 기계 인스턴스를 구체적인 클러스터와 연관짓는 것 또는 컨테이너화를 지원하는 기존의 가상 기계 인스턴스를 구체적인 클러스터와 연관짓는 것을 포함할 수도 있다. 이러한 연관은, 도 2의 데이터베이스(216) 등의 데이터베이스에, 클러스터 ID와 인스턴스의 ID 간의 관계로서 저장될 수도 있다. 이러한 경우에, 요청자는, 인스턴스 ID(또는 다른 식별 특성)와 클러스터 ID를, RegisterContainerInstance 함수 호출의 파라미터로서 제공할 수도 있다.
일부 경우에, 요청자는, 구체적인 기존의 컨테이너 인스턴스를 특정하지 않을 수도 있고, 이러한 경우에, 컴퓨팅 자원 서비스 제공자는 컨테이너화에 적합한 미리 인스턴스화된 컨테이너 인스턴스들의 세트 중에서 컨테이너를 선택할 수도 있다. 다른 경우에, 적합한 미리 인스턴스화된 컨테이너 인스턴스를 이용할 수 없다면, 컴퓨팅 자원 서비스 제공자는, 컨테이너 인스턴스에 적합한 새로운 컨테이너 인스턴스를 인스턴스화할 수도 있고, 새롭게 인스턴스화된 컨테이너 인스턴스를 특정된 클러스터에 등록할 수도 있다. 일부 구현예들에서, RegisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출은, 기존의 컨테이너 인스턴스를 현재 등록되어 있는 클러스터와는 다른 클러스터에 등록하는 데 사용될 수도 있다. 이러한 경우에, 요청자는, 컨테이너 인스턴스 ID와 클러스터 ID를 애플리케이션 프로그래밍 인터페이스 호출의 파라미터로서 특정할 수도 있다.
단계(804)에서, 컴퓨팅 자원 서비스 제공자는, 요청자가 요청이 충족되는 데 충분한 권한을 갖는지를 결정한다. 예를 들어, 요청자는, 아이덴티티 및 자격 증명서의 보유 증명을, RegisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들로서 제공하였을 수도 있다. 예를 들어, 요청자는, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성된 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하도록 컴퓨팅 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 도 15의 인증 시스템(1518) 등의 인증 서비스에 그 아이덴티티와 증명을 제공할 수도 있고, 이에 따라, 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 보안 정책 및/또는 역할이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 (예를 들어, 보안 데이터베이스에서 발견되지 않은) 아이덴티티를 결정할 수 없었다면, 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하였으며(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티를 확인할 수 없고, 프로세스(800)를 수행하는 시스템이 프로세스(800)에서 더는 진행하지 않을 수도 있다. 프로세스(800)를 수행하는 시스템은, 요청자에 대한 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 인증 실패를 보안 로그에 등록할 수도 있다. 그 외에는, 요청자가 인증되고 RegisterContainerInstance 요청이 충족되도록 충분한 권한을 갖는 것으로 결정되면, 프로세스(800)를 수행하는 시스템이 단계(806)로 진행할 수도 있다.
단계(806)에서, 프로세스(800)를 수행하는 시스템은, 데이터베이스(216) 등의 관련 데이터베이스에서 (특정되었다면) 컨테이너 인스턴스 ID를 찾으려 할 수도 있다. 컨테이너 인스턴스 ID가 발견되어 다른 클러스터 ID에 이미 연관된 것으로 결정되면, 프로세스(800)를 수행하는 시스템은, 단계(806)에서, 컨테이너 인스턴스를 현재 등록되어 있는 클러스터로부터 등록해제하고 특정된 클러스터를 등록한다. 이러한 경우들 중 일부에 있어서, 이러한 등록해제/재등록은 요청자가 인증된 후에 자동 수행될 수도 있다. 다른 경우에, 프로세스(800)를 수행하는 시스템은, 시스템이 등록해제/재등록 동작을 수행하기 전에 컨테이너 인스턴스를 현재 등록되어 있는 클러스터로부터 등록해제하기 위한 확인을 위해 요청자를 촉구할 수도 있다. 다른 구현예들에서, 컨테이너 인스턴스들은 다수의 클러스터에 동시에 등록될 수도 있고, 이러한 구현예들에서, 미리 등록되어 있는 컨테이너 인스턴스는 현재 등록되어 있는 클러스터로부터 등록해제되지 않을 수도 있다.
컨테이너 인스턴스가 클러스터에 미리 등록되어 있지 않고, 클러스터로부터 등록해제되었다면, 또는 구현예가 다수의 클러스터에 대한 컨테이너 인스턴스 등록을 지원하면, 프로세스(800)를 수행하는 시스템은, 컨테이너 인스턴스 ID를 특정된 클러스터와 연관지어 데이터베이스에 저장할 수도 있다. 이어서, 프로세스(800)를 수행하는 시스템은, 컨테이너 인스턴스를 특정된 클러스터에 등록하는 것이 성공적이었음을 요청자에 통지할 수도 있고, 일부 경우에, 구체적으로 새로운 컨테이너 인스턴스가 생성된 경우에는, 시스템이 컨테이너 인스턴스 ID를 응답에 포함할 수도 있다. 후속하는 DescribeContainerInstance 애플리케이션 프로그래밍 인터페이스 호출에 있어서, 컴퓨팅 자원 서비스 제공자는, 이용가능 자원, 컨테이너 인스턴스 내에서 실행되는 태스크, 및 컨테이너 인스턴스가 등록되어 있는 클러스터 또는 클러스터들을 포함하는 컨테이너 인스턴스에 관한 정보를, 인증되었다면 요청자에게 제공할 수도 있다.
도 9는 다양한 실시예에 따라 태스크를 등록하기 위한 프로세스(900)의 일례를 도시하는 블록도이다. 프로세스(900)는, 데이터 센터의 서버, 컴퓨터 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(900)는, 프로세스(900)를 수행하는 시스템이 태스크 정의를 등록하도록 요청자로부터 애플리케이션 프로그래밍 인터페이스 호출을 수신하는 일련의 동작들을 포함한다. 이어서, 시스템은 요청자를 인증하고, 태스크 정의를 등록하고, 태스크 정의 ID로 응답한다. 일부 구현예들에서, 태스크 정의는 요청자의 ID로 등록될 수도 있다. 예를 들어, 요청자가 컴퓨팅 자원 서비스 제공자의 고객이면, 태스크 정의는 고객의 계정 ID에 연관되어 등록될 수도 있다. 다른 구현예들에서, 태스크 정의는, 온라인 시장을 통하는 것처럼 대중이 이용할 수도 있고, 온라인 시장, 구매자, 또는 다른 소정의 엔티티나 서비스와 연관되어 등록될 수도 있다.
단계(902)에서, 컴퓨팅 자원 서비스 제공자는 태스크를 등록하도록 고객 또는 다른 엔티티로부터 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 태스크 등록은 데이터베이스에 태스크 정의 파일 또는 태스크 정의를 저장하는 것을 포함할 수도 있다. 일부 구현예들에서, 요청자는, 별도의 태스크 정의를 생성 및 업로드할 필요가 없지만, 컴퓨팅 자원 서비스 제공자에 의해 제공되는 사용자 인터페이스로부터의 다양한 옵션을 선택할 수도 있고, 컴퓨팅 자원 서비스 제공자는 선택된 옵션에 기초하여 태스크 정의를 동적으로 생성할 수도 있다. 일부 경우에, 컴퓨팅 자원 서비스 제공자는, 고객이 텍스트 엔트리 인터페이스를 통해 태스크 정의를 타이핑하거나 커트/페이스트할 수 있도록 텍스트 엔트리 인터페이스를 제공할 수도 있다. 일부 경우에, 태스크를 등록하기 위한 요청은, 태스크 정의에서 특정된 소프트웨어 이미지에 대응하는 하나 이상의 소프트웨어 이미지에 의해 달성될 수도 있다. 일부 구현예들에서, 요청은 태스크 정의에 연관되도록 하나 이상의 클러스터 ID를 특정할 수도 있다. 다른 구현예들에서, 요청은 태스크 정의에 연관되도록 하나 이상의 컨테이너 인스턴스 ID를 특정할 수도 있다. 또 다른 구현예들에서, 태스크 정의는 임의의 특정된 클러스터나 컨테이너 인스턴스와는 독립적으로 등록될 수도 있다.
단계(904)에서, 컴퓨팅 자원 서비스 제공자는 요청자가 요청이 충족되도록 충분한 권한을 갖고 있는지를 결정한다. 예를 들어, 요청자는, 아이덴티티와 자격 증명서의 보유 증명을 RegisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들로서 제공하였을 수도 있다. 예를 들어, 요청자는, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성되는 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하기 위한 컴퓨터 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서, 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 도 15의 인증 시스템(1518) 등의 인증 서비스에 그 아이덴티티와 증명을 제공할 수도 있고, 이어서, 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 보안 정책 및/또는 역할이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 아이덴티티를 결정하지 못했거나(예를 들어, 보안 데이터베이스에서 발견되지 않은 경우), 그 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하거나(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티가 확인될 수 없다면, 프로세스(900)를 수행하는 시스템은 프로세스(900)에서 더는 진행하지 않을 수도 있다. 프로세스(900)를 수행하는 시스템은, 요청자에 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 보안 로그에 인증 실패를 등록할 수도 있다. 그렇지 않고 요청자가 인증되고 RegisterTaskDefinition 요청이 충족되도록 충분한 자격 증명서를 갖는 것으로 결정되면, 프로세스(900)를 수행하는 시스템이 단계(906)로 진행할 수도 있다.
단계(906)에서, 프로세스(900)를 수행하는 시스템은 도 2와 관련하여 설명한 데이터베이스(216) 등의 데이터 저장소에 태스크 정의를 저장할 수도 있다. 일부 구현예들에서, 태스크 정의는 컴퓨팅 자원 서비스 제공자의 계정의 고객 ID에 연관되어 등록될 수도 있다. 다른 구현예들에서, 태스크 정의는, 웹사이트, 컴퓨팅 자원 서비스 제공자, 또는 컴퓨팅 자원 서비스 제공자(예를 들어, 온라인 시장으로부터 태스크 정의를 구매한 구매자)로부터 태스크 정의를 취득한 사용자의 아이덴티티에 등록될 수도 있다. 또 다른 구현예들에서, 태스크 정의는, 하나 이상의 클러스터 ID 및/또는 컨테이너 인스턴스 ID에 저장 및 링크될 수도 있다. 일단 저장되면, 태스크 정의에 대하여 고유한 태스크 정의 ID는 컴퓨팅 자원 서비스 제공자에 의해 또는 데이터베이스에 의해 생성될 수도 있다. 또한, 일부 구현예들에서, 데이터베이스에 미리 저장되어 있는 태스크 정의를 업데이트하도록 태스크 정의 ID에 RegisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출이 제공될 수도 있다는 점에 주목한다. 즉, 요청자는, 업데이트된 태스크 정의 및 기존의 태스크 정의 ID를 RegisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들로서 제출할 수도 있고, 컴퓨팅 자원 서비스 제공자는, 기존의 태스크 정의 ID에 대응하는 태스크 정의 엔트리를 위치파악하고 태스크 정의 ID에 대응하는 태스크 정의를 업데이트된 태스크 정의로 업데이트할 수도 있다.
따라서, 단계(908)에서, 프로세스(900)를 수행하는 시스템은, 그 태스크 정의 ID를, 태스크 정의 등록 성공의 확인으로서 및 요청자가 데이터베이스에 저장된 태스크 정의를 후일에 특정하는 방식으로서 요청자에 제공할 수도 있다. 일부 경우에, 하나 이상의 소프트웨어 이미지는 RegisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출을 수반할 수도 있고, 이러한 소프트웨어 이미지들은 동일한 또는 다른 데이터 저장소에 태스크 정의로서 저장될 수도 있다. 일부 경우에, 이러한 소프트웨어 이미지들은 태스크 정의 ID에 의해 참조될 수도 있는 반면, 다른 경우에, 소프트웨어 이미지들은, 저장된 태스크 정의의 태스크 정의 ID와 함께 요청자에 제공될 수도 있는 소프트웨어 이미지 ID를 수신할 수도 있다.
도 10은 다양한 실시예에 따라 태스크를 시작하기 위한 프로세스(1000)의 일례를 도시하는 블록도이다. 프로세스(1000)는, 데이터 센터의 서버, 컴퓨터 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(1000)는, 태스크를 시작하기 위한 요청이 수신되고, 요청자가 인증되고, 인증되면, 태스크를 개시할 적절한 위치가 결정되고, 태스크가 개시되는, 일련의 동작들을 포함한다.
단계(1002)에서, 컴퓨팅 자원 서비스 제공자는 태스크를 시작하도록 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 일부 경우에, 이 애플리케이션 프로그래밍 인터페이스 호출은, 고객 또는 컨테이너 서비스의 외부에 있는 다른 엔티티로부터 프론트엔드 서비스를 통해 수신될 수도 있다. 다른 경우에, 이 애플리케이션 프로그래밍 인터페이스 호출은, 태스크를 시작하도록 스케줄러로부터의 통신에 응답하여 컨테이너 에이전트에 의해 행해질 수도 있다. StartTask 애플리케이션 프로그래밍 인터페이스는, 예를 들어, 하나 이상의 실행가능 애플리케이션 파일로부터 또는 소프트웨어 컨테이너의 이미지로부터 실행되는 소프트웨어 컨테이너를 시작하는 데 사용될 수도 있다. StartTask 애플리케이션 프로그래밍 인터페이스 호출은, 데이터베이스(216) 등의 데이터 저장소에 저장된 태스크 정의에 대한 하나 이상의 태스크 정의 ID를 위한 파라미터를 포함할 수도 있다. 일부 경우에는, 태스크 정의 ID보다는 태스크 정의 자체가, StartTask 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터로서 전달될 수도 있다. 다른 경우에, 하나 이상의 태스크 정의 파일의 위치를 나타내는 파라미터들(예를 들어, 유니폼 리소스 로케이터, 네트워크 자원 로케이터, 파일 경로 등)은 StartTask 애플리케이션 프로그래밍 인터페이스에 파라미터들로서 전달될 수도 있다. 또 다른 경우에, 컨테이너 서비스는 별도의 프로그램 정의 없이 태스크를 시작하도록 구성될 수도 있으며, 예를 들어, StartTask 애플리케이션 프로그래밍 인터페이스는 디폴트 파라미터들을 가질 수도 있고, 디폴트로부터 벗어나거나 요청자로부터 요청되는 태스크를 시작하기 위한 임의의 정보가, StartTask 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터들로서 전달될 수도 있다.
StartTask 애플리케이션 프로그래밍 인터페이스는, 또한, 베이스 컨테이너 이미지들을 나타내는 소프트웨어 이미지들을 위한 하나 이상의 이미지 ID를 파라미터로서 수락할 수도 있다. 일부 경우에는, 이미지 파일의 위치를 나타내는 파라미터가 이미지 파일 대신에 전달될 수도 있다. 다른 경우에, 태스크 정의는, 태스크로서 실행되는 것을 시작하도록 컨테이너 소프트웨어를 위치파악하기 위한 정보를 포함할 수도 있다. 요청자는, 또한, 태스크 또는 태스크들이 시작되어야 하는 클러스터들을 나타내도록 하나 이상의 클러스터 ID를 StartTask 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터들로서 특정할 수도 있다. 유사하게, 요청자는, 태스크 또는 태스크들이 시작되어야 하는 컨테이너 인스턴스들을 나타내도록 하나 이상의 컨테이너 인스턴스 ID를 StartTask 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터들로서 특정할 수도 있다. 클러스터들의 ID는 ListClusters 애플리케이션 프로그래밍 인터페이스 호출을 통해 취득될 수도 있다. 등록된 컨테이너 인스턴스들의 ID는 DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출로부터 취득될 수도 있다.
단계(1004)에서, 컴퓨팅 자원 서비스 제공자는 요청자가 요청이 충족되도록 충분한 권한을 갖고 있는지를 결정한다. 예를 들어, 요청자는, 아이덴티티와 자격 증명서의 보유 증명을 StartTask 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들로서 제공하였을 수도 있다. 예를 들어, 요청자는, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성되는 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하기 위한 컴퓨터 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서, 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 도 15의 인증 시스템(1518) 등의 인증 서비스에 그 아이덴티티와 증명을 제공할 수도 있고, 이어서, 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 보안 정책 및/또는 역할이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 아이덴티티를 결정하지 못했거나(예를 들어, 보안 데이터베이스에서 발견되지 않은 경우), 그 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하거나(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티가 확인될 수 없으면, 프로세스(1000)를 수행하는 시스템은 프로세스(1000)에서 더는 진행하지 않을 수도 있다. 프로세스(1000)를 수행하는 시스템은, 요청자에 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 보안 로그에 인증 실패를 등록할 수도 있다. 그렇지 않고 요청자가 인증되고 StartTask 요청이 충족되도록 충분한 자격 증명서를 갖는 것으로 결정되면, 프로세스(1000)를 수행하는 시스템이 단계(1006)로 진행할 수도 있다.
단계(1006)에서, 프로세스(1000)를 수행하는 시스템은 태스크를 시작할 컨테이너 인스턴스를 결정할 수도 있다. 일부 실시예들에서, 도 2의 스케줄러(208) 등의 컨테이너 서비스의 스케줄러는, 배치 기법에 따라 태스크 또는 태스크들을 시작해야 하는 특정된 클러스터들의 컨테이너 인스턴스 또는 컨테이너 인스턴스들의 리스트를 결정할 수도 있다. 배치 기법은, 라운드 로빈, 의사 랜덤 확률 배치 기법, 또는 컨테이너 상태(예를 들어, 현재 이용가능한 자원들의 양) 등을 고려하는 배치 기법을 포함하는 다양한 배치 기법 중 임의의 것일 수도 있다. 일부 구현예들에서, 계정의 고객은 가상 기계 인스턴스 내에 스케줄러 애플리케이션을 설치하였을 수도 있다. 이러한 구현예들에서, StartTask 애플리케이션 프로그래밍 인터페이스 호출은 설치된 스케줄러의 위치를 나타내는 리소스 로케이터 또는 ID를 파라미터로서 수신할 수도 있고, 프로세스(1000)는, 태스크 또는 태스크들을 개시해야 하는 컨테이너 인스턴스를 결정하도록 프로세스(1000)를 수행하는 시스템이 설치된 스케줄러와 통신하는 것을 더 포함할 수도 있다. 일부 경우에, 특정된 태스크는 이미 시작되었을 수도 있다. 이러한 경우에, 프로세스(1000)를 수행하는 시스템은 실행되는 태스크를 중단하고 태스크를 재시작할 수도 있다. 이러한 경우들 중 일부에 있어서, 프로세스(1000)를 수행하는 시스템은, 태스크가 이미 시작되었음을 요청자에게 통지할 수도 있고, 실행되는 태스크를 중단하고 태스크를 재시작할지에 관한 확인을 요청할 수도 있다.
일부 상황에서, 프로세스(1000)를 수행하는 시스템은, 태스크 또는 태스크들을 개시하도록 컨테이너 인스턴스의 리스트 또는 클러스터에서 이용가능한 자원들이 불충분하다고 결정할 수도 있다. 예를 들어, 태스크 정의 파일은, 특정된 클러스터의 컨테이너 인스턴스들에서 현재 이용가능한 것보다 많은 메모리를 소프트웨어 컨테이너들에 할당되도록 특정하였을 수도 있다. 이러한 경우들 중 일부에 있어서, 프로세스(1000)를 수행하는 시스템은, 소정의 기간(예를 들어, 10밀리 초) 동안 대기할 수도 있고, 시스템이 태스크들을 시작할 수 있을 때까지 또는 임계 시도 횟수가 발생할 때까지 반복적으로 태스크 시작을 다시 시도할 수도 있다.
프로세스(1000)를 수행하는 시스템이 태스크들을 시작할 수 없다면, 시스템은, 발생한 구체적인 문제점으로 인해 태스크들을 시작할 수 없었음을 요청자에게 통지할 수도 있다. 일부 구현예들에서, 태스크를 시작하도록 이용가능한 자원들이 불충분하면, 컨테이너 서비스는 태스크 시작을 지원하게끔 추가 자원들을 생성하도록 자동 스케일링 서비스와 상호 작용할 수도 있다. 예를 들어, 프로세스(1000)를 수행하는 시스템은, 하나 이상의 새로운 컨테이너 인스턴스를 인스턴스화하고 클러스터에 등록할 수도 있고 그 새로운 컨테이너 인스턴스의 태스크 또는 태스크들을 시작할 수도 있다. 다른 일례로, 프로세스(1000)를 수행하는 시스템은, 컨테이너 인스턴스의 스냅샷을 취할 수도 있고, 업그레이드된 자원들(예를 들어, 처리 능력과 메모리)로 컨테이너 인스턴스를 재시작할 수도 있고, 스냅샷으로부터 컨테이너 인스턴스를 복구할 수도 있다.
단계(1008)에서, 프로세스(1000)를 수행하는 시스템은, 결정된 컨테이너 인스턴스에 특정된 애플리케이션 또는 컨테이너 이미지를 개시할 수도 있다. 전술한 바와 같이, 컨테이너 인스턴스에 특정된 애플리케이션 또는 컨테이너 이미지를 개시하는 것은, 태스크를 위한 하나 이상의 태스크 ID를 생성하고, 결정된 컨테이너 인스턴스 ID에 연관지어 도 2의 데이터베이스(216) 등의 데이터 저장소에 태스크 ID를 저장하고, 컨테이너를 위한 별도의 네임스페이스를 특정하고, 컨테이너에 특정된 자원들을 할당하고, 특정된 컨테이너 이미지 및/또는 특정된 애플리케이션을 컨테이너 네임스페이스에 복구하는 것을 포함할 수도 있다. 이는 태스크 정의에서 정의된 각 컨테이너마다 수행될 수도 있다. 또한, 태스크 정의는, 컨테이너들 간의 링키지(linkage)를 나타낼 수도 있으며, 예를 들어, 웹 서비스로서 기능하도록 구성된 컨테이너는 데이터베이스로서 기능하도록 구성된 컨테이너에 링크될 수도 있고, 이러한 두 개의 컨테이너는 개시되는 경우 서로 통신하도록 구성될 수도 있다. 마찬가지로, 일부 구현예들에서, 컨테이너들은 컴퓨팅 자원 서비스 제공자의 다른 서비스들의 특정된 자원들을 공유할 수도 있다. 예를 들어, 태스크 정의 파일은, 두 개의 컨테이너가 구체적인 블록레벨 데이터 저장 볼륨을 공유하는 것을 특정할 수도 있다.
일단 개시되면, 프로세스를 수행하는 시스템은, 태스크 또는 태스크들이 성공적으로 개시되었음을 요청자에게 통지할 수도 있다. 일부 경우에, 이는, 태스크가 시작되었으며 태스크가 이제 구체적인 클러스터 또는 인스턴스 내에서 실행되고 있음을 나타내도록 감시 인터페이스의 아이콘 변경 사항일 수도 있다. 다른 경우에, 이는 이벤트 로그 사항일 수도 있다. 또 다른 경우에, 요청자는, 실행되는 태스크에 대응하는 유효 태스크 ID를 시스템으로부터 수신함으로써 통지받을 수도 있다. 실행되는 태스크들의 리스트는 ListTasks 애플리케이션 프로그래밍 인터페이스 호출로부터 취득될 수도 있다. 컨테이너의 건강, 컨테이너의 연령, 및 컨테이너에 의한 자원 사용 등의 태스크에 관한 데이터는, DescribeTask 애플리케이션 프로그래밍 인터페이스를 사용하고 태스크 ID를 특정함으로써 취득될 수도 있다.
도 11은 다양한 실시예에 따라 태스크를 중단하기 위한 프로세스(1100)의 일례를 도시하는 블록도이다. 프로세스(1100)는, 데이터 센터의 서버, 컴퓨터 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(1100)는, 태스크 중단을 특정하는 태스크 중단 요청이 수신되고, 요청자가 인증되고, 특정된 태스크가 중단되고 이에 따라 태스크에 할당된 자원들을 자유롭게 하는 일련의 동작들을 포함한다.
단계(1102)에서, 컴퓨팅 자원 서비스 제공자는 실행되는 태스크를 중단하도록 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 일부 경우에, 애플리케이션 프로그래밍 인터페이스 호출은, 고객 또는 컨테이너 서비스의 외부에 있는 다른 엔티티로부터 프론트엔드 서비스로 수신될 수도 있다. 다른 경우에, 컨테이너 에이전트는, 태스크를 중단하기 위한 스케줄러로부터의 통신에 응답하여 애플리케이션 프로그래밍 인터페이스 호출을 행할 수도 있다. StopTask는, 실행되는 태스크들의 하나 이상의 태스크 ID를 파라미터로서 수신할 수도 있다. 단계(1104)에서, 컴퓨팅 자원 서비스 제공자는, 요청이 충족되도록 요청자가 충분한 권한을 갖는지를 결정한다. 예를 들어, 요청자는, 아이덴티티 및 자격 증명서의 보유 증명을 StopTask 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터로서 제공하였을 수도 있다. 예를 들어, 요청자는, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성되는 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하기 위한 컴퓨터 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서, 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 도 15의 인증 시스템(1518) 등의 인증 서비스에 그 아이덴티티와 증명을 제공할 수도 있고, 이어서, 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 보안 정책 및/또는 역할이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 아이덴티티를 결정하지 못했거나(예를 들어, 보안 데이터베이스에서 발견되지 않은 경우), 그 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하거나(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티가 확인될 수 없으면, 프로세스(1100)를 수행하는 시스템은 프로세스(1100)에서 더는 진행하지 않을 수도 있다. 프로세스(1100)를 수행하는 시스템은, 요청자에 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 보안 로그에 인증 실패를 등록할 수도 있다. 그렇지 않고 요청자가 인증되고 StopTask 요청이 충족되도록 충분한 자격 증명서를 갖는 것으로 결정되면, 프로세스(1100)를 수행하는 시스템이 단계(1106)로 진행할 수도 있다.
단계(1106)에서, 특정된 실행되는 태스크 또는 태스크들은 중단될 수도 있고, 그 태스크 또는 태스크들에 미리 할당된 자원들은 자유롭게 될 수도 있고/가비지(garbage) 수집되어 호스트 컨테이너 인스턴스의 이용가능 자원들에 추가될 수도 있다. 일부 경우에, 태스크 ID는 비활성화되고, 아카이브되고, 또는 데이터 저장소로부터 제거될 수도 있다. 다른 경우에, 태스크의 상태는 "Stopped"로 업데이트될 수도 있고, 이러한 상태 변화는 실행되는 태스크의 상태를 보기 위한 임의의 인터페이스에 반영될 수도 있다. 또한, 요청자는, 태스크 ID에 연관된 태스크가 성공적으로 중단되었음을 통지받을 수도 있다.
도 12는 다양한 실시예에 따라 컨테이너 인스턴스를 등록해제하기 위한 프로세스(1200)의 일례를 도시하는 블록도이다. 프로세스(1200)는, 데이터 센터의 서버, 컴퓨터 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(1200)는, 태스크 정의를 등록해제하기 위한 요청이 수신되고, 요청자가 인증되고, 요청자가 충분한 자격 증명서를 갖는다면, 태스크 정의가 등록해제될 수도 있는, 일련의 동작들을 포함한다.
단계(1202)에서, 컴퓨팅 자원 서비스 제공자는 태스크를 등록해제하기 위한 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 일부 경우에, 이 요청은 고객 또는 다른 엔티티로부터 컨테이너 서비스로 수신될 수도 있다. 태스크의 등록해제는, 태스크를 비활성화하고, 아카이브하고, 또는 태스크를 등록하기 위한 프로세스(900)에 따라 등록된 태스크를 데이터 저장소로부터 제거하는 것을 포함할 수도 있다. 따라서, 어떠한 태스크를 등록해제하는지를 식별하도록, 프로세스(900)에서 생성된 태스크 정의 ID에는 DeregisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출이 제공될 수도 있다.
단계(1204)에서, 컴퓨팅 자원 서비스 제공자는 요청자가 요청이 충족되도록 충분한 권한을 갖고 있는지를 결정한다. 예를 들어, 요청자는, 아이덴티티와 자격 증명서의 보유 증명을 DeregisterTaskDefinition 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들로서 제공하였을 수도 있다. 예를 들어, 요청자는, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성되는 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하기 위한 컴퓨터 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서, 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 도 15의 인증 시스템(1518) 등의 인증 서비스에 그 아이덴티티와 증명을 제공할 수도 있고, 이어서, 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 보안 정책 및/또는 역할이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 아이덴티티를 결정하지 못했거나(예를 들어, 보안 데이터베이스에서 발견되지 않은 경우), 그 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하거나(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티가 확인될 수 없으면, 프로세스(1200)를 수행하는 시스템은 프로세스(1200)에서 더는 진행하지 않을 수도 있다. 프로세스(1200)를 수행하는 시스템은, 요청자에 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 보안 로그에 인증 실패를 등록할 수도 있다. 그렇지 않고 요청자가 인증되고 DeregisterTaskDefinition 요청이 충족되도록 충분한 자격 증명서를 갖는 것으로 결정되면, 프로세스(1200)를 수행하는 시스템이 단계(1206)로 진행할 수도 있다.
단계(1206)에서, 프로세스(1200)를 수행하는 시스템은, 태스크 정의를 비활성화하고, 아카이브하고, 또는 태스크 정의가 단계(906)에서 저장된 데이터 저장소로부터 태스크 정의를 제거할 수도 있다. 태스크 정의와, 클러스터, 컨테이너 인스턴스, 소프트웨어 이미지, 또는 다른 컨테이너 간의 관계를 나타내는 임의의 데이터 엔트리도 비활성화, 아카이브, 또는 제거될 수도 있다. 일부 경우에, 태스크 정의에 연관된 태스크 또는 태스크들이 실행되고 있으면, 그 태스크들은 태스크를 중단하기 위한 프로세스(1100)에 따라 중단될 수도 있다. 일단 태스크가 등록해제되면, 요청자는 태스크의 성공적인 등록해제를 통지받을 수도 있다.
도 13은 다양한 실시예에 따라 컨테이너 인스턴스를 등록해제하기 위한 프로세스(1300)의 일례를 도시하는 블록도이다. 프로세스(1300)는, 데이터 센터의 서버, 컴퓨터 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(1300)는, 등록된 컨테이너 인스턴스를 클러스터로부터 등록해제하기 위한 요청이 수신되고, 요청자가 인증되고, 컨테이너 인스턴스가 클러스터로부터 등록해제되는, 일련의 동작들을 포함한다.
단계(1302)에서, 컴퓨팅 자원 서비스 제공자는, 컨테이너 인스턴스를 등록해제하도록 고객 또는 다른 엔티티로부터 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 컨테이너 인스턴스 등록해제는, 특정된 클러스터로부터 컨테이너 인스턴스를 등록하기 위한 프로세스(800)에 따라 등록되어 있는 컨테이너 인스턴스를 연관해제하는 것을 포함할 수도 있다. 이러한 연관은, DeregisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들로서 전달되는 등록된 컨테이너 인스턴스의 ID와 클러스터 ID 간의 관계로서, 도 2의 데이터베이스(216) 등의 데이터베이스에서 찾을 수도 있다. 일부 경우에, 이 요청은, 프론트엔드 서비스로부터 수신될 수도 있고 컨테이너 에이전트와 통신될 수도 있으며, 이러한 컨테이너 에이전트는 각 컨테이너 인스턴스를 등록해제한다. 다른 경우에, 이 요청은 컨테이너 에이전트로부터 프론트엔드 서비스로 향할 수도 있다. 예를 들어, 컨테이너 인스턴스가 디프로비저닝(deprovision)되고, 클러스터로부터 제거되고, 다른 클러스터에 전달되면, 컨테이너 에이전트는, 컨테이너 인스턴스를 이 컨테이너 인스턴스가 현재 등록되어 있는 클러스터로부터 자동으로 등록해제하려할 수도 있다. 이러한 경우들 중 일부에 있어서, 요청자는, DescribeCluster 애플리케이션 프로그래밍 인터페이스 호출에 의해 밝혀질 수도 있는 바와 같이, 등록된 컨테이너의 인스턴스 ID를 특정할 수도 있고, 프로세스(1300)를 수행하는 시스템은 특정된 컨테이너 인스턴스를 그 컨테이너 인스턴스가 등록되어 있는 모든 클러스터로부터 등록해제할 수도 있다. 일부 경우에, 컨테이너 인스턴스가 다수의 클러스터에 등록되어 있으면, 프로세스(1300)를 수행하는 시스템은, 어떠한 클러스터 또는 클러스터들로부터 컨테이너 인스턴스가 등록해제되어야 하는지에 대한 확인을 요청자에게 촉구할 수도 있다. 다른 경우에, 인스턴스 ID와 클러스터 ID 모두는 DeregisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터들로서 전달될 수도 있고, 요청자가 단계(1304)에서 결정된 바와 같이 충분한 자격 증명서를 갖는다면, 컨테이너 인스턴스가 특정된 클러스터로부터 등록해제될 수도 있다.
단계(1304)에서, 컴퓨팅 자원 서비스 제공자는, 요청이 충족되도록 요청자가 충분한 권한을 갖는지를 결정한다. 예를 들어, 요청자는, 아이덴티티 및 자격 증명서의 보유 증명을 DeregisterContainerInstance 애플리케이션 프로그래밍 인터페이스 호출에 대한 파라미터로서 제공하였을 수도 있다. 예를 들어, 요청자는, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성되는 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하기 위한 컴퓨터 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서, 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 도 15의 인증 시스템(1518) 등의 인증 서비스에 그 아이덴티티와 증명을 제공할 수도 있고, 이어서, 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 보안 정책 및/또는 역할이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 아이덴티티를 결정하지 못했거나(예를 들어, 보안 데이터베이스에서 발견되지 않은 경우), 그 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하거나(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티가 확인될 수 없으면, 프로세스(1300)를 수행하는 시스템은 프로세스(1300)에서 더는 진행하지 않을 수도 있다. 프로세스(1300)를 수행하는 시스템은, 요청자에 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 보안 로그에 인증 실패를 등록할 수도 있다. 그렇지 않고 요청자가 인증되고 RegisterContamerInstance 요청이 충족되도록 충분한 자격 증명서를 갖는 것으로 결정되면, 프로세스(1300)를 수행하는 시스템이 단계(1306)로 진행할 수도 있다.
단계(1306)에서, 프로세스(1300)를 수행하는 시스템은, 컨테이너 인스턴스가 등록된 데이터 저장소에서 특정된 인스턴스 ID를 찾을 수도 있다. 컨테이너 인스턴스가 등록해제되기 전에 특정된 컨테이너 인스턴스 내에서 실행되는 태스크들이 태스크를 중단하기 위한 프로세스(1100)에 따라 중단될 수도 있다는 점에 주목한다. 일부 경우에, 태스크들이 특정된 컨테이너 인스턴스에서 실행되면, 프로세스(1300)를 수행하는 시스템은, 시스템이 컨테이너 인스턴스를 등록해제하기 전에 실행되는 태스크의 중단에 대한 요청자로부터의 확인을 요청할 수도 있다. 전술한 바와 같이, 일부 구현예들에서, 컨테이너 인스턴스는 다수의 클러스터에 등록될 수도 있고, 요청자는, 컨테이너 인스턴스가 클러스터들의 서브세트로부터만 등록해제되는 것을 특정할 수도 있다. 이러한 구현들에서, 특정된 클러스터들의 서브세트에 연관된 태스크들이 컨테이너 인스턴스 내에서 실행되고 요청자에 의해 중단되는 것으로 확인되면, 특정된 클러스터들의 서브세트에 연관된 태스크들만이 중단될 수도 있고, 나머지 실행되는 태스크들은 그대로 남을 수도 있다.
단계(1308)에서, 인스턴스 ID가 데이터베이스에서 발견되고 관련 태스크들이 중단된 후, 인스턴스 ID는 비활성화되고, 아카이브되고, 또는 데이터 저장소로부터 제거될 수도 있다. 일부 경우에, 인스턴스의 상태는 "Deregistered"로 업데이트될 수도 있고, 이러한 상태 변화는 클러스터의 상태를 보기 위한 임의의 인터페이스에 반영될 수도 있다. 컨테이너 인스턴스가 다수의 클러스터에 등록되어 있으면, 특정된 컨테이너 인스턴스가 특정된 클러스터들의 서브세트로부터만 연관해제될 수도 있고, 컨테이너 인스턴스는 클러스터들의 나머지에 대하여 등록된 상태로 유지될 수도 있다. 일단 등록해제되면, 요청자는, 또한, 인스턴스에 연관된 컨테이너 인스턴스가 그 컨테이너 인스턴스가 등록해제되는 클러스터 또는 클러스터에서 성공적으로 등록해제되었음을 통지받을 수도 있다.
본 개시 내용의 일부 구현예들에서, 어떠한 클러스터들에도 등록되지 않은 컨테이너 인스턴스들은 디프로비저닝될 수도 있고, 컨테이너 인스턴스들에 할당된 임의의 자원들은 자유롭게 될 수도 있다. 대안으로, 컨테이너 인스턴스들은 클러스터를 통해 등록되도록 이용가능한 인스턴스들의 큐에 추가될 수도 있다. 이러한 식으로, 컨테이너 인스턴스를 등록하기 위한 프로세스(800)에 따라 클러스터에 컨테이너 인스턴스를 등록할 필요가 있을 때, 컨테이너 인스턴스는, 등록을 위해 새로운 컨테이너 인스턴스를 프로비저닝하는 오버헤드 없이 이용가능한 컨테이너 인스턴스들로부터 선택될 수도 있다.
도 14는 다양한 실시예에 따라 클러스터를 삭제하기 위한 프로세스(1400)의 일례를 도시하는 블록도이다. 프로세스(1400)는, 데이터 센터의 서버, 컴퓨터 자원 서비스 제공자의 분산 시스템의 다수의 컴퓨팅 장치, 또는 도 16과 관련하여 설명하는 전자 클라이언트 장치(1602)와 같은 임의의 전자 클라이언트 장치 등의 임의의 적절한 시스템에 의해 수행될 수도 있다. 프로세스(1400)는, 클러스터를 삭제하기 위한 요청이 수신되고, 요청자가 인증되고, 클러스터의 임의의 컨테이너 인스턴스들이 등록해제되고, 클러스터가 삭제되거나 비활성화되는, 일련의 동작들을 포함한다.
단계(1402)에서, 컴퓨팅 자원 서비스 제공자는 클러스터를 삭제하도록 고객 또는 다른 엔티티로부터 애플리케이션 프로그래밍 인터페이스 호출을 수신한다. 삭제될 클러스터는, 컴퓨팅 자원 서비스 제공자에 의해 제공되는 디폴트 클러스터일 수도 있고, 클러스터를 생성하기 위한 프로세스(700)에 따라 생성된 클러스터일 수도 있다. DeleteCluster 애플리케이션 프로그래밍 인터페이스는 삭제될 클러스터에 대한 클러스터 ID를 파라미터로서 수신할 수도 있다. 이에 따라, 클러스터 ID와 클러스터 메타데이터는 도 2의 데이터베이스(216) 등의 데이터 저장소에 저장될 수도 있다. 이 클러스터 ID는, 클러스터가 생성되었을 때 요청자에게 제공되었을 수도 있고, 또는 ListClusters 애플리케이션 프로그래밍 인터페이스 호출로부터 결정될 수도 있다.
단계(1404)에서, 컴퓨팅 자원 서비스 제공자는 요청자가 요청이 충족되도록 충분한 권한을 갖고 있는지를 결정한다. 예를 들어, 요청자는, 아이덴티티와 자격 증명서의 보유 증명을 DeleteCluster 애플리케이션 프로그래밍 인터페이스 호출의 파라미터들로서 제공하였을 수도 있다. 예를 들어, 요청자는, 패스워드, 암호화 해시/패스워드의 다이제스트, 서명 암호화 키에 의해 생성되는 암호화 디지털 서명, 또는 요청자의 아이덴티티를 인가하기 위한 컴퓨터 자원 서비스 제공자에 의해 검증가능한 다른 비밀 키 등의 자격 증명서에 대한 액세스를 증명하는 데 충분한 정보를, 아이덴티티에 대응하는 자격 증명서의 보유 증명으로서, 공급할 수도 있다. 컴퓨팅 자원 서비스 제공자는, 도 15의 인증 시스템(1518) 등의 인증 서비스에 그 아이덴티티와 증명을 제공할 수도 있고, 이어서, 이러한 인증 시스템은 요청자의 아이덴티티와 자격 증명서의 증명을 검증할 수도 있다. 일단 요청자의 아이덴티티가 검증되면, 컴퓨팅 자원 서비스 제공자 또는 인증 서비스는, 요청이 충족될 수 있도록 아이덴티티에 연관된 보안 정책 및/또는 역할이 충분한 권한을 허가하는지를 결정할 수도 있다.
컴퓨팅 자원 서비스 제공자가 아이덴티티를 결정하지 못했거나(예를 들어, 보안 데이터베이스에서 발견되지 않은 경우), 그 아이덴티티를 증명하는 데 자격 증명서의 증명이 불충분하거나(예를 들어, 패스워드가 틀림), 또는 그 외에는 요청자의 아이덴티티가 확인될 수 없으면, 프로세스(1400)를 수행하는 시스템은 프로세스(1400)에서 더는 진행하지 않을 수도 있다. 프로세스(1400)를 수행하는 시스템은, 요청자에 에러 메시지로 인증 실패에 응답할 수도 있고 및/또는 보안 로그에 인증 실패를 등록할 수도 있다. 그렇지 않고 요청자가 인증되고 DeleteCluster 요청이 충족되도록 충분한 자격 증명서를 갖는 것으로 결정되면, 프로세스(1400)를 수행하는 시스템이 단계(1406)로 진행할 수도 있다.
단계(1406)에서, 임의의 컨테이너 인스턴스들이 특정된 클러스터에 등록되어 있으면, 컨테이너 인스턴스들의 각각은 컨테이너 인스턴스를 등록해제하기 위한 프로세스(1300)에 따라 클러스터로부터 등록해제될 수도 있다. 단계(1408)에서, 특정된 클러스터 ID에 연관된 클러스터에 대하 엔트리 또는 엔트리들은, 데이터 저장소에 위치할 수도 있고, 비활성화되고, 아카이브되고, 또는 데이터 저장소로부터 제거될 수도 있다. 클러스터가 비활성화되거나 아카이브되면, 클러스터에 관한 메타데이터가 보존될 수도 있고, 클러스터가, 재활성화에 대한 인증을 갖는 엔티티에 의해 재활성화될 수도 있다. 이어서, 요청자는, 클러스터가 성공적으로 삭제되었으며 컨테이너 인스턴스들이 클러스터 ID에 더는 등록될 수 없다고 통지받을 수도 있다. 예를 들어, 클러스터의 상태를 표시하는 인터페이스는 특정된 클러스터에 대한 "Deleted"를 반영하도록 업데이트될 수도 있고, 클러스터는 ListClusters 애플리케이션 프로그래밍 인터페이스 호출 응답에 더 이상 반영되지 않을 수도 있다.
도 15는 적어도 일 실시예에 따라 컴퓨팅 자원 서비스 제공자에 접속된 고객의 일례를 도시한다. 컴퓨팅 자원 서비스 제공자(1502)는 고객(1504)에게 다양한 서비스를 제공할 수도 있고, 고객(1504)은 인터페이스(1526)를 통해 컴퓨팅 자원 서비스 제공자(1502)와 통신할 수도 있으며, 이러한 인터페이스는 웹 서비스 인터페이스 또는 다른 임의의 유형의 고객 인터페이스일 수도 있다. 도 15에서는 컴퓨팅 자원 서비스 제공자(1502)의 서비스들을 위한 하나의 인터페이스(1526)를 도시하고 있지만, 각 서비스는 자신의 고유한 인터페이스를 가질 수도 있고, 일반적으로, 서비스들의 서브세트들이, 인터페이스(1526)에 더하여 또는 그 대안으로, 대응하는 인터페이스들을 가질 수도 있다. 고객(1504)은, 정보를 유지하고 다양한 지리적 위치에 있을 수도 있는 고용인들에게 전달하도록 컴퓨팅 자원 서비스 제공자(1502)에 의해 제공되는 서비스들 중 하나 이상을 이용할 수도 있는 조직일 수도 있다. 또한, 고객(1504)은, 원격에서 위치하는 워킹 그룹에 콘텐츠를 전달하도록 컴퓨팅 자원 서비스 제공자(1502)의 서비스들을 이용하는 개별인일 수도 있다. 도 15에 도시한 바와 같이, 고객(1504)은 네트워크(1506)를 통해 컴퓨팅 자원 서비스 제공자(1502)와 통신할 수도 있고, 이때, 네트워크(1506)는 인터넷, 인트라넷, 또는 인터넷 서비스 제공자(ISP) 네트워크 등의 통신 네트워크일 수도 있다. 고객(1504)으로부터 컴퓨팅 자원 서비스 제공자(1502)로의 일부 통신은, 컴퓨팅 자원 서비스 제공자(1502)가 전술한 하나 이상의 실시예 또는 그 변형예에 따라 동작하게 할 수도 있다.
컴퓨팅 자원 서비스 제공자(1502)는 다양한 컴퓨팅 자원 서비스를 자신의 고객들에게 제공할 수도 있다. 이 예에서, 컴퓨팅 자원 서비스 제공자(1502)에 의해 제공되는 서비스들은, 가상 컴퓨터 시스템 서비스(1508), 블록레벨 데이터 저장 서비스(1510), 암호화 서비스(1512), 주문형 데이터 저장 서비스(1514), 통지 서비스(1516), 인증 시스템(1518), 정책 관리 서비스(1520), 컨테이너 서비스(1522), 및 하나 이상의 다른 서비스(1524)를 포함한다. 전술한 모든 실시예가 도 15를 참조하여 설명하는 서비스들(1508 내지 1524)을 포함하는 것은 아니며 명시적으로 설명되는 서비스들에 더하여 또는 그 대안으로 추가 서비스들이 제공될 수도 있다는 점에 주목한다. 전술한 바와 같이, 서비스들(1508 내지 1524)의 각각은, 고객(1504)이 웹 서비스 요청을 통해 다양한 서비스에 대한 적절히 구성된 API 호출을 제출할 수 있게 하는 하나 이상의 웹 서비스 인터페이스를 포함할 수도 있다. 또한, 서비스들의 각각은, (예를 들어, 가상 컴퓨터 시스템 서비스(1508)의 가상 컴퓨터 시스템이 주문형 데이터 저장 서비스(1514)에 데이터를 저장하거나 주문형 데이터 저장 서비스로부터 데이터를 검색할 수 있도록 및/또는 블록레벨 데이터 저장 서비스(1510)에 의해 제공되는 하나 이상의 블록레벨 데이터 저장 장치에 액세스할 수 있도록) 서비스들이 서로 액세스할 수 있게 하는 하나 이상의 서비스 인터페이스를 포함할 수도 있다.
가상 컴퓨터 시스템 서비스(1508)는, 고객(1504)을 대신하여 가상 기계 인스턴스들을 인스턴스화하도록 구성된 컴퓨팅 자원들의 집합일 수도 있다. 고객(1504)은, 컴퓨팅 자원 서비스 제공자(1502)에 의해 호스팅되고 동작하는 물리적 컴퓨팅 장치들에서 인스턴스화되는 가상 컴퓨터 시스템들을 프로비저닝하고 동작시키도록 (적절히 구성되고 인증된 API 호출을 통해) 가상 컴퓨터 시스템 서비스(1508)와 상호 작용할 수도 있다. 가상 컴퓨터 시스템은, 다양한 목적을 위해 사용될 수도 있는데, 예를 들어, 웹사이트를 지원하는 서버로서 동작하도록, 비지니스 애플리케이션을 동작하도록, 또는 일반적으로, 고객을 위한 컴퓨팅 파워로서 기능하도록 사용될 수도 있다. 가상 컴퓨터 시스템을 위한 다른 애플리케이션들은, 데이터베이스 애플리케이션, 전자 상거래 애플리케이션, 비지니스 애플리케이션, 및/또는 기타 애플리케이션을 지원하는 것일 수도 있다. 도 15에는 가상 컴퓨터 시스템 서비스(1508)가 도시되어 있지만, 가상화 또는 인스턴스화를 이용하지 않고 대신에 전용 또는 공유 컴퓨터/서버 및/또는 기타 물리적 장치의 컴퓨팅 자원들을 프로비저닝하는 컴퓨터 시스템 또는 컴퓨터 시스템 서비스 등의 컴퓨팅 자원 서비스 제공자(1502)에서 다른 임의의 컴퓨터 시스템 또는 컴퓨터 시스템 서비스를 이용할 수도 있다.
블록레벨 데이터 저장 서비스(1510)는, 블록레벨 저장 장치(및/또는 그 가상화)를 사용하여 고객(1504)을 위한 데이터를 저장하도록 함께 동작하는 하나 이상의 컴퓨팅 자원들을 포함할 수도 있다. 블록레벨 데이터 저장 서비스(1510)의 블록레벨 저장 장치들은, 예를 들어, 컴퓨터 시스템을 위한 논리적 유닛들(예를 들어, 가상 드라이브)로서 기능하도록 가상 컴퓨터 시스템 서비스(1508)의 가상 컴퓨터 시스템들에 동작가능하게 부착될 수도 있다. 블록레벨 저장 장치는, 가상 컴퓨터 시스템 서비스(1508)가 일시적인 데이터 저장만을 제공할 수도 있는 대응하는 가상 컴퓨터 시스템에 의해 사용되는/생성되는 데이터의 영구적 저장을 가능하게 할 수도 있다.
컴퓨팅 자원 서비스 제공자(1502)는, 또한, 암호화 서비스(1512)를 포함한다. 암호화 서비스(1512)는, 고객들의 키들을 암호화된 형태로 저장하도록 컴퓨팅 자원 서비스 제공자(1502)의 하나 이상의 저장 서비스를 이용할 수도 있고, 이때, 키들은 암호화 서비스(1512)의 구체적인 장치들만 액세스할 수 있는 고객(1504) 키를 복호화하도록 사용될 수도 있다.
컴퓨팅 자원 서비스 제공자(1502)는 주문형 데이터 저장 서비스(1514)를 더 포함한다. 주문형 데이터 저장 서비스(1514)는, 데이터를 저장 및/또는 액세스하게 위해 요청들을 동기식으로 처리하도록 구성된 컴퓨팅 자원들의 집합일 수도 있다. 주문형 데이터 저장 서비스(1514)는, 데이터에 대한 요청에 응답하여 그 데이터가 제공될 수 있도록, 주문형 데이터 저장 서비스(1514)가 데이터를 빠르게 위치파악 및 검색할 수 있게 하는 컴퓨팅 자원들(예를 들어, 데이터베이스)을 사용하여 동작할 수도 있다. 예를 들어, 주문형 데이터 저장 서비스(1514)는, 데이터 오브젝트에 대한 요청이 검색되면, 그 요청에 응답하여 데이터 오브젝트가 제공될 수 있는 (또는 데이터 오브젝트의 스트리밍이 시작될 수 있는) 방식으로, 저장된 데이터를 유지할 수도 있다. 전술한 바와 같이, 주문형 데이터 저장 서비스(1514)에 저장된 데이터는 데이터 오브젝트들로 조직될 수도 있다. 데이터 오브젝트들은, 크기에 대한 소정의 제약을 제외하고는 임의의 크기를 가질 수도 있다. 따라서, 주문형 데이터 저장 서비스(1514)는 다양한 크기의 많은 데이터 오브젝트를 저장할 수도 있다. 주문형 데이터 저장 서비스(1514)는, 주문형 데이터 저장 서비스(1514)에 의해 저장된 데이터 오브젝트와 관련하여 데이터 오브젝트들을, 검색을 위해 또는 다른 동작을 수행하기 위해 고객(1504)에 의해 사용될 수도 있는 데이터 오브젝트들의 식별자들과 연관짓는 중요 값 저장소로서 동작할 수도 있다.
도 15에 도시한 환경에서는, 통지 서비스(1516)가 포함되어 있다. 통지 서비스(1516)는, 웹 서비스 또는 다른 인터페이스 및 브라우저 기반 관리 콘솔을 제공하도록 함께 구성된 컴퓨팅 자원들의 집합을 포함할 수도 있다. 관리 콘솔은, 어떤 고객들이 통지를 수신하고자 하는지에 대한 토픽을 구성하고, 애플리케이션(또는 사람)을 구성하고, 클라이언트를 토픽에 가입시키고, 메시지를 공개하고, 또는 클라이언트의 선택 프로토콜(즉, 특히, HTTP, 이메일, 및 SMS)로 메시지 전달을 구성하도록 사용될 수 있다. 통지 서비스(1516)는, 새로운 정보와 업데이트를 위해 "poll"을 주기적으로 체크할 필요 없이, "push" 기구를 이용하여 클라이언트들에게 통지할 수도 있다. 또한, 통지 서비스(1516)는, 특히, 가상 컴퓨터 시스템 서비스(1508)에서 실행되는 애플리케이션 감시, 워크플로우 시스템, 시간 감응형 정보 업데이트, 모바일 애플리케이션 등의 다양한 목적을 위해 사용될 수도 있다.
도 15에 도시한 바와 같이, 컴퓨팅 자원 서비스 제공자(1502)는, 다양한 실시예에서, 인증 시스템(1518)과 정책 관리 서비스(1520)를 포함한다. 인증 시스템(1518)은, 일 실시예에서, 고객의 사용자들의 인증에 관련된 동작들을 수행하도록 구성된 컴퓨터 시스템(즉, 컴퓨팅 자원들의 집합)이다. 예를 들어, 서비스들(1508 내지 1516, 1520 내지 1524) 중 하나는, 사용자 요청이 진정한 것인지 여부를 나타내는 정보를 응답 수신하도록 사용자로부터의 정보를 인증 시스템(1518)에 제공할 수도 있다.
정책 관리 서비스(1520)는, 일 실시예에서, 컴퓨팅 자원 서비스 제공자(1502)의 (고객(1504) 등의) 고객을 대신하여 정책을 관리하도록 구성된 컴퓨터 시스템이다. 정책 관리 서비스(1520)는, 정책 관리에 관한 요청을 고객이 제출할 수 있게 하는 인터페이스를 포함할 수도 있다. 이러한 요청은, 예를 들어, 기존의 정책 등의 인벤토리를 제공하는 것처럼, 고객을 위한 또는 다른 관리 액션을 위한 정책을 추가, 삭제, 변경, 또는 그 외에는 수정하기 위한 요청일 수도 있다.
컴퓨팅 자원 서비스 제공자(1502)는, 다양한 실시예에서, 또한 컨테이너 서비스(1522)를 갖는다. 컨테이너 서비스(1522)는, 도 2의 컨테이너 서비스(200)에 대하여 설명한 방식으로 컴퓨팅 자원 서비스 제공자의 고객(1504)을 위한 소프트웨어 컨테이너와 컨테이너 인스턴스를 생성 및 관리하도록 구성된다. 컨테이너 서비스(1522)는, 블록레벨 데이터 저장 서비스(1510) 등의 컴퓨팅 자원 서비스 제공자(1502)의 다른 자원들을 사용하도록 구성될 수도 있다. 예를 들어, 컨테이너 서비스(1522)는, 컨테이너 인스턴스들 내에서 실행되는 태스크들이 하나 이상의 특정된 블록레벨 데이터 저장 볼륨을 공유하게 할 수도 있다.
컴퓨팅 자원 서비스 제공자(1502)는, 또한, 고객(1504)의 요구에 적어도 부분적으로 기초하여 하나 이상의 다른 서비스(1524)를 유지한다. 예를 들어, 컴퓨팅 자원 서비스 제공자(1502)는 고객(1504)을 위해 데이터베이스 서비스를 유지할 수도 있다. 데이터베이스 서비스는, 하나 이상의 고객(1504)을 위해 하나 이상의 데이터베이스를 실행하도록 함께 동작하는 컴퓨팅 자원들의 집합일 수도 있다. 고객(1504)은, 적절히 구성된 API 호출을 이용함으로써 데이터베이스 서비스로부터의 데이터베이스를 동작 및 관리할 수도 있다. 이에 따라, 고객(1504)이 데이터베이스의 동작을 유지하고 잠재적으로 확장할 수도 있다. 다른 서비스로는, 오브젝트 레벨 아카이브 데이터 저장 서비스, 및 다른 서비스를 관리 및/또는 감시하는 서비스가 있지만, 이에 한정되지 않는다.
특정하게 달리 언급하지 않는 한, 개시된 실시예들을 설명하는 관점에서 통상적으로 명령어들이 도움없이 수행하지 않는 동작들(예컨대, 데이터의 전송, 계산 등)을 수행하는 실행가능 명령어들(코드, 애플리케이션, 에이전트 등이라고도 함)에 관한 표현의 사용은, 그 명령어들이 기계에 의해 실행되고 이에 따라 기계가 특정된 동작을 수행한다는 점에 주목한다.
본 개시 내용의 실시예들은 이하의 절들의 관점에서 설명될 수 있다:
1. 컴퓨터 구현 방법으로서,
실행가능 명령어들로 구성된 하나 이상의 컴퓨터 시스템의 제어 하에,
클러스터, 및 클러스터를 식별하는 클러스터 식별자를 생성하는 단계로서, 클러스터는 하나 이상의 소프트웨어 컨테이너를 실행하도록 구성되고 클러스터에 등록된 컴퓨팅 자원 서비스 제공자의 고객에 연관된 컨테이너 인스턴스들의 세트를 나타내는 것인, 생성하는 단계;
컴퓨터 시스템 인스턴스 내에서 실행되도록 구성된 소프트웨어 컨테이너의 이미지를 취득하는 단계로서, 소프트웨어 컨테이너는, 데이터, 및 컴퓨터 시스템 인스턴스에서의 실행 시 컴퓨터 시스템 인스턴스 내에서 실행되는 다른 프로세스들로부터 격리되는 하나 이상의 프로세스를 포함하고, 이미지는 그 이미지가 생성될 때의 소프트웨어 컨테이너의 구체적인 상태의 전체 카피인, 상기 취득하는 단계;
태스크 정의에 따라 소프트웨어 컨테이너의 이미지를 포함하는 이미지들의 세트를 개시하기 위한 요청을 수신하는 단계로서, 태스크 정의는, 그룹으로서 시작하도록 배정된, 소프트웨어 컨테이너를 포함하는 소프트웨어 컨테이너들의 세트를 식별하고, 소프트웨어 컨테이너들의 세트에 대한 자원들의 할당을 특정하고, 요청은 클러스터의 클러스터 식별자를 특정하는, 상기 수신하는 단계;
하나 이상의 이미지의 개시를 위한 요청에 응답하여,
소프트웨어 컨테이너들의 세트를 개시하도록 클러스터 식별자에 의해 특정되는 클러스터에 의해 나타내지는 컨테이너 인스턴스들의 세트의 서브세트를 결정하는 단계로서, 하나 이상의 컨테이너 인스턴스가 배치 기법에 따라 결정되는 것인, 결정하는 단계; 및
실행되는 소프트웨어 컨테이너들이 태스크 정의에서 특정된 자원들의 할당에 따라 자원들을 할당받도록 컨테이너 인스턴스들의 세트의 서브세트 내에서 실행되고 있는 소프트웨어 컨테이너들로서 이미지들의 세트를 개시하는 단계를 포함하는, 컴퓨터 구현 방법.
2. 제1절에 있어서, 컨테이너 인스턴스들의 세트의 서브세트는, 배치 기법과 태스크 정의에 적어도 부분적으로 기초하여 컨테이너 인스턴스들의 세트의 서브세트를 결정하도록 구성된 멀티테넌트 스케줄러 서비스에 의해 결정되는, 컴퓨터 구현 방법.
3. 제1절 또는 제2절에 있어서, 이미지들의 세트는, 컨테이너 인스턴스들의 세트의 서브세트 내에서 실행되고 있는 개별적인 컨테이너 에이전트들에 의해 개시되고, 개별적인 컨테이너 에이전트들은, 각 컨테이너 인스턴스들에서 실행되고 실행되는 소프트웨어 컨테이너들과 각 컨테이너 인스턴스들의 외부에 있는 엔티티들 간의 중개자들로서 기능하도록 각각 구성된 소프트웨어 애플리케이션들인, 컴퓨터 구현 방법.
4. 제1절 내지 제3절 중 어느 한 절에 있어서, 실행되는 소프트웨어 컨테이너들에 대한 로그 정보와 메트릭을 원격측정 서비스에 제공하는 단계를 더 포함하고, 원격측정 서비스는, 메트릭과 로그 정보를 집계하고 집계된 메트릭과 로그 정보를 자원 감시 서비스에 제공하도록 구성가능한, 컴퓨터 구현 방법.
5. 시스템으로서,
하나 이상의 프로세서; 및
하나 이상의 프로세서에 의한 실행 시 시스템으로 하여금 적어도 백엔드 서비스와 스케줄러를 구현하게 하는 명령어들을 포함하는, 메모리를 포함하되,
백엔드 서비스는,
대응하는 컨테이너 에이전트들의 세트를 호스팅하는 컨테이너 인스턴스들의 세트에 대한 배치 요청들을 수신하고,
태스크 정의에 의해 특정된 자원들이 컨테이너 인스턴스들의 세트 내에서 이용가능함을 확보하고, 그리고
컨테이너 인스턴스들의 세트 중 실행되고 있는 컨테이너들의 세트의 상태에 관한 정보를 컨테이너 에이전트들의 세트로부터 수신하고,
정보를 스케줄러에 제공하고; 그리고
스케줄러는, 배치 기법, 태스크 정의, 및 백엔드 서비스에 의해 제공되는 정보에 적어도 부분적으로 기초하여,
컨테이너들의 세트의 개별적인 컨테이너들을 내부에 배치할, 클러스터에 등록된 컨테이너 인스턴스들의 세트의 서브세트를 결정하고,
태스크 정의에 의해 특정된 개별적인 컨테이너들에 할당될 자원들에 따라 서브세트 내의 개별적인 컨테이너들을 위한 자원들을 할당할 것을 컨테이너 에이전트에 통지하고, 그리고
서브세트 내에서의 태스크 정의에 의해 특정되는 소프트웨어 이미지들의 위치로부터 컨테이너들의 세트를 실행되고 있는 컨테이너들의 세트로서 개시할 것을 컨테이너 에이전트에 통지하는, 시스템.
6. 제5절에 있어서, 컨테이너 인스턴스들의 세트의 서브세트는 컴퓨팅 자원 서비스 제공자의 멀티테넌트 스케줄러 서비스에 의해 결정되는, 시스템.
7. 제5절 또는 제6절에 있어서, 컨테이너 인스턴스들의 세트의 서브세트는 컴퓨팅 자원 서비스 제공자의 고객이 설치한 스케줄러 애플리케이션에 의해 결정되는, 시스템.
8. 제5절 내지 제7절 중 어느 한 절에 있어서, 명령어들은, 하나 이상의 프로세서에 의한 실행 시, 시스템으로 하여금 실행되고 있는 컨테이너들의 세트 내의 프로세스들에 관한 원격측정 서비스를 위한 데이터를 수집하는 원격측정 에이전트를 구현하게 하는 명령어들을 더 포함하고, 원격측정 서비스는 데이터를 집계하고 집계된 데이터를 자원 감시 서비스에 제공하는, 시스템.
9. 제5절 내지 제8절 중 어느 한 절에 있어서, 시스템으로 하여금 컨테이너 인스턴스들의 세트의 서브세트를 결정하게 하는 명령어들은, 하나 이상의 프로세서에 의한 실행 시 시스템으로 하여금 컨테이너들의 세트의 개별적인 컨테이너들에 할당될 자원들 및 클러스터에 등록된 컨테이너 인스턴스들의 세트의 개별적인 컨테이너 인스턴스들 내의 이용가능한 자원들의 양에 적어도 부분적으로 기초하여 컨테이너 인스턴스들의 세트의 서브세트를 결정하게 하는 명령어들을 포함하는, 시스템.
10. 제5절 내지 제9절 중 어느 한 절에 있어서, 명령어들은, 하나 이상의 프로세서에 의한 실행 시 시스템으로 하여금, 태스크 정의가 컨테이너들의 세트에 대하여 컨테이너들의 세트의 개별적인 컨테이너들에 대한 소프트웨어 이미지들의 위치 및 컨테이너들의 세트의 개별적인 컨테이너들에 할당될 자원들을 특정하도록 태스크 정의를 생성하는 템플릿 서비스를 구현하게 하는 명령어들을 더 포함하는, 시스템.
11. 제5절 내지 제10절 중 어느 한 절에 있어서, 명령어들은, 하나 이상의 프로세서에 의한 실행 시 시스템으로 하여금, 컨테이너 인스턴스들의 세트 내에서 실행되고 있는 컨테이너 에이전트들의 세트를 구현하게 하는 명령어들을 더 포함하고, 컨테이너 에이전트들의 세트는,
컨테이너 인스턴스들의 세트를 클러스터에 등록하고,
자원들을 할당하도록 스케줄러로부터의 통지에 응답하여 컨테이너 인스턴스들의 세트에 대한 자원들을 할당하고,
컨테이너들의 세트를 개시하도록 스케줄러로부터의 통지에 응답하여 컨테이너들의 세트를 실행되고 있는 컨테이너들의 세트로서 개시하고,
컨테이너 인스턴스들의 세트 내의 실행되고 있는 컨테이너들의 세트의 상태를 감시하고, 그리고
상태에 관한 정보를 백엔드 서비스에 제공하는, 시스템.
12. 제11절에 있어서, 컨테이너 에이전트들의 세트는, 또한, 개별적인 컨테이너들의 정상 동작, 개별적인 컨테이너들의 상태, 및 개별적인 컨테이너들에 의한 에러 발생을 나타내는 주기적 신호들 중 하나 이상을 제공하도록 구성된, 시스템.
13. 제11절 또는 제12절에 있어서, 컨테이너 에이전트들의 세트를 구현하는 명령어들은, 하나 이상의 프로세서에 의한 실행 시 시스템으로 하여금,
실행되고 있는 컨테이너들의 세트의 실행을 중단하고;
컨테이너 인스턴스들의 세트를 클러스터로부터 등록해제하고; 그리고
클러스터를 삭제하도록 컨테이너 에이전트들의 세트를 구현하게 하는 명령어들을 더 포함하는, 시스템.
14. 실행가능 명령어들이 저장된 비일시적 컴퓨터 판독가능 저장 매체로서,
명령어들은, 컴퓨터 시스템의 하나 이상의 프로세서에 의한 실행시, 컴퓨터 시스템으로 하여금,
컴퓨터 시스템 인스턴스 내에서 실행되도록 구성된 소프트웨어 컨테이너의 소프트웨어 이미지를 취득하는 단계;
소프트웨어 컨테이너를 위한 자원들의 할당을 특정하는 태스크 정의에 따라 소프트웨어 이미지를 개시하기 위한 요청을 수신하는 단계;
태스크 정의에 따라 소프트웨어 이미지를 개시하도록 컨테이너 인스턴스들의 세트를 결정하는 단계로서, 컨테이너 인스턴스들의 세트는 배치 기법에 따라 결정되는 것인, 결정하는 단계; 및
소프트웨어 이미지를 태스크 정의에 따라 컨테이너 인스턴스들의 세트의 하나 이상의 실행되는 소프트웨어 컨테이너로서 개시하는 단계를 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
15. 제14절에 있어서, 배치 기법은 라운드 로빈 배치 기법 또는 확률 배정 배치 기법 중 하나인, 비일시적 컴퓨터 판독가능 저장 매체.
16. 제14절 또는 제15절에 있어서, 명령어들은, 하나 이상의 프로세서에 의한 실행시, 애플리케이션 프로그래밍 인터페이스 호출에 응답하여, 컴퓨터 시스템으로 하여금 컴퓨터 시스템 인스턴스들의 세트를 나타내기 위한 클러스터를 생성하게 하는 명령어들을 더 포함하고, 컴퓨터 시스템 인스턴스가 세트의 멤버인, 비일시적 컴퓨터 판독가능 저장 매체.
17. 제14절 내지 제16절 중 어느 한 절에 있어서, 컴퓨터 시스템으로 하여금 컨테이너 인스턴스들의 세트를 결정하게 하는 명령어들은, 하나 이상의 프로세서에 의한 실행시, 컴퓨터 시스템으로 하여금 소프트웨어 이미지에 배정된 하나 이상의 보안 그룹들 또는 보안 역할들에 적어도 부분적으로 기초하여 컨테이너 인스턴스들의 세트를 결정하게 하는 명령어들을 더 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
18. 제14절 내지 제17절 중 어느 한 절에 있어서, 명령어들은, 하나 이상의 프로세서에 의한 실행 시 컴퓨터 시스템으로 하여금 애플리케이션 프로그래밍 인터페이스 호출에 응답하여 컴퓨터 시스템 인스턴스를 컴퓨터 시스템 인스턴스들의 세트를 나타내는 클러스터에 등록하게 하는 명령어들을 더 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
19. 제14절 내지 제18절 중 어느 한 절에 있어서, 명령어들은, 하나 이상의 프로세서에 의한 실행 시 컴퓨터 시스템으로 하여금 애플리케이션 프로그래밍 인터페이스 호출에 응답하여 태스크 정의를 컴퓨팅 자원 서비스 제공자의 고객의 계정에 등록하게 하는 명령어들을 더 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
20. 제14절 내지 제19절 중 어느 한 절에 있어서, 소프트웨어 이미지를 개시하기 위한 요청은, 태스크 정의에 따라 소프트웨어 이미지를 개시하도록 애플리케이션 프로그래밍 인터페이스 호출을 통해 수신되는 요청인, 비일시적 컴퓨터 판독가능 저장 매체.
21. 제14절 내지 제20절 중 어느 한 절에 있어서, 컨테이너 인스턴스들의 세트는 클러스터에 등록된 컨테이너 인스턴스들의 서브세트이고, 명령어들은, 하나 이상의 프로세서에 의한 실행 시 컴퓨터 시스템으로 하여금 애플리케이션 프로그래밍 인터페이스 호출에 응답하여 어떤 소프트웨어 이미지들이 클러스터에 등록된 컨테이너 인스턴스들에서 실행되고 있는지 및 클러스터에 등록된 컨테이너 인스턴스들에서 어떤 자원들이 이용가능한지에 관한 정보를 리턴하게 하는 명령어들을 더 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
도 16은 다양한 실시예에 따라 양태들을 구현하기 위한 예시적인 환경(1600)의 양태들을 도시한다. 인식할 수 있는 바와 같이, 웹 기반 환경이 설명의 목적으로 사용되었지만, 다양한 실시예를 구현하기 위해 상이한 환경들이 적절하게 사용될 수도 있다. 환경은, 적절한 네트워크(1604)를 통해 요청, 메시지, 또는 정보를 전송 및/또는 수신하고 일부 실시예들에서는 정보를 장치의 사용자에게 다시 전달하도록 동작가능한 임의의 적절한 장치를 포함할 수 있는 전자 클라이언트 장치(1602)를 포함한다. 이러한 클라이언트 장치의 예로는, 퍼스널 컴퓨터, 셀 폰, 핸드헬드 메시징 장치, 랩톱 컴퓨터, 태블릿 컴퓨터, 셋톱 박스, 퍼스널 데이터 어시스턴트, 임베딩 컴퓨터 시스템, 전자 북 판독기 등이 있다. 네트워크는, 인트라넷, 인터넷, 셀룰러 네트워크, 로컬 영역 네트워크, 위성 네트워크, 또는 다른 임의의 네트워크, 및/또는 이들의 조합을 포함하는 임의의 적절한 네트워크를 포함할 수 있다. 이러한 시스템에 사용되는 구성요소들은 선택되는 네트워크 및/또는 환경에 따라 적어도 부분적으로 달라질 수 있다. 이러한 네트워크를 통해 통신하기 위한 프로토콜 및 구성요소는 공지되어 있으므로 상세히 설명하지 않는다. 네트워크를 통한 통신은 유선 또는 무선 접속 및 이들의 조합에 의해 가능해질 수 있다. 이 예에서, 네트워크는, 요구를 수신하고 이에 응답하여 컨텐츠를 제공하는 웹 서버(1606)를 포함하므로 인터넷을 포함하지만, 다른 네트워크에 대해, 통상의 기술자에게 자명하듯이, 유사한 목적을 제공하는 대체 장치가 사용될 수 있다.
예시적인 환경은 애플리케이션 서버(1608) 및 데이터 저장소(1610)를 포함한다. 적절한 데이터 저장소로부터 데이터를 획득하는 것과 같은 태스크를 수행하기 위해 상호 작용할 수 있는, 여러 애플리케이션 서버들, 계층 또는 기타 요소들, 프로세스들 또는 구성요소들이 연결되거나 구성될 수도 있음을 이해해야 한다. 서버들은, 사용되는 경우, 하드웨어 장치 또는 가상 컴퓨터 시스템과 같은 다양한 방식으로 구현될 수도 있다. 일부 상황에서 서버는, 컴퓨터 시스템에서 실행되는 프로그래밍 모듈을 가리킬 수도 있다. 사용되는 바와 같이, 달리 명시되거나 문맥에서 명확한 경우를 제외하고, "데이터 저장소"라는 용어는, 임의의 표준, 분산, 가상, 또는 클러스터 환경에서 데이터 서버, 데이터베이스, 데이터 저장 장치, 및 데이터 저장 매체의 임의의 조합과 임의의 개수를 포함할 수도 있는, 데이터를 저장, 액세스, 및 검색할 수 있는 임의의 장치 또는 장치들의 조합을 의미한다. 애플리케이션 서버는, 애플리케이션의 데이터 액세스 및 비즈니스 로직의 일부 또는 전부를 처리하는, 클라이언트 장치를 위한 하나 이상의 애플리케이션의 양태들을 실행하도록 필요한 바와 같이 데이터 저장소와 통합하기 위한 적절한 하드웨어, 소프트웨어, 및 펌웨어를 포함할 수 있다. 애플리케이션 서버는, 데이터 저장소와 협력하여 액세스 제어 서비스를 제공할 수도 있고, 텍스트, 그래픽, 오디오, 비디오, 및/또는 사용자에게 제공될 수 있는 다른 콘텐츠를 포함하는 콘텐츠를 생성할 수 있으며, 이는, 하이퍼텍스트 마크업 언어(HyperText Markup Language)("HTML"), 확장성 마크업 언어(Extensible Markup Language)(XML), 자바스크립트(JavaScript), 캐스케이딩 스타일 시트(Cascading Style Sheets)("CSS") 또는 다른 적절한 클라이언트측 구조화 언어의 형태로 웹 서버에 의해 사용자에게 서빙될 수도 있다. 클라이언트 장치에 전달되는 콘텐츠는, 청각적으로, 시각적으로, 및/또는 터치, 미각, 및/또는 냄새를 포함한 다른 감각을 통해 사용자가 인지할 수 있는 형태를 포함하는 하나 이상의 형태로 콘텐츠를 제공하도록 클라이언트 장치에 의해 처리될 수도 있다. 전자 클라이언트 장치(1602)와 애플리케이션 서버(1608) 간의 모든 요청 및 응답의 처리는, PHP: 하이퍼텍스트 프리프로세서(Hypertext Preprocessor)("PHP"), Python, Ruby, Perl, Java, HTML, XML, 또는 이 예에서 적절한 다른 서버측 구조화된 언어를 사용하여 웹 서버에 의해 처리될 수 있다. 전술한 구조화된 코드가 다른 곳에서 설명되는 바와 같이 임의의 적절한 장치 또는 호스트 기계에서 실행될 수 있으므로, 웹과 애플리케이션 서버들은 요구되지 않으며 구성요소들의 예들일 뿐이라는 점을 이해해야 한다. 또한, 단일 장치에 의해 수행되는 것으로 기술된 동작들은, 문맥상 명백하지 않으면, 분산 및/또는 가상 시스템을 형성할 수도 있는 다수의 장치에 의해 집합적으로 수행될 수도 있다.
데이터 저장소(1610)는, 본 개시 내용의 구체적인 양태에 관련된 데이터를 저장하기 위한 몇몇 별도의 데이터 테이블, 데이터베이스, 데이터 문서, 동적 데이터 저장 기법, 및/또는 다른 데이터 저장 기구 및 매체를 포함할 수 있다. 예를 들어, 도시된 데이터 저장소는, 생산측 콘텐츠를 서빙하는 데 사용될 수 있는 생산 데이터(1612) 및 사용자 정보(1616)를 저장하기 위한 기구를 포함할 수도 있다. 데이터 저장소는, 또한, 보고, 분석, 또는 다른 목적을 위해 사용될 수 있는 로그 데이터(1614)를 저장하기 위한 기구를 포함하는 것으로 도시된다. 페이지 이미지 정보 및 액세스 권한 정보와 같이 데이터 저장소에 저장될 필요가 있을 수도 있는 다른 많은 양태들이 있을 수 있고, 이러한 정보는 적절하게 상기 열거된 기구들 중 임의의 기구에 적절하게 또는 데이터 저장소(1610)의 추가 기구에 저장될 수 있다. 데이터 저장소(1610)는, 애플리케이션 서버(1608)로부터 명령어들을 수신하고 이에 응답하여 데이터를 획득, 업데이트, 또는 그 외에는 처리하도록 관련된 로직을 통해 동작가능하다. 애플리케이션 서버(1608)는 수신된 명령어들에 응답하여 정적 데이터, 동적 데이터, 또는 정적 및 동적 데이터의 조합을 제공할 수도 있다. 웹 로그(블로그), 쇼핑 애플리케이션, 뉴스 서비스, 및 기타 애플리케이션에서 사용되는 데이터와 같은 동적 데이터는, 전술한 바와 같은 서버측 구조화된 언어에 의해 생성될 수도 있고, 또는 애플리케이션 서버에서 동작하거나 애플리케이션 서버의 제어 하에 동작하는 CMS(Content Management System)에 의해 제공될 수도 있다. 일례로, 사용자는, 사용자에 의해 동작되는 장치를 통해, 특정 유형의 항목에 대한 검색 요청을 제출할 수도 있다. 이 경우, 데이터 저장소는, 사용자 정보에 액세스하여 사용자의 신원을 확인하고 카탈로그 세부 정보에 액세스하여 해당 유형의 항목에 대한 정보를 취득할 수 있다. 이어서, 정보는, 사용자가 전자 클라이언트 장치(1602) 상의 브라우저를 통해 볼 수 있는 웹 페이지에 열거되는 결과와 같이 사용자에게 리턴될 수 있다. 특정 관심 항목에 대한 정보는 전용 클라이언트 페이지 또는 브라우저의 창에서 볼 수 있다. 그러나, 본 개시 내용의 실시예들은 반드시 웹 페이지의 문맥으로 한정되지는 않지만, 요청이 반드시 콘텐츠에 대한 요청이 아닌 일반적인 요청 처리에 더욱 일반적으로 적용될 수도 있다는 점에 주목해야 한다.
각각의 서버는, 통상적으로 해당 서버의 일반적인 관리 및 동작을 위한 실행 가능한 프로그램 명령어들을 제공하는 운영 시스템을 포함하며, 통상적으로 서버의 프로세서에 의해 실행될 때 서버로 하여금 의도된 기능을 수행할 수 있게 하는 명령어들을 포함하는 컴퓨터 판독가능 저장매체(예를 들어, 하드 디스크, 랜덤 액세스 메모리, 판독 전용 메모리 등)를 포함한다. 서버의 운영 시스템 및 일반적인 기능을 위한 적절한 구현예들은, 공지되어 있거나 상업적으로 이용가능하며, 특히 공개 내용에 비추어 통상의 기술자에 의해 용이하게 구현된다.
환경은, 일 실시예에서, 하나 이상의 컴퓨터 네트워크 또는 직접 접속을 사용하여 통신 링크를 통해 상호 접속되는 몇몇 컴퓨터 시스템들과 구성요소들을 이용하는 분산 및/또는 가상 컴퓨팅 환경이다. 그러나, 통상의 기술자는, 이러한 시스템이 도 16에 도시된 것보다 적은 또는 많은 구성요소들을 갖는 시스템에서 동등하게 동작할 수 있음을 알 것이다. 따라서, 도 16의 예시적인 환경(1600) 예의 설명은 본질적으로 예시적인 것이며 본 개시 내용의 범위를 제한하는 것으로 간주해서는 안 된다.
다양한 실시예는, 또한, 일부 경우에 다수의 애플리케이션 중 임의의 애플리케이션을 동작시키는 데 사용될 수 있는 하나 이상의 사용자 컴퓨터, 컴퓨팅 장치, 또는 처리 장치를 포함할 수 있는 매우 다양한 운영 환경에서 구현될 수 있다. 사용자 또는 클라이언트 장치는, 모바일 소프트웨어를 실행하고 다수의 네트워킹과 메시징 프로토콜을 지원할 수 있는 셀룰러, 무선, 및 핸드헬드 장치들뿐만 아니라 표준 운영 시스템을 실행하는 데스크톱, 랩톱, 또는 태블릿 컴퓨터와 같은 다수의 범용 퍼스널 컴퓨터 중 임의의 것을 포함할 수도 있다. 또한, 이러한 시스템은, 상업적으로 이용가능한 다양한 운영 시스템 개발 및 데이터베이스 관리와 같은 목적을 위한 다른 공지된 애플리케이션들 중 임의의 것을 실행하는 다수의 워크스테이션을 포함할 수 있다. 이러한 장치들은, 또한, 더미 단말, 씬 클라이언트, 게임 시스템, 및 네트워크를 통해 통신할 수 있는 다른 장치와 같은 다른 전자 장치들을 포함할 수 있다. 또한, 이러한 장치들에는, 가상 기계, 하이퍼바이저, 및 네트워크를 통해 통신할 수 있는 기타 가상 장치와 같은 가상 장치들이 포함될 수 있다.
본 개시 내용의 다양한 실시예는, 전송 제어 프로토콜/인터넷 프로토콜("TCP/IP"), 사용자 데이터그램 프로토콜("UDP"), OSI(Open System Interconnection) 모델의 다양한 계층에서 동작하는 프로토콜, 파일 전송 프로토콜("FTP"), 범용 플러그 앤 플레이("UPnP"), 네트워크 파일 시스템("NFS"), 공통 인터넷 파일 시스템("CIFS"), 및 AppleTalk 등과 같은 상업적으로 이용가능한 다양한 프로토콜 중 임의의 것을 사용하여 통신을 지원하도록 통상의 기술자에게 익숙한 네트워크를 이용한다. 네트워크는, 예를 들어, 로컬 영역 네트워크, 광역 네트워크, 가상 사설 네트워크, 인터넷, 인트라넷, 엑스트라넷, 공중 교환 전화 네트워크, 적외선 네트워크, 무선 네트워크, 위성 네트워크, 및 이들의 임의의 조합을 포함할 수 있다.
웹 서버를 이용하는 실시예들에서, 웹 서버는, 하이퍼텍스트 전송 프로토콜("HTTP") 서버, FTP 서버, 공통 게이트웨이 인터페이스("CGI") 서버, 데이터 서버, 자바 서버, 아파치 서버, 및 비지니스 애플리케이션 서버를 포함하는, 다양한 서버 또는 미드티어 애플리케이션 중 임의의 것을 실행할 수도 있다. 서버(들)는, 또한, 예를 들어, 자바(Java)(등록상표), C, C# 또는 C++, 또는 임의의 스크립트 언어, 예컨대, Ruby, PHP, Perl, Python, 또는 TCL 등의 임의의 프로그래밍 언어로 기입된 하나 이상의 스크립트 또는 프로그램으로서 구현될 수도 있는 웹 애플리케이션을 실행함으로써, 사용자 디바이스로부터의 요청에 응답하여 프로그램 또는 스크립트를 실행할 수도 있다. 서버(들)는, 또한, 오라클(Oracle)(등록상표), 마이크로소프트(Microsoft)(등록상표), 사이베이스(Sybase)(등록상표) 및 IBM(등록상표)으로부터 상업적으로 이용가능한 것, MySQL, 포스트그레스(Postgres), SQ라이트(SQLite), 몽고디비(MongoDB) 등의 오픈 소스 서버, 및 구조화된 또는 구조화되지 않은 데이터를 저장, 검색, 및 액세스할 수 있는 다른 임의의 서버를 포함하는 데이터베이스 서버를 포함할 수도 있다. 데이터베이스 서버는, 테이블 기반 서버, 문서 기반 서버, 구조화되지 않은 서버, 관계형 서버, 비관계형 서버, 또는 이들의 조합, 및/또는 다른 데이터베이스 서버를 포함할 수도 있다.
환경은 상술한 바와 같이 다양한 데이터 저장소 및 다른 메모리 및 저장 매체를 포함할 수 있다. 이들은, 컴퓨터들 중 하나 이상에 대하여 로컬인(및/또는 그 하나 이상에 상주하는) 또는 네트워크에 걸친 컴퓨터들 중 임의의 컴퓨터 또는 모든 컴퓨터로부터 원격된 저장 매체와 같이 다양한 위치에 상주할 수 있다. 실시예들의 구체적인 세트에서, 정보는 통상의 기술자에게 익숙한 저장 영역 네트워크("SAN")에 상주할 수도 있다. 유사하게, 컴퓨터, 서버, 또는 다른 네트워크 장치에 기인하는 기능을 수행하기 위한 임의의 필요한 파일은 로컬로 및/또는 원격에서 적절하게 저장될 수도 있다. 시스템이 컴퓨터화된 장치들을 포함하는 경우, 각각의 이러한 장치는, 버스를 통해 전기적으로 결합될 수도 있는 하드웨어 요소들을 포함할 수 있으며, 요소들은, 예를 들어, 중앙 처리 유닛("CPU" 또는 "프로세서"), 입력 장치, 마우스, 키보드, 컨트롤러, 터치 스크린 또는 키패드), 및 출력 장치(예를 들어, 디스플레이 장치, 프린터, 또는 스피커)를 포함할 수 있다. 이러한 시스템은, 또한, 디스크 드라이브, 광학 저장 장치, 및 랜덤 액세스 메모리("RAM") 또는 판독 전용 메모리("ROM")와 같은 고체 상태 저장 장치 등의 하나 이상의 저장 장치, 및 탈착가능 매체 장치, 메모리 카드, 플래시 카드 등을 포함할 수도 있다.
이러한 장치들은, 또한, 컴퓨터 판독가능 저장 매체 판독기, 통신 장치(예를 들어, 모뎀, 무선 또는 유선 네트워크 카드, 적외선 통신 장치 등), 및 전술한 바와 같은 작업 메모리를 포함할 수 있다. 컴퓨터 판독가능 저장 매체 판독기는, 컴퓨터 판독가능 정보를 일시적으로 및/또는 더욱 영구적으로 포함, 저장, 전송, 및 검색하기 위한 저장 매체뿐만 아니라, 원격, 로컬, 고정, 및/또는 탈착가능 저장 장치를 나타내는 컴퓨터 판독가능 저장 매체와 접속될 수 있거나 이러한 컴퓨터 판독가능 저장 매체를 수용하도록 구성될 수도 있다. 시스템 및 다양한 장치는, 또한, 통상적으로, 클라이언트 애플리케이션 또는 웹 브라우저 등의 운영 시스템 및 클라이언트 애플리케이션을 포함하여 작업 메모리 장치 내에 위치하는 다수의 소프트웨어 애플리케이션, 모듈, 서비스, 또는 기타 요소를 포함한다. 대체 실시예들은 상술한 것으로부터의 많은 변형을 가질 수도 있음을 이해해야 한다. 예를 들어, 맞춤화된 하드웨어가 또한 사용될 수도 있고, 및/또는 특정 요소들이 하드웨어, 소프트웨어 (애플릿과 같은 포터블 소프트웨어를 포함), 또는 둘 모두로 구현될 수도 있다. 또한, 네트워크 입력/출력 장치와 같은 다른 컴퓨팅 장치에 대한 접속을 이용할 수도 있다.
코드 또는 코드의 일부를 포함하기 위한 저장 매체와 컴퓨터 판독가능 매체는, RAM, ROM, EEPROM, 플래시 메모리나 다른 메모리 기술, CD-ROM, DVD나 기타 광학 저장 장치, 자기 카세트, 자기 테이프, 자기 디스크 저장 장치, 또는 다른 자기 저장 장치, 또는 시스템 장치에 의해 액세스될 수 있고 원하는 정보를 저장하는 데 사용될 수 있는 다른 임의의 매체를 포함하는, 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 기타 데이터 등의 정보의 저장 및/또는 전송을 위한 임의의 방법이나 기술로 구현되는 휘발성과 비휘발성, 탈착가능과 탈착불가 매체들 등의 저장 매체와 통신 매체를 포함하는, 당업계에서 사용되거나 알려져 있는 임의의 적절한 매체를 포함할 수 있다. 제공되는 개시 내용과 교시에 기초하여, 통상의 기술자는 다양한 실시예를 구현하기 위한 다른 방식들 및/또는 방법들을 인식할 것이다.
이에 따라, 명세서 및 도면은 제한적인 의미라기보다는 예시적인 것으로 간주되어야 한다. 그러나, 청구범위에 기재된 바와 같이 본 개시 내용의 더욱 넓은 사상 및 범위를 벗어나지 않으면서 다양한 변경 및 수정이 이루어질 수 있음은 명백할 것이다.
다른 변형도 본 개시 내용의 사상 내에 있다. 따라서, 기술들은 다양한 수정 및 대안적인 구성에 영향을 받기 쉽지만, 이에 대한 소정의 예시된 실시예들은 도면에 도시되어 있고 위에서 상세히 설명되었다. 그러나, 본 발명을 개시된 특정 형태 또는 형태들로 한정하려는 것이 아니지만, 본 발명은 첨부된 청구범위에 정의된 바와 같이 본 발명의 정신 및 범위 내에 속하는 모든 변경, 대안적인 구성, 및 등가물을 포함하는 것임을 이해해야 한다.
실시예들을 기술할 때 (특히 이하의 청구범위의 문맥에서) "한", "하나", 및 "그", 및 유사한 지시자의 사용은, 달리 명시되거나 문맥에 의해 명확하게 모순되지 않는 한, 단수 및 복수를 모두 포함하는 것으로 해석되어야 한다. "포함하는"(comprising), "갖는", "포함하는"(including), 및 "포함하는"(containing)이라는 용어들은, 다른 언급이 없는 한, 개방형 용어들(즉, "포함하지만 이에 국한되지 않는"을 의미함)로 해석되어야 한다. "접속된"이라는 용어는, 수정되지 않고 물리적 접속을 의미하는 경우, 중간에 개입되는 것이 있더라도 부분적으로 또는 전체적으로 포함되거나, 부착되거나 함께 결합된 것으로서 해석되어야 한다. 값들의 범위의 인용은, 달리 명시되지 않는 한, 그 범위 내에 속하는 각각의 개별적인 값을 개별적으로 지칭하는 단축 방법으로서 기능하기 위한 것이며, 각각의 개별적인 값은 개별적으로 인용된 것처럼 명세서에 통합된다. 달리 명시되거나 문맥에 어긋나지 않는 한, "세트"(예를 들어, "항목들의 세트") 또는 "서브세트"라는 용어의 사용은 하나 이상의 멤버를 포함하는 비어 있지 않은 집합으로서 해석되어야 한다. 또한, 문맥에 의해 달리 언급되거나 모순되지 않는 한, 대응하는 세트의 "서브세트"라는 용어는 반드시 대응하는 세트의 적절한 서브세트를 나타내는 것은 아니지만, 서브세트 및 대응하는 세트는 동일할 수도 있다.
"A, B, 및 C 중 적어도 하나" 또는 "A, B 및 C 중 적어도 하나"와 같은 형태의 구들과 같은 결합적 언어는, 달리 명시하지 않거나 문맥에 분명히 모순되지 않는 한, 일반적으로 문항에 항목, A 또는 B 또는 C 또는 A와 B와 C의 세트의 어떠한 비어있지 않은 서브세트일 수 있도 있음을 제시하도록 일반적으로 사용되는 바와 같은 문맥으로 이해된다. 예를 들어, 3개의 멤버를 갖는 세트의 예시적인 예에서, "A, B, 및 C 중 적어도 하나" 및 "A, B 및 C 중 적어도 하나"라는 결합 구들은, 다음 세트들인, {A}, {B}, {C}, {A, B}, {A, C}, {B, C}, {A, B, C} 중 임의의 세트를 지칭한다. 따라서, 이러한 결합 언어는, 일반적으로 소정 실시예들이 A 중 적어도 하나, B 중 적어도 하나, 및 C 중 적어도 하나가 각각 존재해야 함을 의미하고자 하는 것은 아니다.
설명된 프로세스들의 동작은, 달리 지시되거나 문맥에 명백하게 모순되지 않는 한, 임의의 적절한 순서로 수행될 수 있다. 설명된 프로세스들(또는 그 변형들 및/또는 이들의 조합)은, 실행가능한 명령어들로 구성된 하나 이상의 컴퓨터 시스템의 제어 하에 수행될 수도 있고, 하나 이상의 프로세서에서 집합적으로 실행되는 코드(예를 들어, 실행가능 명령어, 하나 이상의 컴퓨터 프로그램 또는 하나 이상의 애플리케이션)로서, 하드웨어에 의해, 또는 이들의 조합에 의해 구현될 수도 있다. 코드는, 예를 들어, 하나 이상의 프로세서에 의해 실행가능한 명령어들을 포함하는 컴퓨터 프로그램의 형태로 컴퓨터 판독가능 저장 매체에 저장될 수도 있다. 컴퓨터 판독가능 저장 매체는 비일시적일 수도 있다.
제공된 모든 예 또는 예시적인 언어(예를 들어, "와 같은")의 사용은, 본 발명의 실시예들을 더욱 잘 나타내기 위한 것일 뿐이며, 달리 청구되지 않는 한, 본 발명의 범위를 제한하지 않는다. 명세서에서의 어떠한 언어도, 본 발명의 실시에 필수적인 것으로 청구되지 않은 요소를 나타내는 것으로서 해석되어서는 안 된다.
본 개시 내용의 실시예들은, 본 발명을 수행하기 위해 본 발명자들에게 알려진 최상의 모드를 포함하여 설명된다. 그러한 실시예들의 변형은 전술한 설명을 읽음으로써 통상의 기술자에게 명백해질 수도 있다. 본 발명자들은 통상의 기술자가 그러한 변형을 적절하게 사용할 것으로 예상하며, 본 발명자들은 본 개시 내용의 실시예들을 구체적으로 설명된 것과 다르게 실시하는 것을 의도한다. 이에 따라, 본 개시 내용의 범위는 적용가능한 법에 의해 허용되는 바에 따라 본 명세서에 첨부된 청구 범위에 기재된 청구 대상의 모든 변경 및 등가물을 포함한다. 또한, 달리 언급되지 않거나 문맥에 명백하게 모순되지 않는 한, 모든 가능한 변형에서의 전술한 요소들의 임의의 조합이 본 개시 내용의 범위에 포함된다.
인용된 공개공보, 특허 출원, 및 특허를 포함하는 모든 문헌은, 각각의 문헌이 참고로 원용되도록 개별적으로 특정하게 개시되고 그들의 전문이 기술된 것과 동일한 정도로 본 명세서에 참고로 원용된다.

Claims (20)

  1. 컴퓨터 구현 방법으로서,
    프로세스를 실행하는 가상 기계 인스턴스들의 클러스터를 생성하기 위해 하나 이상의 애플리케이션 프로그래밍 인터페이스(application programming interface: API) 호출들을 컴퓨팅 리소스 서비스 제공자의 고객으로부터 수신하는 단계; 및
    상기 하나 이상의 API 호출들에 응답하여,
    복수의 가상 기계 인스턴스들을 인스턴스화(instantiating)하는 단계;
    상기 복수의 가상 기계 인스턴스들을 클러스터 식별자와 연관짓는(associating) 단계; 및
    상기 복수의 가상 기계 인스턴스들의 각각의 가상 기계 인스턴스에 대하여:
    상기 가상 기계 인스턴스로 소프트웨어 컨테이너를 개시시키는(launching) 단계; 및
    상기 소프트웨어 컨테이너 내에서 상기 프로세스의 적어도 일부를 실행시키는 단계를 포함하는, 컴퓨터 구현 방법.
  2. 제 1 항에 있어서,
    상기 소프트웨어 컨테이너는 상기 가상 기계 인스턴스에서 실행되는 다른 소프트웨어 컨테이너로부터 격리되어 실행되는 사용자 공간 인스턴스인, 컴퓨터 구현 방법.
  3. 제 1 항에 있어서,
    상기 클러스터는 상기 인스턴스를 포함하는 복수의 인스턴스들과 연관되어 있는, 컴퓨터 구현 방법.
  4. 제 1 항에 있어서,
    상기 복수의 가상 기계 인스턴스들을 인스턴스화하는 단계는 가상 사설 클라우드 내에서 상기 복수의 가상 기계 인스턴스들을 인스턴스화는 단계를 더 포함하는, 컴퓨터 구현 방법.
  5. 제 1 항에 있어서,
    상기 소프트웨어 컨테이너는 태스크 정의에 의해 특정되는 방식으로 다른 소프트웨어 컨테이너에 링크되는, 컴퓨터 구현 방법.
  6. 제 1 항에 있어서,
    상기 컴퓨터 구현 방법은:
    태스크 정의를 획득하는 단계로서, 상기 태스크 정의는:
    상기 프로세스와 관련된 소프트웨어 이미지의 위치를 표시하고;
    상기 소프트웨어 컨테이너에 할당하기 위해 상기 가상 기계 인스턴스의 컴퓨팅 리소스의 양을 결정하는데 이용가능한 정보를 포함하는, 상기 태스크 정의를 획득하는 단계; 및
    또한, 상기 복수의 가상 기계 인스턴스들의 각각의 가상 기계 인스턴스에 대하여:
    상기 위치로부터 상기 소프트웨어 이미지를 획득하는 단계;
    상기 가상 기계 인스턴스의 상기 컴퓨팅 리소스의 양을 상기 소프트웨어 컨테이너에 할당하는 단계; 및
    상기 소프트웨어 이미지에 적어도 부분적으로 기초하여 상기 프로세스의 적어도 일부를 실행하는 단계를 더 포함하는, 컴퓨터 구현 방법.
  7. 제 6 항에 있어서,
    상기 소프트웨어 이미지는 상기 소프트웨어 이미지의 생성 시에 상기 소프트웨어 컨테이너의 상태를 나타내는 데이터인, 컴퓨터 구현 방법.
  8. 시스템에 있어서,
    하나 이상의 프로세서들; 및
    실행 가능한 명령들을 포함하는 메모리로서, 상기 명령들은, 상기 하나 이상의 프로세서들에 의해 실행되면, 상기 시스템으로 하여금,
    수행할 태스크의 명칭, 상기 태스크에 대한 컨테이너의 위치, 및 상기 태스크에 대한 포트를 표시하는 태스크 정의를 획득하고;
    가상 기계 인스턴스들의 클러스터 내에서, 상기 태스크를 수행하기 위해 하나 이상의 컨테이너들을 실행하기 위한 요청을 수신하고, 상기 요청은 또한 상기 태스크에 할당될 리소스의 양을 나타내고;
    스케줄러를 통해, 상기 하나 이상의 컨테이너들을 실행하는 상기 클러스터로부터 이용 가능한 가상 기계 인스턴스를 선택하고;
    적어도 상기 시스템으로 하여금, 상기 태스크 정의에 적어도 부분적으로 기초하여, 상기 위치로부터 상기 컨테이너 이미지를 획득하고;
    상기 리소스의 양을 상기 하나 이상의 컨테이너들에 할당하고; 상기 포트를 상기 하나 이상의 컨테이너들에 배정하고;
    상기 태스크를 수행하기 상기 하나 이상의 컨테이너들을 실행시킴으로써, 상기 이용 가능한 가상 기계 인스턴스 내에서 그리고 상기 태스크 정의에 따라, 상기 컨테이너 이미지에 적어도 부분적으로 기초하여 상기 하나 이상의 컨테이너를 실행시키는, 시스템.
  9. 제 8 항에 있어서,
    상기 리소스의 양은 상기 이용 가능한 가상 기계 인스턴스에 할당된 리소스의 양(quantity)의 일부인, 시스템.
  10. 제 8 항에 있어서,
    상기 태스크 정의는 가상 기계 인스턴스들의 특정 유형들에 대한 친화도(affinity) 또는 항친화도(anti-affinity)를 나타내는 친화도 정보를 더 포함하고,
    상기 시스템으로 하여금 상기 이용 가능한 가상 기계 인스턴스를 선택하게 하는 상기 실행 가능한 명령들은, 상기 시스템으로 하여금 상기 친화도 정보에 적어도 부분적으로 기초하여 상기 이용 가능한 가상 기계 인스턴스를 선택하게 하는 명령들을 더 포함하는, 시스템.
  11. 제 8 항에 있어서,
    로드 밸런서(load balancer)는 상기 클러스터의 가상 기계 인스턴스들을 통한 트래픽을 밸런싱하는, 시스템.
  12. 제 8 항에 있어서,
    도커 컨테이너 엔진(Docker container engine)은 상기 이용 가능한 가상 기계 인스턴스에서 실행되는 상기 하나 이상의 컨테이너들을 관리하는, 시스템.
  13. 제 8 항에 있어서,
    상기 태스크 정의는 또한:
    상기 하나 이상의 컨테이너들이 그룹에 할당되고;
    상기 그룹의 멤버들이 동일한 가상 기계 인스턴스 상에서 실행되도록 조정되는 것을 더 특정하는, 시스템.
  14. 제 8 항에 있어서,
    상기 실행 가능한 명령들은, 상기 시스템으로 하여금 상기 이용 가능한 가상 기계 인스턴스 내에서 실행되는 상기 하나 이상의 컨테이너들과 관련된 메트릭들을 획득하고,
    상기 메트릭들을 리소스 모니터링 서비스(resource monitoring service)에 제공하는 명령들을 더 포함하는, 시스템.
  15. 제 14 항에 있어서,
    상기 메트릭들은:
    상기 하나 이상의 컨테이너들에 의한 프로세서 사용,
    상기 하나 이상의 컨테이너들에 의해 사용된 프로세서 시간,
    상기 하나 이상의 컨테이너들에 의해 사용된 메모리의 양, 또는
    상기 하나 이상의 컨테이너들에 의해 사용된 저장 공간의 양 중 적어도 하나를 포함하는, 시스템.
  16. 실행가능 명령어들이 저장된 비일시적 컴퓨터 판독가능 저장 매체로서, 상기 실행 가능한 명령들은 컴퓨터 시스템의 하나 이상의 프로세서들에 의해 실행되면, 상기 컴퓨터 시스템으로 하여금, 적어도:
    태스크 정의에 따라 인스턴스들의 클러스터의 인스턴스에서 수행되도록 스케줄링되어 있는 태스크의 결과로서, 상기 태스크를 수행하도록 스케줄러로부터 통신을 수신하고;
    상기 통신의 수신에 응답하여, 상기 태스크를 수행하도록 상기 인스턴스 내의 컨테이너를 인스턴스화하고;
    상기 컨테이너에 대한 건강 정보를 획득하기 위해 상기 컨테이너를 모니터링하고,
    상기 건강 정보에 적어도 부분적으로 기초하여, 상기 컨테이너가 에러를 경험했다고 만들어진 판정의 결과로서, 상기 에러를 경험한 상기 컨테이너를 대체하도록 새로운 컨테이너를 인스턴스화하는, 비일시적 컴퓨터 판독가능 저장 매체.
  17. 제 16 항에 있어서,
    상기 클러스터의 인스턴스들의 양(quantity)은 자동 스케일링 서비스에 의해, 상기 클러스터의 상기 인스턴스들 내의 컨테이너들에 의한 리소스 요구(resource demand)에 적어도 부분적으로 의존하여, 동적으로 증가되거나 감소되는, 비일시적 컴퓨터 판독가능 저장 매체.
  18. 제 16 항에 있어서,
    상기 클러스터의 인스턴스는 가상 사설 클라우드 내에 위치되는, 비일시적 컴퓨터 판독가능 저장 매체.
  19. 제 16 항에 있어서,
    상기 건강 정보는:
    상기 컨테이너의 심박,
    상기 컨테이너의 수명,
    상기 컨테이너의 상태, 또는
    상기 컨테이너에 의한 에러의 발생 중 적어도 하나를 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
  20. 제 16 항에 있어서,
    상기 실행 가능한 명령들은 상기 인스턴스 상에 스케줄링된 컨테이너들을 시작 및 실행시키는 에이전트를 동작시키도록 상기 인스턴스에서 실행되는, 비일시적 컴퓨터 판독가능 저장 매체.
KR1020197005048A 2014-11-11 2015-11-10 컨테이너를 관리 및 스케줄링하기 위한 시스템 Active KR102042988B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/538,663 2014-11-11
US14/538,663 US9256467B1 (en) 2014-11-11 2014-11-11 System for managing and scheduling containers
PCT/US2015/059983 WO2016077367A1 (en) 2014-11-11 2015-11-10 System for managing and scheduling containers

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020177015815A Division KR101952573B1 (ko) 2014-11-11 2015-11-10 컨테이너를 관리 및 스케줄링하기 위한 시스템

Publications (2)

Publication Number Publication Date
KR20190020843A true KR20190020843A (ko) 2019-03-04
KR102042988B1 KR102042988B1 (ko) 2019-11-11

Family

ID=54771180

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020197005048A Active KR102042988B1 (ko) 2014-11-11 2015-11-10 컨테이너를 관리 및 스케줄링하기 위한 시스템
KR1020177015815A Active KR101952573B1 (ko) 2014-11-11 2015-11-10 컨테이너를 관리 및 스케줄링하기 위한 시스템

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020177015815A Active KR101952573B1 (ko) 2014-11-11 2015-11-10 컨테이너를 관리 및 스케줄링하기 위한 시스템

Country Status (9)

Country Link
US (5) US9256467B1 (ko)
EP (1) EP3218808A1 (ko)
JP (2) JP6522750B2 (ko)
KR (2) KR102042988B1 (ko)
CN (2) CN119003167A (ko)
AU (3) AU2015346530C1 (ko)
RU (3) RU2704734C2 (ko)
SG (2) SG11201703680WA (ko)
WO (1) WO2016077367A1 (ko)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102090911B1 (ko) * 2019-12-16 2020-03-19 주식회사 케이비시스 컨테이너 기반의 클라우드 서비스 제공 시스템
KR102101602B1 (ko) * 2019-04-04 2020-04-17 한국전자통신연구원 트래픽 관리 장치 및 방법
KR102209044B1 (ko) * 2020-03-12 2021-01-29 주식회사 케이비시스 클라우드 네이티브 데이터베이스 구조를 갖는 클라우드 시스템
WO2021096053A1 (ko) * 2019-11-15 2021-05-20 한국전자기술연구원 클라우드 기반 서버리스 플랫폼에서의 실시간성 서비스 제공 방법
KR20210061633A (ko) * 2019-11-20 2021-05-28 주식회사 케이티 가상화 시스템의 컨테이너 스케줄링 장치 및 방법
KR20220011063A (ko) * 2020-07-20 2022-01-27 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 서버 리소스 할당 방법, 장치, 전자 기기 및 저장 매체
KR20220036981A (ko) * 2019-10-11 2022-03-23 인터내셔널 비지네스 머신즈 코포레이션 가상 메모리 메타데이터 관리

Families Citing this family (425)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8019732B2 (en) 2008-08-08 2011-09-13 Amazon Technologies, Inc. Managing access of multiple executing programs to non-local block data storage
US9225638B2 (en) 2013-05-09 2015-12-29 Vmware, Inc. Method and system for service switching using service tags
US10366102B2 (en) * 2014-02-19 2019-07-30 Snowflake Inc. Resource management systems and methods
JP2015197845A (ja) * 2014-04-02 2015-11-09 キヤノン株式会社 情報処理装置及びその制御方法、並びにプログラム
US9961017B2 (en) 2014-08-08 2018-05-01 Oracle International Corporation Demand policy-based resource management and allocation system
US9912609B2 (en) * 2014-08-08 2018-03-06 Oracle International Corporation Placement policy-based allocation of computing resources
US10693946B2 (en) 2014-09-16 2020-06-23 Amazon Technologies, Inc. Instance backed mobile devices
US10135737B2 (en) 2014-09-30 2018-11-20 Nicira, Inc. Distributed load balancing systems
US9825810B2 (en) 2014-09-30 2017-11-21 Nicira, Inc. Method and apparatus for distributing load among a plurality of service nodes
US10516568B2 (en) 2014-09-30 2019-12-24 Nicira, Inc. Controller driven reconfiguration of a multi-layered application or service model
US9256467B1 (en) 2014-11-11 2016-02-09 Amazon Technologies, Inc. System for managing and scheduling containers
US9886306B2 (en) * 2014-11-21 2018-02-06 International Business Machines Corporation Cross-platform scheduling with long-term fairness and platform-specific optimization
US11303539B2 (en) 2014-12-05 2022-04-12 Accenture Global Services Limited Network component placement architecture
US9882968B1 (en) * 2014-12-09 2018-01-30 Amazon Technologies, Inc. Virtual network interface multiplexing
US9692666B2 (en) * 2014-12-22 2017-06-27 Rovio Entertainment Ltd. Container manager
US9967333B2 (en) 2015-03-02 2018-05-08 Dell Products Lp Deferred configuration or instruction execution using a secure distributed transaction ledger
US9967334B2 (en) 2015-03-02 2018-05-08 Dell Products Lp Computing device configuration and management using a secure decentralized transaction ledger
US10484168B2 (en) * 2015-03-02 2019-11-19 Dell Products L.P. Methods and systems for obfuscating data and computations defined in a secure distributed transaction ledger
US9965628B2 (en) 2015-03-02 2018-05-08 Dell Products Lp Device reporting and protection systems and methods using a secure distributed transactional ledger
US10592985B2 (en) 2015-03-02 2020-03-17 Dell Products L.P. Systems and methods for a commodity contracts market using a secure distributed transaction ledger
CN107430526B (zh) * 2015-03-24 2021-10-29 瑞典爱立信有限公司 用于调度数据处理的方法和节点
US10609091B2 (en) 2015-04-03 2020-03-31 Nicira, Inc. Method, apparatus, and system for implementing a content switch
CN106155764A (zh) 2015-04-23 2016-11-23 阿里巴巴集团控股有限公司 调度虚拟机输入输出资源的方法及装置
CN106201839B (zh) 2015-04-30 2020-02-14 阿里巴巴集团控股有限公司 一种业务对象的信息加载方法和装置
CN106209741B (zh) 2015-05-06 2020-01-03 阿里巴巴集团控股有限公司 一种虚拟主机及隔离方法、资源访问请求处理方法及装置
CN106293869A (zh) * 2015-05-26 2017-01-04 阿里巴巴集团控股有限公司 一种资源分配方法和装置
US9781124B2 (en) * 2015-06-11 2017-10-03 International Business Machines Corporation Container-based system administration
US10379889B2 (en) * 2015-06-15 2019-08-13 Microsoft Technology Licensing, Llc Monitoring and reporting performance of collaboration services using a monitoring service native to the collaboration service
US10298259B1 (en) 2015-06-16 2019-05-21 Amazon Technologies, Inc. Multi-layered data redundancy coding techniques
US10270475B1 (en) 2015-06-16 2019-04-23 Amazon Technologies, Inc. Layered redundancy coding for encoded parity data
US10977128B1 (en) 2015-06-16 2021-04-13 Amazon Technologies, Inc. Adaptive data loss mitigation for redundancy coding systems
EP3311323A1 (en) * 2015-06-22 2018-04-25 Draios Inc. Monitoring of applications isolated in containers
US9747119B2 (en) * 2015-06-23 2017-08-29 Vmware, Inc. Methods and apparatus to monitor virtual computing environments
US10609122B1 (en) 2015-06-29 2020-03-31 Amazon Technologies, Inc. Instance backed building or place
US11061969B1 (en) 2015-06-29 2021-07-13 Amazon Technologies, Inc. Instance backed mobile devices with multiple instances
US10394762B1 (en) 2015-07-01 2019-08-27 Amazon Technologies, Inc. Determining data redundancy in grid encoded data storage systems
CN106708819A (zh) 2015-07-17 2017-05-24 阿里巴巴集团控股有限公司 一种数据缓存的预热方法及其装置
CN106445473B (zh) * 2015-08-06 2019-12-06 华为技术有限公司 一种容器部署方法及装置
US9690622B1 (en) 2015-08-24 2017-06-27 Amazon Technologies, Inc. Stateless instance backed mobile devices
US10911404B1 (en) 2015-08-24 2021-02-02 Amazon Technologies, Inc. Attribute based authorization
CN106487708B (zh) 2015-08-25 2020-03-13 阿里巴巴集团控股有限公司 网络访问请求控制方法和装置
US9853913B2 (en) 2015-08-25 2017-12-26 Accenture Global Services Limited Multi-cloud network proxy for control and normalization of tagging data
US11422840B2 (en) * 2015-08-28 2022-08-23 Vmware, Inc. Partitioning a hypervisor into virtual hypervisors
US11386060B1 (en) 2015-09-23 2022-07-12 Amazon Technologies, Inc. Techniques for verifiably processing data in distributed computing systems
US10693899B2 (en) 2015-10-01 2020-06-23 Twistlock, Ltd. Traffic enforcement in containerized environments
US10922418B2 (en) 2015-10-01 2021-02-16 Twistlock, Ltd. Runtime detection and mitigation of vulnerabilities in application software containers
US10567411B2 (en) 2015-10-01 2020-02-18 Twistlock, Ltd. Dynamically adapted traffic inspection and filtering in containerized environments
US10664590B2 (en) 2015-10-01 2020-05-26 Twistlock, Ltd. Filesystem action profiling of containers and security enforcement
US10943014B2 (en) 2015-10-01 2021-03-09 Twistlock, Ltd Profiling of spawned processes in container images and enforcing security policies respective thereof
US10915628B2 (en) 2015-10-01 2021-02-09 Twistlock, Ltd. Runtime detection of vulnerabilities in an application layer of software containers
US10586042B2 (en) 2015-10-01 2020-03-10 Twistlock, Ltd. Profiling of container images and enforcing security policies respective thereof
US10223534B2 (en) * 2015-10-15 2019-03-05 Twistlock, Ltd. Static detection of vulnerabilities in base images of software containers
US10599833B2 (en) 2015-10-01 2020-03-24 Twistlock, Ltd. Networking-based profiling of containers and security enforcement
US9940470B2 (en) * 2015-10-06 2018-04-10 Symantec Corporation Techniques for generating a virtual private container
US10778446B2 (en) * 2015-10-15 2020-09-15 Twistlock, Ltd. Detection of vulnerable root certificates in software containers
US9569180B1 (en) * 2015-10-29 2017-02-14 International Business Machines Corporation Application development in cloud based environment
US10782990B1 (en) 2015-11-24 2020-09-22 Amazon Technologies, Inc. Container telemetry
US10394789B1 (en) 2015-12-07 2019-08-27 Amazon Technologies, Inc. Techniques and systems for scalable request handling in data processing systems
US10642813B1 (en) 2015-12-14 2020-05-05 Amazon Technologies, Inc. Techniques and systems for storage and processing of operational data
US10324790B1 (en) 2015-12-17 2019-06-18 Amazon Technologies, Inc. Flexible data storage device mapping for data storage systems
US10261782B2 (en) 2015-12-18 2019-04-16 Amazon Technologies, Inc. Software container registry service
US10002247B2 (en) 2015-12-18 2018-06-19 Amazon Technologies, Inc. Software container registry container image deployment
US10032032B2 (en) 2015-12-18 2018-07-24 Amazon Technologies, Inc. Software container registry inspection
US11513850B2 (en) 2016-02-05 2022-11-29 Sas Institute Inc. Coordinated performance controller failover in many task computing
US11734064B2 (en) * 2016-02-05 2023-08-22 Sas Institute Inc. Automated virtual machine resource management in container-supported many task computing
US11455190B2 (en) 2016-02-05 2022-09-27 Sas Institute Inc. Implicit status in many task computing
US11474863B2 (en) 2018-06-22 2022-10-18 Sas Institute Inc. Federated area coherency across multiple devices in many-task computing
US10360187B1 (en) * 2016-03-05 2019-07-23 Virtuozzo International Gmbh Hybrid storage for virtual machines and containers
US11379416B1 (en) * 2016-03-17 2022-07-05 Jpmorgan Chase Bank, N.A. Systems and methods for common data ingestion
US9898354B2 (en) 2016-03-21 2018-02-20 Microsoft Technology Licensing, Llc Operating system layering
US10268514B1 (en) * 2016-03-22 2019-04-23 Amazon Technologies, Inc. Performance analysis of stateless compute functions using function call intercept
US10432491B2 (en) * 2016-03-22 2019-10-01 Intel Corporation Control device for estimation of power consumption and energy efficiency of application containers
US10324766B1 (en) * 2016-03-24 2019-06-18 Amazon Technologies, Inc. Task profile collection
US10592336B1 (en) 2016-03-24 2020-03-17 Amazon Technologies, Inc. Layered indexing for asynchronous retrieval of redundancy coded data
US10061668B1 (en) 2016-03-28 2018-08-28 Amazon Technologies, Inc. Local storage clustering for redundancy coded data storage system
US10678664B1 (en) 2016-03-28 2020-06-09 Amazon Technologies, Inc. Hybridized storage operation for redundancy coded data storage systems
US10013213B2 (en) * 2016-04-22 2018-07-03 EMC IP Holding Company LLC Container migration utilizing state storage of partitioned storage volume
WO2017200878A1 (en) * 2016-05-17 2017-11-23 Amazon Technologies, Inc. Versatile autoscaling
US10135837B2 (en) 2016-05-17 2018-11-20 Amazon Technologies, Inc. Versatile autoscaling for containers
US20190087244A1 (en) * 2016-05-23 2019-03-21 William Jason Turner Hyperconverged system including a user interface, a services layer and a core layer equipped with an operating system kernel
US11394685B2 (en) * 2016-05-27 2022-07-19 Walmart Apollo, Llc Systems and methods of database instance container deployment
KR20170139872A (ko) * 2016-06-10 2017-12-20 삼성에스디에스 주식회사 멀티 테넌트 기반의 서비스 제공 시스템 및 방법
US10594798B2 (en) * 2016-06-16 2020-03-17 Veniam, Inc. Systems and methods for managing containers in a network of moving things
US10013265B2 (en) * 2016-06-23 2018-07-03 International Business Machines Corporation Management of container host clusters
US10305747B2 (en) * 2016-06-23 2019-05-28 Sap Se Container-based multi-tenant computing infrastructure
WO2018004403A1 (en) * 2016-06-28 2018-01-04 Telefonaktiebolaget Lm Ericsson (Publ) Managing a lifecycle of a software container
US11119824B2 (en) 2016-06-30 2021-09-14 Intel Corporation Technologies for implementing consolidated device infrastructure systems
US10169156B2 (en) 2016-07-21 2019-01-01 International Business Machines Corporation Automatic restarting of containers
US10394541B2 (en) * 2016-07-27 2019-08-27 Optim Corporation System, method, and program for distributing container image
US10615998B2 (en) 2016-08-17 2020-04-07 Red Hat, Inc. State analysis of remote computing images
US10366091B2 (en) 2016-08-18 2019-07-30 Red Hat, Inc. Efficient image file loading and garbage collection
US10210024B2 (en) * 2016-08-23 2019-02-19 Samsung Electronics Co., Ltd. Intelligent controller for containerized applications
US10432638B2 (en) * 2016-08-29 2019-10-01 Cisco Technology, Inc. Infrastructure aware adaptive resource allocation
WO2018045541A1 (zh) * 2016-09-08 2018-03-15 华为技术有限公司 一种容器分配的优化方法及处理设备
WO2018053717A1 (en) * 2016-09-21 2018-03-29 Accenture Global Solutions Limited Dynamic resource allocation for application containers
US10154065B1 (en) 2016-09-22 2018-12-11 Trend Micro Incorporated Policy management in software container computing environments
US11106734B1 (en) * 2016-09-26 2021-08-31 Splunk Inc. Query execution using containerized state-free search nodes in a containerized scalable environment
US11243963B2 (en) 2016-09-26 2022-02-08 Splunk Inc. Distributing partial results to worker nodes from an external data system
US11232100B2 (en) 2016-09-26 2022-01-25 Splunk Inc. Resource allocation for multiple datasets
US11281706B2 (en) 2016-09-26 2022-03-22 Splunk Inc. Multi-layer partition allocation for query execution
US10353965B2 (en) 2016-09-26 2019-07-16 Splunk Inc. Data fabric service system architecture
US12013895B2 (en) 2016-09-26 2024-06-18 Splunk Inc. Processing data using containerized nodes in a containerized scalable environment
US11023463B2 (en) 2016-09-26 2021-06-01 Splunk Inc. Converting and modifying a subquery for an external data system
US11567993B1 (en) 2016-09-26 2023-01-31 Splunk Inc. Copying buckets from a remote shared storage system to memory associated with a search node for query execution
US11599541B2 (en) 2016-09-26 2023-03-07 Splunk Inc. Determining records generated by a processing task of a query
US11860940B1 (en) 2016-09-26 2024-01-02 Splunk Inc. Identifying buckets for query execution using a catalog of buckets
US11562023B1 (en) 2016-09-26 2023-01-24 Splunk Inc. Merging buckets in a data intake and query system
US10984044B1 (en) 2016-09-26 2021-04-20 Splunk Inc. Identifying buckets for query execution using a catalog of buckets stored in a remote shared storage system
US11615104B2 (en) 2016-09-26 2023-03-28 Splunk Inc. Subquery generation based on a data ingest estimate of an external data system
US11604795B2 (en) 2016-09-26 2023-03-14 Splunk Inc. Distributing partial results from an external data system between worker nodes
US11586627B2 (en) 2016-09-26 2023-02-21 Splunk Inc. Partitioning and reducing records at ingest of a worker node
US11442935B2 (en) 2016-09-26 2022-09-13 Splunk Inc. Determining a record generation estimate of a processing task
US11250056B1 (en) 2016-09-26 2022-02-15 Splunk Inc. Updating a location marker of an ingestion buffer based on storing buckets in a shared storage system
US11550847B1 (en) 2016-09-26 2023-01-10 Splunk Inc. Hashing bucket identifiers to identify search nodes for efficient query execution
US11580107B2 (en) 2016-09-26 2023-02-14 Splunk Inc. Bucket data distribution for exporting data to worker nodes
US11874691B1 (en) 2016-09-26 2024-01-16 Splunk Inc. Managing efficient query execution including mapping of buckets to search nodes
US11314753B2 (en) 2016-09-26 2022-04-26 Splunk Inc. Execution of a query received from a data intake and query system
US11126632B2 (en) 2016-09-26 2021-09-21 Splunk Inc. Subquery generation based on search configuration data from an external data system
US11593377B2 (en) 2016-09-26 2023-02-28 Splunk Inc. Assigning processing tasks in a data intake and query system
US11269939B1 (en) 2016-09-26 2022-03-08 Splunk Inc. Iterative message-based data processing including streaming analytics
US11663227B2 (en) 2016-09-26 2023-05-30 Splunk Inc. Generating a subquery for a distinct data intake and query system
US20180089324A1 (en) 2016-09-26 2018-03-29 Splunk Inc. Dynamic resource allocation for real-time search
US11620336B1 (en) 2016-09-26 2023-04-04 Splunk Inc. Managing and storing buckets to a remote shared storage system based on a collective bucket size
US11321321B2 (en) 2016-09-26 2022-05-03 Splunk Inc. Record expansion and reduction based on a processing task in a data intake and query system
US11461334B2 (en) 2016-09-26 2022-10-04 Splunk Inc. Data conditioning for dataset destination
US11416528B2 (en) 2016-09-26 2022-08-16 Splunk Inc. Query acceleration data store
US11003714B1 (en) 2016-09-26 2021-05-11 Splunk Inc. Search node and bucket identification using a search node catalog and a data store catalog
US11163758B2 (en) 2016-09-26 2021-11-02 Splunk Inc. External dataset capability compensation
US11294941B1 (en) 2016-09-26 2022-04-05 Splunk Inc. Message-based data ingestion to a data intake and query system
US10956415B2 (en) 2016-09-26 2021-03-23 Splunk Inc. Generating a subquery for an external data system using a configuration file
US11222066B1 (en) 2016-09-26 2022-01-11 Splunk Inc. Processing data using containerized state-free indexing nodes in a containerized scalable environment
US10977260B2 (en) 2016-09-26 2021-04-13 Splunk Inc. Task distribution in an execution node of a distributed execution environment
US11137980B1 (en) 2016-09-27 2021-10-05 Amazon Technologies, Inc. Monotonic time-based data storage
US10810157B1 (en) 2016-09-28 2020-10-20 Amazon Technologies, Inc. Command aggregation for data storage operations
US10437790B1 (en) 2016-09-28 2019-10-08 Amazon Technologies, Inc. Contextual optimization for data storage systems
US11204895B1 (en) 2016-09-28 2021-12-21 Amazon Technologies, Inc. Data payload clustering for data storage systems
US11281624B1 (en) 2016-09-28 2022-03-22 Amazon Technologies, Inc. Client-based batching of data payload
US10657097B1 (en) 2016-09-28 2020-05-19 Amazon Technologies, Inc. Data payload aggregation for data storage systems
US10496327B1 (en) 2016-09-28 2019-12-03 Amazon Technologies, Inc. Command parallelization for data storage systems
US10871995B2 (en) 2016-09-29 2020-12-22 Amazon Technologies, Inc. Managed container instances
US10303388B1 (en) * 2016-09-30 2019-05-28 EMC IP Holding Company LLC Storage filtering using container images
US10614239B2 (en) 2016-09-30 2020-04-07 Amazon Technologies, Inc. Immutable cryptographically secured ledger-backed databases
US10412022B1 (en) 2016-10-19 2019-09-10 Amazon Technologies, Inc. On-premises scaling using a versatile scaling service and an application programming interface management service
US10732951B2 (en) * 2016-10-28 2020-08-04 Hewlett Packard Enterprise Development Lp Container images
US10523581B2 (en) 2016-10-31 2019-12-31 Microsoft Technology Licensing Llc Flighting of node controller in pilot mode in resource management system
US10521447B2 (en) 2016-11-14 2019-12-31 International Business Machines Corporation Container application execution using image metadata
US10296764B1 (en) 2016-11-18 2019-05-21 Amazon Technologies, Inc. Verifiable cryptographically secured ledgers for human resource systems
US10409642B1 (en) 2016-11-22 2019-09-10 Amazon Technologies, Inc. Customer resource monitoring for versatile scaling service scaling policy recommendations
US11269888B1 (en) 2016-11-28 2022-03-08 Amazon Technologies, Inc. Archival data storage for structured data
US10346189B2 (en) * 2016-12-05 2019-07-09 Red Hat, Inc. Co-locating containers based on source to improve compute density
US10268593B1 (en) 2016-12-20 2019-04-23 Amazon Technologies, Inc. Block store managamement using a virtual computing system service
US10921991B1 (en) 2016-12-20 2021-02-16 Amazon Technologies, Inc. Rule invalidation for a block store management system
US10809920B1 (en) * 2016-12-20 2020-10-20 Amazon Technologies, Inc. Block store management for remote storage systems
US11507283B1 (en) 2016-12-20 2022-11-22 Amazon Technologies, Inc. Enabling host computer systems to access logical volumes by dynamic updates to data structure rules
US10572226B2 (en) * 2016-12-21 2020-02-25 Aon Global Operations Ltd (Singapore Branch) Methods, systems, and portal using software containers for accelerating aspects of data analytics application development and deployment
US11023215B2 (en) 2016-12-21 2021-06-01 Aon Global Operations Se, Singapore Branch Methods, systems, and portal for accelerating aspects of data analytics application development and deployment
US10423634B1 (en) 2016-12-27 2019-09-24 EMC IP Holding Company LLC Temporal queries on secondary storage
US10353603B1 (en) 2016-12-27 2019-07-16 EMC IP Holding Company LLC Storage container based replication services
US10394599B2 (en) 2017-01-05 2019-08-27 International Business Machines Corporation Breaking dependence of distributed service containers
US10169023B2 (en) 2017-02-06 2019-01-01 International Business Machines Corporation Virtual container deployment
US11093297B2 (en) * 2017-02-08 2021-08-17 Dell Products L.P. Workload optimization system
US10909136B1 (en) 2017-02-08 2021-02-02 Veritas Technologies Llc Systems and methods for automatically linking data analytics to storage
US10360053B1 (en) * 2017-02-14 2019-07-23 Veritas Technologies Llc Systems and methods for completing sets of computing tasks
US10216455B1 (en) * 2017-02-14 2019-02-26 Veritas Technologies Llc Systems and methods for performing storage location virtualization
US10685033B1 (en) 2017-02-14 2020-06-16 Veritas Technologies Llc Systems and methods for building an extract, transform, load pipeline
US20180285494A1 (en) * 2017-02-22 2018-10-04 Woodside Energy Technologies Pty Ltd Model management system
US10613885B2 (en) * 2017-02-24 2020-04-07 International Business Machines Corporation Portable aggregated information calculation and injection for application containers
US10318314B2 (en) * 2017-02-24 2019-06-11 International Business Machines Corporation Techniques for managing software container dependencies
US10176106B2 (en) 2017-02-24 2019-01-08 International Business Machines Corporation Caching mechanisms for information extracted from application containers including applying a space guard and a time guard
US10691816B2 (en) 2017-02-24 2020-06-23 International Business Machines Corporation Applying host access control rules for data used in application containers
US10606682B2 (en) 2017-03-09 2020-03-31 International Business Machines Corporation System and method of collecting serviceability data in containers based cloud infrastructure
US10606646B1 (en) 2017-03-13 2020-03-31 Veritas Technologies Llc Systems and methods for creating a data volume from within a software container and initializing the data volume with data
US10936549B2 (en) 2017-03-16 2021-03-02 Cisco Technology, Inc. Cluster-wide container optimization and storage compression
US10356048B2 (en) * 2017-03-17 2019-07-16 Verizon Patent And Licensing Inc. Container deployment for a network
US10341198B2 (en) * 2017-03-17 2019-07-02 Verizon Patent And Licensing Inc. Configuring a back-end container and a corresponding front-end proxy container on a network device
US10540191B2 (en) 2017-03-21 2020-01-21 Veritas Technologies Llc Systems and methods for using dynamic templates to create application containers
EP3379413A1 (en) * 2017-03-21 2018-09-26 Nokia Solutions and Networks Oy Optimization of a software image layer stack
US10614117B2 (en) 2017-03-21 2020-04-07 International Business Machines Corporation Sharing container images between mulitple hosts through container orchestration
US20180316547A1 (en) * 2017-04-27 2018-11-01 Microsoft Technology Licensing, Llc Single management interface to route metrics and diagnostic logs for cloud resources to cloud storage, streaming and log analytics services
US10547672B2 (en) 2017-04-27 2020-01-28 Microsoft Technology Licensing, Llc Anti-flapping system for autoscaling resources in cloud networks
KR101807806B1 (ko) * 2017-05-02 2017-12-11 나무기술 주식회사 클라우드 플랫폼에서 어플리케이션을 컨테이너화하는 방법
KR101826498B1 (ko) 2017-05-02 2018-02-07 나무기술 주식회사 클라우드 플랫폼 시스템
US10387204B2 (en) 2017-05-12 2019-08-20 International Business Machines Corporation Resource pooling in a virtualized cloud container environment
US10922205B2 (en) * 2017-05-16 2021-02-16 Vmware, Inc. Monitoring applications running on containers
US10467046B2 (en) * 2017-05-30 2019-11-05 Red Hat, Inc. Fast and greedy scheduling machine based on a distance matrix
US11100243B2 (en) * 2017-06-06 2021-08-24 Microsoft Technology Licensing, Llc Selective persistence of data utilized by software containers
US11140455B1 (en) 2017-06-09 2021-10-05 Amazon Technologies, Inc. Video encoder network sandboxing
US10650139B2 (en) 2017-06-12 2020-05-12 Daniel Maurice Lerner Securing temporal digital communications via authentication and validation for wireless user and access devices with securitized containers
US10909165B2 (en) 2017-06-20 2021-02-02 Red Hat, Inc. Sharing filesystems between containers
US10719354B2 (en) 2017-06-20 2020-07-21 Samsung Electronics Co., Ltd. Container workload scheduler and methods of scheduling container workloads
US10567359B2 (en) * 2017-07-18 2020-02-18 International Business Machines Corporation Cluster of secure execution platforms
US10466899B2 (en) 2017-07-28 2019-11-05 Hewlett Packard Enterprise Development Lp Selecting controllers based on affinity between access devices and storage segments
US11921672B2 (en) 2017-07-31 2024-03-05 Splunk Inc. Query execution at a remote heterogeneous data store of a data fabric service
US12248484B2 (en) 2017-07-31 2025-03-11 Splunk Inc. Reassigning processing tasks to an external storage system
US11989194B2 (en) 2017-07-31 2024-05-21 Splunk Inc. Addressing memory limits for partition tracking among worker nodes
US12118009B2 (en) 2017-07-31 2024-10-15 Splunk Inc. Supporting query languages through distributed execution of query engines
US10459769B2 (en) * 2017-08-04 2019-10-29 Unisys Corporation Elastic container management system
US10592315B2 (en) * 2017-08-28 2020-03-17 General Electric Company Software container messaging mechanism
US10691480B2 (en) * 2017-08-30 2020-06-23 Telefonaktiebolaget Lm Ericsson (Publ) Apparatus and method for configuring and enabling virtual applications
US10896182B2 (en) 2017-09-25 2021-01-19 Splunk Inc. Multi-partitioning determination for combination operations
US11151137B2 (en) 2017-09-25 2021-10-19 Splunk Inc. Multi-partition operation in combination operations
JP6612826B2 (ja) * 2017-09-29 2019-11-27 株式会社日立製作所 コンテナ管理装置、コンテナ管理方法、及びコンテナ管理プログラム
JP7196164B2 (ja) * 2017-09-30 2022-12-26 オラクル・インターナショナル・コーポレイション Ａｐｉレジストリにおけるバックエンドサービスエンドポイントからａｐｉ関数へのバインディング
US10740112B2 (en) * 2017-09-30 2020-08-11 Oracle International Corporation Leveraging microservice containers to provide tenant isolation in a multi-tenant API gateway
US10740143B2 (en) 2017-10-06 2020-08-11 International Business Machines Corporation Controlling asynchronous tasks
CN107844371A (zh) * 2017-10-12 2018-03-27 北京京东尚科信息技术有限公司 任务处理方法、系统及电子设备
CN109710397A (zh) * 2017-10-26 2019-05-03 阿里巴巴集团控股有限公司 数据处理方法、装置、存储介质、处理器和系统
US10805181B2 (en) 2017-10-29 2020-10-13 Nicira, Inc. Service operation chaining
CN110612705B (zh) * 2017-11-08 2020-09-25 华为技术有限公司 一种无服务器架构下业务部署的方法和函数管理平台
KR102310509B1 (ko) * 2017-11-22 2021-10-08 한국전자기술연구원 컨테이너 기반 지능형 컴포넌트에 대한 원격 호출 방법
KR102310515B1 (ko) * 2017-11-22 2021-10-08 한국전자기술연구원 지능형 컴포넌트를 위한 컨테이너 기반 관리 방법
US10956563B2 (en) * 2017-11-22 2021-03-23 Aqua Security Software, Ltd. System for securing software containers with embedded agent
US11055134B2 (en) * 2017-11-30 2021-07-06 International Business Machines Corporation Performing an action on a composite of software instances
KR102016238B1 (ko) 2017-12-05 2019-08-29 숭실대학교산학협력단 도커 컨테이너 관리 시스템 및 방법, 이를 수행하기 위한 기록매체
US11030016B2 (en) 2017-12-07 2021-06-08 International Business Machines Corporation Computer server application execution scheduling latency reduction
KR20190070659A (ko) * 2017-12-13 2019-06-21 주식회사 넥스클라우드 컨테이너 기반의 자원 할당을 지원하는 클라우드 컴퓨팅 장치 및 방법
WO2019133326A1 (en) * 2017-12-27 2019-07-04 Daniel Maurice Lerner Securing temporal digital communications
US10607484B2 (en) * 2017-12-28 2020-03-31 Intel Corporation Privacy-preserving distributed visual data processing
US10833955B2 (en) * 2018-01-03 2020-11-10 International Business Machines Corporation Dynamic delivery of software functions
US11023529B2 (en) 2018-01-04 2021-06-01 Red Hat, Inc. System and method for generating container image suggestions
US10997283B2 (en) * 2018-01-08 2021-05-04 Aqua Security Software, Ltd. System for securing software containers with encryption and embedded agent
US11010185B2 (en) * 2018-01-30 2021-05-18 Vmware, Inc. Monitoring applications running on containers
US10740132B2 (en) 2018-01-30 2020-08-11 Veritas Technologies Llc Systems and methods for updating containers
US10956593B2 (en) 2018-02-15 2021-03-23 International Business Machines Corporation Sharing of data among containers running on virtualized operating systems
US10083059B1 (en) 2018-03-19 2018-09-25 Capital One Services, Llc Method and system of hydrating of virtual machines
US10805192B2 (en) 2018-03-27 2020-10-13 Nicira, Inc. Detecting failure of layer 2 service using broadcast messages
CN108920259B (zh) 2018-03-30 2022-06-24 华为云计算技术有限公司 深度学习作业调度方法、系统和相关设备
US10761891B2 (en) 2018-04-05 2020-09-01 International Business Machines Corporation Workload management with data access awareness by aggregating file locality information in a computing cluster
US10768998B2 (en) 2018-04-05 2020-09-08 International Business Machines Corporation Workload management with data access awareness in a computing cluster
US10585714B2 (en) 2018-04-05 2020-03-10 International Business Machines Corporation Workload management with data access awareness using an ordered list of hosts in a computing cluster
US11132293B2 (en) 2018-04-10 2021-09-28 Red Hat Israel, Ltd. Intelligent garbage collector for containers
US20190317825A1 (en) * 2018-04-16 2019-10-17 Kazuhm, Inc. System for managing deployment of distributed computing resources
US11307980B2 (en) 2018-04-20 2022-04-19 Seagate Technology Llc Distributed data storage system with passthrough operations
US10732903B2 (en) 2018-04-27 2020-08-04 Hewlett Packard Enterprise Development Lp Storage controller sub-LUN ownership mapping and alignment
US11334543B1 (en) 2018-04-30 2022-05-17 Splunk Inc. Scalable bucket merging for a data intake and query system
US11169996B2 (en) 2018-05-15 2021-11-09 Red Hat, Inc. Query optimizer injection for dynamically provisioned database containers
US11132324B2 (en) 2018-06-18 2021-09-28 Seagate Technology, Llc Data network with container virtualization
KR102092458B1 (ko) * 2018-06-19 2020-03-23 한국과학기술원 서버리스 컴퓨팅 환경에서 가상화된 gpu 자원 지원 방법 및 시스템
KR102092459B1 (ko) * 2018-06-20 2020-03-23 한국과학기술원 컨테이너 기반 가상화 환경에서 gpu 메모리 자원 관리 및 스케줄링 방법 및 시스템
CN109067840A (zh) * 2018-06-29 2018-12-21 优刻得科技股份有限公司 人工智能在线服务的方法、系统和存储介质
CN109062658B (zh) * 2018-06-29 2021-06-04 优刻得科技股份有限公司 实现计算资源服务化的调度方法、装置、介质、设备及系统
US11263098B2 (en) * 2018-07-02 2022-03-01 Pivotal Software, Inc. Database segment load balancer
CN108874549B (zh) * 2018-07-19 2021-02-02 北京百度网讯科技有限公司 资源复用方法、装置、终端和计算机可读存储介质
JP7037059B2 (ja) * 2018-07-23 2022-03-16 日本電信電話株式会社 リソース管理システム、および、リソース割当プログラム
CN110764882B (zh) * 2018-07-25 2024-07-16 北京京东尚科信息技术有限公司 分布式管理方法、分布式管理系统及装置
WO2020036482A1 (en) * 2018-08-15 2020-02-20 Mimos Berhad System and method for identifying container image and dynamically creating the container image
US11057273B2 (en) * 2018-08-22 2021-07-06 Verizon Media Inc. Decentralized auto-scaling of network architectures
US11595250B2 (en) 2018-09-02 2023-02-28 Vmware, Inc. Service insertion at logical network gateway
US11070590B2 (en) * 2018-09-14 2021-07-20 Northrop Grumman Systems Corporation System and method for secure multitenant operations of a distributed computing cluster
CN110955501B (zh) * 2018-09-27 2024-06-14 北京京东尚科信息技术有限公司 服务请求处理方法、装置、电子设备及可读介质
US11146474B2 (en) * 2018-09-28 2021-10-12 Atlassian Pty Ltd. Systems and methods for testing resilience of a distributed network
US10860078B2 (en) * 2018-10-25 2020-12-08 Dell Products, L.P. Managing power request during cluster operations
US11210361B2 (en) * 2018-11-01 2021-12-28 Bank Of Montreal Systems and methods for generating a snapshot view of virtual infrastructure
KR102160119B1 (ko) * 2018-11-07 2020-09-25 숭실대학교산학협력단 도커 컨테이너 로그 분석 프레임워크 장치 및 이를 이용한 특성 분석 방법
CN109491762B (zh) * 2018-11-09 2021-07-09 网易（杭州）网络有限公司 容器状态控制方法及装置、存储介质、电子设备
CN109542600B (zh) * 2018-11-15 2020-12-25 口碑(上海)信息技术有限公司 分布式任务调度系统及方法
US11086908B2 (en) 2018-11-20 2021-08-10 International Business Machines Corporation Ontology for working with container images
KR102650976B1 (ko) * 2018-11-26 2024-03-26 삼성전자주식회사 전자장치 및 그 제어방법
KR101992066B1 (ko) * 2018-11-30 2019-06-21 건국대학교 산학협력단 컨테이너 관리 방법 및 장치
US10841153B2 (en) 2018-12-04 2020-11-17 Bank Of America Corporation Distributed ledger technology network provisioner
US10909740B2 (en) * 2018-12-07 2021-02-02 Intel Corporation Apparatus and method for processing telemetry data in a virtualized graphics processor
US10922123B2 (en) * 2018-12-12 2021-02-16 Microsoft Technology Licensing, Llc Container migration in computing systems
CN109918180A (zh) * 2018-12-14 2019-06-21 深圳壹账通智能科技有限公司 一种任务调度方法、装置、计算机系统及可读存储介质
US11579908B2 (en) 2018-12-18 2023-02-14 Vmware, Inc. Containerized workload scheduling
KR102125354B1 (ko) * 2018-12-19 2020-06-22 주식회사 와이즈넛 마이크로 서비스 아키텍처를 사용하는 스트리밍 빅데이터 처리 모듈 관리를 위한 수퍼바이저 시스템 및 그 방법
KR102032521B1 (ko) 2018-12-26 2019-10-15 래블업(주) 컨테이너 기반의 gpu 가상화 방법 및 시스템
US10831399B2 (en) * 2019-01-28 2020-11-10 EMC IP Holding Company LLC Method and system for enabling agentless backup and restore operations on a container orchestration platform
US10810003B2 (en) * 2019-01-30 2020-10-20 Salesforce.Com, Inc. Method and system for optimization of container image layering
US11726758B2 (en) * 2019-02-07 2023-08-15 Microsoft Technology Licensing, Llc Efficient scaling of a container-based application in a distributed computing system
KR102223141B1 (ko) 2019-02-12 2021-03-04 성균관대학교산학협력단 컨테이너 환경에서의 스토리지 드라이버의 동작 방법 및 스토리지 드라이버 장치
US11074097B2 (en) 2019-02-22 2021-07-27 Vmware, Inc. Specifying service chains
CN109656723A (zh) * 2019-03-13 2019-04-19 联想(北京)有限公司 容器资源调度方法及装置
KR102792258B1 (ko) * 2019-03-14 2025-04-09 삼성전자주식회사 전자 장치 및 이의 제어 방법
CN110012087B (zh) * 2019-03-28 2022-02-01 中国工商银行股份有限公司 数据处理系统及数据处理方法
CN111752822A (zh) * 2019-03-29 2020-10-09 上海哔哩哔哩科技有限公司 一种容器化压测调度方法、计算机设备及可读存储介质
CN111752701B (zh) * 2019-03-29 2024-01-26 北京数安鑫云信息技术有限公司 一种系统集群及其资源调度方法
US12271749B2 (en) * 2019-04-25 2025-04-08 VMware LLC Containerized workload scheduling
WO2020220216A1 (en) 2019-04-29 2020-11-05 Splunk Inc. Search time estimate in data intake and query system
US11715051B1 (en) 2019-04-30 2023-08-01 Splunk Inc. Service provider instance recommendations using machine-learned classifications and reconciliation
US11836505B2 (en) * 2019-05-07 2023-12-05 Ab Initio Technology Llc Dynamic distribution of container images
JP7310883B2 (ja) * 2019-05-10 2023-07-19 日本電気株式会社 環境構築支援システム、装置、方法、プログラム
DE102019112485A1 (de) * 2019-05-13 2020-11-19 Eberhard-Karls-Universität Tübingen Verfahren zum selektiven Ausführen eines Containers
CN110187869B (zh) * 2019-05-14 2020-09-01 上海直真君智科技有限公司 一种大数据异构存储计算模型间的统一互操作系统及方法
CN110262871B (zh) * 2019-05-17 2024-01-23 平安科技（深圳）有限公司 容器应用的容器实例启停方法、装置、计算机设备及存储介质
CN110134519A (zh) * 2019-05-21 2019-08-16 中国太平洋保险（集团）股份有限公司 一种基于容器平台实现网站管理的控制方法及装置
CN110209380B (zh) * 2019-05-30 2020-11-03 上海直真君智科技有限公司 一种面向大数据异构模型的统一动态元数据处理方法
US11093288B2 (en) * 2019-06-13 2021-08-17 Vmware, Inc. Systems and methods for cluster resource balancing in a hyper-converged infrastructure
US10922125B2 (en) 2019-06-13 2021-02-16 Micro Focus Llc Capability liveness of containerized services
CN110333939B (zh) * 2019-06-17 2023-11-14 腾讯科技(成都)有限公司 任务混合调度方法、装置、调度服务器及资源服务器
CN110347476B (zh) * 2019-06-27 2022-03-22 苏州浪潮智能科技有限公司 一种信息化系统的耗时任务管理方法和装置
CN110311973B (zh) * 2019-06-28 2021-06-01 东北大学 一种面向多租户的影像云服务系统及方法
US11150935B2 (en) * 2019-07-05 2021-10-19 International Business Machines Corporation Container-based applications
US12026286B2 (en) 2019-07-10 2024-07-02 Hewlett-Packard Development Company, L.P. Executing containers during idle states
US12430245B2 (en) * 2019-07-18 2025-09-30 Pure Storage, Inc. Data reduction in a cloud-based storage system
RU2722576C1 (ru) * 2019-07-23 2020-06-01 Общество с ограниченной ответственностью "РадиоТех" Способ автоматизированного беспроводного мониторинга наполнения и очистки мусорного контейнера и устройство для его осуществления
US11669246B2 (en) * 2019-08-19 2023-06-06 International Business Machines Corporation Storage allocation enhancement of microservices
US11669365B1 (en) 2019-08-26 2023-06-06 Amazon Technologies, Inc. Task pool for managed compute instances
CN110580194A (zh) * 2019-08-29 2019-12-17 上海仪电（集团）有限公司中央研究院 基于内存热插拔技术的容器调度方法及管理节点调度器
US11294733B2 (en) * 2019-09-12 2022-04-05 Pivotal Software, Inc. Dynamic autoscaler for cloud platform
CN110764903B (zh) * 2019-09-19 2023-06-16 平安科技（深圳）有限公司 弹性执行热容器方法、装置、设备和存储介质
US12261747B2 (en) 2019-09-20 2025-03-25 Sonatus, Inc. System, method, and apparatus to execute vehicle communications using a zonal architecture
CN114651427B (zh) 2019-09-20 2024-08-27 桑纳特斯公司 用于在交通工具上支持混合网络通信的系统、方法和装置
US11538287B2 (en) 2019-09-20 2022-12-27 Sonatus, Inc. System, method, and apparatus for managing vehicle data collection
CN110602253B (zh) * 2019-09-30 2022-04-26 新华三大数据技术有限公司 一种任务调度方法、装置及系统
CN110838939B (zh) * 2019-10-11 2022-04-08 许继集团有限公司 一种基于轻量级容器的调度方法及边缘物联管理平台
US11494380B2 (en) 2019-10-18 2022-11-08 Splunk Inc. Management of distributed computing framework components in a data fabric service system
CN110955490A (zh) * 2019-10-25 2020-04-03 北京浪潮数据技术有限公司 一种资源的异步创建方法、装置、设备及介质
US11140218B2 (en) 2019-10-30 2021-10-05 Vmware, Inc. Distributed service chain across multiple clouds
US11475022B2 (en) * 2019-11-13 2022-10-18 Nutanix, Inc. System and method for constructing a compound object in a distributed object storage system
US11743155B2 (en) * 2019-11-14 2023-08-29 Trideum Corporation Systems and methods of monitoring and controlling remote assets
US11537809B2 (en) 2019-11-21 2022-12-27 Kyndryl, Inc. Dynamic container grouping
CN111078356A (zh) * 2019-11-22 2020-04-28 北京达佳互联信息技术有限公司 Gpu集群资源控制系统、方法、装置、设备及存储介质
US11392422B1 (en) * 2019-11-27 2022-07-19 Amazon Technologies, Inc. Service-managed containers for container orchestration service
US11422844B1 (en) 2019-11-27 2022-08-23 Amazon Technologies, Inc. Client-specified network interface configuration for serverless container management service
CN112882827B (zh) * 2019-11-29 2024-09-03 伊姆西Ip控股有限责任公司 用于负载均衡的方法、电子设备和计算机程序产品
CN111176830B (zh) * 2019-12-03 2024-04-26 先进新星技术(新加坡)控股有限公司 信息流的分配方法、装置及服务器系统
US11334364B2 (en) 2019-12-16 2022-05-17 Microsoft Technology Licensing, Llc Layered composite boot device and file system for operating system booting in file system virtualization environments
EP4078363B1 (en) * 2019-12-19 2024-05-01 Koninklijke Philips N.V. Dynamic personalized platform generation based on on-the-fly requirements
KR102318863B1 (ko) * 2019-12-30 2021-10-28 주식회사 카카오 클라우드 서비스를 제공하는 서버의 동작 방법
US11223494B2 (en) 2020-01-13 2022-01-11 Vmware, Inc. Service insertion for multicast traffic at boundary
CN111240822B (zh) * 2020-01-15 2023-11-17 华为技术有限公司 任务调度方法、装置、系统及存储介质
US11659061B2 (en) 2020-01-20 2023-05-23 Vmware, Inc. Method of adjusting service function chains to improve network performance
JP7476541B2 (ja) * 2020-01-28 2024-05-01 コニカミノルタ株式会社 情報処理システム、制御装置、周辺装置制御方法および周辺装置制御プログラム
US11922222B1 (en) 2020-01-30 2024-03-05 Splunk Inc. Generating a modified component for a data intake and query system using an isolated execution environment image
JP7455601B2 (ja) 2020-02-05 2024-03-26 キヤノン株式会社 情報処理装置とその制御方法、及びプログラム
US11772583B2 (en) 2020-03-06 2023-10-03 Sonatus, Inc. System, method, and apparatus for managing vehicle automation
US20220297635A1 (en) 2020-03-06 2022-09-22 Sonatus, Inc. System, method, and apparatus for managing vehicle data collection
WO2021178979A1 (en) * 2020-03-06 2021-09-10 Sonatus, Inc. System, method, and apparatus for managing vehicle data collection
US12403921B2 (en) 2020-03-06 2025-09-02 Sonatus, Inc. System, method, and apparatus for managing vehicle automation
US12211323B2 (en) 2020-03-06 2025-01-28 Sonatus, Inc. System, method, and apparatus for managing vehicle automation
US12103479B2 (en) 2020-03-06 2024-10-01 Sonatus, Inc. System, method, and apparatus for managing vehicle automation
US12094259B2 (en) 2020-03-06 2024-09-17 Sonatus, Inc. System, method, and apparatus for managing vehicle automation
US11487571B2 (en) * 2020-03-30 2022-11-01 Wipro Limited Method and system for efficient utilization of resources in containers
US11792112B2 (en) 2020-04-06 2023-10-17 Vmware, Inc. Using service planes to perform services at the edge of a network
CN111539198B (zh) * 2020-04-15 2023-07-04 北京宝兰德软件股份有限公司 一种基于Java的表单验证方法及装置
US11632294B2 (en) * 2020-05-19 2023-04-18 Microsoft Technology Licensing, Llc Configuration techniques for managed host operating systems and containerized applications instantiated thereby
US11687379B2 (en) * 2020-05-27 2023-06-27 Red Hat, Inc. Management of containerized clusters by virtualization systems
CN113296874B (zh) * 2020-05-29 2022-06-21 阿里巴巴集团控股有限公司 一种任务的调度方法、计算设备及存储介质
US12164948B2 (en) 2020-06-04 2024-12-10 Microsoft Technology Licensing, Llc Partially privileged lightweight virtualization environments
CN113779517B (zh) * 2020-06-09 2024-12-17 武汉斗鱼鱼乐网络科技有限公司 一种权限获取方法、装置、设备及存储介质
CN113821331A (zh) * 2020-06-18 2021-12-21 北京字节跳动网络技术有限公司 一种服务获取方法、装置、终端设备及介质
US12190144B1 (en) 2020-06-22 2025-01-07 Amazon Technologies, Inc. Predelivering container image layers for future execution of container images
US11403150B1 (en) 2020-06-23 2022-08-02 Amazon Technologies, Inc. Replenishment-aware resource usage management
US11573816B1 (en) 2020-06-26 2023-02-07 Amazon Technologies, Inc. Prefetching and managing container images using cluster manifest
US11487591B1 (en) * 2020-06-29 2022-11-01 Amazon Technologies, Inc. Automatically configuring execution of a containerized application
CN111813497A (zh) * 2020-06-30 2020-10-23 绿盟科技集团股份有限公司 一种容器环境异常检测的方法、装置、介质及计算机设备
US11748161B1 (en) 2020-06-30 2023-09-05 Stripe, Inc. Cluster job submission
CN111970240B (zh) * 2020-07-10 2023-03-24 北京金山云网络技术有限公司 集群纳管方法、装置及电子设备
CN111935110B (zh) * 2020-07-24 2022-05-06 北京金山云网络技术有限公司 一种对租户访问容器实例的权限的控制方法和装置
CN111880899B (zh) * 2020-07-27 2022-08-16 山东迪特智联信息科技有限责任公司 一种基于云原生架构的大数据流处理方法和装置
US11336504B2 (en) 2020-08-24 2022-05-17 Juniper Networks, Inc. Intent-based distributed alarm service
US11474873B2 (en) * 2020-09-22 2022-10-18 Rockwell Automation Technologies, Inc. Implementing serverless functions using container orchestration systems and operational technology devices
US12066804B2 (en) 2020-09-22 2024-08-20 Rockwell Automation Technologies, Inc. Integrating container orchestration systems with operational technology devices
WO2022071945A1 (en) * 2020-09-30 2022-04-07 Nokia Technologies Oy Task responsibility coordination
US11422871B1 (en) 2020-09-30 2022-08-23 Amazon Technologies, Inc. Event archiving and replay
US11704313B1 (en) 2020-10-19 2023-07-18 Splunk Inc. Parallel branch operation using intermediary nodes
US11836523B2 (en) 2020-10-28 2023-12-05 Red Hat, Inc. Introspection of a containerized application in a runtime environment
US11256493B1 (en) 2020-11-03 2022-02-22 Bank Of America Corporation Container image optimizer
CN112035221B (zh) * 2020-11-03 2021-01-26 江苏苏宁银行股份有限公司 一种基于定时调度的PaaS平台无效容器清理方法和系统
US11762850B2 (en) 2020-11-09 2023-09-19 International Business Machines Corporation Content-aware node selection for container creation
KR102446717B1 (ko) * 2020-11-12 2022-09-27 한국과학기술정보연구원 컨테이너 처리 방법, 컨테이너 처리 장치 및 컨테이너 처리 시스템
US11740936B2 (en) * 2020-11-16 2023-08-29 Diamanti, Inc. Method and system for managing cloud resources
US12124884B2 (en) 2020-11-23 2024-10-22 Hewlett Packard Enterprise Development Lp Managing deployment of workloads
US11573818B2 (en) * 2020-11-24 2023-02-07 International Business Machines Corporation Containerized computing environments
US11748153B2 (en) * 2020-11-25 2023-09-05 International Business Machines Corporation Anticipated containerized infrastructure used in performing cloud migration
CN112486513B (zh) * 2020-11-25 2022-08-12 湖南麒麟信安科技股份有限公司 一种基于容器的集群管理方法及系统
US12112187B2 (en) * 2020-11-30 2024-10-08 Red Hat, Inc. Scalable visualization of a containerized application in a multiple-cluster environment
US11853807B1 (en) 2020-12-01 2023-12-26 Amazon Technologies, Inc. Cluster scaling based on task state information
US11366650B1 (en) * 2020-12-04 2022-06-21 International Business Machines Corporation Automatic generation of affinity and anti-affinity rules
US11941453B2 (en) 2020-12-08 2024-03-26 International Business Machines Corporation Containerized computing environments
US11481254B2 (en) * 2020-12-14 2022-10-25 Adp, Inc. Payroll data processing server
US11611625B2 (en) * 2020-12-15 2023-03-21 Vmware, Inc. Providing stateful services in a scalable manner for machines executing on host computers
US11734043B2 (en) 2020-12-15 2023-08-22 Vmware, Inc. Providing stateful services in a scalable manner for machines executing on host computers
US11995350B2 (en) 2020-12-23 2024-05-28 Red Hat, Inc. Prefetching container data in a data storage system
CN116724543B (zh) * 2020-12-28 2025-01-10 华为技术有限公司 容器集群的管理方法和装置
CN112698914B (zh) * 2020-12-30 2022-12-27 北京理工大学 一种工作流任务容器生成系统及方法
US20220229695A1 (en) * 2021-01-18 2022-07-21 Core Scientific, Inc. System and method for scheduling in a computing system
CN113010261A (zh) * 2021-02-20 2021-06-22 博普乐科技(北京)有限公司 一种虚拟编程环境构建方法
JP7552433B2 (ja) * 2021-02-25 2024-09-18 富士通株式会社 コンテナ管理方法およびコンテナ管理プログラム
US11797287B1 (en) 2021-03-17 2023-10-24 Amazon Technologies, Inc. Automatically terminating deployment of containerized applications
CN115202856A (zh) * 2021-04-12 2022-10-18 腾讯科技（深圳）有限公司 资源分配系统、方法、装置、计算机设备和存储介质
CN113342359B (zh) * 2021-05-13 2023-03-24 烽火通信科技股份有限公司 容器镜像文件智能生成方法、装置、设备及存储介质
US12160340B2 (en) * 2021-05-26 2024-12-03 Red Hat, Inc. Adding host systems to existing containerized clusters
CN113254156B (zh) * 2021-05-31 2024-04-09 深信服科技股份有限公司 一种容器组部署方法、装置、电子设备及存储介质
CN113364706B (zh) * 2021-06-03 2023-01-31 上海中通吉网络技术有限公司 服务流量集中的方法
KR102686802B1 (ko) 2021-06-14 2024-07-19 한국전자통신연구원 가상 멀티 클라우드 서비스 제공 장치 및 방법
US11972305B2 (en) * 2021-06-22 2024-04-30 Jpmorgan Chase Bank, N.A. Container application for microservices front end desktop
US11995466B1 (en) 2021-06-30 2024-05-28 Amazon Technologies, Inc. Scaling down computing resource allocations for execution of containerized applications
US11989586B1 (en) 2021-06-30 2024-05-21 Amazon Technologies, Inc. Scaling up computing resource allocations for execution of containerized applications
US11892418B1 (en) 2021-06-30 2024-02-06 Amazon Technologies, Inc. Container image inspection and optimization
US11782764B2 (en) 2021-07-07 2023-10-10 International Business Machines Corporation Differentiated workload telemetry
US11651090B2 (en) * 2021-07-13 2023-05-16 Graphcore Ltd. Terminating distributed trusted execution environment via confirmation messages
US11651089B2 (en) * 2021-07-13 2023-05-16 Graphcore Ltd. Terminating distributed trusted execution environment via self-isolation
CN113467817B (zh) * 2021-07-14 2022-11-15 广域铭岛数字科技有限公司 一种应用管理方法、系统、介质及电子终端
US20230034649A1 (en) * 2021-07-28 2023-02-02 Daniel Colascione Electronic device virtual machine operating system
US12072939B1 (en) 2021-07-30 2024-08-27 Splunk Inc. Federated data enrichment objects
US11947954B2 (en) * 2021-08-12 2024-04-02 Qnap Systems, Inc. Electronic apparatus adapted for container and software updating method for running container system
JP7496807B2 (ja) * 2021-09-28 2024-06-07 Kddi株式会社 コンテナ実行基盤におけるコンテナネットワーク方式最適化方法およびシステム
US12197936B2 (en) 2021-10-15 2025-01-14 Red Hat, Inc. Scalable visualization of a containerized application in a multiple-cluster and multiple deployment application environment
CN114217959B (zh) * 2021-12-07 2024-12-24 中信银行股份有限公司 一种支持自定义资源共享的多应用容器管理方法及系统
US12339750B2 (en) 2021-12-20 2025-06-24 Pure Storage, Inc. Policy-based disaster recovery for a containerized application
US12131176B2 (en) * 2022-01-19 2024-10-29 VMware LLC Cluster leader selection via ping tasks of service instances
US20230259382A1 (en) * 2022-02-16 2023-08-17 Sysdig, Inc. Configuring metric collection based on application information
CN114615340B (zh) * 2022-03-08 2023-10-20 抖音视界有限公司 一种请求处理方法、装置、计算机设备和存储装置
US11765098B1 (en) * 2022-03-22 2023-09-19 Amazon Technologies, Inc. Customized cross-premise resource selection for containerized applications
US12093272B1 (en) 2022-04-29 2024-09-17 Splunk Inc. Retrieving data identifiers from queue for search of external data system
US12271389B1 (en) 2022-06-10 2025-04-08 Splunk Inc. Reading query results from an external data system
US11914637B2 (en) * 2022-07-25 2024-02-27 Sap Se Image scaling cloud database
US20240061717A1 (en) * 2022-08-19 2024-02-22 Capital One Services, Llc Batch job rehydration
US20240069981A1 (en) * 2022-08-30 2024-02-29 Vmware, Inc. Managing events for services of a cloud platform in a hybrid cloud environment
US12177209B2 (en) 2022-09-13 2024-12-24 Capital One Services, Llc Securely rehydrating containerized agents
US20240103493A1 (en) * 2022-09-28 2024-03-28 Rockwell Automation Technologies, Inc. Systems and methods for condition-based deployment of chainable compute operations for constrained computing devices
US12169577B2 (en) * 2022-10-26 2024-12-17 Salesforce, Inc. Securely executing client code in a shared infrastructure
CN118093148A (zh) * 2022-11-21 2024-05-28 华为云计算技术有限公司 主机管理方法及装置
WO2024123345A1 (en) * 2022-12-09 2024-06-13 Robin Systems, Inc Api multiplexing of multiple pod requests
US12287790B2 (en) 2023-01-31 2025-04-29 Splunk Inc. Runtime systems query coordinator
US12321752B2 (en) * 2023-03-31 2025-06-03 Red Hat, Inc. Freedom from interference using containers
CN116541354A (zh) * 2023-05-10 2023-08-04 北京自如信息科技有限公司 日志检索方法、装置、计算机设备及存储介质
US20250028720A1 (en) 2023-07-17 2025-01-23 Splunk Inc. Identifying components to obtain and process data according to a query
KR20250039784A (ko) 2023-09-14 2025-03-21 고려대학교 산학협력단 쿠버네티스 메모리 초과 사용 환경에서의 컨테이너 재시작 감소 장치 및 방법
US12418580B2 (en) * 2023-12-14 2025-09-16 International Business Machines Corporation Data rule workload distribution
CN117857158B (zh) * 2023-12-25 2024-08-09 慧之安信息技术股份有限公司 一种基于容器技术的数据隔离方法及系统
US20250272633A1 (en) * 2024-02-22 2025-08-28 Aby Korah Allocation of execution information for a big data workload batch processing job executed in cloud environment by transient infrastucture
US12423089B1 (en) 2024-11-15 2025-09-23 Minimus Ltd Software image update management platform
US12423069B1 (en) 2025-06-03 2025-09-23 Minimus Ltd Artificial intelligence-based software image recipe creation and uses thereof

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060136928A1 (en) * 2004-12-21 2006-06-22 Crawford Isom L Jr System and method for associating workload management definitions with computing containers
US20060168581A1 (en) * 2005-01-21 2006-07-27 Karl Goger Software deployment system
KR20140086436A (ko) * 2012-12-28 2014-07-08 삼성에스디에스 주식회사 가상 클러스터의 동적 확장 시스템, 방법 및 그 프로그램이 저장된 기록매체

Family Cites Families (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5727211A (en) * 1995-11-09 1998-03-10 Chromatic Research, Inc. System and method for fast context switching between tasks
US7007276B1 (en) * 1999-09-28 2006-02-28 International Business Machines Corporation Method, system and program products for managing groups of partitions of a computing environment
US7000230B1 (en) * 2000-06-21 2006-02-14 Microsoft Corporation Network-based software extensions
FI116166B (fi) * 2002-06-20 2005-09-30 Nokia Corp Menetelmä ja järjestelmä sovellusistuntojen suorittamiseksi elektroniikkalaitteessa, ja elektroniikkalaite
US7383550B2 (en) * 2002-12-23 2008-06-03 International Business Machines Corporation Topology aware grid services scheduler architecture
US7552426B2 (en) * 2003-10-14 2009-06-23 Microsoft Corporation Systems and methods for using synthetic instructions in a virtual machine
US7814491B1 (en) * 2004-04-14 2010-10-12 Oracle America, Inc. Method and apparatus for managing system resources using a container model
US8069443B2 (en) * 2004-06-29 2011-11-29 Novell, Inc. Techniques for providing services and establishing processing environments
US7506338B2 (en) * 2004-08-30 2009-03-17 International Business Machines Corporation Method and apparatus for simplifying the deployment and serviceability of commercial software environments
US8732182B2 (en) 2004-12-02 2014-05-20 Desktopsites Inc. System and method for launching a resource in a network
US20060168575A1 (en) * 2005-01-21 2006-07-27 Ankur Bhatt Defining a software deployment
US20060184937A1 (en) * 2005-02-11 2006-08-17 Timothy Abels System and method for centralized software management in virtual machines
US7805706B1 (en) * 2005-06-21 2010-09-28 Unisys Corporation Process for optimizing software components for an enterprise resource planning (ERP) application SAP on multiprocessor servers
US20070118657A1 (en) * 2005-11-22 2007-05-24 Motorola, Inc. Method and system for sharing podcast information
US8250559B2 (en) * 2006-04-12 2012-08-21 Oracle America, Inc. Supporting per-program classpaths with class sharing in a multi-tasking virtual machine
KR20090042951A (ko) * 2006-08-08 2009-05-04 지멘스 에너지 앤드 오토메이션 인코포레이티드 Ｐｌｃ에 관한 장치들, 시스템들, 및 방법들
US8621030B2 (en) * 2006-09-28 2013-12-31 Intel Corporation Techniques to copy an operating system
US8752059B2 (en) * 2007-03-27 2014-06-10 International Business Machines Corporation Computer data processing capacity planning using dependency relationships from a configuration management database
US8219987B1 (en) * 2007-08-24 2012-07-10 Vmware, Inc. Optimized virtual machine specification for provisioning application specific runtime environment
US8156502B1 (en) 2007-06-08 2012-04-10 Hewlett-Packard Development Company, L.P. Computer resource allocation as a function of demand type
US20090100435A1 (en) * 2007-10-11 2009-04-16 Microsoft Corporation Hierarchical reservation resource scheduling infrastructure
US8893141B2 (en) * 2008-01-28 2014-11-18 Microsoft Corporation System and method for describing applications for manageability and efficient scale-up deployment
US8935692B2 (en) 2008-05-22 2015-01-13 Red Hat, Inc. Self-management of virtual machines in cloud-based networks
US20100153941A1 (en) * 2008-12-12 2010-06-17 Lazar Borissov Flexible content update via deployment order template
US9529636B2 (en) * 2009-03-26 2016-12-27 Microsoft Technology Licensing, Llc System and method for adjusting guest memory allocation based on memory pressure in virtual NUMA nodes of a virtual machine
US8627426B2 (en) * 2010-04-26 2014-01-07 Vmware, Inc. Cloud platform architecture
US8412810B1 (en) 2010-07-02 2013-04-02 Adobe Systems Incorporated Provisioning and managing a cluster deployed on a cloud
US8621069B1 (en) * 2010-09-03 2013-12-31 Adobe Systems Incorporated Provisioning a computing application executing on a cloud to a client device
US8661120B2 (en) * 2010-09-21 2014-02-25 Amazon Technologies, Inc. Methods and systems for dynamically managing requests for computing capacity
US8484353B1 (en) * 2010-09-28 2013-07-09 Amazon Technologies, Inc. Resource placement templates for virtual networks
US9552215B2 (en) 2011-03-08 2017-01-24 Rackspace Us, Inc. Method and system for transferring a virtual machine
US9471384B2 (en) * 2012-03-16 2016-10-18 Rackspace Us, Inc. Method and system for utilizing spare cloud resources
US9015710B2 (en) * 2011-04-12 2015-04-21 Pivotal Software, Inc. Deployment system for multi-node applications
CN103649910A (zh) * 2011-07-11 2014-03-19 惠普发展公司，有限责任合伙企业 虚拟机放置
US8788855B2 (en) * 2011-09-23 2014-07-22 Microsoft Corporation Cluster computational capacity level switching based on demand prediction and stability constraint and power consumption management
EP2746936A4 (en) * 2011-10-24 2015-03-11 Huawei Tech Co Ltd METHOD AND SYSTEM FOR STARTING AN APPLICATION IN A LINUX CONTAINER
US9003141B2 (en) 2011-11-14 2015-04-07 Ca, Inc. Enhanced software application platform
US8930542B2 (en) 2012-01-23 2015-01-06 International Business Machines Corporation Dynamically building a set of compute nodes to host the user's workload
US9720668B2 (en) 2012-02-29 2017-08-01 Red Hat, Inc. Creating and maintaining multi-tenant applications in a platform-as-a-service (PaaS) environment of a cloud computing system
KR101781063B1 (ko) * 2012-04-12 2017-09-22 한국전자통신연구원 동적 자원 관리를 위한 2단계 자원 관리 방법 및 장치
US8843935B2 (en) * 2012-05-03 2014-09-23 Vmware, Inc. Automatically changing a pre-selected datastore associated with a requested host for a virtual machine deployment based on resource availability during deployment of the virtual machine
JP6049887B2 (ja) * 2012-09-20 2016-12-21 アマゾン テクノロジーズ インコーポレイテッド リソース使用の自動プロファイル化
US20140173618A1 (en) * 2012-10-14 2014-06-19 Xplenty Ltd. System and method for management of big data sets
US20140196038A1 (en) 2013-01-08 2014-07-10 Commvault Systems, Inc. Virtual machine management in a data storage system
US10552774B2 (en) 2013-02-11 2020-02-04 Amazon Technologies, Inc. Cost-minimizing task scheduler
EP3982270B1 (en) * 2013-11-25 2024-07-03 Amazon Technologies, Inc. Customer-directed networking limits in distributed systems
US9342346B2 (en) * 2014-07-27 2016-05-17 Strato Scale Ltd. Live migration of virtual machines that use externalized memory pages
US9323556B2 (en) 2014-09-30 2016-04-26 Amazon Technologies, Inc. Programmatic event detection and message generation for requests to execute program code
US9715402B2 (en) 2014-09-30 2017-07-25 Amazon Technologies, Inc. Dynamic code deployment and versioning
US9256467B1 (en) 2014-11-11 2016-02-09 Amazon Technologies, Inc. System for managing and scheduling containers
WO2016086991A1 (en) * 2014-12-04 2016-06-09 Nokia Solutions And Networks Management International Gmbh Steering of virtualized resources
US10609122B1 (en) * 2015-06-29 2020-03-31 Amazon Technologies, Inc. Instance backed building or place
US10261782B2 (en) * 2015-12-18 2019-04-16 Amazon Technologies, Inc. Software container registry service
US10572226B2 (en) * 2016-12-21 2020-02-25 Aon Global Operations Ltd (Singapore Branch) Methods, systems, and portal using software containers for accelerating aspects of data analytics application development and deployment
US10884790B1 (en) * 2018-05-02 2021-01-05 Amazon Technologies, Inc. Eliding redundant copying for virtual machine migration

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060136928A1 (en) * 2004-12-21 2006-06-22 Crawford Isom L Jr System and method for associating workload management definitions with computing containers
US20060168581A1 (en) * 2005-01-21 2006-07-27 Karl Goger Software deployment system
KR20140086436A (ko) * 2012-12-28 2014-07-08 삼성에스디에스 주식회사 가상 클러스터의 동적 확장 시스템, 방법 및 그 프로그램이 저장된 기록매체

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102101602B1 (ko) * 2019-04-04 2020-04-17 한국전자통신연구원 트래픽 관리 장치 및 방법
KR20220036981A (ko) * 2019-10-11 2022-03-23 인터내셔널 비지네스 머신즈 코포레이션 가상 메모리 메타데이터 관리
WO2021096053A1 (ko) * 2019-11-15 2021-05-20 한국전자기술연구원 클라우드 기반 서버리스 플랫폼에서의 실시간성 서비스 제공 방법
KR20210059229A (ko) * 2019-11-15 2021-05-25 한국전자기술연구원 클라우드 기반 서버리스 플랫폼에서의 실시간성 서비스 제공 방법
KR20210061633A (ko) * 2019-11-20 2021-05-28 주식회사 케이티 가상화 시스템의 컨테이너 스케줄링 장치 및 방법
KR102090911B1 (ko) * 2019-12-16 2020-03-19 주식회사 케이비시스 컨테이너 기반의 클라우드 서비스 제공 시스템
WO2021125502A1 (ko) * 2019-12-16 2021-06-24 주식회사 케이비시스 컨테이너 기반의 클라우드 서비스 제공 시스템 및 그 방법
US11747986B2 (en) 2019-12-16 2023-09-05 Kbsys Inc. Container-based cloud service providing system and method therefor
KR102209044B1 (ko) * 2020-03-12 2021-01-29 주식회사 케이비시스 클라우드 네이티브 데이터베이스 구조를 갖는 클라우드 시스템
KR20220011063A (ko) * 2020-07-20 2022-01-27 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 서버 리소스 할당 방법, 장치, 전자 기기 및 저장 매체

Also Published As

Publication number Publication date
SG11201703680WA (en) 2017-06-29
US20190108049A1 (en) 2019-04-11
EP3218808A1 (en) 2017-09-20
US20220357972A1 (en) 2022-11-10
AU2019204805B2 (en) 2020-09-24
AU2020289775A1 (en) 2021-04-01
US9256467B1 (en) 2016-02-09
RU2019131233A3 (ko) 2021-04-05
JP2017538204A (ja) 2017-12-21
RU2018130629A3 (ko) 2019-05-20
KR20170085072A (ko) 2017-07-21
JP6856696B2 (ja) 2021-04-07
AU2020289775B2 (en) 2022-10-27
US11314541B2 (en) 2022-04-26
RU2704734C2 (ru) 2019-10-30
AU2015346530C1 (en) 2019-09-05
RU2019131233A (ru) 2021-04-05
KR102042988B1 (ko) 2019-11-11
US11669362B2 (en) 2023-06-06
SG10201913839VA (en) 2020-03-30
AU2015346530A1 (en) 2017-06-01
RU2018130629A (ru) 2019-03-15
CN119003167A (zh) 2024-11-22
RU2751576C2 (ru) 2021-07-15
RU2666475C1 (ru) 2018-09-07
CN107111519A (zh) 2017-08-29
KR101952573B1 (ko) 2019-02-27
JP6522750B2 (ja) 2019-05-29
WO2016077367A1 (en) 2016-05-19
JP2019149192A (ja) 2019-09-05
US20200301726A1 (en) 2020-09-24
AU2019204805A1 (en) 2019-07-25
US10838756B2 (en) 2020-11-17
AU2015346530B2 (en) 2019-04-04
US20160162320A1 (en) 2016-06-09
US9996380B2 (en) 2018-06-12

Similar Documents

Publication Publication Date Title
KR101952573B1 (ko) 컨테이너를 관리 및 스케줄링하기 위한 시스템
US10979436B2 (en) Versatile autoscaling for containers
US9760398B1 (en) Automatic placement of virtual machine instances
CA2919839C (en) Virtual computing instance migration
US10412020B2 (en) Background processes in update load balancers of an auto scaling group
US10931741B1 (en) Usage-sensitive computing instance management
WO2017200878A1 (en) Versatile autoscaling

Legal Events

Date Code Title Description
A107 Divisional application of patent
A201 Request for examination
PA0104 Divisional application for international application

Comment text: Divisional Application for International Patent

Patent event code: PA01041R01D

Patent event date: 20190220

Application number text: 1020177015815

Filing date: 20170609

PA0201 Request for examination
PG1501 Laying open of application
E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20190308

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20190808

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20191105

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20191106

End annual number: 3

Start annual number: 1

PG1601 Publication of registration
PR1001 Payment of annual fee

Payment date: 20221020

Start annual number: 4

End annual number: 4