Browse

Effective Performance Isolation for Consolidated Workloads
통합된 워크로드들을 위한 효과적인 성능 격리

DC Field Value Language
dc.contributor.advisor엄현상-
dc.contributor.author남윤성-
dc.date.accessioned2020-10-13T02:56:58Z-
dc.date.available2020-10-13T02:56:58Z-
dc.date.issued2020-
dc.identifier.other000000162962-
dc.identifier.urihttps://hdl.handle.net/10371/169338-
dc.identifier.urihttp://dcollection.snu.ac.kr/common/orgView/000000162962ko_KR
dc.description학위논문 (박사) -- 서울대학교 대학원 : 공과대학 컴퓨터공학부, 2020. 8. 엄현상.-
dc.description.abstractAs computer hardware advances, computing resources in a machine (e.g., the number of processing cores, cache sizes, and memory sizes) are increasing in various domains from the datacenter to embedded devices. To utilize these resources efficiently, it is necessary to execute multiple workloads in parallel by consolidating them for sharing system resources. However, the resource sharing may cause severe contentions for the shared resources, thereby the performance of workloads can be degraded significantly. Moreover, workloads may have different service level objectives (SLOs) from latency-critical to best-effort, which complicates the consolidation of workloads. To deal with the contentions, many OSs and hardware vendors have provided diverse resource isolation techniques. However, they have been used in perspective of fairness, not performance. Besides, the existing schemes do not provide or perform isolations efficiently and effectively. This dissertation presents feedback-based performance isolation optimizations that adaptively mitigate resource contentions by exploiting the available isolation interfaces in the existing OS and hardwares. To enable this, an efficient online profiling which estimates resource contentions is necessary. Also, isolations should be performed dynamically guided by the workloads profiles.

In the dissertation, we propose performance isolation optimizations guided by online profiling for three systems. First, we present a performance isolation scheme that considers the characteristics of hardware and software isolation techniques for multicore systems. Second, we present an adaptive isolation optimization to mitigate mobile edge devices where resource are constrained and contentions may shift unexpectedly and frequently. Lastly, we propose a hierarchical contention-aware scheduling optimization for clusters, where provisions resources in fairness-centric manner, to mitigate contention when resource provisioning for latency-critical virtual machines (VMs). We have evaluated the proposed online profiling scheme and dynamic performance isolation scheme on diverse system environments (i.e., multicore server, edge devices, and clusters). Evaluation results show that our adaptive proposed approach can effectively track and mitigate resource contention for consolidated workloads, and thus can attain lower execution time (and latency) while achieving higher resource efficiency compared to the existing schemes under dynamic and significant resource contention.
-
dc.description.abstract컴퓨터 하드웨어가 발전함에 따라 데이터센터부터 임베디드 디바이스까지 다양한 분야들에서 머신 내 프로세싱 코어의 수, 캐쉬, 메모리 등 한 머신 내의 컴퓨팅 자 원들이 증가하고 있다. 점점 늘어나는 머신 내 컴퓨팅자원들을 효율적으로 쓰기 위 해서는 복수의 워크로드들을 통합함으로써 병렬적으로 수행하고 시스템 자원들을 공유하는 것이 필요하다. 하지만, 자원 공유는 공유되는 자원들에 대한 심한 경합을 야기할 수 있고, 이로 인해 워크로드들의 성능이 심각하게 저하될 수 있다. 더욱이, 워크로드들은 지연시간이 중요한 것부터 최선의 수행만을 목표로 하는 것까지 다양 한 서비스 수준 목표를 가진 워크로드들이 있을 수 있는데, 이는 워크로드들의 통합 을 어렵게 만든다. 경합 문제를 해결하기 위해서 운영체제와 하드웨어 제조사들이 다양한 자원 격리 기법들을 제시하고 있지만 여러 격리 기법들을 성능-중심적인 관 점이 아닌 공평한 자원 할당의 관점에서 사용해오고 있다. 게다가, 기존 기법들은 성능 격리를 제공하지 않거나 효율적이고 효과적으로 수행하지 못한다. 본 논문은 기존 운영체제 및 하드웨어의 자원 격리 기술을 활용하여 성능 격리를 적응적으로 수행하는 피드백 방식의 성능 격리 최적화 기법들을 제안한다. 이를 위해서는, 자 원 경합들을 평가하는 효과적인 온라인 프로파일링이 필요하다. 또한, 워크로드의 프로파일들에 따라서 격리가 수행되어야 한다.

본 논문에서, 우리는 세 가지 시스템에 대해서 온라인 프로파일링의 도움을 받 는 성능 격리 최적화기법들을 제시한다. 첫째, 일반적인 멀티코어 서버 환경에서 하드웨어 및 소프트웨어 격리기법들의 특성을 고려하는 성능 격리 최적화를 제시 한다. 둘째, 엣지 디바이스 환경과 같이 동적으로 자원 경합이 크게 변하는 특성을 고려한 적응적 성능 격리 최적화를 제시한다. 마지막으로, 공평성중심으로 자원을 프로비저닝하는 클러스터 환경에서 지연시간이 중요한 가상머신들의 자원 경합을 완화하는 계층적인 자원 경합 인지 스케줄링 최적화를 제안한다. 본 논문에서 제안한 온라인 프로파일링 기법들과 적응적 최적화기법들의 효과를 증명하기 위해 다양한 시스템 환경(멀티코어, 엣지 디바이스, 그리고 클러스터)에 구현하여 검증 하였다. 실험 결과는 우리의 제안하는 적응적 성능 격리 최적화 접근방식이 통합된 워크로드들이 수행되는 동적인 환경에서 효과적으로 자원 경합을 줄여 기존 기법 들 대비 워크로드들의 더 낮은 수행 시간 및 지연 시간을 보이는 동시에 높은 자원 효율성을 달성할 수 있음을 보였다.
-
dc.description.tableofcontentsChapter 1 Introduction 1
1.1 Motivation 1
1.1.1 Importance of Contention-Awareness 1
1.1.2 Problems 2
1.2 Contribution 5
1.3 Dissertation Structure 6
Chapter 2 Background 7
2.1 Resource Contention 7
2.2 Service Level Objectives 8
2.3 Isolation Techniques 9
2.3.1 Software Isolation Techniques 10
2.3.2 Hardware Isolation Techniques 11
2.4 Architectural Characteristics and Challenges 11
2.4.1 Multicore Systems 12
2.4.2 Edge Devices 13
2.4.3 Clusters 14
Chapter 3 HIS: Towards Hybrid Isolation for Shared Multicore Systems 19
3.1 Introduction 19
3.2 Trade-offs between Hardware and Software Techniques 23
3.3 Ineffective Isolations 28
3.3.1 Different Isolation Effects 28
3.3.2 Inefficient Isolation Decisions 30
3.4 HIS:Hybrid Isolation System 33
3.4.1 Profiling Contention 35
3.4.2 Hybrid Isolation 37
3.5 Evaluation 41
3.5.1 Experimental Setup 41
3.5.2 Experimental Results 42
3.6 Related Work 51
3.7 Conclusion 52
Chapter 4 EdgeIso: Effective Performance Isolation for Edge Devices 53
4.1 Introduction 53
4.2 Motivation and Related Work 56
4.2.1 Motivation 56
4.2.2 Related Works 57
4.3 Design and Implementation. 61
4.3.1 Profiling 63
4.3.2 Scheduling 66
4.3.3 Overheads 72
4.4 Evaluation 72
4.4.1 Data Processing Task 73
4.4.2 Latency-critical Task 75
4.4.3 Comparison with Alternative Approaches 78
4.5 Conclusion 85
Chapter 5 Workload-aware Resource Management for Software-Defined Compute 86
5.1 Introduction 86
5.2 Motivation 89
5.3 Workload Profiling for Performance Isolation 90
5.3.1 Performance Metrics for Workloads Behavior 90
5.4 Workload-Aware Scheduling for Performance Isolation 95
5.4.1 Method for Mitigating Resource Contention 96
5.4.2 Workload-AwareScheduler 98
5.5 Evaluation 104
5.5.1 ExperimentalSetup. 105
5.5.2 ExperimentResults. 106
5.6 Applicability 114
5.7 RelatedWork 114
5.8 Conclusion 116
Chapter 6 Conclusion 118
요약 131
-
dc.language.isoeng-
dc.publisher서울대학교 대학원-
dc.subjectPerformance Isolation-
dc.subjectResource Management-
dc.subjectResource Contention-
dc.subjectAdaptive System-
dc.subjectMulticore System-
dc.subjectEdge Computing-
dc.subjectCluster-
dc.subject성능 격리-
dc.subject자원 관리-
dc.subject자원 경합-
dc.subject적응형 시스템-
dc.subject멀티코어 시스템-
dc.subject엣지 컴 퓨팅-
dc.subject클러스터-
dc.subject.ddc621.39-
dc.titleEffective Performance Isolation for Consolidated Workloads-
dc.title.alternative통합된 워크로드들을 위한 효과적인 성능 격리-
dc.typeThesis-
dc.typeDissertation-
dc.contributor.AlternativeAuthorYOONSUNG NAM-
dc.contributor.department공과대학 컴퓨터공학부-
dc.description.degreeDoctor-
dc.date.awarded2020-08-
dc.identifier.uciI804:11032-000000162962-
dc.identifier.holdings000000000043▲000000000048▲000000162962▲-
Appears in Collections:
College of Engineering/Engineering Practice School (공과대학/대학원)Dept. of Computer Science and Engineering (컴퓨터공학부)Theses (Ph.D. / Sc.D._컴퓨터공학부)
Files in This Item:
  • mendeley

Items in S-Space are protected by copyright, with all rights reserved, unless otherwise indicated.

Browse