실시간 시스템에서의 멀티 GPGPU 응답 시간 분석

Abstract

최근에는 처리해야 하는 연산의 규모가 커짐에 따라 하나의 시스템에 2개 이상의 GPGPU를 활용하는 멀티 GPGPU 시스템이 보편화되고 있다. 멀티 GPGPU 시스템의 GPGPU들은 PCI Express와 스위치를 통해 전체 시스템과 연결되는데, CPU 및 메인 메모리와의 데이터 송수신 과정은 PCI Express를 통해 패킷 단위로 이루어지게 된다. CPU와 GPGPU간 데이터 전송이 PCI Express를 통해 동시에 이루어지게 될 경우 PCI Express 스위치에서 경합이 발생할 수 있다. PCI Express 스위치는 이러한 상황이 발생되었을 때 미리 프로그래밍된 중재 정책에 의해 패킷들을 순차적으로 처리하게 되며, 이 과정에서 시간 지연이 발생된다. 본 논문에서는 응답 시간을 계산하고자 하는 목적 태스크의 데이터 전송 시간 동안 간섭 태스크의 데이터 전송 발생 횟수를 계산하고, 이를 목적 태스크의 데이터 전송에 반영하는 과정을 재귀적으로 반복하여 최종적인 응답 시간을 산출하는 방법을 제안한다. 본 논문에서 제안하는 응답 시간 분석 방법은 실제 GPGPU의 동작 대비 약 21% 수준의 오차를 보였는데, 이는 기초적인 응답 시간 분석 방법과 대비하여 약 40%의 정확성을 향상 시킨 결과이다. 이를 통해 개발자는 실시간 시스템 측면에서 멀티 GPGPU 시스템의 스케줄 가능성과 다양한 시나리오에 대해 사전에 검토해 볼 수 있다.

Recently, as the scale of computations to be processed has increased, the use of multiple GPGPU systems has become popular. GPGPUs in multiple GPGPU systems are connected to the entire system via PCI Express and switches and data transmission and reception processes of GPGPU and CPU are performed in units of packets through PCI Express. However, if data transfer between CPU and GPGPU is performed simultaneously through PCI Express, a contention may occur in the PCI Express switch. When such a situation occurs, the PCI Express switch sequentially processes the packets according to the programmed arbitration policy and in this process, a time delay occurs. The analysis method proposed in this paper is as follows. First, calculate how much data transfer of the interfering task occurs during the data transfer time of the target task. Second, the calculated number is reflected in the data transfer of the target task. These processes are recursively repeated to calculate the final response time. The response time analysis method that we have proposed showed about 21\% error compared to the actual GPGPU operation. This is about 40\% better than the na{\"i}ve response time analysis method. Our proposed method allows the developer to review the schedulability of multiple GPGPU systems and various scenarios in advance in terms of real-time systems.