인텔 프로세서 트레이스를 이용한 실시간 다중 가상머신의 커널 제어 흐름 무결성 보장

Abstract

오늘날 클라우드 컴퓨팅 기술은 사물 인터넷 서비스, 인공지능 서비스 등 다양한 서비스를 위해 사용되고 잇다. 하지만 이렇게 클라우드에 많은 정보들이 처리되게 되면서 이러한 클라우드 컴퓨팅 환경에 대한 보안 문제에 대한 우려도 커지고 있는 상황이다. 이를 위해 클라우드 컴퓨팅 환경에서 가상머신의 무결성을 보장하기 위한 다양한 연구가 진행되었지만, 아직 가상머신 커널의 실행 흐름 무결성의 경우에는 커널 코드를 수정해야할 뿐 아니라 효율적으로 보호도 하지 못하였다. 또한 실제 클라우드 환경에서는 다수의 가상머신이 동시에 실행되며 각각의 가상머신이 서로 다른 커널로 동작할 수 있기 때문에 가상머신들 간의 구분을 필요로 한다. 이에 이번 논문에서는 클라우드 환경에서 가상머신 커널의 수정 없이 실시간으로 다수의 가상머신에 대해 효율적으로 가상머신 커널의 실행 흐름 무결성을 보호하는 RTC-VM을 제안한다. 이를 위해 RTC-VM은 동시에 실행되는 여러 개의 가상머신을 구분하여 각각에 대해 무결성을 검증할 수 있게 구현되었다. 또한, 가상머신 실행 흐름 정보에 대한 유실 없이 실시간으로 모니터링할 수 있다. 그리고 효율적으로 수행 흐름 정보를 얻기 위해 RTC-VM은 최근 인텔 아키텍처에서 지원하는 하드웨어 기능인 Processor Trace (PT)를 활용하였으며, 가상머신의 성능 실험에서도 7.5%의 적은 성능 오버헤드로 수행 흐름 무결성을 보장하였다.

Nowadays cloud computing technology is used for a variety of services, such as the internet of things and artificial intelligence. However, as more data is being processed in the cloud, there is growing concern about security issues in the cloud computing environment. To solve this concern, many studies have been conducted to ensure the integrity of virtual machines in a cloud computing environment. However, in the case of the control flow integrity for the virtual machine, existing studies are not only necessary to modify the kernel code, but also cannot protect it efficiently. Also, since multiple VMs which can have different kernel one another run simultaneously in real-world cloud computing environment, it is required to identify VMs. In this paper, we propose RTC-VM which efficiently protects the control flow integrity of VM kernel for multiple VMs without modification of VM kernel in real-time. For this purpose, RTC-VM is implemented to enforce control flow integrity of each VM with identifying multiple VMs which run concurrently. In addition, RTC-VM can monitor in real-time without loss of execution control-flow information. For efficient monitoring, RTC-VM utilizes Processor Trace (PT), a hardware feature that is recently supported by Intel architecture. According to the experimental results, RTC-VM incurs on average 7.5% overhead.