A Novel Hierarchical Edge-based Architecture for Service Oriented IoT

Abstract

The Internet of Things (IoT) is becoming more common in our daily lives, and there are many commercially available IoT platforms. As IoT platforms are the core of building IoT solutions, the design of IoT platforms determines the characteristics of IoT systems, so various designs of platforms are being researched. Among them, edge-based platforms have the advantage of responsiveness and privacy protection because the middleware is located close to the device, and service-oriented IoT has the strength of allowing users to communicate with the IoT without specifying a device. Various research efforts are underway to overcome the weakness of edge-based platforms, which is the lack of scalability, but they all consider only a flat structure, i.e., edge-to-edge connectivity through a single layer.

In this thesis, we propose a hierarchical architecture for edge middleware that maintains the advantages of edge-based IoT and service-oriented IoT while allowing flexible scaling along a tree structure. We identify design requirements and technical challenges to realizing this new architecture and propose solutions. The five main requirements of the hierarchical middleware structure, resource sharing, and scheduling are addressed through two novel techniques. First, we introduce a new type of service called a super service to enable privacy-preserving edge-to-edge communication and resource sharing. It acts as a service request arbiter in the layer and takes over service requests between each middleware. Second, to enable flexible mapping between devices and services in the service-oriented IoT, we devise a distributed algorithm for the scheduling problem that is made more complex by the addition of super services. This enables real-time responsiveness of super services while distributing the scheduling load across multiple edges to avoid computational overload on any one edge.

As another contribution of this thesis, we develop a simulation framework to evaluate the proposed platform. When building an IoT system, its characteristics can vary depending on the purpose and scale, such as a smart home or a smart factory, and the goals of the system administrator can also vary, such as saving energy and improving user experience. IoT systems are characterized by a large number of different devices, making them difficult to model. We implement a hardware-in-the-loop simulator that creates a hierarchical IoT environment on top of multiple real devices and observes the actual interaction between middlewares and end devices by triggering randomly generated events according to the settings. Based on this simulator, we provide a framework for evaluating the performance of different scheduling algorithms in different IoT environments. This allows users to pre-create IoT environments based on the size and characteristics of their target system and find the optimal scheduling algorithm. This framework has been released on GitHub for further research.

Finally, we verify the feasibility of the proposed platform through the implementation of a smart campus testbed and various experiments using the simulation framework. We installed Raspberry Pi in two buildings and five rooms at Seoul National University to build a hierarchical structure and run various IoT applications connecting different edges to verify that it works in the real world. To check the performance of the super service, we adjusted the height, width, and number of applications in the tree and measured the response speed as the load increased, proving that the performance of the super service is sufficient even in a large hierarchy. We also show that different scheduling policies give different results when applied to the same environment, demonstrating the need for a scheduling framework to help develop scheduling algorithms.

사물인터넷(IoT)은 일상 생활에서 더 보편화되고 있으며, 많은 상용화된 IoT 플랫폼이 사용되고 있다. IoT 솔루션을 구축하는데 가장 핵심이 되는 IoT 플랫폼은, 설계를 어떻게 하느냐가 IoT 시스템의 특성을 좌우하기 때문에 다양한 디자인의 플랫폼이 연구되고 있다. 그 중, 엣지 기반 플랫폼은 디바이스와 가까운 곳에 미들웨어가 위치하여 반응속도와 프라이버시 보호의 이점이 있고, 서비스 지향 IoT는 사용자가 디바이스를 직접 지정하지 않고 IoT와 소통할 수 있게 해준다는 강점이 있다. 엣지 기반 플랫폼의 약점인 확장성을 극복할 수 있도록 하는 다양한 연구가 진행되고 있지만 이들은 모두 수평적 구조 즉, 단일 계층을 통한 엣지간 연결만을 고려하고 있다.

본 논문에서는 엣지 기반 IoT와 서비스 지향 IoT의 장점들을 유지하면서도 트리 구조를 따라 유연하게 확장될 수 있도록 하는 엣지 미들웨어의 계층적 구조를 제안한다. 이 때, 이 새로운 구조를 실현하기 위한 설계 요구사항들과 테크니컬 챌린지들을 도출하고, 그에 대한 솔루션을 제시한다. 계층 구성, 자원 공유, 스케줄링 등의 다섯 가지 메인 요구사항들은 크게 두 가지의 새로운 기법을 통해 해결된다. 첫째, 프라이버시를 보호하며 엣지 간 통신 및 자원 공유를 가능하게 하기 위해 슈퍼 서비스라는 새로운 유형의 서비스를 도입한다. 이는 계층에서 서비스 요청 중재자의 역할을 하며 각 미들웨어간의 서비스 요청을 대신 한다. 둘째, 서비스 지향 IoT의 유연한 디바이스와 서비스간의 매핑을 가능하게 하기 위해 슈퍼 서비스가 추가됨으로써 더욱 복잡해진 스케줄링 문제를 푸는 분산 알고리즘을 고안한다. 이는 슈퍼 서비스를 실시간으로 대응할 수 있게 해줌과 동시에 스케줄링 부하를 여러 엣지에 분산시킴으로써 한 엣지로의 연산 과부하도 막아준다.

IoT 시스템에서는 수많은 서로 다른 디바이스가 존재하며 예측 불가한 동적인 이벤트들을 자주 일어나기 때문에 정확한 모델링 기반 시뮬레이션은 거의 불가능하다. 따라서, 설정에 따라 실제 디바이스 위에 계층 구조 IoT 환경을 생성하고, 설정에 따라 임의 생성된 이벤트를 발생시켜 IoT 미들웨어와 디바이스간의 실제 교류를 관측하는 하드웨어 인 더 루프 시뮬레이터를 구현한다. 이 시뮬레이터를 기반으로 하여, 다양한 스케줄링 알고리즘의 성능을 여러 IoT 환경에서 평가할 수 있게 해주는 프레임워크를 제공한다. 사용자는 이를 통해 자신이 목표로 하는 시스템의 규모와 특성에 따라 IoT 환경을 미리 만들어볼 수 있을 뿐더러, 최적의 스케줄링 알고리즘을 찾을 수 있다. 이 프레임워크는 향후 추가연구를 위해 깃헙에 공개하였다.

마지막으로, 스마트 캠퍼스 테스트 베드 구현과 시뮬레이션 프레임워크를 이용한 다양한 실험을 통해 제안한 플랫폼의 실행 가능성을 검증한다. 서울대학교 내에 두 건물과 다섯 개의 방에 라즈베리 파이를 설치하여 계층 구조를 구축하고, 서로 다른 엣지를 연결하는 다양한 IoT 응용들을 실행하여 실제 공간에서도 문제없이 작동함을 확인한다. 슈퍼 서비스의 성능을 확인하기 위해 트리의 높이, 너비, 응용 갯수 등을 조정하며 부하가 높아짐에 따른 반응속도를 측정하여 큰 규모의 계층 구조에서도 슈퍼 서비스의 성능이 충분하다는 것을 입증한다. 또, 서로 다른 스케줄링 정책을 동일한 환경에 적용했을 때 결과가 달라지는 것을 확인하며 스케줄링 알고리즘 개발을 돕는 스케줄링 프레임워크의 필요성을 다시 한번 보인다.