Publications

Detailed Information

Interactive Control of Unorganized Human Motion using Deep Neural Networks : 심 신경망을 이용한 조직화되지 않은 인간 동작의 실시간 컨트롤

Cited 0 time in Web of Science Cited 0 time in Scopus
Authors

이경호

Advisor
이제희
Issue Date
2019-08
Publisher
서울대학교 대학원
Keywords
Computer GraphicsData-driven AnimationCharacter ControlInteractive ControlPerformance-driven ControlMachine LearningDeep LearningRecurrent Neural Network
Description
학위논문(박사)--서울대학교 대학원 :공과대학 전기·컴퓨터공학부,2019. 8. 이제희.
Abstract
Manipulating a virtual character is one of the major problems in computer graphics. The primary purpose of the character control is how to make virtual characters behave like humans, and how to control them as we want. Motion capture techniques enable realistic reproduction of human motion. As the number of actions increases, a more amount of motion data is required, and it is necessary to segment and label the clips corresponding to each action. These classification tasks need to be minimized because they should be performed manually. It is also a difficult problem to deal with multiple actions in one controller, since the parameters for manipulating each operation may be different. To control a character in real-time, controllers must have fast computation time and low memory requirements at runtime.
In this thesis, we proposed methods to learn the controller from unorganized motion data using a deep neural network. Using the deep neural network enables low memory usage because it does not need to have training data at runtime. It also makes the real-time operation possible using the GPU acceleration technique. We used Recurrent Neural Networks to capture underlying structures of human motion and also provide precise control over interactive characters. We proposed two techniques for manipulating virtual characters. The first is to manipulate the various actions on a single controller based on spatiotemporal constraints. We infer a character 's intention from learning motion data, and the user only needs to label the action frame of each motion. We also present a new data augmentation method that allows the model to be learned even from a small to moderate amount of training data. The second is to manipulate characters based on the user's performance. Performance-driven control allows users to perform intuitive control without having to learn how to operate them. However, the virtual character may follow unskilled movements of the novice user, resulting in awkward motions. We propose a controller model that transforms the control parameters of the expert training data into values similar to those of the novice user. Our model can output a professional motion even from a beginner user. To verify the effectiveness of the proposed model, we showed the results using various motions such as basketball, tennis, dancing and walking.
가상의 캐릭터를 조작하는 것은 그래픽스 분야의 중요한 문제중 하나이다. 캐릭터 컨트롤의 주요 목적은 캐릭터가 실제 사람과 같이 자연스럽게 움직이면서 사용자가 원하는 목적을 따라 행동하도록 하는 것이다. 자연스러운 동작을 재현하기 위해서는 실제 사람의 동작을 캡쳐한 모션 데이터가 활용된다. 다루고자 하는 동작이 많아질 수록 그만큼 더 많은 양의 모션 데이터를 필요로 하고, 각각의 동작에 해당하는 클립들을 분할하고 라벨링하는 작업을 필요로 한다. 이러한 분류 작업들은 사람이 직접 수행해야하기 때문에 이를 최소화 할 필요가 있다. 또한 각 동작을 조작하기 위한 매개변수들이 서로 다를 수 있기 때문에 여러 동작을 한번에 컨트롤하기 위한 모델이 필요하다. 실시간으로 사용자가 캐릭터를 조작하기 위해서는 런타임에 빠르게 계산이 가능해야하고 메모리 사용량이 적어야 한다.
본 학위논문에서는 심 신경망을 활용하여 조직화되지 않은 모션 데이터로부터 사용자 수작업을 최소화 하면서 실시간으로 조작 가능한 컨트롤러를 학습하는 기법을 제시하였다. 심 신경망을 활용하면 런타임에 학습 데이터를 가지고 있지 않아도 되기 때문에 메모리 사용량이 적고, 그래픽 카드 기반 가속 기법을 활용하여 실시간 연산이 가능하다. 우리는 순환신경망 모델을 활용하여 동작이 부드럽게 연결되면서 의미적으로 올바른 동작이 나오도록 하였다. 가상 캐릭터의 조작 방법으로는 두가지 기법을 제안하였다. 첫번째는 시공간 제약조건을 기반으로 다양한 동작들을 하나의 컨트롤러로 조작하는 것이다. 우리는 학습 모션 데이터로부터 캐릭터의 의도를 추론하여 각 동작의 액션 지점만 라벨링하면 자동으로 컨트롤러를 학습할 수 있는 모델을 제시하였다. 또한 기존의 캐릭터 애니메이션 기법을 활용한 데이터 증강 기법을 도입하여 적은 모션 데이터로부터도 안정적으로 캐릭터를 조작할 수 있도록 하였다. 두번째로는 사람의 행위를 기반으로 캐릭터를 조작하는 방법을 제안하였다. 사용자가 직접 몸을 움직여서 캐릭터를 조작하면 별도의 조작 방법을 익힐 필요 없이 직관적인 조작이 가능하다. 다만 가상의 캐릭터가 초보자인 사용자의 어설픈 동작을 그대로 따라가서 부자연스러운 결과가 나올 수 있다. 우리는 학습 데이터의 전문가 동작에 대한 조작 매개변수를 초보자의 입력과 유사한 형태로 변형하여 학습하여, 초보자의 입력에도 전문가와 같은 자연스러운 동작을 출력하는 컨트롤러 모델을 제안하였다. 제안한 모델의 효용성을 검증하기 위해 농구, 테니스, 댄스, 보행 등의 다양한 동작을 활용하여 결과를 비교하였다.
Language
eng
URI
https://hdl.handle.net/10371/162012

http://dcollection.snu.ac.kr/common/orgView/000000158062
Files in This Item:
Appears in Collections:

Altmetrics

Item View & Download Count

  • mendeley

Items in S-Space are protected by copyright, with all rights reserved, unless otherwise indicated.

Share