Adversarial Robustness: 1

Chapter1. Introduction to Adversarial Robustness

Introduction

머신 러닝 시스템을 가상의 영역 뿐만 아니라 실제 시스템에서 효율적으로 이용하기 시작하며, 시스템이 “대부분의 경우”에 돌아가는 것이 아닌, 실제로 튼튼하며 믿을 수 있는지(robust and reliable)가 중요하게 되었다. 비록 많은 robustness와 reliability의 개념이 존재하지만, 이 영역에서의 한 가지 특정한 주제가 최근 몇년동안 아주 많은 이들의 흥미를 유발했다. Adversarial Robustness: 입력값에 분류기를 속이려하는 작은 변화를 주었을때 분류기가 이 변형된 이미지를 robust하게 분류할 수 있는가? 이것은 일반적으로 robustness의 아주 특정한 분야의 개념이지만, 현대의 머신러닝 시스템이 직면하고 있는, 특히 딥러닝과 관련된 부족한 점들을 중요해 보이는 위치로 가져온다.

이 튜토리얼은 deep-learning에서 adversarial-robustness의 주제에서 넓고 실질적인 소개를 보여주고자 한다. 우리의 목표는 수학적인 표현법과 핵심 방법을 강조하는 예시 코드를 유기적으로 이해하고 이런 환경에서 도전하는 것이다. 이런 목표를 갖고, 튜토리얼은 웹사이트에 저장되어있다. 하지만 모든 내용은 Jupyter Notebook들로도 다운로드 하는 것이 가능하다. (이것은 당신이 여기서 제시된 생각을 기반으로 코드를 실행하고 작성하는 것을 도와준다)

우리는 이 영역에서 다루고 있는 high-level 개념의 대부분을 다루고자 하지만, 몇몇의 관련있는 내용 또한 생략하게 될 것이다.우리는 이 리소스가 이 영역에 처음 접하게 되는 사람들에게 시작점을 제공하길 바란며, 개념을 더 깊게 추구하길 바라는 사람들에게 출발점이 되었으면 한다.

Reference

• Deep Learning Book [https://www.deeplearningbook.org/]
• Pytorch tutorials [https://pytorch.org/tutorials]