Multi-Domain Learning in Deep Learning

Introduction 최근 딥러닝 기반의 모델이 다양한 task에 대해서 좋은 성능을 보여주고 있습니다. 일반적으로 특정 종류의 task를 수행하기 위해서는 해당 task를 위한 input과 label의 쌍을 지닌 데이터셋을 확보하고, 이를 활용해 딥러닝 모델을 학습하게 됩니다. 하지만 여러 종류의 task를 수행하기 위해서는 각각의 task를 위한 모델을 따로 구축해야 하므로 수행해야 하는 task의 개수가 늘어날 때 마다 점진적으로 보유해야…

Read More

Probabilistic Modeling with Tensorflow Probability

Introduction This post is aimed at introducing the tool, Tensorflow Probability. The content of the article is heavily borrowed from the following pages. https://www.tensorflow.org/probability/ https://github.com/CamDavidsonPilon/Probabilistic-Programming-and-Bayesian-Methods-for-Hackers https://www.youtube.com/watch?v=CkD4PKwn9Dk (seminar) A high-level description of the Tensorflow Probability (TFP) is that it is a tool that can chain probability distributions to make a probabilistic inference. Probabilistic modeling is quite…

Read More

Uncertainty and Deep Learning

Introduction This post is aimed at explaining the concept of uncertainty in deep learning. More often than not, when people speak of uncertainty or probability in deep learning, many different concepts of uncertainty are interchanged with one another, confounding the subject in hand altogether. To see this, consider such questions. – Is my network’s classification…

Read More

R-CNNs Tutorial

INTRODUCTION Object detection은 입력 영상이 주어졌을 때, 영상 내에 존재하는 모든 카테고리에 대해서 classification과 localization을 수행하는 것을 말합니다. 입력 영상에 따라 존재하는 물체의 개수가 일정하지 않고 0~N개로 변하기 때문에 난이도가 높은 task로 알려져 있습니다. 본 글에서는 convolutional neural network(CNN) 기반의 object detection 중에서 높은 성능과 빠른 속도로 큰 주목을 받고 있는 region based CNN의 흐름을…

Read More

Style Transfer

Introduction Style transfer란, 두 영상(content image & style image)이 주어졌을 때 그 이미지의 주된 형태는 content image와 유사하게 유지하면서 스타일만 우리가 원하는 style image와 유사하게 바꾸는 것을 말합니다. 위 그림에서는 주택사진을 content image로 주고 다른 화가의 작품들을 style image로 주었는데, 주택의 형태와 배치는 유지되면서 화풍만 각 작품과 유사하게 바뀐 것을 볼 수 있습니다. Neural network를…

Read More

Visualizing Neural Activations

Introduction CNN을 사용해 주어진 task를 수행할 때 우리는 주어진 high-level activation map의 각 activation이 입력 이미지의 어느 영역에서 기원한 것인지 종종 추적해야 할 때가 있다. 이는 CNN 모델의 구조 및 종류와 관계 없이 주로 다음과 같은 상황에서 필요하다. CNN의 동작 원리를 시각화하여 이해하려고 할때. 적절한 receptive field size를 고려해 CNN을 설계할 때. Class-level label만으로 학습한…

Read More