Yellog

1. Count-based vs Prediction-based 방식 설명 예시 Count-based단어와 문맥이 같이 등장한 횟수(빈도)를 세는 방법동시발생행렬, PMI, PPMIPrediction-based어떤 단어가 등장할지 예측하는 방법Word2Vec (CBOW, Skip-gram) 2. Word2Vec (2013, Google)단어를 의미 기반의 실수 벡터로 변환하는 분산표현 학습 기법 중 하나Prediction-based 방식의 대표적인 모델✅ CBOW (Continous Bag Of Words)주변에 있는 단어들을 입력으로 중간에 있는 단어들을 예측하는 방법(ex. "I __ to school" → "go"를 예측)✅ Skip-gram중간에 있는 단어들을 입력으로 주변 단어들을 예측하는..

1. 시소러스(Thesaurus)와 워드넷(WordNet) ✅ 시소러스 (Thesaurus)비슷한 뜻의 단어들을 묶어놓은 단어 모음 (ex. happy → glad, cheerful, joyful, pleased...)주로 동의어, 반의어 중심으로 구성되어 있으며, 트리처럼 분류하거나 단순히 비슷한 애들을 나열하는 방식✅ 워드넷 (WordNet) 시소러스보다 더 체계적인 단어 네트워크비슷한 의미의 단어 묶음과 의미 관계(상하 관계)를 담고 있음(ex. {car, auto, automobile, motorcar} → 상위어: vehicle → 하위어: taxi, van) ℹ️시소러스와 워드넷의 단점사람이 수작업으로 직접 분류하고 정리함 → 머신러닝의 철학과 정 반대시대 변화에 대응하기 어려움비용단어의 미묘..

🎨 스타일 전이란?Neural Style Transfer : Leon A. Gatys가 2015년에 제안한 알고리즘콘텐츠 이미지(content image)에 스타일 이미지(style image)의 화풍을 적용해 새로운 이미지를 생성하는 기법한 이미지를 다른 이미지의 화풍(style)으로 바꿀 수 있는 기술을 의미한다. 🎨 스타일 전이의 원리일반적으로 모델훈련은 정확도를 높이는 방향으로 가중치를 업데이트해 가며 학습시키지만, 스타일 전이에서는 가중치를 고정하고 픽셀을 업데이트한다.맨 처음 랜덤 노이즈 이미지와 타깃이 되는 고양이 이미지와 사이의 손실값을 구하고, 손실값이 줄어드는 방향으로 랜덤 노이즈 이미지의 픽셀을 변경한다.즉 [랜덤 노이즈와 콘텐츠 이미지 사이 손실값]과 [랜덤 노이즈와 스타일 이미..

💡 전이 학습이란?일반적으로 과거의 지식과 경험은 새로운 분야의 지식을 학습할 때 많은 영향을 미친다.예를 들어 바둑 고수는 체스를 빠르게 배울 수 있고, 바이올린 연주를 잘하는 사람은 피아노도 빠르게 배울 수 있으며, 자전거를 잘 타는 사람은 오토바이도 쉽게 탈 수 있다.이렇게 전이 학습은 ‘한 분야의 문제를 해결하기 위해서 얻은 지식과 정보를 다른 문제를 푸는 데 사용하는 학습 방식’으로 정의할 수 있다.딥러닝에서 전이 학습이란, 특정한 Task(Classification, Detection, Segmentation 등)에 대하여 사전 학습된 딥러닝 모델(Pre-trained model)을, 다른 Task로 Transfer(전이)하여 해당 모델을 사후적으로 학습하는 개념을 의미한다.💡 전이 학습의..

1. VGGNet 이란?ILSVRC에서 2014년 준우승(2위)을 한 CNN모델로, 백만개 이상의 이미지 데이터로 미리 학습 되어있는 사전학습모델ILSVRC (ImageNet Large Scale Visual Recognitoion Challenge) : 2010년부터 시작된 컴퓨터 비전 분야 대회사전학습모델 : 모델 구축부터 학습까지 모두 되어있는 상태 (보충 설명 필요)2012년 ILSVRC에서 딥러닝을 활용한 AlexNet이 우승하면서 CNN 모델에 관심이 집중되기 시작하였고, 이를 더 발전시키기 위한 여러 시도들 중 하나로 VGGNet이 등장하였음당시 1위를 한 GoogLeNet에 비해 간단한 구조로 이루어져있음에도 불구하고 성능에서 큰 차이를 보이지 않아 많은 인기를 얻었음신경망의 깊이 (레이어..