전체 글 241

Restricted Boltzmann Machine(RBM)

RBM은 Generative Model로 확률밀도함수를 모델링하는것이 목표이다. 확률밀도함수를 알면 무엇을 할 수 있는가? 내부적인 연결이 없는 볼츠만 머신이라고 생각할 수 있으며 조건부 확률을 구하기 수월하다. Energy라는 새로운 개념을 사용한다 조건부확률은 위와 같은 과정으로 구할 수 있다. hidden layer를 1로 샘플링할지 0으로 샘플링할지 조건부확률을 통해서 구할 수 있다. RBM은 Backward를 통해 샘플링한 데이터와 원래 데이터의 차이를 좁혀가는 방식으로 학습한다.

ML 2021.01.30

퍼셉트론(perceptron)

Percepron이란 무엇인가? 입력 x가 들어왔을 때 입력 x 들의 가중치를 곱하고 가중치들의 합과 바이어스를 더해서 아웃풋을 만든다 활성화 함수를 사용해서 최종 결과가 나온다 사전적 의미에서 perceptron은 단일 퍼셉트론을 의미하곤 한다. 다층 퍼셉트론은 MLP로 불리게 되는데 XOR 같은 문제를 분류하기 위해서 MLP가 필요하게 된다. linear classification linear classifier를 위해서 만들어진 모델이다. 두 가지 클래스가 있을 때 선형적으로 구별할 수 있는 classifier AND OR XOR Single neural network의 한계점 XOR 게이트의 경우 single neural network로는 분류를 할 수 없다. 한 개의 선으로는 XOR를 구분할 수..

로지스틱 회귀(Logistic regression)

로지스틱 회귀 독립 변수의 선형 결합을 이용하여 사건의 발생 가능성을 예측하는데 사용되는 통계 기법이다. 로지스틱 회귀의 목적은 일반적인 회귀 분석의 목표와 동일하게 종속 변수와 독립 변수간의 관계를 구체적인 함수로 나타내어 향후 예측 모델에 사용하는 것이다. 이는 독립 변수의 선형 결합으로 종속 변수를 설명한다는 관점에서는 선형 회귀 분석과 유사하다. 하지만 로지스틱 회귀는 선형 회귀 분석과는 다르게 종속 변수가 범주형 데이터를 대상으로 하며 입력 데이터가 주어졌을 때 해당 데이터의 결과가 특정 분류로 나뉘기 때문에 일종의 분류 (classification) 기법으로도 볼 수 있다. 흔히 로지스틱 회귀는 종속변수가 이항형 문제(즉, 유효한 범주의 개수가 두개인 경우)를 지칭할 때 사용된다. 이외에, 두..

ML 2021.01.15

모두의 딥러닝 시즌2 [PyTorch] Lab-01-2 Tensor Manipulation 2

view 함수 view 함수를 사용하면 행렬의 형태를 바꿔줄 수 있다. Squeeze 스퀴즈는 쥐어 짜는것이다. 뷰함수를 사용한것과 같다. 스퀴즈를 사용하면 디멘션의 엘리멘트 개수가 1인 경우에 없애주게 된다. ft.squeeze(dim=0) 하면 효과가 없다. ft.squeeze(dim=1) 하면 동일한 효과를 얻는다 Unsqueeze Unsqueeze는 스퀴즈의 반대로 디멘션을 꼭 명시해줘야 한다. 원하는 디멘션에 1을 넣는다 뷰를 사용하는것과 같은 결과를 얻을 수 있다. 2차원 행렬에 적용시켜 봤을 때 Type Casting 텐서의 타입을 바꿔 주겠다. byte는 이진으로 저장한다 조건문을 실행했을 때 Concatenate 이어 붙힌다. 두개의 텐서를 이어 붙힌다. 디멘션 1=> 두번째 디멘션이 늘..

모두의 딥러닝 시즌2 [PyTorch] Lab-01-1 Tensor Manipulation 1

모든 데이터는 텐서로 표현할 수 있다. 넘파이리뷰 1D Array with NumPy 우선 넘파이를 임포트 해줘야 한다. import numpy as np import torch print('Rank of t: ', t.ndim) print('Shape of t: ', t.shape) 랭크가 의미하는것은 텐서의 차원을 의미하고 1차원으로 나열했기 때문에 랭크를 조회해보면 1로 결과가 나올것이다. shape는 몇 개의 열이 있는가를 조회할 수 있다. print('t[0] t[1] t[-1] = ', t[0], t[1], t[-1]) # Element print('t[2:5] t[4:-1] = ', t[2:5], t[4:-1]) # Slicing print('t[:2] t[3:] = ', t[:2], t[3..

PN junction- contact potential,Depletion region,Electric field,Capacitance 계산하기

결론부터 보면 PN junction 이해하기 두 타입의 반도체가 접합할 때 diffusion이 일어나 recombination이 발생할 것이다. 결국에 위의 그림과 같이 p형 반도체에서는 음이온 억셉터가 n형 반도체에서는 양이온 도너가 드러나게 된다. 이러한 극성으로 전기장이 형성되는데 p형 반도체와 n형 반도체의 majority carrier(다수 캐리어)의 diffusion을 방해하는 방향으로 생성이 되게 되며 반대로 minority carrier(소수 캐리어)의 diffusion은 잘되게 됩니다. E-field에 의해 생성되는 drift current와 농도차에 의한 diffusion current의 크기가 같아질 때 까지 지속되며 결국 둘의 크기가 같아지는 조건을 만족하게 되면 끝나게 되여 결국 ..