yceffort @gmail.com

[TensorFlow] Basic

Tensor Tensorflow에서는 integer, float, string 등의 형태로 데이터가 저장되지 않는다. tensor라고 하는 캡슐화된 object 형태로 저장된다. A = tf.constant(1234) B = tf.constant([123,456,789]) C = tf.constant([[123,...

[TensorFlow] ReLu

# Hidden Layer with ReLU activation function hidden_layer = tf.add(tf.matmul(features, hidden_weights), hidden_biases) hidden_layer = tf.nn.relu(hidden_layer) output = tf.add(tf.matmul(hidden_...

[Deep Learning] Sentiment Classification 예제

영어로 작성되어 있는 영화 리뷰와 그 리뷰에 대한 평가 (positive, negative) 가 매칭되어 있는 데이터를 바탕으로 Deep Learning을 이용하여 해당 리뷰에 대한 평가를 학습하는 모델을 만들어보는 예제다. 먼저 데이터는 이렇게...

[Python] 위상정렬(topological sort)

사이클이 없는 방향 그래프에서 꼭지점들을 변의 방향을 거스르지 않도록 나열하는 것이다. 사실 내가 설명하는 것 보다는 여기를 참고하는 것이 더 낫다. def topological_sort(feed_dict): input_nodes = [n for...

[Deep Learning] Softmax 함수

Softmax 함수는 뉴런의 출력값을 정규화하는 함수로서, 분류를 할 때 많이 사용된다. 뉴런의 출력값에 지수함수를 적용하고, 모든 뉴런에서 나온 값으로 정규화하는 방식을 취한다. 결과 값을 여러개의 클래스로 구분할경우, 마지막 뉴런의 활성함수를...

[Deep Learning] K-fold Cross Validation

데이터를 학습시키기 위해 training set, testing set 그리고 validation set으로 나누게 된다. training set을 고를 때, 학습시키기에 유용한 데이터들이 빠져 아쉬울 수도 있다. 더욱이, 데이터의 크기가 크지 않으면 무엇을 고르냐에...

[Deep Learning] - Your first neural network assignment review

첫번째 과제를 무사히 마친 기념으로 - 과제 리뷰를 진행한다. 근데 어차피 매번 과제 내용이 바뀌는 듯 하니, 후에 이걸 본다고 도움이 되진 않을 것 같다. 문제는 자전거 렌탈샵의 자전거 대여...

[ReactiveX] - Subject

subject는 옵저버나 observable처러 행동하는 일부 ReactiveX구현체에서만 사용가능한 일종의 프록시다. subject는 옵저버이기 때문에 하나이상의 observable을 구독할 수 있으며, 동시에 observable 이기도 하기 때문에 항목을 하나하나 거치면서 다시 push하고 새로운 항목을 push할...

[ReactiveX] - Observable

보통 일반적인 프로그램의 경우에는, 하나씩 작성된 순서에 따라 로직이 실행되고, 완료되면 또다른 로직이 실행되는 등의 순서가 있음을 알수 있다. 그러나 이와 달리 ReactiveX는 "Observer"에 의해 임의의 순서에 따라 병렬적으로...

[Deep Learning] Gradient Descent의 변화값 가져오기

Activation Function 을 sigmoid function으로 가정 했을때, gradient descent 로 weight의 변화를 가져와 보도록 하자. import numpy as np # sigmoid function def sigmoid(x): return 1 / (1 + np.exp(x)...