너와 나의 스토리

4개에 5000원인 맥주 레몬 사탕 맛이난다 개인적으로 저렴한 맥주 중에 제일 맛있다 ㅎㅎ 도수는 3도? 였던 것 같음 1000원짜리 간&순대 초큼 먹고 싶을 때 먹기 좋은 것 같다 편의점에서 1000원으로 이런걸 먹을 수 있다니 띤기띤기

구월동 가서 보드게임장 -> 타코야끼 먹고 -> 학교 앞 떡볶이에서 떡튀오 먹고 -> 엑시트 보고 -> 쑥맥 마심 보드게임장은 보드스테이지 갔는데 평일 주말 상관없이 무제한 1인 4800원이였다. 2시간 이상할거면 개이득~ CGV 건물에 있는 분식집 이것 저것 조금씩 먹을 수 있어서 좋았다 세 종류 먹는데 5000원밖에 안 했다 ㅎㅎ 쑥맥 완죤 시원스 쑥맥 5잔 세트 먼저 시키면 저렴하다 베이컨 감자 치즈 먹었다 베이컨이랑 감자 위에 치즈가 있었다 ㅎ 무난한 맛 쑥맥 메뉴판

● SGD(Stochastic gradient descent) 배치 사이즈가 1(즉, 하나의 예)인 미니배치에서 gradient를 계산하는 것 gradient를 평가하기 위해 무작위로 선택된 샘플을 사용 반복이 충분하면 SGD는 효과 있지만 noise가 심함 first-order gradient 정보만 이용 second-order gradient 기반 기술보다 수렴이 느리고 조건이 좋지 않은 문제에서 성능이 저하된다 이를 완화시키기 위해 second-order gradient를 고려한다 수렴률(convergence rate)이 빠르고 conditioned problem에 대해 더 강력하다 Hessian Matrix라는 2차 편미분 행렬을 계산한 후 역행렬을 구해야 한다. SGD algorithm 기반의 ..

모두를 위한 딥러닝 ML lab12-6: RNN with Time Series Data 강의 정리 & 코드 전체 코드: https://github.com/hunkim/DeepLearningZeroToAll/blob/master/lab-12-5-rnn_stock_prediction.py RNN으로 time series data인 주식 시장을 예측해보자 Many to one Dataset input dimension = 5 [open, high, low, volume, close] sequence = 7 [7일 동안의 데이터를 토대로 수행] output dimension = 1 [8일 째만 예측] 1. import import tensorflow as tf import numpy as np import ma..

"Efficient Online Learning Algorithms Based on LSTM Neural Networks" Tolga Ergen and Suleyman Serdar Kozat, Senior Member, IEEE Abstract 우리는 nonlinear regression을 조사하고, LSTM network 기반의 novel regression structures를 소개한다. 이 구조를 설명하기 위해 효과적인 online training 방법을 제공한다. novel LSTM 기반 구조를 훈련시키기 위해서 우리는 기본 아키텍처를 주 공간 형태로 배치하고 매우 효율적인 PF(particle filtering) 기반 업데이트를 도입한다. 우리는 또한 확률적 경사 강하(stochastic gra..

gRPC 구글이 최초로 개발한 오픈 소스 원격 프로시저 호출 시스템 ( 자세한 설명 - https://grpc.io/docs/guides/ ) gRPC 설치 방법 1. cmd 창 열기 2. version이 9.0.1 이상이어야 하므로 업그레이드 python -m pip install --upgrade pip 3. gRPC 설치 # 방법 1 python -m pip install grpcio # 방법 2 - 시스템 전체에 설치하려면 sudo python -m pip install grpcio * El Capitan OSX에서 다음과 같은 오류가 발생할 수 있다. OSError: [Errno 1] Operation not permitted: '/tmp/pip-qwTLbI-uninstall/System/Lib..

NN(Neural Network) 설명 Deep learning은 ANN(Artificial Neural Network)를 기초로 하고 있다. 퍼셉트론에서 특정 임계치를 넘어야 신경이 전달되는 것을 Sigmoid function을 이용하여, weight을 업데이트 시켜 각 노드의 최적의 weight을 찾는 방식으로 작동 된다. ANN(Artificial Neural Network) ANN 문제점 - 학습과정에서 최적의 파라미터를 찾기 어렵다 sigmoid 함수의 문제점 때문 (local minima를 global minimum으로 인식) - Overfitting 문제 - 학습 시간이 너무 느리다 은닉층 증가될 수록 연산량 급격히 증가 ANN 문제 개선 - overfitting -> initialize p..

모두를 위한 딥러닝 ML lab12-4: RNN with long sequences: Stacked RNN + Softmax layer 강의 정리&코드 전체 코드: https://github.com/hunkim/DeepLearningZeroToAll/blob/master/lab-12-3-char-seq-softmax-only.py RNN의 핵심 - Wide & Deep 1. MultiRNNCell MultiRNNCell을 이용해서 cell을 쌓아보자 원하는 만큼 많이 쌓을 수 있음 cell = rnn.MultiRNNCell([cell] * 2 , state_is_tuple=True) # [cell]* n에서 n: 몇 개 쌓을 것인가 * states 변수는 층마다 하나의 텐서가 들어 있는 튜플이다. (셀의..