공대생 도전 일지

시그모이드 때문에 소실이 커진다! 0보다 작은 값에선 미분값이 0이라는 문제가 생겨서 리키렐루가 나오는데 일단 넘어가네유 여기서 리키렐루가 나오네요 가중치 초기화는 0이거나 똑같은 값으로 하지 말라고 했었습니다! 이제 어떻게 하는게 좋은지 봅시다! 분산을 적당히 조절하는 것이 중요하다. 이거하면 바이어스가 필요없다고 했던것 같기도 하고... 이것만 가지고는 뭔가 batch와 layer를 이해하기 어려울것 같아서 gpt 센세를 활용하겠습니다. Batch Normalization과 Layer Normalization은 둘 다 신경망의 학습을 안정화하고 가속화하는 데 사용되는 기술입니다. 두 기술 모두 데이터의 평균과 분산을 정규화하는 과정을 통해 내부 공변량 변화(internal covariate shift..

sign(w)는 양수면 1, 음수면 -1이다. Inference단계에서 p를 곱하는게 아니라 (1-p)를 곱하면 된다. 우리 교수님 강의 자료랑 비슷하네

MLP 이것도 블로그 내에 엄청 자주 나오던 내용이다. 모델 최적화 각각의 미분값들을 계산해 놓아서 저장된 값을 빠르게 사용하여 중복 계산을 막는다. 여기선 다 1이다. ( 변하는 만큼 변한다.) 곱하기에선 비율만큼 움직인다. b는 a의 제곱이니까 넣으면 알 수 있다. Gradient Descent

선형대수 0에서 시작하는 것 잊지 말기(코딩에서는) 메틀렙은 1에서 시작하지만 대부분은 0에서 시작한다고 알면 됩니다. 크기가 같아야 진행한다. 단순히 모든 원소에 곱해주면 된다. 가로 * 세로라고 생각하면 편하다. ab * bc 등 일렬로 적었을 때 가운데 숫자가 같아야 한다. 이제 어떻게 사용하는지 보자 여러 매트릭스들이 나온다. 인공신경망 앞뒤로도 뉴런이 계속 있다. 가지돌기로 받은 정보의 합이 역치를 넘으면 전달한다. sigmoid와 tanh와 비슷하게 생겼다. 바로 다음에 나왔다. 내가 실습해본 여러 가지 NN들이 있다.

라이브러리를 다 불러줍니다 마지막엔 이쁜 그래프 모양을 가져옵니다. 이러한 데이터 입니다. 이번에도 MSE를 사용했습니다. 이제 모델을 만들어 줍시다! 이제 학습하자! 값이 점점 변화하고 있다. weight의 변화를 볼 수 있다. LOSS는 마음대로 선택할 수 있다. 이렇게 랜덤한 값을 가진 것을 만들어 냈다. 원을 만들기 위한 로스를 가졌다. 이렇게 모이게 된다. 이렇게 바꾸면 원으로 모이게 된다. 원!

이 본문은 제가 복습하는 느낌으로 그냥 강의를 캡쳐한 것이라 실제 제가 한 것을 보고 싶다면 아래 링크로 가시면 됩니다. 2023.11.13 - [인공지능/공부] - Linear regression 1 Linear regression 1 import numpy as np import matplotlib.pyplot as plt # ==================== Part 1: Basic Function ==================== print('Running warmUpExercise ... ') print('5x5 Identity Matrix: ') def warmUpExercise(): return np.eye(5)# YOUR CODE HERE warmUpExercise( yoonscha..

내일이면 일본으로 출국하는데 저는 일본어를 못 합니다..... 그래서 이번에 GPTS를 활용해 보기로 합니다! 아.... 제작하다가 클릭 한번 했다고 만드는 과정은 다 사라졌네요..........이렇게 되어 있습니다. https://chat.openai.com/g/g-JSbsTpBVM-ilbon-yeohaeng-cingu ChatGPT - 일본 여행 친구Translates Japanese text in photos to Korean and suggests simple conversational phrases.chat.openai.com 사용해보실 분은 링크 들어가서 사용해 보시면 됩니다. 구글 지도를 통해 일본 아무 음식점 메뉴판 하나를 넣어볼게요너가 이렇게 답변하면 내가 읽을 수 없잖니.... 다시 수..

많이 봐왔던 타이타닉 데이터로 사용한다. 데이터의 70퍼센트가 비어있다면 탈락시키는 방법이다. 80프로는 채워져있고, 비어있는 값은 중앙 값으로 채워줄 수 있다. 대다수의 값으로 채우는 방법도 있다! 전처리를 재활용할 수 있도록 함수로 만드는 방법이 효과적이다. Exploratory Data Analysis 카테고리별로 데이터를 묶는다. 시각화를 보고 데이터를 파악한다. nun을 전부 28을 넣었기 때문에 28이 엄청 많아졌다. 다양하게 데이터들끼리 묶어서 확인해 볼 수 있다. Feature Engineering sex_to_id에선 male = 0, female =1로 가져서 위와 같은 과정을 거치면 010101로 바꿀 수 있게 된다. 함수를 만들어서 관리한다! 실행하면 지금은 성별에 대한 정보만 남는..

64bit만 지원하기 때문! 그리고 KeyStore도 저장해야 한다. 비밀번호, 이름 등 다양한 것을 기억해줘야 한다. 그 후 빌드를 하면 된다. 그럼 파일 형식이 aab로 된다. 개발자 계정도 만들어야 한다... 25 달러.... 구글 플레이 콘솔에서 앱 만들기를 통해 등록할 수 있다. 프로덕션에 버전에 따라 aab 파일을 넣을 수 있다. 이제 권환 등 여러가지 옵션을 다 허가하거나 다른 여러가지 하라는 일을 하면 된다.