공대생 도전 일지

학습을 어떤 형식으로 하느냐! GPT의 등장으로 휴먼 피드백 러닝의 적용이 시작되었다. 사람이 model의 출력이 정확한지 판단하는 것! 리워드를 올리기 위해 행동하는 강화학습! 사람의 피드백이 편향을 가지지 않도록 학습해야된다. LLM- 완성이라는 것이 없다. -> 계속 학습하면서 발전해나간다. - 돈이 한도 없이 들어간다 이 것은 논문으로 작성할 수 있는 것이 아니라 시도, 경험을 통해 노하우를 얻는 것이다.

interactive GPT model = Chat GPT vision에서는 컴퓨팅 파워가 더 강력해야 한다. 실시간 상호작용과 사용자 중심! 보통 supervised learning에서는 보상이 없다. 강화학습을 사용하는 것이다. 파인튜닝에는 강화학습과 지도학습이 둘 다 들어있다! PPO - 강화학습 쪽 기본 개념 현재 실시간 정보는 아직 해결하지 못한 문제이다. 심심이와 같은 모델이다.

전이학습의 한 형태로 볼 수 있다!! GPT가 나오기 전에도 사용되던 기술이다. 다른 목적에 사용하려고 새로운 데이터를 주입시키는 것이다. 감성 분석 - 트위터 => 텍스터에 긍, 부정, 다양한 감정이 붙는다. or 감성 분석을 통한 추천 ㅋ 개발 시간도 빨라진다. 언어 모델을 사용하자는 기업은 늘어난다. -> FINE Tuning을 통해 적은 리소스 사용 overfitting - 데이터는 적은데 일반적인 성능을 높이려고 하면 잘 일어난다. 적합한 모델을 선택하는 능력도 필요하다. - 관련있는 데이터로 학습된 모델을 선택해야한다.

GPT 와 ELMo! 텍스트 생성, 번역, 요약 등 다양한 역할이 가능하다. Unsupervised learning -> 코퍼스를 정제는 하되 라벨링을 하진 않는다. fine turning -> 물어본 것에 대한 정해진 답을 정해준다. BERT - incorder에 집중 Decorder 만 있다. - 학습시킬 땐 인코더가 있다. -> 학습 완료 후 디코더만 사용한다. 기본적 구조는 Transformer, 대용량 feedforward이다. GPT 모델 구조는 어떻게 되어있나? 비지니스 모델에서는 출력 표현에 노하우가 많이 들어간다. 자연스러운 텍스트 생성 - fine turning을 잘 한다. interactive - 대화형 응답 능력 : 각자에게 특화되어 대화를 한다. transfer learning을 ..

1. 두뇌에 관한 다음 설명의 빈칸에 들어갈 가장 적절한 단어를 고르시오. "_____________를 통하여 새로운 지식을 습득할 수 있으며, 아주 복잡하고 대규모의 _____________ 문제들을 해결할 수 있다." 하나를 선택하세요. 학습, 선형 학습, 비선형 지식, 선형 지식, 비선형 학습 ! 비선형! "학습을 통하여 새로운 지식을 습득할 수 있으며, 아주 복잡하고 대규모의 비선형 문제들을 해결할 수 있다." 따라서, 가장 적절한 답은 "학습, 비선형" 입니다. 이건 딱히 강의 자료에서 못 찾겠네요 학습을 통해 새로운 지식을 습득할 수 있고, 대규모의 매우 복잡한 비선형 문제를 해결할 수 있다. 정답 : 학습, 비선형 2.다음 문장의 빈칸에 들어갈 가장 적절한 단어들을 고르시오. "다층 신경망(..

이 사진을 사용할 예정이었습니다.... 흑백으로 변환된 사진 이 사진 히스토그램 확실히 어두운 사진이라 잘 나올줄 알았건만... 음 좀 더 무서워졌네요....... 잘 된건데... 힝.... 꿀팁하나라면 ... https://cloudconvert.com/jpg-to-bmp JPG to BMP | CloudConvert JPG Converter JPG JPG, also known as JPEG, is a file format that can contain image with 10:1 to 20:1 lossy image compression technique. With the compression technique it can reduce the image size without losing the ima..

언어 모델 중 하나인 BERT model이다. GPT- 한방향 Word embedding은 나무의 뿌리와 같다. BERT는 Encorder only에 속해있다.

또 and, or, xor 나오겠네요... 비선형 분류문제이다! 이건 선 하나로 구분이 가능하다! 층수가 더 많아지면? 오버피팅은?

계속 반복하면 여러개의 layer를 표현할 수 있다. 백터와 행렬로 만들면 더 편하다. 히든 레이어가 2개 있다.

인공 신경망 - 사람의 두뇌를 인위적으로 표현 뉴런과 뉴런(node) 사이엔 연결선(edge)이 있다. node와 edge는 학습 진행함에 따라 조정해야할 가중치를 가지고 있다. 수학적으로 모델링을 해보자! 가중치 = 파라미터 n+1차원으로 표현된다. 입력 레이어는 층으로 치지 않는다.