공대생 도전 일지

1주 차OX 문제GPT는 인코더와 디코더로 구성된다. (X) gpt 는 디코더만!생성형 인공지능은 텍스트, 이미지, 음악 등의 콘텐츠 생성을 중점으로 한다. (O) BERT는 GPT 이후에 개발된 모델이다. (X) 이전이다.강화 학습으로 사용자 피드백을 통한 미세 조정을 RLHF라고 한다. (O)Transformer 모델은 Masked Multi-Head Self Attention을 사용하지 않는다. (X) 사용하고 있다.GAN은 생성기와 판별기로 구성되어 있다. (O)Flow-based 모델에서는 디코더가 인코더의 역함수가 아니다. (X) 맞다생성형 인공지능은 인간의 사고와 인지 과정을 시뮬레이션한다. (X) 인지 인공지능이다.자연어 처리(NLP)는 언어학, 컴퓨터 과학, 인공지능 분야의 교차응용이다...

3강 - ResolutionWidth * Height = 픽셀 개수 Bit-depth = 픽셀을 표현하는데 사용되는 비트 수 (우린 24를 사용했다.)더보기Bit-depth는 디지털 이미지나 영상에서 각 픽셀을 표현하는 데 사용되는 비트 수를 의미합니다. Bit-depth가 클수록 픽셀이 더 많은 색상 정보를 포함할 수 있어, 더 정밀하고 풍부한 색상을 표현할 수 있습니다.주요 개념:Bit: 디지털 정보를 표현하는 기본 단위로, 0 또는 1의 값을 가질 수 있습니다.Bit-depth의 예시:1-bit: 각 픽셀이 2가지 색상(흑백)만 표현할 수 있습니다.8-bit: 각 픽셀이 256가지 색상(0부터 255까지의 값)을 표현할 수 있습니다.24-bit: 일반적으로 RGB 이미지에서 사용되며, 각 색상 채널..

강화학습은 시스템은 복잡하지만 결과는 간단할 때 사용할 수 있다.관찰되는 정보만으로 action을 정하고, 리워드가 큰 행동이 바람직하다.미래의 평균 누적 보상을 최대화 하는 행동을 선택즉각 보상과 장기 보상의 균형이 필요하다.높은 보상을 얻기 위해 전략이 필요하다.히스토리 - 과거 관찰, 행동, 보상의 시퀸스 - (a1,o1,r1,...,at,ot,rt)에이전트는 히스토리에 기반해 행동 선택 state는 다음 시점에 무슨 일이 일어나는지에 대한 정보 st = f(ht)세계 상태 - 에이전트와 무관한 정보를 포함하는 실제 세계 상태다음 관찰과 보상을 어떻게 생성할지에 대한 실제 상태일부 숨겨지거나 에이전트에게 알려지지 않을 수 있다. - MDP가 아닐 때에이전트에게 알려진 경우에도 불필요한 정보가 포함될..

생성모델 - 없던 것을 만든다.VAE - 압축된 패턴에서 출력을 만들자 단순 차원을 줄이는게 아니라 평균, 분산과 같은 통계적인 특징을 추출한다.Latent vector에 노이즈를 넣어서 복구한다!인코더는 평균, 분산만 뽑는다. = 패턴의 통계적인 특성을 뽑는다.=> 평균과 분산으로 샘플링을 취하고, 복구를 하면 원본 데이터랑은 조금 다른 결과가 나온다.GAN - 속이고, 다시 안속도록 학습하는 적대 신경망 생성자 - 랜덤 노이즈로부터 가짜를 만든다. how - lossfunction을 어떻게 정의하냐 판별자와 생성자를 동시에 학습시키지 않고 각각 번갈아서 학습한다.생성모델은 부족한 샘플의 수를 늘리기 위해 데이터를 증강할 때 사용된다.기존 데이터의 특징을 유지하면서 새로운 샘플을 만든다.VAE는 통계적..

비지도학습(self-supervised learning)로 Encoder와 Decoder로 이루어져 있으며 타겟이 자기 자신인 모델이다.인코더 - 오리지널 데이터가 압축된다 => 효과적으로 압축하기 위해 뉴럴넷을 어떻게 만들어야 하는가디코더 - 압축된 정보를 통해 다시 복구한다. => 압축을 효과적으로 하면 입출력이 같아진다.병목층(은닉층, Latentspace) - 모델의 뉴런 개수가 최소인 계층 == 차원이 가장 낮은 입력 데이터의 압축 표현데이터 압축을 할 때 사용하고, 패턴이 아닌 잡음을 날릴 수 있다.인코더 - z (latent space) = h(x(input))디코더 - y = g(z) = g(h(x))Loss - ||x - y||^2변형 - 색칠하기, 피쳐 변환, 차원 줄이기, 노이즈 줄이..

시계열 문제 - 시간에 따라 변하는 데이터를 사용하여 추이를 분석, 추세를 파악하거나 향후 전망 예측 불규칙 변동 irregular variation - 시간에 따른 규칙성 없이 예측 불가능하고 우연적으로 발생하는 변동추세 변동 trend variation - 시계열 자료가 갖는 장기적 변화 추세(장기간에 걸쳐 지속적으로 증가, 감소 or 일정한 상태를 유지하려는 성향 == 짧은 기간에서는 힘들다.)순환 변동 cyclical variation - 2~3년 정도의 일정한 기간을 주기로 순환적으로 나타나는 변동 == 1년 이내 주기로 곡선을 그리며 추세 변동에 따라 변동 계절 변동 Seasonal variation - 계절적 영향과 사회적 관습에 의해 1년 주기로 발생 == 계절에 따라 순환하며 변동시계열 ..