공대생 도전 일지

6주 차 - LLM1차시 - BERTBERT - Bidirectional Encoder Representations from Transformer로 Google의 모델이다.대규모 텍스트를 통해 언어 표현을 Pre-trained 하여 언어 이해를 하고, 나중에 Downstream으로 학습한다.Pre-training 모델ELMo - 양방향 LSTMBERT - 양방향 AttentionGPT - 단방향 AttentionEmbeddingToken Embedding : 단어 벡터를 이용해 후속 분류 작업 시행Segment Embedding : 임의의 두 문장을 구분하는데 사용([SEP] 토큰도 있지만 서로 보완해 준다.)Position Embedding : 트랜스포머와 달리 trigonometric 기반이 아니다...

1주 차 - 생성형 인공지능이란?1차시 - CHAT GPT란?Chat GPT == LLM : 언어모델(LM)을 더욱 확장한 개념으로 인간의 언어를 이해하고 생성하도록 훈련된 인공지능GPT : 트랜스포머 Decoder 모델인 생성형 사전 학습 트랜스포머를 기반으로 한다. G : Generative = 생성형P : Pre-train = 사전 학습T : Transformer = 자연어를 처리하는 딥러닝 기술, 글자럴 번역한다는 의미 GPT 이전엔 BERT이었고, 사용자의 텍스트(Query)를 기반으로 텍스트 응답을 형성한다.인코더 : 외부의 글자를 인코딩한다. 학습할 때 사용디코더 : 인코더 된 정보를 통해 생성.Transformer Decoder 모델은 Masked Multi-Head Self Attenti..

다음 설명 중 머신러닝 시스템을 설계할 때 가장 먼저 고려하여야 할 사항은 무엇인가?하나를 선택하세요.샘플 데이터 수집하기학습 알고리즘 개발하기접근방식 선택하기 (지도학습 / 비지도학습)특징 추출하기이건 퀴즈에 있었던 내용이네요 접근 방식 선택하기 머신러닝 시스템을 설계할 때 가장 먼저 고려하여야 할 사항은 "접근방식 선택하기 (지도학습 / 비지도학습)"입니다. 따라서 정답은 3번입니다.이유:머신러닝 시스템을 설계할 때 첫 번째 단계는 문제를 정의하고 그에 맞는 접근 방식을 선택하는 것입니다. 이 결정은 전체 시스템 설계의 방향을 결정짓기 때문에 가장 중요합니다. 지도학습(Supervised Learning)과 비지도학습(Unsupervised Learning) 중 어느 접근 방식을 사용할지 결정하는 것..

9주 차 1차시 - 예측 함수 성능 평가Cost function은 실제 출력(예측 값), Label,  regularization으로 이루어져 있다.테스트 데이터는 학습에 사용되지 않은 데이터로 모델의 성능을 평가할 때 사용되며 잘 작동하면 문제 없지만 오차가 크면 성능 향상이 필요하다.1. 학습데이터 더 수집하기 : 좋은 생각이나 시간과 노력이 필요하다. 확실하게 파악하고 시작해야함2. feature 수를 줄인다 : 오버피팅을 방지하기 위해 줄인다.3. feature 수를 늘린다 : 현재 feature로는 모든 정보를 넘길 수 없을 때 늘린다.4. 다항식을 추가한다. : 새로운 특징값을 만드는 것과 같다. 5. 정규화 파라미터 감소하기 : train 데이터에 대해 잘 학습한다.6. 정규화 파라미터 증가..

1주 차 1차시 - 머신러닝이란?머신러닝이란 == 이전의 경험이나 사례를 바탕으로 새로운 패턴을 예측한다.인공지능 == 컴퓨터 시스템으로 인간의 지능으로 해결할 수 있는 문제를 푼다.시각 인지, 청각 인지, 의사 결정을 한다.머신러닝이란 인공지능의 한 분야로 컴퓨터 알고리즘이 경험으로부터 자동으로 학습하고 성능을 향상한다.명확하게 프로그래밍하지 않아도 문제 해결 능력을 가지게 된다. 일 T와 성능지표 P로부터 경험 E를 통해 학습한다. 경험으로부터 학습한다!adaptive System - 오차로부터 학습한다.T의 파라미터를 ouput에 대한 오차를 측정하여 학습한다.y - prediction 출력값, h - Hypothese = 예측함수예측함수는 parameters에 의해 표현되고, 오차를 줄여나가는 방..

1번일 T와 성능지표 P로부터 경험 E를 통해 학습한다. 경험으로부터 학습한다!3번 아닌가...? 2. 1맞고2전역최소3번 겁나 애매하네 test할 때는 가장 좋은게 아닐 수 있는데 그럼 아니라고 가자4맞다 하나하나 바꿔버리면 오류 발생 가능 한번에 바꿔야 된다.3여러개고 다른 것을 비슷한 것으로 바꿔주는 건데 문제 진짜 싫어.... 애매해....41.가능2.그럼 왜 분류한다 그르냐 분류 잘하지. 아니네 잘 못 분류하지 않는다..ㅋㅋㅋㅋㅋ.ㅠ3. 비선형 가능4. 선형 가능 51vs all도 n개만 있으면 됩니다.61 맞습니다2 테스트는 나쁩니다3 학습에 좋습니다4 맞습니다71. ? ??? 진짜 뭐지 역행렬이 만들어 진다네요 2. 아뇨3. 이게 맞아요4. cost function에 들어가니 파라미터 업데이..

다음 문장의 빈칸에 들어갈 가장 적절한 단어를 고르시오.“자율주행 자동차에서 행동생성은 차량 시스템이 미리 정의된 목표뿐만 아니라 환경에 대한 인지된 정보를 바탕으로 적절한 행동계획을 수립하기 위한 _____과 _______을 의미한다.”하나를 선택하세요.1.연산, 의사결정2.분석, 반응3.프로세스, 조정4.절차, 전략오... 연산과 의사결정 같네요문장의 빈칸에 들어갈 가장 적절한 단어는 "연산, 의사결정"입니다. 따라서 정답은 1번입니다.문장 완성:“자율주행 자동차에서 행동생성은 차량 시스템이 미리 정의된 목표뿐만 아니라 환경에 대한 인지된 정보를 바탕으로 적절한 행동계획을 수립하기 위한 연산과 의사결정을 의미한다.”선택지 분석:연산, 의사결정:연산은 데이터 처리 및 계산을 의미하고, 의사결정은 그 결..

이번 시간은 14주차 입니다.14주차 강의는 총 5개의 차시로 구성되어 있습니다.이번 강의에서는 자율주행 생성 모델, 자율주행 생성 모델 학습, 자율 자동차 행동 생성,행동 생성 트랜스 포머를 다룹니다.강의를 통해서 여러분은 자율주행 생성 모델, 자율주행 생성 모델 훈련 장점, 자율주행 행동 생성을 설명할 수 있고,AIGC(Artifical intelligence generated content), 행동 생성을 위한 트랜스포머의 응용 모델을 설명할 수 있게 됩니다.1차시 - 자율주행차 생성 모델레이더는 먼 거리를 확인할 수 있다. 주차할 때 거리감지는 ultrasonic을 사용한다.테슬라는 비전으로만 이동을 진행하고 있다. 길과 인식이 상호작용한다. Low Level - 인식High Level - way..

아래 문장에 있는 빈칸에 들어갈 가장 적당한 단어를 하나 고르시오.“이상 데이터 검출 모델은 (________)를 사용하여 데이터가 정상인지, 비정상인지 여부를 결정하며, 만약 데이터의 확률이 정해진 (________)보다 작으면 이상 데이터로 판정한다.”하나를 선택하세요.확률분포함수, 최소값확률분포함수, 임계값예측함수, 최소값예측함수, 임계값가우시안 분포! -> 확률 분포 함수, 입실론 == threshold == 임계값문장의 빈칸에 들어갈 가장 적절한 단어는 "확률분포함수, 임계값"입니다. 따라서 정답은 2번입니다.문장 완성:“이상 데이터 검출 모델은 (확률분포함수)를 사용하여 데이터가 정상인지, 비정상인지 여부를 결정하며, 만약 데이터의 확률이 정해진 (임계값)보다 작으면 이상 데이터로 판정한다.”..

Q. 다음 문장의 빈칸에 적절한 용어를 생각해 보세요."신용카드를 도난 당했지만, 도난 사실을 모르고 즉시 카드를 정지 시키지 못했거나, 신용카드 정보를 해킹 당했을 때 사용자는 매우 난처한 일을 겪을 수 있겠지요? 신용카드 회사에서는 사용자의 거래 내역 중에서 비정상적인 패턴을 찾아냄으로써 혹시 있을 지 모르는 신용카드 부정 사용을 막고자 노력합니다. 이처럼 많은 데이터 중에서 일반적으로 발생하지 않는 정상적이지 않은 데이터를 ( 이상 데이터(Anomaly) )라고 합니다."1차시 - 이상 데이터 검출 문제 정의  특징 - 열, 진동 강도 등 다양하게 볼 수 있다.이렇게 정상 범위에서 많이 벗어난 데이터를 이상 데이터라고 칭한다. 사용자의 행동 패턴을 특징 값으로 본다.저것으로 부족하면 인증키를 추가로..