공대생 도전 일지

2023.12.16 - [인공지능/공부] - 인공지능 backpropagation, optimization- 개념 인공지능 backpropagation, optimization- 개념 backpropagation backpropagation은 대부분의 인공지능의 파라미터 업데이트 방식이다. 우린 경사하강법을 통해 loss를 최소화 시키는 방향으로 학습한다. 기본적인 gradient 계산 방법이다. 이제 activation fun yoonschallenge.tistory.com 비선형 분류문제이다.

신경회로망도 동일하다. 최적 파라미터를 구하는 과정을 학습이라고 부른다. 바이어스는 포함하지 않는다! 뉴런 수는 3개, 5개, 5개, 4개이다. (바이어스 포함X) 입력 n차원 히든 p차원 출력 q차원 g는 전부 시그모이드이다.

설명 가능 AI - CAM? 결과에 대한 불투명성이 AI를 신뢰못하는 이유이다. 사용자 레벨의 설명이 필요하다(무엇을 보고 판단했는지) 특정분야에서는 설명 가능한 인공지능이 필수이다. 어느 부분을 가지고 판단했는지 알 수 없다. -> XAI는 말해준다. 이걸 통해서 딥러닝 성능을 개선할 수 있다. 학습하는 법을 학습하는 것이다. 사람한테는 쉬운 문제이다. 특징을 비교해서 찾아냈기 때문이다. 전통적인 딥러닝 모델은 엄청난 Data가 필요하다. 충분한 데이터가 있어야만 특징을 구별할 수 있는 것이다. 사람은 사전학습이 되어있기 때문에 가능하다. 5개 중 2개를 구별하는 것을 학습한다. -> 학습하지 않은 데이터라도 구별하는 것을 잘 하게 된다. 기존의 지식으로 학습할 수 있도록 만든다. 2023.12.15 ..

생성모델- 페이크 이미지 (악용되는걸 막는 것도 필요하다) Dataset 2가 작더라도 기존 데이터에서의 지식을 사용하자 많은 수의 데이터가 없어도 좋은 결과를 낼 수 있다. 강화학습 +보상이 최대화가 되도록 학습 ex) 자전거 타기 - 넘어지지 않도록 학습이 된다. 인간이 배우는 과정과 유사하게 학습한다. 코딩 명령 없이 강화 학습만으로 로봇이 걷게 된다. 일반적인 딥러닝 모델은 작은 오류(노이즈)에도 민감하게 반응한다.(오작동)

딥러닝 - 미래를 선도할 혁신 기술 발전 사유 - GPU 기반의 병렬 처리를 포함한 컴퓨팅 파워 발달, 인터넷을 통해 축적된 엄청난 양의 빅데이터, 딥러닝을 위한 획기적인 알고리즘의 개발 알고리즘 딥러닝 프레임워크 딥러닝 연구 주요 이슈 텐서플로우랑 파이토치...? 고성능 서버 - 회사에서 사용하는 고성능 GPU 서버 딥러닝 프레임워크! - 파이토치!!!!!!!!!! 텐서 플로우!!!!!!!!!!!!11 통합 개발 환경 - 코딩을 편한 환경에서, 프로그램에 도움을 주는 것 데이터 - 딥러닝 실행을 위한 준비사항 첫 번째 OS 환경 위에서 파이썬, 텐서플로우 -> 딥러닝 Kaggle과 Colab이 편리했습니다. PC를 100명에게 맞춰주는 것 보다 서버를 두는게 자원 관리 측에서 효율적인 활용이다. 프로그..

2강 - Text mining 자연어 처리 - 사람의 언어를 컴퓨터가 이해할 수 있는 체계인 숫자로 변환하여 번역, 감성분석, 정보 요약 등 다양한 TASK를 처리하는 것 컴퓨터가 이해할 수 있는 체계로의 변환 == encoding (one hot encoding) -> embedding (vector representation) 근데 이게 언어의 특성 때문에 어렵다! 1. 동음 이의어 2. 사회적으로 공유되는 정보, 지식, 경험들 3. 모호성 POS - 품사 (명사, 형용사, 동사..) Named entities - 인물, 지역, 나라... Syntax - 문법(의존 관계, 수식..) 3강 - word embedding 이전에는 원 핫 인코딩을 통해 단순히 단어 수의 차원을 통해 인코딩하여 sparse..

결국 원문 X을 요약해서 y로 출력해주는 것! 학습시키려면 X와 y 데이터가 있어야 한다. 여기서 다시 Precision과 recall 정리하기! 정밀도 - 참이라고 예측, 판단한 것 중 참인 것 ex) 프로그램이 암이라고 예측한 사람들 중 진짜 암인경우 재현율 - 참인데 참이라고 맞춘 것 ex) 암에 걸린 사람들 중 예측 프로그램이 얼마나 맞췄냐 precision 정밀도 - 정확성이 중요한 경우 - 참이라고 예측한 경우 중 참인 확률 recall 재현율 - 최대한 많은 옵션을 주는 경우 - 참을 참이라고 예측한 확률 Transformer는 self attention과 그냥 attention, masked attention이 합쳐진 구조이다. RNN에서는 순서대로 집어 넣으니 순서 정보가 있으나 Tran..

8강 - Filter (Denoising) C에서 저 와 >와 그 소금 후추 노이즈에서 prob가 작으면 이걸 쓰고, prob가 크면 median을 써야할지...? 솔트 앤 페퍼 노이즈(salt and pepper noise) 또는 임펄스 노이즈는 이미지에 무작위로 분포한 매우 밝거나 매우 어두운 픽셀들이 나타나는 현상입니다. 이러한 노이즈는 이미지 데이터의 극단적인 값 변경을 일으키기 때문에 일반적인 평균 필터(mean filter)나 가우시안 필터(Gaussian filter) 등을 사용하여 제거하기 어렵습니다. 이런 필터들은 노이즈가 포함된 픽셀을 평균화할 때, 노이즈의 극단값이 결과에 영향을 미칠 수 있기 때문입니다. 미디언 필터 (Median Filter) 미디언 필터는 임펄스 노이즈 제거에 효..

3강 - Resolution (영상 크기) bit-depth : 픽셀 1개가 1비트 - 검정, 흰색 = 2비트 -> (0,0) (0,1) 등으로 표현 가능 우리가 사용하는 bmp 파일은 3색에 8비트 씩이므로 24이다 픽셀 수 = width * height 4강 - image format 10*10은 픽셀 100개가 맞으나 RGB가 있으니 30*10개로 생각하고 구현해야 한다. 5강 - Color Model luminance : 휘도 - 반사 되어 들어오는 혹은 광원의 빛의 양 Y만 사용하면 흑백 사진을 만들 수 있다. 6강 - Pixel operation subtraction : 뺀다, 뺄셈 이건 과제 1에서 진행했습니다. 2024.03.20 - [언어/C] - C언어 영상처리 - 과제 1