공대생 도전 일지

두뇌 : 인간의 신경 계통을 담당한다. 두뇌는 감각 기관을 통해 들어오는 신호도 처리한다. 두뇌는 뉴런의 전기 신호를 통해 정보를 전달 청각 담당 부분을 시각 센서와 연결 -> 청각 부분도 시각 부분을 담당할 수 있다. 청각 위치에 시각 정보를 연결함으로써 보는 것을 담당하는 것 확인 이거 너무 뇌로 가는거 아니여?

머신러닝 - 분류기를 학습시켜 분류할 수 있다. 눈 - 카메라 두뇌 - 머신러닝 알고리즘 컴퓨터가 보는 것은 눈으로 보는 것 이랑은 다른 수치 정보이다. -> 수치정보를 분석하여 정보 추출 너무 복잡하니까 피쳐는 임의의 픽셀 두개만 사용한다고 가정 복잡한 비선형 경계선이 필요하다. n*m,1의 긴 벡터 형태로 존재한다. 파라미터가 너무 많아진다. 오버피팅과 계산량의 문제를 해결해야된다.

공간적 상관관계 - 이미지에서 한 픽셀과 옆 픽셀과의 관계성 흑백 이미지는 한 픽셀에 한 값을 가지지만 컬러는 한 픽셀에 RGB 3가지 값 (채널)을 가지고 있다. 백터화 - 이미지를 한줄씩 떼어서 붙여낸다 -> 이미지의 모든 픽셀을 한줄로 만들어 낸다. -> 공간 정보가 사라진다. 즉 공간정보를 소실시키지 않기 위해 CNN이 나왔다. Convolution layer - 특징 추출 Fully connected layer - 특징을 통한 분류 머신러닝은 사람이 한다... 딥러닝은 컴퓨터가 추출을 뽑는다!!! -> Convolution layer에서 일어난다. 이미지를 그대로 넣어서 추출하기 때문에 공간정보도 살아있다. 영상의 크기도 줄일 수 있고, global feature도 얻을 수 있다. weight를..

딥러닝 - 학습, 모델링, 실제 사용에 대해 알아보자! 머신러닝은 사람이 먼저 피쳐를 고른다. 그 후 컴퓨터가 알아서 학습하여 구별한다. 머신러닝은 피쳐를 사람이 고른다! 딥러닝 피쳐는 잘 모르지만 컴퓨터가 잘 찾은 특징이다. - 사람이 놓칠 수 있는 중요한 특징을 잘 잡는다. -> 성능측면에서 더 좋을 수 있다 다만 더 좋은 성능이 나왔을 때 이유를 설명하기 어렵다. - 컴퓨터기 피쳐를 뽑기 때문 딥러닝 학습 - 원하는 방향으로 예측하도록 weight와 bias를 업데이트한다. 학습 시간이 오래 걸리는 단점이 있다. but feature를 잘 뽑아 낸다. 심층 신경망을 쓰는 딥러닝 기술이 항상 좋을까? - 항상 좋지는 않을거 같다. 일단 데이터 문제, 시간문제가 기본적으로 있다. 문제에 따라 적절히 분..

1957 - 프랑크 로젠블럿이 퍼셉트론 이론을 발표! 문제 1 역전파 알고리즘에서 인공 신경망이 깊어질수록 기울기 정보가 사라진다! 문제 2 학습 데이터에 대해서 오차가 감소하지만 실제 데이터에 대해서는 오히려 오차가 증가하는 과적합 문제 문제 3 문제의 규모가 커질 때마다 나타나는 높은 시간 복잡도와 컴퓨터 성능의 한계 -> 인공신경망 이론 정체! 2012년 Res NET을 만들었다. - 이미지 인식의 최고 효율이 되었다. 이제 딥러닝 기술의 핵심 개념 및 특징이 나온다! backpropagation으로 인해 첫번째 겨울이 사라졌었다. -> 비선형 분류 문제를 풀 수 있어졌다. 심층 신경망 학습이 힘든 것을 해결한 것이 힌튼이다. 그래서 오버피팅이랑 기울기 소실 어떻게 해결했누 다 아는 방식 이었습니다..

작년에 편하게 많이 사용했죠! 좌표계를 가지고 있어서 좌표계 변환할 때 편하게 썼습니다 ㅎㅎ..

Clibration - 정밀도 확인 및 조절, 카메라와 라이더의 센서를 보정 구조 = camera calibration -> Lidar + Camera Calibration focal Length, optical center position, orientation Lidar - Light Detection and ranging 레이저 반사 시간 측정, 라이다 센서와 카메라 센서의 데이터를 동일한 좌표로 변환 Calibration의 중요성 - 차선 인식, 장애물 인식, 장애물과 거리 판단.

잘 못 한게 있더라고여.... Predicted y는 h(x)값에 따라서 0,1이 나오는게 맞으니까 0.5가 넘으면 1, 0.5가 안 넘으면 0으로 해줬습니다. 2번은 틀린거 없고.. 3번에서 개수로 나눠주는게 역시 맞았네요 이거 따라 다시 계산해보면.. 끝입니다.... 자꾸 더하기 빼기 틀리는게 너무 크네요... 이상한거 틀리고...

목표 - 대표적 NLU Task의 요약 작업에 대해 이해할 수 있다. 추상요약 - 새로운 문장을 생성하므로 좀 더 난이도 있는 방식으로 볼 수 있다. 추상 문장으로 요약 -> 정보의 압축이 필요하다 단일 문서를 다중문서에 여러번 쓰게 되면 실패할 확률이 있다! 반면, 특정 내용에 대해 요청하는 query가 들어온 경우에, 해당 query의 요구나 질문에 집중하여 요약문을 생성하는 방법을 query-focused 요약 방법이라 한다. 예를 들어, 사용자가 원하는 정보를 얻기 위해서 문서들을 탐색할 때 문서의 전반적인 내용 보다는 특정반 정보나 문장에 대해서만 혹은 정답을 얻기를 원할 확률이 높다. - 개인화 요약 방식과 직접적으로 연관되어 있다. 이렇듯 정보적 요약의 목적이 문서의 핵심 정보를 추출하는 것..

목표 - 대표적인 NLU task의 자연어 추론 작업에 대해 이해할 수 있다. 유사도를 통해서 어떻게 저 3개를 결정할 수 있지...? 말이 안되는 말들은 벡터가 반대로 가나...? 백터 기반의 의미 공간을 만들기 위해 큰 언어 코퍼스를 사용하여 언어의 유사도 구분 가능 -> 통계기반 프레임 - 규칙 기반의 무엇인가 통계 기반 - 어느 정도의 길이가 있어야 된다. 시소러스 - 단어 사전 transformation rule - 예외를 잘 규정해놓기! 구문 분석을 통한 트리 구조 다양한 기법 - 인간이 만들어 놓은 통계 백터를 압축하기 시작했다. 확실의 정도 - 사람의 주관이 들어가 있다. 자연어 이해 관점에서의 이의제기 -> 문제 해결, 데이터 수집에 대한 좋은 방향 제시