공대생 도전 일지

https://arxiv.org/abs/2302.01560 Describe, Explain, Plan and Select: Interactive Planning with Large Language Models Enables Open-World Multi-Task AgentsWe investigate the challenge of task planning for multi-task embodied agents in open-world environments. Two main difficulties are identified: 1) executing plans in an open-world environment (e.g., Minecraft) necessitates accurate and multi-step..

https://arxiv.org/abs/1911.12543 How Can We Know What Language Models Know?Recent work has presented intriguing results examining the knowledge contained in language models (LM) by having the LM fill in the blanks of prompts such as "Obama is a _ by profession". These prompts are usually manually created, and quite possibly sub-oarxiv.orghttps://github.com/WooooDyy/LLM-Agent-Paper-List?tab=readm..

슬라이드 내용 여기 보이는 그림은 입력 문장 '지구상에서 가장 높은 산의 고도'가 모델에 주입되었을 때, 각 레이어가 정보를 처리하는 과정을 시각화한 것입니다.Layer 1에서는 단순히 단어 수준의 기본 정보를 처리하며, '산'이나 '지구'와 같은 핵심 개념들이 나타납니다. 이후 Layer 2에서는 문맥을 반영하여 더 복잡한 정보를 추출하며, '지구상에서 가장 높은 산'과 같은 문장이 형성됩니다. 마지막으로, Layer L에서는 최종적으로 '에베레스트 산의 고도는 8,848.86m'라는 구체적인 답변이 생성됩니다.SelfIE의 핵심 혁신은 모델의 내부 임베딩을 자연어로 해석함으로써, 모델이 단순히 결과를 산출하는 것을 넘어 내부적으로 어떻게 추론했는지를 투명하게 설명할 수 있다는 점에 있습니다. 이를 통..

드디어 내일 세미나 발표라 준비해보겠습니다. 그림을 보시면, 입력 문장인 '지구상에서 가장 높은 산의 고도'라는 문장이 모델에 들어갔을 때, 각 레이어가 어떤 정보를 처리하는지 시각적으로 표현되고 있습니다.Layer 1은 단순히 단어 수준의 정보를 처리하며, '산'이나 '지구'와 같은 기본 개념이 나타납니다.Layer 2로 가면서 문맥에 따라 더 복잡한 정보를 추출하며, '지구상에서 가장 높은 산'과 같은 문장이 형성됩니다.마지막으로, Layer L에서는 최종적으로 '에베레스트 산의 고도는 8,848.86m'라는 구체적인 답변을 생성합니다.이 기술의 독창성은 모델의 내부 임베딩을 활용하여 모델의 추론 과정을 자연어로 설명할 수 있다는 점에 있습니다. 이를 통해 모델이 단순히 결과를 산출하는 것이 아니라,..

https://chatgpt.com/g/g-bkU61gv9b-myeonjeobwang-daegieob-gonggieob-sagieob-moyi-myeonjeob ChatGPT - 면접왕 - 대기업 / 공기업 / 사기업 모의 면접!AI와 면접연습 해보세요! 실시간 피드백 및 점수를 통해 더 나은 면접을 준비할 수 있습니다. #네이버 #카카오 #쿠팡 #배달의민족 #당근마켓 #라인 #토스 #삼성전자 #SK #LGchatgpt.com여기서 면접 준비도 가능합니다!여기선 제 자기소개서나 연구 계획서 기반으로 답변을 말하면 알아서 평가 및 어떻게 고치면 좋겠다고 말해주네요이젠 전공 면접에 대해서도 조금 정리가 필요해서 정리도 시켜봤습니다.2024.11.22 - [기타] - 면접 준비 - 컴퓨터 구조, 운영체제, 컴..

https://arxiv.org/abs/2310.08560 MemGPT: Towards LLMs as Operating SystemsLarge language models (LLMs) have revolutionized AI, but are constrained by limited context windows, hindering their utility in tasks like extended conversations and document analysis. To enable using context beyond limited context windows, we propose virtarxiv.org  MemGPT는 대규모 언어 모델의 제한된 컨텍스트 윈도우 문제를 해결하기 위해 운영 체제의 가상 메모리..

https://arxiv.org/abs/2002.08910 How Much Knowledge Can You Pack Into the Parameters of a Language Model?It has recently been observed that neural language models trained on unstructured text can implicitly store and retrieve knowledge using natural language queries. In this short paper, we measure the practical utility of this approach by fine-tuning pre-traarxiv.org  이 논문은 대규모 언어 모델(T5)이 외부 지식..

https://arxiv.org/abs/2305.14763 Clever Hans or Neural Theory of Mind? Stress Testing Social Reasoning in Large Language ModelsThe escalating debate on AI's capabilities warrants developing reliable metrics to assess machine "intelligence". Recently, many anecdotal examples were used to suggest that newer large language models (LLMs) like ChatGPT and GPT-4 exhibit Neural Theory-ofarxiv.org  이 논문..

https://arxiv.org/abs/2309.07864 The Rise and Potential of Large Language Model Based Agents: A SurveyFor a long time, humanity has pursued artificial intelligence (AI) equivalent to or surpassing the human level, with AI agents considered a promising vehicle for this pursuit. AI agents are artificial entities that sense their environment, make decisions,arxiv.org 일단 80페이지 짜리 논문입니다....읽어보려고 했으나 ..

일단 조건들 다 적어놓고 천천히 미분하다 보면 풀리네요   주어진 식을 다 나열하여 식 하나를 만든 뒤 i,j 성분을 나눠서 식 2개를 만들어 풀면 끝이다.    결국 다 동일하다.식을 미리 정하고, 그 식을 채워가면서 작성하면 끝이다.연쇄적으로 다 풀리게 된다. 이 부분이 뭔가 계속 이해가 잘 안갔다...첫 번째 사진에서 VA=0인 이유는 구름 조건(rolling without slipping) 때문입니다. 바퀴가 미끄러지지 않고 굴러가는 상황에서는 바퀴와 지면이 접촉하는 지점(A점)의 순간 속도는 항상 0이 됩니다. 이 이유는 다음과 같습니다:구름 운동의 정의:바퀴가 구를 때, 접촉 지점(A)은 순간적으로 지면과 정지 상태에 있습니다.이는 바퀴가 회전하면서도 동시에 그 회전이 바퀴 중심의 직선 운동과..