반응형

전체 글 906

Towards End-to-End Embodied Decision Making via Multi-modal Large Language Model: Explorations with GPT4-Vision and Beyond - 논문 리뷰

https://arxiv.org/abs/2310.02071 Towards End-to-End Embodied Decision Making via Multi-modal Large Language Model: Explorations with GPT4-Vision and BeyondIn this study, we explore the potential of Multimodal Large Language Models (MLLMs) in improving embodied decision-making processes for agents. While Large Language Models (LLMs) have been widely used due to their advanced reasoning skills and..

Evolution of SAE Features Across Layers in LLMs - 논문 리뷰

https://arxiv.org/abs/2410.08869 Evolution of SAE Features Across Layers in LLMsSparse Autoencoders for transformer-based language models are typically defined independently per layer. In this work we analyze statistical relationships between features in adjacent layers to understand how features evolve through a forward pass. We provarxiv.org이 논문은 SAE의 초기 논문 같네요모든 Layer에 SAE를 장착하고, 그 SAE를 분석하여 ..

Large Language Models Empowered Agent-based Modeling and Simulation: A Survey and Perspectives - 논문 리뷰

https://arxiv.org/abs/2312.11970 Large Language Models Empowered Agent-based Modeling and Simulation: A Survey and PerspectivesAgent-based modeling and simulation has evolved as a powerful tool for modeling complex systems, offering insights into emergent behaviors and interactions among diverse agents. Integrating large language models into agent-based modeling and simulation prearxiv.org 논문의 목..

The Rise and Potential of Large Language Model Based Agents: A Survey - 논문 리뷰

https://arxiv.org/abs/2309.07864 The Rise and Potential of Large Language Model Based Agents: A SurveyFor a long time, humanity has pursued artificial intelligence (AI) equivalent to or surpassing the human level, with AI agents considered a promising vehicle for this pursuit. AI agents are artificial entities that sense their environment, make decisions,arxiv.org 일단 80페이지 짜리 논문입니다....읽어보려고 했으나 ..

🤳SelfIE: Self-Interpretation of Large Language Model Embeddings - 세미나 준비

https://selfie.cs.columbia.edu/ SelfIE: Self-Interpretation of Large Language Model EmbeddingsHow do large language models (LLMs) obtain their answers? The ability to explain and control an LLM's reasoning process is key for reliability, transparency, and future model developments. We propose SelfIE (Self-Interpretation of Embeddings), a frameworkselfie.cs.columbia.edu이 논문은 임베딩 벡터를 해석하여 LLM 모델 내..

인공지능/XAI 2024.11.18

Jumping Ahead: Improving Reconstruction Fidelity with JumpReLU Sparse Autoencoders - 논문 리뷰

https://arxiv.org/abs/2407.14435 Jumping Ahead: Improving Reconstruction Fidelity with JumpReLU Sparse AutoencodersSparse autoencoders (SAEs) are a promising unsupervised approach for identifying causally relevant and interpretable linear features in a language model's (LM) activations. To be useful for downstream tasks, SAEs need to decompose LM activations faithfullyarxiv.org Jump ReLU는 특정 임계치..

동역학 11주차 정리

이제 여태 외우지 않았던 속도, 가속도 구하는 식도 다 외워야 합니다.  기어가 맞 물려서 돌아가는 구간에서 tangential 요소는 동일하지만 normal component는 동일하지 않습니다. 일단 아는 정보는 항상 전부 나열하고 시작하기!A지점이니 그것을 이용해 G 지점의 가속도를 구하고, 이를 통해 B지점의 a를 구합니다.그럼 전부 구할 수 있습니다.여기는 또 암기인 것 같네요...식은 이렇게 됩니다.이 것을 잘 구분해야 합니다.여기도 사용할 식을 다 적고, 주어진 것도 다 적고 시작합니다.그럼 하나 하나 다 풀립니다. 여기선 막대기가 두개이므로 각 속도와 각 가속도를 알고, 고정되어 있는 축을 이용해 c에 대한 속도와 가속도를 구합니다.그 이후 다 구했으면 D 지점을 통해 속도와 가속도 구하는..

기타 2024.11.18

동역학 10주차 정리

일단 조건들 다 적어놓고 천천히 미분하다 보면 풀리네요   주어진 식을 다 나열하여 식 하나를 만든 뒤 i,j 성분을 나눠서 식 2개를 만들어 풀면 끝이다.    결국 다 동일하다.식을 미리 정하고, 그 식을 채워가면서 작성하면 끝이다.연쇄적으로 다 풀리게 된다. 이 부분이 뭔가 계속 이해가 잘 안갔다...첫 번째 사진에서 VA=0인 이유는 구름 조건(rolling without slipping) 때문입니다. 바퀴가 미끄러지지 않고 굴러가는 상황에서는 바퀴와 지면이 접촉하는 지점(A점)의 순간 속도는 항상 0이 됩니다. 이 이유는 다음과 같습니다:구름 운동의 정의:바퀴가 구를 때, 접촉 지점(A)은 순간적으로 지면과 정지 상태에 있습니다.이는 바퀴가 회전하면서도 동시에 그 회전이 바퀴 중심의 직선 운동과..

기타 2024.11.18

동역학 9주차 정리

시험 전 마지막 진도가 충돌이었습니다.그래서 나왔던 식은 위와 같았습니다. 이제부턴 충돌에 각이 생기고, Line of impact만 생각해서 연산하면 됩니다. 이 문제에서 사이즈는 무시해도 됩니다.X축 충돌만 존재하므로 y축 속도는 변함 없고, mv + mv = mv + mv에 잘 넣어서 연산하고, e = (v - v) / (v - v)를 구하면 끝 입니다. 이제 각 운동량이 나옵니다.더보기운동량은 물체의 운동 상태를 나타내는 물리량으로, 크게 두 가지 종류가 있습니다: 선운동량(Linear Momentum)과 각운동량(Angular Momentum). 각각에 대해 자세히 설명하면 다음과 같습니다:1. 선운동량 (Linear Momentum)정의선운동량은 질량이 있는 물체가 일정한 속도로 운동할 때, ..

기타 2024.11.17

An X-Ray Is Worth 15 Features: Sparse Autoencoders for Interpretable Radiology Report Generation

https://arxiv.org/abs/2410.03334 An X-Ray Is Worth 15 Features: Sparse Autoencoders for Interpretable Radiology Report GenerationRadiological services are experiencing unprecedented demand, leading to increased interest in automating radiology report generation. Existing Vision-Language Models (VLMs) suffer from hallucinations, lack interpretability, and require expensive fine-tuninarxiv.org이미지를..

728x90
728x90