공대생 도전 일지

The Geometry of Concepts: Sparse Autoencoder Feature Structure - 논문 리뷰

https://arxiv.org/abs/2410.19750 The Geometry of Concepts: Sparse Autoencoder Feature StructureSparse autoencoders have recently produced dictionaries of high-dimensional vectors corresponding to the universe of concepts represented by large language models. We find that this concept universe has interesting structure at three levels: 1) The "atomicarxiv.org원자 수준: 단어 관계(예: "Austria:Vienna::Switz..

Sparse Feature Circuits: Discovering and Editing Interpretable Causal Graphs in Language Models

https://arxiv.org/abs/2403.19647 Sparse Feature Circuits: Discovering and Editing Interpretable Causal Graphs in Language ModelsWe introduce methods for discovering and applying sparse feature circuits. These are causally implicated subnetworks of human-interpretable features for explaining language model behaviors. Circuits identified in prior work consist of polysemantic and diffarxiv.org이 논문은..

HOB 기록 저장소 - HOB Shell Node 연결, 벽 연결까지 + Modal

이제 드디어 HOB에 끝이 보이네요작년에 "C++로 돈 벌어보자" 라고 시작한 CAE 프로그램 제작이 슬슬 마지막이 보입니다.Beam, Shell을 벽면에 접합하는 것으로 시작하여 Node 연결도 진행하고, Modal에 대한 시각화까지 진행하였네요. 교수님이 제가 궁금할 때 마다 궁금증을 해결해 주셨으니 만들 수 있었지만 임금 체불은 많이 섭섭했어요.........그래도 일단 거의 완성했으니 막바지 버그만 조금 잡으면 될 것 같네요 일단 사진으로 좀 확인하겠습니다.이 사진은 차량 Modal 해석입니다.전체적인 부분은 못 보여주니 그냥 해석이 돌아갔다, 내가 차량 해석도 돌려 봤다 정도 기록으로 남겨놓네요이제 인공지능만 하고 차량, 자율주행이랑은 거의 끝이니... 서브 프레임 Modal 해석입니다.전문 지..