공대생 도전 일지

이제 드디어 HOB에 끝이 보이네요작년에 "C++로 돈 벌어보자" 라고 시작한 CAE 프로그램 제작이 슬슬 마지막이 보입니다.Beam, Shell을 벽면에 접합하는 것으로 시작하여 Node 연결도 진행하고, Modal에 대한 시각화까지 진행하였네요. 교수님이 제가 궁금할 때 마다 궁금증을 해결해 주셨으니 만들 수 있었지만 임금 체불은 많이 섭섭했어요.........그래도 일단 거의 완성했으니 막바지 버그만 조금 잡으면 될 것 같네요 일단 사진으로 좀 확인하겠습니다.이 사진은 차량 Modal 해석입니다.전체적인 부분은 못 보여주니 그냥 해석이 돌아갔다, 내가 차량 해석도 돌려 봤다 정도 기록으로 남겨놓네요이제 인공지능만 하고 차량, 자율주행이랑은 거의 끝이니... 서브 프레임 Modal 해석입니다.전문 지..

https://arxiv.org/abs/2402.19103 Whispers that Shake Foundations: Analyzing and Mitigating False Premise Hallucinations in Large Language ModelsLarge Language Models (LLMs) have shown impressive capabilities but still suffer from the issue of hallucinations. A significant type of this issue is the false premise hallucination, which we define as the phenomenon when LLMs generate hallucinated text..

우리 학교의 부족한 점QS - Employer/Academic reputation THE - Research Environment, Teachinghttps://www.timeshighereducation.com/world-university-rankings/world-university-rankings-2024-methodology World University Rankings 2024: methodologyThe methodology for the 20th edition of the World University Rankings has been significantly updated to reflect the outputs of the diverse range of research-intensive ..

https://arxiv.org/abs/2203.07665 One Agent To Rule Them All: Towards Multi-agent Conversational AIThe increasing volume of commercially available conversational agents (CAs) on the market has resulted in users being burdened with learning and adopting multiple agents to accomplish their tasks. Though prior work has explored supporting a multitude of doarxiv.org 이 논문은 오래된 논문입니다.그래서 GPT 3,4와 같이 모든..

https://arxiv.org/abs/1607.06520 Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word EmbeddingsThe blind application of machine learning runs the risk of amplifying biases present in data. Such a danger is facing us with word embedding, a popular framework to represent text data as vectors which has been used in many machine learning and natural lanarxiv.org 워드 임베딩은 데이터 내 성별 고..

https://arxiv.org/abs/1807.11714 Gender Bias in Neural Natural Language ProcessingWe examine whether neural natural language processing (NLP) systems reflect historical biases in training data. We define a general benchmark to quantify gender bias in a variety of neural NLP tasks. Our empirical evaluation with state-of-the-art neural coarxiv.org 여기선 단어를 교체하면서 임베딩 공간, attention score를 보고 편향을 확인했습..

https://journals.aps.org/prper/abstract/10.1103/PhysRevPhysEducRes.19.010132 저는 멀티 에이전트, 컴퓨터의 모든 것을 관할하는 Agent를 확인하고 싶었는데 여기서 Agent == Chat GPT 였네요...게다가 나온지 오래된 모델이라 지금 모델이랑 비교하면 좀 차이가 클 것으로 예상됩니다.이 전의 언어모델의 약점이 무엇이었는지 확인하는 차 적당히 보고 지나가면 될 것 같습니다.쉬운 코딩 문제는 잘 풀지만 물리학 입문 과정 조차 잘 풀지 못한다.약점으론 수학적 계산 오류, 논리적 오류, 개념적 이해 부족이 있고 학습 능력(지식 업데이트)나 메타인지(자기 점검 능력)이 없다.데이터 셋이 고정되었고(2021년), 매 입력마다 출력이 바뀌며 불안정..

https://arxiv.org/abs/2407.01502 AI Agents That MatterAI agents are an exciting new research direction, and agent development is driven by benchmarks. Our analysis of current agent benchmarks and evaluation practices reveals several shortcomings that hinder their usefulness in real-world applications. First,arxiv.org 저는 AI Agent에 대한 방법론을 확인해 보고 싶었는데 이 논문은 벤치마크에 대한 논문이었습니다.기존 벤치마크는 정확도에만 집중해서 그에 ..

https://arxiv.org/abs/2405.14860 Not All Language Model Features Are LinearRecent work has proposed that language models perform computation by manipulating one-dimensional representations of concepts ("features") in activation space. In contrast, we explore whether some language model representations may be inherently multi-dimearxiv.org 결국 여태까지 SAE 진행한 것과 큰 차이점은 없지만 코사인 유사도가 높은 것들을 고르다 보면 순환적인..

https://proceedings.neurips.cc/paper/2020/file/92650b2e92217715fe312e6fa7b90d82-Paper.pdf이 논문은 성별 편향이 언어 모델 내부에서 어떻게 발생하고 전달되는지 분석하기 위해 인과 매개 분석(Causal Mediation Analysis)을 도입했다. GPT-2 모델을 대상으로 뉴런과 어텐션 헤드가 성별 편향 정보를 매개하는 역할을 직접적/간접적으로 분리하여 측정했다성별 편향은 소수의 뉴런과 어텐션 헤드에 집중되며, 모델 크기가 커질수록 이러한 편향이 더 강하게 나타났다.Professions, Winobias, Winogender와 같은 데이터셋을 사용하여 단어와 문맥 수준에서 편향을 평가했다.편향을 식별하고 분석하는 데 중점을 두었으며..