DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning - DeepSeek-AI 외 [2025]
·
LLM
본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 해당 논문에서 발췌한 것입니다. 이 자료들은 논문의 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원 논문을 참고하여 확인하시기 바랍니다 AbstractDeepSeek 연구진은 대형 모델에서 학습된 추론 능력을 소형 모델에 전달(distillation)하는 방식이, 소형 모델에서 직접 강화학습(RL)로 추론 능력을 개발하는 방식보다 더 우수한 성능을 보인다는 것을 입증했습니다. 연구진은 DeepSeek-R1 모델이 생성한 추론 데이터를 기반으로 Qwen 및 Llama 계열의 다양한 소형 모델을 감독학습(SFT)만으로 fine-tuning하였고, 이 소형 모델들은 기존의 오픈소스 모델..
Lecture 2: Markov Decision Processes
·
Reinforcement learning
보호되어 있는 글입니다.
Lecture 1: Introduction to Reinforcement Learning
·
Reinforcement learning
보호되어 있는 글입니다.
CHAPTER 3: 비지도 학습(Unsupervised Learning)과 전처리(Preprocessing)
·
데이터분석
참고 문헌: 1. 서강대 AI MBA 데이터마이닝 강의교재 (2023) 2. Müller, A. C., & Guido, S. (2016). *Introduction to Machine Learning with Python*. 1st Edition. O’Reilly Media, Inc., Sebastopol, CA. ISBN: 978-1449369415.# Python 3.12.9 와 3.13.2 기준으로 작성되었습니다. 1. 비지도 학습의 개요 및 유형 1) 비지도 학습(Unsupervised Learning)의 개념 - 비지도 학습은 레이블이 없는 데이터를 활용하여 구조적 패턴을 발견하는 학습 방식이다. - 대표적인 유형은 변환(transformation) 과 클러스터링(cluster..
[논문 요약] Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks - Patrick Lewis 외 [2020]
·
LLM
본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 해당 논문에서 발췌한 것입니다. 이 자료들은 논문의 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원 논문을 참고하여 확인하시기 바랍니다. 논문 요약초록(Abstract)사전 훈련된 대규모 언어 모델은 매개변수 내에 사실적 지식을 저장할 수 있지만, 지식을 명확히 조작하거나 업데이트하는 것이 어렵다. 따라서 지식 집약적 NLP 과제에서는 기존 모델보다 검색 기반 접근 방식이 더욱 효과적일 수 있다.본 논문에서는 검색-증강 생성(Retrieval-Augmented Generation, RAG) 모델을 제안한다. RAG 모델은 사전 훈련된 시퀀스-투-시퀀스(seq2seq) 생성 모델과 ..
[논문요약] A Human-Centric Interactive Avatar Creation Framework Using Motion Capture and Face Expression Detection in Metaverse - Ahmad Zainudin et al. [2025]
·
인공지능/Pose tracking AI 논문
본 블로그 포스트에서 사용된 표, 이미지 및 기타 관련 자료는 해당 논문에서 발췌한 것입니다. 이 자료들은 논문의 내용을 요약하고 이해를 돕기 위한 참고용으로 제공됩니다. 또한, 해석 과정에서 일부 오류가 있을 수 있으니 원 논문을 참고하여 확인하시기 바랍니다.  Ⅰ. 서론메타버스는 IoT, 디지털 트윈, AI, 블록체인, Web 3.0, VR/AR 등의 기술이 융합된 차세대 인터넷 환경으로, 현실과 가상 세계 간의 상호작용을 촉진한다. 메타버스는 가상 환경에서 현실 세계의 다양한 활동을 모방하며, 사용자들에게 상호작용의 기회를 제공한다. 아바타는 메타버스의 핵심 요소로, 사용자가 자신의 정체성을 표현하고 다른 객체들과 상호작용하는 수단이 된다. 그러나 기존 아바타 개발 기술은 주로 정적인 모델 구축에 ..
VirtualJin
'분류 전체보기' 카테고리의 글 목록 (12 Page)