Mixtral of Experts 논문 리뷰 — 8명의 전문가 중 2명만 일한다는 것
Mixtral 8x7B의 토큰별 Top-2 라우팅, 전체·활성 파라미터의 차이, 전문가 선택 분석과 실제 운영 비용을 원논문 그림으로 이해한다.
논문 리뷰Search results
fe.flag — A personal digital archive
Research.
Code.
Life, collected.
연구하고, 만들고, 살아가며 남긴 기록들.
배운 것과 좋아하는 것들을 차곡차곡 모읍니다.
- Books
- 7 Read & reflected
- Projects
- 8 Made & explored
- Recipes
- 2 Cooked & collected
- Posts
- 34 Notes along the way
Small moments, over time
Activity
Writing, one day at a time.
Each square is a dayLess More
From the archive
Recent activity
Mamba 논문 리뷰 — 선택적으로 기억하는 모델과 트랜스포머가 여전히 강한 이유
SSM의 상태 갱신부터 selective scan까지 이해하고, Mamba-2·Mamba-3와 하이브리드 모델을 통해 attention의 현재 가치를 살펴본다.
논문 리뷰gogostar
작은 모임에 맞춘 제품 gogostar는 열 명 이하 독서모임의 반복되는 일을 한 흐름으로 묶는다. 읽고 싶은 책을 제안하고 구성원이 승인하면 각자의 서재에 읽는 중으로 추가된다. 모임 전에는 마감 알림과 개인별 질문을 준비하고, 다음 ...
독서 모임규정 개정 이력 관리 시스템
문서를 파일이 아닌 이력으로 다루기 사내 규정은 최신 파일 하나만 보관해서는 특정 시점에 어떤 조항이 유효했는지 설명하기 어렵다. 이 시스템은 HWP 원문을 구조화하고 버전, 권한, 감사 이력을 함께 관리해 개정 전후를 검토하고 승인된 ...
문서 관리AI Ops Stack
세션이 끝나도 남는 기억 코딩 에이전트를 여러 환경에서 사용하면 대화와 결정이 도구마다 흩어진다. AI Ops Stack은 그 사이에 로컬 장기 기억 계층을 두어 개인, 연구, 프로젝트별 사실과 결정을 다시 찾을 수 있게 만든 개인 인프...
AI 에이전트우표 홀로그램 스튜디오
전시장에서 끝까지 이어진 60초 2026 대한민국 우표전시회 기간에 DDP 이간수문 전시장에 실제 설치·운영한 체험형 프로젝트다. 관람객은 네 가지 테마 중 하나를 고르고 터치 화면에 그림을 그린다. 제한시간 안에 결과를 우표 프레임에 ...
생성형 AIPOSAI · 폐쇄망 RAG 지식검색
제약에서 시작한 설계 POSAI는 외부 클라우드 연동이 불가능한 폐쇄망에서 사내 보고서와 문서를 검색하기 위해 만든 RAG 기반 지식검색 서비스다. 나는 요구사항 정리부터 검색·응답 파이프라인 구현과 실제 운영까지 담당했다. 원문이나 내...
RAG