Won's Blog

공부 및 실험 공유

A.X K1 Technical Report

A.X K1 논문 리뷰 — 519B MoE 모델의 아키텍처, 데이터 파이프라인, Think-Fusion 학습 전략

9 min read · 2026

TelAgentBench: A Multi-faceted Benchmark for Evaluating LLM-based Agents in Telecommunications

TelAgentBench 논문 리뷰 - 통신 도메인 LLM 에이전트의 5가지 핵심 역량 평가 벤치마크

24 min read · 2026

TelBench: A Benchmark for Evaluating Telco-Specific Large Language Models

TelBench 논문 리뷰 — 통신 도메인 특화 LLM 벤치마크의 설계, 구축, 평가

22 min read · 2026

FlashAttention-4: Algorithm and Kernel Pipelining Co-Design for Asymmetric Hardware Scaling

FlashAttention-4 논문 리뷰 — Blackwell GPU의 비대칭 스케일링에 맞춘 파이프라인 재설계와 소프트웨어 지수함수

11 min read · 2026

FlashAttention-3: Fast and Accurate Attention with Asynchrony and Low-precision

FlashAttention-3 논문 리뷰 — Hopper GPU의 비동기 실행과 FP8을 활용한 Attention 최적화

19 min read · 2026

Triton 07: Flash Attention 3 — Triton으로 어디까지 가능한가

Hopper 전용인 Flash Attention 3를 Triton으로 어디까지 따라잡을 수 있는가 — 확장 autotune·persistent kernel·실패한 실험까지

10 min read · 2026

Triton 06: Flash Attention 2 — FA1 대비 5가지 최적화

Flash Attention 2를 Triton으로 구현한다 — un-scaled 누적, exp2 트릭, Causal 2-stage, tl.dot accumulator, autotune

12 min read · 2026

Triton 05: Flash Attention — 종합 프로젝트

Flash Attention을 Triton으로 구현한다 — Forward/Backward 전체 구현과 RTX 4080·A100·H100·B200 아키텍처별 최적화 포인트

19 min read · 2026

FlashAttention-2: Faster Attention with Better Parallelism and Work Partitioning

FlashAttention-2 논문 리뷰 — non-matmul FLOPs 감소, 병렬화, warp partitioning 개선

12 min read · 2023

Let's Verify Step by Step: 결과가 아니라 과정에 보상을 주다

RLHF Reward 설계 시리즈 #31 — process supervision이 outcome supervision을 이기는 이유와 PRM800K

16 min read · August 11, 2026

2026 · rlhf reward-model prm process-supervision reasoning paper · paper
WARP: 정책을 weight space에서 세 번 병합한다

RLHF Reward 설계 시리즈 #30 — KL 제약과 reward 최적화의 줄다리기를 weight averaging으로 푼다

12 min read · August 11, 2026

2026 · rlhf weight-averaging kl-regularization gemma reinforcement-learning paper · paper
BOND: Best-of-N을 추론 비용 없이 흉내 내다

RLHF Reward 설계 시리즈 #29 — Best-of-N 분포를 증류해 N배 추론 비용을 없앤다

12 min read · August 11, 2026

2026 · rlhf best-of-n distillation gemma reinforcement-learning paper · paper
DAPO: 신호 없는 프롬프트를 버리고, 탐색을 살린다

RLHF Reward 설계 시리즈 #28 — Clip-Higher와 dynamic sampling으로 대규모 RL을 굴리는 네 가지 장치

11 min read · August 11, 2026

2026 · rlhf grpo dapo rlvr reinforcement-learning paper · paper
GSPO: importance ratio를 토큰이 아니라 시퀀스 단위로

RLHF Reward 설계 시리즈 #27 — GRPO의 token-level 비율이 MoE 학습을 무너뜨리는 이유

13 min read · August 11, 2026

2026 · rlhf grpo gspo moe reinforcement-learning paper · paper