Won's Blog

공부 및 실험 공유

A.X K1 Technical Report

A.X K1 논문 리뷰 — 519B MoE 모델의 아키텍처, 데이터 파이프라인, Think-Fusion 학습 전략

9 min read · 2026

TelAgentBench: A Multi-faceted Benchmark for Evaluating LLM-based Agents in Telecommunications

TelAgentBench 논문 리뷰 - 통신 도메인 LLM 에이전트의 5가지 핵심 역량 평가 벤치마크

24 min read · 2026

TelBench: A Benchmark for Evaluating Telco-Specific Large Language Models

TelBench 논문 리뷰 — 통신 도메인 특화 LLM 벤치마크의 설계, 구축, 평가

22 min read · 2026

FlashAttention-4: Algorithm and Kernel Pipelining Co-Design for Asymmetric Hardware Scaling

FlashAttention-4 논문 리뷰 — Blackwell GPU의 비대칭 스케일링에 맞춘 파이프라인 재설계와 소프트웨어 지수함수

11 min read · 2026

FlashAttention-3: Fast and Accurate Attention with Asynchrony and Low-precision

FlashAttention-3 논문 리뷰 — Hopper GPU의 비동기 실행과 FP8을 활용한 Attention 최적화

19 min read · 2026

Triton 07: Flash Attention 3 — Triton으로 어디까지 가능한가

Hopper 전용인 Flash Attention 3를 Triton으로 어디까지 따라잡을 수 있는가 — 확장 autotune·persistent kernel·실패한 실험까지

10 min read · 2026

Triton 06: Flash Attention 2 — FA1 대비 5가지 최적화

Flash Attention 2를 Triton으로 구현한다 — un-scaled 누적, exp2 트릭, Causal 2-stage, tl.dot accumulator, autotune

12 min read · 2026

Triton 05: Flash Attention — 종합 프로젝트

Flash Attention을 Triton으로 구현한다 — Forward/Backward 전체 구현과 RTX 4080·A100·H100·B200 아키텍처별 최적화 포인트

19 min read · 2026

FlashAttention-2: Faster Attention with Better Parallelism and Work Partitioning

FlashAttention-2 논문 리뷰 — non-matmul FLOPs 감소, 병렬화, warp partitioning 개선

12 min read · 2023

reward를 어떻게 설계할 것인가 — RM 설계 실무

RLHF Reward 설계 시리즈 #46 — 시리즈 44편을 관통한 reward 시스템 설계 절차를 한 장의 실무 가이드로

14 min read · August 11, 2026

2026 · rlhf reward-model rlvr genrm dpo reward-hacking paper · paper
프론티어 모델은 harmlessness reward를 어떻게 설계했나

RLHF Reward 설계 시리즈 #45 — 안전성 reward의 실전 설계와 over-refusal 트레이드오프

18 min read · August 11, 2026

2026 · rlhf safety harmlessness over-refusal reward-model paper · paper
프론티어 모델은 helpfulness reward를 어떻게 설계했나

RLHF Reward 설계 시리즈 #44 — 열한 개 프론티어 모델이 능력(helpfulness) reward를 설계한 방식 비교

39 min read · August 11, 2026

2026 · rlhf reward-model rlvr dpo grpo genrm deepseek qwen llama paper · paper
One Token to Fool: GenRM도 결국 뚫린다

RLHF Reward 설계 시리즈 #43 — 무의미한 토큰 하나로 무너지는 생성형 judge, 그리고 38편의 결론

19 min read · August 11, 2026

2026 · rlhf reward-model genrm reward-hacking llm-as-a-judge paper · paper
CriticEval: judge를 채점하는 벤치마크

RLHF Reward 설계 시리즈 #42 — 비평 능력을 4개 차원으로 쪼개 평가하다

15 min read · August 11, 2026

2026 · rlhf reward-model llm-as-a-judge benchmark evaluation paper · paper