whyhowdo 님의 블로그

요약: Black Forest Labs의 7B 로봇 모델 FLUX 3 Action(SO-101 체크포인트)을 RTX 5070 Ti 16GB에서 실행했다. 공식 문서 방식으로는 메모리가 부족했고, 모델 본체(DiT)를 int8로 바꾸자 추론 중 VRAM 9.4GiB 안에서 돌아갔다. 다만 로딩 중에는 13.4GiB까지 쓴다. 행동 32개(1.07초 분량)를 만드는 데 2.34초가 걸려, 30Hz 실시간 제어는 안 된다. 2편에서는 실제 SO-101 녹화 데이터로 예측 품질을 본다.NVIDIA RoboLab 리더보드에는 이 모델의 GPU 메모리가 69GB로 적혀 있고, 공식 문서에는 권장 VRAM이 없다. 16GB GPU에 들어가는지는 직접 해 봐야 안다. 찾아본 해설 자료 중 소비자용 GPU에서 직접 돌려..

요약: FLUX 3 Action은 다음 장면을 영상으로 그리면서, 그 장면에 맞는 관절 명령을 함께 만드는 7B 로봇 모델이다. 행동만 내는 VLA와 구분해 world-action model(WAM)이라 부른다. 영상 인코더와 지시문 인코더는 고정하고, 여러 로봇의 행동 데이터로 본체를 학습했다. SO-101 체크포인트는 잡음을 4단계로 걷어 내며 행동 42개를 만들고, 그중 32개(약 1.07초)를 실행한 뒤 다시 계획한다.FLUX는 원래 이미지 생성 모델로 알려진 이름이다. 그 회사(Black Forest Labs)가 2026-09-23에 내놓은 로봇 모델이 NVIDIA 시뮬레이션 벤치마크에서 π0.5(pi05)보다 높은 점수를 받았다. 그림을 그리던 모델이 어떻게 로봇 팔을 움직일까?이 글은 SO-..

Strata 설치부터 "Claude 설계 + 로컬 LLM 코딩" 분업으로 게임 만들기까지하루 동안 한 일을 정리한다. 유튜브 영상 하나에서 시작해서, 로컬 LLM 서빙 엔진 Strata를 리눅스에 설치하고, 그 위에 돌린 Qwen3.8-Flash-Next를 코딩 에이전트로 붙인 뒤, Claude가 기획·설계·검증을 하고 로컬 모델이 코드를 쓰는 분업 방식으로 브라우저 타워 디펜스 게임까지 만들었다.1. 출발점: "VRAM이 아니라 DRAM이 핵심"이라는 영상계기는 소울시커 채널의 영상 「대형 로컬 AI 모델 새로운 패러다임급 변화가 시작됐다」(약 62분)이었다. 영상의 요지를 내 말로 정리하면 이렇다.Strata는 모델이 아니라 서빙 엔진이다. MoE(Mixture of Experts) 구조와 N-gra..