속성:Reusable lesson
비슷한 문제를 만났을 때 다시 쓸 수 있는 내용을 적습니다.
c
Timer-derived idle intervals decouple useful hotness resolution from aggressive sampling; distribution-aware tuning makes migration responsive while limiting churn. +
citadel rethinking memory allocation to safeguard against inter domain rowhammer exploits 8fd39aca +
Encode hardware fault geometry directly into allocation domains. +
cold archives must materialize content addressed model files and cross a storage failure domain 03687d8e +
For cold reconstruction, archive the exact source commit, raw decisions/journals, frozen datasets, locator manifests, and only the locator-verified model files materialized as regular files. Seal a sorted content manifest, verify it after publication, and do not declare preservation complete until the same manifest passes in a storage-failure domain that will outlive the compute host. +
buffered/direct 선택을 애플리케이션 설정이 아닌 런타임 정책으로 만들라. +
Build the complete Git metadata plus file-binding mapping through one helper at start and finish. Test unchanged success, tracked-byte drift, and dirty-tree rejection. Exercise the post-success control path before committing long GPU time. +
QoS 우선순위가 다른 VM 사이에서 reclaim 대상을 선택하고, kill 대신 압축을 degradation 단계로 사용할 수 있다. +
Factor a policy into orthogonal primitives before comparing implementations. +
사후 compaction 대신 object 또는 page lifetime을 배치 시점에 이용하면 자연스러운 bulk death가 contiguous free region을 만들 수 있다. +
저장소가 제공하는 원자 연산을 프로토콜 설계에 직접 반영하라. +
Use coroutines to interleave independent requests around predictable long-latency accesses. +
cost efficient large language model serving for multi turn conversations with cachedattention aa200b5c +
Persist reusable intermediate state below the accelerator and pipeline its movement with computation. +
향후 실행할 이미지가 미리 알려지는 serverless 특성을 이용하면 page cache 중복을 요청 시점 이전부터 제거할 수 있다. +
Expose application intent to lower layers and prevent speculative work from delaying demand work. +
d
장치의 scheduling primitive를 host weighted virtual time과 결합하면 host staging/arbitration을 없애면서 공정성을 근사할 수 있다. +
빨리 회수해야 하는 borrowed memory에는 재구성 가능한 clean cache data를 우선 배치해야 한다. +
Represent related model variants as compact executable deltas, not independent checkpoints. +
무조건 gang/coscheduling하기보다 IPI 같은 실제 synchronization event를 coordination trigger로 사용하면 utilization 손실을 줄일 수 있다. +
임베디드 profiling에서는 무거운 분석·GUI를 remote host로 옮기고 target에는 lightweight probes만 두는 구조가 유효하다. +
MLLM은 모델 크기만이 아니라 샘플별 모달리티 길이 분포까지 병렬화 탐색·마이크로배치 스케줄링의 입력으로 삼아야 한다. +
Redesign recovery and parity flows around disaggregated peer bandwidth, not a centralized legacy abstraction. +