속성:Reusable lesson
비슷한 문제를 만났을 때 다시 쓸 수 있는 내용을 적습니다.
g
제목이 메커니즘을 암시하더라도 원문이나 공식 초록 없이는 구현 방식과 정량 효과를 지식으로 승격하지 않는다. 1차 출처를 확보하면 이 Lesson을 같은 ID로 개정한다. +
기존 체크포인트를 저비용 업트레이닝해 추론 구조를 바꿀 수 있다. +
멀티테넌트 최적화는 효율 메커니즘뿐 아니라 정책 적용 범위 자체를 tenant boundary에 맞춰야 한다. +
h
복구 프로토콜은 read/write 대칭 가정을 버리고 작업 유형별로 특화하라. +
Expose resource-stall opportunities to a policy-controlled runtime when hardware sharing is too coarse. +
Track and move the smallest independently valuable hot unit. +
프로그램에 등재된 poster는 연구 존재의 근거이지 방법과 결과의 근거가 아니다. 초록이나 poster 원문을 확보하기 전에는 기술적 교훈을 추출하지 않는다. +
Promote ubiquitous data movement to a schedulable service with dependency-aware completion. +
i
fast path는 별도 생태계보다 기존 커널 API에 통합하라. +
Cache reusable demonstrations, then route by similarity, quality risk, and serving cost. +
ice collaborating memory and process management for user experience on resource limited mobile d 312e453f +
Coordinate reclamation with execution control when background activity recreates the state being reclaimed. +
wall-clock 병목 분석은 실행 샘플만으로 부족하며, 대기 구간도 시간 가중 샘플과 원인 분류를 가져야 동일한 통계·인과 프레임으로 처리할 수 있다. +
impress an importance informed multi tier prefix kv storage system for large language model infe 51b47015 +
When cached state is too large to reload, rank units by output importance and tier them accordingly. +
앱 제거·보존 정책을 단순 recency가 아니라 예측된 다음 사용과 연결할 수 있다. +
inf2 high throughput generative inference of large language models using near storage processing 3fcead73 +
Memory-bound 연산을 offload할 때는 큰 상태를 연산 위치로 반복 이동하기보다 연산을 상태가 있는 위치로 옮깁니다. Offload 직후 전체 pipeline을 다시 profile하고, 유휴 upstream compute로 device-local traffic을 줄이며, update를 실제 storage write granularity에 맞춰 모으고, 실제 bandwidth·power 제약 안에서 exact streaming accelerator를 설계합니다. +
infinigen efficient generative inference of large language models with dynamic kv cache manageme a1ca3228 +
KV offload는 정적 압축보다 사용 직전 중요도 예측과 prefetch를 결합하라. +
메타데이터만 확인된 논문에서는 제목으로 방법이나 성능을 추론하지 말고, 기술적 재사용 판단을 원문 확보 뒤로 미룬다. +
복제 순서 제약을 저장 엔진이 실제 외부화하는 상태에 맞춰라. +
k
kal kernel assisted non invasive memory leak tolerance with a general purpose memory allocator 372cd042 +
leak detector를 allocator 교체가 아닌 kernel-assisted side mechanism으로 만들면 배포 침습성과 runtime overhead를 줄일 수 있다. +
Combine complementary cache organizations at unequal sizes to bridge conflicting metadata and write objectives. +