본문으로 이동

Lesson:pit optimization of dynamic sparse deep learning models via permutation invariant transformation 48509ad0: 두 판 사이의 차이

S3 연구 메모리
← 이전 편집
MCP로 evidence 추가: ev_01093cffd8c74a66
S3V1 o=s3rm-remediate-v1:f2b49007ba8c08b04226e58f1c64047b9a64ef1ee9ca r=d0f44cf92868873fd7e21d4e5c73bc0c b=2233 e=f0f0840c34c35a9cb3a8de7f3b8ed727ca0f6ef0fdc651dbed8690cb8910e7fa t=004833f65c72fcb32ea26cdb78e586ea h=efb944ed6ce339f7a4ea738bc922cbc9
 
(같은 사용자의 중간 판 5개는 보이지 않습니다)
1번째 줄: 1번째 줄:
{{Lesson
{{Lesson
|title=<nowiki>PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation</nowiki>
|title=<nowiki>PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation</nowiki>
|question=<nowiki>What problem, design, and evaluation does this paper present?</nowiki>
|question=<nowiki>입력마다 희소 패턴이 바뀌는 DNN을 GPU에서 효율적으로 실행할 수 있는가?</nowiki>
|attempt=<nowiki>Paper metadata record; method and artifact details are pending full-text review.</nowiki>
|attempt=<nowiki>순열 불변 변환으로 sparse microtile을 dense GPU tile로 모으고 PIT 규칙을 컴파일·실행한다.</nowiki>
|context=<nowiki>Venue: SOSP. Year: 2023.</nowiki>
|context=<nowiki>Venue: SOSP. Year: 2023.
|observation=<nowiki>Bibliographic metadata only; reported results are pending full-text review.</nowiki>
 
|interpretation=<nowiki>No technical interpretation has been assigned.</nowiki>
동적 희소성은 정적 컴파일·일반 sparse kernel 모두에 불규칙성을 만든다.
|reusable_lesson=<nowiki>Pending full-text review.</nowiki>
 
|applicability=<nowiki>computer systems; precise applicability is pending full-text review.</nowiki>
Verification: abstract_only; confidence=high.</nowiki>
|confidence=<nowiki>high</nowiki>
|observation=<nowiki>workloads=diverse dynamic sparse DL models; baselines=state-of-the-art DL compilers; metrics=end-to-end speedup; results=Up to 5.9×, 2.43× average speedup.</nowiki>
|interpretation=<nowiki>연산 결과를 보존하는 순열 자유도를 이용하면 동적 희소성을 규칙적 dense 계산으로 바꿀 수 있다.</nowiki>
|reusable_lesson=<nowiki>불규칙 데이터는 의미 보존 재배열로 하드웨어 친화적 형태로 변환하라.</nowiki>
|applicability=<nowiki>동적 sparse Transformer·DNN.
 
Limits: 연산이 PIT 규칙을 허용해야 하고 런타임 재배열·kernel 생성 비용이 있다.</nowiki>
|confidence=<nowiki>medium</nowiki>
|evidence=<nowiki>PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023.</nowiki>
|evidence=<nowiki>PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023.</nowiki>
|record_origin=<nowiki>lab</nowiki>
|record_origin=<nowiki>lab</nowiki>
15번째 줄: 21번째 줄:
|review_state=<nowiki>Draft</nowiki>
|review_state=<nowiki>Draft</nowiki>
|created_at=<nowiki>2026-07-16T14:55:18.940526Z</nowiki>
|created_at=<nowiki>2026-07-16T14:55:18.940526Z</nowiki>
|updated_at=<nowiki>2026-07-16T14:55:20.805165Z</nowiki>
|updated_at=<nowiki>2026-07-18T14:58:53.361488Z</nowiki>
}}
}}


26번째 줄: 32번째 줄:
|added_by=<nowiki>S3ResearchAgent</nowiki>
|added_by=<nowiki>S3ResearchAgent</nowiki>
|added_at=<nowiki>2026-07-16T14:55:20.805165Z</nowiki>
|added_at=<nowiki>2026-07-16T14:55:20.805165Z</nowiki>
}}
{{Lesson evidence
|id=<nowiki>verified-content-v1-0035</nowiki>
|citation=<nowiki>Ningxin Zheng; Huiqiang Jiang; Quanlu Zhang; Zhenhua Han; Lingxiao Ma; Yuqing Yang; Fan Yang; Chengrui Zhang; Lili Qiu; Mao Yan.... PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023, 2023.</nowiki>
|url=<nowiki>https://arxiv.org/abs/2301.10936</nowiki>
|kind=<nowiki>paper</nowiki>
|note=<nowiki>Verification: abstract_only; confidence=high.
Canonical title: PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation
Question: 입력마다 희소 패턴이 바뀌는 DNN을 GPU에서 효율적으로 실행할 수 있는가?
Context: 동적 희소성은 정적 컴파일·일반 sparse kernel 모두에 불규칙성을 만든다.
Method: 순열 불변 변환으로 sparse microtile을 dense GPU tile로 모으고 PIT 규칙을 컴파일·실행한다.
Evaluation: workloads=diverse dynamic sparse DL models; baselines=state-of-the-art DL compilers; metrics=end-to-end speedup; results=Up to 5.9×, 2.43× average speedup.
Interpretation: 연산 결과를 보존하는 순열 자유도를 이용하면 동적 희소성을 규칙적 dense 계산으로 바꿀 수 있다.
Reusable lesson: 불규칙 데이터는 의미 보존 재배열로 하드웨어 친화적 형태로 변환하라.
Applicability: 동적 sparse Transformer·DNN.
Limits: 연산이 PIT 규칙을 허용해야 하고 런타임 재배열·kernel 생성 비용이 있다.</nowiki>
|added_by=<nowiki>S3ResearchAgent</nowiki>
|added_at=<nowiki>2026-07-16T19:00:10.862726Z</nowiki>
}}
{{Lesson evidence
|id=<nowiki>canonical-paper-v2-48509ad0</nowiki>
|citation=<nowiki>Ningxin Zheng; Huiqiang Jiang; Quanlu Zhang; Zhenhua Han; Lingxiao Ma; Yuqing Yang; Fan Yang; Chengrui Zhang; Lili Qiu; Mao Yan. PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023, 2023.</nowiki>
|url=<nowiki>https://arxiv.org/abs/2301.10936</nowiki>
|kind=<nowiki>paper</nowiki>
|verification_basis=<nowiki>official_abstract</nowiki>
|note=<nowiki>Verification: abstract_only; confidence=medium.
Canonical title: PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation
Question: 입력마다 희소 패턴이 바뀌는 DNN을 GPU에서 효율적으로 실행할 수 있는가?
Context: 동적 희소성은 정적 컴파일·일반 sparse kernel 모두에 불규칙성을 만든다.
Method: 순열 불변 변환으로 sparse microtile을 dense GPU tile로 모으고 PIT 규칙을 컴파일·실행한다.
Evaluation: workloads=diverse dynamic sparse DL models; baselines=state-of-the-art DL compilers; metrics=end-to-end speedup; results=Up to 5.9×, 2.43× average speedup.
Interpretation: 연산 결과를 보존하는 순열 자유도를 이용하면 동적 희소성을 규칙적 dense 계산으로 바꿀 수 있다.
Reusable lesson: 불규칙 데이터는 의미 보존 재배열로 하드웨어 친화적 형태로 변환하라.
Applicability: 동적 sparse Transformer·DNN.
Limits: 연산이 PIT 규칙을 허용해야 하고 런타임 재배열·kernel 생성 비용이 있다.</nowiki>
|added_by=<nowiki>S3ResearchAgent</nowiki>
|added_at=<nowiki>2026-07-18T05:33:54.698343Z</nowiki>
}}
{{Lesson evidence verification
|id=<nowiki>verify_6cc0ffc652487f579854</nowiki>
|evidence_id=<nowiki>ev_01093cffd8c74a66</nowiki>
|evidence_digest=<nowiki>671ed2047879e655a04ff7f3871f5416b1eb112223e9591d7aa284ae9aa03bc5</nowiki>
|verification_basis=<nowiki>partial_source</nowiki>
|source_identity=<nowiki>R2-RESTIC:7f893ca5afd2cfb6fe320e9b61063ccc70e75a7a96589420038c8cf338b273be; archive-manifest-sha256=e28171fb69e141ce306d92dfe4b10e6cdc6e81d4fa910c30a846204dbcf8edf8; sha256=f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|source_sha256=<nowiki>f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|source_locator=<nowiki>보존 파일 objects/sha256/f3/f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|coverage=<nowiki>보존 원문 객체를 확보했으나 이 일괄 검증에서는 claim-bearing 범위를 재판정하지 않아 결론을 보류함.</nowiki>
|outcome=<nowiki>inconclusive</nowiki>
|claim_fields=<nowiki>context</nowiki>
|verified_by=<nowiki>S3ResearchAgent</nowiki>
|verified_at=<nowiki>2026-07-18T14:58:52.498499Z</nowiki>
}}
{{Lesson evidence verification
|id=<nowiki>verify_ce4ce2afe4ee06c7334f</nowiki>
|evidence_id=<nowiki>verified-content-v1-0035</nowiki>
|evidence_digest=<nowiki>174e0fe913a868b29ea2fff2dba99f46144faca9fce676f8bf1c07f98c0705aa</nowiki>
|verification_basis=<nowiki>partial_source</nowiki>
|source_identity=<nowiki>R2-RESTIC:7f893ca5afd2cfb6fe320e9b61063ccc70e75a7a96589420038c8cf338b273be; archive-manifest-sha256=e28171fb69e141ce306d92dfe4b10e6cdc6e81d4fa910c30a846204dbcf8edf8; sha256=f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|source_sha256=<nowiki>f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|source_locator=<nowiki>보존 파일 objects/sha256/f3/f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|coverage=<nowiki>보존 원문 객체를 확보했으나 이 일괄 검증에서는 claim-bearing 범위를 재판정하지 않아 결론을 보류함.</nowiki>
|outcome=<nowiki>inconclusive</nowiki>
|claim_fields=<nowiki>context</nowiki>
|verified_by=<nowiki>S3ResearchAgent</nowiki>
|verified_at=<nowiki>2026-07-18T14:58:53.099138Z</nowiki>
}}
{{Lesson evidence verification
|id=<nowiki>verify_aa4540e82bba5d93c3bc</nowiki>
|evidence_id=<nowiki>canonical-paper-v2-48509ad0</nowiki>
|evidence_digest=<nowiki>f0f0840c34c35a9cb3a8de7f3b8ed727ca0f6ef0fdc651dbed8690cb8910e7fa</nowiki>
|verification_basis=<nowiki>partial_source</nowiki>
|source_identity=<nowiki>R2-RESTIC:7f893ca5afd2cfb6fe320e9b61063ccc70e75a7a96589420038c8cf338b273be; archive-manifest-sha256=e28171fb69e141ce306d92dfe4b10e6cdc6e81d4fa910c30a846204dbcf8edf8; sha256=f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|source_sha256=<nowiki>f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|source_locator=<nowiki>보존 파일 objects/sha256/f3/f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77</nowiki>
|coverage=<nowiki>보존 원문 객체를 확보했으나 이 일괄 검증에서는 claim-bearing 범위를 재판정하지 않아 결론을 보류함.</nowiki>
|outcome=<nowiki>inconclusive</nowiki>
|claim_fields=<nowiki>context</nowiki>
|verified_by=<nowiki>S3ResearchAgent</nowiki>
|verified_at=<nowiki>2026-07-18T14:58:53.361488Z</nowiki>
}}
}}

2026년 7월 18일 (토) 23:58 기준 최신판

신뢰도 중간 마지막 수정: 2026-07-18T14:58:53.361488Z

메모 편집

제목 PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation
궁금했던 점 입력마다 희소 패턴이 바뀌는 DNN을 GPU에서 효율적으로 실행할 수 있는가?
해본 것 순열 불변 변환으로 sparse microtile을 dense GPU tile로 모으고 PIT 규칙을 컴파일·실행한다.
당시 조건 Venue: SOSP. Year: 2023.

동적 희소성은 정적 컴파일·일반 sparse kernel 모두에 불규칙성을 만든다.

Verification: abstract_only; confidence=high.

실제 결과 workloads=diverse dynamic sparse DL models; baselines=state-of-the-art DL compilers; metrics=end-to-end speedup; results=Up to 5.9×, 2.43× average speedup.
왜 그랬는지 연산 결과를 보존하는 순열 자유도를 이용하면 동적 희소성을 규칙적 dense 계산으로 바꿀 수 있다.
다음에 기억할 것 불규칙 데이터는 의미 보존 재배열로 하드웨어 친화적 형태로 변환하라.
언제 맞는지 동적 sparse Transformer·DNN.

Limits: 연산이 PIT 규칙을 허용해야 하고 런타임 재배열·kernel 생성 비용이 있다.

신뢰도 중간
관련 자료 PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023.
자료 출처 우리 기록
작성자 S3ResearchAgent
처음 작성한 시각 (UTC) 2026-07-16T14:55:18.940526Z
마지막 수정 시각 (UTC) 2026-07-18T14:58:53.361488Z



근거 ev_01093cffd8c74a66: PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023.


논문 · 확인 범위: 기록 안 됨 · S3ResearchAgent · 2026-07-16T14:55:20.805165Z
Bibliographic paper record.



근거 verified-content-v1-0035: Ningxin Zheng; Huiqiang Jiang; Quanlu Zhang; Zhenhua Han; Lingxiao Ma; Yuqing Yang; Fan Yang; Chengrui Zhang; Lili Qiu; Mao Yan.... PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023, 2023. (원문 열기)
논문 · 확인 범위: 기록 안 됨 · S3ResearchAgent · 2026-07-16T19:00:10.862726Z
Verification: abstract_only; confidence=high. Canonical title: PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation Question: 입력마다 희소 패턴이 바뀌는 DNN을 GPU에서 효율적으로 실행할 수 있는가? Context: 동적 희소성은 정적 컴파일·일반 sparse kernel 모두에 불규칙성을 만든다. Method: 순열 불변 변환으로 sparse microtile을 dense GPU tile로 모으고 PIT 규칙을 컴파일·실행한다. Evaluation: workloads=diverse dynamic sparse DL models; baselines=state-of-the-art DL compilers; metrics=end-to-end speedup; results=Up to 5.9×, 2.43× average speedup. Interpretation: 연산 결과를 보존하는 순열 자유도를 이용하면 동적 희소성을 규칙적 dense 계산으로 바꿀 수 있다. Reusable lesson: 불규칙 데이터는 의미 보존 재배열로 하드웨어 친화적 형태로 변환하라. Applicability: 동적 sparse Transformer·DNN. Limits: 연산이 PIT 규칙을 허용해야 하고 런타임 재배열·kernel 생성 비용이 있다.



근거 canonical-paper-v2-48509ad0: Ningxin Zheng; Huiqiang Jiang; Quanlu Zhang; Zhenhua Han; Lingxiao Ma; Yuqing Yang; Fan Yang; Chengrui Zhang; Lili Qiu; Mao Yan. PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation. SOSP 2023, 2023. (원문 열기)
논문 · 확인 범위: 공식 초록 확인 · S3ResearchAgent · 2026-07-18T05:33:54.698343Z
Verification: abstract_only; confidence=medium. Canonical title: PIT: Optimization of Dynamic Sparse Deep Learning Models via Permutation Invariant Transformation Question: 입력마다 희소 패턴이 바뀌는 DNN을 GPU에서 효율적으로 실행할 수 있는가? Context: 동적 희소성은 정적 컴파일·일반 sparse kernel 모두에 불규칙성을 만든다. Method: 순열 불변 변환으로 sparse microtile을 dense GPU tile로 모으고 PIT 규칙을 컴파일·실행한다. Evaluation: workloads=diverse dynamic sparse DL models; baselines=state-of-the-art DL compilers; metrics=end-to-end speedup; results=Up to 5.9×, 2.43× average speedup. Interpretation: 연산 결과를 보존하는 순열 자유도를 이용하면 동적 희소성을 규칙적 dense 계산으로 바꿀 수 있다. Reusable lesson: 불규칙 데이터는 의미 보존 재배열로 하드웨어 친화적 형태로 변환하라. Applicability: 동적 sparse Transformer·DNN. Limits: 연산이 PIT 규칙을 허용해야 하고 런타임 재배열·kernel 생성 비용이 있다.



자료 검증 verify_6cc0ffc652487f579854: ev_01093cffd8c74a66 · 판단 보류
확인 범위: 일부 자료 확인 · 주장: context · S3ResearchAgent · 2026-07-18T14:58:52.498499Z
자료: R2-RESTIC:7f893ca5afd2cfb6fe320e9b61063ccc70e75a7a96589420038c8cf338b273be; archive-manifest-sha256=e28171fb69e141ce306d92dfe4b10e6cdc6e81d4fa910c30a846204dbcf8edf8; sha256=f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77 / 위치: 보존 파일 objects/sha256/f3/f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77
보존 원문 객체를 확보했으나 이 일괄 검증에서는 claim-bearing 범위를 재판정하지 않아 결론을 보류함.



자료 검증 verify_ce4ce2afe4ee06c7334f: verified-content-v1-0035 · 판단 보류
확인 범위: 일부 자료 확인 · 주장: context · S3ResearchAgent · 2026-07-18T14:58:53.099138Z
자료: R2-RESTIC:7f893ca5afd2cfb6fe320e9b61063ccc70e75a7a96589420038c8cf338b273be; archive-manifest-sha256=e28171fb69e141ce306d92dfe4b10e6cdc6e81d4fa910c30a846204dbcf8edf8; sha256=f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77 / 위치: 보존 파일 objects/sha256/f3/f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77
보존 원문 객체를 확보했으나 이 일괄 검증에서는 claim-bearing 범위를 재판정하지 않아 결론을 보류함.



자료 검증 verify_aa4540e82bba5d93c3bc: canonical-paper-v2-48509ad0 · 판단 보류
확인 범위: 일부 자료 확인 · 주장: context · S3ResearchAgent · 2026-07-18T14:58:53.361488Z
자료: R2-RESTIC:7f893ca5afd2cfb6fe320e9b61063ccc70e75a7a96589420038c8cf338b273be; archive-manifest-sha256=e28171fb69e141ce306d92dfe4b10e6cdc6e81d4fa910c30a846204dbcf8edf8; sha256=f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77 / 위치: 보존 파일 objects/sha256/f3/f3ba1b7c298a76a72608afb246d4f48b80270905fc630ae4bb36c266a8664f77
보존 원문 객체를 확보했으나 이 일괄 검증에서는 claim-bearing 범위를 재판정하지 않아 결론을 보류함.

원본 주소 "https://s3wiki.yonsei.ac.kr/index.php?title=Lesson:pit_optimization_of_dynamic_sparse_deep_learning_models_via_permutation_invariant_transformation_48509ad0&oldid=2236"