import{s as E,n as H,o as T}from"../chunks/scheduler.6e0d5ff7.js";import{S as M,i as S,g as m,s as p,r as k,E as L,h as f,f as a,c as h,j as y,u as A,x as b,k as C,y as D,a as n,v as N,d as R,t as j,w as q}from"../chunks/index.d7c1b260.js";import{H as z,g as F}from"../chunks/Heading.2be73954.js";function G(g){let o,u,r,d,s,_,l,P="노이즈가 많은 출력에서 적은 출력으로 만드는 과정으로 고품질 생성 모델의 출력을 만드는 각각의 반복되는 스텝은 많은 계산이 필요합니다. 🧨 Diffuser의 목표 중 하나는 모든 사람이 이 기술을 널리 이용할 수 있도록 하는 것이며, 여기에는 소비자 및 특수 하드웨어에서 빠른 추론을 가능하게 하는 것을 포함합니다.",w,i,v='이 섹션에서는 추론 속도를 최적화하고 메모리 소비를 줄이기 위한 반정밀(half-precision) 가중치 및 sliced attention과 같은 팁과 요령을 다룹니다. 또한 <a href="https://pytorch.org/tutorials/intermediate/torch_compile_tutorial.html" rel="nofollow"><code>torch.compile</code></a> 또는 <a href="https://onnxruntime.ai/docs/" rel="nofollow">ONNX Runtime</a>을 사용하여 PyTorch 코드의 속도를 높이고, <a href="https://facebookresearch.github.io/xformers/" rel="nofollow">xFormers</a>를 사용하여 memory-efficient attention을 활성화하는 방법을 배울 수 있습니다. Apple Silicon, Intel 또는 Habana 프로세서와 같은 특정 하드웨어에서 추론을 실행하기 위한 가이드도 있습니다.',x,c,$;return s=new z({props:{title:"개요",local:"개요",headingTag:"h1"}}),{c(){o=m("meta"),u=p(),r=m("p"),d=p(),k(s.$$.fragment),_=p(),l=m("p"),l.textContent=P,w=p(),i=m("p"),i.innerHTML=v,x=p(),c=m("p"),this.h()},l(t){const e=L("svelte-u9bgzb",document.head);o=f(e,"META",{name:!0,content:!0}),e.forEach(a),u=h(t),r=f(t,"P",{}),y(r).forEach(a),d=h(t),A(s.$$.fragment,t),_=h(t),l=f(t,"P",{"data-svelte-h":!0}),b(l)!=="svelte-1mwwk00"&&(l.textContent=P),w=h(t),i=f(t,"P",{"data-svelte-h":!0}),b(i)!=="svelte-5nagno"&&(i.innerHTML=v),x=h(t),c=f(t,"P",{}),y(c).forEach(a),this.h()},h(){C(o,"name","hf:doc:metadata"),C(o,"content",I)},m(t,e){D(document.head,o),n(t,u,e),n(t,r,e),n(t,d,e),N(s,t,e),n(t,_,e),n(t,l,e),n(t,w,e),n(t,i,e),n(t,x,e),n(t,c,e),$=!0},p:H,i(t){$||(R(s.$$.fragment,t),$=!0)},o(t){j(s.$$.fragment,t),$=!1},d(t){t&&(a(u),a(r),a(d),a(_),a(l),a(w),a(i),a(x),a(c)),a(o),q(s,t)}}}const I='{"title":"개요","local":"개요","sections":[],"depth":1}';function O(g){return T(()=>{new URLSearchParams(window.location.search).get("fw"),window.hfDocGoto=F}),[]}class J extends M{constructor(o){super(),S(this,o,O,G,E,{})}}export{J as component};
