Home
Categories
EXPLORE
True Crime
Comedy
Society & Culture
Business
Sports
History
Music
About Us
Contact Us
Copyright
© 2024 PodJoint
00:00 / 00:00
Sign in

or

Don't have an account?
Sign up
Forgot password
https://is1-ssl.mzstatic.com/image/thumb/Podcasts211/v4/68/54/18/68541806-1b7f-0215-b3c3-529e5d46d754/mza_14432034376430612134.jpg/600x600bb.jpg
수도리부트
sudoremove
2 episodes
5 days ago
AI 종사자들의 스터디 AI, 테크, 개발 관련 최신 소식, 연구 들을 공유합니다. 학생때부터 항상 스터디를 우리끼리만 하는 것이 아까워서 채널 개설했습니다.
Show more...
Tech News
News
RSS
All content for 수도리부트 is the property of sudoremove and is served directly from their servers with no modification, redirects, or rehosting. The podcast is not affiliated with or endorsed by Podjoint in any way.
AI 종사자들의 스터디 AI, 테크, 개발 관련 최신 소식, 연구 들을 공유합니다. 학생때부터 항상 스터디를 우리끼리만 하는 것이 아까워서 채널 개설했습니다.
Show more...
Tech News
News
https://d3t3ozftmdmh3i.cloudfront.net/staging/podcast_uploaded_nologo/42433884/42433884-1731507353517-162928ada91e.jpg
LLM을 더 빠르게 서빙하는 법, KV 캐싱 & Speculative Decoding
수도리부트
42 minutes 58 seconds
11 months ago
LLM을 더 빠르게 서빙하는 법, KV 캐싱 & Speculative Decoding

LLM을 더 빠르게 서빙하는 법

- KV 캐싱

- Paged Attention

- vLLM

- Speculative Decoding

- OpenAI 프롬프트 캐싱

- OpenAI Predicted Outputs


Physical intelligence,

- AI 로봇

- Action 모델



수도리부트
AI 종사자들의 스터디 AI, 테크, 개발 관련 최신 소식, 연구 들을 공유합니다. 학생때부터 항상 스터디를 우리끼리만 하는 것이 아까워서 채널 개설했습니다.