오픈소스 · 로컬 LLM

전체 Rust Python TS · JS

전체 🤖 AI 에이전트 🌐 웹·브라우저 🧠 로컬 LLM 🖼️ 이미지·미디어 🛠️ 바이브코딩 🎨 디자인 🎮 게임 📄 문서·생산성 🖥️ 셀프호스팅

총 4개

🧠 로컬 LLM Rust Apache-2.0

Magnitude — 내 맥북·PC 하드웨어에 맞춰 커널을 실시간 튜닝해 2배 빠르게 돌리는 로컬 AI 엔진

magnitudedev/magnitude

#로컬LLM#AppleSilicon#커널튜닝

🧠 로컬 LLM Go MIT

Ollama — DeepSeek·Qwen·Gemma·GLM 등 최신 오픈웨이트 LLM을 명령어 한 줄로 로컬 구동

#로컬LLM#오픈웨이트#추론서버

🧠 로컬 LLM C++ MIT

llama.cpp — 외부 의존성 없이 순수 C/C++로 맥북·일반 PC에서도 초거대 모델을 돌리는 양자화 추론 엔진

ggml-org/llama.cpp

#GGUF#양자화#온디바이스AI

🧠 로컬 LLM Python Apache-2.0

EXO — 집에 있는 맥북·아이패드·구형 PC 메모리를 하나로 묶어 프론티어 AI 클러스터를 만드는 툴

exo-explore/exo

#분산추론#로컬클러스터#VRAM확장