요약
로컬에서 대규모 언어 모델을 내려받아 실행하는 오픈소스 도구. CLI와 REST API를 제공해요. MIT
설명
Ollama
열린 모델로 무언가를 만들어 보세요. 최신 모델을 완전한 프라이버시로 로컬이나 클라우드에서 쓸 수 있습니다.
다운로드
macOS
curl -fsSL https://ollama.com/install.sh | sh
또는 직접 내려받기
Windows
irm https://ollama.com/install.ps1 | iex
또는 직접 내려받기
Linux
curl -fsSL https://ollama.com/install.sh | sh
Docker
공식 Ollama Docker 이미지 ollama/ollama를 Docker Hub에서 받을 수 있습니다.
라이브러리
커뮤니티
시작하기
ollama
모델을 실행하거나 Ollama를 Claude Code, OpenClaw, OpenCode, Codex, Copilot 같은 기존 에이전트나 애플리케이션에 연결하라는 안내가 나옵니다.
코딩
특정 연동을 실행하려면:
ollama launch claude
지원하는 연동은 Claude Code, Codex, Copilot CLI, DeepSeek Harness, Droid, OpenCode입니다.
AI 비서
OpenClaw를 쓰면 Ollama를 WhatsApp, Telegram, Slack, Discord 등에서 쓰는 개인 AI 비서로 바꿀 수 있습니다.
ollama launch openclaw
모델과 대화하기
Gemma 4를 실행하고 대화합니다.
ollama run gemma4
전체 목록은 ollama.com/library를 보세요.
자세한 내용은 빠른 시작 안내를 보세요.
REST API
Ollama에는 모델을 실행하고 관리하는 REST API가 있습니다.
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{
"role": "user",
"content": "Why is the sky blue?"
}],
"stream": false
}'
모든 엔드포인트는 API 문서를 보세요.
Python
pip install ollama
from ollama import chat
response = chat(model='gemma4', messages=[
{
'role': 'user',
'content': 'Why is the sky blue?',
},
])
print(response.message.content)
JavaScript
npm i ollama
import ollama from "ollama";
const response = await ollama.chat({
model: "gemma4",
messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);
지원하는 백엔드
- Georgi Gerganov가 시작한 llama.cpp 프로젝트.
문서
커뮤니티 연동
💡 내 프로젝트를 더하고 싶나요? 풀 리퀘스트를 열어 주세요.
채팅 인터페이스
웹
- Open WebUI - 확장할 수 있는 자체 호스팅 AI 인터페이스
- Onyx - 연결된 AI 작업 공간
- LibreChat - 여러 제공자를 지원하는 향상된 ChatGPT 클론
- Lobe Chat - 플러그인 생태계를 갖춘 현대적인 채팅 프레임워크(문서)
- NextChat - 크로스 플랫폼 ChatGPT UI(문서)
- Perplexica - AI 검색 엔진, 오픈소스 Perplexity 대안
- big-AGI - 전문가를 위한 AI 도구 모음
- Lollms WebUI - 다중 모델 웹 인터페이스
- ChatOllama - 지식 베이스가 있는 챗봇
- Bionic GPT - 온프레미스 AI 플랫폼
- Chatbot UI - ChatGPT 스타일 웹 인터페이스
- Hollama - 미니멀한 웹 인터페이스
- Chatbox - 데스크톱 · 웹 AI 클라이언트
- chat - 팀용 채팅 웹 앱
- Ollama RAG Chatbot - RAG로 여러 PDF와 대화
- Tkinter-based client - 파이썬 데스크톱 클라이언트
데스크톱
- Dify.AI - LLM 앱 개발 플랫폼
- AnythingLLM - Mac, Windows, Linux용 올인원 AI 앱
- Maid - 크로스 플랫폼 모바일 · 데스크톱 클라이언트
- Witsy - Mac, Windows, Linux용 AI 데스크톱 앱
- Cherry Studio - 다중 제공자 데스크톱 클라이언트
- Ollama App - 데스크톱 · 모바일 멀티 플랫폼 클라이언트
- PyGPT - Linux, Windows, Mac용 AI 데스크톱 비서
- Alpaca - Linux와 macOS용 GTK4 클라이언트
- SwiftChat - iOS, Android, Apple Vision Pro를 포함한 크로스 플랫폼
- Enchanted - 네이티브 macOS · iOS 클라이언트
- RWKV-Runner - 다중 모델 데스크톱 실행기
- Ollama Grid Search - 모델 평가 · 비교
- macai - Ollama와 ChatGPT용 macOS 클라이언트
- AI Studio - 다중 제공자 데스크톱 IDE
- Reins - 매개변수 조정과 추론 모델 지원
- ConfiChat - 선택적 암호화를 지원하는 프라이버시 중심 앱
- LLocal.in - Electron 데스크톱 클라이언트
- MindMac - Mac용 AI 채팅 클라이언트
- Msty - 다중 모델 데스크톱 클라이언트
- BoltAI for Mac - Mac용 AI 채팅 클라이언트
- IntelliBar - macOS용 AI 비서
- Kerlig AI - macOS용 AI 글쓰기 비서
- Hillnote - 마크다운 우선 AI 작업 공간
- Perfect Memory AI - 화면과 회의 기록으로 개인화되는 생산성 AI
모바일
- Ollama Android Chat - 안드로이드에서 한 번에 Ollama 실행
- Quock - Ollama Cloud용 네이티브 iOS 클라이언트
💡 위에 나온 SwiftChat, Enchanted, Maid, Ollama App, Reins, ConfiChat도 모바일 플랫폼을 지원합니다.
코드 에디터 & 개발
- Cline - 여러 파일 · 저장소 전체 코딩용 VS Code 확장
- Continue - 모든 IDE에서 쓰는 오픈소스 AI 코드 비서
- Void - 오픈소스 AI 코드 에디터, Cursor 대안
- Copilot for Obsidian - Obsidian용 AI 비서
- twinny - Copilot과 Copilot 채팅 대안
- gptel Emacs client - Emacs용 LLM 클라이언트
- Ollama Copilot - Ollama를 GitHub Copilot처럼 사용
- Obsidian Local GPT - Obsidian용 로컬 AI
- Ellama Emacs client - Emacs용 LLM 도구
- orbiton - 설정이 필요 없는 텍스트 에디터, Ollama 탭 완성
- AI ST Completion - Sublime Text 4 AI 비서
- VT Code - Tree-sitter를 쓰는 Rust 기반 터미널 코딩 에이전트
- QodeAssist - Qt Creator용 AI 코딩 비서
- AI Toolkit for VS Code - Microsoft 공식 VS Code 확장
- Open Interpreter - 컴퓨터를 위한 자연어 인터페이스
- oxi - 에디터, Git 패널, 터미널을 갖춘 네이티브 Rust 데스크톱 코딩 에이전트
라이브러리 & SDK
- LiteLLM - 100여 개 LLM 제공자를 위한 통합 API
- Semantic Kernel - Microsoft AI 오케스트레이션 SDK
- LangChain4j - 자바 LangChain(예제)
- LangChainGo - Go LangChain(예제)
- Spring AI - Spring 프레임워크 AI 지원(문서)
- LangChain과 LangChain.js, 예제
- Ollama for Ruby - Ruby LLM 라이브러리
- any-llm - Mozilla의 통합 LLM 인터페이스
- OllamaSharp for .NET - .NET SDK
- LangChainRust - Rust LangChain(예제)
- Agents-Flex for Java - 자바 에이전트 프레임워크(예제)
- Elixir LangChain - Elixir LangChain
- Ollama-rs for Rust - Rust SDK
- LangChain for .NET - .NET LangChain(예제)
- chromem-go - Ollama 임베딩을 쓰는 Go 벡터 데이터베이스(예제)
- LangChainDart - Dart LangChain
- LlmTornado - 여러 추론 API를 위한 통합 C# 인터페이스
- Ollama4j for Java - 자바 SDK
- Ollama for Laravel - Laravel 연동
- Ollama for Swift - Swift SDK
- LlamaIndex와 LlamaIndexTS - LLM 앱을 위한 데이터 프레임워크
- Haystack - AI 파이프라인 프레임워크
- Firebase Genkit - Google AI 프레임워크
- Ollama-hpp for C++ - C++ SDK
- PromptingTools.jl - Julia LLM 도구 모음(예제)
- Ollama for R - rollama - R SDK
- Portkey - AI 게이트웨이
- Testcontainers - 컨테이너 기반 테스트
- LLPhant - PHP AI 프레임워크
프레임워크 & 에이전트
- AutoGPT - 자율 AI 에이전트 플랫폼
- crewAI - 다중 에이전트 오케스트레이션 프레임워크
- Strands Agents - AWS의 모델 주도 에이전트 개발
- Cheshire Cat - AI 비서 프레임워크
- any-agent - Mozilla의 통합 에이전트 프레임워크 인터페이스
- Stakpak - 오픈소스 DevOps 에이전트
- Hexabot - 대화형 AI 빌더
- Neuro SAN - 다중 에이전트 오케스트레이션(문서)
RAG & 지식 베이스
- RAGFlow - 깊은 문서 이해를 바탕으로 한 RAG 엔진
- R2R - 오픈소스 RAG 엔진
- MaxKB - 바로 쓸 수 있는 RAG 챗봇
- Minima - 온프레미스 또는 완전 로컬 RAG
- Chipper - Haystack RAG가 붙은 AI 인터페이스
- ARGO - Mac/Windows/Linux에서 RAG와 심층 조사
- Archyve - RAG를 지원하는 문서 라이브러리
- Casibase - RAG와 SSO가 있는 AI 지식 베이스
- BrainSoup - RAG와 다중 에이전트 자동화를 갖춘 네이티브 클라이언트
봇 & 메시징
- LangBot - 에이전트와 RAG를 갖춘 멀티 플랫폼 메시징 봇
- AstrBot - RAG와 플러그인이 있는 멀티 플랫폼 챗봇
- Discord-Ollama Chat Bot - TypeScript Discord 봇
- Ollama Telegram Bot - Telegram 봇
- LLM Telegram Bot - 롤플레이용 Telegram 봇
터미널 & CLI
- aichat - 셸 비서, RAG, AI 도구를 갖춘 올인원 LLM CLI
- oterm - Ollama용 터미널 클라이언트
- gollama - Go 기반 Ollama 모델 관리자
- tlm - 로컬 셸 코파일럿
- tenere - LLM용 TUI
- ParLlama - Ollama용 TUI
- llm-ollama - Datasette의 LLM CLI용 플러그인
- ShellOracle - 셸 명령 제안
- LLM-X - LLM용 프로그레시브 웹 앱
- cmdh - 자연어를 셸 명령으로
- VT - 미니멀한 멀티모달 AI 채팅 앱
생산성 & 앱
- AppFlowy - AI 협업 작업 공간, 자체 호스팅 가능한 Notion 대안
- Screenpipe - 24시간 화면 · 마이크 녹음과 AI 검색
- Vibe - 회의 받아쓰기와 분석
- Page Assist - AI로 하는 브라우징 Chrome 확장
- NativeMind - 기기 안에서 도는 개인 브라우저 AI 비서
- Ollama Fortress - Ollama용 보안 프록시
- 1Panel - 웹 기반 Linux 서버 관리
- Writeopia - Ollama와 연동된 텍스트 에디터
- QA-Pilot - GitHub 코드 저장소 이해
- Raycast extension - Raycast에서 쓰는 Ollama
- Painting Droid - AI 연동이 있는 그림 앱
- Serene Pub - AI 롤플레이 앱
- Mayan EDMS - Ollama 워크플로가 있는 문서 관리
- TagSpaces - AI 태그 달기가 있는 파일 관리
관측 & 모니터링
- Opik - LLM 애플리케이션 디버그 · 평가 · 모니터링
- OpenLIT - Ollama와 GPU를 위한 OpenTelemetry 기반 모니터링
- Lunary - 분석과 개인정보 가리기를 갖춘 LLM 관측
- Langfuse - 오픈소스 LLM 관측
- HoneyHive - 에이전트를 위한 AI 관측과 평가
- MLflow Tracing - 오픈소스 LLM 관측
데이터베이스 & 임베딩
- pgai - 벡터 데이터베이스로 쓰는 PostgreSQL(가이드)
- MindsDB - Ollama를 200여 개 데이터 플랫폼과 연결
- chromem-go - Go용 내장형 벡터 데이터베이스(예제)
- Kangaroo - AI 기반 SQL 클라이언트
인프라 & 배포
클라우드
- Google Cloud
- Fly.io
- Koyeb
- Harbor - Ollama를 기본 백엔드로 쓰는 컨테이너형 LLM 도구 모음
패키지 관리자
라이선스
MIT 라이선스로 배포됩니다. LICENSE 파일을 보세요.
저장소: ollama/ollama
평점
- 5점
- 0
- 4점
- 0
- 3점
- 0
- 2점
- 0
- 1점
- 0