본문으로 건너뛰기
오픈소스 전체 목록

Ollama

  • 추천0
  • GitHub 별187K
  • 개발라이선스MIT

로컬에서 대규모 언어 모델을 내려받아 실행하는 오픈소스 도구. CLI와 REST API를 제공해요. MIT

원본:ollama/ollama

요약

로컬에서 대규모 언어 모델을 내려받아 실행하는 오픈소스 도구. CLI와 REST API를 제공해요. MIT

설명

ollama

Ollama

열린 모델로 무언가를 만들어 보세요. 최신 모델을 완전한 프라이버시로 로컬이나 클라우드에서 쓸 수 있습니다.

다운로드

macOS

curl -fsSL https://ollama.com/install.sh | sh

또는 직접 내려받기

Windows

irm https://ollama.com/install.ps1 | iex

또는 직접 내려받기

Linux

curl -fsSL https://ollama.com/install.sh | sh

수동 설치 안내

Docker

공식 Ollama Docker 이미지 ollama/ollama를 Docker Hub에서 받을 수 있습니다.

라이브러리

커뮤니티

시작하기

ollama

모델을 실행하거나 Ollama를 Claude Code, OpenClaw, OpenCode, Codex, Copilot 같은 기존 에이전트나 애플리케이션에 연결하라는 안내가 나옵니다.

코딩

특정 연동을 실행하려면:

ollama launch claude

지원하는 연동은 Claude Code, Codex, Copilot CLI, DeepSeek Harness, Droid, OpenCode입니다.

AI 비서

OpenClaw를 쓰면 Ollama를 WhatsApp, Telegram, Slack, Discord 등에서 쓰는 개인 AI 비서로 바꿀 수 있습니다.

ollama launch openclaw

모델과 대화하기

Gemma 4를 실행하고 대화합니다.

ollama run gemma4

전체 목록은 ollama.com/library를 보세요.

자세한 내용은 빠른 시작 안내를 보세요.

REST API

Ollama에는 모델을 실행하고 관리하는 REST API가 있습니다.

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

모든 엔드포인트는 API 문서를 보세요.

Python

pip install ollama
from ollama import chat

response = chat(model='gemma4', messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response.message.content)

JavaScript

npm i ollama
import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma4",
  messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);

지원하는 백엔드

  • Georgi Gerganov가 시작한 llama.cpp 프로젝트.

문서

커뮤니티 연동

💡 내 프로젝트를 더하고 싶나요? 풀 리퀘스트를 열어 주세요.

채팅 인터페이스

웹

  • Open WebUI - 확장할 수 있는 자체 호스팅 AI 인터페이스
  • Onyx - 연결된 AI 작업 공간
  • LibreChat - 여러 제공자를 지원하는 향상된 ChatGPT 클론
  • Lobe Chat - 플러그인 생태계를 갖춘 현대적인 채팅 프레임워크(문서)
  • NextChat - 크로스 플랫폼 ChatGPT UI(문서)
  • Perplexica - AI 검색 엔진, 오픈소스 Perplexity 대안
  • big-AGI - 전문가를 위한 AI 도구 모음
  • Lollms WebUI - 다중 모델 웹 인터페이스
  • ChatOllama - 지식 베이스가 있는 챗봇
  • Bionic GPT - 온프레미스 AI 플랫폼
  • Chatbot UI - ChatGPT 스타일 웹 인터페이스
  • Hollama - 미니멀한 웹 인터페이스
  • Chatbox - 데스크톱 · 웹 AI 클라이언트
  • chat - 팀용 채팅 웹 앱
  • Ollama RAG Chatbot - RAG로 여러 PDF와 대화
  • Tkinter-based client - 파이썬 데스크톱 클라이언트

데스크톱

  • Dify.AI - LLM 앱 개발 플랫폼
  • AnythingLLM - Mac, Windows, Linux용 올인원 AI 앱
  • Maid - 크로스 플랫폼 모바일 · 데스크톱 클라이언트
  • Witsy - Mac, Windows, Linux용 AI 데스크톱 앱
  • Cherry Studio - 다중 제공자 데스크톱 클라이언트
  • Ollama App - 데스크톱 · 모바일 멀티 플랫폼 클라이언트
  • PyGPT - Linux, Windows, Mac용 AI 데스크톱 비서
  • Alpaca - Linux와 macOS용 GTK4 클라이언트
  • SwiftChat - iOS, Android, Apple Vision Pro를 포함한 크로스 플랫폼
  • Enchanted - 네이티브 macOS · iOS 클라이언트
  • RWKV-Runner - 다중 모델 데스크톱 실행기
  • Ollama Grid Search - 모델 평가 · 비교
  • macai - Ollama와 ChatGPT용 macOS 클라이언트
  • AI Studio - 다중 제공자 데스크톱 IDE
  • Reins - 매개변수 조정과 추론 모델 지원
  • ConfiChat - 선택적 암호화를 지원하는 프라이버시 중심 앱
  • LLocal.in - Electron 데스크톱 클라이언트
  • MindMac - Mac용 AI 채팅 클라이언트
  • Msty - 다중 모델 데스크톱 클라이언트
  • BoltAI for Mac - Mac용 AI 채팅 클라이언트
  • IntelliBar - macOS용 AI 비서
  • Kerlig AI - macOS용 AI 글쓰기 비서
  • Hillnote - 마크다운 우선 AI 작업 공간
  • Perfect Memory AI - 화면과 회의 기록으로 개인화되는 생산성 AI

모바일

  • Ollama Android Chat - 안드로이드에서 한 번에 Ollama 실행
  • Quock - Ollama Cloud용 네이티브 iOS 클라이언트

💡 위에 나온 SwiftChat, Enchanted, Maid, Ollama App, Reins, ConfiChat도 모바일 플랫폼을 지원합니다.

코드 에디터 & 개발

라이브러리 & SDK

프레임워크 & 에이전트

  • AutoGPT - 자율 AI 에이전트 플랫폼
  • crewAI - 다중 에이전트 오케스트레이션 프레임워크
  • Strands Agents - AWS의 모델 주도 에이전트 개발
  • Cheshire Cat - AI 비서 프레임워크
  • any-agent - Mozilla의 통합 에이전트 프레임워크 인터페이스
  • Stakpak - 오픈소스 DevOps 에이전트
  • Hexabot - 대화형 AI 빌더
  • Neuro SAN - 다중 에이전트 오케스트레이션(문서)

RAG & 지식 베이스

  • RAGFlow - 깊은 문서 이해를 바탕으로 한 RAG 엔진
  • R2R - 오픈소스 RAG 엔진
  • MaxKB - 바로 쓸 수 있는 RAG 챗봇
  • Minima - 온프레미스 또는 완전 로컬 RAG
  • Chipper - Haystack RAG가 붙은 AI 인터페이스
  • ARGO - Mac/Windows/Linux에서 RAG와 심층 조사
  • Archyve - RAG를 지원하는 문서 라이브러리
  • Casibase - RAG와 SSO가 있는 AI 지식 베이스
  • BrainSoup - RAG와 다중 에이전트 자동화를 갖춘 네이티브 클라이언트

봇 & 메시징

터미널 & CLI

생산성 & 앱

관측 & 모니터링

  • Opik - LLM 애플리케이션 디버그 · 평가 · 모니터링
  • OpenLIT - Ollama와 GPU를 위한 OpenTelemetry 기반 모니터링
  • Lunary - 분석과 개인정보 가리기를 갖춘 LLM 관측
  • Langfuse - 오픈소스 LLM 관측
  • HoneyHive - 에이전트를 위한 AI 관측과 평가
  • MLflow Tracing - 오픈소스 LLM 관측

데이터베이스 & 임베딩

  • pgai - 벡터 데이터베이스로 쓰는 PostgreSQL(가이드)
  • MindsDB - Ollama를 200여 개 데이터 플랫폼과 연결
  • chromem-go - Go용 내장형 벡터 데이터베이스(예제)
  • Kangaroo - AI 기반 SQL 클라이언트

인프라 & 배포

클라우드

패키지 관리자

라이선스

MIT 라이선스로 배포됩니다. LICENSE 파일을 보세요.


저장소: ollama/ollama

평점

–평가 0개 기준
5점
0
4점
0
3점
0
2점
0
1점
0