🧠 LLM開発ツールのオープンソース
LLMアプリ開発・RAG・プロンプト管理(74件)

hermes-agent
ユーザーと共に成長するAIエージェント(Nous Research製)

OpenCode
The open source coding agent.

firecrawl
WebをLLM向けに検索・スクレイピングするAPI
transformers
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
ponytail
Makes your AI agent think like the laziest senior dev in the room. The best code is the code you never wrote.

dify
ノーコードでAIアプリを構築できるLLMOpsプラットフォーム

langflow
ビジュアルでRAG・エージェントを構築するローコードツール
rea
Reverse engineer anything with agents, from app behavior down to native binaries.

langchain
LLMアプリ開発の定番フレームワーク

llama.cpp
ローカルLLM実行の基盤となるC++実装

Codex CLI
Lightweight coding agent that runs in your terminal

graphify
コードを問い合わせ可能なナレッジグラフ化するAIコーディング支援

caveman
原始人風プロンプトでトークンを65%削減するClaude Codeスキル
agent-skills
Production-grade engineering skills for AI coding agents.
Agent-Reach
Give your AI agent eyes to see the entire internet. Read & search Twitter, Reddit, YouTube, GitHub, Bilibili, XiaoHongShu — one CLI, zero API fees.
awesome-mcp-servers
A collection of MCP servers.

vllm
高スループットなLLM推論エンジン

ragflow
深い文書理解に基づくRAGエンジン
Scrapling
🕷️ An adaptive Web Scraping framework that handles everything from a single request to a full-scale crawl! Don't be shy, join here: https://discord.gg/EMgGbDceNQ and follow here for daily tips and tricks: https://x.com/Scrapling_dev
crawl4ai
Open-source web crawler and scraper for LLMs and AI agents: any website into clean, LLM-ready Markdown. Run it yourself, or use Crawl4AI Cloud with one key.

unsloth
LLMファインチューニングを2倍高速化
OmniRoute
Never stop coding. Free MIT AI gateway: one endpoint, 359 providers (150+ free), 1200+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by hundreds of contributors

LlamaFactory
100以上のLLMを簡単にファインチューニング

headroom
ツール出力やログをLLM投入前に圧縮(60-95%削減)

strix
アプリの脆弱性を発見・修正するオープンソースAIハッカー

daily_stock_analysis
多市場対応のLLM駆動株式分析・通知システム

context7
LLM・AIエディタに最新のコードドキュメントを供給

TrendRadar
多プラットフォーム横断でトレンドを監視するAI世論モニター

litellm
100以上のLLM APIを統一インターフェースで呼び出す

mempalace
ベンチマーク最高水準のオープンソースAIメモリシステム

Flowise
ドラッグ&ドロップでLLMフローを構築

llama_index
RAG構築のためのデータフレームワーク

LocalAI
GPU不要であらゆるモデルを動かすオープンソースAIエンジン

JeecgBoot
ローコード+ゼロコード+AIでシステムを高速開発

exo
手持ちデバイスでAIクラスタを構築

milvus
スケーラブルなベクトルデータベース

ray
分散ランタイムとAIライブラリ群を備えたAI計算エンジン

CodeWhale
コミュニティ主導のオープンソースエージェントハーネス

LightRAG
シンプルで高速な検索拡張生成(RAG)フレームワーク

minds
ナレッジワーカー向けの自社管理できる汎用AI(MindsDB)

langextract
LLMで非構造テキストから構造化情報を抽出するPythonライブラリ

CopilotKit
エージェント・生成UIを組み込むフロントエンドスタック(React等)

llmfit
自分のハードで動くモデルを1コマンドで探す

prompt-optimizer
より良いプロンプトに最適化するAIツール
airllm
AirLLM 70B inference with single 4GB GPU

sglang
大規模・マルチモーダルモデル向けの高性能サービング基盤

graphrag
ナレッジグラフを活用するMicrosoft製RAG

continue
CIで強制できるソース管理型のAIコードチェック(Continue CLI)

langfuse
LLMアプリの観測・分析プラットフォーム

qdrant
Rust製の高性能ベクトル検索エンジン

SillyTavern
上級者向けのLLMチャットフロントエンド

Scrapegraph-ai
AIベースのPythonスクレイパー

graphiti
AIエージェント向けのリアルタイム・ナレッジグラフ構築

openai-agents-python
マルチエージェント・ワークフロー用の軽量フレームワーク(OpenAI)

gitleaks
ソースから漏洩した秘密情報を検出するツール

FastGPT
LLMベースのナレッジプラットフォーム(RAG)

Hands-On-Large-Language-Models
O'Reilly書籍『Hands-On LLM』の公式コード

chroma
AIアプリ向けの埋め込みデータベース

mastra
AIアプリ構築フレームワーク(Gatsbyチーム製)

Qwen Code
An open-source AI coding agent that lives in your terminal.

mlflow
エージェント・LLM・MLのオープンソースAIエンジニアリング基盤

ai
TypeScript向けのAI開発ツールキット(Vercel AI SDK)

haystack
本番運用向けLLMオーケストレーション

llamafile
1ファイルでLLMを配布・実行

promptfoo
プロンプトのテスト・評価ツール

kotaemon
文書と対話できるオープンソースのRAGツール

toon
LLM向けのトークン効率的なJSON代替記法(TOON)

opik
LLMアプリの評価・トレーシング基盤

guidance
LLMの出力を制御するプログラミング言語

weaviate
AIネイティブなベクトルデータベース

outlines
構造化出力を保証するLLMライブラリ

unstructured
あらゆる文書をLLM用データに変換

phoenix
LLMの可観測性・評価ツール
gpt-load
Self-hosted AI gateway for multi-channel, multi-credential setups — API keys and subscription accounts, scheduling, failover, request logs and usage. 自托管 AI 网关:多渠道多凭据统一接入,含密钥与订阅账号、调度容错、日志与用量。