🧠 LLM開発ツールのOSS
74件のオープンソースソフトウェア

langfuse
LLMアプリの観測・分析プラットフォーム

qdrant
Rust製の高性能ベクトル検索エンジン

SillyTavern
上級者向けのLLMチャットフロントエンド

Scrapegraph-ai
AIベースのPythonスクレイパー

graphiti
AIエージェント向けのリアルタイム・ナレッジグラフ構築

openai-agents-python
マルチエージェント・ワークフロー用の軽量フレームワーク(OpenAI)

gitleaks
ソースから漏洩した秘密情報を検出するツール

FastGPT
LLMベースのナレッジプラットフォーム(RAG)

Hands-On-Large-Language-Models
O'Reilly書籍『Hands-On LLM』の公式コード

chroma
AIアプリ向けの埋め込みデータベース

mastra
AIアプリ構築フレームワーク(Gatsbyチーム製)

Qwen Code
An open-source AI coding agent that lives in your terminal.

mlflow
エージェント・LLM・MLのオープンソースAIエンジニアリング基盤

ai
TypeScript向けのAI開発ツールキット(Vercel AI SDK)

haystack
本番運用向けLLMオーケストレーション

llamafile
1ファイルでLLMを配布・実行

promptfoo
プロンプトのテスト・評価ツール

kotaemon
文書と対話できるオープンソースのRAGツール

toon
LLM向けのトークン効率的なJSON代替記法(TOON)

opik
LLMアプリの評価・トレーシング基盤

guidance
LLMの出力を制御するプログラミング言語

weaviate
AIネイティブなベクトルデータベース

outlines
構造化出力を保証するLLMライブラリ

unstructured
あらゆる文書をLLM用データに変換

phoenix
LLMの可観測性・評価ツール
gpt-load
Self-hosted AI gateway for multi-channel, multi-credential setups — API keys and subscription accounts, scheduling, failover, request logs and usage. 自托管 AI 网关:多渠道多凭据统一接入,含密钥与订阅账号、调度容错、日志与用量。