exo
LLM開発ツール手持ちデバイスでAIクラスタを構築
exoは、手持ちの複数デバイスを束ねて一つのAIクラスタを構築し、大規模なAIモデルをローカルで実行できるオープンソースソフトウェアです。iPhone、iPad、Mac、Linux PCなど性能の異なるデバイスを自動で発見・接続し、モデルを各デバイスのメモリ量に応じて分割して実行するため、単体では載りきらない大きなモデルも家庭やオフィスにある機器の組み合わせで動かせます。専用のマスターノードを必要としないP2P型のアーキテクチャも特徴です。高価なGPUサーバーを買わずに大型のオープンモデルを試したい開発者・研究者や、データを外部に出さずにフロンティア級のAIをローカル運用したい組織に向いています。Apache-2.0ライセンスで、GitHubスター数4.5万超の注目プロジェクトです。
コメント（0）
コメントするにはログインしてください。
同じカテゴリのOSS
hermes-agent
ユーザーと共に成長するAIエージェント（Nous Research製）
OpenCode
The open source coding agent.
firecrawl
WebをLLM向けに検索・スクレイピングするAPI
transformers
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
ponytail
Makes your AI agent think like the laziest senior dev in the room. The best code is the code you never wrote.
dify
ノーコードでAIアプリを構築できるLLMOpsプラットフォーム