vLLM
制作: vLLM Project
自分の言語モデルを高速APIとして提供
自前のAIインフラを運用するための、高スループットなLLMサービングエンジン。
検証済みの配布元github.com/vllm-project/vllmライセンス:Apache-2.0検証 昨日GitHubの各リリースにSHA-256チェックサムがあります。
自分で設定せず、導入を任せる:OROBOに導入を依頼まずはAIコンパス:書面の評価、固定価格490ユーロ(法人のみ)。
ご利用イメージ
シミュレーション開始…
イメージ図(実際の実行ではありません)
得られるもの
得られるもの
- 01多数のリクエストを高スループットで処理
- 02OpenAI互換APIで既存クライアントが使える
- 03Hugging Faceのオープンモデルを直接読み込み
こんな方に
- 自社GPUでオープンモデルを動かすチーム
- 独自のAI APIを立てたい開発者
別のものが合うのは
- ノートPCやMacで試すだけならOllamaかllama.cppへ
始め方
3ステップで。
必要なもの
- Linux
- 高性能なGPU
- Pythonの知識
- サーバー運用の経験
- 1GPU搭載のLinuxで
pip install vllmを実行 - 2
vllm serve <モデルID>でサーバーを起動 - 3localhost:8000のOpenAI互換APIにリクエスト
安全チェック
5項目中4項目に合格
インストール手順に既知の悪性パターンなし継続的に更新ライセンス:Apache-2.0
誰が作っている？
- OROBOが公式情報から掲載。制作者はまだOROBOに参加していません。
コードは安全？
- ソースコード公開
- ライセンス:Apache-2.0
- インストール手順に既知の悪性パターンなし
更新されている？
- サイトは到達可能 — ただし自動検証を受け付けません(危険の兆候ではありません)
- 本日更新
技術的な詳細と検証しない項目
出所、コードのパターン、ライセンス、更新状況、到達性を毎日自動で検証します。用途への適合性、データの扱い、動作の正確さは検証しません。 最終検証 昨日. OROBOの検証方法
同じ目的の代替
Transformers自分で作る · Hugging Face数行のコードで数千のオープンモデルオープンソース信頼 高い、100オフライン可LangChain自分で作る · LangChainモデル・ツール・データをつなぐAIアプリオープンソース信頼 高い、97開発者向けAI SDK自分で作る · Vercel少ないコードでWebアプリにAI機能をオープンソース信頼 高い、97開発者向けReplitすぐ使える · Replitアプリを説明すれば、Replitが作って公開します無料版あり信頼 高い、100v0すぐ使える · VercelチャットひとつでWebアプリの設計から公開まで無料版あり信頼 高い、100開発者向けChat SDK自動化する · Vercel完成した土台で、自分のチャットアプリをオープンソース信頼 高い、97開発者向けBoltすぐ使える · StackBlitzブラウザでプロンプトからサイトやアプリを作成無料版あり信頼 高い、94Lovableすぐ使える · Lovableアイデアがそのまま動くWebアプリになります無料版あり検証は限定的・2項目企業向け
基本情報
| エリア | 自分で作る |
|---|---|
| 価格 | オープンソース |
| ライセンス | Apache-2.0 |
| 対応環境 | Linux |
| 開発者の人気 | ★ 9.6万 GitHub |
| 最終更新 | 2026年11月04日 |
| ソース | vllm-project/vllm ↗ |
| ウェブサイト | docs.vllm.ai ↗ |