分类
推理
No field note has been filed yet.
Catalog matches
Products with this tag
BentoML
open_source
统一推理平台,用于部署和扩展AI模型,具有生产级可靠性。
View ↗Cloudflare AI Models Catalog
service
托管的217+第三方及Cloudflare AI模型推理目录。
View ↗Cloudflare Workers AI Models
service
可在 Cloudflare Workers AI 上运行的 217 个第三方 AI 模型目录。
View ↗Modal
saas
用于运行和部署机器学习工作负载的无服务器GPU云平台。
View ↗Modal Endpoints
service
在Modal托管基础设施上一键部署生产级LLM推理端点。
View ↗ONNX Backend API
api
ONNX后端抽象,支持设备执行和测试工具。
View ↗ONNX Runtime
runtime
ONNX Runtime 是一个跨平台的 ONNX 模型推理引擎,支持 Python API。
View ↗Roboflow Inference
open_source
开源推理引擎,通过Docker服务器在本地运行Roboflow模型,支持HTTP或Python SDK访问。
View ↗Workers AI
service
在Cloudflare全球网络上运行机器学习模型的无服务器GPU推理服务。
View ↗