LocalAI 部署(主要针对 mac m2 启动)
是免费的开源 OpenAI 替代方案。LocalAI 充当 REST API 的直接替代品,与本地推理的 OpenAI API 规范兼容。它无需 GPU,还有多种集成,允许您使用消费级硬件在本地或本地运行 LLM、生成图像、音频等等,支持多个模型系列。
是免费的开源 OpenAI 替代方案。LocalAI 充当 REST API 的直接替代品,与本地推理的 OpenAI API 规范兼容。它无需 GPU,还有多种集成,允许您使用消费级硬件在本地或本地运行 LLM、生成图像、音频等等,支持多个模型系列。