LocalAI 是开源的本地 AI 推理框架，提供完整的本地化 AI 解决方案，支持多模态模型（如文本生成、图像生成、语音处理等），兼容 OpenAI API。强调隐私保护，所有数据处理均在本地完成，不会上传到云端。LocalAI 支持多种硬件配置，包括仅使用 CPU 的场景，也兼容 NVIDIA、AMD 和 Intel 的 GPU。支持多种模型格式，如 GGML、GGUF 和 GPTQ 等，提供灵活的部署选项。LocalAI 还包括 LocalAGI 和 LocalRecall 等组件，分别用于自主 AI 代理和语义搜索。多模态能力使其适用于需要多种 AI 功能的项目。
运行任何模型- llm，视觉，语音，图像，视频-在任何硬件上