Skip to content

[Proposal] AIGC的私有化部署

Background

有比较大的客户(用户数>1000)考虑到安全等因素,想要将AIGC相关的功能私有化部署到对应的内部网络中。目前来说很多LLM提供商都是SaaS部署,但是我们不排除后续会有愿意私有化部署的提供商。

Proposal

  1. 需要调研相关成本。
  2. 需要找到愿意做私有化部署的公司。同时该公司应该提供简单易集成的部署方式。

表现形式

  • 功能与SaaS的AIGC功能相同
  • LLM模型应部署在客户内部环境

优点

  • 提高代码的安全性