Oracle 云基础设施 (OCI)

与 Oracle 云基础设施相关的 LangChain 集成。

LLMs

Oracle 云基础设施 (OCI) 生成式人工智能是一项完全托管的服务，提供一组最先进、可定制的大型语言模型 (LLMs)，涵盖了各种用例，并通过一个单一的 API 提供。使用 OCI 生成式人工智能服务，您可以访问预训练模型，或基于自己的数据在专用 AI 集群上创建和托管自定义模型。

要使用此功能，您需要安装最新的 oci Python SDK。

pip install -U oci

from langchain_community.llms import OCIGenAI

OCI 数据科学是一个完全托管且无服务器的数据科学平台。使用 OCI 数据科学平台，您可以构建、训练和管理机器学习模型，然后使用 OCI 数据科学模型部署服务将其部署为 OCI 模型部署端点。

如果您使用 VLLM 或 TGI 框架部署了 LLM，您可以使用 OCIModelDeploymentVLLM 或 OCIModelDeploymentTGI 类与其进行交互。

要使用此功能，您需要安装最新的 oracle-ads Python SDK。

pip install -U oracle-ads

from langchain_community.llms import OCIModelDeploymentVLLM
from langchain_community.llms import OCIModelDeploymentTGI

from langchain_community.embeddings import OCIGenAIEmbeddings