导览

Oracle近期宣布了其与知名AI平台Cohere的合作成果——Oracle云基础设施远程软件服务（Oracle Cloud Infrastructure, OCI）生成式AI服务。这项创新的服务旨在通过大型语言模型（LLM）支持，帮助企业实现从端到端的业务流程自动化，显著提升决策效率与客户体验，同时确保数据安全与隐私。

新服务概览

OCI生成式AI服务作为托管服务，允许用户通过API将LLM集成至自有应用之中。在正式上线后，该服务将与AI矢量搜索无缝兼容，后者是Oracle数据库23c的一部分，提供增强生成（RAG）技术。RAG技术结合预训练的LLM与企业专属数据，旨在提高响应的准确性。此外，该服务将为Oracle SaaS应用套件，包括Oracle Fusion Cloud Applications Suite、Oracle NetSuite和Oracle Cerner等行业应用中的生成式AI功能打下坚实基础。

Oracle执行副总裁Clay Magouyrk指出：“Oracle凭借其深厚的行业知识，能够为组织设计生成式AI服务，助力实现流程自动化、智能决策及优化客户体验。通过与Cohere的合作，客户能够轻松、安全地在其技术架构中集成生成式AI，同时确信我们的解决方案符合严格的数据安全与隐私标准。这一策略使组织得以利用自身数据优化模型，以适应内部运营需求。”

成本效益与安全性

OCI以其经济、安全且高效的AI基础设施著称，让客户能够在AI超级集群架构的专用基础设施中运行工作负载，实现自定义的成本与吞吐量需求。这包括使用客户自有数据进行模型优化或部署定制模型。

模型介绍

服务包括三种模型：

• Command：接收用户提示生成文本，提供高度定制化的文本生成、摘要、RAG和聊天功能。
• Summarize：对文本进行抽象概括，支持根据特定用例调整参数，如法务团队汇总复杂文档、客服代表汇总技术支持文档或员工汇总冗长邮件。
• Embed：将文本转换为数值向量，提供多语言模型（覆盖100多种语言）支持，适用于语义搜索、文本分类、RAG搜索引擎及老旧搜索改进。

企业合作伙伴反馈

Altair首席技术官Sam Mahalingam表示：“Oracle与Altair紧密合作，将大型语言模型整合进我们的解决方案中，这将彻底改变我们的工作方式。生成式AI使得客户能够以自然语言形式描述所需结果，而LLM则自动生成解决方案。在数据分析领域，无需编写代码，只需提出预测需求；在工程设计领域，则可通过描述产品特性，由模型完成设计任务。”

Oracle AI服务升级

除了推出OCI生成式AI服务外，OracleAI还将在多个限量发布计划中为现有服务增添新功能，如：

• Oracle数字助手：新增生成式AI功能，集成LLM和其他生成功能，加速数字助手的构建过程，同时提升开发效率。
• OCI医疗语言NLP：通过自然语言处理（NLP），增强医疗信息洞察力，新功能有助于识别各类记录中的医学术语、关系和实体。
• OCI语言文档翻译体验：支持多种格式（Word、PPT、HTML、JSON、Excel）的文档翻译，确保内容一致性和完整性。
• OCI视觉：引入面部检测功能，识别图像中的人脸和面部特征，拓展OCI视觉应用范围。
• OCI语音：添加声纹分割聚类功能，嵌入说话人信息于音频转录内容，优化对话组织与信息提取。
• OCI数据科学：引入Feature Store，作为数据科学团队开发功能的集中存储库，简化功能记录、共享、存储与提供的流程。

行业分析师评价

Marc Staimer，Wikibon高级分析师，对OCI生成式AI服务给予了高度评价，认为其为企业提供了企业级安全、灵活性与用户定制选项，满足市场需求。服务提供严格的安全与治理措施，保护客户专有数据，确保仅限客户访问与使用。此外，客户能够自定义AI超级集群基础设施，对模型进行微调或部署个性化模型，同时满足特定成本与吞吐量需求。这标志着企业功能与成本性能的完美融合。