AI 助理
文档备案控制台
阿里云 全部技术解决方案

基于AI网关私网访问阿里云百炼模型实践

相关产品

相关推荐

互联网行业高弹性系统构建

在互联网行业的业务发展中，很多业务具有突发性特点。 例如互联网电商的秒杀、促销等活动，这类业务的特点是时间固定，但访问量不固定。除了提前升级配置之外，客户往往希望系统本身也能有自动弹性伸缩的能力。 对于互联网教育的场景，由于存在放假和工作日的区别，系统也需要有一定的弹性伸缩能力去应对高出平时几倍的压力，等访问减少时，业务系统能释放冗余的资源达到节约成本的目标。 典型场景和需求： 业务系统波动大，以互联网行业为典型代表； 业务系统和数据库系统都要能实现弹性伸缩； 系统可用性高，弹性收缩用户感知小； 支持手工快速提升系统和数据库性能。
专有网络 VPC 云服务器ECS 云数据库RDS MySQL 版 负载均衡 SLB 弹性公网IP 云数据库 Redis 版 弹性伸缩 云速搭CADT

探索阿里云产品，构建云上应用和服务

免费试用

相关产品

相关推荐

专有网络 VPC

帮助您基于阿里云构建出一个隔离的网络环境，并可以自定义IP 地址范围、网段、路由表和网关等；此外，也可以通过专线/VPN/GRE等连接方式实现云上VPC与传统IDC的互联，构建混合云业务。

API网关

API 网关（API Gateway），提供API托管服务，涵盖API发布、管理、运维、售卖的全生命周期管理。辅助用户简单、快速、低成本、低风险的实现微服务聚合、前后端分离、系统集成，向合作伙伴、开发者开放功能和数据。

私网连接

私网连接（PrivateLink）能够实现专有网络VPC与阿里云上的服务建立安全稳定的私有连接，简化网络架构，实现私网访问服务，避免通过公网访问服务带来的潜在安全风险。
通过私网访问云服务

一般情况下，部署在阿里云VPC A内的服务提供方需要暴露公网访问入口，而VPC B内的服务使用方则通过公网路径访问VPC A内的服务提供方。但公网访问方式容易受到攻击，存在安全隐患，且网络质量和时延无法得到可靠保障。若服务提供方和服务使用方所在的VPC存在地址冲突也无法通过云企业网进行私网互联通信。
云解析 PrivateZone 私网连接
电商网站智能推荐

电商网站向用户推荐带有商品属性物品以促进交易，提升购买率和转化率
云服务器ECS 云数据库RDS MySQL 版 日志服务（SLS） 大数据计算服务 MaxCompute 智能推荐 云速搭CADT
Oracle RAC云上部署最佳实践

自建裸金属实例搭建 Oracle RAC 架构迁 移上云，提供高并发，高吞吐，高安全等 特性，适用于金融，电力，电信，制造业 等传统客户的核心交易系统。
块存储 专有网络 VPC 弹性公网IP 弹性裸金属服务器（神龙） 云速搭CADT
GPU AI模型训练

本方案适用于AI图片训练场景，使用NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。
对象存储 OSS 文件存储NAS 容器服务 ACK 文件存储 CPFS GPU云服务器 云速搭CADT
服务器迁移

使用阿里云提供的迁移工具将物理服务器、虚拟机以及其他云平台云主机一站式地迁移到阿里云ECS
专有网络 VPC 云服务器ECS 服务器迁移中心 云速搭CADT
游戏出海加速

使用阿里云全球加速(GA)以及CDN进行游戏出海网络加速以及游戏内容分发加速
专有网络 VPC 云服务器ECS 弹性公网IP CDN 全球加速 云速搭CADT
基于PAI搭建企业级个性化推荐系统

快速从0到1实现一套高效、精准、易用、可扩展的企业级个性化推荐系统。
专有网络 VPC 云服务器ECS 对象存储 OSS 日志服务（SLS） 云数据库 Redis 版 容器镜像服务 ACR 大数据计算服务 MaxCompute 数据总线 机器学习PAI Hologres 云速搭CADT 机器学习PAI-EAS 推荐全链路深度定制开发平台
互联网行业高弹性系统构建

在互联网行业的业务发展中，很多业务具有突发性特点。 例如互联网电商的秒杀、促销等活动，这类业务的特点是时间固定，但访问量不固定。除了提前升级配置之外，客户往往希望系统本身也能有自动弹性伸缩的能力。 对于互联网教育的场景，由于存在放假和工作日的区别，系统也需要有一定的弹性伸缩能力去应对高出平时几倍的压力，等访问减少时，业务系统能释放冗余的资源达到节约成本的目标。 典型场景和需求： 业务系统波动大，以互联网行业为典型代表； 业务系统和数据库系统都要能实现弹性伸缩； 系统可用性高，弹性收缩用户感知小； 支持手工快速提升系统和数据库性能。
专有网络 VPC 云服务器ECS 云数据库RDS MySQL 版 负载均衡 SLB 弹性公网IP 云数据库 Redis 版 弹性伸缩 云速搭CADT
数据库运维安全管理

通过数据管理DMS产品，对不同用户进行数据库、表、字段级别的细粒度授权，保障数据库运维安全。
专有网络 VPC 访问控制 数据管理 云数据库PolarDB 云速搭CADT

探索阿里云产品，构建云上应用和服务

免费试用

温馨提示

抱歉，登录前您只能看到8页哦。立刻登录，浏览全部技术解决方案最佳实践案例内容！

如果您是企业账号，可以生成子账号授权访问。

BpFile(id=538, bpId=404, name=基于AI网关私网访问阿里云百炼模型实践, author=null, keyword=百炼,AI网关,私网访问, description=当大模型调用从单点 PoC 进入多团队生产环境，架构上需要回答几个绕不开的问题： -调用链路是否满足数据不出域的合规要求 -token 消耗能否按业务维度归因和设置预算水位 -模型版本升级时，爆炸半径如何控制在不影响存量业务的范围内 推荐实践方案是在 AI 网关层收敛这些关键内容：通过私网链路接入百炼，在网关统一处理鉴权、流量路由、用量计量和可观测。业务应用只需对接网关，不感知底层 endpoint 和凭证轮转，模型灰度、多模型调度、限流及安全策略等均在策略层完成，应用代码不动。, position=null, ossUrl=bp-1ZRTI6TRJX7DP40I.pdf, tags=null, level=null, tagList=null, products=null, productList=null, hotspot=null, oneClick=1, createTime=null, modifiedTime=null, timeConsuming=null, status=1, pdfDescription=

当大模型调用从单点 PoC 进入多团队生产环境，架构上需要回答几个绕不开的问题：

-调用链路是否满足数据不出域的合规要求

-token 消耗能否按业务维度归因和设置预算水位

-模型版本升级时，爆炸半径如何控制在不影响存量业务的范围内

推荐实践方案是在 AI 网关层收敛这些关键内容：通过私网链路接入百炼，在网关统一处理鉴权、流量路由、用量计量和可观测。业务应用只需对接网关，不感知底层 endpoint 和凭证轮转，模型灰度、多模型调度、限流及安全策略等均在策略层完成，应用代码不动。

, templateId=OZ9DJG125QQV0ELS, freetry=, visitTime=null, visitCount=null, video_url=, buttonName=null, buttonUrl=null, targetId=OZ9DJG125QQV0ELS, partner=, partnerUrl=, partnerLogo=, cooperation=, cooperationList=null)