Sealos AI Proxy 发布!一个平台调用所有大模型,再也不用到处找 API 了
2024/12/9 21:03:29
本文主要是介绍Sealos AI Proxy 发布!一个平台调用所有大模型,再也不用到处找 API 了,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
你是一位开发者,你需要调用各类 AI 模型,每次调用模型,都要在不同的平台间反复横跳,你大概会遇到以下问题:
- 获取 API Key 流程繁琐:需访问多个厂商的官网,查阅各自的使用文档,并按照规定的步骤进行注册和申请。
- 多平台支付:在调用来自不同厂商的模型时,需要在这些厂商的计费平台上进行支付。
- 缺乏集中管理:要在不同平台上管理和监控 API 使用情况。
是不是觉得特别麻烦?
这就是目前的开发者们使用 AI 模型的真实写照。
但是,如果有一个 “超级模型调用平台”,能让你在一个 App 里调用所有 AI 模型,是不是很棒?
这正是我们开发 Sealos AI Proxy 的初衷 —— 一站式 AI 模型调用解决方案,让你可以在同一个平台中轻松调用各类 AI 模型。
为什么选择 AI Proxy?
一键获取多平台 API Key
- 告别繁琐的多平台注册流程
- 仅需注册 Sealos 账号,即可获取主流 AI 模型的调用密钥
- 支持多家主流厂商的 AI 模型,持续扩充中
统一支付与计费
- 告别多平台充值的烦恼
- 使用 Sealos 余额统一结算,支持查看详细计费明细
- 透明的计费规则,按实际使用量付费
集中化管理与监控
- 在统一界面管理所有 API Key
- 实时监控各模型的调用情况
- 可以看到详细的调用日志
快速开始
AI Proxy 的使用非常简单,首先浏览器进入 Sealos 桌面,然后打开【AI Proxy】,点击【新建】按钮开始新建 Key。
创建完成后会看到 API Endpoint 和需要调用的 API Key,直接点击复制进行使用。
接下来让我们看一个具体的调用示例。以下是一段简单的 JavaScript 代码:
async function main() { const apiKey = 'sk-oci8dELRkPA0P4rM55521a399b524d75Ba3f74D1790d7656' const apiUrl = 'https://aiproxy.hzh.sealos.run/v1/chat/completions' const prompt = '蔡徐坤的故事?' const response = await fetch(apiUrl, { method: 'POST', headers: { 'Content-Type': 'application/json', 'Authorization': `Bearer ${apiKey}`}, body: JSON.stringify({ model: 'Doubao-lite-4k', messages: [ { role: 'system', content: 'You are a helpful assistant.' }, { role: 'user', content: prompt } ], max_tokens: 2048, temperature: 0.7, }), }) const data = await response.json() console.log(data.choices[0].message.content) } main()
AI Proxy 还提供了完整的调用日志和费用管理功能,在调用日志界面中,您可以实时查看每个模型的详细调用记录,包括调用时间、参数配置、响应结果等信息,方便您进行使用情况分析和问题排查。
在计费方面,AI Proxy 采用与 Sealos 平台统一的计费体系,直接使用 Sealos 余额进行结算,无需额外充值。您可以在 Sealos 费用中心一目了然地查看每个模型的具体调用费用,帮助您更好地控制成本和预算。
使用 Devbox 开发 AI 应用
下面我们来看一个完整的 AI 应用开发示例,直接使用 Sealos Devbox 和 Cursor 开发并部署一个完整的 AI 应用。
首先在 Sealos 桌面打开 Devbox,这里我选择使用 Next.js 模板创建一个新的开发环境:
Devbox 会自动为我们配置好所需的开发环境,包括 Node.js 运行时、包管理器等。我们可以选择使用 Cursor 作为开发工具。在操作选项中选择使用 Cursor 连接:
首次打开会提示安装 Devbox 插件,安装后即可自动连接开发环境。
有了开发环境,我们就可以开始构建 AI 应用了。比如,我们可以创建一个简单的 AI 虚拟女友。
怎么创建呢?当然是让 Cursor 帮我们写代码了。直接告诉它我的需求,就开始吭哧吭哧帮我们创建文件写代码了。
按下 Ctrl+I 可以打开 Composer 面板。
按下 Ctrl+L 可以打开对话面板。
如果你觉得不满意,还可以让 Cursor 继续优化代码。最终开发完成后还需要打开 Cursor 终端安装一下依赖:
npm install
然后通过 npm run dev
启动开发服务器。
现在回到 Devbox 界面,进入开发环境的详情页面:
点击外网地址即可打开应用。
这是个公网地址哦,团队成员可以直接通过这个链接访问和预览应用,非常有利于团队协作和开发调试。
来看看最终的效果:
大家如果对这个 “女神苏苏” 项目比较感兴趣,可以在评论区留言,如果留言数量足够多,我会单独写一篇教程详细介绍这个项目的开发过程 😁
总结
Sealos AI Proxy 为我们提供了稳定可靠的 AI 模型调用服务,支持各厂商的主流大模型,并提供统一的 API 接口。通过 AI Proxy,我们可以轻松实现 AI 应用所需的各种功能,无需担心模型调用的稳定性和成本问题。
而 Sealos Devbox 则为我们提供了一个完整的云开发环境,从代码编写到应用部署,一站式解决方案让开发者可以专注于业务逻辑的实现,不用再为环境配置而苦恼。
Sealos Devbox + AI Proxy 就是王炸,AI Proxy 解决了统一模型调用的难题,而 Devbox 则让开发部署变得轻而易举。
这篇关于Sealos AI Proxy 发布!一个平台调用所有大模型,再也不用到处找 API 了的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-12-22程序员出海做 AI 工具:如何用 similarweb 找到最佳流量渠道?
- 2024-12-20自建AI入门:生成模型介绍——GAN和VAE浅析
- 2024-12-20游戏引擎的进化史——从手工编码到超真实画面和人工智能
- 2024-12-20利用大型语言模型构建文本中的知识图谱:从文本到结构化数据的转换指南
- 2024-12-20揭秘百年人工智能:从深度学习到可解释AI
- 2024-12-20复杂RAG(检索增强生成)的入门介绍
- 2024-12-20基于大型语言模型的积木堆叠任务研究
- 2024-12-20从原型到生产:提升大型语言模型准确性的实战经验
- 2024-12-20啥是大模型1
- 2024-12-20英特尔的 Lunar Lake 计划:一场未竟的承诺