最新技巧:一键申请任意大模型API,支持国内信用卡,彻底解决大模型API难题!

AI学长小林
7 Apr 202414:58

Summary

TLDRIn this informative video, the host introduces 'openrouter', an API aggregator designed to simplify the use of various international AI models for users in China. By providing a unified API interface and key management, openrouter overcomes challenges like account security, network issues, and the complexity of managing multiple APIs. It supports a wide range of models, including GPT 3.5, 4.0, and Claude, and offers advantages such as direct connection, ease of use, and compatibility with popular applications. The platform also allows for multiple keys per account, setting usage limits, and supports payment methods like Visa and cryptocurrencies, making it a cost-effective solution for developers and teams.

Takeaways

  • 🌐 Introducing OpenRouter, an AI aggregator platform that simplifies the use of various foreign large-scale AI model APIs.
  • 🔒 Addressing security concerns, OpenRouter eliminates the need for foreign phone numbers and credit cards, reducing account risks associated with using APIs like ChatGPT or Claude.
  • 🌐️ Direct connectivity through OpenRouter means no need for proxies or intermediaries, solving network-related issues.
  • 🚀 OpenRouter offers a highly convenient one-API solution to access multiple AI models, lowering management, development, and switching costs.
  • 💡 Compatibility is ensured as OpenRouter's API structure mirrors that of OpenAI, allowing easy integration with most mainstream applications.
  • 🔑 Multi-user account capability allows for the creation of multiple keys under one account, with individual usage limits.
  • 💳 Payment options include domestic Visa cards and cryptocurrency, reducing the barriers for payment and充值 costs.
  • 💰 Lower prepaid costs through OpenRouter, as it requires a single prepaid payment to access various AI models, unlike multiple platforms.
  • 📈 Consistent pricing with official models, with only a small additional fee for credit card transactions and a 5% fee for cryptocurrency.
  • 🎁 OpenRouter provides some free AI model APIs, such as Mistral 7B, for basic services without extra charges.
  • 🛠️ Demonstration of how to apply for the platform's API, integrate it into applications, and switch between different models for varied functionalities.

Q & A

  • What is the main problem addressed by the AI aggregator mentioned in the video?

    -The AI aggregator addresses the difficulties faced by individuals and small development teams in China when using foreign large model APIs, such as the need for a foreign phone number, credit card, account security issues, network problems, token rate limits, and the challenges of managing and switching between different APIs.

  • How does the AI aggregator 'openrouter' simplify the process of using multiple APIs?

    -'openrouter' simplifies the process by providing a unified API interface and a single key that allows users to access and switch between various foreign large models without the need to apply for each API individually, thus reducing management, development, and switching costs.

  • What are the advantages of using 'openrouter' in terms of account security?

    -Using 'openrouter' for API access eliminates the account security issues associated with using virtual cards to bind accounts when calling APIs like OpenAI or Claude directly, which can lead to account closures if the official policies tighten.

  • How does 'openrouter' address network connectivity issues?

    -'openrouter' allows for a direct connection without the need for proxies or intermediaries in the API interface, resolving network connectivity issues that users might face when using APIs directly from abroad.

  • What types of models are supported by 'openrouter'?

    -'openrouter' supports a variety of models including GPT-3.5, GPT-4.0, Turbo, Vision, 16K from Open AI, Claude, Llama2, and Google Gemma, covering both open-source and proprietary models.

  • How does 'openrouter' facilitate the payment process for users in China?

    -'openrouter' allows users to pay using domestic Visa cards directly, eliminating the need for virtual credit cards and reducing the payment threshold. It also supports cryptocurrency payments, saving on recharge costs.

  • What is the cost structure like for using 'openrouter'?

    -The cost structure for 'openrouter' includes a one-time prepayment in the platform, after which users can access various large model APIs. The input and output costs per token are the same as the official rates, with an additional transaction fee during recharge: 5% for credit cards and a fixed $0.35 per transaction for each amount, and a 5% fee for cryptocurrency recharges.

  • How does 'openrouter' support team usage?

    -'openrouter' allows a single account to create multiple keys and set usage limits for each key, making it convenient for team management and control over API usage.

  • What is the process for applying for an API key on 'openrouter'?

    -To apply for an API key on 'openrouter', users need to visit the platform's website, go to the settings, click on the points button, and then create a key. Users can set a name for the key and specify a usage limit. Once created, the key can be copied and used in applications.

  • How can 'openrouter' be integrated into existing applications?

    -Integration is done by filling in the 'openrouter' API address and the API key into the application's settings. Depending on the application, users might also be able to select the desired model or even customize the model name.

  • What are the benefits of using 'openrouter' for developers?

    -For developers, 'openrouter' offers the convenience of using a single key to access multiple large models,降低了开发和维护成本, and provides a unified API interface structure that is compatible with OpenAI, making it easier to integrate with existing applications and tools.

  • Does 'openrouter' provide any free models for users to utilize?

    -Yes, 'openrouter' offers some free models with the 'free' label, such as Mistral 7B, which can be used for basic services like translation without incurring any charges.

Outlines

00:00

🤖 Introduction to AI Aggregator - OpenRouter

This paragraph introduces the audience to an AI aggregator tool called OpenRouter, which addresses the challenges faced by users in China when trying to access and utilize foreign AI model APIs. It highlights the difficulties such as the need for foreign phone numbers and credit cards, account security, network issues, token rate limits, and the complexity of managing and switching between different APIs. The speaker, Xiao Lin, emphasizes that OpenRouter offers a solution for these problems, allowing for a smooth and convenient experience in using various foreign AI APIs within China.

05:01

🔐 Advantages and Features of OpenRouter

In this paragraph, the speaker discusses the advantages of using OpenRouter, including account security, direct connectivity without the need for proxies, ease of use with a single API key for multiple models, and compatibility with mainstream applications. It also covers the platform's ability to support multiple users under one account, the convenience of payment options including Visa cards and cryptocurrencies, and the lower prepaid costs compared to using individual platforms. Additionally, the speaker mentions that OpenRouter provides some free, open-source AI model APIs for simple services without charging fees.

10:03

🛠️ Applying for OpenRouter API and Integration Tutorial

The speaker provides a step-by-step guide on how to apply for the OpenRouter API and integrate it into applications. It begins with a demonstration of the OpenRouter playground for interactive model selection and dialogue. The speaker then walks through the process of充值 (recharging), applying for an API key, and setting up usage limits. The paragraph concludes with examples of how to use the API key in various applications, such as lobechat, Chat Next Web, and an immersive translation plugin, showcasing the ease of switching between different AI models and monitoring usage details.

Mindmap

Keywords

💡AI聚合器

An AI aggregator is a platform that consolidates various AI services and tools into one interface, making it easier for users to access and manage multiple AI functionalities. In the context of the video, the AI aggregator referred to is OpenRouter, which solves the difficulty of using multiple foreign AI model APIs by providing a unified API interface and key for users in China.

💡API

API stands for Application Programming Interface, which is a set of rules and protocols for building and interacting with software applications. In the video, the focus is on using APIs from AI models like ChatGPT and Claude, which are typically accessed through foreign platforms requiring specific conditions like foreign phone numbers and credit cards.

💡账户安全

Account security refers to the measures taken to protect user accounts from unauthorized access, fraud, or other security threats. In the context of the video, account security is a concern for users in China accessing foreign AI platforms, as they often rely on virtual cards and indirect methods, which can be risky if the platform's policies change.

💡网络问题

Network issues refer to problems that can occur with internet connectivity or stability, affecting the performance of online services. In the video, network problems are highlighted as a challenge when using foreign AI APIs from China, where direct connections may not be possible without proxies or intermediaries.

💡Token速率限制

Token rate limiting refers to the restriction on the number of tokens that can be processed by an API within a certain time frame. Tokens are units of text input or output in AI models, and rate limiting can affect the speed and efficiency of using these models. In the video, this is presented as a potential issue when using AI APIs, but OpenRouter is suggested to mitigate such limitations.

💡支付问题

Payment issues refer to the challenges and difficulties encountered when making transactions, such as using foreign credit cards for international services. In the video, payment problems are a concern for users in China who want to access foreign AI services, which often require foreign payment methods.

💡预付成本

Prepayment cost refers to the initial amount of money that must be deposited before services can be used. In the context of AI model APIs, this is the amount users must pay upfront to access the services, which can vary depending on the platform and the amount of usage anticipated.

💡使用成本

Usage cost refers to the expenses incurred for actually utilizing a service or resource. In the context of AI model APIs, this is the cost per token of input or output, which can add up depending on the amount of interaction with the AI model.

💡兼容性

Compatibility refers to the ability of different systems, devices, or applications to work together or operate in conjunction without issues. In the video, compatibility is important for the API interface provided by OpenRouter, which is designed to work seamlessly with existing applications and tools that were built around OpenAI's structure.

💡多人使用

Multi-user usage refers to the capability of a platform or service to be accessed and utilized by multiple individuals simultaneously. In the video, OpenRouter's ability to support multi-user access is highlighted as a key feature, allowing a single account to create multiple keys for different users with individual usage limits.

💡免费API

Free APIs are services that are provided without any cost to the user. In the context of the video, OpenRouter offers some AI model APIs for free, which can be utilized for basic services without incurring any charges.

Highlights

AI学长的频道介绍了一个实用的AI聚合器openrouter,解决了使用国外主流大模型API的困难。

使用国外API需要国外手机号和信用卡,而openrouter提供了解决方案。

openrouter支持主流开源和闭源模型,简化了API管理和切换。

通过openrouter,用户可以避免账户安全问题和网络问题。

openrouter提供了一个统一的API接口,方便用户直接调用各种大模型。

openrouter的API接口结构与OpenAI相同,保证了良好的兼容性。

openrouter支持一键接入主流套壳应用,如Web UI、桌面端应用和浏览器插件。

openrouter允许一个账号多人使用,并可为每个key设置使用额度。

openrouter支持Visa卡和加密货币支付,降低了支付门槛。

通过openrouter预付费,可以降低资金沉淀成本。

openrouter提供与官方一致的使用成本,充值时只收取手续费。

openrouter还提供免费的大模型API,如Mistral 7B。

演示了如何在官网申请API和创建key,并设置使用额度。

展示了如何将openrouter的key绑定到应用中,并切换使用不同的大模型。

介绍了如何在lobechat、Chat Next Web和沉浸式翻译插件中使用openrouter的API。

通过openrouter,用户可以在国内顺畅地使用国外大模型API。

openrouter类似于Poe平台,但专注于解决API调用问题。

视频提供了解决方案,帮助用户克服使用国外API的挑战。

Transcripts

00:00

你好

00:01

欢迎来到AI学长的频道

00:02

我是小林

00:03

这期视频

00:04

给大家分享一个非常实用的AI聚合器

00:07

它完美的解决了

00:08

使用所有国外主流

00:10

大模型API困难的问题

00:12

比如当你要用ChatGPT

00:13

或者Claude API的时候

00:15

就必须要有国外的手机号

00:17

以及国外的信用卡

00:18

这个问题

00:19

虽然可以通过一些方法解决

00:21

在我之前的频道里面

00:22

也分享过相关视频

00:24

但是假如你是大模型API的重度用户

00:27

就会面临一些新的问题

00:29

比如说账户安全问题

00:31

网络问题

00:32

Token速率限制的问题

00:33

还有不同大模型API管理

00:35

以及切换等等问题

00:37

总之

00:38

只要是个人或者小的开发团队

00:40

要在国内使用国外这些大模型的API

00:43

会面临各种各样的困难

00:45

那么今天这期视频

00:46

可以让你彻底摆脱这些困扰

00:48

在国内也可以非常顺畅

00:50

且非常便捷的

00:51

使用各种国外大模型的API

00:54

如果你喜欢今天这个话题

00:55

麻烦动动你的小手赞一赞

00:58

这个工具的名字呢叫openrouter

01:01

它是一个大模型的API聚合平台

01:05

已经把国外目前主流的

01:07

不管是开源的还是闭源的这些模型

01:09

都接入进去了

01:11

那么后续的话

01:11

我们只要通过openrouter

01:12

它给我们提供的API接口

01:14

以及它所提供的key

01:16

我们就可以直接调用

01:18

各种主流的国外大模型

01:20

通过一个key

01:21

就可以使用切换任意的大模型

01:24

所以用起来就非常非常的方便

01:26

比如说

01:26

我们在它支持的模型里面

01:28

可以看到

01:29

它是支持像GPT的3.5、4.0

01:33

Turbo、Vision以及16K的

01:35

所有的Open AI模型在这边都是支持的

01:38

包括像Claude

01:39

也是一样的

01:40

另外包括像一些开源模型

01:43

Llama2

01:43

还有Google Gemma也是支持的

01:46

为了方便大家对比

01:47

通过openrouter平台

01:49

去调用各种国外大模型的API

01:51

有哪些优势

01:52

这里我做了这样一个表格

01:54

方便大家更直观的去了解

01:57

首先是账户安全问题

01:59

假如说我们在国内

02:01

去调用OpenAI的API

02:03

或者Claude的API

02:05

可能会面临一些账户安全问题

02:07

因为我们没有直接的网络

02:09

以及没有直接的支付卡

02:11

都是通过一些虚拟卡的方式

02:13

去绑定使用

02:14

所以相对来说

02:15

如果官方的政策一收紧

02:17

像这类账号

02:18

可能就会面临账户的封号问题

02:21

但是如果是说

02:22

你通过openrouter平台去申请API

02:24

去使用API

02:25

是不会有这一类问题的

02:27

然后第二个的话是网络问题

02:29

通过openrouter这个平台

02:31

我们是可以直连的

02:32

不需要在API接口里面

02:34

去做代理

02:35

或者中转

02:36

第三个的话是便捷性

02:39

这个也是我觉得openrouter平台

02:41

最大的一个优势

02:42

它只要一个API

02:44

就可以对接所有

02:45

国外的主流大模型的API

02:48

不需要我们人为的

02:50

去挨个去申请

02:51

然后挨个去开发

02:53

不管是管理成本

02:54

还是切换成本

02:55

还是说开发成本

02:57

我觉得都是大大降低的

02:59

第四个

03:00

是通用性以及兼容性

03:02

它的API接口结构

03:04

是和OpenAI一样的

03:07

所以它的兼容性就非常的好

03:09

目前市面上大部分主流的套壳应用

03:12

它都是支持一键接入的

03:14

比如说像我们自己部署的

03:16

还有一些第三方的Web UI

03:17

桌面端应用Chatbox

03:19

以及一些浏览器插件

03:21

像Webpoilt

03:22

沉浸式翻译

03:23

还有一些主流的套壳APP

03:25

它都是支持使用openrouter的API

03:28

支持一键接入的

03:30

另外就是说

03:31

它这个平台

03:32

还有一个优势

03:33

就是说你申请一个账号

03:35

它是可以满足多人使用的

03:37

我们可以在一个账号里面

03:39

创建多个key

03:40

而且还可以给每一个key

03:42

设置使用额度

03:45

接下来的话是关于支付的问题

03:48

像这一块的话

03:49

我们是可以直接用Visa卡支付的

03:51

你用国内的Visa卡

03:53

可以直接绑定到openrouter平台

03:55

那么后续使用

03:56

你都可以通过国内的Visa卡

03:58

直接进行扣款支付

04:00

相对来说支付的门槛

04:02

也是会比使用

04:03

ChatGPT、Claude的API

04:05

直接去使用

04:06

这个门槛是更低的

04:07

另外它还支持加密货币支付

04:11

不需要我们去申请虚拟信用卡

04:12

节约充值的成本

04:14

接下来的话就是预付成本

04:16

以及使用成本

04:17

像现在大模型的这些API平台

04:20

它都已经改成了预付费的性质

04:22

也就是说

04:23

你要用它的API

04:24

你必须要先充值

04:26

充值完成之后

04:27

才可以使用

04:28

如果是说

04:29

你要用不同大模型平台的API

04:31

你就要在每个平台里面

04:33

都进行预付费

04:35

这样的话

04:36

整体资金的沉淀成本就会比较高

04:38

而通过openrouter平台

04:40

你只要在它这个平台里面

04:42

进行一个预付费

04:43

你就可以直接去调用各种大模型的API

04:46

相对来说

04:47

预付成本就会更低

04:49

接下来是关于使用成本

04:52

像这个平台

04:53

它里面所有的模型输入

04:55

以及输出的成本

04:56

全部是和官方一样的

04:59

其实在这里我们也可以看到

05:00

比如说Claude3 haiku

05:02

它每100万Token的输入成本

05:05

以及输出成本

05:06

都是跟官方一样的

05:07

唯一的额外费用

05:09

就是说他在充值的时候

05:11

会收取手续费

05:12

如果是说信用卡

05:14

会收取5%的手续费

05:16

加上每笔金额0.35美金的手续费

05:20

如果说你是用虚拟货币充值的

05:22

那么直接是收取5%的手续费

05:25

相对来说

05:26

对比其他的一些中转平台

05:28

openrouter平台还是有优势的

05:30

然后还有一个其他优势

05:32

就是它在这个平台里面

05:34

其实还给我们提供了一些

05:36

像开源的

05:37

免费的大模型的API

05:40

我们可以看到

05:41

像这些带free的

05:42

比如说这个Mistral 7B

05:44

就是免费提供的

05:46

这样的话

05:46

其实后期

05:47

我们也可以用这个免费的

05:49

这些API接口

05:50

去提供一些简单的服务

05:51

比如说用来做翻译

05:53

都不会去收费

05:54

这个的话就是关于它的一个优势

05:57

接下来

05:58

我们来介绍一下使用

05:59

怎么去申请这个平台的API

06:01

以及怎么样把它

06:02

对接到我们应用当中去

06:03

首先

06:04

我们来到它的官网

06:06

这个是它的首页

06:07

可以看到菜单

06:08

菜单的话

06:09

这边是提供了一个playground

06:12

在这里面

06:12

我们是可以自由的选择

06:14

你想要对话的模型

06:16

并且它是可以多选的

06:18

那么你选择完成之后

06:20

并且把它开启

06:20

我们可以在这边的对话框里面

06:22

同时跟这些大模型进行对话

06:24

比如说现在这里的模型

06:26

我选择了3.5

06:27

Mistral还有这个Claude3 Opus

06:30

那么我在这边发送一下

06:32

这样一个prompt

06:34

可以看到我右边选择的这些大模型

06:36

他在这个对话窗口当中

06:38

同时回答了我的问题

06:39

那么在playground当中

06:41

我们也可以去做

06:42

不同大模型的对话效果测试

06:44

使用起来还是非常方便的

06:46

接下来

06:46

我们来演示一下充值

06:48

以及申请API key

06:49

然后把它绑定到我们这里应用当中

06:52

以及去进行API的切换

06:54

去使用不同大模型

06:56

我们直接来到setting

06:58

然后来点击积分按钮

07:00

这里它是支持银行卡支付

07:03

Cash APP以及美国的银行卡

07:06

还有谷歌Pay

07:07

这里的话

07:07

我就用自己国内的招行Visa卡

07:10

给它进行绑定一下

07:12

我们把自己的卡片信息

07:13

给它填入进去

07:15

我们点击提交

07:16

可以看到这个卡

07:17

它已经绑定上了

07:19

我们现在可以

07:20

进行充值

07:21

比如说我充值10美金进去

07:24

他这边的话是有一个计费的

07:26

总共是要收取5%的手续费

07:30

加固定的0.35美金

07:32

一笔的单笔费用

07:34

这边的话就是你充值的越多

07:36

肯定是越划得来的

07:38

然后我点击一下充值

07:40

可以看到余额已经充值成功了

07:43

所以我们直接用openrouter平台

07:45

去申请大模型的API

07:47

就不用像直接

07:48

去对接官方这么麻烦

07:50

你必须要用国外的信用卡

07:52

那么充值完成以后

07:54

我们这边就是

07:55

可以去申请一下自己的key

07:57

点击创建key

07:59

你可以给这个key

08:00

设置一个名字

08:01

比如说我这边就命名test key

08:04

然后大家可以注意一下这个按钮

08:05

它其实是可以给每一个key

08:07

去设置使用额度的上限

08:09

比如说我是让它上限

08:11

可以用5美金的额度

08:14

它已经把这个key

08:15

给我发过来了

08:17

我们复制一下

08:18

待会的话就可以

08:19

在应用端直接去使用

08:21

包括后面你自己创建的每一个key

08:23

都可以在这边看到它的使用额度

08:25

以及它使用的一个详情

08:27

如果是团队使用

08:28

通过这个平台

08:29

其实管理也是非常方便的

08:31

接下来

08:32

我们就来演示一下

08:33

怎么样在应用当中去调用这个key

08:35

以及怎么样去切换不同的

08:37

这些国外主流大模型

08:39

这里的话我就用lobechat

08:41

还有这个比较经典的套壳应用

08:44

Chat Next Web

08:45

还有的话

08:45

我们经常在用的翻译插件

08:48

沉浸式翻译

08:49

我会把它的key

08:50

填入到这三个工具当中

08:52

然后演示

08:53

怎么样去切换它的模型

08:55

以及它的一个实际效果

08:57

OK

08:57

首先是lobechat

09:00

关于lobechat

09:01

它是提供了线上版本

09:02

以及本地部署版本

09:04

大家可以看到这个网址

09:05

首先这个是线上版

09:07

本官方所提供的

09:08

我们在这里面

09:09

是可以直接使用

09:10

openrouter它对应的一些模型的

09:12

在这里面的话

09:13

是可以自定义自己的模型

09:15

那么你也可以

09:15

在自己本地去部署

09:17

套壳应用lobe chat

09:19

相对来说

09:20

这个套壳应用

09:21

它的功能也非常的强大

09:23

具体的部署方式

09:24

在我原来的视频当中是有讲过的

09:27

这期视频

09:28

震惊!免费替代ChatGPT plus

09:30

这个项目做到了

09:31

它是支持GPTS GPT-4v

09:33

以及Plugins插件

09:35

在本地的套壳应用当中

09:36

是支持这些东西的

09:38

另外它也支持我们今天

09:39

所说的openrouter的API

09:42

如果是说你是首次部署好以后

09:44

我们可以点击这个设置

09:47

然后来到它的语言模型这里

09:50

它目前是支持

09:51

这些平台的API接口

09:53

现在我们直接来到openrouter

09:55

把它打开

09:56

把刚才我们在平台

09:58

所获得的key

10:00

给它填到这里来

10:02

这里的话

10:03

你需要它支持哪些模型

10:05

你就把这个模型的名字给它填入进去

10:08

如果是多个模型

10:10

就用英文的逗号

10:11

给它分割一下就好了

10:13

我给大家演示一下

10:14

比如说

10:15

这里我是希望

10:17

它支持Gemini的

10:19

我们就搜一下Gemini

10:20

然后我随机点一个进去

10:22

Gemini Pro 1.0

10:24

可以看到

10:25

它这边其实是有模型地址的

10:27

我们点击一下复制

10:30

然后来到这里

10:31

英文的逗号

10:32

然后把这个模型给它粘贴进去

10:35

点击一下检查

10:36

检查通过

10:37

那就代表我们可以

10:38

正常的去使用这些模型

10:39

你的API key也是正确的

10:41

设置完成之后

10:42

我们就来到对话窗口

10:44

点击这个脑图这里

10:46

模型这里它是可以自由的去选择

10:49

你配置好的这些模型

10:51

然后这里可以看到

10:52

它还有一些free的模型

10:54

Mistral 7B的

10:56

Gemma的

10:56

这些都是开源模型

10:57

就是openrouter平台

10:59

它免费提供给我们使用的

11:00

我们用这些API接口

11:01

它并不会进行付费

11:03

然后下面这几个

11:04

是我自己配置上去的

11:06

haiku、sonnet

11:06

以及刚刚我们所配置上去的

11:08

gemini pro

11:10

那我们就以它为例

11:11

选择一下这个模型

11:14

可以看到这个title

11:15

它已经切换过来了

11:17

显示对应的模型

11:18

我们先让它来介绍一下自己

11:20

它回复是

11:21

Gemini,一个由谷歌开发的多模态AI模型

11:24

我们再来测一个问题

11:26

树上有10只鸟

11:27

开枪打死一只

11:28

还剩几只

11:29

0只,因为枪声会把其他鸟都吓跑了

11:32

OK

11:33

那这个就是

11:34

关于在lobe chat平台里面

11:35

这个套壳应用里面

11:37

怎么样去使用openrouter

11:39

它所提供的API接口

11:41

包括当我们用完以后

11:43

我们其实也可以在API里面

11:46

去查看一下它的使用详情

11:48

3月26号十点四十五分