首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

盘点免费且靠谱的AI大模型 API,统一封装,任性调用!

  • 25-03-02 12:02
  • 2139
  • 7027
blog.csdn.net

现在做大模型,还有靠谱且免费的 API 接口吗?

靠谱的不免费,免费的不靠谱,鱼和熊掌不可兼得?

非也!

对于简单的指令而言,绝大部分免费的 LLM API 还是能打的,本文就给大家介绍几款,猴哥亲测好用的免费的 API 接口!

1. 免费 LLM API 汇总(持续更新中)

大模型免费版本免费限制备注API
讯飞星火大模型spark-liteTokens:总量不限;QPS:2链接
百度千帆大模型ERNIE-Speed-128KRPM=60,TPM=300000链接
ERNIE-Speed-8K/ERNIE-Lite-8K/ERNIE-Tiny-8KRPM=300,TPM=300000
腾讯混元大模型hunyuan-lite限制并发数 5链接
智谱 AI 大模型glm-4-flash限制并发数 5自带联网搜索,支持微调链接
书生浦语大模型internlm2.5-latestRPM=10, TPM=5000需申请使用链接
Llama FamilyLlama3-Chinese-8B-Instruct/Atom-13B-Chat8-22 点:RPM=20;22-次日 8 点:RPM=50链接
Groqgemma-7b-it/llama-3.1-70b等RPM=30, RPD=14400链接
Google Geminigemini-1.5-flash/gemini-1.0-proRPM=15, TPM=100万, RPD=1500链接
gemini-1.5-proRPM=2, TPM=3.2万, RPD=50
text-embedding-004RPM=1500
硅基流动Qwen2-7B-Instruct等RPM=100,QPS=3链接
  • RPM:每分钟处理的请求数量;
  • TPM:每分钟处理的Token数量;
  • RPD:每天处理的请求数量;
  • QPS:每秒内处理的请求数量;
  • 并发数:系统同时处理的请求数量。

接下来,我们一起梳理下各家的 API 调用示例代码,以及如何把它们接入 OneAPI,方便集成到兼容 OpenAI 格式的应用中!

关于如何使用 OneAPI,可以围观教程:OneAPI-接口管理和分发神器。

2. 讯飞星火大模型

调用示例代码见:拒绝Token焦虑,盘点可白嫖的6款LLM大语言模型API

当然,更简洁的方式是:接入 OneAPI!

添加一个新的渠道,类型选择讯飞星火认知,模型处手动填入spark-lite。

3. 百度千帆大模型

首先,到千帆平台上开通免费的模型:https://console.bce.baidu.com/qianfan/ais/console/onlineService

然后,到应用接入中创建应用,获取API Key、Secret Key

最后,调用示例代码:

import requests
import json

API_KEY = "xxx"
SECRET_KEY = "xxx"

def get_access_token():
    """
    使用 AK,SK 生成鉴权签名(Access Token)
    """
    url = "https://aip.baidubce.com/oauth/2.0/token"
    params = {"grant_type": "client_credentials", "client_id": API_KEY, "client_secret": SECRET_KEY}
    return str(requests.post(url, params=params).json().get("access_token"))
     
url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie_speed?access_token=" + get_access_token()

payload = json.dumps({
    "messages": [
        {
            "role": "user",
            "content": "你好"
        },
    ]
})

headers = {
    'Content-Type': 'application/json'
}

response = requests.request("POST", url, headers=headers, data=payload)
print(response.text)
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31

当然,更简洁的方式是:接入 OneAPI!

添加一个新的渠道,类型选择百度文心千帆,模型处只保留你开通的免费模型。

4. 腾讯混元大模型

腾讯云的产品,接入地址:https://console.cloud.tencent.com/hunyuan/start

新用户首先要开通,然后点击创建密钥,到新页面,新建密钥。

首次记得保存!后续不支持查询!

混元大模型的调用接口,鉴权非常麻烦,最好安装它的 SDK 进行使用。

当然,更简洁的方式是:接入 OneAPI!

添加一个新的渠道,类型选择腾讯混元,模型处需要手动填入hunyuan-lite。

在下面的密钥处填入你的:APPID|SecretId|SecretKey。

5. Google Gemini

Google Gemini 集成在 Google AI Studio中。

首先需要创建一个项目,然后获取 API 密钥。

API 密钥获取地址:https://aistudio.google.com/app/apikey

在 API 价格文档中,可以看到各个模型的限速详情:https://ai.google.dev/pricing

调用示例代码:

import requests
import json

# 设置请求的URL和API密钥
url = "https://generativelanguage.googleapis.com/v1beta/models/gemini-1.5-flash-latest:generateContent"
api_key = "xxx"  # 替换为你的API密钥

headers = {
    "Content-Type": "application/json"
}

data = {"contents": [{"parts": [{"text": "Explain how AI works"}]}]}

response = requests.post(f"{url}?key={api_key}", headers=headers, data=json.dumps(data))
print(response.json())
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

如果是国内 IP,是调不通的,会报下面的错误:

{'error': {'code': 400, 'message': 'User location is not supported for the API use.', 'status': 'FAILED_PRECONDITION'}}
  • 1

因此,请自行备好梯子,或在代码中加上海外 IP 的代理!

当然,更简洁的方式是:接入 OneAPI!

添加一个新的渠道,类型选择Google Gemini,模型处只保留你开通的免费模型。

6. All in One

如果你还在因适配各种 LLM 接口而苦恼,强烈推荐使用 OneAPI 管理自己的各种 LLM API!

关于如何使用 OneAPI,可以围观之前的教程:OneAPI-接口管理和分发神器

写在最后

本文盘点了几款免费又好用的 LLM API,并接入了 OneAPI 统一管理!

你要问目前这些免费的 API 中,哪个更能打?

我要说:Google 家的 gemini-pro-1.5 指令遵循最佳,没有之一!

不知你的体验如何?欢迎评论区交流!

如果本文对你有帮助,不妨点个免费的赞和收藏备用。

有任何问题欢迎通过公众号找到我,一起打怪升级。

猴哥的AI知识库
微信公众号
AI全栈工程师,帮助零基础编程小白入门AI
注:本文转载自blog.csdn.net的AI码上来的文章"https://blog.csdn.net/u010522887/article/details/141731878"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2492) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

101
推荐
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2025 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top