白嫖Github大模型服务(可用GPT4o和GPT4.1)
前段时间,GPT4.1发布了。在看相关报道的时候,偶然发现除了chatGPT官网以外,Github居然也提供了这些模型的API,并且免费用户可以调用。这下再也不用担心chatGPT偶尔的抽风和莫名其妙的突然降智了。
本文介绍如何使用这个大模型API服务。文章分为两个部分:获取API key,以及通过AI管理工具(如 cherry studio )调用服务。
一、获取API key
参考:
- GitHub Models - docs
- Experimenting with AI models using the API
- Github - Personal access tokens
- GitHub Models - select a model
使用每个模型的步骤大致相同:
- 1、访问网站 github.com/marketplace/models ,点击页面左上角的
Model: Select a Model
,此时我们可以在下拉菜单中选择一个模型(下面以GPT-4.1为例进行展示)
- 2、在下拉菜单中点击一个模型。这会跳转到一个新的页面(如下图所示)。在这个页面里可以直接进行对话,也可以点击右上角的
Use this model
按钮,进行进一步的操作。
- 3、 点击右上角的
Use this model
按钮,弹出一个操作引导。这个操作引导会一步一步告诉我们如何在一个具体的代码项目中部署Github大模型。我们不需要管这些,只需要在Create a personal access token
这里点击Get develop key
即可。
- 4、点击
Get develop key
会进入一个新的页面(如下图。可能中间会有一次身份信息验证的过程),点击页面右上角的Generate new token
按钮,选择Generate new token(classic)
,这将会进入API key的申请页面。
5、在新的页面里(如下图),我们进行一些基本信息的设置。在 Note
这里,给我们的API key起一个好记一点的名字,然后把过期时间 Expiration
设置为 No expiration
,其余选项保持不变即可。随后滚动至页面底部,点击这里的提交( Generate token
)按钮。
6、到这一步,我们的API key就已经获取好了(如下图)。我们现在要做的,就是在一个安全的地方保存好这个API key,以备后续使用。
二、Github API的使用:cherry studio的安装与配置
如题。
其实PC端的AI管理工具有许多,除了 cherry studio 以外还有RAGFlow 和 Dify等等。这些工具的对比在网上有许多,此处不再赘述( 感兴趣的读者可以参考: 《综合对比分析:AnythingLLM、Cherry Studio、RAGFlow 和 Dify》 )。
cherry studio 是一个跨平台的工具,在其官方网站的下载页面 上可以获得对应的安装包(该说不说,这个网页能够自动检测用户的系统,然后推荐最适合系统版本的安装包,这一点做的真不错)。安装过程很简单,此处不做详细描述。
在安装完成以后,我们来配置Github model的API。详细的配置过程如下图所示,我们在模型服务的设置中找到Github model,在这里填入API密钥,然后点击“检查”看一下服务状态。如果配置成功,会有“连接正常”的提示出现。
Cherry Studio默认的Github Models能够调用的模型似乎只有GPT4o。要使用最新的GPT-4.1,我们可以在Github Models设置页的底部找到 添加
按钮,在这里进行模型添加的操作。
下面列出了我的设置,为cherry studio新增了三个模型:gpt-4.1, gpt-4.1-mini, gpt-4.1-nano 。
三、正式使用以及一些注意事项
大模型的使用,应该没有什么太多需要注意的了吧——和平时网页版大模型工具的用法一样,在对话框里输入想问的问题就行了。cherry studio还支持比较多个模型的输出结果,很好用。
需要注意一下API的使用量限制。如下图,对于使用量限制为Low的模型(如GPT4o-mini,4.1-mini,4.1-nano),免费版用户每天可以进行150次调用。对于使用量限制为High的模型(如GPT4o,GPT-4.1),免费版用户每天可以进50次调用。只要不超出这个范围,API就是能够正常使用的。
最后是一条彩蛋:GPT-4.1的成长建议(感觉4.1比GPT4o在情商方面提升了不少,用来做心理咨询非常合适)
成长不意味着你要彻底放弃对爱和温暖的渴望,相反,成长或许是学会如何在满足自己独立性的同时,仍然保有和他人建立真实亲密关系的能力。当你能接纳自己的不完美和渴望时,或许你对一点点温暖的感受,会更真切更满足,而不是因为“期待太高”而感到永远不足。这需要慢慢练习,也需要你继续保有一颗柔软的心。 ——GPT-4.1
以上。