近日,302.AI 带来了重磅更新——自定义模型。自定义模型的推出,是为了给用户打造一个更加开放、便捷、实用的平台。
具体来说,自定义模型这一功能实现了将第三方的模型API接入302.AI(例如OpenRouter,硅基流动等),为第三方模型增加了如下几个优势:
1、快速生成聊天机器人:用户可以根据自身需求接入第三方大模型API,不受限于平台内的资源。整个接入流程极为便捷,只需简单几步操作,即可快速完成配置,并部署聊天机器人在线使用。
2、解决地区限制:模型API接入时可选择中转地区,解决部分模型供应商地区限制问题。
3、一键功能扩展:接入的模型API可解锁302.AI自研的“能力加成”,例如联网搜索,长期记忆等,一键实现功能扩展。
自定义模型价格:无论是自定义模型生成聊天机器人还是调用自定义模型API,均按照0.05美元/天,一个月仅需1.5美金,远低于我们去维护一个服务器的成本。
如何在302.AI自定义模型生成聊天机器人
一、设置自定义模型
进入302.AI,依次点击:使用机器人→聊天机器人→ 模型
点击左下角的自定义模型,填写相关配置信息。
(1)提供预设APIBase
我们预设了Open Router和硅基流动的API Base,使用这两项服务的用户可以直接选择,系统将自动完成填充。
(2)支持中转地区选择
我们还特别支持了中转地区选择功能,这能够解决部分模型提供商因为IP地区限制访问的问题。例如,HK地区在接入模型API时常常会被限制,这时我们就可以切换至US地区。
(3)可一键检查配置信息
配备【检查】按钮,可一键检测信息是否填写正确。
1、以接入Open Router的模型API为例:
示例模型:meta-llama/llama-3.3-70b-instruct:free
API Base 选择OpenRouter,并填写API key、模型ID等。根据模型特性进行相应配置,举例而言,若模型本身具备图片分析功能,则勾选“模型支持图片分析”,反之则不勾选。所有设置完成后,点击【确认】;
2、以接入硅基流动的模型为例
示例模型:硅基流动部署的DeepSeek-R1-Distill-Qwen-7B
API base选择硅基流动,填写API Key、模型ID等信息,并按需选择中转地区,点击【确认】;
二、创建聊天机器人
(1)接入成功后的模型会在自定义模型分类中显示,选中模型并点击【确认】;
(2)点击【创建聊天机器人】按钮:
(3)进入聊天机器人后发送消息即可开启对话;
三、接入后的模型一键实现功能扩展
接入模型生成聊天机器人后,还可以一键实现图片分析、联网搜索、推理等功能扩展。
1、图片分析能力:
以接入的Llama-3.3-70b-instruct为例,这原是一个纯文本大模型,接入到302.AI中可解锁“模型融合”能力,开启图片分析:
(注意:图片分析功能无需特别设置,聊天机器人会默认开启)
2、一键叠加联网搜索+推理功能:
此外,还可以将功能叠加使用,例如同时启用联网搜索和推理功能,只需在对话框下方点亮这两个功能按钮:
效果对比如下:
原始回答:信息滞后。
叠加联网搜索+推理功能后回答:答案正确。
四、管理自定义模型:
(1)编辑:自定义模型完成后,如有信息需要修改,可点击模型名称右侧的编辑符号即可
(2)复制:点击编辑进入后,可对配置好的自定义模型进行快速复制。
复制后:
(3)删除:不常使用的自定义模型,可进行删除操作。
如何用302.AI的API调用自定义模型
一、创建API Key
首先我们需要创建一个支持中转自定义模型的 API key 。
详细步骤:使用 API → API Keys → 输入API名称 → 开启自定义模型中转 → 【添加API KEY】
复制刚刚生成的API Key 备用;
查看中转后自定义模型的名称以方便调用:
二、API调用自定义模型
可通过API超市为自定义模型API增加功能或者在工具API中调用自定义模型
1、为模型增加新的能力:
找到相关文档:使用API → API超市 → 语言大模型 →302.AI→查看文档
以增加自定义模型联网搜索能力为例:
进入相关文档后,点击【调试】按钮:
点击“去设置变量值”,粘贴生成的API Key填并点击【保存】:
(注意:自定义模型中转功能必须手动开启,因此需要手动粘贴API Key)
根据文档说明,自定义模型后缀加上“-web-search”(如示例meta-llama/llama-3.3-70b-instruct:free-web-search)并输入提示词点击【发送】即可增加联网搜索能力:
若想了解更多关于增加大模型能力的相关内容,可翻阅往期文章:
(1)超便捷!教你如何1秒为所有大模型API增加图片分析/联网搜索/长期记忆功能
(2)DeepClaude好用?来302.AI试试DeepAnyLLM
2、工具API调用自定义模型
相关文档:使用API → API超市 → 工具API→按需选择工具→查看文档
以AI答题机工具API调用自定义模型为例:
点击【调试】后同样需要设置API Key,步骤大致与以上相似,这里就不详细展开:
API Key设置完成后,填写需要调用的自定义模型名称,输入提示词点击【发送】即可;
总结:
302.AI 致力于为所有用户倾力打造一个更加开放包容的AI综合平台。通过这一平台,用户不仅能够享受到更加便捷流畅的使用体验,还能解锁更加强大丰富的功能,真正实现效益最大化 。