写作/船板专栏/如何选择适合自己的API.md

如何选择适合自己的API

之前我们已经提到了,尽管各大AI公司的APP、官方网页都有免费的AI聊天窗口,但是此类服务通常有各种各样的功能局限,例如上下文短,一次输出文字短,敏感词审核严重导致会拒绝回答或者撤回回答。

因此,土法宗提倡写小说的朋友们使用聊天客户端(例如Cherry studio)接API使用。

而使用什么API呢?首先,各大AI公司官方都提供自己的API服务,具体你们要去官网找开发者平台,或者是云服务板块注册账号,开通API。

例如Deepseek官方的API服务,使用者比较多。它提供API的开发者平台在这个网址 https://platform.deepseek.com/

例如阿里、腾讯、字节除了提供自家模型,也搞副业提供deepseek之类开源模型。

但是这种服务商,它们提供的模型都比较单一和分散,例如腾讯提供混元大模型,字节火山引擎提供豆包大模型,但是字节无法提供混元,腾讯也不会提供火山。

这样的话,假如你要同时使用多个模型,就免不了注册一大堆官方平台账号,切换也很麻烦。

又比如说Google云服务就提供Gemini模型的API,但是这个服务一方面需要多币种信用卡绑定支付方式才可以使用,另一方面,不规范使用有牵连你的谷歌账号封号的几率。

更重要的是,即使是官方绑定付费方式的账号,聊天的并发频次也有限制,IP如果在大陆还会频繁连接出问题。假如你使用的是免费档位,还有高概率被风控导致高频截断回复、降智的问题。可以说在这方面,官方的账号反而不如Openrouter这种中转商稳定,经常出迷之问题。

更别说,像OpenAI和Claude的官方平台API,有比较严格的风控措施,如果检测到不当使用,很可能牵连封号,所以我是总体不推荐大家使用御三家的官方API的。

这时候,假如我们有一个一站式的API中转平台,它们既可以从官方代理正规的API不限频次,不加审核地供我们使用,还能集合一大堆各种各样的开源闭源模型,那我们不就不用折腾了吗?

所谓一手交钱一手交货,只要我花钱,就不会被拒绝。用多少花多少,也不担心被坑,岂不是省心省力(虽然不省钱)?

是的,正是因为这个考虑,我才会在土法宗攻略中推荐大家使用Openrouter作为自己的主力API提供商。

但是Openrouter普遍是按照官方价格计费,还要加上手续费,最后价格略贵。因此,我也推荐了AihubMix作为备选,因为Aihubmix虽然也是官方价,但配合Cherry studio有10%的折扣,聊胜于无。在大批量使用(如写小说)的时候还是很值的。

此外,如果你使用图片上的这些客户端(例如Chatwise、Chatbox,也都是可以享受10%的折扣的,不一定非要Cherry studio)。

可惜,Aihub和cherry两家都没有做推广分销,不然我这样推荐它们,它们真的应该给我好好打钱。(可恶!)

再加上,Cherry studio最新版本还内置了免费的GLM4.5-flash模型和qwen3-8b作为开箱即用,不用配置任何东西就可以直接无限使用的AI。

这一点来说还是非常方便的,因为大多数同类软件都还没有做到安装完客户端就可以无限免费畅聊。

至于各种渠道获得(特别是某宝、某鱼)的API,大部分是灰产,来源不明(其实很多就是反代网页版或者批量注册的谷歌白嫖额度账号)。

你说能不用,倒是多半能用,再加上便宜,很多人刚接触AI都被人推荐去买那种来玩酒馆。

但是,首先这种不保证稳定,经常会报错截断,其次,如果你号炸了还需要不断联系卖家更换,还要承担跑路的风险。

我反正是不推荐,你们喜欢的话可以自己研究。

说实话,我玩AI或者研究AI,重点是玩得顺畅开心,研究的过程心无旁骛,能让我能有所获益。

假如把精力都放在如何白嫖,如何去和账号问题斗智斗勇上,从一开始为什么要玩AI呢,不玩不接触岂不是最省钱吗?你们说呢?

与Aihubmix类似的中转商还有不少,因为我使用的不多,就不一一赘述了。本攻略没有恰饭,没有义务推荐不熟悉的服务商,它们在稳定不跑路的方面也没有人能保证。

在海外安全稳定的API提供商中,还有很多类型。

例如POE也是一个知名聚合AI平台,后来也开始提供API。它能用吗?

还有Openrouter上面也能看到很多独立的服务商,比如Together AI、Chutes、Groq、Nvidia,它们好不好,能用吗?

首先,Openrouter本身就整合了所有这些模型服务商,我们日常用的很多国外API除了官方服务器之外,很多都是从这些独立服务商来的,我们在不知不觉中已经在使用了。

其次,我们确实也可以单独挑选一些自己用的管的服务商作为备胎。

接下来,我们就来深入探讨一下Poe、OpenRouter(国人服务商的话是类似AihubMix之类的这种)、Together AI(国内的话是硅基流动、七牛云这种)这类服务商在API使用体验上的区别。

这些服务可以被看作是通往大模型算力的三种不同路径:集成的应用平台、灵活的路由中转,以及专注的开源模型托管。它们各自解决了用户在不同场景下的特定痛点。

首先,是 Poe。

Poe一开始是做聚合聊天bot平台起家的,你可以在上边直接同时聊很多大模型,还可以自己调校提示词做成bot,卖给其他用户使用。

后来,Poe不光是做网页和app,也开始单独卖API了。

接下来我结合Gemini的调研结果给大家简单讲一下。

Poe的API与其他几家有着本质的不同。它提供的不是直接调用某个基础大模型(例如GPT-4o或Llama3-70B)的接口,而是调用你在Poe平台上创建或使用的Bot(机器人)的接口。这是一个非常关键的区别。

根据开发者的普遍反馈,Poe的API更适合那些希望将自己精心调校过的、具有特定“人设”和能力的Bot集成到其他应用中的场景。例如,你创建了一个专门用于润色小说的Bot,通过Poe的API,你可以让你的写作软件直接调用这个Bot来处理文本。

它的优势在于封装性和便捷性。你无需关心底层是哪个模型,只需关注你创造的Bot的行为。但它的局限性也源于此。

开发者反馈指出,你无法通过Poe的API进行精细化的模型参数调整(如温度、Top-p等),调用的是一个高度封装后的服务。因此,它不适合那些需要对模型进行底层、灵活控制的严肃开发任务。它更像是一个让你“分享你的Bot能力”的工具,而非一个通用的模型API。

不过好处是,POE有基础的免费使用额度(虽然很少),这也是他们家的特色,并且,POE的计费是网页版与API统一的,也就是你原来如果订阅了会员,那么API就可以直接用不需要额外花钱(花的是订阅的积分)。

接下来是 OpenRouter,OP本质是一个“万能插座”和“API的智能分发路由器”的角色。

根据大量网友的讨论,OpenRouter最大的价值在于其 API的统一性和模型选择的广泛性。几乎所有主流的闭源和开源模型,从OpenAI的GPT系列,到Anthropic的Claude系列,再到Google的Gemini,以及各种开源模型,它都有覆盖。

开发者选择它的核心理由是 “一次开发,任意切换”。它的API格式与OpenAI的官方API高度兼容。这意味着,你为调用GPT-4o编写的代码,只需更改模型名称和API密钥,几乎可以无缝切换到调用Claude 3 Opus或Llama 3。对于需要频繁实验不同模型以找到最佳性价比方案的开发者来说,这种体验是颠覆性的。此外,用户普遍赞赏它的自动回退(Fallback)功能,当一个模型不可用时,可以自动切换到备用模型,增加了应用的稳定性。

当然,这种便利性并非没有代价。作为中转服务,OpenRouter的延迟通常会比直连官方API略高,因为数据包多了一次“旅行”。同时,其价格会在模型官方定价的基础上增加一小部分作为服务费。因此,它非常适合那些追求灵活性、需要管理多个模型、对微小延迟不敏感的开发者和小型团队。

最后,我们来看以 Together AI 为代表的开源模型托管服务商。

这类服务商精准地切入了一个细分市场:为开源大模型提供极致优化的推理服务。在相关的技术社区,例如Hugging Face社区或者Reddit的r/LocalLLaMA版块,Together AI的口碑主要建立在两大支柱上:极高的推理速度和极具竞争力的价格。

许多开发者进行的基准测试(Benchmark)显示,对于相同的开源模型(如Llama 3 70B),Together AI的响应速度(Tokens per second)往往能领先于其他通用平台。这是因为他们投入了大量精力去优化推理栈(Inference Stack),从硬件到软件都为特定架构的模型服务。

其另一个核心优势是 成本效益。对于需要大规模调用开源模型的应用,使用Together AI的成本通常远低于使用同等规模的闭源模型,甚至也低于自己租用GPU进行部署和维护的综合成本。它的API同样遵循了OpenAI的格式,降低了开发者的迁移门槛。

因此,当你的需求是大量、高频地调用某个或某几个特定的开源大模型,并且对成本和速度有较高要求时,Together AI这类服务商通常是最佳选择。你牺牲了像OpenRouter那样的模型广度,换来了在特定模型上的深度优化和成本优势。

总结来说,如果你要选一个海外的API服务商,你怎么选,完全是取决于你的具体目标:

  • 如果你想将你在Poe上创造的特定Bot的能力赋予给外部程序,使用 Poe API。
  • 如果你需要在一个项目里灵活测试、切换各种不同来源的模型,或者为你的应用提供模型备选方案,并且不介意微小的成本和延迟增加,OpenRouter 是一个极为强大的工具。
  • 如果你已经确定要主力使用某个开源模型,并追求极致的运行速度和成本控制,那么 Together AI 这样的专业托管服务是更明智的选择。(其实相比国内的Deepseek、Qwen服务商,少了手机号注册、隐私安全问题,也是可以考虑的)