使用cloudflare免费搭建自己几十个开源大模型api接口

使用cloudflare免费搭建自己几十个开源大模型api接口

cloudflare推出了自己的免费大模型在线运行和api环境Workers AI LLM Playground,主持几十种主流开源大模型,不仅可以免费在线使用,还提供了在cloudflare中可运行调用这些大模型api的代码,简直就是白嫖啊。

web免费使用

免费在线使用地址:https://playground.ai.cloudflare.com/


api 调用

有两种调用方式

1、cloudflare官方api调用

需要申请api key,申请key地址::https://dash.cloudflare.com/profile/api-tokens



申请完后就能直接通过curl、fetch、python来调用了

下面是python代码

#!/usr/local/python3/bin/python3
# -*- coding: utf-8 -*
import requests
#apikey申请地址:https://dash.cloudflare.com/profile/api-tokens
API_TOKEN="";
API_BASE_URL = "https://api.cloudflare.com/client/v4/accounts/fbf170d7957b43197af922e09cb9b936/ai/run/"
headers = {"Authorization": "Bearer {API_TOKEN}"}


def run(model, inputs):
    input = { "messages": inputs }
    response = requests....

点击查看剩余70%

{{collectdata}}

网友评论0