FrugalGPT教您如何节省98%的LLM API调用成本
斯坦福大学的研究者发表了一篇名为“FrugalGPT:如何在减少成本和提高性能的同时使用大型语言模型”的论文。
作者首先评估了大型语言模型(LLM)的高昂成本:ChatGPT每天的运营费用超过70万美元;如果一家小创业公司使用GPT-4,每个月需要花费21000美元。作者还列举了几个流行的LLM API及其调用价格。
为了降低LLM API调用成本,作者提出了五种方法:
1. 提示选择:精简提示中的示例数。
2. 查询连接:合并不同LLM查询中相同的部分...
点击查看剩余70%
{{collectdata}}
网友评论