斯坦福开源了可在笔记本电脑、手机和树莓派运行的gpt模型llama的微调-BFW编程笔记

斯坦福开源了可在笔记本电脑、手机和树莓派运行的gpt模型llama的微调

一位Georgi Gerganov的软件开发人员创建了一个名为“llama.cpp”的工具，可以在Mac笔记本电脑上本地运行Meta的新GPT-3级别的AI大型语言模型LLaMA。github地址：https://github.com/ggerganov/llama.cpp

随后，人们找到了在Windows上运行LLaMA的方法。然后有人展示了它在Pixel 6手机上的运行情况，接着是树莓派（尽管运行速度非常缓慢）。