llamacpp作者创业用纯C语言框架降低大模型运行成本
作者：admin
更新时间：2023-06-19
点击数：
通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。
现在，Georgi Gerganov 宣布创立一家新公司 ggml.ai，旨在支持 ggml 的开发。ggml 是 Georgi Gerganov 使用 C/C++ 构建了机器学习张量库，能够帮助开发者在消费级硬件上实现大模型，并提升模型性能。ggml 张量库具有以下特点：
总体来说，ggml 让本地运行大型语言模型变得更容易，操作更便捷llamacpp作者创业用纯。Georgi Gerganov 成立新公司之后C语言框架降低大模型运行成本，简单高效的 ggml 张量库将获得更多开发者和投资者的支持。我们相信随着开发人员在技术层面做出努力，大模型的应用前景将会越来越广泛。