鸿乐园讨论
Llama.cpp 服务器 - 可打印的版本

+- 鸿乐园讨论 (https://ohos.aloereed.com/forum)
+-- 版块: 原生软件讨论 (https://ohos.aloereed.com/forum/forumdisplay.php?fid=1)
+--- 版块: 三方侧载软件讨论 (https://ohos.aloereed.com/forum/forumdisplay.php?fid=2)
+--- 主题: Llama.cpp 服务器 (/showthread.php?tid=1)



Llama.cpp 服务器 - Aloereed - 03-18-2025


[图: wechat_2025-02-05_154919_278.png]

Github仓库/下载地址:
https://github.com/Aloereed/llama.cpp-server-ohos/releases/tag/1.0



RE: Llama.cpp 服务器 - yuenyu - 06-09-2025

您好,想问下如何判断这个服务是否成功启动呢?
我打开llama server,下载视频同款模型,点击运行后,CPU占比和内存占比没有任何变化,页面点击后没有其他显示是否成功,在前台运行,使用chatbox网页版链接http://127.0.0.1:8080/v1/chat/completions,显示fail to fetch