Llama.cpp 服务器

1 Replies, 168 Views


[图: wechat_2025-02-05_154919_278.png]

Github仓库/下载地址:
https://github.com/Aloereed/llama.cpp-server-ohos/releases/tag/1.0
您好,想问下如何判断这个服务是否成功启动呢?
我打开llama server,下载视频同款模型,点击运行后,CPU占比和内存占比没有任何变化,页面点击后没有其他显示是否成功,在前台运行,使用chatbox网页版链接http://127.0.0.1:8080/v1/chat/completions,显示fail to fetch



正在浏览该主题的用户: 1 个游客