llama.cpp 的主要目标是在广泛多样的硬件上(本地和云端)以最少的设置和最先进的性能实现 LLM 推理。
llama.cpp
宣言 / ggml / 操作
C/C++ 中的 LLM 推理
近期 API 变更
libllama API 变更日志
llama-server REST API 变更日志
热门话题
Hugging Face 缓存迁移:使用 -hf 下载的模型现在存储在标准 Hugging Face 缓存目录中,从而能够与其他 HF 工具共享。
...
2026-04-07 13:01:55 |
AI
Ollama 构建开放模型
Ollama
开始使用开放模型进行构建。
下载
macOS
curl -fsSL https://ollama.com/install.sh | sh
或手动下载
Windows
irm https://ollama.com/install.ps1 | iex
或手动下载
Linux
curl -fsSL https://ollama.com/install.sh |...
2026-04-07 13:01:55 |
AI
obsidian skills 用于 Obsidian 的智能体技能
用于 Obsidian 的智能体技能
这些技能遵循智能体技能规范,因此任何兼容智能体技能的工具(包括 Claude Code 和 Codex CLI)都可以使用它们。
安装
市场
/plugin marketplace add kepano/obsidian-skills
/plugin install obsidian@obsidian-skills
npx skills
n...
2026-04-07 13:01:55 |
AI
immich 高性能的照片和视频自托管解决方案
immich
免责声明
⚠️ 本项目正在 非常活跃 地开发中。
⚠️ 可能存在 bug 或者随时有重大变更。
⚠️ 不要把本软件作为您存储照片或视频的唯一方式。
⚠️ 为了您宝贵的照片与视频,请始终遵守 3-2-1 备份方案!
[!NOTE]
完整的项目文档以及安装教程请参见:https://immich.app/。
目录
官方文档
项目总览
...
2026-04-07 13:01:55 |
Tool
Google AI Edge Gallery 使用 Google AI Edge 探索、体验并评估端侧生成式 AI 的未来
Google AI Edge Gallery ✨
使用 Google AI Edge 探索、体验并评估端侧生成式 AI 的未来。
AI Edge Gallery 是在您的移动设备上运行全球最强大的开源大语言模型(LLMs)的首选平台。
直接在您的硬件上体验高性能生成式 AI——完全离线、私密且极速。
现已支持:Gemma 4
最新版本带来了对全新发布的 Gemma 4 系列的官方支...
2026-04-07 13:01:55 |
AI
LiteRT-LM 是 Google 的生产级、高性能、开源推理框架,用于在边缘设备上部署大语言模型(LLMs)
LiteRT-LM
LiteRT-LM 是 Google 的生产级、高性能、开源推理框架,用于在边缘设备上部署大语言模型(LLMs)。
🔗 产品网站
🔥 最新更新:LiteRT-LM 支持 Gemma 4
通过 LiteRT-LM,在广泛的硬件设备上部署 Gemma 4,并获得卓越性能
(博客)。
👉 可通过 LiteRT-LM CLI 在 Linux、macOS、Window...
2026-04-07 13:01:55 |
AI
system_prompts_leaks 是一个公开的系统提示词(System Prompts)收集仓库
📦 system_prompts_leaks(中文翻译)
🧠 项目简介
system_prompts_leaks 是一个公开的系统提示词(System Prompts)收集仓库,主要整理来自主流 AI 聊天模型的:
System Prompt(系统提示词)
System Message(系统消息)
Developer Message(开发者指令)
涵盖平台包括:
...
2026-04-03 13:01:55 |
AI
dom4j = Java 里一个偏“工程实用”的 XML 处理库
我按你前面要 dom4j 的方式,把 JDOM 官方入门 + Maven + 核心用法整理成一份“工程可直接用”的版本。
一、JDOM 是什么(快速定位)
JDOM = 更“Java风格”的 XML 操作库
设计目标:
比原生 DOM 更简单
API 更符合 Java 习惯(List / Iterator)
面向开发者体验(不是标准规范驱动)
👉 一句话:
...
2026-04-03 13:01:55 |
XML