-
javaer 转型 ai 学习之路-04-基础知识 LLM 的内部计算流程完整走一遍
LLM 的内部计算流程完整走一遍
很好。接下来我们把 LLM 的内部计算流程完整走一遍。
理解这一节,你会彻底明白:
为什么 Prompt 有作用
为什么 RAG 可以增强知识
为什么 上下文长度重要
为什么 Agent 可以调用工具
整个流程其实可以概括为:
文本 → Token → Embedding → Transformer → 概率 → 采样 → 新To...
2026-03-13 13:01:55 |
AI
-
javaer 转型 ai 学习之路-03-基础知识 LLM(Large Language Model)
如果继续往下学,下一步最重要的知识其实不是 Transformer,而是:
LLM 的 6 个关键运行参数(几乎决定模型行为):
temperature
top_p
top_k
max_tokens
stop
seed
这 6 个参数本质上都在控制 LLM 的采样(sampling)行为。
因为模型每一步都会产生 一组 token 概率分布,而这些参数决定:
从概率分布中如何选择...
2026-03-13 13:01:55 |
AI
-
javaer 转型 ai 学习之路-02-基础知识 LLM(Large Language Model)
第 1 个月:LLM 基础
很好。学习 LLM(Large Language Model) 时,不建议一开始就钻进深度学习细节,而是先建立 正确的心智模型(mental model)。
我会用 工程师视角把 LLM 的核心拆成几个逐步理解的模块。
今天先打基础:LLM 的 5 个核心概念。
一、LLM 本质:预测下一个 Token
所有大模型的核心其实非常简单:
根据已有...
2026-03-13 13:01:55 |
AI
-
javaer 转型 ai 学习之路-01-概览
怎么学习呢?
python 只是语言,在 ai 时代并不是障碍。
下面给你一套 偏工程实践、可落地的 6 个月路线。目标不是成为研究型 ML Scientist,而是成为 能设计企业 AI 平台 / AI 产品架构的 AI 架构师。
路线会贴合 Java 技术栈 + AI 系统工程。
整体思路:
认知 → 工具 → RAG → Agent → AI 平台架构 → 模型工程
6 个...
2026-03-13 13:01:55 |
AI
-
思考问题的维度
思考问题的维度
文本-》理解-》应用-》迁移-》抽象-》组合-》创新
核心
工作(作品)—》困难—》解决用户实际的问题
流量—IP、信任—》获客
线上(文本、视频、图片)、线下
资源:壁垒
认知差
信息差
成本差
闭环
输入–》过程—》输出
流程
价值–》触达==》信任—》壁垒—》变现
参考资料
思考问题的维度
核心
闭环
流程
参考资料
2026-03-10 13:01:55 |
DevOps
-
思考关于 cmdb
cmdb
容器:kvm / docker / k8s
变更方式:人工 + 自动化
校验:人工 + 自动化(定时巡检)
生态
和服务的重启发布
和报警中心
核心
vm->phy
网络-》交换机
nginx、域名、证书
参考资料
cmdb
生态
核心
参考资料
2026-03-10 13:01:55 |
DevOps
-
思考关于 ci/cd
ci/cd
app
应用是一切的核心
和代码库+cmdb+文档库等关联
代码库
门禁
统计
QA:sonar
代码红线
test–>触发自动测试
doc–>生成文档
分析对应的关系
安全扫描
依赖分析
制库
npm
nexus
mirror
容器
jboss
tomcat
node
机器–告警
logs/cat/prom/zabbix...
2026-03-10 13:01:55 |
DevOps
-
重启服务的设计
用户侧
可以根据机房、环境、分组、机器类别直接选择:
下流量
重启服务
上流量
用户友好
用户可以明确在页面看到相关的操作进度+操作结果。
提示友好,方便问题排查。
安全性
提供基本的下线流量比例校验,不低于 30%
或者可以根据业务更加严格。
渐进式
实际推广新特性的时候都是有发展阶段的,不可能一蹴而就。
需要考虑前后的兼容性。
参考资料
用户侧 ...
2026-03-10 13:01:55 |
DevOps