KNOWLEDGE NOTES

知识整理

按主题浏览已经整理的知识、课程笔记与方法。保留原有正文和出处。

350份知识文档
AI 技术与工程 / 跨来源主题整理

LLM 基础(Transformer / Attention / 三种 PLM)(跨作者主题综合)

LLM 内核基础综合。llm-interview-basics(Decoder 三种架构 prefix/causal/encoder-decoder + Layer Norm LN/RMS/Deep + 激活函数 GeLU/SwiGLU + Attention 升级 MQA/GQA/Flash + Transformer 操作 + 损失/相似度函数 + 复读机问题 + 8 大缓解策略)/ Karpathy nanochat(243 行代码复现 LM)/ newtype Karpathy(Software 2.0 神经网络权重)。覆盖 Transformer 三种范式、主流 LLM 配置(LLaMA/GPT/GLM)、Attention 演化、训练经验

AI 工程Agent 工作流模型与评测完整中英
AI 技术与工程 / 大语言模型学习

LLM 面试 / 分布式训练 8 篇图解专题

大模型 LLM 分布式训练面试 8 PDF 完整图解。涵盖大模型分布式训练面(总览)+ 流水线并行 Pipeline Parallelism + nn.DataParallel + nn.parallel.DistributedDataParallel + torch.multiprocessing + AMP 混合精度训练 + DeepSpeed + accelerate + ZeRO 学习。系统覆盖 PyTorch + DeepSpeed + Megatron 三大主流分布式训练栈

分布式训练PyTorch模型并行完整中英
AI 技术与工程 / 大语言模型学习

LLM 面试 / 基础架构与组件

LLM 大模型面试基础架构与组件全集。涵盖 Decoder 三种架构(prefix/causal/encoder-decoder) + Layer Norm (LN/RMS/Deep Norm) + 激活函数(FFN/GeLU/Swish/GLU 系列) + Attention 升级(MQA/GQA/Flash/线性化/稀疏) + Transformer 操作 + 损失函数(KL/交叉熵) + 相似度函数(cosine/欧氏/Jaccard) + LLMs 进阶面(生成式/复读机问题/8 大缓解策略) + LLMs 训练经验帖

TransformerLLM基础模型训练完整中英
AI 技术与工程 / 大语言模型学习

LLM 面试 / 微调与强化学习完整专题

LLM 面试中微调 / RLHF / PEFT / 增量预训练板块的 15 份专题 PDF。覆盖 LLMs 微调面 + PEFT(参数高效微调)+ Adapter-tuning + LoRA 系列 + QLoRA + PEFT 库 + 增量预训练 + 增量预训练样本拼接 + lora 二次预训练 + 评测面 + 强化学习面 + RLHF 及变种 + PPO + 强化学习 NLP 应用 + 训练集面 + LLM 生成 SFT 数据 + 显存优化 + 推理面 + Prompting 篇

模型微调RLHFLoRA完整中英
AI 技术与工程 / 大语言模型学习

LLM 面试 / RAG 检索增强生成完整专题

LLM 面试中 RAG (Retrieval-Augmented Generation) 检索增强生成的 14 份专题 PDF 全集。涵盖 RAG 基础(为什么需要外挂知识库 / R/A/G 三模块)+ langchain RAG 实战 + 大模型外挂知识库 + RAG 经验面 + PDF 解析 + 表格识别 + 文本分块 + 大模型辅助召回(HYDE)+ 负难样本挖掘 + RAG 评测 + RAG 优化策略 + RAG 关键痛点 + RAG-Fusion + Graph RAG + 多轮对话长期记忆 8 种优化

RAG检索评测知识库完整中英
AI 技术与工程 / 跨来源主题整理

MCP 协议生态(跨作者主题综合)

4 视角的 MCP 协议生态融合。newtype 老黄(DOS→Win95→互联网爆发演化预测 + 老黄自己做 Obsidian/Flux/Prompt House MCP + 常用 MCP 清单 + 配置 7 大坑)/ 王凯(FMP 金融 MCP + Chrome MCP 改造 + 飞书 CLI / 自建 MCP 解决数据准确性)/ 老 D(国内 rap.dev + 小红书 MCP server + Playwright)/ AWS 行业(常高伟 ANP 协议对比 MCP)。覆盖 MCP vs GUI Agent 之争、Smithery 失败、Sequential Thinking + Tavily 默认栈、MCP+n8n 工作流闭环

AI 工程Agent 工作流模型与评测完整中英
产品设计与用户体验 / 其他产品、设计与学习资料

Medium UX 文章精华合订(GenAI UX模式/研究实验方法/移动趋势/包容性/信息架构/公司案例 多主题)

Will 收藏的 102 篇 Medium UX 文章(59 个主题)精华合订,按 7 大簇压成一篇能代替整个收藏夹的笔记。①GenAI/AI UX 模式——21 GenAI UX Patterns(增强vs自动化 / 三档自动化等级 / CoT展示 / 表达模型信心与限制 / guardrails)、七种 AI UI 布局(浮窗/内嵌/无限画布/居中对话/左面板/右面板/网格)、预测式 UX(上下文管理控件)、设计 AI 产品五步框架。②研究与实验方法——A/B 测试五步法(定义成功→找瓶颈→建假设→排优先级→测,含奥巴马竞选 5700 万美元 + 海地赈灾 102 万美元实证)、宏观vs微观vs虚荣指标。③移动与趋势——2026 九大移动趋势(预测式/Zero-UI/Agentic/空间3D/玻璃拟态/微交互/自适应/伦理/无密码)。④包容性/无障碍——11 招(对比度 4.5:1 / 多通道编码 / 表单外置标签 / alt 文本 / 标题层级 / 触摸目标 ≥7-10mm² / 键盘可达),含 Tesco/Virgin 营收实证。⑤信息架构/流程/复杂性——协作框架(中心化→去中心化共享 Commons)、复杂性如何累积(功能膨胀/流程叠加/技术债 + 二八削减 + 复杂度预算)、价值主张画布、全球化≠翻译(雪佛兰 Nova / 达美乐 vs 家乐氏)。⑥公司案例——Airbnb/Calm/Canva/Duolingo/Spotify/Uber/Slack/Gmail 等拆解索引。⑦职业/软技能——2026 三类设计师(块状通才/极深专家/开挂应届)、AI 时代 UX 真本事(克制与判断 > 画 UI)、落地页转化六心理学。面向 AI 产品 PM:Why/何时用/反例 优先。与 [[shape-of-ai-patterns]](AI UX 模式库)、[[ai-ux-interactions]](七种 AI 交互范式)、[[laws-of-ux]](UX 定律)、[[nngroup-ux-principles]](UX 金句)、[[nngroup-information-architecture]]、[[nngroup-persuasive-design]]、[[ux-metrics-roi]] 高度互文,这里只补它们没覆盖的清单/数字/案例,不重写。

AI UX用户研究无障碍完整中英
AI 产品实践 / Newtype

newtype · AI 工具栈实战与演化

黄益贺 2024-03 → 2026-05 的 AI 工具栈使用与推荐演化。本地模型层(Ollama/LM Studio/MLX)/ 前端层(AnythingLLM/Open WebUI/LobeChat/ChatWise/Cherry Studio)/ 知识库层(MaxKB/RAGFlow/Obsidian Copilot)/ 移动端(Enchanted/Apollo)/ 配置与性能(Mac mini M4 / 3060 / DeepSeek-R1 性能对比)/ 老黄日常组合(Gemini + Grok + Raycast + Cursor + NotebookLM)

AI工具本地模型工具选型完整中英
独立开发 / Newtype

newtype · AI Coding 实战与工具栈演化

黄益贺 2024-09 → 2026-05 AI Coding 工具栈实战。Cursor 主导期 → v0+Claude+Cursor 三件套 → Cline 自建 MCP → Gemini 2.5 大上下文扫码 → Claude Code 主战场 → Codex/GitHub Copilot/OpenCode + newtype-os 多 Agent 编排。Vibe Coding 经验、AI Coding 分工哲学、Cursor 内部模式、Ultra think、Plan Mode、Claude Code Sub-agents

AI 编程开发工具Vibe Coding完整中英
AI 技术与工程 / Newtype

newtype · RAG 实战与知识库演化

黄益贺 2024-03 → 2026-05 RAG 实战。早期 AnythingLLM/Open WebUI/Pinecone → 微软 GraphRAG($11/问) → Cohere Command R+ → Milvus + MCP 自建向量库 → 2026 Obsidian + NotebookLM 终态。RAG 优化要点 / 不同模型对 RAG 检索方式对比 / 文档预处理 / Embedding 选型 / 老黄个人方案演化

RAG知识库向量检索完整中英
独立开发 / Newtype

newtype · Vibe Coding 独立产品实战

黄益贺 2024-09 → 2026 的非技术独立开发路线。Blog → Prompt House → LearnFromYouTube → Super Analyst Skill → newtype Profile/CLI/OS。工具栈(Next.js + Supabase + Stripe + Cursor + Electron)/ 商业模式(全球商人 + 报税)/ 网络配置(VPS+VLESS+Reality+SOCKS5)/ Go Fundamental 设计哲学 / AI Coding 分工

Vibe Coding产品构建独立开发完整中英
独立开发 / Newtype

newtype 工具栈:Oh My OpenCode 自定义 + newtype CLI 多 Agent 团队

newtype 自建的 2 个核心 CLI 工具完整文档。Oh My OpenCode 自定义指南(1729 lines):2 种方法(配置文件 vs Fork 仓库)/ 中文化 Agent 名称(Sisyphus → 西西弗斯,oracle → 神谕者等 10 个)/ 自动化 perl 替换脚本 / GitHub Release vs npm 部署 / SUL-1.0 许可证 / 8 步实战。newtype CLI 多 Agent 内容团队:`nt` binary / 8 个专业 AI agents(researcher/writer/editor/fact-checker/extractor/analyst/archivist/chief)/ 8 个核心命令(research/write/edit/fact-check/analyze/extract/archive/pipeline)/ JSON envelope + NDJSON stream / 4 个 exit codes / 12 个 analyze frameworks。是 [[newtype-claude-code-best-practices]] 之外的"OpenCode 阵营"工具栈

开发工具CLI 工具多 Agent完整中英