Tokenizer 解析

写在前面 在上一篇文章中,完整地走了一遍 LLM 的架构全景图。那篇文章提到:原始文本进入模型的第一...

读出全部

从零开始,搞懂大语言模型的“五脏六腑”——LLM架构全景解析

写在前面 AI无疑是最近几年最火的东西了,其能力与发展速度都让人惊叹,从17年的Transforme...

读出全部

vllm部署本地模型的一些小实验

我在本地单节点双卡服务器上做了一次vLLM 部署测试:哪些参数真的有用? 最近我在本地一台单节点双卡...

读出全部

Linux 用户与组管理笔记

最近组里服务器重装系统,从CentOS7重装为了Ubuntu22.04LTS,对于原先的一些用户与组...

读出全部

Linux 文件权限学习笔记(基础权限 · ACL · setgid · umask)

一、权限是什么? Linux 是多用户多任务系统,文件权限决定了“谁能对文件做什么”。对运维和日常使...

读出全部

Linux 系统目录笔记

一、Linux 目录树是什么? Linux 系统的所有文件和目录都从根目录 / 开始,形成一个倒挂的...

读出全部

正则表达式学习笔记

一、正则表达式是什么? 正则表达式(Regular Expression,简称 regex 或 re...

读出全部

Mermaid 图表绘制学习笔记

一、Mermaid 是什么? Mermaid 是一个基于 JavaScript 的图表绘制工具,核心...

读出全部

Markdown 语法学习笔记

一、Markdown 是什么? Markdown 是一种轻量级标记语言,核心思想是“用纯文本格式书写...

读出全部

清明踏青,去公园吧!

写文章的时候清明节已经过去有一段时间了,这里只是回忆一下自己今年清明节假期的一些见闻。 放假的前一晚...

读出全部