第9页·谢先斌的博客
-
模型量化介绍
模型量化(
Model Quantization)是一种通过降低神经网络模型中参数和激活值的数值精度(如从 32 位浮点数转换为 8 位整数),以减小模型体积、提升计算效率并降低功耗的技术。它是深度学习模型压缩和优化的核心方法之一,尤其适用于在资源受限的设备(如手机、嵌入式设备)上部署模型。2025-02-01 ai aimodelquantization -
embedding model 介绍
模型
嵌入(Embedding)的工作原理是将文本、图像和视频转换为称为向量(Vectors)的浮点数数组,这种向量(称为嵌入向量或Embedding)能够捕捉数据的语义或特征信息,使计算机更容易处理和分析复杂的关系。 -
MoE 混合专家模型介绍
MoE 模型(Mixture of Experts,混合专家模型)是一种机器学习模型的架构设计,旨在通过组合多个专家(子模型)来解决复杂任务。其核心思想是让不同的专家专注于处理输入数据的不同部分或不同模式,最终通过动态权重(由门控网络控制)将各专家的输出融合,形成最终的预测结果。 -
LLM 大模型介绍
大规模语言模型(Large Language Model,LLM)是一种基于人工智能技术的模型,是由具有大量参数(通常数十亿个权重或更多)的人工神经网络组成的一类语言模型,使用自监督学习或半监督学习对大量未标记文本进行训练。大语言模型在 2018 年左右出现,并在各种任务中表现出色。 -
ollam 提供兼容 OpenAI 格式的API
Ollama 提供与 OpenAI API 部分内容的实验兼容性,以帮助将现有应用程序连接到 Ollama。
-
deepseek 相关模型介绍
deepseek 是中国的一家人工智能与大型语言模型公司
2025-01-29 ai aimodelsdeepseekdeepseek-r1deepseek-v3 -
ollama Modelfile 使用
Modelfile是与 Ollama 创建和共享模型的文件,功能类似于 docker 制作镜像的Dockerfile。 -
ollama API 使用
ollama REST API 使用介绍,ollama 提供 ollama 格式的 API 和 openai 格式的 API,本文介绍 ollama 格式的 API
-
Continue 开源人工智能代码助手使用
Continue 是 VS Code 和 JetBrains 内领先的开源人工智能代码助手。
-
cursor: AI代码编辑器
Cursor 使用强大的人工智能来编写、编辑代码
-
Cline: vscode AI 智能编程插件介绍
cline(原名:Claude Dev)一个可在 Vscode 中使用命令行(CLI)和编辑器(Editor)的人工智能助手,名称来自CLIaNdEditor 的缩写 -
AI 智能体(agent)介绍
artificial intelligence (AI) agent是无需人工干预即可执行特定任务的自主(autonomous)智能系统。 -
2025
2025 年度归档文章列表。
2025-01-01 -
OAuth2 协议介绍
OAuth 2.0是一种授权框架(Authorization Framework),用于允许第三方应用在用户授权后,代表用户访问受保护的资源(如用户存储在服务提供方的数据),而无需直接共享用户的凭据(如用户名和密码)。它是现代互联网中广泛使用的协议,支持单点登录(SSO)、API 访问控制等场景。2024-12-29 http/https httpoauth2 -
golang 日志库:uber-go/zap
uber-go/zap 是 Go 中的快速、结构化、分级日志记录方案。
-
Golang lodash 库使用
Lodash 是一个一致性、模块化、高性能的 JavaScript 实用工具库,封装了常用的函数实现,本文介绍 golang 版本的 lodash 实现。
-
Go asynq 异步任务队列
asynq 是 Go 实现的一种简单、可靠、高效的分布式任务队列
-
Go Ent 数据库 GROM 框架
Ent 是 Facebook 开源的,一个简单而又功能强大的 Go 语言实体框架,ent 易于构建和维护应用程序与大数据模型
-
Docker 运行 GUI 软件
本文介绍如何在 docker 容器内运行 GUI 软件,并让宿主机访问到 GUI 窗口
-
start-stop-daemon 管理后台程序
在 debian 和 ubuntu 中,start-stop-daemon 用于启动和停止系统守护程序。