基于 Golang 模拟实现一个简化的 DeepSeek AI 模型 GRPO 算法推理

基于 Golang 模拟实现一个简化的 DeepSeek AI 模型 GRPO 算法推理

模拟实现一个简化的 GRPO (Group Relative Policy Optimization) 推理模型。GRPO 是由 DeepSeek 提出的强化学习算法,用于训练大型语言模型

它的核心特点是不需要训练价值函数,而是通过从同一问题的多个输出中计算平均奖励来替代这一过程,显著减少了内存和计算资源的消耗 。

简化版 GRPO 推理模型:
Read more
Thoughts on Agent-based Enterprise Application Architecture.(Agent 企业级应用架构思考和挑战)

Thoughts on Agent-based Enterprise Application Architecture.(Agent 企业级应用架构思考和挑战)

“不确定性不是缺陷,而是新范式的特征,必须学会“回忆”,但同时也要学会“遗忘”。”

AI 时代,智能体本身的概率输出让软件走向不确定,或者说更个性。但这对企业级产品的准确率形成巨大挑战,怎么看待这种现状、机遇和商业风险?智能体和传统应用范式下在业务落地间角色和职能的划分和原则?

这是目前 AI 面临的核心问题,触及了 AI 原生时代企业软件架构、产品设计与组织协作的根本性变革和创业者的产品决策方向。

Read more
nanochat-中文翻译版本(含代码注释和文档翻译,方便中文语境快速阅读和查看)

nanochat-中文翻译版本(含代码注释和文档翻译,方便中文语境快速阅读和查看)

🔗 nanochat-中文翻译版本(含文档和代码注释)

nanochat 项目源码地址

感谢原作者:Andrej karpathy

这个仓库是一个完整的类 ChatGPT 大语言模型(LLM)的全栈实现,采用单一、简洁、最小化、可定制、依赖轻量的代码库。nanochat 设计为通过像speedrun.sh这样的脚本在单个 8XH100 节点上运行,从开始到结束运行整个流程。这包括分词、预训练、微调、评估、推理以及通过简单 UI 提供 Web 服务,让你可以像使用 ChatGPT 一样与你自己的 LLM 对话。nanochat 将成为 Eureka Labs 正在开发的 LLM101n 课程的顶点项目。

Read more
microgpt.py Andrej Karpathy (AK)源码详解GPT训练和推理艺术过程(附中文注释)
Thoughts on Agent-based Enterprise Application Architecture.(Agent 企业级应用Agent-skills技术原理以及架构思考和挑战)

Thoughts on Agent-based Enterprise Application Architecture.(Agent 企业级应用Agent-skills技术原理以及架构思考和挑战)

Agent与Skill技术原理与实践:从理论到生产落地的思考心得和体会

概述:智能Agent的时代已来

在人工智能技术飞速发展的今天,Agent(智能代理)和Skill(技能模块)已成为构建下一代AI应用的核心架构。不同于传统的单一大模型调用,Agent架构通过将复杂的任务分解为多个可组合的技能模块,实现了更灵活、更可控、更专业的智能系统。

Read more
Agent Skill技术实践:简单构建基于Qen与DeepSeek大模型的智能技能体系实践
AI drawing ControlNet local implementation steps by stable-diffusion-webui(AI 绘画 ControlNet 本地构建实施步骤 by stable-diffusion-webui)

AI drawing ControlNet local implementation steps by stable-diffusion-webui(AI 绘画 ControlNet 本地构建实施步骤 by stable-diffusion-webui)

Install stable-diffusion-webui

[Note]:

  • Unable to install due to network problems, it is recommended to use GIT source pull installation
    (因网络问题导致无法安装,故建议使用 GIT 源码拉取安装方式)
  • Due to the large size of the model file, it is recommended to ensure sufficient space before installation: At least [source code + data model + extension]25G
Read more