📰 来源: 博客园 随着大语言模型（Large Language Model，LLM）全面步入实际应用阶段，推理部署框架成为模型落地进程中必不可少的重要组成部分。不同框架在性能优化方式、部署复杂度以及适用场景上差异较大，在实际工程选型中往往需要先理解其基本定位与使用方式。关于模型推理部署基础概念的介绍，可参考：大模型学习6-模型量化与推理部署。 本文将对当前常见的LLM推理框架进行简要梳理，并聚焦于本地推理场景中极具代表性的llama.cpp与Ollama，介绍它们的核心原理及基础用法。另一广泛使用的生产级框架vL…
📰 来源: 博客园 做 AI 应用开发的人应该都有过这种经历：明明在提示词里写了一大堆要求，大模型还是会输出不符合预期的内容，甚至一本正经地胡说八道。这时候，与其继续堆砌文字说明，不如试试 LangChain 里的 FewShotPromptTemplate—— 用几个简单的示例，就能让大模型瞬间明白你想要什么。视频在这里《17. LangChain FewShotPromptTemplate 少样本应用实战》。 这个工具的底层逻辑是少样本学习，说白了就是让大模型先看几个正确的示范，再去处理新的任务。不管是翻译、…
📰 来源: 博客园 多模态 AI 是具备全感官交互能力的智能系统，集感知、理解、内容生成于一体，全面支持文本、图片、音频、视频等多类型信息的输入输出。 喜欢看视频的，请看《16. LangChain ChatPromptTemplate多模态应用实战》 在实际开发过程中，LangChain框架为多模态交互提供了便捷的支持，其中ChatPromptTemplate组件就原生具备多模态消息格式化的能力，无需额外进行复杂的配置，就能轻松对接多类型输入，大大降低了多模态应用的开发门槛。 实际使用时，我们可以以图片模态为…
📰 来源: 博客园 1、关于 SolonCode（终端编码智能体） SolonCode 是由杭州无耳科技有限公司研发的企业级 终端编码智能体。它不仅是一个命令行工具，更是深度集成的“数字员工”，旨在通过全中文指令集，实现开发与运维任务的自动化与智能化。 核心差异化：SolonCode vs Claude Code https://gitee.com/opensolon/soloncode https://gitcode.com/opensolon/soloncode https://github.com/opens…
📰 来源: 博客园 微软于 2026 年 5 月 12 日发布了 .NET 11 的第四个预览版（Preview 4）。这个版本延续了 .NET 11 系列的高频迭代节奏，在运行时异步模型、进程管理 API、ASP.NET Core 的 AI 集成以及 EF Core 的向量搜索等多个方向上都带来了实质性进展。 本文按领域梳理了本次预览版的核心变更，帮助开发者快速定位自己关心的改进点。 一、概览：Preview 4 覆盖领域 二、Libraries：类库重大更新 2.1 Process 类大规模 API 扩展 本次…
📰 来源: 博客园 原题链接：https://codeforces.com/gym/106495/problem/E 将 \(1 \sim N\)内的数，按其质因数分解序列的字典序进行排序，并回答\(Q\)次查询，每次求排在第\(K\) 位的数字是谁。 赛时队长大大灵机一动，突然受2025年省赛B题[https://qoj.ac/contest/2021/problem/10724] 暴力解法\(O(N\ logN)\)：跑两次for循环，用每个数的最小质因数标记该数 的思路启发，神来之手一发ac / 把队长ac代…
📰 来源: 博客园 React 19 引入的 useActionState 是近年来 React Hooks 体系中设计最精巧的 API 之一。它表面上只是一个管理表单状态的 Hook，但内部却隐藏着三 Hook 协作、循环队列调度、Transition 上下文恢复、Thenable 状态追踪等一系列精妙的工程实现。我们将从源码出发，逐层剥开它的架构设计，帮助我们真正理解这个 API 背后的设计哲学。 一、为什么 useActionState 值得深入分析？ 在 React 19 之前，处理一个带有异步提交、loa…
📰 来源: 博客园 New API 是一个开源的 LLM 网关平台，把多个 AI 服务商的接口聚合成标准 OpenAI 兼容 API。企业采购了各家模型的 Token Plan 之后，需要一个统一入口来分发、管控、计费。这篇文档记录的是：怎么用 New API 把这件事做成。 这是整件事的地基。New API 支持 Docker 单容器、Docker Compose、1Panel、宝塔、集群部署等多种方式。企业内网场景推荐 Docker Compose，自带 postgres 和 Redis，数据不丢。 一台 Li…
📰 来源: 博客园 <dependency> <groupId>commons-collections</groupId> <artifactId>commons-collections</artifactId> <version>3.2.1</version> </dependency> 入口：org.apache.commons.collections.Transformer 我们这里找到了有重写transform方…
📰 来源: 博客园 很多人用 AI，总觉得它答非所问、输出的内容永远差一口气，其实问题大多不在 AI 本身，而在于你没跟它说清需求 —— 提示词，就是你和 AI 高效沟通的核心语言。它本质上是给 AI 的一套完整行动指令，核心要讲透三件事：你到底想要什么、这件事要按什么逻辑和标准做、你最终期待拿到什么样的结果。 如果喜欢看视频学习的，可以看这个《13. 2 分钟动画学会提示词，从此 AI 听你指挥》，喜欢看文章的接着往下看。 这就像你给厨师下单，不能只干巴巴说一句 “做个菜”，得说清要什么菜式、忌口什么食材、口味…
📰 来源: 博客园 在人工智能架构的深层演进中，系统设计正在经历一场从孤立的大语言模型（LLM）端点向复杂的、分布式的多智能体系统（Multi-Agent Systems, MAS）的根本性范式转变。随着企业级智能化应用的广泛部署，智能体之间的通信和协同能力逐渐取代了单一模型的参数规模，成为决定整个数字生态效率的核心战略瓶颈。由于不同的智能体往往基于异构的框架（如Semantic Kernel、LangGraph或定制编排器）构建，缺乏统一的通信模型导致了系统集成的脆弱性、逻辑的冗余以及智能的孤岛化。在这一背景下，…
📰 来源: 博客园 上篇文章聊了为什么2026年个人博客反而“文艺复兴”了，后台有不少兄弟问：那现在到底怎么建一个自己的博客？用什么工具？花钱不？会不会很麻烦？ 今天就专门写一篇，把2026年建个人博客的各种方案给你捋一遍。从零代码到全自建，从免费到付费，总有一款适合你。文章有点长，但看完你心里就有数了。 一、先想清楚一个问题：你为啥要建博客？ 在选方案之前，先问自己一个问题：你写博客的目的是什么？ 只是随手记录，比如读书笔记、日常感悟、技术踩坑→ 方案一（零代码/AI工具）或方案二（简单托管） 做技术分享，代码多…
📰 来源: 博客园 大模型最头疼的问题是什么？"幻觉"——一本正经地胡说八道。RAG（检索增强生成）是如何解决这个问题的？这篇文章带你从零理解RAG技术。 一、大模型的三大"知识痛点" 1.1 痛点一：知识效率低 你以为大模型读了那么多书，应该记得很牢？ 实际上，模型对知识的记忆效率惊人地低： 大模型就像一个"记忆力很差的学生"，读了100遍才记住一个知识点，而且还会记错。 1.2 痛点二：知识是静态的 大模型的知识来自预训练数据，有一个致命问题：时效性。 问："2024年世界杯冠军是谁？" GPT-4（训练数据截…
📰 来源: 博客园 2025年图灵奖颁给了强化学习的奠基人Richard Sutton和Andrew Barto。为什么强化学习如此重要？它如何从训练老鼠变成训练大模型？这篇文章带你一探究竟。 一、一个老鼠实验引发的革命 1.1 斯金纳箱：强化学习的源头 1930年代，心理学家斯金纳做了一个著名实验： 老鼠偶然按压杠杆 → 食物掉出来（奖励） 多次之后 → 老鼠主动频繁按压杠杆 "按杠杆 = 有吃的！" 这就是强化学习的核心思想：通过尝试动作，根据获得的奖励调整行为。 半个世纪后，这个思想启发了AI研究者： 如果老…
📰 来源: 博客园 1. 项目定位与核心能力辨析 1.1.1 代码分析工具而非代码生成器 graphify-dotnet 本质上是一款代码分析与知识图谱构建工具，而非直接通过自然语言生成 .NET 代码的代码生成器。从项目描述来看，其核心定位被清晰地表述为："Build AI-powered knowledge graphs from any codebase. Understand structure you didn't know was there."（从任意代码库构建 AI 驱动的知识图谱，发现你未曾知晓的…
最近评论
宝宝 发布于 8 年前（02月27日）
GPU Mining 发布于 8 年前（02月19日）
Timothynix 发布于 8 年前（02月08日）
xing1982 发布于 8 年前（02月04日）
additional info 发布于 8 年前（01月28日）
