全部 其他 协议 工具 框架 概念 算法 语言

算法 47

Autoregressive Decoding
大多数 LLM 服务系统使用的基线解码方式,模型一次生成一个 token。
BLAS (Basic Linear Algebra Subprograms)
基础线性代数子程序,是一组用于执行向量和矩阵运算的低级例程标准,常被 NumPy 等库调用以加速计算。
BLOOM-WILT
一种 Logit 倾斜行为探测方法,通过主动倾斜 logit 分布引导模型暴露部署环境中罕见的危险行为,解决传统红队测试覆盖不足的问题。
BPE(Byte Pair Encoding)
一种主流的分词算法,通过迭代合并频率最高的字节对来构建词表。广泛应用于大语言模型的 tokenizer 中。
Base84
一种编码方案,论证 84 是文件名安全字符集下的最优编码基数,比 Base64 多约 31% 信息密度。
Chain-of-Self-Questioning(CoSQ)
一种让模型在回答前自我追问若干子问题、通过子问题置信度分布判断是否应该弃答的方法。将元认知外化为可审计的推理链,适用于选择性风险控制场景。
ConvMem
卷积式记忆结构,用于缓解固定上下文窗口的瓶颈,把长上下文推理从塞进窗口改为可卷积检索的记忆层。
DPO
Direct Preference Optimization,一种比 RLHF 更轻量的偏好对齐方法,但仍需梯度计算。
DPO(Direct Preference Optimization)
一种直接偏好优化方法,用于大语言模型的偏好对齐。相比 RLHF,DPO 更轻量,但仍需要梯度计算。
F1
F1 分数,精确率与召回率的调和平均数,常用于综合衡量分类模型的性能,但会将误报与漏报等同对待。
G1 Garbage Collector
Java 27 中成为默认垃圾收集器的 G1 GC。
GPU lattice siever
一种利用 GPU 加速的格筛法实现,用于大整数分解中的筛法步骤,可显著提升分解效率。
GPU-CFR
一种算法-硬件协同的通用模板,结合 GPU 加速和反事实 regret 最小化,用于高效计算。
Hashcash
一种提议的工作量证明方案,最初用于减少电子邮件垃圾邮件,通过要求发送方付出计算成本来限制滥用。
LRU
最近最少使用淘汰策略,在 agentic 场景的 KV-cache 淘汰策略横向对比中表现为强基线,其命中率并未被新论文策略显著超越。
LRU (Least Recently Used)
一种缓存淘汰策略,优先移除最近最少使用的数据;在KV缓存场景中常被用作基线策略。
Oilpan
Chromium 团队为管理 C++ 对象图而采用的垃圾收集器,用于处理 DOM 周围与 JavaScript 对象紧密交织的 C++ 对象。
Proof-of-Work
一种要求请求方完成一定计算量才能获得服务的机制,源自 Hashcash,用于抵御垃圾邮件和自动化爬取。
RL
强化学习(Reinforcement Learning),一种通过奖励信号训练模型决策的机器学习范式。
RLHF
Reinforcement Learning from Human Feedback,基于人类反馈的强化学习,用于对齐大模型行为。
RLHF(Reinforcement Learning from Human Feedback)
基于人类反馈的强化学习方法,用于对齐大语言模型的行为与人类偏好。通常需要训练奖励模型并通过强化学习优化策略。
RSA
一种公钥加密算法,其安全性依赖于分解大合数(半素数)的难度。
SAE
稀疏自编码器(Sparse Autoencoder),Anthropic 用于可解释性研究的模型内部表征分解方法。
Semigroup-JEPA
在 JEPA 世界模型上引入半群结构约束的方法,让隐空间动力学满足时间组合律,从而在未见物理配置上实现零样本泛化。
Speculative Decoding
一种大语言模型推理优化技术,允许在单次目标模型前向传播中验证多个草拟的 token,从而提升输出吞吐量。
TALA
Terrastruct's AutoLayout Algorithm,一种专为软件架构图设计的新型自动布局算法,主要采用正交布局引擎。
TANGO
一种全身视觉-语言-动作(VLA)模型,用于人形机器人在杂乱室内环境中的导航,直接输出控制指令而跳过 2D 路径规划中间层。
UnigramLM
一种基于一元语言模型的分词算法,通过概率模型选择最优分词方案。与 BPE 并列为大语言模型 tokenizer 的主流算法之一。
Vending-Bench
一种用于模拟 AI 系统在现实世界中自主获取资源行为的仿真基准,但被认为无法完整反映模型在真实世界中的表现。
Voronoi Noise
一种基于 Voronoi 图(维诺图)的噪声生成算法,通过计算空间中各点与最近特征点的距离来生成具有几何感和有机感的纹理图案,常用于着色器(shader)中作为背景或程序化纹理。
ZipCodec
超低帧率流式语音编解码方案,将神经音频编解码的压缩维度从比特率转向帧率,以降低流式对话系统的延迟与算力开销。
gearhash
一种滚动哈希(rolling hash)算法,常用于内容定义分块(content-defined chunking),通过滑动窗口计算数据块的哈希值以确定分块边界。
三体问题(three-body problem)
经典力学问题,指三个质量体在引力作用下的运动没有通解,但存在数千个周期轨道,即三个质量体相互绕行一个周期后精确回到初始位置和速度。
关键 Token 自适应检索
在仓库级代码生成中识别 API 签名、类型声明等关键 token 并分配更高检索权重的方法,仓库规模越大收益越明显。
判别式世界模型
用于 Web Agent 的模型,显式预测并排序 Web 状态而非生成候选动作,比生成式模拟更省算力,更适合测试时搜索。
反事实遗憾最小化(CFR)
一种用于博弈论求解的数值算法,长期表现为 CPU 比 GPU 更快,原因是每轮迭代的博弈树遍历分支多、内核启动频繁、访存不规则。
域随机化
在仿真训练中随机化环境参数以提升模型泛化能力的技术,用于缩小仿真与真实世界之间的差距。
尺寸-权重前沿方法
针对合成数据在统计推断中引入偏差的问题,提出在真实数据稀缺场景下平衡偏差与方差的系统性方案。
扩散模型 (Diffusion Model)
一类生成模型,通过逐步去噪过程从随机噪声中生成图像、音频等数据。
污点分析
一种程序分析技术,追踪不可信输入在程序中的传播路径,以判断其是否到达敏感操作,常用于安全漏洞检测。
滑动窗口注意力 (Sliding-Window Attention, SWA)
一种注意力机制,每个token只关注其邻近窗口内的token,从而降低计算复杂度并支持长序列处理。
磁性特征鉴定法
一种通过读取陶器的磁性签名来判断其是否为古代文物的方法,由加州大学圣地亚哥分校斯克里普斯海洋研究所团队开发。
算子融合
将多个计算算子合并为一个以减少内存访问和计算开销的推理优化技术。
自适应探索
一种让模型在训练或推理过程中动态调整探索策略的机制,本文中用于说明大语言模型借此发展出新的社会偏见。
轨迹感知的 SWE Agent 评估
将评估信号分解到探索轨迹上,定位失败发生在检索、规划还是补丁生成环节,而非仅关注 pass@k 指标。
逆运动学 (Inverse Kinematics)
在动画或机器人学中,根据末端执行器(如脚部)的目标位置反推关节角度的方法,常用于实现脚部锁定以避免滑动。
零阶优化
一种无需计算梯度的优化方法,绕开反向传播对显存和计算图的依赖,可用于偏好对齐等任务。