当前位置: 首页 > news >正文

【lucene】AttributeSource概述

`AttributeSource` 是 Lucene 分析链(Tokenizer / TokenFilter)的 “属性仓库”:

 

它把 所有需要跨 token 传递的信息(词、偏移、位置、payload …)抽象成 Attribute 接口,并在 一条 TokenStream 链里共享同一份实例,从而避免每轮 token 创建/拷贝对象,保证 零拷贝 + 高性能。

 

---

 

1. 核心职责

 

功能 说明 

仓库注册 通过 `addAttribute(Class<T>)` 声明“我要用哪种属性” 

实例共享 整个链共用同一份属性对象,TokenFilter 只读/改属性,不重新 new 

反射生成 内部用 `Class.newInstance()` 缓存具体实现,避免反射开销 

 

---

 

2. 典型 Attribute 一览

 

Attribute 接口 实现类 作用 

`CharTermAttribute` `CharTermAttributeImpl` 当前 token 字符串 

`OffsetAttribute` `OffsetAttributeImpl` 起始/结束偏移 

`PositionIncrementAttribute` `PositionIncrementAttributeImpl` 位置增量 

`PayloadAttribute` `PayloadAttributeImpl` payload 字节 

`TypeAttribute` `TypeAttributeImpl` token 类型 

 

---

 

3. 使用示例(自定义 TokenFilter)

 

```java

public final class MyFilter extends TokenFilter {

    private final CharTermAttribute termAtt = addAttribute(CharTermAttribute.class);

    private final OffsetAttribute offAtt = addAttribute(OffsetAttribute.class);

 

    @Override

    public boolean incrementToken() throws IOException {

        if (!input.incrementToken()) return false;

        termAtt.setEmpty().append("prefix_").append(termAtt);

        offAtt.setOffset(offAtt.startOffset(), offAtt.endOffset() + 3);

        return true;

    }

}

```

 

整个链共享 `termAtt` / `offAtt`,无需拷贝。

 

---

 

4. 一句话总结

 

> `AttributeSource` 是 Lucene 的“零拷贝属性仓库”,让 TokenStream 链里的所有组件共享同一份 Attribute 实例,实现高效、低 GC 的流式分词。

http://www.xdnf.cn/news/1184293.html

相关文章:

  • Ethereum:Geth + Clef 本地开发环境,如何优雅地签名并发送一笔以太坊交易?
  • Linux 内存深度剖析:栈与堆的底层机制与实战指南
  • 汽车免拆诊断案例 | 2010款奔驰E200 CGI车EPS OFF灯异常点亮
  • MCP 与传统集成方案深度对决:REST API、GraphQL、gRPC 全方位技术解析
  • Linux725 磁盘阵列RAID0 RAID1
  • Linux库——库的制作和原理(1)_回顾动静态库、制作使用库
  • docker-compose:未找到命令的检查步骤和修复
  • 从数据孤岛到融合共生:KES V9 2025 构建 AI 时代数据基础设施
  • 65.第二阶段x64游戏实战-替换游戏lua打印可接任务
  • 【论文阅读】-《GenAttack: Practical Black-box Attacks with Gradient-Free Optimization》
  • 人工智能概述
  • 智慧电视:开启养老新时代
  • Linux 设备驱动模型
  • LLM:Day3
  • 计算机算术4-整形乘法
  • UE5多人MOBA+GAS 30、技能升级机制
  • Android补全计划 DrawerLayout使用
  • Chromadb 1.0.15 索引全解析:从原理到实战的向量检索优化指南
  • 飞行控制领军者 | 边界智控携高安全级飞控系统亮相2025深圳eVTOL展
  • 算法思维进阶 力扣 62.不同路径 暴力搜索 记忆化搜索 DFS 动态规划 C++详细算法解析 每日一题
  • 广州 VR 安全用电技术:工作原理、特性及优势探析​
  • 用 Cherry Studio 与 Playwright MCP 实现智能浏览器自动化
  • 多租户系统中的安全隔离机制设计
  • vue使用xlsx库导出excel
  • 负载均衡:提升业务性能的关键技术
  • ATR2652SGNSS全频段低噪声放大器
  • reflections:Java非常好用的反射工具包
  • centos7 安装docker docker-compose
  • Java环境配置之各类组件下载安装教程整理(jdk、idea、git、maven、mysql、redis)
  • 深入解析MongoDB分片原理与运维实践指南