当前位置: 首页 > news >正文

稠密矩阵和稀疏矩阵的对比

稠密矩阵和稀疏矩阵的对比

  • Dense(稠密矩阵)
  • Sparse(稀疏矩阵)

计算图的邻接矩阵时跑不动,爆内存,运行自动停止:

GPU state:  True
Dataset: assist2012, Ques number: 53091, Skill number: 265Killed

Dense(稠密矩阵)

稠密矩阵(dense matrix)就是每个元素都显式存储在内存里的矩阵。

例如一个 3×3 的矩阵:

A = [[1, 0, 2],
[0, 0, 3],
[4, 0, 5]]

在稠密矩阵里,即使很多元素是 0,0 也会占内存存储。

特点:

内存占用 = 元素个数 × 每个元素大小

矩阵乘法、加法等操作都是针对所有元素进行的

小矩阵无所谓,但大矩阵(尤其是几百万 × 几百万)会 爆内存

Sparse(稀疏矩阵)

**稀疏矩阵(sparse matrix)**只存储 非零元素及其索引

上面的矩阵,如果只存非零元素,会存成:

值: [1,2,3,4,5]
行索引: [0,0,1,2,2]
列索引: [0,2,2,0,2]

内存占用 ≈ 非零元素数 × (值+索引)

当矩阵大而且大部分是 0 时,稀疏矩阵内存节省巨大

3️⃣ 为什么你的 G 计算爆内存

你原来的代码:

G = DV2 * H * W * invDE * HT * DV2

H 是 (百万 × 几百)

HT 是 (几百 × 百万)

当你相乘时,中间结果就成了 (百万 × 百万) 的矩阵 dense

即便大部分元素是 0,也会被完整存储,导致内存瞬间 TB 级别 → 爆掉

4️⃣ 总结

Dense 计算 = 所有元素都存储和计算,即使是 0

Sparse 计算 = 只存储非零元素,用稀疏算法计算,节省内存

对你的超图 G,必须全程稀疏矩阵计算,否则不可能在普通电脑上跑

http://www.xdnf.cn/news/1457983.html

相关文章:

  • 神马 M21 31T 矿机解析:性能、规格与市场应用
  • Python多序列同时迭代完全指南:从基础到高并发系统实战
  • vcruntime140_1.dll缺失?5个高效解决方法
  • 手机秒变全栈IDE:Claude Code UI的深度体验
  • SpringBoot实现国际化(多语言)配置
  • MySQL 8.0 主从复制原理分析与实战
  • 深入解析Java HashCode计算原理 少看大错特错的面试题
  • 多线程——线程状态
  • 并发编程——17 CPU缓存架构详解高性能内存队列Disruptor实战
  • ResNet(残差网络)-彻底改变深度神经网络的训练方式
  • linux——自定义协议
  • 多Agent协作案例:用AutoGen实现“写代码+测Bug”的自动开发流程
  • 秒店功能更新:多维度优化升级,助力商家经营
  • 当 LLM 遇上真实世界:MCP-Universe 如何撕开大模型 “工具能力” 的伪装?
  • 记录相机触发相关
  • 机器学习入门,第一个MCP示例
  • (D题|矿井突水水流漫延模型与逃生方案)2025年高教杯全国大学生数学建模国赛解题思路|完整代码论文集合
  • 生成式引擎优化(GEO):数字营销新标配,企业如何抢占AI搜索流量高地?
  • Trae + MCP : 一键生成专业封面的高阶玩法——自定义插件、微服务编排与性能调优
  • 设计模式六大原则2-里氏替换原则
  • Linux —— 环境变量
  • mysql中find_in_set()函数的使用, ancestors字段,树形查询
  • AI视频画质提升效果实用指南:提升清晰度的完整路径
  • [论文阅读] 软件工程 | REST API模糊测试的“标准化革命”——WFC与WFD如何破解行业三大痛点
  • 【论文阅读】-《Besting the Black-Box: Barrier Zones for Adversarial Example Defense》
  • AutoLayout与Masonry:简化iOS布局
  • (E题|AI 辅助智能体测)2025年高教杯全国大学生数学建模国赛解题思路|完整代码论文集合
  • 解密llama.cpp:Prompt Processing如何实现高效推理?
  • Nginx 实战系列(一)—— Web 核心概念、HTTP/HTTPS协议 与 Nginx 安装
  • Scikit-learn Python机器学习 - 特征预处理 - 归一化 (Normalization):MinMaxScaler