- 资讯公开站Semiconductor Engineering
利用非均匀锤击模式对GPU发起高强度Rowhammer攻击(多伦多大学)
High-Intensity Rowhammer Attack On GPUs Leveraging Non-uniform Hammering (U. of Toronto)
多伦多大学研究人员发表技术论文《GPUThor: Amplifying Rowhammer Attacks via Non-Uniform Patterns to Exploit ECC-Protected GPUs》,提出针对NVIDIA GPU的高强度Rowhammer攻击GPUThor。摘要显示,该攻击通过逆向工程GPU内存访问合并行为,实现非均匀敲击模式以激活攻击行,从而利用带ECC保护的GPU。
意义:揭示GPU显存Rowhammer攻击可绕过ECC防护,对依赖GPU的AI训练与推理环境构成硬件级安全威胁。
- 资讯公开站Semiconductor Engineering
HBM与主机内存并发访问提升LLM推理吞吐(佐治亚理工、NVIDIA、斯坦福)
Concurrent HBM And Host Memory Access Improves LLM Inference Throughput (Georgia Tech, Nvidia, Stanford)
摘要显示,佐治亚理工、英伟达研究院与斯坦福大学研究人员发表技术论文《BOOST: Concurrent Access to Host Memory and HBM to Accelerate LLM Inference》。该论文提出BOOST,称其为首个可并发且按比例访问GPU两级内存的运行时系统,能聚合主机内存与HBM带宽以加速LLM推理。
意义:若成立,该运行时系统可突破HBM容量与带宽瓶颈,为LLM推理提供更高吞吐,对GPU内存管理与推理框架开发者有参考价值。