人工智能可能被攻击!造成大模型混乱!人工智能已经融入了我们现代生活中。
人工智能可能被攻击!造成大模型混乱!人工智能已经融入了我们现代生活中。从诊断医院疾病到阻止银行欺诈交易,人工智能已为人类提供服务。但是,如果这些机器被网络攻击,会怎么样呢?分析认为,一种曾经被认为只影响传统处理器的内存攻击,未来也会破坏推动当今人工智能革命的图形处理单元(GPU)的稳定。该漏洞源于一种名为Rowhammer的攻击。多年来,安全研究人员已经知道,通过反复敲击(快速访问)特定的存储单元行,它们可能会在相邻的单元中引起电干扰。这些干扰反过来又是翻转位:代表0和1的微观数据单位。即使是一个翻转位也可以以绕过软件防御的方式重写信息,为操纵或接管系统打开大门。直到最近,Rowhammer还被认为是中央处理器(CPU)的问题,配备高速图形双倍数据速率(GDDR)存储器的GPU也不能幸免。GDDR内存因其快速传输大量数据的能力而备受推崇,是驱动游戏和机器学习的图形卡的标准配置。然而,如果落入坏人之手,这种力量也可能是它的致命弱点。人工智能的灾难性脑损伤该团队证明,对GPU进行精心执行的Rowhammer式攻击可以摧毁AI模型。通过在神经网络权重的指数中翻转一个比特,他们将模型的准确率从可观的80%降低到灾难性的0.1%。这种崩溃描述为人工智能的“灾难性脑损伤”。经过训练的人工智能系统,如果在硬件层面受到损害,可能会突然变得无用,甚至危险。其影响远远超出了学术界的好奇心。医院、金融机构和政府越来越依赖GPU驱动的人工智能。如果攻击者能够悄悄地破坏这些模型,后果可能会波及整个行业,暴露曾经被认为强大的系统中的漏洞。AI技术危害AI发展风险人工智能脆弱性