IBM Research最近发布了名为NorthPole的AI芯片，该芯片受到人脑运作的启发，并声称在性能上超越了4纳米GPU，适用于边缘计算等多个领域。NorthPole芯片是IBM于2014年发布的“模拟人脑运作”的TrueNorth芯片的继任者，由TrueNorth芯片的负责人Dharmendra Modha领导开发。
与传统芯片不同的是，NorthPole芯片内置存储器，这消除了“冯・诺伊曼瓶颈”，从而提高了其AI推论性能。虽然采用12纳米工艺，但NorthPole芯片在800平方毫米上安置了220亿个晶体管，拥有256个核心，以8位精度每核心每个周期可以执行2048次操作，而在4位或2位精度下，操作次数可以翻倍。
NorthPole的架构模糊了运算与存储之间的界线，这使得它更容易集成到系统中，减少了设备的负载。在ResNet-50模型上的测试中，NorthPole在与基于12纳米工艺的GPU竞品相比，每秒的帧识别效率高出竞品25倍，而且在延迟和计算空间需求方面表现优于市场上所有主流架构，甚至超越了基于4纳米工艺的GPU。
然而，NorthPole的弱点在于它只能轻松读取内部存储的本地数据，当需要读取外部数据时，它失去了计算速度的优势。NorthPole芯片可能不适合承载像GPT-4这样的大型模型，但对于许多企业的模型推论需求可能非常合适。IBM Research正在研究NorthPole的适用领域，特别是在需要即时处理大量数据的边缘计算领域，如自动驾驶和遥感通信等领域，NorthPole可能具有广泛的应用前景。
