
由服务器、执行器、看门狗组成的三件套把推理任务排进一群休眠Mac的队列,承诺更低成本,且数据永不离开大楼。
每一家Mac密集型企业都熟悉这个模式:强大的Apple silicon机器整夜熄灯闲置,而白天的AI推理却跑在稀缺且昂贵的GPU容量上。Apple的机器学习研究人员相信,这两个问题可以互相抵消。
他们的证据来自一篇新发表的白皮书——《Minions: A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices》。这篇论文的核心观察是:稀缺的GPU容量拖延推理工作并推高其价格——与此同时,性能可观的Mac却在桌面和机架上闲置。Minions这项内部技术正是针对这种错配,把联网的Mac联合成一个能够吸收推理任务的虚拟GPU云。
该系统建立在三个组件之上。Minion Server把进来的工作切分并放入队列。Executor随后把这些排队任务调度到每一台可用的Mac上——用研究人员的说法,就像夜店领位员引导宾客。Watchdog补齐了三件套,监控活动任务并检查故障——鉴于任何一台参与的Mac都可能在计算中途关机或滑入睡眠模式,这是一道必不可少的保障。
目前,Minions只存在于Apple内部,外部组织无法使用。
尽管如此,这项技术勾勒出一套独特的企业打法。利用自有Mac机队做分布式推理,可以降低AI工作负载的服务成本,减轻对租用GPU容量的依赖。它还带着一份治理红利:由于计算运行在早已位于公司内部的机器上,敏感企业数据可以在不离开公司围墙的情况下完成分析。Apple是否会将Minions产品化,论文并未说明,但其框架很清晰——闲置的Apple silicon是企业已经买下、通电并安装完毕的分布式AI数据中心的可靠地基。对于权衡推理经济性的买家来说,仅这一论点就值得把论文细读一遍。
萬安算交所 AIXX · 萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅