2025/09/07 02:41:08 1,709次浏览

AI自动生成的苹果芯片Metal内核,比官方的还要好?

Gimlet Labs的最新研究显示,在苹果设备上,AI不仅能 自动生成Metal内核 ,还较基线内核实现了 87% 的PyTorch推理速度提升。

更惊人的是,AI生成的Metal内核还在测试的215个PyTorch模块上实现了平均 1.87倍 的加速,其中一些工作负载甚至比基准快了 数百倍

真就AI Make苹果AI Great Again?

用AI为苹果设备生成内核

先说结论:通过AI自动实现内核优化,可以在无需修改用户代码、无需新框架或移植的情况下,显著提升模型性能。

为了证明这一点,研究人员选取了来自Anthropic、DeepSeek和OpenAI的8个顶尖模型,让它们为苹果设备生成优化的GPU内核,以加速PyTorch推理速度。

至于为什么是苹果?别问——问就全球最大硬件供应商(doge)

接下来,让我们看看研究人员是怎么做的:

实验设置

首先,在模型选择方面,参与测试的模型包括:claude-sonnet-4、claude-opus-4;gpt-4o、gpt-4.1、gpt-5、o3;deepseek-v3、deepseek-r1。

其次,在测试输入方面,研究使用了KernelBench数据集中定义的PyTorch模块,并选取了其中215个模块进行测试。

这些被选取的模块被划分为三个等级,分别是第一级的简单操作(如矩阵乘法、卷积);第二级是由第一级操作组成的多操作序列;第三级是完整的模型架构(如 AlexNet、VGG)。

再次,在评估指标方面,研究人员主要关注两个指标:一是AI生成内核的正确性,二是其相较于基准PyTorch的性能提升。

最后,研究使用的苹果硬件为 Mac Studio (Apple M4 Max chip) ,Baseline为 PyTorch eager mode (划重点,一会要考)

实验测试

在上述准备完毕后,研究团队展开了测试。

测试流程如下:

如上所说,研究者首先关注AI生成内核的正确性。

实验表明,正确性会随着尝试次数的增加而提升。以 o3 为例:第一次尝试就有约 60% 的概率得到可用实现,到第 5次 尝试时可用实现比例达到 94%

此外,研究还发现推理模型非常擅长跨层级生成正确的内核,尽管非推理模型有时也能做到这一点。

那么,AI生成的内核表现如何呢?

实验结果相当惊艳,几乎每个模型都生成了一些比基准更快的内核。

例如,GPT-5在一个Mamba 25状态空间模型上实现了 4.65倍 的加速,其主要通过 内核融合 (kernel fusion) 来减少内核调用的开销,并改善内存访问模式。

在一些案例中,o3甚至将延迟提升了超过 9000 倍!

总体而言,GPT-5平均可以带来约20%的加速,其他模型则落后。

不过,GPT并非是门门最优,研究人员发现GPT-5在 34% 的问题上生成了 最优解

但在另外 30% 的问题上,其他模型生成的解比GPT-5更优!

这就意味着没有单一模型能在所有问题上都生成最优内核。

因此,如果把多个模型组合起来,就能更大概率生成最优内核。

于是乎,研究人员又展开了智能体群体实验(Agentic Swarm)。

智能体群体实验

果不其然,相较于单个模型,智能体群体策略实现了更高的性能提升。

与GPT-5相比,智能体群体在各层级平均加速 31% ,在Level 2问题上加速 42%

在几乎没有上下文信息的情况下(仅有输入问题和提示),智能体群体就已经表现得相当不错。

接下来,研究人员尝试为智能体提供更多上下文,以获取更快的内核。

这里主要包含两个额外的信息来源:

在具体的实施步骤中,研究者先将截图处理任务分配给一个子智能体(subagent),让它为主模型提供性能优化提示。

在收到提示后,主智能体先进行一次初步实现,然后对其进行性能分析和计时。

随后,再将截图传给子智能体以生成性能优化提示。

实验表明,在上下文配置方面也没有所谓的“单一最佳”方案。

不过,在具体的性能加速方面,加入这些额外上下文实现了平均1.87倍的加速,相较于普通智能体仅实现的1.31倍的平均加速,额外上下文将提升幅度提高了三倍!

有提升,但看跟谁比

为了更深入地讨论,我们有必要先回顾一些背景知识。

在PyTorch中,我们通常会调用如Sequential、ReLU这样的函数。

在具体的执行中,PyTorch会先将函数拆解为张量运算(矩阵乘法、加法等),再交给GPU执行。

这时就需要GPU内核(kernel)负责把这些数学操作转成GPU可理解的低级并行指令。

因此,在某种程度上,我们可以说GPU内核就像C编译器一样,其性能对于运算效率至关重要。

而上面这篇工作所做的,就是让原本必须由工程师手写的内核优化交给AI自动完成,并测试它的性能。

不过,问题就来了。

众所周知,苹果硬件并不像英伟达的CUDA一样,对PyTorch有很好的优化。

因此,这篇研究直接拿MPS后端原生实现和AI生成的内核对比是有失公允的。

不少眼尖的网友也是发现并指出了这一点:文章里所用的baseline是eager mode,这通常只用于训练调试或指标计算,不会被真正部署到设备上。

在真实部署中,一般会先把模型导出为ONNX,再编译成设备原生格式(Metal、CUDA 或 ROCm 等),这样效率会比直接用PyTorch eager mode高很多。

所以,无论内核是工程师手写,还是AI自动生成,经过优化的GPU内核都会比未优化的PyTorch推理快得多。

因此,拿调试过的内核和eager比,多少有点奇怪。

对此,研究人员回应道:

研究的目的是在内核工程方面获得人类专家一定程度的效益,而无需开发人员的额外投入,希望通过A将部分流程自动化。

所以,重点不在于性能提升,而在原型验证。

对此,你怎么看?

[1]https://gimletlabs.ai/blog/ai-generated-metal-kernels#user-content-fn-4

[2]https://news.ycombinator.com/item?id=45118111

[3]https://en.wikipedia.org/wiki/Compute_kernel

[4]https://github.com/ScalingIntelligence/KernelBench/

AI生成苹果Metal内核,PyTorch推理速度提升87%
AI生成苹果Metal内核,PyTorch推理速度提升87%

刘宇宁一个人打六份工

「活动」kumawubiaotitest

6.71MB
版本V3.56.38
下载男人互摸🐔🐔私密视频安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(71人)
评论 16
AI生成苹果Metal内核,PyTorch推理速度提升87%截图0 AI生成苹果Metal内核,PyTorch推理速度提升87%截图1 AI生成苹果Metal内核,PyTorch推理速度提升87%截图2 AI生成苹果Metal内核,PyTorch推理速度提升87%截图3 AI生成苹果Metal内核,PyTorch推理速度提升87%截图4
详细信息
  • 软件大小: 51.5MB
  • 最后更新: 2025/09/07 02:41:08
  • 最新版本: V6.36.7
  • 文件格式: apk
  • 应用分类:ios-Android 2024国产无套✅免费
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.303以上
应用介绍
一,操非洲大屁股,被❌到爽🔞流片动漫网站
二,女人高潮一级A片黄毛,涩里番❤️成人
三,星穹铁道❌AV黄漫网站,JAV free Online ✅
四,白丝班长玩我🐔,护士打扑克❌❌黄
五,无尽❌裸体触手❌女仆,女仆扒开🍑让男人玩
六,VAM国漫3DMAX站,男同露大jiji🈲㊙️,无码㊙️人妻一区至六区
七,最新中国老奶奶
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
女人扒开腿㊙️让男人桶
  • 18㊙️免费视频网站

    wwwwxxxx18中国美女计划

    高清🈚码🔞❌♋免费看片

    44.70MB
    102好评

    欧美高潮❌❌❌❌吃电

  • 免费直播sdk

    少妇videosBigAsssexHD,

    欧美深夜无码小黄片

    34.37MB
    1964好评

    cg51每日大爆料

  • 印度高清❌❌❌O0

    男同♂被❌到爽了流

    妲己被❌爆乳流水小说

    13.08MB
    310好评

    韩国无码成人🔞电影

  • 国产精品㊙️密A片老牛视频

    二次元美女哭着扒开🍑注水

    美女脱👙免费看挤奶口㊙

    53.17MB
    270好评

    男女脱裤子🔞jij鼓起来

  • 奇优影院❤️第一页

    白丝JK裸体被❌出水网站站

    考比网站软件下载APP

    71.14MB
    700好评

    全黄做爰100分钟视频

  • 动漫老师胸乳❌❌❌图片

    免费🔞成人深夜夜行网站

    91精品看线㊙️原神

    83.72MB
    332好评

    嗯~啊~轻一点🈲🔞茄子

  • 中国猛男GayGay✅无套网站

    沙特一级婬片A片AA,...

    男男♂Gay❌❌❌做受

    23.42MB
    107好评

    八重神子同人18❌黄游网

  • 云韵让我❌她我爽了好久

    姐姐叫的好好听啊姐姐叫故事

    🔯黄🔯色🔯女🔯女擼擼社

    50.36MB
    924好评

    嗯∽啊~轻点禁🔞揉胸视频网站

  • 一个B三个人换着玩

    www🈲福利姬

    一本之道无码AV♥

    83.37MB
    564好评

    ❌❌❌美女裸体视频

  • 欧洲猛妇❌❌❌❌OOOO

    动漫成人免费❌❌❌

    火影忍者玖辛❌爆乳无尽

    83.31MB
    755好评

    动漫❌c🐻黄扒衣服做视频免费看

  • 宁荣荣让唐三🌿在线观看

    男人的🍌伸到🍑里拔萝\

    芙宁娜被❌吸乳脱内内网站

    32.80MB
    621好评

    ❤丝瓜视频❤app网站

  • XXXXXL19—20

    FreeHD13❌❌❌女

    人与禽一级婬片A片69式按摩

    26.68MB
    274好评

    动漫美女被❌到高潮爽

  • 91♥️丨PORNY丨在线中文

    守望先锋❌18禁视频

    亚洲打白嫩㊙️屁股

    65.72MB
    741好评

    梅花十三打开腿❌暴爽m

  • 女被多触手怪❌吸乳动漫

    女生露🐻让男生玩

    女同学蹭我下面🍌左右左右小说

    54.20MB
    754好评

    男生露大jiji㊙️无套

  • 啊⋯学长⋯轻点⋯奶头H男男

    www.深夜成人🔞网站在线

    程潇裸被❌视频无码

    57.06MB
    681好评

    日本无码🔞漫画在线观看

  • 🍑🍑里面放🍌🍌🍌

    一级老太婆日毴

    调教圈⭕视频绳艺

    24.30MB
    353好评

    一级做a爰片久久毛片A片无遮挡一级做a爰片久久毛片A片无遮挡介绍

  • 肥逼影院

    HD❌❌XX❌XXX14

    39w3cn张津瑜

    13.96MB
    311好评

    原神3D被挤奶❌吸乳羞羞网站

  • 美女裙底㊙️可看网站

    GAY无套✅2022

    小🐥🐥戳进🍑无遮挡

    84.48MB
    210好评

    中国❌❌❌free少妇果冻传媒

  • 少妇被❌到爽🔞

    王馨瑶裸体㊙️视频

    雏田爆乳❌🔞🚫

    45.66MB
    732好评

    美女裙子底部偷拍㊙️无遮挡

  • 戒尺打光屁股男㊙️网站

    莉莉艾裸身被❌羞羞照片

    小🐔🐔伸进🈲🔞🔞猎

    10.20MB
    182好评

    貂蝉被杨戬❌到爽18禁小说

  • 欧美X❌❌X888做受

    俄罗斯做爰性XXX

    男生扒开美女❌狂揉下部❌

    44.74MB
    362好评

    萝li㓜交 yoyo

  • 屁屁挨打sp❌❌❌

    中国人真人性做爰

    ❌❌❌❌日本人黄

    91.48MB
    207好评

    女学生被❌c🐻扒衣

  • 一起草🌿www.17.com

    美女露出🐻让男子揉捏

    人与嘼在线A片观看免费动漫

    30.89MB
    904好评

    XXXHD🌶🌶🌶

  • 亲🐻摸下的超爽小视频桃花岛

    海外华8❌8❌免费影院

    扒开🐻让我❌❌❌手机在线观看

    30.08MB
    542好评

    她想啪精㊙️视频在线观看

  • 国产精品㊙️秘密入口导

    y1111111丰满少妇毛片18禁

    国产裸体美女❌❌❌❌

    29.04MB
    121好评

    美女露出🐻让男生揉图片

  • 女同被❌c🐻扒衣服免费观看

    美女祼体捆绑㊙️网站

    美女露出桃子🍑让客人玩

    70.75MB
    454好评

    美女裸体㊙️拉屎免费看

  • 被扒开腿做❌同人漫画免费动漫美女被❌到爽🔞动漫 title="大胸美女❌❌❌奶头" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    免费➕无码➕国产真人视频麻新疆

    女人疯狂❌自慰喷水爽3D

  • 俄罗斯老肥妇网站视频❌❌❌欧美另娄❌❌色情 title="鸣人被博人扒开腿狂❌黄" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    HD10XXXX100%

    在线永久看片免费的视频软件

  • 派91人妻偷拍❤️对白派小🐓🐓戳到🍑漫画 title="美女脱👙给男生揉🐻" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    成人🔞必看www.

    🈚码产区一区二

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 芙宁娜❌疯狂自慰喷水 7天前
    疯狂自慰❌❌❌WWW
  • 国产男男Gay🔞体育生白袜 4天前
    小🐤🐤入🍑🍑.动漫动漫视频
  • 国产❌少萝❌❌视频抖淫 2天前
    成人🔞28深夜影院小说
  • 乱jiāo游乐园 番外 1天前
    外国羞❌❌免费视频
  • 小受受扒开屁股挨🌿 3天前
    成人做爰黄AA片免费播放贝微微
  • 绑架美女弄隐私㊙️部位网站 3天前
    XXXX33🍆🍆HD免费
  • 激烈舌👅吻摸大胸 2天前
    怎样男女被❌到爽🔞流尿全过程
  • 姬小满裸体❌开腿本子 3天前
    亚洲AV㊙️无码一区音羽
  • 女人扒开👙给男生摸🍑时拉了 6天前
    男生的㊙️桶进美女㊙
  • 免费🔞成人❌❌❌奶用 5天前
    国产做受❌❌❌高潮久久五通魔神