2025/09/08 17:46:50 1,705次浏览

AI自动生成的苹果芯片Metal内核,比官方的还要好?

Gimlet Labs的最新研究显示,在苹果设备上,AI不仅能 自动生成Metal内核 ,还较基线内核实现了 87% 的PyTorch推理速度提升。

更惊人的是,AI生成的Metal内核还在测试的215个PyTorch模块上实现了平均 1.87倍 的加速,其中一些工作负载甚至比基准快了 数百倍

真就AI Make苹果AI Great Again?

用AI为苹果设备生成内核

先说结论:通过AI自动实现内核优化,可以在无需修改用户代码、无需新框架或移植的情况下,显著提升模型性能。

为了证明这一点,研究人员选取了来自Anthropic、DeepSeek和OpenAI的8个顶尖模型,让它们为苹果设备生成优化的GPU内核,以加速PyTorch推理速度。

至于为什么是苹果?别问——问就全球最大硬件供应商(doge)

接下来,让我们看看研究人员是怎么做的:

实验设置

首先,在模型选择方面,参与测试的模型包括:claude-sonnet-4、claude-opus-4;gpt-4o、gpt-4.1、gpt-5、o3;deepseek-v3、deepseek-r1。

其次,在测试输入方面,研究使用了KernelBench数据集中定义的PyTorch模块,并选取了其中215个模块进行测试。

这些被选取的模块被划分为三个等级,分别是第一级的简单操作(如矩阵乘法、卷积);第二级是由第一级操作组成的多操作序列;第三级是完整的模型架构(如 AlexNet、VGG)。

再次,在评估指标方面,研究人员主要关注两个指标:一是AI生成内核的正确性,二是其相较于基准PyTorch的性能提升。

最后,研究使用的苹果硬件为 Mac Studio (Apple M4 Max chip) ,Baseline为 PyTorch eager mode (划重点,一会要考)

实验测试

在上述准备完毕后,研究团队展开了测试。

测试流程如下:

如上所说,研究者首先关注AI生成内核的正确性。

实验表明,正确性会随着尝试次数的增加而提升。以 o3 为例:第一次尝试就有约 60% 的概率得到可用实现,到第 5次 尝试时可用实现比例达到 94%

此外,研究还发现推理模型非常擅长跨层级生成正确的内核,尽管非推理模型有时也能做到这一点。

那么,AI生成的内核表现如何呢?

实验结果相当惊艳,几乎每个模型都生成了一些比基准更快的内核。

例如,GPT-5在一个Mamba 25状态空间模型上实现了 4.65倍 的加速,其主要通过 内核融合 (kernel fusion) 来减少内核调用的开销,并改善内存访问模式。

在一些案例中,o3甚至将延迟提升了超过 9000 倍!

总体而言,GPT-5平均可以带来约20%的加速,其他模型则落后。

不过,GPT并非是门门最优,研究人员发现GPT-5在 34% 的问题上生成了 最优解

但在另外 30% 的问题上,其他模型生成的解比GPT-5更优!

这就意味着没有单一模型能在所有问题上都生成最优内核。

因此,如果把多个模型组合起来,就能更大概率生成最优内核。

于是乎,研究人员又展开了智能体群体实验(Agentic Swarm)。

智能体群体实验

果不其然,相较于单个模型,智能体群体策略实现了更高的性能提升。

与GPT-5相比,智能体群体在各层级平均加速 31% ,在Level 2问题上加速 42%

在几乎没有上下文信息的情况下(仅有输入问题和提示),智能体群体就已经表现得相当不错。

接下来,研究人员尝试为智能体提供更多上下文,以获取更快的内核。

这里主要包含两个额外的信息来源:

在具体的实施步骤中,研究者先将截图处理任务分配给一个子智能体(subagent),让它为主模型提供性能优化提示。

在收到提示后,主智能体先进行一次初步实现,然后对其进行性能分析和计时。

随后,再将截图传给子智能体以生成性能优化提示。

实验表明,在上下文配置方面也没有所谓的“单一最佳”方案。

不过,在具体的性能加速方面,加入这些额外上下文实现了平均1.87倍的加速,相较于普通智能体仅实现的1.31倍的平均加速,额外上下文将提升幅度提高了三倍!

有提升,但看跟谁比

为了更深入地讨论,我们有必要先回顾一些背景知识。

在PyTorch中,我们通常会调用如Sequential、ReLU这样的函数。

在具体的执行中,PyTorch会先将函数拆解为张量运算(矩阵乘法、加法等),再交给GPU执行。

这时就需要GPU内核(kernel)负责把这些数学操作转成GPU可理解的低级并行指令。

因此,在某种程度上,我们可以说GPU内核就像C编译器一样,其性能对于运算效率至关重要。

而上面这篇工作所做的,就是让原本必须由工程师手写的内核优化交给AI自动完成,并测试它的性能。

不过,问题就来了。

众所周知,苹果硬件并不像英伟达的CUDA一样,对PyTorch有很好的优化。

因此,这篇研究直接拿MPS后端原生实现和AI生成的内核对比是有失公允的。

不少眼尖的网友也是发现并指出了这一点:文章里所用的baseline是eager mode,这通常只用于训练调试或指标计算,不会被真正部署到设备上。

在真实部署中,一般会先把模型导出为ONNX,再编译成设备原生格式(Metal、CUDA 或 ROCm 等),这样效率会比直接用PyTorch eager mode高很多。

所以,无论内核是工程师手写,还是AI自动生成,经过优化的GPU内核都会比未优化的PyTorch推理快得多。

因此,拿调试过的内核和eager比,多少有点奇怪。

对此,研究人员回应道:

研究的目的是在内核工程方面获得人类专家一定程度的效益,而无需开发人员的额外投入,希望通过A将部分流程自动化。

所以,重点不在于性能提升,而在原型验证。

对此,你怎么看?

[1]https://gimletlabs.ai/blog/ai-generated-metal-kernels#user-content-fn-4

[2]https://news.ycombinator.com/item?id=45118111

[3]https://en.wikipedia.org/wiki/Compute_kernel

[4]https://github.com/ScalingIntelligence/KernelBench/

AI生成苹果Metal内核,PyTorch推理速度提升87%
AI生成苹果Metal内核,PyTorch推理速度提升87%

新世代宝马驾趣

「活动」kumawubiaotitest

7.71MB
版本V3.8.38
下载导管网站.com安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(6人)
评论 16
AI生成苹果Metal内核,PyTorch推理速度提升87%截图0 AI生成苹果Metal内核,PyTorch推理速度提升87%截图1 AI生成苹果Metal内核,PyTorch推理速度提升87%截图2 AI生成苹果Metal内核,PyTorch推理速度提升87%截图3 AI生成苹果Metal内核,PyTorch推理速度提升87%截图4
详细信息
  • 软件大小: 58.9MB
  • 最后更新: 2025/09/08 17:46:50
  • 最新版本: V6.666.7
  • 文件格式: apk
  • 应用分类:ios-Android 乱婬性高湖
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.22以上
应用介绍
一,巴西性猛交69,扒开❌狂揉❌喷水的视频
二,动漫人妖被❌乳涩涩免费漫画,男人㊙️桶女人屁股无遮
三,雏田小樱被❌羞羞动漫进入,"18🈲🍆🍆🍆🍆网站"蘑
四,香蕉🍌视频二十分钟,美女裸体㊙️胸无遮挡
五,91丨人妻丨偷拍,男同♂被❌到爽了流动漫网站
六,无尽❌女同❌裸体,美女被撕开内衣👙挠痒痒,男人把女人❌到爽3分钟
七,꧔ꦿ᭄🌸姚韵💫悠然💞᭄࿐
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
老妇泬2
  • 国产色情性黄❌软件

    🔞禁🍆🍆🍆达摩网站

    www成人🔞色情美女图片91

    5.22MB
    108好评

    十八禁🔞国产污污的游戏合集

  • 巨乳❌扒衣❌扒开腿动漫游戏

    中国妇女撒尿高清视频免费看

    雏田爆乳被❌🔞㊙视频3DiOS

    84.12MB
    82好评

    禁止1000部拍拍❤️免费动漫

  • 美女隐私㊙️www黄

    av➕无码➕高潮流白死

    91在线无精精品㊙️cos

    13.99MB
    311好评

    爱莉希雅被❌吸乳脱内内小说

  • 17c在线精品无码㊙️动漫入口

    成人区人妻精品一区二区三区

    涩涩❤️网站

    53.34MB
    271好评

    美女又爽❌又黄❌免费动漫视频

  • 美女扒开腿㊙️让男人打进球作文

    扒开🍑伸进🍌❌免费视频动漫

    富婆与拘做受免费视频下载

    71.19MB
    704好评

    日❌❌老师❌❌奶头网站

  • 安妮海瑟薇被❌高清网站

    动漫人物被❌黄漫爆乳动

    偷拍学生洗澡无码视频流出

    83.74MB
    332好评

    男人的🍌伸到🍑里小舞网站

  • 扒开雏田❌狂揉❌free

    男人被女人添👅出来高潮

    男人撒尿视频✅免费网站

    23.98MB
    101好评

    国产做受❌❌❌高潮免费看

  • 玩日本少妇的屁股眼

    猛男GayGay✅小蓝视频网站

    原神美女脱㊙️露小奶

    50.77MB
    922好评

    崩铁花火被狂❌到高潮的

  • 美女打开🍑让老师🍌进去

    jzz动漫

    老师让学生摸🍑

    83.03MB
    564好评

    吃美女的尿口㊙️免费

  • 性做爰A片欧美激情艳妇20p

    美女撒尿㊙️无遮挡

    美女扒开内👙看个够图片動

    83.93MB
    759好评

    美女裸体按摩㊙️网站

  • ♥樱桃视频a在线♥18

    美国做受XXXⅩ性视频A片秀色

    免费无遮挡🔞网站下载软件

    32.51MB
    621好评

    精品视频㊙️麻豆

  • 古力娜扎裸被❌视频网站

    火影黑土被🌿到到喷水在线观看

    川上ゆう㊙️一区二区三区

    26.03MB
    276好评

    日本🔞🍌进去里❌❌❌日本

  • FreePorno💋👙34

    巨胸美女动漫下裸❌羞羞视频

    成人黄游🔞免费88p

    65.36MB
    747好评

    高中女学生的粉嫩小泬

  • 流萤裸体被❌涩涩视频

    奶头好大下面有水又紧

    纲手裸乳被爆❌白浆向上

    54.39MB
    756好评

    巨乳❌拔萝卜❌自慰电影免费

  • 美女胸罩㊙️偷拍

    国产性猛交❌XX❌乱照片-百度

    小🐔🐔伸进🈲🔞🔞男女网站

    57.44MB
    685好评

    白丝jk爆❌乳❌的漫画

  • 欧美熟妇粗大猛烈嗯嗯啊

    嗯~啊~轻一点🈲🔞樱花视频

    18禁❌中国美女免费视频

    24.95MB
    355好评

    国产91在线❤久诚

  • 大🐔巴摩擦摩擦进去啦

    www成人🔞美女

    http://www.9191.gov.cn

    13.48MB
    312好评

    女同❌开腿到爽流片

  • 奇优影视❤️

    国产美女无套✅在线播放97C

    爽⋯好大⋯快⋯水蜜桃视频

    84.50MB
    218好评

    刘若琳被❌到爽🔞流片教学

  • 成人免费视频🔞国产免费暗夜

    八重神子被哭乳液图片的背景故事

    赵露思被❌视频在线观看A

    45.50MB
    739好评

    www.51色😍萝白丝

  • 🍆❌女生🍑里免费视频

    🔞🍌进🍑里❌❌❌片日产漫画

    91丨国产丨白浆㊙️动漫

    10.65MB
    187好评

    张柏芝作爱视频丝袜诱惑Aⅴ

  • 刘亦菲自慰❌❌喷水

    白丝校花🌸自慰出水无码

    国产91❤️长靴

    44.63MB
    365好评

    日本做受❌❌❌高潮网站

  • 把🍌伸进女人🍑www打屁股

    HD10XXXX100%

    把小🐥🐥放进女人的🍑漫画

    91.09MB
    204好评

    九一精品人妻呻吟❤️

  • 男男成人🔞高潮片动漫

    男男GayGay✅免费

    火影忍者照美冥被强❌图

    30.51MB
    907好评

    成人网18㊙️免费视频樱桃

  • ❤️爱情岛论坛亚洲线路一

    原神雷电将军乳液狂飙图片黄

    老板GayGays✅打屁股

    30.70MB
    541好评

    任你躁x7x7x7

  • WWW.61😍情免费网站

    国产美女被❌免费网站

    50熟妇浓毛毛黑森林玩日本少妇的屁股眼

    29.81MB
    128好评

    18🈲嗯~别揉~出水了

  • 91成人🔞漫画

    美女露出🍑让客人玩小游戏

    麻花传剧原创mv高清在线看

    70.23MB
    454好评

    无码粉嫩小泬无套内谢的来源

  • 神里绫华裸体❌开腿羞羞视频免费无遮挡🔞动画网站在线观看 title="打美女白嫩㊙️屁屁" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    朱竹清被❌吸乳羞羞3D

    1000款黄冈网站游戏大全

  • 巨胸美女下裸❌羞羞软件美女掀裙子屁股㊙️ title="㊙️片黄在线观看" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    亚洲㊙️无码一区二区三区观看

    男性GAY戴套✅免费视频

  • 免费🔞成人❌❌美女姛女厕撒尿㊙️在线播放 title="XXX18🍌🍑日木视频" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    欧美一级A片性猛交富婆视频

    美女脱👙给我捏

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • ai去衣色情❌❌下载网站 0天前
    高清乱码🔞❌♋破解版漫画
  • 小🐔🐔伸进🈲🔞🔞抖 0天前
    ❤国产精品嫩草99AV视
  • 男男gaYGAYS✅亚洲老师网站 4天前
    成人黄漫画在线❤️免费
  • ❌到爽🔞流片 6天前
    秘密导航网站㊙️
  • 女生脱👙让男生揉🐻文章 5天前
    欧美🅰级毛片一夜
  • 免费看www打扑克软件大全 5天前
    美女的脸屁屁㊙️免费视频
  • 欧美一级特黄大片色情在线观看 5天前
    小🐔🐔伸进🈲🔞🔞A站
  • 黑土被爆❌自慰爽网站 1天前
    大雷擦狙狙网站不用下载
  • 国产丝袜裸体美女被❌出水 7天前
    女人扒开㊙️让男人桶爽app
  • 快活影院熟女 9天前
    雷电将军被❌🐻黄油扒衣服