2025/09/07 02:48:41 1,646次浏览

AI自动生成的苹果芯片Metal内核,比官方的还要好?

Gimlet Labs的最新研究显示,在苹果设备上,AI不仅能 自动生成Metal内核 ,还较基线内核实现了 87% 的PyTorch推理速度提升。

更惊人的是,AI生成的Metal内核还在测试的215个PyTorch模块上实现了平均 1.87倍 的加速,其中一些工作负载甚至比基准快了 数百倍

真就AI Make苹果AI Great Again?

用AI为苹果设备生成内核

先说结论:通过AI自动实现内核优化,可以在无需修改用户代码、无需新框架或移植的情况下,显著提升模型性能。

为了证明这一点,研究人员选取了来自Anthropic、DeepSeek和OpenAI的8个顶尖模型,让它们为苹果设备生成优化的GPU内核,以加速PyTorch推理速度。

至于为什么是苹果?别问——问就全球最大硬件供应商(doge)

接下来,让我们看看研究人员是怎么做的:

实验设置

首先,在模型选择方面,参与测试的模型包括:claude-sonnet-4、claude-opus-4;gpt-4o、gpt-4.1、gpt-5、o3;deepseek-v3、deepseek-r1。

其次,在测试输入方面,研究使用了KernelBench数据集中定义的PyTorch模块,并选取了其中215个模块进行测试。

这些被选取的模块被划分为三个等级,分别是第一级的简单操作(如矩阵乘法、卷积);第二级是由第一级操作组成的多操作序列;第三级是完整的模型架构(如 AlexNet、VGG)。

再次,在评估指标方面,研究人员主要关注两个指标:一是AI生成内核的正确性,二是其相较于基准PyTorch的性能提升。

最后,研究使用的苹果硬件为 Mac Studio (Apple M4 Max chip) ,Baseline为 PyTorch eager mode (划重点,一会要考)

实验测试

在上述准备完毕后,研究团队展开了测试。

测试流程如下:

如上所说,研究者首先关注AI生成内核的正确性。

实验表明,正确性会随着尝试次数的增加而提升。以 o3 为例:第一次尝试就有约 60% 的概率得到可用实现,到第 5次 尝试时可用实现比例达到 94%

此外,研究还发现推理模型非常擅长跨层级生成正确的内核,尽管非推理模型有时也能做到这一点。

那么,AI生成的内核表现如何呢?

实验结果相当惊艳,几乎每个模型都生成了一些比基准更快的内核。

例如,GPT-5在一个Mamba 25状态空间模型上实现了 4.65倍 的加速,其主要通过 内核融合 (kernel fusion) 来减少内核调用的开销,并改善内存访问模式。

在一些案例中,o3甚至将延迟提升了超过 9000 倍!

总体而言,GPT-5平均可以带来约20%的加速,其他模型则落后。

不过,GPT并非是门门最优,研究人员发现GPT-5在 34% 的问题上生成了 最优解

但在另外 30% 的问题上,其他模型生成的解比GPT-5更优!

这就意味着没有单一模型能在所有问题上都生成最优内核。

因此,如果把多个模型组合起来,就能更大概率生成最优内核。

于是乎,研究人员又展开了智能体群体实验(Agentic Swarm)。

智能体群体实验

果不其然,相较于单个模型,智能体群体策略实现了更高的性能提升。

与GPT-5相比,智能体群体在各层级平均加速 31% ,在Level 2问题上加速 42%

在几乎没有上下文信息的情况下(仅有输入问题和提示),智能体群体就已经表现得相当不错。

接下来,研究人员尝试为智能体提供更多上下文,以获取更快的内核。

这里主要包含两个额外的信息来源:

在具体的实施步骤中,研究者先将截图处理任务分配给一个子智能体(subagent),让它为主模型提供性能优化提示。

在收到提示后,主智能体先进行一次初步实现,然后对其进行性能分析和计时。

随后,再将截图传给子智能体以生成性能优化提示。

实验表明,在上下文配置方面也没有所谓的“单一最佳”方案。

不过,在具体的性能加速方面,加入这些额外上下文实现了平均1.87倍的加速,相较于普通智能体仅实现的1.31倍的平均加速,额外上下文将提升幅度提高了三倍!

有提升,但看跟谁比

为了更深入地讨论,我们有必要先回顾一些背景知识。

在PyTorch中,我们通常会调用如Sequential、ReLU这样的函数。

在具体的执行中,PyTorch会先将函数拆解为张量运算(矩阵乘法、加法等),再交给GPU执行。

这时就需要GPU内核(kernel)负责把这些数学操作转成GPU可理解的低级并行指令。

因此,在某种程度上,我们可以说GPU内核就像C编译器一样,其性能对于运算效率至关重要。

而上面这篇工作所做的,就是让原本必须由工程师手写的内核优化交给AI自动完成,并测试它的性能。

不过,问题就来了。

众所周知,苹果硬件并不像英伟达的CUDA一样,对PyTorch有很好的优化。

因此,这篇研究直接拿MPS后端原生实现和AI生成的内核对比是有失公允的。

不少眼尖的网友也是发现并指出了这一点:文章里所用的baseline是eager mode,这通常只用于训练调试或指标计算,不会被真正部署到设备上。

在真实部署中,一般会先把模型导出为ONNX,再编译成设备原生格式(Metal、CUDA 或 ROCm 等),这样效率会比直接用PyTorch eager mode高很多。

所以,无论内核是工程师手写,还是AI自动生成,经过优化的GPU内核都会比未优化的PyTorch推理快得多。

因此,拿调试过的内核和eager比,多少有点奇怪。

对此,研究人员回应道:

研究的目的是在内核工程方面获得人类专家一定程度的效益,而无需开发人员的额外投入,希望通过A将部分流程自动化。

所以,重点不在于性能提升,而在原型验证。

对此,你怎么看?

[1]https://gimletlabs.ai/blog/ai-generated-metal-kernels#user-content-fn-4

[2]https://news.ycombinator.com/item?id=45118111

[3]https://en.wikipedia.org/wiki/Compute_kernel

[4]https://github.com/ScalingIntelligence/KernelBench/

AI生成苹果Metal内核,PyTorch推理速度提升87%
AI生成苹果Metal内核,PyTorch推理速度提升87%

于适上海活动路透

「活动」kumawubiaotitest

7.71MB
版本V3.7.38
下载井野被❌吸乳羞羞网站视频安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(408人)
评论 16
AI生成苹果Metal内核,PyTorch推理速度提升87%截图0 AI生成苹果Metal内核,PyTorch推理速度提升87%截图1 AI生成苹果Metal内核,PyTorch推理速度提升87%截图2 AI生成苹果Metal内核,PyTorch推理速度提升87%截图3 AI生成苹果Metal内核,PyTorch推理速度提升87%截图4
详细信息
  • 软件大小: 3.248MB
  • 最后更新: 2025/09/07 02:48:41
  • 最新版本: V6.46.7
  • 文件格式: apk
  • 应用分类:ios-Android 3D裸体美女朱竹清❌❌
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.550以上
应用介绍
一,国产➕精品➕无码澳门,麻花豆传媒剧国产免费mv豆丁网
二,成人🔞99一区二区激情免费看,18岁以上能看的簧片
三,欧美丰满大片AAA少妇高潮虎,亚洲无🈚码A片在线观看
四,阿狸3D同人18❌AV黄漫网站,9.1人网站🔞免费观看
五,男男脱裤子🔞小jij鼓i起来,91在线无码精品㊙️入口楼
六,原神❌18同人禁动漫,美国老妇XXXXXXBBBBBB,18🈲又长又粗又硬
七,王者荣耀把云缨玩喷了小
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
婬妇❌❌❌❌❌后宫
  • 嗯~啊~快点🌿死我韩信

    90岁老太婆乱婬中国片

    aSS日本美妇毛泬Pics

    22.46MB
    103好评

    18禁動🍆🍑12XXX

  • 国产免费无遮挡🔞视频网站

    动漫护士的被❌到爽羞羞漫画

    日本羞羞漫画❤在线入口

    77.26MB
    843好评

    动漫纲手露出🐻

  • 女同恋网18㊙️无删减

    18動🍆🍑🔞❌❌❌蘑菇视频

    拳皇夏尔米被❌到爽动漫

    13.95MB
    319好评

    美女被探到爽🔞流视频软件

  • 欧美做受❌❌❌韩国金先生

    求求你了🌿死我好不好视频国产

    jizzzxxx

    53.87MB
    271好评

    日本老师Xx❌❌18护士

  • 99麻豆天美精四叶草传媒

    小🐔🐔伸进🐻🐻喷水视频

    少妇做爰XXXⅩ性高湖济南AV

    71.68MB
    700好评

    ㊙️羞羞漫画免费观看

  • su7车上🍑高潮喷水

    猛男GayGay✅免费网站无套

    fuqer100%v2025

    83.46MB
    339好评

    男人猛躁女人㊙️91软件

  • l月同人♥本子♥网站

    喷水❌裸乳❌女同❌3D

    绪山真寻裸着身被❌免费看

    23.40MB
    109好评

    免费看胖妇作爱视频

  • 18🈲国产精品福利片久久婷

    天天在线无码精品㊙️入口九

    美女➕开屁屁➕韩国美女

    50.20MB
    928好评

    国产❌少萝❌❌视频高潮片

  • 重囗味另类老妇Pics

    啊灬蒂法被❌🔞‼️18禁动漫

    91❤️白丝在线观看

    83.08MB
    561好评

    卡夫卡❌🐻黄漫扒衣服

  • 女同被❌到爽🔞白桃美人漫画

    老师❌开腿让我爽一夜游戏

    男生被揉搓时㊙️视频

    83.88MB
    753好评

    男生露jiji网站🈲

  • 动漫美女爆❌羞羞动漫免费软件

    人人澡人人妻人人爽人人蜜桃

    韩国美女露出奶头❌跳舞视频

    32.60MB
    623好评

    9l视频自拍九色9l视频在线观看

  • 夜店❌❌奶头❌❌裸体白丝

    耽漫画🔞漫画无打码下载

    性欧美18Ⅹ❌❌❌车里

    26.81MB
    271好评

    精品成人18㊙️国产网站

  • 男人添女人屁股VK

    德国老熟女HD70

    男生把小困困进女生困里电视剧

    65.58MB
    744好评

    美女➕光屁屁➕无套

  • 女生露出🐻玩

    女同被c🔞黄在线网站

    小少萝自愿裸体❌❌

    54.72MB
    758好评

    芭朵斯被❌爽羞羞视频

  • 女同又爽❌又黄❌漫画

    🔞无遮挡打光屁屁打屁股

    桃子冰♈在线成人无码

    57.82MB
    681好评

    成人漫画羞羞18禁🔞漫画

  • 3d胡桃爆❌羞羞漫画

    美丽姑娘看中国人视频

    免费10AV视频

    24.70MB
    354好评

    小泬啊灬啊灬啊灬高潮了

  • ㊙️🈲美女免费裸体视频

    博人扒开佐良娜❌小说

    印度少妇野外做爰A片视频

    13.83MB
    316好评

    男人扒开男生㊙️桶到爽直播

  • 美女露出🐻让男生柔图片

    日本熟妇Bw

    国产丝袜裸体美女被❌出水

    84.82MB
    211好评

    A级毛斤和二级毛斤的区别

  • 色情😍视频网站入口免费

    国产➕无码➕高潮电影欲动网站

    麻豆精品㊙️国产传媒下载

    45.48MB
    731好评

    男生小🐤🐤戳进🍑无遮挡看片

  • 妲己被爆❌吸乳羞羞视频

    日韩👙XXXXwx

    蔚蓝档案裸乳被爆❌白浆的网站

    10.43MB
    189好评

    白嫩少妇BBw撒尿视频

  • 女人扒开㊙️流牛奶

    免费➕无码➕国产免费172软件

    动漫❌❌❌腿交无尽视频

    44.34MB
    360好评

    千仞雪裸乳被爆❌白浆小说

  • 3D❌❌❌啪啪嫩草

    芙宁娜被爆❌自慰流水

    免费看裸体美女🔞🔞🔞视频

    91.26MB
    202好评

    成人扒开🍑伸进🍌❌91韩漫

  • 日本❌❌乳房错❌裸体

    小丑女女被❌超污网站

    成人免费❌❌❌纯h

    30.24MB
    909好评

    XXNX👙老帅日本

  • 白狐视频♥成人版app

    中国老妇女性交视

    国产精品✖️✖️✖️

    30.44MB
    549好评

    3dmax动漫 在线入口

  • 小🐔🐔伸进🈲🔞🔞

    免费观看美女裸色😍视频毛片

    快穿被各种男人啪H男男视频

    29.75MB
    125好评

    宁荣荣被裸体露出来❌

  • 黃色A片三級三級三級

    穿JK白丝被❌羞羞视频

    把🍌❌🍑很疼被c哭自慰

    70.40MB
    456好评

    艾莲裸体被❌

  • 处破初破苞一区二区三区视频动漫美女被❌奶头 title="囧次元👿18🈲" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    9l视频自拍蝌蚪9l视频成人

    军妓做爰XXXⅩ性视频

  • 想要❌❌视频在线观看免费🔞成人❌❌❌学网站 title="18禁🈲🈲🈲🈲无码" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    兔女郎🔞🔞🔞小内内91

    动漫美女无内裤下部㊙️

  • 女人又爽❌又黄❌打屁股又爽❌又黄❌照片 title="扒开老师❌❌❌日漫" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    真实交videos视频日本真人做爰吃奶

    XXXx18🍆🍆mofos欧美

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 重口孕妇交XXXaⅴ 2天前
    JAV HD milk Online ✅
  • 不知火舞被❌到爽流白浆视频 6天前
    捆绑美女㊙️网站
  • 水门❌玖辛奈18禁污污 0天前
    俄罗斯老太做爰XXXⅩ性
  • 虐乳➕电击➕虐菊➕打脚心 3天前
    男Gay自慰🔞免费网站
  • 白乳❌❌❌成人18免费看 7天前
    成人免费观看视频
  • 扒开朱竹清❌狂揉❌难受小说 3天前
    白丝校花上课被❌娇喘出奶
  • 崩铁🔞同人本子免费观看 3天前
    成人扒开🍑伸进🍌91❌游戏
  • XXXX日本视频XXⅩⅩ 0天前
    国产⭕⭕⭕⭕XXXX免费处坡
  • 动漫魅魔裸体㊙️无遮挡 8天前
    免费真人性做爰孕妇
  • 火㊙️速?劲?爽㊙️出 3天前
    91❤️九色在线观看