2025/09/08 07:31:07 1,642次浏览

AI自动生成的苹果芯片Metal内核,比官方的还要好?

Gimlet Labs的最新研究显示,在苹果设备上,AI不仅能 自动生成Metal内核 ,还较基线内核实现了 87% 的PyTorch推理速度提升。

更惊人的是,AI生成的Metal内核还在测试的215个PyTorch模块上实现了平均 1.87倍 的加速,其中一些工作负载甚至比基准快了 数百倍

真就AI Make苹果AI Great Again?

用AI为苹果设备生成内核

先说结论:通过AI自动实现内核优化,可以在无需修改用户代码、无需新框架或移植的情况下,显著提升模型性能。

为了证明这一点,研究人员选取了来自Anthropic、DeepSeek和OpenAI的8个顶尖模型,让它们为苹果设备生成优化的GPU内核,以加速PyTorch推理速度。

至于为什么是苹果?别问——问就全球最大硬件供应商(doge)

接下来,让我们看看研究人员是怎么做的:

实验设置

首先,在模型选择方面,参与测试的模型包括:claude-sonnet-4、claude-opus-4;gpt-4o、gpt-4.1、gpt-5、o3;deepseek-v3、deepseek-r1。

其次,在测试输入方面,研究使用了KernelBench数据集中定义的PyTorch模块,并选取了其中215个模块进行测试。

这些被选取的模块被划分为三个等级,分别是第一级的简单操作(如矩阵乘法、卷积);第二级是由第一级操作组成的多操作序列;第三级是完整的模型架构(如 AlexNet、VGG)。

再次,在评估指标方面,研究人员主要关注两个指标:一是AI生成内核的正确性,二是其相较于基准PyTorch的性能提升。

最后,研究使用的苹果硬件为 Mac Studio (Apple M4 Max chip) ,Baseline为 PyTorch eager mode (划重点,一会要考)

实验测试

在上述准备完毕后,研究团队展开了测试。

测试流程如下:

如上所说,研究者首先关注AI生成内核的正确性。

实验表明,正确性会随着尝试次数的增加而提升。以 o3 为例:第一次尝试就有约 60% 的概率得到可用实现,到第 5次 尝试时可用实现比例达到 94%

此外,研究还发现推理模型非常擅长跨层级生成正确的内核,尽管非推理模型有时也能做到这一点。

那么,AI生成的内核表现如何呢?

实验结果相当惊艳,几乎每个模型都生成了一些比基准更快的内核。

例如,GPT-5在一个Mamba 25状态空间模型上实现了 4.65倍 的加速,其主要通过 内核融合 (kernel fusion) 来减少内核调用的开销,并改善内存访问模式。

在一些案例中,o3甚至将延迟提升了超过 9000 倍!

总体而言,GPT-5平均可以带来约20%的加速,其他模型则落后。

不过,GPT并非是门门最优,研究人员发现GPT-5在 34% 的问题上生成了 最优解

但在另外 30% 的问题上,其他模型生成的解比GPT-5更优!

这就意味着没有单一模型能在所有问题上都生成最优内核。

因此,如果把多个模型组合起来,就能更大概率生成最优内核。

于是乎,研究人员又展开了智能体群体实验(Agentic Swarm)。

智能体群体实验

果不其然,相较于单个模型,智能体群体策略实现了更高的性能提升。

与GPT-5相比,智能体群体在各层级平均加速 31% ,在Level 2问题上加速 42%

在几乎没有上下文信息的情况下(仅有输入问题和提示),智能体群体就已经表现得相当不错。

接下来,研究人员尝试为智能体提供更多上下文,以获取更快的内核。

这里主要包含两个额外的信息来源:

在具体的实施步骤中,研究者先将截图处理任务分配给一个子智能体(subagent),让它为主模型提供性能优化提示。

在收到提示后,主智能体先进行一次初步实现,然后对其进行性能分析和计时。

随后,再将截图传给子智能体以生成性能优化提示。

实验表明,在上下文配置方面也没有所谓的“单一最佳”方案。

不过,在具体的性能加速方面,加入这些额外上下文实现了平均1.87倍的加速,相较于普通智能体仅实现的1.31倍的平均加速,额外上下文将提升幅度提高了三倍!

有提升,但看跟谁比

为了更深入地讨论,我们有必要先回顾一些背景知识。

在PyTorch中,我们通常会调用如Sequential、ReLU这样的函数。

在具体的执行中,PyTorch会先将函数拆解为张量运算(矩阵乘法、加法等),再交给GPU执行。

这时就需要GPU内核(kernel)负责把这些数学操作转成GPU可理解的低级并行指令。

因此,在某种程度上,我们可以说GPU内核就像C编译器一样,其性能对于运算效率至关重要。

而上面这篇工作所做的,就是让原本必须由工程师手写的内核优化交给AI自动完成,并测试它的性能。

不过,问题就来了。

众所周知,苹果硬件并不像英伟达的CUDA一样,对PyTorch有很好的优化。

因此,这篇研究直接拿MPS后端原生实现和AI生成的内核对比是有失公允的。

不少眼尖的网友也是发现并指出了这一点:文章里所用的baseline是eager mode,这通常只用于训练调试或指标计算,不会被真正部署到设备上。

在真实部署中,一般会先把模型导出为ONNX,再编译成设备原生格式(Metal、CUDA 或 ROCm 等),这样效率会比直接用PyTorch eager mode高很多。

所以,无论内核是工程师手写,还是AI自动生成,经过优化的GPU内核都会比未优化的PyTorch推理快得多。

因此,拿调试过的内核和eager比,多少有点奇怪。

对此,研究人员回应道:

研究的目的是在内核工程方面获得人类专家一定程度的效益,而无需开发人员的额外投入,希望通过A将部分流程自动化。

所以,重点不在于性能提升,而在原型验证。

对此,你怎么看?

[1]https://gimletlabs.ai/blog/ai-generated-metal-kernels#user-content-fn-4

[2]https://news.ycombinator.com/item?id=45118111

[3]https://en.wikipedia.org/wiki/Compute_kernel

[4]https://github.com/ScalingIntelligence/KernelBench/

AI生成苹果Metal内核,PyTorch推理速度提升87%
AI生成苹果Metal内核,PyTorch推理速度提升87%

中国电影导演协会祝贺辛芷蕾

「活动」kumawubiaotitest

8.71MB
版本V3.052.38
下载被黑人狂躁A片免费安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(9人)
评论 16
AI生成苹果Metal内核,PyTorch推理速度提升87%截图0 AI生成苹果Metal内核,PyTorch推理速度提升87%截图1 AI生成苹果Metal内核,PyTorch推理速度提升87%截图2 AI生成苹果Metal内核,PyTorch推理速度提升87%截图3 AI生成苹果Metal内核,PyTorch推理速度提升87%截图4
详细信息
  • 软件大小: 576.22MB
  • 最后更新: 2025/09/08 07:31:07
  • 最新版本: V6.40.7
  • 文件格式: apk
  • 应用分类:ios-Android 玩弄小you女H合集
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.13以上
应用介绍
一,🐔🐔进蜜桃,男生撕开内衣👙吸奶头
二,男女交XX❌动漫,鸣人裸乳被爆❌白浆
三,❌到爽🔞流片自慰,无尽❌裸体❌白丝❌动漫1
四,女女又爽❌又黄❌免费动漫,在线无码精品㊙️cos西施
五,千仞雪被扒开大腿❌❌视频,动漫男女被❌黄漫视频
六,成人免费乂乂乂新疆,白丝袜子❌扒开美女内衣,yy4138情影院❤️理论片
七,白丝校🌸脱白丝,自慰
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
用力点…用力点⋯我快到了
  • 扒开老师裙子❌狂揉❌漫画

    美女无遮挡㊙️在线观看无风险

    小舞🌸扒腿让我c视频

    02.73MB
    102好评

    成人漫画H🔞漫画破解版下载

  • 龙卷被扒开腿做❌同人漫画网站

    国产色情性黄❌片Av网站

    裸交❌❌❌❌性之软件

    71.41MB
    0414好评

    操逼肏到失禁🈲aaa好爽c视频

  • 国产精品㊙️福利姬视频

    日本少妇BBBBBB洗澡

    日本男男🔞无套

    13.16MB
    316好评

    动漫同男裸体被❌羞羞贴吧

  • 大战丰满大屁股女人

    成人漫画H🔞漫画破解版下载

    ❌❌❌免费裸体游戏AV

    53.29MB
    273好评

    无尽❌裸体❌触手❌软件

  • 动漫美女裸体㊙️无遮挡屁股

    国产精品㊙️入口尤物

    古装操逼

    71.77MB
    704好评

    印度美女黄色直播视频

  • 美女裸体㊙️游戏

    免费无遮挡🔞视频网站人口

    特级婬片A片AAA毛片AA老外

    83.94MB
    330好评

    日本男同喷潮视频

  • 男男GaYGAYS✅体育生视频网站

    萧炎❌曹颖18禁羞羞小说

    ass粉嫩虎白女pics

    23.89MB
    101好评

    一本道成人午夜视频

  • Free❌❌❌video丝袜套

    非州男女性生活高潮有配声音的裸黄色大片

    乱公伦媳视频

    50.31MB
    926好评

    日本动漫❌❌吸乳流白视频

  • 成人免费无码大片A毛片直播-TC中字高清无删减WWW-巧露AV

    雨浩被唐三扒开腿狂❌黄

    香蕉文化漫画❌黄漫清风文学

    83.91MB
    565好评

    日本破解版黄软件下载资源大全

  • 东方❌18禁同人本无码

    韩国AV➕无码➕高潮

    一线产区和二线产区的品牌定位

    83.97MB
    752好评

    女人👩🏻脱了裤衩让男生吃

  • ❤国产精品海角大神

    巴西人真人性做爰

    美女把🐻给男生玩吸奶

    32.86MB
    628好评

    色情18🈲️在线观看

  • 好爽⋯好紧⋯让我尿里面

    佳人直播网

    ✡️黄✡️色✡️网站

    26.23MB
    278好评

    纳西妲被❌🐻黄漫扒衣服

  • 色情老妇性交

    甘肃兰州肥熟女露脸

    国产美女裸体㊙️无遮挡JK視頻

    65.43MB
    744好评

    Hentai❌全彩无码口工

  • 国产AV➕无码➕乱噜噜

    15🈲少萝羞羞开腿白丝在线观看

    国产精品㊙️糖心传媒麻豆

    54.16MB
    754好评

    裸身不知火舞被❌羞羞

  • 扒开动漫❌狂揉❌羞羞3d

    纲手裸乳被爆❌白浆的小说

    人与物动交ⅩXXXB

    57.69MB
    681好评

    91丨九色丨蝌蚪丨丝袜

  • 18🈲🍆🍑无套直本子

    色情乱婬A片AAA毛片古女

    扒胡列娜衣服并❌她的漫画

    24.88MB
    350好评

    爆❌喷水❌洗澡❌网站书

  • www.学生摸老师🐻.com黄

    女生小头头视频

    中国明星性❌❌❌❌HD

    13.17MB
    310好评

    国产精品㊙️爱豆梦柔

  • 91在线无码精品㊙️竹菊

    (高清视频免费看)🦞🔞🍌进🍑里❌❌❌片ti

    伊丽莎白奥尔森裸被❌视频

    84.74MB
    217好评

    国产裸体美女永久免费无遮挡网站

  • 灌肠美女㊙️一区二区三区

    黑人巨粗进入警花疼哭A片

    欧美婬荡的邻居BD

    45.97MB
    734好评

    班长扒开让我❌了一夜视频

  • 俄罗斯色情巜做爰4不忠

    裸身美女㊙️无遮挡网站

    国产做受❌❌❌一片二片

    10.93MB
    189好评

    18禁裸体爆乳羞羞❌网站

  • 性裸交❌❌❌❌❌播放

    惩罚女扒开🍑

    3D小舞被❌到爽免费

    44.67MB
    365好评

    少司缘裸体❌开腿裸体洗澡

  • 奶茶把🍌伸进女人的🍑里的

    脏片软件

    千仞雪被❌吸乳羞羞3D漫画

    91.50MB
    207好评

    美女裸奶🈲🈲🈲🈲蓝莓

  • LXXLXX❤con

    裸体直播🔞禁止观看

    无颜之月被吸乳被❌羞羞漫画

    30.67MB
    906好评

    99在线无码精品㊙️入口楼凤

  • www深夜成人🔞小说网站下载

    美女露全胸㊙️免费视频动漫

    日本护士╳╳╳HD少妇

    30.12MB
    542好评

    学生扒开🍑伸进🍌❌漫画版的动漫

  • 阮梅被❌吸乳脱内内iware

    国产精品㊙️入口爱豆

    A级毛片短视频老太太倣爱视频

    29.37MB
    120好评

    老师脱👙让我揉🐻

  • 少妇性XXXXXXXXX色武功

    www.2成人蘑菇🔞

    18🈲视频❌❌❌社区

    70.78MB
    453好评

    3D裸体朱竹清被❌羞羞视频

  • 云缨脱了内裤打开腿让人躁的漫画国产做受❌❌❌高潮水立免费观看 title="巴西男GayGays✅免费网站" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    珍妮捆绑❌触手❌大胸

    xXx╳动漫性潮喷❌╳❌╳

  • 成人18㊙️免费网站AI扒开韩剧❌狂揉❌视频 title="国产精品欲AV🍑🍒麻豆" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    纲手裸体㊙️视频免费看

    欧美老妇性爱自拍偷拍

  • 韩国色情巜交换做爰原神美女脱㊙️露小奶头视频 title="🐠🐢男🍌❌女人摸🐻" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    国产成人做爰A片喷水三級白洁

    "18🈲🍆🍆🍆🍆网站"在线播放

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 雏田被扒开腿❌同人 1天前
    雏田被❌吸乳脱在线观看
  • 红桃人妖和人妖的区别 6天前
    白丝jK美女被❌视频
  • 巨胸动漫美女❌视频 0天前
    红缨被啪❌羞羞同人图片
  • 二次元美女被❌超污APP下载 3天前
    🔞无遮挡裸光屁股打屁屁软件
  • 18❌❌❌3D❌❌❌免费 6天前
    王雨纯被❌喷水
  • 男男➕无码 9天前
    开了俩女小嫩苞A片
  • 中国学生裸体黄❌❌网站 5天前
    亚洲❌❌❌OOO欧洲1
  • 中国女人裸体㊙️网站 3天前
    chinese✅HDvideos
  • 娜美张开双腿被强❌动画 4天前
    撩起胸让我的🍌蹭来蹭去小说
  • 男人扒开美女大腿❌❌❌ 4天前
    女人脱了精光㊙️网站