录音全是噪音、伴奏拆不开?腾讯开源AuK实测:一句大白话,就能把人声、伴奏和杂音分开
做自媒体的朋友大概都遇到过这种崩溃时刻:
在街边采访,回放时全是车流声和风声;在咖啡馆录口播,隔壁桌的聊天声比你还清楚;好不容易翻到一段珍贵的老录音,底噪像炒豆子一样噼里啪啦;想把一首歌的人声抽出来做翻唱,结果网上那些工具一处理,人声像隔着一层棉被。
过去这些活儿,得靠一整套后期软件加上老师傅的手感,一段十分钟的素材能耗掉一下午。
最近,腾讯混元和上海交大联合开源了一个叫AuK的语音模型,在网上被不少音频从业者刷屏。最有意思的地方在于:它不让你调参数、不让你看频谱,你只要用大白话说一句“把背景噪音去掉,其他都别动”,它就把活儿干了。
我把它在去噪、分人声、拆伴奏这几个场景里实打实地捋了一遍,有几个地方确实挺出乎意料。
一、它到底是个啥?一句话:一个听得懂人话的“音频后期师傅”
先别被“1.5B 参数”“基础模型”这些词吓着。
你可以把它想象成一位刚入行但什么都会一点的后期师傅:修音、去噪、分离、改口音、改情绪、改语速,他都能上手。你不需要给他一份专业参数表,只要像跟同事交代工作一样说人话——“这段太吵了,把杂音清掉”“只留第二个开口说话的人”“把人声抽出来,伴奏我不要”。
它内部其实有三套班子在配合:一个负责“听懂你在说什么”的多模态大模型,一个负责“把声音压缩成可编辑素材”的音频压缩器,还有一个负责“重新把声音画出来”的生成模型。
打个比方:大模型是导演,负责理解你的需求;压缩器是把整段音乐拆成乐高积木;生成模型再按导演的要求,把积木重新拼成一段干净的声音。
也正因为是“重新拼”,它才能做到传统降噪插件做不到的事——传统插件是“把噪音压下去”,它是“听懂哪儿是人声、哪儿是噪音,然后把人声重新补回来”。
关键是,这套东西是MIT 协议开源,代码和模型权重都能下载,商用也没被卡脖子。这在语音圈里,算是相当大方了。
二、最实用的三件事:去噪、分人、拆伴奏
AuK 官方一口气列了十几种任务,但对普通创作者来说,真正天天用得上的,其实就三件。
第一件:一句话去噪,还能“只去你想去的那个”
它最贴心的地方,是去噪可以“点菜”。
你说“只去掉背景噪声,其他都保留”,它就不会顺手把你的房间混响也抹掉;你说“只去掉房间混响”,它就绕开环境音,只处理回声;你说“噪声和混响都去掉,输出干净人声”,它才全给你清一遍。
更绝的是,它还能修“烂音质”。电话音、闷声、削波破音、网络丢包造成的断续,都可以直接点名让它修。
官方在 DNS Challenge 2020 这个业界公认的降噪测试集上,把“降噪后人声被识别错的比例”压到了2.66%,说话人相似度做到0.99(满分 1)。在更难的 CHiME-4 真实远场录音测试里,错误率也做到了7.84%。
翻译成人话:降噪之后,人声没被“洗坏”,你原来是谁,听着还是谁。
这对做访谈、做课程、做口播的人来说太重要了。很多人不敢用 AI 降噪,就是怕声音变“塑料”。而这项指标说明,它在“变干净”和“别变味”之间,平衡得不错。
第二件:几个人同时说话,也能单独拎出一个
会议录音、圆桌讨论、街头群访,最头疼的就是“好几个人抢话”。
AuK 支持两种非常人性的分离方式:
- 按开口顺序分:“只保留第二个开始说话的人,其他人全部去掉。”
- 按说话内容分:“只保留说‘这个方案我同意’的那个人。”
第二种尤其有意思。它不是靠“声音像不像”来找人,而是先听懂谁说了这句话,再把这个人从混在一起的音频里捞出来。
这意味着什么?意味着你不需要提前给每个人录一段声纹样本。你只要记得他说过哪句话,就能把他单独拎出来。
在 Libri2Mix 双人混说测试里,它的说话人相似度做到0.96,语音识别错误率9.12%——这个成绩已经和专门做分离的老牌模型打平,而它还是个“什么都会一点”的多面手。
第三件:歌曲拆人声,而且拆完还能接着改歌词
这可能是最让音乐区创作者兴奋的部分。
你给它一首完整的歌,说“只保留干净的歌声,其他全去掉”,它就把人声抽出来;说“保留所有人声,包括说话和唱歌”,它就把歌里的所有人声部分留下。
更狠的是歌词编辑:把一句歌词里的“后视镜”改成“像你”,它会保留原唱的音色、旋律和情绪,只把那一句换掉。
这一步在传统流程里意味着什么?意味着要重新进棚、重新对轨、重新混音。而现在,是一句话的事。
不过这里有个非常重要的前提:歌词编辑要求输入是纯人声的清唱素材,不能带伴奏。所以正确姿势是——先用它的分离功能把伴奏剥掉,拿到干净人声,再去做歌词改写。
这其实也顺带说明了一件事:它的分离和编辑,本来就是设计成一条流水线的。
三、指令怎么写?真的就是“说人话”
我把官方那套模板翻译成了日常说法,你可以感受一下这个交互有多“不像 AI”:
“请只去除背景噪声,保留其他内容,输出等长结果。”
“请保留所有说话人,去除噪声和混响,输出等长的纯净语音。”
“只保留第二个开始说话的人,去掉其余说话人。”
“请只保留歌声,其余声音都去掉。”
“请修复这段音频的电话感,恢复自然清晰的人声。”
看出来了吗?没有一个是参数,全是需求描述。
而且对于去噪、分离这类任务,它的输出是和输入等长的。这一点特别关键:等长意味着你把处理完的音频拖回剪辑软件,音轨位置不用重新对,口型不用重新贴,字幕不用重新校。
做过视频的人都知道,“不用重新对轨”这五个字,能省下多少命。
如果你懒得想措辞,它还带了一个“提示词增强器”:你把需求随口一说,它自动识别这是哪类任务、该配什么参数、目标要多长,然后帮你整理成一条规范指令。相当于旁边站了个懂行的助理,帮你把“我想让声音好听点”翻译成可执行的需求。
四、它怎么塞进你现有的工作流?
这才是决定一个工具能不能真正用起来的关键。AuK 在这件事上想得比较周全:
想先试试水?官方在魔搭和 Hugging Face 上都放了在线体验页面,打开浏览器就能玩,不用装环境。
想在电脑上批量干活?它自带一个网页操作界面,上传音频、填一句话、点生成,适合不写代码的创作者。
习惯用 ComfyUI 的?它有现成的节点,可以像搭积木一样,把“加载音频 → 去噪 → 分离人声 → 保存”串成一条自动化流水线。对做批量短视频、批量播客的团队来说,这个价值很大。
要接进自己的系统?它能被主流的推理服务框架直接托管,也有苹果芯片的原生加速方案,甚至有人做了轻量化版本,让它在更普通的设备上跑。
输出统一是24kHz 采样率的单声道音频,不算录音棚级别,但对短视频、播客、口播、访谈这些场景,完全够用。
五、门槛高不高?说实话,显卡这关躲不掉
这里必须说点实在话,不能只讲好听的。
AuK 本体是 1.5B,但它还要外挂一个 3B 的多模态编码器来“听懂指令”。所以它不是那种轻薄本能随便跑的模型。
官方给出的数据是:不做优化时,推理峰值显存大约在 25GB 上下;打开“把部分模块挪到内存里待命”的省显存模式后,能压到17GB 左右;后来官方又修了一版内存占用问题,峰值进一步降到了18GB 左右,省显存模式下大约 10.5GB。
翻译一下:一张 24GB 显存的消费级显卡,现在是有机会跑起来的;如果只有 8GB、12GB,那基本只能走在线体验,或者等社区进一步量化的版本。
另外还有两个坑要提前知道:
第一,它一次只能处理 30 秒以内的音频(指的是输入加输出加起来的预算)。想做整首歌、整期播客,得先自己切片,处理完再拼回去。这是目前最影响“生产力”的一条限制。
第二,它有些能力还比较“偏科”。比如改情绪这一项,官方自己的测试里,情绪编辑的成功率只有9.94%——也就是说,让它“把这段话改成开心的语气”,十次里成功不了一次。这类活儿目前还是别指望它。
反过来说,它在去噪、分离、修复、改语速音高、去口音、气声转换这些“信号处理型”任务上,表现要稳得多。这也正好对应了本文的主题:它现在更像一个靠谱的音频清洁工,而不是一个全能的声音演员。
六、说点自己的判断
我一直觉得,AI 音频工具真正的分水岭,不是“能不能生成”,而是“能不能嵌进现有的活儿里”。
生成一段以假乱真的语音,很酷,但大多数普通人一年也用不上几次。
而去噪、分人声、拆伴奏,是每周甚至每天都在发生的脏活累活。这些活儿不性感,但极其耗时间,而且极其考验经验。
AuK 的意义在于,它把这些“老师傅的手艺”,压缩成了一句人话。你不用懂什么是频谱、什么是掩蔽、什么是相位,你只需要说清楚“我要什么、我不要什么”。
当然,它现在还不完美:30 秒的长度限制、偏弱的情绪编辑、不算低的显存门槛,都说明它还是个“能用但需要点耐心”的工具。
但方向已经很清楚了——未来的音频后期,可能不再是“调参数”,而是“提需求”。
最后抛个问题给大家:
如果给你一个能听懂人话的音频助手,你最想让它先帮你解决哪件事?是清掉孩子哭闹背景里的网课录音,还是把十年前的采访带子救回来,又或者,把一首老歌里的人声单独抽出来,做成一段只属于你的回忆?
评论区聊聊,说不定你的需求,就是下一个版本要补上的功能。
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考