关于 Amadeo
Amadeo 把它听到的音乐写下来。给它一段声音,可以来自文件、麦克风或视频,你会得到一份可以阅读、修改、换乐器演奏和分享的乐谱。
工作原理
音符由 Basic Pitch 找出,这是 Spotify 音频研究团队在 2022 年发布的神经网络。它以两秒为一个窗口聆听声音,每秒大约 86 次估计钢琴 88 个键上是否有音在响或刚开始。它用多种乐器和人声训练,能同时听出几个音。
其余部分是经典的音乐分析。速度来自音符起音的规律,调性来自比较每个音的时长与 24 个调的 Krumhansl–Kessler 调性轮廓,和弦来自把每半小节的音符与常见和弦形态相比较。最后,每个音符被对齐到最近的十六分音符,并按调性要求的拼写写出。
这一切都在你的浏览器里运行。你的声音不会被发送到任何地方,你的乐谱保存在你的设备上。分享的链接本身就包含乐谱,所以也没有服务器保存副本。
可以期待什么
单件乐器或单人声、录得清楚时效果最好。整支乐队或管弦乐团的录音会给出网络能分辨出的所有音符:可以作为起点,但很少能直接演奏。鼓不会被写出来。渐变的速度能跟上,但非常自由的弹性速度仍可能让节拍跑偏。编辑器就是为这些情况准备的。
浏览器不允许网页下载 YouTube 视频的声音,所以 Amadeo 会在视频播放时录下这个标签页。这在电脑上的 Chrome 和 Edge 中可用。
致谢
聆听使用 Basic Pitch(Apache 2.0)和 TensorFlow.js;制谱使用 VexFlow(MIT)和 Bravura 字体(SIL Open Font License);乐器使用 smplr,以及 Splendid Grand Piano 和 MusyngKite 音色库(CC BY-SA 3.0)。