Sonilo 在由 B Capital 领投、Redpoint 参投的一轮融资中筹得 $11 million。这笔投资将支持其生成与视频匹配的音乐和音效的技术。
公司已将这笔资金规划用于:
- 扩展计算基础设施,提升模型性能。
- 面向创作者和开发者平台拓展市场。
- 扩大音乐授权业务。
根据视频和文本生成音频
Sonilo 开发围绕视频构建的专有音乐和声音模型。其 Sound World Model 在一个多模态人工智能(AI)系统中融合了视频理解、音频生成和时间对齐功能。
该模型利用场景的时间节奏、动作和情绪变化生成配套音频。创作者可以提供视频素材、文字指令或同时提供两者,以制作可用于商业用途的同步配乐。
Sonilo 的 CEO 兼 co-founder Shawn Song 表示,使用基于文本的音频工具时,创作者可能需要花费数小时,为单条内容描述音乐、将音乐与视频素材对齐并选择音效。
Song 表示,Sonilo 则会逐帧分析视频素材,依据其节奏、情绪和叙事,生成适合场景的音乐和音效。
团队的方法源于多年来在大型平台规模下开发推荐和生成系统的经验。Sonilo 表示,指导模型开发的是创作者的工作流程,而非行业基准。
创作者工具与分发渠道
创始团队致力于将多模态 AI 研究、音乐授权专业知识,以及围绕创作者工作方式展开的产品开发结合起来。
B Capital 的 general partner Daisy Cai 表示,Sonilo 支持文本和视频输入、Song 在多模态音乐生成方面的专长,以及团队对创作者工作流程的重视,都是投资该公司的原因。
Cai 表示,B Capital 预计,生成式音频将成为围绕 AI 构建的视频技术中不可或缺的组成部分。
Sonilo 还提供口型同步的 AI 配音,旨在帮助短剧和内容工作室将视频适配为不同语言,无需手动进行后期制作。
早期分发合作伙伴包括 AI 创作者聚合平台 TapNow 和 ComfyUI。
音乐授权与面向消费者的产品发布
Sonilo 正在使用获得授权的源素材搭建其商业音乐基础设施,Shutterstock 是其早期授权合作伙伴之一。
公司表示,其模型使用获得授权的音乐数据集进行训练,并向权利人和艺人支付授权费及收入分成。
Sonilo 正在与主要版权机构敲定录音母带和音乐出版协议。预计这些协议将在未来几周内完成签署。
公司计划于第四季度推出一款面向消费者的应用,让个人创作者能够直接使用 Sonilo 的视频转音乐生成技术。