**摘要:**ElevenLabs 於 2026 年 10 月 28 日公開 Cue 這個強制對齊(forced alignment)模型的細節:它能為音檔中每個字元標上精確時間戳,單次處理任意長度的錄音,並在約半秒內對齊一小時音檔。對於做字幕、配音、有聲書或任何需要「文字知道聲音在哪」的產品團隊來說,這直接影響你能多快、多準地出貨。
強制對齊到底在解決什麼問題
強制對齊是把「一段音檔」和「一份文字稿」逐字對上時間軸的工作。你在播放器裡點某個字,畫面就跳到那個字被說出來的瞬間——背後就是 aligner 在做事。它和 AI safety 語境下的「對齊」完全是兩回事,別混用。
ElevenLabs 研究員 Danila Kozlov 在官方部落格中解釋:人類憑直覺就能抓到字的位置,但要做到字元級、次毫秒精度,難度高得多。Cue 是 ElevenLabs 語音轉文字(Scribe)管線的最後一步——Scribe 負責轉錄,Cue 負責定時。目前所有 Scribe 請求都經過它,字幕、配音、歌詞定時也靠同一個模型,並可透過 Forced Alignment API 單獨呼叫。
傳統 aligner 的四個痛點
ElevenLabs 團隊先訪談客戶與內部使用者,整理出舊工具的限制,正好對上他們測試的開源工具的短板:
- 長度:多數工具只擅長約 30 秒片段,長檔要切塊,每個接縫都會累積誤差。Cue 在完整錄音上的平均誤差是 179 毫秒,開源工具則從 283 毫秒到超過 6 秒。
- 真實環境噪音:背景噪音、重疊語音、環境音樂會讓工具跟丟。在有背景干擾的英文錄音上,Cue 平均誤差 57 毫秒,其他工具為 65 至 920 毫秒。
- 語言支援:多數開源 aligner 每種語言要一個獨立模型,資料少的語言表現差或根本不支援。Cue 單一模型涵蓋 90 種以上 benchmark 語言。
- 速度:Cue 在正式環境 GPU 上約半秒對齊一小時音檔;次快的 Qwen3-ForcedAligner 要近 2 秒,最慢的測試工具超過一分鐘。
值得注意的是,Cue 比前代 ElevenLabs aligner 更小,而不是更大。另外,因為它工作在字元級,用字級 benchmark 衡量其實低估了它的精度——Kozlov 也坦承目前沒有字元級的黃金基準可以驗證。
一個值得記下來的營運細節
Cue 上線後不久,有客戶回報 Georgian 等低資源語言表現不如預期。ElevenLabs 從接獲回報、研究改進、訓練新版本到發布,全程在 24 小時內完成。研究團隊貼近客戶,這種回應速度本身就是產品能力的一部分。
歌詞對齊:意外的好表現
唱歌會拉長、模糊字音,多數模型做不好。Cue 在 JamendoLyrics MultiLang 資料集上,能一次處理英、法、西、德語歌曲,92.7% 的字落在標籤 0.3 秒內(次佳工具為 82.0%),平均起始誤差 0.82 秒,約為最近對手的一半。在 22 首歌中至少 19 首比所有其他工具準。KTV 產品和動態歌詞 App 這是一條新路。
實際接上 API 前要看的事
依官方文件,端點是 POST /v1/forced-alignment,吃 multipart form(檔案加純文字稿),回傳每個字元與每個字的 start/end 時間,外加整體 loss 信心分數。文件同時列出限制:輸入必須是純字串(不要包 JSON)、不支援 diarization(餵了會出現非預期結果)、計費與 Speech to Text API 同價、capability 文件寫明上限為檔案 3 GB、音檔 10 小時、文字 67.5 萬字元(API reference 頁另寫該端點檔案需小於 1 GB,串接前建議先確認)。支援 29 種語言的 multilingual v2 模型,含中文、日文、韓文等。
這類「文字與聲音同步」的基礎能力,跟之前寫過的語音與文字基礎設施趨勢一樣,值得在做產品規格前先摸清邊界。如果你的產品有字幕、有聲書章節跳轉或卡拉 OK 逐字歌詞的需求,先用 Forced Alignment API 跑一小段真實音檔、看看 loss 分數,是最省事的驗證方式。
參考來源
- Forced alignment with Cue: Character-level audio timing
- Forced Alignment | ElevenLabs Documentation
- Create Forced Alignment | ElevenLabs Documentation
在 X 上查看原貼文
