本地运行不上传 · 无需账号 · 可离线使用

开发中 LipScribe 仍处于早期试验阶段:读唇模型仍在训练中,很多词会读错。请用它了解大意,并核对每个词。

这是 LipScribe 在无声状态下对这段视频的真实读唇结果(英语)。视频:《The Standard Model》, Fermilab,CC BY 3.0(已剪辑、裁切并去除声音)。

没有声音,也能看懂说了什么。

LipScribe 会找出视频中的人脸,跟踪说话人的嘴部,并用完全在浏览器中运行的 AI 模型读取唇语。你会得到一份带时间戳的文字稿,其中每个词都标明了正确的概率。可读取英语视频,西班牙语为测试版。不上传任何内容。免费。

0个视频被上传 100%在设备上运行的 AI 0–100%每个词都有概率 EN · ES英语 + 西班牙语(测试版)
工作原理

添加视频,选择说话人,开始读唇。

每种说话语言都有自己的读唇模型(英语 169 MB,西班牙语 169 MB),只在你第一次使用该语言时下载到浏览器一次并缓存,之后 LipScribe 可以离线运行。一切都在你自己的处理器上完成——你的视频哪儿也不去。

01 · 添加

原样导入你的视频

来自手机或电脑的 MP4、MOV 或 WebM——一个或多个片段都可以。视频在浏览器标签页中打开,不会发送到任何地方。

02 · 选择

选择读谁的唇语

自动查找人脸并在整个片段中跟踪。画面中有多人时,点按你想要的那位;应用会准确显示它正在读取哪张嘴。

03 · 读唇

可以核对的文字稿

带时间戳的句子,每个词按其正确概率着色。点按一个词,看看它还可能是什么。可导出 TXT、SRT、VTT 字幕,或包含所有候选项的 JSON。

如实说明准确度

读唇很难。LipScribe 会告诉你它有多确定。

许多发音在嘴唇上看起来一模一样——英语中的 “pat”、“bat” 和 “mat” 口型相同——即使是训练有素的读唇者也会漏掉很多。因此,LipScribe 不假装完美:每个词都有一个概率,你还能看到其他可能的读法。请期待大意,而不是逐字记录。以下数据测自我们的测试集:67 个真实视频片段,共 60 分钟。

约 2/3的英语词能读对:各类真实视频片段(词错误率 35.0%)。
约 85%的英语词能读对:清晰、正对镜头的录音室说话人。
约 63%的西班牙语词能读对——西班牙语为测试版(词错误率 36.7%)。
93%显示为 80–100% 的词确实是对的;显示为约 50% 的词大约一半是对的。
一句话的样子
0:07

Thank you all for coming tonight

  1. 44%Thank you all for coming tonight
  2. 23%Thank you all for coming to night
  3. 11%Thank you all for becoming tonight
可能 80% 以上不确定 50–80%存疑 低于 50%

效果最好

  • 一位正对镜头的说话人
  • 人脸占画面的较大部分
  • 光线稳定、运动模糊少
  • 每秒 25–30 帧

较难的情况

  • 转头和侧脸
  • 人脸很小或很远
  • 手、麦克风或胡须遮住嘴
  • 低帧率、高压缩、生僻名字和数字

读唇之前,应用会检查人脸大小、头部转向、检测覆盖率和帧率,并在片段可能难以读取时提醒你。

别轻信——去验证

一个你可以亲自验证的隐私承诺。

“我们不会上传你的视频”是每个服务都会做出的承诺。LipScribe 的设计让你不必凭信任接受它:

  1. 打开应用,再打开浏览器的 DevTools 并观察 Network 标签页。读取一个片段——你会看到模型被下载到你这里,而没有任何内容发出去。
  2. 或者更彻底:先打开一次应用让模型缓存下来,然后开启飞行模式继续使用。一切照常运行,因为一切都在你的设备上运行。
  3. 页面的安全策略只允许它与自身来源通信,而该来源只提供应用文件——没有上传接口,没有账号,也没有统计分析。
用途

当声音缺失、被淹没或从未存在时。

静音或无声片段

关着麦克风录的视频,或分享时没有声音:大致了解说话人说了什么。

嘈杂的音频

风声、车流、音乐或人群盖过了说话声。噪音影响不到嘴唇,嘴唇依然承载着话语。

无障碍

当你自己的录像没有可用音轨时,生成字幕草稿——用来修改的起点,而不是成品字幕。

档案影像

声音已经丢失或从未录下的家庭录像和档案胶片,在你自己的电脑上读取。

请负责任地使用:用于你自己拍摄或有权处理的视频,并尊重画面中的人。

常见问题

问题,直截了当地回答。

我的视频会被上传吗?

不会。你的浏览器打开文件,AI 模型在浏览器内存中运行,导出时文字稿保存到你的下载文件夹。整个过程没有服务器参与:即使我们想看你的视频也做不到。

能读中文视频吗?

暂时不能。目前可读英语,西班牙语为测试版。读唇前在应用中选择“视频中的语言”——它与界面语言(中文、英语、西班牙语、德语或法语)相互独立。目前西班牙语的准确度略低于英语。

准确度如何?

在各类真实的英语视频片段上,大约三个词能读对两个;对于清晰、正对镜头的录音室说话人,大约 85%。西班牙语(测试版)约为 65%。结果很大程度上取决于素材,因此每个词都带有概率,你也能看到每个词和每句话的其他可能读法。请期待大意而不是逐字稿;人名、数字和生僻词尤其困难。

颜色和百分比是什么意思?

每个词的百分比表示它正确的概率,根据模型在该词附近看到的内容估算。白色的词很可能正确(80% 以上),琥珀色的词不确定,带下划线的珊瑚色词存疑(低于 50%)。每句话的读法显示概率在解码器保留的各读法之间如何分配。在我们的测试集中,显示为 80–100% 的词约有 93% 是对的。

什么样的视频效果最好?

一位正对镜头的人,脸足够大,光线好,25–30 fps。较新的浏览器都支持 MP4、MOV 和 WebM。画面中有多人也没关系——由你选择读谁的唇语。

为什么第一次比较慢?

第一次读取某种语言时,浏览器会下载该语言的读唇模型(英语 169 MB,西班牙语 169 MB)并缓存。之后会立即启动,离线也可以。在笔记本电脑的 CPU 上,读唇速度约为实时的 1.6 倍——1 分钟的片段大约需要 40 秒;手机和较旧的电脑需要数倍时间。

免费吗?可以用于工作吗?

免费。它使用的开源读唇模型(英语用 Auto-AVSR,西班牙语用 ViSpeR)仅授权用于研究和非商业用途,因此 LipScribe 也是如此:个人、教育和研究用途没有问题;商业用途需要用版权清晰的视频训练的模型。如果 LipScribe 帮到了你,欢迎随意捐助。

声音没了,话语不必随之消失。

打开 LIPSCRIBE →