Как нейросеть распознаёт голос и превращает его в текст?

Запись превращается в спектрограмму — картинку частот во времени, а нейросеть распознавания речи (например, Whisper) по ней предсказывает текст, как языковая модель предсказывает слова. Современные модели понимают несколько языков, расставляют пунктуацию и справляются с шумом, но ошибаются на именах, терминах и при нескольких говорящих одновременно.

Обновлено

Подробно

Этапы распознавания

  1. Звук очищается и делится на короткие отрезки.
  2. Каждый отрезок превращается в спектрограмму.
  3. Модель предсказывает текст, учитывая контекст соседних слов.
  4. Добавляются пунктуация и регистр; для встреч — разделение по говорящим.
Ошибки

Почему бывают ошибки

Советы

Как повысить точность

Как это выглядит

Пример

Вы надиктовываете в машине: «Завтра в десять созвон с Ростелекомом, взять договор номер семьсот сорок два». Модель уверенно распознаёт время и название компании, но может записать «742» как «740 два» или «Ростелеком» как «Росте ликом». Поэтому в расшифровках первым делом стоит проверять цифры и имена.

Вопросы

Частые вопросы по теме

Насколько точно нейросети распознают русский?

Лучшие модели уверенно распознают русскую речь в хороших условиях; ошибки остаются на именах и терминах.

Нужен ли интернет для распознавания речи?

Для облачных моделей — да; локальные модели работают офлайн, но медленнее.

Может ли ИИ понять, кто говорит?

Да, это называется диаризацией: система делит запись по голосам, а имена сопоставляют вручную или по контексту.

Хранятся ли мои голосовые после расшифровки?

Зависит от сервиса; смотрите его политику хранения аудио.

Почему расшифровка без знаков препинания?

Простые модели выдают сплошной текст; современные расставляют пунктуацию сами, но иногда неточно.

Распознаёт ли ИИ диалекты и акценты?

В целом да, но точность ниже, чем на нейтральной речи, особенно на редких словах.

Можно ли расшифровать старую аудиозапись?

Да, любой файл в распространённом формате; качество зависит от записи.

Fast Notes

Как это устроено в Fast Notes

Fast Notes расшифровывает голосовые заметки и записи встреч, делит встречи по спикерам и делает саммари, задачи и договорённости.