Как убрать фоновый шум для STT: полное руководство по шумоподавлению для speech-to-text

Зачем удалять фоновый шум для STT?

• Снижение отношения сигнал/шум (SNR) затрудняет моделям выделение речи
• Частотное маскирование, когда шум перекрывает частоты речи
• Путаница модели, когда шумовые паттерны похожи на речь
• Снижение confidence score, что приводит к большему числу ошибок в транскрипции
• Увеличение времени обработки, поскольку модели сложнее работать с шумным входом

• ✅ Повышение точности транскрипции (часто на 10-30%)
• ✅ Лучше распознаются слова, особенно технические термины
• ✅ Быстрее обработка благодаря более чистому аудио
• ✅ Более надежные таймкоды и сегментация
• ✅ Лучше обрабатывается тихая речь

Понимание типов фонового шума

1. Постоянный шум (стационарный)

• Примеры: Кондиционер, гул вентилятора, электрический фон, белый шум
• Характеристики: Постоянная частота и амплитуда
• Удаление: Проще всего удаляется спектральным вычитанием или фильтрацией

2. Переменный шум (нестационарный)

• Примеры: Дорожный шум, гул толпы, стук клавиатуры, шелест бумаги
• Характеристики: Меняется со временем, непредсказуемые паттерны
• Удаление: Требуются более продвинутые техники, например модели deep learning

3. Импульсный шум

• Примеры: Щелчки, хлопки, хлопанье дверей, звонок телефона
• Характеристики: Короткие, резкие всплески
• Удаление: Требуются обнаружение и замена/интерполяция

4. Периодический шум

• Примеры: Писк, сигнализация, повторяющиеся звуки
• Характеристики: Регулярные паттерны на определенных частотах
• Удаление: Можно отфильтровать режекторными фильтрами (notch filter)

Метод 1: Использование ПО для редактирования аудио

Audacity (бесплатно, open source)

1. Откройте аудиофайл в Audacity
2. Выделите участок только с шумом (без речи)
3. Перейдите в Effect → Noise Reduction
4. Нажмите Get Noise Profile
5. Выделите всю аудиодорожку
6. Снова перейдите в Effect → Noise Reduction
7. Настройте параметры:
   • Noise reduction (dB): 12-24 dB (начните с 15)
   • Sensitivity: 6.0 (по умолчанию)
   • Frequency smoothing (bands): 3 (по умолчанию)
8. Нажмите OK, чтобы применить

• Используйте шумовой сэмпл длительностью 0.5-2 секунды
• Выбирайте участок с репрезентативным шумом
• Начинайте с умеренных настроек и увеличивайте при необходимости
• Перед применением ко всей дорожке используйте предпросмотр

Adobe Audition

1. Откройте аудиофайл
2. Выделите участок только с шумом
3. Перейдите в Effects → Noise Reduction/Restoration → Capture Noise Print
4. Выделите всю дорожку
5. Перейдите в Effects → Noise Reduction/Restoration → Noise Reduction (process)
6. Настройте:
   • Noise Reduction: 40-80% (начните с 60%)
   • Reduce by: 6-12 dB
   • High Frequency Transition: 4000-8000 Hz
7. Нажмите Apply

Метод 2: Библиотеки Python для обработки аудио

Использование библиотеки noisereduce

import noisereduce as nr
import soundfile as sf

# Load audio file
audio_data, sample_rate = sf.read("noisy_audio.wav")

# Method 1: Stationary noise reduction (for constant noise)
reduced_noise = nr.reduce_noise(
    y=audio_data,
    sr=sample_rate,
    stationary=True,
    prop_decrease=0.8  # Reduce noise by 80%
)

# Method 2: Non-stationary noise reduction (for variable noise)
reduced_noise = nr.reduce_noise(
    y=audio_data,
    sr=sample_rate,
    stationary=False,
    prop_decrease=0.8
)

# Save cleaned audio
sf.write("cleaned_audio.wav", reduced_noise, sample_rate)

pip install noisereduce soundfile

Использование librosa для spectral gating

import librosa
import numpy as np
import soundfile as sf

def spectral_gate(audio_path, threshold_db=-40):
    """Remove noise using spectral gating."""
    # Load audio
    y, sr = librosa.load(audio_path, sr=None)
    
    # Compute short-time Fourier transform (STFT)
    stft = librosa.stft(y)
    magnitude = np.abs(stft)
    phase = np.angle(stft)
    
    # Convert to dB
    magnitude_db = librosa.amplitude_to_db(magnitude)
    
    # Apply threshold (remove frequencies below threshold)
    magnitude_db_cleaned = np.where(
        magnitude_db > threshold_db,
        magnitude_db,
        -80  # Silence very quiet parts
    )
    
    # Convert back to linear scale
    magnitude_cleaned = librosa.db_to_amplitude(magnitude_db_cleaned)
    
    # Reconstruct audio
    stft_cleaned = magnitude_cleaned * np.exp(1j * phase)
    y_cleaned = librosa.istft(stft_cleaned)
    
    return y_cleaned, sr

# Usage
cleaned_audio, sample_rate = spectral_gate("noisy_audio.wav", threshold_db=-35)
sf.write("cleaned_audio.wav", cleaned_audio, sample_rate)

Использование scipy для high-pass filtering

from scipy import signal
import soundfile as sf

def high_pass_filter(audio_path, cutoff_freq=80):
    """Remove low-frequency noise with high-pass filter."""
    # Load audio
    audio_data, sample_rate = sf.read(audio_path)
    
    # Design high-pass filter
    nyquist = sample_rate / 2
    normalized_cutoff = cutoff_freq / nyquist
    b, a = signal.butter(4, normalized_cutoff, btype='high')
    
    # Apply filter
    filtered_audio = signal.filtfilt(b, a, audio_data)
    
    return filtered_audio, sample_rate

# Usage
cleaned_audio, sr = high_pass_filter("noisy_audio.wav", cutoff_freq=100)
sf.write("cleaned_audio.wav", cleaned_audio, sr)

Метод 3: Шумоподавление на основе deep learning

Использование RNNoise

import rnnoise
import numpy as np
import soundfile as sf

def rnnoise_denoise(audio_path):
    """Remove noise using RNNoise model."""
    # Load audio
    audio_data, sample_rate = sf.read(audio_path)
    
    # RNNoise expects 16kHz mono audio
    if sample_rate != 16000:
        import librosa
        audio_data = librosa.resample(audio_data, orig_sr=sample_rate, target_sr=16000)
        sample_rate = 16000
    
    # Convert to mono if stereo
    if len(audio_data.shape) > 1:
        audio_data = np.mean(audio_data, axis=1)
    
    # Process in chunks (RNNoise processes 480 samples at a time)
    chunk_size = 480
    denoised_audio = []
    
    denoiser = rnnoise.RNNoise()
    
    for i in range(0, len(audio_data), chunk_size):
        chunk = audio_data[i:i+chunk_size]
        if len(chunk) < chunk_size:
            chunk = np.pad(chunk, (0, chunk_size - len(chunk)))
        
        denoised_chunk = denoiser.process(chunk)
        denoised_audio.extend(denoised_chunk)
    
    return np.array(denoised_audio), sample_rate

# Usage
cleaned_audio, sr = rnnoise_denoise("noisy_audio.wav")
sf.write("cleaned_audio.wav", cleaned_audio, sr)

pip install rnnoise

Использование Demucs от Facebook

from demucs.pretrained import get_model
from demucs.audio import AudioFile
import torch

def demucs_separation(audio_path):
    """Separate speech from noise using Demucs."""
    # Load pre-trained model
    model = get_model('htdemucs')
    model.eval()
    
    # Load audio
    wav = AudioFile(audio_path).read(streams=0, samplerate=model.sample_rate, channels=model.audio_channels)
    ref = wav.mean(0)
    wav = (wav - ref.mean()) / ref.std()
    wav = torch.from_numpy(wav).float()
    
    # Separate sources
    with torch.no_grad():
        sources = model(wav[None])
        sources = sources * ref.std() + ref.mean()
    
    # Extract vocals (speech) - usually index 0 or 3
    speech = sources[0, 0].cpu().numpy()
    
    return speech, model.sample_rate

# Usage
speech_audio, sr = demucs_separation("noisy_audio.wav")
sf.write("speech_only.wav", speech_audio, sr)

Метод 4: Онлайн-инструменты шумоподавления

1. Audacity Online (облачная версия)

• Бесплатно, работает в браузере
• Подходит для быстрой обработки
• Ограниченный размер файла

2. Adobe Podcast Enhance

• Шумоподавление на базе ИИ
• Бесплатно при ограниченном использовании
• Отличные результаты для речи

3. Krisp.ai

• Подавление шума в реальном времени
• Доступен API для интеграции
• Подходит для live-аудио

4. Cleanvoice.ai

• Автоматическое удаление шума
• Работает с несколькими типами шума
• Доступна пакетная обработка

Полный workflow: предобработка аудио для STT

import librosa
import noisereduce as nr
import soundfile as sf
from scipy import signal
import numpy as np

def preprocess_audio_for_stt(audio_path, output_path):
    """Complete audio preprocessing pipeline for STT."""
    
    # Step 1: Load audio
    print("Loading audio...")
    y, sr = librosa.load(audio_path, sr=16000, mono=True)
    
    # Step 2: Remove DC offset
    print("Removing DC offset...")
    y = y - np.mean(y)
    
    # Step 3: High-pass filter (remove low-frequency noise)
    print("Applying high-pass filter...")
    nyquist = sr / 2
    normalized_cutoff = 80 / nyquist
    b, a = signal.butter(4, normalized_cutoff, btype='high')
    y = signal.filtfilt(b, a, y)
    
    # Step 4: Normalize volume
    print("Normalizing volume...")
    max_val = np.max(np.abs(y))
    if max_val > 0:
        y = y / max_val * 0.95  # Normalize to 95% to avoid clipping
    
    # Step 5: Noise reduction
    print("Reducing noise...")
    y = nr.reduce_noise(
        y=y,
        sr=sr,
        stationary=False,  # Use non-stationary for variable noise
        prop_decrease=0.8  # Reduce noise by 80%
    )
    
    # Step 6: Final normalization
    print("Final normalization...")
    max_val = np.max(np.abs(y))
    if max_val > 0:
        y = y / max_val * 0.95
    
    # Step 7: Save processed audio
    print(f"Saving to {output_path}...")
    sf.write(output_path, y, sr)
    
    print("Preprocessing complete!")
    return y, sr

# Usage
preprocess_audio_for_stt("noisy_recording.wav", "cleaned_for_stt.wav")

Лучшие практики удаления шума

1. Выбирайте правильный метод

• Постоянный шум: Используйте спектральное вычитание или стационарное шумоподавление
• Переменный шум: Используйте нестационарное подавление или модели deep learning
• Импульсный шум: Используйте удаление щелчков или интерполяцию
• Несколько типов шума: Комбинируйте несколько техник

2. Сохраняйте качество речи

• Не переобрабатывайте (это может внести артефакты)
• Используйте умеренные настройки шумоподавления (60-80%)
• Сохраняйте частотный диапазон человеческой речи (80-8000 Hz)
• Поддерживайте естественные характеристики речи

3. Тестируйте и итерируйте

• Всегда делайте предпросмотр перед применением ко всей дорожке
• Сравнивайте оригинал и обработанное аудио
• Тестируйте точность транскрипции на обеих версиях
• Корректируйте настройки по результатам

4. Учитывайте вашу STT-модель

• Некоторые модели (например, Whisper) хорошо справляются с шумом
• Предобработка не всегда обязательна
• Тестируйте с предобработкой и без нее
• Более крупные модели устойчивее к шуму

Частые ошибки, которых стоит избегать

• Может удалить частоты речи
• Создает артефакты и искажения
• Делает речь «роботизированной»

• Может удалить важные компоненты речи
• Делает речь тонкой и «жестяной»
• Влияет на естественность

• Предобработка может не улучшить точность
• Некоторые модели лучше работают с исходным аудио
• Всегда проводите A/B-тест

• Убедитесь в правильной частоте дискретизации (рекомендуется 16kHz)
• По возможности используйте форматы без потерь
• Избегайте двойного сжатия

Интеграция со speech-to-text

Использование с OpenAI Whisper

import whisper
import noisereduce as nr
import soundfile as sf

def transcribe_with_noise_reduction(audio_path):
    """Transcribe audio with noise reduction preprocessing."""
    
    # Step 1: Reduce noise
    audio_data, sr = sf.read(audio_path)
    cleaned_audio = nr.reduce_noise(
        y=audio_data,
        sr=sr,
        stationary=False,
        prop_decrease=0.75
    )
    
    # Save temporary cleaned file
    temp_path = "temp_cleaned.wav"
    sf.write(temp_path, cleaned_audio, sr)
    
    # Step 2: Transcribe with Whisper
    model = whisper.load_model("base")
    result = model.transcribe(temp_path)
    
    # Clean up
    import os
    os.remove(temp_path)
    
    return result["text"]

# Usage
transcription = transcribe_with_noise_reduction("noisy_audio.wav")
print(transcription)

Использование с API SayToWords

import requests
import noisereduce as nr
import soundfile as sf

def transcribe_with_saytowords(audio_path):
    """Preprocess and transcribe with SayToWords."""
    
    # Preprocess audio
    audio_data, sr = sf.read(audio_path)
    cleaned_audio = nr.reduce_noise(
        y=audio_data,
        sr=sr,
        stationary=False,
        prop_decrease=0.8
    )
    
    # Save cleaned audio
    cleaned_path = "cleaned_for_api.wav"
    sf.write(cleaned_path, cleaned_audio, sr)
    
    # Upload and transcribe
    with open(cleaned_path, 'rb') as f:
        files = {'file': f}
        response = requests.post(
            'https://api.saytowords.com/transcribe',
            files=files,
            headers={'Authorization': 'Bearer YOUR_API_KEY'}
        )
    
    return response.json()

Измерение эффективности шумоподавления

Сравнение до/после

import librosa
import numpy as np

def measure_snr(audio_path):
    """Estimate signal-to-noise ratio."""
    y, sr = librosa.load(audio_path, sr=None)
    
    # Simple SNR estimation
    signal_power = np.mean(y ** 2)
    noise_floor = np.percentile(np.abs(y), 10) ** 2
    snr_db = 10 * np.log10(signal_power / noise_floor) if noise_floor > 0 else 0
    
    return snr_db

# Compare before and after
original_snr = measure_snr("noisy_audio.wav")
cleaned_snr = measure_snr("cleaned_audio.wav")

print(f"Original SNR: {original_snr:.2f} dB")
print(f"Cleaned SNR: {cleaned_snr:.2f} dB")
print(f"Improvement: {cleaned_snr - original_snr:.2f} dB")

Заключение

• Типа шума (постоянный vs. переменный)
• Качества аудио (частота дискретизации, битность)
• Доступных инструментов (ПО vs. программирование)
• STT-модели (некоторые лучше справляются с шумом, чем другие)

• Для быстрой обработки: Используйте Audacity или онлайн-инструменты
• Для автоматизации: Используйте Python-библиотеки, такие как noisereduce
• Для лучших результатов: Комбинируйте несколько техник
• Для продакшена: Тестируйте с вашей конкретной STT-моделью

Дополнительные материалы

• Whisper for Noisy Background Guide
• How to Fix Unclear Recordings
• Audio Enhancement Best Practices