Запуск нейросетей
Whisper на арендованной GPU
Whisper — открытая модель распознавания речи с хорошим русским. На видеокарте она расшифровывает час записи за несколько минут, поэтому аренда GPU выгоднее облачных API при больших объёмах. Самый дешёвый вариант на Тераферме — RTX 3060 за 12 ₽ в час.
Сколько памяти нужно и какую видеокарту взять
| Вариант | Видеопамять | Подходящая видеокарта | Цена, ₽/час |
|---|---|---|---|
| small / medium | от 6 ГБ | RTX 3060 | 12 |
| large-v3 (faster-whisper) | от 8 ГБ | RTX 3060 | 12 |
| large-v3 (оригинал) | от 12 ГБ | RTX A4000 | 17 |
Ориентир по практике запуска; сложные графы и большие разрешения требуют больше памяти.
Запуск по шагам
- Зарегистрируйтесь и пополните баланс от 500 ₽ (сейчас криптовалютой, оплата картой РФ — скоро)
- Выберите видеокарту на 6+ ГБ
- Запустите шаблон и выполните команды из блока ниже
- Работайте через SSH или Jupyter и остановите сервер после работы
Установка и расшифровка
pip install faster-whisper
python -c "from faster_whisper import WhisperModel; m=WhisperModel('large-v3', device='cuda'); print([s.text for s in m.transcribe('audio.mp3', language='ru')[0]])"
Советы
- faster-whisper в несколько раз быстрее оригинала при меньшей памяти.
- Для потока файлов запускайте несколько процессов на одной карте.
Читайте также
Частые вопросы
Сколько стоит расшифровать час аудио?
На RTX 3090 час записи обрабатывается за несколько минут — это единицы рублей.
Сервер будет готов через пару минут
Регистрация за минуту, пополнение от 500 ₽, оплата поминутно.