Локальный анализ звонков без GPU. Что происходит на пути от аудио до резюмеЯ хотел проверить не то, насколько хорошо лок...

Локальный анализ звонков без GPU. Что происходит на пути от аудио до резюмеЯ хотел проверить не то, насколько хорошо локальная LLM пишет резюме по красивому тестовому диалогу, а что произойдёт с полным пайплайном на обычном телефонном звонке с музыкой, автоответчиком, перебиваниями и плохим звуком. Я сделал desktop приложение на Tauri, Rust, React и SQLite. Оно распознаёт речь, разделяет спикеров, анализирует тональность, эмоции и риски, а в конце локальная модель формирует резюме и рекомендации. Всё работает на компьютере, интернет нужен только для скачивания моделей. В эксперименте я прогнал реальные записи через два распознавателя и сравнил, где именно возникают проблемы на пути от аудио до итогового резюме.https://habr.com/ru/articles/1088060/#локальный_AI #распознавание_речи #speechtotext #диаризация #LLM #GigaAM #Whisper #Qwen #анализ_звонков #CPU

Read Original

Related