The AI / news

AnySpeechRecognizer и AnyDecisionModel : две open source модели для голоса и принятия решений на платформах Apple

AnySpeechRecognizer и AnyDecisionModel : две open source модели для голоса и принятия решений на платформах Apple
3 мин чтения

AnySpeechRecognizer

Hugging Face анонсирует два пакета для Swift, AnyDecisionModel и AnySpeechRecognizer, которые расширяют подход, уже предложенный для языковых моделей с AnyLanguageModel, на задачи распознавания речи и принятия решений. Они сохраняют привычные Swift API и позволяют разработчику выбирать модель, выполняющую каждую задачу, включая открытые модели, загруженные из Hugging Face Hub и работающие на устройстве.

Apple предлагает с macOS 26 и iOS 26 SpeechAnalyzer, свой API для транскрипции речи. Разработчик добавляет к нему такие модули, как SpeechTranscriber или SpeechDetector, предоставляет аудиофайл или поток, а затем читает результаты по мере их поступления. Однако движок, работающий в основе этого API, является исключительно собственным решением Apple. AnySpeechRecognizer сохраняет интерфейс и позволяет сменить движок: согласно источнику, достаточно изменить импорт, если код использует только общий API, и изменить только создание транскриптора, чтобы использовать Parakeet.

Предлагается несколько движков. Parakeet v3 от NVIDIA распознает 25 европейских языков и самостоятельно определяет язык речи. Parakeet Ultra, вариант от Moondream, оказался « точнее в большинстве наших измерений », согласно сообщению. Parakeet Unified, также от NVIDIA, обрабатывает только английский. Qwen3-ASR от Alibaba существует в размерах 0,6B и 1,7B и охватывает 30 языков и 22 китайских диалекта, включая кантонский, японский и корейский. Он выдает финальный результат для сегмента длиной до 40 секунд, без промежуточных результатов, и работает на GPU. Он медленнее Parakeet и лучше подходит для транскрипции файлов, чем для работы в реальном времени.

Пакет также добавляет диаризацию спикеров, то есть идентификацию того, кто говорит в каждый момент времени. Модуль SpeakerDiarizer использует Streaming Sortformer от NVIDIA и может отслеживать до четырех спикеров, даже когда они перебивают друг друга. Фреймворк Speech от Apple не предлагает эквивалентного модуля.

Измерения проводились на Mac Studio M4 Max с macOS 27.0.1 на файлах LibriSpeech длиной от 3 до 8 минут. Процент ошибок по словам достиг 1,55% на test-clean и 2,78% на test-other для Parakeet v3 при работе с файлом, против 2,12% и 3,97% для транскриптора Apple при работе с файлом. Согласно сообщению, Parakeet транскрибирует час аудио за 20–40 секунд из файла и потребляет около 100 МБ памяти. На записях AMI, где люди говорят друг поверх друга, каждый протестированный движок превышает 23% ошибок по словам. Эти цифры получены на одной машине и нескольких наборах данных, а пакет тестировался только на macOS 27, не на iPhone.

AnyDecisionModel

AnyDecisionModel отвечает на закрытые вопросы: да или нет, множественный выбор, шкала оценок. Ответы типизированы и сопровождаются вероятностями. Вместо того чтобы заставлять языковую модель генерировать текст, пакет вычисляет каждый ответ на основе вероятностей модели, что позволяет избежать анализа свободного текста. В примере из сообщения модель Qwen3-4B работает на Mac через бэкенд MLX, и три вопроса по тикету поддержки возвращают соответственно вероятность, типизированный выбор и оценку.

С локальными бэкендами модель читает вероятность каждого возможного ответа, представленного одним токеном, то есть единицей текста. В сообщении уточняется, что сырые вероятности языковых моделей часто слишком категоричны и возможна калибровка. Чтобы уменьшить смещение, связанное с позицией варианта в списке, опция rotationDebiasing задает вопрос один раз для каждой ротации вариантов и усредняет вероятности, ценой дополнительной оценки на каждую ротацию.

Демонстрация Emoji Magnet, доступная в репозитории AnyDecisionModel-Examples, фильтрует 343 эмодзи на основе введенной фразы. Для каждого эмодзи модель отвечает на вопрос да или нет. С бэкендом Jev, размещенным на TypeSafe, все 343 вопроса отправляются одним запросом, и эмодзи стабилизируются примерно за полсекунды. Локально, с Qwen3 4B и бэкендом MLX, группа из 16 вопросов занимает около 0,45 секунды на M4 Max, а полный проход длится около 10 секунд.

Пакет включает шесть бэкендов, среди которых llama.cpp, Ollama и Core AI. Оба пакета требуют Swift 6.2 или новее, а также macOS 26 или iOS 26. Issues и pull requests приветствуются в обоих репозиториях.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x