Qwen2.5-VL-3B

Qwen2.5-VL-3B - это компактная, но мощная мультимодальная модель с 3 миллиардами параметров, специально разработанная для эффективного развертывания на периферийных устройствах без потери качества. Модель объединяет в себе Vision Transformer энкодер с декодером серии Qwen2.5, обеспечивая обработку изображений, видео и текста через инновационные подходы к обработке динамического разрешения и абсолютного временного кодирования, что позволяет обрабатывать изображения различных размеров и видео продолжительностью до часа с локализацией событий на уровне секунд.

Ключевой особенностью 3B модели является ее способность к высококачественному анализу документов, включая OCR, детектирование объектов, понимание видео и автоматизацию компьютерных интерфейсов. Модель обучена на приблизительно 4 триллионах токенов различных модальностей, что обеспечивает глубокое понимание визуального контента и способность генерировать структурированные выходные данные в формате JSON для координат и атрибутов объектов. Инновационная система Window Attention в vision encoder значительно снижает вычислительные затраты, масштабируя их линейно, а не квадратично, что делает модель идеальной для мобильных и edge-устройств.

Модель демонстрирует выдающиеся результаты на ключевых бенчмарках: 53.1% на MMMU, 93.9% на DocVQA, 79.3% на TextVQA и 62.3% на MathVista. Особенно впечатляющими являются возможности модели в области агентских задач, где она достигает 76.9% на AITZ и 90.8% на AndroidWorld, демонстрируя способность эффективно взаимодействовать с пользовательскими интерфейсами.

Сценарии применения 3B модели охватывают широкий спектр задач: от мобильных приложений для анализа документов с OCR до интеграции в системы безопасности. Благодаря лицензии Apache-2.0, модель может быть свободно интегрирована в коммерческие продукты, что делает ее привлекательным выбором для стартапов и предприятий, стремящихся к инновациям в области ИИ.

Дата анонса: 19.02.2025
Параметров: 3.75B
Контекст: 128K
Тип внимания: Full Attention
Потребление памяти: 6.1 ГБ в точности 4 бит
Разработчик: Alibaba
Версия Transformers: 4.41.2
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с Qwen2.5-VL-3B.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.