Голосовые и чат-боты в России и мире: объемы, динамика, драйверы, барьеры

Подведение итогов и прогнозы: объемы, динамика в РФ и мире

Согласно данным консалтингового агентства Grand View Research, в 2023 году мировой рынок чат-ботов достиг 5 млрд долларов, а в ближайшие несколько лет прогнозируется продолжение роста – до 23% ежегодно. К 2028 году мировой рынок может достигнуть 15,5 млрд долларов. Российский же рынок растет стремительнее: по данным аналитиков Just AI, в 2023 году его объем находился у отметки 33 млрд руб. По общим оценкам, ежегодный рост составляет 30%, что выше общемирового темпа. И уже через пять лет этот показатель может превысить 80 млрд руб. На такие оценки опирается в своем анализе Владислав Вирясов, директор «Авантелеком». Он также указал, что в области клиентского сервиса порядка 76% руководителей контактных центров планируют увеличить инвестиции в ИИ-инструменты в ближайшие 2 года. При этом 37% компаний уже используют такие технологии в области управления текстовыми и голосовыми каналами связи с клиентами.

Директор по искусственному интеллекту Сбер Бизнес Софт Максим Иванов привел стороннюю оценку, согласно которой объем рынка чат-ботов в 2023 году составил 6,7 млрд долларов, а к концу 2024 года ожидается рост до 8,43 млрд. К 2028 году объем может достигнуть 22,42 миллиарда долларов, при среднегодовом темпе роста 27,7%.^[1]

Роман Милованов, руководитель направления разработки чат-ботов и голосовых роботов компании «Сател» рассказал, что в 2023 году мировой рынок голосовых роботов и чат-ботов продолжил расти, и ожидается, что к 2027 году его объем достигнет около 100 миллиардов долларов с ежегодным приростом на 19%. А в России в 2023 году объем рынка голосовых помощников также вырос на 30% по сравнению с 2022 годом, достигнув 4 млрд рублей, как показывает исследование Smart Ranking. Рынок разговорного ИИ в России будет расти с темпом 40-80% в год, и уже к 2025 году его объем составит 561 млн долларов, согласно оценкам Just AI.

Специалист отметил, что в ближайшие 3-5 лет рынок продолжит динамично расти, произойдет полноценное внедрение голосовых помощников в сферу образования, здравоохранения и бизнес-сектор.

Мировой рынок чат-ботов демонстрирует устойчивый рост, считает Никита Муренький, руководитель команды по разработке диалоговых продуктов Kode. Основные драйверы роста мирового рынка, по словам специалиста – это внедрение ИИ в бизнес-процессы, развитие машинного обучения и рост автоматизации большинства процессов, а самые активные мировые индустрии – e-commerce, здравоохранение, финтех и государственный сектор.Российский рынок облачных ИБ-сервисов только формируется 2.4 т

Множество компаний будет активно инвестировать в технологии, такие как обработка естественного языка (NLP), генеративный ИИ и самообучающиеся модели для повышения качества общения. Специалист уверен в перспективности тренда на гиперпесронализацию в пользовательском опыте. Доля голоса в управлении цифровыми сервисами будет расти вместе со взрослением аудитории, которая с детства привыкла взаимодействовать с голосовыми колонками и воспринимать аудиоинформацию. Этот тренд, по мнению специалиста, станет особенно ярким через 5-6 лет.

Уже сейчас есть успешные примеры применения ИИ-ассистентов в системах «умного города» и образовательных платформах. В России, с учетом акцента на цифровизацию госуслуг, чат-боты будут активно внедряться в системы муниципальных и федеральных сервисов.

Сфера голосовых и чат-ботов для бизнеса с развитием ИИ оказалась неразрывно связана с этой технологической отраслью.

Исследование McKinsey показывает, что генеративный ИИ может принести глобальной экономике до 4,4 трлн долларов в год, а по оценке «Яков и Партнеры», полный экономический потенциал ИИ в России к 2028 году составит 22–36 трлн рублей в номинальных ценах, реализованный же эффект к 2028 году может достичь 4,2–6,9 трлн рублей, что эквивалентно влиянию на ВВП до 4%. На генеративный ИИ приходится около 20% от реализованного эффекта – 0,8–1,3 трлн руб. Такие данные привел Владислав Беляев, исполнительный директор и сооснователь ИИ-платформы AutoFAQ.

По словам эксперта, потенциал генеративного ИИ лежит в плоскости автоматизации рабочих задач, которые занимают 60-70% рабочего времени сотрудников. И если такие задачи как написание текстов, создание изображений с помощью нейросетей лежат на поверхности, то мало кто обращает внимание, что порядка 20% рабочего времени в месяц сотрудники тратят на поиск информации среди накопленной информации в компании. Решить эту задачу можно также с помощью генИИ.

Позитивные драйверы рынка

Как рассказала Светлана Захарова, директор по развитию бизнеса Just AI, российские разработчики быстро находят кейсы применения новых технологий, активно инвестируют в свои продукты. Это, в свою очередь, стимулирует венчурные фонды и инвесторов, которые на фоне всех политических событий в стране не понимали, куда движется рынок, и куда вкладывать средства. На этом фоне появляются всё новые стартапы и ИИ-энтузиасты, которые хотят двигать отрасль вперед.

По словам Владислава Беляева, однозначно позитивным фактором для роста рынка является то, что благодаря LLM очень сильно выросла скорость создания ряда чат-ботов и интеллектуальных помощников, и стал возможен запуск проектов, которые раньше были экономически нецелесообразны.

Владислав Вирясов отметил значительные шаги, которые российские разработчики за год сделали в области развития платформ логики диалогов. Многими участниками рынка были выпущены обновления или новые продвинутые системы в части интеграции естественного языка и машинного обучения, систем распознавания речи.

Александр Павлов, управляющий директор Robovoice компании SL Soft упомянул рост интереса компаний к цифровизации процессов в связи с дефицитом кадров, а также рост запросов потребителей к уровню сервиса. Также, по словам эксперта, важную роль играет развитие технологий. Современные боты способны выполнять более сложные задачи, включая проведение консультаций, прием заказов и даже продажи.

При этом их результативность, действительно, сопоставима с уровнем сотрудников, – подчеркнул он. – Это открывает новые возможности для бизнеса и способствует дальнейшему росту отрасли.

Не менее значимым положительным фактором, по мнению эксперта, является государственная поддержка и инициативы: программы по стимулированию цифровизации способствуют внедрению современных решений и расширению рынка.

Позитивное влияние государственного интереса отметила также Татьяна Гапоненко, директор по маркетингу в ГК «Наносемантика». По ее словам, помимо общего интереса к технологиям ИИ, есть прямое указание о внедрении от государства, и, как следствие, большой спрос у клиентов, желающих применять их в бизнесе.

"Голосовые" технологии совершили "переход" по кривой диффузии инноваций от "новаторов" ближе к "большинству": развитие технологии привело к постепенному уменьшению порога входа для автоматизации клиентского обслуживания на естественном языке, а появление LLM привлекло внимание бизнеса к речевым технологиям в целом, хотя сами модели пока не вышли на уровень уверенного применения в Enterprise-сегменте. Такой экспертизой поделился Александр Крушинский, директор департамента голосовых цифровых технологий компании BSS.

Россияне – в значительной степени технооптимисты и хорошо принимают новые технологии, полагает Никита Муренький. По его оценке, в РФ есть очень успешные продукты на массовом рынке, собственные решения для разработки разговорного ИИ, конкурирующие с мировыми. Всё это мотивирует бизнес проверять смелые гипотезы.

По словам Александра Сидорова, ведущего инженера отдела контакт-центров «АМТ-Груп», эксперты компании считают, что главным драйвером для участников рынка является желание следовать современным трендам, а также статистика успешных внедрений, в которой наглядно видно, какой экономический эффект от внедрения можно получить. Немаловажным фактором является и улучшение отношения клиентов к роботизированным системам, которые все чаще встречаются в повседневной жизни.

Максим Иванов отметил, что одним из важных прорывов стала технология Retrieval Augmented Generation (RAG), которая позволяет без классического fine-tuning создавать чат-ботов, обученных на знаниях компании и использующих LLM для генерации ответов.

Анна Панина, эксперт практики чат-ботов К2 Тех считает, что к числу драйверов рынка следует отнести технологическое развитие умных помощников, которые способны теперь понимать запросы на простом "человеческом" языке. И пользователи это оценили. От клиентской поддержки до сбора сводной информации из разных источников для принятия решений, например, по участию в тендере – всюду растет желание использовать их.

Уже не хочется называть их просто ботами, – сказала эксперт.

По ее словам, драйвером роста необходимо признать возможность ставить все требуемые компоненты и модули во внутренний контур заказчика. И, кроме того, доступность умных помощников для большего числа заказчиков в разных функциональных сферах расширяют гибкие механизмы по разграничению прав доступа к обрабатываемой информации и информации, которая передается в ответе на запросы.

Структура предложения

Рынок голосовых и чат-ботов РФ можно назвать олигопольным. Об этом свидетельствуют комментарии экспертов. Впрочем, оценки насыщенности предложением варьируются.

Владислав Беляев рассказал, что на рынке сложилась ситуация, когда с одной стороны есть две крупные компании, которые разрабатывают свою LLM – это Сбер и Яндекс, а с другой стороны есть компании, которые предоставляют готовые продукты на базе Open Source моделей и не первый год работают на рынке поддержки как внешних, так и внутренних процессов. А еще есть разработчики чат-ботов, основанных на правилах, которые в текущих реалиях значительно проигрывают ИИ-решениям, что делает их инструментом малого бизнеса, который пока что не может себе позволить внедрять интеллектуальные решения.

Как AutoFAQ, мы относимся ко второй группе, – отметил эксперт. – При этом решения Яндекса и Сбера изначально направлены на B2С, но мы видим кейсы и потенциальную конкуренцию с ними на B2B рынке.

Он подчеркнул, что на рынке есть компании, которые предпочитают заниматься собственной разработкой внутренними ресурсами. Но выбирая такой путь, бизнес должен учитывать все риски.

Пока что многие делают выбор в пользу "самописного" цифрового помощника на технологиях ИИ из-за низкого порога входа для создания прототипа. Но создание промышленного отказоустойчивого решения, которое пройдет все проверки информационной безопасности – это значительно более длинная история. Пока выстроятся все процессы, крупный бизнес потеряет время, а рынок и технологии уйдут вперед – у среднего бизнеса на собственную разработку не хватит денег. Поэтому если соотнести временные и финансовые риски, то у готового решения здесь явные преимущества, подытожил Владислав Беляев.

Светлана Захарова также отметила, что на рынке есть две олигополии – Сбер и Яндекс, которые конкурируют за возможности выпускать и развивать свои LLM-решения. По словам эксперта, на рынок начинают приходить компании из отраслей, которые раньше либо не зависели от технологий, либо почти не делали на них акцент. Сюда по большей части относятся крупные промышленные компании, которые начинают применять генИИ для автоматизации процессов бэк-офиса. Также на первую линию выходят компании, у которых есть возможности создавать продукты на базе генИИ.

Just AI – одна из лидеров в этом направлении, – подчеркнула Светлана Захарова.

Хотя количество игроков на рынке велико, продуктов с поддержкой передовых технологий на базе LLM пока немного, считает Александр Павлов. По словам эксперта, структура рынка включает несколько крупных игроков, занимающих лидирующие позиции, но есть и пространство для роста и внедрения более инновационных ботов, особенно с фокусом на применение LLM для повышения качества взаимодействия с пользователями.

Эксперт отметил фрагментацию рыночного предложения, ставшую заметной тенденцией. Игроки развивают нишевых ботов под отрасли или задачи. Это позволяет бизнес-заказчику быстро получить специализированные решения по оптимальной цене.

Наиль Ахмеджанов, технический директор ELMA Bot считает, что рынок нельзя назвать насыщенным предложением, поскольку отечественные решения не дотягивают до иностранных, а последние использовать сейчас не совсем уместно.

Если говорить о больших языковых моделях (LLM), то в РФ есть два лидера рынка – это Yandex и Сбер, – отметил эксперт.

На рынке сложилась олигополия с доминированием крупных игроков, таких как Сбер, Яндекс и VK, – рассказал Роман Милованов.

По словам специалиста, каждый из этих гигантов выделяется уникальными стратегиями: Сбер фокусируется на технологичности и экосистеме, Яндекс предлагает широкий ассортимент продуктов, интегрированных с ассистентом «Алиса», а VK делает акцент на лояльности пользователей и интеграции с соцсетью. Роман Милованов отметил, что наличие на рынке других участников, таких как Tinkoff, говорит о высокой конкуренции и насыщенности отрасли.

В целом рынок достаточно насыщен и продолжает насыщаться, считает Александр Крушинский: по каждому из элементов ИТ-ландшафта есть несколько вендоров, часть из которых ориентирована на Enterprise-сегмент, а часть – на СМБ. Крупные предприятия, как правило, ищут комплексное решение, которое может быть установлено в закрытый контур заказчика с выполнением всех требований к архитектурному стеку и интеграции. Небольшие же контакт-центры, без специфических требований к ИБ, и при отсутствии собственного штата ИТ-специалистов, часто выбирают облачные решения, в которых наиболее наукоемкие задачи (распознавание и синтез речи, LLM) закрываются облачными решениями, например Yandex SpeechKit.

На рынке есть предложения и для одних и для других, – отметил эксперт.

Владислав Вирясов предложил несколько иной подход к сегментации. Эксперт рассказал, что в настоящее время на рынке действуют порядка двух десятков игроков, предлагающих решения в спектре от типовых аналоговых ботов до сложных кастомизированных голосовых моделей.

В целом российских вендоров можно разделить на тех, кто специализируется исключительно на внедрении голосовых или текстовых роботов, и тех, кто предлагает решения по автоматизации в качестве отдельного продукта в целой экосистеме коммуникационных решений, – сказал он.

Структура спроса

Как рассказал Владислав Беляев, уже на протяжении 4-5 лет ИИ-ботов активно внедряют в таких отраслях, как телеком, ритейл, банковский сектор, онлайн-образование и онлайн-сервисы.

Сейчас мы видим тренд интеграции чат-ботов на основе ИИ в промышленности, строительстве, энергетике и государственных сервисах, – сказал он.

По мнению Владислава Вирясова, финансовая сфера и банковский сектор – одни из основных потребителей "диалоговых" технологий. Здесь чат-боты применяются для обслуживания клиентов, автоматизации консультаций и обработки запросов. Также эксперт отметил сильный прирост в медицинской отрасли, где внедряются виртуальные ассистенты для записи граждан на прием к врачу и предоставления информации об услугах медицинских учреждений. Среди других растущих сфер он отметил недвижимость, где ИИ помогает улучшать автоматизацию общения с клиентами, организовывать поиск объектов и отвечать на часто задаваемые вопросы. Также чат-боты активно внедряются для поддержки пользователей, настройки рекомендаций по товарам и обработки заказов в области ритейла и e-commerce. Стабильный рост, по словам эксперта, продолжается и в государственном секторе в части автоматизации взаимодействия граждан с муниципальными и ведомственными службами через диалоговые интерфейсы.

Максим Иванов отметил продажи, туризм, медицину и производство. Строительная отрасль, по словам эксперта, только начинает осваивать ботов, в то время как в производстве происходит уже углубление развития.

Александр Павлов выделил в качестве основных медицинскую и финансовую сферы, ритейл и логистику. По словам эксперта, компании на этих рынках внедряют "диалоговые" технологии как для автоматизации клиентского сервиса, так и для оптимизации HR-процессов для найма персонала, онбординга, информационной поддержки сотрудников.

Наиль Ахмеджанов рассказал, что наиболее восприимчивыми к "диалоговым" технологиям оказались отрасли с наивысшей степенью цифровизации, а именно ритейл, банки и телеком.

В целом распространение голосовых и чат-ботов диктуется размером контакт-центра и, как следствие, экономическим эффектом от автоматизации, отметил Александр Крушинский. По его словам, крупнейшие КЦ, помимо телекома, банков, ритейла, есть также в федеральных органах исполнительной власти (ФОИВ), а в чуть в меньшей степени актуальны логистика, медицина и страховые компании.

Также мы в последнее время наблюдаем проникновение "диалоговых" технологий в процессы внутреннего обслуживания – IT/HR-поддержку сотрудников и процессы рекрутинга, – рассказал эксперт. – Но в долевом отношении они, конечно же, занимают малую долю от проектов для автоматизации клиентского обслуживания.

Татьяна Гапоненко считает, что финансовая сфера по-прежнему сохраняет лидерство в применении ИИ-технологий, также сохраняют высокие темпы ритейл и e-commerce, значительно больше стало внедрений в страховой отрасли и медицине.

Например, в 2023 году в одном из проектов специалисты «Наносемантики» усовершенствовали IVR с помощью голосового чат-бота, что позволило клиенту значительно снизить нагрузку на контакт-центр ‒ 40% клиентов теперь обслуживается голосовым роботом.

В России диалоговые технологии активно применяются в банковском секторе, телекоммуникациях, розничной торговле и здравоохранении, рассказал Роман Милованов. По данным специалиста, за последний год наблюдается значительный рост их использования в госуслугах и сфере образования для автоматизации процессов и предоставления информации пользователям, а в промышленности происходит углубление использования в сфере управления производственными процессами и технического обслуживания, что позволяет улучшать взаимодействие между операторами и системами, а также повышать эффективность мониторинга и диагностики оборудования.

Никита Муренький также считает, что наивысшие финансовые результаты на российском растущем рынке технологии спектра показывают в банковской сфере, ритейле и госсекторе.

Отличия спроса у СМБ и крупного бизнеса

Сегмент среднего и крупного бизнеса обычно отдает предпочтение крафтовым решениям, настроенным под конкретные задачи и с дополнительной донастройкой систем, рассказал Владислав Вирясов. Предпочтение может отдаваться продуктам с расширенными функциями, например, интегрированным с уже существующими CRM и другими системами, предлагающим персонализацию чат-бота для клиентов, функции анализа данных и управления знаниями, естественный языковой процессор (NLP) и машинное обучение.

Крупный и средний бизнес больше делает акцент на зрелости архитектуры, защищенности решения, а также его масштабируемости, поделился Максим Иванов. Средние и крупные компании, сталкивающиеся с более сложными задачами, выбирают омниканальные платформы. Такие продвинутые решения поддерживают различные каналы связи, предлагают расширенный функционал для создания и управления чат-ботами, отметил Роман Милованов.

Чем больше и сложнее бизнес, тем запрос глубже, и жестче требования к продукту. Если говорить про Enterprise, то ИИ-система для поддержки клиентов или сотрудников должна обладать высокой отказоустойчивостью, полностью соответствовать требованиям информационной безопасности компании, иметь возможность установки On-Premise, включать гибридную модель "ИИ+человек", иметь возможность интеграции по API с внутренними системами, например, Service Desk, CRM, BI, MES, и т.д., соответствовать KPI проекта, а также находиться в реестре отечественного ПО, отметил Владислав Беляев.

Крупные заказчики нацелены на создание экосистемы в своем контуре, поэтому готовы выделять специалистов и аппаратные ресурсы. Такая модель развертывания позволяет получить интеграции со всеми смежными системами и расширить спектр задач, которые решает робот, рассказал Александр Сидоров.

Крупные компании, которые часто имеют внутри подразделения ИИ, используют наш NLab Marker, платформу для создания датасетов с помощью ИИ. Это профессиональный инструмент для быстрой разметки изображений, аудио, текстов и медицинских снимков, – поделилась Татьяна Гапоненко.

По словам специалиста, крупные и средние компании выбирают диалоговую платформу DialogOS для создания и обучения голосовых и текстовых роботов, а технологии распознавания естественной речи (NLab ASR) и синтеза речи (NLab TTS) востребованы всеми компаниями, независимо от размера бизнеса.

Эксперты рассказали, что малый бизнес обычно предпочитает простые решения, такие как голосовые роботы, которые автоматизируют базовые задачи без сложной настройки. Небольшие компании, как правило, выбирают коробочные и недорогие решения и готовы работать со стартапами на Open Source. Чаще всего их интересует базовый функционал с автоматическими ответами на часто задаваемые вопросы и возможностью интеграции сразу с несколькими платформами общения. Они чаще выбирают облачные решения с подписной моделью лицензирования, т.к. в таком случае не требуются затраты на вычислительные ресурсы, нет необходимости обучать персонал для администрирования новой системы, и можно перестать пользоваться продуктом после окончания срока лицензий.

Заинтересованность и выгода государства

Серьезная господдержка цифровых технологий оказывает очень сильное влияние на технологическое развитие российского рынка, подчеркнула Анна Власова, руководитель отдела компьютерной лингвистики в ГК «Наносемантика».

В рамках Национальной стратегии развития ИИ государство финансирует стартапы и выделяет гранты. Также формируется индекс готовности отраслей к внедрению ИИ в свои бизнес-процессы. Компании-флагманы в своих отраслях заинтересованы сохранять лидерство также и в этой сфере, что стимулирует их применять у себя решения на основе ИИ.

Эксперты отмечают безусловную заинтересованность государства в развитии направления. Они рассказали о реализации успешных проектов в здравоохранении, образовании, социальном обслуживании и других сферах.

В медицине голосовые и чат-боты применяются для автоматизации процесса записи на прием к врачу, предоставления медицинской информации и мониторинга здоровья пациентов. В образовании они помогают в создании интерактивных учебных материалов. В МФЦ, на региональных сайтах госуслуг боты помогают в управлении запросами граждан и предоставлении услуг.

Государству важно, чтобы бизнес находил для себя новые точки роста, и в этом плане развитие генИИ – та самая точка, – считает Светлана Захарова. – Также важно решать проблему кадрового голода, а автоматизация с помощью генИИ может помочь решить эту проблему.

Мы работаем с рядом государственных компаний и сервисов в процессах поддержки клиентов напрямую и путем предоставления инструмента Xplain AI Copilot для помощи операторам контактного центра, – поделился Владислав Беляев.

Одним из основных драйверов рынка считает внедрение национальной стратегии развития ИИ в России Владислав Вирясов. По наблюдениям эксперта, заинтересованность госсектора растет с каждым годом, и сегодня государство рассматривает развитие технологий ИИ в качестве одного из главных приоритетов развития. Их планируется использовать для совершенствования государственных услуг, сервисов и учреждений, таких как единые региональные контакт-центры, медицинские организации, МФЦ, центры занятости населения. Оперативность предоставления услуги, доступность государственных сервисов, отсутствие ожидания при обращении в госорганы – приоритетные направления, которые реализуются с помощью голосовых и текстовых ассистентов, считает эксперт.

Александр Павлов отметил, что государственные структуры проявляют интерес к внедрению подобных решений для повышения эффективности в различных сферах, включая образование и социальные службы. В медицине также используются чат-боты и голосовые роботы, причем достаточно давно. Их функциональность уже выходит за рамки стандартных задач, таких как прием обращений или запись на прием к врачу.

Заинтересованность госорганизаций вызвана потребностью в автоматизации рутинных процессов, считает Александр Сидоров. Специалист рассказал про нередкое заблуждение заказчиков, полагающих, что в случае необходимости превратить какую-либо госуслугу в цифровой сервис, достаточно лишь изменить доступ к ней.

Это в корне неверно, так как для обеспечения качественной цифровизации, в первую очередь, необходимо преобразование именно самой услуги, то есть бизнес-процесса, – сказал специалист.

Также Александр Павлов рассказал, что в последнее время все чаще появляется необходимость однозначной идентификации ИИ при взаимодействии с ним граждан. В частности, это связано с широким охватом населения различными социальными сетями и сервисами, при обращении к которым пользователи должны однозначно понимать, с кем у них происходит общение (кто находится "по ту сторону" экрана).

Надо отметить, что в РФ действует так называемый «Кодекс этики в сфере искусственного интеллекта», указывающий на необходимость идентификации ИИ при общении с человеком, но действие этого кодекса в настоящее время исключительно рекомендательное, – отметил он.

Следующим разумным шагом, по его профессиональному мнению, здесь видится участие государства в переходе от этических правил к правовым нормам в вопросах прав человека в критических для него сферах жизни (например, обязательное обеспечение возможности прекращения общения или иного взаимодействия с элементами ИИ по желанию пользователя).

Факторы неготовности рынка к прорывному развитию

Основным сдерживающим распространение новых технологий фактором является дороговизна проектов On-Premise, ведь для полноценной работы необходимы соответствующие специалисты и дорогостоящее оборудование. Такое мнение в ответах экспертов звучало чаще всего. Помимо этого профессионалы указали на необходимость учитывать законодательные ограничения, негативное влияние чрезмерно завышенных ожиданий бизнеса, необходимость большого количества хорошо структурированных данных для обучения чат-ботов и ряд других нюансов.

Госсектор и крупный бизнес хотят размещать решение у себя в контуре, чаще всего это приводит к существенному удорожанию проектов, – рассказал Максим Иванов.

Наиль Ахмеджанов отметил, что высококачественные языковые модели требуют больших вычислительных ресурсов, в частности дорогостоящих GPU. А с недавних пор у компаний-заказчиков появилась тенденция развертывать все решения на собственных мощностях, но запускать локально LLM – недешевое удовольствие.

Когда заказчики видят цену, то интерес к передовому искусственному интеллекту быстро остывает, – поделился опытом эксперт.

Александр Сидоров прокомментировал этот вопрос так: для заказчиков основными трудностями являются количество аппаратных ресурсов, которые необходимо выделить для внедрения продуктов с ИИ, а также отсутствие специалистов внутри компании, которые смогли бы самостоятельно поддерживать эти системы. По его словам, ИИ все еще остается сложной, малопонятной многим технологией, однако польза ее очевидна, и через некоторое время она будет применяться во многих продуктах и во всех отраслях.

Владислав Беляев считает, что сочетание требований информационной безопасности для размещения решений On-Premise и высокой стоимости серверных мощностей с видеокартами является существенным фактором, сдерживающим развитие направления. Это увеличивает стоимость проектов и сроки внедрения. Для решения этой проблемы AutoFAQ предлагают заказчикам ряд обходных решений, в том числе работу в облаке только для обработки данных (без хранения) или же запуск функций генеративного ИИ в ограниченном режиме на обычных процессорах.

Среди других ограничивающих факторов эксперт отметил разочарование ряда компаний на стадии зарождения тренда, так как в то время создаваемые боты были еще невысокого уровня. Другие компании на волне "хайпа" вокруг ChatGPT возложили на LLM большие ожидания и, получив неудовлетворительные результаты, потеряли веру в эффективность инструмента.

В этих условиях мы всегда возвращаем заказчика к главному вопросу – для решения каких задач он ищет продукт, – поделился солюшном Владислав Беляев.

Как показывает практика, не всегда компаниям требуется внедрение LLM, а достаточно продукта на базе традиционного ИИ, работающего на основе классификаторов вопросов, а не генераторов ответов.

Под традиционным ИИ мы имеем в виду способность системы понимать человека, чтобы дать правильный ответ, запустить сценарий, перевести на оператора или выдать ему подсказку (суфлер), – сделал оговорку эксперт.

Роман Милованов, также указал на сложности, связанные с высокими пользовательскими ожиданиями. Кроме того, по его мнению, на ситуацию влияют высокая конкуренция, необходимость инноваций и регуляторные барьеры, сложности с интеграцией сервисов.

Для преодоления данных барьеров необходимо увеличивать объем инвестиций в создание новых продуктов, внимательно отслеживать законодательные изменения и потребности рынка, изучать зарубежный опыт, – порекомендовал специалист.

У бизнеса сформировались завышенные ожидания от интеллектуальных решений, особенно от решений на базе генеративного ИИ, подтвердила Анна Власова. По ее экспертному мнению, завышенные ожидания возникли как результат мощного информационного прессинга, ведь про генеративный ИИ пишут СМИ (и не обязательно профильные отраслевые), о нем рассказывают на форумах и конференциях. Также государство не только финансово, но и административно стимулирует бизнес к цифровизации. И все вместе это создает картину "идеального помощника" в любой области, да еще и самообучаемого. Это даже верно: ИИ можно применять во многих областях, и он обучается по алгоритмам, которые заложены в модель.

Но при этом ИИ ‒ это техническое решение. Это математика, а не телепатия, – удивляется стереотипам Анна Власова. – Это решение с массой преимуществ и огромным потенциалом, но не без ряда ограничений.

Одним из таких ограничений, по ее словам, является зависимость ИИ от количества и качества данных, на которых он обучался. Если обучающие данные предоставляет компания-заказчик, то обученный ИИ будет работать как прожектор, который моментально подсветит все недостатки в этих данных: неструктурированные или плохо структурированные документы, хранение вперемешку актуальных и устаревших версий документов, противоречия во внутренних базах знаний и так далее.

Другое ограничение (но оно же и особенность, и преимущество ИИ ‒ зависит, с какой стороны посмотреть) ‒ это внесение интеллектуальной "нечеткости" в принятие решения. Иными словами, логику генеративных моделей, отличную от традиционного поиска, необходимо учитывать при внедрении ИИ в бизнес-процессы компаний.

Возьмем тренд этого года: поиск по документам или базам знаний с помощью чат-бота на основе генеративного ИИ, – рассказала специалист. – Даже при самых жестких настройках генеративная модель может быть не свободна от избыточного "креатива" или "галлюцинаций" (в терминологии специалистов ИИ).

Как рассказал Владислав Вирясов, чат-боты лучше работают на естественном языке, поэтому до сих пор могут возникать трудности при понимании различных акцентов, жаргона или сленга или же контекста беседы, особенно когда речь идет о сложных темах. Кроме того, для обучения чат-ботов требуются большие объемы данных, а необходимость соблюдать появляющиеся новые нормативные требования накладывает дополнительные ограничения. К тому же до сих пор реальность многих компаний – это технологические ограничения и недостаток компетенций и знаний, им сложно привлекать квалифицированных специалистов и поддерживать актуальность своего технологического стека.

Эксперт Just AI Светлана Захарова рассказала, что ожидания от 2024 года у специалистов по количеству реализованных кейсов и скорости внедрения были намного выше, но, как показала практика, рынок оказался не готов к такому стремительному развитию технологий генИИ. Главными тормозами на пути прогресса стали следующие факторы: обеспечение безопасности при работе с LLM, непрозрачное ценообразование LLM-решений, неготовность существующих решений или процессов к внедрению LLM, отсутствие компетентных кадров, малое погружение в технологии (на текущий момент), сложности с расчетом KPI при внедрении решений на базе генИИ, слабо проработанный вопрос внедрения и применения с юридической и законодательной точки зрения.

Компании только начинают находить варианты, как можно заказывать "железо", у многих только сейчас появляются деньги на собственные дата-центры или пилоты LLM-решений, – откровенно поделилась эксперт. – Никакого тупикового развития точно нет, так как все еще идет работа с подготовкой качественных датасетов, обучением и дообучением моделей под конкретные нужды бизнеса. Мы все находимся только в начале этого пути.

Примечания