LLM готовы сделать использование массивных инструментов бизнес-аналитики проще и быстрее
В настоящее время большие организации часто используют инструменты "бизнес-аналитики" (BI) для того, чтобы понять, что происходит внутри их операций. Это породило множество громоздких левиафов в мире программного обеспечения.
Теперь британский стартап Fluent закрыл круг инвестирования на $ 7,5 миллиона, возглавив его фонды Hoxton Ventures и Tiferes Ventures, чтобы применить основанные на ИИ крупные модели языка (LLM) к бизнес-базам данных, делая их намного более удобными для опроса обычным человеком.
По сути, инструменты BI подключаются к бизнес-базе данных и используют SQL для создания визуализаций и разработки панелей управления BI. В этом пространстве задействованы крупные компании: Tableau (владение Salesforce), Power BI (владение Microsoft), Looker (владение Google) и QuickSight (владение Amazon), чтобы назвать лишь несколько.
Рынок для решений огромен. По одному отчету, мировой рынок бизнес-аналитики был оценен в $27,11 миллиарда в 2022 году и должен вырасти с $29,42 миллиарда в 2023 году до $54,27 миллиарда к 2030 году. Gartner считает, что он может быть еще больше, если ИИ и LLM будут широко применяться.
Однако команды данных тратят много времени на создание этих панелей, особенно для крупных организаций. И всегда есть проблема в том, чтобы действительно использовать их - трудная задача, когда команды данных стонут при мысли о выполнении запросов, которые могут занять дни на построение.
Вместо этого Fluent хочет стать «разговорным слоем» с помощью естественно-языковых LLM, которые находятся поверх хранилища данных компании. Он переводит эти вопросы в SQL и генерирует ответы намного быстрее. По словам компании, поэтому любой, независимо от технических навыков или делового контекста, может задавать вопросы на понятном английском языке своим данным и получать исследования.
Конечно, это, вероятно, значительно сократит время ответов. Роберт Ван Ден Берг, генеральный директор Fluent, сказал мне: «Консультанты перестают ждать две недели для получения исследования и получают его за 30 секунд. Это означает, что они задают намного больше вопросов, используют данные значительно больше в своей работе. Данные становятся чем-то, что теперь доступно для них».
Среди клиентов Fluent уже есть Bain & Company.
Хотя он признает, что Fluent "в основном использует модель GPT4 Azure OpenAI", он подчеркивает, что это не стартап с "оберткой OpenAI".
Этот упрощенный подход не работает для генерации точного SQL и, следовательно, правильных ответов на вопросы о данных в контексте инструментов BI, он утверждает: «За 18 месяцев работы мы смогли построить метод для достижения точности ответов, которым организации, такие как Bain & Company, могут доверять и использовать во всех своих организациях».
Иэн Вебер, партнер Bain & Company, сказал в поддерживающем заявлении: «Платформа Fluent помогла нам использовать LLM для допросов и предоставления исследований из больших сложных наборов данных. Fluent позволяет нашим консультантам быстро получать необходимые ответы эффективно и точно, особенно на вопросы, слишком сложные или специфические для предварительно построенных панелей данных».
Ван Ден Берг сказал: «Все бизнес-пользователи хотят ответов на вопросы. Они не хотят моделирования. Они хотят знать, каким образом этот клиент производит. Или как [они] делают здесь. И как работает эта маркетинговая кампания». Он сказал, что другие участники на рынке ориентируются на пользователей данных, тогда как Fluent ориентирован на бизнес-рынок, а не на данные.
Пространство естественного языкового запроса стало возможным только недавно, поэтому оно еще не является перегруженным рынком.
Например, Metabase - это приложение с открытым исходным кодом для аналитики и бизнес-аналитики, которое позволяет пользователям создавать панели более легко. Компания из Сан-Франциско собрала $51 миллион до настоящего времени.
Einblick, американская компания, недавно приобретенная Databricks (которая позиционируется для публичного предложения), кажется, является ближайшим участником к Fluent на рынке. Однако Fluent утверждает, что предложение Einblick склоняется к более техническим пользователям в командах данных.
ThoughtSpot, которая заявила о стоимости $4 миллиарда, теперь также имеет систему запросов на естественном языке.