IBM выстраивает корпоративный ИИ на «гранитном» фундаменте

Корпоративный AI от IBM: технология Granite в действии

На протяжении всей своей легендарной истории IBM была пионером корпоративных решений. Это продолжается и в наши дни, когда мир вступает в эру искусственного интеллекта. На ежегодном мероприятии TechXchange IBM объявила о выпуске семейства генеративных ИИ-моделей Granite 3.0. Это новейшее поколение подобных моделей, специально разработанных и обученных для функций корпоративного предметно-ориентированного ИИ.

Это семейство включает 11 моделей в диапазоне от общеприменяемых и языковых до отвечающих за системы ограждения, безопасность, а также смешанно-экспертных (MoE). Все модели на сегодня доступны для скачивания через платформу HuggingFace с лицензией Apache 2.0. Модели Granite 3.0 также интегрированы с платформой IBM watsonx и являются дефолтными при запуске IBM Consulting Advantage, платформы, предоставляющей доступ к данным на базе искусственного интеллекта.

Начиная с минимального уровня в миллиард параметров, семейство Granite 3.0 доступно в разных версиях, каждая из которых представлена в вариантах Base и Instruct. Такие варианты типичны для многих других моделей с открытым кодом, причем базовый вариант не имеет какого-либо файнтюнинга (тонкой настройки обучения), позволяя разработчикам использовать собственный. Вместе с тем, вариант Instruct уже обучен на широком наборе предоставленных IBM инструкций для общих задач, общих рассуждений и математических навыков.

Два варианта в семействе, Granite Guardian 3.0 2B и 8B, получены из версий общего назначения. Эти варианты позволят разработчикам приложений в дальнейшем использовать как пассивное управление, так и активный мониторинг пользовательских подсказок и ответов языковой модели (LLM) на предмет необъективности, справедливости, языка ненависти, оскорблений и ненормативной лексики, и это далеко не всё. Guardian также обеспечивает контроль специально для случаев использования «поисково-дополненной генерации» (RAG), таких, например, как обоснованность, релевантность контекста и релевантность ответа.

Granite Guardian создано специально для предприятий

В то время, как большинство других моделей обучены на общедоступной информации из интернета, IBM разрабатывала свои новейшие модели так, чтобы их было легко обучать на корпоративных данных и использовать в корпоративных приложениях. Это важнейшая возможность, которая не только востребована для создания ценного корпоративного ИИ, но и может стать непомерно дорогостоящей, если не выполняется оптимизированным, экономически эффективным способом. Для этого IBM внедряет в свои модели корпоративные данные, используя метод InstructLab, разработанный совместно с партнёрами из RedHat. Согласно данным IBM, при таком подходе модели Granite обеспечивают нужную производительность при решении конкретных корпоративных задач при меньших размерах моделей, а по стоимости сопоставимы с такими моделями, как Mistral и Llama.

К тому же крупным предприятиям обычно необходимо использовать сторонние модели с открытым кодом или же модели собственной разработки, что может предъявлять системе ограждения и безопасности те же требования, которые уже существуют в моделях Granite 3.0. Следовательно, Granite Guardian 3.0 можно успешно использовать также совместно с моделями с открытым кодом или проприетарными моделями.

Доказательство, которое лучше всяких тестов

В части своего информационного сообщения IBM представила несколько результатов сравнения собственной модели с другими подобными LLM с открытым кодом с целью продемонстрировать конкурентоспособную производительность и стоимость. Но, вероятно, ещё больше укрепило веру IBM в мощь собственной модели корпоративного назначения само использование Granite 3.0 в качестве основополагающего элемента для платформ IBM watsonx и IBM Consulting Advantage.

Платформа watsonx является решением IBM, помогающим крупным предприятиям разрабатывать на основе искусственного интеллекта собственные приложения и помощников, используя собственные данные в автоматизированной среде с «низким кодом», обеспечивая при этом подконтрольность, так необходимую для корпоративных решений на базе ИИ. В ходе TechXchange IBM объявила, что новейший помощник watsonx code создан на базе моделей IBM Granite.

IBM рассчитывает, что помощник watsonx code ускорит темпы разработки программного обеспечения, повысит производительность разработчиков и улучшит качество кода для широкого круга языков программирования, включая, помимо прочего, Java, Python, C, C++, Go, JavaScript и Typescript.

Кроме того, ИИ развивается от своей нынешней формы к тому, что многие уже называют «агентным ИИ». Хотя в настоящее время ИИ преимущественно транзакционен и «отзывчив» по своему характеру, агентный ИИ стремится к предоставлению большей автономии, к сложным рассуждениям и многоэтапному решению проблем с использованием других ИИ-агентов. Согласно данным IBM, Granite 3.0 8B привносит в платформу watsonx ключевые возможности агентного ИИ, такие как «продвинутое рассуждение и высокоструктурированные модель чата и стиль подсказок» для внедрения сложных инструментов рабочего процесса.

Интеграция Granite 3.0 с платформой IBM Consulting Advantage в консалтинговом бизнесе ведёт к дальнейшему повышению производительности и эффективности работы их 160 000 опытных консультантов посредством усовершенствования ИИ-агентов и приложений, а также автоматизации воспроизводимых консультационных методик, разработанных IBM, передового опыта и фреймворков, которые призваны помочь клиентам IBM.

Созидание на «гранитном» основании

Корпоративные варианты использования станут ключевыми по мере того, как ИИ из эксперимента будет становится чем-то, что создаёт стоимость. Основным фактором является способность предприятий легко адаптировать модели к собственным потребностям, сценариям использования, рабочим процессам и приложениям на основе корпоративных или собственных данных, политик и процессов.

Более того, эволюция в агентный ИИ потребует ещё более продвинутых методов продуктивного обучения ИИ и эффективного использования нескольких моделей одновременно, как параллельно, так и последовательно. Среды с «низким кодом» или «без кода», а также растущий уровень абстракций также станут крайне важны, поскольку разработка приложений ИИ будет осуществляться уже не специалистами по данным, ИИ-языкам и фреймворкам, но экспертами в определённой узкой области, которые могут быть не столь сведущи в ИИ, но являться специалистами в областях, где ИИ стремится создавать стоимость.

Именно для этого IBM вносит свой вклад в отрасль в целом, предлагая набор инструментов и моделей, начиная с последнего набора моделей Granite 3.0 и заканчивая инструментами, доступными с watsonx и IBM Consulting Advantage. Только по прошествии времени мы увидим, помогли ли такие основополагающие элементы воплотиться в жизнь будущему ИИ. Но уже очевидно, что именно на этих элементах IBM строит будущее своего корпоративного ИИ-бизнеса.