Обзор решения от Guardrails AI
Стартап Guardrails AI привлек 7,5 млн долларов в ходе стартового раунда финансирования. Компания разрабатывает платформу с исходным кодом для создания приложений на основе ИИ. Ключевым инвестором стала компания Zetta Venture Partners. Также в проект вложились Bloomberg Beta, фонд GitHub и частные бизнес-ангелы.
Цель проекта — помочь разработчикам управлять рисками, связанными с использованием искусственного интеллекта. На платформе стартапа специалисты могут создавать различные алгоритмы для проверки ИИ-моделей. Причем эти методы можно использовать повторно. Это снижает вероятность возникновения непредвиденных данных при применении различных ИИ-приложений. Платформа также подходит для проверки решений на базе больших языковых моделей.
Информация о Guardrails AI
Стартап из Сан-Франциско был основан в 2023 году, однако уже успел заинтересовать инвесторов. Проект создали Шрей Раджпал и Диего Оппенгеймер — опытные специалисты в секторе AI. До Guardrails Раджпал работал инженером по искусственному интеллекту. Именно ему принадлежит технология беспилотного управления, используемая в Drive.ai. Кроме того, Шрей занимался созданием автономных систем в компании Apple.
Что касается Оппенгеймера, он является сооснователем проекта Algorithmia, который работает в секторе машинного обучения. В 2021 году стартап приобрела компания DataRobot. Бизнесмен занимает пост директора венчурной компании Factory, которая также управляет IT-инкубатором. Фирма приняла участие в посевном раунде стартапа.
По словам Диего, миссия Guardrails — предоставить разработчикам ИИ необходимые инструменты для деятельности. Платформа открывает широкие возможности для безопасного создания приложений, минимизируя риски и ошибки.
Как работает платформа
Для внедрения решений LLM, или больших языковых моделей, важно придерживаться определенных требований. Эффективность таких приложений зависит от ряда важных элементов, среди которых:
- алгоритмы безопасности;
- логика соответствия;
- наличие согласованной структуры.
Причем базовые валидаторы не всегда способны полноценно учитывать множество рисков при обработке массивов данных. В свете вышеупомянутых особенностей этой области платформа Guardrails AI представляет собой ценный инструмент для обеспечения эффективной деятельности. Ее преимущества:
- возможность установки и поддержки стандартов для ИИ-приложений;
- обеспечение безопасности выходных данных;
- контроль качества.
Платформа создает оболочку вокруг приложения LLM, которая похожа на брандмауэр. В ее библиотеке представлены различные валидаторы. Их можно использовать в первоначальном виде или же настроить в соответствии с требованиями разрабатываемого продукта. Это обеспечивает максимальную совместимость с функционалом приложения. Помимо валидаторов, платформа также содержит язык спецификаций, благодаря которому осуществляется передача четких требований модели. Кроме того, решение содержит оптимизированный механизм процессов подсказки, проверки и повторных запросов.
