OpenAI покупает стартап Promptfoo для усиления безопасности ИИ-моделей

Компания OpenAI объявила о приобретении стартапа Promptfoo, который занимается защитой больших языковых моделей от возможных атак и манипуляций со стороны злоумышленников. Сделка направлена на усиление безопасности решений в сфере искусственного интеллекта.

Promptfoo была создана в 2024 году и сосредоточилась на разработке инструментов для выявления уязвимостей в системах ИИ. Стартап разработал открытый интерфейс и библиотеку с исходным кодом, позволяющие тестировать модели на потенциальные угрозы. По данным компании, эти инструменты уже используют более четверти организаций, входящих в список Fortune 500.

После завершения сделки технологии Promptfoo планируется интегрировать в платформу OpenAI Frontier, которая предназначена для корпоративного использования агентов искусственного интеллекта. Новые возможности позволят автоматически проверять системы на устойчивость к атакам, имитируя действия злоумышленников, а также анализировать рабочие процессы ИИ-агентов с точки зрения безопасности и соответствия корпоративным требованиям.

Кроме того, OpenAI заявила о намерении продолжить развитие открытых инструментов Promptfoo, чтобы они оставались доступными для разработчиков и компаний, работающих с технологиями искусственного интеллекта.

Финансовые условия сделки не раскрываются. Известно лишь, что стоимость самого стартапа оценивается примерно в 86 миллионов долларов.

Покупка Promptfoo происходит на фоне растущего интереса бизнеса к автономным ИИ-агентам, способным выполнять различные цифровые задачи без участия человека. Вместе с новыми возможностями появляются и дополнительные риски, включая попытки получить доступ к конфиденциальным данным или повлиять на работу автоматизированных систем. Приобретение стартапа демонстрирует стремление OpenAI уделять особое внимание безопасности своих технологий при их внедрении в корпоративной среде.