Компания OpenAI представила Structured Outputs — новую функцию API, которая гарантирует 100% соблюдение предоставленных разработчиком схем JSON в ответах модели. Это обновление решает давнюю проблему в разработке приложений ИИ, когда несогласованные форматы выходных данных часто мешали плавной интеграции с существующими системами.
Функция Structured Outputs ("Структурированные выходные данные") решает общую проблему разработки ИИ: получение структурированных данных из неструктурированных исходных данных.
Разработчикам трудно извлечь информацию, такую как задачи, сроки исполнения, например, из записей совещаний в последовательном формате. Чтобы добиться желаемой структуры выходных данных, они часто прибегают к сложным методам подсказок и многочисленным запросам.
Structured Outputs пытаются решить эту проблему, требуя от моделей OpenAI следовать точным схемам JSON, предоставленным разработчиками.
Новая функция доступна для всех моделей, поддерживающих вызов функций, включая GPT-4, GPT-3.5 и их доработанные версии. Разработчики могут использовать параметр "response_format", чтобы указать JSON-схему для ответа (функция доступна в последних моделях GPT-4).
OpenAI также обновил свои SDK для Python и Node, добавив встроенную поддержку Structured Outputs, что упрощает реализацию для разработчиков, использующих эти языки.
Structured Outputs OpenAI также представляют собой механизм безопасности, позволяющий модели программно обнаруживать и обрабатывать небезопасные запросы. Если модель отклоняет небезопасный запрос, в ответ API будет включено значение строки отказа, что облегчает разработчикам выявление и управление такими случаями.
Обеспечивая последовательный и точный вывод данных в формате JSON, разработчики могут создавать более надежные приложения. Например, структурированные выходные данные можно использовать в таких приложениях, как:
— Динамическая генерация пользовательских интерфейсов на основе намерений пользователя.
— Отделение окончательных ответов от дополнительных рассуждений или комментариев для повышения ясности ответов.
— Извлечение структурированных данных из неструктурированных входных данных, например, заданий и сроков исполнения из протоколов совещаний.
