Великобритания и США совместно с международными партнерами из 16 других стран выпустили новое руководство по разработке безопасных систем искусственного интеллекта (ИИ).

В разработке документа участвовали Агентство кибербезопасности и защиты инфраструктуры США (CISA) и Национальный центр кибербезопасности Великобритании (NCSC).

В руководстве написано, что компаниям, занимающимся в сфере ИИ, следует повысить уровень кибербезопасности ИИ и обеспечить его безопасное проектирование, разработку и развертывание.

Руководство также требуют от компаний содействовать обнаружению уязвимостей в системах ИИ третьими сторонами и сообщать о них через систему "bug bounty", чтобы их можно было оперативно найти и устранить.

Новые рекомендации, разработанные под руководством Великобритании, являются первыми в своем роде, согласованными на глобальном уровне. Они помогут разработчикам любых систем, использующих ИИ, принимать обоснованные решения по обеспечению кибербезопасности на всех этапах процесса разработки — независимо от того, создаются ли эти системы "с нуля" или строятся на основе инструментов и сервисов, предоставляемых другими компаниями.

Руководство поможет разработчикам убедиться в том, что кибербезопасность является как необходимым условием безопасности систем ИИ, так и неотъемлемой частью процесса разработки с самого начала и на протяжении всего времени, что известно как подход "secure by design".