NVIDIA представила три новых микросервиса NIM, призванных обеспечить предприятиям повышенный контроль и меры безопасности для ИИ-агентов. Эти микросервисы, интегрированные в фреймворк NVIDIA NeMo Guardrails, решают такие важные проблемы, как доверие, безопасность, защита и соответствие требованиям при развертывании ИИ.
Поскольку ИИ-агенты становятся все более неотъемлемой частью различных отраслей, обеспечение их надежности и безопасности имеет первостепенное значение. Новейшие микросервисы NVIDIA NIM предлагают целенаправленные решения общих проблем, с которыми сталкиваются предприятия, внедряющие технологии ИИ.
— NIM Content Safety обучается на наборе данных NVIDIA Aegis Content Safety Dataset, включающем более 35 000 образцов, проаннотированных человеком. Такое обширное обучение позволяет микросервису эффективно отсеивать вредные или предвзятые результаты, приводя ответы ИИ в соответствие с этическими нормами.
— Система Topic Control NIM гарантирует, что управляемые ИИ разговоры будут сосредоточены на утвержденных темах, предотвращая отклонения в неуместные или неактуальные области. Это особенно полезно в приложениях для обслуживания клиентов, где поддержание контекстно-адекватных взаимодействий имеет решающее значение.
Для защиты от попыток обойти системные ограничения Jailbreak Detection NIM выявляет и пресекает попытки манипулировать поведением ИИ. Распознавая такие угрозы и реагируя на них, этот микросервис помогает сохранить целостность систем ИИ в условиях враждебных сценариев.
В релиз также включен Garak, инструмент с открытым исходным кодом для сканирования уязвимостей в больших языковых моделях. Этот инструмент помогает разработчикам выявлять потенциальные слабые места в своих системах ИИ, включая утечки данных, инъекции подсказок и другие проблемы безопасности до развертывания.
Предлагая эти микросервисы, NVIDIA стремится предоставить предприятиям различных секторов, включая автомобильную промышленность, финансы, здравоохранение, производство и розничную торговлю, возможность внедрять ИИ-решения, которые не только эффективны, но также безопасны и надежны.
