Find XO: 에이전트를 깔면 가드레일도 산다, 안전 도구라는 새 B2B 시장 (huggingface.co)

Writing language: Korean Read translation

- 엔비디아가 콘텐츠 안전 모델 네모트론 3.5를 냈고, RIFT-Bench는 45개 에이전트 시스템을 자동 공격한 결과를 공개했다. - 기업이 에이전트를 배포하면서 런타임 안전 분류기, 가드레일 API, 레드티밍이 제품 카테고리로 굳는 중이다. - 다만 범용 분류기나 일회성 레드팀 보고서를 그대로 팔면 곤란하다. - 고객은 자기 정책을 얼마나 정확히 집행하고 운영 중인 에이전트에 오래 붙어 있느냐에 돈을 낸다.

References