클라우드플레어가 5일 거대언어모델(LLM) 상대 공격과 남용을 식별하는 'AI용 방화벽(Firewall for AI)'을 선보였다.

LLM을 보호하는데 있어 사용자 상호작용을 제한하는 것은 거의 불가능하며 동일한 입력값에 매번 같은 결과물을 응답하지 않기 때문에 사전 설계 보안이 어렵다.

클라우드플레어가 출시한 AI용 방화벽은 자사의 워커스AI에서 실행되는 모든 LLM에 적용가능한 모델로, 사용자의 프롬프트를 사전 스캔/평가할 수 있는 방화벽을 통해 고객사를 보안위협으로부터 돕는다.

클라우드플레어는 세계 최대 규모 글로벌 네트워크를 기반으로, AI용 방화벽을 통해 고객이 LLM 내에 있는 기능, 주요 데이터, 영업 비밀을 노리는 공격에 대응할 수 있도록 지원한다는 방침이다.

매튜 프린스(Matthew Prince) 클라우드플레어 CEO 겸 공동 창업자는 "새로운 유형의 애플리케이션이 등장하면 새로운 유형의 위협도 빠르게 뒤따르기 마련이다. AI 기반 애플리케이션도 마찬가지다"라며 "클라우드플레어는 자사 AI용 방화벽을 통해 AI 환경의 보안 구축을 처음부터 돕고 있다. AI 모델을 위한 최초의 보호막 중 하나를 제공하여, 기업이 기술 발전이 선사하는 기회를 활용함과 동시에 보호받을 수 있도록 지원하고자 한다"고 말했다.