레드 팀과 블루 팀을 아시나요?

생성형 AI 보안 업계에서 흔히 하는 말이에요. 기업이 생성형 AI를 활용할 때, 여러 보안 이슈가 있어요. 예를 들어, 기업이 소비자 대상 챗봇 서비스를 제공할 때, 챗봇에 공격을 가할 수 있겠죠. 챗봇은 보통 생성형 AI를 기반으로 제작되어 서비스가 운영돼요. 그래서 해커가 기업의 내부 데이터에 접근하도록 공격을 시도합니다.

해커 대신 이런 행위를 사전에 진행하는 방법이 바로 ‘레드 티밍’이에요. Red Teaming이 원문인데, 빨간색은 보통 적대적 행위를 상징해요. 그리고 ‘블루 티밍’의 파란색