인공지능 학습 데이터 보안

학습데이터 추출 공격

모델에 수많은 쿼리를 입력 후, 출력된 결과값을 분석하여 모델 학습에 사용된 데이터를 추출하는 공격

모델 추출 공격

모델에 쿼리 입력 후 결과값으로 학습데이터 구축 후 머신러닝 모델을 추출하는 공격

중독 공격

의도적으로 악의적인 학습데이터를 주입해 ML 모델을 망가뜨리는 공격

회피 공격

입력 데이터에 최소한의 변형을 가하여 모델을 속이는 기법

유사 보안 공격 사례

공급망 공격(Supply Chain Attack)

공급망에 침투하여 사용자에게 전달되는 S/W나 H/W를 변조하는 형태의 공격

프롬프트 인젝션

공격자가 시스템 출력을 조작하기 위해 AI 시스템에 악의적인 입력을 주입하려고 시도하는 행위 (테이, 이루다)

블록체인에서의 51% 공격

전체 노드 중 50%를 초과하는 해시 연산력을 확보한 뒤, 거래 정보를 조작함으로써 이익을 얻으려는 해킹 공격 (비트코인골드 등)

Chat GPT jailbreak

ChatGPT에 제한되어 있는 사항들을 풀어서, ChatGPT가 스스로 원래 코딩된 대로 답변을 하도록 하는 것 (Open AI, Bing chat)