인공지능 보안 (Artificial Intelligence Security)

* 인공지능 보안 : 인공지능을 활용한 공격과 취약점, 방어 기술

 

 

 

* 공격자 입장의 인공지능 활용 : 인공지능 자체를 파괴하거나, 정보 수집에 대한 시간 단축 등 활용 가능

인공지능 대상/응용 공격	내용
Poisoning	인공지능에 대해 최소한의 오류 데이터로 오동작 유도
Evasion	인공지능에 대한 최소한의 변조로 다른 클래스로 인식 유도
Model Extract	공개 모델을 모사해서 만드는 공격
Spear Phishing	공격에 필요한 사전 준비 시간을 단축하여 공격
Deep Fake	모방, 흉내 등을 통한 가짜 뉴스 등으로 사회 혼란 가중
CAPTCHA	인간의 시각 처리를 모사하는 RCN (Research Coordination Network)을 이용한 공격

 

 

 

* 보안에서의 인공지능 활용

활용 대상	내용
지능형 통합보안 관제 시스템	관제 지도학습/비지도학습과 연계, 취약점을 검색
NDR (Network Detection & Response)	NDR과 함께 정상/비정상 네트워크 패킷 수집, 패킷에 대한 머신러닝 알고리즘 적용으로 네트워크 침입탐지 수행
EDR (Endpoint Detection & Response)	악성코드 위협 모델을 기반으로 이상 행위, 블랙리스트, IoC(침해 지표 - Indicators of Compromise), C&C (Command & Control) 등을 활용, 프로세스의 정상 및 비정상을 판단 (0-day 대응 등) 등 악성코드 분석 수행