2020.02.25 (화)

  • 흐림속초9.4℃
  • 흐림4.5℃
  • 흐림철원3.3℃
  • 흐림동두천5.1℃
  • 흐림파주5.5℃
  • 흐림대관령1.7℃
  • 흐림백령도6.1℃
  • 흐림북강릉9.8℃
  • 구름많음강릉11.4℃
  • 흐림동해8.6℃
  • 흐림서울7.9℃
  • 비인천8.5℃
  • 흐림원주6.8℃
  • 구름조금울릉도10.0℃
  • 흐림수원8.0℃
  • 흐림영월5.1℃
  • 흐림충주6.0℃
  • 흐림서산7.1℃
  • 흐림울진7.8℃
  • 비청주8.6℃
  • 비대전9.2℃
  • 흐림추풍령7.5℃
  • 흐림안동6.5℃
  • 흐림상주8.1℃
  • 흐림포항12.1℃
  • 흐림군산7.4℃
  • 비대구9.9℃
  • 비전주10.5℃
  • 비울산11.2℃
  • 비창원9.3℃
  • 흐림광주9.7℃
  • 비부산11.9℃
  • 흐림통영10.0℃
  • 흐림목포11.1℃
  • 흐림여수10.9℃
  • 흐림흑산도10.6℃
  • 구름많음완도10.7℃
  • 흐림고창11.5℃
  • 흐림순천7.3℃
  • 비홍성(예)6.8℃
  • 흐림제주13.7℃
  • 흐림고산15.6℃
  • 흐림성산15.7℃
  • 흐림서귀포15.9℃
  • 흐림진주8.8℃
  • 흐림강화5.9℃
  • 흐림양평5.9℃
  • 흐림이천6.0℃
  • 흐림인제3.5℃
  • 흐림홍천4.5℃
  • 흐림태백5.4℃
  • 흐림정선군3.6℃
  • 흐림제천4.2℃
  • 흐림보은6.0℃
  • 흐림천안6.8℃
  • 흐림보령8.3℃
  • 흐림부여6.3℃
  • 흐림금산7.0℃
  • 흐림부안9.5℃
  • 흐림임실7.0℃
  • 흐림정읍9.3℃
  • 흐림남원7.8℃
  • 흐림장수6.6℃
  • 흐림고창군10.3℃
  • 흐림영광군9.9℃
  • 흐림김해시11.2℃
  • 흐림순창군7.6℃
  • 흐림북창원11.2℃
  • 흐림양산시9.6℃
  • 흐림보성군9.6℃
  • 흐림강진군10.0℃
  • 흐림장흥9.6℃
  • 흐림해남12.3℃
  • 흐림고흥8.7℃
  • 흐림의령군8.8℃
  • 흐림함양군6.9℃
  • 흐림광양시10.9℃
  • 구름많음진도군14.2℃
  • 흐림봉화4.7℃
  • 흐림영주6.0℃
  • 흐림문경7.7℃
  • 흐림청송군5.6℃
  • 흐림영덕8.2℃
  • 흐림의성5.8℃
  • 흐림구미8.1℃
  • 흐림영천6.9℃
  • 흐림경주시9.4℃
  • 흐림거창7.6℃
  • 흐림합천8.5℃
  • 흐림밀양8.8℃
  • 흐림산청7.3℃
  • 흐림거제11.4℃
  • 흐림남해9.9℃
공주대 최대선 교수, AI 속이는 공격자 AI 개발 '화제'
  • 해당된 기사를 공유합니다

교육

공주대 최대선 교수, AI 속이는 공격자 AI 개발 '화제'

최대선 교수.jpg

[공주일보] 공주대학교(총장 원성수)는 최대선 교수가 얼굴에 몇 개의 점을 붙여 얼굴인식 AI가 다른 사람으로 인식하게 만드는데 성공했다고 밝혔다. 

 

연구팀이 개발한 공격자 AI에 얼굴 사진을 입력하면 얼굴에 붙일 점 스티커를 만들어주고, 점을 붙일 위치를 알려준다. 공격자 AI가 알려준 대로 얼굴에 점 스티커를 붙이면, 얼굴인식 AI는 전혀 다른 사람으로 인식하게 된다.

보안 분야에서는 이미지나 보이스에 약간의 변형을 가해 딥러닝 AI를 속일 수 있는 기만 공격이 가능하다고 알려져 왔으며, 기만 공격을 통해 자율 주행 자동차가 좌회전 표지판을 우회전으로 인식하게 되는 등 심각한 문제를 야기할 수 있어 AI의 보안 취약점으로 지적되고 있다.
 
이러한 변형 데이터를 적대적 예제 (adversarial example)이라고 부르며, AI를 기만하는데 사용한다. 공격자 AI가 어떻게 변형해야 하는지를 자동으로 찾아주므로 이러한 적대적 예제를 쉽게 생성할 수 있으며, 이를 방어하는 것도 어렵다고 알려져 있다.
 
사람 목소리에 약간의 잡음을 추가하여 음성인식 AI를 속이는 기만 공격 사례도 알려져 있다. 방송에서 앵커가 말한 “A상품을 주문해라”는 음성을 명령으로 인식해 실제 상품을 주문한 아마존 AI 스피커의 사례가 있는데, 적대적 예제를 적용할 경우 “안녕하십니까”라는 말을 듣고도 상품을 주문할 수 있다.  
 
이번 공주대 연구는 이미지 상태가 아닌 실제 얼굴에 약간의 분장을 통해 얼굴인식 AI를 기만할 수 있다는 것을 보여준 세계 최초 연구로, AI 적용 분야가 확대되어 가는 가운데 AI 보안 취약점이 큰 문제를 야기할 수 있는 사례이다.
 
해외에서는 표지판에 스티커를 붙여 오인식하게 만드는 연구가 소개된 바 있으나, 얼굴 분장을 통한 얼굴인식 AI를 기만하는 사례는 이번 공주대 연구가 최초이다.
 
연구팀을 이끈 최대선 교수는 “이러한 기만 공격 이외에도 AI의 오동작을 유발하거나, 학습에 사용된 데이터를 추출하여 프라이버시를 침해하는 등 여러 가지 AI 보안 취약점이 알려져 있다”며 “최근 AI에 대한 국가적 관심과 산업계의 적용이 활발한 가운데 AI 보안 문제에 대해서도 심각성을 인식하고 대비해야 한다”고 말했다.
 

얼굴인식AI.jpg

 

씨에이미디어그룹.jpg






모바일 버전으로 보기