요즘 음성인식을 이용한 Voice Assistant가 많이 이용되고 있습니다. 가장 대표적으로 사용되고 있는 서비스는 아마존의 알렉사, 구글의 구글 어시스턴드, MS의 코타나, 애플의 시리 등 정말 많은 서비스가 있습니다.
우리는 이러한 서비스를 이용해서 음성으로 TV볼륨을 조절하거나 자동차의 문을 여는 등 생활에 필요한
하지만 최근 중국에서 이러한 기능을 악용할 수 있는 초보적인 결함을 발현해서 화제가 되었네요.
결함을 발견한 곳은 중국의 즈장(Zheijiang) 대학교 연구팀인데요. 정말 너무 간단한 방법입니다. 바로 인간의 가청 영역을 벗어난 초음파(20,000hz 이상)를 이용해서 음성 명령을 실행하고 컨트롤 했다고 하네요. 즈장 대학교 연구팀은 이렇게 초음파를 이용한 방법을 돌핀어택(DolphinAttack)이라고 명명했는데요. 이러한 돌핀어택의 기능은 너무나도 단순합니다.
돌핀어택은 인간의 가청 영역을 벗어난 20,000hz 이상의 초음파를 사용하는 방법입니다. 즈장대의 연구팀은 인간의 음성 명령을 초음파 대역으로 바꿧고 스마트폰에 앰프와 스피커를 연결하고 이를 실행 했을 뿐이라고 하네요.
https://youtu.be/21HjF4A3WE4
이렇게 초음파로 변환한 내용은 시리야, OK구글 등의 명렁어로 인공지능 개인비서를 불러낼 수 있었고 전화걸기, 웹페이지 열기, 에어플레인 모드 등 다양한 명령어를 실행할 수 있었습니다. 아마존의 에코는 백도어를 열라는 명령에도 반응했다고 하네요.
이 취약점은 대부분은 인공지능 개인비서, 음성인식 디바이스에 해당되는 것으로 초음파 대역을 인식하도록 만들어 놓은 업체의 문제라고 합니다. 물론 몇가지 이유가 잇긴한데, 초음파 대역을 걸러낼 경우 음성 인식률이 저하될 수 있다고도 합니다. 생각해 보면 예전 흥미로운 서비스 중 한가지가 초음파 대역을 통해서 스마트폰간에 파일을 전송할 수 있는 서비스가 있었죠...
이러한 문제점을 막기 위해서는 초음파 대역의 명령을 실행하지 않도록 펌웨어를 업그레이드 하거나 마이크에서 초음파 대역을 인식하지 못하도록 피러터링이 필요할 것입니다. 물론 현재 구글이나 아마존 서비스에 적용되고 있는 기술이긴 하지만 등록된 사용자이 목소리만 인식하고 반응하는 기술로도 충분히 해결할 수 있다고 하네요.
'정보공유 > 인공지능' 카테고리의 다른 글
인공지능 음성 서비스 와 디지털 콘텐츠 산업 (0) | 2017.10.29 |
---|---|
2017 글로벌 인공지능 스타트업 (0) | 2017.10.17 |
Must have Alexa skills (0) | 2017.07.10 |
텐서플로우 (Tensorflow) (0) | 2017.04.02 |
딥러닝 관련 링크 (0) | 2015.12.23 |