AI 조작 사진에 美증시 출렁…‘가짜 얼굴’ 송금 사기도 기승

입력 2023.05.23 (14:56) 수정 2023.05.23 (14:58)

읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.


■ 美 국방부 근처 폭발?…알고 보니 'AI 조작 사진'
어제(현지 시간 22일) 아침, 미국에서 한 장의 사진이 트위터를 통해 급속히 확산했다. 건물 주변에서 검은 연기가 치솟는 사진으로, "미국 국방부 청사 인근에서 큰 폭발-1보 (Large Explosion near The Pentagon Complex in Washington D.C.-initial Report)"라는 설명이 달렸다. 사실이라면 제2의 '9.11테러'가 일어난 셈이었다.


이 트윗은 다른 계정들을 타고 순식간에 퍼져나갔다. 팔로워 160만 명을 보유한 월가의 유명 블로거 '제로헤지'도 "펜타곤 근처 폭발"이라는 설명과 함께 사진을 게시했다가 나중에 지웠다. 심지어 러시아 해외선전매체인 RT도 오전 10시 3분에 "펜타곤 근처에 폭발 보도가 있다"라고 트윗하기도 했다.

문제는 단순한 소동에서 그친 게 아니었다는 점이다. 오전 9시 30분에 개장하는 미국 증시의 스탠더드앤드푸어스(S&P) 500지수가 0.3% 가량 출렁였고, 위험 상황에서 안전 자산으로 여겨지는 미국 국채와 금의 가격은 반대로 급등했다.

급기야 당국이 나섰다. 오전 10시 27분, 펜타곤을 관할하는 버지니아주 알링턴 소방서가 "펜타곤이나 그 근처에서 발생한 폭발이나 사건이 아예 없다"라고 밝혔다.

전문가들이 사진을 분석한 결과, 인공지능(AI)가 생성한 사진임이 드러났다. AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장들이 변형되고 뒤섞인 흔적이 포착됐기 때문이다. 디지털 조사업체 벨링켓의 닉 워터스 조사관은 "사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다"고 말했다. AP통신은 "이번 사태가 점점 세밀해지고 접근하기 편리한 프로그램이 일상에 가할 수 있는 혼란을 보여줬다"고 지적했다. AI를 이용해 사진을 조작한 게 누군지는 아직 드러나지 않았다.


■ "화상전화로까지 확인했는데"…AI로 얼굴까지 속였다

중국에선 인공지능으로 얼굴을 모방한 신종 사기가 등장했다. 중국신문망 등 현지 보도에 따르면, 지난달 20일 네이멍구의 한 정보기술(IT)업체 대표 궈모 씨가 "입찰 보증금이 필요하다"는 친구에게 430만 위안(약 8억 원)을 송금했다가 낭패를 봤다. 그는 계좌 이체 후 송금을 확인하기 위해 친구와 통화하다가 사기를 당했다는 사실을 알았다. 현지 공안당국이 궈 씨의 은행계좌를 정지시켰지만 이미 약 1억 7천만 원이 빠져나간 뒤였다.

문제는 궈 씨가 송금 전에 친구에게 영상 전화를 걸어 확인을 했다는 점이다. 궈 씨는 "친구와 영상 전화로 통화했는데 얼굴과 목소리가 똑같아 전혀 의심하지 않았다"고 말했다. 사기범들이 AI를 이용해 친구의 음성은 물론 얼굴까지 위조해 속인 것이다.

다른 피해 사례도 소개됐다. 모 업체 경리 직원은 사장과 음성 통화를 한 뒤 2만 위안(약 372만 원)을 송금했고, 20대 대학생은 친구와 화상 전화를 한 뒤 3천 위안(약 58만 원)을 보냈다가 피해를 봤다.

전문가들에 따르면, 사기범들은 SNS에 올라온 사진과 동영상에서 얼굴을 캡처하거나, 화상 전화를 잘못 건 것처럼 통화하면서 음성과 영상을 저장, 위조하는 수법을 사용하는 것으로 전해졌다. 전문가들은 "목소리와 얼굴을 확인하면 별다른 의심 없이 상대를 믿는 심리를 악용한 신종 사기 수법"이라며 "SNS에 얼굴이 드러나는 영상을 게시하거나 낯선 사람과 화상 통화하는 것을 자제해야 한다"고 조언했다. 또 "돈을 요구할 경우 여러 경로를 통해 신중하게 확인해야 한다"고 말했다.

■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!


  • AI 조작 사진에 美증시 출렁…‘가짜 얼굴’ 송금 사기도 기승
    • 입력 2023-05-23 14:56:15
    • 수정2023-05-23 14:58:51
    글로벌K

■ 美 국방부 근처 폭발?…알고 보니 'AI 조작 사진'
어제(현지 시간 22일) 아침, 미국에서 한 장의 사진이 트위터를 통해 급속히 확산했다. 건물 주변에서 검은 연기가 치솟는 사진으로, "미국 국방부 청사 인근에서 큰 폭발-1보 (Large Explosion near The Pentagon Complex in Washington D.C.-initial Report)"라는 설명이 달렸다. 사실이라면 제2의 '9.11테러'가 일어난 셈이었다.


이 트윗은 다른 계정들을 타고 순식간에 퍼져나갔다. 팔로워 160만 명을 보유한 월가의 유명 블로거 '제로헤지'도 "펜타곤 근처 폭발"이라는 설명과 함께 사진을 게시했다가 나중에 지웠다. 심지어 러시아 해외선전매체인 RT도 오전 10시 3분에 "펜타곤 근처에 폭발 보도가 있다"라고 트윗하기도 했다.

문제는 단순한 소동에서 그친 게 아니었다는 점이다. 오전 9시 30분에 개장하는 미국 증시의 스탠더드앤드푸어스(S&P) 500지수가 0.3% 가량 출렁였고, 위험 상황에서 안전 자산으로 여겨지는 미국 국채와 금의 가격은 반대로 급등했다.

급기야 당국이 나섰다. 오전 10시 27분, 펜타곤을 관할하는 버지니아주 알링턴 소방서가 "펜타곤이나 그 근처에서 발생한 폭발이나 사건이 아예 없다"라고 밝혔다.

전문가들이 사진을 분석한 결과, 인공지능(AI)가 생성한 사진임이 드러났다. AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장들이 변형되고 뒤섞인 흔적이 포착됐기 때문이다. 디지털 조사업체 벨링켓의 닉 워터스 조사관은 "사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다"고 말했다. AP통신은 "이번 사태가 점점 세밀해지고 접근하기 편리한 프로그램이 일상에 가할 수 있는 혼란을 보여줬다"고 지적했다. AI를 이용해 사진을 조작한 게 누군지는 아직 드러나지 않았다.


■ "화상전화로까지 확인했는데"…AI로 얼굴까지 속였다

중국에선 인공지능으로 얼굴을 모방한 신종 사기가 등장했다. 중국신문망 등 현지 보도에 따르면, 지난달 20일 네이멍구의 한 정보기술(IT)업체 대표 궈모 씨가 "입찰 보증금이 필요하다"는 친구에게 430만 위안(약 8억 원)을 송금했다가 낭패를 봤다. 그는 계좌 이체 후 송금을 확인하기 위해 친구와 통화하다가 사기를 당했다는 사실을 알았다. 현지 공안당국이 궈 씨의 은행계좌를 정지시켰지만 이미 약 1억 7천만 원이 빠져나간 뒤였다.

문제는 궈 씨가 송금 전에 친구에게 영상 전화를 걸어 확인을 했다는 점이다. 궈 씨는 "친구와 영상 전화로 통화했는데 얼굴과 목소리가 똑같아 전혀 의심하지 않았다"고 말했다. 사기범들이 AI를 이용해 친구의 음성은 물론 얼굴까지 위조해 속인 것이다.

다른 피해 사례도 소개됐다. 모 업체 경리 직원은 사장과 음성 통화를 한 뒤 2만 위안(약 372만 원)을 송금했고, 20대 대학생은 친구와 화상 전화를 한 뒤 3천 위안(약 58만 원)을 보냈다가 피해를 봤다.

전문가들에 따르면, 사기범들은 SNS에 올라온 사진과 동영상에서 얼굴을 캡처하거나, 화상 전화를 잘못 건 것처럼 통화하면서 음성과 영상을 저장, 위조하는 수법을 사용하는 것으로 전해졌다. 전문가들은 "목소리와 얼굴을 확인하면 별다른 의심 없이 상대를 믿는 심리를 악용한 신종 사기 수법"이라며 "SNS에 얼굴이 드러나는 영상을 게시하거나 낯선 사람과 화상 통화하는 것을 자제해야 한다"고 조언했다. 또 "돈을 요구할 경우 여러 경로를 통해 신중하게 확인해야 한다"고 말했다.

이 기사가 좋으셨다면

오늘의 핫 클릭

실시간 뜨거운 관심을 받고 있는 뉴스

이 기사에 대한 의견을 남겨주세요.

2024 파리 올림픽 배너 이미지 수신료 수신료