5분 읽기 + 8분 6초 영상
- 컴퓨터 비전 분야 논문의 90%와 특허의 86%가 사람, 그들의 행동, 생활 환경을 모니터링
- 논문의 90%와 특허의 86%가 사람과 관련된 데이터를 추출
- 감시 특허로 이어지는 과학 논문 수에서 단연 미국과 중국이 가장 많은 국가다
- "우려되는 것은 감시 기술 분야의 기술과 응용 프로그램이 획득한 지식을 감시, 통제, 압박하거나 수익화하는 데 자주 사용된다는 것"

AI 연구가 감시를 촉진하는 방식
AI 지원 이미지 분석 관련 논문과 특허는 주로 감시 기술에 활용된다.

빅 브라더가 우리를 감시하고 있다. AI 지원 이미지 분석은 단 하나의 대상, 바로 우리를 노리고 있다. "네이처"에 실린 연구에 따르면, 컴퓨터 비전 분야 논문의 90%와 특허의 86%가 사람, 그들의 행동, 그리고 생활 환경을 모니터링하고 인식하는 방법을 다루고 있다. 이는 우연이 아니다. 이러한 연구를 주도하는 것은 군, 특히 미국과 중국의 군과 긴밀한 관계를 맺고 있는 대형 기술 기업과 명문 대학이다. 

▲ 특히 AI 지원 이미지 분석 연구로부터 혜택을 보는 산업이 하나 있는데, 바로 감시 기술이다.

디스토피아 SF 소설과 영화에서 오랫동안 공통적으로 다뤄져 온 주제는 바로 기업이나 국가가 사람들을 감시하는 데 인공지능을 활용하는 것이다. AI 지원 이미지 인식은 범인, 테러리스트, 그리고 반대 세력을 색출하고, 시민의 행동을 감시하고, 감독한다. 킬러 드론이나 킬러 로봇과 같은 자율 무기 시스템 또한 이러한 기술의 혜택을 받고 있다.

AI 지원 이미지 분석 - 감시 도구인가?

하지만 현실에서 우리는 이러한 시나리오에 얼마나 가까이 있을까? 그리고 AI 연구는 여기에서 어떤 역할을 할까? 스탠퍼드 대학교의 프라튜샤 리아 칼루리와 그의 동료들이 바로 이 문제를 연구했다. 그들은 지난 40년간 컴퓨터 비전(AI 지원 이미지 및 비디오 분석)에 관한 1만9천 편 이상의 과학 논문과 이러한 논문을 기반으로 한 2만3천 건의 특허를 분석했다. 그들은 기술된 방법의 목적과 연구 대상을 평가했다.

▲ 컴퓨터 비전 기반 감시 기술에 대한 특허가 증가했다. © Kalluri et al./ Nature, CC-by-nc-nd 4.0

연구 결과:
연구팀은 "논문의 90%와 특허의 86%가 사람과 관련된 데이터를 추출한다"고 보고했다. AI 지원 이미지 분석 연구의 대부분은 이미지와 비디오에서 사람의 얼굴, 사람 또는 신체 부위를 식별하는 데 초점을 맞춘다. 인간 행동이나 사회적 상황에 대한 분석 및 평가는 여전히 과학 논문의 18%와 특허의 16%에서 중요한 역할을 한다.

추세는 분명

컴퓨터 비전 연구는 점점 더 한 가지 목적, 즉 AI 지원 감시 기술 발전에 기여하고 있다. 연구진은 "컴퓨터 비전 분야는 인간의 시각에서 영감을 받은 순수 과학, 통계 기술, 그리고 순수 데이터 중심의 연구 분야로 스스로를 규정하고 있다"고 지적했다. "하지만 과학 논문과 특허는 감시 목적의 데이터 추출 방법을 분명히 우선시하고 있다.”

▲ a. 감시 관련 논문 및 특허를 보유한 상위 10개 기관 및 국가. b, 기관, 국가 및 하위 분야별로 분류된 감시 가능 특허에 사용된 특허 논문의 비율. 하위 특허를 포함하는 논문을 10편 이상 발표한 각 기관, 국가 또는 하위 분야에 대해, 감시 가능 특허에 사용된 논문의 비율을 보여준다. © Kalluri et al./ Nature, CC-by-nc-nd 4.0

이는 15년 전에 이미 분명하게 나타났던 추세와도 일치한다. 칼루리와 동료들은 "1990년대부터 2010년대까지 감시 기술 특허로 이어지는 컴퓨터 비전 과학 논문이 5배 이상 증가했다"고 보고했다. 이러한 초점의 변화는 출판물의 언어에도 반영되어 있다. 처음에는 모양, 모서리, 표면과 같은 일반적인 용어가 지배적이었지만, 이후 인간, 행동, 사람, 의미와 같은 용어로 초점이 옮겨갔다.

미국과 중국이 압도적으로 앞서고 있다.

또 다른 주목할 점은 AI 기반 감시 기술에 대한 이러한 추세가 컴퓨터 비전 분야 전반에 걸쳐 나타나고 있지만, 일부 국가와 기관은 두드러지게 두드러진다는 것이다. 연구팀은 "감시 특허로 이어지는 과학 논문 수에서 단연 미국과 중국이 가장 많은 국가다"고 밝혔다. 이는 이 두 국가가 인공지능과 첨단 감시 기술 개발의 주요 동력임을 보여주는 데이터와 일치한다. 독일은 영국에 이어 4위를 차지했다.

감시 분야에서 특허 가치가 가장 높은 논문을 발표하는 연구 기관 중 상위 5개는 마이크로소프트, 카네기 멜론 대학교, 매사추세츠 공과대학교(MIT), 홍콩 대학교, 그리고 취리히 연방 공과대학교다. 상위 10개 기관 중 7개는 미국에 있다. 칼루리와 동료들이 설명하듯이, 감시에 적합한 연구 자료를 제공하는 이러한 기관들 중 상당수는 전통적으로 군산복합체와 긴밀한 관계를 유지해 왔다.

"감시 기술은 진공 상태에서 탄생하지 않는다. 연구와 그 응용 분야는 수많은 주체에 의해 적극적으로 추진, 홍보, 자금 지원, 그리고 상용화되고 있다"고 연구팀은 기술했다.

▲ 인공지능과 AI 기반 이미지 분석 분야의 발전이 무의미한 것이 아니라 끊임없이 발전하는 감시 기술에 대한 수요에 의해 주도되고 있음을 보여준다.

인간 관련 데이터의 대량 추출

연구진에 따르면, 이번 연구 결과는 인공지능과 AI 기반 이미지 분석 분야의 발전이 무의미한 것이 아니라 끊임없이 발전하는 감시 기술에 대한 수요에 의해 주도되고 있음을 보여준다. 칼루리와 그녀의 연구팀은 "이번 연구 결과는 소수의 '악의적인' 행위자들만이 감시를 목표로 한다는 가정과 모순된다"고 밝혔다. 이 연구 분야의 초점은 인간 관련 데이터의 대량 추출이다.

연구진에 따르면, 이번 분석은 이 연구 분야가 얼마나 체계적으로 개인 데이터 추출과 감시에 집중되어 왔는지를 보여준다. 더블린 트리니티 칼리지의 선임 저자 아베베 비르하네는 "우려되는 것은 감시 기술 분야의 기술과 응용 프로그램이 획득한 지식을 감시, 통제, 압박하거나 수익화하는 데 자주 사용된다는 것이다"고 말했다.

이는 과학자들이 그러한 목표를 가지고 있거나 의도적으로 이를 지지한다는 것을 의미하지 않는다. 연구팀은 "이번 연구 결과는 개별 컴퓨터 비전 연구자들의 동기에 대해서는 아무런 언급도 하지 않는다"고 강조했다.

미국 정부는 이미 반자율 드론을 탑재한 감시탑을 주문했다.

이번 연구의 타당성은 멜버른 모나쉬 대학교의 AI 연구원 자탄 사도프스키에 의해 확인되었다. 그는 이 연구에 참여하지 않았다. 첨부된 논평에서 그는 "칼루리와 그녀의 팀은 AI 지원 감시 분야에서 매우 영향력 있고 성장하는 영역을 포괄적으로 파악하는 귀중한 연구를 수행했다"고 말했다.

현재 연구의 중요성을 보여주는 사례로, 사도프스키는 미국 국토안보부와 수익성 높은 계약을 체결한 OpenAI, Palantir, Anduril과 같은 미국 기업들을 언급했다. 이 계약에는 자동 사람 감지 기능을 갖춘 AI 제어 감시탑 개발이 포함되어 있으며, 반자율 드론은 이 감시탑을 이용하여 사람들을 추적하고 필요한 경우 공격할 수 있다.

칼루리와 그의 동료들은 이번 연구 결과가 AI 지원 이미지 분석의 잠재적으로 우려스러운 결과에 대한 논의를 더욱 심화하는 데 도움이 되기를 바란다. 이는 또한 정책 입안자와 사법부가 적절한 지침과 한계를 설정하는 데 도움이 될 수 있다.

참고: Nature, 2025; doi: 10.1038/s41586-025-08972-6
출처: Trinity College Dublin

[더사이언스플러스=문광주 기자]

[저작권자ⓒ the SCIENCE plus. 무단전재-재배포 금지]