"터미네이터 시리즈에서 나온 것과 같은 디스토피아가 초래될 수 있다."

영화 '터미네이터'를 제작한 제임스 카메론 감독의 말입니다. 7일 <가디언>은 그의 인터뷰 기사를 '기후섹션'에 배치했습니다. 지금처럼 AI(생성형 인공지능)활용이 전분야에 걸쳐 빠르게, 특히 군사분야에 활용될 경우 그 폐해는 전 지구적 종말 상황에 이르게 될 수 있다는 위기의식의 발현이 아닐까요,

참고로 제임스 카메론 감독은 터미네이터 시리즈 뿐 아니라 타이타닉과 아바타 1,2 제작으로 역대 최고의 수익을 올린 영화 4편 중 3편을 기록한 감독입니다. 그 자신도 영화제작에 AI를 적극 활용하고 있습니다. 앞으로 블록버스터 영화의 미래는 AI를 활용하여 제작비를 절반으로 줄여야 생존할 수 있다며 그런 혁신이 직원 해고가 아닌 속도의 가속화를 통해 이뤄질 수 있는 방법을 연구한다면 아바타 제작에 AI를 활용하고 있는 상황...

그런 그에게도 AI가 디스토피아로 가는 길목은 역시 군사적 적용입니다.

"AI를 무기 체계에 적용하면, 심지어 핵무기 체계와 핵 방어 대응 공격 시스템까지 통합하는 터미네이터식 종말론의 위험이 여전히 존재한다고 생각합니다." (가디언, 25.8.7)

카메론 감독은 AI를 군사적으로 활용하면 작전을 수행하는 속도가 매우 빨라지고 결정을 내리는 시간도 매우 짧아지기 때문에 인간이 더 똑똑하게 상황을 풀어갈 수 있는 장점이 있다고 합니다. 하지만 그게 독이라는 거죠.

"인간은 실수를 할 수 있고, 핵전쟁으로 이어질 수 있는 국제적 사건의 위기에 처하게 만든 수많은 실수들이 있었습니다. 그래서 저도 잘 모르겠습니다."

그는 지금 이 시대에 인류가 처한 실존적 위협으로 세가지를 꼽았습니다.

"저는 인류 발전의 정점에 우리가 서 있다고 생각합니다. 세 가지 실존적 위협, 즉 기후 변화와 자연계의 전반적인 파괴, 핵무기, 그리고 초지능(super-intelligence)이 존재하죠. 이 세 가지 위협은 모두 동시에 나타나고 정점에 도달하고 있습니다. 어쩌면 초지능(super-intelligence)이 그 해답일지도 모릅니다."

참고로 <가디언>은 AI가 헐리우드의 모든 인간을 대체할 것인가, 특히 시나리오 작가까지 대체할 것인지에 대한 카메론의 철학에 대해서도 언급하고 있습니다. 그는 2023년에 이런 말을 했다고 합니다.

"육체 없는 정신이, 다른 육신을 가진 사람들이 했던 말들, 즉 자신의 삶이나 사랑과 거짓말, 두려움, 죽음에 대해 했던 말을 그저 되뇌는 것만으로는 관객을 감동시킬 수 없다고 생각합니다. 그런 글을 쓰려면 인간이 되어야 합니다."

기사를 읽은 뒤 AI의 군사적 활용이 어느 정도까지 진행되고 있는지에 대해 잠시 조사를 해봤습니다. 올해 1월 <국회예산정책처> 자료입니다.

▪첨단 AI 무기체계와 전쟁 양상 변화
‑ AI 무기체계의 활용 범위가 빠르게 확장되면서, 전쟁의 양상이 변화하고 있음
・러시아·우크라이나 전쟁에서는 AI 자폭 드론이 실전에 투입되고, 적을 스스로 식별하고 사살 여부를 판단하는 새로운 AI 무기체계들이 개발되고 있음

‑ AI 무기체계 개발 현황은 아래와 같음
・(장거리포) 중국, 16km 밖에서 타격할 수 있는 AI 유도 장거리포 개발
・(로봇개) 미국, AI로 목표를 선택하고, 조종할 수 있는 소총을 부착한 로봇개 개발
・(전투기) 미국, AI가 조종하는 전투기 테스트 중
・(탱크) 미국 General Dynamics사, 공격 우선순위를 정해주는 AI가 탑재된 탱크 개발

▪AI 무기체계의 발전은 전쟁의 양상을 변화시키며, 군사 기술 경쟁과 군비 확장을
가속화할 가능성이 있음
‑ 미국의 정부효율부(DOGE)를 이끌게 될 일론 머스크는 드론을 이용한 전쟁이 미래이며, 미국은 대량의 장거리 드론과 극초음속 미사일이 필요하다고 주장