최근 인공지능(AI) 기술이 전쟁 무기에도 활용될 만큼 성능이 빠르게 개선되자 노벨상 수상자들이 경고를 하고 나섰다. 당초 예상보다 AI 개발 속도가 빨라짐에 따라 적용 분야가 넓어지고 있지만 군사 AI 규제 등에는 미온적이라는 지적이다. 실제 글로벌 AI 군비 경쟁이 격화되고 있는 가운데 미국과 중국을 중심으로 빅테크 기업들과 협력해 군 고도화에 나서고 있다. 우크라이나 전쟁에서는 AI 군사 무기가 작전 지휘에 적극 활용되고 있다. 이에 따라 물리학자들은 인간의 인지능력을 뛰어넘는 '초지능 AI'가 가져올 통제 불능 상황을 우려하고 있다.

◆빅테크 기업, 방산업체와 AI 무기 개발 협력

10일 블룸버그통신 등 외신에 따름 글로벌 빅테크 기업들이 AI 기반 무인기 개발을 위해 방산업체와 협력에 나서고 있다. 챗GPT로 유명한 오픈AI는 방산업체 안두릴 인더스트리즈와 미군의 드론 방어 능력 강화를 위한 협력관계를 맺었다. 이들은 오픈AI의 AI 모델을 이용해 드론 공격 위험을 실시간으로 파악해 격추하는 안두릴의 대(對)무인항공기시스템(CUAS)을 개선하는 데 초점을 맞출 방침이다.

미국 AI 소프트웨어 업체 팔란티어도 최근 실드AI와 AI 기반 무인기 개발을 위해 전략적 협력관계를 맺었다. 뿐만 아니라 오픈AI의 경쟁자로 꼽히는 AI 기업 앤스로픽은 최근 아마존웹서비스(AWS) 등과 손잡고 AI 모델 '클로드'를 미국 정보부와 국방부에 제공하기 시작했다. 메타는 지난 4일 미국 국방 기관과 관련 민간 업체에 자사 AI 모델 라마를 제공한다고 발표했다.

이처럼 빅테크 기업들도 AI 방위 산업에 뛰어든 데는 글로벌 군비 경쟁이 격화되고 있어서다. 미국과 중국 중심으로 각 국 정부들은 민간 AI 기업과 협력해 군 고도화에 나서고 있다. 최고 성능의 AI 모델을 앞다퉈 도입하는 한편 국방 관련 첨단 무기 활용에 적극 나서고 있는 것.

실제 AI 기반 무기는 각국 전쟁에서 적극 활용되고 있다. 우크라이나군은 수백㎞ 떨어진 곳에서 러시아 중심부의 전력 시설과 정유 공장을 정밀 타격했다. 공격 수단으로 사용된 AI 드론은 스스로 지형을 탐색하고 목표를 찾아내 자폭 공격에 나선다. 이스라엘군은 AI로 팔레스타인 주민과 무장 단체의 연관 가능성을 추정해 테러 의심자를 찾아내고 있다.

국내 방위산업체도 인공지능(AI) 무기 개발에 속도를 내고 있다. 1~2년 내 실전 배치를 시작해 약 5년 뒤에는 AI 자주포 등 중화기까지 내놓을 수 있을 것으로 전망된다. 한국항공우주(KAI)는 유·무인 전투기 운용에 활용할 수 있는 'AI 조종사'를 개발 중이며 2020년대 후반께 전력화가 가능할 것으로 보인다.

◆"초지능 AI 등장 코앞…군사용 AI 우려"

AI 기술이 실제 전투에도 도입될 정도로 빠르게 성장하자 노벨 물리학자들이 우려를 표하고 나섰다. 인간의 인지능력을 뛰어넘는 '초지능 AI'가 10내 등장할 것으로 전망하면서 이들이 통제불능 상황을 초래할 수 있다는 지적이다.

제프리 힌턴 토론토대 교수는 지난 7일(현지시간) 스웨덴 왕립과학한림원에서 개최된 물리·화학·경제학 노벨상 수상자 공동 기자회견에서 "최근 개발 속도를 보면 (인간의 지능을 뛰어넘는) 초지능은 5~20년이면 개발 될 것"이라며 "(AI에 대한) 통제력을 유지할 수 있을지 심각하게 걱정해야 한다"고 말했다. 그러면서 "AI의 안전성을 보다 일찍 고민했으면 좋았을 것"이라고 말했다.

특히 힌터 교수는 AI의 단기적 위협으로 '자율 살상 무기 체계(LAWS)'의 개발을 꼽았다. LAWS는 AI가 적을 스스로 인식하고 공격할 수 있는 체계다.

예를 들어 우크라이나는 전쟁에서 AI 모델인 'GIS 아르타'를 작전 지휘에 적극적으로 활용하고 있다. 드론 등으로 적군 위치를 파악하면, GIS 아르타가 근처 어느 부대가 어떻게 적군에게 포격할지 최적의 경로, 위치 관계, 사거리 등을 판단해 바로 알려준다.

이에 힌터 교수는 AI가 군사 분야에 사용되고 있음에도 군사 AI 규제는 미온적인 것을우려했다.

힌턴 교수는 "각국 정부는 LAWS와 관련해 규제를 스스로 만들려고 하지 않는다"며 "유럽의 AI법은 AI의 군사적 활용을 제외한 상황"이라고 지적했다. 미국, 중국, 러시아, 영국, 이스라엘 등 무기를 공급하는 주요국 간 경쟁이 격화되고 있지만 군사 AI 규제에 미온적이라는 것이다.

실제 일각에서는 AI 기술이 탑재된 무기가 인간의 의지와 무관하게 사람을 겨냥해 사살하는 '킬러 로봇'이 등장할 수 있다는 우려도 나오고 있다.

이어 힌터 교수는 "최근 AI의 개발 속도를 고려할 때 나는 5~20년 안에, 허사비스는 10년 안에 초지능이 등장할 것이라고 생각한다″며 "AI를 어떻게 통제할 것인지 진지하게 고려할 때가 됐다"고 했다. 그는 "AI 안전성을 보다 일찍 고민했다면 좋았을 것"이라고 후회하기도 했다.

오픈AI 내부에서도 회사가 군사용 AI 파트너십을 체결한 것에 대한 우려가 나오고 있다.

이날 워싱턴포스트에 따르면 오픈 AI 일부 직원들은 최근 안두릴과 체결한 군사용 인공지능(AI) 파트너십에 대해 윤리적 우려를 제기했다. 오픈AI 직원들이 내부 게시판에서 AI 기술을 군사적 용도로 제공하는 데 대한 불만을 표명한것. 오픈AI는 지난 4일 안두릴과의 협력 사실을 발표하며 AI 기술을 미군의 드론 방어 시스템을 개선하는 데 국한된다고 강조했다. 그러나 일부 직원들은 이 기술이 사람이 조종하는 항공기를 겨냥하거나 다른 광범위한 군사적 목적에 사용될 수 있다는 우려를 표명했다.