인공지능 기업이 무기도 개발한다?

민수용 기술로 유명한 많은 기업이 갈수록 기술을 군사용으로 판매해
홀로렌즈 이용자와 MS 직원들은 그 기술이 전쟁터에서의 ‘살상력 증강’ 프로젝트용으로 국방부에 팔렸다는 사실에 충격받았다. / 사진:ELAINE THOMPSON-AP/YONHAP

5만 명 이상이 마이크로소프트(MS)의 홀로렌즈 증강현실 헤드셋을 설레는 마음으로 구입했다. 원래 게이머·기술자·의사 용으로 설계된 제품이었지만 그들은 3000달러의 투자금, 그리고 피드백 제공과 홀로렌즈 개선에 들인 시간이 군대를 위한 것이었다는 사실을 알 리 없었다. 그 홀로렌즈 이용자와 상당수 MS 직원은 회사가 그 기술을 전쟁터에서의 ‘살상력 증강’ 프로젝트용으로 국방부에 팔았다는 사실을 알고는 충격받았다.

홀로렌즈는 전쟁 도구로 용도 변경할 수 있는 ‘민군 겸용’ 민간기술의 많은 사례 중 하나다. 소비자와 직원들은 기술의 군사용 활용에 관해 특히 인공지능과 관련해 각 기업이 어떤 입장을 가졌는지 알 권리가 있다. 일반적으로 킬러 로봇으로 알려진 살상용 자율무기는 인간 조종자의 직접적인 입력 없이도 표적을 선택해 공격할 수 있다. 자율성 확대 트렌드를 보여주는 선구적 무기가 현재도 존재한다. IAI 하롭 무인기가 그런 무기의 대표적인 사례다.

자율무기는 사활의 결정에서 인간의 통제를 배제함으로써 근본적인 윤리적·법적 원칙을 위반한다. 오늘날의 소프트웨어는 전쟁과 무력충돌에 관한 법을 따르는 데 필요한 고도의 정교함을 전혀 갖추지 못한 상태다. 소수 인원이 상당히 큰 규모의 자율무기 군비를 통제할 수 있다. 군사력 행사에 요구되는 기본적인 견제와 균형을 약화시키는 잠재적인 새 대량살상 무기다. 자율 그리고 인공지능 기반 무기 개발의 새로운 글로벌 군비경쟁이 시작될 위험이 있다.

이런 현실에서 무기 반대 단체 PAX가 50개 IT 기업을 대상으로 실시한 새로운 조사는 대단히 중요한 의미를 지닌다. ‘악행하지 말라’는 제목의 보고서는 아마존·MS·팰런티어 같은 상당수 대기업에 기술의 킬러 로봇 활용을 막는 포괄적인 정책이 없음을 보여준다. 보고서에 따르면 민수용 기술로 유명한 많은 기업이 갈수록 기술을 군사용으로 판매하고 있다.

내가 근무했던 그런 IT 대기업 한곳에선 프로젝트 메이븐의 일환으로 미국 국방부와 비밀 계약을 체결했음을 나중에 알게 됐다. 인공지능 기반 군사정찰 프로젝트다. 나는 내 연구가 목표물 식별, 병력 파견, 파괴의 ‘킬 체인’을 형성하는 군사 프로젝트로 전용돼서는 안 된다는 강한 윤리의식을 갖고 있다. 그래서 구글에서 더는 근무할 수 없다고 느꼈다.

나 같은 사람의 반대의사 표시로 구글은 그 프로젝트를 취소하고 무기 개발을 금지하는 빅테크 세계 유일의 명백한 가이드라인을 수립하게 됐다. 다른 기업들이 직면한 압력은 필요할 경우 직원과 소비자의 투명성, 부단한 노력, 활동이 살상용 자율무기 전용을 저지할 수 있음을 보여준다.

IT 업체들은 특히 사물인식과 같은 민군 겸용기술과 군납계약과 관련해선 정확히 어떻게 그리고 어떤 맥락에서 기술이 사용되는지 알리도록 해야 한다. 강력한 계약조항과 감사의 의무화가 킬러 로봇 설계도에 알고리즘이 채택되지 않도록 보장하는 유일한 길이다. 끝으로 IT 업체들은 군용으로 기술을 개발할 때 직원들에게 알리도록 해야 한다.

민군 겸용 기술의 무기화에 반대 의사를 표명하는 IT 근로자가 갈수록 늘어난다. 우리가 개발하는 기술의 용도에 관한 투명성과 명료함을 요구한다. 누구도 특히 저도 모르게 ‘살상력 증강’에 기여하도록 강요받아서는 안 된다. 하지만 오늘날 IT 근로자들은 이런 시나리오에 직면하며 소비자도 제품을 이용할 때 부지불식간에 그럴 수 있다. IT 업계에 선명성과 투명성이 요구되는 시점이다.

– 로라 놀란

※ [필자는 구글에서 5년 이상을 포함해 15년 넘게 소프트웨어 엔지니어로 일해 왔다. ‘메이븐 취소’ 공개서한의 서명자 중 한 명으로 구글 내에서 프로젝트 메이븐 반대 캠페인을 벌이다가 항의 표시로 사직했다. 지난해 킬러 로봇 중지 캠페인을 시작하고 ‘TechWontBuildIt 아일랜드’를 설립했다.]