AI 안전 정상회의 - 28개국 블레츨리 선언 서명 - AI 악용 막을까?

인공지능이 처음 세상 사람들의 뇌리에 제대로 박힌 사건은 이세돌과 알파고의 바둑 대결이었다. 

AI의 수준으로는 바둑으로 인간을 이길 수 없다는 생각을 여지없이 무너뜨린 알파고의 등장으로 인공지능의 발전 속도가 인간의 예상을 뛰어넘는다는 생각을 하게 된 계기가 되었다.

 

인공지능으로 만든 딥페이크 영상은 실제와 거의 구분하기 힘들어 범죄와 연루될 가능성을 우려하게 되었다. 뿐만 아니라 AI를 이용한 치명적인 무기 생산도 가능한 상황이어서 세계 안전을 위협할 수도 있다. 

 

심지어 AI의 발전을 이끄는 회사들마저 인공지능의 발전 속도에 두려움을 갖고 AI를 안전하게 사용할 수 있는 방안 마련에 동참하고 있다. 영국 블레츨리 파크에서 열린 제1회 'AI 안전 정상회의'에 28개국 대표단뿐만 아니라 글로벌 AI 기업도 동참한 것은 AI의 위험성이 상상 이상이라는 것을 암시한다. 

 

2일 채택된 '블레츨리 선언' 내용은 "AI는 인류의 번영을 가져올 잠재력을 지니지만 이를 실현하려면 안전하게 설계, 개발, 배포 및 사용돼야 한다"라고 규정하고 있다. 또한 AI를 개발에 있어 국제적 협력을 결의하고 개별 기업에도 더 큰 책임감을 부여하기로 했다. 

 

28개국 '블레츨리 선언'에는 한국, 미국, 영국, 캐나다, 프랑스, 일본 등 28개국과 유럽연합이 서명했다. 

■ AI가 만든 딥 페이크 영상이 가짜 뉴스 등에 활용되는 등 악용 사례 증가

교황이 트럼프 대통령의 손을 거부하는 가짜 영상 - 스브스뉴스

최근 AI가 만든 딥페이크 영상을 이용해서 가짜 뉴스를 유포하거나 불법 성인 동영상을 만드는 사례가 늘어나고 있다. 세계 신뢰 자본을 갉아먹는 이런 행태에 따라 사람들은 눈으로 보고 귀로 들은 사실에 대해서도 의심하게 되었다. 

 

실제로 미국 워싱턴대학교 연구진은 14시간 분량의 오바마 연설 영상을 학습시킨 것으로도 완벽하 오바마 전 미국 대통령의 딥 페이크 영상을 만들어 냈다. 

 

국내 연구진도 문재인 전 대통령을 비롯한 유명인의 목소리와 얼굴을 그대로 영상으로 재현할 수 있는 수준의 AI 딥 페이크 기술을 확보한 것으로 알려졌다. 

 

이런 기술은 내비게이션 음성 안내 시스템이나 시각 장애인을 위한 오디오 북 등으로 선용될 수 있지만 정치 선동을 위한 가짜 뉴스, 음란 성인 동영상 제작에 활용, 군사적 전용 가능성 등 악용 사례도 늘어나고 있어 대책이 필요한 상황이었다. 

 

실제로 지난 5월 미국 국방부 청사(펜타곤) 폭발 사고 가짜 뉴스로 금융시장이 출렁이는 일이 일어났고, AI를 이용해서 보이스피싱 등의 범죄를 일으킨 사례도 보고되고 있는 상황이다.

 

AI에 의한 악용 사례는 어느 특정 국가에서만 일어나는 일이 아니기 때문에 국제적인 협력에 의해서 문제를 해결하고 AI에 관련한 책임 있는 연구와 응용을 위한 세계 표준의 필요성이 대두되었다. 

 

이런 분위기에서 영국 블레츨리 파크에서 제1회 AI 안전 정상회의가 열렸고 '블레츨리 선언'을 채택하게 되었다. 

■ 안전한 AI를 위한 국제 28개국의 공조 - '블레츨리 선언' 채택

영국에서 열린 제1회 안전 정상회의 - '블레츨리 선언' 채택 - KBS 뉴스

2일(현지시간) 영국 블레츨리 파크에서 폐막된 제1회 AI 안전 정상회의는 '블레츨리 선언'을 채택하고 한국, 미국, 영국, 프랑스, 일본 등 28개국과 유럽연합(EU) 등의 국가가 서명했다. 6개월 뒤 미니 정상회의는 한국과 영국이 공동 개최하기로 했다. 1년 뒤 프랑스가 제2회 AI 안전 정상회의를 개최하기로 합의했다. 

 

리시 수낵 영국 총리는 블레츨리 파크에서 가진 기자회견에서 "뜻을 같이하는 국가들과 기업들이 새로운 AI 모델을 출시하기 전 안전성을 엄격하게 평가해야 한다는 원칙에 동의했다"라고 언급했다. 

 

실제로 이번 회의에는  해리스 미국 부통령, 우자오후이 중국 과학기술부 차관, 조르자 멜로니 이탈리아 총리, 안토니우 쿠테흐스 유엔 사무총장, 우르줄라 폰데어라이엔 유럽연합 집행위원장 등 28개국 대표단뿐만 아니라 AI 기업 대표와 IT 업계 유명 인사들도 참석했다. 

 

브래드 스미스 마이크로소프트 사장, 샘 알트만 오픈 AI CEO, 데미스 하사비스 구글 입마이드 CEO, 일론 머스크 데슬라 CEO 등이 참석해 AI 안전에 대해 기업들의 우려와 관심을 보여 주었다. 

 

그러나 동시에 한계도 노정했다. 정상급 인사는 주최국 영국 리시 수낵 총리와, 이탈리아 총리만 참석했다. 그리고 중국은 선언에는 서명했지만 AI 제품의 안전성 검사 부문은 합의하지 않았다. 

 

AI를 가장 폭넓게 상업화하고 있는 중국의 이해관계를 드러낸 안전성 검사 부문의 합의 거부는 앞으로도 프런티어 AI의 잠재적 위험과 경제적 이득 이해관계를 극복하기 쉽지 않음을 나타내고 있다. 

■ 한국, 내년 5월 영국과 공동으로 AI 미니 정상회의 개최 - 한국의 준비와 대응은?

한국은 내년 5월에 영국과 공동으로 AI 미니 정상회의를 개회할 예정이다. 제2회 정상회의는 1년 뒤 프랑스가 개최할 예정인 것으로 알려졌다. 

 

문제는 한국의 AI 안전 준비와 대응은 초보 단계에 머물러 있다는 것이다. 

우리 정부는 지난 9월 가짜 뉴스 확산 방지에 대한 기본 원칙을 제시한 '디지털 권리장전'을 발표한 정도이다. 

 

아직 규제 표준에 관련한 국내 연구진과 기업 간에도 의사소통이 제도로 이루어지지 않고 있는 실정이다. 이런 상태에서 한국이 주도하는 AI 규제 표준은 상상할 수 없기 때문에 앞으로 펼쳐질 AI 혁명에 뒤쳐질 가능성도 있다. 

 

김대중 정부에서 세계 최초 CDMA 상용화와 같은 공격적인 신산업 육성 정책으로 스마트폰, 반도체, 통신 등 20년 이상 한국 경제를 떠받쳐온 산업의 토대를 만든 것처럼 AI 안전 규제 표준에 있어서도 선도적 역할을 하기 위한 노력이 필요하다. 

 

그런데 이런 중요한 연구를 위한 R&D 투자를 거의 전분야 걸쳐 평균 16% 이상 삭감한 2024년 예산안을 볼 때 암담할 따름이다. 말로만 미래 먹거리 산업 증진을 떠들지 말고 실제로 눈에 보이는 AI 규제 표준 제정을 위한 국내 연구와 같은 미래 먹거리 산업 투자에 자금을 아끼지 말아야 할 것이다.