빠르게 진화하는 인공지능(AI)이 영화 ‘터미네이터’나 '매트릭스'처럼 인류를 멸종시킬 수준의 위협이 될 수 있다는 보고서가 나왔다.

'미국 CNN방송에 따르면 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI는 미국 국무부의 의뢰로 작성해 이번 주 발표한 보고서에 이같은 내용을 담았다.

미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 포함했다. 

이 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다.

이에 대해 글래드스톤 AI 측은 챗GPT 개발사인 오픈AI, 구글 딥마인드, 페이스북 모회사인 메타, 앤트로픽 등 주요 빅테크 기업의 기술 및 리더십 팀과 이야기를 나눴다고 밝혔다.

또 일론 머스크, 리나 칸 미국 연방거래위원회(FTC) 위원장 등 AI로 인한 실존적 위험에 대해 경고해온 저명인사들도 보고서에 언급했다.

보고서의 골자는 최첨단 AI와 AGI(범용인공지능·Artificial General Intelligence) 등장은 핵무기 도입을 연상시키는 방식으로, 최악의 경우 인류에게 멸종 수준의 위협을 초래해 세계 안보를 불안정하게 만들 가능성이 있다는 것이다.

보고서는 특히 최첨단 AI와 AGI의 큰 위험 요소로 ‘무기화’와 ‘통제력 상실’을 꼽았다.

보고서는 “이 시스템은 잠재적으로 생화학 및 사이버 전쟁을 설계하고 실행하는데 사용될 수 있고, 통제가 불가능해져 인간에게 적대적으로 행동할 수 있다”고 경고했다.

특히 인간의 사고능력을 뛰어넘는 이른바 '범용 인공지능(AGI)'이 출현하면 통제력 상실 위험은 더욱 커진다.

AGI는 스스로 학습한 내용을 토대로 다양한 상황에 독자적으로 대처할 수 있기 때문이다. 인간의 명령 없이도 각종 무기 작동이 가능하다.

AGI는 아직 존재하지 않지만, AI 전문가들은 향후 5년 이내에 AGI가 나올 것으로 보고 있다.

CNN에 따르면 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 오는 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혔다.

보고서는 이러한 위협에 대응하기 위해 “미국 정부의 개입 필요성이 매우 분명하고 긴급하다”고 보고서는 촉구했다.

아울러 새로운 AI 감독 기관 및 긴급 규제 안전장치 마련, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한 등을 방안으로 제시했다.

CNN은 이날 보고서를 보도하며 향후 30년 이내에 AI가 인류 멸종을 이끌 가능성이 10%가량 된다는 ‘AI 대부’ 제프리 힌튼 캐나다 토론토대 명예교수의 발언도 함께 전했다. 

그는 한 매체에 “10년내에 자율적으로 인간을 죽이는 로봇 병기가 등장할 것으로 본다”며 AI의 위험성을 경고하기도 했다.

우리가 AI에게 기후변화를 막도록 지시하면 그 원인으로 인간을 지목, 인간을 배제할 위험성이 있다고도 했다.

한편 유럽연합(EU) 의회가 13일(현지시간) AI 기술 규제 법안인 ‘AI법’을 최종 승인했다. 로이터통신 등에 따르면 유럽의회는 13일(현지 시간) 찬성 523표, 반대 46표, 무효 49표로 AI법을 통과시켰다.

이에 따라 AI법은 EU 27개국 장관들이 내달 최종 승인하면 관보 게재 후 발효된다. 일부 금지 조항은 발효 뒤 6개월 이후 적용되고, 단계적으로 도입돼 2026년 이후 전면 시행될 예정이다.

생성형 AI의 위험성을 분류하고 기술 개발 과정에서 투명성을 강화하는 게 이 법의 골자다. 이 법은 AI 활용 분야를 총 네 단계 위험 등급으로 나눠 차등 규제한다.

고위험 등급으로 분류되는 의료, 교육, 공공 서비스, 선거, 핵심 인프라, 자율주행 등에서 AI 사용 시 사람이 반드시 감독하도록 하고 위험 관리 시스템도 구축해야 한다.

범용 AI(AGI)를 개발할 땐 '투명성 의무'를 지켜야 한다. 범용 AI 기업은 EU 저작권법을 반드시 준수해야 하며 AI 학습 과정에서 사용한 콘텐츠를 명시해야 한다. 

또 광범위한 사이버 공격 등 EU가 시스템적 위험이라고 규정한 사고 발생을 막기 위한 조처를 해야 한다. 

별도 정보 공개·고지 의무도 부과되고, AI를 활용한 실시간 원격 생체인식 식별 시스템 등 일부 기술 활용은 금지된다. 이 밖에 딥페이크 영상·이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했다.

EU의 AI법은 법 위반 시 전 세계 매출의 최대 7%에 해당하는 과징금을 부과할 수 있도록 했다.