美정부, 첨단 AI 개발사에 보고의무 강화 추진…"기술안전 확보"

(서울=연합뉴스) 차병섭 기자 = 미국 정부가 기술 안전성과 사이버공격 방어 능력 등을 확보하기 위해 첨단 인공지능(AI) 개발업체와 클라우드 컴퓨팅 제공업체들을 대상으로 구체적인 보고를 요구하는 방안을 추진하고 있다.

9일(현지시간) 로이터통신에 따르면 미 상무부 산업안보국(BIS)은 관련 업체들이 고도의 능력을 갖춘 '프론티어' AI 모델 및 컴퓨팅 클러스터 개발 활동과 관련해 연방정부에 의무적으로 구체적 요건을 보고하도록 하는 방안을 제안했다고 이날 밝혔다.

제안에는 사이버 보안 관련 조처, 사이버 공격과 관련한 이른바 '레드팀' 테스트 결과 등에 대해 보고를 요구하는 내용도 담겼다. 레드팀은 조직 내의 취약점을 발견해 경고하는 자정 기구를 말한다.

생성형 AI의 확산에 따라 장밋빛 전망이 나오는 가운데 다른 한편에서는 실업이나 선거 조작, 인간을 압도하는 AI의 출현에 따른 재앙적 결과 등을 우려하는 목소리도 나오고 있다.

상무부는 이렇게 수집한 정보에 대해 "해당 기술이 안전성·신뢰성 관련 엄격한 기준을 충족하고 사이버 공격에 견딜 수 있는지, 적대적 국가나 비국가 행위자의 오남용에 따른 위험을 제한할 수 있는지 등을 보장하는 데 중요한 역할을 할 것"이라고 밝혔다.

조 바이든 미 행정부는 중국 등이 미국의 AI 기술을 사용하지 못하도록 일련의 조처를 해왔다.

바이든 대통령은 지난해 10월 미국의 국가안보·경제·공중보건 등에 위험을 가하는 AI 시스템 개발사들에 제품 출시 전 안전성 테스트 결과를 미 정부와 공유하도록 하는 행정명령에 서명한 바 있다.

이번 조치는 미 의회의 AI 관련 입법이 정체된 가운데 나왔으며, 클라우드 업체에는 아마존웹서비스(AWS), 구글 클라우드 등이 있다고 로이터는 덧붙였다.

bscha@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2024/09/10 16:18 송고