바이든 대통령, AI 행정명령 발표 전시 국방물자생산법으로 규제 AI모델 안전테스트·정보 수집해 안보, 경제, 보건 위험 등 검증 “AI가 핵·화학무기 위협 방지” AI 워터마크 지침도 제정키로
AI 워터마크 지침도 제정키로 인공지능 시스템 개발자들은 앞으로 AI제품을 대중에게 공개하기 전에 안전 테스트 결과를 미국 연방 정부에 제출해야 한다. 또 인공지능 모델이 국가 안보·경제·보건 분야 위험을 내포할 경우에도 미국 정부에 사전 통보가 요구된다.백악관에 따르면 바이든 대통령의 행정명령은 강력한 AI시스템 개발자들이 안전 테스트 결과와 다른 중요한 정보들을 제품 출시 전에 미국 정부와 사전에 공유하도록 했다. 특히 국가안보, 경제안보, 공공보건과 안전 등에 심각한 위험을 초래하는 AI모델을 개발하는 회사는 AI 학습훈련할 때 미국 연방정부에 통보해야 하고 검증을 맡는 ‘레드팀’의 안전테스트 결과도 정부와 공유해야 한다. 이러한 강력한 조치는 AI시스템 안전성과 신뢰성을 높이기 위한 것으로 1950년 한국전쟁 당시에 전략물자보급을 위해 제정됐던 미국의 국방물자생산법을 근거로 했다.
미국 국토안보부는 AI 안전을 검증하는 레드팀 테스트 표준도 설정한다는 방침이다. 이를 통해 AI시스템이 핵무기, 생화학 무기, 방사선, 사이버보안 등 핵심 인프라에 미치는 위협을 철저히 다루기로 했다. 미국 상무부는 AI가 만든 콘텐츠에 워터마크를 표시하는 지침을 개발해서 실물과 명확히 구분하도록 한다. 이는 AI로 인한 사기범죄를 차단하려는 목적이다. 앞서 오픈AI, 마이크로소프트, 구글 등 15개 기업은 백악관과 AI생성 콘텐츠에 대한 워터마크 부착 등 AI 안전표준을 자발적으로 도입하기로 약속한 바 있다.백악관은 “바이든 대통령의 행정명령은 AI안전과 보안에 관한 새로운 기준을 정립하고, 미국인 사생활을 보호하면서 형평성을 증진하고, 혁신과 경쟁을 촉진하면서 미국의 리더십을 발전시키는 내용을 담고 있다”고 설명했다.
한편 카멀라 해리스 미국 부통령은 다음 달 1~2일 영국에서 열리는 글로벌 AI 안전 정상회의에 참석해 안전하고 신뢰할 수 있는 AI를 촉진할 수 있는 국제행동강령에 동참할 예정이다.
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
“아! 옛날이여”…김치냉장고名家 위니아도 회생절차 개시위니아전자·위니아전자매뉴팩처링 이어 3번째 내년 1월까지 회생계획안 제출해야
Read more »
12월부터 QR코드로 모든 은행 ATM 입출금한은 ‘디지털 금융의 발전 방향 및 향후 과제’ 세미나 “생성형 AI 기술 미래 금융 가속화...관련 규제 필요”
Read more »
바이든 “내 딥페이크에 나도 놀랐다”…미국 ‘AI 족쇄’ 채우기AP통신 등에 따르면 바이든 대통령은 30일(현지시간) 이런 내용이 담긴 ‘안정적이고 안전하며 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다. 미국 정부는 사실상 모든 AI 서비스에 대해 기술 개발부터 서비스에 이르는 모든 과정에 개입해 관리·감독하기로 했다. 특히 미국의 안보·경제·공중보건 등에 위협을 가할 수 있는 AI 모델을 개발하는 회사는 AI 훈련 단계부터 관련 내용을 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀(공격조)’ 테스트 결과를 보고해야 한다.
Read more »
유럽, 벌금 포함 포괄적 AI 규제 논의…‘자율성 중시’ 미국과 상반세계 각국 인공지능 규제 어떻게
Read more »
“돈 안 갚고 도망가면 어떡하나”…국내 은행서 돈 빌린 중국인 연체율↑“중국인 국내 부동산 쇼핑 여전 4명중 1명, 은행 대출로 투자 “규제·세금 회피후 투기했다면 엄단해야”
Read more »
폭격으로 생긴 구덩이에 시신 가득…“종말 온 것 같은 느낌”난민 11만명 이상 밀집 지역“사전 경고 없이 미사일 쏴” 인근 병원 부상자 밀려들어봉사자가 붕...
Read more »