이달초 美 SEC에 내부고발 오픈 AI “이미 중요변화 시행”반박 최근 안전팀 해체 등에 우려 목소리
최근 안전팀 해체 등에 우려 목소리 생성형 인공지능 챗GPT 개발사 오픈AI가 직원들에게 AI기술의 위험을 규제 당국에 알리지 못하도록 불법적으로 막았다는 내부 고발이 제기됐다.
13일 미국 워싱턴포스트 등에 따르면 오픈AI 일부 직원들은 이달 초 미연방거래위원회에 서한을 보내 회사의 비밀 유지계약에 대한 조사를 촉구했다. 이들 내부고발자 들은 오픈AI 기술이 인류에게 미칠 수 있는 위험을 규제 당국에 신고하지 못하도록 오픈AI가 불법적으로 금지했다고 주장했다. 이들은 “ 직원들과 지나치게 제한적인 고용, 퇴직 및 비밀 유지 계약을 체결했다”며 “이를 근거로 회사 측이 연방 규제당국에 회사에 대한 우려를 제기한 직원들에게 책임을 물을 수 있게 돼 있다”고 밝혔다. 구체적으로, 오픈 AI가 직원들에게 내부고발자 보상에 대한 연방 권리를 포기하도록 하는 협약에 서명하게 했고, 직원들이 연방 당국에 정보를 공개하려 할 경우 회사의 사전 동의를 받도록 했다는 것이다. 이들은 “이처럼 지나치게 광범위한 협정은 내부 고발자 보호를 위한 연방법과 규정을 위반한 것” 이라고 지적했다.해당 서한은 비영리 단체로 시작한 오픈AI가 자사의 AI 기술을 만드는 데 있어 안전보다 이익을 우선시하고 있다는 우려가 제기되는 가운데 나왔다. 내부고발자들 중 한 명은 “AI 기업이 감시와 반대로부터 스스로를 보호한다면 안전하고 공익에 부합하는 기술을 개발할 수 없다”고 말했다.
논란이 일자 오픈 AI 측은 반박에 나섰다. 한나 왕 오픈AI 대변인은 “회사의 내부 고발 정책은 임직원들이 보호받는 정보를 알릴 권리를 보장한다”며 “직원들은 행정명령에 언급된 종류의 위험을 가장 먼저 탐지하고 경고할 수 있는 위치에 있고 회사는 이미 퇴직 시 회사를 비방하지 않는다는 조건을 없애는 중요한 변화를 시행했다”고 밝혔다. 2015년 비영리 회사로 출발한 오픈AI는 2019년 영리법인 자회사를 설립하는등 일반 영리회사로 전환하는 방안을 검토 중인 것으로 알려졌다. 이런 가운데 오픈 AI가 최근 AI의 장기적 위험에 대해 연구하는 내부 안전팀을 사실상 해체한 것으로 전해지면서 우려가 나오고 있다.
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
핫인싸와 ‘투샷’ 찍은 최태원 회장…“지금 뛰어들지 않으면 뒤처진다”SK, 오픈AI·MS와 AI 공조 최태원, 올트먼·나델라와 회동 경영전략회의서도 AI 논의 예정
Read more »
“22대 국회 AI법안들, ‘금지·고위험 AI’ 규제 전무...보완 필요”AI기본법 제정 방향 토론회 “AI 위험 규제 필요”...산업계 “규제보다 진흥”
Read more »
머스크 “개인정보 다 빼앗길것”…오픈AI 탑재 애플 아이폰 회사 내 사용 금지애플과 오픈AI 간 파트너십에 반감 표명 “애플, 똑똑하지 못해 자체 AI 못 만드는데 오픈AI로부터 사생활 보호하는 건 불가능”
Read more »
‘올트먼 해임’ 앞장섰던 수츠케버, AI 스타트업 설립…목표는 ‘안전한 초지능’오픈AI의 샘 올트먼 최고경영자(CEO) 축출 사태를 주도했던 오픈AI 공동 창립자 일리야 수츠케버가 회사를 떠난지 한 달 만에 ‘안전한 초지능’을 목표로 하는 인공지능(AI...
Read more »
오픈AI 수장 만난 최태원 'AI 뛰어들지 않으면 도태'올트먼·나델라와 연쇄 회동맞춤형 AI 서비스 협력 논의
Read more »
'AI 추론력 끌어올리려는 오픈AI…'스트로베리' 프로젝트 진행'(서울=연합뉴스) 권수현 기자=생성 AI(인공지능) 챗GPT 개발사인 오픈AI가 AI의 추론능력을 향상시키기 위한 새로운 기술을 개발하고 있...
Read more »