스타트업 스탯시그 인수…CEO는 CTO로 임명 “AI 품질 가장 중요…안전·유용한 AI 만들 것”
“AI 품질 가장 중요…안전·유용한 AI 만들 것” 글로벌 인공지능 시장을 선도하는 오픈AI가 거액을 투자해 스타트업을 인수했다. 최근 챗GPT 이용자가 장시간 대화를 나누다가 망상에 빠지거나 스스로 목숨을 끊는 사례가 이어져 심각한 사회적 문제로 떠오른 것을 인식한 행보라는 분석이 나온다.지난 2021년 설립된 스탯시그는 개발자들이 소프트웨어 기능을 개선했을 때 효과와 영향을 검증하는 플랫폼을 보유하고 있다.
대표적으로 일부 이용자에게 새 기능을 적용해 전 기능 이용자와 비교하는 테스트와 업데이트 후 이용자 반응에 맞춰 기능을 수정하는 서비스를 대행하고 있다. 비자이 라지 스탯시그 최고경영자는 오픈AI의 애플리케이션 최고기술책임자로 임명된다. 애플리케이션 엔지니어링을 담당하게 될 것으로 관측된다. 다만 아직 규제 당국의 인수 검토·허락 과정이 남아있다. 오픈AI는 올해 들어 대규모 인수합병을 추진하는 모습을 보이고 있다. 지난 7월 애플의 디자인 책임자를 지낸 조니 아이브의 AI 하드웨어 스타트업 io를 65억달러에 사들였고, AI 코딩 스타트업 윈드서프를 30억달러에 인수하려고 시도 했으나 무산됐다. 오픈AI 관계자는 “직관적이고 안전하며 유용한 생성형 AI를 만들기 위해서는 강력한 엔지니어링 시스템, 빠른 반복 작업, 그리고 품질과 안정성에 대한 장기적인 집중이 필요하다”며 “이용자가 정신적·정서적으로 어렵다는 신호를 더 잘 인식하고 대응할 수 있는 방향으로 AI 모델을 개선하겠다”라고 설명했다. AI 정신병 논란에…‘위험 대화’ 보호 장치 도입 최근 글로벌 AI업계의 화두는 단연 AI 정신병이다. AI 정신병이란 AI와 상호작용을 하다가 현실 감각을 잃거나 헛된 상상을 일삼는 현상을 의미한다. 정식 병명은 아니고 신조어다. 일례로 지난달 미국의 청소년 아담 레인이 챗GPT-4o에게 극단 선택 충동을 느꼈다고 털어놓으며 자살 계획을 논의한 뒤 이를 실행에 옮기는 사건이 발생했다. 레인의 부모는 아들을 죽음에 이르게 한 책임이 챗GPT에게 있다며 오픈AI를 상대로 소송을 제기했다. 오픈AI는 장시간 반복 소통으로 챗GPT의 안전 장치가 풀리게 됐다며 시스템 결함을 인정했다. 이에 오픈AI는 다양한 분야의 전문가들과 협력해 챗GPT의 이용자 보호 기능을 강화하는 작업을 거친 뒤 연내에 안전한 사용 환경에 방점을 찍은 AI 모델을 선보인다는 방침이다. 우선 민감하고 위험한 대화를 차단하기 위해 스트레스 신호가 감지되면 일반 모델에서 추론 모델로 자동 전환되도록 조치한다. 추론 모델은 일반 모델보다 맥락을 자세히 파악하고 답변에 충분한 시간을 들이기 때문에 이상 징후에 적절히 대응할 수 있다. 특히 청소년 보호에 주력한다. 부모와 자녀의 계정을 연결할 수 있다. 이를 통해 부모는 자녀의 대화 내용을 확인하고 대화 기록을 삭제하는 권한 등을 가지게 된다. 자녀가 정서적으로 불안해 보이면 부모에게 경고 알림을 띄운다. 연령대 맞춤형 행동 규칙도 적용한다. 메타 역시 청소년·여성 온라인 안전을 주제로 라운드테이블을 열었다. 현재 메타는 청소년 계정 도입 이후 이용자 피드백을 서비스에 반영 중이다. 다이렉트메시지에 위치 알림 기능을 추가해 상대방의 국가를 표기하고 있다. 성착취와 사기 피해를 방지하려는 목적이다. 사적 사진 유포를 방지하기 위해 나체 사진이 감지되면 경고 메시지를 보내고 자동으로 흐림 처리하는 기능을 도입했다. 인물 사진을 합성·왜곡하는 AI 기술 광고도 탐지하고 있다. 한편 AI가 생활의 일부가 되면서 AI기업에게 윤리를 지켜 달라는 요구가 확산할 전망이다. 와이즈앱·리테일에 따르면 지난달 기준 우리나라 챗GPT 앱의 월간활성이용자가 2031만명을 돌파했다. 전년 동월 대비 5배 늘었다. 심지어 전 국민이 사용하는 메신저인 카카오톡 앱의 절반에 육박하는 수치다. 지브 벤지온 예일대 박사는 “AI는 감정을 인식하지 못하지만 대화 패턴을 학습해 마치 감정을 가진 것처럼 반응할 수 있다”며 “AI가 치료사 역할을 하거나 인간관계를 대체할 수 있는 존재가 아님을 사용자에게 지속적으로 상기시키는 방향으로 설계돼야 한다”고 주장했다.
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
부처별 예산계획 직접 점검한 이 대통령 “잠재성장률 끌어올려야”이 대통령, 국무회의 ‘성장전략’ 토론 주재...AI 등 첨단산업 집중 점검 관세 대응 “수출국 다변화” 강조...임금체불, 바가지요금 등 해결 방안 주문
Read more »
![[AI기자의 News Briefing] 9월3일 오늘의 주요 뉴스를 전해 드립니다. | 뉴스레터](https://i.headtopics.com/images/2025/9/2/joongangilbo/9165734459251081131016-9165734459251081131016-9873B4B0A857E0A6E105015D752B2C3C.webp?w=640)
[AI기자의 News Briefing] 9월3일 오늘의 주요 뉴스를 전해 드립니다. | 뉴스레터중앙일보 뉴스레터 ‘AI기자의 News Briefing’은 Google Cloud AI를 활용하여 신문 1~5면의 주요기사를 이해하기 쉬운 200자 ‘생성형 AI’ 요약 서비스로 제공합니다.
Read more »
'유명 재벌도 이용' 맥스AI 개발한 조세원 위버스브레인 대표배우 이서진이 광고모델로 활동한 '맥스AI'는 인공지능(AI) 교사가 1 대 1로 영어를 가르치는 서비스로 유명하다. 스마트폰 화면에 실제 외
Read more »
반도체·바이오 진화시킨 AI, 기존 산업 융합으로 판 바꿔 … 한국 퍼스트무버 기회는 지금AI 도입 넘어 전환의 시대한국 기업 앞에 놓인 성장의 기회
Read more »
“6만원선 깨졌다”…‘네카오’ 주가 향방 OO에 달렸다카카오 오너리스크에 6만원 붕괴 “AI 사업 전략이 향후 주가 결정”
Read more »
거품이 꺼져도, 인재와 기술은 남는다필자가 유학생활을 시작한 1990년대 실리콘밸리는 오늘날 인공지능(AI) 열풍과도 같은 혁신의 열기로 들끓고 있었다. 인터넷과 웹 브라우저가
Read more »