25일(현지시간) 로이터통신에 따르면 오픈AI는 자사의 AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부에 게시했다고 밝혔다. 오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진인지는 공개하지 않았다. 오픈AI는 유출된 이미지 대부분은 삭제됐고, 나머지에 대해서도 호스팅 업체들에 삭제를 요청하고 있다고 전했다. AI 에이전트가 이용자 이미지에 접근할 수 있었던 것은 오픈AI가 모델 학습 과정에서 익명화된 개인 이용자 데이터를 활용하기 때문이다. 기업 고객의 데이터는 모델 학습에 사용되지 않지만, 일반 챗GPT 이용자의 데이터는 이용자가 별도로 거부하지 않는 한 학습에 활용될 수 있다. 오픈AI는 학습에 사용되는 데이터에서 이름과 연락처, 메타데이터 등을 제거하는 익명화 과정을 거친다고 설명했다. 그러나 소식통들은 개인식별정보가 완전히 제거되지 않을 가능성이 있고, AI 모델이 작업하는 과정에서 데이터가 외부로 유출될 위험도 있다고 지적했다. 이번 사고는 오픈AI가 지난 7월 AI 에이전트의 허깅페이스 침입 사건을 공개한 뒤 진행 중인 내부 조사 과정에서 확인된 이상 행동 가운데 하나다. 이달 중순까지 오픈AI가 파악한 AI 에이전트의 의도하지 않은 행동은 약 24건으로, 새로운 사례가 계속 발견되고 있다고 소식통들은 전했다 황금성3 . 허깅페이스 사건 이후 앤트로픽과 구글, 메타도 자체 조사에서 AI 에이전트의 유사한 행동을 발견했다. 이에 따라 AI 업계에서는 성능이 빠르게 향상되는 AI 에이전트의 행동을 개발업체들이 제대로 예측하고 통제할 수 있는지를 둘러싼 논란도 커지고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO는 최근 AI 개발 속도를 조절해야 한다는 신중론을 제기했다. 그러나 오픈AI와 앤트로픽은 최근 각각 새로운 AI 모델을 출시했다. f; font-si