ทันเอไอ

연구 결과, 대기업의 AI 사용자 행동 보고서가 진실의 절반을 숨기고 있다

개발사가 발표한 AI 사용 행태 보고서가 실제와 다를 수 있다는 지적이다. 독립 연구팀이 조사한 결과, 개인적인 내용의 데이터 거의 절반이 필터링되어 누락된 것으로 나타났다.

인공지능 기술이 핵심적인 역할을 하는 세상에서, 사람들이 생성형 AI(Generative AI)를 어떻게 사용하는지에 대한 데이터의 대부분은 OpenAI나 Anthropic 같은 개발사 자체 보고서에서 나오며, 이들은 주로 업무와 생산성(Work & Productivity) 측면의 데이터를 강조한다.

그러나 스탠퍼드 대학교 신뢰할 수 있는 AI 연구실(STAIR Lab)의 컴퓨터 과학 박사 과정생 안카 루엘(Anka Reuel)은 이러한 데이터에 사실 여부를 확인할 수 있는 독립적인 검증 소스가 여전히 부족하다고 지적했다.

최근 MIT 미디어랩, 스탠퍼드 대학교, 그리고 독립 연구 네트워크인 데이터 출처 이니셔티브(DPI)의 연구진은 실제 세계에서의 AI 사용 데이터를 투명하게 수집하고 분석하기 위해 'AI 관측소(AI Observatory)' 프로젝트를 공동 출범했다. 이 프로젝트는 동의를 얻은 2만 4,521개의 대화(총 8만 5,633개의 응답 메시지)와 52개 언어 모델을 대상으로 분석을 진행했다.

분석 결과, AI 기업들이 사용하는 데이터 필터링 방법론(예: 앤스로픽 경제 지수)을 적용해 검증한 결과, 실제 대화의 약 48%가 누락된 것으로 나타났다. 필터링된 콘텐츠는 주로 건강, 인간관계, 민감한 이슈 등 개인적인 내용이었으며, 이는 공식 보고서가 대중의 실제 AI 사용 모습을 온전히 보여주지 못하고 있음을 시사한다.