오픈AI, AI 콘텐츠 감지 기술 공개 여부 논란... 사용자와 학교 사이 갈등

[뉴스문 = 서유원 기자]

오픈AI가 개발한 AI 콘텐츠 감지 기술의 공개 여부가 논란의 중심에 서 있다.

월스트리트저널(WSJ)에 따르면, 이 기술은 챗GPT가 생성한 텍스트에 워터마크를 삽입해, 텍스트가 AI에 의해 작성되었는지 여부를 판별할 수 있다.

오픈AI는 이 기술을 지난 1년간 준비해왔으며, 현재 "버튼만 누르면" 사용할 수 있는 상태라고 전해졌다.

이 기술의 정확도는 99.9%에 이르며, 특히 과제나 논문 작성에서 챗GPT 사용 여부를 감지하는 데 매우 효과적이라고 평가받고 있다. 그러나 오픈AI 내부에서는 이 기술의 공개 여부를 두고 2년간 논쟁이 지속되고 있다.

주요 쟁점은 기술의 투명성 유지와 사용자 유치 사이에서 고민하는 오픈AI는, 기술이 영어를 모국어로 사용하지 않는 사용자들에게 불리하게 작용할 수 있다는 우려를 표명하고 있다.

이 기술은 챗GPT가 생성한 텍스트에 워터마크를 삽입하여, 사용자가 생성한 콘텐츠가 AI에 의해 작성되었는지 판별할 수 있게 한다.

워터마크가 영어 텍스트에 최적화되어 있어, 번역된 텍스트에서도 AI의 사용 여부를 정확히 판단하기 어려울 수 있기 때문이다.

일선 교육 기관들은 학생들의 AI 부정행위를 막기 위해 이 기술의 공개를 요구하고 있다.

비영리 단체 민주주의 기술 센터의 조사에 따르면, AI를 이용해 과제를 작성했다고 생각하는 교사의 비율이 지난해보다 17% 증가한 59%에 이르고 있다.

하지만 오픈AI는 기술의 악용 가능성과 일부 사용자들의 반발을 고려해 아직 공개 여부를 확정하지 못하고 있다.

조사에 따르면, 챗GPT를 자주 사용하는 사용자 중 약 3분의 1은 이 기술이 도입될 경우 사용을 중단할 의향이 있다고 밝혔다.

오픈AI, AI 콘텐츠 감지 기술 공개 여부 논란... 사용자와 학교 사이 갈등

[뉴스문 = 서유원 기자]오픈AI가 개발한 AI 콘텐츠 감지 기술의 공개 여부가 논란의 중심에 서 있다.월스트리트저널(WSJ)에 따르면, 이 기술은 챗GPT가 생성한 텍스트에 워터마크를 삽입해, 텍스트

뉴스문(NEWSMOON)