오픈AI, 챗GPT로 베낀 과제 잡아내는 기술 개발하고도 ‘쉬쉬’

챗GPT 개발사 오픈AI 로고. ⓒ AP/연합뉴스

오픈AI가 자사의 인공지능(AI) 챗GPT로 작성된 과제나 에세이, 논문 등을 판별해내는 기술을 개발했지만 이를 공개하지 않고 있는 것으로 알려졌다. 이 기술을 공개하면 챗GPT 이용률이 급감할 수 있다는 우려 때문이라는 지적이 나온다.

월스트리트저널(WSJ)에 따르면 한 내부 관계자는 4일(현지시간) “오픈AI는 약 1년간 이 기술의 출시 준비를 해왔다. 버튼만 누르면 된다”며 사실상 출시를 코앞에 둔 상태라고 밝혔다. 이 기술은 이용자에게는 보이지 않지만 챗GPT가 생성한 콘텐츠에 ‘워터마크’가 표시돼 이를 식별하는 방식이다.

챗GPT는 문장에서 한 단어의 다음 어떤 단어가 나올지를 예측하는 식으로 답글을 쓴다. 이때 각각의 단어를 '토큰'이라고 부른다. 오픈AI가 개발한 탐지기술은 이런 토큰이 선택되는 방식을 패턴화해 일종의 워터마크를 남겨 식별하는 방식이다.

이 워터마크는 눈에 보이지 않지만, 탐지 도구가 문서에 워터마크가 표기됐을 가능성을 점수화한다. 오픈AI가 개발한 기술의 정확성은 99.9% 수준인 것으로 파악됐다.

'챗GPT를 활용한 글쓰기'는 교육 현장에서 논란이 뜨겁다. 생성형 AI는 단 한 번의 프롬프트로 몇 초 만에 에세이나 논문을 무료로 작성할 수 있는 까닭이다. 교사와 교수들은 이 같은 오용을 막기 위한 기술을 요구하고 있다. 비영리단체인 민주주의기술센터의 조사에 따르면 학생들이 AI를 이용해 과제를 했다고 생각하는 미국 중·고등학교 교사는 59%에 달한다.

그런데 오픈AI가 완성도가 높은 기술을 개발하고도 공개를 하지 않는 것은 오픈AI 이용자들의 반발을 우려해 공개 여부를 고심하고 있다고 WSJ는 전했다. 오픈AI가 최근 챗GPT를 자주 사용하는 이용자들을 대상으로 한 설문조사에서 3분의 1 정도가 "부정행위 감지기술이 도입되면 챗GPT를 사용하지 않겠다"고 답했기 때문이다.

여기에다 탐지기술을 공개하면 챗GPT가 텍스트를 생성하는 알고리즘이 해독될 수 있다는 우려도 있다. 오픈AI의 영업기밀이 탄로날 수 있단 얘기다.