OpenAI, 유럽 전역의 ChatGPT-Codex 출력물에 워터마크 도입

회사 측은 자사 모델이 텍스트를 생성했는지 여부를 확인할 수 있는 탐지 도구도 개발했다고 밝혔습니다.

OpenAI는 유럽 사용자들을 위해 ChatGPT와 코딩 도우미 Codex가 생성하는 텍스트에 보이지 않는 워터마크를 삽입하기 시작했습니다. 워터마크는 생성된 출력물에 직접 삽입되지만 읽는 사람에게는 보이지 않습니다. Cryptopolitan과 BeInCrypto의 보도에 따르면, OpenAI는 텍스트가 자사 모델에서 생성된 것인지 여부를 감지하는 도구도 개발했습니다.

워터마킹 시스템은 생성된 텍스트의 기본 구조를 일반적인 읽기 과정에서는 감지할 수 없는 방식으로 변경하는 방식으로 작동합니다. 이 접근 방식은 일부 플랫폼에서 AI 콘텐츠에 부착하는 가시적인 레이블이나 면책 조항과는 다릅니다. 워터마킹은 텍스트 자체 내에 영구적으로 유지되도록 설계되어 있어 OpenAI의 탐지 도구를 사용하여 나중에 확인할 수 있습니다.

이번 조치는 대규모 언어 모델이 생성한 콘텐츠와 사람이 작성한 텍스트를 구분하는 방법에 대한 수년간의 논쟁 끝에 나온 것입니다. AI 도구의 기능이 향상되고 사용이 확대됨에 따라 허위 정보, 학업 부정행위, 그리고 문서 콘텐츠에 대한 신뢰도 하락에 대한 우려가 커져 왔습니다. 워터마킹은 이러한 문제에 대한 부분적인 해결책으로 여러 차례 제안되었지만, 업계 전반에 걸쳐 보편적으로 채택된 적은 없었습니다.

유럽은 인공지능(AI) 투명성 확보를 위한 규제 노력에 앞장서 왔습니다. 유럽연합의 AI법에는 인공지능 시스템이 콘텐츠를 생성하거나 조작할 때 더 명확한 정보 공개를 요구하는 조항이 포함되어 있습니다. 유럽연합 내에서 사업을 운영하는 기업들은 자사 도구를 식별하고 감사할 수 있는 방법을 입증해야 한다는 압력을 점점 더 많이 받고 있습니다. 오픈AI가 유럽에서 워터마킹 기술을 최초로 도입하기로 한 결정은 이러한 광범위한 규제 환경과 맥락을 같이하지만, 도입 배경에 대한 정확한 규제 준수 근거는 아직 공개되지 않았습니다.

Codex를 사용하는 개발자들에게 있어 보이지 않는 워터마크는 추가적인 의문을 제기합니다. AI 어시스턴트가 생성한 코드는 종종 프로젝트와 저장소 간에 복사, 수정 또는 재배포됩니다. 이론적으로 코드 출력에 삽입된 워터마크는 AI 어시스턴트가 기여한 코드를 사후에 식별하는 데 도움이 될 수 있습니다. 그러나 코드가 편집, 리팩토링되거나 다른 도구를 거친 후 이러한 마커가 얼마나 오랫동안 유지되는지는 불분명합니다.

OpenAI는 워터마크 기법의 전체 기술 사양이나 탐지 정확도에 대한 자세한 내용을 공개적으로 밝히지 않았습니다. Cryptopolitan과 BeInCrypto는 해당 기능의 도입과 탐지 기능의 존재를 보도했지만, 어느 매체도 상세한 기술 문서를 제공하지는 않았습니다. 공개된 정보가 제한적이기 때문에 텍스트 편집, 번역 또는 서식 변경 시 워터마크가 어떻게 작동하는지에 대한 의문이 남아 있습니다.

이번 출시는 AI 생성 콘텐츠의 출처 추적 도구 구축이라는 업계 전반의 추세와도 맥락을 같이합니다. 여러 기술 기업들이 암호화 서명 및 메타데이터 태깅과 같은 유사한 접근 방식을 실험해 왔으며, 이를 통해 기계 생성 콘텐츠와 인간의 글을 구분하고자 했습니다. 오픈AI의 유럽 출시 사례는 이러한 노력에 또 하나의 중요한 이정표를 더하는 것이며, 유럽 이외 지역에서의 광범위한 도입은 아직 확정되지 않았습니다.

시장 영향

암호화폐 및 광범위한 기술 시장에 있어 이번 조치는 유럽에서 인공지능(AI) 책임성 강화에 대한 규제 움직임이 지속되고 있음을 시사하며, 이는 디지털 자산 감독과 점점 더 밀접하게 연관되어 온 주제입니다. AI 기반 거래 도구, 콘텐츠 플랫폼 또는 블록체인 분석 제품을 개발하는 기업들은 규제 당국이 AI법과 유사한 프레임워크를 확대함에 따라 유사한 투명성 요구에 직면할 수 있습니다. AI 관련 주식 및 AI 인프라 프로젝트와 연계된 토큰을 주시하는 투자자들은 워터마킹 도입을 향후 제품 설계에 있어 규제 비용이 어떤 영향을 미칠 수 있는지에 대한 초기 지표로 볼 수 있습니다. 이번 조치와 관련하여 직접적인 가격 또는 거래 영향은 보고되지 않았습니다.

오픈AI가 유럽에서 보이지 않는 워터마킹 기술을 도입한 것은 검증 가능한 AI 콘텐츠를 향한 구체적인 발걸음이지만, 기술적 세부 사항과 더 광범위한 도입 계획에 대한 공개 보도는 아직 부족한 실정입니다.

OpenAI는 유럽 연합 전역의 챗봇 텍스트와 코덱스 코딩 출력물에 보이지 않는 ChatGPT 워터마크를 추가하고 있습니다. 그러나 자체 테스트 결과, 단어의 4분의 1을 동의어로 바꾸면 탐지율이 17%로 떨어지는 것으로 나타났습니다.

이번 조치는 AI가 생성한 텍스트에 기계가 읽을 수 있는 라벨을 붙이도록 요구하는 EU AI 법(EU AI Act)에 따른 것입니다. 하지만 오픈AI는 해당 기술이 아직 미성숙하다고 인정하며, 따라서 자사의 탐지기는 당분간 공개되지 않을 것이라고 밝혔습니다.

자주 묻는 질문

정확히 어떤 부분에 워터마크가 찍히는 건가요?

ChatGPT와 Codex가 유럽 사용자를 위해 생성하는 텍스트에 일반적인 읽기 과정에서는 보이지 않는 투명 마커가 삽입되어 있다는 보고가 있습니다.

워터마크는 어떻게 감지할 수 있나요?

보도에 따르면 OpenAI는 내장된 마커를 사용하여 텍스트가 자사 모델에 의해 생성되었는지 여부를 식별하도록 설계된 탐지 도구를 개발했습니다.

이번 출시는 유럽에만 한정된 건가요?

보도에 따르면 해당 기능은 유럽 사용자들을 대상으로 도입되었으며, 현재로서는 전 세계적으로 확대 배포될 구체적인 일정은 확정되지 않았습니다.

EU가 8월부터 AI법 투명성 시행을 시작한 데 따른 것입니다 . 암호화폐 업계에 있어 이번 조치의 중요성은 매우 큰데, TRM Labs에 따르면 범죄에 사용되는 AI의 수가 전년 대비 40% 증가했기 때문입니다.

따라서 규제 당국이 요구하는 것과 탐지기가 입증할 수 있는 것 사이의 격차가 모든 주요 AI 연구소가 규정 준수를 처리하는 방식을 결정할 가능성이 높습니다.

이것이 EU 인공지능 규정과 관련이 있습니까?

유럽 ​​연합의 AI법에는 AI가 생성한 콘텐츠에 대한 투명성 요건이 포함되어 있어 관련 규제 맥락을 제공하지만, OpenAI는 직접적인 준수 연관성에 대해서는 자세히 설명하지 않았습니다.