인간 개입 없이 스스로 복제.확산하는 ‘자율형 AI웜’등장 보안 비상

인공지능(AI) 기업 앤스로픽은 자기 복제 능력을 가진 자율 AI 시스템이 컴퓨터 바이러스처럼 인간의 개입 없이 사용자 기기 전반에 퍼져나갈 수 있다고 경고했습니다. 

앤트로픽의 프론티어 레드 팀 소속 연구원인 윌리엄 저우와 다니엘 프리먼이 월요일 발표한 보고서 에 따르면, 악성 “AI 웜”이 안드로이드 TV, 스마트 가전제품, 카메라 및 기본적인 컴퓨팅 성능과 취약한 보안을 갖춘 기타 인터넷 연결 기기를 포함한 일상적인 기기를 자율적으로 공격 하기 시작할 수 있다고 합니다.

저자들은 소형 AI 모델이 상용 사물 인터넷(IoT) 기기에서 자체 복제할 수 있을 만큼 충분히 발전하려면 “수개월이 걸릴 수 있다”며, 이는 “중앙에서 차단할 수 있는 지점이 없기 때문에” 심각한 위협이 될 것이라고 말했다. 

윌리엄 저우, 다니엘 프리먼

저희 실험 결과에 따르면 소형 AI 모델은 스마트 오븐이나 저가형 안드로이드 TV 박스와 같은 상용 사물 인터넷(IoT) 기기에서 스스로 복제할 수 있을 만큼 발전하려면 몇 달이 걸릴 수 있습니다. 이러한 복제기는 중앙 집중식으로 차단할 수 있는 지점이 없기 때문에 제거하기가 어렵습니다. 다만 복제 속도가 매우 느릴 수 있습니다(두 배가 되는 데 며칠 소요). 일반적인 AI 악성코드와 달리, 이러한 복제기는 낯선 기기도 스스로 파악할 수 있습니다. 저희 평가에서 90억 원대 규모의 모델은 테스트한 9가지 하드웨어 유형 중 8가지에서 추론 기능을 정상적으로 작동시켰습니다.

매개변수 개수가 300억 개 이하인 모델은 이미 복제에 필요한 개별 단계들을 상당 부분 수행할 수 있지만, 이러한 단계들을 종합적으로 구성할 때는 오류가 발생할 수 있습니다. 간소화된 평가 결과, GLM-5.2 이상의 모델은 완벽한 복제가 가능한 것으로 나타났습니다. 소규모 모델들이 현재의 개선 속도를 유지한다면, 올해 말까지는 이러한 수준에 도달할 것으로 예상됩니다. 그 이후에는 가중치 기반의 소규모 복제 모델도 가능해질 것입니다.

이번 경고는 인공지능 모델의 수학적 능력이 점점 향상됨에 따라 암호화폐 지갑에 사용되는 암호화 서명을 해독하여 비트코인 ​​공급량의 약 3분의 1을 위협할 수 있다는 우려가 다시 제기된 데 따른 것입니다. 
전 세계 비트코인 ​​공급량의 거의 3분의 1에 해당하는 626만 BTC가 현재 AI 모델이나 양자 컴퓨터에 의해 해킹될 수 있는 취약한 주소에 보관되어 있습니다. 하지만 그중 433만 BTC는 주소 재사용으로 인해 노출된 것이며, 해당 BTC를 새로운 지갑으로 옮기면 노출 문제가 해결될 것이라고 글래스노드 공동 창립자 라파엘 슐츠-크라프트는 목요일 X 포럼 게시물에서 밝혔습니다 . 

하루 전, 이더리움 연구원 저스틴 드레이크는 인공지능의 급속한 발전으로 암호화폐 지갑을 보호하는 타원 곡선 디지털 서명 알고리즘(ECDSA)이 예상보다 빨리 무력화될 수 있다고 경고하며 사용자들에게 새로운 지갑으로 이전할 것을 촉구했습니다.
드래곤플라이의 매니징 파트너인 하세브 쿠레시는 이 경고를 “암호화폐 업계의 비관론” 이라고 일축하며 , 토큰을 새로운 주소로 이전하는 것은 위협에 대한 진정한 해결책이 아니라고 말했습니다.

드래곤플라이의 쿠레시는 AI 모델이 암호화 서명을 해독하는 경우 자산 이전은 진정한 해결책이 아니라고 주장하며 블록체인이 선제적인 조치를 취해야 한다고 촉구했습니다.

드래곤플라이의 매니징 파트너인 하세브 쿠레시는 이더리움 연구원 저스틴 드레이크의 “벙커 모드” 경고를 “암호화폐의 비관론”이라고 일축하며, 토큰을 새로운 주소로 이전하는 것은 인공지능이 암호화 서명을 해독하려는 위협에 대한 진정한 해결책이 아니라고 말했다.

쿠레시는 목요일 X 게시물에서 “벙커 모드”는 투자자들의 코인이 새로운 주소에서 이동되지 않는 한에서만 코인을 보호할 것이라고 썼으며 , “다른 모든 코인이 해킹당하고 대량 매도된다면 이 코인들은 가치가 없어질 것”이라고 덧붙였습니다. 

대신 쿠레시는 블록체인 네트워크가 AI가 암호화 서명을 해독하는 사태로부터 사용자를 보호하기 위한 선제적 조치를 채택할 것을 촉구했습니다. 그는 사용자가 자신의 주소에 매핑할 수 있는 해시 기반 백업 서명 계획인 “암호화 복구 모드”를 제안했는데, 이를 통해 검증자는 암호화 서명이 해독될 경우 복구를 강제할 수 있습니다.

글래스노드에 따르면, 인공지능 모델이나 양자 컴퓨터가 암호화 서명을 해독할 가능성이 비트코인 ​​공급량의 31% 이상을 위협할 수 있으며, 현재 626만 개의 비트코인(BTC)이 취약한 주소에 보관되어 있습니다. 

626만 BTC 중 약 433만 BTC는 주소 재사용으로 인해 노출되어 있으며, 이 코인들을 새로운 주소로 옮기면 노출 문제가 해결됩니다. 또 다른 194만 BTC는 주소 형식 문제로 노출되어 있다고 글래스노드 공동 창립자 라파엘 슐츠-크라프트는 목요일 X 포럼 게시물 에서 밝혔습니다 .

노출된 전체 공급량 중 약 180만 BTC가 암호화폐 거래소에 보관되어 있으며, 이는 전체 거래소 잔액의 57%에 해당합니다.