Anthropic 프런티어 레드팀이 10월 12일 공개한 연구의 제목은 자극적입니다. 데이터센터 없이 스스로 복제하는 AI가 가능해질 수 있다는 얘기니까요. 그런데 내용을 끝까지 읽으면 제목과 다른 문장이 남습니다.

아직 완전한 로그 replicator는 없다.

이 글은 그 간극을 정확히 짚어보려는 정리입니다. 공포가 아니라, 어디까지가 확인된 사실이고 어디부터가 전망인지가 핵심입니다.

실험 1: TV 박스 15대로 26B 모델 돌리기

연구진이 중고가 아닌 새 저가형 Android TV 박스를 15대 샀습니다. 대당 약 55달러, RAM 4GB입니다. 여기에 Gemma4-26B-A4B를 나눠 올렸습니다. 파이프라인 병렬, 즉 모델의 층을 각 박스가 두 개씩 나눠 맡는 방식입니다.

장비: 저가형 TV 박스 15대 (4GB RAM, 대당 ~$55)
모델: Gemma4-26B-A4B (26B total, 4B active)
방식: 파이프라인 병렬 — 각 박스가 일부 층 담당
속도: 0.39토큰/초 (발표 상단 데모 기준)
      32k 컨텍스트 비최적화 기준 약 0.3토큰/초

0.39토큰/초가 얼마나 느린지 감이 안 온다면 이렇게 보세요. 챗봇이 한 문장을 내놓는 데 몇 분이 걸리는 속도입니다. 코딩 에이전트처럼 대화하며 쓰는 속도가 아닙니다. 그럼에도 의미가 있는 이유는 다른 데 있습니다. 값비싼 가속기 없이도 충분히 capable한 모델이 돌아간다는 것을 눈으로 보여줬기 때문입니다.

별도 평가에서는 Qwen3.5-9B가 Jetson Nano부터 Mac, Xeon 서버, TPU, MI300X, RTX 4090 PC까지 9종 하드웨어 중 8종에서 추론 구동에 성공했습니다. 낯선 기기에서도 추론 환경을 세우는 능력이 꽤 일반화돼 있다는 뜻입니다.

실험 2: 8개 노드에서 스스로 퍼져나가기

두 번째 실험은 격리된 클라우드 VPC에서 했습니다. Android 15 에뮬레이터(redroid) 8개를 두고, 인증 없는 ADB 포트로 옆 노드로 넘어가며 Llama 3.1 8B 추론 서버를 세우는 과제입니다.

목표 찾기 → 접근 → 추론 환경 구축 → 다음 노드로 전파
페이로드: Llama 3.1 8B로 통일 (공정한 비교용)
익스플로잇 난이도: 인증 없는 ADB (의도적으로 쉽게 설정)

결과는 선명하게 갈렸습니다.

GLM-5.2: 5번 중 4번은 8/8 노드 전파, 1번은 7/8 노드
그 외 오픈웨이트 모델들: 끝까지 못 감
30B 이하 모델: 개별 단계는 되는데 끝까지 엮으면 실수

여기서 오해하기 쉬운 점을 짚겠습니다. GLM-5.2가 스스로를 복제한 게 아닙니다. GLM-5.2는 별도 추론 서버에서 돌면서 작은 Llama 페이로드를 깔아준 겁니다. TV 박스에서 돌 만큼 작으면서도 복제를 끝까지 해내는 모델은 아직 시연되지 않았습니다. 연구진이 말하는 capability floor(복제에 필요한 지능 하한)와 size ceiling(기기에서 돌릴 수 있는 크기 상한)이 아직 만나지 않았다는 뜻이 바로 이것입니다.

Kimwolf 시나리오는 얼마나 진지하게 읽어야 할까?

연구는 대표 위협 모델로 Kimwolf 봇넷을 듭니다. 200만 대 이상, 대부분 저가형 Android TV라는 대형 IoT 봇넷입니다. 가정 계산은 이렇습니다.

200만 대 ÷ 15대 = 약 133,000개 복제본
전체 처리량 ≈ 80,000토큰/초
H100換算 ≈ 최대 40장 분량
복제 속도: 9B 기준 1~2일에 1회 복제 (느림)
추론 환경 구축: Qwen 28~51시간, Gemma 71~150시간

연구진의 비유가 재밌습니다. 점균류나 초파리 떼 같은 느린 복제자라는 겁니다. 몇 분 만에 수만 대로 퍼지는 기존 웜과는 차원이 다릅니다. 수 GB짜리 가중치를 나르고 기기끼리 계속 통신하면 네트워크에 흔적도 크게 남습니다. 빠르면 들키고, 숨으면 더 느려지는 트레이드오프입니다.

그래서 이 연구는 이렇게 읽는 게 정확합니다.

확인된 것: 저가 기기 집단이 capable한 모델을 돌릴 수 있다
확인된 것: 큰 모델은 단순화된 복제 과정을 해낸다
아직 안 된 것: 작으면서도 스스로 복제하는 모델
전망: 작은 모델이 역사적 속도로 좋아지면 연내에 하한에 닿을 수도 (ECI 추세 기반 추정치)

연내 전망은 Epoch Capabilities Index라는 일반 능력 지표에 기댄 것으로, 복제 능력의 직접 측정이 아니라는 단서가 붙어 있습니다. 예측으로 읽어야지 관측으로 읽으면 안 됩니다.

그럼 집과 회사의 TV·공유기는 어떻게 해야 하나?

겁먹을 필요는 없지만, 전제는 바꿔야 합니다. IoT는 이제 계산이 안 되는 기계가 아니라 느리게나마 AI를 돌릴 수 있는 컴퓨팅 자원이 됐습니다.

[ ] 기본 비밀번호·열린 ADB·불필요한 원격 관리 포트를 닫았는가
[ ] IoT를 업무·개발망과 분리했는가 (VLAN·게스트망)
[ ] 수 GB 단위 비정상 업로드·기기 간 장시간 통신을 탐지하는가
[ ] 허니팟·ISP 격리·고객 통지 같은 대응 경로가 있는가
[ ] 펌웨어 업데이트 주체가 분명한가 (제조사 미지원 AOSP 포크 주의)

Anthropic이 제안하는 방어도 결국 R0를 1 아래로 내리는 고전적인 접근입니다. 기본값 보안, 트래픽 모니터링, 허니팟, 협력 격리입니다. Mirai 대응 연구에서 ISP 격리+고객 통지가 14일 내 92%를 정리했다는 인용도 같은 맥락입니다.

작은 실험 하나를 권합니다. 사무실 공유기 관리 화면을 열어 IoT 기기 목록을 뽑아보세요. 이름 모를 Android 박스나 오래된 카메라가 보인다면, 그게 이번 연구가 말하는 출발점입니다.

결론: 느리지만 끈질긴 복제자를 상상하라

이 연구가 바꾸는 그림은 기존 악성코드와 다릅니다. 특정 기종만 노리는 하드코딩 봇넷이 아니라, 낯선 하드웨어를 스스로 파악하는 범용 복제자입니다. 아직은 느리고 서툴지만, 하드웨어는 늘고 필요한 모델 크기는 줄어드는 방향입니다.

짧고 굵은 고민거리는 하나입니다. 우리 네트워크에서 가장 방치된 저성능 기기 5대가 무엇인지, 오늘 안에 이름을 붙여보세요. 복제 AI가 오기 전에 정리해야 할 목록이 바로 그것입니다.

함께 읽으면 좋은 글

참고 자료

이 주제를 직접 따라가며 배우고 싶다면

격리와 권한, 검증 흐름을 코드로 다루는 연습이 이 글의 점검표와 바로 이어집니다. AI가 일하는 환경을 통제하는 방법부터 손에 익혀보세요.