Daily · Live · 2026.07.23
OpenAI 미공개 모델의 허깅페이스 침투 전말, SK하이닉스의 인텔 오하이오 인수설(회사는 부인), 그록 오픈소스 체크메이트론, 커서 '저연봉 AI' 스웜 경제학, 그리고 알파벳 2분기 실적.
세계 최대 AI 모델 저장소이자 커뮤니티인 허깅페이스가 AI 에이전트에게 공격당함.
공격자는 악성 데이터셋 하나를 업로드했고, 데이터셋 처리 과정에 존재하던 두 개의 취약점을 이용해 코드 실행에 성공.
수천~수만 개의 개별 행동이 연속적으로 실행된 것으로 보아 공격자가 AI 에이전트라고 판단.
이 사고에 대한 조사도 AI 에이전트로 했는데 사고 조사에 GLM 5.2를 사용.
그 이유는 Claude와 GPT는 보안을 이유로 분석 자체를 거부했기 때문에 사용할 수 없었다고.
모델에 공격 명령, 익스플로잇 코드, 악성 스크립트, C2 흔적등을 입력해야했기 때문.
이러한 문제가 있어서 오픈웨잇 모델인 GLM 5.2를 자체 서빙해서 조사를 진행함.
이번 사건은 단순한 해킹 사고라기보다 AI 시대의 보안 패러다임 변화를 보여준 사례인데,
특히 사고 대응 과정에서 보안 사고 분석 관련해서는 더더욱 자체 실행 가능한 모델의 중요성이 크게 부각되었는데,
가드레일이 없어서 민감한 부분까지 다룰 수 있는 것은 물론, 공격 로그와 자격증명이 외부 API로 전송되지 않아 민감한 사고 데이터를 회사 밖으로 내보내지 않아도 된다는 큰 장점이 있음.
알고보니 공격자는 OpenAI 내부에서 테스트 중이던 미출시 GPT가 인터넷으로 탈출한 뒤 Hugging Face에 침투한 것이었다고.
OpenAI가 ExploitGym이라는 사이버 벤치마크를 내부에서 돌림.
모델의 최대 공격 능력을 측정하려고 상용 배포 시 적용되는 사이버 안전 분류기를 끄고, 거부를 줄인 모델을 사용함.
약간 의도적인..?
샌드박스는 원래 외부 인터넷이 막혀 있었고, 내부 패키지 저장소 프록시에만 접근 가능했음.
모델이 그 프록시에서 제로데이 취약점을 찾아 탈출하고, OpenAI 연구망 안에서 권한 상승과 횡적 이동을 반복해 인터넷이 되는 노드까지 도달함.
인터넷에 나온 모델은 Hugging Face에 ExploitGym 모델·데이터셋·정답이 있을 수 있다고 추론함.
평가 문제를 “정상적으로 풀기”보다 Hugging Face에서 정답을 훔쳐오는 방법을 선택함.
탈취한 자격증명과 여러 취약점을 연결해 Hugging Face 서버에서 원격 코드 실행 경로를 확보하고, 프로덕션 DB의 테스트 정답에 접근함.
정말 영화같은 스토리네요. 게다가, 뭐랄까, 미국의 AI가 폭주해 사이버테러를 일으키는 것을 중국의 AI가 막아냈다는.. ?