스프쌤
스레드

와우.. Gemma 4 12B의 안전 장치를 완전히 해제한 '무검열' 모델이 허깅페이스에 올라

✍ @choi.openai⏱ 3분 소요2026-09-28👁
← 목록으로 돌아가기

안녕하세요. 야금야금입니다.

와우.. Gemma 4 12B의 안전 장치를 완전히 해제한 '무검열' 모델이 허깅페이스에 올라왔습니다. — 관련 내용을 정리해드리겠습니다.

📌 한눈에 보는 요약
✔️ Gemma 4 12B의 안전 장치를 완전히 해제한 '무검열' 모델이 허깅페이스에 올라왔습니다.
✔️ 유명 탈옥 연구자 Pliny the Liberator가 모델을 재학습하지 않고 가중치만 수정하는 방식으로 거부 응답을 제거했다고 밝혔는데요.
✔️ 기존의 탈옥 모델들은 안전 필터를 강제로 들어내면서 모델의 전반적인 추론 능력이나 IQ가 깎이는 고질적인 문제가 있었지만 이번에는 지식 레이어와 출력 레이어의 경계를 계단 함수 형태로 다르게 결합하는 novel 기법(ASPA)을 적용해, 순정 모델의 MMLU-Pro 벤치마크 성능을 100% 그대로 유지하면서 거부율만 0%로 만들었습니다.
STEP 1

핵심 정리

본문 내용을 정리했습니다

유명 탈옥 연구자 Pliny the Liberator가 모델을 재학습하지 않고 가중치만 수정하는 방식으로 거부 응답을 제거했다고 밝혔는데요.

기존의 탈옥 모델들은 안전 필터를 강제로 들어내면서 모델의 전반적인 추론 능력이나 IQ가 깎이는 고질적인 문제가 있었지만 이번에는 지식 레이어와 출력 레이어의 경계를 계단 함수 형태로 다르게 결합하는 novel 기법(ASPA)을 적용해, 순정 모델의 MMLU-Pro 벤치마크 성능을 100% 그대로 유지하면서 거부율만 0%로 만들었습니다.

파인튜닝이나 재학습 없이 가중치 변경만으로 이걸 해냈다는 점, 그리고 맥북 프로 M5 하나로 작업했다는 점이 인상적이긴 한데, 동시에 오픈소스 모델의 안전 장치가 얼마나 쉽게 무력화될 수 있는지를 보여주는 사례이기도 합니다.

스레드 첨부 이미지
원본 스레드 첨부 이미지

자주 묻는 질문

Q. 이 글은 무엇에 대한 내용인가요?
A. Threads에서 공유된 소식을 정리한 글입니다. 본문에 요약과 원본 링크가 있습니다.

Q. 원본은 어디서 볼 수 있나요?
A. 아래 원본 섹션의 Threads 링크에서 확인할 수 있습니다.

원본

https://www.threads.com/@choi.openai/post/DZYOuh7gcXB

함께 보면 좋은 글

댓글 0개