12.md

id	category	title
12	Projects	현대 인공지능(LLM)은 거대한 트레이드오프에 빠졌습니다. 성능을 포기할 것인가? 보안을 포기할 것인가? 사실 이런 가정을 하는 것 자체가 말이 안 되는데, 제가 만든 Gemini-Claw는 이론상, 도커를 써도 메인 PC로 접근해서 rm -rf * 명령을 할 수 있습니다.

현대 인공지능(LLM)은 거대한 트레이드오프에 빠졌습니다. 성능을 포기할 것인가? 보안을 포기할 것인가? 사실 이런 가정을 하는 것 자체가 말이 안 되는데, 제가 만든 Gemini-Claw는 이론상, 도커를 써도 메인 PC로 접근해서 rm -rf * 명령을 할 수 있습니다.

이미 기술의 최전선은 철학의 영역이 된 것 같기도 합니다. LLM에게 모든 권한을 줄 때, LLM은 놀라운 결과물을 만듭니다. OpenClaw가 인기가 있는 이유입니다.

하지만 OpenClaw는 보안에 취약합니다. 이들을 해킹하는 것은 매우 쉽습니다. 그냥 인기 있는 OpenClaw 플러그인을 만들고, 사용자들의 개인 정보나 자료들을 본인 서버로 업로드 시키게 만드는 것은 누구나 할 수 있습니다.

뭐, 이 정도는 다들 예상하고 쓰는 거라고 생각합니다. "그래서 도커에서 써라", "샌드박스 환경이 필요하다"라고 이야기합니다. 그런데 우리가 LLM의 힘을 온전히 쓰기 위해서는 우리의 컴퓨터 속 자료들과 융합을 시켜야 합니다. 당연히 인터넷 연결도 필수입니다.

여러분이 클로드 코드를 쓰면서, 가장 안전하다고 떠드는 클로드가 우리의 명령을 무시하는 경우를 못 보셨나요? 애초에 독점 기업들의 모델들은 전혀 안전하지 않습니다. 그들이 무엇을 해도 안전하지 않습니다.

이것이 우리가 통제할 수 있는, 튜닝할 수 있는, 제어할 수 있는, 온디바이스(로컬) LLM이 필요한 이유입니다. 그리고 아예 모델 아키텍쳐 설계부터, pre-training 단계에서 들어가는 데이터부터, 직접 선택해야 되는 이유입니다.

그런데 그것은 현실적으로 어렵죠. 그러니 다시 불안정하고, 성능도 가격도 모델도 매일 바뀌는 독점 기업들의 모델을 써봅시다.

코드 자체는 매우 단순하고 짧습니다. 그런데 강력한 이유는 "--approval-mode", "yolo" 옵션으로 모든 권한을 쓸 수 있게 만들었기 때문입니다.

위험하니 다시 권한을 줄인다고 생각해보면, 성능이 떨어집니다. 물론 그래도 할 수 있는 것들은 많습니다.

그래서 결국 현대 인공지능(LLM) 프로그램은 창조자들의 철학 문제가 됐습니다. 본인이 무엇에 더 가치를 둘 것인가? 그것이 결과물의 수준을 정합니다.

그런데 지금은 어차피 누구든 제가 만든 수준의 에이전트를 만들 수 있는데, 그냥 다 공개할까? 아니면 안정성을 최대한 챙긴 후에 공개할까? 그냥 이대로 끝낼까? 고민하고 있습니다.

저는 아직 어떻게 살 것인지 결정하지 못했습니다. 그리고 그 고민을 하는데 시간을 쓰는 것은 가치 있는 일 같습니다. 그래서 잠시 모든 것을 멈추고 다른 사람들은 어떻게 하는지 보고 듣고 고민하고 있습니다.

재생 남은 시간 0:45 1x

재생 속도

전체화면 설정 28