안녕하세요, AI를 4년 이상 사용중인 도탁서 입니다.
관심이 있는 분들 제외하고
대부분 사람들이 모르는
로컬AI를 소개 해드리고자
글을 적게 되었습니다.
로컬AI란?
인터넷 또는 정보통신이 되지 않는 환경에서
설치 된 PC에서만 작동하는 AI 모델입니다.
이걸 왜 쓰나요?
1. 정보보안에 유리합니다.
기관 및 기업에서 내부망이나 폐쇄망에서
AI모델을 돌려서 사용하면 정보유출 우려가 없습니다.
또한 인터넷을 사용하지 않기 때문에 채팅 기록을 ai 플랫폼 기업에 전달 되지 않아 좋습니다.
2. api 호출 비용부담을 줄일 수 있습니다.
최근 엔트로픽에서 클로드 코드를 구독제에서 종량제로 바뀌고 플랫폼 기업정책이 매일 변화되어 의도치 않게 비용과금이 많이 발생되는데
로컬ai유저층이 많으면 해당 기업들의 독과점 지위를 견제 할 뿐더러 단순 작업(번역, 문서작업, 파일정리, 각 종 알림)에 api 비용 지불을 하지 않아도 되어서 좋습니다.
3. 조립PC처럼 커스텀이 가능합니다.
사용자 성향과 취향에 맞게 플러그인 및 스킬 설치를 통해서 나만의 AI를 만들어서 사용이 가능합니다.
(플러그인은 ai통해서 자체 제작해서 쓸 수 있어요)
어떻게 사용하나요?
초보자는 LM스튜디오를 설치한 다음
ai 모델 다운로드해서 사용하세요.
ai모델 추천해주세요.
에이전트 작업(복잡한 작업)이 많은 경우
qwen3.5 9b
qwen3.6
gemma4 31b
단순 문서 작업용
gemma4 E4B
gemma4 26b
다음검색
