구글의 오픈소스 온디바이스 모델 젬마3(Gemma 3)는 최신 기술을 활용한 경량화된 인공지능 모델입니다. 이 모델은 단일 GPU나 TPU에서도 실행 가능하며, 다양한 하드웨어 환경에서 높은 성능을 발휘하도록 설계되었습니다.
주요 특징:
- 다양한 매개변수 크기: 10억, 40억, 120억, 270억 개의 매개변수 버전으로 제공되어, 사용자가 하드웨어 성능에 맞는 모델을 선택할 수 있습니다.
- 멀티모달 기능: 텍스트, 이미지, 짧은 비디오를 분석할 수 있으며, 140개 이상의 언어를 지원합니다.
- 확장된 컨텍스트 창: 최대 128,000개의 토큰을 처리할 수 있어, 이전 모델보다 훨씬 더 많은 데이터를 다룰 수 있습니다.
- 안전성: 유해 콘텐츠를 감지하고 차단하는 기능을 갖춘 '실드젬마2(ShieldGemma2)'와 함께 제공됩니다.
젬마3는 구글의 제미나이 2.0(Gemini 2.0) 기술을 기반으로 개발되었으며, 오픈소스 커뮤니티에서 쉽게 접근 가능하도록 설계되었습니다. 이 모델은 AI 연구자와 개발자들이 다양한 애플리케이션을 구축하는 데 도움을 줄 수 있도록 설계되었습니다.
젬마3의 각 버전은 매개변수 수에 따라 이름이 다소 간단하게 구분됩니다.
아래는 예상되는 각 버전의 이름입니다:
- Gemma3-1B: 10억 개의 매개변수 모델
- Gemma3-4B: 40억 개의 매개변수 모델
- Gemma3-12B: 120억 개의 매개변수 모델
- Gemma3-27B: 270억 개의 매개변수 모델
아래는 제가 언급한 젬마3 모델 정보들을 보기 쉽게 정리한 표입니다:
| 모델 이름 | 매개변수 수 | 용도 및 특징 |
| Gemma3-1B | 10억 개 | 리소스가 제한된 환경에서 간단한 작업에 적합 |
| Gemma3-4B | 40억 개 | 중간 수준의 작업을 수행하며, 적은 자원으로 높은 성능 제공 |
| Gemma3-12B | 120억 개 | 정교한 작업 및 큰 데이터셋 처리에 적합 |
| Gemma3-27B | 270억 개 | 복잡한 작업 및 최고 성능 요구 애프리케이션에 적합 |
자 그럼 일단, Hugging Face 홈페이지에 가봅시다.
저는 GPU가 8GB라 저사양이므로 Gemma3-12B가 적합할 것으로 보이네요.
모델 사용하는 방법은 엄청 쉽습니다. 오픈소스이기 때문에
이제 뭐 설치하고 그럴필요도 없어요.
GPT4ALL 프로그램을 사용하면 마우스 클릭만으로 바로 사용할 수 있습니다.
아래 링크로 GPT4ALL 설치링크 걸어놨습니다. 별거 없습니다.
2025.03.13 - [오픈소스 모델] - GPT4ALL 모든 오픈소스 AI 모델을 무제한으로 사용할 수 있는 프로그램을 소개합니다.
GPT4ALL 모든 오픈소스 AI 모델을 무제한으로 사용할 수 있는 프로그램을 소개합니다.
GPT4All: 로컬에서 공개된 모든 오픈소스 모델을 쉽게 사용할 수 있다. 단, 라이센스를 반드시 확인하자.1. GPT4All이란?GPT4All 개요GPT4All은 로컬에서 실행 가능한 오픈소스 AI 모델로, 인터넷 연결 없
suncommq.tistory.com
링크 타고 들어가셔서 원하시는 버전 링크를 복사하기 하세요.
그 다음 GPT4ALL을 실행하고 모델 검색합니다.
hugging face에서 복사한 모델 링크를 붙여넣기 하시면 됩니다. 간단하죠. 그리고 다운받고 실행만 하면 끝입니다.
얼마나 편합니까
여러가지가 주욱 나오네요. 아무거나 해봅시다. 저는 밑에 f16 지원에 21.9GB 선택했습니다.
용량 크고 제 PC가 똥컴이라 다운받는라 시간 좀 걸렸습니다.
자, 설치 다됬네요. 모델 선택하고 바로 돌려봅시다.
여기서 잠깐,
모델은 기본적으로 입력 방법이나 프롬프트가 정해져 있고요, 그리고 제가 빼먹은 게 하나 있는데 꼭 라이선스를 확인하세요.
입력 방법을 알아보는데는 copilot이 좋습니다.
copilot 한테 가서 물어봅시다.
그냥 편하게 입력하면 된다는 거 같습니다.
그러면 영문으로 번역기 돌려가면서 원하시대로 입력해 봅시다.
엉?! 그런데 에러가 나네요.
아마도 지원 형식이 다른것 같네요.
다른 시도를 해볼께요.
...................................................................................................................................................................................
모델 형식이 달라서 시도 해봐야 소용 없는 일이었네요.음....
그렇다면 파이썬으로 실행 시킬수 밖에 없네요.;;;
포기할 순 없다...!
또 다른 방법을 시도해 보겠습니다.
cmd, gemma3 위치에서 명령어 실행 :
| pip install git+https://github.com/huggingface/transformers@v4.49.0-Gemma-3 |
역시 구글이네요. 이건 말만 오픈소스지 파일 변환 해놓고 api로 접근 허가 받아서 파일 변환 시킨 다음에
하게끔 되있네요. 정말 거지 같네요. 안 쓰겠습니다 저는....
오늘 뉴스에 좋다고 나왔길래 알려 드릴려고 기쁨 마음에 포스팅 하면서 저도 해봤는데
이 모델 아무리 좋아도 안쓰겠습니다.
좋게 포스팅하려고 시작했다가 욕만 먹게 됬네요.
차라리 메이드 인 차이나 deep seek 오픈소스가 100배 낫네요.
읽어 주셔서 감사합니다.
'오픈소스 모델' 카테고리의 다른 글
| 오픈소스 gpt4all을 사용하면 AI를 활용해 NVIDIA 주가 분석도 가능하다. (1) | 2025.03.13 |
|---|---|
| GPT4ALL 모든 오픈소스 AI 모델을 무제한으로 사용할 수 있는 프로그램을 소개합니다. (2) | 2025.03.13 |