안녕하세요.

맥북으로 700만원을 쓰고 있는 흑우 도라에몽입니다.
여러분의 소중한 돈을 아껴드리기 위해서 이렇게 왔습니다.

제가 구독하고 있는 시스템은 ChatGPT4, Claud3, Gemini(2개월 Advanced 무료 사용중), 갓준표 AI입니다.
참 많지요 취미로 게임이 아닌 이런것 비교하는게 재미있다보니 이렇게 구독을 하게되었습니다.

ChatGPT4를 주로 사용하고있고 자료조사는 갓준표 AI를 사용하고있습니다.
Gemini?는 자료 조사에 좋다고 하는데 저는 만족하지 못하였습니다.

문제 풀이 및 논리적사고로는 Claud3를 사용하고있습니다.

서론이 길군요... 하지만 여러분의 이게 본론이 아닙니다.
LLAMA3가 이번에 발표가 되서 미친척하고 MAX book pro를 초고사양으로 700을 질러버렸는데요....(카드할인까지 받아서)

LLAMA3 70B 기준 양자화 모델Q8을 사용하고 있습니다.

물론 덜 양자화 된 모델을 쓸수있지만...... 너무 LLM모델 쓰려고 맥북을 사는게 아니라서요.

그래서 LLAMA3가 내가 구독하고 있는 서비스 보다 좋냐 그건 잘 모르겠습니다.
Hugging Face로 instruction모델을 쓰지만 상당히 잘대답을 해주지만 아직도 헛소리 할때도 많습니다.
3.5쓰실 바에는 이거쓰세요 따봉!

장벽을 정리해드리죠!

일단 여러분 우리는 KOREAN이지 AMERICAN이 아니라서 영어라는 장벽이 높습니다.
물론 chatgpt3.5번역해서 쓰면 좋지요.

바로 번역해서 하려면 그럼 성능이 좋아야하는데 아직 성능이 제 맥북 성능이 쬐금 아쉽습니다...

Hugging face기준으로는 잘 뽑아주고 너무 좋은데 영어로 쓰기도 힘들어서요
영어 좋아하시면 써보시는 것도 좋쿠요...

하지만 공학문제는 아직도 claude3(유료)가 가장 좋은것 같습니다.

그래서 여러분 결론은 이렇습니다.

conclusion :  700을 써가면서 로컬로 쓸거면 회사 차원에서 1000이상 쓰고 써라 그리고

그냥 써보고 싶으면 hugging face를 쓰고 성능은 느낀바로는 아직까지 chatgpt4나 claude3랑 비빌정도지 압도적으로 좋지 않다... 하지만 프롬프트당!

1. hugging face로 무료로 한번써본다*(한국어 질문은 가능한데 영어로 대답함 영어로 질문하면 불어로 대답하는 프랑스인 같음)

2. 문제푸는건 아쉽고(사진되는데 시간오래걸리고 분명 70B 풀버전 쓰면 좋을것같은데 a100살 돈이없어영)

영어가 싫으면 파이썬으로 chatgpt3.5 api호출해서 바로 바로 번역시킬수는 있는 구지????
그냥 갓준표 씁시다....

LLAMA3를 로컬 쓰시길 추천하는 사람
0. 나는 회사대표 돈이 짱짱 많고 보안이 걱정됨
1. 1000만원정도 지를 수 있는 부자
2. 정말 정말 어려운 논문을 동시에 넣고 물어보고싶은사람...
결론 : 회사급 아니면 쓸 필요가 없고 써보고 싶으면 Hugging Face가서 써보세요 찡긋~ 그리고 갓준표처럼 동시에 쓸만한것도 없어서 여러분에게 차라리 딥하게 쓰시는게 아니라면 갓준표가 제일 좋을것 같습니다.

 

-------------------------------------------------------------