llama fine tuning 방법 #1 – gguf 파일 변환과 Ollama 모델 생성
오늘부터는 연속하여 llama fine tuning(라마 모델 파인 튜닝)에 대해 이야기해 보려 합니다. 특히 llama fine tuning을 위한 사전 작업과 튜닝 과정을 자세하게 다뤄볼 예정입니다. 지금까지 llama 3.1, llama 3.2를 설치하고 …
데이터셋(dataset) 생성으로 Llama 3.1 파인 튜닝하기
데이터셋(dataset) 생성 기술이 중요한 이유를 이해하려면, 생성형 인공지능 모델의 학습 과정부터 생각해 볼 필요가 있습니다. Llama 3.1과 같은 생성형 인공지능 모델은 사람이 주는 데이터를 기반으로 학습하여 언어를 이해하고 생성합니다. 이 …
Llama3.2 3b 범용 모델과 파생 모델 비교 그리고 fp16
오늘은 지난 글에 이어서 llama3.2 3b의 범용 모델 뿐만 아니라 두 가지 파생 모델에 대해서 알아보려 합니다. Llama3.2는 기본적으로 범용 모델입니다. 이는 다양한 작업을 다룰 수 있도록 훈련된 기본 모델로, …
인공지능의 추론 능력과 AI 대체 직업 – 생성형 AI가 가져온 변화 #1
이 글에서는 현재의 AI 능력을 바탕으로 AI 대체 직업과 AI가 대체할 수 없는 직업을 나누어 보고, 그 이유를 설명하겠습니다. AI 대체 직업 생성형 AI는 데이터 처리 능력, 정보 분석, 반복적인 …
Llama 3.2 3b 와 Llama 3.1 8b 비교, 변화와 성능 차이
며칠 전 Meta에서 Llama 3.2를 발표했습니다. Llama 3.1을 발표한지 얼마 되지도 않았는데, 또 다른 버전이 발표했습니다. Meta가 상당히 적극적으로 움직이고 있는 모양새입니다. 이번 발표한 Llama3.2는 어떤 변화가 있는지 알아보고 발표된 …