[R-LOG] LLM 프로덕션 엔지니어링 / 서평단 / 제이펍

본 서평은 출판사의 서평단으로 선정되어 제공받은 도서를 읽고 작성하였습니다.

 

---

[목차]

들어가며

이 책은 어떤 책인가?

책 후기

추천 대상

마무리

 

---

[들어가며]

LLM이 핫해지면서 '어떻게 만들어지는걸까?'를 넘어 '어떻게 서비스를 안정적으로 운영할 수 있을까?' 라는 궁금증이 생겼다.

구글에도 자료가 많지만 흩어져 있어서 어디서부터 시작해야 할지 막막했다.

그러던 중 LLM 프로덕션 엔지니어링 서평단 모집 글을 보게 되었고, 주저 없이 지원했더니 감사하게도 서평단에 선정되었다.

 

---

[이 책은 어떤 책인가?]

LLM 프로덕션 엔지니어링 - 제이펍

• 제목 : LLM 프로덕션엔지니어링
• 저자 : [저자(글)] 루이-프랑수아 부샤르, 루이 피터스 / [번역] 김태헌
• 출판사 : 제이펍
• 출판일 : 2025년 9월 11일
• 링크 : https://jpub.tistory.com/468913

 

 

지은이·옮긴이 소개 xi
옮긴이 머리말 xiii
추천의 글 xv
베타리더 후기 xvii
추천사 xix
시작하며 xxii
감사의 글 xxvii
이 책에 대하여 xxviii

CHAPTER 1 LLM 소개 1
1.1 언어 모델의 짧은 역사 1
1.2 LLM이란 무엇인가? 2
1.3 LLM의 기본 구성 요소 3
1.4 실습 ❶ LLM을 활용한 번역(GPT-3.5 API) 19
1.5 실습 ❷ 퓨샷 학습을 통한 LLM 출력 제어 20
1.6 요약 22

CHAPTER 2 LLM 아키텍처와 환경 23
2.1 트랜스포머 이해하기 23
2.2 트랜스포머 모델의 설계와 선택 33
2.3 트랜스포머 아키텍처 최적화 기법 41
2.4 GPT 아키텍처 43
2.5 대형 멀티모달 모델 소개 46
2.6 상용 모델 vs. 공개 모델 vs. 오픈소스 언어 모델 52
2.7 LLM의 응용 및 사용 사례 59
2.8 요약 67

CHAPTER 3 LLM의 실제 응용 69
3.1 환각과 편향 이해하기 69
3.2 LLM 출력에서 환각을 줄이는 방법 71
3.3 LLM 성능 평가 79
3.4 요약 84

CHAPTER 4 프롬프트 엔지니어링 소개 86
4.1 프롬프팅과 프롬프트 엔지니어링 86
4.2 프롬프트 테크닉 91
4.3 프롬프트 인젝션과 보안 97
4.4 요약 100

CHAPTER 5 RAG 102
5.1 왜 RAG인가? 102
5.2 밑바닥부터 시작하는 기본 RAG 파이프라인 구축 106
5.3 요약 119

CHAPTER 6 LangChain 및 LlamaIndex 소개 120
6.1 LLM 프레임워크 120
6.2 LangChain 소개 121
6.3 실습 ❶ LangChain을 사용한 LLM 기반 애플리케이션 구축 126
6.4 실습 ❷ 뉴스 기사 요약기 구축 130
6.5 LlamaIndex 소개 137
6.6 LangChain vs. LlamaIndex vs. OpenAI Assistant 145
6.7 요약 147

CHAPTER 7 LangChain을 사용한 프롬프트 작성 148
7.1 LangChain 프롬프트 템플릿이란 148
7.2 퓨샷 프롬프트와 예시 선택기 156
7.3 LangChain에서 체인이란 163
7.4 실습 ❶ 출력 파서를 사용한 출력 관리 171
7.5 실습 ❷ 뉴스 기사 요약기 개선 183
7.6 실습 ❸ 텍스트 데이터를 활용한 지식 그래프 생성: 숨겨진 연결 고리 발견하기 191
7.7 요약 197

CHAPTER 8 인덱스, 검색기, 그리고 데이터 준비 199
8.1 LangChain의 인덱스와 검색기 199
8.2 데이터 수집 205
8.3 텍스트 분할기 209
8.4 유사도 검색과 벡터 임베딩 219
8.5 실습 ❶ 고객 지원 Q&A 챗봇 225
8.6 실습 ❷ Whisper와 LangChain을 이용한 유튜브 비디오 요약기 232
8.7 실습 ❸ 지식 베이스를 위한 음성 비서 243
8.8 실습 ❹ 자기 비판 체인을 사용한 원치 않는 출력 방지 255
8.9 실습 ❺ 고객 서비스 챗봇에서 부적절한 출력 방지 260
8.10 요약 265

CHAPTER 9 고급 RAG 268
9.1 개념 증명에서 제품으로: RAG 시스템의 도전 과제 268
9.2 고급 RAG 기법과 LlamaIndex 269
9.3 RAG의 지표 및 평가 284
9.4 LangChain, LangSmith 및 LangChain Hub 299
9.5 요약 304

CHAPTER 10 에이전트 306
10.1 에이전트: 추론 엔진으로서의 대형 모델 306
10.2 AutoGPT와 BabyAGI 한 눈에 보기 312
10.3 LangChain의 에이전트 시뮬레이션 프로젝트 327
10.4 실습 ❶ 분석 보고서 작성 에이전트 구축 332
10.5 실습 ❷ LlamaIndex를 사용한 데이터베이스 쿼리 및 요약 340
10.6 실습 ❸ OpenAI 어시스턴트를 활용한 에이전트 구축 350
10.7 실습 ❹ LangChain OpenGPTs 354
10.8 실습 ❺ 멀티모달 금융 문서 분석기로 PDF 파일 분석하기 357
10.9 요약 371

CHAPTER 11 파인튜닝 372
11.1 파인튜닝에 대한 이해 372
11.2 LoRA 373
11.3 실습 ❶ LoRA를 활용한 SFT 376
11.4 실습 ❷ SFT 및 LoRA를 활용한 금융 감정 분석 389
11.5 실습 ❸ 의료 데이터를 활용한 Cohere LLM 파인튜닝 398
11.6 RLHF 408
11.7 실습 ❹ RLHF를 통한 LLM 성능 향상 411
11.8 요약 433

CHAPTER 12 배포 및 최적화 435
12.1 모델 증류와 교사-학생 모델 435
12.2 LLM 배포 최적화: 양자화, 가지치기, 추측적 디코딩 441
12.3 실습: GCP에서 CPU로 양자화된 LLM 배포하기 452
12.4 오픈소스 LLM을 클라우드 환경에 배포하기 461
12.5 요약 463

나가며 465
용어집 468
찾아보기 472

 

 

 

 

책에서 로컬 환경에서 바로 실행할 수 있도록 구체적인 가이드가 담겨 있어 실습에 큰 도움이 되었다.

로컬 환경 설정

 

LLM의 원리와 한계에 관해 설명해 두었다.

책은 LLM의 원리, 아키텍처, 프롬프트 엔지니어링, RAG, LangChain/LlamaIndex, 에이전트, 파인튜닝, 배포/최적화 까지 기초부터 고급 응용까지 전체 흐름을 따라갈 수 있도록 구성되어 있다.

특히 각 장에는 로컬 환경에서 직접 실행 가능한 실습이 포함되어 있어 단순한 이론서가 아니라 실습 교재로도 활용할 수 있다.

 

LLM의 핵심 구조인 토큰화, 임베딩, 트랜스포머를 분석하고 환각 및 편향 문제와 이를 줄이는 다양한 디코딩 기법에 관해 설명해 두었다.

LLM에 대한 설명

 

프롬프트 엔지니어링과 LangChain,Llamaindex를 활용해 AI와 효과적으로 상호작용 하는 방법에 대해 적어두었다.

데이터 인덱싱과 검색 지표로 정보 정확도를 높이는 방법도 다룬다.

RAG라는 개념과 파이프라인 구성, RAG는 어떻게 구성되는지에 대해 잘 정리해 두었다.

프롬프트 엔지니어링,LangChain,LlamaIndex

 

맞춤형 AI와 자율 에이전트 구축에 대해 다루고 있다.

LoRA,ALoRA,SFT,RLHF로 도메인 특화 모델을 구현하고 AutoGPT, BabyAGI로 계획 및 실행이 가능한 자율 에이전트를 구축한다.

AutoGPT,BabyAGI를 비교하며 설명하고있다

AutoGPT와 BabyAGI에 다룬 내용

 

---

[책 후기]

LLM 개발의 전체적인 흐름을 알 수 있었다.

다른 책들은 개념 설명에 그치는 경우가 많은데 이 책은 로컬 실습 중심으로 실무적용에 도움이 된다.

LLM의 기본 개념 → 트랜스포머 아키텍처 → 프롬프트 엔지니어링 → RAG → LangChain/LlamaIndex → 에이전트 → 파인튜닝 → 배포 및 최적화까지, 기초부터 고급 응용까지 차근차근 따라갈 수 있도록 구성되어 있다.

RAG와 에이전트를 만들기 위해 기초 개념과 실제 LangChain과 Liamaindex에 대해 자세히 설명되어 있다.

LLM의 중요한 측면을 알게 되었다.

덕분에 LLM에 대한 지식을 쌓을 수 있었다.

---

[추천 대상]

• LLM → 프롬프트 엔지니어링 → RAG →파인튜닝 → 배포 과정을 경험해보고 싶으신 분
• LLM을 실무에서 활용하고 싶은 개발자

---

[마무리]

AI 분야로 진출하고 싶은 분들게 추천한다.

이 책은 LLM 실무 활용의 로드맵을 제공하는 종합 안내서라 할 수 있다.

내용이 방대하다 보니 한 번에 다 소화하기보다는 관심 있는 장부터 선택적으로 실습하면서 점차 확장하는 방식이 더 효과적일 것 같다.

이 책은 단순한 입문서를 넘어 LLM을 실무적으로 활용하고 싶은 개발자, 기획자, 연구자에게 모두 추천할 만한 안내서라고 생각한다.

 

---

 

---

잘못된 정보는 댓글에 남겨주시면 감사하겠습니다!☺️

댓글과 좋아요는 큰 힘이 됩니다!