목차
CHAPTER 1 실습 환경 구축하기
_1.1 비주얼 스튜디오 설치
_1.2 미니콘다를 활용한 가상 환경 구축
_1.3 CPU 환경 - 파이썬 라이브러리 설치
_1.4 GPU 환경 - 파이썬 라이브러리 설치
CHAPTER 2 자연어 처리 기초
_2.1 자연어 처리의 개념
__2.1.1 자연어 처리의 발전
__2.1.2 word2vec
__2.1.3 토큰화
__2.1.4 임베딩
__2.1.5 청킹
_2.2 기초 수학
__2.2.1 스칼라, 벡터, 행렬
__2.2.2 내적
__2.2.3 외적
__2.2.4 편미분
__2.2.5 그래디언트 디센트
CHAPTER 3 강화학습 기초
_3.1 강화학습의 개념
__3.1.1 강화학습의 정의
__3.1.2 강화학습의 구성 요소
_3.2 상태가 변하지 않을 경우의 보상 추정
__3.2.1 다중 슬롯 머신 문제
__3.2.2 행동에 따른 가치 추정 방법
__3.2.3 점진적 업데이트 방식
_3.3 마르코프 결정 프로세스
__3.3.1 마르코프 결정 프로세스의 정의
__3.3.2 누적 보상
__3.3.3 정책과 가치 함수
_3.4 몬테카를로 방법
__3.4.1 몬테카를로 방법의 개념
__3.4.2 몬테카를로 방법을 활용한 상태 가치 예측
__3.4.3 상태 가치 예측 실습
_3.5 시간차 학습
__3.5.1 TD(0)의 개념
__3.5.2 TD(0) 실습
__3.5.3 Sarsa의 개념
__3.5.4 Sarsa 실습
__3.5.5 Q-learning의 개념
__3.5.6 Q-learning 실습
__3.5.7 Q-learning을 활용한 자연어 처리 강화학습
CHAPTER 4 시퀀스 모델
_4.1 순환 신경망의 개념
__4.1.1 순환 신경망 기초
__4.1.2 손실 함수의 그래디언트
_4.2 LSTM
__4.2.1 LSTM의 개념
__4.2.2 LSTM 구조
__4.2.3 양방향 LSTM
__4.2.4 넘파이를 활용한 LSTM 실습
_4.3 seq2seq
__4.3.1 seq2seq의 개념
__4.3.2 빔 서치
CHAPTER 5 어텐션
_5.1 어텐션의 기본 원리
__5.1.1 어텐션의 정의
__5.1.2 어텐션의 구조
__5.1.3 Query, Key, Value
_5.2 셀프 어텐션
__5.2.1 셀프 어텐션의 개념
__5.2.2 입력 벡터 기준으로 보는 셀프 어텐션 구조
__5.2.3 입력 행렬 기준으로 보는 셀프 어텐션 구조
_5.3 멀티 헤드 어텐션
__5.3.1 멀티 헤드 어텐션의 개념
__5.3.2 멀티 헤드 어텐션의 구조
_5.4 크로스 어텐션
__5.4.1 크로스 어텐션의 개념
__5.4.2 크로스 어텐션의 구조
CHAPTER 6 트랜스포머
_6.1 트랜스포머의 개념
_6.2 포지셔널 인코딩
__6.2.1 포지셔널 인코딩의 개념
__6.2.2 포지셔널 인코딩의 구조
_6.3 트랜스포머 아키텍처
__6.3.1 전체 구조
__6.3.2 트랜스포머의 인코더
__6.3.3 트랜스포머의 디코더
_6.4 트랜스포머를 활용한 학습 및 추론
__6.4.1 트랜스포머를 활용한 학습
__6.4.2 트랜스포머를 활용한 추론
CHAPTER 7 LLM의 발전
_7.1 LLM의 개념
__7.1.1 LLM의 유형
__7.1.2 LLM 기술 발전 연대기
_7.2 강화학습을 적용한 LLM
__7.2.1 기존 언어 모델의 문제점
__7.2.2 사용자 피드백을 활용한 강화학습
__7.2.3 PPO 알고리즘의 등장
__7.2.4 강화학습에 적용된 PPO 알고리즘
__7.2.5 few-shot, one-shot, zero-shot 학습 방법
__7.2.6 InstructGPT
__7.2.7 유익하고 안전한 언어 모델
_7.3 LLM의 종류
__7.3.1 GPT
__7.3.2 LLaMA
__7.3.3 BERT
CHAPTER 8 LLM 에이전트 개발 도구
_8.1 Ollama
__8.1.1 Ollama 소개
__8.1.2 Ollama 기본 실습
_8.2 트랜스포머 라이브러리
__8.2.1 허깅페이스 소개
__8.2.2 트랜스포머 라이브러리 소개
__8.2.3 트랜스포머 라이브러리의 두 가지 활용 방법
__8.2.4 Low Level API 기본 실습
__8.2.5 High Level API 기본 실습
__8.2.6 Low Level API & High Level API 혼합 방식
_8.3 Llama_cpp 라이브러리
__8.3.1 Llama_cpp 라이브러리 소개
__8.3.2 GGUF 모델 다운로드
__8.3.3 Llama_cpp 라이브러리 기본 실습
_8.4 랭체인 라이브러리
__8.4.1 랭체인 라이브러리 소개
__8.4.2 LangChain Expression Language(LCEL)
__8.4.3 랭체인 + 트랜스포머 기본 실습
__8.4.4 랭체인 + Ollama 실습
__8.4.5 Ollama를 활용한 REST API 방식
__8.4.6 메모리 기능을 활용한 대화형 에이전트
_8.5 랭그래프 라이브러리
__8.5.1 랭그래프 라이브러리 소개
__8.5.2 랭그래프 구성 요소
__8.5.3 랭그래프 기본 실습
__8.5.4 랭그래프 + 랭체인 + 트랜스포머 실습
__8.5.5 랭그래프 + 랭체인 + Ollama 실습
CHAPTER 9 파인튜닝과 로컬 LLM
_9.1 Full fine-tuning
__9.1.1 Full fine-tuning의 개념
__9.1.2 기본 분류 실습
__9.1.3 Full fine-tuning 실습
__9.1.4 Full fine-tuning된 모델을 불러온 후 추가 학습
__9.1.5 Full fine-tuning된 모델을 불러온 후 예측
_9.2 PEFT
__9.2.1 PEFT의 필요성
__9.2.2 PEFT의 공통 개념
__9.2.3 PEFT의 종류
_9.3 Adapter
__9.3.1 Adapter의 개념
__9.3.2 Adapter의 내부 구조
__9.3.3 Adapter의 종류
_9.4 AdapterFusion
__9.4.1 AdapterFusion의 개념
__9.4.2 AdapterFusion의 내부 구조
_9.5 LoRA
__9.5.1 LoRA의 개념
__9.5.2 LoRA의 내부 구조
__9.5.3 LoRA 실습
__9.5.4 LoRA를 활용해 학습된 모델을 불러온 후 예측
_9.6 QLoRA
__9.6.1 양자화의 개념
__9.6.2 QLoRA의 개념
__9.6.3 QLoRA 실습
__9.6.4 QLoRA를 활용해 학습된 모델을 불러온 후 예측
CHAPTER 10 RAG
_10.1 RAG의 개념
__10.1.1 RAG의 등장 배경
__10.1.2 RAG의 특징
_10.2 RAG 아키텍처
__10.2.1 RAG 전체 구조
__10.2.2 RAG-Sequence 모델
__10.2.3 RAG-Token 모델
__10.2.4 Retriever
__10.2.5 Generator
_10.3 벡터 DB 기초
__10.3.1 벡터 DB의 개념
__10.3.2 벡터 DB의 종류
__10.3.3 임베딩 실습
__10.3.4 ChromaDB 실습
__10.3.5 CSV to ChromaDB 실습
__10.3.6 청킹 실습
_10.4 RAG 기초 실습
__10.4.1 트랜스포머 사용을 위한 ChromaDB 구축
__10.4.2 트랜스포머를 활용한 RAG 실습
_10.5 RAG 응용 실습
__10.5.1 랭체인 사용을 위한 ChromaDB 구축
__10.5.2 트랜스포머, 랭체인을 활용한 무기억성 RAG 실습
__10.5.3 트랜스포머, 랭체인을 활용한 대화형 RAG 실습
__10.5.4 트랜스포머, 랭체인, 랭그래프를 활용한 RAG 실습
__10.5.5 Llama_cpp, 랭체인, 랭그래프를 활용한 RAG 실습
__10.5.6 Ollama, 랭체인, 랭그래프를 활용한 RAG 실습
_10.6 Iterative RAG
__10.6.1 Iterative RAG의 개념
__10.6.2 Iterative RAG 실습
_10.7 Adaptive RAG
__10.7.1 Adaptive RAG의 개념
__10.7.2 Adaptive RAG 실습
CHAPTER 11 멀티 에이전트
_11.1 멀티 에이전트의 개념
__11.1.1 싱글 에이전트와 멀티 에이전트
__11.1.2 A2A
_11.2 MCP
__11.2.1 MCP의 개념
__11.2.2 MCP 실습
CHAPTER 12 Streamlit으로 나만의 AI 에이전트 만들기
_12.1 Streamlit 기초
__12.1.1 Streamlit 소개
__12.1.2 VS Code 설치 및 파이썬 가상 환경 연동
_12.2 Streamlit을 활용한 AI 에이전트 개발
__12.2.1 누구나 쉽게 만드는 전래동화 AI 에이전트
__12.2.2 대화 내용을 기억하는 채팅 에이전트
__12.2.3 랭그래프 기반 AI 에이전트
__12.2.4 RAG 기반 AI 에이전트
_1.1 비주얼 스튜디오 설치
_1.2 미니콘다를 활용한 가상 환경 구축
_1.3 CPU 환경 - 파이썬 라이브러리 설치
_1.4 GPU 환경 - 파이썬 라이브러리 설치
CHAPTER 2 자연어 처리 기초
_2.1 자연어 처리의 개념
__2.1.1 자연어 처리의 발전
__2.1.2 word2vec
__2.1.3 토큰화
__2.1.4 임베딩
__2.1.5 청킹
_2.2 기초 수학
__2.2.1 스칼라, 벡터, 행렬
__2.2.2 내적
__2.2.3 외적
__2.2.4 편미분
__2.2.5 그래디언트 디센트
CHAPTER 3 강화학습 기초
_3.1 강화학습의 개념
__3.1.1 강화학습의 정의
__3.1.2 강화학습의 구성 요소
_3.2 상태가 변하지 않을 경우의 보상 추정
__3.2.1 다중 슬롯 머신 문제
__3.2.2 행동에 따른 가치 추정 방법
__3.2.3 점진적 업데이트 방식
_3.3 마르코프 결정 프로세스
__3.3.1 마르코프 결정 프로세스의 정의
__3.3.2 누적 보상
__3.3.3 정책과 가치 함수
_3.4 몬테카를로 방법
__3.4.1 몬테카를로 방법의 개념
__3.4.2 몬테카를로 방법을 활용한 상태 가치 예측
__3.4.3 상태 가치 예측 실습
_3.5 시간차 학습
__3.5.1 TD(0)의 개념
__3.5.2 TD(0) 실습
__3.5.3 Sarsa의 개념
__3.5.4 Sarsa 실습
__3.5.5 Q-learning의 개념
__3.5.6 Q-learning 실습
__3.5.7 Q-learning을 활용한 자연어 처리 강화학습
CHAPTER 4 시퀀스 모델
_4.1 순환 신경망의 개념
__4.1.1 순환 신경망 기초
__4.1.2 손실 함수의 그래디언트
_4.2 LSTM
__4.2.1 LSTM의 개념
__4.2.2 LSTM 구조
__4.2.3 양방향 LSTM
__4.2.4 넘파이를 활용한 LSTM 실습
_4.3 seq2seq
__4.3.1 seq2seq의 개념
__4.3.2 빔 서치
CHAPTER 5 어텐션
_5.1 어텐션의 기본 원리
__5.1.1 어텐션의 정의
__5.1.2 어텐션의 구조
__5.1.3 Query, Key, Value
_5.2 셀프 어텐션
__5.2.1 셀프 어텐션의 개념
__5.2.2 입력 벡터 기준으로 보는 셀프 어텐션 구조
__5.2.3 입력 행렬 기준으로 보는 셀프 어텐션 구조
_5.3 멀티 헤드 어텐션
__5.3.1 멀티 헤드 어텐션의 개념
__5.3.2 멀티 헤드 어텐션의 구조
_5.4 크로스 어텐션
__5.4.1 크로스 어텐션의 개념
__5.4.2 크로스 어텐션의 구조
CHAPTER 6 트랜스포머
_6.1 트랜스포머의 개념
_6.2 포지셔널 인코딩
__6.2.1 포지셔널 인코딩의 개념
__6.2.2 포지셔널 인코딩의 구조
_6.3 트랜스포머 아키텍처
__6.3.1 전체 구조
__6.3.2 트랜스포머의 인코더
__6.3.3 트랜스포머의 디코더
_6.4 트랜스포머를 활용한 학습 및 추론
__6.4.1 트랜스포머를 활용한 학습
__6.4.2 트랜스포머를 활용한 추론
CHAPTER 7 LLM의 발전
_7.1 LLM의 개념
__7.1.1 LLM의 유형
__7.1.2 LLM 기술 발전 연대기
_7.2 강화학습을 적용한 LLM
__7.2.1 기존 언어 모델의 문제점
__7.2.2 사용자 피드백을 활용한 강화학습
__7.2.3 PPO 알고리즘의 등장
__7.2.4 강화학습에 적용된 PPO 알고리즘
__7.2.5 few-shot, one-shot, zero-shot 학습 방법
__7.2.6 InstructGPT
__7.2.7 유익하고 안전한 언어 모델
_7.3 LLM의 종류
__7.3.1 GPT
__7.3.2 LLaMA
__7.3.3 BERT
CHAPTER 8 LLM 에이전트 개발 도구
_8.1 Ollama
__8.1.1 Ollama 소개
__8.1.2 Ollama 기본 실습
_8.2 트랜스포머 라이브러리
__8.2.1 허깅페이스 소개
__8.2.2 트랜스포머 라이브러리 소개
__8.2.3 트랜스포머 라이브러리의 두 가지 활용 방법
__8.2.4 Low Level API 기본 실습
__8.2.5 High Level API 기본 실습
__8.2.6 Low Level API & High Level API 혼합 방식
_8.3 Llama_cpp 라이브러리
__8.3.1 Llama_cpp 라이브러리 소개
__8.3.2 GGUF 모델 다운로드
__8.3.3 Llama_cpp 라이브러리 기본 실습
_8.4 랭체인 라이브러리
__8.4.1 랭체인 라이브러리 소개
__8.4.2 LangChain Expression Language(LCEL)
__8.4.3 랭체인 + 트랜스포머 기본 실습
__8.4.4 랭체인 + Ollama 실습
__8.4.5 Ollama를 활용한 REST API 방식
__8.4.6 메모리 기능을 활용한 대화형 에이전트
_8.5 랭그래프 라이브러리
__8.5.1 랭그래프 라이브러리 소개
__8.5.2 랭그래프 구성 요소
__8.5.3 랭그래프 기본 실습
__8.5.4 랭그래프 + 랭체인 + 트랜스포머 실습
__8.5.5 랭그래프 + 랭체인 + Ollama 실습
CHAPTER 9 파인튜닝과 로컬 LLM
_9.1 Full fine-tuning
__9.1.1 Full fine-tuning의 개념
__9.1.2 기본 분류 실습
__9.1.3 Full fine-tuning 실습
__9.1.4 Full fine-tuning된 모델을 불러온 후 추가 학습
__9.1.5 Full fine-tuning된 모델을 불러온 후 예측
_9.2 PEFT
__9.2.1 PEFT의 필요성
__9.2.2 PEFT의 공통 개념
__9.2.3 PEFT의 종류
_9.3 Adapter
__9.3.1 Adapter의 개념
__9.3.2 Adapter의 내부 구조
__9.3.3 Adapter의 종류
_9.4 AdapterFusion
__9.4.1 AdapterFusion의 개념
__9.4.2 AdapterFusion의 내부 구조
_9.5 LoRA
__9.5.1 LoRA의 개념
__9.5.2 LoRA의 내부 구조
__9.5.3 LoRA 실습
__9.5.4 LoRA를 활용해 학습된 모델을 불러온 후 예측
_9.6 QLoRA
__9.6.1 양자화의 개념
__9.6.2 QLoRA의 개념
__9.6.3 QLoRA 실습
__9.6.4 QLoRA를 활용해 학습된 모델을 불러온 후 예측
CHAPTER 10 RAG
_10.1 RAG의 개념
__10.1.1 RAG의 등장 배경
__10.1.2 RAG의 특징
_10.2 RAG 아키텍처
__10.2.1 RAG 전체 구조
__10.2.2 RAG-Sequence 모델
__10.2.3 RAG-Token 모델
__10.2.4 Retriever
__10.2.5 Generator
_10.3 벡터 DB 기초
__10.3.1 벡터 DB의 개념
__10.3.2 벡터 DB의 종류
__10.3.3 임베딩 실습
__10.3.4 ChromaDB 실습
__10.3.5 CSV to ChromaDB 실습
__10.3.6 청킹 실습
_10.4 RAG 기초 실습
__10.4.1 트랜스포머 사용을 위한 ChromaDB 구축
__10.4.2 트랜스포머를 활용한 RAG 실습
_10.5 RAG 응용 실습
__10.5.1 랭체인 사용을 위한 ChromaDB 구축
__10.5.2 트랜스포머, 랭체인을 활용한 무기억성 RAG 실습
__10.5.3 트랜스포머, 랭체인을 활용한 대화형 RAG 실습
__10.5.4 트랜스포머, 랭체인, 랭그래프를 활용한 RAG 실습
__10.5.5 Llama_cpp, 랭체인, 랭그래프를 활용한 RAG 실습
__10.5.6 Ollama, 랭체인, 랭그래프를 활용한 RAG 실습
_10.6 Iterative RAG
__10.6.1 Iterative RAG의 개념
__10.6.2 Iterative RAG 실습
_10.7 Adaptive RAG
__10.7.1 Adaptive RAG의 개념
__10.7.2 Adaptive RAG 실습
CHAPTER 11 멀티 에이전트
_11.1 멀티 에이전트의 개념
__11.1.1 싱글 에이전트와 멀티 에이전트
__11.1.2 A2A
_11.2 MCP
__11.2.1 MCP의 개념
__11.2.2 MCP 실습
CHAPTER 12 Streamlit으로 나만의 AI 에이전트 만들기
_12.1 Streamlit 기초
__12.1.1 Streamlit 소개
__12.1.2 VS Code 설치 및 파이썬 가상 환경 연동
_12.2 Streamlit을 활용한 AI 에이전트 개발
__12.2.1 누구나 쉽게 만드는 전래동화 AI 에이전트
__12.2.2 대화 내용을 기억하는 채팅 에이전트
__12.2.3 랭그래프 기반 AI 에이전트
__12.2.4 RAG 기반 AI 에이전트
기본 적립금
2배 적립금