과정상세
딥러닝 자연어 처리, 기초부터 ChatGPT까지

교재제공 고급
딥러닝 자연어 처리, 기초부터 ChatGPT까지
과정요약
학습시간 | 21시간 | 난이도 | 고급 |
---|---|---|---|
교육비 지원 | 고용보험 비환급 | 평가항목 | 출석률 100% |
수료기준 | 총점 80점 이상시 수료 | 정원 | 24 명 |
교재정보 |
과정소개
NLP GPT T5 Attetion Transformer BERT
딥러닝이 적용되면서 자연어 처리 분야는 괄목할만한 성과를 나타내고 있습니다.
본 과정은 자연어처리의 기초 이론부터 최근 ChatGPT 관련 기술 소개까지 전반적인 내용을 다루고 있는 과정으로써, 특히
텍스트 분류, 기계번역, 질의응답, 텍스트 생성 등의 자연어처리의 방법들에 대해 최신의 기술로 실습할 수 있습니다. 🚀
✔ Attention의 구조 이해
✔ Transformer의 구조 이해와 응용
✔ Pretrained 모델 BERT, T5, GPT
📍 사전 지식
✅ 파이썬을 사용해 보았거나 파이썬 기본문법/함수에 대해 잘 알고 있다.
✅ 텍스트 데이터 등의 비정형의 특성에 대해 설명할 수 있다.
✅ 신경망, 경사하강법, 선형회귀, 로지스틱회귀에 대해 말할 수 있다.
✅ 딥러닝 필수 모델 알고리즘(NN, CNN, RNN 등)에 대해 설명할 수 있다.
✅ Tensorflow, Pytorch, Keras 등 딥러닝 프레임워크를 사용해 본적 이 있다.
학습목표
- 최신 자연어 처리 기술과 해당 기술 구현을 위한 트랜스포머 라이브러리의 작동 원리를 이해할 수 있다.
- 대규모 언어 모델(LLMs)를 활용한 다양한 자연어 처리 응용분야를 경험하고 적용 범위에 대해 알 수 있다.
학습대상
- 최신 자연어 처리 기법 및 대규모 언어모델이 궁금한 분
- 자연어 처리 모델 구현이 필요한 AI 엔지니어
- 자연어 처리 응용분야에 대해 학습이 필요한 분
- 텍스트 분석 및 최신 자연어처리 기술이 필요한 데이터사이언티스트
과정목차 21
-
1 일차
-
자연어처리 기초
-
Natural Lanaguage Processing Task
Basic Computational Linguistics
-
Natural Lanaguage Processing Task
-
자연어처리 기초
-
텍스트 표현
-
Text Representations
Word Embedding
-
Text Representations
-
CNNs for NLP
RNNs for NLP
- CNNs, RNNs을 이용한 텍스트 분류 실습
-
Seq2Seq
Attention Mechanism
- Attention Mechanism 기반 Seq2Seq을 이용한 기계번역 태스크 실습
- Subword-based Tokenizer
-
트랜스포머
- Transformer
- Transformer를 이용한 질의응답(QA) 태스크 실습 (1)
- Transformer를 이용한 질의응답(QA) 태스크 실습 (2)
- Transformers 라이브러리 소개
- Trasnformer Encoder 계열의 주요 모델
- BERT, RoBERTa, DistilBERT를 이용한 텍스트 분류 실습
- Trasnformer Encoder-Decoder 계열의 주요 모델
-
T5
- T5를 이용한 문서 요약 태스크 실습
- Trasnformer Decoder 계열의 주요 모델
- GPT를 이용한 텍스트 생성 태스크 실습 (1)
- GPT를 이용한 텍스트 생성 태스크 실습 (2)
-
InstructGPT
RLHF(Reinforcement Learning from Human Feedback)
LLaMA
Self-Instruct
- LLaMA를 이용한 텍스트 생성 실습
- StableLM을 이용한 텍스트 생성 실습
수강후기 14
-
4.25김*국
2024.11.29
조금 더 실습에 대한 -
5김*홍
2024.11.29
자연어처리부터 LMM까지 전반적인, 그리고 상세한 내용을 집중적으로 다뤄주어 도움이 됐습니다. 특히, 강의 시작 시 이전 시간 내용을 요약 설명해주신 점 많은 도움이 됐습니다. -
4.5김*배
2024.11.29
llm전체 흐름을 이해할수 있어 좋았다. -
5이*우
2024.11.29
선행지식이 부족하여 다 이해하진 못했지만 전반적인 내용을 배우고 가 큰 도움이되었습니다 -
5박*현
2024.06.05
강사님의 전문지식을 바탕으로 직관적인 원리 설명, 원리와 연계된 코드 설명, 최신 모델의 특징과 코드에 대한 상세한 설명이 있어 수업내용이 잘 이해되었습니다. 실무에 어떻게 활용해야 할지에 대해서도 가이드를 주셨습니다. 이론, 코드와 관련된 질문에 대해서도 알기 쉽게 대답해주셔서 강의에 무척 만족합니다.
딥러닝 자연어 처리, 기초부터 ChatGPT까지 관련과정

교재제공