- Level Professional
- Course by DeepLearning.AI
-
Offered by
About
딥 러닝 전문화의 다섯 번째 과정에서는 시퀀스 모델과 음성 인식, 음악 합성, 챗봇, 기계 번역, 자연어 처리(NLP) 등과 같은 흥미로운 애플리케이션에 익숙해질 것입니다. 이 과정을 이수하면 순환 신경망(RNN)과 GRU 및 LSTM과 같이 일반적으로 사용되는 변형을 구축 및 훈련하고, RNN을 문자 수준의 언어 모델링에 적용하며, 자연어 처리 및 단어 임베딩에 대한 경험을 얻을 수 있으며, HuggingFace 토크나이저 및 트랜스포머 모델을 사용하여 NER 및 질문에 답하기 같은 다양한 NLP 작업을 해결합니다. 딥 러닝 전문화 과정은 딥 러닝의 기능, 과제 및 결과를 이해하고 최첨단 AI 기술의 개발에 참여할 준비를 하는 데 도움이 되는 기본 프로그램입니다. 경력을 쌓기 위한 지식과 기술을 습득할 수 있도록 도와줌으로써 AI 세계에서 최종적인 단계를 맡을 수 있는 길을 제공합니다.Modules
순환 신경망
1
External Tool
- 질문이 있으십니까? Discourse에 참여하세요!
12
Videos
- 왜 시퀀스 모델인가?
- 표기법
- 순환 신경망 모델
- 시간에 따른 역전파
- 다양한 유형의 RNN
- 언어 모델 및 시퀀스 생성
- 신규 시퀀스 샘플링
- RNN의 기울기 소실
- 게이트 순환 장치(GRU)
- 장단기 메모리(LSTM)
- 양방향 RNN
- 심층 RNN
2
Readings
- 게이트 순환 장치(GRU) *수정*
- 장단기 메모리(LSTM) *수정*
강의 노트(선택 사항)
1
External Tool
- 강의 노트 W1
퀴즈
1
Assignment
- 순환 신경망
프로그래밍 과제
- 순환 신경망 구축 - 단계별
- Dinosaur Island - 문자 수준의 언어 모델링
- LSTM을 사용한 재즈 즉흥 연주
2
Readings
- 노트북 다운로드 방법
- 작업 공간을 새로고침 하는 방법
단어 임베딩 소개
4
Videos
- 단어 표현
- 단어 임베딩 사용
- 단어 임베딩의 속성
- 임베딩 행렬
단어 임베딩 학습: Word2vec 및 GloVe
4
Videos
- 단어 임베딩 학습
- Word2Vec
- 네거티브 샘플링
- GloVe 단어 벡터
1
Readings
- GloVe 단어 벡터 *수정*
단어 임베딩을 사용한 애플리케이션
2
Videos
- 감정 분류
- 단어 임베딩 Debiasing
강의 노트(선택 사항)
1
External Tool
- 강의 노트 W2
퀴즈
1
Assignment
- 자연어 처리 및 단어 임베딩
프로그래밍 과제
- 단어 벡터 - Debiasing에 대한 연산
- Emojify
다양한 시퀀스 투 시퀀스 아키텍처
8
Videos
- 기본 모델
- 가장 가능성이 높은 문장 고르기
- 빔 검색
- 빔 검색 개선
- 빔 검색의 오류 분석
- 블루 스코어(선택 사항)
- 주의 모델 직관력
- 주의 모델
2
Readings
- 블루 스코어 *수정*
- 수정
음성 인식 - 오디오 데이터
2
Videos
- 음성 인식
- 트리거 단어 감지
강의 노트(선택 사항)
1
External Tool
- 강의 노트 W3
퀴즈
1
Assignment
- 시퀀스 모델 및 주의 메커니즘
프로그래밍 과제
- 신경망 기계 번역
- 트리거 단어 감지
1
Readings
- 노트북을 열 수 없는 경우의 지침
트랜스포머
4
Videos
- 트랜스포머 네트워크 직관
- 자기 주의
- 다중 헤드 주의
- 트랜스포머 네트워크
강의 노트(선택 사항)
1
External Tool
- 강의 노트 W4
퀴즈
1
Assignment
- 트랜스포머
프로그래밍 과제
- TensorFlow를 사용한 트랜스포머 아키텍처
트랜스포머 애플리케이션 - 채점하지 않는 실습
3
Labs
- 트랜스포머 전처리
- 트랜스포머 네트워크 애플리케이션: 명명된 엔터티 인식
- 트랜스포머 네트워크 애플리케이션: 질의응답
1
Readings
- Trax 라이브러리를 사용한 트랜스포머
결론
1
Videos
- 결론 및 감사의 말씀!
참고문헌 및 감사의 말
3
Readings
- 참고문헌
- 감사의 말
- (선택사항) 다른 학습자를 멘토링할 수 있는 기회
Auto Summary
Embark on a transformative journey into the world of sequence models with this advanced course, tailored for data science and AI enthusiasts. This fifth installment in the Deep Learning specialization dives deep into sequence models and their captivating applications such as speech recognition, music synthesis, chatbot development, machine translation, and natural language processing (NLP). Under the expert guidance of Coursera, learners will master the construction and training of recurrent neural networks (RNN), along with their powerful variants like GRU and LSTM. The course provides hands-on experience in applying RNNs to character-level language modeling and delves into the intricacies of NLP and word embeddings. Additionally, participants will explore cutting-edge tools such as HuggingFace tokenizers and transformer models to tackle various NLP tasks, including named entity recognition (NER) and question answering. Designed for professionals aiming to deepen their expertise in deep learning, this course offers the knowledge and skills necessary to excel in the AI domain. Although the course duration is flexible to accommodate different learning paces, a subscription plan is available in both Starter and Professional tiers to suit diverse learning needs. Ideal for those ready to take significant strides in their AI careers, this course equips learners with the competencies to contribute to the development of state-of-the-art AI technologies.

Andrew Ng

Kian Katanforoosh