[10.30] LLM(대규모 언어 모델) 서비스 개발자를 위한 실무 교육 > 세미나 | :: 한국미래기술교육연구원

지난교육일정

[10.30] LLM(대규모 언어 모델) 서비스 개발자를 위한 실무 교육
- 프롬프트 엔지니어링, 파인튜닝, 임베딩 모델, 멀티 모달, LangChain, RAG 외 -

세미나 개요

주제 : [10.30] LLM(대규모 언어 모델) 서비스 개발자를 위한 실무 교육
- 프롬프트 엔지니어링, 파인튜닝, 임베딩 모델, 멀티 모달, LangChain, RAG 외
일시 : 2024-10-30 10:00-17:00
장소 : FKI 타워 컨퍼런스센터 2층, 사파이어홀(여의도)/ 온라인
주최 : 한국미래기술교육연구원

프로그램

일자	시간	주제
10/30 수	10:00~10:50 (60분간)	LLM 및 트랜스포머 아키텍처 기초 - LLM 개요 및 트랜스포머 아키텍처 설명 : 인코더, 디코더, 어텐션 메커니즘 - 텍스트 임베딩과 토크나이저 사용법 : 토큰화, 토큰 임베딩, 위치 인코딩 - 어텐션 메커니즘 이해 : 쿼리, 키, 값, 멀티 헤드 어텐션 - 주요 사전 학습 메커니즘 : 인과적 언어 모델링, 마스크 언어 모델링 - 시연 : 허깅페이스 라이브러리를 이용한 트랜스포머 모델 - 시연 : 트랜스포머 아키텍처를 활용한 텍스트 분석
	11:00~11:50 (60분간)	프롬프트 엔지니어링 - 프롬프트 엔지니어링의 기본 개념 : 퓨샷 학습, 출력 구조화, 페르소나 지정 - 고급 프롬프트 체이닝 및 인젝션 방어 기법 :프롬프트 체이닝, CoT - 입력/출력 유효성 검사 및 NLI 기반 유효성 검사 파이프라인 - 주요 사전 학습 메커니즘 : 인과적 언어 모델링, 마스크 언어 모델링 - 시연 : ChatGPT를 활용한 Q/A 챗봇 만들기
	12:00~12:50 (60분간)	LLM 파인튜닝 및 전이 학습 - 파인튜닝과 전이 학습의 개념 및 사례 - 파인튜닝된 모델을 애플리케이션에 통합하는 방법 - 강화 학습 개념 이해 (RLHF, DPO) - 시연 : OpenAI API를 이용한 GPT-3 파인튜닝 - 데이터셋 준비, 하이퍼파라미터 선택 - 시연 : LoRA 및 QLoRA를 활용한 파라미터 최적화 수행
	14:00~14:50 (60분간)	임베딩 모델과 의미 기반 검색 - 텍스트 임베딩의 기본 개념 및 방식 : 원핫 인코딩, 백오브워즈, TF-IDF, 워드투벡 - 의미 기반 검색과 벡터 데이터베이스의 역할 - 검색 결과 재순위화 및 성능 향상 기법 - 시연 : 벡터 데이터베이스를 사용한 의미 기반 검색 시스템 구현 - 시연 : Sentence-Transformers를 사용한 의미 검색 최적화
	15:00~15:50 (60분간)	맞춤형 임베딩 모델 개발 - 맞춤형 임베딩 모델 개념 및 학습 방법 : 대조 학습, MNR 손실 - 검색 품질을 높이는 순위 재정렬 방법 - 검색 결과 재순위화 및 성능 향상 기법 - 시연 : 유사한 문장 데이터로 임베딩 모델 학습 - 시연 : 교차 인코더와 바이 인코더를 사용해 RAG 검색 성능 향상 - 시연 : 미세 조정된 임베딩 모델로 검색 성능 비교 및 최적화
	16:00~16:50 (60분간)	LLM 실전 응용 및 운영 - MLOps와 LLMOps 개념 : 데이터 관리, 실험 관리, 모델 모니터링 - 모델 성능 모니터링 및 평가 지표 설정 - LLM 평가 방법 및 최적화 : 양자화, 가지치기, 지식 증류 - 시연 : LLM 모델을 프로덕션 환경에 배포 및 운영하는 방법 - 시연 : Hugging Face와 OpenAI API를 활용한 모델 배포 - 시연 : 벡터 데이터베이스와 RAG 시스템을 활용한 성능 최적화

상단 비쥬얼 이미지

kecft 하단 로고

상호 : 한국미래기술교육연구원|대표 : 박희정|사업자번호 113-19-06409|통신판매업신고 : 서울중랑-0870호
주소 : 서울 중랑구 신내역로 111 신내SKV1 1211호|TEL : 02-545-4020|FAX : 02-6008-9134
Email : kecft@kecft.or.kr | 긴급문의 (24H) : (카카오톡채널) 한국미래기술교육연구원 검색 후 문의

KB 에스크로 이체 로고

Copyright ⓒ 한국미래기술교육연구원 Corp. All Right Reserved.

상단으로