목차
1부. 클라우드의 힘과 언어 혁신의 통합
1장. 클라우드 컴퓨팅과 생성형 AI의 만남: 무한한 가능성의 연결
대화형 AI의 진화
____대화형 AI란 무엇인가?
____대화형 AI의 진화
생성형 AI 소개
____2022-23년 생성형 AI의 부상
____기초 모델
____LLM
____LLM의 핵심 속성
____생성형 AI, 기초 모델, LLM 간의 관계
자세히 살펴보기 - 오픈 소스 대 폐쇄 소스/독점 모델
인기 모델, 작업 및 비즈니스 애플리케이션
____텍스트
____이미지
____오디오
____비디오
확장성, 비용 최적화 및 보안을 위한 클라우드 컴퓨팅
비전에서 가치로 - 프로덕션으로 가는 여정 탐색하기
요약
참고 자료
2장. NLP의 진화와 트랜스포머: NLP와 LLM 살펴보기
NLP의 진화와 트랜스포머의 부상
____RNN과 CNN의 주요 단점
____NLP와 LLM에서 생성형 AI의 강점
____트랜스포머는 어떻게 작동하나?
____트랜스포머의 장점
____대화 프롬프트 및 완료 - 내부
프롬프트 및 완료 흐름 간소화
LLM의 현재, 진행 상황 및 확장
____트랜스포머 아키텍처의 환경 살펴보기
____AutoGen
요약
참고 자료
2부. LLM 맞춤화를 위한 기술
3장. 미세 조정: 도메인별 LLM 애플리케이션 구축하기
미세 조정이란 무엇이며 왜 중요한가?
____애플리케이션 미세 조정
____사전 교육 및 미세 조정 프로세스 살펴보기
모델 미세 조정을 위한 기술
____전체 미세 조정
____PEFT
RLHF - 모델을 사용자의 가치에 맞추기
미세 조정된 모델 성능을 평가하는 방법
____평가 지표
____벤치마크
미세 조정 성공의 실제 사례
____InstructGPT
요약
참고 자료
4장. RAG를 풍부하게: 외부 데이터로 AI 수준 높이기
벡터 DB 필수 요소에 대한 심층 분석
____벡터 및 벡터 임베딩
____벡터 검색 전략
____HNSW와 FAISS를 사용해야 하는 경우
____기사 추천 시스템
벡터 스토어
____벡터 DB란 무엇인가
____벡터 DB 제한 사항
____벡터 라이브러리
____벡터 DB와 기존 데이터베이스 - 주요 차이점 이해
____벡터 DB 예제 시나리오 - 벡터 DB를 활용한 음악 추천 시스템
일반적인 벡터 DB 애플리케이션
RAG에서 벡터 DB의 역할
____첫째, 큰 질문 - 왜?
____RAG란 무엇이며, LLM에 어떻게 도움이 될까?
____벡터 DB의 중요한 역할
RAG의 비즈니스 애플리케이션
청킹 전략
____청킹이란 무엇인가?
____청킹이 필요한 이유?
____인기 있는 청킹 전략
____청킹 고려 사항
Azure Prompt Flow를 사용한 RAG 평가
사례 연구 - 다국적 기업의 글로벌 채팅 애플리케이션 배포
요약
참고 자료
5장. 효과적인 프롬프트 엔지니어링 기법: AI를 통한 지혜의 발견
프롬프트 엔지니어링의 필수 요소
____챗GPT 프롬프트 및 완료
____토큰
프롬프트 엔지니어링이란 무엇인가?
____좋은 프롬프트 디자인의 요소
____프롬프트 파라미터
____챗GPT 역할
효과적인 프롬프트 엔지니어링을 위한 기술
____N샷 프롬프트
____생각의 사슬 프롬프트
____프로그램 지원 언어 모델
____프롬프트 엔지니어링 모범 사례
____추가 팁과 요령
프롬프트 엔지니어링을 위한 윤리적 지침
요약
참고 자료
3부. 생성형 AI 애플리케이션의 개발, 운영, 확장
6장. LLM 기반 앱 개발 및 운영하기: 개발 프레임워크 및 LLMOps 살펴보기
코파일럿 및 에이전트
생성형 AI 애플리케이션 개발 프레임워크
____시맨틱 커널
____LangChain
____LlamaIndex
자율 에이전트
에이전트 협업 프레임워크
____Autogen
____TaskWeaver
____AutoGPT
LLMOps - 프로덕션 환경에서 LLM 앱 운영하기
____LLMOps란 무엇인가?
____LLMOps가 필요한 이유는?
____LLM 수명 주기 관리
____LLMOps의 필수 구성 요소
____LLMOps의 이점
____MLOps와 LLMOps 비교
____플랫폼 - LLMOps에 Prompt Flow 사용
____모든 것을 종합하기
____LLMOps - 사례 연구 및 모범 사례
요약
참고 자료
7장. 클라우드에 챗GPT 배포하기: 아키텍처 설계 및 확장 전략
제한 사항 이해
클라우드 확장 및 디자인 패턴
____스케일링이란 무엇인가?
____TPM, RPM, PTU 이해
____디자인 패턴 확장
____지수 백오프를 사용한 재시도 - 특별한 확장 기법
____Azure APIM의 속도 제한 정책
모니터링, 로깅, HTTP 응답 코드
____모니터링 및 로깅
____HTTP 응답 코드
비용, 교육, 지원
____비용
____교육
____지원
요약
참고 자료
4부. 안전하고 보안성 있는 AI 구축 - 보안 및 윤리적 고려 사항
8장. 생성형 AI를 위한 보안 및 개인 정보 보호 고려 사항: 안전한 구축 및 보안 LLM
생성형 AI의 보안 위험 이해 및 완화
새로운 보안 위협 - 공격 벡터와 향후 과제 살펴보기
____DoS 모델
____탈옥 및 프롬프트 주입
____학습 데이터 오염
____안전하지 않은 플러그인(어시스턴트) 디자인
____안전하지 않은 출력 처리
조직에서 보안 제어 적용하기
____콘텐츠 필터링
____관리되는 ID
____키 관리 시스템
개인 정보 보호란 무엇인가?
____클라우드에서의 개인 정보 보호
생성형 AI 시대의 데이터 보안
레드 팀 구성, 감사, 보고
____감사
____보고
요약
참고 자료
9장. AI 솔루션의 책임 있는 개발: 정직성과 배려로 구축하기
RAI 설계 이해
____RAI란 무엇인가?
RAI의 핵심 원칙
____윤리적이고 설명 가능한
____공정성 및 포용성
____신뢰성 및 안전성
____투명성
____개인 정보 보호 및 보안
____책임
RAI 원칙으로 LLM 과제 해결
____지적 재산권 문제(투명성 및 책임)
____환각(신뢰성 및 안전성)
____유해성(공정성 및 포용성)
증가하는 딥페이크 우려
____딥페이크란 무엇인가?
____딥페이크의 실제 사례
____사회에 미치는 악영향
____딥페이크 식별 방법
____완화 전략
RAI 우선 접근 방식을 사용한 애플리케이션 구축
____아이디어 발굴/탐색 루프
____구축/확장 루프
____운영화/배포 루프
____AI 아키텍트의 역할과 리더십
AI, 클라우드, 법률 - 규정 준수 및 규제 이해
____규정 준수 고려 사항
____글로벌 및 미국 AI 규제 환경
____AI에 관한 바이든 행정명령
RAI의 스타트업 생태계
요약
참고 자료
5부. 생성형 AI - 다음 단계는?
10장 생성형 AI의 미래: 트렌드와 새로운 사용 사례
멀티모달 상호 작용의 시대
____GPT-4V와 그 이상 - 이 LMM에 대해 자세히 알아보기
____비디오 이해를 위한 비디오 프롬프트
____비디오 생성 모델 - 먼 꿈일까?
____AI가 냄새를 맡을 수 있는가?
산업별 생성형 AI 애플리케이션
SLM의 부상
지능형 에지 디바이스와 생성형 AI 통합
새로운 트렌드와 2024-2025년 예측
양자 컴퓨팅에서 AGI까지 - 챗GPT의 미래
____AGI란 무엇인가?
____양자 컴퓨팅 및 AI
____AGI가 사회에 미치는 영향
요약
참고 자료