목차
추천사
들어가며
제1장. 인간을 능가하는 GPT-4
인간을 능가하는 GPT-4의 등장
GPT의 핵심인 언어 모델 살펴보기
초거대 모델, 크기 전쟁을 시작하다
할루시네이션, 환각 또는 환상
과연 GPT-4의 비밀은?
제2장. 기계번역을 정복한 인공지능
너무 어려운 인간의 언어
인공 신경망, 언어에 도전하다
트랜스포머 모델, 언어를 이해하다
챗봇, 인간의 오랜 꿈
제3장. 챗GPT를 완성한 비밀 레시피
세상을 바꿀 GPT 역사의 시작
임베딩과 토큰, 언어를 효율적으로 쪼개는 방법
어텐션, GPT의 핵심 알고리즘
스케일링 법칙, 크면 클수록 좋다
RLHF, 챗GPT를 완성하는 비밀 레시피
제4장. 초거대 모델 최적화 기술
초거대 모델을 여러 GPU에 담는 법
매개변수는 몇 바이트일까요?
양자화, 초거대 모델을 작게 만드는 비밀
플래시 어텐션, 빛처럼 빠른 속도의 비밀
KV캐시, 더욱더 빠르게
품질 좋은 문장을 생성하는 비밀 옵션
수천 장의 GPU에 분산 학습하는 법
과연 좋은 모델이란?
제5장. 프롬프트 엔지니어링의 마법
프롬프트 엔지니어링으로 원하는 결과 얻기
예시를 보여주면 더 좋은 결과를 보여드립니다
생각의 사슬, 복잡한 문제를 단계적으로 풀기
RAG, 검색으로 성능을 높이는 마법
벡터 데이터베이스, LLM의 성능을 높이는 또 다른 기술
고급 프롬프트 엔지니어링 기법을 소개하며
오픈AI o1, 생각을 거듭할수록 더 좋은 결과를 제시하다
딥시크 R1, 엔비디아 주가를 18% 폭락시킨 중국의 힘
제6장. 1,000조 시장을 향한 글로벌 기업들의 경쟁
오픈AI, 세계 최고의 인공지능 기업
앤트로픽, 오픈AI 출신들이 설립한 새로운 회사
구글과 메타, 세계 최고 빅테크 기업들의 도전
xAI, 인공지능에 다시 도전하는 일론 머스크
유럽, 중동, 중국 그리고 우리나라
퍼플렉시티와 허깅페이스, LLM을 더욱 빛나게 만드는 회사들
제7장. 엔비디아와 반도체 전쟁
청바지를 판매하는 엔비디아의 탄생
세계 최고의 엔비디아 GPU와 이를 뒷받침하는 SK하이닉스 HBM
전 세계는 반도체 전쟁 중
엔비디아를 맹렬히 추격하다: AMD, 구글, 인텔, 아마존, 마이크로소프트, 메타
엔비디아와 다르게 경쟁하다: 애플, 그록, 텐스토렌트, 퓨리오사AI, 하이퍼엑셀
TSMC, 모두가 청바지 원단 회사를 꿈꾸며
중국의 도전 vs 미국의 견제
제8장. 인공지능의 미래와 인류의 도전
무엇이 문제인가
문제를 극복하기 위한 다양한 노력
일상생활의 필수품이 된 LLM
기술을 거부하던 러다이트 운동
천재란 어떤 사람인가? 창의성이란 무엇인가?
LLM의 미래는 어떻게 될까?
용어집
주석