프라하의 봄

[AIBT 2급 이론 14] LLM 핵심 개념, 환각·RAG·멀티모달 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 14탄!!! 1회 시험에 환각(Hallucination)이 나왔었다 AI한테 물어봤더니 없는 논문을 진짜처럼 알려줬다(?)이게 바로 환각이고 업무에 AI 쓸 때 제일 조심해야 하는 부분! 오늘은 LLM 핵심 개념인 환각 · RAG · 멀티모달을 정리해보자생성형 AI 이론 파트의 마지막 글이다 과목: 생성형 AI와 인공지능 이론출제 영역: 생성형 AI를 위한 초대형 언어모델 이해 ▶ [이론 13] 언어모델의 발전, N-gram·RNN·트랜스포머 보러가기 [ 1. LLM이란? ] Large Language Model (초대형 언어모델)엄청난 양의 텍스트로 학습한 파라미터 수십억~수천억 개짜리 언어모델13번 글의 트랜스포머가 바탕이고 GPT · Claude · Gemini · ..

[AIBT 2급 이론 13] 언어모델의 발전, N-gram·RNN·트랜스포머 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 13탄!!! 1회 시험에 엔-그램(N-gram) 모형이 나왔었다 ChatGPT가 갑자기 하늘에서 떨어진 게 아니라N-gram → RNN → LSTM → 트랜스포머로언어모델이 차근차근 발전해 온 결과! 오늘은 그 흐름을 한 번에 정리해보자 과목: 생성형 AI와 인공지능 이론출제 영역: 생성형 AI를 위한 초대형 언어모델 이해 ▶ [이론 12] Temperature·Top-p·Top-k 생성 파라미터 보러가기 [ 1. 언어모델이란? ] 단어들이 이어질 확률을 계산해서다음에 올 단어를 예측하는 모델 "나는 아침에 ___" 다음에"밥을"이 올 확률이 "우주를"보다 높다는 걸 아는 것! [ 2. 한눈에 보는 언어모델 발전사 ]단계모델핵심 아이디어한계1N-gram앞의 N-1개 단어로..

[AIBT 2급 이론 12] Temperature·Top-p·Top-k 생성 파라미터 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 12탄!!! 1회 시험에 나왔던 Temperature! 같은 질문을 해도 AI 답이 매번 조금씩 다른 이유,그리고 그걸 조절하는 손잡이가 바로 생성 파라미터다 과목: 생성형 AI와 인공지능 이론출제 영역: 생성형 AI 필수요소 이해 ▶ [이론 11] 토큰·임베딩·컨텍스트 윈도우 보러가기 [ 1. LLM은 다음 토큰을 확률로 고른다 ] 11번 글에서 본 것처럼 LLM은다음에 올 토큰의 확률을 계산해서 하나씩 고른다 예를 들어 "오늘 점심은 ___" 다음에 올 단어 후보가 이렇다고 해보자후보 단어확률김치찌개50%짜장면30%파스타15%우주선5% 항상 1등(김치찌개)만 고르면 매번 같은 답이 나오고확률에 따라 뽑으면 가끔 짜장면, 파스타도 나온다 이 "얼마나 모험할지"를 정하는 ..

[AIBT 2급 이론 11] 토큰·임베딩·컨텍스트 윈도우 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 11탄!!! ChatGPT 같은 LLM은우리가 쓴 글을 글자 그대로 읽는 게 아니다 글을 토큰으로 쪼개고임베딩으로 숫자로 바꾼 다음컨텍스트 윈도우 안에서만 기억하면서 처리한다 오늘은 이 세 가지 필수 용어를 정리해보자! 과목: 생성형 AI와 인공지능 이론출제 영역: 생성형 AI 필수요소 이해 ▶ [이론 10] 이미지 생성 AI, GAN·확산 모델·스테이블 디퓨전 보러가기 [ 1. LLM이 글을 처리하는 흐름 ]단계하는 일① 토큰화입력한 문장을 토큰 단위로 쪼갬② 토큰 ID 변환각 토큰을 사전에 등록된 번호로 바꿈③ 임베딩번호를 의미를 담은 숫자 벡터로 바꿈④ 트랜스포머 처리문맥을 파악해 다음에 올 토큰의 확률을 계산 (13번 글)⑤ 출력확률에 따라 토큰을 하나씩 골라 이어..

[AIBT 2급 이론 10] 이미지 생성 AI, GAN·확산 모델·스테이블 디퓨전 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 10탄!!! 1회 시험에 스테이블 디퓨전 + 푸우 사진이 나왔던 바로 그 파트! 글 몇 줄로 그림을 만들어주는 이미지 생성 AI는어떤 원리로 돌아가는지대표 모델 3개만 확실히 잡고 가자 과목: 생성형 AI와 인공지능 이론출제 영역: 생성형 AI 기초원리 이해 ▶ [이론 09] 생성형 AI란? 판별 모델 vs 생성 모델 보러가기 [ 1. GAN (생성적 적대 신경망) ] 2014년 이안 굿펠로우가 발표한 모델두 개의 신경망이 서로 경쟁하면서 실력을 키운다구성역할비유생성자 (Generator)가짜 이미지를 진짜처럼 만들어냄위조지폐범판별자 (Discriminator)진짜인지 가짜인지 가려냄경찰 위조지폐범은 경찰을 속이려고 점점 정교하게 만들고경찰은 더 잘 잡으려고 눈이 높아지고..

[AIBT 2급 이론 09] 생성형 AI란? 판별 모델 vs 생성 모델 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 9탄!!! 오늘부터 생성형 AI 파트 시작! AIBT라는 시험 자체가생성형 AI를 업무에 쓰는 능력을 보는 시험이라이 파트는 특히 꼼꼼하게 보고 가자 과목: 생성형 AI와 인공지능 이론출제 영역: 생성형 AI 기초원리 이해 ▶ [이론 08] 인공신경망 기초와 과적합 보러가기 [ 1. 생성형 AI(Generative AI)란? ] 학습한 데이터의 패턴을 바탕으로텍스트·이미지·음성·영상·코드 같은 새로운 콘텐츠를 만들어내는 AI 지금까지 AI가 주로 "이게 뭔지 맞히는" 일을 했다면생성형 AI는 "없던 걸 새로 만들어내는" 일을 한다! [ 2. 판별 모델 vs 생성 모델 ]시험에 비교 문제로 꼭 나오는 부분구분판별 모델 (Discriminative)생성 모델 (Generati..

[AIBT 2급 이론 08] 인공신경망 기초와 과적합, 활성화 함수 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 8탄!!! 딥러닝의 뼈대인 인공신경망그리고 AI 학습에서 가장 흔한 문제인 과적합까지! 수식은 몰라도 된다용어와 흐름만 정확하게 잡고 가자 과목: 생성형 AI와 인공지능 이론출제 영역: 인공지능 알고리즘 이해 ▶ [이론 07] 전이학습·사전학습·파인튜닝 보러가기 [ 1. 인공 뉴런은 이렇게 생겼다 ] 사람 뇌의 신경세포(뉴런)를 흉내 낸 계산 단위여러 입력을 받아서 하나의 출력을 낸다구성요소역할비유입력 (x)들어오는 데이터 값여러 친구의 의견가중치 (w)각 입력이 얼마나 중요한지친구별 신뢰도편향 (b)출력이 나오는 기준점을 조정내 원래 성향가중합입력 × 가중치를 모두 더하고 편향을 더한 값의견 종합 점수활성화 함수가중합을 보고 다음으로 신호를 보낼지·얼마나 보낼지 결정최종..

[AIBT 2급 이론 07] 전이학습·사전학습·파인튜닝 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 7탄!!! 오늘도 1회 시험에 나왔던 주제!전이학습, 사전학습, 파인튜닝 세 단어가 비슷비슷해 보여서 헷갈리는데"순서와 관계"로 이해하면 한 번에 정리된다 과목: 생성형 AI와 인공지능 이론출제 영역: 인공지능 알고리즘 이해 ▶ [이론 06] 지도·비지도·강화학습 구분 보러가기 [ 1. 한 줄 정의 ]용어한 줄 정의비유사전학습 (Pre-training)대규모 범용 데이터로 미리 폭넓게 학습학교에서 국어·수학 같은 기초를 배우는 것파인튜닝 (Fine-tuning)사전학습 모델을 특정 목적 데이터로 추가 학습해 미세 조정입사 후 회사 업무를 따로 배우는 것전이학습 (Transfer Learning)한 작업에서 배운 지식을 다른 관련 작업에 옮겨 활용하는 방법 전체피아노 배운 ..

[AIBT 2급 이론 06] 지도학습·비지도학습·강화학습 구분 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 6탄!!! 오늘은 1회 시험에 실제로 나왔던 주제! 시험에서는 상황(사례)을 하나 주고"이건 어떤 학습 방법인가?"를 고르게 했다개념보다 사례 구분 연습이 핵심이다 과목: 생성형 AI와 인공지능 이론출제 영역: 인공지능 알고리즘 이해 ▶ [이론 05] 머신러닝 vs 딥러닝 차이 보러가기 [ 1. 한 줄로 구분하기 ] 구분 기준은 딱 하나"정답(레이블)을 주느냐, 보상을 주느냐"학습 방법데이터한 줄 정리지도학습정답(레이블)이 있는 데이터문제와 정답을 같이 보여주며 가르친다비지도학습정답이 없는 데이터데이터 속 숨은 구조·패턴을 스스로 찾는다강화학습정답 대신 보상시행착오로 보상이 가장 큰 행동을 배운다 [ 2. 지도학습 (Supervised Learning) ] 선생님(정답)이..

[AIBT 2급 이론 05] 머신러닝 vs 딥러닝 차이 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 5탄!!! 오늘부터는 인공지능 알고리즘 파트! 01번 글에서 AI ⊃ 머신러닝 ⊃ 딥러닝이라고 했는데그럼 머신러닝과 딥러닝은 정확히 뭐가 다를까?시험에 비교 문제로 정말 잘 나오는 부분이다 과목: 생성형 AI와 인공지능 이론출제 영역: 인공지능 알고리즘 이해 ▶ [이론 04] 딥러닝 혁명부터 ChatGPT까지 보러가기 [ 1. 머신러닝이란? ] 데이터를 보고 컴퓨터가 스스로 규칙을 배우는 기술 머신러닝이라는 말을 대중화한 아서 사무엘(1959)은"명시적으로 프로그래밍하지 않아도컴퓨터가 학습할 수 있게 하는 연구 분야"라고 정의했다 톰 미첼(1997)의 정의도 자주 나온다기호의미스팸 메일 필터 예시T (Task)작업메일이 스팸인지 분류하기E (Experience)경험(데이터..