[AIBT 2급 이론 04] 딥러닝 혁명부터 ChatGPT까지, 알파고·트랜스포머 총정리 (+예상문제)

AIBT 2급 이론 정리 시리즈 4탄!!!

 

두 번의 AI 겨울을 지나

2000년대 머신러닝으로 다시 살아난 AI

 

그리고 2010년대

딥러닝이 등장하면서 완전히 판이 바뀐다!

 

오늘은 딥러닝 혁명부터

지금 우리가 쓰는 ChatGPT가 나오기까지 정리해보자

 

과목: 생성형 AI와 인공지능 이론

출제 영역: 인공지능 역사 이해

 

▶ [이론 03] AI의 겨울과 부활 보러가기

 

[ 1. 딥러닝 시대 한눈에 보기 ]

연도	사건	의미
2006	힌턴의 심층 신뢰망(DBN)	깊은 신경망을 학습시키는 방법 제시, "딥러닝" 부활의 신호탄
2012	AlexNet 이미지넷 대회 우승	GPU로 학습한 딥러닝이 이미지 인식 오류율을 크게 낮춤
2014	GAN 발표	이안 굿펠로우, 생성자와 판별자가 경쟁하며 이미지를 만듦
2016	알파고 vs 이세돌	구글 딥마인드, 4승 1패로 승리
2017	트랜스포머 발표	구글 논문 「Attention Is All You Need」, 지금 LLM의 뼈대
2018	BERT · GPT-1	트랜스포머 기반 언어모델 본격 등장
2020	GPT-3	파라미터 1,750억 개, 초대형 언어모델 시대
2022.11	ChatGPT 출시	OpenAI, 출시 두 달 만에 사용자 1억 명 돌파로 화제
2023~	GPT-4 · Claude · Gemini 등	텍스트+이미지를 함께 다루는 멀티모달 경쟁

 

[ 2. 딥러닝은 왜 2010년대에 터졌을까? ]

 

신경망 아이디어는 1950년대부터 있었는데

왜 이제서야 성공했을까?

딥러닝 성공의 3요소는 꼭 외우자!

요소	내용
① 빅데이터	인터넷·스마트폰으로 학습할 데이터가 폭발적으로 늘어남
② GPU 연산	게임용 그래픽카드(GPU)로 대규모 병렬 계산이 가능해짐
③ 알고리즘 개선	ReLU 활성화 함수, 드롭아웃 등으로 깊은 신경망 학습 문제(기울기 소실, 과적합) 완화

 

[ 3. 2012년 AlexNet, 딥러닝 시대의 시작 ]

 

이미지넷(ImageNet) 대회는

수많은 사진을 보고 무엇인지 맞히는 이미지 인식 대회

 

2012년 힌턴 교수 연구팀의 AlexNet이

GPU로 학습한 딥러닝으로

2위와 큰 차이로 우승하면서

"딥러닝이 진짜 된다!"는 걸 보여줬다

 

[ 4. 2016년 알파고 쇼크 ]

 

구글 딥마인드의 알파고(AlphaGo)가

이세돌 9단을 4승 1패로 이긴 사건

 

바둑은 경우의 수가 너무 많아서

AI가 사람을 이기기 어렵다고 여겨졌기 때문에 충격이 컸다

알파고 핵심 기술	역할
딥러닝	기보 데이터로 좋은 수를 학습
강화학습	스스로 대국하며 이기는 방법을 익힘
몬테카를로 트리 탐색	유망한 수를 골라 깊게 내다봄

 

참고로 1997년 체스 AI 딥블루는 계산으로 수를 탐색했고

알파고는 학습으로 판단력을 키웠다는 게 큰 차이!

 

[ 5. 2017년 트랜스포머, LLM의 뿌리 ]

 

구글이 발표한 논문

「Attention Is All You Need」

 

문장 속 단어들 사이의 관계를

어텐션(Attention)으로 한 번에 계산하는 구조로

긴 문장도 빠르고 정확하게 처리할 수 있게 됐다

 

GPT의 T가 바로 Transformer!

(GPT = Generative Pre-trained Transformer)

 

트랜스포머 구조는 [이론 13] 언어모델의 발전에서 자세히 다룬다

 

[ 6. 2022년 ChatGPT와 생성형 AI 시대 ]

 

2022년 11월 OpenAI가 공개한 ChatGPT

누구나 대화로 AI를 쓸 수 있게 되면서

생성형 AI가 일상과 업무로 들어오기 시작했다

 

이후 GPT-4, Claude, Gemini, 하이퍼클로바X 등

여러 회사의 AI가 경쟁하는 시대가 됐다

 

[ 7. 딥러닝의 아버지들 ]

인물	한 줄 정리
제프리 힌턴	딥러닝의 대부, 역전파·심층 신뢰망·AlexNet. 2024년 노벨 물리학상
얀 르쿤	합성곱 신경망(CNN)의 선구자
요슈아 벤지오	딥러닝·언어모델 연구의 선구자

 

세 사람은 딥러닝을 발전시킨 공로로

2018년 튜링상(컴퓨터 분야의 노벨상)을 함께 받았다

 

[ 시험 포인트 정리 ]

포인트	이것만은 기억!
딥러닝 성공 3요소	빅데이터, GPU, 알고리즘 개선
AlexNet	2012년 이미지넷 대회 우승, 딥러닝 시대 개막
GAN	2014년 이안 굿펠로우, 생성자 vs 판별자
알파고	2016년, 이세돌에게 4승 1패, 딥러닝+강화학습
트랜스포머	2017년 구글, 「Attention Is All You Need」, 어텐션
GPT	Generative Pre-trained Transformer
ChatGPT	2022년 11월 OpenAI 출시

 

[ 예상문제 ]

 

Q1. 2012년 이미지넷 대회에서 우승하며 딥러닝 시대를 연 모델은?

① 딥블루

② AlexNet

③ ELIZA

④ MYCIN

 

Q2. (단답형) 2017년 구글이 「Attention Is All You Need」 논문에서 발표했으며

GPT 같은 대형 언어모델의 기반이 된 신경망 구조는?

 

Q3. 딥러닝이 2010년대에 급성장한 이유로 옳지 않은 것은?

① 학습에 쓸 수 있는 데이터가 크게 늘었다

② GPU로 대규모 병렬 연산이 가능해졌다

③ ReLU, 드롭아웃 등 알고리즘이 개선됐다

④ 전문가가 if-then 규칙을 더 많이 입력했다

 

Q4. 다음 사건을 시간 순서대로 바르게 나열한 것은?

ㄱ. ChatGPT 출시　ㄴ. 알파고 vs 이세돌　ㄷ. AlexNet 우승　ㄹ. 트랜스포머 발표

① ㄷ → ㄴ → ㄹ → ㄱ

② ㄴ → ㄷ → ㄹ → ㄱ

③ ㄷ → ㄹ → ㄴ → ㄱ

④ ㄹ → ㄷ → ㄴ → ㄱ

 

Q5. (단답형) GPT의 약자에서 G, P, T가 각각 뜻하는 단어를 영어로 쓰시오.

 

 

---

 

[ 정답 & 해설 ]

문제	정답	해설
Q1	②	AlexNet은 힌턴 연구팀이 GPU로 학습시킨 딥러닝 모델. 딥블루는 체스, ELIZA는 챗봇, MYCIN은 전문가 시스템
Q2	트랜스포머 (Transformer)	어텐션으로 단어 사이 관계를 한 번에 계산하는 구조
Q3	④	if-then 규칙을 직접 입력하는 건 전문가 시스템(규칙 기반) 방식이다
Q4	①	AlexNet(2012) → 알파고(2016) → 트랜스포머(2017) → ChatGPT(2022)
Q5	Generative, Pre-trained, Transformer	생성하는, 사전학습된, 트랜스포머 모델이라는 뜻

 

이걸로 인공지능의 기원과 역사 파트는 끝!

다음 글부터는 인공지능 알고리즘 파트로 넘어간다

 

다음 글은 [이론 05] 머신러닝 vs 딥러닝 차이!

▶ [이론 05] 머신러닝 vs 딥러닝 차이 보러가기

 

▶ AIBT 2급 시험 정보 총정리 보러가기

▶ AIBT 2급 스터디 자료 보러가기 (AI&DATA 자격증 스터디 클럽)

 

AIBT 2급 준비하시는 분들 모두 화이팅입니다~~~~~ ^^