OSI 7계층 파헤치기

 

OSI 7계층이란?

OSI : Open Systems Interconnection
국제표준화기구(ISO)가 1984년에 제정한 개방형 시스템 간 상호 통신을 위한 표준 참조 모델

초창기 네트워크는 각 회사마다 독자적인 방식으로 장비를 설계했기 때문에 서로 다른 회사의 장치끼리는 통신이 불가능했다.
이 문제를 해결하기 위해 ISO에서 설계/개발의 기준이 되는 표준 모델을 제시했고, 이것이 OSI 참조 모델이다.

프로토콜이란?
통신망에서 송·수신 측이 데이터를 주고받기 위해 미리 약속된 통신 규약.
구성 요소: 구문(Syntax) · 의미(Semantics) · 순서(Timing)

▲ OSI 7계층(좌)과 TCP/IP 4계층(우) 비교 구조

---

왜 계층을 나눴는가?

1. 분할 정복 (Divide and Conquer) : 복잡한 통신 문제를 계층별로 나누어 단순화
2. 독립성 확보 : 각 계층이 독립적인 역할을 수행 → 특정 계층에 문제가 생겨도 다른 계층에 영향 최소화
3. 문제 추적 용이 : 장애 발생 시 어느 계층의 문제인지 빠르게 파악 가능
4. 표준화 : 서로 다른 제조사의 장비가 상호 운용 가능

예시:
PC방에서 인터넷 연결이 끊겼을 때

현상	의심 계층
모든 PC에서 연결 불가 (케이블/광선로 문제)	1계층 (물리)
모든 PC에서 연결 불가 (라우터 문제)	3계층 (네트워크)
특정 스위치에 연결된 PC만 문제	2계층 (데이터 링크)
특정 애플리케이션만 문제	7계층 (응용)

---

계층 구조의 특징

• 상하 구조 : 하위 계층이 정상적으로 작동해야 상위 계층 동작 가능 (하위 계층이 전제조건)
• 독립성 : 각 계층은 인접 계층과의 인터페이스로만 통신, 서로의 내부 구현을 알 필요 없음
• 단방향 이동 : 계층 간 건너뜀 없이 인접 계층으로만 이동 가능
• 서비스 제공 : 각 계층은 하위 계층의 서비스를 사용하고, 상위 계층에 서비스를 제공

---

캡슐화 & 역캡슐화

캡슐화 (Encapsulation) — 송신 측

데이터를 상위 계층에서 하위 계층으로 내려보내면서 각 계층의 헤더(Header)를 붙이는 과정

헤더: 데이터의 앞부분에 전송하는 데 필요한 정보, 데이터를 전달받을 상대방에 대한 정보도 포함

[응용 계층]    DATA
[표현 계층]    DATA
[세션 계층]    DATA
[전송 계층]    TCP Header | DATA          → Segment
[네트워크 계층] IP Header  | TCP Header | DATA          → Packet
[데이터 링크]  MAC Header | IP Header | TCP Header | DATA | Trailer  → Frame
[물리 계층]    0101010101... (비트 전기신호)

참고: 2계층(데이터 링크)은 헤더뿐만 아니라 Trailer(트레일러)도 붙인다. (오류 검출용 FCS/CRC)

역캡슐화 (Decapsulation) — 수신 측

수신 측에서는 하위 계층에서 상위 계층으로 올라가면서 각 계층의 헤더를 벗겨내는 과정

▲ 송신 측 캡슐화(↓) → 수신 측 역캡슐화(↑) 전체 흐름

---

들어가기 전에

PDU

PDU란?

• Process Data Unit 의 줄임말
• 프로토콜 데이터 단위
• OSI 7계층 모델과 같이 계층화된 구조에서 같은 계층에 존재하는 두 통신 개체 간에 서로 주고 받게되는 헤더(제어 정보) 및 데이터(SDU, payload)가 합쳐진 캡슐화된 운반체

PDU의 구성

• PCI(Protocol Control Unit): 헤더 정보
  • 발신지 주소, 수신지 주소, 순서 번호, 오류 검출용 FCS 등
• SDU(Service Data Unit): 실제 사용자 정보

통신 계층 별 PDU의 다른 명칭

---

각 계층 상세

---

1계층 - 물리 계층 (Physical Layer)

키워드: 전기 신호, 비트, 물리적 연결

역할

• 데이터를 전기적 신호(0과 1의 비트) 로 변환하여 물리 매체를 통해 전송
• 데이터의 내용이나 오류에 대해서는 관여하지 않음 (단순 전달만 담당)
• 주소 개념이 없어, 신호가 들어온 포트를 제외한 모든 포트로 브로드캐스팅
• 아날로그 신호 ↔ 디지털 신호 변환
• 신호가 약해진 경우 리피터(Repeater) 로 신호 증폭

PDU (Protocol Data Unit)

Bit

프로토콜

Modem, Cable, Fiber, RS-232C

관련 장비

통신 케이블, 허브(Hub), 리피터(Repeater), 탭(Tap), 커넥터

▲ 물리 계층: 전기 신호(비트)를 케이블 등 물리 매체로 전송

---

2계층 - 데이터 링크 계층 (Data Link Layer)

키워드: MAC 주소, 프레임, 오류 제어, 흐름 제어, 순서 제어

역할

• 노드 대 노드(Point-to-Point) 간 신뢰성 있는 데이터 전송 담당
• 물리 계층에서 받은 비트 데이터를 프레임(Frame) 으로 구성 (프레이밍, Framing)
• MAC(Media Access Control) 주소 기반으로 통신
• 오류 제어: 물리 매체의 잡음으로 인한 오류를 검출·수정 (CRC 기반)
• 흐름 제어: 송·수신 측의 속도 차이를 Buffer 및 Window로 조절
• 순서 제어: ACK 신호의 일련번호로 프레임 순서 동기화
• 프레임 동기화: 프레임의 시작과 끝을 구별하기 위한 동기화

세부 기능

기능	설명
흐름 제어 (Flow Control)	수신 측이 수용 가능한 속도로 전송 조절
오류 제어 (Error Control)	오류 검출(CRC) + 재전송(ARQ)
순서 제어 (Sequence Control)	프레임 순서 보장
프레임 동기화	프레임 경계 식별

PDU

Frame

프로토콜

Ethernet, MAC, PPP, ATM, Wi-Fi (802.11), HDLC

관련 장비

스위치(Switch), 브릿지(Bridge), NIC(Network Interface Card)

MAC 주소란?
네트워크 인터페이스에 고유하게 부여된 48비트(6바이트) 물리적 주소.
형식: XX:XX:XX:XX:XX:XX (앞 3바이트 = 제조사 식별자 OUI, 뒤 3바이트 = 기기 고유번호)

---

3계층 - 네트워크 계층 (Network Layer)

키워드: IP 주소, 라우팅, 패킷, 경로 설정

역할

• 다중 네트워크를 거쳐 목적지 호스트까지 패킷(Packet) 전달
• IP 주소 기반으로 최적 경로 설정 (라우팅)
• 라우팅 프로토콜을 사용해 라우팅 테이블을 참조하여 경로 결정
• 2계층의 노드 대 노드 전달과 달리, 출발지에서 목적지까지의 종단 간 전달 담당

라우팅 프로토콜 종류

프로토콜	종류	설명
RIP	거리 벡터	홉 수(Hop Count) 기반, 최대 15홉
OSPF	링크 상태	링크 상태 정보로 최단 경로 계산 (Dijkstra)
BGP	경로 벡터	AS 간 라우팅, 인터넷 백본에서 사용
IGRP/EIGRP	Cisco 독자	대역폭, 지연 등 복합 메트릭 사용

PDU

Packet (Datagram)

프로토콜

IP, ICMP, ARP, IGMP, IPsec

관련 장비

라우터(Router), L3 스위치, IP 공유기

▲ 네트워크 계층: IP 주소 기반 라우팅 경로 결정

IP vs MAC 주소 차이

• MAC 주소: 물리적 주소, 변경 불가, 동일 네트워크 내 통신
• IP 주소: 논리적 주소, 변경 가능, 다른 네트워크 간 통신

---

4계층 - 전송 계층 (Transport Layer)

키워드: TCP, UDP, 포트 번호, End-to-End, 신뢰성

역할

• 종단 간(End-to-End) 신뢰성 있는 데이터 전송 보장
• 포트(Port) 번호로 프로세스를 식별하여 데이터를 올바른 애플리케이션에 전달
• 다중화(Multiplexing) / 역다중화(Demultiplexing) 수행
• 오류 제어, 흐름 제어, 혼잡 제어 수행

TCP vs UDP

구분	TCP	UDP
연결 방식	연결 지향 (Connection-oriented)	비연결형 (Connectionless)
신뢰성	높음 (오류 검출 + 재전송)	낮음 (전송 후 확인 없음)
속도	느림	빠름
순서 보장	O	X
흐름 제어	O (슬라이딩 윈도우)	X
혼잡 제어	O	X
헤더 크기	20~60 bytes	8 bytes
사용 예시	HTTP, FTP, SSH, 이메일	DNS, 스트리밍, VoIP, 게임

▲ 전송 계층: TCP(신뢰성) vs UDP(속도) 프로토콜 비교

TCP 연결/해제 과정

3-Way Handshake (연결 수립)

Client → Server : SYN
Server → Client : SYN + ACK
Client → Server : ACK

[STEP 1]
A클라이언트는 B서버에 접속을 요청하는 SYN 패킷을 보낸다. 이때 A클라이언트는 SYN 을 보내고 SYN/ACK 응답을 기다리는SYN_SENT 상태가 되는 것이다.

[STEP 2]
B서버는 SYN요청을 받고 A클라이언트에게 요청을 수락한다는 ACK 와 SYN flag 가 설정된 패킷을 발송하고 A가 다시 ACK으로 응답하기를 기다린다. 이때 B서버는 SYN_RECEIVED 상태가 된다.

[STEP 3]
A클라이언트는 B서버에게 ACK을 보내고 이후로부터는 연결이 이루어지고 데이터가 오가게 되는것이다. 이때의 B서버 상태가 ESTABLISHED 이다.

위와 같은 방식으로 통신하는것이 신뢰성 있는 연결을 맺어 준다는 TCP의 3 Way handshake 방식이다.

4-Way Handshake (연결 해제)

Client → Server : FIN 
Server → Client : ACK
Server → Client : FIN
Client → Server : ACK (TIME_WAIT 후 종료)

[STEP 1]
클라이언트가 연결을 종료하겠다는 FIN플래그를 전송한다.

[STEP 2]
서버는 일단 확인메시지를 보내고 자신의 통신이 끝날때까지 기다리는데 이 상태가 TIME_WAIT상태다.

[STEP 3]
서버가 통신이 끝났으면 연결이 종료되었다고 클라이언트에게 FIN플래그를 전송한다.

[STEP 4]
클라이언트는 확인했다는 메시지를 보낸다.

그런데 만약 "Server에서 FIN을 전송하기 전에 전송한 패킷이 Routing 지연이나 패킷 유실로 인한 재전송 등으로 인해 FIN패킷보다 늦게 도착하는 상황"이 발생한다면?

Client에서 세션을 종료시킨 후 뒤늦게 도착하는 패킷이 있다면 이 패킷은 Drop되고 데이터는 유실될 것입니다.

이러한 현상에 대비하여 Client는 Server로부터 FIN을 수신하더라도 일정시간(디폴트 240초) 동안 세션을 남겨놓고 잉여 패킷을 기다리는 과정을 거치게 되는데 이 과정을 "TIME_WAIT" 라고 합니다.

▲ TCP 3-Way Handshake(연결 수립) 및 4-Way Handshake(연결 해제) 흐름

다중화 / 역다중화

• 다중화(Multiplexing): 여러 소켓의 데이터를 모아 헤더를 붙여 하위 계층에 전달
• 역다중화(Demultiplexing): 세그먼트를 포트 번호를 기반으로 올바른 소켓에 전달

PDU

Segment

프로토콜

TCP, UDP, RTP, SCTP

관련 장비

L4 스위치, 로드 밸런서, 방화벽(Firewall)

잘 알려진 포트 번호
HTTP: 80 / HTTPS: 443 / FTP: 21 / SSH: 22 / DNS: 53 / SMTP: 25

---

5계층 - 세션 계층 (Session Layer)

키워드: 세션 관리, 동기화, 통신 방식 결정

역할

• 애플리케이션 프로세스 사이의 세션(논리적 연결) 을 열고, 관리하고, 닫음
• 통신 방식 결정: 단방향(Simplex), 반이중(Half-Duplex), 전이중(Full-Duplex)
• 체크포인트(Checkpoint) 를 통한 동기화: 긴 전송 중 오류 발생 시 체크포인트부터 재전송
• TCP/IP 세션의 생성과 소멸을 담당

통신 방식

방식	설명	예시
Simplex (단방향)	한 방향으로만 전송	TV, 라디오 방송
Half-Duplex (반이중)	양방향이지만 동시 불가	무전기
Full-Duplex (전이중)	양방향 동시 전송	전화, 인터넷

PDU

Message (Data)

프로토콜

RPC, NetBIOS, Socket, TLS 핸드셰이크 (일부)

---

6계층 - 표현 계층 (Presentation Layer)

키워드: 인코딩, 암호화, 압축, 데이터 형식 변환

역할

• 응용 계층에서 받은 데이터를 네트워크 표준 형식으로 변환 (또는 역변환)
• 시스템 간 데이터 형식 차이를 해결하는 번역기 역할
• 3가지 핵심 기능:

기능	설명
데이터 변환	문자 코드 변환 (ASCII ↔ EBCDIC), 바이트 순서 변환
데이터 압축	전송 효율 향상을 위한 압축/복원
암호화/복호화	보안을 위한 데이터 암·복호화 (TLS/SSL)

PDU

Message (Data)

프로토콜 / 포맷

SSL/TLS, JPEG, GIF, PNG, MPEG, ASCII, UTF-8

현실에서는?
실제 인터넷 통신에서 세션 계층과 표현 계층의 기능은 대부분 응용 계층의 프로토콜(HTTP, TLS 등) 이나 OS에서 처리되어, 명확한 계층 구분이 모호한 경우가 많다.

---

7계층 - 응용 계층 (Application Layer)

키워드: HTTP, FTP, DNS, 사용자 인터페이스

역할

• 사용자가 직접 접하는 계층 — 네트워크 서비스를 응용 프로그램에 제공
• 사용자와 네트워크 사이의 인터페이스 역할
• 전자우편, 파일 전송, 웹 브라우징, 데이터베이스 관리 등의 서비스 제공

주요 프로토콜

프로토콜	포트	설명
HTTP	80	웹 데이터 전송 (비암호화)
HTTPS	443	웹 데이터 전송 (TLS 암호화)
FTP	20, 21	파일 전송
SMTP	25	이메일 송신
POP3	110	이메일 수신
IMAP	143	이메일 수신 (서버 동기화)
DNS	53	도메인 → IP 주소 변환
SSH	22	보안 원격 접속
Telnet	23	원격 접속 (비암호화)
SNMP	161	네트워크 장비 관리

PDU

Message (Data)

관련 장비

게이트웨이(Gateway), L7 스위치 (Application Delivery Controller)

▲ 응용 계층: 사용자와 직접 맞닿는 HTTP, FTP, DNS 등의 프로토콜 동작

---

OSI 7계층 vs TCP/IP 4계층

OSI 7계층이 이론적 표준 참조 모델이라면,
TCP/IP 4계층은 실제 인터넷에서 사용하는 구현 표준이다.

OSI 7계층	TCP/IP 4계층	설명
7. 응용 계층	응용 계층	HTTP, FTP, DNS, SMTP
6. 표현 계층	↑ 응용 계층에 통합	인코딩, 암호화
5. 세션 계층	↑ 응용 계층에 통합	세션 관리
4. 전송 계층	전송 계층	TCP, UDP
3. 네트워크 계층	인터넷 계층	IP, ICMP, ARP
2. 데이터 링크 계층	네트워크 접근 계층	Ethernet, Wi-Fi
1. 물리 계층	↑ 네트워크 접근 계층에 통합	케이블, 신호

왜 TCP/IP 4계층을 쓰는가?
OSI 7계층은 이론적으로 정교하지만, 실제 구현에서는 5·6·7계층의 경계가 모호하다.
TCP/IP는 이를 응용 계층으로 통합하여 더 실용적인 모델을 제시한다.

▲ TCP/IP 4계층 모델: 실제 인터넷 통신에서 사용되는 구현 표준

---

전체 요약 표

계층	이름	PDU	주요 프로토콜	관련 장비	핵심 키워드
7	응용 (Application)	Message	HTTP, FTP, DNS, SMTP	게이트웨이, L7 스위치	사용자 인터페이스
6	표현 (Presentation)	Message	SSL/TLS, JPEG, ASCII	-	인코딩, 암호화, 압축
5	세션 (Session)	Message	RPC, Socket	-	세션 관리, 동기화
4	전송 (Transport)	Segment	TCP, UDP	L4 스위치, 방화벽	포트, 신뢰성, End-to-End
3	네트워크 (Network)	Packet	IP, ICMP, ARP	라우터, L3 스위치	IP 주소, 라우팅
2	데이터 링크 (Data Link)	Frame	Ethernet, Wi-Fi, PPP	스위치, 브릿지	MAC 주소, 오류 제어
1	물리 (Physical)	Bit	RS-232C, 광케이블	허브, 리피터, 케이블	전기 신호, 비트

암기 팁 (상→하): All People Seem To Need Data Processing
Application → Presentation → Session → Transport → Network → Data Link → Physical

---

면접 빈출 질문

Q1. OSI 7계층을 나눈 이유는?

복잡한 네트워크 통신 과정을 표준화된 계층으로 분리하여 독립성과 유지보수성을 확보하기 위함입니다.
계층을 나눔으로써 특정 계층에 문제가 발생해도 해당 계층만 수정하면 되고, 장애 발생 시 원인 계층을 빠르게 파악할 수 있습니다.

---

Q2. 캡슐화(Encapsulation)란?

데이터를 송신할 때 상위 계층에서 하위 계층으로 내려가면서 각 계층의 헤더(제어 정보)를 붙이는 과정입니다.
수신 측에서는 반대로 하위에서 상위로 올라가며 헤더를 제거하는 역캡슐화(Decapsulation)가 이루어집니다.

---

Q3. TCP와 UDP의 차이는?

TCP는 연결 지향 프로토콜로 3-Way Handshake를 통해 연결을 수립하고 신뢰성 있는 데이터 전송을 보장합니다.
UDP는 비연결형 프로토콜로 연결 수립 과정 없이 빠르게 데이터를 전송하지만 신뢰성은 보장하지 않습니다.
HTTP/HTTPS, 파일 전송 등 데이터 정확성이 중요한 경우 TCP를, 스트리밍·게임·VoIP 등 속도가 중요한 경우 UDP를 사용합니다.

---

Q4. MAC 주소와 IP 주소의 차이는?

MAC 주소는 NIC에 물리적으로 부여된 48비트 주소로 2계층에서 사용되며 동일 네트워크 내 통신에 사용됩니다.
IP 주소는 논리적으로 할당되는 32비트(IPv4) 또는 128비트(IPv6) 주소로 3계층에서 사용되며 네트워크 간 라우팅에 사용됩니다.

---

Q5. 3-Way Handshake를 설명하시오.

TCP 연결 수립 시 사용하는 절차입니다.

1. SYN: 클라이언트가 서버에 연결 요청 (ISN 포함)
2. SYN-ACK: 서버가 요청 수락 + 서버의 ISN 전달
3. ACK: 클라이언트가 서버의 ISN 확인

이 과정을 통해 양측이 서로의 초기 순서 번호(ISN)를 교환하고 신뢰성 있는 통신 채널을 수립합니다.

---

Q6. OSI 7계층과 TCP/IP 4계층의 차이는?

OSI 7계층은 ISO가 제정한 이론적 참조 모델로 네트워크 통신을 7단계로 세분화합니다.
TCP/IP 4계층은 실제 인터넷에서 사용되는 실용적 구현 모델로, OSI의 5~7 계층을 응용 계층으로 통합하고

1~2계층을 네트워크 접근 계층으로 통합한 4계층 구조입니다.

---

참고

네트워크 OSI 7계층 - @kimyeji203|269
OSI-7계층-정리 - @dyllis
"데이터가 전달되는 원리" OSI 7계층 모델과 TCP/IP 모델 - @hidaehyunlee
OSI 참조 모델 완전히 파헤치기 - @raejoonee
OSI 7계층, 캡슐화, 비캡슐화, PDU - hyeju-dev
OSI 7계층 모델 - 핵심 총정리 - Inpa Dev
OSI 7 Layer 쉽게 이해하기 - 환영의 기술블로그
트랜스포트 계층 개요, 다중화와 역다중화 - Spear Zero

OSI 7계층(OSI 7 Layer) - madplay

 

---

추가

OSI 7계층 동작 시나리오 (w. claude)