윈도우 11 USB 부팅이 안 될 때? 5분 만에 해결하는 완벽 가이드

윈도우 11 USB 부팅이 안 될 때? 5분 만에 해결하는 완벽 가이드

 

컴퓨터 포맷이나 운영체제 재설치를 위해 USB 부팅을 시도했지만, 검은 화면만 나타나거나 기존 윈도우로 자꾸 넘어가는 상황은 매우 당혹스럽습니다. 윈도우 11은 보안 설정이 강화되어 이전 버전보다 부팅 과정이 까다로울 수 있습니다. 이 글에서는 윈도우 11 USB 부팅 문제를 즉시 해결할 수 있는 단계별 조치 방법을 상세히 정리해 드립니다.

목차

1. USB 부팅 전 필수 체크리스트
2. 윈도우 11 설치 미디어 정상 제작 여부 확인
3. BIOS/UEFI 설정 변경 및 부팅 순서 조정
4. Secure Boot 및 CSM 설정 최적화
5. 고급 부팅 옵션을 통한 USB 즉시 부팅 방법
6. 하드웨어 물리적 연결 및 포트 점검

USB 부팅 전 필수 체크리스트

본격적인 설정 변경에 앞서 가장 기초적인 부분부터 점검해야 합니다. 의외로 단순한 이유로 부팅이 되지 않는 경우가 많습니다.

• USB 메모리 용량 확인: 최소 8GB 이상의 여유 공간이 있는 USB를 사용해야 합니다.
• 데이터 백업: 부팅 USB 제작 과정에서 USB 내부의 모든 데이터가 삭제되므로 반드시 미리 백업하십시오.
• 컴퓨터 전원 상태: 배터리가 부족하면 부팅 과정에서 오류가 발생할 수 있으므로 전원 어댑터를 연결한 상태에서 진행하세요.
• 포트 직접 연결: USB 허브나 앞쪽 패널 포트보다는 메인보드에 직접 연결된 본체 뒷면 USB 포트를 사용하는 것이 안정적입니다.

윈도우 11 설치 미디어 정상 제작 여부 확인

USB 자체가 부팅 가능하도록 만들어지지 않았다면 BIOS 설정을 아무리 바꿔도 인식이 되지 않습니다.

• 공식 도구 사용: 마이크로소프트 공식 홈페이지에서 제공하는 'Windows 11 설치 미디어 만들기' 도구를 사용하여 제작했는지 확인하세요.
• ISO 파일 단순 복사 금지: ISO 파일을 USB에 그대로 넣는 것이 아니라, 전용 제작 툴을 통해 부팅 섹터가 생성되도록 구워야 합니다.
• GPT 파티션 형식: 윈도우 11은 UEFI 모드를 기반으로 하므로, Rufus 등의 도구를 사용할 경우 파티션 방식을 반드시 GPT로 설정해야 합니다.

BIOS/UEFI 설정 변경 및 부팅 순서 조정

컴퓨터 전원을 켰을 때 하드 디스크보다 USB를 먼저 읽도록 순서를 바꿔주어야 합니다.

• BIOS 진입 키 확인: 제조사별로 상이하며 주로 F2, Del, F10, F12 키를 연타하여 진입합니다.
  • Samsung/LG: F2
  • HP: F10 또는 Esc
  • Dell: F2 또는 F12
  • ASUS/MSI/Gigabyte: Del 또는 F2
• Boot Menu 이동: 상단 메뉴에서 'Boot' 또는 'Advanced' 탭으로 이동합니다.
• Boot Priority 수정: 'Boot Option #1' 항목을 현재 연결된 USB 메모리 이름으로 변경합니다.
• 저장 및 종료: 반드시 F10 키를 눌러 변경 사항을 저장하고 재부팅해야 적용됩니다.

Secure Boot 및 CSM 설정 최적화

윈도우 11은 보안 부팅(Secure Boot)과 TPM 2.0을 요구하므로 관련 설정이 꼬여있으면 USB 부팅이 차단될 수 있습니다.

• Secure Boot 설정: BIOS 내 Security 탭에서 Secure Boot 항목이 'Enabled'로 되어 있는지 확인하세요. 일부 구형 제작 방식 USB는 'Disabled'로 해야 인식될 때도 있습니다.
• CSM(Compatibility Support Module): 윈도우 11은 UEFI 전용입니다. CSM 설정이 'Enabled'라면 이를 'Disabled'로 변경하여 UEFI 모드로 고정하십시오.
• TPM 2.0 활성화: Intel Platform Trust Technology(PTT) 또는 AMD fTPM 항목이 'Enabled' 상태여야 윈도우 11 설치 단계로 진입이 가능합니다.

고급 부팅 옵션을 통한 USB 즉시 부팅 방법

BIOS 진입 키를 찾기 어렵거나 윈도우로 이미 진입이 가능한 상태라면 소프트웨어적으로 부팅 경로를 바꿀 수 있습니다.

• 설정 메뉴 진입: 윈도우 '설정'에서 '시스템' -> '복구' 탭으로 이동합니다.
• 고급 시작 옵션: '고급 시작 옵션' 옆의 '지금 다시 시작' 버튼을 클릭합니다.
• 장치 사용 선택: 파란색 복구 화면이 나타나면 '장치 사용' 메뉴를 선택합니다.
• USB 장치 지정: 목록에 나타난 USB Flash Drive를 클릭하면 컴퓨터가 즉시 해당 USB로 재부팅을 시도합니다.

하드웨어 물리적 연결 및 포트 점검

설정이 완벽함에도 인식이 안 된다면 하드웨어 자체의 호환성이나 결함 문제일 가능성이 큽니다.

• USB 2.0 포트 활용: 최신 PC의 USB 3.0(파란색) 포트는 부팅 단계에서 드라이버 미인식으로 작동하지 않을 수 있습니다. 검은색 USB 2.0 포트에 꽂아보세요.
• 다른 USB 메모리 테스트: USB 메모리 자체의 컨트롤러 불량일 수 있으므로 다른 제조사의 USB로 다시 미디어를 제작해 봅니다.
• Fast Boot 비활성화: BIOS에서 'Fast Boot' 기능이 켜져 있으면 USB 장치를 스캔하지 않고 바로 OS로 넘어가므로 이를 'Disabled'로 설정하세요.
• 키보드 인식 확인: 무선 키보드를 사용 중이라면 부팅 시점에 입력이 안 되어 BIOS 진입이 불가할 수 있습니다. 가급적 유선 키보드를 연결하여 시도하십시오.