레벨에서 수행될 때 성능상 느린 코드들을 커널 레벨에서 수행하도록 수정한 것을 말한다. 이는 다양한 운영 체제 개발자들이 마이크로커널 기반의 설계를 받아들이던 시점에 순수한 마이크로커널의 성능상의 한계를 인식하고 타협한 결과이다.
예를 들어, 맥 오에스 텐의 커널인 XNU는 Mach 커널 3.0 마이크로커널에 기반을 두고 있지만, 전통적인 마이크로커널 설계의 지연 현상을 줄이기 위해 BSD 커널의 일부 코드들을 들여와 동일한 주소 영역에서 실행하고 있다.
DragonFly BSD는 첫번째 비 Mach 기반의 BSD OS로 하이브리드커널 구성을 적용한 예이다.
하이브리드 커널로는 다음과 같은 것들도 포함된다.
ReactOS
BeOS 커널
Netware 커널
"하이브리드커널" 용어를 부팅 후에 모듈을 읽어들일 수 있는 모노리딕 커널과 혼용하는 사람들이 있다. 이것은 사실이 아니다. "하이브리드커널"은 모노리딕커널과 마이크로커널 설계 양쪽의 구조적 개념과 작동방법에 대한 특히 메시지 전달과 어떤 "중요하지 않은 코드"는 사용자 공간에 들어가는 반면 어떤 코드는 성능의 이유로 커널 공간에 포함해야 하는지에 대한 문제의식을 가진다.
엑소커널
엑소커널의 구조
엑소커널은 운영 체제 설계에 대한 급진적인 신개념으로 말단 이론을 따르는 수직 구조의 운영 체제이다.
엑소커널의 구상은 개발자에게 강제적인 추상화를 줄여 하드웨어 추상화에 대해 선택지를 다양하게 하는 것이다. 엑소커널은 기능이 보호를 보장하는 것과 자원을 분배하는 것만 하기에 매우 작아 편익보다 단순함을 제공한다. 이런 특성은 오히려 모든 사용자가 각기 실제 호스트 컴퓨터의 자원을 모방한 컴퓨터를 받는VM/370 운영 체제와 비슷하다. 반면에 모노리딕커널이든 마이크로커널이든 전통적인 커널 설계는 하드웨어 추상화 계층(HAL)이나 장치 드라이버 아래 자원을 숨김으로써 하드웨어를 추상화한다. 한 예로 전통적인 시스템에서 물리 메모리가 할당할 때 실제 위치를 알려주지 않기 때문에 오프셋과 기억 관리 장치를 통해서만 문제를 해결 할 수 있다.
엑소커널은 대신에 여러 개의 가상 기계를 실행하는데 각 가상 기계는 하드웨어 추상화 계층을 통하지 않고 하드웨어 구역에 직접 접근한다. 응용 소프트웨어와 추상화는 특정 메모리 주소와 디스크 블록 등을 요구하는데 커널은 단지 자원이 비어 있는지만 확인하고 응용 소프트웨어에게 접근을 허용한다. 이 저수준 하드웨어 접근은 프로그래머가 개별적인 추상화를 만드는 것을 허용하여 불필요한 부분을 제거할 수 있게 하고 일반적으로 프로그램의 성능은 향상된다. 또한, 프로그래머는 고수준이든 저수준이든 원하는 만큼 추상화 수준을 선택할 수 있다. 예를 들어 ExOS 운영 체제에서 치타 웹 서버는 운영 체제가 제공하는 파일 추상화에 의존하지 않고 디스크에 미리 형태가 준비된 인터넷 프로토콜 패킷을 저장한다.
엑소커널은 추상화를 제공하는 라이브러리 운영 체제(libOSes)를 이용한다. 라이브러리 운영 체제는 응용 소프트웨어 프로그래머에게 고수준, 전통적인 운영 체제 추상화, 맞춤 추상화 구현의 의한 더 유동적인 방법을 제공한다. 이론적으로 엑소커널 체제는 하나의 엑소커널 아래에 윈도우즈나 유닉스와 같은 다양한 운영 체제를 구동할 수 있다.
엑소커널의 개념은 1994년[3]에 나왔으나 2005년에도 여전히 학계에서 연구 중이며 대규모의 상용 운영 체제는 없다. 개념적으로 돌아가는 엑소커널 체제는 케임브리지 대학교, 글라스고 대학교, Citrix Systems, Swedish Institute of Computer Science가 만든 네미시스와 MIT가 엑소커널 기반의 체제로 구성한 ExOS가 있다.