RSX-11 — семейство операционных систем реального времени в основном для компьютеров PDP-11 от Digital Equipment Corporation (DEC), которые были распространены в конце 1970-х и начале 1980-х. RSX-11D впервые появилась для PDP-11/40 в 1972. Она была спроектирована для контроля процессов, но также была популярна среди разработчиков программ, а в СССР и вовсе использовалась как главнейшая многотерминальная ОС для компьютеров СМ ЭВМ, даже при отсутствии индустриальных контроллеров.
PDP-11 был 16-битным компьютером с 16-битными адресами, но поддерживал физическую память свыше 64 К с помощью переключения кадров страниц — в 64 К адресное пространство процесса отображались некоторые страницы из общего множества до 4 М, у каждого процесса это отображение было своим.
Это в полной мере использовалось в RSX-11. Кроме того, ядро исполнялось в отдельном 64 К пространстве, и каждый системный вызов означал смену контекста страниц.
Память выделялась из дальнего недоступного пространства, далее страницы из выделенной области могли отображаться в адресное пространство и становились доступны.
Понятие о процессе (как позднее и в Win16) состояло из двух сущностей — модуль (бинарный образ с уже загруженным в память заголовком) и задача (модуль в процессе исполнения, имеющий стек и текущий контекст процессора). Исполняемые файлы имели оверлейную структуру (похожее было позднее и в Win16), и создавались программой TKB (аналог link и ld).
Для обработки всех операций ввода-вывода с устройств использовался системный вызов $QIO — «поставить запрос ввода-вывода в очередь данного устройства» (примерный аналог IRP в ядре Windows NT или Overlapped I/O в Win32 API). Имелся также системный вызов $QIOW, ожидающий выполнения операции.