Установка и настройка сервера RustDesk на VPS: создание

1. Що ми налаштовуємо і навіщо: переваги RustDesk

В умовах сучасного цифрового середовища інструменти віддаленого доступу стали критично важливими як для бізнесу, так і для приватних користувачів. Однак популярні рішення на зразок TeamViewer, AnyDesk або Microsoft Remote Desktop (RDP) мають ряд суттєвих недоліків: від високої вартості ліцензій до раптових блокувань сесій та потенційних ризиків безпеки, пов'язаних зі зберіганням даних на чужих серверах. RustDesk - це open-source альтернатива, яка дозволяє розгорнути власну інфраструктуру віддаленого робочого столу.

Основне завдання, яке ми вирішуємо в цьому гайді, — це встановлення серверних компонентів hbbs (ID-сервер для реєстрації клієнтів) та hbbr (Relay-сервер для передачі трафіку, якщо пряме P2P з'єднання неможливе). Коли ви використовуєте публічні сервери RustDesk, ви ділите ресурси з тисячами інших користувачів, що призводить до затримок. Власний сервер на VPS гарантує, що вся смуга пропускання належить тільки вам.

Чому варто обрати self-hosted рішення на VPS:

• Приватність: Список ваших пристроїв та історія підключень зберігаються лише на вашому сервері.
• Відсутність NAT-проблем: VPS з білою IP-адресою виступає в ролі посередника, дозволяючи підключатися до комп'ютерів за складними роутерами та корпоративними файрволами.
• Швидкість: Обираючи сервер у найближчому дата-центрі, ви мінімізуєте затримку введення, що критично для комфортної роботи.

2. Який VPS-конфіг потрібен під цю задачу

RustDesk — надзвичайно легке програмне забезпечення. Основне навантаження лягає на мережу, а не на процесор чи диск. Проте, для стабільної роботи під управлінням сучасних дистрибутивів Linux (наприклад, Ubuntu 24.04 або 26.04 LTS) потрібні певні ресурси.

Для більшості задач — від підтримки родичів до адміністрування невеликого парку серверів — достатньо початкового рівня ресурсів. Ви можете орендувати відповідний VPS, який покриє всі потреби RustDesk і дозволить паралельно запустити додаткові утиліти моніторингу.

Коли варто задуматися про Dedicated сервер? Якщо ви плануєте використовувати RustDesk для трансляції високоякісного відео, роботи з важкою графікою через віддалений стіл у режимі 24/7 або якщо кількість одночасних сесій перевищує 50-100. В інших випадках віртуалізація (KVM) справляється ідеально.

Локація сервера: Це найважливіший параметр. Якщо ви знаходитесь у Москві, а підключаєтесь до комп'ютера в Берліні, сервер краще розташовувати в одній з цих точок або посередині (наприклад, у Варшаві). Чим нижчий пінг між клієнтом, сервером та хостом, тим менша буде "відзивність" курсора миші.

3. Підготовка сервера: базові налаштування безпеки

Перед встановленням RustDesk необхідно підготувати операційну систему. Ми будемо використовувати Ubuntu як найбільш стандартний та документований дистрибутив.

Насамперед оновимо пакети до актуального стану:

sudo apt update && sudo apt upgrade -y

Створимо окремого користувача з правами sudo, щоб не працювати під root. Це стандарт безпеки 2026 року:

# Створюємо користувача
sudo adduser rustadmin
# Додаємо в групу sudo
sudo usermod -aG sudo rustadmin
# Перемикаємось на користувача
su - rustadmin

Налаштування брандмауера (UFW) — критичний етап. RustDesk використовує декілька портів для різних завдань. Нам потрібно відкрити їх:

• 21115 (TCP): NAT-тестування.
• 21116 (TCP/UDP): Основний ID-сервер (TCP — для запитів, UDP — для heartbeat/ID реєстрації).
• 21117 (TCP): Relay-сервер (передача даних).
• 21118/21119 (TCP): Веб-клієнт та підтримка WebSocket (якщо плануєте використовувати браузерну версію).

sudo ufw allow 22/tcp
sudo ufw allow 21115:21119/tcp
sudo ufw allow 21116/udp
sudo ufw enable

Для захисту від брутфорсу SSH рекомендуємо встановити Fail2Ban:

sudo apt install fail2ban -y
sudo systemctl enable fail2ban
sudo systemctl start fail2ban

4. Встановлення Docker та необхідних залежностей

Використання Docker — найбільш надійний спосіб розгортання RustDesk. Це ізолює додаток від системи та спрощує процес оновлення. У 2026 році Docker Compose є стандартом де-факто для оркестрації невеликих self-hosted сервісів.

Встановимо Docker через офіційний репозиторій:

# Встановлення залежностей
sudo apt install ca-certificates curl gnupg lsb-release -y

# Додавання ключа GPG
sudo mkdir -p /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg

# Налаштування репозиторію
echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

# Встановлення Docker Engine
sudo apt update
sudo apt install docker-ce docker-ce-cli containerd.io docker-compose-plugin -y

Перевіримо коректність встановлення:

docker --version && docker compose version

5. Покрокове встановлення сервера RustDesk (hbbs та hbbr)

Ми створимо директорію для проєкту та опишемо конфігурацію у файлі docker-compose.yml. Це дозволить запускати обидва необхідні компоненти однією командою.

mkdir ~/rustdesk-server && cd ~/rustdesk-server
nano docker-compose.yml

Вставте наступний вміст у файл. Замініть rustdesk.example.com на IP вашого VPS або ваш домен:

version: '3'

services:
  hbbs:
    container_name: hbbs
    image: rustdesk/rustdesk-server:latest
    command: hbbs -r rustdesk.example.com:21117 -k _
    volumes:
      - ./data:/root
    network_mode: host
    depends_on:
      - hbbr
    restart: unless-stopped

  hbbr:
    container_name: hbbr
    image: rustdesk/rustdesk-server:latest
    command: hbbr
    volumes:
      - ./data:/root
    network_mode: host
    restart: unless-stopped

Розбір параметрів:

• hbbs -r <host>:21117: Вказує ID-серверу адресу Relay-сервера. Це критично для коректної маршрутизації трафіку.
• -k _: Цей прапор змушує сервер вимагати обов'язкове використання публічного ключа при підключенні клієнтів. Це захищає ваш сервер від несанкціонованого використання сторонніми особами.
• network_mode: host: Використовується для максимальної продуктивності та уникнення проблем з прокиданням UDP-портів всередині Docker-мережі.

Запустимо контейнери:

docker compose up -d

6. Налаштування шифрування та авторизації за ключем

Після першого запуску в директорії ./data з'являться ключі шифрування. Нам потрібен файл з розширенням .pub. Саме цей ключ ми будемо вводити в налаштуваннях клієнта.

cat ./data/id_ed25519.pub

Скопіюйте вивід цієї команди. Без цього ключа ніхто не зможе підключитися через ваш сервер, навіть якщо знає його IP-адресу. Це реалізує архітектуру Zero-Trust, де сервер є лише посередником, який не має доступу до вмісту сесії.

Чому це важливо? У публічних версіях RustDesk шифрування може бути опціональним. У нашій конфігурації ми зробили його обов'язковим. Весь трафік між оператором та віддаленим хостом шифрується за допомогою бібліотеки NaCl (libsodium), що робить перехоплення даних безглуздим.

7. Тонке налаштування клієнта та оптимізація мережі

Тепер, коли сервер запущено, необхідно налаштувати клієнтський застосунок на пристроях (Windows, macOS, Linux, Android або iOS).

1. Відкрийте RustDesk на вашому комп'ютері.
2. Перейдіть у Налаштування (Settings) -> Мережа (Network).
3. Натисніть "Розблокувати налаштування мережі" (Unlock network settings).
4. У полі ID-сервер (ID Server) введіть IP-адресу або домен вашого VPS.
5. У полі Relay-сервер (Relay Server) введіть ту ж адресу (порт 21117 підставиться автоматично, якщо не вказано інше).
6. У полі Key вставте вміст файлу id_ed25519.pub, який ми отримали на попередньому кроці.
7. Натисніть "Застосувати" (Apply).

Якщо все налаштовано правильно, в нижній частині вікна RustDesk з'явиться статус "Ready" із зеленим індикатором. Тепер ви можете передати цей же ID і пароль (або налаштувати постійний пароль) для доступу до віддаленого пристрою.

Оптимізація для повільних з'єднань: Якщо ви працюєте через мобільний інтернет, в налаштуваннях сесії виберіть кодек VP9 або AV1 (якщо підтримується обладнанням) і встановіть режим "Optimize reaction time". Це знизить бітрейт, зберігши чуйність інтерфейсу.

8. Бекапи, моніторинг і обслуговування системи

Сервер RustDesk практично не вимагає обслуговування, але для забезпечення надійності 99.9% варто впровадити базові практики експлуатації.

Бекап даних

Найважливіше — зберегти ключі та базу даних ID. Якщо ви втратите файл id_ed25519 (приватний ключ), вам доведеться переналаштовувати всі клієнти заново, оскільки публічний ключ зміниться.

# Простий скрипт бекапу в архів
tar -czvf rustdesk_backup_$(date +%F).tar.gz ~/rustdesk-server/data

Рекомендується налаштувати cron задачу для щотижневого копіювання цього архіву на зовнішнє сховище (наприклад, S3 або інший VPS).

Оновлення сервера

Щоб оновити RustDesk до останньої версії, достатньо виконати:

cd ~/rustdesk-server
docker compose pull
docker compose up -d

Моніторинг

Для відстеження стану сервера можна використовувати просту перевірку портів. Якщо порт 21116 (UDP) не відповідає, значить, ID-сервер впав і клієнти не зможуть знайти один одного.

9. Troubleshooting + FAQ: вирішення типових проблем

Чому статус клієнта "Not Ready"?

Найчастіше це пов'язано із закритими портами на стороні VPS. Переконайтеся, що ваш провайдер не блокує вхідний трафік на рівні зовнішньої панелі управління (Security Groups). Перевірте статус UFW: sudo ufw status. Також переконайтеся, що в налаштуваннях клієнта в полі Key немає зайвих пробілів або символів перенесення рядка.

Яка затримка вважається нормальною?

Під час роботи всередині одного регіону (наприклад, Європа-Європа) затримка повинна становити 20-50 мс. Якщо пінг вище 150 мс, робота буде некомфортною. У цьому випадку перевірте завантаження CPU на VPS і переконайтеся, що ви не використовуєте публічний Relay-сервер помилково.

Чи можна використовувати домен замість IP?

Так, це рекомендується. Якщо IP вашого VPS зміниться, вам не доведеться переналаштовувати всі клієнти. Просто оновіть A-запис у DNS вашого домену.

Як обмежити список осіб, які мають доступ до сервера?

RustDesk Server Pro (платна версія) підтримує детальні ACL. У безкоштовній версії, яку ми встановили, захист будується на знанні Key. Не передавайте публічний ключ третім особам. Додатково можна обмежити доступ на рівні UFW, дозволивши підключення тільки з певних IP-адрес, якщо вони у вас статичні.

Який VPS-конфіг мінімально підійде?

Мінімально достатньо 1 ядра CPU і 1 ГБ оперативної пам'яті. RustDesk написаний на Rust, що забезпечує високу ефективність використання пам'яті. Основний ресурс — це пропускна здатність мережі. Для комфортної роботи 2-3 одночасних користувачів вистачить навіть найбюджетнішого тарифу.

Що вибрати — VPS або dedicated для цього завдання?

Для 95% сценаріїв (особиста підтримка, адміністрування до 200 ПК) VPS — ідеальний вибір. Dedicated сервер варто розглядати тільки якщо ви будуєте глобальний сервіс віддаленої підтримки з тисячами одночасних сесій, де потрібна гарантована смуга пропускання в 1-10 Гбіт/с без впливу "сусідів" по гіпервізору.

10. Висновки та наступні кроки

Ми успішно розгорнули власний сервер RustDesk, забезпечивши собі незалежність від закордонних хмарних сервісів і корпоративних обмежень. Тепер у вас є захищений канал зв'язку, який повністю контролюється вами — від ключів шифрування до логів підключень.

В якості наступних кроків з оптимізації інфраструктури рекомендуємо:

• Налаштувати власну Address Book (адресну книгу), якщо у вас багато пристроїв.
• Розгорнути веб-клієнт для доступу до робочих столів прямо з браузера без встановлення ПЗ.
• Інтегрувати моніторинг (наприклад, Prometheus + Grafana) для відстеження мережевого трафіку та навантаження на Relay-сервер.

Пам'ятайте, що безпека self-hosted рішень — це постійний процес. Регулярно оновлюйте Docker-образи і стежте за оновленнями безпеки вашої операційної системи на VPS.