Help:Backup: Difference between revisions

From Svacer Wiki
(update due to client/server binaries split)
(add docker volumes documentation link)
 
(8 intermediate revisions by the same user not shown)
Line 1: Line 1:
== Создание и восстановление резервной копии ==
== Создание и восстановление резервной копии ==
Для переноса Svacer на другой сервер создайте резервные копии БД PostgreSQL и object store как описано ниже и восстановите их на новом сервере.
{{Note|text=Для бэкапов PostgreSQL можно использовать более продвинутые решения, чем входящий в состав PostgreSQL pg_dump, например [https://github.com/postgrespro/pg_probackup pg_probackup]. В нем поддерживаются инкрементальные бэкапы, валидация бэкапа после создания, и прочие полезные возможности. Описание его настройки и использования смотрите в их [https://postgrespro.github.io/pg_probackup/ документации]}}
=== Если PostgreSQL запущен в виде сервиса ===
=== Если PostgreSQL запущен в виде сервиса ===
Если PostgreSQL запущен в виде сервиса, то для создания резервной копии БД перейдите в пользователя postgres и запустите создание дампа:
Если PostgreSQL запущен в виде сервиса, то для создания резервной копии БД перейдите в пользователя postgres и запустите создание дампа:
Line 29: Line 32:
     cat svacer.sql | docker exec -i svacer_postgres psql -U postgres svacer_db
     cat svacer.sql | docker exec -i svacer_postgres psql -U postgres svacer_db


=== Бэкап object store через command line API ===
=== Бэкап object store в файле ===
Этот способ хорошо подходит в случае, если object store достаточно большой (десятки гигабайт или больше) и не желательно останавливать сервер Svacer.
Этот способ хорошо подходит, если object store достаточно большой (десятки гигабайт) и не желательно останавливать сервер Svacer.
Резервную копию object store можно создать, использовав следующую команду (доступна только пользователю с ролью admin)
Резервную копию object store можно создать, использовав следующую команду (доступна только пользователю с ролью admin)


Line 44: Line 47:


=== Бэкап object store в сервере PostgreSQL ===
=== Бэкап object store в сервере PostgreSQL ===
Резервную копию object store можно сохранить в сервере PostgreSQL, который используется сервером Svacer. Данный механизм использует функциональность large object store из PostgreSQL. Этот способ хорошо подходит в случае, если object store не очень большой, в пределах нескольких гигабайт.
Резервную копию object store можно сохранить в PostgreSQL, который используется сервером Svacer. Данный механизм использует функциональность large object store из PostgreSQL. Этот способ хорошо подходит, если object store не очень большой, в пределах нескольких гигабайт.


Создание бэкапа:
Создание бэкапа:
Line 79: Line 82:


где <lower> и <upper> — нижняя и верхняя граница ID бэкапов.
где <lower> и <upper> — нижняя и верхняя граница ID бэкапов.
При запуске сервера можно указать в переменной окружения SVACER_KV_BACKUP_MAX_AGE время хранения таких бэкапов. Задается в формате [https://pkg.go.dev/time#ParseDuration duration], к примеру 24h, 2h30m, 5m30s. По умолчанию 30 дней (720h). Очистка проводится как часть сборки мусора (т. е. периодичность проверки задается через переменную SVACER_GC_PERIOD).
  SVACER_GC_PERIOD=2h SVACER_KV_BACKUP_MAX_AGE=720h svacer-server run


=== Бэкап object store вручную ===
=== Бэкап object store вручную ===
Создать резервную копию object store возможно вручную. Для этого достаточно скопировать директорию object store. Перед этим желательно остановить сервер Svacer для обеспечения целостности данных. Этот способ хорошо подходит в случае, если object store достаточно большой (десятки гигабайт или больше) и возможно останавливать сервер Svacer. Для инкрементального бэкапа в данном случае можно использовать '''rsync'''.
Создать бэкап object store можно вручную, просто скопировав директорию object store. Перед этим желательно остановить сервер Svacer для обеспечения целостности данных. Такой способ хорошо подходит, если object store достаточно большой (десятки гигабайт) и возможно остановить сервер Svacer. Для инкрементального бэкапа можно использовать '''rsync'''.


Если директория, где хранить '''object store''' не была явно указана при запуске сервера, по умолчанию он создается в следующей директории:
Если директория, где хранить '''object store''' не была явно указана при запуске сервера, по умолчанию он создается в следующей директории:
Line 90: Line 97:
При восстановлении из резервной копии поместите файлы object store в директорию по умолчанию (см. выше), либо в другую директорию и при запуске сервера Svacer укажите путь к ней одним из способов:
При восстановлении из резервной копии поместите файлы object store в директорию по умолчанию (см. выше), либо в другую директорию и при запуске сервера Svacer укажите путь к ней одним из способов:


* В переменной окружения SVACER_OBJECT_STORE:
* В переменной окружения SVACER_OBJECTS:
   export SVACER_OBJECT_STORE=/home/user/data/object_store
   export SVACER_OBJECTS=/home/user/data/object_store
   svacer-server run  
   svacer-server run  
* В параметре --store:
* В параметре --store:
Line 103: Line 110:
       - STORE=/data/object_store
       - STORE=/data/object_store


== Перенос снимков ==
При использовании named docker volume, для восстановления данных временно примонтируйте его к другому контейнеру, скопируйте object store, размонтируйте, и после запустите с ним контейнер Svacer. Подробнее и с примерами — в документации [https://docs.docker.com/storage/volumes/#back-up-restore-or-migrate-data-volumes docker volumes]
Svacer предоставляет возможность по экспорту и импорту снимков посредством интерфейса командной строки и веб-интерфейса.
Экспорт снимка включает все предупреждения, информацию о снимке, прикрепленные файлы, объект сборки, пользовательские атрибуты, разметку и комментарии. Подавленные предупреждения также включаются в экспортированную информацию и импортируются в статусе подавленных.
 
Экспорт и импорт снимков доступен пользователям с [[Help:UI_manual#Описание_ролевой_модели|соответствующими правами]] для выбранного проекта/ветки.
 
=== Перенос из веб интерфейса ===
Для экспортирования снимка из пользовательского интерфейса пользователь может использовать кнопку экспорта на панели информации о снимке:
 
[[File:SnapshotInfo2.png|none|left|alt=SnapshotInfo window]]
 
либо использовать соответствующую функциональность из панели настроек проектов (требует роль admin):
 
[[File:CreateNewProject.png|none|left|alt=CreateNewProject window]]
 
Импортирование снимка через пользовательский интерфейс допустимо только для пользователя с ролью «admin». Команда доступна в меню ветки
 
[[File:BranchMenu.png|none|left|alt=BranchMenu windows]]
 
Задача по экспорту снимка может занимать значительное время (зависит от размера снимка) и выполняется асинхронно. Извещение о завершении задачи по экспорту появится в виде всплывающей зеленой панели
 
[[File:Notifications.png|none|left|alt=Notifications window]]
 
А так же будет доступно в панели нотификаций
 
[[File:NotificationsClearAll.png|none|left|alt=NotificationsClearAll window]]
 
=== Перенос из командной строки ===
Экспорт и импорт снимков из командной строки доступен пользователям с [[Help:UI_manual#Описание_ролевой_модели|соответствующими правами]] для выбранного проекта/ветки.
 
Экспорт снимков:
    svacer server export
        --user <user>
        --password <pwd>
        --host <host>
        --port <port>
        --grpc <grpc port>
        --project <project name or id>
        --branch <branch name or id>
        --snapshot <snapshot name or id>
        <output file name>
 
Импорт снимков:
    svacer server import
        --user <user>
        --password <pwd>
        --host <host>
        --port <port>
        --grpc <grpc port>
        --project <project name or id>
        --branch <branch name or id>
        --name <new name for snapshot>
        [--force]
        <input file name>
 
Опция '''--force''' создаст проект и ветку, если их не было на сервере.
 
== Перенос Svacer с одного сервера на другой ==
# Создайте резервную копию БД и object store в соответствии с тем, как описано в разделе [[#Создание и восстановление резервной копии|Создание и восстановление резервной копии]].
# Перенесите созданные файлы резервных копий на нужный сервер
# Восстановите данные из резервной копии на новом сервере

Latest revision as of 15:43, 25 July 2024

Создание и восстановление резервной копии

Для переноса Svacer на другой сервер создайте резервные копии БД PostgreSQL и object store как описано ниже и восстановите их на новом сервере.

Для бэкапов PostgreSQL можно использовать более продвинутые решения, чем входящий в состав PostgreSQL pg_dump, например pg_probackup. В нем поддерживаются инкрементальные бэкапы, валидация бэкапа после создания, и прочие полезные возможности. Описание его настройки и использования смотрите в их документации

Если PostgreSQL запущен в виде сервиса

Если PostgreSQL запущен в виде сервиса, то для создания резервной копии БД перейдите в пользователя postgres и запустите создание дампа:

   sudo su -l postgres
   pg_dump --clean -T tmp_diff* svacer_db > svacer.sql

где svacer_db — имя БД.

В результате дамп БД будет создан в файле svacer.sql

Для восстановления БД из дампа перейдите в пользователя postgres и запустите восстановление

   sudo su -l postgres 
   psql -f svacer.sql svacer_db 

Если PostgreSQL запущен в docker-контейнере

Если PostgreSQL запущен в docker-контейнере, то для создания резервной копии БД выполните следующую команду

   docker exec -t svacer_postgres pg_dump --clean -T tmp_diff* -U postgres svacer_db > svacer.sql

где:

  • svacer_postgres — имя docker-контейнера
  • postgres — имя пользователя, под учётной записью которого создана БД
  • svacer_db — имя БД

Для восстановления БД используйте команду

   cat svacer.sql | docker exec -i svacer_postgres psql -U postgres svacer_db

Бэкап object store в файле

Этот способ хорошо подходит, если object store достаточно большой (десятки гигабайт) и не желательно останавливать сервер Svacer. Резервную копию object store можно создать, использовав следующую команду (доступна только пользователю с ролью admin)

   svacer server backup --user admin --password <password> --file <filename>.kvbak

В результате object store будет сохранен в файл <filename>.kvbak

Для восстановления из резервной копии требуется при запуске сервера указать этот файл в опции --load-from-backup.

   svacer-server run --pg <postgres_url> --store /home/svacer/new-store --load-from-backup <filename>.kvbak

Восстановление возможно только в пустой object store. То есть в данном примере директория /home/svacer/new-store должна быть пустой.

Бэкап object store в сервере PostgreSQL

Резервную копию object store можно сохранить в PostgreSQL, который используется сервером Svacer. Данный механизм использует функциональность large object store из PostgreSQL. Этот способ хорошо подходит, если object store не очень большой, в пределах нескольких гигабайт.

Создание бэкапа:

   svacer server backup --user admin --password <password> --pg

Бэкап создается в фоновом процессе, пользователь может продолжать работать с сервером. Результат работы команды состоит из ID бэкапа и времени создания. Эти данные печатаются в stdout

   ID = 23 CREATE_TS = 2022-10-06T06:04:33Z 

Для печати списка существующих бэкапов используется команда:

   svacer server backup --user admin --password <password> --list-pg

Результат печатается в stdout и включает ID и время создания бэкапа

    2022-10-06T09:04:36.929+0300    info    Quering server configuration from http://localhost:8080/api/public/server/info
    2022-10-06T09:04:36.930+0300    info    Server configuration grpc = 3002, rest = 8080
    2022-10-06T09:04:36.939+0300    info    Logged by user admin
    2022-10-06T09:04:36.941+0300    info    Backups:
    ID = 23 CREATE_TS = 2022-10-06T06:04:33Z

Восстановление object store из бэкапа допустимо только при старте сервера. Для этого следует очистить текущий object store (или указать путь на новую директорию) и использовать следующий флаг при старте:

   svacer-server run --load-from-pg-backup=<id>

где <id> — ID бэкапа или 0, для использования последнего доступного бэкапа.

Для очистки старых бэкапов используется следующая команда:

   svacer server backup --user admin --password <password> --drop-pg=<lower>:<upper>

где <lower> и <upper> — нижняя и верхняя граница ID бэкапов.

При запуске сервера можно указать в переменной окружения SVACER_KV_BACKUP_MAX_AGE время хранения таких бэкапов. Задается в формате duration, к примеру 24h, 2h30m, 5m30s. По умолчанию 30 дней (720h). Очистка проводится как часть сборки мусора (т. е. периодичность проверки задается через переменную SVACER_GC_PERIOD).

 SVACER_GC_PERIOD=2h SVACER_KV_BACKUP_MAX_AGE=720h svacer-server run

Бэкап object store вручную

Создать бэкап object store можно вручную, просто скопировав директорию object store. Перед этим желательно остановить сервер Svacer для обеспечения целостности данных. Такой способ хорошо подходит, если object store достаточно большой (десятки гигабайт) и возможно остановить сервер Svacer. Для инкрементального бэкапа можно использовать rsync.

Если директория, где хранить object store не была явно указана при запуске сервера, по умолчанию он создается в следующей директории:

  • ~/.cache/svacer — в OC Linux
  • %LocalAppData%\svacer — в ОС Windows (например, С:\Users\myusername\AppData\Local\svacer)

При восстановлении из резервной копии поместите файлы object store в директорию по умолчанию (см. выше), либо в другую директорию и при запуске сервера Svacer укажите путь к ней одним из способов:

  • В переменной окружения SVACER_OBJECTS:
 export SVACER_OBJECTS=/home/user/data/object_store
 svacer-server run 
  • В параметре --store:
 svacer-server run --store /home/user/data/object_store

При запуске Svacer в docker-контейнере смонтируйте директорию с object store в контейнер как volume и укажите путь к ней в переменной STORE в файле docker-compose.yml

   volumes:
     - /home/user/data:/data
   environment:
     - STORE=/data/object_store

При использовании named docker volume, для восстановления данных временно примонтируйте его к другому контейнеру, скопируйте object store, размонтируйте, и после запустите с ним контейнер Svacer. Подробнее и с примерами — в документации docker volumes