Подтвердить что ты не робот

Как обрабатывать тайм-ауты в пулбое?

У меня проблема с долговременной миграцией, которую я хотел запустить параллельно (ее можно запустить параллельно). Фактически миграция - это принятие всех записей в базе данных и выполнение операций по времени и ресурсам для каждого из них.

Иногда индивидуальная миграция записей висит, поэтому я даю 10 минут, чтобы закончить. Если миграция не завершена, я хочу, чтобы она изящно закрылась без каких-либо исключений (см. Ниже)

Я также использую poolboy пакет erlang для параллелизации реализации, поскольку миграция потребляет не только время, но и ресурсы. Проблема в том, что я не знаю, как обрабатывать ошибки, когда произошел тайм-аут, и код сломается. Мое дерево наблюдения:

defmodule MyReelty.Repo.Migrations.MoveVideosFromVimeoToB2 do
  use Ecto.Migration

  alias MyReelty.Repo
  alias MyReelty.Repo.Migrations.MoveVideosFromVimeoToB2.Migrator

  # parallel nature of migration force us to disable transaction
  @disable_ddl_transaction true

  @migrator_waiting_time 10 * 60 * 1000 # timeout
  @poolboy_waiting_time @migrator_waiting_time + 10 * 1000 # give a time for graceful shutdown

  @pool_name :migrator
  @pool_size 3
  @pool_config [
    { :name, { :local, @pool_name }},
    { :worker_module, Migrator },
    { :size, @pool_size },
    { :max_overflow, 0 },
    { :strategy, :fifo }
  ]

  def up do
    children = [
      :poolboy.child_spec(@pool_name, @pool_config)
    ]
    opts = [strategy: :one_for_one, name: MyReelty.Supervisor]
    Supervisor.start_link(children, opts)

    rows = Review |> Repo.all

    IO.puts "Total amount of reviews is: #{length(rows)}"

    parallel_migrations(rows)
  end

  def parallel_migrations(rows) do
    Enum.map(rows, fn(row) ->
      pooled_migration(@pool_name, row)
    end)
  end

  def pooled_migration(pool, x) do
    :poolboy.transaction(
      pool,
      (fn(pid) -> Migrator.move(pid, { x, @migrator_waiting_time }) end),
      @poolboy_waiting_time
    )
  end

  defmodule Migrator do
    alias MyReelty.Repo
    alias MyReelty.Review

    use GenServer

    def start_link(_) do
      GenServer.start_link(__MODULE__, nil, [])
    end

    def move(server, { params, waiting_time }) do
      GenServer.call(server, { :move, params }, waiting_time)
    end

    def handle_call({ :move, result }, _from, state) do
      big_time_and_resource_consuming_task_here    
      {:reply, %{}, state}
    end
  end
end

Проблема, если миграция некоторой записи в базе данных занимает более 10 минут, у меня есть такое исключение:

20:18:16.917 [error] Task #PID<0.282.0> started from #PID<0.70.0> terminating
** (stop) exited in: GenServer.call(#PID<0.278.0>, {:move, [2, "/videos/164064419", "w 35th st Springfield United States Illinois 60020"]}, 60000)
    ** (EXIT) time out
    (elixir) lib/gen_server.ex:604: GenServer.call/3
    (poolboy) src/poolboy.erl:76: :poolboy.transaction/3
    (elixir) lib/task/supervised.ex:94: Task.Supervised.do_apply/2
    (elixir) lib/task/supervised.ex:45: Task.Supervised.reply/5
    (stdlib) proc_lib.erl:247: :proc_lib.init_p_do_apply/3
Function: #Function<5.53617785/0 in MyReelty.Repo.Migrations.MoveVideosFromVimeoToB2.parallel_migrations/1>
    Args: []

20:18:16.918 [error] GenServer MyReelty.Repo terminating
** (stop) exited in: GenServer.call(#PID<0.278.0>, {:move, [2, "/videos/164064419", "w 35th st Springfield United States Illinois 60020"]}, 60000)
    ** (EXIT) time out
Last message: {:EXIT, #PID<0.70.0>, {:timeout, {GenServer, :call, [#PID<0.278.0>, {:move, [2, "/videos/164064419", "w 35th st Springfield United States Illinois 60020"]}, 60000]}}}
State: {:state, {:local, MyReelty.Repo}, :one_for_one, [{:child, #PID<0.231.0>, DBConnection.Poolboy, {:poolboy, :start_link, [[name: {:local, MyReelty.Repo.Pool}, strategy: :fifo, size: 1, max_overflow: 0, worker_module: DBConnection.Poolboy.Worker], {Postgrex.Protocol, [types: true, username: "adik", types: true, name: MyReelty.Repo.Pool, otp_app: :my_reelty, repo: MyReelty.Repo, adapter: Ecto.Adapters.Postgres, database: "my_reelty_dev", hostname: "localhost", extensions: [{Geo.PostGIS.Extension, [library: Geo]}, {Ecto.Adapters.Postgres.DateTime, []}, {Postgrex.Extensions.JSON, [library: Poison]}], pool_size: 1, pool_timeout: 5000, timeout: 15000, adapter: Ecto.Adapters.Postgres, database: "my_dev", hostname: "localhost", pool_size: 10, pool: DBConnection.Poolboy, port: 5432]}]}, :permanent, 5000, :worker, [:poolboy]}], :undefined, 3, 5, [], 0, Ecto.Repo.Supervisor, {MyReelty.Repo, :my_reelty, Ecto.Adapters.Postgres, [otp_app: :my_reelty, repo: MyReelty.Repo, adapter: Ecto.Adapters.Postgres, database: "my_reelty_dev", hostname: "localhost", extensions: [{Geo.PostGIS.Extension, [library: Geo]}], pool_size: 1]}}

Я попытался вставить terminate/2 или handle_info/2 в Migrator и поиграть с ним, но я даже не дошел до этих функций для вызова. Как я могу обрабатывать таймауты и препятствовать их нарушению моей миграции?

ОБНОВЛЕНО

Я использовал подсказку @johlo, но я все равно получаю тайм-аут. Моя функция:

def init(_) do
 Process.flag(:trap_exit, true)
 {:ok, %{}}
end
4b9b3361

Ответ 1

Когда функция Migrator.move/2 (т.е. GenServer.call) истечет, это приведет к сбою всего процесса MoveVideosFromVimeoToB2, поскольку тот фактический процесс, который вызывает вызов GenServer.

Решение состоит в том, чтобы уловить тайм-аут в анонимной функции в pooled_migration, что-то вроде (я не очень хорошо знаком с синтаксисом Elixir, поэтому он может не компилироваться, но вы должны получить идею):

def pooled_migration(pool, x) do
:poolboy.transaction(
  pool,
  (fn(pid) ->
      try do 
          Migrator.move(pid, { x, @migrator_waiting_time })
      catch
          :exit, reason ->
             # Ignore error, log it or something else
             :ok
      end
   end),
  @poolboy_waiting_time
)
end

Это не процесс Migrator, который истекает, это вызов GenServer для Migrator, который делает, и нам нужно try-catch, что.

Также обратите внимание, что процесс Migrator не был убит, он все еще запущен, см. раздел timeouts в документации для звонков GenServer.

UPDATE: Поскольку @asiniy упоминает в комментариях, @poolboy_waiting_time должен быть установлен в :infinity, поэтому функция poolboy.transaction не выдает ошибку тайм-аута в ожидании свободного рабочего процесса Migrator. Поскольку Migrator выйдет в конце концов, это будет безопасно.