Подтвердить что ты не робот

Как получить абсолютный URL-адрес при извлечении ссылок с помощью Nokogiri?

Я использую Nokogiri для извлечения ссылок со страницы, но я хотел бы получить абсолютный путь, даже если один на странице является относительным. Как я могу это сделать?

Ответ 1

Nokogiri не имеет отношения, кроме того, что он дает вам привязку ссылок для начала. Используйте Ruby URI для управления путями:

absolute_uri = URI.join( page_url, href ).to_s

В действии:

require 'uri'

# The URL of the page with the links
page_url = 'http://foo.com/zee/zaw/zoom.html'

# A variety of links to test.
hrefs = %w[
  http://zork.com/             http://zork.com/#id
  http://zork.com/bar          http://zork.com/bar#id
  http://zork.com/bar/         http://zork.com/bar/#id
  http://zork.com/bar/jim.html http://zork.com/bar/jim.html#id
  /bar                         /bar#id
  /bar/                        /bar/#id
  /bar/jim.html                /bar/jim.html#id
  jim.html                     jim.html#id
  ../jim.html                  ../jim.html#id
  ../                          ../#id
  #id
]

hrefs.each do |href|
  root_href = URI.join(page_url,href).to_s
  puts "%-32s -> %s" % [ href, root_href ]
end
#=> http://zork.com/                 -> http://zork.com/
#=> http://zork.com/#id              -> http://zork.com/#id
#=> http://zork.com/bar              -> http://zork.com/bar
#=> http://zork.com/bar#id           -> http://zork.com/bar#id
#=> http://zork.com/bar/             -> http://zork.com/bar/
#=> http://zork.com/bar/#id          -> http://zork.com/bar/#id
#=> http://zork.com/bar/jim.html     -> http://zork.com/bar/jim.html
#=> http://zork.com/bar/jim.html#id  -> http://zork.com/bar/jim.html#id
#=> /bar                             -> http://foo.com/bar
#=> /bar#id                          -> http://foo.com/bar#id
#=> /bar/                            -> http://foo.com/bar/
#=> /bar/#id                         -> http://foo.com/bar/#id
#=> /bar/jim.html                    -> http://foo.com/bar/jim.html
#=> /bar/jim.html#id                 -> http://foo.com/bar/jim.html#id
#=> jim.html                         -> http://foo.com/zee/zaw/jim.html
#=> jim.html#id                      -> http://foo.com/zee/zaw/jim.html#id
#=> ../jim.html                      -> http://foo.com/zee/jim.html
#=> ../jim.html#id                   -> http://foo.com/zee/jim.html#id
#=> ../                              -> http://foo.com/zee/
#=> ../#id                           -> http://foo.com/zee/#id
#=> #id                              -> http://foo.com/zee/zaw/zoom.html#id

Более запутанный ответ здесь ранее использовался URI.parse(root).merge(URI.parse(href)).to_s.
Благодаря @pguardiario для улучшения.

Ответ 2

Ответ Phrogz - это хорошо, но проще:

URI.join(base, url).to_s

Ответ 3

Вам нужно проверить, является ли URL абсолютным или относительным с проверкой, если начать с http: Если URL-адрес относительный, вам нужно добавить хост к этому URL-адресу. Вы не можете этого сделать нокогири. Вам нужно обработать весь URL-адрес внутри, чтобы сделать абсолютным.