Я ищу библиотеку Python для поиска самой длинной общей подстроки из набора строк. Существует два способа решить эту проблему:
Реализованный метод не имеет значения. Важно, чтобы он мог использоваться для набора строк (не только двух строк).
Эти парные функции найдут самую длинную общую строку в любом произвольном массиве строк:
def long_substr(data):
substr = ''
if len(data) > 1 and len(data[0]) > 0:
for i in range(len(data[0])):
for j in range(len(data[0])-i+1):
if j > len(substr) and is_substr(data[0][i:i+j], data):
substr = data[0][i:i+j]
return substr
def is_substr(find, data):
if len(data) < 1 and len(find) < 1:
return False
for i in range(len(data)):
if find not in data[i]:
return False
return True
print long_substr(['Oh, hello, my friend.',
'I prefer Jelly Belly beans.',
'When hell freezes over!'])
Без сомнения, алгоритм может быть улучшен, и у меня не было много возможностей для Python, так что, возможно, он может быть более эффективным и синтаксически, но он должен выполнять эту работу.
РЕДАКТИРОВАТЬ: вложенная вторая функция is_substr, как продемонстрировал Дж. Ф. Себастьян. Использование остается прежним. Примечание: без изменения алгоритма.
def long_substr(data):
substr = ''
if len(data) > 1 and len(data[0]) > 0:
for i in range(len(data[0])):
for j in range(len(data[0])-i+1):
if j > len(substr) and all(data[0][i:i+j] in x for x in data):
substr = data[0][i:i+j]
return substr
Надеюсь, что это поможет,
Джейсон.
Я предпочитаю это для is_substr, так как я считаю его более читабельным и интуитивным:
def is_substr(find, data):
"""
inputs a substring to find, returns True only
if found for each data in data list
"""
if len(find) < 1 or len(data) < 1:
return False # expected input DNE
is_found = True # and-ing to False anywhere in data will return False
for i in data:
print "Looking for substring %s in %s..." % (find, i)
is_found = is_found and find in i
return is_found
def common_prefix(strings):
""" Find the longest string that is a prefix of all the strings.
"""
if not strings:
return ''
prefix = strings[0]
for s in strings:
if len(s) < len(prefix):
prefix = prefix[:len(s)]
if not prefix:
return ''
for i in range(len(prefix)):
if prefix[i] != s[i]:
prefix = prefix[:i]
break
return prefix
От http://bitbucket.org/ned/cog/src/tip/cogapp/whiteutils.py
# this does not increase asymptotical complexity
# but can still waste more time than it saves. TODO: profile
def shortest_of(strings):
return min(strings, key=len)
def long_substr(strings):
substr = ""
if not strings:
return substr
reference = shortest_of(strings) #strings[0]
length = len(reference)
#find a suitable slice i:j
for i in xrange(length):
#only consider strings long at least len(substr) + 1
for j in xrange(i + len(substr) + 1, length + 1):
candidate = reference[i:j] # ↓ is the slice recalculated every time?
if all(candidate in text for text in strings):
substr = candidate
return substr
Отказ от ответственности Это добавляет очень мало ответа jtjacques. Однако, надеюсь, это должно быть более читаемым и быстрым, и оно не вписывается в комментарий, поэтому я отправляю это в ответ. Если честно, я не удовлетворен shortest_of.
Вы можете использовать модуль SuffixTree, который является оберткой на основе реализации ANSI C обобщенных деревьев суффикса. Модуль прост в обращении....
Взгляните на: здесь
Это можно сделать короче:
def long_substr(data):
substrs = lambda x: {x[i:i+j] for i in range(len(x)) for j in range(len(x) - i + 1)}
s = substrs(data[0])
for val in data[1:]:
s.intersection_update(substrs(val))
return max(s, key=len)
(возможно) реализованы как хэш-карты, что делает это немного неэффективным. Если вы (1) реализуете заданный тип данных как trie и (2) просто сохраняете постфикс в trie, а затем заставляете каждую node быть конечной точкой (это было бы эквивалентно добавлению всех подстрок), THEN в теории я предположил бы, что этот ребенок довольно эффективен в памяти, тем более, что пересечения попыток очень легкие.
Тем не менее, это короткая и преждевременная оптимизация - это корень значительного количества потерянного времени.
Если кто-то ищет обобщенную версию, которая также может принимать список последовательностей произвольных объектов:
def get_longest_common_subseq(data):
substr = []
if len(data) > 1 and len(data[0]) > 0:
for i in range(len(data[0])):
for j in range(len(data[0])-i+1):
if j > len(substr) and is_subseq_of_any(data[0][i:i+j], data):
substr = data[0][i:i+j]
return substr
def is_subseq_of_any(find, data):
if len(data) < 1 and len(find) < 1:
return False
for i in range(len(data)):
if not is_subseq(find, data[i]):
return False
return True
# Will also return True if possible_subseq == seq.
def is_subseq(possible_subseq, seq):
if len(possible_subseq) > len(seq):
return False
def get_length_n_slices(n):
for i in xrange(len(seq) + 1 - n):
yield seq[i:i+n]
for slyce in get_length_n_slices(len(possible_subseq)):
if slyce == possible_subseq:
return True
return False
print get_longest_common_subseq([[1, 2, 3, 4, 5], [2, 3, 4, 5, 6]])
print get_longest_common_subseq(['Oh, hello, my friend.',
'I prefer Jelly Belly beans.',
'When hell freezes over!'])