Подтвердить что ты не робот

Удаление недопустимых символов XML из строки в java

Привет Я хотел бы удалить все недопустимые символы XML из строки. Я хотел бы использовать регулярное выражение с методом string.replace.

like

line.replace(regExp,"");

Каков правильный regExp для использования?

Недопустимый символ XML - это все, что не так:

[#x1-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF]

спасибо.

4b9b3361

Ответ 1

Java regex поддерживает дополнительные символы, поэтому вы можете указать эти высокие диапазоны с двумя символами с кодировкой UTF-16.

Вот шаблон для удаления символов, которые являются незаконными в XML 1.0:

// XML 1.0
// #x9 | #xA | #xD | [#x20-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF]
String xml10pattern = "[^"
                    + "\u0009\r\n"
                    + "\u0020-\uD7FF"
                    + "\uE000-\uFFFD"
                    + "\ud800\udc00-\udbff\udfff"
                    + "]";

Большинство людей захотят получить версию XML 1.0.

Вот шаблон для удаления символов, которые являются незаконными в XML 1.1:

// XML 1.1
// [#x1-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF]
String xml11pattern = "[^"
                    + "\u0001-\uD7FF"
                    + "\uE000-\uFFFD"
                    + "\ud800\udc00-\udbff\udfff"
                    + "]+";

Вам нужно будет использовать String.replaceAll(...), а не String.replace(...).

String illegal = "Hello, World!\0";
String legal = illegal.replaceAll(pattern, "");

Ответ 2

Должны ли мы рассматривать суррогатных персонажей? иначе '(current >= 0x10000) && & (ток <= 0x10FFFF) 'никогда не будет истинным.

Также проверено, что путь регулярного выражения выглядит медленнее, чем следующий цикл.

if (null == text || text.isEmpty()) {
    return text;
}
final int len = text.length();
char current = 0;
int codePoint = 0;
StringBuilder sb = new StringBuilder();
for (int i = 0; i < len; i++) {
    current = text.charAt(i);
    boolean surrogate = false;
    if (Character.isHighSurrogate(current)
            && i + 1 < len && Character.isLowSurrogate(text.charAt(i + 1))) {
        surrogate = true;
        codePoint = text.codePointAt(i++);
    } else {
        codePoint = current;
    }
    if ((codePoint == 0x9) || (codePoint == 0xA) || (codePoint == 0xD)
            || ((codePoint >= 0x20) && (codePoint <= 0xD7FF))
            || ((codePoint >= 0xE000) && (codePoint <= 0xFFFD))
            || ((codePoint >= 0x10000) && (codePoint <= 0x10FFFF))) {
        sb.append(current);
        if (surrogate) {
            sb.append(text.charAt(i));
        }
    }
}

Ответ 3

Решение Jun, упрощенное. Используя StringBuffer#appendCodePoint(int), мне не нужно char current или String#charAt(int). Я могу суррогатная пара проверить, если codePoint больше, чем 0xFFFF.

(Не нужно делать я ++, так как низкий суррогат не будет пропускать фильтр, но тогда можно было бы повторно использовать код для разных кодовых точек, и это не получится. Я предпочитаю программировать для взлома.)

StringBuilder sb = new StringBuilder();
for (int i = 0; i < text.length(); i++) {
    int codePoint = text.codePointAt(i);
    if (codePoint > 0xFFFF) {
        i++;
    }
    if ((codePoint == 0x9) || (codePoint == 0xA) || (codePoint == 0xD)
            || ((codePoint >= 0x20) && (codePoint <= 0xD7FF))
            || ((codePoint >= 0xE000) && (codePoint <= 0xFFFD))
            || ((codePoint >= 0x10000) && (codePoint <= 0x10FFFF))) {
        sb.appendCodePoint(codePoint);
    }
}

Ответ 4

Из Отметка McLaren Weblog

  /**
   * This method ensures that the output String has only
   * valid XML unicode characters as specified by the
   * XML 1.0 standard. For reference, please see
   * <a href="http://www.w3.org/TR/2000/REC-xml-20001006#NT-Char">the
   * standard</a>. This method will return an empty
   * String if the input is null or empty.
   *
   * @param in The String whose non-valid characters we want to remove.
   * @return The in String, stripped of non-valid characters.
   */
  public static String stripNonValidXMLCharacters(String in) {
      StringBuffer out = new StringBuffer(); // Used to hold the output.
      char current; // Used to reference the current character.

      if (in == null || ("".equals(in))) return ""; // vacancy test.
      for (int i = 0; i < in.length(); i++) {
          current = in.charAt(i); // NOTE: No IndexOutOfBoundsException caught here; it should not happen.
          if ((current == 0x9) ||
              (current == 0xA) ||
              (current == 0xD) ||
              ((current >= 0x20) && (current <= 0xD7FF)) ||
              ((current >= 0xE000) && (current <= 0xFFFD)) ||
              ((current >= 0x10000) && (current <= 0x10FFFF)))
              out.append(current);
      }
      return out.toString();
  }   

Ответ 5

Из Лучший способ кодирования текстовых данных для XML в Java?

String xmlEscapeText(String t) {
   StringBuilder sb = new StringBuilder();
   for(int i = 0; i < t.length(); i++){
      char c = t.charAt(i);
      switch(c){
      case '<': sb.append("&lt;"); break;
      case '>': sb.append("&gt;"); break;
      case '\"': sb.append("&quot;"); break;
      case '&': sb.append("&amp;"); break;
      case '\'': sb.append("&apos;"); break;
      default:
         if(c>0x7e) {
            sb.append("&#"+((int)c)+";");
         }else
            sb.append(c);
      }
   }
   return sb.toString();
}

Ответ 6

Все эти ответы до сих пор заменяют только сами символы. Но иногда XML-документ будет иметь недопустимые последовательности сущностей XML, приводящие к ошибкам. Например, если у вас есть &#2; в вашем xml, парсер java xml будет бросать Illegal character entity: expansion character (code 0x2 at ....

Вот простая java-программа, которая может заменить эти недопустимые последовательности сущностей.

  public final Pattern XML_ENTITY_PATTERN = Pattern.compile("\\&\\#(?:x([0-9a-fA-F]+)|([0-9]+))\\;");

  /**
   * Remove problematic xml entities from the xml string so that you can parse it with java DOM / SAX libraries.
   */
  String getCleanedXml(String xmlString) {
    Matcher m = XML_ENTITY_PATTERN.matcher(xmlString);
    Set<String> replaceSet = new HashSet<>();
    while (m.find()) {
      String group = m.group(1);
      int val;
      if (group != null) {
        val = Integer.parseInt(group, 16);
        if (isInvalidXmlChar(val)) {
          replaceSet.add("&#x" + group + ";");
        }
      } else if ((group = m.group(2)) != null) {
        val = Integer.parseInt(group);
        if (isInvalidXmlChar(val)) {
          replaceSet.add("&#" + group + ";");
        }
      }
    }
    String cleanedXmlString = xmlString;
    for (String replacer : replaceSet) {
      cleanedXmlString = cleanedXmlString.replaceAll(replacer, "");
    }
    return cleanedXmlString;
  }

  private boolean isInvalidXmlChar(int val) {
    if (val == 0x9 || val == 0xA || val == 0xD ||
            val >= 0x20 && val <= 0xD7FF ||
            val >= 0x10000 && val <= 0x10FFFF) {
      return false;
    }
    return true;
  }

Ответ 7

Если вы хотите хранить текстовые элементы с запрещенными символами в форме XML, вы можете использовать XPL вместо этого. Dev-kit обеспечивает одновременную обработку XPL для XML и XML, что означает отсутствие затрат времени на перевод из XPL в XML. Или, если вам не нужна полная мощность XML (пространства имен), вы можете просто использовать XPL.

Веб-страница: HLL XPL