sherlock/xml/xml.h

   1 /*
   2  *      Sherlock Library -- A simple XML parser
   3  *
   4  *      (c) 2007--2008 Pavel Charvat <pchar@ucw.cz>
   5  *
   6  *      This software may be freely distributed and used according to the terms
   7  *      of the GNU Lesser General Public License.
   8  */
   9
  10 #ifndef _SHERLOCK_XML_XML_H
  11 #define _SHERLOCK_XML_XML_H
  12
  13 #include "lib/clists.h"
  14 #include "lib/slists.h"
  15 #include "lib/mempool.h"
  16 #include "lib/fastbuf.h"
  17
  18 struct xml_context;
  19 struct xml_dtd_entity;
  20
  21 enum xml_error {
  22   XML_ERR_OK = 0,
  23   XML_ERR_WARN = 1000,                                  /* Warning */
  24   XML_ERR_ERROR = 2000,                                 /* Recoverable error */
  25   XML_ERR_FATAL = 3000,                                 /* Unrecoverable error */
  26   XML_ERR_EOF,
  27 };
  28
  29 enum xml_state {
  30   XML_STATE_EOF,                                        /* EOF or a fatal error */
  31   XML_STATE_START,                                      /* Initial state */
  32   XML_STATE_XML_DECL,                                   /* XML_PULL_XML_DECL */
  33   XML_STATE_DOCTYPE_DECL,                               /* XML_PULL_DOCTYPE_DECL */
  34   XML_STATE_CHARS,                                      /* XML_PULL_CHARS */
  35   XML_STATE_STAG,                                       /* XML_PULL_STAG */
  36   XML_STATE_ETAG,                                       /* XML_PULL_ETAG */
  37   XML_STATE_COMMENT,                                    /* XML_PULL_COMMENT */
  38   XML_STATE_PI,                                         /* XML_PULL_PI */
  39
  40   /* Internal states */
  41   XML_STATE_CHARS_BEFORE_STAG,
  42   XML_STATE_CHARS_BEFORE_ETAG,
  43   XML_STATE_CHARS_BEFORE_CDATA,
  44   XML_STATE_CHARS_BEFORE_COMMENT,
  45   XML_STATE_CHARS_BEFORE_PI,
  46   XML_STATE_PROLOG_COMMENT,
  47   XML_STATE_PROLOG_PI,
  48   XML_STATE_EPILOG_COMMENT,
  49   XML_STATE_EPILOG_PI,
  50 };
  51
  52 enum xml_pull {
  53   XML_PULL_XML_DECL =                   0x00000001,     /* Stop after the XML declaration */
  54   XML_PULL_DOCTYPE_DECL =               0x00000002,     /* Stop in the doctype declaration (before optional internal subset) */
  55   XML_PULL_CHARS =                      0x00000004,
  56   XML_PULL_STAG =                       0x00000008,
  57   XML_PULL_ETAG =                       0x00000010,
  58   XML_PULL_COMMENT =                    0x00000020,
  59   XML_PULL_PI =                         0x00000040,
  60   XML_PULL_ALL =                        0xffffffff,
  61 };
  62
  63 enum xml_flags {
  64   /* Enable reporting of various events via SAX and/or PUSH interface */
  65   XML_REPORT_COMMENTS =                 0x00000001,     /* Report comments */
  66   XML_REPORT_PIS =                      0x00000002,     /* Report processing instructions */
  67   XML_REPORT_CHARS =                    0x00000004,     /* Report characters */
  68   XML_REPORT_TAGS =                     0x00000008,     /* Report element starts/ends */
  69   XML_REPORT_MISC = XML_REPORT_COMMENTS | XML_REPORT_PIS,
  70   XML_REPORT_ALL = XML_REPORT_MISC | XML_REPORT_CHARS | XML_REPORT_TAGS,
  71
  72   /* Enable construction of DOM for these types */
  73   XML_ALLOC_COMMENTS =                  0x00000010,     /* Create comment nodes */
  74   XML_ALLOC_PIS =                       0x00000020,     /* Create processing instruction nodes */
  75   XML_ALLOC_CHARS =                     0x00000040,     /* Create character nodes */
  76   XML_ALLOC_TAGS =                      0x00000080,     /* Create element nodes */
  77   XML_ALLOC_MISC = XML_ALLOC_COMMENTS | XML_ALLOC_PIS,
  78   XML_ALLOC_ALL = XML_ALLOC_MISC | XML_ALLOC_CHARS | XML_ALLOC_TAGS,
  79
  80   /* Other parameters */
  81   XML_VALIDATING =                      0x00000100,     /* Validate everything (not fully implemented!) */
  82   XML_PARSE_DTD =                       0x00000200,     /* Enable parsing of DTD */
  83   XML_NO_CHARS =                        0x00000400,     /* The current element must not contain character data (filled automaticaly if using DTD) */
  84
  85   /* Internals, do not change! */
  86   XML_EMPTY_ELEM_TAG =                  0x00010000,     /* The current element match EmptyElemTag */
  87   XML_VERSION_1_1 =                     0x00020000,     /* XML version is 1.1, otherwise 1.0 */
  88   XML_HAS_EXTERNAL_SUBSET =             0x00040000,     /* The document contains a reference to external DTD subset */
  89   XML_HAS_INTERNAL_SUBSET =             0x00080000,     /* The document contains an internal subset */
  90   XML_HAS_DTD = XML_HAS_EXTERNAL_SUBSET | XML_HAS_INTERNAL_SUBSET,
  91   XML_SRC_EOF =                         0x00100000,     /* EOF reached */
  92   XML_SRC_EXPECTED_DECL =               0x00200000,     /* Just before optional or required XMLDecl/TextDecl */
  93   XML_SRC_DOCUMENT =                    0x00400000,     /* The document entity */
  94   XML_SRC_EXTERNAL =                    0x00800000,     /* An external entity */
  95 };
  96
  97 enum xml_node_type {
  98   XML_NODE_ELEM,
  99   XML_NODE_COMMENT,
 100   XML_NODE_CHARS,
 101   XML_NODE_PI,
 102 };
 103
 104 #define XML_NODE_FOR_EACH(var, node) CLIST_FOR_EACH(struct xml_node *, var, (node)->sons)
 105 #define XML_ATTR_FOR_EACH(var, node) SLIST_FOR_EACH(struct xml_attr *, var, (node)->attrs)
 106
 107 struct xml_node {
 108   cnode n;                                              /* Node for list of parent's sons */
 109   uns type;                                             /* XML_NODE_x */
 110   struct xml_node *parent;                              /* Parent node */
 111   char *name;                                           /* Element name / PI target */
 112   clist sons;                                           /* Children nodes */
 113   union {
 114     struct {
 115       char *text;                                       /* PI text / Comment / CDATA */
 116       uns len;                                          /* Text length in bytes */
 117     };
 118     struct {
 119       struct xml_dtd_elem *dtd;                         /* Element DTD */
 120       slist attrs;                                      /* Link list of element attributes */
 121     };
 122   };
 123   void *user;                                           /* User-defined (initialized to NULL) */
 124 };
 125
 126 struct xml_attr {
 127   snode n;                                              /* Node for elem->attrs */
 128   struct xml_node *elem;                                /* Parent element */
 129   struct xml_dtd_attr *dtd;                             /* Attribute DTD */
 130   char *name;                                           /* Attribute name */
 131   char *val;                                            /* Attribute value */
 132   void *user;                                           /* User-defined (initialized to NULL) */
 133 };
 134
 135 #define XML_BUF_SIZE 32                                 /* At least 8 -- hardcoded */
 136
 137 struct xml_source {
 138   struct xml_source *next;                              /* Link list of pending fastbufs (xml_context.sources) */
 139   struct fastbuf *fb;                                   /* Source fastbuf */
 140   struct fastbuf *wrapped_fb;                           /* Original wrapped fastbuf (needed for cleanup) */
 141   struct fastbuf wrap_fb;                               /* Fbmem wrapper */
 142   u32 buf[2 * XML_BUF_SIZE];                            /* Read buffer with Unicode values and categories */
 143   u32 *bptr, *bstop;                                    /* Current state of the buffer */
 144   uns row;                                              /* File position */
 145   char *expected_encoding;                              /* Initial encoding before any transformation has been made (expected in XMLDecl/TextDecl) */
 146   char *fb_encoding;                                    /* Encoding of the source fastbuf */
 147   char *decl_encoding;                                  /* Encoding read from the XMLDecl/TextDecl */
 148   uns refill_cat1;                                      /* Character categories, which should be directly passed to the buffer */
 149   uns refill_cat2;                                      /* Character categories, which should be processed as newlines (possibly in some built-in
 150                                                            sequences) */
 151   void (*refill)(struct xml_context *ctx);              /* Callback to decode source characters to the buffer */
 152   unsigned short *refill_in_to_x;                       /* Libcharset input table */
 153   uns saved_depth;                                      /* Saved ctx->depth */
 154   uns pending_0xd;                                      /* The last read character is 0xD */
 155 };
 156
 157 struct xml_context {
 158   /* Error handling */
 159   char *err_msg;                                        /* Last error message */
 160   enum xml_error err_code;                              /* Last error code */
 161   void *throw_buf;                                      /* Where to jump on error */
 162   void (*h_warn)(struct xml_context *ctx);              /* Warning callback */
 163   void (*h_error)(struct xml_context *ctx);             /* Recoverable error callback */
 164   void (*h_fatal)(struct xml_context *ctx);             /* Unrecoverable error callback */
 165
 166   /* Memory management */
 167   struct mempool *pool;                                 /* DOM pool */
 168   struct mempool *stack;                                /* Stack pool (freed as soon as possible) */
 169   struct xml_stack *stack_list;                         /* See xml_push(), xml_pop() */
 170   uns flags;                                            /* XML_FLAG_x (restored on xml_pop()) */
 171   uns depth;                                            /* Nesting level (for checking of valid source nesting -> valid pushes/pops on memory pools) */
 172   struct fastbuf chars;                                 /* Character data / attribute value */
 173   struct mempool_state chars_state;                     /* Mempool state before the current character block has started */
 174   char *chars_trivial;                                  /* If not empty, it will be appended to chars */
 175   void *tab_attrs;                                      /* Hash table of element attributes */
 176
 177   /* Input */
 178   struct xml_source *src;                               /* Current source */
 179   u32 *bptr, *bstop;                                    /* Buffer with preprocessed characters (validated UCS-4 + category flags) */
 180   uns cat_chars;                                        /* Unicode range of supported characters (cdata, attribute values, ...) */
 181   uns cat_unrestricted;                                 /* Unrestricted characters (may appear in document/external entities) */
 182   uns cat_new_line;                                     /* New line characters */
 183   uns cat_name;                                         /* Characters that may appear in names */
 184   uns cat_sname;                                        /* Characters that may begin a name */
 185
 186   /* SAX-like interface */
 187   void (*h_document_start)(struct xml_context *ctx);    /* Called before entering prolog */
 188   void (*h_document_end)(struct xml_context *ctx);      /* Called after leaving epilog */
 189   void (*h_xml_decl)(struct xml_context *ctx);          /* Called after the XML declaration */
 190   void (*h_doctype_decl)(struct xml_context *ctx);      /* Called in the doctype declaration (before optional internal subset) */
 191   void (*h_comment)(struct xml_context *ctx);           /* Called after a comment (only with XML_REPORT_COMMENTS) */
 192   void (*h_pi)(struct xml_context *ctx);                /* Called after a processing instruction (only with XML_REPORT_PIS) */
 193   void (*h_stag)(struct xml_context *ctx);              /* Called after STag or EmptyElemTag (only with XML_REPORT_TAGS) */
 194   void (*h_etag)(struct xml_context *ctx);              /* Called before ETag or after EmptyElemTag (only with XML_REPORT_TAGS) */
 195   void (*h_chars)(struct xml_context *ctx);             /* Called after some characters (only with XML_REPORT_CHARS) */
 196   void (*h_block)(struct xml_context *ctx, char *text, uns len);        /* Called for each continuous block of characters not reported by h_cdata() (only with XML_REPORT_CHARS) */
 197   void (*h_cdata)(struct xml_context *ctx, char *text, uns len);        /* Called for each CDATA section (only with XML_REPORT_CHARS) */
 198   void (*h_ignorable)(struct xml_context *ctx, char *text, uns len);    /* Called for ignorable whitespace (content in tags without #PCDATA) */
 199   void (*h_dtd_start)(struct xml_context *ctx);         /* Called just after the DTD structure is initialized */
 200   void (*h_dtd_end)(struct xml_context *ctx);           /* Called after DTD subsets subsets */
 201   struct xml_dtd_entity *(*h_find_entity)(struct xml_context *ctx, char *name);         /* Called when needed to resolve a general entity */
 202   void (*h_resolve_entity)(struct xml_context *ctx, struct xml_dtd_entity *ent);        /* User should push source fastbuf for a parsed external entity (either general or parameter) */
 203
 204   /* DOM */
 205   struct xml_node *dom;                                 /* DOM root */
 206   struct xml_node *node;                                /* Current DOM node */
 207
 208   char *version_str;
 209   uns standalone;
 210   char *doctype;                                        /* The document type (or NULL if unknown) */
 211   char *system_id;                                      /* DTD external id */
 212   char *public_id;                                      /* DTD public id */
 213   struct xml_dtd *dtd;                                  /* The DTD structure (or NULL) */
 214   uns state;                                            /* Current state for the PULL interface (XML_STATE_x) */
 215   uns pull;                                             /* Parameters for the PULL interface (XML_PULL_x) */
 216 };
 217
 218 /* Initialize XML context */
 219 void xml_init(struct xml_context *ctx);
 220
 221 /* Clean up all internal structures */
 222 void xml_cleanup(struct xml_context *ctx);
 223
 224 /* Reuse XML context, equivalent to xml_cleanup() and xml_init() */
 225 void xml_reset(struct xml_context *ctx);
 226
 227 /* Add XML source (fastbuf will be automatically closed) */
 228 struct xml_source *xml_push_fastbuf(struct xml_context *ctx, struct fastbuf *fb);
 229
 230 /* Parse without the PUSH interface, return XML_ERR_x code (zero on success) */
 231 uns xml_parse(struct xml_context *ctx);
 232
 233 /* Parse with the PUSH interface, return XML_STATE_x (zero on EOF or fatal error) */
 234 uns xml_next(struct xml_context *ctx);
 235
 236 /* Equivalent to xml_next, but with temporarily changed ctx->pull value */
 237 uns xml_next_state(struct xml_context *ctx, uns pull);
 238
 239 /* May be called on XML_STATE_STAG to skip it's content; can return XML_STATE_ETAG or XML_STATE_EOF on fatal error */
 240 uns xml_skip_element(struct xml_context *ctx);
 241
 242 /* Returns the current row number in the document entity */
 243 uns xml_row(struct xml_context *ctx);
 244
 245 /* Finds a given attribute value in a XML_NODE_ELEM node */
 246 struct xml_attr *xml_attr_find(struct xml_context *ctx, struct xml_node *node, char *name);
 247
 248 /* Similar to xml_attr_find, but it deals also with default values */
 249 char *xml_attr_value(struct xml_context *ctx, struct xml_node *node, char *name);
 250
 251 /* The default value of h_find_entity(), knows &lt;, &gt;, &amp;, &apos; and &quot; */
 252 struct xml_dtd_entity *xml_def_find_entity(struct xml_context *ctx, char *name);
 253
 254 /* The default value of h_resolve_entity(), throws an error */
 255 void xml_def_resolve_entity(struct xml_context *ctx, struct xml_dtd_entity *ent);
 256
 257 /* Remove leading/trailing spaces and replaces sequences of spaces to a single space character (non-CDATA attribute normalization) */
 258 uns xml_normalize_white(struct xml_context *ctx, char *value);
 259
 260 /* Public part of error handling */
 261 void xml_warn(struct xml_context *ctx, const char *format, ...);
 262 void xml_error(struct xml_context *ctx, const char *format, ...);
 263 void NONRET xml_fatal(struct xml_context *ctx, const char *format, ...);
 264
 265 #endif