]> mj.ucw.cz Git - libucw.git/blob - ucw/fastbuf.h
41f339eef813e5ed7f51e09a81248ed8eb9552f9
[libucw.git] / ucw / fastbuf.h
1 /*
2  *      UCW Library -- Fast Buffered I/O
3  *
4  *      (c) 1997--2008 Martin Mares <mj@ucw.cz>
5  *      (c) 2004 Robert Spalek <robert@ucw.cz>
6  *
7  *      This software may be freely distributed and used according to the terms
8  *      of the GNU Lesser General Public License.
9  */
10
11 #ifndef _UCW_FASTBUF_H
12 #define _UCW_FASTBUF_H
13
14 #include <string.h>
15 #include <alloca.h>
16
17 /***
18  * === Internal structure [[internal]]
19  *
20  * Generally speaking, a fastbuf consists of a buffer and a set of callbacks.
21  * All front-end functions operate on the buffer and if the buffer becomes
22  * empty or fills up, they ask the corresponding callback to handle the
23  * situation. Back-ends then differ just in the definition of the callbacks.
24  *
25  * The state of the fastbuf is represented by a <<struct_fastbuf,`struct fastbuf`>>,
26  * which is a simple structure describing the state of the buffer (the pointers
27  * `buffer`, `bufend`), the front-end cursor (`bptr`), the back-end cursor (`bstop`),
28  * position of the back-end cursor in the file (`pos`), some flags (`flags`)
29  * and pointers to the callback functions.
30  *
31  * The buffer can be in one of the following states:
32  *
33  * 1. Flushed:
34  *
35  *    +------------------------------------+---------------------------+
36  *    | unused                             | free space                |
37  *    +------------------------------------+---------------------------+
38  *    ^              ^                     ^                           ^
39  *    buffer      <= bstop (BE pos)     <= bptr (FE pos)            <= bufend
40  *
41  *   * This schema describes a fastbuf after its initialization or bflush().
42  *   * There is no cached data and we are ready for any read or write operation
43  *     (well, only if the back-end supports it).
44  *   * The interval `[bptr, bufend]` can be used by front-ends
45  *     for writing. If it is empty, the `spout` callback gets called
46  *     upon the first write attempt to allocate a new buffer. Otherwise
47  *     the fastbuf silently comes to the writing mode.
48  *   * When a front-end needs to read something, it calls the `refill` callback.
49  *   * The pointers can be either all non-`NULL` or all NULL.
50  *   * `bstop == bptr` in most back-ends, but it is not necessary. Some
51  *     in-memory streams take advantage of this.
52  *
53  * 2. Reading:
54  *
55  *    +------------------------------------+---------------------------+
56  *    | read data                          | unused                    |
57  *    +------------------------------------+---------------------------+
58  *    ^               ^                    ^                           ^
59  *    buffer       <= bptr (FE pos)     <= bstop (BE pos)           <= bufend
60  *
61  *   * If we try to read something, we get to the reading mode.
62  *   * No writing is allowed until a flush operation. But note that @bflush()
63  *     will simply set `bptr` to `bstop` before `spout`
64  *     and it breaks the position of the front-end's cursor,
65  *     so the user should seek afwards.
66  *   * The interval `[buffer, bstop]` contains a block of data read by the back-end.
67  *     `bptr` is the front-end's cursor which points to the next character to be read.
68  *     After the last character is read, `bptr == bstop` and the `refill` callback
69  *     gets called upon the next read attempt to bring further data.
70  *     This gives us an easy way how to implement @bungetc().
71  *
72  * 3. Writing:
73  *
74  *    +-----------------------+----------------+-----------------------+
75  *    | unused                | written data   | free space            |
76  *    +-----------------------+----------------+-----------------------+
77  *    ^            ^                           ^                       ^
78  *    buffer    <= bstop (BE pos)            < bptr (FE pos)        <= bufend
79  *
80  *   * This schema corresponds to the situation after a write attempt.
81  *   * No reading is allowed until a flush operation.
82  *   * The `bptr` points at the position where the next character
83  *     will be written to. When we want to write, but `bptr == bufend`, we call
84  *     the `spout` hook to flush the witten data and get an empty buffer.
85  *   * `bstop` usually points at the beginning of the written data,
86  *     but it is not necessary.
87  *
88  *
89  * Rules for back-ends:
90  *
91  *   - Front-ends are only allowed to change the value of `bptr`, some flags
92  *     and if a fatal error occurs, then also `bstop`. Back-ends can rely on it.
93  *   - `buffer <= bstop <= bufend` and `buffer <= bptr <= bufend`.
94  *   - `pos` should be the real position in the file corresponding to the location of `bstop` in the buffer.
95  *     It can be modified by any back-end's callback, but the position of `bptr` (`pos + (bptr - bstop)`)
96  *     must stay unchanged after `refill` or `spout`.
97  *   - Failed callbacks (except `close`) should use @bthrow().
98  *   - Any callback pointer may be NULL in case the callback is not implemented.
99  *   - Callbacks can change not only `bptr` and `bstop`, but also the location and size of the buffer;
100  *     the fb-mem back-end takes advantage of it.
101  *
102  *   - Initialization:
103  *     * out: `buffer <= bstop <= bptr <= bufend` (flushed).
104  *
105  *   - `refill`:
106  *     * in: `buffer <= bstop <= bptr <= bufend` (reading or flushed).
107  *     * out: `buffer <= bptr <= bstop <= bufend` (reading).
108  *     * Resulting `bptr == bstop` signals the end of file.
109  *       The next reading attempt will again call `refill` which can succeed this time.
110  *     * The callback must also return zero on EOF (iff `bptr == bstop`).
111  *
112  *   - `spout`:
113  *     * in: `buffer <= bstop <= bptr <= bufend` (writing or flushed).
114  *     * out: `buffer <= bstop <= bptr < bufend` (flushed).
115  *
116  *   - `seek`:
117  *     * in: `buffer <= bstop <= bptr <= bufend` (flushed).
118  *     * in: `(ofs >= 0 && whence == SEEK_SET) || (ofs <= 0 && whence == SEEK_END)`.
119  *     * out: `buffer <= bstop <= bptr <= bufend` (flushed).
120  *
121  *   - `close`:
122  *     * in: `buffer <= bstop <= bptr <= bufend` (flushed or after @bthrow()).
123  *     * `close` must always free all internal structures, even when it throws an exception.
124  ***/
125
126 /**
127  * This structure contains the state of the fastbuf. See the discussion above
128  * for how it works.
129  **/
130 struct fastbuf {
131   byte is_fastbuf[0];                           /* Dummy field for checking of type casts */
132   byte *bptr, *bstop;                           /* State of the buffer */
133   byte *buffer, *bufend;                        /* Start and end of the buffer */
134   char *name;                                   /* File name (used for error messages) */
135   ucw_off_t pos;                                /* Position of bstop in the file */
136   uns flags;                                    /* See enum fb_flags */
137   int (*refill)(struct fastbuf *);              /* Get a buffer with new data, returns 0 on EOF */
138   void (*spout)(struct fastbuf *);              /* Write buffer data to the file */
139   int (*seek)(struct fastbuf *, ucw_off_t, int);/* Slow path for @bseek(), buffer already flushed; returns success */
140   void (*close)(struct fastbuf *);              /* Close the stream */
141   int (*config)(struct fastbuf *, uns, int);    /* Configure the stream */
142   int can_overwrite_buffer;                     /* Can the buffer be altered? 0=never, 1=temporarily, 2=permanently */
143   struct resource *res;                         /* The fastbuf can be tied to a resource pool */
144 };
145
146 void fb_tie(struct fastbuf *b);                 /* Tie fastbuf to a resource if there is an active pool */
147
148 /**
149  * Fastbuf flags
150  */
151 enum fb_flags {
152   FB_DEAD = 0x1,                                /* Some fastbuf's method has thrown an exception */
153   FB_DIE_ON_EOF = 0x2,                          /* Most of read operations throw "fb.eof" on EOF */
154 };
155
156 /***
157  * === Fastbuf on files [[fbparam]]
158  *
159  * If you want to use fastbufs to access files, you can choose one of several
160  * back-ends and set their parameters.
161  *
162  * All file fastbufs are tied to resources automatically.
163  ***/
164
165 /**
166  * Back-end types
167  */
168 enum fb_type {
169   FB_STD,                               /* Standard buffered I/O */
170   FB_DIRECT,                            /* Direct I/O bypassing system caches (see fb-direct.c for a description) */
171   FB_MMAP                               /* Memory mapped files */
172 };
173
174 /**
175  * When you open a file fastbuf, you can use this structure to select a back-end
176  * and set its parameters. If you want just an "ordinary" file stream, you can
177  * happily pass NULL instead and the defaults from the configuration file (or
178  * hard-wired defaults if no config file has been read) will be used.
179  */
180 struct fb_params {
181   enum fb_type type;                    /* The chosen back-end */
182   uns buffer_size;                      /* 0 for default size */
183   uns keep_back_buf;                    /* FB_STD: optimize for bi-directional access */
184   uns read_ahead;                       /* FB_DIRECT options */
185   uns write_back;
186   struct asio_queue *asio;
187 };
188
189 struct cf_section;
190 extern struct cf_section fbpar_cf;      /** Configuration section with which you can fill the `fb_params` **/
191 extern struct fb_params fbpar_def;      /** The default `fb_params` **/
192
193 /**
194  * Opens a file with file mode @mode (see the man page of open()).
195  * Use @params to select the fastbuf back-end and its parameters or
196  * pass NULL if you are fine with defaults.
197  *
198  * Dies if the file does not exist.
199  **/
200 struct fastbuf *bopen_file(const char *name, int mode, struct fb_params *params);
201 struct fastbuf *bopen_file_try(const char *name, int mode, struct fb_params *params); /** Like bopen_file(), but returns NULL on failure. **/
202
203 /**
204  * Opens a temporary file.
205  * It is placed with other temp files and it is deleted when closed.
206  * Again, use NULL for @params if you want the defaults.
207  **/
208 struct fastbuf *bopen_tmp_file(struct fb_params *params);
209
210 /**
211  * Creates a fastbuf from a file descriptor @fd and sets its filename
212  * to @name (the name is used only in error messages).
213  * When the fastbuf is closed, the fd is closed as well. You can override
214  * this behavior by calling @bconfig().
215  */
216 struct fastbuf *bopen_fd_name(int fd, struct fb_params *params, const char *name);
217 static inline struct fastbuf *bopen_fd(int fd, struct fb_params *params) /** Same as above, but with an auto-generated filename. **/
218 {
219   return bopen_fd_name(fd, params, NULL);
220 }
221
222 /**
223  * Flushes all buffers and makes sure that they are written to the disk.
224  **/
225 void bfilesync(struct fastbuf *b);
226
227 /***
228  * === Fastbufs on regular files [[fbfile]]
229  *
230  * If you want to use the `FB_STD` back-end and not worry about setting
231  * up any parameters, there is a couple of shortcuts.
232  ***/
233
234 struct fastbuf *bopen(const char *name, uns mode, uns buflen);          /** Equivalent to @bopen_file() with `FB_STD` back-end. **/
235 struct fastbuf *bopen_try(const char *name, uns mode, uns buflen);      /** Equivalent to @bopen_file_try() with `FB_STD` back-end. **/
236 struct fastbuf *bopen_tmp(uns buflen);                                  /** Equivalent to @bopen_tmp_file() with `FB_STD` back-end. **/
237 struct fastbuf *bfdopen(int fd, uns buflen);                            /** Equivalent to @bopen_fd() with `FB_STD` back-end. **/
238 struct fastbuf *bfdopen_shared(int fd, uns buflen);                     /** Like @bfdopen(), but it does not close the @fd on @bclose(). **/
239
240 /***
241  * === Temporary files [[fbtemp]]
242  *
243  * Usually, @bopen_tmp_file() is the best way how to come to a temporary file.
244  * However, in some specific cases you can need more, so there is also a set
245  * of more general functions.
246  ***/
247
248 #define TEMP_FILE_NAME_LEN 256
249
250 /**
251  * Generates a temporary filename and stores it to the @name_buf (of size
252  * at least * `TEMP_FILE_NAME_LEN`). If @open_flags are not NULL, flags that
253  * should be OR-ed with other flags to open() will be stored there.
254  *
255  * The location and style of temporary files is controlled by the configuration.
256  * By default, the system temp directory (`$TMPDIR` or `/tmp`) is used.
257  *
258  * If the location is a publicly writeable directory (like `/tmp`), the
259  * generated filename cannot be guaranteed to be unique, so @open_flags
260  * will include `O_EXCL` and you have to check the result of open() and
261  * iterate if needed.
262  *
263  * This function is not specific to fastbufs, it can be used separately.
264  **/
265 void temp_file_name(char *name_buf, int *open_flags);
266
267 /**
268  * Opens a temporary file and returns its file descriptor.
269  * You specify the file @mode and @open_flags passed to open().
270  *
271  * If the @name_buf (of at last `TEMP_FILE_NAME_LEN` chars) is not NULL,
272  * the filename is also stored in it.
273  *
274  * This function is not specific to fastbufs, it can be used separately.
275  */
276 int open_tmp(char *name_buf, int open_flags, int mode);
277
278 /**
279  * Sometimes, a file is created as temporary and then moved to a stable
280  * location. This function takes a fastbuf created by @bopen_tmp_file()
281  * or @bopen_tmp(), marks it as permanent, closes it and renames it to
282  * @name.
283  *
284  * Please note that it assumes that the temporary file and the @name
285  * are on the same volume (otherwise, rename() fails), so you might
286  * want to configure a special location for the temporary files
287  * beforehand.
288  */
289 void bfix_tmp_file(struct fastbuf *fb, const char *name);
290
291 /* Internal functions of some file back-ends */
292
293 struct fastbuf *bfdopen_internal(int fd, const char *name, uns buflen);
294 struct fastbuf *bfmmopen_internal(int fd, const char *name, uns mode);
295
296 #ifdef CONFIG_UCW_FB_DIRECT
297 extern uns fbdir_cheat;
298 struct asio_queue;
299 struct fastbuf *fbdir_open_fd_internal(int fd, const char *name, struct asio_queue *io_queue, uns buffer_size, uns read_ahead, uns write_back);
300 #endif
301
302 void bclose_file_helper(struct fastbuf *f, int fd, int is_temp_file);
303
304 /***
305  * === Fastbufs on file fragments [[fblim]]
306  *
307  * The `fblim` back-end reads from a file handle, but at most a given
308  * number of bytes. This is frequently used for reading from sockets.
309  *
310  * All such fastbufs are tied to resources automatically.
311  ***/
312
313 struct fastbuf *bopen_limited_fd(int fd, uns bufsize, uns limit); /** Create a fastbuf which reads at most @limit bytes from @fd. **/
314
315 /***
316  * === Fastbufs on in-memory streams [[fbmem]]
317  *
318  * The `fbmem` back-end keeps the whole contents of the stream
319  * in memory (as a linked list of memory blocks, so address space
320  * fragmentation is avoided).
321  *
322  * First, you use @fbmem_create() to create the stream and the fastbuf
323  * used for writing to it. Then you can call @fbmem_clone_read() to get
324  * an arbitrary number of fastbuf for reading from the stream.
325  *
326  * All in-memory fastbufs are tied to resources automatically.
327  ***/
328
329 struct fastbuf *fbmem_create(uns blocksize);            /** Create stream and return its writing fastbuf. **/
330 struct fastbuf *fbmem_clone_read(struct fastbuf *f);    /** Given a writing fastbuf, create a new reading fastbuf. **/
331
332 /***
333  * === Fastbufs on static buffers [[fbbuf]]
334  *
335  * The `fbbuf` back-end stores the stream in a given block of memory.
336  * This is useful for parsing and generating of complex data structures.
337  ***/
338
339 /**
340  * Creates a read-only fastbuf that takes its data from a given buffer.
341  * The fastbuf structure is allocated by the caller and pointed to by @f.
342  * The @buffer and @size specify the location and size of the buffer.
343  *
344  * In some cases, the front-ends can take advantage of rewriting the contents
345  * of the buffer temporarily. In this case, set @can_overwrite as described
346  * in <<internal,Internals>>. If you do not care, keep @can_overwrite zero.
347  *
348  * It is not possible to close this fastbuf. This implies that no tying to
349  * resources takes place.
350  */
351 void fbbuf_init_read(struct fastbuf *f, byte *buffer, uns size, uns can_overwrite);
352
353 /**
354  * Creates a write-only fastbuf which writes into a provided memory buffer.
355  * The fastbuf structure is allocated by the caller and pointed to by @f.
356  * An attempt to write behind the end of the buffer dies.
357  *
358  * Data are written directly into the buffer, so it is not necessary to call @bflush()
359  * at any moment.
360  *
361  * It is not possible to close this fastbuf. This implies that no tying to
362  * resources takes place.
363  */
364 void fbbuf_init_write(struct fastbuf *f, byte *buffer, uns size);
365
366 static inline uns fbbuf_count_written(struct fastbuf *f) /** Calculates, how many bytes were already written into the buffer. **/
367 {
368   return f->bptr - f->bstop;
369 }
370
371 /***
372  * === Fastbuf on recyclable growing buffers [[fbgrow]]
373  *
374  * The `fbgrow` back-end keeps the stream in a contiguous buffer stored in the
375  * main memory, but unlike <<fbmem,`fbmem`>>, the buffer does not have a fixed
376  * size and it is expanded to accomodate all data.
377  *
378  * At every moment, you can use `fastbuf->buffer` to gain access to the stream.
379  *
380  * All fastbufs of this type are tied to resources automatically.
381  ***/
382
383 struct mempool;
384
385 struct fastbuf *fbgrow_create(unsigned basic_size);     /** Create the growing buffer pre-allocated to @basic_size bytes. **/
386 struct fastbuf *fbgrow_create_mp(struct mempool *mp, unsigned basic_size); /** Create the growing buffer pre-allocated to @basic_size bytes. **/
387 void fbgrow_reset(struct fastbuf *b);                   /** Reset stream and prepare for writing. **/
388 void fbgrow_rewind(struct fastbuf *b);                  /** Prepare for reading (of already written data). **/
389
390 /***
391  * === Fastbuf on memory pools [[fbpool]]
392  *
393  * The write-only `fbpool` back-end also keeps the stream in a contiguous
394  * buffer, but this time the buffer is allocated from within a memory pool.
395  ***/
396
397 struct fbpool { /** Structure for fastbufs & mempools. **/
398   struct fastbuf fb;
399   struct mempool *mp;
400 };
401
402 /**
403  * Initialize a new `fbpool`. The structure is allocated by the caller,
404  * so bclose() should not be called and no resource tying takes place.
405  **/
406 void fbpool_init(struct fbpool *fb);    /** Initialize a new mempool fastbuf. **/
407 /**
408  * Start a new continuous block and prepare for writing (see <<mempool:mp_start()>>).
409  * Provide the memory pool you want to use for this block as @mp.
410  **/
411 void fbpool_start(struct fbpool *fb, struct mempool *mp, uns init_size);
412 /**
413  * Close the block and return the address of its start (see <<mempool:mp_end()>>).
414  * The length can be determined by calling <<mempool:mp_size(mp, ptr)>>.
415  **/
416 void *fbpool_end(struct fbpool *fb);
417
418 /***
419  * === Atomic files for multi-threaded programs [[fbatomic]]
420  *
421  * This fastbuf backend is designed for cases when several threads
422  * of a single program append records to a common file and while the
423  * record can mix in an arbitrary way, the bytes inside a single
424  * record must remain uninterrupted.
425  *
426  * In case of files with fixed record size, we just allocate the
427  * buffer to hold a whole number of records and take advantage
428  * of the atomicity of the write() system call.
429  *
430  * With variable-sized records, we need another solution: when
431  * writing a record, we keep the fastbuf in a locked state, which
432  * prevents buffer flushing (and if the buffer becomes full, we extend it),
433  * and we wait for an explicit commit operation which write()s the buffer
434  * if the free space in the buffer falls below the expected maximum record
435  * length.
436  *
437  * Please note that initialization of the clones is not thread-safe,
438  * so you have to serialize it yourself.
439  *
440  * The atomic fastbufs are tied to resources automatically.
441  ***/
442
443 struct fb_atomic {
444   struct fastbuf fb;
445   struct fb_atomic_file *af;
446   byte *expected_max_bptr;
447   uns slack_size;
448 };
449 #define FB_ATOMIC(f) ((struct fb_atomic *)(f)->is_fastbuf)
450
451 /**
452  * Open an atomic fastbuf.
453  * If @master is NULL, the file @name is opened. If it is non-null,
454  * a new clone of an existing atomic fastbuf is created.
455  *
456  * If the file has fixed record length, just set @record_len to it.
457  * Otherwise set @record_len to the expected maximum record length
458  * with a negative sign (you need not fit in this length, but as long
459  * as you do, the fastbuf is more efficient) and call @fbatomic_commit()
460  * after each record.
461  *
462  * You can specify @record_len, if it is known (for optimisations).
463  *
464  * The file is closed when all fastbufs using it are closed.
465  **/
466 struct fastbuf *fbatomic_open(const char *name, struct fastbuf *master, uns bufsize, int record_len);
467 void fbatomic_internal_write(struct fastbuf *b);
468
469 /**
470  * Declare that you have finished writing a record. This is required only
471  * if a fixed record size was not specified.
472  **/
473 static inline void fbatomic_commit(struct fastbuf *b)
474 {
475   if (b->bptr >= ((struct fb_atomic *)b)->expected_max_bptr)
476     fbatomic_internal_write(b);
477 }
478
479 /*** === Configuring stream parameters [[bconfig]] ***/
480
481 enum bconfig_type {                     /** Parameters that could be configured. **/
482   BCONFIG_IS_TEMP_FILE,                 /* 0=normal file, 1=temporary file, 2=shared fd */
483   BCONFIG_KEEP_BACK_BUF,                /* Optimize for bi-directional access */
484 };
485
486 int bconfig(struct fastbuf *f, uns type, int data); /** Configure a fastbuf. Returns previous value. **/
487
488 /*** === Universal functions working on all fastbuf's [[ffbasic]] ***/
489
490 /**
491  * Close and free fastbuf.
492  * Can not be used for fastbufs not returned from function (initialized in a parameter, for example the one from `fbbuf_init_read`).
493  */
494 void bclose(struct fastbuf *f);
495 void bthrow(struct fastbuf *f, const char *id, const char *fmt, ...) FORMAT_CHECK(printf,3,4) NONRET;   /** Throw exception on a given fastbuf **/
496 int brefill(struct fastbuf *f, int allow_eof);
497 void bspout(struct fastbuf *f);
498 void bflush(struct fastbuf *f);                                 /** Write data (if it makes any sense, do not use for in-memory buffers). **/
499 void bseek(struct fastbuf *f, ucw_off_t pos, int whence);       /** Seek in the buffer. See `man fseek` for description of @whence. Only for seekable fastbufs. **/
500 void bsetpos(struct fastbuf *f, ucw_off_t pos);                 /** Set position to @pos bytes from beginning. Only for seekable fastbufs. **/
501 void brewind(struct fastbuf *f);                                /** Go to the beginning of the fastbuf. Only for seekable ones. **/
502 ucw_off_t bfilesize(struct fastbuf *f);                         /** How large is the file? -1 if not seekable. **/
503
504 static inline ucw_off_t btell(struct fastbuf *f)                /** Where am I (from the beginning)? **/
505 {
506   return f->pos + (f->bptr - f->bstop);
507 }
508
509 int bgetc_slow(struct fastbuf *f);
510 static inline int bgetc(struct fastbuf *f)                      /** Return next character from the buffer. **/
511 {
512   return (f->bptr < f->bstop) ? (int) *f->bptr++ : bgetc_slow(f);
513 }
514
515 int bpeekc_slow(struct fastbuf *f);
516 static inline int bpeekc(struct fastbuf *f)                     /** Return next character from the buffer, but keep the current position. **/
517 {
518   return (f->bptr < f->bstop) ? (int) *f->bptr : bpeekc_slow(f);
519 }
520
521 int beof_slow(struct fastbuf *f);
522 static inline int beof(struct fastbuf *f)                       /** Have I reached EOF? **/
523 {
524   return (f->bptr < f->bstop) ? 0 : beof_slow(f);
525 }
526
527 static inline void bungetc(struct fastbuf *f)                   /** Return last read character back. Only one back is guaranteed to work. **/
528 {
529   f->bptr--;
530 }
531
532 void bputc_slow(struct fastbuf *f, uns c);
533 static inline void bputc(struct fastbuf *f, uns c)              /** Write a single character. **/
534 {
535   if (f->bptr < f->bufend)
536     *f->bptr++ = c;
537   else
538     bputc_slow(f, c);
539 }
540
541 static inline uns bavailr(struct fastbuf *f)                    /** Return the length of the cached data to be read. Do not use directly. **/
542 {
543   return f->bstop - f->bptr;
544 }
545
546 static inline uns bavailw(struct fastbuf *f)                    /** Return the length of the buffer available for writing. Do not use directly. **/
547 {
548   return f->bufend - f->bptr;
549 }
550
551 uns bread_slow(struct fastbuf *f, void *b, uns l, uns check);
552 /**
553  * Read at most @l bytes of data into @b.
554  * Returns number of bytes read.
555  * 0 means end of file.
556  */
557 static inline uns bread(struct fastbuf *f, void *b, uns l)
558 {
559   if (bavailr(f) >= l)
560     {
561       memcpy(b, f->bptr, l);
562       f->bptr += l;
563       return l;
564     }
565   else
566     return bread_slow(f, b, l, 0);
567 }
568
569 /**
570  * Reads exactly @l bytes of data into @b.
571  * If at the end of file, it returns 0.
572  * If there are data, but less than @l, it dies.
573  */
574 static inline uns breadb(struct fastbuf *f, void *b, uns l)
575 {
576   if (bavailr(f) >= l)
577     {
578       memcpy(b, f->bptr, l);
579       f->bptr += l;
580       return l;
581     }
582   else
583     return bread_slow(f, b, l, 1);
584 }
585
586 void bwrite_slow(struct fastbuf *f, const void *b, uns l);
587 static inline void bwrite(struct fastbuf *f, const void *b, uns l) /** Writes buffer @b of length @l into fastbuf. **/
588 {
589   if (bavailw(f) >= l)
590     {
591       memcpy(f->bptr, b, l);
592       f->bptr += l;
593     }
594   else
595     bwrite_slow(f, b, l);
596 }
597
598 /**
599  * Reads a line into @b and strips trailing `\n`.
600  * Returns pointer to the terminating 0 or NULL on `EOF`.
601  * Dies if the line is longer than @l.
602  **/
603 char *bgets(struct fastbuf *f, char *b, uns l);
604 char *bgets0(struct fastbuf *f, char *b, uns l);        /** The same as @bgets(), but for 0-terminated strings. **/
605 /**
606  * Returns either length of read string (excluding the terminator) or -1 if it is too long.
607  * In such cases exactly @l bytes are read.
608  */
609 int bgets_nodie(struct fastbuf *f, char *b, uns l);
610
611 struct mempool;
612 struct bb_t;
613 /**
614  * Read a string, strip the trailing `\n` and store it into growing buffer @b.
615  * Dies if the line is longer than @limit.
616  **/
617 uns bgets_bb(struct fastbuf *f, struct bb_t *b, uns limit);
618 /**
619  * Read a string, strip the trailing `\n` and store it into buffer allocated from a memory pool.
620  **/
621 char *bgets_mp(struct fastbuf *f, struct mempool *mp);
622
623 struct bgets_stk_struct {
624   struct fastbuf *f;
625   byte *old_buf, *cur_buf, *src;
626   uns old_len, cur_len, src_len;
627 };
628 void bgets_stk_init(struct bgets_stk_struct *s);
629 void bgets_stk_step(struct bgets_stk_struct *s);
630
631 /**
632  * Read a string, strip the trailing `\n` and store it on the stack (allocated using alloca()).
633  **/
634 #define bgets_stk(fb) \
635   ({ struct bgets_stk_struct _s; _s.f = (fb); for (bgets_stk_init(&_s); _s.cur_len; _s.cur_buf = alloca(_s.cur_len), bgets_stk_step(&_s)); _s.cur_buf; })
636
637 /**
638  * Write a string, without 0 or `\n` at the end.
639  **/
640 static inline void bputs(struct fastbuf *f, const char *b)
641 {
642   bwrite(f, b, strlen(b));
643 }
644
645 /**
646  * Write string, including terminating 0.
647  **/
648 static inline void bputs0(struct fastbuf *f, const char *b)
649 {
650   bwrite(f, b, strlen(b)+1);
651 }
652
653 /**
654  * Write string and append a newline to the end.
655  **/
656 static inline void bputsn(struct fastbuf *f, const char *b)
657 {
658   bputs(f, b);
659   bputc(f, '\n');
660 }
661
662 void bbcopy_slow(struct fastbuf *f, struct fastbuf *t, uns l);
663 /**
664  * Copy @l bytes of data from fastbuf @f to fastbuf @t.
665  * `UINT_MAX` (`~0U`) means all data, even if more than `UINT_MAX` bytes remain.
666  **/
667 static inline void bbcopy(struct fastbuf *f, struct fastbuf *t, uns l)
668 {
669   if (bavailr(f) >= l && bavailw(t) >= l)
670     {
671       memcpy(t->bptr, f->bptr, l);
672       t->bptr += l;
673       f->bptr += l;
674     }
675   else
676     bbcopy_slow(f, t, l);
677 }
678
679 int bskip_slow(struct fastbuf *f, uns len);
680 static inline int bskip(struct fastbuf *f, uns len) /** Skip @len bytes without reading them. **/
681 {
682   if (bavailr(f) >= len)
683     {
684       f->bptr += len;
685       return 1;
686     }
687   else
688     return bskip_slow(f, len);
689 }
690
691 /*** === Direct I/O on buffers ***/
692
693 /**
694  * Begin direct reading from fastbuf's internal buffer to avoid unnecessary copying.
695  * The function returns a buffer @buf together with its length in bytes (zero means EOF)
696  * with cached data to be read.
697  *
698  * Some back-ends allow the user to modify the data in the returned buffer to avoid unnecessary.
699  * If the back-end allows such modifications, it can set `f->can_overwrite_buffer` accordingly:
700  *
701  *   - 0 if no modification is allowed,
702  *   - 1 if the user can modify the buffer on the condition that
703  *       the modifications will be undone before calling the next
704  *       fastbuf operation
705  *   - 2 if the user is allowed to overwrite the data in the buffer
706  *       if @bdirect_read_commit_modified() is called afterwards.
707  *       In this case, the back-end must be prepared for trimming
708  *       of the buffer which is done by the commit function.
709  *
710  * The reading must be ended by @bdirect_read_commit() or @bdirect_read_commit_modified(),
711  * unless the user did not read or modify anything.
712  **/
713 static inline uns bdirect_read_prepare(struct fastbuf *f, byte **buf)
714 {
715   if (f->bptr == f->bstop && !f->refill(f))
716     {
717       *buf = NULL;  // This is not needed, but it helps to get rid of spurious warnings
718       return 0;
719     }
720   *buf = f->bptr;
721   return bavailr(f);
722 }
723
724 /**
725  * End direct reading started by @bdirect_read_prepare() and move the cursor at @pos.
726  * Data in the returned buffer must be same as after @bdirect_read_prepare() and
727  * @pos must point somewhere inside the buffer.
728  **/
729 static inline void bdirect_read_commit(struct fastbuf *f, byte *pos)
730 {
731   f->bptr = pos;
732 }
733
734 /**
735  * Similar to @bdirect_read_commit(), but accepts also modified data before @pos.
736  * Note that such modifications are supported only if `f->can_overwrite_buffer == 2`.
737  **/
738 static inline void bdirect_read_commit_modified(struct fastbuf *f, byte *pos)
739 {
740   f->bptr = pos;
741   f->buffer = pos;      /* Avoid seeking backwards in the buffer */
742 }
743
744 /**
745  * Start direct writing to fastbuf's internal buffer to avoid copy overhead.
746  * The function returns the length of the buffer in @buf (at least one byte)
747  * where we can write to. The operation must be ended by @bdirect_write_commit(),
748  * unless nothing is written.
749  **/
750 static inline uns bdirect_write_prepare(struct fastbuf *f, byte **buf)
751 {
752   if (f->bptr == f->bufend)
753     f->spout(f);
754   *buf = f->bptr;
755   return bavailw(f);
756 }
757
758 /**
759  * Commit the data written to the buffer returned by @bdirect_write_prepare().
760  * The length is specified by @pos which must point just after the written data.
761  * Also moves the cursor to @pos.
762  **/
763 static inline void bdirect_write_commit(struct fastbuf *f, byte *pos)
764 {
765   f->bptr = pos;
766 }
767
768 /*** === Formatted output ***/
769
770 /**
771  * printf into a fastbuf.
772  **/
773 int bprintf(struct fastbuf *b, const char *msg, ...)
774   FORMAT_CHECK(printf,2,3);
775 int vbprintf(struct fastbuf *b, const char *msg, va_list args); /** vprintf into a fastbuf. **/
776
777 #endif