ucw/mainloop.c

   1 /*
   2  *      UCW Library -- Main Loop
   3  *
   4  *      (c) 2004--2012 Martin Mares <mj@ucw.cz>
   5  *
   6  *      This software may be freely distributed and used according to the terms
   7  *      of the GNU Lesser General Public License.
   8  */
   9
  10 #undef LOCAL_DEBUG
  11
  12 #include <ucw/lib.h>
  13 #include <ucw/heap.h>
  14 #include <ucw/mainloop.h>
  15 #include <ucw/threads.h>
  16 #include <ucw/gary.h>
  17 #include <ucw/process.h>
  18 #include <ucw/time.h>
  19
  20 #include <stdio.h>
  21 #include <string.h>
  22 #include <stdlib.h>
  23 #include <unistd.h>
  24 #include <signal.h>
  25 #include <fcntl.h>
  26 #include <errno.h>
  27 #include <time.h>
  28 #include <sys/poll.h>
  29 #include <sys/wait.h>
  30 #include <sys/time.h>
  31
  32 #ifdef CONFIG_UCW_THREADS
  33 #include <pthread.h>
  34 #define THREAD_SIGMASK pthread_sigmask
  35 #else
  36 #define THREAD_SIGMASK sigprocmask
  37 #endif
  38
  39 #ifdef CONFIG_UCW_EPOLL
  40 #include <sys/epoll.h>
  41 #endif
  42
  43 #define MAIN_TIMER_LESS(x,y) ((x)->expires < (y)->expires)
  44 #define MAIN_TIMER_SWAP(heap,a,b,t) (t=heap[a], heap[a]=heap[b], heap[b]=t, heap[a]->index=(a), heap[b]->index=(b))
  45
  46 #define EPOLL_BUF_SIZE 256
  47
  48 static void file_del_ctx(struct main_context *m, struct main_file *fi);
  49 static void signal_del_ctx(struct main_context *m, struct main_signal *ms);
  50
  51 static void
  52 main_get_time_ctx(struct main_context *m)
  53 {
  54   m->now = get_timestamp();
  55 }
  56
  57 static struct main_context *
  58 main_current_nocheck(void)
  59 {
  60   return ucwlib_thread_context()->main_context;
  61 }
  62
  63 struct main_context *
  64 main_current(void)
  65 {
  66   struct main_context *m = main_current_nocheck();
  67   ASSERT(m);
  68   return m;
  69 }
  70
  71 static int
  72 main_is_current(struct main_context *m)
  73 {
  74   return (m == main_current_nocheck());
  75 }
  76
  77 static inline uint
  78 count_timers(struct main_context *m)
  79 {
  80   if (m->timer_table)
  81     return GARY_SIZE(m->timer_table) - 1;
  82   else
  83     return 0;
  84 }
  85
  86 struct main_context *
  87 main_new(void)
  88 {
  89   struct main_context *m = xmalloc_zero(sizeof(*m));
  90
  91   DBG("MAIN: New context");
  92   clist_init(&m->file_list);
  93   clist_init(&m->file_active_list);
  94   clist_init(&m->hook_list);
  95   clist_init(&m->hook_done_list);
  96   clist_init(&m->process_list);
  97   clist_init(&m->signal_list);
  98 #ifdef CONFIG_UCW_EPOLL
  99   m->epoll_fd = epoll_create(64);
 100   if (m->epoll_fd < 0)
 101     die("epoll_create() failed: %m");
 102   m->epoll_events = xmalloc(EPOLL_BUF_SIZE * sizeof(struct epoll_event));
 103   clist_init(&m->file_recalc_list);
 104 #else
 105   m->poll_table_obsolete = 1;
 106 #endif
 107   main_get_time_ctx(m);
 108   sigemptyset(&m->want_signals);
 109   m->sig_pipe_recv = m->sig_pipe_send = -1;
 110
 111   return m;
 112 }
 113
 114 static void
 115 main_prepare_delete(struct main_context *m)
 116 {
 117   /*
 118    *  If the context is current, deactivate it first. But beware,
 119    *  we must not call functions that depend on the current context.
 120    */
 121   if (main_is_current(m))
 122     main_switch_context(NULL);
 123
 124   // Close epoll descriptor early enough, it might be shared after fork!
 125 #ifdef CONFIG_UCW_EPOLL
 126   xfree(m->epoll_events);
 127   close(m->epoll_fd);
 128   m->epoll_fd = -1;
 129 #else
 130   GARY_FREE(m->poll_table);
 131   GARY_FREE(m->poll_file_table);
 132 #endif
 133
 134   if (m->sigchld_handler)
 135     {
 136       signal_del_ctx(m, m->sigchld_handler);
 137       xfree(m->sigchld_handler);
 138     }
 139   if (m->sig_pipe_file)
 140     {
 141       file_del_ctx(m, m->sig_pipe_file);
 142       xfree(m->sig_pipe_file);
 143      }
 144   if (m->sig_pipe_recv >= 0)
 145     {
 146       close(m->sig_pipe_recv);
 147       close(m->sig_pipe_send);
 148     }
 149 }
 150
 151 static void
 152 main_do_delete(struct main_context *m)
 153 {
 154   GARY_FREE(m->timer_table);
 155   xfree(m);
 156 }
 157
 158 void
 159 main_delete(struct main_context *m)
 160 {
 161   if (!m)
 162     return;
 163
 164   main_prepare_delete(m);
 165   ASSERT(clist_empty(&m->file_list));
 166   ASSERT(clist_empty(&m->file_active_list));
 167 #ifdef CONFIG_UCW_EPOLL
 168   ASSERT(clist_empty(&m->file_recalc_list));
 169 #endif
 170   ASSERT(clist_empty(&m->hook_list));
 171   ASSERT(clist_empty(&m->hook_done_list));
 172   ASSERT(clist_empty(&m->process_list));
 173   ASSERT(clist_empty(&m->signal_list));
 174   ASSERT(!count_timers(m));
 175   main_do_delete(m);
 176 }
 177
 178 void
 179 main_destroy(struct main_context *m)
 180 {
 181   if (!m)
 182     return;
 183   main_prepare_delete(m);
 184
 185   // Close all files
 186   clist_insert_list_after(&m->file_active_list, m->file_list.head.prev);
 187 #ifdef CONFIG_UCW_EPOLL
 188   clist_insert_list_after(&m->file_recalc_list, m->file_list.head.prev);
 189 #endif
 190   CLIST_FOR_EACH(struct main_file *, f, m->file_list)
 191     close(f->fd);
 192
 193   main_do_delete(m);
 194 }
 195
 196 struct main_context *
 197 main_switch_context(struct main_context *m)
 198 {
 199   struct ucwlib_context *c = ucwlib_thread_context();
 200   struct main_context *m0 = c->main_context;
 201
 202   /*
 203    *  Not only we need to switch the signal sets of the two contexts,
 204    *  but it is also necessary to avoid invoking a signal handler
 205    *  in the middle of changing c->main_context.
 206    */
 207   if (m0 && !clist_empty(&m0->signal_list))
 208     THREAD_SIGMASK(SIG_BLOCK, &m0->want_signals, NULL);
 209   c->main_context = m;
 210   if (m && !clist_empty(&m->signal_list))
 211     THREAD_SIGMASK(SIG_UNBLOCK, &m->want_signals, NULL);
 212
 213   return m0;
 214 }
 215
 216 void
 217 main_init(void)
 218 {
 219   struct main_context *m = main_switch_context(main_new());
 220   ASSERT(!m);
 221 }
 222
 223 void
 224 main_cleanup(void)
 225 {
 226   main_delete(main_current_nocheck());
 227 }
 228
 229 void
 230 main_teardown(void)
 231 {
 232   main_destroy(main_current_nocheck());
 233 }
 234
 235 void
 236 main_get_time(void)
 237 {
 238   main_get_time_ctx(main_current());
 239 }
 240
 241 void
 242 timer_add(struct main_timer *tm, timestamp_t expires)
 243 {
 244   struct main_context *m = main_current();
 245
 246   if (!m->timer_table)
 247     {
 248       GARY_INIT(m->timer_table, 1);
 249       m->timer_table[0] = NULL;
 250     }
 251
 252   if (expires)
 253     DBG("MAIN: Setting timer %p (expire at now+%lld)", tm, (long long)(expires - m->now));
 254   else
 255     DBG("MAIN: Clearing timer %p", tm);
 256   uint num_timers = count_timers(m);
 257   if (tm->expires < expires)
 258     {
 259       if (!tm->expires)
 260         {
 261           tm->expires = expires;
 262           tm->index = num_timers + 1;
 263           GARY_RESIZE(m->timer_table, num_timers + 2);
 264           HEAP_INSERT(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm);
 265         }
 266       else
 267         {
 268           tm->expires = expires;
 269           HEAP_INCREASE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index, tm);
 270         }
 271     }
 272   else if (tm->expires > expires)
 273     {
 274       if (!expires)
 275         {
 276           ASSERT(tm->index && tm->index <= num_timers);
 277           HEAP_DELETE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index);
 278           tm->index = 0;
 279           tm->expires = 0;
 280           GARY_POP(m->timer_table);
 281         }
 282       else
 283         {
 284           tm->expires = expires;
 285           HEAP_DECREASE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index, tm);
 286         }
 287     }
 288 }
 289
 290 void
 291 timer_add_rel(struct main_timer *tm, timestamp_t expires_delta)
 292 {
 293   struct main_context *m = main_current();
 294   return timer_add(tm, m->now + expires_delta);
 295 }
 296
 297 void
 298 timer_del(struct main_timer *tm)
 299 {
 300   timer_add(tm, 0);
 301 }
 302
 303 static uint
 304 file_want_events(struct main_file *fi)
 305 {
 306   uint events = 0;
 307   if (fi->read_handler)
 308     events |= POLLIN;
 309   if (fi->write_handler)
 310     events |= POLLOUT;
 311   return events;
 312 }
 313
 314 void
 315 file_add(struct main_file *fi)
 316 {
 317   struct main_context *m = main_current();
 318
 319   DBG("MAIN: Adding file %p (fd=%d)", fi, fi->fd);
 320   ASSERT(!file_is_active(fi));
 321   clist_add_tail(&m->file_list, &fi->n);
 322   m->file_cnt++;
 323 #ifdef CONFIG_UCW_EPOLL
 324   struct epoll_event evt = {
 325     .events = file_want_events(fi),
 326     .data.ptr = fi,
 327   };
 328   if (epoll_ctl(m->epoll_fd, EPOLL_CTL_ADD, fi->fd, &evt) < 0)
 329     die("epoll_ctl() failed: %m");
 330   fi->last_want_events = evt.events;
 331 #else
 332   m->poll_table_obsolete = 1;
 333 #endif
 334   if (fcntl(fi->fd, F_SETFL, O_NONBLOCK) < 0)
 335     msg(L_ERROR, "Error setting fd %d to non-blocking mode: %m. Keep fingers crossed.", fi->fd);
 336 }
 337
 338 void
 339 file_chg(struct main_file *fi)
 340 {
 341 #ifdef CONFIG_UCW_EPOLL
 342   clist_remove(&fi->n);
 343   clist_add_tail(&main_current()->file_recalc_list, &fi->n);
 344 #else
 345   struct pollfd *p = fi->pollfd;
 346   if (p)
 347     p->events = file_want_events(fi);
 348 #endif
 349 }
 350
 351 static void
 352 file_del_ctx(struct main_context *m, struct main_file *fi)
 353 {
 354   // XXX: Can be called on a non-current context
 355   DBG("MAIN: Deleting file %p (fd=%d)", fi, fi->fd);
 356
 357   if (!file_is_active(fi))
 358     return;
 359   clist_unlink(&fi->n);
 360   m->file_cnt--;
 361 #ifdef CONFIG_UCW_EPOLL
 362   if (m->epoll_fd >= 0 && epoll_ctl(m->epoll_fd, EPOLL_CTL_DEL, fi->fd, NULL) < 0)
 363     die("epoll_ctl() failed: %m");
 364 #else
 365   m->poll_table_obsolete = 1;
 366 #endif
 367 }
 368
 369 void
 370 file_del(struct main_file *fi)
 371 {
 372   file_del_ctx(main_current(), fi);
 373 }
 374
 375 void
 376 hook_add(struct main_hook *ho)
 377 {
 378   struct main_context *m = main_current();
 379
 380   DBG("MAIN: Adding hook %p", ho);
 381   if (hook_is_active(ho))
 382     clist_unlink(&ho->n);
 383   clist_add_tail(&m->hook_list, &ho->n);
 384 }
 385
 386 void
 387 hook_del(struct main_hook *ho)
 388 {
 389   DBG("MAIN: Deleting hook %p", ho);
 390   if (hook_is_active(ho))
 391     clist_unlink(&ho->n);
 392 }
 393
 394 static void
 395 sigchld_received(struct main_signal *sg UNUSED)
 396 {
 397   struct main_context *m = main_current();
 398   int stat;
 399   pid_t pid;
 400
 401   while ((pid = waitpid(-1, &stat, WNOHANG)) > 0)
 402     {
 403       DBG("MAIN: Child %d exited with status %x", pid, stat);
 404       CLIST_FOR_EACH(struct main_process *, pr, m->process_list)
 405         if (pr->pid == pid)
 406           {
 407             pr->status = stat;
 408             process_del(pr);
 409             format_exit_status(pr->status_msg, pr->status);
 410             DBG("MAIN: Calling process exit handler");
 411             pr->handler(pr);
 412             break;
 413           }
 414     }
 415 }
 416
 417 void
 418 process_add(struct main_process *mp)
 419 {
 420   struct main_context *m = main_current();
 421
 422   DBG("MAIN: Adding process %p (pid=%d)", mp, mp->pid);
 423   ASSERT(!process_is_active(mp));
 424   ASSERT(mp->handler);
 425   clist_add_tail(&m->process_list, &mp->n);
 426   if (!m->sigchld_handler)
 427     {
 428       struct main_signal *sg = xmalloc_zero(sizeof(*sg));
 429       m->sigchld_handler = sg;
 430       sg->signum = SIGCHLD;
 431       sg->handler = sigchld_received;
 432       signal_add(sg);
 433     }
 434 }
 435
 436 void
 437 process_del(struct main_process *mp)
 438 {
 439   DBG("MAIN: Deleting process %p (pid=%d)", mp, mp->pid);
 440   if (process_is_active(mp))
 441     clist_unlink(&mp->n);
 442 }
 443
 444 int
 445 process_fork(struct main_process *mp)
 446 {
 447   pid_t pid = fork();
 448   if (pid < 0)
 449     {
 450       DBG("MAIN: Fork failed");
 451       mp->status = -1;
 452       format_exit_status(mp->status_msg, -1);
 453       mp->handler(mp);
 454       return 1;
 455     }
 456   else if (!pid)
 457     return 0;
 458   else
 459     {
 460       DBG("MAIN: Forked process %d", (int) pid);
 461       mp->pid = pid;
 462       process_add(mp);
 463       return 1;
 464     }
 465 }
 466
 467 static int
 468 pipe_read_handler(struct main_file *mf UNUSED)
 469 {
 470   struct main_context *m = main_current();
 471   int signum;
 472   int n = read(m->sig_pipe_recv, &signum, sizeof(signum));
 473
 474   if (n < 0)
 475     {
 476       if (errno != EAGAIN)
 477         msg(L_ERROR, "Error reading signal pipe: %m");
 478       return 0;
 479     }
 480   ASSERT(n == sizeof(signum));
 481
 482   DBG("MAIN: Sigpipe: received signal %d", signum);
 483   struct main_signal iter = { .signum = -1 };
 484   struct main_signal *sg = clist_head(&m->signal_list);
 485   while (sg)
 486     {
 487       if (sg->signum == signum)
 488         {
 489           DBG("MAIN: Sigpipe: invoking handler %p", sg);
 490           clist_insert_after(&iter.n, &sg->n);
 491           sg->handler(sg);
 492           sg = clist_next(&m->signal_list, &iter.n);
 493           clist_remove(&iter.n);
 494         }
 495       else
 496         sg = clist_next(&m->signal_list, &sg->n);
 497     }
 498
 499   return 1;
 500 }
 501
 502 static void
 503 pipe_configure(int fd)
 504 {
 505   int flags;
 506   if ((flags = fcntl(fd, F_GETFL)) < 0 || fcntl(fd, F_SETFL, flags|O_NONBLOCK) < 0)
 507     die("Could not set file descriptor %d to non-blocking: %m", fd);
 508 }
 509
 510 static void
 511 pipe_setup(struct main_context *m)
 512 {
 513   DBG("MAIN: Sigpipe: Setting up the pipe");
 514
 515   int pipe_result[2];
 516   if (pipe(pipe_result) == -1)
 517     die("Could not create signal pipe: %m");
 518   pipe_configure(pipe_result[0]);
 519   pipe_configure(pipe_result[1]);
 520   m->sig_pipe_recv = pipe_result[0];
 521   m->sig_pipe_send = pipe_result[1];
 522
 523   struct main_file *f = xmalloc_zero(sizeof(*f));
 524   m->sig_pipe_file = f;
 525   f->fd = m->sig_pipe_recv;
 526   f->read_handler = pipe_read_handler;
 527   file_add(f);
 528 }
 529
 530 static void
 531 signal_handler_pipe(int signum)
 532 {
 533   struct main_context *m = main_current();
 534 #ifdef LOCAL_DEBUG
 535   msg(L_DEBUG | L_SIGHANDLER, "MAIN: Sigpipe: sending signal %d down the drain", signum);
 536 #endif
 537   if (write(m->sig_pipe_send, &signum, sizeof(signum)) < 0)
 538     {
 539     }
 540 }
 541
 542 void
 543 signal_add(struct main_signal *ms)
 544 {
 545   struct main_context *m = main_current();
 546
 547   DBG("MAIN: Adding signal %p (sig=%d)", ms, ms->signum);
 548
 549   ASSERT(!signal_is_active(ms));
 550   // Adding at the head of the list is better if we are in the middle of walking the list.
 551   clist_add_head(&m->signal_list, &ms->n);
 552   if (m->sig_pipe_recv < 0)
 553     pipe_setup(m);
 554
 555   struct sigaction sa = {
 556     .sa_handler = signal_handler_pipe,
 557     .sa_flags = SA_NOCLDSTOP | SA_RESTART,
 558   };
 559   sigaction(ms->signum, &sa, NULL);
 560
 561   sigset_t ss;
 562   sigemptyset(&ss);
 563   sigaddset(&ss, ms->signum);
 564   THREAD_SIGMASK(SIG_UNBLOCK, &ss, NULL);
 565   sigaddset(&m->want_signals, ms->signum);
 566 }
 567
 568 static void
 569 signal_del_ctx(struct main_context *m, struct main_signal *ms)
 570 {
 571   // XXX: Can be called on a non-current context
 572   DBG("MAIN: Deleting signal %p (sig=%d)", ms, ms->signum);
 573
 574   if (!signal_is_active(ms))
 575     return;
 576   clist_unlink(&ms->n);
 577
 578   int another = 0;
 579   CLIST_FOR_EACH(struct main_signal *, s, m->signal_list)
 580     if (s->signum == ms->signum)
 581       another++;
 582   if (!another)
 583     {
 584       if (main_is_current(m))
 585         {
 586           sigset_t ss;
 587           sigemptyset(&ss);
 588           sigaddset(&ss, ms->signum);
 589           THREAD_SIGMASK(SIG_BLOCK, &ss, NULL);
 590         }
 591       sigdelset(&m->want_signals, ms->signum);
 592     }
 593 }
 594
 595 void
 596 signal_del(struct main_signal *ms)
 597 {
 598   signal_del_ctx(main_current(), ms);
 599 }
 600
 601 #ifdef CONFIG_UCW_DEBUG
 602
 603 void
 604 file_debug(struct main_file *fi)
 605 {
 606   msg(L_DEBUG, "\t\t%p (fd %d, rh %p, wh %p, data %p)",
 607     fi, fi->fd, fi->read_handler, fi->write_handler, fi->data);
 608 }
 609
 610 void
 611 hook_debug(struct main_hook *ho)
 612 {
 613   msg(L_DEBUG, "\t\t%p (func %p, data %p)", ho, ho->handler, ho->data);
 614 }
 615
 616 void
 617 signal_debug(struct main_signal *sg)
 618 {
 619   if (sg->signum < 0)
 620     msg(L_DEBUG, "\t\t(placeholder)");
 621   else
 622     msg(L_DEBUG, "\t\t%p (sig %d, func %p, data %p)", sg, sg->signum, sg->handler, sg->data);
 623 }
 624
 625 static void
 626 timer_debug_ctx(struct main_context *m, struct main_timer *tm)
 627 {
 628   msg(L_DEBUG, "\t\t%p (expires %lld, data %p)", tm, (long long)(tm->expires - m->now), tm->data);
 629 }
 630
 631 void
 632 timer_debug(struct main_timer *tm)
 633 {
 634   timer_debug_ctx(main_current(), tm);
 635 }
 636
 637 void
 638 process_debug(struct main_process *pr)
 639 {
 640   msg(L_DEBUG, "\t\t%p (pid %d, func %p, data %p)", pr, pr->pid, pr->handler, pr->data);
 641 }
 642
 643 void
 644 main_debug_context(struct main_context *m UNUSED)
 645 {
 646   msg(L_DEBUG, "### Main loop status on %lld", (long long) m->now);
 647   msg(L_DEBUG, "\tActive timers:");
 648   uint num_timers = count_timers(m);
 649   for (uint i = 1; i <= num_timers; i++)
 650     timer_debug(m->timer_table[i]);
 651   msg(L_DEBUG, "\tActive files:");
 652   CLIST_FOR_EACH(struct main_file *, fi, m->file_list)
 653     file_debug(fi);
 654   CLIST_FOR_EACH(struct main_file *, fi, m->file_active_list)
 655     file_debug(fi);
 656 #ifdef CONFIG_UCW_EPOLL
 657   CLIST_FOR_EACH(struct main_file *, fi, m->file_recalc_list)
 658     file_debug(fi);
 659 #endif
 660   msg(L_DEBUG, "\tActive hooks:");
 661   CLIST_FOR_EACH(struct main_hook *, ho, m->hook_done_list)
 662     hook_debug(ho);
 663   CLIST_FOR_EACH(struct main_hook *, ho, m->hook_list)
 664     hook_debug(ho);
 665   msg(L_DEBUG, "\tActive processes:");
 666   CLIST_FOR_EACH(struct main_process *, pr, m->process_list)
 667     process_debug(pr);
 668   msg(L_DEBUG, "\tActive signal catchers:");
 669   CLIST_FOR_EACH(struct main_signal *, sg, m->signal_list)
 670     signal_debug(sg);
 671 }
 672
 673 #else
 674
 675 // Stubs
 676 void file_debug(struct main_file *fi UNUSED) { }
 677 void hook_debug(struct main_hook *ho UNUSED) { }
 678 void signal_debug(struct main_signal *sg UNUSED) { }
 679 void timer_debug(struct main_timer *tm UNUSED) { }
 680 void process_debug(struct main_process *pr UNUSED) { }
 681 void main_debug_context(struct main_context *m UNUSED) { }
 682
 683 #endif
 684
 685 static void
 686 process_timers(struct main_context *m)
 687 {
 688   struct main_timer *tm;
 689   while (count_timers(m) && (tm = m->timer_table[1])->expires <= m->now)
 690     {
 691       DBG("MAIN: Timer %p expired at now-%lld", tm, (long long)(m->now - tm->expires));
 692       tm->handler(tm);
 693     }
 694 }
 695
 696 static enum main_hook_return
 697 process_hooks(struct main_context *m)
 698 {
 699   int hook_min = HOOK_RETRY;
 700   int hook_max = HOOK_SHUTDOWN;
 701   struct main_hook *ho;
 702
 703   while (ho = clist_remove_head(&m->hook_list))
 704     {
 705       clist_add_tail(&m->hook_done_list, &ho->n);
 706       DBG("MAIN: Hook %p", ho);
 707       int ret = ho->handler(ho);
 708       hook_min = MIN(hook_min, ret);
 709       hook_max = MAX(hook_max, ret);
 710     }
 711   clist_move(&m->hook_list, &m->hook_done_list);
 712   if (hook_min == HOOK_SHUTDOWN ||
 713     hook_min == HOOK_DONE && hook_max == HOOK_DONE ||
 714     m->shutdown)
 715     {
 716       DBG("MAIN: Shut down by %s", m->shutdown ? "main_shut_down" : "a hook");
 717       return HOOK_SHUTDOWN;
 718     }
 719   if (hook_max == HOOK_RETRY)
 720     return HOOK_RETRY;
 721   else
 722     return HOOK_IDLE;
 723 }
 724
 725 #ifdef CONFIG_UCW_EPOLL
 726
 727 static void
 728 recalc_files(struct main_context *m)
 729 {
 730   struct main_file *fi;
 731
 732   while (fi = clist_remove_head(&m->file_recalc_list))
 733     {
 734       struct epoll_event evt = {
 735         .events = file_want_events(fi),
 736         .data.ptr = fi,
 737       };
 738       if (evt.events != fi->last_want_events)
 739         {
 740           DBG("MAIN: Changing requested events for fd %d to %x", fi->fd, evt.events);
 741           fi->last_want_events = evt.events;
 742           if (epoll_ctl(main_current()->epoll_fd, EPOLL_CTL_MOD, fi->fd, &evt) < 0)
 743             die("epoll_ctl() failed: %m");
 744         }
 745       clist_add_tail(&m->file_list, &fi->n);
 746     }
 747 }
 748
 749 #else
 750
 751 static void
 752 rebuild_poll_table(struct main_context *m)
 753 {
 754   GARY_INIT_OR_RESIZE(m->poll_table, m->file_cnt);
 755   GARY_INIT_OR_RESIZE(m->poll_file_table, m->file_cnt);
 756   DBG("MAIN: Rebuilding poll table: %d entries", m->file_cnt);
 757
 758   struct pollfd *p = m->poll_table;
 759   struct main_file **pf = m->poll_file_table;
 760   CLIST_FOR_EACH(struct main_file *, fi, m->file_list)
 761     {
 762       p->fd = fi->fd;
 763       p->events = file_want_events(fi);
 764       fi->pollfd = p++;
 765       *pf++ = fi;
 766     }
 767   m->poll_table_obsolete = 0;
 768 }
 769
 770 #endif
 771
 772 void
 773 main_loop(void)
 774 {
 775   DBG("MAIN: Entering main_loop");
 776   struct main_context *m = main_current();
 777
 778   main_get_time_ctx(m);
 779   m->shutdown = 0;
 780
 781   for (;;)
 782     {
 783       timestamp_t wake = m->now + 1000000000;
 784       process_timers(m);
 785       switch (process_hooks(m))
 786         {
 787         case HOOK_SHUTDOWN:
 788           return;
 789         case HOOK_RETRY:
 790           wake = 0;
 791           break;
 792         default: ;
 793         }
 794
 795       int timeout = 0;
 796       if (!m->single_step)
 797         {
 798           if (count_timers(m))
 799             wake = MIN(wake, m->timer_table[1]->expires);
 800           main_get_time_ctx(m);
 801           timeout = ((wake > m->now) ? wake - m->now : 0);
 802         }
 803
 804 #ifdef CONFIG_UCW_EPOLL
 805       recalc_files(m);
 806       DBG("MAIN: Epoll for %d fds and timeout %d ms", m->file_cnt, timeout);
 807       int n = epoll_wait(m->epoll_fd, m->epoll_events, EPOLL_BUF_SIZE, timeout);
 808 #else
 809       if (m->poll_table_obsolete)
 810         rebuild_poll_table(m);
 811       DBG("MAIN: Poll for %d fds and timeout %d ms", m->file_cnt, timeout);
 812       int n = poll(m->poll_table, m->file_cnt, timeout);
 813 #endif
 814
 815       DBG("\t-> %d events", n);
 816       if (n < 0 && errno != EAGAIN && errno != EINTR)
 817         die("(e)poll failed: %m");
 818       timestamp_t old_now = m->now;
 819       main_get_time_ctx(m);
 820       m->idle_time += m->now - old_now;
 821
 822       if (n <= 0)
 823         {
 824           if (m->single_step)
 825             return;
 826           else
 827             continue;
 828         }
 829
 830       // Relink all files with a pending event to file_active_list
 831 #ifdef CONFIG_UCW_EPOLL
 832       for (int i=0; i<n; i++)
 833         {
 834           struct epoll_event *e = &m->epoll_events[i];
 835           struct main_file *fi = e->data.ptr;
 836           clist_remove(&fi->n);
 837           clist_add_tail(&m->file_active_list, &fi->n);
 838           fi->events = e->events;
 839         }
 840 #else
 841       struct pollfd *p = m->poll_table;
 842       struct main_file **pf = m->poll_file_table;
 843       for (uint i=0; i < m->file_cnt; i++)
 844         if (p[i].revents)
 845           {
 846             struct main_file *fi = pf[i];
 847             clist_remove(&fi->n);
 848             clist_add_tail(&m->file_active_list, &fi->n);
 849             fi->events = p[i].revents;
 850           }
 851 #endif
 852
 853       /*
 854        *  Process the buffered file events. This is pretty tricky, since
 855        *  user callbacks can modify the file structure or even destroy it.
 856        *  In such cases, we detect that the structure was relinked and stop
 857        *  processing its events, leaving them for the next iteration of the
 858        *  main loop.
 859        */
 860       struct main_file *fi;
 861       while (fi = clist_head(&m->file_active_list))
 862         {
 863           if (fi->read_handler && (fi->events & (POLLIN | POLLHUP)))
 864             {
 865               fi->events &= ~(POLLIN | POLLHUP);
 866               do
 867                 DBG("MAIN: Read event on fd %d", fi->fd);
 868               while (fi->read_handler && fi->read_handler(fi));
 869               continue;
 870             }
 871           if (fi->write_handler && (fi->events & (POLLOUT | POLLHUP | POLLERR)))
 872             {
 873               fi->events &= ~(POLLOUT | POLLHUP | POLLERR);
 874               do
 875                 DBG("MAIN: Write event on fd %d", fi->fd);
 876               while (fi->write_handler && fi->write_handler(fi));
 877               continue;
 878             }
 879           clist_remove(&fi->n);
 880           clist_add_tail(&m->file_list, &fi->n);
 881         }
 882     }
 883 }
 884
 885 void
 886 main_step(void)
 887 {
 888   struct main_context *m = main_current();
 889   m->single_step = 1;
 890   main_loop();
 891   m->single_step = 0;
 892 }