ucw/mainloop.c

   1 /*
   2  *      UCW Library -- Main Loop
   3  *
   4  *      (c) 2004--2011 Martin Mares <mj@ucw.cz>
   5  *
   6  *      This software may be freely distributed and used according to the terms
   7  *      of the GNU Lesser General Public License.
   8  */
   9
  10 #undef LOCAL_DEBUG
  11
  12 #include "ucw/lib.h"
  13 #include "ucw/heap.h"
  14 #include "ucw/mainloop.h"
  15 #include "ucw/threads.h"
  16 #include "ucw/gary.h"
  17
  18 #include <stdio.h>
  19 #include <string.h>
  20 #include <stdlib.h>
  21 #include <unistd.h>
  22 #include <signal.h>
  23 #include <fcntl.h>
  24 #include <errno.h>
  25 #include <time.h>
  26 #include <sys/poll.h>
  27 #include <sys/wait.h>
  28 #include <sys/time.h>
  29
  30 #ifdef CONFIG_UCW_THREADS
  31 #include <pthread.h>
  32 #define THREAD_SIGMASK pthread_sigmask
  33 #else
  34 #define THREAD_SIGMASK sigprocmask
  35 #endif
  36
  37 #ifdef CONFIG_UCW_EPOLL
  38 #include <sys/epoll.h>
  39 #endif
  40
  41 #define MAIN_TIMER_LESS(x,y) ((x)->expires < (y)->expires)
  42 #define MAIN_TIMER_SWAP(heap,a,b,t) (t=heap[a], heap[a]=heap[b], heap[b]=t, heap[a]->index=(a), heap[b]->index=(b))
  43
  44 #define EPOLL_BUF_SIZE 256
  45
  46 static void file_del_ctx(struct main_context *m, struct main_file *fi);
  47 static void signal_del_ctx(struct main_context *m, struct main_signal *ms);
  48
  49 static void
  50 main_get_time_ctx(struct main_context *m)
  51 {
  52   struct timeval tv;
  53   gettimeofday(&tv, NULL);
  54   m->now_seconds = tv.tv_sec;
  55   m->now = (timestamp_t)tv.tv_sec * 1000 + tv.tv_usec / 1000;
  56 }
  57
  58 static struct main_context *
  59 main_current_nocheck(void)
  60 {
  61   return ucwlib_thread_context()->main_context;
  62 }
  63
  64 struct main_context *
  65 main_current(void)
  66 {
  67   struct main_context *m = main_current_nocheck();
  68   ASSERT(m);
  69   return m;
  70 }
  71
  72 static int
  73 main_is_current(struct main_context *m)
  74 {
  75   return (m == main_current_nocheck());
  76 }
  77
  78 static inline uns
  79 count_timers(struct main_context *m)
  80 {
  81   if (m->timer_table)
  82     return GARY_SIZE(m->timer_table) - 1;
  83   else
  84     return 0;
  85 }
  86
  87 struct main_context *
  88 main_new(void)
  89 {
  90   struct main_context *m = xmalloc_zero(sizeof(*m));
  91
  92   DBG("MAIN: New context");
  93   clist_init(&m->file_list);
  94   clist_init(&m->file_active_list);
  95   clist_init(&m->hook_list);
  96   clist_init(&m->hook_done_list);
  97   clist_init(&m->process_list);
  98   clist_init(&m->signal_list);
  99 #ifdef CONFIG_UCW_EPOLL
 100   m->epoll_fd = epoll_create(64);
 101   if (m->epoll_fd < 0)
 102     die("epoll_create() failed: %m");
 103   m->epoll_events = xmalloc(EPOLL_BUF_SIZE * sizeof(struct epoll_event *));
 104   clist_init(&m->file_recalc_list);
 105 #else
 106   m->poll_table_obsolete = 1;
 107 #endif
 108   main_get_time_ctx(m);
 109   sigemptyset(&m->want_signals);
 110   m->sig_pipe_recv = m->sig_pipe_send = -1;
 111
 112   return m;
 113 }
 114
 115 static void
 116 main_prepare_delete(struct main_context *m)
 117 {
 118   /*
 119    *  If the context is current, deactivate it first. But beware,
 120    *  we must not call functions that depend on the current context.
 121    */
 122   if (main_is_current(m))
 123     main_switch_context(NULL);
 124
 125   // Close epoll descriptor early enough, it might be shared after fork!
 126 #ifdef CONFIG_UCW_EPOLL
 127   xfree(m->epoll_events);
 128   close(m->epoll_fd);
 129   m->epoll_fd = -1;
 130 #else
 131   GARY_FREE(m->poll_table);
 132   GARY_FREE(m->poll_file_table);
 133 #endif
 134
 135   if (m->sigchld_handler)
 136     {
 137       signal_del_ctx(m, m->sigchld_handler);
 138       xfree(m->sigchld_handler);
 139     }
 140   if (m->sig_pipe_file)
 141     {
 142       file_del_ctx(m, m->sig_pipe_file);
 143       xfree(m->sig_pipe_file);
 144      }
 145   if (m->sig_pipe_recv >= 0)
 146     {
 147       close(m->sig_pipe_recv);
 148       close(m->sig_pipe_send);
 149     }
 150 }
 151
 152 static void
 153 main_do_delete(struct main_context *m)
 154 {
 155   GARY_FREE(m->timer_table);
 156   xfree(m);
 157 }
 158
 159 void
 160 main_delete(struct main_context *m)
 161 {
 162   if (!m)
 163     return;
 164
 165   main_prepare_delete(m);
 166   ASSERT(clist_empty(&m->file_list));
 167   ASSERT(clist_empty(&m->file_active_list));
 168 #ifdef CONFIG_UCW_EPOLL
 169   ASSERT(clist_empty(&m->file_recalc_list));
 170 #endif
 171   ASSERT(clist_empty(&m->hook_list));
 172   ASSERT(clist_empty(&m->hook_done_list));
 173   ASSERT(clist_empty(&m->process_list));
 174   ASSERT(clist_empty(&m->signal_list));
 175   ASSERT(!count_timers(m));
 176   main_do_delete(m);
 177 }
 178
 179 void
 180 main_destroy(struct main_context *m)
 181 {
 182   if (!m)
 183     return;
 184   main_prepare_delete(m);
 185
 186   // Close all files
 187   clist_insert_list_after(&m->file_active_list, m->file_list.head.prev);
 188 #ifdef CONFIG_UCW_EPOLL
 189   clist_insert_list_after(&m->file_recalc_list, m->file_list.head.prev);
 190 #endif
 191   CLIST_FOR_EACH(struct main_file *, f, m->file_list)
 192     close(f->fd);
 193
 194   main_do_delete(m);
 195 }
 196
 197 struct main_context *
 198 main_switch_context(struct main_context *m)
 199 {
 200   struct ucwlib_context *c = ucwlib_thread_context();
 201   struct main_context *m0 = c->main_context;
 202
 203   /*
 204    *  Not only we need to switch the signal sets of the two contexts,
 205    *  but it is also necessary to avoid invoking a signal handler
 206    *  in the middle of changing c->main_context.
 207    */
 208   if (m0 && !clist_empty(&m0->signal_list))
 209     THREAD_SIGMASK(SIG_BLOCK, &m0->want_signals, NULL);
 210   c->main_context = m;
 211   if (m && !clist_empty(&m->signal_list))
 212     THREAD_SIGMASK(SIG_UNBLOCK, &m->want_signals, NULL);
 213
 214   return m0;
 215 }
 216
 217 void
 218 main_init(void)
 219 {
 220   struct main_context *m = main_switch_context(main_new());
 221   ASSERT(!m);
 222 }
 223
 224 void
 225 main_cleanup(void)
 226 {
 227   main_delete(main_current_nocheck());
 228 }
 229
 230 void
 231 main_teardown(void)
 232 {
 233   main_destroy(main_current_nocheck());
 234 }
 235
 236 void
 237 main_get_time(void)
 238 {
 239   main_get_time_ctx(main_current());
 240 }
 241
 242 void
 243 timer_add(struct main_timer *tm, timestamp_t expires)
 244 {
 245   struct main_context *m = main_current();
 246
 247   if (!m->timer_table)
 248     {
 249       GARY_INIT(m->timer_table, 1);
 250       m->timer_table[0] = NULL;
 251     }
 252
 253   if (expires)
 254     DBG("MAIN: Setting timer %p (expire at now+%lld)", tm, (long long)(expires - m->now));
 255   else
 256     DBG("MAIN: Clearing timer %p", tm);
 257   uns num_timers = count_timers(m);
 258   if (tm->expires < expires)
 259     {
 260       if (!tm->expires)
 261         {
 262           tm->expires = expires;
 263           tm->index = num_timers + 1;
 264           *GARY_PUSH(m->timer_table, 1) = tm;
 265           HEAP_INSERT(struct main_timer *, m->timer_table, tm->index, MAIN_TIMER_LESS, MAIN_TIMER_SWAP);
 266         }
 267       else
 268         {
 269           tm->expires = expires;
 270           HEAP_INCREASE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index);
 271         }
 272     }
 273   else if (tm->expires > expires)
 274     {
 275       if (!expires)
 276         {
 277           ASSERT(tm->index && tm->index <= num_timers);
 278           HEAP_DELETE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index);
 279           tm->index = 0;
 280           tm->expires = 0;
 281           GARY_POP(m->timer_table, 1);
 282         }
 283       else
 284         {
 285           tm->expires = expires;
 286           HEAP_DECREASE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index);
 287         }
 288     }
 289 }
 290
 291 void
 292 timer_add_rel(struct main_timer *tm, timestamp_t expires_delta)
 293 {
 294   struct main_context *m = main_current();
 295   return timer_add(tm, m->now + expires_delta);
 296 }
 297
 298 void
 299 timer_del(struct main_timer *tm)
 300 {
 301   timer_add(tm, 0);
 302 }
 303
 304 static uns
 305 file_want_events(struct main_file *fi)
 306 {
 307   uns events = 0;
 308   if (fi->read_handler)
 309     events |= POLLIN | POLLHUP | POLLERR;
 310   if (fi->write_handler)
 311     events |= POLLOUT | POLLERR;
 312   return events;
 313 }
 314
 315 void
 316 file_add(struct main_file *fi)
 317 {
 318   struct main_context *m = main_current();
 319
 320   DBG("MAIN: Adding file %p (fd=%d)", fi, fi->fd);
 321   ASSERT(!clist_is_linked(&fi->n));
 322   clist_add_tail(&m->file_list, &fi->n);
 323   m->file_cnt++;
 324 #ifdef CONFIG_UCW_EPOLL
 325   struct epoll_event evt = {
 326     .events = file_want_events(fi),
 327     .data.ptr = fi,
 328   };
 329   if (epoll_ctl(m->epoll_fd, EPOLL_CTL_ADD, fi->fd, &evt) < 0)
 330     die("epoll_ctl() failed: %m");
 331   fi->last_want_events = evt.events;
 332 #else
 333   m->poll_table_obsolete = 1;
 334 #endif
 335   if (fcntl(fi->fd, F_SETFL, O_NONBLOCK) < 0)
 336     msg(L_ERROR, "Error setting fd %d to non-blocking mode: %m. Keep fingers crossed.", fi->fd);
 337 }
 338
 339 void
 340 file_chg(struct main_file *fi)
 341 {
 342 #ifdef CONFIG_UCW_EPOLL
 343   clist_remove(&fi->n);
 344   clist_add_tail(&main_current()->file_recalc_list, &fi->n);
 345 #else
 346   struct pollfd *p = fi->pollfd;
 347   if (p)
 348     p->events = file_want_events(fi);
 349 #endif
 350 }
 351
 352 static void
 353 file_del_ctx(struct main_context *m, struct main_file *fi)
 354 {
 355   // XXX: Can be called on a non-current context
 356   DBG("MAIN: Deleting file %p (fd=%d)", fi, fi->fd);
 357
 358   ASSERT(clist_is_linked(&fi->n));
 359   clist_unlink(&fi->n);
 360   m->file_cnt--;
 361 #ifdef CONFIG_UCW_EPOLL
 362   if (m->epoll_fd >= 0 && epoll_ctl(m->epoll_fd, EPOLL_CTL_DEL, fi->fd, NULL) < 0)
 363     die("epoll_ctl() failed: %m");
 364 #else
 365   m->poll_table_obsolete = 1;
 366 #endif
 367 }
 368
 369 void
 370 file_del(struct main_file *fi)
 371 {
 372   file_del_ctx(main_current(), fi);
 373 }
 374
 375 void
 376 hook_add(struct main_hook *ho)
 377 {
 378   struct main_context *m = main_current();
 379
 380   DBG("MAIN: Adding hook %p", ho);
 381   ASSERT(!clist_is_linked(&ho->n));
 382   clist_add_tail(&m->hook_list, &ho->n);
 383 }
 384
 385 void
 386 hook_del(struct main_hook *ho)
 387 {
 388   DBG("MAIN: Deleting hook %p", ho);
 389   ASSERT(clist_is_linked(&ho->n));
 390   clist_unlink(&ho->n);
 391 }
 392
 393 static void
 394 sigchld_received(struct main_signal *sg UNUSED)
 395 {
 396   struct main_context *m = main_current();
 397   int stat;
 398   pid_t pid;
 399
 400   while ((pid = waitpid(-1, &stat, WNOHANG)) > 0)
 401     {
 402       DBG("MAIN: Child %d exited with status %x", pid, stat);
 403       CLIST_FOR_EACH(struct main_process *, pr, m->process_list)
 404         if (pr->pid == pid)
 405           {
 406             pr->status = stat;
 407             process_del(pr);
 408             format_exit_status(pr->status_msg, pr->status);
 409             DBG("MAIN: Calling process exit handler");
 410             pr->handler(pr);
 411             break;
 412           }
 413     }
 414 }
 415
 416 void
 417 process_add(struct main_process *mp)
 418 {
 419   struct main_context *m = main_current();
 420
 421   DBG("MAIN: Adding process %p (pid=%d)", mp, mp->pid);
 422   ASSERT(!clist_is_linked(&mp->n));
 423   ASSERT(mp->handler);
 424   clist_add_tail(&m->process_list, &mp->n);
 425   if (!m->sigchld_handler)
 426     {
 427       struct main_signal *sg = xmalloc_zero(sizeof(*sg));
 428       m->sigchld_handler = sg;
 429       sg->signum = SIGCHLD;
 430       sg->handler = sigchld_received;
 431       signal_add(sg);
 432     }
 433 }
 434
 435 void
 436 process_del(struct main_process *mp)
 437 {
 438   DBG("MAIN: Deleting process %p (pid=%d)", mp, mp->pid);
 439   ASSERT(clist_is_linked(&mp->n));
 440   clist_unlink(&mp->n);
 441 }
 442
 443 int
 444 process_fork(struct main_process *mp)
 445 {
 446   pid_t pid = fork();
 447   if (pid < 0)
 448     {
 449       DBG("MAIN: Fork failed");
 450       mp->status = -1;
 451       format_exit_status(mp->status_msg, -1);
 452       mp->handler(mp);
 453       return 1;
 454     }
 455   else if (!pid)
 456     return 0;
 457   else
 458     {
 459       DBG("MAIN: Forked process %d", (int) pid);
 460       mp->pid = pid;
 461       process_add(mp);
 462       return 1;
 463     }
 464 }
 465
 466 static int
 467 pipe_read_handler(struct main_file *mf UNUSED)
 468 {
 469   struct main_context *m = main_current();
 470   int signum;
 471   int n = read(m->sig_pipe_recv, &signum, sizeof(signum));
 472
 473   if (n < 0)
 474     {
 475       if (errno != EAGAIN)
 476         msg(L_ERROR, "Error reading signal pipe: %m");
 477       return 0;
 478     }
 479   ASSERT(n == sizeof(signum));
 480
 481   DBG("MAIN: Sigpipe: received signal %d", signum);
 482   struct main_signal iter = { .signum = -1 };
 483   struct main_signal *sg = clist_head(&m->signal_list);
 484   while (sg)
 485     {
 486       if (sg->signum == signum)
 487         {
 488           DBG("MAIN: Sigpipe: invoking handler %p", sg);
 489           clist_insert_after(&iter.n, &sg->n);
 490           sg->handler(sg);
 491           sg = clist_next(&m->signal_list, &iter.n);
 492           clist_remove(&iter.n);
 493         }
 494       else
 495         sg = clist_next(&m->signal_list, &sg->n);
 496     }
 497
 498   return 1;
 499 }
 500
 501 static void
 502 pipe_configure(int fd)
 503 {
 504   int flags;
 505   if ((flags = fcntl(fd, F_GETFL)) < 0 || fcntl(fd, F_SETFL, flags|O_NONBLOCK) < 0)
 506     die("Could not set file descriptor %d to non-blocking: %m", fd);
 507 }
 508
 509 static void
 510 pipe_setup(struct main_context *m)
 511 {
 512   DBG("MAIN: Sigpipe: Setting up the pipe");
 513
 514   int pipe_result[2];
 515   if (pipe(pipe_result) == -1)
 516     die("Could not create signal pipe: %m");
 517   pipe_configure(pipe_result[0]);
 518   pipe_configure(pipe_result[1]);
 519   m->sig_pipe_recv = pipe_result[0];
 520   m->sig_pipe_send = pipe_result[1];
 521
 522   struct main_file *f = xmalloc_zero(sizeof(*f));
 523   m->sig_pipe_file = f;
 524   f->fd = m->sig_pipe_recv;
 525   f->read_handler = pipe_read_handler;
 526   file_add(f);
 527 }
 528
 529 static void
 530 signal_handler_pipe(int signum)
 531 {
 532   struct main_context *m = main_current();
 533 #ifdef LOCAL_DEBUG
 534   msg(L_DEBUG | L_SIGHANDLER, "MAIN: Sigpipe: sending signal %d down the drain", signum);
 535 #endif
 536   write(m->sig_pipe_send, &signum, sizeof(signum));
 537 }
 538
 539 void
 540 signal_add(struct main_signal *ms)
 541 {
 542   struct main_context *m = main_current();
 543
 544   DBG("MAIN: Adding signal %p (sig=%d)", ms, ms->signum);
 545
 546   ASSERT(!clist_is_linked(&ms->n));
 547   // Adding at the head of the list is better if we are in the middle of walking the list.
 548   clist_add_head(&m->signal_list, &ms->n);
 549   if (m->sig_pipe_recv < 0)
 550     pipe_setup(m);
 551
 552   struct sigaction sa = {
 553     .sa_handler = signal_handler_pipe,
 554     .sa_flags = SA_NOCLDSTOP | SA_RESTART,
 555   };
 556   sigaction(ms->signum, &sa, NULL);
 557
 558   sigset_t ss;
 559   sigemptyset(&ss);
 560   sigaddset(&ss, ms->signum);
 561   THREAD_SIGMASK(SIG_UNBLOCK, &ss, NULL);
 562   sigaddset(&m->want_signals, ms->signum);
 563 }
 564
 565 static void
 566 signal_del_ctx(struct main_context *m, struct main_signal *ms)
 567 {
 568   // XXX: Can be called on a non-current context
 569   DBG("MAIN: Deleting signal %p (sig=%d)", ms, ms->signum);
 570
 571   ASSERT(clist_is_linked(&ms->n));
 572   clist_unlink(&ms->n);
 573
 574   int another = 0;
 575   CLIST_FOR_EACH(struct main_signal *, s, m->signal_list)
 576     if (s->signum == ms->signum)
 577       another++;
 578   if (!another)
 579     {
 580       if (main_is_current(m))
 581         {
 582           sigset_t ss;
 583           sigemptyset(&ss);
 584           sigaddset(&ss, ms->signum);
 585           THREAD_SIGMASK(SIG_BLOCK, &ss, NULL);
 586         }
 587       sigdelset(&m->want_signals, ms->signum);
 588     }
 589 }
 590
 591 void
 592 signal_del(struct main_signal *ms)
 593 {
 594   signal_del_ctx(main_current(), ms);
 595 }
 596
 597 #ifdef CONFIG_DEBUG
 598
 599 void
 600 file_debug(struct main_file *fi)
 601 {
 602   msg(L_DEBUG, "\t\t%p (fd %d, rh %p, wh %p, data %p)",
 603     fi, fi->fd, fi->read_handler, fi->write_handler, fi->data);
 604 }
 605
 606 void
 607 hook_debug(struct main_hook *ho)
 608 {
 609   msg(L_DEBUG, "\t\t%p (func %p, data %p)", ho, ho->handler, ho->data);
 610 }
 611
 612 void
 613 signal_debug(struct main_signal *sg)
 614 {
 615   if (sg->signum < 0)
 616     msg(L_DEBUG, "\t\t(placeholder)");
 617   else
 618     msg(L_DEBUG, "\t\t%p (sig %d, func %p, data %p)", sg, sg->signum, sg->handler, sg->data);
 619 }
 620
 621 static void
 622 timer_debug_ctx(struct main_context *m, struct main_timer *tm)
 623 {
 624   msg(L_DEBUG, "\t\t%p (expires %lld, data %p)", tm, (long long)(tm->expires - m->now), tm->data);
 625 }
 626
 627 void
 628 timer_debug(struct main_timer *tm)
 629 {
 630   timer_debug_ctx(main_current(), tm);
 631 }
 632
 633 void
 634 process_debug(struct main_process *pr)
 635 {
 636   msg(L_DEBUG, "\t\t%p (pid %d, func %p, data %p)", pr, pr->pid, pr->handler, pr->data);
 637 }
 638
 639 void
 640 main_debug_context(struct main_context *m UNUSED)
 641 {
 642   msg(L_DEBUG, "### Main loop status on %lld", (long long) m->now);
 643   msg(L_DEBUG, "\tActive timers:");
 644   uns num_timers = count_timers(m);
 645   for (uns i = 1; i <= num_timers; i++)
 646     timer_debug(m->timer_table[i]);
 647   msg(L_DEBUG, "\tActive files:");
 648   CLIST_FOR_EACH(struct main_file *, fi, m->file_list)
 649     file_debug(fi);
 650   CLIST_FOR_EACH(struct main_file *, fi, m->file_active_list)
 651     file_debug(fi);
 652 #ifdef CONFIG_UCW_EPOLL
 653   CLIST_FOR_EACH(struct main_file *, fi, m->file_recalc_list)
 654     file_debug(fi);
 655 #endif
 656   msg(L_DEBUG, "\tActive hooks:");
 657   CLIST_FOR_EACH(struct main_hook *, ho, m->hook_done_list)
 658     hook_debug(ho);
 659   CLIST_FOR_EACH(struct main_hook *, ho, m->hook_list)
 660     hook_debug(ho);
 661   msg(L_DEBUG, "\tActive processes:");
 662   CLIST_FOR_EACH(struct main_process *, pr, m->process_list)
 663     process_debug(pr);
 664   msg(L_DEBUG, "\tActive signal catchers:");
 665   CLIST_FOR_EACH(struct main_signal *, sg, m->signal_list)
 666     signal_debug(sg);
 667 }
 668
 669 #else
 670
 671 // Stubs
 672 void file_debug(struct main_file *fi UNUSED) { }
 673 void hook_debug(struct main_hook *ho UNUSED) { }
 674 void signal_debug(struct main_signal *sg UNUSED) { }
 675 void timer_debug(struct main_timer *tm UNUSED) { }
 676 void process_debug(struct main_process *pr UNUSED) { }
 677 void main_debug_context(struct main_context *m UNUSED) { }
 678
 679 #endif
 680
 681 static void
 682 process_timers(struct main_context *m)
 683 {
 684   struct main_timer *tm;
 685   while (count_timers(m) && (tm = m->timer_table[1])->expires <= m->now)
 686     {
 687       DBG("MAIN: Timer %p expired at now-%lld", tm, (long long)(m->now - tm->expires));
 688       tm->handler(tm);
 689     }
 690 }
 691
 692 static enum main_hook_return
 693 process_hooks(struct main_context *m)
 694 {
 695   int hook_min = HOOK_RETRY;
 696   int hook_max = HOOK_SHUTDOWN;
 697   struct main_hook *ho;
 698
 699   while (ho = clist_remove_head(&m->hook_list))
 700     {
 701       clist_add_tail(&m->hook_done_list, &ho->n);
 702       DBG("MAIN: Hook %p", ho);
 703       int ret = ho->handler(ho);
 704       hook_min = MIN(hook_min, ret);
 705       hook_max = MAX(hook_max, ret);
 706     }
 707   clist_move(&m->hook_list, &m->hook_done_list);
 708   if (hook_min == HOOK_SHUTDOWN ||
 709     hook_min == HOOK_DONE && hook_max == HOOK_DONE ||
 710     m->shutdown)
 711     {
 712       DBG("MAIN: Shut down by %s", m->shutdown ? "main_shut_down" : "a hook");
 713       return HOOK_SHUTDOWN;
 714     }
 715   if (hook_max == HOOK_RETRY)
 716     return HOOK_RETRY;
 717   else
 718     return HOOK_IDLE;
 719 }
 720
 721 #ifdef CONFIG_UCW_EPOLL
 722
 723 static void
 724 recalc_files(struct main_context *m)
 725 {
 726   struct main_file *fi;
 727
 728   while (fi = clist_remove_head(&m->file_recalc_list))
 729     {
 730       struct epoll_event evt = {
 731         .events = file_want_events(fi),
 732         .data.ptr = fi,
 733       };
 734       if (evt.events != fi->last_want_events)
 735         {
 736           DBG("MAIN: Changing requested events for fd %d to %x", fi->fd, evt.events);
 737           fi->last_want_events = evt.events;
 738           if (epoll_ctl(main_current()->epoll_fd, EPOLL_CTL_MOD, fi->fd, &evt) < 0)
 739             die("epoll_ctl() failed: %m");
 740         }
 741       clist_add_tail(&m->file_list, &fi->n);
 742     }
 743 }
 744
 745 #else
 746
 747 static void
 748 rebuild_poll_table(struct main_context *m)
 749 {
 750   GARY_INIT_OR_RESIZE(m->poll_table, m->file_cnt);
 751   GARY_INIT_OR_RESIZE(m->poll_file_table, m->file_cnt);
 752   DBG("MAIN: Rebuilding poll table: %d entries", m->file_cnt);
 753
 754   struct pollfd *p = m->poll_table;
 755   struct main_file **pf = m->poll_file_table;
 756   CLIST_FOR_EACH(struct main_file *, fi, m->file_list)
 757     {
 758       p->fd = fi->fd;
 759       p->events = file_want_events(fi);
 760       fi->pollfd = p++;
 761       *pf++ = fi;
 762     }
 763   m->poll_table_obsolete = 0;
 764 }
 765
 766 #endif
 767
 768 void
 769 main_loop(void)
 770 {
 771   DBG("MAIN: Entering main_loop");
 772   struct main_context *m = main_current();
 773
 774   main_get_time_ctx(m);
 775   m->shutdown = 0;
 776
 777   for (;;)
 778     {
 779       timestamp_t wake = m->now + 1000000000;
 780       process_timers(m);
 781       switch (process_hooks(m))
 782         {
 783         case HOOK_SHUTDOWN:
 784           return;
 785         case HOOK_RETRY:
 786           wake = 0;
 787           break;
 788         default: ;
 789         }
 790
 791       int timeout = 0;
 792       if (!m->single_step)
 793         {
 794           if (count_timers(m))
 795             wake = MIN(wake, m->timer_table[1]->expires);
 796           main_get_time_ctx(m);
 797           timeout = ((wake > m->now) ? wake - m->now : 0);
 798         }
 799
 800 #ifdef CONFIG_UCW_EPOLL
 801       recalc_files(m);
 802       DBG("MAIN: Epoll for %d fds and timeout %d ms", m->file_cnt, timeout);
 803       int n = epoll_wait(m->epoll_fd, m->epoll_events, EPOLL_BUF_SIZE, timeout);
 804 #else
 805       if (m->poll_table_obsolete)
 806         rebuild_poll_table(m);
 807       DBG("MAIN: Poll for %d fds and timeout %d ms", m->file_cnt, timeout);
 808       int n = poll(m->poll_table, m->file_cnt, timeout);
 809 #endif
 810
 811       DBG("\t-> %d events", n);
 812       if (n < 0 && errno != EAGAIN && errno != EINTR)
 813         die("(e)poll failed: %m");
 814       timestamp_t old_now = m->now;
 815       main_get_time_ctx(m);
 816       m->idle_time += m->now - old_now;
 817
 818       if (n <= 0)
 819         {
 820           if (m->single_step)
 821             return;
 822           else
 823             continue;
 824         }
 825
 826       // Relink all files with a pending event to file_active_list
 827 #ifdef CONFIG_UCW_EPOLL
 828       for (int i=0; i<n; i++)
 829         {
 830           struct epoll_event *e = &m->epoll_events[i];
 831           struct main_file *fi = e->data.ptr;
 832           clist_remove(&fi->n);
 833           clist_add_tail(&m->file_active_list, &fi->n);
 834           fi->events = e->events;
 835         }
 836 #else
 837       struct pollfd *p = m->poll_table;
 838       struct main_file **pf = m->poll_file_table;
 839       for (uns i=0; i < m->file_cnt; i++)
 840         if (p[i].revents)
 841           {
 842             struct main_file *fi = pf[i];
 843             clist_remove(&fi->n);
 844             clist_add_tail(&m->file_active_list, &fi->n);
 845             fi->events = p[i].revents;
 846           }
 847 #endif
 848
 849       /*
 850        *  Process the buffered file events. This is pretty tricky, since
 851        *  user callbacks can modify the file structure or even destroy it.
 852        *  In such cases, we detect that the structure was relinked and stop
 853        *  processing its events, leaving them for the next iteration of the
 854        *  main loop.
 855        */
 856       struct main_file *fi;
 857       while (fi = clist_head(&m->file_active_list))
 858         {
 859           if (fi->events & (POLLIN | POLLHUP | POLLERR))
 860             {
 861               fi->events &= ~(POLLIN | POLLHUP | POLLERR);
 862               do
 863                 DBG("MAIN: Read event on fd %d", fi->fd);
 864               while (fi->read_handler && fi->read_handler(fi));
 865               continue;
 866             }
 867           if (fi->events & (POLLOUT | POLLERR))
 868             {
 869               fi->events &= ~(POLLOUT | POLLERR);
 870               do
 871                 DBG("MAIN: Write event on fd %d", fi->fd);
 872               while (fi->write_handler && fi->write_handler(fi));
 873               continue;
 874             }
 875           clist_remove(&fi->n);
 876           clist_add_tail(&m->file_list, &fi->n);
 877         }
 878     }
 879 }
 880
 881 void
 882 main_step(void)
 883 {
 884   struct main_context *m = main_current();
 885   m->single_step = 1;
 886   main_loop();
 887   m->single_step = 0;
 888 }