ucw/mainloop.c

   1 /*
   2  *      UCW Library -- Main Loop
   3  *
   4  *      (c) 2004--2012 Martin Mares <mj@ucw.cz>
   5  *
   6  *      This software may be freely distributed and used according to the terms
   7  *      of the GNU Lesser General Public License.
   8  */
   9
  10 #undef LOCAL_DEBUG
  11
  12 #include <ucw/lib.h>
  13 #include <ucw/heap.h>
  14 #include <ucw/mainloop.h>
  15 #include <ucw/threads.h>
  16 #include <ucw/gary.h>
  17 #include <ucw/process.h>
  18 #include <ucw/time.h>
  19
  20 #include <stdio.h>
  21 #include <string.h>
  22 #include <stdlib.h>
  23 #include <unistd.h>
  24 #include <signal.h>
  25 #include <fcntl.h>
  26 #include <errno.h>
  27 #include <time.h>
  28 #include <sys/poll.h>
  29 #include <sys/wait.h>
  30 #include <sys/time.h>
  31
  32 #ifdef CONFIG_UCW_THREADS
  33 #include <pthread.h>
  34 #define THREAD_SIGMASK pthread_sigmask
  35 #else
  36 #define THREAD_SIGMASK sigprocmask
  37 #endif
  38
  39 #ifdef CONFIG_UCW_EPOLL
  40 #include <sys/epoll.h>
  41 #endif
  42
  43 #define MAIN_TIMER_LESS(x,y) ((x)->expires < (y)->expires)
  44 #define MAIN_TIMER_SWAP(heap,a,b,t) (t=heap[a], heap[a]=heap[b], heap[b]=t, heap[a]->index=(a), heap[b]->index=(b))
  45
  46 #define EPOLL_BUF_SIZE 256
  47
  48 static void file_del_ctx(struct main_context *m, struct main_file *fi);
  49 static void signal_del_ctx(struct main_context *m, struct main_signal *ms);
  50
  51 static void
  52 main_get_time_ctx(struct main_context *m)
  53 {
  54   m->now = get_timestamp();
  55 }
  56
  57 static struct main_context *
  58 main_current_nocheck(void)
  59 {
  60   return ucwlib_thread_context()->main_context;
  61 }
  62
  63 struct main_context *
  64 main_current(void)
  65 {
  66   struct main_context *m = main_current_nocheck();
  67   ASSERT(m);
  68   return m;
  69 }
  70
  71 static int
  72 main_is_current(struct main_context *m)
  73 {
  74   return (m == main_current_nocheck());
  75 }
  76
  77 static inline uns
  78 count_timers(struct main_context *m)
  79 {
  80   if (m->timer_table)
  81     return GARY_SIZE(m->timer_table) - 1;
  82   else
  83     return 0;
  84 }
  85
  86 struct main_context *
  87 main_new(void)
  88 {
  89   struct main_context *m = xmalloc_zero(sizeof(*m));
  90
  91   DBG("MAIN: New context");
  92   clist_init(&m->file_list);
  93   clist_init(&m->file_active_list);
  94   clist_init(&m->hook_list);
  95   clist_init(&m->hook_done_list);
  96   clist_init(&m->process_list);
  97   clist_init(&m->signal_list);
  98 #ifdef CONFIG_UCW_EPOLL
  99   m->epoll_fd = epoll_create(64);
 100   if (m->epoll_fd < 0)
 101     die("epoll_create() failed: %m");
 102   m->epoll_events = xmalloc(EPOLL_BUF_SIZE * sizeof(struct epoll_event));
 103   clist_init(&m->file_recalc_list);
 104 #else
 105   m->poll_table_obsolete = 1;
 106 #endif
 107   main_get_time_ctx(m);
 108   sigemptyset(&m->want_signals);
 109   m->sig_pipe_recv = m->sig_pipe_send = -1;
 110
 111   return m;
 112 }
 113
 114 static void
 115 main_prepare_delete(struct main_context *m)
 116 {
 117   /*
 118    *  If the context is current, deactivate it first. But beware,
 119    *  we must not call functions that depend on the current context.
 120    */
 121   if (main_is_current(m))
 122     main_switch_context(NULL);
 123
 124   // Close epoll descriptor early enough, it might be shared after fork!
 125 #ifdef CONFIG_UCW_EPOLL
 126   xfree(m->epoll_events);
 127   close(m->epoll_fd);
 128   m->epoll_fd = -1;
 129 #else
 130   GARY_FREE(m->poll_table);
 131   GARY_FREE(m->poll_file_table);
 132 #endif
 133
 134   if (m->sigchld_handler)
 135     {
 136       signal_del_ctx(m, m->sigchld_handler);
 137       xfree(m->sigchld_handler);
 138     }
 139   if (m->sig_pipe_file)
 140     {
 141       file_del_ctx(m, m->sig_pipe_file);
 142       xfree(m->sig_pipe_file);
 143      }
 144   if (m->sig_pipe_recv >= 0)
 145     {
 146       close(m->sig_pipe_recv);
 147       close(m->sig_pipe_send);
 148     }
 149 }
 150
 151 static void
 152 main_do_delete(struct main_context *m)
 153 {
 154   GARY_FREE(m->timer_table);
 155   xfree(m);
 156 }
 157
 158 void
 159 main_delete(struct main_context *m)
 160 {
 161   if (!m)
 162     return;
 163
 164   main_prepare_delete(m);
 165   ASSERT(clist_empty(&m->file_list));
 166   ASSERT(clist_empty(&m->file_active_list));
 167 #ifdef CONFIG_UCW_EPOLL
 168   ASSERT(clist_empty(&m->file_recalc_list));
 169 #endif
 170   ASSERT(clist_empty(&m->hook_list));
 171   ASSERT(clist_empty(&m->hook_done_list));
 172   ASSERT(clist_empty(&m->process_list));
 173   ASSERT(clist_empty(&m->signal_list));
 174   ASSERT(!count_timers(m));
 175   main_do_delete(m);
 176 }
 177
 178 void
 179 main_destroy(struct main_context *m)
 180 {
 181   if (!m)
 182     return;
 183   main_prepare_delete(m);
 184
 185   // Close all files
 186   clist_insert_list_after(&m->file_active_list, m->file_list.head.prev);
 187 #ifdef CONFIG_UCW_EPOLL
 188   clist_insert_list_after(&m->file_recalc_list, m->file_list.head.prev);
 189 #endif
 190   CLIST_FOR_EACH(struct main_file *, f, m->file_list)
 191     close(f->fd);
 192
 193   main_do_delete(m);
 194 }
 195
 196 struct main_context *
 197 main_switch_context(struct main_context *m)
 198 {
 199   struct ucwlib_context *c = ucwlib_thread_context();
 200   struct main_context *m0 = c->main_context;
 201
 202   /*
 203    *  Not only we need to switch the signal sets of the two contexts,
 204    *  but it is also necessary to avoid invoking a signal handler
 205    *  in the middle of changing c->main_context.
 206    */
 207   if (m0 && !clist_empty(&m0->signal_list))
 208     THREAD_SIGMASK(SIG_BLOCK, &m0->want_signals, NULL);
 209   c->main_context = m;
 210   if (m && !clist_empty(&m->signal_list))
 211     THREAD_SIGMASK(SIG_UNBLOCK, &m->want_signals, NULL);
 212
 213   return m0;
 214 }
 215
 216 void
 217 main_init(void)
 218 {
 219   struct main_context *m = main_switch_context(main_new());
 220   ASSERT(!m);
 221 }
 222
 223 void
 224 main_cleanup(void)
 225 {
 226   main_delete(main_current_nocheck());
 227 }
 228
 229 void
 230 main_teardown(void)
 231 {
 232   main_destroy(main_current_nocheck());
 233 }
 234
 235 void
 236 main_get_time(void)
 237 {
 238   main_get_time_ctx(main_current());
 239 }
 240
 241 void
 242 timer_add(struct main_timer *tm, timestamp_t expires)
 243 {
 244   struct main_context *m = main_current();
 245
 246   if (!m->timer_table)
 247     {
 248       GARY_INIT(m->timer_table, 1);
 249       m->timer_table[0] = NULL;
 250     }
 251
 252   if (expires)
 253     DBG("MAIN: Setting timer %p (expire at now+%lld)", tm, (long long)(expires - m->now));
 254   else
 255     DBG("MAIN: Clearing timer %p", tm);
 256   uns num_timers = count_timers(m);
 257   if (tm->expires < expires)
 258     {
 259       if (!tm->expires)
 260         {
 261           tm->expires = expires;
 262           tm->index = num_timers + 1;
 263           *GARY_PUSH(m->timer_table, 1) = tm;
 264           HEAP_INSERT(struct main_timer *, m->timer_table, tm->index, MAIN_TIMER_LESS, MAIN_TIMER_SWAP);
 265         }
 266       else
 267         {
 268           tm->expires = expires;
 269           HEAP_INCREASE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index);
 270         }
 271     }
 272   else if (tm->expires > expires)
 273     {
 274       if (!expires)
 275         {
 276           ASSERT(tm->index && tm->index <= num_timers);
 277           HEAP_DELETE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index);
 278           tm->index = 0;
 279           tm->expires = 0;
 280           GARY_POP(m->timer_table, 1);
 281         }
 282       else
 283         {
 284           tm->expires = expires;
 285           HEAP_DECREASE(struct main_timer *, m->timer_table, num_timers, MAIN_TIMER_LESS, MAIN_TIMER_SWAP, tm->index);
 286         }
 287     }
 288 }
 289
 290 void
 291 timer_add_rel(struct main_timer *tm, timestamp_t expires_delta)
 292 {
 293   struct main_context *m = main_current();
 294   return timer_add(tm, m->now + expires_delta);
 295 }
 296
 297 void
 298 timer_del(struct main_timer *tm)
 299 {
 300   timer_add(tm, 0);
 301 }
 302
 303 static uns
 304 file_want_events(struct main_file *fi)
 305 {
 306   uns events = 0;
 307   if (fi->read_handler)
 308     events |= POLLIN;
 309   if (fi->write_handler)
 310     events |= POLLOUT;
 311   return events;
 312 }
 313
 314 void
 315 file_add(struct main_file *fi)
 316 {
 317   struct main_context *m = main_current();
 318
 319   DBG("MAIN: Adding file %p (fd=%d)", fi, fi->fd);
 320   ASSERT(!file_is_active(fi));
 321   clist_add_tail(&m->file_list, &fi->n);
 322   m->file_cnt++;
 323 #ifdef CONFIG_UCW_EPOLL
 324   struct epoll_event evt = {
 325     .events = file_want_events(fi),
 326     .data.ptr = fi,
 327   };
 328   if (epoll_ctl(m->epoll_fd, EPOLL_CTL_ADD, fi->fd, &evt) < 0)
 329     die("epoll_ctl() failed: %m");
 330   fi->last_want_events = evt.events;
 331 #else
 332   m->poll_table_obsolete = 1;
 333 #endif
 334   if (fcntl(fi->fd, F_SETFL, O_NONBLOCK) < 0)
 335     msg(L_ERROR, "Error setting fd %d to non-blocking mode: %m. Keep fingers crossed.", fi->fd);
 336 }
 337
 338 void
 339 file_chg(struct main_file *fi)
 340 {
 341 #ifdef CONFIG_UCW_EPOLL
 342   clist_remove(&fi->n);
 343   clist_add_tail(&main_current()->file_recalc_list, &fi->n);
 344 #else
 345   struct pollfd *p = fi->pollfd;
 346   if (p)
 347     p->events = file_want_events(fi);
 348 #endif
 349 }
 350
 351 static void
 352 file_del_ctx(struct main_context *m, struct main_file *fi)
 353 {
 354   // XXX: Can be called on a non-current context
 355   DBG("MAIN: Deleting file %p (fd=%d)", fi, fi->fd);
 356
 357   if (!file_is_active(fi))
 358     return;
 359   clist_unlink(&fi->n);
 360   m->file_cnt--;
 361 #ifdef CONFIG_UCW_EPOLL
 362   if (m->epoll_fd >= 0 && epoll_ctl(m->epoll_fd, EPOLL_CTL_DEL, fi->fd, NULL) < 0)
 363     die("epoll_ctl() failed: %m");
 364 #else
 365   m->poll_table_obsolete = 1;
 366 #endif
 367 }
 368
 369 void
 370 file_del(struct main_file *fi)
 371 {
 372   file_del_ctx(main_current(), fi);
 373 }
 374
 375 void
 376 hook_add(struct main_hook *ho)
 377 {
 378   struct main_context *m = main_current();
 379
 380   DBG("MAIN: Adding hook %p", ho);
 381   if (hook_is_active(ho))
 382     clist_unlink(&ho->n);
 383   clist_add_tail(&m->hook_list, &ho->n);
 384 }
 385
 386 void
 387 hook_del(struct main_hook *ho)
 388 {
 389   DBG("MAIN: Deleting hook %p", ho);
 390   if (hook_is_active(ho))
 391     clist_unlink(&ho->n);
 392 }
 393
 394 static void
 395 sigchld_received(struct main_signal *sg UNUSED)
 396 {
 397   struct main_context *m = main_current();
 398   int stat;
 399   pid_t pid;
 400
 401   while ((pid = waitpid(-1, &stat, WNOHANG)) > 0)
 402     {
 403       DBG("MAIN: Child %d exited with status %x", pid, stat);
 404       CLIST_FOR_EACH(struct main_process *, pr, m->process_list)
 405         if (pr->pid == pid)
 406           {
 407             pr->status = stat;
 408             process_del(pr);
 409             format_exit_status(pr->status_msg, pr->status);
 410             DBG("MAIN: Calling process exit handler");
 411             pr->handler(pr);
 412             break;
 413           }
 414     }
 415 }
 416
 417 void
 418 process_add(struct main_process *mp)
 419 {
 420   struct main_context *m = main_current();
 421
 422   DBG("MAIN: Adding process %p (pid=%d)", mp, mp->pid);
 423   ASSERT(!process_is_active(mp));
 424   ASSERT(mp->handler);
 425   clist_add_tail(&m->process_list, &mp->n);
 426   if (!m->sigchld_handler)
 427     {
 428       struct main_signal *sg = xmalloc_zero(sizeof(*sg));
 429       m->sigchld_handler = sg;
 430       sg->signum = SIGCHLD;
 431       sg->handler = sigchld_received;
 432       signal_add(sg);
 433     }
 434 }
 435
 436 void
 437 process_del(struct main_process *mp)
 438 {
 439   DBG("MAIN: Deleting process %p (pid=%d)", mp, mp->pid);
 440   if (process_is_active(mp))
 441     clist_unlink(&mp->n);
 442 }
 443
 444 int
 445 process_fork(struct main_process *mp)
 446 {
 447   pid_t pid = fork();
 448   if (pid < 0)
 449     {
 450       DBG("MAIN: Fork failed");
 451       mp->status = -1;
 452       format_exit_status(mp->status_msg, -1);
 453       mp->handler(mp);
 454       return 1;
 455     }
 456   else if (!pid)
 457     return 0;
 458   else
 459     {
 460       DBG("MAIN: Forked process %d", (int) pid);
 461       mp->pid = pid;
 462       process_add(mp);
 463       return 1;
 464     }
 465 }
 466
 467 static int
 468 pipe_read_handler(struct main_file *mf UNUSED)
 469 {
 470   struct main_context *m = main_current();
 471   int signum;
 472   int n = read(m->sig_pipe_recv, &signum, sizeof(signum));
 473
 474   if (n < 0)
 475     {
 476       if (errno != EAGAIN)
 477         msg(L_ERROR, "Error reading signal pipe: %m");
 478       return 0;
 479     }
 480   ASSERT(n == sizeof(signum));
 481
 482   DBG("MAIN: Sigpipe: received signal %d", signum);
 483   struct main_signal iter = { .signum = -1 };
 484   struct main_signal *sg = clist_head(&m->signal_list);
 485   while (sg)
 486     {
 487       if (sg->signum == signum)
 488         {
 489           DBG("MAIN: Sigpipe: invoking handler %p", sg);
 490           clist_insert_after(&iter.n, &sg->n);
 491           sg->handler(sg);
 492           sg = clist_next(&m->signal_list, &iter.n);
 493           clist_remove(&iter.n);
 494         }
 495       else
 496         sg = clist_next(&m->signal_list, &sg->n);
 497     }
 498
 499   return 1;
 500 }
 501
 502 static void
 503 pipe_configure(int fd)
 504 {
 505   int flags;
 506   if ((flags = fcntl(fd, F_GETFL)) < 0 || fcntl(fd, F_SETFL, flags|O_NONBLOCK) < 0)
 507     die("Could not set file descriptor %d to non-blocking: %m", fd);
 508 }
 509
 510 static void
 511 pipe_setup(struct main_context *m)
 512 {
 513   DBG("MAIN: Sigpipe: Setting up the pipe");
 514
 515   int pipe_result[2];
 516   if (pipe(pipe_result) == -1)
 517     die("Could not create signal pipe: %m");
 518   pipe_configure(pipe_result[0]);
 519   pipe_configure(pipe_result[1]);
 520   m->sig_pipe_recv = pipe_result[0];
 521   m->sig_pipe_send = pipe_result[1];
 522
 523   struct main_file *f = xmalloc_zero(sizeof(*f));
 524   m->sig_pipe_file = f;
 525   f->fd = m->sig_pipe_recv;
 526   f->read_handler = pipe_read_handler;
 527   file_add(f);
 528 }
 529
 530 static void
 531 signal_handler_pipe(int signum)
 532 {
 533   struct main_context *m = main_current();
 534 #ifdef LOCAL_DEBUG
 535   msg(L_DEBUG | L_SIGHANDLER, "MAIN: Sigpipe: sending signal %d down the drain", signum);
 536 #endif
 537   write(m->sig_pipe_send, &signum, sizeof(signum));
 538 }
 539
 540 void
 541 signal_add(struct main_signal *ms)
 542 {
 543   struct main_context *m = main_current();
 544
 545   DBG("MAIN: Adding signal %p (sig=%d)", ms, ms->signum);
 546
 547   ASSERT(!signal_is_active(ms));
 548   // Adding at the head of the list is better if we are in the middle of walking the list.
 549   clist_add_head(&m->signal_list, &ms->n);
 550   if (m->sig_pipe_recv < 0)
 551     pipe_setup(m);
 552
 553   struct sigaction sa = {
 554     .sa_handler = signal_handler_pipe,
 555     .sa_flags = SA_NOCLDSTOP | SA_RESTART,
 556   };
 557   sigaction(ms->signum, &sa, NULL);
 558
 559   sigset_t ss;
 560   sigemptyset(&ss);
 561   sigaddset(&ss, ms->signum);
 562   THREAD_SIGMASK(SIG_UNBLOCK, &ss, NULL);
 563   sigaddset(&m->want_signals, ms->signum);
 564 }
 565
 566 static void
 567 signal_del_ctx(struct main_context *m, struct main_signal *ms)
 568 {
 569   // XXX: Can be called on a non-current context
 570   DBG("MAIN: Deleting signal %p (sig=%d)", ms, ms->signum);
 571
 572   if (!signal_is_active(ms))
 573     return;
 574   clist_unlink(&ms->n);
 575
 576   int another = 0;
 577   CLIST_FOR_EACH(struct main_signal *, s, m->signal_list)
 578     if (s->signum == ms->signum)
 579       another++;
 580   if (!another)
 581     {
 582       if (main_is_current(m))
 583         {
 584           sigset_t ss;
 585           sigemptyset(&ss);
 586           sigaddset(&ss, ms->signum);
 587           THREAD_SIGMASK(SIG_BLOCK, &ss, NULL);
 588         }
 589       sigdelset(&m->want_signals, ms->signum);
 590     }
 591 }
 592
 593 void
 594 signal_del(struct main_signal *ms)
 595 {
 596   signal_del_ctx(main_current(), ms);
 597 }
 598
 599 #ifdef CONFIG_UCW_DEBUG
 600
 601 void
 602 file_debug(struct main_file *fi)
 603 {
 604   msg(L_DEBUG, "\t\t%p (fd %d, rh %p, wh %p, data %p)",
 605     fi, fi->fd, fi->read_handler, fi->write_handler, fi->data);
 606 }
 607
 608 void
 609 hook_debug(struct main_hook *ho)
 610 {
 611   msg(L_DEBUG, "\t\t%p (func %p, data %p)", ho, ho->handler, ho->data);
 612 }
 613
 614 void
 615 signal_debug(struct main_signal *sg)
 616 {
 617   if (sg->signum < 0)
 618     msg(L_DEBUG, "\t\t(placeholder)");
 619   else
 620     msg(L_DEBUG, "\t\t%p (sig %d, func %p, data %p)", sg, sg->signum, sg->handler, sg->data);
 621 }
 622
 623 static void
 624 timer_debug_ctx(struct main_context *m, struct main_timer *tm)
 625 {
 626   msg(L_DEBUG, "\t\t%p (expires %lld, data %p)", tm, (long long)(tm->expires - m->now), tm->data);
 627 }
 628
 629 void
 630 timer_debug(struct main_timer *tm)
 631 {
 632   timer_debug_ctx(main_current(), tm);
 633 }
 634
 635 void
 636 process_debug(struct main_process *pr)
 637 {
 638   msg(L_DEBUG, "\t\t%p (pid %d, func %p, data %p)", pr, pr->pid, pr->handler, pr->data);
 639 }
 640
 641 void
 642 main_debug_context(struct main_context *m UNUSED)
 643 {
 644   msg(L_DEBUG, "### Main loop status on %lld", (long long) m->now);
 645   msg(L_DEBUG, "\tActive timers:");
 646   uns num_timers = count_timers(m);
 647   for (uns i = 1; i <= num_timers; i++)
 648     timer_debug(m->timer_table[i]);
 649   msg(L_DEBUG, "\tActive files:");
 650   CLIST_FOR_EACH(struct main_file *, fi, m->file_list)
 651     file_debug(fi);
 652   CLIST_FOR_EACH(struct main_file *, fi, m->file_active_list)
 653     file_debug(fi);
 654 #ifdef CONFIG_UCW_EPOLL
 655   CLIST_FOR_EACH(struct main_file *, fi, m->file_recalc_list)
 656     file_debug(fi);
 657 #endif
 658   msg(L_DEBUG, "\tActive hooks:");
 659   CLIST_FOR_EACH(struct main_hook *, ho, m->hook_done_list)
 660     hook_debug(ho);
 661   CLIST_FOR_EACH(struct main_hook *, ho, m->hook_list)
 662     hook_debug(ho);
 663   msg(L_DEBUG, "\tActive processes:");
 664   CLIST_FOR_EACH(struct main_process *, pr, m->process_list)
 665     process_debug(pr);
 666   msg(L_DEBUG, "\tActive signal catchers:");
 667   CLIST_FOR_EACH(struct main_signal *, sg, m->signal_list)
 668     signal_debug(sg);
 669 }
 670
 671 #else
 672
 673 // Stubs
 674 void file_debug(struct main_file *fi UNUSED) { }
 675 void hook_debug(struct main_hook *ho UNUSED) { }
 676 void signal_debug(struct main_signal *sg UNUSED) { }
 677 void timer_debug(struct main_timer *tm UNUSED) { }
 678 void process_debug(struct main_process *pr UNUSED) { }
 679 void main_debug_context(struct main_context *m UNUSED) { }
 680
 681 #endif
 682
 683 static void
 684 process_timers(struct main_context *m)
 685 {
 686   struct main_timer *tm;
 687   while (count_timers(m) && (tm = m->timer_table[1])->expires <= m->now)
 688     {
 689       DBG("MAIN: Timer %p expired at now-%lld", tm, (long long)(m->now - tm->expires));
 690       tm->handler(tm);
 691     }
 692 }
 693
 694 static enum main_hook_return
 695 process_hooks(struct main_context *m)
 696 {
 697   int hook_min = HOOK_RETRY;
 698   int hook_max = HOOK_SHUTDOWN;
 699   struct main_hook *ho;
 700
 701   while (ho = clist_remove_head(&m->hook_list))
 702     {
 703       clist_add_tail(&m->hook_done_list, &ho->n);
 704       DBG("MAIN: Hook %p", ho);
 705       int ret = ho->handler(ho);
 706       hook_min = MIN(hook_min, ret);
 707       hook_max = MAX(hook_max, ret);
 708     }
 709   clist_move(&m->hook_list, &m->hook_done_list);
 710   if (hook_min == HOOK_SHUTDOWN ||
 711     hook_min == HOOK_DONE && hook_max == HOOK_DONE ||
 712     m->shutdown)
 713     {
 714       DBG("MAIN: Shut down by %s", m->shutdown ? "main_shut_down" : "a hook");
 715       return HOOK_SHUTDOWN;
 716     }
 717   if (hook_max == HOOK_RETRY)
 718     return HOOK_RETRY;
 719   else
 720     return HOOK_IDLE;
 721 }
 722
 723 #ifdef CONFIG_UCW_EPOLL
 724
 725 static void
 726 recalc_files(struct main_context *m)
 727 {
 728   struct main_file *fi;
 729
 730   while (fi = clist_remove_head(&m->file_recalc_list))
 731     {
 732       struct epoll_event evt = {
 733         .events = file_want_events(fi),
 734         .data.ptr = fi,
 735       };
 736       if (evt.events != fi->last_want_events)
 737         {
 738           DBG("MAIN: Changing requested events for fd %d to %x", fi->fd, evt.events);
 739           fi->last_want_events = evt.events;
 740           if (epoll_ctl(main_current()->epoll_fd, EPOLL_CTL_MOD, fi->fd, &evt) < 0)
 741             die("epoll_ctl() failed: %m");
 742         }
 743       clist_add_tail(&m->file_list, &fi->n);
 744     }
 745 }
 746
 747 #else
 748
 749 static void
 750 rebuild_poll_table(struct main_context *m)
 751 {
 752   GARY_INIT_OR_RESIZE(m->poll_table, m->file_cnt);
 753   GARY_INIT_OR_RESIZE(m->poll_file_table, m->file_cnt);
 754   DBG("MAIN: Rebuilding poll table: %d entries", m->file_cnt);
 755
 756   struct pollfd *p = m->poll_table;
 757   struct main_file **pf = m->poll_file_table;
 758   CLIST_FOR_EACH(struct main_file *, fi, m->file_list)
 759     {
 760       p->fd = fi->fd;
 761       p->events = file_want_events(fi);
 762       fi->pollfd = p++;
 763       *pf++ = fi;
 764     }
 765   m->poll_table_obsolete = 0;
 766 }
 767
 768 #endif
 769
 770 void
 771 main_loop(void)
 772 {
 773   DBG("MAIN: Entering main_loop");
 774   struct main_context *m = main_current();
 775
 776   main_get_time_ctx(m);
 777   m->shutdown = 0;
 778
 779   for (;;)
 780     {
 781       timestamp_t wake = m->now + 1000000000;
 782       process_timers(m);
 783       switch (process_hooks(m))
 784         {
 785         case HOOK_SHUTDOWN:
 786           return;
 787         case HOOK_RETRY:
 788           wake = 0;
 789           break;
 790         default: ;
 791         }
 792
 793       int timeout = 0;
 794       if (!m->single_step)
 795         {
 796           if (count_timers(m))
 797             wake = MIN(wake, m->timer_table[1]->expires);
 798           main_get_time_ctx(m);
 799           timeout = ((wake > m->now) ? wake - m->now : 0);
 800         }
 801
 802 #ifdef CONFIG_UCW_EPOLL
 803       recalc_files(m);
 804       DBG("MAIN: Epoll for %d fds and timeout %d ms", m->file_cnt, timeout);
 805       int n = epoll_wait(m->epoll_fd, m->epoll_events, EPOLL_BUF_SIZE, timeout);
 806 #else
 807       if (m->poll_table_obsolete)
 808         rebuild_poll_table(m);
 809       DBG("MAIN: Poll for %d fds and timeout %d ms", m->file_cnt, timeout);
 810       int n = poll(m->poll_table, m->file_cnt, timeout);
 811 #endif
 812
 813       DBG("\t-> %d events", n);
 814       if (n < 0 && errno != EAGAIN && errno != EINTR)
 815         die("(e)poll failed: %m");
 816       timestamp_t old_now = m->now;
 817       main_get_time_ctx(m);
 818       m->idle_time += m->now - old_now;
 819
 820       if (n <= 0)
 821         {
 822           if (m->single_step)
 823             return;
 824           else
 825             continue;
 826         }
 827
 828       // Relink all files with a pending event to file_active_list
 829 #ifdef CONFIG_UCW_EPOLL
 830       for (int i=0; i<n; i++)
 831         {
 832           struct epoll_event *e = &m->epoll_events[i];
 833           struct main_file *fi = e->data.ptr;
 834           clist_remove(&fi->n);
 835           clist_add_tail(&m->file_active_list, &fi->n);
 836           fi->events = e->events;
 837         }
 838 #else
 839       struct pollfd *p = m->poll_table;
 840       struct main_file **pf = m->poll_file_table;
 841       for (uns i=0; i < m->file_cnt; i++)
 842         if (p[i].revents)
 843           {
 844             struct main_file *fi = pf[i];
 845             clist_remove(&fi->n);
 846             clist_add_tail(&m->file_active_list, &fi->n);
 847             fi->events = p[i].revents;
 848           }
 849 #endif
 850
 851       /*
 852        *  Process the buffered file events. This is pretty tricky, since
 853        *  user callbacks can modify the file structure or even destroy it.
 854        *  In such cases, we detect that the structure was relinked and stop
 855        *  processing its events, leaving them for the next iteration of the
 856        *  main loop.
 857        */
 858       struct main_file *fi;
 859       while (fi = clist_head(&m->file_active_list))
 860         {
 861           if (fi->read_handler && (fi->events & (POLLIN | POLLHUP)))
 862             {
 863               fi->events &= ~(POLLIN | POLLHUP);
 864               do
 865                 DBG("MAIN: Read event on fd %d", fi->fd);
 866               while (fi->read_handler && fi->read_handler(fi));
 867               continue;
 868             }
 869           if (fi->write_handler && (fi->events & (POLLOUT | POLLHUP | POLLERR)))
 870             {
 871               fi->events &= ~(POLLOUT | POLLHUP | POLLERR);
 872               do
 873                 DBG("MAIN: Write event on fd %d", fi->fd);
 874               while (fi->write_handler && fi->write_handler(fi));
 875               continue;
 876             }
 877           clist_remove(&fi->n);
 878           clist_add_tail(&m->file_list, &fi->n);
 879         }
 880     }
 881 }
 882
 883 void
 884 main_step(void)
 885 {
 886   struct main_context *m = main_current();
 887   m->single_step = 1;
 888   main_loop();
 889   m->single_step = 0;
 890 }