bin/lib

   1 # The Evaluator -- Shell Function Library
   2 # (c) 2001--2007 Martin Mares <mj@ucw.cz>
   3
   4 # General settings
   5 shopt -s dotglob
   6
   7 # Logging functions.
   8 # File handles used: fd1=log, fd2=progress
   9
  10 function log-init
  11 {
  12         exec >>$TDIR/log
  13         HAVE_LOG=1
  14 }
  15
  16 function pstart
  17 {
  18         echo >&2 -n "$@"
  19 }
  20
  21 function pcont
  22 {
  23         echo >&2 -n "$@"
  24 }
  25
  26 function pend
  27 {
  28         echo >&2 "$@"
  29 }
  30
  31 function die
  32 {
  33         # Report an internal error
  34         echo >&2 "$@"
  35         [ -n "$HAVE_LOG" ] && echo "Fatal error: $@"
  36         exit 2
  37 }
  38
  39 function fatal
  40 {
  41         # Report a fatal error in the program being tested
  42         echo >&2 "$@"
  43         [ -n "$HAVE_LOG" ] && echo "Fatal error: $@"
  44         exit 1
  45 }
  46
  47 function try-ln
  48 {
  49         ln $1 $2 2>/dev/null || cp $1 $2
  50 }
  51
  52 # Sandbox subroutines
  53
  54 function box-init
  55 {
  56         pstart "Preparing sandbox... "
  57         if [ -z "$TEST_USER" -o "$TEST_USER" == $EVAL_USER ] ; then
  58                 pcont "running locally (INSECURE), "
  59                 TEST_USER=$EVAL_USER
  60                 BOXDIR=box
  61                 BOXCMD=bin/box
  62                 mkdir -p box
  63         else
  64                 pcont "used account $TEST_USER, "
  65                 BOXDIR=$MO_ROOT/eval/$TEST_USER
  66                 BOXCMD=bin/box-$TEST_USER
  67         fi
  68         [ -d $BOXDIR -a -f $BOXCMD ] || die "Sandbox set up incorrectly"
  69         BOXCMD="$BOXCMD -c$BOXDIR"
  70         echo "Sandbox directory: $BOXDIR"
  71         echo "Sandbox command: $BOXCMD"
  72         box-clean
  73         pend "OK"
  74 }
  75
  76 function box-clean
  77 {
  78         [ -n "$BOXCMD" ] || die "box-init not called"
  79         rm -rf $BOXDIR/*
  80 }
  81
  82 # Initialization of testing directories
  83
  84 function dir-init
  85 {
  86         pstart "Initializing... "
  87         HDIR=.
  88         PDIR=problems/$PROBLEM
  89         SDIR=solutions/$CONTESTANT/$PROBLEM
  90         TDIR=testing/$CONTESTANT/$PROBLEM
  91         TMPDIR=tmp
  92         [ -d $PDIR ] || die "Problem $PROBLEM not known"
  93         [ -d $SDIR ] || fatal "Solution of $PROBLEM not found"
  94         mkdir -p $TDIR $TMPDIR
  95         rm -rf $TDIR $TMPDIR
  96         mkdir -p $TDIR $TMPDIR
  97         cat >$TDIR/log <<EOF
  98 Testing solution of $PROBLEM by $CONTESTANT
  99 Test started at `date`
 100 Contestant's solution directory: $SDIR
 101 Problem directory: $PDIR
 102 Testing directory: $TDIR
 103 EOF
 104         pend "OK"
 105 }
 106
 107 # Locate source file.
 108 # If no parameter is given, locate it in SDIR and return name as SRCN and extension as SRCEXT
 109 # Or a file name can be given and then SDIR, SRCN and SRCEXT are set.
 110 # Beware, SDIR and SRCN can contain spaces and other strange user-supplied characters.
 111
 112 function locate-source
 113 {
 114         pstart "Finding source... "
 115         local SBASE
 116         if [ -n "$1" ] ; then
 117                 SDIR=`dirname "$1"`
 118                 local S=`basename "$1"`
 119                 SBASE=$(echo "$S" | sed 's/\.\([^.]\+\)//')
 120                 SRCEXT=$(echo "$S" | sed '/\./!d; s/.*\.\([^.]\+\)/\1/')
 121                 if [ -n "$SRCEXT" ] ; then
 122                         # Full name given, so just check the extension and existence
 123                         SRCN="$S"
 124                         [ -f "$SDIR/$SRCN" ] || die "Cannot find source file $SDIR/$SRCN"
 125                         SRCEXT_OK=
 126                         for a in $EXTENSIONS ; do
 127                                 if [ $a == $SRCEXT ] ; then
 128                                         pend $SDIR/$SRCN
 129                                         echo "Explicitly set source file: $SDIR/$SRCN"
 130                                         return 0
 131                                 fi
 132                         done
 133                         die "Unknown extension .$SRCEXT"
 134                 fi
 135         else
 136                 SBASE=$PROBLEM
 137         fi
 138         for a in $EXTENSIONS ; do
 139                 if [ -f "$SDIR/$SBASE.$a" ] ; then
 140                         [ -z "$SRCN" ] || die "Multiple source files found: $SDIR/$PROBLEM.$a and $SDIR/$SRCN. Please fix."
 141                         SRCN="$SBASE.$a"
 142                         SRCEXT=$a
 143                 fi
 144         done
 145         [ -n "$SRCN" ] || fatal "NOT FOUND"
 146         pend $SRCN
 147         echo "Found source file: $SDIR/$SRCN"
 148 }
 149
 150 # Compilation (compile SDIR/SRCN with PDIR/COMP_EXTRAS to EXE=TDIR/PROBLEM)
 151
 152 function compile
 153 {
 154         pstart "Compiling... "
 155         # Beware, the original SRCN can be a strange user-supplied name
 156         SRC=$PROBLEM.$SRCEXT
 157         cp "$SDIR/$SRCN" $TDIR/$SRC
 158         if [ -n "$COMP_EXTRAS" ] ; then
 159                 echo "Extras: $COMP_EXTRAS"
 160                 for a in $COMP_EXTRAS ; do cp $PDIR/$a $TDIR/ ; done
 161         fi
 162         box-clean
 163         for a in $SRC $COMP_EXTRAS ; do cp $TDIR/$a $BOXDIR/ ; done
 164         EXE=$PROBLEM
 165         CCMD=COMP_$SRCEXT
 166         CCMD=`eval echo ${!CCMD}`
 167         COMP_SANDBOX_OPTS=`eval echo $COMP_SANDBOX_OPTS`
 168         echo "Compiler command: $CCMD"
 169         echo "Compiler sandbox options: $COMP_SANDBOX_OPTS"
 170         eval $COMP_SANDBOX_INIT
 171
 172         echo "Compiler input files:"
 173         ls -Al $BOXDIR
 174         echo "Compiler output:"
 175         if ! $BOXCMD $COMP_SANDBOX_OPTS -- $CCMD 2>$TDIR/compile.out ; then
 176                 COMPILE_MSG="`cat $TDIR/compile.out`"
 177                 pend "FAILED: $COMPILE_MSG"
 178                 echo "$COMPILE_MSG"
 179                 return 1
 180         fi
 181         cat $TDIR/compile.out
 182         rm $TDIR/compile.out
 183         echo "Compiler output files:"
 184         ls -Al $BOXDIR
 185         if [ ! -f $BOXDIR/$PROBLEM ] ; then
 186                 pend "FAILED: Missing executable file"
 187                 echo "Missing executable file"
 188                 return 1
 189         fi
 190         EXE=$TDIR/$PROBLEM
 191         cp -a $BOXDIR/$PROBLEM $EXE
 192         echo "Compiled OK, result copied to $EXE"
 193         pend "OK"
 194 }
 195
 196 # Running of test program according to current task type (returns exit code and TEST_MSG)
 197
 198 function test-run
 199 {
 200         test-run-$TASK_TYPE
 201 }
 202
 203 function test-result
 204 {
 205         P=$1
 206         M=$2
 207         if [ -s $TDIR/$TEST.pts ] ; then
 208                 P=`cat $TDIR/$TEST.pts`
 209                 rm $TDIR/$TEST.pts
 210         fi
 211
 212         # Translate signal numbers to readable strings
 213         SG=${M#Caught fatal signal }
 214         if [ "$SG" != "$M" ] ; then
 215                 SG=`perl -MConfig -e '@s=split / /,$Config{sig_name}; print $s[$ARGV[0]]' $SG`
 216                 [ -z "$SG" ] || M="$M (SIG$SG)"
 217         fi
 218
 219         # Translate Free Pascal runtime errors to readable strings
 220         RE=${M#Exited with error status }
 221         if [ "$FREE_PASCAL_RTE" == 1 -a "$RE" != "$M" ] ; then
 222                 N="Runtime error $RE"
 223                 case "$RE" in
 224                         200)    M="$N: Division by zero" ;;
 225                         201)    M="$N: Range check error" ;;
 226                         202)    M="$N: Stack overflow" ;;
 227                         203)    M="$N: Heap overflow" ;;
 228                         205)    M="$N: Floating point overflow" ;;
 229                         215)    M="$N: Arithmetic overflow" ;;
 230                         216)    M="$N: Segmentation fault" ;;
 231                         ???)    M="$N" ;;
 232                 esac
 233         fi
 234
 235         echo "Verdict: $M"
 236         echo "Points: $P"
 237         test-verdict $P "$M"
 238 }
 239
 240 function test-prolog
 241 {
 242         pcont "<init> "
 243         box-clean
 244         echo "Executable file: $TDIR/$PROBLEM"
 245         if [ ! -x $TDIR/$PROBLEM ] ; then
 246                 test-result 0 "Compile error"
 247         fi
 248         cp $TDIR/$PROBLEM $BOXDIR/
 249         BOX_EXTRAS=
 250         IN_TYPE=${IN_TYPE:-$IO_TYPE}
 251         OUT_TYPE=${OUT_TYPE:-$IO_TYPE}
 252         case $IN_TYPE in
 253                 file)   echo "Input file: $PROBLEM.in (from $PDIR/$TEST.in)"
 254                         try-ln $PDIR/$TEST.in $TDIR/$TEST.in
 255                         cp $PDIR/$TEST.in $BOXDIR/$PROBLEM.in
 256                         [ $TASK_TYPE == interactive ] || BOX_EXTRAS="$BOX_EXTRAS -i/dev/null"
 257                         ;;
 258                 stdio)  echo "Input file: <stdin> (from $PDIR/$TEST.in)"
 259                         try-ln $PDIR/$TEST.in $TDIR/$TEST.in
 260                         cp $PDIR/$TEST.in $BOXDIR/.stdin
 261                         BOX_EXTRAS="$BOX_EXTRAS -i.stdin"
 262                         ;;
 263                 none)   echo "Input file: <none>"
 264                         ;;
 265                 *)      die "Unknown IN_TYPE $IN_TYPE"
 266                         ;;
 267         esac
 268         if [ -n "$EV_PEDANT" -a $IN_TYPE != none ] ; then
 269                 pcont "<pedant> "
 270                 bin/pedant <$TDIR/$TEST.in | tr '\n' ' ' >&2
 271         fi
 272         case $OUT_TYPE in
 273                 file)   echo "Output file: $PROBLEM.out"
 274                         [ $TASK_TYPE == interactive ] || BOX_EXTRAS="$BOX_EXTRAS -o/dev/null"
 275                         ;;
 276                 stdio)  echo "Output file: <stdout>"
 277                         BOX_EXTRAS="$BOX_EXTRAS -o.stdout"
 278                         ;;
 279                 none)   echo "Output file: <none>"
 280                         ;;
 281                 *)      die "Unknown OUT_TYPE $OUT_TYPE"
 282                         ;;
 283         esac
 284         echo "Timeout: $TIME_LIMIT s"
 285         echo "Memory: $MEM_LIMIT KB"
 286         eval $SANDBOX_INIT
 287         echo "Sandbox contents before start:"
 288         ls -Al $BOXDIR
 289 }
 290
 291 function test-epilog
 292 {
 293         echo "Sandbox contents after exit:"
 294         ls -Al $BOXDIR
 295         case ${OUT_TYPE:-$IO_TYPE} in
 296                 file)   [ -f $BOXDIR/$PROBLEM.out ] || test-result 0 "No output file"
 297                         cp $BOXDIR/$PROBLEM.out $TDIR/$TEST.out
 298                         ;;
 299                 stdio)  [ -f $BOXDIR/.stdout ] || test-result 0 "No output file"
 300                         cp $BOXDIR/.stdout $TDIR/$TEST.out
 301                         ;;
 302         esac
 303 }
 304
 305 # Running of test program with file input/output
 306
 307 function test-run-file
 308 {
 309         test-prolog
 310         pcont "<run> "
 311         BOXOPTS="`eval echo $TEST_SANDBOX_OPTS`$BOX_EXTRAS"
 312         echo "Sandbox options: $BOXOPTS"
 313         if ! $BOXCMD $BOXOPTS -- ./$PROBLEM 2>$TMPDIR/exec.out ; then
 314                 cat $TMPDIR/exec.out
 315                 MSG=`tail -1 $TMPDIR/exec.out`
 316                 test-result 0 "$MSG"
 317         fi
 318         cat $TMPDIR/exec.out
 319         test-epilog
 320 }
 321
 322 # Running of interactive test programs
 323
 324 function test-run-interactive
 325 {
 326         test-prolog
 327         pcont "<run> "
 328         BOXOPTS="`eval echo $TEST_SANDBOX_OPTS`$BOX_EXTRAS"
 329         echo "Sandbox options: $BOXOPTS"
 330         ICCMD=`eval echo $IA_CHECK`
 331         echo "Interactive checker: $ICCMD"
 332         if ! $HDIR/bin/iwrapper $BOXCMD $BOXOPTS -- ./$PROBLEM @@ $ICCMD 2>$TMPDIR/exec.out ; then
 333                 cat $TMPDIR/exec.out
 334                 MSG="`head -1 $TMPDIR/exec.out`"
 335                 test-result 0 "$MSG"
 336         fi
 337         cat $TMPDIR/exec.out
 338         test-epilog
 339 }
 340
 341 # "Running" of open-data problems
 342
 343 function test-run-open-data
 344 {
 345         [ -f $SDIR/$TEST.out ] || test-result 0 "No solution"
 346         ln $SDIR/$TEST.out $TDIR/$TEST.out
 347 }
 348
 349 # Syntax checks
 350
 351 function syntax-check
 352 {
 353         [ -n "$SYNTAX_CHECK" ] || return 0
 354         [ -z "$EV_NOCHECK" ] || return 0
 355         pcont "<syntax> "
 356         SCHECK=`eval echo $SYNTAX_CHECK`
 357         echo "Syntax check command: $SCHECK"
 358         if ! eval $SCHECK 2>$TMPDIR/exec.out ; then
 359                 cat $TMPDIR/exec.out
 360                 MSG=`tail -1 $TMPDIR/exec.out`
 361                 if [ -z "$MSG" ] ; then MSG="Wrong syntax" ; fi
 362                 test-result 0 "$MSG"
 363         fi
 364         cat $TMPDIR/exec.out
 365 }
 366
 367 # Output checks
 368
 369 function output-check
 370 {
 371         MSG=
 372         if [ -n "$OUTPUT_CHECK" -a "$OUT_TYPE" != none -a -z "$EV_NOCHECK" ] ; then
 373                 pcont "<check> "
 374                 [ -f $PDIR/$TEST.out ] && ln $PDIR/$TEST.out $TDIR/$TEST.ok
 375                 OCHECK=`eval echo $OUTPUT_CHECK`
 376                 echo "Output check command: $OCHECK"
 377                 if ! eval $OCHECK 2>$TMPDIR/exec.out ; then
 378                         cat $TMPDIR/exec.out
 379                         MSG=`tail -1 $TMPDIR/exec.out`
 380                         if [ -z "$MSG" ] ; then MSG="Wrong answer" ; fi
 381                         test-result 0 "$MSG"
 382                 fi
 383                 cat $TMPDIR/exec.out
 384                 MSG=`tail -1 $TMPDIR/exec.out`
 385         fi
 386         if [ -z "$MSG" ] ; then MSG="OK" ; fi
 387         test-result $POINTS_PER_TEST "$MSG"
 388 }
 389
 390 # Setup of public commands
 391
 392 function public-setup
 393 {
 394         HDIR=$MO_ROOT
 395         PDIR=$MO_ROOT/problems/$PROBLEM
 396         SDIR=.
 397         TDIR=~/.test
 398         TMPDIR=~/.test
 399         [ -d $PDIR ] || die "Unknown problem $PROBLEM"
 400
 401         pstart "Initializing... "
 402         mkdir -p $TDIR
 403         rm -rf $TDIR/*
 404         BOXDIR=~/.box
 405         mkdir -p $BOXDIR
 406         rm -rf $BOXDIR/*
 407         BOXCMD="$MO_ROOT/bin/box -c$BOXDIR"
 408         exec >check-log
 409         pend "OK  (see 'check-log' for details)"
 410 }
 411
 412 # Locate output of open data problem, test case TEST
 413 # Beware, SDIR and SRCN can contain spaces and other strange user-supplied characters.
 414
 415 function open-locate
 416 {
 417         [ -f $PDIR/$TEST.in ] || die "Unknown test $TEST"
 418         if [ -n "$1" ] ; then
 419                 SDIR=`dirname "$1"`
 420                 SRCN=`basename "$1"`
 421         else
 422                 SRCN=$SDIR/$PROBLEM$TEST.out
 423         fi
 424         [ -f "$SDIR/$SRCN" ] || fatal "Output file $SRCN not found"
 425 }