options.cpp

   1 #include <ctime>
   2 #include <iomanip>
   3 #include <iostream>
   4 #include <sstream>
   5 #include <stack>
   6 #include <unistd.h>             // getopt
   7 #include <xbt/log.h>
   8
   9 XBT_LOG_EXTERNAL_DEFAULT_CATEGORY(main);
  10
  11 #include "deployment.h"
  12 #include "process.h"
  13 #include "loba_2besteffort.h"
  14 #include "loba_besteffort.h"
  15 #include "loba_bulk.h"
  16 #include "loba_fairstrategy.h"
  17 #include "loba_lln.h"
  18 #include "loba_makhoul.h"
  19 #include "loba_makhoul2.h"
  20 #include "loba_makhoul3.h"
  21 #include "loba_simple.h"
  22 #include "misc.h"
  23
  24 #include "options.h"
  25
  26 #define DATA_DESCR_WIDTH 42
  27
  28 namespace opt {
  29
  30     // Constants
  31
  32     // A sum of loads if considered null if it is less than
  33     // load_ratio_threshold percent of the sum of loads at init.
  34     const double load_ratio_threshold = 1e-4;
  35
  36     // Global options
  37     std::string program_name;
  38     int help_requested = 0;
  39     bool version_requested = false;
  40     int option_x = 0;           // hidden option (int)
  41     double option_X = 0.0;      // hidden option (double)
  42
  43     // Simulation parameters
  44     int log_rate = 1;
  45     volatile std::sig_atomic_t exit_request = 0;
  46
  47     // Platform and deployment
  48     std::string platform_file;
  49     std::string deployment_file;
  50
  51     // Automatic deployment
  52     namespace auto_depl {
  53         bool        enabled = false;
  54         std::string topology("clique");
  55         unsigned    nhosts = 0;
  56         double      load = -1.0;
  57         bool        random_distribution = false;
  58         unsigned long random_seed = 0;
  59     }
  60
  61     // Load balancing algorithm
  62     std::string loba_algo("simple");
  63     bool bookkeeping = false;
  64     bool egocentric = false;
  65     double min_lb_iter_duration = 1.0;          // fixme: find better defaults
  66     double min_transfer_amount = 0.0;
  67     double max_transfer_amount = 0.0;
  68     bool integer_transfer = false;
  69     unsigned loba_best_divisor = 1;
  70
  71     // Application parameters
  72     cost_func comp_cost("1e9, 0");              // fixme: find better defaults
  73     cost_func comm_cost("1e6, 0");              // fixme: find better defaults
  74     double min_comp_iter_duration = 1.0;        // fixme: find better defaults
  75     unsigned comp_iter_delay = 0;               // fixme: find better defaults
  76     double comp_time_delay = 0.0;               // fixme: find better defaults
  77
  78     // Parameters for the end of the simulation
  79     unsigned lb_maxiter = 0;
  80     unsigned comp_maxiter = 0;
  81     double time_limit = 0;
  82     bool exit_on_close = true;
  83
  84     // Named parameters lists
  85     loba_algorithms_type loba_algorithms;
  86     loba_algorithms_type::loba_algorithms_type()
  87     {
  88         NOL_INSERT("2besteffort", "balance with best effort strategy (take #2)",
  89                    loba_2besteffort);
  90         NOL_INSERT("besteffort", "balance with best effort strategy",
  91                    loba_besteffort);
  92         NOL_INSERT("bulk", "a multi-load-units assignation rule without ordering...",
  93                    loba_bulk);
  94         NOL_INSERT("fairstrategy", "balance with fair strategy",
  95                    loba_fairstrategy);
  96         NOL_INSERT("lln", "balance with less loaded neighbors without ordering-bulk method",
  97                    loba_lln);
  98         NOL_INSERT("makhoul", "balance with Makhoul's PhD algorithm",
  99                    loba_makhoul);
 100         NOL_INSERT("makhoul2", "balance with Makhoul's source code",
 101                    loba_makhoul2);
 102         NOL_INSERT("makhoul3", "variation on Makhoul's algorithm",
 103                    loba_makhoul3);
 104         NOL_INSERT("none", "no load-balancing (for testing only)",
 105                    process);
 106         NOL_INSERT("simple", "balance with least loaded neighbor",
 107                    loba_simple);
 108     }
 109
 110     topologies_type topologies;
 111     topologies_type::topologies_type()
 112     {
 113         NOL_INSERT("btree", "binary tree topology, initial load at root",
 114                    deployment_btree);
 115         NOL_INSERT("clique", "all connected topology", deployment_clique);
 116         NOL_INSERT("hcube", "hypercube topology", deployment_hcube);
 117         NOL_INSERT("line", "line topology, initial load at one end",
 118                    deployment_line);
 119         NOL_INSERT("ring", "ring topology", deployment_ring);
 120         NOL_INSERT("star", "star topology, initial load at center",
 121                    deployment_star);
 122         NOL_INSERT("torus", "torus topology", deployment_torus);
 123     }
 124
 125 } // namespace opt
 126
 127 namespace {
 128
 129     // local helper class
 130     class opt_helper {
 131     public:
 132         template <typename T>
 133         static bool parse_arg(char opt, const char *arg, T& val);
 134         static const char* on_off(bool b);
 135         const char* descr(const char* str);
 136         template <typename T>
 137         const char* val_or_string(const T& val, const char* str,
 138                                   const T& deflt = 0);
 139         template <typename T>
 140         static bool nol_find_prefix(const T& nol, const char* descr,
 141                                     std::string& name);
 142
 143     private:
 144         std::string descr_str;
 145         std::string val_or_string_str;
 146     };
 147
 148 } // namespace
 149
 150 template <typename T>
 151 bool opt_helper::parse_arg(char opt, const char *arg, T& val)
 152 {
 153     std::istringstream str(arg);
 154     bool result = (str >> val) && str.eof();
 155     if (!result)
 156         XBT_ERROR("invalid argument for option '-%c' -- \"%s\"", opt, arg);
 157     return result;
 158 }
 159
 160 const char* opt_helper::on_off(bool b)
 161 {
 162     return b ? "on" : "off";
 163 }
 164
 165 const char* opt_helper::descr(const char* str)
 166 {
 167     std::string& res = descr_str;
 168     res = str;
 169     res.resize(DATA_DESCR_WIDTH, '.');
 170     return res.c_str();
 171 }
 172
 173 template <typename T>
 174 const char* opt_helper::val_or_string(const T& val, const char* str,
 175                                       const T& deflt)
 176 {
 177     std::string& res = val_or_string_str;
 178     if (val != deflt) {
 179         std::ostringstream oss;
 180         oss << val;
 181         res = oss.str();
 182     } else {
 183         res = str;
 184     }
 185     return res.c_str();
 186 }
 187
 188 template <typename T>
 189 bool opt_helper::nol_find_prefix(const T& nol, const char* descr,
 190                                  std::string& name)
 191 {
 192     bool result = nol.exists(name);
 193     if (!result) {
 194         std::stack<std::string> candidates;
 195         for (typename T::iterator it = nol.begin() ; it != nol.end() ; ++it) {
 196             const std::string& fullname = nol.get_name(it);
 197             if (fullname.compare(0, name.length(), name) == 0)
 198                 candidates.push(fullname);
 199         }
 200         switch (candidates.size()) {
 201         case 0:
 202             XBT_ERROR("unknownw %s -- %s", descr, name.c_str());
 203             break;
 204         case 1:
 205             name = candidates.top();
 206             candidates.pop();
 207             result = true;
 208             XBT_DEBUG("infered %s -- %s", descr, name.c_str());
 209             break;
 210         default:
 211             XBT_ERROR("ambiguous %s -- %s", descr, name.c_str());
 212             while (!candidates.empty()) {
 213                 XBT_ERROR("  candidates are -- %s", candidates.top().c_str());
 214                 candidates.pop();
 215             }
 216             break;
 217         }
 218     }
 219     return result;
 220 }
 221
 222 bool opt::parse_args(int* argc, char* argv[])
 223 {
 224     bool result = true;
 225
 226     opt::program_name = argv[0];
 227     opt::program_name.erase(0, 1 + opt::program_name.find_last_of('/'));
 228
 229 #define PARSE_ARG(x) result = opt_helper::parse_arg(c, optarg, (x)) && result
 230
 231     int c;
 232     opterr = 0;
 233     while ((c = getopt(*argc, argv,
 234                        "a:bc:C:d:D:eEhi:I:k:l:L:m:M:N:r:Rs:S:t:T:vVx:X:Z"))
 235            != -1) {
 236         switch (c) {
 237         case 'a':
 238             opt::loba_algo = optarg;
 239             result = opt_helper::nol_find_prefix(opt::loba_algorithms,
 240                                                  "load balancing algorithm",
 241                                                  opt::loba_algo)
 242                 && result;
 243             break;
 244         case 'b':
 245             opt::bookkeeping = !opt::bookkeeping;
 246             break;
 247         case 'c':
 248             try {
 249                 opt::comp_cost = cost_func(optarg);
 250             } catch (...) {
 251                 XBT_ERROR("invalid argument for option '-%c' -- \"%s\"",
 252                           c, optarg);
 253                 result = false;
 254             }
 255             break;
 256         case 'C':
 257             try {
 258                 opt::comm_cost = cost_func(optarg);
 259             } catch (...) {
 260                 XBT_ERROR("invalid argument for option '-%c' -- \"%s\"",
 261                           c, optarg);
 262                 result = false;
 263             }
 264             break;
 265         case 'd':
 266             PARSE_ARG(opt::comp_iter_delay);
 267             break;
 268         case 'D':
 269             PARSE_ARG(opt::comp_time_delay);
 270             break;
 271         case 'e':
 272             opt::exit_on_close = !opt::exit_on_close;
 273             break;
 274         case 'E':
 275             opt::egocentric = !opt::egocentric;
 276             break;
 277         case 'h':
 278             opt::help_requested++;
 279             break;
 280         case 'i':
 281             PARSE_ARG(opt::lb_maxiter);
 282             break;
 283         case 'k':
 284             PARSE_ARG(opt::loba_best_divisor);
 285             break;
 286         case 'I':
 287             PARSE_ARG(opt::comp_maxiter);
 288             break;
 289         case 'l':
 290             PARSE_ARG(opt::log_rate);
 291             break;
 292         case 'L':
 293             PARSE_ARG(opt::auto_depl::load);
 294             break;
 295         case 'm':
 296             PARSE_ARG(opt::min_transfer_amount);
 297             break;
 298         case 'M':
 299             PARSE_ARG(opt::max_transfer_amount);
 300             break;
 301         case 'N':
 302             PARSE_ARG(opt::auto_depl::nhosts);
 303             break;
 304         case 'r':
 305             PARSE_ARG(opt::auto_depl::random_seed);
 306             break;
 307         case 'R':
 308             opt::auto_depl::random_distribution =
 309                 !opt::auto_depl::random_distribution;
 310             break;
 311         case 's':
 312             PARSE_ARG(opt::min_lb_iter_duration);
 313             break;
 314         case 'S':
 315             PARSE_ARG(opt::min_comp_iter_duration);
 316             break;
 317         case 't':
 318             PARSE_ARG(opt::time_limit);
 319             break;
 320         case 'T':
 321             opt::auto_depl::topology = optarg;
 322             result = opt_helper::nol_find_prefix(opt::topologies, "topology",
 323                                                  opt::auto_depl::topology)
 324                 && result;
 325             break;
 326         case 'v':
 327             // nothing to do: this option is checked at the very
 328             // beginning of main()
 329             break;
 330         case 'V':
 331             opt::version_requested = true;
 332             break;
 333         case 'x':
 334             PARSE_ARG(opt::option_x);
 335             XBT_WARN("option_x set to %d", opt::option_x);
 336             break;
 337         case 'X':
 338             PARSE_ARG(opt::option_X);
 339             XBT_WARN("option_X set to %g", opt::option_X);
 340             break;
 341         case 'Z':
 342             opt::integer_transfer = !opt::integer_transfer;
 343             break;
 344         case '?':
 345             XBT_ERROR("invalid option -- '%c'", optopt);
 346             result = false;
 347             break;
 348         }
 349     }
 350
 351 #undef PARSE_ARG
 352
 353     if (opt::option_x) {        // FIXME: remove this one day...
 354         opt::loba_best_divisor = opt::option_x;
 355         XBT_WARN("divisor for algorithms *best* set from option -x (%d => %u),"
 356                  " use -k instead",
 357                  opt::option_x, opt::loba_best_divisor);
 358     }
 359
 360     if (opt::version_requested || opt::help_requested)
 361         return 1;
 362
 363     if (optind < *argc) {
 364         opt::platform_file = argv[optind++];
 365     } else {
 366         XBT_ERROR("missing parameter -- <plaform_file>");
 367         result = false;
 368     }
 369     if (optind < *argc) {
 370         opt::deployment_file = argv[optind++];
 371     }
 372     opt::auto_depl::enabled = opt::deployment_file.empty();
 373
 374     while (optind < *argc) {
 375         XBT_ERROR("unused parameter -- \"%s\"", argv[optind++]);
 376         result = false;
 377     }
 378
 379     if (opt::max_transfer_amount &&
 380         opt::max_transfer_amount < opt::min_transfer_amount) {
 381         XBT_ERROR("max. data transfer amount (%g) <"
 382                   " min. data transfer amount (%g)",
 383                   opt::max_transfer_amount, opt::min_transfer_amount);
 384         result = false;
 385     }
 386
 387     if (opt::loba_best_divisor <= 0) {
 388         XBT_ERROR("divisor for algorithms *best* (%u) should be positive",
 389                   opt::loba_best_divisor);
 390         result = false;
 391     }
 392
 393     if (!opt::auto_depl::random_seed)
 394         opt::auto_depl::random_seed = time(NULL);
 395
 396     return result;
 397 }
 398
 399 void opt::print()
 400 {
 401     opt_helper h;
 402
 403 #define DESCR(description, format, value) \
 404     XBT_INFO("| %s: " format, h.descr(description), value)
 405
 406     XBT_INFO(",----[ Simulation parameters ]");
 407     DESCR("log rate", "%s", h.val_or_string(log_rate, "disabled"));
 408     DESCR("platform file", "\"%s\"", platform_file.c_str());
 409     if (auto_depl::enabled) {
 410         XBT_INFO("| automatic deployment enabled");
 411         DESCR("- topology", "%s", auto_depl::topology.c_str());
 412         DESCR("- number of hosts", "%s", h.val_or_string(auto_depl::nhosts,
 413                                                          "auto"));
 414         if (auto_depl::load < 0.0)
 415             DESCR("- initial load (average)", "%g", -auto_depl::load);
 416         else
 417             DESCR("- initial load (total)", "%g", auto_depl::load);
 418         DESCR("- random initial load distribution", "%s",
 419               h.on_off(auto_depl::random_distribution));
 420         DESCR("- random seed", "%s", // NOTE: cannot be 0 here anymore
 421               h.val_or_string(auto_depl::random_seed, "constant random", 1UL));
 422     } else {
 423         DESCR("deployment file", "\"%s\"", deployment_file.c_str());
 424     }
 425     DESCR("load balancing algorithm", "%s", loba_algo.c_str());
 426     DESCR("bookkeeping", "%s", h.on_off(bookkeeping));
 427     DESCR("egocentric mode", "%s", h.on_off(egocentric));
 428     DESCR("minimum duration between lb. iterations", "%g",
 429           min_lb_iter_duration);
 430     DESCR("computation cost factors", "[%s]", comp_cost.to_string().c_str());
 431     DESCR("communication cost factors", "[%s]", comm_cost.to_string().c_str());
 432     DESCR("minimum data transfer amount", "%g", min_transfer_amount);
 433     DESCR("maximum data transfer amount", "%s",
 434           h.val_or_string(max_transfer_amount, "no limit"));
 435     DESCR("only transfer integer data shares", "%s",
 436           h.on_off(integer_transfer));
 437     DESCR("divisor for algorithms *best*", "%u", loba_best_divisor);
 438     DESCR("minimum duration between comp. iterations", "%g",
 439           min_comp_iter_duration);
 440     DESCR("computations start after lb. iter", "%u", comp_iter_delay);
 441     DESCR("computations start after time", "%g", comp_time_delay);
 442     DESCR("maximum number of lb. iterations", "%s",
 443           h.val_or_string(lb_maxiter, "no limit"));
 444     DESCR("maximum number of comp. iterations", "%s",
 445           h.val_or_string(comp_maxiter, "no limit"));
 446     DESCR("time limit", "%s", h.val_or_string(time_limit, "no limit"));
 447     DESCR("exit on close", "%s", h.on_off(exit_on_close));
 448     XBT_INFO("`----");
 449
 450 #undef DESCR
 451 }
 452
 453 void opt::usage()
 454 {
 455     // option(...)
 456 #define o(opt) "    " << std::setw(14) \
 457                       << std::left << (opt) << std::right << " "
 458     // sub-option(...)
 459 #define so(subopt) std::setw(18) << (subopt) << " : "
 460     // sub-option list
 461 #define so_list(name) do {                                      \
 462         name ## _type::iterator it;                             \
 463         for (it = name.begin() ; it != name.end() ; ++it)       \
 464             std::clog << so(name.get_name(it))                  \
 465                       << name.get_descr(it) << "\n";            \
 466     } while (0)
 467
 468
 469     std::clog << "Usage: " << opt::program_name
 470               << " [options] <platform_file> [<deployment_file>]\n";
 471     std::clog << "Current values for the parameters are given between square brackets.\n";
 472
 473     std::clog << "\nGlobal options:\n";
 474     std::clog << o("-h")
 475               << "print help and exit (use -hh or -hhh for extended help)\n";
 476     if (opt::help_requested < 1)
 477         return;
 478
 479     std::clog << o("--help") << "print help from SimGrid framework and exit\n";
 480     std::clog << o("-V") << "print version and exit\n";
 481
 482     std::clog << "\nSimulator output:\n";
 483     std::clog << o("-l value")
 484               << "print current load every n lb iterations, 0 to disable"
 485               << " [" << opt::log_rate << "]\n";
 486     std::clog << o("-v")
 487               << "verbose: do not override the default logging parameters\n";
 488
 489     std::clog << "\nAutomatic deployment:\n";
 490     std::clog << o("-T name")
 491               << "enable automatic deployment with selected topology"
 492               << " [" << opt::auto_depl::topology << "]\n";
 493     if (opt::help_requested > 1)
 494         so_list(opt::topologies);
 495     std::clog << o("-L value")
 496               << "total load with auto deployment, average if negative"
 497               << " [" << opt::auto_depl::load << "]\n";
 498     std::clog << o("-N value")
 499               << "number of hosts to use with auto deployment, 0 for max."
 500               << " [" << opt::auto_depl::nhosts << "]\n";
 501     std::clog << o("-R")
 502               << "toggle random initial load distribution"
 503               << " [" << opt_helper::on_off(opt::auto_depl::random_distribution)
 504               << "]\n";
 505     std::clog << o("-r value")
 506               << "random seed for initial load distribution, or 0, or 1"
 507               << " [" << opt::auto_depl::random_seed << "]\n";
 508     if (opt::help_requested > 1)
 509         std::clog << o("") << "- use 0 for a seed based on current date\n"
 510                   << o("") << "- use 1 for a constant random\n";
 511
 512     std::clog << "\nLoad balancing algorithm:\n";
 513     std::clog << o("-a name") << "load balancing algorithm"
 514               << " [" << opt::loba_algo << "]\n";
 515     if (opt::help_requested > 1)
 516         so_list(opt::loba_algorithms);
 517     std::clog << o("-b") << "toggle bookkeeping (\"virtual load\")"
 518               << " [" << opt_helper::on_off(opt::bookkeeping) << "]\n";
 519     std::clog << o("-E") << "toggle egocentric mode when bookkeeping"
 520               << " [" << opt_helper::on_off(opt::egocentric) << "]\n";
 521     if (opt::help_requested > 1)
 522         std::clog << o("")
 523                   << "(a not so good idea introduced by git commit f5336c5)\n";
 524     std::clog << o("-k value") << "divisor for algorithms *best*"
 525               << " [" << opt::loba_best_divisor << "]\n";
 526
 527     std::clog << "\nLb. and comp. iterations:\n";
 528     std::clog << o("-s value")
 529               << "minimum duration between lb. iterations"
 530               << " [" << opt::min_lb_iter_duration << "]\n";
 531     std::clog << o("-S value")
 532               << "minimum duration between comp. iterations"
 533               << " [" << opt::min_comp_iter_duration << "]\n";
 534     std::clog << o("-d value")
 535               << "start comp. iterations after given number of lb. iter."
 536               << " [" << opt::comp_iter_delay << "]\n";
 537     std::clog << o("-D value")
 538               << "start comp. iterations after given time"
 539               << " [" << opt::comp_time_delay << "]\n";
 540
 541     std::clog << "\nComputations and communications:\n";
 542     std::clog << o("-c [aN,...]a0")
 543               << "polynomial factors for computation cost"
 544               << " [" << opt::comp_cost.to_string() << "]\n";
 545     std::clog << o("-C [aN,...]a0")
 546               << "polynomial factors for communication cost"
 547               << " [" << opt::comm_cost.to_string() << "]\n";
 548     std::clog << o("-m value")
 549               << "minimum data transfer amount"
 550               << " [" << opt::min_transfer_amount << "]\n";
 551     std::clog << o("-M value")
 552               << "maximum data transfer amount, 0 for no limit"
 553               << " [" << opt::max_transfer_amount << "]\n";
 554     std::clog << o("-Z")
 555               << "toggle transfer of integer data shares only"
 556               << " [" << opt_helper::on_off(opt::integer_transfer) << "]\n";
 557
 558     std::clog << "\nEnd of the simulation:\n";
 559     std::clog << o("-i value")
 560               << "maximum number of lb. iterations, 0 for no limit"
 561               << " [" << opt::lb_maxiter << "]\n";
 562     std::clog << o("-I value")
 563               << "maximum number of comp. iterations, 0 for no limit"
 564               << " [" << opt::comp_maxiter << "]\n";
 565     std::clog << o("-t value")
 566               << "time limit (simulated time), 0 for no limit"
 567               << " [" << opt::time_limit << "]\n";
 568     std::clog << o("-e") << "toggle exit on reception of \"close\" message"
 569               << " [" << opt_helper::on_off(opt::exit_on_close) << "]\n";
 570
 571     if (opt::help_requested < 3)
 572         return;
 573
 574     std::clog << "\nHidden options:\n";
 575     std::clog << o("-x value") << "value is an integer"
 576               << " [" << opt::option_x << "]\n";
 577     std::clog << o("-X value") << "value is a real number"
 578               << " [" << opt::option_X << "]\n";
 579
 580     std::clog << "\nLogging support:\n"
 581               << "    See SimGrid documentation on:\n"
 582               << "        http://simgrid.gforge.inria.fr/doc/group__XBT__log.html#log_user\n"
 583               << "    Existing categories are:\n"
 584               << "        simu : root of following categories\n"
 585               << "        main : messages from global infrastructure\n"
 586               << "        depl : messages from auto deployment (inherited from main)\n"
 587               << "        comm : messages from asynchronous pipes\n"
 588               << "        proc : messages from base process class\n"
 589               << "        loba : messages from load-balancer\n"
 590               << "        thrd : messages from thread wrapper class\n";
 591
 592     // std::clog << "\nMiscellaneous low-level parameters\n";
 593
 594 #undef so_list
 595 #undef so
 596 #undef o
 597 }
 598
 599 // Local variables:
 600 // mode: c++
 601 // End: