Logo AND Algorithmique Numérique Distribuée

Public GIT Repository
536c3f05a63b5b29d268609eee0972f5ff790b61
[simgrid.git] / src / mc / explo / odpor / Execution.cpp
1 /* Copyright (c) 2008-2023. The SimGrid Team. All rights reserved.          */
2
3 /* This program is free software; you can redistribute it and/or modify it
4  * under the terms of the license (GNU LGPL) which comes with this package. */
5
6 #include "src/mc/explo/odpor/Execution.hpp"
7 #include "src/mc/api/State.hpp"
8 #include "src/mc/explo/odpor/ReversibleRaceCalculator.hpp"
9 #include "xbt/asserts.h"
10 #include "xbt/string.hpp"
11 #include <algorithm>
12 #include <limits>
13 #include <vector>
14
15 XBT_LOG_NEW_DEFAULT_SUBCATEGORY(mc_odpor_execution, mc_dfs, "ODPOR exploration algorithm of the model-checker");
16
17 namespace simgrid::mc::odpor {
18
19 std::vector<std::string> get_textual_trace(const PartialExecution& w)
20 {
21   std::vector<std::string> trace;
22   for (const auto& t : w) {
23     auto a = xbt::string_printf("Actor %ld: %s", t->aid_, t->to_string(true).c_str());
24     trace.emplace_back(std::move(a));
25   }
26   return trace;
27 }
28
29 Execution::Execution(const PartialExecution& w)
30 {
31   push_partial_execution(w);
32 }
33
34 void Execution::push_transition(std::shared_ptr<Transition> t)
35 {
36   if (t == nullptr) {
37     throw std::invalid_argument("Unexpectedly received `nullptr`");
38   }
39   ClockVector max_clock_vector;
40   for (const Event& e : this->contents_) {
41     if (e.get_transition()->depends(t.get())) {
42       max_clock_vector = ClockVector::max(max_clock_vector, e.get_clock_vector());
43     }
44   }
45   max_clock_vector[t->aid_] = this->size();
46   contents_.push_back(Event({std::move(t), max_clock_vector}));
47 }
48
49 void Execution::push_partial_execution(const PartialExecution& w)
50 {
51   for (const auto& t : w) {
52     push_transition(t);
53   }
54 }
55
56 std::vector<std::string> Execution::get_textual_trace() const
57 {
58   std::vector<std::string> trace;
59   for (const auto& t : this->contents_) {
60     auto a = xbt::string_printf("Actor %ld: %s", t.get_transition()->aid_, t.get_transition()->to_string(true).c_str());
61     trace.emplace_back(std::move(a));
62   }
63   return trace;
64 }
65
66 std::unordered_set<Execution::EventHandle> Execution::get_racing_events_of(Execution::EventHandle target) const
67 {
68   std::unordered_set<Execution::EventHandle> racing_events;
69   // This keep tracks of events that happens-before the target
70   std::unordered_set<Execution::EventHandle> disqualified_events;
71
72   // For each event of the execution
73   for (auto e_i = target; e_i != std::numeric_limits<Execution::EventHandle>::max(); e_i--) {
74     // We need `e_i -->_E target` as a necessary condition
75     if (not happens_before(e_i, target)) {
76       XBT_DEBUG("ODPOR_RACING_EVENTS with `%u` : `%u` discarded because `%u` --\\-->_E `%u`", target, e_i, e_i, target);
77       continue;
78     }
79
80     // Further, `proc(e_i) != proc(target)`
81     if (get_actor_with_handle(e_i) == get_actor_with_handle(target)) {
82       disqualified_events.insert(e_i);
83       XBT_DEBUG("ODPOR_RACING_EVENTS with `%u` : `%u` disqualified because proc(`%u`)=proc(`%u`)", target, e_i, e_i,
84                 target);
85       continue;
86     }
87
88     // There could an event that "happens-between" the two events which would discount `e_i` as a race
89     for (auto e_j = e_i; e_j < target; e_j++) {
90       // If both:
91       // 1. e_i --->_E e_j; and
92       // 2. disqualified_events.count(e_j) > 0
93       // then e_i --->_E target indirectly (either through
94       // e_j directly, or transitively through e_j)
95       if (disqualified_events.count(e_j) > 0 && happens_before(e_i, e_j)) {
96         XBT_DEBUG("ODPOR_RACING_EVENTS with `%u` : `%u` disqualified because `%u` happens-between `%u`-->`%u`-->`%u`)",
97                   target, e_i, e_j, e_i, e_j, target);
98         disqualified_events.insert(e_i);
99         break;
100       }
101     }
102
103     // If `e_i` wasn't disqualified in the last round,
104     // it's in a race with `target`. After marking it
105     // as such, we ensure no other event `e` can happen-before
106     // it (since this would transitively make it the event
107     // which "happens-between" `target` and `e`)
108     if (disqualified_events.count(e_i) == 0) {
109         XBT_DEBUG("ODPOR_RACING_EVENTS with `%u` : `%u` is a valid racing event",
110                   target, e_i);
111       racing_events.insert(e_i);
112       disqualified_events.insert(e_i);
113     }
114   }
115
116   return racing_events;
117 }
118
119 std::unordered_set<Execution::EventHandle> Execution::get_reversible_races_of(EventHandle handle) const
120 {
121   std::unordered_set<EventHandle> reversible_races;
122   for (EventHandle race : get_racing_events_of(handle)) {
123     if (ReversibleRaceCalculator::is_race_reversible(*this, race, handle)) {
124       reversible_races.insert(race);
125     }
126   }
127   return reversible_races;
128 }
129
130 Execution Execution::get_prefix_before(Execution::EventHandle handle) const
131 {
132   return Execution(std::vector<Event>{contents_.begin(), contents_.begin() + handle});
133 }
134
135 std::unordered_set<aid_t>
136 Execution::get_missing_source_set_actors_from(EventHandle e, const std::unordered_set<aid_t>& backtrack_set) const
137 {
138   // If this execution is empty, there are no initials
139   // relative to the last transition added to the execution
140   // since such a transition does not exist
141   if (empty()) {
142     return std::unordered_set<aid_t>{};
143   }
144
145   // To actually compute `I_[E'](v) ∩ backtrack(E')`, we must
146   // first compute `E'` and "move" in the direction of `v`.
147   // We perform a scan over `E` (this execution) and make
148   // note of any events which occur after `e` but don't
149   // "happen-after" `e` by pushing them onto `E'`. Note that
150   // correctness is still preserved in computing `v` "on-the-fly"
151   // to determine if an event `e` by actor `q` is an initial for `E'`
152   // after `v`: only those events that "occur-before" `e` in `v` could
153   // "happen-before" `ve for any valid "happens-before" relation
154   // (see property 1 in the ODPOR paper, viz. "is included in <_E")
155
156   // First, grab `E' := pre(e, E)` and determine what actor `p` is
157   const auto next_E_p = get_latest_event_handle().value();
158   xbt_assert(e != next_E_p,
159              "This method assumes that the event `e` (%u) and `next_[E](p)` (%u)"
160              "are in a reversible race, yet we claim to have such a race between the"
161              "same event. This indicates the the SDPOR pseudocode implementation is broken "
162              "as it supplies these values.",
163              e, next_E_p);
164   Execution E_prime_v = get_prefix_before(e);
165   std::vector<sdpor::Execution::EventHandle> v;
166   std::unordered_set<aid_t> I_E_prime_v;
167   std::unordered_set<aid_t> disqualified_actors;
168
169   // Note `e + 1` here: `notdep(e, E)` is defined as the
170   // set of events that *occur-after* but don't *happen-after* `e`
171   for (auto e_prime = e + 1; e_prime <= next_E_p; ++e_prime) {
172     // Any event `e*` which occurs after `e` but which does not
173     // happen after `e` is a member of `v`. In addition to marking
174     // the event in `v`, we also "simulate" running the action `v`
175     // from E'
176     if (not happens_before(e, e_prime) || e_prime == next_E_p) {
177       // First, push the transition onto the hypothetical execution
178       E_prime_v.push_transition(get_event_with_handle(e_prime).get_transition());
179       const EventHandle e_prime_in_E_prime_v = E_prime_v.get_latest_event_handle().value();
180
181       // When checking whether any event in `dom_[E'](v)` happens before
182       // `next_[E'](q)` below for thread `q`, we must consider that the
183       // events relative to `E` (this execution) are different than those
184       // relative to `E'.v`. Thus e.g. event `7` in `E` may be event `4`
185       // in `E'.v`. Since we are asking about "happens-before"
186       // `-->_[E'.v]` about `E'.v`, we must build `v` relative to `E'`.
187       //
188       // Note that we add `q` to v regardless of whether `q` itself has been
189       // disqualified since  we've determined that `e_prime` "occurs-after" but
190       // does not "happen-after" `e`
191       v.push_back(e_prime_in_E_prime_v);
192
193       const aid_t q = E_prime_v.get_actor_with_handle(e_prime_in_E_prime_v);
194       if (disqualified_actors.count(q) > 0) { // Did we already note that `q` is not an initial?
195         continue;
196       }
197       const bool is_initial = std::none_of(v.begin(), v.end(), [&](const auto& e_star) {
198         return E_prime_v.happens_before(e_star, e_prime_in_E_prime_v);
199       });
200       if (is_initial) {
201         // If the backtrack set already contains `q`, we're done:
202         // they've made note to search for (or have already searched for)
203         // this initial
204         if (backtrack_set.count(q) > 0) {
205           return std::unordered_set<aid_t>{};
206         } else {
207           I_E_prime_v.insert(q);
208         }
209       } else {
210         // If `q` is disqualified as a candidate, clearly
211         // no event occurring after `e_prime` in `E` executed
212         // by actor `q` will qualify since any (valid) happens-before
213         // relation orders actions taken by each actor
214         disqualified_actors.insert(q);
215       }
216     }
217   }
218   xbt_assert(not I_E_prime_v.empty(),
219              "For any non-empty execution, we know that "
220              "at minimum one actor is an initial since "
221              "some execution is possible with respect to a "
222              "prefix before event `%u`, yet we didn't find anyone. "
223              "This implies the implementation of this function is broken.",
224              e);
225   return I_E_prime_v;
226 }
227
228 std::optional<PartialExecution> Execution::get_odpor_extension_from(EventHandle e, EventHandle e_prime,
229                                                                     const State& state_at_e) const
230 {
231   // `e` is assumed to be in a reversible race with `e_prime`.
232   // If `e > e_prime`, then `e` occurs-after `e_prime` which means
233   // `e` could not race with if
234   if (e > e_prime) {
235     throw std::invalid_argument("ODPOR extensions can only be computed for "
236                                 "events in a reversible race, which is claimed, "
237                                 "yet the racing event 'occurs-after' the target");
238   }
239
240   if (empty()) {
241     return std::nullopt;
242   }
243
244   PartialExecution v;
245   std::vector<Execution::EventHandle> v_handles;
246   std::unordered_set<aid_t> WI_E_prime_v;
247   std::unordered_set<aid_t> disqualified_actors;
248   Execution E_prime_v                           = get_prefix_before(e);
249   const std::unordered_set<aid_t> sleep_E_prime = state_at_e.get_sleeping_actors();
250
251   // Note `e + 1` here: `notdep(e, E)` is defined as the
252   // set of events that *occur-after* but don't *happen-after* `e`
253   //
254   // SUBTLE NOTE: ODPOR requires us to compute `notdep(e, E)` EVEN THOUGH
255   // the race is between `e` and `e'`; that is, events occurring in `E`
256   // that "occur-after" `e'` may end up in the partial execution `v`.
257   //
258   // Observe that `notdep(e, E).proc(e')` will contain all transitions
259   // that don't happen-after `e` in the order they appear FOLLOWED BY
260   // THE **TRANSITION** ASSOCIATED WITH **`e'`**!!
261   //
262   // SUBTLE NOTE: Observe that any event that "happens-after" `e'`
263   // must necessarily "happen-after" `e` as well, since `e` and
264   // `e'` are presumed to be in a reversible race. Hence, we know that
265   // all events `e_star` such that `e` "happens-before" `e_star` cannot affect
266   // the enabledness of `e'`; furthermore, `e'` cannot affect the enabledness
267   // of any event independent with `e` that "occurs-after" `e'`
268   for (auto e_star = e + 1; e_star <= get_latest_event_handle().value(); ++e_star) {
269     // Any event `e*` which occurs after `e` but which does not
270     // happen after `e` is a member of `v`. In addition to marking
271     // the event in `v`, we also "simulate" running the action `v` from E'
272     // to be able to compute `--->[E'.v]`
273     if (not happens_before(e, e_star)) {
274       xbt_assert(e_star != e_prime,
275                  "Invariant Violation: We claimed events %u and %u were in a reversible race, yet we also "
276                  "claim that they do not happen-before one another. This is impossible: "
277                  "are you sure that the two events are in a reversible race?",
278                  e, e_prime);
279       E_prime_v.push_transition(get_event_with_handle(e_star).get_transition());
280       v.push_back(get_event_with_handle(e_star).get_transition());
281
282       const EventHandle e_star_in_E_prime_v = E_prime_v.get_latest_event_handle().value();
283
284       // When checking whether any event in `dom_[E'](v)` happens before
285       // `next_[E'](q)` below for thread `q`, we must consider that the
286       // events relative to `E` (this execution) are different than those
287       // relative to `E'.v`. Thus e.g. event `7` in `E` may be event `4`
288       // in `E'.v`. Since we are asking about "happens-before"
289       // `-->_[E'.v]` about `E'.v`, we must build `v` relative to `E'`
290       v_handles.push_back(e_star_in_E_prime_v);
291
292       // Note that we add `q` to v regardless of whether `q` itself has been
293       // disqualified since `q` may itself disqualify other actors
294       // (i.e. even if `q` is disqualified from being an initial, it
295       // is still contained in the sequence `v`)
296       const aid_t q = E_prime_v.get_actor_with_handle(e_star_in_E_prime_v);
297       if (disqualified_actors.count(q) > 0) { // Did we already note that `q` is not an initial?
298         continue;
299       }
300       const bool is_initial = std::none_of(v_handles.begin(), v_handles.end(), [&](const auto& handle) {
301         return E_prime_v.happens_before(handle, e_star_in_E_prime_v);
302       });
303       if (is_initial) {
304         // If the sleep set already contains `q`, we're done:
305         // we've found an initial contained in the sleep set and
306         // so the intersection is non-empty
307         if (sleep_E_prime.count(q) > 0) {
308           return std::nullopt;
309         } else {
310           WI_E_prime_v.insert(q);
311         }
312       } else {
313         // If `q` is disqualified as a candidate, clearly
314         // no event occurring after `e_prime` in `E` executed
315         // by actor `q` will qualify since any (valid) happens-before
316         // relation orders actions taken by each actor
317         disqualified_actors.insert(q);
318       }
319     }
320   }
321
322   // Now we add `e_prime := <q, i>` to `E'.v` and repeat the same work
323   // It's possible `proc(e_prime)` is an initial
324   //
325   // Note the form of `v` in the pseudocode:
326   //  `v := notdep(e, E).e'^
327   E_prime_v.push_transition(get_event_with_handle(e_prime).get_transition());
328   v.push_back(get_event_with_handle(e_prime).get_transition());
329
330   const EventHandle e_prime_in_E_prime_v = E_prime_v.get_latest_event_handle().value();
331   v_handles.push_back(e_prime_in_E_prime_v);
332
333   const bool is_initial = std::none_of(v_handles.begin(), v_handles.end(), [&](const auto& handle) {
334     return E_prime_v.happens_before(handle, e_prime_in_E_prime_v);
335   });
336   if (is_initial) {
337     if (const aid_t q = E_prime_v.get_actor_with_handle(e_prime_in_E_prime_v); sleep_E_prime.count(q) > 0) {
338       return std::nullopt;
339     } else {
340       WI_E_prime_v.insert(q);
341     }
342   }
343
344   const Execution pre_E_e    = get_prefix_before(e);
345   const auto sleeping_actors = state_at_e.get_sleeping_actors();
346
347   // Check if any enabled actor that is independent with
348   // this execution after `v` is contained in the sleep set
349   for (const auto& [aid, astate] : state_at_e.get_actors_list()) {
350     const bool is_in_WI_E =
351         astate.is_enabled() and pre_E_e.is_independent_with_execution_of(v, astate.get_transition());
352     const bool is_in_sleep_set = sleeping_actors.count(aid) > 0;
353
354     // `action(aid)` is in `WI_[E](v)` but also is contained in the sleep set.
355     // This implies that the intersection between the two is non-empty
356     if (is_in_WI_E && is_in_sleep_set)
357       return std::nullopt;
358   }
359
360   return v;
361 }
362
363 bool Execution::is_initial_after_execution_of(const PartialExecution& w, aid_t p) const
364 {
365   auto E_w = *this;
366   std::vector<EventHandle> w_handles;
367   for (const auto& w_i : w) {
368     // Take one step in the direction of `w`
369     E_w.push_transition(w_i);
370
371     // If that step happened to be executed by `p`,
372     // great: we know that `p` is contained in `w`.
373     // We now need to verify that it doens't "happen-after"
374     // any events which occur before it
375     if (w_i->aid_ == p) {
376       const auto p_handle = E_w.get_latest_event_handle().value();
377       return std::none_of(w_handles.begin(), w_handles.end(),
378                           [&](const auto handle) { return E_w.happens_before(handle, p_handle); });
379     } else {
380       w_handles.push_back(E_w.get_latest_event_handle().value());
381     }
382   }
383   return false;
384 }
385
386 bool Execution::is_independent_with_execution_of(const PartialExecution& w, std::shared_ptr<Transition> next_E_p) const
387 {
388   // INVARIANT: Here, we assume that for any process `p_i` of `w`,
389   // the events of this execution followed by the execution of all
390   // actors occurring before `p_i` in `v` (`p_j`, `0 <= j < i`)
391   // are sufficient to enable `p_i`. This is fortunately the case
392   // with what ODPOR requires of us, viz. to ask the question about
393   // `v := notdep(e, E)` for some execution `E` and event `e` of
394   // that execution.
395   auto E_p_w = *this;
396   E_p_w.push_transition(std::move(next_E_p));
397   const auto p_handle = E_p_w.get_latest_event_handle().value();
398
399   // As we add events to `w`, verify that none
400   // of them "happen-after" the event associated with
401   // the step `next_E_p` (viz. p_handle)
402   for (const auto& w_i : w) {
403     E_p_w.push_transition(w_i);
404     const auto w_i_handle = E_p_w.get_latest_event_handle().value();
405     if (E_p_w.happens_before(p_handle, w_i_handle)) {
406       return false;
407     }
408   }
409   return true;
410 }
411
412 std::optional<PartialExecution> Execution::get_shortest_odpor_sq_subset_insertion(const PartialExecution& v,
413                                                                                   const PartialExecution& w) const
414 {
415   // See section 4 of Abdulla. et al.'s 2017 ODPOR paper for details (specifically
416   // where the [iterative] computation of `v ~_[E] w` is described)
417   auto E_v   = *this;
418   auto w_now = w;
419
420   for (const auto& next_E_p : v) {
421     // Is `p in `I_[E](w)`?
422     if (const aid_t p = next_E_p->aid_; E_v.is_initial_after_execution_of(w_now, p)) {
423       // Remove `p` from w and continue
424
425       // INVARIANT: If `p` occurs in `w`, it had better refer to the same
426       // transition referenced by `v`. Unfortunately, we have two
427       // sources of truth here which can be manipulated at the same
428       // time as arguments to the function. If ODPOR works correctly,
429       // they should always refer to the same value; but as a sanity check,
430       // we have an assert that tests that at least the types are the same.
431       const auto action_by_p_in_w =
432           std::find_if(w_now.begin(), w_now.end(), [=](const auto& action) { return action->aid_ == p; });
433       xbt_assert(action_by_p_in_w != w_now.end(), "Invariant violated: actor `p` "
434                                                   "is claimed to be an initial after `w` but is "
435                                                   "not actually contained in `w`. This indicates that there "
436                                                   "is a bug computing initials");
437       const auto& w_action = *action_by_p_in_w;
438       xbt_assert(w_action->type_ == next_E_p->type_,
439                  "Invariant violated: `v` claims that actor `%ld` executes '%s' while "
440                  "`w` claims that it executes '%s'. These two partial executions both "
441                  "refer to `next_[E](p)`, which should be the same",
442                  p, next_E_p->to_string(false).c_str(), w_action->to_string(false).c_str());
443       w_now.erase(action_by_p_in_w);
444     }
445     // Is `E ⊢ p ◇ w`?
446     else if (E_v.is_independent_with_execution_of(w_now, next_E_p)) {
447       // INVARIANT: Note that it is impossible for `p` to be
448       // excluded from the set `I_[E](w)` BUT ALSO be contained in
449       // `w` itself if `E ⊢ p ◇ w` (intuitively, the fact that `E ⊢ p ◇ w`
450       // means that are able to move `p` anywhere in `w` IF it occurred, so
451       // if it really does occur we know it must then be an initial).
452       // We assert this is the case here
453       const auto action_by_p_in_w =
454           std::find_if(w_now.begin(), w_now.end(), [=](const auto& action) { return action->aid_ == p; });
455       xbt_assert(action_by_p_in_w == w_now.end(),
456                  "Invariant violated: We claimed that actor `%ld` is not an initial "
457                  "after `w`, yet it's independent with all actions of `w` AND occurs in `w`."
458                  "This indicates that there is a bug computing initials",
459                  p);
460     } else {
461       // Neither of the two above conditions hold, so the relation fails
462       return std::nullopt;
463     }
464
465     // Move one step forward in the direction of `v` and repeat
466     E_v.push_transition(next_E_p);
467   }
468   return std::optional<PartialExecution>{std::move(w_now)};
469 }
470
471 bool Execution::happens_before(Execution::EventHandle e1_handle, Execution::EventHandle e2_handle) const
472 {
473   // 1. "happens-before" (-->_E) is a subset of "occurs before" (<_E)
474   // and is an irreflexive relation
475   if (e1_handle >= e2_handle) {
476     return false;
477   }
478
479   // Each execution maintains a stack of clock vectors which are updated
480   // according to the procedure outlined in section 4 of the original DPOR paper
481   const Event& e2     = get_event_with_handle(e2_handle);
482   const aid_t proc_e1 = get_actor_with_handle(e1_handle);
483
484   if (const auto e1_in_e2_clock = e2.get_clock_vector().get(proc_e1); e1_in_e2_clock.has_value()) {
485     return e1_handle <= e1_in_e2_clock.value();
486   }
487   // If `e1` does not appear in e2's clock vector, this implies
488   // not only that the transitions associated with `e1` and `e2
489   // are independent, but further that there are no transitive
490   // dependencies between e1 and e2
491   return false;
492 }
493
494 } // namespace simgrid::mc::odpor