src/smpi/private.h

   1 /* Copyright (c) 2007-2017. The SimGrid Team. All rights reserved.          */
   2
   3 /* This program is free software; you can redistribute it and/or modify it
   4  * under the terms of the license (GNU LGPL) which comes with this package. */
   5
   6 #ifndef SMPI_PRIVATE_H
   7 #define SMPI_PRIVATE_H
   8
   9 #include "simgrid/simix.h"
  10 #include "smpi/smpi.h"
  11 #include "src/include/smpi/smpi_interface.h"
  12 #include "src/instr/instr_private.h"
  13 #include "src/internal_config.h"
  14 #include "xbt.h"
  15 #include "xbt/base.h"
  16 #include "xbt/synchro.h"
  17 #include "xbt/xbt_os_time.h"
  18 #include "src/smpi/smpi_group.hpp"
  19 #include "src/smpi/smpi_comm.hpp"
  20 #include "src/smpi/smpi_request.hpp"
  21 #include "src/smpi/smpi_topo.hpp"
  22 #include "src/smpi/smpi_win.hpp"
  23 SG_BEGIN_DECL()
  24
  25
  26 using namespace simgrid::smpi;
  27
  28 struct s_smpi_process_data;
  29 typedef struct s_smpi_process_data *smpi_process_data_t;
  30
  31 #define PERSISTENT     0x1
  32 #define NON_PERSISTENT 0x2
  33 #define SEND           0x4
  34 #define RECV           0x8
  35 #define RECV_DELETE    0x10
  36 #define ISEND          0x20
  37 #define SSEND          0x40
  38 #define PREPARED       0x80
  39 #define FINISHED       0x100
  40 #define RMA            0x200
  41 #define ACCUMULATE     0x400
  42
  43 enum smpi_process_state{
  44   SMPI_UNINITIALIZED,
  45   SMPI_INITIALIZED,
  46   SMPI_FINALIZED
  47 };
  48
  49 // this struct is here to handle the problem of non-contignous data
  50 // for each such structure these function should be implemented (vector
  51 // index hvector hindex struct)
  52 typedef struct s_smpi_subtype{
  53   void (*serialize)(void * input, void *output, int count, void* subtype);
  54   void (*unserialize)(void * input, void *output, int count, void* subtype, MPI_Op op);
  55   void (*subtype_free)(MPI_Datatype* type);
  56   void (*subtype_use)(MPI_Datatype* type);
  57 } s_smpi_subtype_t;
  58
  59 typedef struct s_smpi_mpi_datatype{
  60   char* name;
  61   size_t size;
  62   /* this let us know if a serialization is required*/
  63   size_t sizeof_substruct;
  64   MPI_Aint lb;
  65   MPI_Aint ub;
  66   int flags;
  67   xbt_dict_t attributes;
  68   /* this let us know how to serialize and unserialize*/
  69   void *substruct;
  70   int in_use;
  71 } s_smpi_mpi_datatype_t;
  72
  73 #define COLL_TAG_REDUCE -112
  74 #define COLL_TAG_SCATTER -223
  75 #define COLL_TAG_SCATTERV -334
  76 #define COLL_TAG_GATHER -445
  77 #define COLL_TAG_ALLGATHER -556
  78 #define COLL_TAG_ALLGATHERV -667
  79 #define COLL_TAG_BARRIER -778
  80 #define COLL_TAG_REDUCE_SCATTER -889
  81 #define COLL_TAG_ALLTOALLV -1000
  82 #define COLL_TAG_ALLTOALL -1112
  83 #define COLL_TAG_GATHERV -2223
  84 #define COLL_TAG_BCAST -3334
  85 #define COLL_TAG_ALLREDUCE -4445
  86 #define SMPI_RMA_TAG -1234
  87
  88 extern XBT_PRIVATE MPI_Comm MPI_COMM_UNINITIALIZED;
  89
  90
  91
  92 typedef struct s_smpi_mpi_comm_key_elem {
  93   MPI_Comm_copy_attr_function* copy_fn;
  94   MPI_Comm_delete_attr_function* delete_fn;
  95 } s_smpi_mpi_comm_key_elem_t;
  96 typedef struct s_smpi_mpi_comm_key_elem *smpi_comm_key_elem;
  97
  98 typedef struct s_smpi_mpi_type_key_elem {
  99   MPI_Type_copy_attr_function* copy_fn;
 100   MPI_Type_delete_attr_function* delete_fn;
 101 } s_smpi_mpi_type_key_elem_t;
 102 typedef struct s_smpi_mpi_type_key_elem *smpi_type_key_elem;
 103
 104 typedef struct s_smpi_mpi_info {
 105   xbt_dict_t info_dict;
 106   int refcount;
 107 } s_smpi_mpi_info_t;
 108
 109 XBT_PRIVATE void smpi_process_destroy();
 110 XBT_PRIVATE void smpi_process_finalize();
 111 XBT_PRIVATE int smpi_process_finalized();
 112 XBT_PRIVATE int smpi_process_initialized();
 113 XBT_PRIVATE void smpi_process_mark_as_initialized();
 114
 115 typedef SMPI_Cart_topology *MPIR_Cart_Topology;
 116
 117 typedef SMPI_Graph_topology *MPIR_Graph_Topology;
 118
 119 typedef SMPI_Dist_Graph_topology *MPIR_Dist_Graph_Topology;
 120
 121 XBT_PRIVATE smpi_process_data_t smpi_process_data();
 122 XBT_PRIVATE smpi_process_data_t smpi_process_remote_data(int index);
 123 // smpi_process_[set/get]_user_data must be public
 124 /* XBT_PRIVATE void smpi_process_set_user_data(void *); */
 125 /* XBT_PRIVATE void* smpi_process_get_user_data(void); */
 126 XBT_PRIVATE int smpi_process_count();
 127 XBT_PRIVATE MPI_Comm smpi_process_comm_world();
 128 XBT_PRIVATE MPI_Comm smpi_process_get_comm_intra();
 129 XBT_PRIVATE void smpi_process_set_comm_intra(MPI_Comm comm);
 130 XBT_PRIVATE smx_mailbox_t smpi_process_mailbox();
 131 XBT_PRIVATE smx_mailbox_t smpi_process_remote_mailbox(int index);
 132 XBT_PRIVATE smx_mailbox_t smpi_process_mailbox_small();
 133 XBT_PRIVATE smx_mailbox_t smpi_process_remote_mailbox_small(int index);
 134 XBT_PRIVATE xbt_mutex_t smpi_process_mailboxes_mutex();
 135 XBT_PRIVATE xbt_mutex_t smpi_process_remote_mailboxes_mutex(int index);
 136 XBT_PRIVATE xbt_os_timer_t smpi_process_timer();
 137 XBT_PRIVATE void smpi_process_simulated_start();
 138 XBT_PRIVATE double smpi_process_simulated_elapsed();
 139 XBT_PRIVATE void smpi_process_set_sampling(int s);
 140 XBT_PRIVATE int smpi_process_get_sampling();
 141 XBT_PRIVATE void smpi_process_set_replaying(bool s);
 142 XBT_PRIVATE bool smpi_process_get_replaying();
 143
 144 XBT_PRIVATE void smpi_deployment_register_process(const char* instance_id, int rank, int index, MPI_Comm** comm,
 145                                                   msg_bar_t* bar);
 146 XBT_PRIVATE void smpi_deployment_cleanup_instances();
 147
 148 XBT_PRIVATE void smpi_comm_copy_buffer_callback(smx_activity_t comm, void *buff, size_t buff_size);
 149
 150 XBT_PRIVATE void smpi_comm_null_copy_buffer_callback(smx_activity_t comm, void *buff, size_t buff_size);
 151
 152 XBT_PRIVATE void print_request(const char *message, MPI_Request request);
 153
 154 XBT_PRIVATE int smpi_enabled();
 155 XBT_PRIVATE void smpi_global_init();
 156 XBT_PRIVATE void smpi_global_destroy();
 157 XBT_PRIVATE double smpi_mpi_wtime();
 158 XBT_PRIVATE void smpi_mpi_init();
 159
 160 XBT_PRIVATE bool is_datatype_valid(MPI_Datatype datatype);
 161
 162 XBT_PRIVATE size_t smpi_datatype_size(MPI_Datatype datatype);
 163 XBT_PRIVATE MPI_Aint smpi_datatype_lb(MPI_Datatype datatype);
 164 XBT_PRIVATE MPI_Aint smpi_datatype_ub(MPI_Datatype datatype);
 165 XBT_PRIVATE int smpi_datatype_dup(MPI_Datatype datatype, MPI_Datatype* new_t);
 166 XBT_PRIVATE int smpi_datatype_extent(MPI_Datatype datatype, MPI_Aint * lb, MPI_Aint * extent);
 167 XBT_PRIVATE MPI_Aint smpi_datatype_get_extent(MPI_Datatype datatype);
 168 XBT_PRIVATE void smpi_datatype_get_name(MPI_Datatype datatype, char* name, int* length);
 169 XBT_PRIVATE void smpi_datatype_set_name(MPI_Datatype datatype, char* name);
 170 XBT_PRIVATE int smpi_datatype_copy(void *sendbuf, int sendcount, MPI_Datatype sendtype, void *recvbuf, int recvcount,
 171                        MPI_Datatype recvtype);
 172 XBT_PRIVATE void smpi_datatype_use(MPI_Datatype type);
 173 XBT_PRIVATE void smpi_datatype_unuse(MPI_Datatype type);
 174
 175 XBT_PRIVATE int smpi_datatype_contiguous(int count, MPI_Datatype old_type, MPI_Datatype* new_type, MPI_Aint lb);
 176 XBT_PRIVATE int smpi_datatype_vector(int count, int blocklen, int stride, MPI_Datatype old_type,
 177                        MPI_Datatype* new_type);
 178
 179 XBT_PRIVATE int smpi_datatype_hvector(int count, int blocklen, MPI_Aint stride,MPI_Datatype old_type,
 180                        MPI_Datatype* new_type);
 181 XBT_PRIVATE int smpi_datatype_indexed(int count, int* blocklens, int* indices, MPI_Datatype old_type,
 182                        MPI_Datatype* new_type);
 183 XBT_PRIVATE int smpi_datatype_hindexed(int count, int* blocklens, MPI_Aint* indices, MPI_Datatype old_type,
 184                        MPI_Datatype* new_type);
 185 XBT_PRIVATE int smpi_datatype_struct(int count, int* blocklens, MPI_Aint* indices, MPI_Datatype* old_types,
 186                        MPI_Datatype* new_type);
 187
 188 XBT_PRIVATE void smpi_datatype_create(MPI_Datatype* new_type, int size,int lb, int ub, int sizeof_substruct,
 189                        void *struct_type, int flags);
 190
 191 XBT_PRIVATE void smpi_datatype_free(MPI_Datatype* type);
 192 XBT_PRIVATE void smpi_datatype_commit(MPI_Datatype* datatype);
 193
 194 XBT_PRIVATE int smpi_mpi_unpack(void* inbuf, int insize, int* position, void* outbuf, int outcount, MPI_Datatype type,
 195                        MPI_Comm comm);
 196 XBT_PRIVATE int smpi_mpi_pack(void* inbuf, int incount, MPI_Datatype type, void* outbuf, int outcount, int* position,
 197                        MPI_Comm comm);
 198
 199 XBT_PRIVATE void smpi_empty_status(MPI_Status * status);
 200 XBT_PRIVATE int smpi_mpi_get_count(MPI_Status * status, MPI_Datatype datatype);
 201 XBT_PRIVATE MPI_Op smpi_op_new(MPI_User_function * function, bool commute);
 202 XBT_PRIVATE bool smpi_op_is_commute(MPI_Op op);
 203 XBT_PRIVATE void smpi_op_destroy(MPI_Op op);
 204 XBT_PRIVATE void smpi_op_set_fortran(MPI_Op op);
 205 XBT_PRIVATE void smpi_op_apply(MPI_Op op, void *invec, void *inoutvec, int *len, MPI_Datatype * datatype);
 206
 207
 208 XBT_PRIVATE int smpi_comm_c2f(MPI_Comm comm);
 209 XBT_PRIVATE int smpi_comm_add_f(MPI_Comm comm);
 210 XBT_PRIVATE MPI_Comm smpi_comm_f2c(int comm);
 211 XBT_PRIVATE int smpi_group_c2f(MPI_Group group);
 212 XBT_PRIVATE int smpi_group_add_f(MPI_Group group);
 213 XBT_PRIVATE MPI_Group smpi_group_f2c(int group);
 214 XBT_PRIVATE int smpi_request_c2f(MPI_Request req);
 215 XBT_PRIVATE int smpi_request_add_f(MPI_Request req);
 216 XBT_PRIVATE MPI_Request smpi_request_f2c(int req);
 217 XBT_PRIVATE int smpi_type_c2f(MPI_Datatype datatype);
 218 XBT_PRIVATE int smpi_type_add_f(MPI_Datatype datatype);
 219 XBT_PRIVATE MPI_Datatype smpi_type_f2c(int datatype);
 220 XBT_PRIVATE int smpi_op_c2f(MPI_Op op);
 221 XBT_PRIVATE int smpi_op_add_f(MPI_Op op);
 222 XBT_PRIVATE MPI_Op smpi_op_f2c(int op);
 223 XBT_PRIVATE int smpi_win_c2f(MPI_Win win);
 224 XBT_PRIVATE int smpi_win_add_f(MPI_Win win);
 225 XBT_PRIVATE MPI_Win smpi_win_f2c(int win);
 226 XBT_PRIVATE int smpi_info_c2f(MPI_Info info);
 227 XBT_PRIVATE int smpi_info_add_f(MPI_Info info);
 228 XBT_PRIVATE MPI_Info smpi_info_f2c(int info);
 229
 230
 231 XBT_PRIVATE void smpi_mpi_bcast(void *buf, int count, MPI_Datatype datatype, int root, MPI_Comm comm);
 232 XBT_PRIVATE void smpi_mpi_barrier(MPI_Comm comm);
 233 XBT_PRIVATE void smpi_mpi_gather(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 234                      void *recvbuf, int recvcount, MPI_Datatype recvtype, int root, MPI_Comm comm);
 235 XBT_PRIVATE void smpi_mpi_reduce_scatter(void *sendbuf, void *recvbuf, int *recvcounts,
 236                        MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 237 XBT_PRIVATE void smpi_mpi_gatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 238                       void *recvbuf, int *recvcounts, int *displs, MPI_Datatype recvtype, int root, MPI_Comm comm);
 239 XBT_PRIVATE void smpi_mpi_allgather(void *sendbuf, int sendcount, MPI_Datatype sendtype, void *recvbuf,
 240                         int recvcount, MPI_Datatype recvtype, MPI_Comm comm);
 241 XBT_PRIVATE void smpi_mpi_allgatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype, void *recvbuf,
 242                          int *recvcounts, int *displs, MPI_Datatype recvtype, MPI_Comm comm);
 243 XBT_PRIVATE void smpi_mpi_scatter(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 244                       void *recvbuf, int recvcount, MPI_Datatype recvtype, int root, MPI_Comm comm);
 245 XBT_PRIVATE void smpi_mpi_scatterv(void *sendbuf, int *sendcounts, int *displs, MPI_Datatype sendtype,
 246                       void *recvbuf, int recvcount,MPI_Datatype recvtype, int root, MPI_Comm comm);
 247 XBT_PRIVATE void smpi_mpi_reduce(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, int root,
 248                       MPI_Comm comm);
 249 XBT_PRIVATE void smpi_mpi_allreduce(void *sendbuf, void *recvbuf, int count,MPI_Datatype datatype, MPI_Op op,
 250                       MPI_Comm comm);
 251 XBT_PRIVATE void smpi_mpi_scan(void *sendbuf, void *recvbuf, int count,MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 252 XBT_PRIVATE void smpi_mpi_exscan(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op,
 253                       MPI_Comm comm);
 254
 255 XBT_PRIVATE int smpi_coll_tuned_alltoall_ompi2(void *sendbuf, int sendcount, MPI_Datatype sendtype, void *recvbuf,
 256                                       int recvcount, MPI_Datatype recvtype, MPI_Comm comm);
 257 XBT_PRIVATE int smpi_coll_tuned_alltoall_bruck(void *sendbuf, int sendcount, MPI_Datatype sendtype, void *recvbuf,
 258                                    int recvcount, MPI_Datatype recvtype, MPI_Comm comm);
 259 XBT_PRIVATE int smpi_coll_tuned_alltoall_basic_linear(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 260                                           void *recvbuf, int recvcount, MPI_Datatype recvtype, MPI_Comm comm);
 261 XBT_PRIVATE int smpi_coll_basic_alltoallv(void *sendbuf, int *sendcounts, int *senddisps, MPI_Datatype sendtype,
 262                               void *recvbuf, int *recvcounts, int *recvdisps, MPI_Datatype recvtype, MPI_Comm comm);
 263 XBT_PRIVATE int smpi_comm_keyval_create(MPI_Comm_copy_attr_function* copy_fn, MPI_Comm_delete_attr_function* delete_fn,
 264                                         int* keyval, void* extra_state);
 265 XBT_PRIVATE int smpi_comm_keyval_free(int* keyval);
 266
 267 XBT_PRIVATE int smpi_type_attr_delete(MPI_Datatype type, int keyval);
 268 XBT_PRIVATE int smpi_type_attr_get(MPI_Datatype type, int keyval, void* attr_value, int* flag);
 269 XBT_PRIVATE int smpi_type_attr_put(MPI_Datatype type, int keyval, void* attr_value);
 270 XBT_PRIVATE int smpi_type_keyval_create(MPI_Type_copy_attr_function* copy_fn, MPI_Type_delete_attr_function* delete_fn,
 271                                         int* keyval, void* extra_state);
 272 XBT_PRIVATE int smpi_type_keyval_free(int* keyval);
 273 // utilities
 274 extern XBT_PRIVATE double smpi_cpu_threshold;
 275 extern XBT_PRIVATE double smpi_host_speed;
 276 extern XBT_PRIVATE bool smpi_privatize_global_variables;
 277 extern XBT_PRIVATE char* smpi_start_data_exe; //start of the data+bss segment of the executable
 278 extern XBT_PRIVATE int smpi_size_data_exe; //size of the data+bss segment of the executable
 279
 280 typedef enum { shmalloc_none, shmalloc_local, shmalloc_global } shared_malloc_type;
 281 extern XBT_PRIVATE shared_malloc_type smpi_cfg_shared_malloc; // Whether to activate shared malloc
 282
 283 XBT_PRIVATE void smpi_switch_data_segment(int dest);
 284 XBT_PRIVATE void smpi_really_switch_data_segment(int dest);
 285 XBT_PRIVATE int smpi_is_privatisation_file(char* file);
 286
 287 XBT_PRIVATE void smpi_get_executable_global_size();
 288 XBT_PRIVATE void smpi_initialize_global_memory_segments();
 289 XBT_PRIVATE void smpi_destroy_global_memory_segments();
 290 XBT_PRIVATE void smpi_bench_destroy();
 291 XBT_PRIVATE void smpi_bench_begin();
 292 XBT_PRIVATE void smpi_bench_end();
 293
 294 XBT_PRIVATE void* smpi_get_tmp_sendbuffer(int size);
 295 XBT_PRIVATE void* smpi_get_tmp_recvbuffer(int size);
 296 XBT_PRIVATE void  smpi_free_tmp_buffer(void* buf);
 297
 298
 299 // f77 wrappers
 300 void mpi_init_(int* ierr);
 301 void mpi_finalize_(int* ierr);
 302 void mpi_abort_(int* comm, int* errorcode, int* ierr);
 303 void mpi_comm_rank_(int* comm, int* rank, int* ierr);
 304 void mpi_comm_size_(int* comm, int* size, int* ierr);
 305 double mpi_wtime_();
 306 double mpi_wtick_();
 307 void mpi_initialized_(int* flag, int* ierr);
 308
 309 void mpi_comm_dup_(int* comm, int* newcomm, int* ierr);
 310 void mpi_comm_create_(int* comm, int* group, int* newcomm, int* ierr);
 311 void mpi_comm_free_(int* comm, int* ierr);
 312 void mpi_comm_split_(int* comm, int* color, int* key, int* comm_out, int* ierr);
 313 void mpi_group_incl_(int* group, int* n, int* key, int* group_out, int* ierr) ;
 314 void mpi_comm_group_(int* comm, int* group_out,  int* ierr);
 315 void mpi_send_init_(void *buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* request, int* ierr);
 316 void mpi_isend_(void *buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* request, int* ierr);
 317 void mpi_irsend_(void *buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* request, int* ierr);
 318 void mpi_send_(void* buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* ierr);
 319 void mpi_rsend_(void* buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* ierr);
 320 void mpi_recv_init_(void *buf, int* count, int* datatype, int* src, int* tag, int* comm, int* request, int* ierr);
 321 void mpi_irecv_(void *buf, int* count, int* datatype, int* src, int* tag, int* comm, int* request, int* ierr);
 322 void mpi_recv_(void* buf, int* count, int* datatype, int* src, int* tag, int* comm, MPI_Status* status, int* ierr);
 323 void mpi_start_(int* request, int* ierr);
 324 void mpi_startall_(int* count, int* requests, int* ierr);
 325 void mpi_wait_(int* request, MPI_Status* status, int* ierr);
 326 void mpi_waitany_(int* count, int* requests, int* index, MPI_Status* status, int* ierr);
 327 void mpi_waitall_(int* count, int* requests, MPI_Status* status, int* ierr);
 328
 329 void mpi_barrier_(int* comm, int* ierr);
 330 void mpi_bcast_(void* buf, int* count, int* datatype, int* root, int* comm, int* ierr);
 331 void mpi_reduce_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* root, int* comm, int* ierr);
 332 void mpi_allreduce_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* ierr);
 333 void mpi_reduce_scatter_(void* sendbuf, void* recvbuf, int* recvcounts, int* datatype, int* op, int* comm, int* ierr) ;
 334 void mpi_scatter_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype,
 335                    int* root, int* comm, int* ierr);
 336 void mpi_scatterv_(void* sendbuf, int* sendcounts, int* displs, int* sendtype,
 337                    void* recvbuf, int* recvcount, int* recvtype, int* root, int* comm, int* ierr);
 338 void mpi_gather_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype,
 339                   int* root, int* comm, int* ierr);
 340 void mpi_gatherv_(void* sendbuf, int* sendcount, int* sendtype,
 341                   void* recvbuf, int* recvcounts, int* displs, int* recvtype, int* root, int* comm, int* ierr);
 342 void mpi_allgather_(void* sendbuf, int* sendcount, int* sendtype,
 343                      void* recvbuf, int* recvcount, int* recvtype, int* comm, int* ierr);
 344 void mpi_allgatherv_(void* sendbuf, int* sendcount, int* sendtype,
 345                      void* recvbuf, int* recvcount,int* displs, int* recvtype, int* comm, int* ierr) ;
 346 void mpi_type_size_(int* datatype, int *size, int* ierr);
 347
 348 void mpi_scan_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* ierr);
 349 void mpi_alltoall_(void* sendbuf, int* sendcount, int* sendtype,
 350                     void* recvbuf, int* recvcount, int* recvtype, int* comm, int* ierr);
 351 void mpi_alltoallv_(void* sendbuf, int* sendcounts, int* senddisps, int* sendtype,
 352                     void* recvbuf, int* recvcounts, int* recvdisps, int* recvtype, int* comm, int* ierr);
 353 void mpi_get_processor_name_(char *name, int *resultlen, int* ierr);
 354 void mpi_test_ (int * request, int *flag, MPI_Status * status, int* ierr);
 355 void mpi_testall_ (int* count, int * requests,  int *flag, MPI_Status * statuses, int* ierr);
 356 void mpi_get_count_(MPI_Status * status, int* datatype, int *count, int* ierr);
 357 void mpi_type_extent_(int* datatype, MPI_Aint * extent, int* ierr);
 358 void mpi_attr_get_(int* comm, int* keyval, void* attr_value, int* flag, int* ierr );
 359 void mpi_type_commit_(int* datatype,  int* ierr);
 360 void mpi_type_vector_(int* count, int* blocklen, int* stride, int* old_type, int* newtype,  int* ierr);
 361 void mpi_type_create_vector_(int* count, int* blocklen, int* stride, int* old_type, int* newtype,  int* ierr);
 362 void mpi_type_hvector_(int* count, int* blocklen, MPI_Aint* stride, int* old_type, int* newtype,  int* ierr);
 363 void mpi_type_create_hvector_(int* count, int* blocklen, MPI_Aint* stride, int* old_type, int* newtype,  int* ierr);
 364 void mpi_type_free_(int* datatype, int* ierr);
 365 void mpi_type_lb_(int* datatype, MPI_Aint * extent, int* ierr);
 366 void mpi_type_ub_(int* datatype, MPI_Aint * extent, int* ierr);
 367 void mpi_win_fence_( int* assert,  int* win, int* ierr);
 368 void mpi_win_free_( int* win, int* ierr);
 369 void mpi_win_create_( int *base, MPI_Aint* size, int* disp_unit, int* info, int* comm, int *win, int* ierr);
 370 void mpi_win_set_name_ (int*  win, char * name, int* ierr, int size);
 371 void mpi_win_get_name_ (int*  win, char * name, int* len, int* ierr);
 372 void mpi_win_post_(int* group, int assert, int* win, int* ierr);
 373 void mpi_win_start_(int* group, int assert, int* win, int* ierr);
 374 void mpi_win_complete_(int* win, int* ierr);
 375 void mpi_win_wait_(int* win, int* ierr);
 376 void mpi_info_create_( int *info, int* ierr);
 377 void mpi_info_set_( int *info, char *key, char *value, int* ierr, unsigned int keylen, unsigned int valuelen);
 378 void mpi_info_free_(int* info, int* ierr);
 379 void mpi_get_( int *origin_addr, int* origin_count, int* origin_datatype, int* target_rank,
 380     MPI_Aint* target_disp, int* target_count, int* target_datatype, int* win, int* ierr);
 381 void mpi_put_( int *origin_addr, int* origin_count, int* origin_datatype, int* target_rank,
 382     MPI_Aint* target_disp, int* target_count, int* target_datatype, int* win, int* ierr);
 383 void mpi_accumulate_( int *origin_addr, int* origin_count, int* origin_datatype, int* target_rank,
 384     MPI_Aint* target_disp, int* target_count, int* target_datatype, int* op, int* win, int* ierr);
 385 void mpi_error_string_(int* errorcode, char* string, int* resultlen, int* ierr);
 386 void mpi_sendrecv_(void* sendbuf, int* sendcount, int* sendtype, int* dst, int* sendtag, void *recvbuf, int* recvcount,
 387                 int* recvtype, int* src, int* recvtag, int* comm, MPI_Status* status, int* ierr);
 388
 389 void mpi_finalized_ (int * flag, int* ierr);
 390 void mpi_init_thread_ (int *required, int *provided, int* ierr);
 391 void mpi_query_thread_ (int *provided, int* ierr);
 392 void mpi_is_thread_main_ (int *flag, int* ierr);
 393 void mpi_address_ (void *location, MPI_Aint * address, int* ierr);
 394 void mpi_get_address_ (void *location, MPI_Aint * address, int* ierr);
 395 void mpi_type_dup_ (int*  datatype, int* newdatatype, int* ierr);
 396 void mpi_type_set_name_ (int*  datatype, char * name, int* ierr, int size);
 397 void mpi_type_get_name_ (int*  datatype, char * name, int* len, int* ierr);
 398 void mpi_type_get_attr_ (int* type, int* type_keyval, void *attribute_val, int* flag, int* ierr);
 399 void mpi_type_set_attr_ (int* type, int* type_keyval, void *attribute_val, int* ierr);
 400 void mpi_type_delete_attr_ (int* type, int* type_keyval, int* ierr);
 401 void mpi_type_create_keyval_ (void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 402 void mpi_type_free_keyval_ (int* keyval, int* ierr) ;
 403 void mpi_pcontrol_ (int* level , int* ierr);
 404 void mpi_type_get_extent_ (int* datatype, MPI_Aint * lb, MPI_Aint * extent, int* ierr);
 405 void mpi_type_get_true_extent_ (int* datatype, MPI_Aint * lb, MPI_Aint * extent, int* ierr);
 406 void mpi_op_create_ (void * function, int* commute, int* op, int* ierr);
 407 void mpi_op_free_ (int* op, int* ierr);
 408 void mpi_group_free_ (int* group, int* ierr);
 409 void mpi_group_size_ (int* group, int *size, int* ierr);
 410 void mpi_group_rank_ (int* group, int *rank, int* ierr);
 411 void mpi_group_translate_ranks_ (int* group1, int* n, int *ranks1, int* group2, int *ranks2, int* ierr);
 412 void mpi_group_compare_ (int* group1, int* group2, int *result, int* ierr);
 413 void mpi_group_union_ (int* group1, int* group2, int* newgroup, int* ierr);
 414 void mpi_group_intersection_ (int* group1, int* group2, int* newgroup, int* ierr);
 415 void mpi_group_difference_ (int* group1, int* group2, int* newgroup, int* ierr);
 416 void mpi_group_excl_ (int* group, int* n, int *ranks, int* newgroup, int* ierr);
 417 void mpi_group_range_incl_ (int* group, int* n, int ranges[][3], int* newgroup, int* ierr);
 418 void mpi_group_range_excl_ (int* group, int* n, int ranges[][3], int* newgroup, int* ierr);
 419 void mpi_comm_get_attr_ (int* comm, int* comm_keyval, void *attribute_val, int *flag, int* ierr);
 420 void mpi_comm_set_attr_ (int* comm, int* comm_keyval, void *attribute_val, int* ierr);
 421 void mpi_comm_delete_attr_ (int* comm, int* comm_keyval, int* ierr);
 422 void mpi_comm_create_keyval_ (void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 423 void mpi_comm_free_keyval_ (int* keyval, int* ierr) ;
 424 void mpi_comm_get_name_ (int* comm, char* name, int* len, int* ierr);
 425 void mpi_comm_compare_ (int* comm1, int* comm2, int *result, int* ierr);
 426 void mpi_comm_disconnect_ (int* comm, int* ierr);
 427 void mpi_request_free_ (int* request, int* ierr);
 428 void mpi_sendrecv_replace_ (void *buf, int* count, int* datatype, int* dst, int* sendtag, int* src, int* recvtag,
 429  int* comm, MPI_Status* status, int* ierr);
 430 void mpi_testany_ (int* count, int* requests, int *index, int *flag, MPI_Status* status, int* ierr);
 431 void mpi_waitsome_ (int* incount, int* requests, int *outcount, int *indices, MPI_Status* status, int* ierr);
 432 void mpi_reduce_local_ (void *inbuf, void *inoutbuf, int* count, int* datatype, int* op, int* ierr);
 433 void mpi_reduce_scatter_block_ (void *sendbuf, void *recvbuf, int* recvcount, int* datatype, int* op, int* comm,
 434                                 int* ierr);
 435 void mpi_pack_size_ (int* incount, int* datatype, int* comm, int* size, int* ierr) ;
 436 void mpi_cart_coords_ (int* comm, int* rank, int* maxdims, int* coords, int* ierr) ;
 437 void mpi_cart_create_ (int* comm_old, int* ndims, int* dims, int* periods, int* reorder, int*  comm_cart, int* ierr) ;
 438 void mpi_cart_get_ (int* comm, int* maxdims, int* dims, int* periods, int* coords, int* ierr) ;
 439 void mpi_cart_map_ (int* comm_old, int* ndims, int* dims, int* periods, int* newrank, int* ierr) ;
 440 void mpi_cart_rank_ (int* comm, int* coords, int* rank, int* ierr) ;
 441 void mpi_cart_shift_ (int* comm, int* direction, int* displ, int* source, int* dest, int* ierr) ;
 442 void mpi_cart_sub_ (int* comm, int* remain_dims, int*  comm_new, int* ierr) ;
 443 void mpi_cartdim_get_ (int* comm, int* ndims, int* ierr) ;
 444 void mpi_graph_create_ (int* comm_old, int* nnodes, int* index, int* edges, int* reorder, int*  comm_graph, int* ierr) ;
 445 void mpi_graph_get_ (int* comm, int* maxindex, int* maxedges, int* index, int* edges, int* ierr) ;
 446 void mpi_graph_map_ (int* comm_old, int* nnodes, int* index, int* edges, int* newrank, int* ierr) ;
 447 void mpi_graph_neighbors_ (int* comm, int* rank, int* maxneighbors, int* neighbors, int* ierr) ;
 448 void mpi_graph_neighbors_count_ (int* comm, int* rank, int* nneighbors, int* ierr) ;
 449 void mpi_graphdims_get_ (int* comm, int* nnodes, int* nedges, int* ierr) ;
 450 void mpi_topo_test_ (int* comm, int* top_type, int* ierr) ;
 451 void mpi_error_class_ (int* errorcode, int* errorclass, int* ierr) ;
 452 void mpi_errhandler_create_ (void* function, void* errhandler, int* ierr) ;
 453 void mpi_errhandler_free_ (void* errhandler, int* ierr) ;
 454 void mpi_errhandler_get_ (int* comm, void* errhandler, int* ierr) ;
 455 void mpi_errhandler_set_ (int* comm, void* errhandler, int* ierr) ;
 456 void mpi_comm_set_errhandler_ (int* comm, void* errhandler, int* ierr) ;
 457 void mpi_comm_get_errhandler_ (int* comm, void* errhandler, int* ierr) ;
 458 void mpi_type_contiguous_ (int* count, int* old_type, int*  newtype, int* ierr) ;
 459 void mpi_cancel_ (int*  request, int* ierr) ;
 460 void mpi_buffer_attach_ (void* buffer, int* size, int* ierr) ;
 461 void mpi_buffer_detach_ (void* buffer, int* size, int* ierr) ;
 462 void mpi_testsome_ (int* incount, int*  requests, int* outcount, int* indices, MPI_Status*  statuses, int* ierr) ;
 463 void mpi_comm_test_inter_ (int* comm, int* flag, int* ierr) ;
 464 void mpi_unpack_ (void* inbuf, int* insize, int* position, void* outbuf, int* outcount, int* type, int* comm,
 465                   int* ierr) ;
 466 void mpi_pack_external_size_ (char *datarep, int* incount, int* datatype, MPI_Aint *size, int* ierr);
 467 void mpi_pack_external_ (char *datarep, void *inbuf, int* incount, int* datatype, void *outbuf, MPI_Aint* outcount,
 468                          MPI_Aint *position, int* ierr);
 469 void mpi_unpack_external_ (char *datarep, void *inbuf, MPI_Aint* insize, MPI_Aint *position, void *outbuf,
 470                            int* outcount, int* datatype, int* ierr);
 471 void mpi_type_hindexed_ (int* count, int* blocklens, MPI_Aint* indices, int* old_type, int*  newtype, int* ierr) ;
 472 void mpi_type_create_hindexed_ (int* count, int* blocklens, MPI_Aint* indices, int* old_type, int*  newtype, int* ierr);
 473 void mpi_type_create_hindexed_block_ (int* count, int* blocklength, MPI_Aint* indices, int* old_type, int*  newtype,
 474                                       int* ierr) ;
 475 void mpi_type_indexed_ (int* count, int* blocklens, int* indices, int* old_type, int*  newtype, int* ierr) ;
 476 void mpi_type_create_indexed_block_ (int* count, int* blocklength, int* indices,  int* old_type,  int*newtype,
 477                                      int* ierr);
 478 void mpi_type_struct_ (int* count, int* blocklens, MPI_Aint* indices, int*  old_types, int*  newtype, int* ierr) ;
 479 void mpi_type_create_struct_ (int* count, int* blocklens, MPI_Aint* indices, int*  old_types, int*  newtype, int* ierr);
 480 void mpi_ssend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* ierr) ;
 481 void mpi_ssend_init_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 482 void mpi_intercomm_create_ (int* local_comm, int* local_leader, int* peer_comm, int* remote_leader, int* tag,
 483                             int* comm_out, int* ierr) ;
 484 void mpi_intercomm_merge_ (int* comm, int* high, int*  comm_out, int* ierr) ;
 485 void mpi_bsend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* ierr) ;
 486 void mpi_bsend_init_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 487 void mpi_ibsend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 488 void mpi_comm_remote_group_ (int* comm, int*  group, int* ierr) ;
 489 void mpi_comm_remote_size_ (int* comm, int* size, int* ierr) ;
 490 void mpi_issend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 491 void mpi_probe_ (int* source, int* tag, int* comm, MPI_Status* status, int* ierr) ;
 492 void mpi_attr_delete_ (int* comm, int* keyval, int* ierr) ;
 493 void mpi_attr_put_ (int* comm, int* keyval, void* attr_value, int* ierr) ;
 494 void mpi_rsend_init_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 495 void mpi_keyval_create_ (void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr) ;
 496 void mpi_keyval_free_ (int* keyval, int* ierr) ;
 497 void mpi_test_cancelled_ (MPI_Status* status, int* flag, int* ierr) ;
 498 void mpi_pack_ (void* inbuf, int* incount, int* type, void* outbuf, int* outcount, int* position, int* comm, int* ierr);
 499 void mpi_get_elements_ (MPI_Status* status, int* datatype, int* elements, int* ierr) ;
 500 void mpi_dims_create_ (int* nnodes, int* ndims, int* dims, int* ierr) ;
 501 void mpi_iprobe_ (int* source, int* tag, int* comm, int* flag, MPI_Status* status, int* ierr) ;
 502 void mpi_type_get_envelope_ ( int* datatype, int *num_integers, int *num_addresses, int *num_datatypes, int *combiner,
 503                               int* ierr);
 504 void mpi_type_get_contents_ (int* datatype, int* max_integers, int* max_addresses, int* max_datatypes,
 505                              int* array_of_integers, MPI_Aint* array_of_addresses,
 506  int*array_of_datatypes, int* ierr);
 507 void mpi_type_create_darray_ (int* size, int* rank, int* ndims, int* array_of_gsizes, int* array_of_distribs,
 508                               int* array_of_dargs, int* array_of_psizes,
 509  int* order, int* oldtype, int*newtype, int* ierr) ;
 510 void mpi_type_create_resized_ (int* oldtype,MPI_Aint* lb, MPI_Aint* extent, int*newtype, int* ierr);
 511 void mpi_type_create_subarray_ (int* ndims,int *array_of_sizes, int *array_of_subsizes, int *array_of_starts,
 512                                 int* order, int* oldtype, int*newtype, int* ierr);
 513 void mpi_type_match_size_ (int* typeclass,int* size,int*datatype, int* ierr);
 514 void mpi_alltoallw_ ( void *sendbuf, int *sendcnts, int *sdispls, int*sendtypes, void *recvbuf, int *recvcnts,
 515                       int *rdispls, int*recvtypes, int* comm, int* ierr);
 516 void mpi_exscan_ (void *sendbuf, void *recvbuf, int* count, int* datatype, int* op, int* comm, int* ierr);
 517 void mpi_comm_set_name_ (int* comm, char* name, int* ierr, int size);
 518 void mpi_comm_dup_with_info_ (int* comm, int* info, int* newcomm, int* ierr);
 519 void mpi_comm_split_type_ (int* comm, int* split_type, int* key, int* info, int*newcomm, int* ierr);
 520 void mpi_comm_set_info_ (int* comm, int* info, int* ierr);
 521 void mpi_comm_get_info_ (int* comm, int* info, int* ierr);
 522 void mpi_info_get_ (int* info,char *key,int* valuelen, char *value, int *flag, int* ierr, unsigned int keylen);
 523 void mpi_comm_create_errhandler_ ( void *function, void *errhandler, int* ierr);
 524 void mpi_add_error_class_ ( int *errorclass, int* ierr);
 525 void mpi_add_error_code_ (  int* errorclass, int *errorcode, int* ierr);
 526 void mpi_add_error_string_ ( int* errorcode, char *string, int* ierr);
 527 void mpi_comm_call_errhandler_ (int* comm,int* errorcode, int* ierr);
 528 void mpi_info_dup_ (int* info, int* newinfo, int* ierr);
 529 void mpi_info_get_valuelen_ ( int* info, char *key, int *valuelen, int *flag, int* ierr, unsigned int keylen);
 530 void mpi_info_delete_ (int* info, char *key, int* ierr, unsigned int keylen);
 531 void mpi_info_get_nkeys_ ( int* info, int *nkeys, int* ierr);
 532 void mpi_info_get_nthkey_ ( int* info, int* n, char *key, int* ierr, unsigned int keylen);
 533 void mpi_get_version_ (int *version,int *subversion, int* ierr);
 534 void mpi_get_library_version_ (char *version,int *len, int* ierr);
 535 void mpi_request_get_status_ ( int* request, int *flag, MPI_Status* status, int* ierr);
 536 void mpi_grequest_start_ ( void *query_fn, void *free_fn, void *cancel_fn, void *extra_state, int*request, int* ierr);
 537 void mpi_grequest_complete_ ( int* request, int* ierr);
 538 void mpi_status_set_cancelled_ (MPI_Status* status,int* flag, int* ierr);
 539 void mpi_status_set_elements_ ( MPI_Status* status, int* datatype, int* count, int* ierr);
 540 void mpi_comm_connect_ ( char *port_name, int* info, int* root, int* comm, int* newcomm, int* ierr);
 541 void mpi_publish_name_ ( char *service_name, int* info, char *port_name, int* ierr);
 542 void mpi_unpublish_name_ ( char *service_name, int* info, char *port_name, int* ierr);
 543 void mpi_lookup_name_ ( char *service_name, int* info, char *port_name, int* ierr);
 544 void mpi_comm_join_ ( int* fd, int*intercomm, int* ierr);
 545 void mpi_open_port_ ( int* info, char *port_name, int* ierr);
 546 void mpi_close_port_ ( char *port_name, int* ierr);
 547 void mpi_comm_accept_ ( char *port_name, int* info, int* root, int* comm, int* newcomm, int* ierr);
 548 void mpi_comm_spawn_ ( char *command, char *argv, int* maxprocs, int* info, int* root, int* comm, int*intercomm,
 549                        int* array_of_errcodes, int* ierr);
 550 void mpi_comm_spawn_multiple_ ( int* count, char *array_of_commands, char** array_of_argv, int* array_of_maxprocs,
 551                        int* array_of_info, int* root, int* comm, int*intercomm, int* array_of_errcodes, int* ierr);
 552 void mpi_comm_get_parent_ ( int*parent, int* ierr);
 553 void mpi_file_close_ ( int* file, int* ierr);
 554 void mpi_file_delete_ ( char* filename, int* info, int* ierr);
 555 void mpi_file_open_ ( int* comm, char* filename, int* amode, int* info, int* fh, int* ierr);
 556 void mpi_file_set_view_ ( int* fh, long long int* offset, int* etype, int* filetype, char* datarep, int* info, int* ierr);
 557 void mpi_file_read_ ( int* fh, void* buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 558 void mpi_file_write_ ( int* fh, void* buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 559
 560 /********** Tracing **********/
 561 /* from instr_smpi.c */
 562 XBT_PRIVATE void TRACE_internal_smpi_set_category (const char *category);
 563 XBT_PRIVATE const char *TRACE_internal_smpi_get_category ();
 564 XBT_PRIVATE void TRACE_smpi_collective_in(int rank, int root, const char *operation, instr_extra_data extra);
 565 XBT_PRIVATE void TRACE_smpi_collective_out(int rank, int root, const char *operation);
 566 XBT_PRIVATE void TRACE_smpi_computing_init(int rank);
 567 XBT_PRIVATE void TRACE_smpi_computing_out(int rank);
 568 XBT_PRIVATE void TRACE_smpi_computing_in(int rank, instr_extra_data extra);
 569 XBT_PRIVATE void TRACE_smpi_sleeping_init(int rank);
 570 XBT_PRIVATE void TRACE_smpi_sleeping_out(int rank);
 571 XBT_PRIVATE void TRACE_smpi_sleeping_in(int rank, instr_extra_data extra);
 572 XBT_PRIVATE void TRACE_smpi_testing_out(int rank);
 573 XBT_PRIVATE void TRACE_smpi_testing_in(int rank, instr_extra_data extra);
 574 XBT_PRIVATE void TRACE_smpi_alloc();
 575 XBT_PRIVATE void TRACE_smpi_release();
 576 XBT_PRIVATE void TRACE_smpi_ptp_in(int rank, int src, int dst, const char *operation,  instr_extra_data extra);
 577 XBT_PRIVATE void TRACE_smpi_ptp_out(int rank, int src, int dst, const char *operation);
 578 XBT_PRIVATE void TRACE_smpi_send(int rank, int src, int dst, int tag, int size);
 579 XBT_PRIVATE void TRACE_smpi_recv(int rank, int src, int dst, int tag);
 580 XBT_PRIVATE void TRACE_smpi_init(int rank);
 581 XBT_PRIVATE void TRACE_smpi_finalize(int rank);
 582 XBT_PRIVATE char *smpi_container(int rank, char *container, int n);
 583
 584 XBT_PRIVATE const char* encode_datatype(MPI_Datatype datatype, int* known);
 585
 586 // TODO, make this static and expose it more cleanly
 587
 588 typedef struct s_smpi_privatisation_region {
 589   void* address;
 590   int file_descriptor;
 591 } s_smpi_privatisation_region_t, *smpi_privatisation_region_t;
 592
 593 extern XBT_PRIVATE smpi_privatisation_region_t smpi_privatisation_regions;
 594 extern XBT_PRIVATE int smpi_loaded_page;
 595 extern XBT_PRIVATE int smpi_universe_size;
 596
 597 XBT_PRIVATE int SIMIX_process_get_PID(smx_actor_t self);
 598
 599 static inline __attribute__ ((always_inline))
 600 int smpi_process_index_of_smx_process(smx_actor_t process) {
 601   return SIMIX_process_get_PID(process) -1;
 602 }
 603
 604 SG_END_DECL()
 605 #endif