mca_btl_ugni_component 301 opal/mca/btl/ugni/btl_ugni.h OPAL_MODULE_DECLSPEC extern mca_btl_ugni_component_t mca_btl_ugni_component; mca_btl_ugni_component 309 opal/mca/btl/ugni/btl_ugni.h return opal_atomic_fetch_add_32 ((volatile int32_t *) &device_index, 1) % mca_btl_ugni_component.virtual_device_count; mca_btl_ugni_component 572 opal/mca/btl/ugni/btl_ugni.h if (mca_btl_ugni_component.bind_threads_to_devices) { mca_btl_ugni_component 588 opal/mca/btl/ugni/btl_ugni.h const int device_count = mca_btl_ugni_component.virtual_device_count; mca_btl_ugni_component 80 opal/mca/btl/ugni/btl_ugni_add_procs.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 82 opal/mca/btl/ugni/btl_ugni_add_procs.c rc = GNI_CqCreate (device->dev_handle, mca_btl_ugni_component.local_rdma_cq_size, 0, mca_btl_ugni_component 89 opal/mca/btl/ugni/btl_ugni_add_procs.c rc = GNI_CqCreate (device->dev_handle, mca_btl_ugni_component.local_cq_size, mca_btl_ugni_component 96 opal/mca/btl/ugni/btl_ugni_add_procs.c if (mca_btl_ugni_component.progress_thread_enabled) { mca_btl_ugni_component 97 opal/mca/btl/ugni/btl_ugni_add_procs.c rc = GNI_CqCreate (device->dev_handle, mca_btl_ugni_component.local_rdma_cq_size, mca_btl_ugni_component 106 opal/mca/btl/ugni/btl_ugni_add_procs.c rc = GNI_CqCreate (ugni_module->devices[0].dev_handle, mca_btl_ugni_component.remote_cq_size, mca_btl_ugni_component 113 opal/mca/btl/ugni/btl_ugni_add_procs.c if (mca_btl_ugni_component.progress_thread_enabled) { mca_btl_ugni_component 114 opal/mca/btl/ugni/btl_ugni_add_procs.c rc = GNI_CqCreate (ugni_module->devices[0].dev_handle, mca_btl_ugni_component.remote_cq_size, mca_btl_ugni_component 142 opal/mca/btl/ugni/btl_ugni_add_procs.c if (mca_btl_ugni_component.progress_thread_enabled) { mca_btl_ugni_component 328 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_smsg_limit, mca_btl_ugni_component 330 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_free_list_num, mca_btl_ugni_component 331 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_free_list_max, mca_btl_ugni_component 332 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_free_list_inc, mca_btl_ugni_component 344 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_free_list_num, mca_btl_ugni_component 345 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_free_list_max, mca_btl_ugni_component 346 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_free_list_inc, mca_btl_ugni_component 363 opal/mca/btl/ugni/btl_ugni_add_procs.c ugni_module->super.btl_mpool = mca_mpool_base_module_lookup (mca_btl_ugni_component.mpool_hints); mca_btl_ugni_component 365 opal/mca/btl/ugni/btl_ugni_add_procs.c BTL_ERROR(("could not find mpool matching hints %s", mca_btl_ugni_component.mpool_hints)); mca_btl_ugni_component 375 opal/mca/btl/ugni/btl_ugni_add_procs.c if (MCA_BTL_UGNI_RCACHE_UDREG == mca_btl_ugni_component.rcache_type) { mca_btl_ugni_component 399 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_eager_num, mca_btl_ugni_component 400 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_eager_max, mca_btl_ugni_component 401 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_eager_inc, mca_btl_ugni_component 414 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_eager_num, mca_btl_ugni_component 415 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_eager_max, mca_btl_ugni_component 416 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_eager_inc, mca_btl_ugni_component 425 opal/mca/btl/ugni/btl_ugni_add_procs.c if (0 == mca_btl_ugni_component.mbox_increment) { mca_btl_ugni_component 428 opal/mca/btl/ugni/btl_ugni_add_procs.c mbox_increment = (unsigned int) (2097152.0 / (float)mca_btl_ugni_component.smsg_mbox_size); mca_btl_ugni_component 435 opal/mca/btl/ugni/btl_ugni_add_procs.c mbox_increment = mca_btl_ugni_component.mbox_increment; mca_btl_ugni_component 442 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.smsg_mbox_size, 128, mca_btl_ugni_component 457 opal/mca/btl/ugni/btl_ugni_add_procs.c if (0 == mca_btl_ugni_component.max_mem_reg) { mca_btl_ugni_component 463 opal/mca/btl/ugni/btl_ugni_add_procs.c grc = GNI_GetJobResInfo (0, mca_btl_ugni_component.ptag, mca_btl_ugni_component 480 opal/mca/btl/ugni/btl_ugni_add_procs.c } else if (-1 == mca_btl_ugni_component.max_mem_reg) { mca_btl_ugni_component 483 opal/mca/btl/ugni/btl_ugni_add_procs.c ugni_module->reg_max = mca_btl_ugni_component.max_mem_reg; mca_btl_ugni_component 495 opal/mca/btl/ugni/btl_ugni_add_procs.c if (0 == mca_btl_ugni_component.ugni_smsg_limit) { mca_btl_ugni_component 498 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_smsg_limit = 8192; mca_btl_ugni_component 500 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_smsg_limit = 2048; mca_btl_ugni_component 502 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_smsg_limit = 1024; mca_btl_ugni_component 504 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_smsg_limit = 512; mca_btl_ugni_component 506 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.ugni_smsg_limit = 256; mca_btl_ugni_component 510 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.smsg_max_data = mca_btl_ugni_component.ugni_smsg_limit - mca_btl_ugni_component 513 opal/mca/btl/ugni/btl_ugni_add_procs.c if (mca_btl_ugni_component.ugni_smsg_limit == mca_btl_ugni_module.super.btl_eager_limit) { mca_btl_ugni_component 514 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_module.super.btl_eager_limit = mca_btl_ugni_component.smsg_max_data; mca_btl_ugni_component 519 opal/mca/btl/ugni/btl_ugni_add_procs.c tmp_smsg_attrib.msg_maxsize = mca_btl_ugni_component.ugni_smsg_limit; mca_btl_ugni_component 520 opal/mca/btl/ugni/btl_ugni_add_procs.c tmp_smsg_attrib.mbox_maxcredit = mca_btl_ugni_component.smsg_max_credits; mca_btl_ugni_component 528 opal/mca/btl/ugni/btl_ugni_add_procs.c mca_btl_ugni_component.smsg_mbox_size = OPAL_ALIGN(mbox_size, 64, unsigned int); mca_btl_ugni_component 39 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component_t mca_btl_ugni_component = { mca_btl_ugni_component 87 opal/mca/btl/ugni/btl_ugni_component.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 88 opal/mca/btl/ugni/btl_ugni_component.c rc = GNI_GetNicStat (mca_btl_ugni_component.modules[0].devices[i].dev_handle, statistic, mca_btl_ugni_component 99 opal/mca/btl/ugni/btl_ugni_component.c *count = mca_btl_ugni_component.virtual_device_count; mca_btl_ugni_component 112 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_var_group_component_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 115 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_free_list_num = 8; mca_btl_ugni_component 116 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 120 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_free_list_num); mca_btl_ugni_component 121 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_free_list_max = 4096; mca_btl_ugni_component 122 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 126 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_free_list_max); mca_btl_ugni_component 127 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_free_list_inc = 64; mca_btl_ugni_component 128 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 132 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_free_list_inc); mca_btl_ugni_component 134 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_eager_num = 16; mca_btl_ugni_component 135 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 139 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_eager_num); mca_btl_ugni_component 140 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_eager_max = 128; mca_btl_ugni_component 141 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 145 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_eager_max); mca_btl_ugni_component 146 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_eager_inc = 16; mca_btl_ugni_component 147 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 151 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_eager_inc); mca_btl_ugni_component 153 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.remote_cq_size = 40000; mca_btl_ugni_component 154 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 159 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.remote_cq_size); mca_btl_ugni_component 161 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.local_cq_size = 8192; mca_btl_ugni_component 162 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 167 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.local_cq_size); mca_btl_ugni_component 169 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.local_rdma_cq_size = 1024; mca_btl_ugni_component 170 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 175 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.local_rdma_cq_size); mca_btl_ugni_component 177 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_smsg_limit = 0; mca_btl_ugni_component 178 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 185 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_smsg_limit); mca_btl_ugni_component 187 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.smsg_max_credits = 32; mca_btl_ugni_component 188 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 194 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.smsg_max_credits); mca_btl_ugni_component 197 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.bind_threads_to_devices = true; mca_btl_ugni_component 199 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 206 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.bind_threads_to_devices); mca_btl_ugni_component 209 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_limit = -1; mca_btl_ugni_component 210 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 217 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_fma_limit); mca_btl_ugni_component 219 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_get_limit = 2048; mca_btl_ugni_component 220 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 228 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_fma_get_limit); mca_btl_ugni_component 230 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_put_limit = 4096; mca_btl_ugni_component 231 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 239 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.ugni_fma_put_limit); mca_btl_ugni_component 241 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.rdma_max_retries = 16; mca_btl_ugni_component 242 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 246 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.rdma_max_retries); mca_btl_ugni_component 248 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.smsg_max_retries = 16; mca_btl_ugni_component 249 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 253 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.smsg_max_retries); mca_btl_ugni_component 255 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.max_mem_reg = 0; mca_btl_ugni_component 256 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 263 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.max_mem_reg); mca_btl_ugni_component 265 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.mbox_increment = 0; mca_btl_ugni_component 266 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 271 opal/mca/btl/ugni/btl_ugni_component.c MCA_BASE_VAR_SCOPE_LOCAL, &mca_btl_ugni_component.mbox_increment); mca_btl_ugni_component 279 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.cdm_flags = GNI_CDM_MODE_FORK_PARTCOPY | GNI_CDM_MODE_ERR_NO_KILL | GNI_CDM_MODE_FAST_DATAGRAM_POLL | mca_btl_ugni_component 281 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.cdm_flags_id = mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 287 opal/mca/btl/ugni/btl_ugni_component.c MCA_BASE_VAR_SCOPE_LOCAL, &mca_btl_ugni_component.cdm_flags); mca_btl_ugni_component 290 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.virtual_device_count = 0; mca_btl_ugni_component 291 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 296 opal/mca/btl/ugni/btl_ugni_component.c MCA_BASE_VAR_SCOPE_LOCAL, &mca_btl_ugni_component.virtual_device_count); mca_btl_ugni_component 302 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.smsg_page_size = 2 << 20; mca_btl_ugni_component 313 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.smsg_page_size = mca_btl_ugni_ugni_page_size; mca_btl_ugni_component 318 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 321 opal/mca/btl/ugni/btl_ugni_component.c MCA_BASE_VAR_SCOPE_LOCAL, &mca_btl_ugni_component.smsg_page_size); mca_btl_ugni_component 323 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.progress_thread_requested = 0; mca_btl_ugni_component 324 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 331 opal/mca/btl/ugni/btl_ugni_component.c &mca_btl_ugni_component.progress_thread_requested); mca_btl_ugni_component 335 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_pvar_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 359 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_pvar_register (&mca_btl_ugni_component.super.btl_version, name, desc, mca_btl_ugni_component 375 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.rcache_type = MCA_BTL_UGNI_RCACHE_GRDMA; mca_btl_ugni_component 376 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 379 opal/mca/btl/ugni/btl_ugni_component.c MCA_BASE_VAR_SCOPE_LOCAL, &mca_btl_ugni_component.rcache_type); mca_btl_ugni_component 388 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.mpool_hints = mpool_hints_tmp; mca_btl_ugni_component 390 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.mpool_hints = "page_size=2M"; mca_btl_ugni_component 393 opal/mca/btl/ugni/btl_ugni_component.c (void) mca_base_component_var_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 397 opal/mca/btl/ugni/btl_ugni_component.c MCA_BASE_VAR_SCOPE_LOCAL, &mca_btl_ugni_component.mpool_hints); mca_btl_ugni_component 441 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_module.super.btl_put_local_registration_threshold = mca_btl_ugni_component.ugni_fma_put_limit; mca_btl_ugni_component 444 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_base_param_register(&mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 453 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_num_btls = 0; mca_btl_ugni_component 454 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.modules = NULL; mca_btl_ugni_component 467 opal/mca/btl/ugni/btl_ugni_component.c free (mca_btl_ugni_component.modules); mca_btl_ugni_component 468 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.modules = NULL; mca_btl_ugni_component 482 opal/mca/btl/ugni/btl_ugni_component.c if (16384 < mca_btl_ugni_component.ugni_smsg_limit) { mca_btl_ugni_component 483 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_smsg_limit = 16384; mca_btl_ugni_component 486 opal/mca/btl/ugni/btl_ugni_component.c if (65536 < mca_btl_ugni_component.ugni_fma_limit) { mca_btl_ugni_component 487 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_limit = 65536; mca_btl_ugni_component 490 opal/mca/btl/ugni/btl_ugni_component.c if (-1 != mca_btl_ugni_component.ugni_fma_limit) { mca_btl_ugni_component 491 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_get_limit = mca_btl_ugni_component.ugni_fma_limit; mca_btl_ugni_component 492 opal/mca/btl/ugni/btl_ugni_component.c } else if (65536 < mca_btl_ugni_component.ugni_fma_get_limit) { mca_btl_ugni_component 493 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_get_limit = 65536; mca_btl_ugni_component 496 opal/mca/btl/ugni/btl_ugni_component.c if (-1 != mca_btl_ugni_component.ugni_fma_limit) { mca_btl_ugni_component 497 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_put_limit = mca_btl_ugni_component.ugni_fma_limit; mca_btl_ugni_component 498 opal/mca/btl/ugni/btl_ugni_component.c } else if (65536 < mca_btl_ugni_component.ugni_fma_put_limit) { mca_btl_ugni_component 499 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_fma_put_limit = 65536; mca_btl_ugni_component 502 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_module.super.btl_put_local_registration_threshold = mca_btl_ugni_component.ugni_fma_put_limit; mca_btl_ugni_component 505 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.active_rdma_threshold = mca_btl_ugni_component.local_rdma_cq_size; mca_btl_ugni_component 507 opal/mca/btl/ugni/btl_ugni_component.c if (enable_mpi_threads && mca_btl_ugni_component.progress_thread_requested) { mca_btl_ugni_component 508 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.progress_thread_enabled = 1; mca_btl_ugni_component 518 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.ugni_num_btls = 1; mca_btl_ugni_component 522 opal/mca/btl/ugni/btl_ugni_component.c ugni_modules = mca_btl_ugni_component.modules = (mca_btl_ugni_module_t *) mca_btl_ugni_component 523 opal/mca/btl/ugni/btl_ugni_component.c calloc (mca_btl_ugni_component.ugni_num_btls, sizeof (mca_btl_ugni_module_t)); mca_btl_ugni_component 525 opal/mca/btl/ugni/btl_ugni_component.c if (OPAL_UNLIKELY(NULL == mca_btl_ugni_component.modules)) { mca_btl_ugni_component 531 opal/mca/btl/ugni/btl_ugni_component.c calloc (mca_btl_ugni_component.ugni_num_btls, mca_btl_ugni_component 538 opal/mca/btl/ugni/btl_ugni_component.c if (mca_btl_ugni_component.smsg_page_size != (unsigned long) opal_getpagesize ()) { mca_btl_ugni_component 539 opal/mca/btl/ugni/btl_ugni_component.c if (mca_btl_ugni_ugni_page_size > mca_btl_ugni_component.smsg_page_size) { mca_btl_ugni_component 540 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_component.smsg_page_size = mca_btl_ugni_ugni_page_size; mca_btl_ugni_component 555 opal/mca/btl/ugni/btl_ugni_component.c *num_btl_modules = mca_btl_ugni_component.ugni_num_btls; mca_btl_ugni_component 564 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_module_t *ugni_module = mca_btl_ugni_component.modules; mca_btl_ugni_component 703 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_module_t *ugni_module = mca_btl_ugni_component.modules; mca_btl_ugni_component 712 opal/mca/btl/ugni/btl_ugni_component.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 724 opal/mca/btl/ugni/btl_ugni_component.c if (mca_btl_ugni_component.progress_thread_enabled && device->dev_rdma_local_irq_cq.active_operations) { mca_btl_ugni_component 734 opal/mca/btl/ugni/btl_ugni_component.c mca_btl_ugni_module_t *ugni_module = mca_btl_ugni_component.modules; mca_btl_ugni_component 736 opal/mca/btl/ugni/btl_ugni_component.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 321 opal/mca/btl/ugni/btl_ugni_device.h rdma_desc->btl_ugni_desc.cq = mca_btl_ugni_component.progress_thread_enabled ? &device->dev_rdma_local_irq_cq : mca_btl_ugni_component 44 opal/mca/btl/ugni/btl_ugni_endpoint.c OPAL_MODEX_RECV(rc, &mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 129 opal/mca/btl/ugni/btl_ugni_endpoint.h return mca_btl_ugni_component.modules; mca_btl_ugni_component 85 opal/mca/btl/ugni/btl_ugni_frag.c mca_btl_ugni_module_t *ugni_module = mca_btl_ugni_component.modules; mca_btl_ugni_component 122 opal/mca/btl/ugni/btl_ugni_init.c rc = GNI_CdmCreate (mca_btl_ugni_component.cdm_id_base | virtual_device_id, mca_btl_ugni_component.ptag, mca_btl_ugni_component 123 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.cookie, mca_btl_ugni_component.cdm_flags, &device->dev_cd_handle); mca_btl_ugni_component 133 opal/mca/btl/ugni/btl_ugni_init.c OPAL_OUTPUT((-1, "Got NIC Addr: 0x%08x, CPU ID: %d", mca_btl_ugni_component.dev_addr, 0)); mca_btl_ugni_component 144 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.local_rdma_cq_size, 32, mca_btl_ugni_component 212 opal/mca/btl/ugni/btl_ugni_init.c modex.addr = mca_btl_ugni_component.dev_addr; mca_btl_ugni_component 213 opal/mca/btl/ugni/btl_ugni_init.c modex.id = mca_btl_ugni_component.cdm_id_base; mca_btl_ugni_component 225 opal/mca/btl/ugni/btl_ugni_init.c &mca_btl_ugni_component.super.btl_version, mca_btl_ugni_component 244 opal/mca/btl/ugni/btl_ugni_init.c if (0 == mca_btl_ugni_component.virtual_device_count) { mca_btl_ugni_component 253 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.virtual_device_count = 1; mca_btl_ugni_component 255 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.virtual_device_count = core_count / (opal_process_info.num_local_peers + 1); mca_btl_ugni_component 259 opal/mca/btl/ugni/btl_ugni_init.c if (MCA_BTL_UGNI_MAX_DEV_HANDLES < mca_btl_ugni_component.virtual_device_count) { mca_btl_ugni_component 260 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.virtual_device_count = MCA_BTL_UGNI_MAX_DEV_HANDLES; mca_btl_ugni_component 263 opal/mca/btl/ugni/btl_ugni_init.c if (0 == mca_btl_ugni_component.local_rdma_cq_size) { mca_btl_ugni_component 264 opal/mca/btl/ugni/btl_ugni_init.c if (1 == mca_btl_ugni_component.virtual_device_count) { mca_btl_ugni_component 265 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.local_rdma_cq_size = 2048; mca_btl_ugni_component 267 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.local_rdma_cq_size = 256; mca_btl_ugni_component 271 opal/mca/btl/ugni/btl_ugni_init.c if ((mca_btl_ugni_component.virtual_device_count * (1 + opal_process_info.num_local_peers)) < 122) { mca_btl_ugni_component 276 opal/mca/btl/ugni/btl_ugni_init.c mca_base_var_get_value (mca_btl_ugni_component.cdm_flags_id, NULL, &source, NULL); mca_btl_ugni_component 280 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.cdm_flags &= ~GNI_CDM_MODE_FMA_SHARED; mca_btl_ugni_component 281 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.cdm_flags |= GNI_CDM_MODE_FMA_DEDICATED; mca_btl_ugni_component 296 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.virtual_device_count = 1; mca_btl_ugni_component 297 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.cdm_id_base = getpid(); mca_btl_ugni_component 298 opal/mca/btl/ugni/btl_ugni_init.c } else if (bit >= 30 && mca_btl_ugni_component.virtual_device_count > 2) { mca_btl_ugni_component 299 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.virtual_device_count = 2; mca_btl_ugni_component 300 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.cdm_id_base = getpid() << 1; mca_btl_ugni_component 302 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.cdm_id_base = getpid() << 8; mca_btl_ugni_component 307 opal/mca/btl/ugni/btl_ugni_init.c rc = get_ptag(&mca_btl_ugni_component.ptag); mca_btl_ugni_component 312 opal/mca/btl/ugni/btl_ugni_init.c rc = get_cookie(&mca_btl_ugni_component.cookie); mca_btl_ugni_component 318 opal/mca/btl/ugni/btl_ugni_init.c mca_btl_ugni_component.dev_addr = mca_btl_ugni_get_nic_address (0); mca_btl_ugni_component 46 opal/mca/btl/ugni/btl_ugni_module.c .btl_component = &mca_btl_ugni_component.super, mca_btl_ugni_component 115 opal/mca/btl/ugni/btl_ugni_module.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 159 opal/mca/btl/ugni/btl_ugni_module.c if (mca_btl_ugni_component.progress_thread_enabled) { mca_btl_ugni_component 169 opal/mca/btl/ugni/btl_ugni_module.c if (mca_btl_ugni_component.progress_thread_enabled) { mca_btl_ugni_component 211 opal/mca/btl/ugni/btl_ugni_module.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 235 opal/mca/btl/ugni/btl_ugni_module.c if (size <= mca_btl_ugni_component.smsg_max_data) { mca_btl_ugni_component 259 opal/mca/btl/ugni/btl_ugni_module.c if (size > mca_btl_ugni_component.smsg_max_data) { mca_btl_ugni_component 352 opal/mca/btl/ugni/btl_ugni_module.c if (OPAL_UNLIKELY(++rdma_desc->tries >= mca_btl_ugni_component.rdma_max_retries || !recoverable)) { mca_btl_ugni_component 59 opal/mca/btl/ugni/btl_ugni_prepare.h bool use_eager_get = (*size + reserve) > mca_btl_ugni_component.smsg_max_data; mca_btl_ugni_component 117 opal/mca/btl/ugni/btl_ugni_prepare.h bool use_eager_get = (*size + reserve) > mca_btl_ugni_component.smsg_max_data; mca_btl_ugni_component 178 opal/mca/btl/ugni/btl_ugni_prepare.h bool use_eager_get = (*size + reserve) > mca_btl_ugni_component.smsg_max_data; mca_btl_ugni_component 35 opal/mca/btl/ugni/btl_ugni_progress_thread.c int cq_count = 1 + mca_btl_ugni_component.virtual_device_count; mca_btl_ugni_component 42 opal/mca/btl/ugni/btl_ugni_progress_thread.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 110 opal/mca/btl/ugni/btl_ugni_progress_thread.c ret = mca_btl_ugni_post_cqwrite (mca_btl_ugni_component.modules[0].local_ep, mca_btl_ugni_component 111 opal/mca/btl/ugni/btl_ugni_progress_thread.c &mca_btl_ugni_component.modules[0].devices[0].dev_rdma_local_cq, mca_btl_ugni_component 112 opal/mca/btl/ugni/btl_ugni_progress_thread.c mca_btl_ugni_component.modules[0].devices[0].smsg_irq_mhndl, mca_btl_ugni_component 90 opal/mca/btl/ugni/btl_ugni_rdma.h if (module->active_rdma_count >= mca_btl_ugni_component.active_rdma_threshold) { mca_btl_ugni_component 137 opal/mca/btl/ugni/btl_ugni_rdma.h const size_t fma_limit = (size_t) (get ? mca_btl_ugni_component.ugni_fma_get_limit : mca_btl_ugni_component 138 opal/mca/btl/ugni/btl_ugni_rdma.h mca_btl_ugni_component.ugni_fma_put_limit); mca_btl_ugni_component 24 opal/mca/btl/ugni/btl_ugni_smsg.c mbox->attr.smsg_attr.msg_maxsize = mca_btl_ugni_component.ugni_smsg_limit; mca_btl_ugni_component 25 opal/mca/btl/ugni/btl_ugni_smsg.c mbox->attr.smsg_attr.mbox_maxcredit = mca_btl_ugni_component.smsg_max_credits; mca_btl_ugni_component 28 opal/mca/btl/ugni/btl_ugni_smsg.c mbox->attr.smsg_attr.buff_size = mca_btl_ugni_component.smsg_mbox_size; mca_btl_ugni_component 31 opal/mca/btl/ugni/btl_ugni_smsg.c mbox->attr.rmt_irq_mem_hndl = mca_btl_ugni_component.modules[0].devices[0].smsg_irq_mhndl; mca_btl_ugni_component 42 opal/mca/btl/ugni/btl_ugni_smsg.c for (int i = 0 ; i < mca_btl_ugni_component.virtual_device_count ; ++i) { mca_btl_ugni_component 44 opal/mca/btl/ugni/btl_ugni_smsg.c mca_btl_ugni_component.smsg_max_retries); mca_btl_ugni_component 86 opal/mca/btl/ugni/btl_ugni_smsg.h if (mca_btl_ugni_component.progress_thread_enabled) {