lfrag 135 opal/mca/btl/usnic/btl_usnic_compat.c opal_btl_usnic_large_send_frag_t *lfrag, lfrag 150 opal/mca/btl/usnic/btl_usnic_compat.c assert(NULL != lfrag); lfrag 202 opal/mca/btl/usnic/btl_usnic_compat.c seg->ss_parent_frag = &lfrag->lsf_base; lfrag 204 opal/mca/btl/usnic/btl_usnic_compat.c opal_list_append(&lfrag->lsf_seg_chain, &seg->ss_base.us_list.super); lfrag 208 opal/mca/btl/usnic/btl_usnic_compat.c __func__, (void *)seg, (void *)lfrag, lfrag 233 opal/mca/btl/usnic/btl_usnic_compat.c opal_btl_usnic_large_send_frag_t *lfrag; lfrag 237 opal/mca/btl/usnic/btl_usnic_compat.c lfrag = opal_btl_usnic_large_send_frag_alloc(module); lfrag 238 opal/mca/btl/usnic/btl_usnic_compat.c if (OPAL_UNLIKELY(NULL == lfrag)) { lfrag 241 opal/mca/btl/usnic/btl_usnic_compat.c frag = &lfrag->lsf_base; lfrag 248 opal/mca/btl/usnic/btl_usnic_compat.c frag->sf_base.uf_local_seg[0].seg_addr.pval = &lfrag->lsf_ompi_header; lfrag 251 opal/mca/btl/usnic/btl_usnic_compat.c assert(reserve <= sizeof(lfrag->lsf_ompi_header)); lfrag 258 opal/mca/btl/usnic/btl_usnic_compat.c lfrag->lsf_pack_on_the_fly = true; lfrag 276 opal/mca/btl/usnic/btl_usnic_compat.c lfrag->lsf_base.sf_base.uf_local_seg[0].seg_addr.pval = lfrag 277 opal/mca/btl/usnic/btl_usnic_compat.c pack_chunk_seg_chain_with_reserve(module, lfrag, reserve, lfrag 289 opal/mca/btl/usnic/btl_usnic_compat.c lfrag->lsf_pack_on_the_fly = true; lfrag 227 opal/mca/btl/usnic/btl_usnic_frag.c large_send_frag_constructor(opal_btl_usnic_large_send_frag_t *lfrag) lfrag 229 opal/mca/btl/usnic/btl_usnic_frag.c lfrag->lsf_base.sf_base.uf_type = OPAL_BTL_USNIC_FRAG_LARGE_SEND; lfrag 232 opal/mca/btl/usnic/btl_usnic_frag.c lfrag->lsf_base.sf_base.uf_local_seg[0].seg_addr.pval = lfrag 233 opal/mca/btl/usnic/btl_usnic_frag.c &lfrag->lsf_ompi_header; lfrag 235 opal/mca/btl/usnic/btl_usnic_frag.c lfrag->lsf_buffer = NULL; lfrag 236 opal/mca/btl/usnic/btl_usnic_frag.c OBJ_CONSTRUCT(&lfrag->lsf_seg_chain, opal_list_t); lfrag 237 opal/mca/btl/usnic/btl_usnic_frag.c lfrag->lsf_pack_on_the_fly = false; lfrag 469 opal/mca/btl/usnic/btl_usnic_frag.h opal_btl_usnic_large_send_frag_t *lfrag; lfrag 470 opal/mca/btl/usnic/btl_usnic_frag.h lfrag = (opal_btl_usnic_large_send_frag_t *)frag; lfrag 471 opal/mca/btl/usnic/btl_usnic_frag.h if (lfrag->lsf_buffer != NULL) { lfrag 472 opal/mca/btl/usnic/btl_usnic_frag.h free(lfrag->lsf_buffer); lfrag 473 opal/mca/btl/usnic/btl_usnic_frag.h lfrag->lsf_buffer = NULL; lfrag 475 opal/mca/btl/usnic/btl_usnic_frag.h lfrag->lsf_pack_on_the_fly = false; lfrag 478 opal/mca/btl/usnic/btl_usnic_frag.h if (2 == lfrag->lsf_base.sf_base.uf_base.USNIC_SEND_LOCAL_COUNT && lfrag 479 opal/mca/btl/usnic/btl_usnic_frag.h NULL == lfrag->lsf_des_src[1].seg_addr.pval) { lfrag 480 opal/mca/btl/usnic/btl_usnic_frag.h opal_convertor_cleanup(&lfrag->lsf_base.sf_convertor); lfrag 705 opal/mca/btl/usnic/btl_usnic_module.c opal_btl_usnic_large_send_frag_t *lfrag; lfrag 712 opal/mca/btl/usnic/btl_usnic_module.c lfrag = opal_btl_usnic_large_send_frag_alloc(module); lfrag 713 opal/mca/btl/usnic/btl_usnic_module.c if (OPAL_UNLIKELY(NULL == lfrag)) { lfrag 716 opal/mca/btl/usnic/btl_usnic_module.c frag = &lfrag->lsf_base; lfrag 719 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_buffer = malloc(size); lfrag 720 opal/mca/btl/usnic/btl_usnic_module.c if (OPAL_UNLIKELY(NULL == lfrag->lsf_buffer)) { lfrag 721 opal/mca/btl/usnic/btl_usnic_module.c opal_btl_usnic_frag_return(module, &lfrag->lsf_base.sf_base); lfrag 727 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_buffer; lfrag 730 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_pack_on_the_fly = true; lfrag 787 opal/mca/btl/usnic/btl_usnic_module.c opal_btl_usnic_large_send_frag_t *lfrag) lfrag 795 opal/mca/btl/usnic/btl_usnic_module.c assert(NULL != lfrag); lfrag 797 opal/mca/btl/usnic/btl_usnic_module.c assert(lfrag->lsf_pack_bytes_left > 0); lfrag 815 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_pack_bytes_left > 0 && lfrag 816 opal/mca/btl/usnic/btl_usnic_module.c NULL != lfrag->lsf_cur_ptr) { lfrag 817 opal/mca/btl/usnic/btl_usnic_module.c if (seg_space > lfrag->lsf_bytes_left_in_sge) { lfrag 818 opal/mca/btl/usnic/btl_usnic_module.c copylen = lfrag->lsf_bytes_left_in_sge; lfrag 823 opal/mca/btl/usnic/btl_usnic_module.c memcpy(copyptr, lfrag->lsf_cur_ptr, copylen); lfrag 826 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_bytes_left_in_sge -= copylen; lfrag 827 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_pack_bytes_left -= copylen; lfrag 828 opal/mca/btl/usnic/btl_usnic_module.c if (lfrag->lsf_bytes_left_in_sge > 0) { lfrag 829 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_cur_ptr += copylen; lfrag 831 opal/mca/btl/usnic/btl_usnic_module.c ++lfrag->lsf_cur_sge; lfrag 832 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_cur_ptr = lfrag 833 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_des_src[lfrag->lsf_cur_sge].seg_addr.pval; lfrag 834 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_bytes_left_in_sge = lfrag 835 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_des_src[lfrag->lsf_cur_sge].seg_len; lfrag 839 opal/mca/btl/usnic/btl_usnic_module.c if (seg_space > 0 && lfrag->lsf_pack_bytes_left > 0) { lfrag 841 opal/mca/btl/usnic/btl_usnic_module.c assert(NULL == lfrag->lsf_cur_ptr); lfrag 842 opal/mca/btl/usnic/btl_usnic_module.c assert(1 == lfrag->lsf_cur_sge); lfrag 844 opal/mca/btl/usnic/btl_usnic_module.c copylen = lfrag->lsf_pack_bytes_left; lfrag 848 opal/mca/btl/usnic/btl_usnic_module.c usnic_convertor_pack_simple(&lfrag->lsf_base.sf_convertor, copyptr, lfrag 851 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_bytes_left_in_sge -= max_data; lfrag 852 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_pack_bytes_left -= max_data; lfrag 856 opal/mca/btl/usnic/btl_usnic_module.c __func__, (void *)seg, (void *)lfrag, lfrag 859 opal/mca/btl/usnic/btl_usnic_module.c assert(lfrag->lsf_cur_sge <= 2); lfrag 862 opal/mca/btl/usnic/btl_usnic_module.c seg->ss_parent_frag = &lfrag->lsf_base; lfrag 1020 opal/mca/btl/usnic/btl_usnic_module.c opal_btl_usnic_large_send_frag_t *lfrag; lfrag 1026 opal/mca/btl/usnic/btl_usnic_module.c lfrag = (opal_btl_usnic_large_send_frag_t *)frag; lfrag 1027 opal/mca/btl/usnic/btl_usnic_module.c if (lfrag->lsf_cur_offset == 0) { lfrag 1030 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_frag_id = endpoint->endpoint_next_frag_id++; lfrag 1031 opal/mca/btl/usnic/btl_usnic_module.c } while (lfrag->lsf_frag_id == 0); lfrag 1034 opal/mca/btl/usnic/btl_usnic_module.c if (lfrag->lsf_pack_on_the_fly) { lfrag 1035 opal/mca/btl/usnic/btl_usnic_module.c assert(opal_list_is_empty(&lfrag->lsf_seg_chain)); lfrag 1038 opal/mca/btl/usnic/btl_usnic_module.c sseg = pack_chunk_seg_from_frag(module, lfrag); lfrag 1042 opal/mca/btl/usnic/btl_usnic_module.c opal_list_remove_first(&lfrag->lsf_seg_chain); lfrag 1050 opal/mca/btl/usnic/btl_usnic_module.c assert(lfrag->lsf_bytes_left >= payload_len); lfrag 1054 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_bytes_left -= payload_len; lfrag 1058 opal/mca/btl/usnic/btl_usnic_module.c chp->ch_frag_id = lfrag->lsf_frag_id; lfrag 1059 opal/mca/btl/usnic/btl_usnic_module.c chp->ch_frag_size = lfrag->lsf_base.sf_size; lfrag 1060 opal/mca/btl/usnic/btl_usnic_module.c chp->ch_frag_offset = lfrag->lsf_cur_offset; lfrag 1061 opal/mca/btl/usnic/btl_usnic_module.c chp->ch_hdr.tag = lfrag->lsf_tag; lfrag 1071 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_cur_offset += payload_len; lfrag 1075 opal/mca/btl/usnic/btl_usnic_module.c __func__, payload_len, lfrag->lsf_bytes_left, lfrag 1076 opal/mca/btl/usnic/btl_usnic_module.c lfrag->lsf_pack_on_the_fly?"true":"false"); lfrag 1079 opal/mca/btl/usnic/btl_usnic_module.c if (lfrag->lsf_bytes_left == 0) { lfrag 164 opal/mca/btl/usnic/btl_usnic_send.c opal_btl_usnic_large_send_frag_t *lfrag; lfrag 168 opal/mca/btl/usnic/btl_usnic_send.c lfrag = (opal_btl_usnic_large_send_frag_t *)frag; lfrag 169 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_tag = tag; lfrag 170 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_cur_offset = 0; lfrag 171 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_cur_ptr = lfrag->lsf_des_src[0].seg_addr.pval; lfrag 172 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_cur_sge = 0; lfrag 173 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_bytes_left_in_sge = lfrag->lsf_des_src[0].seg_len; lfrag 174 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_bytes_left = frag->sf_size; lfrag 176 opal/mca/btl/usnic/btl_usnic_send.c if (lfrag->lsf_pack_on_the_fly) { lfrag 177 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_pack_bytes_left = frag->sf_size; lfrag 180 opal/mca/btl/usnic/btl_usnic_send.c lfrag->lsf_pack_bytes_left = 0; lfrag 282 opal/mca/btl/usnic/btl_usnic_send.h opal_btl_usnic_large_send_frag_t *lfrag; lfrag 283 opal/mca/btl/usnic/btl_usnic_send.h lfrag = (opal_btl_usnic_large_send_frag_t *)frag; lfrag 284 opal/mca/btl/usnic/btl_usnic_send.h opal_output(0, " large size=%zd\n", lfrag->lsf_base.sf_size);